终端侧生成式 AI 更多惊喜?高通将在 WAIC 带来新的“首个”演示

2024-07-03 www.dnxtw.com

2024 年 7 月 4 日,万众瞩目的世界人工智能大会(WAIC)将在上海市揭幕。自 2018 年首次举办至今,WAIC 已走过六个年分,现如今,WAIC 已经成为全球ai领域极具权威和知名度的行业盛会。

在本次 WAIC 即将举办之时,终端侧 AI 引领者、管理者高通公布了将要登展 WAIC 消息,并立即引起了业内的普遍希望。

据统计,7 月 4 日-6 日期内,高通将带来一系列的主题演讲和直播带货采访,将全面共享 AI 技术性基础科研、领跑产品用途与未来行业赋能企业愿景上的最新进展。比如,交流会当日,高通企业中国地区老总孟樸将参加活动,并做出的主题是《促进终端侧 AI 发展趋势让智能计算无所不在》精彩的演讲,并且还有《相拥 AI 终端自主创新》等一系列直播间访谈类节目。

技术性展示环节更加是亮点频现,包含第一个在 Android 智能手机上运作大语言表达和视觉助手大模型(LLaVA)、骁龙 X Elite 终端里的剪辑软件 AI 视频剪辑作用、第三代骁龙 8 创变 Android 智能机产生自主创新终端侧生成式 AI 感受等。

这一系列技术性展现,无疑是高通企业在推进终端侧 AI 技术性界限扩展与行业生态合作方面的集中展现,更是对智能生活科技发展趋势的一次栩栩如生推测,非常值得一看了。

时下,生成式 AI 成为了领域备受瞩目的话题讨论,特别是随着生成式 AI 技术性在全球范围内数以亿计的终端里的广泛应用,以终端侧为主旋律的生成式 AI 的浪潮早已来临,而推动这一转型的核心力量,恰好是高通。

高通做为 AI 行业转型的赋能者,早已从基层处理芯片、到硬件软件生态文明建设,以及应用的实施,都做足了准备,不断引领行业发展自主创新。

例如在标准的制定上,上年,高通发布《混合 AI 是 AI 的未来》行业报告,明确提出云空间与智能机、车辆、本人电脑及物联网技术终端的协调工作,将促进更加强大、更高效且相对高度改善的 AI 发展趋势,这也是完成 AI 普惠的必然选择。在今年的,高通就推出了《根据 NPU 和异构计算打开终端侧生成式 AI》行业报告,深层次解析了 Hexagon NPU 为中心的异构计算技术性,并探讨了如何运用这类技术,在生成式 AI 需求激增的大环境下,为终端侧产生丰富多彩的生成式 AI 应用领域。

又比如在底层处理芯片层面,早就在 2015 年,高通就在那骁龙 820 软件上搭载了第一个 AI 模块;在如今的第三代骁龙 8 上,高通将性能卓越 AI 引入整个平台系统,选用面对生成式 AI 运用重新设计的 Hexagon NPU,够在终端侧运作达到 100 亿参数实体模型,不论是第一个 token 的形成速度还是每秒钟形成 token 的速率,都处于业界领先水准。比如在生成式 AI 语言逻辑实体模型 MobileBERT 上,第三代骁龙 8 表现比竞争对手 A 高 17%,在电脑鲁大师 AIMark V4.3、安兔兔评测这种 AI 统计检验的总成绩层面,第三代骁龙 8 都是远高于竞争对手。

更为关键的是,高通也将大语言模型完备的搬到端侧运作,创变众多 AI 手机上。例如包含三星、小米手机、荣誉、OPPO 、vivo 等在内的手机厂商,其公布的骁龙 8 Gen3 手机上,均已经具备在端侧运作生成式 AI 的能力。

依靠第三代骁龙 8 的 AI 能力,此次展会,高通都将展现第一个在 Android 智能手机上运作大语言表达和视觉助手大模型(LLaVA)。

除开手机端,在 AI PC 行业,高通也带来了骁龙 X Elite 和骁龙 X Plus PC 服务平台,凝聚着高通在通用性处理 AI 异构计算多年积累的科技成果,其集成化 NPU 更加是具备 45TOPS 的可怕算率,这也是 PC 平台上最厉害的 NPU。

时下,微软公司 Surface 系列新品,及其想到、Dell、hp惠普、宏基电脑、asus等企业,都公布即将发布配备骁龙 X 系列产品平台上的 Windows 11 AI PC 新产品。在此次展会现场,高通就把展现骁龙 X Elite 终端里的剪辑软件 AI 视频剪辑作用,可以期待,不论是消费者还是企业客户,依靠骁龙 X Elite 终端,都可以全天运用 AI 强化的终端侧专用工具来提高生产主力、想象力和合作能力。

值得一提的是,高通还积极践行 AI PC 生态系统基本建设,让开发人员能够获取根据异构计算的 AI 加快,高通打造出了 AI 软件栈(Qualcomm AI Stack)。它可以支持目前所有的流行 AI 架构,包含 TensorFlow、PyTorch、ONNX、Keras;它还支持全部热门的 AI runtime,包含 DirectML、TFLite、ONNX Runtime、ExecuTorch,以及支持不同类型的编译程序、数学课库等 AI 专用工具。

就在那 6 月份,高通也针对其 45 TOPS 的 Hexagon NPU 开发设计、提升并验证了 AI 实体模型。申请注册开发人员可以前往高通的 AI Hub 获得这种预训练模型,快速构建人工智能技术。据了解,高通 AI Hub 提供了各种对于骁龙 X Elite 芯片的边缘设备改善的 AI 实体模型,包含分类任务、对象检测、语义分割和生成式 AI 等行业。除此之外,AI Hub 还提供了便捷的工具文本文档,协助开发人员快速地在视觉、声频和语音等场景中布署 AI 实体模型。

所作的这一切,如同高通企业 AI 研发技术中国地区责任人万卫星所说:

高通具有顶级的异构计算能力,使 AI 能力可以贯穿 SoC,将 CPU、GPU、NPU 和高通感应器神经中枢的能力都全面释放给运用开发人员。

可以这么说,骁龙 X Elite / X Plus PC 平台上的发布,好似为 AI PC 的改变性爱经历奠定了过硬的路基,而借助骁龙 X Elite 服务平台强劲 AI 能力和高通在生态文明建设里的对外开放对策,下面会越来越多 AI 生成式运用的不断涌现。

结语

在刚刚结束的 MWC 深圳展会上,高通 AI 研发技术中国地区责任人万卫星发布了“终端侧生成式 AI 未来的发展”的主题演讲,他提到,凭着面对生成式 AI 全新设计的 NPU 和异构计算系统,高通正在为终端侧 AI 产业化拓展提供了有力支持。除此之外,高通还致力于构建完备的 AI 绿色生态系统,持续推动 AI 科技的发展创新。

运用领跑边缘 AI、性能卓越低能耗运算前所未有的联接,高通正持续推动终端侧 AI 的产业化拓展,让智能计算无所不在。伴随着 WAIC(世界人工智能大会)的来临,可以期待,终端侧 AI 管理者的高通也将带来新的新的惊喜。

7 月 4 日-6 日,WAIC,大家当场见!

广告宣传申明:文章正文所含的对外开放跳转页面(包括不限于网页链接、二维码、动态口令等方式),用以传递更多信息,节约优选时长,结论仅作参考,电脑系统网全部文章内容均包括本声明。

相关阅读