当前位置:首页|资讯|AIGC|生成式AI

逐浪AIGC丨生成式AI涌向终端 高通欲做“铺路人”

作者:21世纪经济报道发布时间:2023-10-26

原标题:逐浪AIGC丨生成式AI涌向终端 高通欲做“铺路人”

21世纪经济报道记者白杨 美国夏威夷报道

北京时间10月25日,一年一度的高通骁龙峰会如期而至。以往,最新的旗舰手机芯片会是该峰会的主角,但今年,骁龙峰会呈现出令人瞩目的新变化。

议程设置上,在介绍手机芯片——第三代骁龙8之前,高通把更多时间留给了“生成式AI”和“最新的PC芯片——骁龙X Elite” ,不仅如此,高通公司总裁兼CEO安蒙更是表示骁龙X Elite和第三代骁龙8均是专为生成式AI而打造,这让本届骁龙峰会俨然成为了一场“高通AI峰会”。

实际上,高通对AI的关注由来已久。2017年,高通便推出了AI引擎,据高通官方数据,过去6年,骁龙计算平台的AI性能已经提高了100倍;而在5G时代刚开始时,高通也一直谈论5G时代将由5G和AI共同构成。

不过在今年之前,高通虽然重视AI,但始终没有将它放到如今的高度。这种转变,源自ChatGPT的出现,过去一年,生成式AI的快速发展,让高通像其他科技公司一样,也看到了新时代大门的开启。

“我们已经进入了生成式AI的新时代,它带来的变革,将会是前所未有的变化。它会改变我们使用终端的想法和创新,改变我们创新的方式,改变我们搜索以及与终端互动的方式”。安蒙在骁龙峰会上说道。

其进一步表示,人们现在有能力让AI在终端无所不在,并且一刻不停运行,这将带来独一无二的体验。比如给某人发信息,有了提供的情景,手机就可以据此选择相应的应用程序,并做出不同的决定;再或者是打电话的时候,电话内容可以被总结出来,帮助人们了解接下来要做什么。

为了实现这一切,加速引擎的设计必须能够在终端上高效运行这些模型,而高效的AI模型和未来的终端侧AI则需要不同的计算方法。对高通而言,打造这样的异构计算平台是其强项,在AI时代,这也成为了高通的巨大机会。

PC芯片王者易主

10月中旬,高通宣布为下一代PC计算平台制定了全新命名体系——骁龙X。这也吹响了高通进军PC市场的新号角。

此前,高通在PC芯片已有布局,包括骁龙7C、骁龙8C、骁龙8CX等,都是高通专为PC打造的芯片。但是从市场反馈来看,这些芯片并没有帮助高通在PC行业站稳脚跟。而这次选择推出新命名体系,是因为高通在PC芯片方面取得了实质性的突破。

2021年初,高通以14亿美元的价格收购了成立刚刚两年的创业公司Nuvia。Nuvia拥有ARM官方的技术许可协议(TLA)和架构许可协议(ALA),团队实力也十分强劲。比如Nuvia创始人Gerard Williams III曾担任苹果首席CPU架构师,也曾在ARM工作十余年。当时,作为交易的一部分,Gerard Williams III以及其他Nuvia员工也都加入了高通。

此次骁龙峰会上发布的骁龙X Elite,所采用的Oryon CPU就是来自Nuvia团队。“这是一款高通从零开始设计的产品,它从设计之初就秉承着一个目标:在极低的功耗下实现强劲性能,我们一直在为此努力。”安蒙在骁龙峰会上表示,“今天,我可以很高兴地告诉大家,这是一个历史性时刻。我们成功了,并且远超预期。”

据其介绍,高通每年都在研发旗舰芯片,在研发的过程中,需要做很多模拟工作。“当一件产品完成时,我们希望这个产品和模拟的效果是一样的。但骁龙X Elite是与众不同的,它超出了我们在模拟测试中的所有预期,这对于芯片产品来说是非常难得的。”

根据峰会现场披露的测试数据,Oryon CPU的单线程性能已经超越了基于ARM的苹果M2 Max,而在实现相同水平性能时,Oryon CPU可以减少30%的能耗。若对比X86 CPU,Oryon CPU的单线程性能也超过了专门为高性能游戏终端而设计的i9-13980HX。实现相同的性能,Oryon CPU的能耗则降低高达70%。

一夜之间,PC芯片的王者实现了更替。安蒙说,“这款CPU已经成为了绝对的市场领导者。这不仅是骁龙、高通的高光时刻,更是整个Windows 生态系统的高光时刻。”目前,大多数基于ARM的笔记本电脑仍来自苹果,而Oryon CPU的出现,或会改变这一市场格局。

当然,PC芯片的构成不只是CPU。在介绍骁龙X Elite集成的高通Adreno GPU时,高通将重点放在了性能和能效的平衡上。

据高通技术公司高级副总裁兼手机、计算和XR业务总经理阿力克斯·卡图赞介绍,与最热门的x86集成GPU——i7-13800H相比,在面向PC的热门3D图形基准测试中,骁龙X Elite的性能可达其两倍多。而在达到竞品峰值性能的同等水平时,骁龙X Elite所需的功耗要低74%。

除了CPU和GPU,终端侧AI也在成为衡量PC性能的重要维度。骁龙X Elite异构的高通AI引擎,通过NPU、CPU和GPU能够整体实现75TOPS的算力。

阿力克斯·卡图赞表示,TOPS也不是量化终端侧AI性能的唯一方式,还要考虑AI模型的准确性和响应时间,以及用每秒生成token(tokens/s)来衡量的大语言模型处理速度。

根据现场演示,在终端侧运行70亿参数的Llama 2模型时,骁龙X Elite的处理速度可以达到30 tokens/s。如果对比人类阅读,普通人每分钟可阅读200-300个单词,相当于每秒处理5-7个tokens,这说明骁龙X Elite支持的终端侧AI的书写速度已经比人类阅读要快得多,这将使用户在与AI进行交互时,几乎能够即时得到答案。

同时,骁龙X Elite还支持处理更大、更复杂的模型。比如完全在终端侧运行超过130亿参数的生成式模型,而无需云端资源。在几个月前,这件事还只能在数据中心里实现,而现在,基于骁龙X Elite,厂商可以将相同水平的功能集成进用户的PC。

从各项性能指标来看,骁龙X Elite将在PC行业掀起一场变革。目前,骁龙X Elite已经获得了很多PC厂商的支持,在峰会上,联想、微软、惠普等企业高管均表示将在2024年推出搭载骁龙X Elite的PC产品。

高通为AI铺路

相比在PC芯片领域带来颠覆性突破,高通的最新手机芯片——第三代骁龙8则显得有些“沉闷”。实际上,这也是由市场地位所决定。在PC芯片领域,高通扮演的是挑战者,要和原有的巨头争抢蛋糕,所以向来温和的安蒙在演讲中也展现了“狼性”的一面,他指着大屏幕上高通Oryon CPU和竞品的对比图说,“随便拍照,欢迎传出去”。

而在手机芯片领域,高通已经成为行业的佼佼者,他每年最大的挑战,就是如何实现对自己上一代产品的迭代。但“打败自己”往往最难,这一点不仅是高通,苹果也深有感触。

但AI的加持,让第三代骁龙8有更多故事可讲,高通官方也将该芯片称为“首个专为生成式AI而精心打造的移动平台”。

阿力克斯·卡图赞称,借助终端侧AI模型,智能手机也将变得更加个性化。它将成为真正的数字助手,通过将对话式终端侧助手和能够理解文本、图像和语音输入的多模态生成式模型相结合,智能手机能够提供更有意义的回答,并帮助用户完成任务。

所以,第三代骁龙8除了常规的一些升级,比如CPU性能提高30%、GPU性能提升25%等之外,更值得关注的是其在AI性能方面的更新。

据阿力克斯·卡图赞介绍,第三代骁龙8重新设计的Hexagon NPU性能实现了翻倍,并且通过增强架构,Hexagon NPU的能效也提升了40%。正因如此,第三代骁龙8也成为高通首个能够支持大语言模型、大视觉模型以及生成式AI应用的手机芯片。

具体而言,第三代骁龙8能够支持在终端侧运行100亿参数的模型,而面向70亿参数大语言模型,第三代骁龙8每秒可处理的token数量为20个。

一个能更直观展现高通AI能力进步的例子是,今年一季度,高通曾对外演示在手机上运行拥有10亿参数的Stable Diffusion模型,当时从给出文字到生成一张图片需要等待15秒。而现在,基于第三代骁龙8,这个速度将被缩短至0.6秒。

通过在终端侧运行这些大模型,用户无需再完全依赖云端。这将使智能手机中的AI辅助响应更快,同时也更加隐私和安全。在骁龙峰会期间,小米集团总裁卢伟冰和荣耀CEO赵明也都作为嘉宾进行了主题分享,据卢伟冰介绍,小米14将全球首发第三代骁龙8,同时,小米自研的60亿参数大模型已经在第三代骁龙8平台上流畅运行。而赵明也透露称,即将发布的荣耀Magic 6将支持70亿参数的大模型。

需要指出的是,高通目前也正经历业绩增长的挑战。根据其2023财年第三财季(2023年Q2)财报,在非美国通用会计准则下,高通的营收为84.42亿美元,同比下降23%,净利润为21.05亿美元,同比下降37%。

其中,占高通营收超70%的智能手机业务,收入同比下滑了25%,核心原因是智能手机市场的持续收缩。据高通CFO当时预计,2023年全球手机市场的销量将继续下滑“高个位数”,为此,高通也在今年采取了包括裁员在内的降本举措。

不过在接受21世纪经济报道记者采访时,卢伟冰对于明年的市场情况抱有乐观态度。他预计2024年全球市场将有5%的增长,其中中国市场的出货量,能达到2.8亿,而今年中国市场的出货量约在2.68亿台。

对于高通而言,在面对不确定的市场环境时,快速变革的AI技术或成为其极为明确的布局方向。安蒙表示,这次骁龙峰会将是最具影响力的一次峰会,因为它关乎高通的改变——从原来的一家通讯企业,变为现在的AI驱动的计算处理企业。

如今,人们正站在AI改变一切的门槛上。无论是终端设备、PC市场还是智能手机,AI已经不再是辅助角色,而是核心驱动力。这不仅改变了人们使用技术的方式,还将重新定义人们的日常生活和商业格局。

在这个过程中,高通需要持续迭代手机芯片,同时也要寻求新增长。据安蒙透露,2024年,高通将把Oryon CPU用于手机芯片,同时,Oryon CPU未来也将进入汽车、XR等终端。所以,智能手机依然重要,但高通不想再过度依赖这块业务,除了现在的物联网和汽车业务外,接下来,PC则将是高通重点押注的市场。

所以,高通正在调整姿态,并成为更多领域的市场挑战者,而为终端侧AI铺路,或成为高通当下最有竞争力的抓手。如安蒙所说,“我们正在进入改变用户体验的生成式AI时代,也将创造一个移动行业和计算行业的全新周期”。

更多内容请下载21财经APP


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1