今年以来,生成式AI如雨后春笋般涌现,文生词、文生图等应用大大提升了不少朋友的工作效率。然而随着生成式AI的逐步普及,对终端硬件有了新的要求。
我的一位朋友为了有顶级的生成式AI体验和工作效率,把家里原来那张「普普通通」的亮机卡RTX 3080换成了现已「绝版」的RTX 4090,我除了佩服其豪横外,还惊叹于目前生成式AI对算力的高要求,传统PC平台上要堆砌出旗舰配置才能有较好的体验。
骁龙X Elite让生成式AI不再遥远
如果说桌面PC还能靠升级显卡等硬件来使用生成式AI,那么笔记本上则需要从硬件平台本身进行更新换代。与传统X86架构PC不同,近年来迅速崛起的ARM架构笔记本除了性能、能效和移动连接等方面上有着明显优势外,对于生成式AI,ARM架构平台也早有部署,如近期在骁龙峰会上发布的骁龙X Elite计算平台就是专为高性能、高能效和生成式AI所打造的。
骁龙X Elite上的Oryon CPU单线程性能超过了专门为高性能游戏终端而设计的i9-13980HX。实现相同的性能,Oryon CPU的能耗要少70%,高性能与高能效兼得。放眼未来,骁龙X Elite真正的优势还是在生成式AI上。
目前主流X86架构SoC里主要以CPU+GPU的形式来应付AI任务的运算需求,性能和能效之间取得平衡。而在骁龙X Elite上高通加入了一个独立的Hexagon NPU以应对AI与神经网络运算需求,此NPU支持INT4精度,独立算力高达45 TOPS,能以30 tokens/s的速度,在终端侧运行70亿参数的Llama 2模型,提供快速且准确的响应。
如果进一步整合CPU+GPU+NPU,骁龙X Elite则有着75 TOPS的AI算力,能在终端侧运行超过130亿参数的生成式AI模型。从高通现场展示的数据来看,骁龙 X Elite在UL Procyon AI测试成绩达到了1750分,从而更从容地应用多种不同的生成式AI工作。
相较而言,目前的13800H、7940HS等旗舰处理器最高的232分,想要在其基础上有更上一层楼的AI体验,就只能配备高性能的独立显卡,这必然导致笔记本整机功耗上升,体积重量难以做到轻薄,鱼与熊掌不可兼得,让众多朋友想使用生成式AI的朋友犹豫再三。
骁龙X Elite就是为了推动生成式AI在笔记本产品上应用普及而诞生的,它能给用户带来AI算力提升以及应用场景扩展两个维度的改变。
早在今年初,高通就率先在骁龙平台上运行拥有10亿参数的Stable Diffusion模型,当时我们需要等待15秒的时间从给出文字生成一张图片,而在骁龙 X Elite上等待时间不到0.6秒,AI算力、算法的提升改进能带来生成式AI效率的加快,时间即金钱。同时,更高的算力还能让骁龙X Elite终端笔记本应对更复杂、更高要求的AI任务,从而实现更高的生产力价值。
除了基础的文生图应用外,我们在骁龙峰会现场体验到骁龙 X Elite其他的生成式AI应用场景。如使用一台骁龙平台手机拍摄一组用户的照片和视频片段,通过高通Snapdragon Seamless技术,实时分享同步到搭载骁龙X Elite平台的笔记本上,透过定制版的黑魔法设计(Blackmagic Design)达芬奇软件,就能轻松将照片或者视频里的人物抠出来,添加到新的背景里,生成新的图像。整个抠图效果十分出色,能让用户快速轻松输出新的照片或者视频。
以往要完成此类操作以及如此的流畅度,用户就必须使用配备高性能独立显卡的PC,与移动办公基本无缘。而有了骁龙X Elite,就能在笔记本上轻易实现。这只是生成式AI在笔记本产品应用的一个缩影,高通正联合微软、Blackmagic Design、Adobe挖掘更丰富的应用场景和解决方案。
总结:
目前生成式A处于起步阶段,未来应对更复杂的应用场景和更高的生产力需求是其发展的必然方向,想要实现这些目标,AI算力的增长不可缺少。在笔记本产品紧凑的机身和有限的电池容量下,榨取第一瓦电能来提升生产力价值,骁龙X Elite就是为此而生。
高通目前已经与联想、惠普、荣耀等OEM厂商,以及微软、Blackmagic Design、Adobe等合作伙伴共同努力推动围绕骁龙X Elite的生态建设,尽力将骁龙X Elite上的AI性能转化为生产力价值。在明年中搭载骁龙X Elite的笔记本终端将陆续上市,这将是大家不可错过的选择。