生成式AI无疑是2023年科技圈的绝对新风口,它在一定程度上改变了人们以往的工作方式和生产效率。到了2023年第四季度,在联发科等上游芯片厂商和终端厂商的努力下,支持本地AI大模型、多模态能力、情境感知交互等功能的生成式AI手机开始涌现,让生成式AI正逐步走向普罗大众。
据市场监测机构Counterpoint数据显示,在2023全年出货的11.7亿手机中,只有不足1%(约420万部)的手机满足Counterpoint对生成式AI手机的定义标准。
展望生成式AI手机的未来,Counterpoint抱有乐观态度:预期到了2027年,生成式AI手机的渗透率将会达到市场出货量的43%,其存量规模将会从420万部飞速跃升至12.3亿部。
(图源:Counterpoint《生成式AI手机产业白皮书》)
当然在此乐观数字背后,需要整个行业上下游不同环节参与者的共同努力。对此,5月7日,在主题为“AI予万物”的联发科天玑开发者大会2024(MDDC 2024)上,除了天玑9300+ 旗舰5G生成式AI移动芯片外,联发科还携手生态伙伴与开发者带来了“天玑AI先锋计划”、《生成式AI手机产业白皮书》、“天玑AI开发套件”等重磅计划、重磅观点和重磅技术,引领整个端侧生成式AI产业的前进。
从天玑9300到9300+:联发科为生成式AI手机提供强劲的算力保证
在天玑开发者大会上发布的天玑9300+ 延续了全大核CPU架构,为旗舰手机用户和游戏玩家提供强劲的性能支持。与此同时,他们也搭载了新一代的APU 790,内置了硬件级生成式AI引擎,率先在端侧支持AI推测解码加速技术、天玑AI LoRA Fusion 2.0技术、以及支持70亿甚至130亿规模的生成式AI大模型,能为用户提供更高效和个性化的生成式AI体验。
天玑9300自去年发布后就成为了vivo X100系列、OPPO Find X7等旗舰机型的首选,落地实现AI消除、AI通话摘要、AI助手等提升用户生活效率的功能,让越来越多用户能够体验到生成式AI带来的便利。
联发科技无线通信事业部副总经理李彦辑在会后的采访中进一步表示,联发科早在2018年就推出第一款搭载具有AI能力处理器的手机芯片,当时AI主要应用在手机计算影像方面。大家看到ChatGPT、生成式AI是突然火起来,但其实背后的技术是早有积累,如今天玑9300+上的APU 790也是经过其APU产品不懈的技术研发,才能在紧凑的手机机身空间和苛刻的功耗要求下,运行不同的生成式AI应用,加速生成式AI在消费级市场的落地。
并且,随着手机芯片平台综合性能、AI算力和工艺制程的提升,手机上的大模型参数规模会不断增长;另一方面,SLM小模型的能力也在飞速提升,对于端侧来说也是有利的趋势,为强大的音频、视频的处理能力以及对多语言交互提供芯片的底层支持。现时生成式AI手机上的文生图、图生图、超级AI助手功能也会持续升级优化,一些原本面向AI PC办公和创作辅助功能未来也可能会逐步迁移到端侧手机上。
天玑AI开发套件:一站式的生成式AI解决方案
搭载第七代APU的天玑9300/9300+和天玑8300为生成式AI的应用提供了强劲的硬件性能支持。不过,除了硬件算力问题,对于开发者来说还存在着大模型种类繁多、开发周期长、难度大等问题。对此,联发科带来了天玑AI开发套件,为广大开发者提供终端生成式AI应用开发的一站式解决方案,并覆盖智能手机、智能汽车、物联网、个人PC等智能终端设备。
天玑AI开发套件包括了快速高效的GenAI最佳实践,能通过先进的模型量化、模型编译和模型推理技术,加速大模型在终端的部署过程,将原本可能需要数周的时间缩短至仅需一天;覆盖全球主流大模型的GenAI Model Hub,为开发者提供了丰富的大模型资源,大幅降低模型部署的难度和复杂性;高效提升性能的GenAI优化技术,已导入了多项业界最新、最快的软件优化技术,可显著提升AI应用的生成速度,并大幅减少对存储空间的占用需求。Neuron Studio一站式视觉化开发环境能为开发者提供一站式可视化的开发工具,打破了传统的代码开发环境限制。
天玑AI开发套件上的四大模块,满足了开发者“快、全、强、易”的核心需求,有效降低生成式AI应用的开发难度和周期。
联发科技是率先在端侧为开发者提供如天玑AI开发套件这样完整工具链的厂商,还覆盖了车机以及其他的消费性终端设备。目前,阿里云通义千问 、Cocos、王者荣耀、虎牙直播、酷狗音乐、美图、全民K歌、RWKV、Soul、腾讯AI Lab、小红书等数十家合作伙伴已经参与其中。我们在天玑开发者大会现场体验到了他们带来的超级AI助手、内容创作、游戏电竞、直播、音乐、社交等不同类型和场景的生成式AI应用。
生成式AI手机生态里,联发科无论是在工具链还是相关应用落地方面都扮演着领先角色,推动着整个行业的发展。李彦辑在采访中表示,未来随着联发科芯片能力的不断增强,新的生成式AI技术不断演进,以及开发者的使用反馈,联发科会不断去演进以及精进整个工具链的完善。