CJ现场直击|高通侯明娟：终端侧AI是生成式AI应用实现规模化扩展的关键
出品 | 搜狐科技
编辑 | 张莹
7月27日，2023中国国际数字娱乐产业大会（CDEC）高峰论坛在上海举行。高通公司全球副总裁侯明娟发表主题为“移动科技创新，引领数字娱乐经济发展”的演讲。
据介绍，去年底，高通发布了全新旗舰移动平台——第二代骁龙8。第二代骁龙8目前已经赋能了在国内面市的30多款旗舰机型。
侯明娟提到，如今生成式AI已经成为全新技术前沿。语音生成文本、视频生成等全新AI用例，都正在带来新一轮体验革新，并为数字娱乐发展提供了新的可能性。
“如何让生成式AI应用实现规模化扩展呢？高通认为，终端侧AI是关键。”
侯明娟举例称，在XR方面，生成式AI能为元宇宙内容建设带来巨大前景。生成式AI有潜力普及3D内容创作，比如赋能内容创作者使用提示，生成3D物体和场景，并最终创造出完整的虚拟世界。
侯明娟表示，在终端侧运行AI，能够在全球范围带来成本、能耗、个性化、隐私和安全等优势。
“我们认为，通过将终端侧AI和云端AI有效结合的混合AI架构，即在云端和边缘终端之间分配并协同处理AI工作负载，能够实现更强大、更高效且高度优化的AI。高通正在引领混合AI愿景的实现，通过无线连接、高效计算和分布式AI，释放生成式AI的无限潜力。”
此外，侯明娟表示，在实现更高准确度和更好KPI的同时，生成式AI模型正变得越来越小。“目前，我们已经能够支持规模超过10亿参数的模型在终端侧运行；未来几个月内，超过100亿参数的模型将有望在终端侧运行。”