高通程立新：为实现生成式AI规模化扩展，AI处理重心正在向边缘转移

原标题：高通程立新：为实现生成式AI规模化扩展，AI处理重心正在向边缘转移

钛媒体App 7月7日消息，2023世界人工智能大会（WAIC）上，高通技术公司高级副总裁程立新在论坛中表示，为实现生成式AI的规模化扩展，AI处理的重心正在向边缘转移。而混合AI架构在云端和边缘终端之间分配并协同处理AI工作负载，能够实现更强大、更高效且高度优化的AI。

目前，高通已将生成式AI能力带到终端侧，高通全球首个运行在Android手机上的Stable Diffusion终端侧演示，能够在15秒内执行20步推理，完全在手机上处理超过10亿参数模型。这是智能手机上最快的推理速度，媲美云端时延，且用户文本输入完全不受限制。目前，高通已经将这一用例扩展至骁龙计算平台赋能的PC产品。此外，高通还带来了全球最快的手机上的ControlNet终端侧演示，该模型拥有15亿参数，在这项演示中，只用不到12秒即可在移动终端上生成AI图像，无需访问任何云端，便能提供高效、有趣、可靠且私密的交互式用户体验。