当前位置:首页|资讯|生成式AI

通过NPU和异构计算开启终端侧生成式AI

作者:杨婷生活说发布时间:2024-03-30

原标题:通过NPU和异构计算开启终端侧生成式AI

《通过NPU和异构计算开启终端侧生成式AI》

(内容出品方:Qualcomm)

报告共计:20页

摘要

生成式 AI 变革已经到来。随着生成式 AI用例需求在有着多样化要求和计算需求的垂直领域不断增加,我们显然需要专为 A1 定制设计的全新计算架构。这首先需要一个面向生成式 AI 全新设计的神经网络处理器(NPU),同时要利用异构处理器组合,比如中央处理器(CPU)和图形处理器(GPU)。通过结合 NPU 使用合适的处理器,异构计算能够实现最佳应用性能、能效和电池续航,赋能全新增强的生成式 AI体验。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1