通过NPU和异构计算开启终端侧生成式AI

原标题：通过NPU和异构计算开启终端侧生成式AI

《通过NPU和异构计算开启终端侧生成式AI》

（内容出品方：Qualcomm）

报告共计：20页

摘要

生成式 AI 变革已经到来。随着生成式 AI用例需求在有着多样化要求和计算需求的垂直领域不断增加，我们显然需要专为 A1 定制设计的全新计算架构。这首先需要一个面向生成式 AI 全新设计的神经网络处理器(NPU)，同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合 NPU 使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式 AI体验。