20页|2024通过NPU和异构计算开启终端侧生成式AI报告

原标题：20页|2024通过NPU和异构计算开启终端侧生成式AI报告

生成式Al变革已经到来。随着生成式Al用例需求在有着多样化要求和计算需求的垂直领域不断增加，我们显然需要专为Al定制设计的全新计算架构。这首先需要一个面向生成式Al全新设计的神经网络处理器(NPU),同时要利用异构处理器组合，比如中央处理器(CPU)和图形处理器(GPU)。通过结合NPU使用合适的处理器，异构计算能够实现最佳应用性能、能效和电池续航，赋能全新增强的生成式Al体验。

NPU专为实现低功耗加速Al推理而全新打造，并随着新Al用例、模型和需求的发展不断演进。优秀的NPU设计能够提供正确的设计选择，与Al行业方向保持高度一致。

高通正在助力让智能计算无处不在。业界领先的高通Hexagon”NPU面向以低功耗实现持续稳定的高性能Al推理而设计。高通NPU的差异化优势在于系统级解决方案、定制设计和快速创新。通过定制设计NPU以及控制指令集架构(ISA),高通能够快速进行设计演进和扩展，以解决瓶颈问题并优化性能。Hexagon NPU是高通业界领先的异构计算架构——高通Al引擎中的关键处理器，高通Al引擎还包括高通Adreno”GPU、高通Kryo”或高通Oryon”CPU、高通传感器中枢和内存子系统。这些处理器为实现协同工作而设计，能够在终端侧快速且高效地运行Al应用。我们在Al基准测试和实际生成式Al应用方面的行业领先性能就是例证。

来源：Qualcomm

关于我们

我们是一家专注于分享国内外各类行业研究报告/专题热点行业报告/白皮书/蓝皮书/年度报告等各类优质研究报告分享平台。所有报告来源于国内外数百家机构，包含传统行业、金融娱乐、互联网+、新兴行业、医疗大健康等专题研究.....目前已累积收集近80000+份行业报告，涉及众多大板块，多个细分领域。

内容涵盖但不限于（市面上有的基本都有）：

1、互联网运营、新媒体、短视频、抖音快手小红书等等；

2、房地产、金融、券商、保险、私募等；

3、新技术（5G）、金融科技、区块链、人工智能类；

4、电子商务、市场营销、运营管理、麦肯锡、德勤等；

5、快消品、餐饮、教育、医疗、化妆品、旅游酒店、出行类等；

免责声明：

本平台只做内容的收集及分享，报告版权归原撰写发布机构所有，由圣香智库社群通过公开合法渠道获得，如涉及侵权，请联系我们删除；如对报告内容存疑，请与撰写、发布机构联系。