当前位置:首页|资讯|AI大模型

端侧AI专题:AI大模型时代,智能终端进化论

作者:AIGC资源社发布时间:2024-01-04

原标题:端侧AI专题:AI大模型时代,智能终端进化论

大模型进入“多模态”、“轻量化”时代

AI 大模型落地成为终端出货成长新动能,接下来一年重在软硬件适配和产 品打磨,从“AI+产品”(出货量提升)到“产品 AI 化”(量价齐升),有望成为 2-3 年维 度的成长主线。

2023 年以来,以 ChatGPT 为首的 AIGC 快速普及和渗透,各主芯片、品 牌厂商已在各类智能终端上发布了 AI 相关应用。然目前各类 AI 终端应用仍未达到成熟阶 段,我们认为接下来一年,终端 AI 的发展重在软硬件适配和产品打磨,终端 AI 发展(形 态包括智能手机、PC、IoT 等)仍为长期重点关注方向,预计 2025 年起开启需求周期。

云端(大脑)是根本,端侧(小脑与四肢)加入轻量智能与感知能力

核心观点:混合 AI 是 AIGC 时代下主流趋势,端侧 AI 将承担更多工作负载,建议关 注重量级/轻量级 AI 产品升级、零部件配套变化以及对终端市场成长带动。

我们认为,以 云端作为 AI 大脑(以大算力、高带宽、大存储的芯片为主)处理主要的训练和部分推理任 务,边缘端和终端作为小脑与四肢(如手机 SoC 增加 NPU,主打低功耗、多传感器融合) 处理即时、频繁的用户端推理任务,并具备成本、隐私性双重优势,两者相结合的混合 AI 模式分配并协同处理 AI 工作负载,能够实现更强大、更高效且高度优化的 AI。对于端侧 AI,我们将产品按算力区分为重量级和轻量级:

1)重量级 AI 产品:算力相对较强,如手 机、PC、机器人、汽车、边缘服务器等;

2)轻量级 AI 产品:IoT 类产品,主要承担数据 入口的抓手功能,不一定强调算力升级,而更多关注传感器、连接类芯片升级。

综合来看,端侧 AI 时代下,我们建议关注四个方向:

1)重量级产品的升级(算力本 身及配套的变化:主控芯片算力、大容量存储、高速互联、Chiplet 封装需求提升);

2)轻 量级产品的升级(适应 AI 变化的端侧入口能力的增强:传感器升级,如麦克风、摄像头、 3D sensing、低功耗、传输互联等);

3)零部件配套变化(更大的算力芯片、存储会倒逼 其他元器件全方位配套升级,如功耗升级背景下的散热等零部件、充电模块的同步升级等);

4)终端品牌出货量的提升(我们认为 2024 年更多是量增逻辑,2025 年将开启量价齐升 的周期)。

AIGC 发展迅猛,混合 AI 成为 AIGC 规模化扩展的关键。

由于千亿参数大模型对计算 基础设施提出了极高的需求,因此无论是训练还是推理,大型复杂模型至今仍在云端部署。 然而 AI 推理的规模远高于 AI 训练,而目前云端推理的成本仍然较高,且将随着日活用户 数量及其使用频率的增加而提升。以生成式 AI 搜索为例,每一次生成式 AI 搜索成本是传 统搜索方法的 10 倍。此外,云端推理还有能耗过大、可靠性和时延影响用户体验、数据 隐私安全难以有效保证等问题,在此背景下,混合 AI 应运而生。混合 AI 是指终端和云端 协同工作,在适当的场景和时间下分配 AI 计算的工作负载,高效利用资源,提供给用户更 好的体验,让 AIGC 向 C 端更快速地规模化扩展。

本文仅供参考,不代表我们的任何投资建议。【幻影视界】整理分享的资料仅推荐阅读,如需使用请参阅报告原文。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1