今天分享的是大模型专题系列深度研究报告:《大模型专题::打造AI大模型“最后一公里”》
(报告出品方:东北证券)
报告共计:27页
海量/完整电子版/报告下载方式:公众号《人工智能学派》
AI计算需求爆发+政策指引+数据安全考虑,推出一体机大势所趋。AI计算需求呈爆发式增长,预计 2022-2027年我国智能算力CAGR 有望达33.9%;政策明确 AI为新质生产力重要引擎,国央企加大算力基础设施建设、加大 AI 应用需求:同时,三星引进 ChatGPT 后已遭遇了三次数据泄露事件,内部员工将公司机密通过提问形式输入ChatGPT,引发数据安全担忧。
开腾一体机将计算资源、AI平台软件和各类模型算法集成在一个设备中,维护数据安全性,满足央国企与政府大模型本地化部署的刚需。计算资源上,一体机基于训练芯片开腾910B,通过与英伟达A100芯片的比较,910B在FP32 高精度训练推理中,具有很大的优势。此外,华为提供昇腾 AI综合解决方案,为大模型开发和运行提供分布式并行加速、算子和编译优化、集群级通信优化等关键能力,支撑客户开箱即用,直接使用大型预训练模型,从而降低了技术门槛。
国内各厂商陆续发布合作款开腾一体机,应用范国由科研逐步扩展到AI全场景乃至垂类模型落地。2023年3月,华为开腾与旗下华振字打造了专为高校和科研院所设计的 AI训练开发一体机,奠定了将AI算力、AI平台软件、AI开发框架、开发组件和存储高效融合的算力底座基础架构:2023年6月,软通动力发布训推一体化平台,支持用户一站式AI开发、深度适配不同 AI应用场景:2023年8月起云从科技、科大讯飞、智谱 AI等国内领先 AI 大模型厂商合作款丹腾一体机面世,开腾一体机应用范围扩展到 AI 全场景:10月中国软件国际将整体硬件加上ModelLab 模型产品软件一起,打造“开腾云云端 GPU+混合云算力一体机”,除内置相关软件外,该一体机还将内置开源大模型和标准的数据集,并且可通过接口调用外部商业大模型。
领先的硬件性能+优秀的工程化能力,界腾一体机正成为千行百业大模型产业化的重要抓手。并腾一体机凭借其领先的软硬件基础设施性能,以及优秀工程化能力,正逐渐成为千行百业大模型产业化的重要抓手。目前开腾一体机应用范围从科研逐步扩展到 AI 全场景,甚至垂类模型落地,目前已在能源、金融、公共、交通、电信、制造、教育等行业实现应用,提供智能中枢、并腾智巡、并腾智行、开腾制造等解决方案。
1.1. AI 计算需求呈爆发式增长,预计 2022-2027 年我国智能算力 CAGR有望达 33.9%
AI 计算的需求爆发式增长。据预测 2025 年全球企业对 AI的采用率将达 86%,企业数据利用率将剧增至 80%左右。据《开腾计算产业发展白皮书》统计,AI模型的规模和需要学习的数据开始爆炸性的增长,从 2012年开始的6年中,AI计算的需求增加了 30 万倍。
报告共计:27页
海量/完整电子版/报告下载方式:公众号《人工智能学派》