2023-2024国人工智能计算力发展评估报告
一、2023年是人工智能发展的重要转折年，企业正加速从业务数字化迈向业务智能化。
大模型的突破和生成式人工智能的兴起为企业实现产品/流程的革新提供先进生产工具，引领企业和产业迈入智能创新的新阶段。对于企业人而言，其将不再局限于思考“如何在产品/流程中增加智能化能力”，而需要更多关注“如何使用人工智能实现产品/流程的革新”。
二、大模型和生成式人工智能的发展将引发计算范式之变、产业动量之变，以及算力服务格局之变。
未来几年，构建和调优生成式人工智能基础模型以满足应用需求，将为整个基础设施市场带来改变和发展机遇。
1、从计算范式角度而言，人工智能算力基础设施将持续向高性能、高互联等方向演进以更高的计算能力和链接速度加速实现大规模参数和数据集的训练和调优；不断提升算力泛在性，推进人工智能在云-边-端的覆盖，满足无处不在的智能化需求；通过优化计算架构、算法和软件栈，支持多元异构算力的协同，构建软硬件生态，加速计算技术的发展和创新。
2、从产业动量角度而言，基础模型技术的突破为人工智能产业的发展增加活力，催生新的玩家和投资机会，基础模型的持续迭代、调优、场景适配和部署、落地等对基础设施层、模型层、平台层和应用层提出新的需求，带来新的服务模式，降低人工智能技术的应用门槛，通过微调等方法实现与下游任务的适配，加速人工智能基础设施软件的开发、部署和应用，为用户和行业提供更多创新应用。
3、从算力服务角度而言，传统算力资源虚拟化共享复用的机制难以满足大模型时代企业对于集群式的高性能算力需求，生成式人工智能将加速企业更多地使用人工智能就绪的数据中心设施和人工智能服务器群，供应商需要具备提供定制化的、优化的基础设施服务能力，满足单个用户对训练和推理资源的独占式、大规模、长时间使用的诉求，并缩短部署时间、提高对数据和输出的控制，满足应用场景的需求，帮助企业实现成本优化。
三、从感知智能到生成式智能，人工智能算力需求快速增长。
大模型和生成式人工智能的发展显著拉动了人工智能服务器市场的增长。IDC预计，全球人工智能硬件市场（服务器）规模将从2022年的195亿美元增长到2026年的347亿美元，五年年复合增长率达17.3%；在中国，预计2023年中国人工智能服务器市场规模将达到91亿美元，同比增长82.5%，2027年将达到134亿美元，五年年复合增长率达21.8%。从算力规模而言，预计到2027年通用算力规模将达到117.3 EFLOPS，智能算力规模达1117.4 EFLOPS；2022-2027年期间，预计中国智能算力规模年复合增长率达33.9%，同期通用算力规模年复合增长率为16.6%。
四、中国市场对智能算力供给能力的衡量标准将加速演变，未来应用为导向、系统设计为核心将是算力升级的主要路径。
中国市场对于算力供给能力的评估指标将从硬件性能向应用效果转变，企业在获得算力服务的过程中，会增加对于诸如单位时间可处理Token数量、可靠性、时延、训练时间和资金成本、数据集质量等指标的关注。技术提供商需要以应用为导向，系统为核心，构建算力基础设施，提高算力利用率，提升诸如卡间互联、多节点间互联等水平，通过灵活可扩展的集群满足市场的需求。
五、中国应持续提升基础大模型研发能力，通过逐步完善的人工智能工程化工具，加速应用落地。
目前，受政策支持、算力水平提升、数据资源庞大以及科研实力增强等利好因素的推动，中国在基础大模型方面取得一定成绩，但仍需加大在基础性技术方面的原创性突破，夯实底层模型和算法能力。在实践中，企业需要根据具体的任务和模型设计来决定参数量的大小，技术提供商需要从硬件、软件、算法、数据服务等多个维度入手，结合行业特点进行框架、模型、数据的垂直整合，提升大模型的准确性和可用性。
六、基于液冷服务器构建绿色数据中心，推进人工智能算力可持续发展。人工智能算力的不断提升加速对能耗问题的关注。
从数据中心机柜功耗上来说，传统数据中心每机架功耗一般在3-10kW之间，而每台GPU服务器的功率可高达50kW，对于数据中心操作员和规划人员来说，需要依据计算需求对资源进行合理规划和分配，积极探索采用液冷等先进冷却方法，满足实现可持续发展提出的要求。IDC预计，2022-2027年，中国液冷服务器市场年复合增长率将达到54.7%，2027年市场规模将达到89亿美元。
七、目前，中国的人工智能技术正加速迈入全面应用时代。人工智能领域持续追求对技术的创新及增进，注重类人化和诸如机器学习、深度学习等技术的推进，以更好地处理现实生产、生活场景中的复杂问题。大模型和生成式人工智能的落地，也给各行业带来新的赋能。
IDC认为，知识管理、对话式应用、销售和营销、代码生成等是企业应用生成式人工智能的主要领域；在特定业务部门或职能部门（营销、销售、采购等），生产力场景和垂直行业场景也有广泛的应用价值。未来，伴随特定领域行业大模型、多模态大模型、小样本学习、语音识别、计算机视觉等技术的突破，生成式人工智能的功能将实现持续进步，为企业带来新的能力。
八、人工智能加速实现在行业和城市的渗透。2023年，人工智能行业应用渗透度排名前五的行业依次为互联网、电信、政府、金融和制造。
互联网行业依旧是人工智能技术应用和研发的主力军；在电信行业，云上人工智能能力的加速发展，进一步优化服务，支持电信网络的优化和智能化建设。在城市人工智能算力排行中，北京、杭州、深圳依然稳居城市排名前三位；其中，北京在大模型领域表现突出，聚集了大批大模型企业，推出诸多具有代表性的大模型及应用产品。此外，中国其他地区依然保持着对人工智能产业的热忱，正持续加大在相关领域的投资，不断推进人工智能产业的发展。
来源：IDC&浪潮信息
报告内容节选如下：
资料下载：公众号《侠说》