当前位置:首页|资讯|AI大模型

中国AI大模型发展受制于GPU的短缺

作者:量子连线发布时间:2023-06-14

原标题:中国AI大模型发展受制于GPU的短缺

据量子连线获悉,在AI大模型训练方面,A100、H100以及它们的中国特供减配版A800、H800是目前市场上最佳的解决方案。这主要归功于这些芯片在性能和带宽数上的优势。A100和H100在预训练所需的计算效率和数据传输能力方面表现卓越,这使得它们能够迅速取得市场份额。

英伟达及华为的 GPU之所以在大模型训练中具有不可替代性,主要原因有:

1. 单卡高算力:A100和H100具有出色的单卡算力,可以为大型数据集训练提供所需的计算效率。

2. 高效数据传输能力:这两款芯片提供了高效的数据传输能力,以减少算力闲置。英伟达的NVLink和NVSwitch等通信协议技术有助于提升这方面的性能。

3. 软件生态:英伟达的 CUDA 计算平台在 AI 基础设施方面占据优势,大部分 AI 框架、库和工具都以 CUDA 为基础进行开发。这种生态系统使得开发者更倾向于使用英伟达和华为的GPU。

然而,GPU市场还存在一些挑战:

1. GPU资源不足:目前,像OpenAI和微软这样的大型科技公司由于GPU资源不足,无法为所有用户提供稳定快速的API服务。

2. 生产瓶颈:英伟达和华为的数据中心GPU均由台积电生产,但目前台积电正面临先进封装产能不足的问题,需要3-6个月时间逐步提高产能。

此外,中国公司如果想要在大模型市场取得成功,他们需要继续提高GPU资源。这意味着未来几年中国公司需要持续投资以增加 GPU 资源,并与国际竞争对手如亚马逊、谷歌、Facebook 等保持竞争力。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1