当前位置:首页|资讯|AI大模型

广发证券:HBM高带宽优势成为AI大模型训练推理关键 GDDR具备性价比优势

作者:金融界发布时间:2024-04-24

原标题:广发证券:HBM高带宽优势成为AI大模型训练推理关键 GDDR具备性价比优势

广发证券发布研报指出,GDDR是专为图形处理应用设计的高速内存技术,搭配GPU用于图形处理、数据中心加速和AI等需要高带宽数据处理的场景。HBM是一种新型内存,得益于堆叠结构和垂直TSV互连,HBM具有更高的传输带宽、更高的存储密度、更低的功耗以及更小的尺寸,高带宽优势对大模型训练和推理的效率提升至关重要。近年来,大部分高端数据中心GPU和ASIC均使用HBM作为内存方案,GDDR在推理等场景中具备性价比优势。未来,HBM技术持续向更高带宽、更大容量发展,12Hi-16Hi HBM4有望2026年进入量产。

来源:金融界AI电报


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1