当前位置:首页|资讯|生成式AI

让生成式AI训练更高效!Rambus推出9.6GBps HBM3内存控制器IP

作者:芯东西发布时间:2024-01-31

原标题:让生成式AI训练更高效!Rambus推出9.6GBps HBM3内存控制器IP

芯东西(公众号:aichip001)

作者 | ZeR0

编辑 | 漠影

芯东西12月7日报道,芯片和IP核供应商Rambus今日宣布Rambus HBM3内存控制器IP现可提供业界领先的9.6Gbps性能,支持HBM3标准的持续演进。

HBM采用创新的2.5D/3D架构,为AI加速器提供具有高内存带宽和低功耗的解决方案。凭借极低的延迟和紧凑的封装成为AI训练硬件的首选。Rambus HBM3内存控制器IP便是专为需要高内存吞吐量、低延迟和完全可编程性应用而设计。

相比HBM3 Gen1 6.4Gbps的数据速率,Rambus HBM3内存控制器的数据速率提高了50%,总内存吞吐量超过1.2TB/s,适用于推荐系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。

▲Rambus HBM3控制器模块图

该控制器是一种高度可配置的模块化解决方案,可根据每个客户对尺寸和性能的独特要求进行定制。对于选择第三方HBM3 PHY的客户,Rambus提供HBM3控制器的集成与验证服务。

在Rambus IP核部门总经理Neeraj Paliwal看来,大语言模型要求高性能内存技术不断进步,使得HBM3成为AI/ML训练的首选内存。

IDC内存半导体副总裁Soo-Kyoum Kim也谈道,HBM是更快速且更高效的处理大型AI训练和推理集的关键内存技术,比如用于生成式AI的训练和推理。

“对于像Rambus这样的HBM IP供应商来说,持续提高性能来支持满足市场苛刻要求的领先AI加速器的意义重大。”Soo-Kyoum Kim说。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1