当前位置:首页|资讯

NVIDIA Blackwell AI芯片:市场需求“疯狂”,引领新“淘金热”

作者:锤刻创思发布时间:2024-10-05

NVIDIA的CEO黄仁勋最近透露,公司下一代的Blackwell AI产品系列已经开始全面生产,市场需求异常旺盛。


NVIDIA的Blackwell系列将取代Hopper,引领新的AI“淘金热”

NVIDIA的Blackwell AI架构曾因封装技术问题而推迟上市,最初预计要到2025年第一季度才能推出。但黄仁勋后来表示,Blackwell将按计划在2024年第四季度上市,尽管初期供应量有限。在一次CNBC的采访中,黄仁勋这样说道:

“我们每年都会推出新的AI基础设施系列,Blackwell就是其中之一。我们的目标是每年将性能提升2-3倍,这样我们客户的基础设施就能每年提高2-3倍的收益或吞吐量,或者换句话说,每2到3年降低成本。”

NVIDIA的CEO在采访中还提到了公司正在努力减少AI产品的能耗。尽管目前公司正处于快速创新的阶段,但在降低能耗方面遇到了一些挑战。黄仁勋表示,一切都在按计划进行,NVIDIA在产品路线图的执行上非常准确。不过,也存在一些不一致之处。

最近有报道称,NVIDIA计划停止开发GB200 NVL36*2 AI服务器机架,转而只提供NVL36和NVL72服务器。据称,NVIDIA面临制造上的复杂性,同时推出三种不同的AI服务器配置对公司来说较为困难。虽然这并不意味着Blackwell的未来岌岌可危,但这确实表明即便是NVIDIA这样的大公司,也会遇到制造和供应链的问题。

Nvidia的CEO黄仁勋刚刚表示,对Nvidia下一代芯片Blackwell的需求非常旺盛。


NVIDIA的Blackwell架构有望成为公司历史上最成功的产品之一。根据黄仁勋等人的初步印象,Blackwell有望在市场上引起巨大反响。

NVIDIA Blackwell架构标志着NVIDIA在加速计算和生成式AI领域的最新进展。这一新一代GPU架构的特征在于其庞大的晶体管数量,达到了2080亿个,并且采用了台积电4NP工艺定制制造。Blackwell GPU的独特之处在于它由两个光刻极限尺寸的裸片构成,这两个裸片通过速度高达10TB/s的片间互联技术连接,形成了一个统一的GPU。

Blackwell架构的亮点包括:

第二代Transformer引擎,它利用了Blackwell Tensor Core技术,并与NVIDIA TensorRT-LLM和NeMo框架相结合,为大型语言模型和专家混合模型提供了推理和训练的加速。这一引擎通过引入新的精度和微缩放格式,提高了模型的准确性和替换大精度的便捷性。

安全AI功能,它通过基于硬件的安全性保护敏感数据和AI模型,防止未授权访问。Blackwell是首个支持TEE-I/O功能的GPU,提供了高性能的机密计算解决方案。

NVLink和NVLink Switch技术,第五代NVLink互连技术能够连接多达576个GPU,为万亿参数AI模型提供了加速性能。NVLink Switch Chip技术则在一个72-GPU NVLink域中实现了130TB/s的GPU带宽,并通过SHARP技术提升了带宽效率。

解压缩引擎,它支持最新格式的解压缩,加速了数据库查询,提升了数据分析和数据科学的性能。

RAS引擎,它通过AI驱动的预测管理功能,监控硬件和软件中的数千个数据点,预测和拦截可能导致停机和效率低下的问题,从而最小化停机时间。


总的来说,Blackwell架构是NVIDIA在AI和高性能计算领域的一个重要里程碑,它预计将对多个行业产生深远的影响,包括数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成式AI。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1