惊人跑分曝光，比H100更强！NVIDIA最强AI芯片GH200是什么？

生成式AI运算需求不断增长，助推GPU大厂辉达（NVIDIA）股价大涨再创新高。8月中NVIDIA执行长黄仁勋展览时再次力推DGXGH200，是采GraceHopper加速运算卡打造的新世代生成式AI超级芯片，也是NVIDIA首款Exaflop等级的DGX超级计算机产品。

性能辗压H100达17%

根据9月11日跑分数据，NVIDIA宣布旗下GH200、H100、L4 GPU与Jetson Orin同类产品都获得领先表现。

GH200首次提交单一芯片，与单张H100配合英特尔CPU比较后，GH200组合各测试都至少有15%左右提升。NVIDIA人工智能总监Dave Salvator新闻发表会表示：Grace Hopper首次表现非常强劲，与提交H100GPU相比，性能提高17%，而我们已全面领先。

GH200是什么？

官方说明，NVIDIA GH200是首个将H100 GPU和Grace CPU整合在一起的超级芯片，这两者之间再通过带宽高达900GB/s的NVLink-C2C连互连接，扩充性更佳，以超快速度训练深度学习。

NVIDIA表示GH200有三大特点：

l适用大型模型的庞大内存：为开发人员提供超过500倍内存打造大型模型。

l超节能运算：带宽提升7倍，互连功耗降低逾5倍。

l已整合且立即执行：数周内即可打造大型模型。

多数选手性能比上一代提升至20%

5月COMPUTEX期间，NVIDIA CEO黄仁勋提到GH200芯片预定2024年第二季量产。MLPerfv3.1基准检验超过13,500个结果，不少提交者性能比3.0基准提高20%以上。

MLPerf是让客户评估AI芯片效能的常用工具。

其他提交者有华硕、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特尔、英特尔HabanaLabs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等。