老黄携「超级GPU」炸场！E级AI超算性能飞升，买越多越划算，

作者：一起学chatGPT一起学ai发布时间：2023-05-30

新智元报道

编辑：编辑部

【新智元导读】英伟达又放大招了，这次直接用超级GPU GH200燃爆了市场。

今日的COMPUTEX大会上，英伟达CEO黄仁勋向全世界宣布——我们已经到达了生成式AI的引爆点。从此，全世界的每个角落，都会有计算需求。股价刚刚暴涨2000亿美元的英伟达，为这一刻早已做好准备。一开场，身着黑皮衣的老黄慷慨激昂地走上舞台，「大家好！We’re back！」随后，便祭出大杀器——「超级GPU」 GH200，并宣布谷歌云、Meta和微软将率先获得GH200。

据称，有超过3500人亲临现场，体验了这个长达2个小时的激情演讲。时隔4年，阔别已久的老黄也是狂飙中文。

「超级芯片」GH200

要说，这次演讲中，重头戏还是在GPU上。毕竟AI的iPhone已经来临。老黄左右手分别端了一个芯片，重磅宣布，「GH200超级芯片」已经全面投产。

这一「超级GPU」使用NVLink-c2c互连技术，将基于ARM节能的GraceCPU和高性能NVIDIA H100 Tensor Core GPU结合在一起，提供了高达900GB/s的总带宽。目前，由GH200加持的系统加入了400多种系统配置。这些系统配置由英伟达最新的CPU、 GPU和DPU架构的不同组合提供动力。其中包括Grace、Hopper、Ada Lovelace和BlueField，这些架构的创建是为了满足对生成式AI不断增长的需求。

此外，老黄还宣布了一个更重磅的：256个GH200组成的超算来了。
超算DGX GH200，今年上市
英伟达表示，全新DGX GH200人工智能超级计算平台，是专为大规模生成式AI的负载而设计。这台由256块Grace Hopper超级芯片组成的超算，将拥有高达1 exaflop的超凡AI性能，以及144TB的共享内存（比上一代DGX A100多了近500倍）。举个例子，在GPT-3训练中，它能比上一代DGX H100集群快2.2倍。此外，这个庞然大物还包含了150英里的光纤和2,000多个风扇。目前，英伟达已经与三大巨头进行了合作，谷歌、 Meta和微软。

由于生成式人工智能的爆炸式增长，微软、谷歌等巨头希望拥有更强大、性能更好的系统。而DGX H200的设计目的是，通过使用英伟达定制的NVLink Switch芯片，绕开InfiniBand和以太网等标准集群连接的局限性，为最大工作负载的大规模可扩展性提供最大的吞吐量。

另外，英伟达表示正在建造自己的大型AI超级计算机NVIDIA Helios，预计在今年上线。它将使用4个与NVIDIA Quantum-2 InfiniBand网络连接的DGX GH200系统，以提高数据吞吐量，以训练大型AI模型。以往的数据中心都非常庞大，而且是基于CPU的，算法的迭代要花很长时间，大部分算法，也都是CPU中心的。而现在，有了Grace Hopper，只需要几天甚至几个小时，就能完成这个过程。简直要把整个行业都革命掉了！

（等等，PaLM的参数不是540B么？）
老黄：买越多，越省钱！

作为现在的扛把子，这样一个重65磅，价值200000美元的H100计算机，是世界上第一个搭载了Transformer Engine，也是目前全世界最昂贵的计算机。

老黄表示，可以说，像这样的产品，你买得越多，就省得越多。

接下来，老黄提到1964年的IBM 360，强调了CPU的重要性。老黄自信地重复表示，「而60年后，我们现在有数据中心。今天，数据中心就是一个计算机。」

正如老黄所说，一种新的计算模式正在被创造。

为什么使用GPU胜过使用CPU？老黄从配置上给出了分析：花费1000万美金成本，你可以建置一个有960颗CPU的数据中心，但这个数据中心要11GWh的功率，处理1X LMM（大语言模型）的数据量。

但一样的钱，你可以建置一个配备有48个GPU的数据中心，但只要3.2GWh的功耗，而且可以处理44X LLM的数据量。

要知道，如此配置已经足够惊人。然而，这还不够。为了获得极致性能，你可以在功耗不变的情况下，把GPU数量直接拉到172个。此时的算力，可以高达CPU数据中心的150倍。当然，预算也提高到了3400万美元。

此外，如果你就只是单纯地想完成手头的工作（1X LLM），老黄也帮你把成本打下来了——只需花40万美金，就能买一个搭载了2个GPU的数据中心，功耗仅0.13GWh。

台下响起一片掌声，老黄又拿出了口头禅「The more you buy，The more you save」，甚至重复了三遍。这背后的策略，究竟是什么？老黄给了一个公式。

MGX：模块化架构
与此同时，老黄还推出了NVIDIA MGXTM，一个供系统制造商快速、低成本地构建100多个服务器变体的参考架构。据称，这个规范可以将开发成本削减多达四分之三，并将开发时间缩短三分之二，仅需要6个月。有了MGX，科技公司可以为他们的服务器优化加速计算的基本系统架构，然后选择自己的GPU，DPU和CPU。MGX还可以很容易地集成到云和企业数据中心。

除了硬件之外，MGX还得到了英伟达完整软件栈的支持，这使得开发者和企业能够构建和加速 AI、 HPC 和其他应用程序。这包括NVIDIA AI Enterprise，NVIDIA AI平台的软件层，其特点是有100多个框架、预训练的模型和开发工具，以加速人工智能和数据科学，为企业人工智能开发和部署提供充分支持。
将AI引入游戏，实时语音聊天的NPC角色来了
这次演讲的亮点，还有全新的定制AI模型代工服务 ——Avatar Cloud Engine (ACE) for Game。现场，老黄右手手持一块RTX 4060 Ti，左手手持一台电脑，展示了运行实时光线追踪的Cyberpunk 2077。在一个充满「赛博朋克」风格的拉面店场景中，玩家按下一个按钮，可以用自己的声音说话，然后店主Jin会进行回答。Jin是一个NPC角色，但他的回答是由生成式AI根据玩家的语音输入实时生成的。Jin还有着逼真的面部动画和声音，与玩家的语气和背景故事相符。

这个逼真人物角色的生成，使用了一个实时人工智能模型渲染工具Nvidia Ace。老黄表示，这个游戏中的角色并没有预先设定。他们有一个典型的任务提供者NPC类型。

但是从视频中，可以看到，虚拟角色的谈话有点生硬，但还不算太糟。
那些没有AI专业知识的人，将被抛弃
40年来，我们创造了PC、互联网、移动、云，现在是人工智能时代。你会创造什么？不管是什么，都要像我们一样追赶它。要奔跑，不要走。要么是你为食物而奔跑，要么就是你任自己逃避，成为食物。

5月27日，黄仁勋在台湾大学发表了毕业典礼演讲。此刻，他正为全世界所瞩目。瞬间变身万亿掌门人，让他的话更有底气。黄仁勋表示，每个公司和个人都应该熟悉人工智能，否则，就有失败的危险。

他强调：敏捷的公司会利用人工智能提高自己的地位，这样的公司不会倒闭。很多人担心，AI会抢走自己的工作，但真正会抢走你饭碗的，掌握了AI技术的人。当时，他在演讲中预言：从各方面来看，AI的兴盛是计算机产业的再生契机。在下个十年，我们的产业将使用新型的AI电脑，取代价值万亿美元的传统电脑。而从今天的演讲中，我们仿佛已经窥见了这种未来的雏形。

近期资讯

昂科烧录器支持Hynitron海栎创的高性能自电容触控芯片CST812T
芯片烧录行业领导者-昂科技术近日发布最新的烧录软件更新及新增支持的芯片型号列表，其中Hynitron海栎创的高性能自电容触控芯片CST812T已经被昂科的通用烧录平台AP8000所支持。CST812T自电容触控芯片，采用高速MCU内核并内嵌DSP电路，结合自身的快速自电容感应技术，可广泛支持三角形在内的多种自电容图案，在其上实现单点手势和真实两点操作，实现极高灵敏度和低待机功耗。CST812T自电容触控芯片，通过其内置的快速自电容感应模块，可无需任何外接器件(电路旁路电容除外)，即可在三角形等图
昂科烧录器 2024-11-12

水中重金属测定仪使用注意事项
随着科技的发展，水质检测变得越来越重要。水中重金属测定仪作为一种用于检测水中重金属含量的仪器，已经广泛应用于各种领域。然而，在使用过程中，为了确保测量结果的准确性和安全性，我们需要遵循一些注意事项。本文将详细介绍水中重金属测定仪使用过程中需要注意的几个方面。一、选择合适的样品采集方法在使用水中重金属测定仪之前，首先要选择合适的样品采集方法。不同的样品采集方法可能会影响到测量结果的准确性。例如，如果采用直接采样的方式，可能会导致水中重金属浓度偏高；而采用滤膜法或滴定法等间接采样方式，可以有效减少样品中其
迈德施检测 2024-11-12

重组小鼠IgG2a-LALAPG同型对照抗体，体内实验级
Syd Labs 货号 PA007138 重组小鼠IgG2a-L234A L235A P329G (LALAPG)同型对照抗体，体内实验级（In Vivo Grade Recombinant Mouse IgG2a-L234A L235A P329G (LALAPG) Isotype Control Antibody）。用哺乳动物细胞生产的体内实验级重组小鼠IgG2a-L234A L235A P329G (LALAPG)同型对照抗体（In Vivo Grade Recombinant Mouse Ig
多找找Ushelf 2024-11-12

新媒体运营面试：你账号做得不错，为什么不专职做自由职业？
▲点击上方“苏卡洛”关注我这是我的第146篇原创笔记最近有圈友在面试新媒体运营时，遇到这样的问题：你个人账号做的不错，为什么没想着专职做一个自媒体人呢？更自由，后期收入也更可观？圈友自己整理了答案，但总觉得不对劲，于是来求助，他整理的答案是： “我想的是虽然自媒体行业的自由度很大，但同时不确定性和风险也比较高；而且也很难和其他人交流经验，所以想入职公司有更多的机会发展，通过团队协作、业务学习和职业发展让自己有更稳定长久的收入增长” 大家先不要看下面的，先暂停1-2分钟来想想，如果是你会怎么回答？
苏卡洛karro 2024-11-12

魔方插座：便捷用电新潮流
菲尼克斯数码 2024-11-12

拿下HCIE证书！跟着这个备考经验走~
在网络技术这个领域，华为的 HCIE 认证那可是相当有含金量的招牌。特别是 HCIE 数通方向，这可不单单是考验考生对数据通信技术的了解程度，更是对实际操作水平的全方位检验。要是你正打算开启 HCIE 数通的备考之路，那下面这份备考经验你可千万不能错过。01、理解HCIE数通的核心价值与要求HCIE 数通认证的核心价值在于对考生技术能力的全面要求。它不光得让考生把数据通信的基础理论弄得明明白白，还得能熟练操作华为的设备，再有就是得具备在复杂网络环境里排除故障和优化性能的真本事。HCIE 数通的认证流程一般
竞予科技 2024-11-12

精华手写版！高中数学学霸笔记，高一至高三均适用！
高中数学较初中难度增加了很多，题目更抽象，理解起来更难。拿函数来说，高中三年我们陆续学到了指数函数、对数函数、幂函数、三角函数、抽象函数等。这些函数不仅难度加大，而且内容也多，必须在理解的基础上，通过多做题来学会运用。为了帮助同学们尽快夯实基础，给大家分享一份【133页高中数学精华笔记】，不论你是高一、高二还是高三，都会对提高成绩非常有效果！由于文章篇幅有限，以下是部分内容截图，如果需要完整电子版，请看文末！官+平66即可！
西西学长爱学习 2024-11-12

公卫考研丨吉林大学公共卫生数据一览
Hey小伙伴们，今天给大家带来的是关于吉林大学公共卫生学院的超详细招生攻略！如果你正准备报考吉大公卫专业，这篇内容绝对值得收藏哦！招生人数考试科目参考书目考试题型分数线趋势录取人数＆录取平均分各分数段录取/淘汰占比这部分数据可以帮助你更清晰地了解自己在众多考生中的位置，从而制定更加有效的复习计划#公卫考研##353卫生综合##公共卫生考研##医学考研##26考研##公共卫生##吉林大学考研#
公卫考研题库 2024-11-12

等等党下山的最好时机，2024年末大促显卡推荐
时间一晃而过，一眨眼就到了2024年末大促。工作学习了一整年，肯定有不少小伙伴准备升级自己的配置或者直接对整机换新。但是作为电脑核心之一的显卡来看，等等党们真的迎来属于他们的春天。就当前来说，年末这两个月将会是接下来半年内最值得购入RTX40系显卡的时机。为什么这个时间是最划算的？50系都要发布了为什么还要购入40系显卡？显卡应该怎样挑选？不急，看完这篇文章你就会明确。游戏与AI计算推动整个硬件圈更新换代今年最火的游戏无异于《黑神话：悟空》，凭借过硬的游戏质量与出色的游戏画面可谓火遍了国内甚至是国外。
极评测 2024-11-12

台积电、三星暂停对华供应 7nm 及以下制程：挑战与机遇并存
近期，有关台积电和三星暂停对我国供应7nm及以下制程的消息引发了广泛关注。这一决定背后不仅仅是公司战略层面的调整，更是全球半导体产业、地缘政治与技术竞争深刻交织的结果。这里我们和大家一起探讨其对我国半导体行业、全球供应链以及未来技术竞争的深远影响。 [图片] 一、背景解读：半导体产业的复杂博弈半导体产业长期以来是全球科技竞争的核心，尤其是在先进制程技术方面，7nm及以下制程代表了当前最先进的芯片生产技术。这些制程技术广泛应用于高性能计算（HPC）、人工智能（AI）、5G通信和高端消费电子等领域，直接影响
赋创科技 2024-11-12

老黄携「超级GPU」炸场！E级AI超算性能飞升，买越多越划算，

新智元报道

【新智元导读】英伟达又放大招了，这次直接用超级GPU GH200燃爆了市场。

推荐体验

相关资讯

老黄携「超级GPU」炸场！E级AI超算性能飞升，买越多越划算，谷歌微软Meta抢先试用

老黄深夜炸场，AIGC进入iPhone时刻，Hugging Face接入最强超算，神秘显卡胜过A100

亚马逊年终王炸！两大自研AI芯片性能飙升，推AI助手硬刚微软，联手老黄造最强超算

老黄深夜炸场，AIGC进入iPhone时刻，神秘显卡胜过A100

英伟达史诗级暴涨后再放大招，推E级AI超算，黄仁勋狂捧生成式AI

近期资讯

昂科烧录器支持Hynitron海栎创的高性能自电容触控芯片CST812T

水中重金属测定仪使用注意事项

重组小鼠IgG2a-LALAPG同型对照抗体，体内实验级

新媒体运营面试：你账号做得不错，为什么不专职做自由职业？

魔方插座：便捷用电新潮流

拿下HCIE证书！跟着这个备考经验走~

精华手写版！高中数学学霸笔记，高一至高三均适用！

公卫考研丨吉林大学公共卫生数据一览

等等党下山的最好时机，2024年末大促显卡推荐

台积电、三星暂停对华供应 7nm 及以下制程：挑战与机遇并存

推荐体验

AIGC重要产品

AI对话：类ChatGPT产品体验

好用的AI绘画工具

火热的AIGC产品

AIGC近期要闻

大公司发布的大模型产品都有哪些？

政府对AIGC的扶持政策

AIGC对就业的影响：我们会失业吗？

AIGC产业影响

AIGC对内容创作的影响

AIGC对绘画设计领域的影响

AIGC对各行各业的影响