老黄携「超级GPU」炸场！E级AI超算性能飞升，买越多越划算，

作者：一起学chatGPT一起学ai发布时间：2023-05-30

新智元报道

编辑：编辑部

【新智元导读】英伟达又放大招了，这次直接用超级GPU GH200燃爆了市场。

今日的COMPUTEX大会上，英伟达CEO黄仁勋向全世界宣布——我们已经到达了生成式AI的引爆点。从此，全世界的每个角落，都会有计算需求。股价刚刚暴涨2000亿美元的英伟达，为这一刻早已做好准备。一开场，身着黑皮衣的老黄慷慨激昂地走上舞台，「大家好！We’re back！」随后，便祭出大杀器——「超级GPU」 GH200，并宣布谷歌云、Meta和微软将率先获得GH200。

据称，有超过3500人亲临现场，体验了这个长达2个小时的激情演讲。时隔4年，阔别已久的老黄也是狂飙中文。

「超级芯片」GH200

要说，这次演讲中，重头戏还是在GPU上。毕竟AI的iPhone已经来临。老黄左右手分别端了一个芯片，重磅宣布，「GH200超级芯片」已经全面投产。

这一「超级GPU」使用NVLink-c2c互连技术，将基于ARM节能的GraceCPU和高性能NVIDIA H100 Tensor Core GPU结合在一起，提供了高达900GB/s的总带宽。目前，由GH200加持的系统加入了400多种系统配置。这些系统配置由英伟达最新的CPU、 GPU和DPU架构的不同组合提供动力。其中包括Grace、Hopper、Ada Lovelace和BlueField，这些架构的创建是为了满足对生成式AI不断增长的需求。

此外，老黄还宣布了一个更重磅的：256个GH200组成的超算来了。
超算DGX GH200，今年上市
英伟达表示，全新DGX GH200人工智能超级计算平台，是专为大规模生成式AI的负载而设计。这台由256块Grace Hopper超级芯片组成的超算，将拥有高达1 exaflop的超凡AI性能，以及144TB的共享内存（比上一代DGX A100多了近500倍）。举个例子，在GPT-3训练中，它能比上一代DGX H100集群快2.2倍。此外，这个庞然大物还包含了150英里的光纤和2,000多个风扇。目前，英伟达已经与三大巨头进行了合作，谷歌、 Meta和微软。

由于生成式人工智能的爆炸式增长，微软、谷歌等巨头希望拥有更强大、性能更好的系统。而DGX H200的设计目的是，通过使用英伟达定制的NVLink Switch芯片，绕开InfiniBand和以太网等标准集群连接的局限性，为最大工作负载的大规模可扩展性提供最大的吞吐量。

另外，英伟达表示正在建造自己的大型AI超级计算机NVIDIA Helios，预计在今年上线。它将使用4个与NVIDIA Quantum-2 InfiniBand网络连接的DGX GH200系统，以提高数据吞吐量，以训练大型AI模型。以往的数据中心都非常庞大，而且是基于CPU的，算法的迭代要花很长时间，大部分算法，也都是CPU中心的。而现在，有了Grace Hopper，只需要几天甚至几个小时，就能完成这个过程。简直要把整个行业都革命掉了！

（等等，PaLM的参数不是540B么？）
老黄：买越多，越省钱！

作为现在的扛把子，这样一个重65磅，价值200000美元的H100计算机，是世界上第一个搭载了Transformer Engine，也是目前全世界最昂贵的计算机。

老黄表示，可以说，像这样的产品，你买得越多，就省得越多。

接下来，老黄提到1964年的IBM 360，强调了CPU的重要性。老黄自信地重复表示，「而60年后，我们现在有数据中心。今天，数据中心就是一个计算机。」

正如老黄所说，一种新的计算模式正在被创造。

为什么使用GPU胜过使用CPU？老黄从配置上给出了分析：花费1000万美金成本，你可以建置一个有960颗CPU的数据中心，但这个数据中心要11GWh的功率，处理1X LMM（大语言模型）的数据量。

但一样的钱，你可以建置一个配备有48个GPU的数据中心，但只要3.2GWh的功耗，而且可以处理44X LLM的数据量。

要知道，如此配置已经足够惊人。然而，这还不够。为了获得极致性能，你可以在功耗不变的情况下，把GPU数量直接拉到172个。此时的算力，可以高达CPU数据中心的150倍。当然，预算也提高到了3400万美元。

此外，如果你就只是单纯地想完成手头的工作（1X LLM），老黄也帮你把成本打下来了——只需花40万美金，就能买一个搭载了2个GPU的数据中心，功耗仅0.13GWh。

台下响起一片掌声，老黄又拿出了口头禅「The more you buy，The more you save」，甚至重复了三遍。这背后的策略，究竟是什么？老黄给了一个公式。

MGX：模块化架构
与此同时，老黄还推出了NVIDIA MGXTM，一个供系统制造商快速、低成本地构建100多个服务器变体的参考架构。据称，这个规范可以将开发成本削减多达四分之三，并将开发时间缩短三分之二，仅需要6个月。有了MGX，科技公司可以为他们的服务器优化加速计算的基本系统架构，然后选择自己的GPU，DPU和CPU。MGX还可以很容易地集成到云和企业数据中心。

除了硬件之外，MGX还得到了英伟达完整软件栈的支持，这使得开发者和企业能够构建和加速 AI、 HPC 和其他应用程序。这包括NVIDIA AI Enterprise，NVIDIA AI平台的软件层，其特点是有100多个框架、预训练的模型和开发工具，以加速人工智能和数据科学，为企业人工智能开发和部署提供充分支持。
将AI引入游戏，实时语音聊天的NPC角色来了
这次演讲的亮点，还有全新的定制AI模型代工服务 ——Avatar Cloud Engine (ACE) for Game。现场，老黄右手手持一块RTX 4060 Ti，左手手持一台电脑，展示了运行实时光线追踪的Cyberpunk 2077。在一个充满「赛博朋克」风格的拉面店场景中，玩家按下一个按钮，可以用自己的声音说话，然后店主Jin会进行回答。Jin是一个NPC角色，但他的回答是由生成式AI根据玩家的语音输入实时生成的。Jin还有着逼真的面部动画和声音，与玩家的语气和背景故事相符。

这个逼真人物角色的生成，使用了一个实时人工智能模型渲染工具Nvidia Ace。老黄表示，这个游戏中的角色并没有预先设定。他们有一个典型的任务提供者NPC类型。

但是从视频中，可以看到，虚拟角色的谈话有点生硬，但还不算太糟。
那些没有AI专业知识的人，将被抛弃
40年来，我们创造了PC、互联网、移动、云，现在是人工智能时代。你会创造什么？不管是什么，都要像我们一样追赶它。要奔跑，不要走。要么是你为食物而奔跑，要么就是你任自己逃避，成为食物。

5月27日，黄仁勋在台湾大学发表了毕业典礼演讲。此刻，他正为全世界所瞩目。瞬间变身万亿掌门人，让他的话更有底气。黄仁勋表示，每个公司和个人都应该熟悉人工智能，否则，就有失败的危险。

他强调：敏捷的公司会利用人工智能提高自己的地位，这样的公司不会倒闭。很多人担心，AI会抢走自己的工作，但真正会抢走你饭碗的，掌握了AI技术的人。当时，他在演讲中预言：从各方面来看，AI的兴盛是计算机产业的再生契机。在下个十年，我们的产业将使用新型的AI电脑，取代价值万亿美元的传统电脑。而从今天的演讲中，我们仿佛已经窥见了这种未来的雏形。

近期资讯

河南济源车位引导解决方案、停车诱导系统、空闲泊位导航
在河南济源这座充满活力与发展潜力的城市，随着机动车保有量的持续攀升，停车难问题日益成为城市交通管理中的焦点。为了有效缓解这一困境，构建一套先进的车位引导解决方案、停车诱导系统以及空闲泊位导航体系显得尤为迫切且必要。济源停车现状剖析济源的城市布局融合了商业中心、住宅小区、工业园区以及文化旅游景点等多种功能区域，不同区域的停车需求呈现出多样化和差异化的特点。在繁华的商业街区，如宣化街等地段，车流量大且停车需求集中在特定时段，尤其是周末和节假日，停车位供不应求，车辆常常在周边
科拓股份 2024-12-25

极海基于G32A1445的车载空调控制器应用方案
车载空调控制器作为汽车舒适性系统的核心组件，能够精准调节车内温度、风速和风向，同时集成了空气净化、湿度控制等功能，以确保驾乘人员享有舒适的车内环境。随着汽车制造商和消费者愈发关注驾乘体验，车载空调控制器的功能和智能化程度已成为衡量汽车品质的重要指标之一。在汽车技术不断进步与环保要求的推动下，高效且智能的车载空调控制器市场需求日益增长。整机系统主要由MCU、电源模块、显示面板、多种传感器模块、执行单元、电机和高低边驱动等模块组成，而MCU作为整个控制器的核心器件，对于保障车载空调控制器的高抗干扰性和可靠性
Geehy极海半导体 2024-12-25

守护平安，降低矿车火灾风险—矿山车辆自动灭火系统
#矿山车辆自动灭火系统# 支架搬运车、单轨吊、凿岩台车、采煤机、无轨胶轮车、压裂车、液压挖掘机、空压机、框架运输车等矿山车辆及重型设备作为矿山的常用机械设备，普遍具有劳动强度大、载重量大、运行时间长等特点，加之矿山高温、极寒、高腐蚀、颠簸等复杂恶劣环境，使其内部电源及油路线路受损情况普遍，这些受损引起的故障也成为矿山车辆起火的主要原因。严重威胁矿山车辆以及矿山的安全运行，因此，能够高度适配矿山车辆与重型设备机体结构且可以有效防护矿山车辆与重型设备火灾的消防灭火装置/设备对稳定其安全运行以及保障矿山安全生产
普泰法尔车辆自动灭火 2024-12-25

特斯拉上线“选购现车尾款立减”优惠，Model Y现车享历史最低价
特斯拉上线“选购现车尾款立减”优惠，Model Y现车享历史最低价 12月24日，特斯拉中国上线“选购现车尾款立减”活动政策，消费者选购Model Y现车即可享受尾款立减10000元的优惠，同时还可叠加5年0息金融方案（截至2025年1月31日）以及国家地方补贴，月供最低仅需2667元起，综合节省金额至少5万块。现在入手Model Y现车，仅需23.99万元，迎来历史最低价、全球最低价。这一优惠政策为消费者提供了极大的购车便利和实惠，让全国各地交付中心的销售热潮再次升温。 [图片] 作为全球最畅销车型
咩鲜森老司机 2024-12-25

国务院关注“罚没异常”！电动车执法走向规范，避免过度罚款扣车
阅读前请您先点击上面的“关注”二字，后续为您提供更多有价值的内容，感谢支持！ 2024年电动车夜查现象在全国多个地区实施，很多人感觉现在的电动车管控怎么越来越严了？同时多地也存在对电动车处罚过度行为。近期国务院关注罚没收入异常的现象，大量异地执行，要求审查核实，2025年的电动车执法将走向更加规范管理，避免出现过度罚款和扣车。 [图片] 这项规定实在是大快人心！作为普通打工人，骑个电动车上班，还面临着各种罚款和扣车行为，一不留神就被帽子叔叔逮住被罚了，感觉真的好冤，但这项小额处罚就算了，还有大额处罚，比如
全球电动车 2024-12-25

都市潮流小钢炮领克Z20正式上市
汽车时光网报道：日前，领克Z20正式上市并同步开启交付。新车定位紧凑型纯电SUV，倡导个性化与高品质路线。新车共推出三款车型，限时领享价为13.59—15.09万元。 [图片] 外观方面，领克Z20采用The Next Day家族式前脸设计，封闭式前脸搭配两侧竖向独特线条式日行灯设计。车尾采用贯穿式尾灯设计，灯带具备迎宾、流水转向等多种灯效。搭配流光尾翼，极具辨识度。新车采用无框车门设计，半隐藏式门把手，搭载19英寸轮毂，外观颜色方面推出七款车身配色。新车长宽高分别为4460×1845×1573mm，轴距
汽车时光网 2024-12-25

立体车库租赁市场深度解析子母立体停车设备行情与趋势
随着城市化进程的加速，停车难问题日益凸显，立体车库作为一种高效利用空间、解决停车难题的有效手段，正逐渐受到市场的广泛关注。其中，子母立体停车设备因其结构紧凑、操作简便、造价相对合理等优势，成为立体车库租赁市场中的一大亮点。本文将深入剖析子母立体停车设备在租赁市场中的行情与趋势，为行业从业者和投资者提供有价值的参考。 [图片] 一、子母立体停车设备概述子母立体停车设备是一种特殊的立体车库形式，通常由一台母车搭载一台或多台子车，通过垂直或水平移动实现车辆的存取。这种设备结构紧凑，占地面积小，能够充分利用有限
莱贝立体车库租赁厂家 2024-12-25

立体车库租赁市场透析循环机械停车场价格全解析
在城市化进程日益加速的今天，停车难已成为各大城市面临的普遍问题。立体车库，特别是循环机械停车场，以其高效的空间利用率和便捷的停车体验，逐渐成为解决停车难题的重要方案。然而，对于立体车库租赁市场而言，循环机械停车场的价格无疑是一个核心关注点。本文将深入剖析循环机械停车场价格的影响因素、定价策略及市场趋势，为租赁双方提供有价值的参考。 [图片] 一、循环机械停车场价格影响因素设备成本：循环机械停车场的设备成本是影响其价格的最直接因素。设备成本包括钢材、电机、控制系统等原材料的采购费用，以及生产、运输、安装等
倍莱立体车库租赁厂家 2024-12-25

朗逸小扳手和档位闪烁还能开吗
朗逸小扳手和档位闪烁还能开吗？当你的朗逸1.4T7档干式双离合变速箱遇到仪表右上角档位和小扳手交替闪烁的时候，说明变速箱已经出问题了； [图片] 这个时候大部分都是机电单元引起的，如果接上电脑检测，有一个P17BF液压泵间隙保护相关的故障代码，说明这个机电单元已经严重泄压漏气了； [图片] [图片] 机电单元正常的工作压力是42-60公斤，出现泄压之后压力就比正常的低了，如果低于25公斤，这个车随时会抛锚； [图片] 还有一个更关键的原因，如果不及时维修，这个油泵会长转，一直驱动油压泵在工作， [图片]
郑州广发变速箱专修 2024-12-25

帮你选好了！年底买车回家过年一点也不难！

计划在年底买车回家过年的老板，帮你选好了！现在入手这3款高质价比豪车，体面又高性价比，买车前记得先来澳康达看看，买豪车一点也不难！2020款保时捷Panamera 2.9T男人无论多富有，车库里总会有一辆保时捷。帕纳美拉作为保时捷首款行政级的轿跑车型，就算放眼市场也是非常特别的款式，首先它主打百万级的行政商务形象，可以剑指宝马7系、奔驰S级，其次还有同级独一无二的驾驶乐趣，有四门911的美誉，既能豪华体面又能满足男人操控刚需。目前澳康达在售这台2020款保时捷Panamera，行驶了7.9万公里，内饰选

澳康达二手车 2024-12-25

老黄携「超级GPU」炸场！E级AI超算性能飞升，买越多越划算，

新智元报道

【新智元导读】英伟达又放大招了，这次直接用超级GPU GH200燃爆了市场。

推荐体验

相关资讯