雷递网 乐天 8月10日
英伟达日前发布新一代NVIDIAGH200GraceHopper™平台,英伟达称,该平台基于全球首款搭载HBM3e处理器的GraceHopper超级芯片,专为加速计算和生成式AI时代而构建。
新平台专为处理大语言模型、推荐系统、矢量数据库等全球最复杂的生成式AI工作负载而构建,将提供多种配置选择。
该平台采用双配置——提供的内存容量和带宽比当前产品分别增加了3.5倍和3倍——包括一个拥有144个ArmNeoverse内核、8petaflops的AI性能和282GB最新HBM3e内存技术的单个服务器。
NVIDIA创始人兼首席执行官黄仁勋表示:“为了满足对生成式AI不断激增的需求,数据中心需要能够满足特定需求的加速计算平台。全新GH200GraceHopper超级芯片平台以出色的内存技术和带宽,提高了吞吐量,在不影响性能的情况下可连接多GPU以整合性能,并且具有可以轻松部署到整个数据中心的服务器设计。”
新平台采用了GraceHopper超级芯片,可以通过NVIDIANVLink™与其他超级芯片连接,使它们能够协同工作,从而部署当下大型生成式AI模型。这种高速、一致性技术使GPU可以完全访问CPU内存,在双配置中可提供总计1.2TB的快速内存。
HBM3e内存比当前HBM3快50%,可提供总计10TB/s的带宽。这使得新平台能够运行比上一版本大3.5倍的模型,同时凭借快3倍的内存带宽提升性能。
英伟达表示,预计业界领先的系统制造商将于2024年第二季度开始交付搭载该平台的系统。
日前,有外媒披露,百度、字节跳动、腾讯和阿里巴巴已下价值10亿美元的订单,将从英伟达(NVDA.O)购买约10万颗A800处理器,这些处理器将于2023年交付。两位接近英伟达的人士表示,这些企业还购买了价值40亿美元的GPU处理器,将于2024年交付。
早前,大众对人工智能的热情高涨之际,大多数互联网巨头的库存芯片都不到几千个,这些芯片可用于训练大型语言模型。从那时起,这些芯片的价格开始飙升。
如今,随着部分大模型的落地,及芯片的交付,英伟达的股价反而破防。截至今日收盘,英伟达股价为425.54美元,较前一日大跌4.72%,公司市值仍高达10511亿美元。
———————————————
雷递由资深媒体人雷建平创办,若转载请写明来源。