当前位置:首页|资讯

英伟达和软银联手,要打造日本最强大AI超算

作者:36氪的朋友们发布时间:2024-11-13

划重点:

  • 软银将利用英伟达Blackwell构建日本顶尖的人工智能超级电脑,服务于多项主权AI项目,并揭晓了Grace Blackwell计划。
  • NVIDIA AI Aerial助力软银开创全球首个实时5G AI-RAN,为电信业带来数十亿新收益机遇。
  • 软银携手英伟达AI Enterprise,共创AI市场,满足日本本土对安全AI计算的需求。

11月13日,在日本举行的2024年AI峰会上,英伟达与软银公布了一系列合作计划,旨在加速日本主权AI项目( Sovereign AI,即国家层面的AI基础设施)的发展,并强化英伟达在全球的技术领先地位,同时为全球电信行业带来数十亿美元的新收入。

英伟达创始人兼CEO黄仁勋在主题演讲中透露,软银正利用Blackwell平台构建日本最强大的AI超级计算机,并计划在未来升级至Grace Blackwell平台。

同时,英伟达宣布,软银已成功利用NVIDIA AI Aerial平台,实现了全球首个AI与5G电信网络的融合试验,这一突破将为电信运营商开辟数十亿美元的新收入渠道。

此外,英伟达与软银还共同宣布,将借助NVIDIA AI Enterprise软件,打造满足日本本土安全AI计算需求的市场。这一新服务将支持AI培训、边缘推理等功能,帮助软银成为日本AI网格的核心,为各行业、消费者及企业创造、分发和使用人工智能服务的新商机。

黄仁勋表示,此次与软银的合作将推动日本迈入AI产业革命,引领电信、交通、机器人及医疗保健等行业的新增长时代。

软银总裁兼CEO宫川润一则强调,全球正加速采用AI促进社会发展,软银与英伟达的长期合作将助力这一转型。凭借强大的AI基础设施及创新的分布式AI-RAN解决方案“AITRAS”,软银将重塑5G网络,加速全球范围内的创新步伐。

软银将首次接收Blackwell

软银即将接收全球首台英伟达DGX B200系统,此系统将成为其新型NVIDIA DGX SuperPOD超级计算机的核心构建模块。

软银打算利用这台由Blackwell驱动的DGX SuperPOD,不仅推动自身的生成式AI研发及AI相关业务,还将支持日本各大学、研究机构及企业的AI需求。

预计建成后,软银的DGX SuperPOD将成为日本性能最卓越的超算系统。它配备了NVIDIA AI Enterprise软件和NVIDIA Quantum-2 InfiniBand网络,特别适合开发大语言模型。

除了DGX SuperPOD,软银还规划了另一台专注于高计算密集型任务的超级计算机。该计算机初步计划基于NVIDIA Grace Blackwell平台构建,并融合NVIDIA GB200 NVL72多节点、液冷、机架级系统,将NVIDIA Blackwell GPU与高效的Arm架构NVIDIA Grace CPU完美结合。

AI-RAN实现新的里程碑

软银与英伟达密切合作,实现了一个技术里程碑——研发出一种能兼顾AI与5G工作负载的新型电信网络,业界称之为AI无线接入网络(AI-RAN)。这一创新基础设施广受电信行业生态系统青睐,因其助力运营商将基站从成本负担转变为AI创收资源。

在日本神奈川县的户外试验中,软银验证了其基于英伟达加速的AI-RAN方案已达成运营商级别的5G性能,并能在利用网络剩余容量的同时,顺畅运行AI推理任务。

传统电信网络为应对高峰时段而设计,但平均利用率仅达三分之一。而AI-RAN所具备的通用计算能力,预计能让电信公司有机会将剩余的三分之二容量转化为AI推理服务,实现商业化。

据英伟达与软银估算,电信运营商在新AI-RAN基础设施上每投入1美元资本支出,有望获得约5美元的AI推理收入。综合考虑运营成本与资本支出,软银预测,每增设一台AI-RAN服务器,其基础设施的回报率最高可达219%。

本文来自“腾讯科技”,编译:金鹿,36氪经授权发布。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1