当前位置:首页|资讯|英伟达|马斯克|AI聊天机器人

英伟达又赚了!斥资超180亿元,马斯克用了10万块H100芯片训练最新大模型

作者:每日经济新闻发布时间:2024-07-03

每经编辑 黄胜每经实习编辑 宋欣悦

7月1日,特斯拉CEO埃隆·马斯克(Elon Musk)正在为其即将推出的AI聊天机器人Grok的新版本造势。马斯克在社交媒体上宣布,其人工智能初创公司xAI的大语言模型Grok-2将于8月正式推出,将带来更先进的AI功能。马斯克透露,xAI的Grok-3用了10万块英伟达H100芯片进行训练,预计将于年底发布,相信它会“非常特别”。

图片来源:X

H100是英伟达开发的图形处理单元,是由英伟达公司制造的一种超级强大的计算芯片,是当前世界上最先进的计算芯片之一,专门用来处理复杂的人工智能(AI)和机器学习(ML)任务。你可以把它想象成计算机的大脑,但它比普通电脑的处理器要强大得多,特别适合那些需要大量计算和数据处理的工作,随着科技公司竞相开发更智能的AI产品,这些芯片成了硅谷的热门商品。

据英伟达官网介绍,相较于上一代产品,H100可使大型语言模型的速度提升30倍。H100 GPU配备第四代Tensor Core和Transformer引擎,可使大型语言模型的训练速度提升高达9倍,推理速度提升30倍。

图片来源:英伟达官网

英伟达H100的价格目前已经飙升至2.5万到3万美元(约合18.1万到21.8万元人民币)。即使按照最低售价2.5万美元来计算,马斯克这10万块H100的成本也高达约25亿美元(约合181亿元人民币)。

据英伟达最新财报,截至今年4月28日的2025财年第一财季,实现营收260亿美元(约合1880亿元人民币),较第四季度增长18%,较去年同期增长262%。

图片来源:英伟达官网

去年7月,马斯克创立了人工智能公司xAI,专注于人工智能业务,旨在利用AI探索宇宙的本质。xAI的投资者包括安德森·霍洛维茨(Andreessen Horowitz)、红杉资本和富达管理与研究公司。

去年11月,xAI推出首款AI大模型聊天机器人Grok,直接对标ChatGPT。据介绍,Grok通过X平台实时了解世界,甚至是其他AI工具尽可能回避的尖锐问题。xAI团队强调,Grok是一款有点聪明、又有点叛逆的聊天机器人,“建议那些讨厌幽默的人千万不要使用”。

图片来源:X

xAI团队表示,Grok的定位是向科幻小说《银河便车指南》(The Hitchhiker's Guide to the Galaxy)看齐。书中有一部名为“深思”(Deep Thought)的超级计算机,它会回答世上所有的问题,其主要任务是找出“生命、宇宙及万事万物的终极答案”。这正与xAI的成立目标:“了解宇宙的真正本质”,几乎完全一致。

自今年3月以来,xAI又陆续发布了具有处理128k上下文能力的Grok-1.5以及具有图像理解能力的Grok-1.5V,并允许X(原Twitter)上的高级用户访问聊天机器人。

Grok-1.5可以处理128k token的上下文窗口,容量增加到之前上下文长度的16倍,并在处理编程和数学相关任务方面表现出色。该模型可以处理更长、更复杂的提示词,同时在上下文窗口扩展时仍然能保持其指令跟踪能力。

Grok-1.5V则是马斯克的第一代多模态模型,于2024年4月发布。除了文本功能,Grok-1.5V还能够处理文档、图标、屏幕截图和照片之类的各种视觉信息,不仅可以将手绘图表转换成Python代码,还能看一眼食品标签就计算出卡路里,甚至还可以看懂梗图。

今年5月,马斯克表示,xAI是一家新公司,因此Grok仍有大量准备工作要做,才能与谷歌Deepmind和OpenAI相抗衡。

据外媒报道,此前,马斯克就向其投资者透露,他创办的AI公司xAI计划建造一个“超级算力工厂”(Gigafactory of Compute),为下一代AI聊天机器人Grok提供算力支持。这个超级计算机计划连接10万块英伟达H100 GPU。

马斯克当时表示,他希望在2025年秋季之前让超级计算机运行起来,并补充说xAI可以与甲骨文合作开发这台大型计算机。xAI是甲骨文最大的H100芯片服务器的租赁客户,已经使用了超过1.5万块H100芯片。

xAI官方博客表示:“对于构建能够理解世界的AGI(通用人工智能)来说,提高我们的多模态理解和生成能力是重要步骤。未来几个月,我们预计在图像、音频和视频等多模态中对这两种功能进行重大改进。”

每日经济新闻综合自公开消息


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1