近年来,随着游戏玩家、加密货币挖矿者及元宇宙风潮令很多人都会购买 Nvidia 的产品,使得 Nvidia 利润飙升。 而最近市场上对人工智能的热烈追求,更成为 Nvidia 新的赚钱机会。 Nvidia 最新的人工智能专用显卡在 eBay 上的价格被炒至天价。 网站上列出了多张H100显卡,售价在4万美元以上。
H100 处理器采用了 TSMC 的 4nm 制程技术,具有 456 个 Tensor 核心和 80GB 的 HBM3 内存,并且不支持显示输出,因此并非用于游戏渲染。 在早前这些处理器在市场上的价格约为3万美元至4万美元,但现在在eBay上的售价更高。 许多公司需要大量的计算硬件来训练大型语言模型,因此需要购买类似H100 处理器这样的高性能处理器。
而除了公司自己组建IA服务器外,Nvidia也提供了DGX云服务作为选项,提供带有八个Nvidia H100或A100GPU和640GB内存的远程服务器,但价格从每月36,000美元起。