过去几个月里,以ChatGPT为首的人工智能工具在全球范围内掀起了一股热潮,对英伟达A100和H100这样的数据中心GPU的需求大幅度提高。据Wccftech报道,突如其来的需求增长也带来了新的问题,比如GPU价格上涨及供应受到了限制。
目前英伟达正在更新客户端产品线,以基于Ada Lovelace架构的新一代GPU取代旧有产品,已推进到主流细分市场。不过由于全球受到经济衰退、消费需求下降和通货膨胀等多方面因素影响,导致新产品成本上升且出货受阻。虽然游戏业务遭受重创,但人工智能已经成为英伟达的救世主,并将其推向了新的高度。
多模态大规模语言模型的训练需要大量的计算支撑,使得市场对数据中心GPU的需求爆增,迫使台积电为了提高GPU产量,扩大其先进封装的产能,紧急订购新的封装设备,以满足今年内的订单需求。此前就有报道称,高性能计算GPU的交货周期已从过往的3个月延长到了6个月,某些情况下可能要等待更长的时间。这也使得市场上英伟达的计算卡价格飙升,H100的价格超过了3.5万美元。
最新的报告指出,明年市场对英伟达数据中心GPU的需求量会更大。考虑到目前的市场趋势及订单的持续增长,之后的新订单最长可能要等一年。同时随着越来越多的科技公司下单,英伟达还会优先考虑大客户的订单,以争取其他竞争对手抢夺市场前,进一步提高收益。