Nvidia近期放出了基于blackwell架构的新一代GPU产品,性能和功耗均有极大提升,更是支持了fp8等新精度。然而,有言论称NVIDIA本打算在2025年发布该代产品,而提前了。私以为这样的论点有根据。老黄近期与目前最火热的架构--transformer的几位作者进行了一次会谈。在会谈中,老黄指出“目前有很多算力被浪费了”,考虑到openai最新发布的sora--文本转视频模型也有些难产的现象,不难看出算力有些短缺。北大一团队发布了open-sora,其项目readme里提到在8*h100的机器上...【查看原文】