就在4月12日,微软(MSFT)宣布开源Deep Speed Chat,来帮助用户训练类ChatGPT等大语言模型。
Deep Speed Chat是基于微软Deep Speed深度学习优化库开发而成,具备训练、强化推理等功能,还使用了RLHF(人工反馈机制的强化学习)技术,可以在提升15倍训练速度的基础上大幅度降低成本。
Deep Speed Chat的开源意味着更多的人可以使用它来训练自己的模型,这将使得人人都能拥有自己的ChatGPT。 这对于研究者和开发者来说是一个很好的机会,他们可以使用这个框架来训练自己的模型,从而提高他们的研究和开发效率。
Deep Speed Chat的开源让更多的人可以使用它来训练自己的模型,这将使得ChatGPT等大语言模型更容易被普通数据科学家和研究者使用,并使RLHF训练真正普及到AI社区。
deep speed chat 开源地址:https://github.com/microsoft/DeepSpeed