内部调研发现：OpenAI也不清楚自己的AI如何做决策
参考消息网5月14日报道据西班牙《先锋报》网站5月13日报道，ChatGPT背后的公司OpenAI最近在一项内部调研中试图发现其语言模型是如何做出决策的，得出的一个结论是：“它在运行。但对于它是如何运行的目前了解不多。”
报道称，日前发表的OpenAI研究人员报告指出，“语言模型现在能力越来越强，也变得更加普遍，但我们不了解它们是如何运行的”。这句话支持着那些对正在推向公众的一些AI缺乏安全性提出警示的人的观点。
但OpenAI也表示“近期的研究在理解少量的电路和有限制的行为方面取得了进展”，不过该公司认为“要完全理解语言模型”需要“分析数以百万计的神经元”。由于工作量巨大，该公司从使用一种能自动分析语言模型所有神经元的技术入手。
据报道，根据发表出来的研究结果，该公司尚未实现这一点。虽然其方法还没有使其发现神经元的运行原理，但该公司希望将来能做到。研究人员指出：“我们希望，从这种将可解读性自动化的方法出发，将使我们能够在部署之前全面地审视模型的安全性。”换句话说，现在他们做不了这件事，尽管GPT-4已经在广泛部署。（编译/苏佳维）