OpenAI CEO：安全对我们很重要 但我们没有训练GPT-5

原标题：OpenAI CEO：安全对我们很重要 但我们没有训练GPT-5

雷递网 乐天 4月15日

人工智能企业OpenAI CEO Sam Altman日前就呼吁暂停AI开发的公开信做出回应，称安全对OpenAI很重要，而这封信缺乏技术上的细微差别，说明哪些OpenAI需要暂停的地方（lacked technical nuance about where we need the pause）。

此前，外界一直传闻OpenAI正在GPT-5。

生命未来研究所（Future of Life Institute）还公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月，称这种暂停应该是公开的和可验证的，并且包括所有关键参与者。

公开信称，如果不能迅速实施这种暂停，政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。

“这些协议应确保遵守它们的系统安全，且无可置疑。这不意味着总体上暂停AI开发，只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。”

这封信最后写道，“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后，我们现在可以享受‘AI之夏’，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏，而不是毫无准备地陷入秋天。”

图灵奖得主约书亚·本希奥（Yoshua Bengio）、《人工智能：现代方法》作者斯图尔特·罗素（Stuart Russell）、 苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、Stability AI首席执行官埃马德·莫斯塔克（Emad Mostaque）等科技界领袖人物均签名，马斯克也是签名的名人之一。

Sam Altman说，“我非常同意其中的部分内容。在我们完成对GPT-4训练后，我们花了六个多月的时间，真正研究模型的安全性......真正尝试了解正在发生的事情并尽可能地减轻影响是很重要的。“

Sam Altman还澄清说，这封信的早期版本声称OpenAI正在训练 GPT-5，“我们不会，一段时间内不会，所以从这个意义上说，这有点愚蠢。（we are not, won't for some time, so in that sense it was sort of silly）”

OpenAI正在开发GPT-4的附加功能，这些功能存在安全问题，需要解决。一般来说，“随着能力变得越来越重要，安全标准必须提高。

”我们将继续尽可能诚实地对待AI的发展。相信它们会影响每个人，因此应该让尽可能多的人参与测试和了解它们。了解优点和缺点，这是值得的，即使我们确实倾向于在公共场合让自己难堪，并且不得不经常根据新数据改变主意，也要权衡取舍。”

此前，那封公开信被部分人视为是马斯克及一众被OpenAI 生态伙伴们甩在身后的科技巨头们的缓兵之计。

有观点认为，马斯克参与签名，主要是OpenAI的迭代速度太快了。Google的搜索比对手好 20%就占据了 90%的搜索市场份额。OpenAI 的影响会更广泛，所有的上层应用都希望使用优更强大 AI 赋能的云服务。只能寄希望于 OpenAI 会像自动驾驶那样发展到某个阶段会遇到难以克服的瓶颈。

LinkedIn联合创始人里德霍夫曼就声称，马斯克在这封信上的签名只是出于嫉妒。霍夫曼表示，马斯克和其他人希望暂停，以便他们能够赶上并提供自己的AI产品。

马斯克的确看起来就像一个"心机Boy"，转头就投入AI浪潮，根据内华达州的一份文件，马斯克已经成立一家名为X.AI Corp的新人工智能公司，还被曝出购买了大约1万个GPU，并从DeepMind处招募到AI人才，打算开发自己的大语言模型（LLM）项目。

目前，马斯克旗下的Twitter已从Alphabet子公司 DeepMind 处招募工程师 Igor Babuschkin和Manuel Kroiss。可以看出，马斯克一直在积极物色 AI 领域的人才，希望与OpenAI展开竞争。

———————————————

雷递由媒体人雷建平创办，若转载请写明来源。