当前位置:首页|资讯|OpenAI|人工智能

OpenAI CEO:安全对我们很重要 但我们没有训练GPT-5

作者:雷递发布时间:2023-04-15

原标题:OpenAI CEO:安全对我们很重要 但我们没有训练GPT-5

雷递网 乐天 4月15日

人工智能企业OpenAI CEO Sam Altman日前就呼吁暂停AI开发的公开信做出回应,称安全对OpenAI很重要,而这封信缺乏技术上的细微差别,说明哪些OpenAI需要暂停的地方(lacked technical nuance about where we need the pause)。

此前,外界一直传闻OpenAI正在GPT-5。

生命未来研究所(Future of Life Institute)还公布一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月,称这种暂停应该是公开的和可验证的,并且包括所有关键参与者。

公开信称,如果不能迅速实施这种暂停,政府应介入并实行暂停。人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。

“这些协议应确保遵守它们的系统安全,且无可置疑。这不意味着总体上暂停AI开发,只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。”

这封信最后写道,“人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后,我们现在可以享受‘AI之夏’,收获回报,设计这些系统以造福所有人,并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。我们可以在这个领域也这样做。让我们享受一个漫长的AI之夏,而不是毫无准备地陷入秋天。”

图灵奖得主约书亚·本希奥(Yoshua Bengio)、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)、 苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等科技界领袖人物均签名,马斯克也是签名的名人之一。

Sam Altman说,“我非常同意其中的部分内容。在我们完成对GPT-4训练后,我们花了六个多月的时间,真正研究模型的安全性......真正尝试了解正在发生的事情并尽可能地减轻影响是很重要的。“

Sam Altman还澄清说,这封信的早期版本声称OpenAI正在训练 GPT-5,“我们不会,一段时间内不会,所以从这个意义上说,这有点愚蠢。(we are not, won't for some time, so in that sense it was sort of silly)”

OpenAI正在开发GPT-4的附加功能,这些功能存在安全问题,需要解决。一般来说,“随着能力变得越来越重要,安全标准必须提高。

”我们将继续尽可能诚实地对待AI的发展。相信它们会影响每个人,因此应该让尽可能多的人参与测试和了解它们。了解优点和缺点,这是值得的,即使我们确实倾向于在公共场合让自己难堪,并且不得不经常根据新数据改变主意,也要权衡取舍。”

此前,那封公开信被部分人视为是马斯克及一众被OpenAI 生态伙伴们甩在身后的科技巨头们的缓兵之计。

有观点认为,马斯克参与签名,主要是OpenAI的迭代速度太快了。Google的搜索比对手好 20%就占据了 90%的搜索市场份额。OpenAI 的影响会更广泛,所有的上层应用都希望使用优更强大 AI 赋能的云服务。只能寄希望于 OpenAI 会像自动驾驶那样发展到某个阶段会遇到难以克服的瓶颈。

LinkedIn联合创始人里德霍夫曼就声称,马斯克在这封信上的签名只是出于嫉妒。霍夫曼表示,马斯克和其他人希望暂停,以便他们能够赶上并提供自己的AI产品。

马斯克的确看起来就像一个"心机Boy",转头就投入AI浪潮,根据内华达州的一份文件,马斯克已经成立一家名为X.AI Corp的新人工智能公司,还被曝出购买了大约1万个GPU,并从DeepMind处招募到AI人才,打算开发自己的大语言模型(LLM)项目。

目前,马斯克旗下的Twitter已从Alphabet子公司 DeepMind 处招募工程师 Igor Babuschkin和Manuel Kroiss。可以看出,马斯克一直在积极物色 AI 领域的人才,希望与OpenAI展开竞争。

———————————————

雷递由媒体人雷建平创办,若转载请写明来源。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1