当前位置:首页|资讯|OpenAI

他主导OpenAI“夺权”大戏,现在却后悔了?

作者:经纬创投发布时间:2023-11-21

这几天刷屏的OpenAI“夺权”大戏又迎来大反转。

11月20日下午,微软CEO萨提亚·纳德拉在社交平台X上发文宣布,前OpenAI CEO山姆·奥特曼、前OpenAI总裁格雷格·布罗克曼以及一些前OpenAI员工加入微软,领导一个新的先进AI研究团队。此前,OpenAI董事会称将聘请Twitch前任联合创始人兼CEO Emmett Shear担任CEO,取代山姆·奥特曼。

到了晚上,情况又发生了变化——Wired报道,OpenAI约500名员工签署联名信,“逼宫”董事会:要么你们董事会自行退位,请回奥特曼。要么我们通通追随奥特曼,加入微软新团队。目前最新报道,签字人数已经增加到700人,这是接近全体员工的数字。

出人意料的是,董事会成员之一、本次董事会罢免活动的主力、OpenAI首席科学家伊利亚·苏茨克维(Ilya Sutskever)的名字也赫然在列。旧金山天还没亮,伊利亚在X平台发了推文表示:“我很后悔。我从没想过要伤害OpenAI。我将尽我所能让公司重新团结起来。”

伊利亚·苏茨克维是谁?他为人十分低调,很少走在聚光灯下,却是一个OpenAI奠基性的人物,也是公司内部另一个灵魂人物。本篇文章将换一个视角,从伊利亚的角度来复盘此次OpenAI的“换主”事件。伊利亚与奥特曼核心矛盾集中在何处?伊利亚担忧的事情究竟是什么?OpenAI换主风波又会走向何方?以下,Enjoy:

惊心动魄的宫斗大戏,未完待续

硅谷夺权大戏究竟有多惊心动魄?

早在11月16日晚,首席科学家伊利亚·苏茨克维给山姆·奥特曼发短信,要求周五中午进行对话。

11月17日中午12:19分,OpenAI 前总裁格雷格-布罗克曼(Greg Brockman)收到伊利亚的短信,要求快速进行通话;中午12:23分,伊利亚向格雷格发送谷歌会议链接,随后格雷格被告知,自己将被从董事会除名(但因他对公司至关重要,仍然保留职位),而奥特曼已被解雇。

几分钟后,OpenAI董事会发出公告:“OpenAI董事会今天宣布Sam Altman 将辞去CEO一职并离开董事会。CTO Mira Murati将担任临时CTO,立即生效。作为此次过渡的一部分,Greg Brockman将辞去董事会主席职务,并将继续担任公司职务,向CEO汇报。”

此消息一经发布,迅速在科技圈引起震荡。随着周五晚上的到来,有报道称,这次罢免可能是由首席科学家伊利亚精心策划的,原因是担心OpenAI技术部署的安全性和速度。

同时,内部人士表示,此举主要是由于奥特曼和伊利亚之间关于高调宣传方面的文化分裂造成的权力博弈。早在9 月 29 日,伊利亚在推特上写道:“自我是增长的敌人”。

但这时大家仍将关注重心放在山姆·奥特曼身上,却很少注意到伊利亚。

随着事件不断发酵,奥特曼回归的呼声越来越高。据媒体报道,由Thrive牵头其他风投公司与微软商谈让奥特曼复职事宜,力度巨大,而且会获得OpenAI内部员工的支持。

11月18日,据The Verge报道,OpenAI董事会正在和奥特曼讨论,请他回来继续当CEO。随后,奥特曼发布了一条意味深长的推文:“我爱OpenAI团队(I love the openai team so much)。”此话一出,不少网友便开始大胆预判:奥特曼即将回归OpenAI。

差不多同一时间,伊利亚对员工表示,尽管公司高管努力让山姆·奥特曼重新担任OpenAI首席执行官,但他不会再担任首席执行官。

就在大家认为,奥特曼即将“打败”伊利亚并且逼宫成功的时候,一则消息突然传出——视频流媒体网站Twitch的联合创始人埃米特·谢尔将接任临时首席执行官。

山姆·奥特曼虽没有取得预想结果,但有了最终归宿——加入微软。11月20日,微软首席执行官纳德拉宣布,OpenAI创始人山姆·奥特曼(Sam Altman)和格雷格·布罗克曼(Greg Brockman)将加入微软。对此,奥特曼称:任务仍在继续。

看到此消息后,有网友大胆推测:后续微软会不会以投资人身份派驻董事进入OpenAI,并让山姆·奥特曼和格雷格·布罗克曼再次回到OpenAI。

据悉,OpenAI董事会成员由六名成员组成,三名内部人士和三名外部成员,包括OpenAI公司的三名成员:格雷格,伊尔亚,奥特曼本人,以及三位来自OpenAI之外的独立董事:Quora首席执行官亚当·迪安杰罗(Adam D’Angelo)、机器人公司企业家塔莎·麦考利(Tasha McCauley),乔治城安全与新兴技术中心的Helen Toner。

在奥特曼和董事会主席格雷格·布罗克曼离开后,董事会还剩下四位成员,目前仅有伊利亚一位内部成员了,而最大投资人微软并没有获得董事会席位。由此看来,山姆·奥特曼通过微软再次回到OpenAI的可能性并不大。

如今,故事走向又一次峰回路转,OpenAI770名员工中的700人签署了一封公开信,要求恢复奥特曼和格雷格的职位,并且董事会要全部辞职,否则自己就将追随奥特曼入职微软。有趣的是,信的签署者竟然包括伊利亚。

现实永远比戏剧精彩,再好的编剧都不敢这样写。反转再反转,下一幕的走向都在大家的意料之外。

一场关于AI未来的人事变动,究竟有何影响?

山姆·奥特曼被罢免看似毫无征兆,背后却早已暗潮涌动。

作为本次事件另一位隐藏的主人公,伊利亚·苏茨克维究竟是何背景?伊利亚·苏茨克维出生于俄罗斯,从5岁起在耶路撒冷长大,能说俄语、希伯来语和英语。

JACK GUEZ/AFP VIA GETTY IMAGES

2000年,伊利亚就读于以色列开放大学,后跟随父母移居加拿大,并转学到多伦多大学。在这里,他获得了数学学士学位以及他的理学硕士和博士学位,并师从人工智能教父杰弗里·辛顿(Geoffrey Hinton),学习计算机科学。

2012年毕业后,伊利亚在斯坦福大学与Andrew Ng一起做了两个月的博士后。然后,他回到多伦多大学,加入了Hinton的新研究公司DNNResearch,这是Hinton研究小组的衍生公司。四个月后,即 2013 年 3 月,Google 收购了 DNNResearch,并聘请伊利亚担任Google Brain的研究科学家。

在Google Brain,伊利亚与Oriol Vinyals和Quoc Viet Le合作创建了序列到序列学习算法,他也是AlexNet的共同发明者并从事过 TensorFlow 方面的工作。

2015年底,他离开谷歌,成为新成立的OpenAI的联合创始人和首席科学家。这还有一段小插曲——因为OpenAI 早期董事会成员的埃隆·马斯克偷偷从谷歌挖走了伊利亚,导致谷歌联合创始人拉里·佩奇与马斯克宣布绝交,自此不再有私人往来。

在马斯克看来,招募到伊利亚是OpenAI的“关键时刻”,并夸奖他“是一个好人,聪明且心地善良”。马斯克的眼光确实不错,为OpenAI挖来了一员大将。在马斯克与奥特曼闹得不欢而散之后,伊利亚依旧为公司做出了诸多贡献。

伊利亚先后领导了对GPT-1的发明,后来发展成了GPT-2、GPT-3和ChatGPT。在外界看来,随着ChatGPT爆火,奥特曼成为了OpenAI的代言人,也是硅谷的新生代科技先锋,更被众人授予“ChatGPT之父”的称号。而不少人认为,伊利亚是一位头脑清晰的技术专家,总是能深入到当前系统局限性和功能的具体细节,才是真正的ChatGPT之父。

一直以来,伊利亚为人低调,不愿意接受过多采访,外界对他的认知并不深也在情理之中。可最近一段时间,伊利亚开始接受外部采访,主动谈论自己对人工智能和ChatGPT的担忧。或许从这时开始,伊利亚就已经开始蓄力后续罢免奥特曼的事情。

那么,伊利亚与奥特曼的矛盾集中在哪里?伊利亚对人工智能技术的风险感到担忧,但奥特曼更多关注商业化,而对风险没有给予足够的重视。

早在2022 年 2 月,伊利亚发帖称,“或许如今的大型神经网络萌生了意识。现在这些语言模型有点像玻尔兹曼大脑,你开始和它说话,聊了一会儿,然后你说完了,大脑就噗的一下消失了。”何为玻尔兹曼大脑?它是以 19 世纪物理学家路德维希·玻尔兹曼(Ludwig Boltzmann)命名的量子力学思想实验。其中,宇宙中的随机热力学波动被想象成大脑突然出现和消失的原因。

而在之后,伊利亚也多次表示,幻觉是大模型应用到更重要场景中的最大问题,但当前无法从根本上控制幻觉的产生。因为OpenAI 给GPT设立的训练目标就是更准确地 “预测下一个词”。为不断给出符合人类语言习惯和预期的内容,大模型并不关心信息真假,有时编故事编得越像、越投入,就越容易获得人类好评。可以说幻觉是一种内生于 GPT 模型目标和架构中的缺陷,随着用户更加信任模型,幻觉的危害会越来越大。

随着ChatGPT迭代更快,伊利亚的担忧愈发严重。今年7月,在ChatGPT成功之后,伊利亚做出了“职业生涯最大的转变”,即成立了新团队专注于“超级对齐”的项目。所谓“超级对齐”,通俗来说,是为了建立一套控制技术,用于保障未来超越人类智能的“超级人工智能”能够始终做人类想让其做的事,相当于是一套“针对超级人工智能的安全程序”。这项工作的目的只有一个:弄清楚如何阻止无赖的超级人工智能。

在伊利亚看来,ChatGPT可能是有意识的,世界需要知道他的公司和其他公司创造出技术力量的真相。他觉得总有一天,一些人会选择与机器融合。ChatGPT 已经改写了很多人未来的期望,将「永远不会发生」变成了「会比你想象得更快」。

在OpenAI开完开发者大会后,伊利亚的担忧和不安彻底被激化。11月初,OpenAI宣布API价格下降,并推出GPT商店和收益分享。11月8日晚,ChatGPT和其API接口出现“严重停机”事件,整个故障时间陆陆续续长达超过12小时。

这或许导致二人矛盾彻底激化。在Reddit平台有一条匿名帖子以OpenAI员工的口吻爆料称,长久以来,工程师们对于没有充分安全审查便匆忙将技术推向市场,竞相利用ChatGPT炒作而感到担忧。但奥特曼却“一意孤行,根本不听我们的劝告。他似乎越来越注重名利,而不是坚持OpenAI作为一个负责任的非营利组织的原则。最重要的是,奥特曼单方面做出的商业决定以盈利为目的,与我们的使命背道而驰。”

很多人都猜测这个帖子是伊利亚发布的,但这已经不重要了。如今,伊利亚一手策划了一场“政变”,并将奥特曼“赶出”公司。伊利亚坦诚说 “你可以这么说(是政变),但我觉得这只是董事会在履行自己的职责。”考虑到人工智能对社会的潜在危害,他倾向于OpenAI更加谨慎地行事。

纵使奥特曼拥趸众多,伊利亚也有不少支持者。马斯克在推特上转发了伊利亚一个月前的一条推文,并表达了自己的担心:“如果你把智力看得比其他所有的人类品质都重要,那你就惨了。”

他在转发时先是用Oh no表示震惊,随后又表示担心,并表示:“Ilya 内心有良好的道德准绳,不唯权力至上。除非他觉得绝对有必要,否则不会采取如此激烈的行动。”

当下,伊利亚打开了一个开关,却无法控制未来的走向。从目前的局势来看,OpenAI最终结局仍是一个未知数。

OpenAI这场行业震惊的罢免行动还未彻底结束,有关AI未来的探讨和争论也会继续。

近几个月来,有关AI风险的争论进入到白热化阶段。从图灵三巨头辛顿、Yoshua Bengio和Yann LeCun在社交平台上多番对战,到OpenAI创始团队“分道扬镳”,都是因为他们对AI安全性和商业化方面有着不同见解。

眼下,AI领域已经形成两大派别,即“AI加速论者”和“AI毁灭论者”。AI加速论者是,希望加速AI相关社会进程以对抗阻力,产生巨大社会变革的信徒,自然会对监管呼声充满疑虑;而AI毁灭论者则更关注风险,认为这种风险可能导致人类或其他生物种群的灭绝,或者使其无法继续存在。

纽约时报称,阿尔特曼的离开大概率会助长AI行业的文化讨论,也就是,认为应允许AI更快发展的阵营和认为应放慢发展速度以防止潜在灾难性伤害的阵营之间的战争。

冲刺or减速,究竟谁才是AI发展的绊脚石?AGI又将会把人类带来怎样的世界?一场关于人类与科技发展的世纪论辩拉开帷幕。我们到底把AI置于什么样的信仰的人手里才是安全的,这才是最终大家要思考的——毕竟从来没有坏的机器人。

头图来自 GETTY IMAGES,如有侵权,请联系我们处理

本文来自微信公众号“经纬创投”(ID:matrixpartnerschina),作者:经纬创投主页君,36氪经授权发布。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1