在数次抨击OpenAI是个骗局之后,马斯克宣布将在本周开源xAI旗下的聊天机器人Grok,作为对OpenAI背弃Open承诺的嘲讽。
马斯克数次发文抨击OpenAI是个骗局,X截图
OpenAI这段时间确实过得不太平。
来自微软的数十亿投资正在接受欧盟反垄断的调查,《纽约时报》等媒体和一批作家排着队起诉它侵权,历时三个多月的董事会风波刚刚落下帷幕,这位世界上最富有的人之一,2018年被扫地出门的联合创始人——马斯克,便一纸诉状将它告上了法庭。
“OpenAI已转变为最大科技公司微软事实上的闭源子公司。” 不论你是否这个观点,这句话已经被写进了诉讼书,并提交给了旧金山高级法庭。
46页的诉讼书回顾了马斯克在2015年前后如何推动OpenAI成立,并反复强调它最初被塑造为一个非营利、公开、以安全为核心的机构。
然而,这些特质今天都消失了。OpenAI与微软之间利益往来以数十亿计,而不在这段关系中的公众无法获得任何一行代码。
在马斯克看来,这意味着OpenAI已经放弃了将AI技术公开的最初承诺。于是,他要求OpenAI回到正轨,近十项申诉赔偿中包括要求OpenAI公开AI技术,并停止与微软或任何实体的商业合作。
当然,奥特曼和OpenAI团队的其他人不会认同马斯克的观点,也不会照做。
马斯克控告OpenAI的消息传出后,OpenAI官网上发布了一篇名为《OpenAI和埃隆·马斯克》的文章,除了表达团队仍在坚守使命和对马斯克的尊敬外,还透露了一个微妙的细节。
2017年当团队讨论需要搭建一个以营利为目的的部门,来支撑机构进一步实现使命时,马斯克给出的建议是「与特斯拉合并」,或「由他完全控制」。
OpenAI透露马斯克曾想将它并入特斯拉, OpenAI官网截图
而有趣的地方在于,当马斯克的提议遭到拒绝后,他很快就选择了离开OpenAI,并放狠话称对方成功的概率是零,自己会在特斯拉内部成了一个AGI部门。
和所有精彩的故事一样,马斯克和OpenAI的冲突现在也有了两个版本:一个是创始人痛心疾首自己的造物误入歧途,另一个是夺权不成怀恨在心,伺机报复。
或许这两套叙事都是真相。
正如诉讼书中所说的那样,如果没有马斯克的参与和支持,OpenAI可能永远也不会起步。
但即便如此马斯克依旧低估了自己,实际上他不止塑造了OpenAI一次,今天OpenAI转向成为「微软的子公司」,其实也与他过于旺盛的控制欲,对AI的焦虑,以及放弃支持OpenAI的决定脱不开关系。
OpenAI成立之初设想的所有伟大愿景,在马斯克这里都有一个明确的竞争对象——谷歌。
2013年,在和谷歌联合创始人拉里·佩奇进行了一些马拉松式的讨论之后,马斯克开始担心AI的影响。对方几乎不关心AI可能给人类社会带来什么负面效应,而且似乎也认为机器人的权利与人类平等。当在马斯克表达自己的担忧时,佩奇指责他是「物种歧视者」。当时,谷歌聘用了世界上大部分AI人才,并且正在筹备收购DeepMind。
让一家不关心人类命运的公司来掌握顶级AI技术?马斯克不愿意看这样的事情发生。 过去的十几年甚至更长的时间里,马斯克一直活在对AI的焦虑中。他认为如果AI技术不得到合理的监管,就会像许多科幻电影里那样成为毁灭人类的武器。
《马斯克传》的作者沃尔特·艾萨克森曾在书中描述过一个奇特的场景:一个阳光明媚的春日,马斯克边上坐着希冯·齐里斯,这位脑机接口公司Neuralink的高管是她的妻子。远处一对眼眸清澈的双胞胎正在蹒跚学步。而他却在悲观地推测着AI毁灭地球之前,在火星上建立一个可持续发展的人类殖民地的机会窗口还有多久。
马斯克与希冯·齐里斯讨论AI带来的影响, 来自《马斯克传》
和佩奇谈崩后,马斯克打电话给DeepMind,试图阻止这项收购,但最终失败。于是,他决定花一些钱来支持建立一个更适合人类的AI团队,也就是后来的OpenAI。
而奥特曼恰好看起来和他有同样的焦虑。诉讼书中提到,奥特曼2014年的一篇帖子写道:如果AGI实现,将成为(社会)发展最大的动力,但不幸的是,顶尖的研究者都对此保密。2015年的另一篇帖子中,奥特曼声称AI的发展可能是对人类生存最大的威胁,必须要与之抗争。
对大公司秘密掌握AI技术不满。认为AI有可能对人类生存产生威胁。显然,这两种观点就是解锁马斯克支持的咒语。在他看来,OpenAI自始至终就是(并且应该是)对抗谷歌这样的「科技寡头」而存在的独立实验室,宛如黑客帝国里人类幸存者最后的都市Zion。
因此,当谷歌在2016年以后接连在AI领域取得大踏步式成就时,马斯克感到了前所未有的危机感。OpenAI与谷歌之间的差距正在拉大,他认为一定是机构的管理出现了问题,摆在面前的两个选项一个是放弃,而另一个是由自己来将它扭回正轨。
这两个选择他都做了。
在OpenAI披露的几封邮件中,马斯克阐述了自己将如何支持OpenAI与谷歌竞争。
在他看来,OpenAI正在烧钱,而投入研究的经费无论如何也不可能与巨头谷歌相竞争,这意味着OpenAI的任何公开研究对谷歌来说都很容易复制甚至被直接兼并。
而特斯拉如果自动驾驶技术进展顺利,从投资价值上来说或足够与谷歌对垒,OpenAI将特斯拉作为「现金牛」是一个不错的选择。
听起来不错,但别忘了当时是2018年,正在跨越「产能地狱」的特斯拉能不能活下去都是一个问题。 而作为硅谷闻名的暴君和偏执狂,愿意在马斯克手下工作的人实在不多,尤其是拒绝了「fuck money」来OpenAI追逐理想的顶尖程序员们。
所谓的「Fuck money」是硅谷大公司抢夺人才间的基本操作,一些大公司为了防止顶尖人才流入其他公司,开高薪养他们,即便不做任何工作。
在OpenAI明确表达拒绝成为「马斯克宇宙」的一部分之后,马斯克在当年早些时候的一次全体会议上告别,会上他预测OpenAI将失败,并至少称其中一名研究人员为「jackass(蠢驴)」。
据说,OpenAI后来给这名员工发了一座刻着jackass的奖杯。
OpenAI虽然守住了「主权」,但海量研发经费从何而来的问题却前所未有的棘手,马斯克离开时顺便切断了对它们的资金支持。
与马斯克不同,当时奥特曼还不知道如何带领一家机构走向成功。虽然他已经创业过一次,但骨子里依旧是一个浪漫的技术主义者。这份特质在他身上已经存在了数十年,从手指几乎无法覆盖键盘起就一直在编码。
奥特曼的8岁生日礼物是一台Macintosh LC II。一天晚上,他玩到很晚的时候,脑海里突然闪出一个想法:“有一天,这台计算机将学会思考。”
计算机与人类共存,甚至比人类更出色的想法让奥特曼兴奋不已。但当这个关于AI的梦想需要来自人类社会的资金支持,并且责任落在奥特曼头顶时,他确确实实慌了。
“Elon正在切断他的支持,我们应该怎么办?”
马斯克离开后,奥特曼惊慌失措地打电话给OpenAI当时的另一名董事里德·霍夫曼寻求帮助,后者慷慨地提供了公司的管理费用和工资,但进行研发和模型训练的费用仍不知下落。
终于,微软登场了。
站在后来者的立场,这家企业超越苹果问鼎全球市值第一,OpenAI功不可没。过去一年时间里,它的股价累计上涨了57%,观察者普遍认为得益于OpenAI提供了顶尖的AI技术。去年2月微软推出结合OpenAI技术的最新版Bing搜索引擎时,CEO纳德拉不无得意地表示,谷歌面临微软带来的更激烈的搜索竞争,“我们让他们(谷歌)‘跳舞’。”
奥特曼与纳德拉,图源:路透社
而在这场被马斯克诟病的合作萌芽之初,奥特曼考虑的问题实际上很简单——谁能提供训练GPT所需的计算资源?
GPT系列的每次迭代都需要指数级的计算能力——GPT-2拥有超过10亿个参数,而GPT-3将使用1750亿个参数。“OpenAI现在就像《大白鲨》中的昆特,在鲨鱼猎人看到大白鲨的尺寸后,结果不知道他们需要多大的船。”长期关注OpenAI的科技作家史蒂文·利维这样描述当时奥特曼的困境。
OpenAI的选择并不多,“我们很快就瞄准了微软”,奥特曼说。
Azure(微软的云业务)是少数能支撑GPT训练的云厂商,因此微软最初投资OpenAI的10亿元能够通过云业务稳定收回,是一笔相当划算的交易。
经过多年的磨合,OpenAI和微软已经建立起了亲密无间的合作关系。现在,微软拥有将OpenAI技术商业化的独家许可,据说还拥有OpenAI营利部门的49%股权。根据它们之间的排他性协议,OpenAI最初向所有人平等提供AI技术的愿景,似乎已经被扫进了垃圾堆。
这当然会引起马斯克的不满。
为ChatGPT设置会员,用AI技术换取微软的投资(至今已经累计130亿美元),放弃公开的承诺……马斯克为了对抗谷歌而推动成立的OpenAI,如今却转身投入了另一家科技寡头的怀抱。
诉讼书中,马斯克尤其强调了一条OpenAI与微软开展合作的原则——仅能提供AGI之前的技术。但究竟什么时候才能叫AGI?解释权掌握在它们手里。
裂痕一旦出现就无法修复,马斯克坚信“无论社会成本有多么严重,奥特曼都会尽快扩大OpenAI的规模” ,为此他引用了麻省理工的经济学家发表在泰晤士报上的一篇评论,“不受控制的增长已经成为了科技行业的信仰,而奥特曼一直是其中最尽心尽责的大祭司。”
除了OpenAI违背初心之外,马斯克还关注到了另一个关键问题。
如果OpenAI可以通过与微软共同运作营利机构的方式来发展自身,并享受着社会为非营利机构开的绿灯(比如税收减免、免于侵权危机),那么任何实体都会效仿它们的做法,这将给现有的商业规则带来颠覆性的冲击。
本质上来说,马斯克和OpenAI的恩怨其实核心就只有一个问题——是AI技术应该被大众掌握,还是被少数人掌握?
OpenAI曾经也相信AI应该被大众掌握,证明就是它面向社会公开了GPT-4以前模型的论文和代码。但在这些举措的背后,研发人员的想法也逐渐发生了变化。不是因为商业利益,而是担心AI被有心人利用而造成混乱。
担忧最早出现在GPT-2面世的时候。
GPT系列的真正孵化者弗雷德在使用互联网上的15亿个参数训练出了GPT-2后,他想起了2008年读过的一本叫做《Anathem》的书。书里描述“互联网上充斥着垃圾邮件生成器”,这让他开始重新审视自己的造物。“我开始不安地意识到这是一种真正的可能。”
弗雷德的担忧得到了OpenAI团队的认可,他们开始觉得将成果放在可以轻松访问到的地方不是一个好主意,并与一些安全团队进行了合作。最终,OpenAI暂时保留了完整版本,并向公众提供了较弱的版本。
当然,当OpenAI最终分享GPT-2的完整版本时,世界并没有发生什么改变,一切照旧。但种子已经在团队心里种下,没人敢保证更强大的模型不会带来灾难。
作为科技观察者,「硅基研究室」完全能理解OpenAI团队对于AI技术公开的担忧。过去一年时间里涌现出的新型AI诈骗已经让人坐立难安,尤其是那些不关注科技前沿动态的人,很难从以假乱真的AI产品中找到真相。
事实上,2015年OpenAI正式启动时,前文提到的科技作者史蒂文·利维就曾问过马斯克和奥特曼相关的问题,“让AI技术变得易于使用,难道不会赋予未来的邪恶博士力量吗?”
马斯克的回答相当乐观,他认为人类总体上是善良的,因此坏人会被压垮。
真正的问题在于,AI需要被掌握在不受利润动机污染的研究机构手中,因为这些机构在追求财报数字的过程中,往往会忽视人类的真实需求。
OpenAI的董事会曾经是阻止这家非营利机构陷入逐利诱惑的「门卫」。
最初OpenAI成立营利部门时,COO莱特卡普表示,董事会将确保收入和利润的驱动力不会压倒最初的想法。而董事会成员迪安杰罗同样表示,自己将认真对待这一责任,“确保OpenAI忠于其使命”。
而如今这些门卫的权利正在被稀释。 经历CEO罢免事件后,新的董事会中新增了3名新面孔,其中一名曾担任比尔盖兹基金会的CEO。
显然,在马斯克眼里,这些变动成为了世界向《终结者》乃至《黑客帝国》极速演变的进度条,并且持同样看法的人可能不在少数。
但客观来说,马斯克的诉讼可能很难取得什么效果。他列举的所谓《协议》都只是邮件、博文、口头承诺和一些零散文件的拼凑,这些内容无法在法律上获得认同。
OpenAI投资者因此放下心来。投资人之一科斯拉在接受媒体采访时表示,马斯克不能起诉OpenAI的AI突破之路违反创始协议,因为“没有创始协议,或者根本没有任何协议”。
这句话宛如一个关于眼下AI发展的隐喻,所有人都宣称将把AI用在改善人们生活的领域,但「没有任何协议」。
参考资料:
《马斯克传》,沃尔特·艾萨克森
What OpenAI Really Wants,Steven·levy
Why Elon Musk’s OpenAI Lawsuit Leans on A.I. Research From Microsoft,The New York Times
Elon Musk Sues OpenAI and Sam Altman for Violating the Company’s Principles,The New York Times
OpenAI and Elon Musk,OpenAI
马斯克起诉OpenAI的诉讼书
本文来自微信公众号“硅基研究室”(ID:gh_4398834ca1a7),作者:白嘉嘉,36氪经授权发布。