智东西(公众号:zhidxcom)
作者 | ZeR0 程茜
编辑 | 漠影
智东西3月6日消息,就在刚刚,OpenAI正式发布公告,对被马斯克(Elon Musk)起诉正式作出回应,驳斥马斯克的多项指责。(突发!马斯克状告OpenAI,称自己被骗惨了,要求赔钱、开源)
值得注意的是,OpenAI多位联合创始人——总裁Greg Brockman、首席科学家Ilya Sutskever、首席执行官Sam Altman、首席架构师John Schulman、Wojciech Zaremba以及OpenAI均出现在作者栏。Ilya Sutskever署名的出现,也击碎了此前盛传他已经离开OpenAI的传言。
上周五,马斯克向旧金山高等法院提交46页诉讼文件,状告OpenAI CEO Sam Altman、总裁Greg Brockman以及OpenAI多个实体,痛斥OpenAI违背初衷,称自己被OpenAI骗钱骗人骗技术,并检举揭发了OpenAI五大“罪状”。
▲马斯克诉讼文件的原告、被告截图
对此,OpenAI在公告中回应称,马斯克是其团队“深深敬佩的人”,对于走到这一步深感遗憾,说是马斯克激励了他们追求更高的目标,然后突然给他们泼冷水,当他们在没有马斯克的情况下取得进展的时候,马斯克又来起诉他们。
▲OpenAI公告相关信息截图
根据OpenAI的回应:
1、马斯克对OpenAI需要成立营利性实体是知情的,他清楚非营利组织无法筹集到足够的资金。
2、马斯克曾想将OpenAI和特斯拉合并,想完全控制OpenAI并担任CEO,并建议OpenAI把特斯拉当作摇钱树。计划没实现后,马斯克离开OpenAI,还说OpenAI成功的概率为0。
3、马斯克清楚OpenAI迈向其使命的行动不意味着开源通用人工智能(AGI)。
最后,OpenAI附上马斯克发送的4封邮件,佐证其回应内容的真实性。
公告全文如下:
OpenAI的使命是确保AGI惠及全人类,这意味着既要构建安全、有益的AGI,又要帮助创造广泛的利益。我们现在正在分享我们在实现使命方面所学到的知识,以及有关我们与埃隆关系的一些事实。我们打算驳回埃隆的所有主张。
1、我们意识到构建AGI将需要比我们最初想象的更多的资源
Elon说,我们应该宣布向OpenAI提供10亿美元的初始资金承诺。这家非营利组织总共从Elon那里筹集了不到4500万美元,从其他捐助者那里筹集了超过9000万美元。
2015年底创办OpenAI时,Greg和Sam最初计划筹集1亿美元。Elon在一封电子邮件中写道:“我们需要比1亿美元更多的资金,以避免听起来毫无希望……我认为我们应该说,我们将从10亿美元的融资承诺开始……我将承担其他人没有提供的任何资金”。[1]
我们花了很多时间试图设想一条通向通用人工智能(AGI)的可行路径。2017年初,我们意识到构建AGI将需要大量的计算。我们开始计算AGI可能需要多少计算量。我们都明白,我们需要更多的资金——数十亿美元——才能成功完成我们的使命,这远远超过我们所有人,尤其是Elon,作为一家非营利组织所能筹集到的资金。
2、我们和Elon都认识到需要一个营利性实体来获取这些资源
为了推进使命,我们讨论了一个以营利为目的的结构,Elon希望我们与特斯拉合并,或者他想要完全控制。Elon离开了OpenAI,说需要有一个与Google/DeepMind相抗衡的竞争对手,而他将亲自去做这件事。他说他会支持我们找到自己的路。
2017年底,我们和Elon决定下一步的任务是创建一个营利性实体。埃隆想获得多数股权、初步控制董事会并担任CEO。在这些讨论期间,他扣留了资金。Reid Hoffman填补了工资和运营方面的缺口。
我们无法与Elon就营利性条款达成一致,因为我们认为任何个人对OpenAI拥有绝对控制权都是违背使命的。然后他建议将OpenAI并入特斯拉。2018年2月上旬,Elon向我们转发了一封电子邮件,建议OpenAI应该“将特斯拉当作它的摇钱树”,并评论说这是“完全正确的……特斯拉是唯一有希望与谷歌匹敌的道路”。即便如此,与谷歌抗衡的可能性也很小。它只是不为0”。[2]
Elon很快选择离开OpenAI,说我们成功的概率为0,并计划在特斯拉内部建立一个AGI竞争对手。当他在2018年2月下旬离开时,他告诉我们的团队,他支持我们找到自己的路来融资数十亿美元。2018年12月,Elon给我们发了一封电子邮件,称“即使筹集到数亿也不够。这每年需要数十亿美元,否则就算了。”[3]
3、我们通过构建广泛可用的有益工具来推进我们的使命
我们正在以多种方式广泛使用我们的技术,包括通过开源贡献,来增强人们的能力并改善他们的日常生活。
我们提供对当今最强大的人工智能的广泛访问,包括每天有数亿人使用的免费版。例如,阿尔巴尼亚正用OpenAI的工具,将其加入欧盟的速度加快5.5年;Digital Green正借助OpenAI将农业推广服务成本降低100倍,从而帮助提高肯尼亚和印度的农民收入;罗德岛州最大的医疗保健提供商Lifespan用GPT-4将手术同意书从大学阅读水平简化为六年级水平;冰岛正用GPT-4来保护冰岛语。
Elon明白这一使命并不意味着开源AGI。正如Ilya对Elon说的:“随着我们越来越接近构建人工智能,开始减少开放是有意义的。OpenAI开放意味着每个人都应该从人工智能的成果中受益,但不分享科学也是完全可以的……”对此,Elon回答道:“是的”。[4]
我们很遗憾,我们深深敬佩的人走到了这一步——他激励我们追求更高的目标,然后告诉我们我们会失败,创建了一个竞争对手,当我们在没有他的情况下开始朝着OpenAI的使命取得有意义的进展时,他起诉了我们。
我们专注于推进我们的使命,并且还有很长的路要走。随着我们的工具不断改进,我们很高兴能够部署这些系统,以便它们为每个人提供帮助。
[1] 2015年11月邮件 主题:电话跟进
博客听起来不错,假设中立性与以YC为中心的调整。
我倾向于将博客定位为吸引更多公众——拥有公众的支持对我们的成功有很大价值——然后有一个更长、更详细和内部信息版本的招募,在公众版本的末尾有一个链接。
我们需要一个比1亿美元更大的数字,以避免与谷歌或Facebook的支出相比显得毫无希望。我认为我们应该说,我们从10亿美元的资金承诺开始。这是真的。别人没提供的,我来负责。
模板看起来不错,除了默认变成可授予的现金红利,可以选择将其转换为YC或潜在的SpaceX(需要了解具体金额)股票。
[2] 2018年2月邮件 主题:今天的顶级AI机构
马斯克转发评论:
xx是完全正确的,我们可能不希望如此,但是,在我和xx看来,特斯拉是唯一在追赶谷歌的道路上有希望的公司,即便如此,特斯拉成为谷歌制衡对手的可能性仍然很小,只是不为0。
被马斯克转发内容:
不幸的是,AI等前沿技术的研发成本高昂。除了DeepMind外,谷歌还有谷歌大脑(Google Brain)、谷歌研究院(Google Research)和谷歌云,还有深度学习框架TensorFlow、TPU芯片,这家公司拥有大约1/3的研究成果,而且他们还会举办自己的AI会议。
我强烈怀疑计算能力对于实现AGI是必要的,甚至可能现在已经足够。从此前的历史发展趋势来看,AI的进步主要由系统驱动,包括计算、数据和基础设施。目前,我们使用的核心算法与20世纪90年代相比基本没有变化。不仅如此,在一些论文中发表的任何算法进步几乎都可以立即重新实现和合并。如果没有足够的规模,算法的进步本身不会产生可怕的影响。
在我看来,OpenAI现在正在烧钱,而且融资规模无法达到与市值8000亿美元(2018年)谷歌竞争的水平。
如果OpenAI无法与谷歌匹敌,但仍继续公开进行研究,这可能会让事情变得更糟,因为OpenAI的任何技术进步对谷歌而言都很容易复制并立即大规模合并。
随着时间的推移,公司以营利为目的的支点可能会创造更可持续的收入,并在当前团队的帮助下,可能会带来大量投资。
然而,从头开始构建产品会抢走AI研究的焦点,这还会耗费大量时间,同时无法预知未来是否能达到与谷歌相当的规模,并且投资者可能会在错误的方向上施加压力。
正如我之前提到的,我能想到的最有希望的选择是让OpenAI依附特斯拉作为其摇钱树。我相信,由于公司DNA不兼容,OpenAI与其他苹果、亚马逊等大公司的连接将会失败。
用火箭来比喻,特斯拉已经用Model 3的整个供应链及其车载计算机、互联网连接建造了火箭的“第一阶段”。
“第二阶段”将是基于大规模神经网络训练的全自动驾驶解决方案,OpenAI的专业知识可以帮助其加速研究。
有了功能齐全的自动驾驶解决方案,我们可以在大约2-3年内销售大量汽车、卡车。如果我们做得很好,交通运输行业足够大,就可以将提高特斯拉的市值,并使用该收入来支撑相应规模的AI研究。
我看不出OpenAI在十年内达到与谷歌规模相当的可持续发展潜力。
[3] 邮件主题:我觉得我应该重申
在执行和资源没有发生巨大变化的情况下,我对OpenAI与Google DeepMind相关的概率评估是0%,不是1%。我希望情况并非如此。
OpenAI就算筹集到几亿美元也不够,研究每年需要花费数十亿美元,否则就算了。
不幸的是,人类的未来掌握在xx。
他们所做的远不止于此。
我真希望我是错的。
[4] 邮件主题:祝贺猎鹰9号成功
马斯克转发他收到的邮件:
嗨 Elon
祝你新年快乐!
恭喜猎鹰9号火箭着陆,这是多么了不起的成就,现在是时候组建舰队了!
我看到你、Sam和其他OpenAI员工最近做了很多采访,赞扬开源AI的优点。但我想你意识到了这并不是某种能够神奇地解决安全问题的灵丹妙药,关于为什么你所采取的方法实际上非常危险并且实际上可能会增加世界的风险,有很多很好的论据。
这篇博文中阐述了一些更明显的观点,我相信你已经看到了,但还有其他重要的考虑因素:
http://slatestarcodex.com/2015/12/17/should-ai-open/(注:博客中为Musk、Altman与美国Medium平台记者Steven Levy的访谈。)
我很想听听你对这些观点的反驳。
Ilya Sutskever回复邮件:
这篇文章涉及一种艰难起飞场景,如果发生硬起飞,安全的AI比不安全的AI更难构建。开源一切的话,我们会让那些不道德的人轻松地使用大量硬件来构建不安全的AI,将经历艰难起飞。
随着我们越来越接近构建AI,开始减少开放是有意义的。OpenAI中的开放意味着每个人都应该从AI构建后的成果中受益,但不分享科学是完全可以的。不过在短期和中期内,出于招聘目的去分享一切绝对是正确的策略。
马斯克回复邮件:
是的