在特斯拉CEO马斯克起诉OpenAI及管理层违背初心,过于依赖微软追求利益化后,OpenAI今日做出了公开回应。
公开信称,OpenAI的使命是确保AGI惠及全人类,这意味着既要构建安全、有益的AGI,又要帮助创造广泛的利益。OpenAI现在正在分享OpenAI在实现使命方面所学到的知识,以及有关OpenAI与埃隆关系的一些事实。OpenAI打算驳回埃隆(注:马斯克)的所有主张。
这封邮件的署名人包括Greg Brockman、Ilya Sutskever、John Schulman、Sam Altman、Wojciech Zaremba等管理层及OpenAI公司。马斯克在此前的起诉文件中点出了OpenAI公司及Sam Altman等高层,但并未指控首席科学家Ilya Sutskever。
此前,Sam Altman被解雇风波平息后,外界一度以为Ilya Sutskever要离开,但此次公开信中,lya Sutskever也参与了回应OpenAI的公开信,可以看出,关键时刻,lya Sutskever还是站出来力挺OpenAI。
OpenAI意识到构建AGI将需要比最初想象的更多的资源
据介绍,马斯克表示管理层应该宣布向OpenAI提供10亿美元的初始资金承诺。该非营利组织总共从埃隆那里筹集了不到4500万美元,从其他捐助者那里筹集了超过9000万美元。
2015年底创办OpenAI时,Greg和Sam最初计划筹集1亿美元。埃隆在一封电子邮件中表示:“OpenAI需要提供比1亿美元更多的资金,以避免听起来绝望……我认为OpenAI应该说OpenAI从10亿美元的资金承诺开始……我将承担其他人没有提供的任何资金”。
OpenAI花了很多时间试图设想一条可行的通用人工智能之路。2017年初,OpenAI意识到构建AGI将需要大量计算。OpenAI开始计算AGI可能需要多少计算量。OpenAI都知道,OpenAI需要更多的资金才能成功完成OpenAI的使命——每年数十亿美元,这远远超过OpenAI任何人,尤其是埃隆,认为OpenAI作为非营利组织能够筹集到的资金。
OpenAI和埃隆认识到需要一个营利性实体来获取这些资源
当OpenAI讨论以营利为目的的结构以进一步实现使命时,埃隆希望OpenAI与特斯拉合并,否则他想要完全控制。
Elon离开了OpenAI,表示需要有一个与Google/DeepMind相关的竞争对手,而他将自己做这件事。他说他会支持OpenAI找到自己的道路。
2017年底,OpenAI和Elon决定下一步的任务是创建一个营利性实体。埃隆想要获得多数股权、初始董事会控制权并担任首席执行官。在这些讨论期间,他扣留了资金。里德·霍夫曼弥补了工资和运营方面的缺口。
OpenAI无法与Elon就营利性条款达成一致,因为OpenAI认为任何个人对OpenAI有绝对控制权都是违背使命的。他就建议将OpenAI并入特斯拉。
2018年2月上旬,Elon向OpenAI转发了一封电子邮件,建议OpenAI应该“将特斯拉作为其摇钱树”,并评论说这是“完全正确的……特斯拉是唯一有希望与谷歌相媲美的道路”。即便如此,成为谷歌制衡的可能性也很小。它只是不为零”。
Elon很快就选择离开OpenAI,称OpenAI成功的概率为0,并计划在特斯拉内部建立一个AGI竞争对手。
当他2018年2月下旬离开时,他告诉OpenAI的团队,他支持OpenAI找到自己的融资数十亿美元的道路。2018年12月,Elon给OpenAI发了一封电子邮件,称“即使筹集数亿也不够。这每年需要数十亿美元,否则就算了。”
OpenAI通过构建广泛可用的有益工具来推进OpenAI的使命
OpenAI称,正在以多种方式广泛使用OpenAI的技术,以增强人们的能力并改善他们的日常生活,包括通过开源贡献。
OpenAI提供对当今最强大的人工智能的广泛访问,包括数亿人每天使用的免费版本。例如,阿尔巴尼亚正在使用OpenAI的工具将其加入欧盟的速度加快5.5年;DigitalGreen正在OpenAI的基础上将农业推广服务的成本降低100倍,从而帮助提高肯尼亚和印度的农民收入;Lifespan是罗德岛州最大的医疗保健提供商,它使用GPT-4将其手术同意书从大学阅读水平简化为六年级水平;冰岛正在使用GPT-4来保护冰岛语。
公开信称,Elon明白这一使命并不意味着开源AGI。正如伊利亚(Ilya)告诉埃隆(Elon)的那样:“随着OpenAI越来越接近构建人工智能,开始减少开放是有意义的。openAI中的开放意味着每个人都应该从AI构建后的成果中受益,但不分享科学也是完全可以的……”,Elon回答道:“是的”。
“我们很遗憾,我们非常敬佩的人走到了这一步——他激励OpenAI设定更高的目标,然后告诉我们OpenAI会失败,创立了一个竞争对手,然后在我们开始朝着OpenAI的使命取得有意义的进展时起诉OpenAI没有他。”
OpenAI专注于推进OpenAI的使命,并且还有很长的路要走。随着OpenAI不断改进OpenAI的工具,OpenAI很高兴能够部署这些系统,以便它们为每个人提供帮助。
马斯克起诉OpenAI:违背初心
这之前,马斯克发起诉讼称OpenAI达到AGI阈值后,本应为人类的利益而非任何盈利公司或个人利益开发AGI,公司管理层却从其使命中根本性偏离,违反了成立协议。GPT-4是一个完全封闭的模型。GPT-4 的内部设计仍然是秘密,没有任何代码被发布,只是发布了吹嘘其性能的新闻稿。GPT-4 的内部细节只有OpenAI和据信是微软知道。
因此,GPT-4 与“开放的AI”完全相反。它因商业专有原因而被封闭:微软通过向公众销售GPT-4而获利颇丰,如果OpenAI 如其所需那样使技术免费向公众开放,则不可能实现。与成立协议相反,OPenAI管理层选择使用GPT-4不是为了人类的利益,而是作为专有技术来为世界上最大的公司最大化利润。此外,OpenAI整个开发现在被保密,公众只能通过谣言和零散的通信片段来了解下一步可能发布的内容。
OpenAI还在开发一个名为 Q* 的秘密算法。尽管 Q* 的具体内容尚不清楚,但几名 OpenAI 员工写了一封信,警告 Q* 的潜在力量。看来 Q* 现在或将来可能是OpenAI 开发的更清晰、更显著的AGI 的一部分。作为 AGI,它将明确不在OpenAI与微软许可范围内,并且必须为了广泛的公众利益而提供。
公众仍然对董事会的“审议性审查过程”揭示了什么导致Altman最初被解雇一事一无所知。但一件事是清楚的:OpenAI放弃了其“不可撤销”的非盈利使命,转而追求利润。许多领袖和知识分子已经公开评论了OpenAI变成“封闭的、盈利的 AI”这一讽刺和悲剧。
虽然OpenAI曾是基于公开与公众沟通的安全、负责任的AGI开发的先驱,但现在已经关闭了大门,将其盈利子公司的最大投资者带到唯一对人类负有受托责任的董事会,并继续秘密地朝着以利润为中心的未来前进,可能对人类产生灾难性的后果。想象一下捐款给一个声称其使命是保护亚马逊雨林的非盈利组织,但非盈利组织创建了一个盈利的亚马逊伐木公司,使用捐款的成果清除雨林。这就是OpenAI的故事。
马斯克还披露,在解雇发生时,微软只支付了对OpenAI承诺的100亿美元投资中的一小部分,给了微软对“独立”非盈利董事会严重影响力。此外,如果微软撤回其云计算系统——OpenAI 依赖的系统,该公司将无法运作。
来源:雷递网
东南大学附属中大医院 2024-10-31
亚远景科技 2024-10-31