当前位置:首页|资讯|马斯克|阿尔特曼|OpenAI|人工智能

马斯克大战OpenAI:“开源”之争,敲响人工智能安全警钟?

作者:澎湃新闻发布时间:2024-03-08

原标题:马斯克大战OpenAI:“开源”之争,敲响人工智能安全警钟?

“美好的愿景是人类和人工智能形成一种共生关系。”山姆·奥特曼说完之后看向埃隆·马斯克。后者接过话头,“我同意山姆所说的,我们已经像赛博格一样工作。不过需要谨慎对待人工智能的发展,确保它最终对人类有利。”

上述对话发生在9年前,两人在美国一档谈话节目中相邻而坐,探讨有关未来创新、地外生命、创业精神等广泛的前沿话题,冷静地阐述那些雄心勃勃的蓝图。彼时,马斯克对人工智能(AI)兴趣盎然,但因忧虑安全问题而难觅志同道合者。在他眼中,身旁的年轻人不仅是科技孵化器Y Combinator的总裁,还是一名生存主义者,对AI有共同的紧张感。也正是在2015年,他们携手创办了一个非营利性人工智能研究实验室“OpenAI”,对抗以谷歌为代表的科技巨头。

然而不到三年,马斯克以“利益冲突”为由退出OpenAI董事会。事到如今,马斯克与奥特曼彻底决裂,旧日愿景却成矛盾焦点。

今年2月29日,马斯克突然在旧金山法院对OpenAI及公司首席执行官奥特曼和总裁布罗克曼提起诉讼,他斥责奥特曼违背“初心”,要求OpenAI恢复开源并给予赔偿。对此,包括奥特曼在内的OpenAI 五位联合创始人撰文回应,逐一驳斥各项指控,并曝光了马斯克与他们的大量往来邮件,试图证实马斯克唯利是图。

这一场纷争不仅是马斯克与奥特曼之间的极限拉扯,也是AI狂潮下科技巨头们合纵连横的一个侧面,涉及OpenAI背后的“金主”微软公司,还有马斯克旗下的特斯拉和人工智能初创公司xAI等。围观商斗之外,针对AI未来发展的分歧与辩论或许更值得探究。

非营利与营利

马斯克向旧金山法院提交的诉状洋洋洒洒写了35页,最大“罪状”指向OpenAI为逐利而放弃了最初使命——“开发造福人类的人工智能技术”。马斯克声称,OpenAI与微软的合作伙伴关系已将这家公司转变为微软“事实上的闭源子公司”,专注于利润最大化。

随后,OpenAI发文反击:“很遗憾,我们非常敬佩的一个人走到了这一步——他激励我们设定更高的目标,然后却告诉我们会走向失败,而他自己创立了一个竞品。当我们在没有他的情况下开始朝着OpenAI的使命取得有意义的进展时,他又起诉了我们。”短短几句话浓缩了马斯克与OpenAI这些年的恩怨情仇。

OpenAI在3月5日释放出马斯克与其联合创始人的邮件内容,曝光当初所有创始人同意创建一个营利性实体支撑OpenAI运转,不过马斯克希望获得该实体的大部分股权、初始董事会控制权并担任首席执行官,而其他创始人不同意。随后马斯克建议将OpenAI并入特斯拉,OpenAI团队也拒绝了这个想法,导致双方决裂。

著名传记作家艾萨克森所写的《埃隆·马斯克传》,一部分内容印证了上述说法。书中提到了马斯克希望在其旗下各家公司发展人工智能能力,试图说服奥特曼将OpenAI并入特斯拉,理由是当时OpenAI发展3年依然落后于谷歌。

如今马斯克和OpenAI互相斥责利欲熏心,商人逐利实则无可厚非,不过马斯克控诉OpenAI违背了创始协议,即维持这家公司的性质是“非营利”。而奥特曼反指马斯克未兑现承诺,根据邮件内容,马斯克称OpenAI融资规模应该从10亿美元起步,并承诺“对于其他人未提供而出现的缺口,我将负责补足。”

OpenAI在3月5日的发文中表示,作为非营利公司时,收到马斯克的款项不足4500万美元,从其他捐助者那里筹集了超过9000万美元。显然,这笔数目远不足以支撑该公司构建通用人工智能(能够模仿和执行任何人类智能活动,甚至在各种认知任务中表现得比人类更好的人工智能。)的目标。微软成了救局者。

就在马斯克2018年退出OpenAI董事会后,在保持非营利的同时,奥特曼又成立了一个筹集股权基金的营利性部门(但这个营利部门的营收有一个上限。在达到这个上限之后,营利实体所得的一切都要归还给非营利的研究实验室。)。一年后,微软向该公司投资了10亿美元,在接下来几年又陆续投资120亿美元,为OpenAI构建生成式人工智能技术的所需买单。作为回报,OpenAI向微软Azure 云计算产品的客户提供了多项AI服务。微软从2023年1月开始对OpenAI持股49%,目前为止仍是最大股东之一,OpenAI的非营利性母公司则持有 2% 的股份。随着同年聊天机器人ChatGPT问世,微软股价大涨,并可以顺理成章地访问GPT大语言模型和相关软件。

在马斯克看来,OpenAI走上了背靠微软营利的道路,与创立时的初心背道而驰。这要追溯到OpenAI成立的2年前,2013年谷歌公司在AI领域率先布局,马斯克在他42岁的生日派对上,和相识10多年的谷歌创始人拉里·佩奇激烈辩论人工智能的风险,前者主张建立“防火墙”防止AI取代人类,担忧人类意识消亡。后者不以为然,认为机器的智力和意识超越人类意味着进化的下一阶段。

马斯克声嘶力竭却没能制止拉里·佩奇的野心。谷歌在2014年1月宣布收购致力于实现通用人工智能(AGI)的公司DeepMind,并为之创建安全委员会,马斯克作为委员之一对谷歌非常不满,认为委员会徒有其名,根本不关心AI的安全问题。

随着谷歌在AI领域不断发力,马斯克四处奔走警告AI对人类生存的威胁,甚至在2015年约到了与时任总统奥巴马的一对一谈话。多年后,他回顾那次会谈内容说,没有借机推广特斯拉或Space X,而是敦促美国政府推进AI监管,但是没能引起足够的重视。

屡遭挫败后,马斯克决定寻找搭档一起入局AI领域,他找到了比他小14岁的奥特曼,两人一拍即合,认为提升AI系统安全性的途径之一是,拥有大量彼此竞争的系统相互制衡。因此他们决定成立一家非营利AI公司,发展一种不受任何个人和公司控制的AI。

而且,马斯克给这家公司取名OpenAI,是希望实现真正的开放,让其他人根据源代码建立各自的AI系统,以达到制衡目的。而如今,是否开源也成为争议的焦点。

OpenAI还是ClosedAI

“将OpenAI改名为ClosedAI,我就取消诉讼。”当地时间3月6日,马斯克在社交平台X上发文,并附上了一张修图后的照片,画面中奥特曼手握的工牌上显示“ClosedAI”图标。

马斯克以此讽刺OpenAI不够开放,但是开放的精准定义是什么,双方的看法并不一致。

截屏图

OpenAI首席科学家伊尔亚·苏茨克维2016年在电子邮件中写道:“OpenAI中的开放意味着每个人都应该从人工智能构建后的成果中受益,但也可以不分享科学成果。”马斯克在回应中回答说:“是的。”OpenAI认为这封邮件足以证实,开放的意义是广义的,而非绝对的“开源”。

2023年3月,OpenAI发布了AI语言模型GPT-4,并分享了GPT-4的大量测试结果以及一些有趣的演示,但基本上没有提供有关用于训练系统的数据、用于创建该系统的特定硬件或方法的信息。人工智能界的许多人批评了这一做法,指出它破坏了该公司作为研究组织的创始精神。更重要的是,面对GPT-4等人工智能系统构成的威胁,开发有针对性的风险防护措施变得更困难。

伊尔亚·苏茨克维在接受美媒采访时,阐释了OpenAI不分享更多有关GPT-4信息的原因——对竞争和安全的担心是“不言而喻的”。就安全考虑,他指出,这些模型非常强大,而且会变得愈发强大。某些时候,一些人如果利用这些模型可以非常容易地制造巨大的伤害。随着模型能力的提高,不想公开它们也是有道理的"。

当时,马斯克就开源问题“约谈”奥特曼,称OpenAI是作为开源的非营利性公司创立,目的是与谷歌抗衡,而现在却成为“封闭源代码”的公司,“如今落入了无情的垄断企业之手”。对此,奥特曼表示自己没有从这家初创公司大举获利,他理解马斯克的批评是真实的担忧,但是认为他还没有完全认识到人工智能安全问题的复杂性。

坚定的开源主义者不只马斯克,OpenAI开发者关系负责人洛根(Logan Kilpatrick)也是其中之一。他3月1日在社交平台上宣布辞职,并发出一番感慨“一个开源的AI对于开发者、商业以及全人类来说都会是一种纯粹的胜利。”一些开发者猜测围绕“开源”的分歧是其离开的原因。此前的 OpenAI“宫斗”之争,实质上也是关于 AI 发展的“理念之争”——到底是加速 AI 的商业化进程,还是确保 AI 的安全性再推向全世界。

不过,此时对于马斯克而言,针对OpenAI的官司即使打不赢,他仍然有其他“武器”捍卫其坚持的AI安全。

找出终极问题的答案

通过诉讼和社交平台上的大胆发言,马斯克对OpenAI、谷歌、微软等科技巨头一一出拳,像一名角斗士冲入人工智能的战局,寄希望于他在去年创立的人工智能公司xAI大杀四方。

在马斯克的设想中,xAI不仅要打造出能编写计算机程序的AI机器人,以及一款能与OpenAI的GPT系列聊天机器人匹敌的竞品,更重要的是实现“能够最大限度追求真理的人工智能,他关心对宇宙的理解,带来的结果是它想要保护人类。”

毫无疑问,xAI的起步较晚,在这个日新月异的领域处于劣势,目前为止拥有的唯一值得关注的产品是聊天机器人Grok。xAI团队强调,Grok比其他聊天机器人更具幽默感,它旨在模仿《银河系漫游指南》一书,用“一点点的智慧”来回答问题,还有着“一点点的叛逆”。这本书曾将马斯克从青春期的抑郁状态中拯救出来,其中将超级计算机的使命定义为“找出关于生命、宇宙和万物终极问题的答案”。

目前的Grok跟此前OpenAI发布的GPT-3.5形式差不多,但是测试结果显示,它在数学、代码和多学科知识评测中比GPT-3.5表现得更好。而且Grok拥有的先天优势在于,能够从X平台获取实时信息。

马斯克坐拥一笔庞大的数据资产——X平台(原推特)的信息流,可以用来“喂养”人工智能,接受现实中人类发言和对话信息的训练。他曾表示,这是收购推特的附加福利。另外,他还有来自特斯拉的导航和视频数据,可能将使其团队开发的聊天机器人不限于文本生成。

据美媒报道,马斯克计划在3月下旬通过一轮私人融资筹集10亿至30亿美元,他个人可能也会进行投资,届时xAI估值可能高达200亿美元。但是今年早些时候,面对媒体的询问,马斯克一再否认xAI 正在筹集资金。即使达到200亿美元的估值,仍然只是OpenAI目前的一小部分。今年2月,随着OpenAI与风险投资公司Thrive capital达成最新股票出售协议,OpenAI的估值已经提高到800亿美元以上。

活跃在当今舆论场上的马斯克有时看起来像不可理喻的怪咖,语出惊人、四面树敌,有时又像天真的孩童对科学充满好奇和无边无际的想法。围绕人工智能,他对于安全性的执念难以被评判,但其警示的该领域的未来发展不容忽视。

“要让人工智能帮助我们了解宇宙的真正本质,它必须能够摒弃流行却错误的东西,而选择不流行但正确的东西。”马斯克3月5日在x平台上说道。

(澎湃新闻记者陈文静对本文亦有贡献)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1