OpenAI首席科学家做出悲剧性误判？因担心超级AI联合体颠覆现实世界

划重点

• 1、OpenAI首席科学家苏茨凯弗在解雇奥特曼过程中，可能充当了“刺杀恺撒”的关键角色。
• 2、苏茨凯弗为人低调，给人的印象是他绝不是个特别适合搞政变的人。
• 3、苏茨凯弗透露，大语言模型最初并非是OpenAI的重点，他们瞄准的是AlphaGo。
• 4、苏茨凯弗担心奥特曼发布的定制GPT失控，组成有苹果50个大的AI联合体，颠覆现实世界。

腾讯科技讯 据外媒报道，作为人工智能研究公司OpenAI的联合创始人、首席科学家以及董事会成员，伊利亚·苏茨凯弗（Ilya Sutskever）向来都很低调。除了这些身份，他还是“人工智能教父”杰弗里·辛顿（Geoffrey Hinton）的学生，帮助其导师拉开了所谓深度学习革命的序幕。然而，直到最近，OpenAI董事会强行罢免联合创始人兼首席执行官山姆·奥特曼（Sam Altman），并且这出“逼宫”大戏上演连续反转后，苏茨凯弗才开始曝光在大众视线下。

2015年，在谷歌工作了一段时间后，苏茨凯弗与几位人工智能领域的知名人物共同创立了非营利性组织OpenAI，并最终成为该公司的首席科学家。据说，埃隆·马斯克（Elon Musk）认为苏茨凯弗对OpenAI的成功至关重要，为此亲自出马把他招进了公司。不过，奥特曼展示的他与苏茨凯弗之间的通信邮件显示，情况并非如此，据说是他本人将苏茨凯弗拉入伙。

尽管如此，除了在小众播客上露面，以及与麻省理工学院（MIT）研究科学家兼播客主持人莱克斯·弗里德曼（Lex Friedman）进行交流之外，在“内乱”之前，公众对苏茨凯弗似乎并没有太多印象。不像奥特曼，在过去的一年里，他已经成为人工智能的全球代言人。

01 充当“刺杀恺撒”的关键角色

苏茨凯弗引发了一系列不同寻常的事件。OpenAI前总裁兼前董事长格雷格·布罗克曼（Greg Brockman）在X（前身为Twitter）上发表的一篇文章称，苏茨凯弗当晚给奥尔特曼发了短信，问他第二天是否可以谈谈。奥特曼在那周五（11月17日）约定的时间登录了谷歌视频会议软件Google Meet，并很快得知自己被罢免了。

据悉，苏茨凯弗充当了布鲁图斯（Brutus，罗马共和国元老院议员，曾参与了刺杀恺撒的行动）的角色，由他通知奥特曼他被解雇了。半小时后，奥特曼被解职的消息开始爆发，但由于措辞模糊，以至于在几个小时内，从性丑闻到大规模贪污等，各种猜测甚嚣尘上。

对于这些最初的报道，让《大西洋月刊》科技记者罗斯·安德森（Ross Andersen）感到非常惊讶。去年春天，在为该刊物撰写一篇专题报道时，他曾对苏茨凯弗进行了一些了解。在安德森的印象里，苏茨凯弗绝不是个特别适合搞政变的人。相比之下，奥特曼可能特别适合在技术资本主义的泥沼中战斗。

到11月18日（周六）下午，奥特曼得到了OpenAI主要投资者的支持，其中包括微软。据报道，微软首席执行官萨蒂亚·纳德拉（Satya Nadella）对他没有提前收到奥特曼的解雇通知感到愤怒。奥特曼还获得了员工的支持：OpenAI 770名员工中，绝大多数人都在公开信上签名，威胁如果不恢复奥特曼的首席执行官职位，他们也将辞职。除此之外，纳德拉还公开邀请奥特曼在微软成立全新的人工智能研究部门。如果OpenAI的董事会固执己见，奥特曼可以在微软重启炉灶，并雇佣所有他以前的同事。

11月19日（周日）晚间，苏茨凯弗还在OpenAI的办公室代表董事会工作。但11月20日（周一）早上，OpenAI即将解体的前景，以及据称安娜·布罗克曼（Anna Brockman，前总裁布罗克曼的妻子，苏茨凯弗曾为他们主持婚礼）深切恳求，让他重新考虑了立场。他在X上的一篇帖子中写道：“我对参与董事会的行动深感遗憾，但我从未打算伤害OpenAI。我热爱我们共同建立的一切，我会尽我所能让公司重新团结起来。”当天晚些时候，苏茨凯弗和同事们一起在要求奥特曼回归的信上签了名，以希望尽快结束闹剧。

苏茨凯弗没有回复置评请求，我们还不清楚他最初采取这种戏剧性行动的动机是什么。他和其他董事会成员都没有发表明确的声明来解释自己的行为，他们含糊的表态表明没有发生任何突发事件。即便如此，有关这场政变的细节逐渐开始丰满起来。

02 OpenAI最初重点并非是大语言模型

《大西洋月刊》的科技记者卡伦·豪（Karen Hao）和查理·沃泽尔（Charlie Warzel）声称，OpenAI董事会对奥特曼急于推出新产品和新模型而不是为了强调安全而放慢速度的做法感到恼火。其他人则表示，他们的行动至少在一定程度上是被迫的，因为奥特曼正在进行超出界限的筹款活动，据说包括了与形形色色的投资人进行谈判，包括苹果前首席设计官乔尼·艾维(Jony Ive)、雄心勃勃的竞争对手英伟达以及来自中东的投资者。

今年4月，在苏茨凯弗比较开心的时候，科技记者安德森在位于旧金山教会区的OpenAI总部见到了他。安德森发现，苏茨凯弗是个很有深度的思想家，虽然他有时会追求神秘，但他也很风趣。苏茨凯弗当时透露，他很快将领导OpenAI的对齐研究（alignment research），即研究如何使创建的系统能够满足人类的需求和期望，其目标是防止未来人工智能违背特定个人、群体或整个社会的利益。他说，正确的对齐很重要，因为用他的话来说，超智能将是“人类的最终老板”。

苏茨凯弗显然花了很多时间思考对齐问题，但他想要制定一个战略。今年6月，安德森再次拜访了苏茨凯弗。就在几周前，OpenAI宣布，他的对齐工作将由公司的大部分计算资源提供支持，其中有些资源将专门用于构建全新的人工智能来帮助解决这个问题。在第二次对话中，苏茨凯弗谈了更多他认为未来充满敌意的人工智能会是什么样子，随着最近几天事件的发生，安德森发现自己经常想起他的描述。

苏茨凯弗说：“在我看来，未来的人工智能不是像你或我一样聪明的人，而是一个从事科学、工程、开发和制造的自动化组织。”尽管提起OpenAI，大多数人首先会想到大语言模型（比如那些支持ChatGPT的模型），但它们最初并不是该公司的重点。2016年，OpenAI的创始人被AlphaGo迷住了，这个人工智能击败了人类围棋大师。他们认为会玩游戏的人工智能才是未来。

即使在今天，苏茨凯弗仍然被他们为玩《Dota 2》而构建的人工智能代理的行为感到困扰，《Dota 2》是一款多人奇幻战争游戏。他说：“它们被局限在田野、堡垒和森林的视频游戏世界中，但他们像一个团队那样发挥作用，似乎通过‘心灵感应’进行交流，这种技能可能会推广到现实世界。看着它们，我不禁想知道，如果许多比人类更聪明的人工智能协同工作，可能会发生什么。”

03 未来AI联合体会比苹果大50倍

最近几周，他可能看到了令他觉得非常令人不安的未来。据报道，他担心奥特曼在11月6日宣布的定制GPT是迈向人工智能代理（AI Agent，即能够感知环境、进行决策和执行动作的智能实体）的危险第一步。早在6月份，苏茨凯弗就曾警告称，对人工智能代理的研究最终可能导致成百上千家人工智能机构组成庞大的“AI联合体”。如果它们联合起来，可能会像50个苹果或谷歌那样强大，这将是“巨大的、令人难以置信的颠覆性力量”。

在苏茨凯弗有关终极对齐的担忧中，反派是一个超大的苹果或谷歌。OpenAI的创始人们长期以来都处在科技巨头的阴影里，他们创办这家公司也是因为他们相信先进的人工智能很快就会出现，而且因为它会给人类带来风险，所以不应该在一家以利润为目的的大型公司内部开发。

在奥特曼的领导下，OpenAI领导层创建了一个营利性部门，并最终从微软那里接受了100多亿美元投资，这艘船就此开始启航。但至少在这种安排下，创始人仍有一定的控制权。如果他们开发了一个他们觉得太危险而不能移交的人工智能，他们总是可以在向任何人展示之前摧毁它。

苏茨凯弗可能已经撕开了那薄薄的遮羞层。如果奥特曼、布罗克曼和OpenAI的大多数员工都投奔微软，他们可能不会再有自主性。另一方面，如果奥特曼回到OpenAI，公司或多或少进行了重组，他和微软可能会坚持新的治理结构，或者至少会组建新的董事会。这一次，微软希望确保“那天”晚上的闹剧不会重演。

令人觉得讽刺的是，苏茨凯弗未能成功的政变可能更有可能让一家以利润为导向的大型企业集团开发出第一个超级危险的人工智能。在这一点上，他所能期望的最好结果是，他的故事能成为真正的教训，提醒人们，没有任何企业结构能够确保人工智能的安全发展。无论意图多么美好，都不能被信任！

本文来自“腾讯科技”，作者：金鹿，36氪经授权发布。