全人类最担心的「AI 安全」，害 Sam Altman 最终「失业」
OpenAI 的首要责任，是「对人类负责」。
作者 | 芯芯编辑 | 靖宇
好莱坞谍战片，都不敢这么拍。
当地时间 11 月 17 日，在一个视频会议上，OpenAI 的董事会突然宣布，联合创始人兼 CEO Sam Altman 即刻离职，ChatGPT 开发的关键人物 Greg Brockman 也被罢免，公司 CTO Mira Murati 则被任命为临时 CEO。
在一篇发表在 X 上的帖子中，Sam Altman 表示「我热爱在 OpenAI 的时光」，并且他将「稍后有更多关于未来的话要说」。
Greg Brockman 则表示「Sam 和我对董事会今天的做法感到震惊和悲伤」「我们会没事的。更伟大的事情即将到来。」
现在，大家都在猜，OpenAI 究竟发生了什么？为什么要解雇 Sam Altman 和罢免 Greg Brockman？
OpenAI 的董事会由 OpenAI 首席科学家 Ilya Sutskever、Quora 首席执行官 Adam D'Angelo、科技企业家 Tasha McCauley 和乔治敦安全和新兴技术中心的战略总监 Helen Toner 组成。
就在 OpenAI 宣布解职 Sam Altman 之前，llya 曾经给 Sam 发过一条短信，通知他 17 日上午加入视频会议。后来的事情大家都知道了。
从目前的信息来看，解雇一事是由董事会成员 Ilya Sutskever 通知的，这个人领导了一个AI安全团队，而临时CEO Mira Murati 也是提前知情的。
而导致 Sam Altman 最终被踢走，可能并非首席科学家 llya 的「宫斗」，而是整个 AI 行业都在谈论，也让全球监管最担心的，「安全」问题。
01
「安全」分歧
在 Sam Altman 被解雇前，OpenAI 内部关于AI安全性的分歧和争论一直存在。
今年夏天，OpenAI 成立了一个安全团队，致力于寻找防止 AI 失控的技术解决方案，了解和限制 AI 对社会的危害，如滥用、经济混乱、虚假信息、偏见和歧视、成瘾和过度依赖等，并称要将公司获得的 20% 的算力用于这项工作。
领导该安全团队的其中一个人，是OpenAI的联合创始人、首席科学家兼董事会成员 Ilya Sutskever，也正是这个人，对 Sam Altman 下了解雇通牒。
Sam Altman 和 Ilya Sutskever（右）在特拉维夫一个活动上｜qz.com
根据 Greg Brockman 的说法，美国时间 11 月 16 日晚上，Sam 收到了 Ilya 的一条短信，要求周五中午谈话。Sam 加入了一个会议，除了 Greg 外，整个董事会都在那里。Ilya 告诉 Sam 他被解雇了，消息很快就会发布。
11 月 17 日中午，Greg 收到 Ilya 的一条短信，要求进行一次快速通话。Ilya 发送了一个会议链接，Greg 随后被告知他将被从董事会移除，但公司将保留他的角色。
Greg 是 OpenAI 最早的几名员工之一，花了大量时间编写软件，是开发 ChatGPT 和其他核心产品的关键人物，持有公司股权，在董事会解雇 Sam Altman 几小时后，他选择辞职，或许因为他是 Sam Altman 的亲密盟友。
大约在同一时间，OpenAI 发布了一篇博客文章。称「Altman 先生的离职是在董事会进行审议审查过程后得出的结论，他在与董事会的沟通中始终不坦诚，这阻碍了其履行职责的能力。董事会对他继续领导 OpenAI 的能力不再有信心。」
大家都在质疑，这是否是发生在 OpenAI 的一场恶意的「政变」。被解雇的 Sam Altman 得到一大片支持和惋惜之声。
前谷歌CEO 埃里克·施密特 Eric Schmidt 直接称 Sam Altman 是英雄，赞他将 OpenAI 从无到有转变 900 亿美元的非凡估值。Airbnb 首席执行官 Brian Chesky 也加入了对 Sam Altman 的赞扬行列，称他是这一代人中最优秀的创始人之一。
在解雇 Sam Altman 后临时召开的全员会议上，面对「政变」的指控，Ilya 的回应据称是，「你可以这样说」「但我不同意」，他认为「这是董事会履行其非营利组织使命的责任，即确保OpenAI构建造福整个人类的 AGI」。
在发给员工的内部备忘录中，临时 CEO Mira Murati 提到「我们的使命和共同开发安全有益的 AGI 的能力」。她称 OpenAI 有三个支柱，包括「最大程度地推进我们的研究计划，我们的安全和对齐工作——特别是我们在科学上的预测能力和风险方面的能力，以及以有益于所有人的方式与世界分享我们的技术。」
Ilya Sutskever、Sam Altman、Mira Murati、Greg Brockman｜Wired
OpenAI 成立于 2015 年，成立之初就定位为一家非营利组织。然而，在 2019 年，OpenAI 进行了重组，Sam Altman 成为 OpenAI 首席执行官，他帮助创建了一家名为 OpenAI LP 的营利性子公司，以便从微软等外部投资者那里筹集资本，用于训练 AI。而 OpenAI 本身仍然是一个由董事会管理的非营利组织。
Altman 在筹集资金方面发挥了关键作用，包括从微软那里获得的 100 亿美元。尽管 OpenAI 给投资者设定了一个利润上限，OpenAI 的估值如今已经达到 850 亿美元，据 Sam Altman 最近告诉员工，OpenAI 正在产生 13 亿美元的年化收入。
另一边，对于 AI 安全性的担忧，以及 OpenAI 的商业化，也分裂了 OpenAI 内部的管理层。就在 2020 年底，OpenAI 的一帮员工离开了公司，创立了 AI 公司 Anthropic，这家公司以安全为卖点，创始人还直接对外表示离开是因为对 OpenAI 商业化和战略的不满。
Ilya 也一直担心未来几年强大 AGI 的危险，此前，在 OpenAI 的一篇博客文章中，他写道「巨大的超级智能力量可能非常危险，并可能导致人类被剥夺权力甚至人类灭绝。」
在解雇 Sam Altman 后，OpenAI 董事会在一份声明中续称，「OpenAI 旨在推进我们的使命：确保人工智能造福全人类。董事会仍然完全致力于为这项任务服务。」
02
到底哪里「不坦诚」？
除了「安全」问题，OpenAI 董事会所说的 Sam Altman「不坦诚」方面，从现有消息看，Sam Altman 是否隐瞒了支出也存在质疑。
11 月 15 日，就在 Sam Altman 被解雇的前两天，OpenAI 颇具争议地宣布将停止 ChatGPT Plus（每月 20 美元的高级版本）的新注册。这在一定程度上凸显了成本和营收的问题。
内部消息人士称，OpenAI 在每个 ChatGPT Plus 用户身上都在亏损，并且需要时间来增强服务器容量。
这与 Sam Altman 被解雇的时间太过重合，以至于部分人士猜测，Sam Altman 是否向董事会歪曲了财务数据、用户数量或云计算成本？支出是否高于预期？或者他是否阻碍了董事会获取相关信息？
另一个侧面的证实联系是，董事会还解除了 OpenAI 联合创始人兼首席技术官 Greg Brockman 的董事长职务，因为 Greg 可能会关注运行 OpenAI 系统的技术成本。他是这家初创公司最有影响力的人物之一，在从产品决策到为工程团队设定方向的一切事务中具备发言权。如果支出脱轨，两位管理者便可能是同谋。
另外，有关 Sam Altman 的离职还涉及到一些不寻常的因素，有消息称，Sam Altman 计划将 OpenAI 技术用于 Worldcoin，这也引发了一些道德危险的担忧。
OpenAI 开发者大会上 Sam Altman 和萨提亚开了个小玩笑｜OpenAI
作为 OpenAI 的「金主」，微软的态度如何？据了解此事的人士称，在 Sam Altman 被解雇的消息公开前，微软领导层只从 OpenAI 那里得到了 5 到 10 分钟的提前通知。OpenAI 临时 CEO Mira Murati 在周五的一次全公司会议上告诉员工，他们与微软的关系保持稳定。
就在前不久，微软于 11 月 9 日曾短暂屏蔽员工在公司设备上访问 ChatGPT，并警告员工，给出的理由是存在安全担忧。
距离 OpenAI 的开发者大会仅过去 10 天，彼时 Sam Altman 还与微软高管谈笑风生，甚至还在 15 日参加了他与微软基础设施高管的定期会议。
「今天在很多方面都是一次奇怪的经历。」Sam Altman 在 X 的帖子上坦言。
他曾表示 GPT-5 的终极目标是创造相当于人脑的超级 AI，但 AI 的发展是否已经出现安全问题，最终导致了这场快速的内部「政变」？
被踢出 OpenAI 后，Sam Altman 的下一步又会是什么？
OpenAI 解雇 Sam Altman 事件时间表
2023 年 11 月 6 日
OpenAI 举行开发者大会，推出了「自定义 ChatGPT」功能。
2023 年 11 月 9 日
微软发出警告，要求其员工停止使用 ChatGPT，因为存在安全问题。
2023 年 11 月 15 日
OpenAI 暂停了 ChatGPT Plus 的注册。微软 CEO 萨提亚·纳德拉在 Ignite 大会上宣布，OpenAI 所有创新都将用在微软的 Azure 云服务上。
2023 年 11 月 16 日
Sam Altman 收到 llya 短信，通知周五中午谈话。
2023 年 11 月 17 日
OpenAI 的董事会突然宣布，联合创始人兼 CEO Sam Altman 即刻离职。董事会在一次审查后得出结论，认为 Altman 在与董事会的沟通中不够坦诚，妨碍了董事会执行其职责的能力。董事会对他继续领导 OpenAI 失去了信心。同日，Altman 在 X 平台（前 Twitter）上发表了关于他离职的声明。
2023 年 11 月 17 日晚些时候
OpenAI 联合创始人和前董事会主席 Greg Brockman 宣布他也将离开公司。这是在董事会要求 Brockman 辞去董事会主席职务但保留在公司的角色后发生的。
2023 年 11 月 17 日
OpenAI 任命公司首席技术官 Mira Murati 为临时首席执行官。
*头图来源：Reuters
本文为极客公园原创文章，转载请联系极客君微信 geekparkGO
本文来自微信公众号“极客公园”（ID：geekpark），作者：芯芯，36氪经授权发布。