OpenAI再爆信任危机，安全团队核心人员离职

2023年以来OpenAI频繁引发安全、伦理问题的争议，甚至是诉讼。OpenAI内部一条矛盾主线是，安全团队不满公司激进研发AI技术、加速商业化，对安全问题不够重视

文｜徐文璞

编辑｜吴俊宇

明星AI创业公司OpenAI，有足够动力优先保证AI（人工智能）的安全吗？OpenAI一些员工对此表示怀疑，并选择离职。

OpenAI成立于2015年，2023年以来它因推出大模型对话机器人ChatGPT声名大噪。微软2019年开始投资OpenAI，迄今已向OpenAI承诺投资130亿美元。目前OpenAI估值超过800亿美元。

5月15日-17日，OpenAI超对齐团队两位负责人接连离职。其中包括OpenAI联合创始人、首席科学家伊利亚·苏茨克维尔（Ilya Sutskever），以及该团队的负责人简·雷克（Jan Leike）。

“超对齐”指的是，用技术引导、控制AI。按照OpenAI的原计划，公司20%的算力资源要用于这项工作。

5月17日，简·雷克离职时在社交媒体上透露，他离开的原因是“与OpenAI领导层在公司核心优先事项上的意见相左”。在简·雷克看来，OpenAI必须成为一家安全第一的AI公司。公司应该把更多资源用在系统安全、性能监控、潜在风险准备，维护人类社会安全等问题上。

苏茨克维尔被认为是“AI理想主义者”。他曾在2023年11月联合其他几位独立董事辞退OpenAI首席执行官（CEO）萨姆·奥尔特曼 (Sam Altman)，这引发了连续一周的“宫斗”。（详见《财经》2023年11月20日文章《三天三次反转，OpenAI创始人仍然得走》）当时的矛盾关键是，苏茨克维尔希望谨慎研发AI且不应再大规模融资，但奥尔特曼希望获得更多融资并激进研发AI。

苏茨克维尔和雷克离职后，OpenAI解散了超对齐团队。该团队剩余员工将重新分配岗位。超对齐工作将在公司内以松散的研究小组形式继续存在。

2021年以来，OpenAI一条长期存在的矛盾主线是——安全专家不满奥尔特曼激进推动AI技术、加速商业化，但对安全问题重视不足。

没兑现的安全承诺

2023年7月，苏茨克维尔和雷克在OpenAI共同组建了超对齐团队。这个团队致力于确保AI得到安全控制。OpenAI成立该团队的目的是，向外界展示公司对AI安全负责任的形象。

超对齐团队成立的背景是，2023年3月1000多名美国企业家、科学家、AI从业者联名发表公开信，呼吁所有AI实验室立即暂停训练比OpenAI旗下GPT-4更强大的AI大模型。原因是，他们对人工智能失控可能会产生的毁灭性影响表示担忧。

随后，奥尔特曼在2023年上半年积极参加了美国政府部门“人工智能监管”的听证会，并多次公开表示对人工智能监管的支持。超对齐团队随后成立。OpenAI在该团队成立时曾承诺，会把20%算力资源用于该团队的工作。

不过，2023年12月以后，超对齐团队的工作陷入停滞。当时它们发布了最后一篇论文。有媒体报道，超对齐团队从未分配到被许诺的20%计算资源。它在公司每季度定期算力分配中获得的资源很少，其需求经常被管理层拒绝。这导致超对齐团队的研究进展受阻。

这被认为是超对齐团队成员离职的重要原因。此次超对齐团队成员离职并非孤例。2021年至今，OpenAI安全领域的多位技术专家频繁离职。一条长期存在的矛盾主线是，安全专家不满奥尔特曼激进推动AI技术，对安全问题不够重视。

一种说法是，在算力资源有限的前提下，OpenAI将承诺给安全领域的投入用到了提升模型效果。雷克公开表示，过去几年，安全、流程已不再是OpenAI首要关注的问题，光鲜的产品才是重点。

一家中国人工智能基础软件供应商的创始人对我们表示，OpenAI地位并不稳固，它被谷歌、Meta追得很凶，“对奥尔特曼来说，杀出来最重要”。他进一步分析，OpenAI当下必须考虑商业化的问题。因为只有模型突破才能会给市场、投资者带来信心。超对齐团队关注的安全问题，在当下反而成了OpenAI技术迭代和商业变现的阻碍。

商业化高于安全

OpenAI创立于2015年，原本是一家非营利性的研究组织。2019年奥尔特曼成为公司CEO。由于缺少研究经费，奥尔特曼当时改变了OpenAI的组织架构——在非营利公司下设置了有“利润上限”的可盈利子公司，并接受了微软第一笔10亿美元投资。

在奥尔特曼的设想中，这既可以满足投资人的财务投资回报，也能让OpenAI实现“安全且有益的AGI（通用人工智能）”使命。非营利组织的董事会，是监督两者实现平衡的保障。

在发展过程中，OpenAI一步步加速商业化。2019年引入微软投资时，OpenAI管理层曾向员工保证短期内不需要商业化，只需专注用AI技术解决问题。2020年奥尔特曼告诉员工，OpenAI需要赚钱才能继续研究。2023年1月ChatGPT发布后仅两个月，用户数突破一亿人。OpenAI成为人工智能领域的明星企业，并开启了大模型的激烈竞赛。

OpenAI从此无法再慢下来。它需要更多钱，采购更多算力，迭代更先进的大模型。2023年12月，媒体报道称，OpenAI在进行新一轮融资。如果融资成功，估值将超过1000亿美元。

2023年下半年以来，谷歌、亚马逊投资的AI创业公司Anthropic、AI创业公司Mistral AI等厂商接连升级大模型产品。OpenAI备受压力，旗下产品用户访问量一度出现负增长。OpenAI在2024年4月1日放开注册限制。（详见《财经》4月2日文章《OpenAI放开ChatGPT注册限制，此前用户访问量出现负增长》）此举被认为，OpenAI希望增加用户量，获得更多融资、更高的估值。

随着商业化加速，2023年以来OpenAI频繁引发安全伦理争议，甚至是法律诉讼。

2023年12月，《纽约时报》曾起诉OpenAI和微软侵犯其版权。诉状称，OpenAI的ChatGPT和微软的Copilot基于数百万篇媒体报道内容进行模型训练，并利用这些内容解答用户提问。美国投资管理公司Tamarack Advisory研究员黄少萍今年1月曾对我们表示，OpenAI和微软正遭遇AI带来的伦理问题。如果诉讼最终成立，OpenAI和微软可能需要支付巨额法律赔偿费用，并可能限制在AI领域进一步发展。

今年5月13日，OpenAI推出了新的大模型GPT-4o。发布会当天奥尔特曼在社交媒体上发文“her”，暗指GPT-4o的对话功能可以实现电影《Her》中人类与AI恋爱场景。由于GPT-4o语音模式之一“Sky”与美国女演员斯嘉丽·约翰逊的声音十分相似，这引发了争议。

电影《Her》中女性AI角色的配音演员正是斯嘉丽·约翰逊。斯嘉丽·约翰逊公开表示，OpenAI在2023年9月就曾联系她，并在GPT-4o发布前再次联系她，希望以她的声音作为AI机器人的配音，但她拒绝了。

OpenAI随后公开回应称，Sky的声音不是斯嘉丽·约翰逊……出于对斯嘉丽·约翰逊的尊重，已暂停在产品中使用Sky的声音。

责编｜肖振宇

题图｜视觉中国