文/陈根
OpenAI变天了。
美国时间11月17号,OpenAI在官网突然宣布,创始人兼CEO奥特曼(Sam Altman)离职,未来,公司CEO将由首席技术官(CTO)Mira Murati临时担任。另外,Greg Brockman也将辞去董事会主席一职。
这份声明的发布可以说是非常突然,OpenAI的大部分员工也是看到公告才知道这一消息,都表示非常震惊。毕竟,在发布声明的两天前,奥特曼还在亚太经合组织(APEC)第三十次领导人非正式会议中,以OpenAI CEO 的身份出席了峰会,并且作为嘉宾参与讨论。
要知道,从ChatGPT诞生以来,奥特曼就一直是OpenAI和ChatGPT的标志性人物,那么,奥特曼和Greg 为啥突然离职?离职背后藏着什么隐情?
首先,要说明一下OpenAI董事会的背景,OpenAI 董事会本来的结构是3:3,三个OpenAI的执行层奥特曼,Greg和Ilya,另外三位是代表“社会公众监督”的外部董事。而奥特曼下台后过渡期替代 CEO 职位的Mira此前并不在董事会里。
按照Greg在X(推特)上的表示,是Ilya 联合其他三位董事主导了内讧,迫使奥特曼下台并且开除了Greg的董事职位,尽管保留了Greg的执行职务,但Greg 随后自己主动选择辞去了职务。
不过这让我们看到,美国企业的治理体系跟我们有比较大的区别,创始人并不是永久的企业控制人,是随时都有可能被赶出去的,这种事情并不在少数,伟大的公司苹果的创始人乔布斯就曾经被公司赶出去了。
目前,多家科技媒体已经火速跟进了 OpenAI 领导层变动的新闻,但对于奥特曼为什么突然被离职的原因也不明确。但有一点可以肯定的是,离职一定是某种理念或者价值的冲突,背后是一种博弈。
根据已知的信息,核心是围绕着价值观,或者说对于公司的发展路径产生了分歧。其实价值观不合。这也是OpenAI官方披露的原因,对于奥特曼的离职,OpenAI的官方解释是,经过了董事会慎重的审查程序后,董事会认为奥特曼的沟通不坦诚,使董事会不再信任他领导公司的能力。
OpenAI自成立以来,就是一家非营利组织,核心使命是确保通用人工智能造福全人类。然而,根据网络上流传的一张截图,今天,奥特曼关注的焦点已经越来越多地是名利,而不是坚持作为一个负责任的非营利组织的原则。于是就有分析推测认为,奥特曼做了单方面的商业决定,目的是为了利润,偏离了OpenAI的使命。
其实对于不差钱的OpenAI来说,商业化与非商业化这种事情并不是关键,我们需要关注是的董事会在另一份声明中表示,OpenAI的结构是为了确保通用人工智能造福全人类。董事会仍然完全致力于履行这一使命。从这点来看,确实有可能是因为奥特曼一意孤行,和OpenAI的价值观背道而驰。
从表面上看,似乎是以及 Sam 和 Ilya,就是现在新的CEO之间的争议,其实本质上是当前对于AI发展理念的路线争议。也就是有效加速主义 和 超级“爱”对齐 的理念冲突,以及一个变量:GPT-5 是数字生命,还是工具?
其实本质上Sam Altman 是有效加速主义者,尽管很多人说,你看 Sam 还去国会呼吁减速 AI 的发展,天天说 AI 的风险,从这些表面的言论上看,Sam似乎是个「减速主义者」,其实并不是,Sam一直在领导着GPT在往更强大的能力上训练,并且一直在加速训练。
而Sam的搭档Ilya 在今年7月份的时候,说要成立一个「超级对齐」项目 的时候,其实很多人都还没明白是什么含义。包括对于超级对其是什么意思,我想今天很多的人都还没明白。所谓的超级对齐 项目,本质是 Super-LOVE-alignment,超级「爱」对齐。这种 LOVE,是大爱,并非情爱,也并非人性的那种血缘之间的自私之爱,而是圣人之爱,是一种无关自我的,对于人类的爱,是一种「神性」的爱,一种就像孔子、耶稣、释迦摩尼,这些完全舍己为人类付出、包容人类、引导人类的无条件的大爱。
或许很多人在听到这些信息的时候,或许觉得太戏剧性了。其实并不是戏剧性,大约在两周前Ilya有个采访,从这个采访中我们就可以看到,Ilya 关注的并不是 AI 是否有情感能力,而是 AI 是否有对人类真正的爱。那么为什么Ilya会关注AI是否具有圣人的大爱,并且在今年7月份去成立超级对其这个项目呢?从我了解的信息来看,OpenAI 一直在训练更强大的GPT,目前已经搞定了一些非常关键的技术,所具备的能力已经不是当前的GPT-4的能力,是一种非常颠覆的新版本,自主性大大增强,接近于超级人工智能的阶段。
也正在GPT能力获得了惊人的突破,只是没有对外界公布,所以才有了7月份 Ilya 成为超级对齐这个项目,就是为了在这个新版本的超级人工智能投入使用之前,能够在技术层面找到一种制约或者说约束超级人工智能的技术。Ilya认为在通过超级对齐技术为AI注入「对人类的爱」之前,实验室里的这个超级AI版本,不能投入使用,也不能再继续在这个超级AI技术上继续加速训练,以免失控。
讲到这里,大家就能明白了,为什么OpenAI董事会对Sam Altman的辞退原因会是诚实问题,是因为Sam Altman非常清楚目前实验室中GPT的能力,并且还没有找到一种非常有效的控制方法,然后继续加速训练超级AI。那么Sam Altman会不会很快就又回来OpenAI继续领导呢?这是非常有可能的,只要他能真正接受超级对其项目,并且在超级对其技术完善之前,不再加速训练超级人工智能,就完全有可能就回归了。