OpenAI前董事成员Helen Toner几周前录制了一段时间的播客,聊到了OpenAI去年沸沸扬扬的“宫斗事件”。在播客里,Helen Toner分享了更多OpenAI内斗的细节。
这期播客节目名为《TED AI Show》,这一期的标题为《OpenAI 到底发生了什么,以及海伦·托纳 (Helen Toner) 的监管未来》。
如果您想看全文请在头条号回复“OpenA”。
//
1、OpenAI发生了什么?
1、OpenAI发生了什么?
主持人:欢迎来到这个节目。嘿,很高兴来到这里。所以海伦,几周前在温哥华的泰达,我得到了去年在OpenAI发生的简短版本。我在想,你能给我们一个长版本吗?
Helen:简要介绍一下这里的背景,openAI董事会不是一个普通的董事会,也不是一家普通的公司。这个委员会是一个非营利组织,明确设立的目的是确保公司的公共利益使命是首要的,首先考虑的是利润,投资者利益和其他事情。但多年来,山姆一直通过隐瞒信息,歪曲公司正在发生的事情,让董事会很难真正完成这项工作,在某些情况下,直接向董事会撒谎。
你知道的,在这一点上,每个人总是说,什么?给我,给我一些例子。我无法分享所有的例子,但是为了感知我在谈论的事情,比如,你知道,当闲聊的Pt在2022年十一月出来时,董事会事先没有被告知。我们在推特上了解了关于健谈的话题。山姆没有通知董事会他拥有OpenAI创业基金,尽管他一直声称自己是独立董事会成员,在多个场合与公司没有经济利益。他向我们提供了有关公司确实实施的少数正式安全流程的不准确信息,这意味着董事会基本上不可能知道这些安全流程的运作情况或可能需要改变的内容。然后,你知道,我可以分享的最后一个例子,因为它已经被广泛报道,与我写的这篇论文有关,你知道,我认为在媒体上被夸大了。
主持人:对于没有在媒体上关注这一点的听众。海伦去年秋天与他人合写了一篇研究论文,供决策者参考。我不会深入讨论细节,但你需要知道的是,山姆·奥特曼对此并不满意。看起来海伦的论文对OpenAI持批评态度,而对他们的竞争对手Anthropic则持更加积极的态度。当联邦贸易委员会调查OpenAI时,它也发布了用于构建其生成式AI产品的数据。本质上,OpenAI同时受到了很多的热度和审查。
Helen:十一月所发生的事情的处理方式非常简单。这与本文的实质内容无关。问题是,论文出来后,山姆开始对其他董事会成员撒谎,试图把我从董事会推下来。所以这是另一个例子,它真的损害了我们信任他的能力,实际上只发生在去年十月下旬,当时我们已经非常认真地讨论是否需要解雇他。所以,你知道,还有更多的个别例子,对于任何个别情况,山姆总是可以提出某种无害的解释,解释为什么没什么大不了或被误解或其他什么,但是,你知道,最终的效果是,经过多年的这种事情,我们四个解雇他的人都得出结论,我们无法相信山姆告诉我们的事情。
那是一个完全不可行的地方作为一个董事会,特别是一个应该对公司提供独立监督的董事会,而不仅仅是帮助首席执行官筹集更多资金。你知道,不是不相信首席执行官的话,谁是你与公司联系的主要渠道,你关于公司的主要信息来源完全是坐着的,完全不可能。所以,这就是去年秋天事态进入的背景,我们一直在尽我们所能在董事会层面工作,以建立更好的结构、流程,所有这些尝试,你知道,改善我们在董事会层面一直存在的问题。
但在去年十月,我们与这些高管进行了这一系列的对话,他们两个突然开始告诉我们他们自己与山姆的经历,他们以前分享时感到不舒服,但他们告诉我们他们如何不相信他正在创造的有毒气氛。他们使用了 “心理虐待” 这个短语,告诉我们他们认为他不是领导公司走向AGI的合适人选。告诉我们,他们不相信他能够或将要改变,给他反馈没有意义,试图解决这些问题没有意义。我的意思是,你知道,他们已经,他们一直试图尽量减少他们告诉我们的内容,但这些不是随意的谈话。他们非常认真,甚至向我们发送了他们所讲述的一些情况的截图和文件,告诉我们他在不同情况下撒谎和操纵的情况。
所以,你知道,这是一件大事。这是很多。我们在几周的时间里进行了非常深入的讨论,最终得出的结论是,对于OpenAI的使命和openAI作为一个组织来说,最好的事情就是带来一个不同的CEO,你知道的,一旦我们得出了这个结论,我们所有人都非常清楚,只要山姆有任何暗示,我们可能会做出对他不利的事情,他,你知道,他会竭尽全力破坏董事会,阻止我们,你知道的,甚至到了能够解雇他的地步。所以,你知道,我们非常小心,非常慎重地告诉了谁,基本上除了我们的法律团队之外,我们事先几乎没有其他人。这就是我们来到11月17日的原因。
2、Sam为什么回归?
主持人:谢谢你的分享。现在山姆最终被恢复为首席执行官,大多数工作人员都支持他的回归。那里到底发生了什么?为什么会有这么大的压力要把他带回来?
Helen:是的,这显然是房间里的大象,不幸的是,我认为有很多误报。我认为有三件大事正在发生,这有助于感知这里发生的事情。第一个问题是,很早就向公司内部人员描述了这种情况,你有两个选择。
要么山姆立即回来,没有任何责任,你知道,他选择了全新的董事会,否则公司将被摧毁。而且,你知道,这并不是唯一的两个选择,我们最终得出的结果也不是这两个。
有两个选择,但我明白为什么,你知道,不想让公司被摧毁,让很多人排队,你知道,是否因为他们在某些情况下即将从即将到来的收购要约中赚很多钱,或者只是因为他们爱他们的团队,他们不想失去工作。他们关心他们正在做的工作。当然,很多人不希望公司分崩离析。你知道,我们,我们包括了第二件事,我认为知道真正被低估的是人们有多害怕与山姆对抗是非常重要的。他们曾经经历过他对过去批评的例子进行报复的人进行报复。他们真的很害怕,你知道,可能会发生什么事情。所以当一些员工开始说,你知道,等等,我不希望公司分崩离析,就像让我们把山姆带回来一样,那些经历过糟糕经历的人很难真正说出这样的话,你知道,如果山姆真的像他最终所做的那样继续掌权,你知道,那将让他们的生活变得痛苦。
如果你看一下自十一月以来的一些报道,就会发现他实际上被解雇了他在Y Combinator的前工作,当时他的工作还很安静,然后在那之前的工作中,这是他在硅谷的唯一其他工作,他的创业公司是循环的。显然,管理团队去了那里两次董事会,并要求董事会解雇他,因为他们所谓的欺骗和混乱行为。如果你真正看看他的履历,你知道他并没有一连串闪亮的参考文献。这不是董事会上的个人特质所特有的问题,尽管他很乐意以这种方式来描述它。
3、总结
1. 董事会的角色与挑战:OpenAI 的董事会是一个非营利组织,其成立的明确目的是确保公司以公共利益为首要任务,优先于利润和其他因素。然而,Sam Altman 多年来通过隐瞒信息、歪曲事实,甚至在某些情况下对董事会撒谎,使得董事会难以履行其职责。
2. 沟通问题:Sam 被指控在与董事会的沟通中缺乏坦率,例如在发布 ChatGPT 时未提前通知董事会,董事会成员是通过 Twitter 得知的。
3. 利益冲突:Sam 没有告知董事会他拥有 OpenAI Startup Fund 的事实,尽管他多次声称自己是独立董事会成员,与公司没有经济利益关系。
4. 安全流程的误导:Sam 对董事会提供了关于公司安全流程的不准确信息,使得董事会无法了解这些流程的实际运作情况或需要做出哪些改变。
5. 信任危机:Helen 提到,由于 Sam 的行为,包括对董事会撒谎,导致董事会成员对他失去了信任。这种信任危机是董事会考虑解雇他的一个重要因素。
6. 内部调查:在 Sam 被解雇之前,董事会已经进行了一系列的内部讨论,并与公司高管进行了对话,这些高管分享了他们对 Sam 不信任的经历,包括所谓的“心理虐待”和有毒的工作环境。
7. 解雇决定:经过几周的深入讨论,董事会得出结论,为了 OpenAI 的使命和组织的利益,最好由另一位 CEO 来领导公司。
8. 解雇过程:董事会非常小心谨慎,只有极少数人事先知道解雇 Sam 的决定,主要是为了法律团队的需要。
9. 员工反应:Sam 被解雇后,大多数员工支持他回归,部分原因是他们害怕公司会崩溃,另一部分原因是他们害怕萨姆的报复。
10. Sam 的历史:Helen 提到 Sam 在之前的工作中也有被解雇的记录,包括在 Y Combinator 和他的初创公司 Looped,这表明他的问题不是特定于 OpenAI 或董事会成员。
播客全文请在头条号回复「OpenAI」获取。
学术头条 2024-11-19
硅谷101 2023-04-26