当前位置:首页|资讯|OpenAI|阿尔特曼

没有杀死,安全加速,会更强大 | OpenAI“政变”续四

作者:未尽研究发布时间:2023-11-22

没有杀死,安全加速,会更强大 | OpenAI“政变”续四

奥特曼团队终于与赶走他的OpenAI董事会达成原则协议,恢复其CEO职位,组成了临时董事会,主席由前Salesforce联席CEO 泰勒(Bret Taylor)担任,美国前财长萨默斯(Larry Summers) 进入董事会,现任董事、Quora CEO 丹杰罗继续留任。

奥特曼回归的消息,发表于OpenAI在社交媒体X的官方账号,还没有同步出现在官网上。这与当初董事会开除奥特曼时不一样。

谈判一度卡于奥特曼和丹杰罗。员工哗变要求董事会全部辞职,丹杰罗代表原董事会坚持留下了,然后阻止奥特曼回到董事会,奥特曼最终做出让步。

原董事会主席、总裁布洛克曼也回归,但具体职位待定,也无法回到董事会。

联合创始人、首席科学家苏茨克沃、麦考利、托纳三人离开董事会。托纳只说了一句话:“可以睡个好觉了。”她的有效利他主义倾向,早已经让奥特曼和公司管理层不耐烦。

至此,4天之内从董事会“政变”到全体员工“哗变”,硅谷历史上前所未有的一场企业乱局,暂告一段落。

这个“原则上”的方案,还是留下了几处伏笔:

首先,奥特曼仍然需要证明自己是清白的。妥协方案包括将对这次董事会突然罢免奥特曼“政变“事件,聘请外部律所进行独立调查。但目前的原则协议,只是暂时说明了对奥特曼的指控是不成立的。据华尔街日报采访知情人士,董事会的确也没有抓住奥特曼的把柄,就是感觉对其信任感越来越弱。他们被律师反复要求不准对外讲具体原因。

第二,未来的董事会,可能将会恢复到2021年之前的9人,目前的3位董事需要再找到6个人,不那么容易。微软可能要求至少一个董事席位,这样其他投资机构可能也会要求有席位。

第三,盈利公司股东进入董事会,非盈利机构将不存在绝对控制权。这可能也是对原有架构的一个微调。

新任董事长Bred Taylor,对于OpenAI的未来治理架构,将有很大的影响力。

据说谢尔要求提供证据,否则就辞职,起到了决定性的作用,迫使董事会妥协。这可能是谢尔一生中最有意思的72小时。

事件历时96小时,跌宕回转,几乎全部是在电话中进行的。而整个科技界和全球的群众基本上都是在社交媒体上吃这个大瓜的。

在周五中午奥特曼遭到罢免,布洛克曼宣布辞职后,震惊了整个科技界。在董事会不提供任何详细信息和指控证据的情况下,OpenAI盈利公司最重要的投资者,如微软、Thrive Capital、老虎基金、红杉基金,以及OpenAI的管理层和员工,要求恢复奥特曼的职位。

据当地媒体报道,奥特曼遭免职后的第一件事,就是给纳德拉打电话,他们策划了一个反击董事会、让奥特曼重回公司的方案,然后准备了plan B,即奥特曼和布洛克曼加入微软,再吸引OpenAI的员工大批加入。

OpenAI的管理层,包括临时CEO Mira,都跑到奥特曼的家中,建立起了策反董事会的作战室。

整个周末,奥特曼、纳德拉、Mira等发出的每一条信息,每一张照片,直到OpenAI员工的转发,都是精心策划的。直到周一演变成为几乎全体员工的集体“哗变”。

而纳德拉坐镇后台,宣布奥特曼和布洛克曼加入微软,并且提出将为加入的OpenAI员工提供相当于在OpenAI的待遇和激励。稳住了这支全球顶尖的AI人才团队,基本上没有被竞争对手趁机挖走。

最终达成临时协议,微软CEO纳德拉在表示欢迎之余,指出要建立一个“稳定的、沟通良好的、有效的治理结构”。

OpenAI的非盈利/盈利架构,这并非第一次受到考验。2019年为了接受微软的投资,奥特曼设计出这个架构之前,已经逼走了马斯克;架构设立之后,发生过大量员工离职,包括目前主要竞争对手Anthropic公司的创始人Daniela 和 Dario Amodei兄妹,与有效利他主义纠葛很深。

但是对OpenAI真正的考验,是在ChatGPT发布,引发了一场智能计算的范式改变之后。

再过一周,就是ChatGPT发布一周年。

过去的一年,OpenAI改变了世界 ,改变了AI,也改变了自己。

尤其是从上周五到本周二,全世界看到了这家企业近乎决定生死的使命感,看到了一家正在走向伟大的公司濒临崩溃的边缘,整个硅谷和全世界的AI界,像注视深渊一般,注视了它整整四天。

这次罢免奥特曼事件的具体原因和过程仍然不透明。但是基本可以肯定的是,随着AI系统的自主性越来越强,人们对其安全越来越担心。

正是出于对安全的担心,OpenAI设计出了一个非盈利与盈利的架构,它要同时承载安全与创新,控制与加速,人类利益与商业利益,是一个矛盾的统一体。

如果AI公司继续加速研发下一代大模型,那它只有一个选择,同时加大对安全的投入,加速对齐技术。同时,监管机构也将加快建立安全标准,尤其是对先进大模型推出前的测试。

2022年,Open AI收入为2.8亿美元,2023年至今,它的年化收入已达到13亿美元。2023年初时,它以290亿美元的估值,从微软那里融资100亿美元。2023年底时,它准备以800亿-900亿美元估值,为它的GPT-5融资。

预计这一轮融资将超过百亿美元。不仅GPT-5是一个更大的模型,而且对其安全的研发和工程投资将会大幅度增加。

辛顿等国际AI学界要求大模型公司研发投入的三分之一投入到安全。目前OpenAI已经将其GPU的20%用于苏茨克沃负责的对齐研发。

所有的前沿AI公司,也都将是AI安全公司。

OpenAI从“政变”到“哗变”,请看我们过去几天的连续报道:

.data_color_scheme_dark{--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}.data_color_scheme_dark{--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}.data_color_scheme_dark{--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}.data_color_scheme_dark{--weui-BG-COLOR-ACTIVE: #373737}.data_color_scheme_dark{--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}.rich_media_content{color:#000000e5;font-size:17px;font-size:var(--articleFontsize);overflow:hidden;text-align:justify}.rich_media_content{color:#ffffffa6;color:var(--weui-FG-HALF)}.rich_media_content{position:relative;z-index:0}.wxw-img{vertical-align:bottom}.rich_media_content p{clear:both;min-height:1em}td p{margin:0;padding:0}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]) .rich_media_content img:not(.wx_img_placeholder){filter:brightness(.8)}}:root{--articleFontsize: 17px}:root{--sab: env(safe-area-inset-bottom)}:root{--wxBorderAvatarRatio: 3}:root{--discussPageGap: 16px}:root{--appmsgPageGap: 20px}body,.wx-root,page{--weui-BTN-HEIGHT: 48;--weui-BTN-HEIGHT-MEDIUM: 40;--weui-BTN-HEIGHT-SMALL: 32}.wx-root,body{--weui-BTN-ACTIVE-MASK: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BTN-DEFAULT-ACTIVE-BG: #e6e6e6}.wx-root,body{--weui-DIALOG-LINE-COLOR: rgba(0, 0, 0, .1)}.wx-root,body{--weui-BG-COLOR-ACTIVE: #ececec}body,.wx-root{--weui-FG-1: rgba(0, 0, 0, .55);--weui-ORANGERED: #ff6146;--weui-BG-0: #ededed;--weui-BG-1: #f7f7f7;--weui-BG-2: #fff;--weui-BG-3: #f7f7f7;--weui-BG-4: #4c4c4c;--weui-BG-5: #fff;--weui-FG-0: rgba(0, 0, 0, .9);--weui-FG-HALF: rgba(0, 0, 0, .9);--weui-FG-1: rgba(0, 0, 0, .5);--weui-FG-2: rgba(0, 0, 0, .3);--weui-FG-3: rgba(0, 0, 0, .1);--weui-FG-4: rgba(0, 0, 0, .15);--weui-FG-5: rgba(0, 0, 0, .05);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #fa9d3b;--weui-YELLOW: #ffc300;--weui-GREEN: #91d300;--weui-LIGHTGREEN: #95ec69;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1485ee;--weui-PURPLE: #6467f0;--weui-WHITE: #fff;--weui-LINK: #576b95;--weui-TEXTGREEN: #06ae56;--weui-FG: #000;--weui-BG: #fff;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: #fa9d3b;--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: #06ae56;--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: #10aeff;--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(0, 0, 0, .5);--weui-TAG-BACKGROUND-BLACK: rgba(0, 0, 0, .05)}body,.wx-root{--weui-BG-6: rgba(0, 0, 0, .05);--weui-ACTIVE-MASK: rgba(0, 0, 0, .05)}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-ORANGERED: #ff6146;--weui-BG-0: #111;--weui-BG-1: #1e1e1e;--weui-BG-2: #191919;--weui-BG-3: #202020;--weui-BG-4: #404040;--weui-BG-5: #2c2c2c;--weui-FG-0: rgba(255, 255, 255, .8);--weui-FG-HALF: rgba(255, 255, 255, .6);--weui-FG-1: rgba(255, 255, 255, .5);--weui-FG-2: rgba(255, 255, 255, .3);--weui-FG-3: rgba(255, 255, 255, .1);--weui-FG-4: rgba(255, 255, 255, .15);--weui-FG-5: rgba(255, 255, 255, .1);--weui-RED: #fa5151;--weui-REDORANGE: #ff6146;--weui-ORANGE: #c87d2f;--weui-YELLOW: #cc9c00;--weui-GREEN: #74a800;--weui-LIGHTGREEN: #3eb575;--weui-BRAND: #07c160;--weui-BLUE: #10aeff;--weui-INDIGO: #1196ff;--weui-PURPLE: #8183ff;--weui-WHITE: rgba(255, 255, 255, .8);--weui-LINK: #7d90a9;--weui-TEXTGREEN: #259c5c;--weui-FG: #fff;--weui-BG: #000;--weui-TAG-TEXT-RED: rgba(250, 81, 81, .6);--weui-TAG-BACKGROUND-RED: rgba(250, 81, 81, .1);--weui-TAG-TEXT-ORANGE: rgba(250, 157, 59, .6);--weui-TAG-BACKGROUND-ORANGE: rgba(250, 157, 59, .1);--weui-TAG-TEXT-GREEN: rgba(6, 174, 86, .6);--weui-TAG-BACKGROUND-GREEN: rgba(6, 174, 86, .1);--weui-TAG-TEXT-BLUE: rgba(16, 174, 255, .6);--weui-TAG-BACKGROUND-BLUE: rgba(16, 174, 255, .1);--weui-TAG-TEXT-BLACK: rgba(255, 255, 255, .5);--weui-TAG-BACKGROUND-BLACK: rgba(255, 255, 255, .05)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BTN-DEFAULT-ACTIVE-BG: rgba(255, 255, 255, .126)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-DIALOG-LINE-COLOR: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-COLOR-ACTIVE: #373737}}@media(prefers-color-scheme:dark){.wx-root:not([data-weui-theme=light]),body:not([data-weui-theme=light]){--weui-BG-6: rgba(255, 255, 255, .1);--weui-ACTIVE-MASK: rgba(255, 255, 255, .1)}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).appmsg_skin_default.rich_media_empty_extra{background-color:#191919}}@media(prefers-color-scheme:dark){body:not([data-weui-theme=light]).my_comment_empty_data{background-color:#111}}*{margin:0;padding:0}.rich_media_content *{max-width:100%!important;box-sizing:border-box!important;-webkit-box-sizing:border-box!important;word-wrap:break-word!important}


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1