当前位置:首页|资讯|OpenAI|人工智能

OpenAI首席科学家:对于快速发展的公司来说,紧张是不可避免的

作者:DeepTech深科技发布时间:2023-11-21

OpenAI首席科学家:对于快速发展的公司来说,紧张是不可避免的

OpenAI,你还好吗?刚刚过去的这个周末,几乎所有人工智能领域的人都在狂热地讨论有关它的事情:世界上最炙手可热的人工智能公司 OpenAI 的董事会解雇了 CEO 山姆·奥特曼(Sam Altman),震惊了所有人。在现阶段,这意味着与人工智能安全有关的政变、混乱,以及奥特曼在微软的新工作。

如果你没时间追踪事件动态并了解究竟发生了什么,我和我的同事威尔·道格拉斯·海文(Will Douglas Heaven)将为你解读一下你错过了什么,以及人工智能行业接下来会发生什么。

图| 前 OpenAI CEO 山姆·奥特曼(Sam Altman)

发生了什么事

上周五下午(11 月 17 号)

原 OpenAI CEO 山姆·奥特曼被召集到一场谷歌会议中,OpenAI 首席科学官伊利亚·苏斯克维尔(Ilya Sutskever)在会上宣布,OpenAI 董事会认为,奥特曼“在与他们的沟通中没有始终保持坦诚”,因此他被解雇了。

OpenAI 总裁兼联合创始人格雷格·布罗克曼(Greg Brockman)和一些高级研究人员在消息公布不久后辞职,原 CTO 米拉·穆拉蒂(Mira Murati)成为临时 CEO。

上周六(11 月 18 号)

穆拉蒂试图重新聘用奥特曼和布罗克曼,但 OpenAI 董事会同时也在寻找奥特曼的(正式)继任者。奥特曼和 OpenAI 的部分员工向董事会施压,要求董事会解散,并恢复奥特曼的职务。他们给董事会设定了最后期限,但最终未能实现诉求。

上周日晚上(11 月 19 号)

微软宣布聘请奥特曼和布罗克曼,由他们领导其新的人工智能研究团队。此后不久,OpenAI 宣布已聘请流媒体公司 Twitch 的前 CEO 埃米特·希尔(Emmett Shear)担任临时 CEO。

本周一上午(11 月 20 号)

超过 500 名 OpenAI 员工签署了一封公开信,威胁要辞职,并加入奥特曼领导的微软团队,除非 OpenAI 董事会下台。奇怪的是,苏斯克维尔也在这封公开信上签了名,并在 X(原推特)平台上发帖表示。

OpenAI 的下一步是什么

两周前,在 OpenAI 的第一个开发者大会 DevDay 上,奥特曼不得不中断他关于人工智能繁荣的演讲,要求热情的观众冷静下来。“我们有很多(新消息),你们不必每次都鼓掌。”他咧嘴笑着说。

OpenAI 现在已经和我们在 DevDay 上看到的公司大不相同了。随着奥特曼和布罗克曼的离开,OpenAI 的许多高级员工也选择辞职以示支持。

包括穆拉蒂(CTO)在内的许多人很快在社交媒体上发帖称:“缺少了人(才),OpenAI 什么都不是。”如果考虑到大批员工有可能跳槽到微软,我们可以预见的是,在整个事情尘埃落定之前还会发生更多的动荡。

苏斯克维尔和奥特曼之间的紧张关系可能已经酝酿了一段时间。“当你有一个像 OpenAI 这样快速发展且野心勃勃的组织时,紧张是不可避免的。”苏斯克维尔在 2023 年 9 月告诉《麻省理工科技评论》(此番评论此前从未发表过)。

“我认为,产品和研究之间的任何紧张关系都是推动我们前进的催化剂,因为我相信,产品的成功与研究的成功密不可分。”然而,现在很明显,苏斯克维尔不同意 OpenAI 领导层关于如何平衡产品成功和研究成功的看法。

新上任的临时 CEO 希尔是 Twitch 的联合创始人,在人工智能开发的速度方面,他(的态度)似乎与奥特曼相去甚远。

“我特别想说,我赞成放慢节奏。这有点像暂停,但不是完全暂停,只是慢了下来。”2023 年 9 月希尔在 X 上发帖说。“如果我们现在的速度是 10,暂停就意味着减少到 0。我认为我们的目标应该是 1-2 之间。”

由希尔领导的 OpenAI 有可能会在其最初的崇高使命上加倍努力,用苏斯克维尔的话说就是构建“造福人类的通用人工智能”,不论这在实践中意味着什么。短期内,OpenAI 可能会放慢甚至关闭其产品线。

试图快速推出产品与放慢开发速度以确保产品安全之间的紧张关系,从一开始就困扰着 OpenAI。这也是该公司的关键成员决定离开 OpenAI,创办与之竞争的人工智能安全初创公司 Anthropic 的原因。

随着奥特曼和他的团队离开,该公司可能会把更多的精力放在苏斯克维尔所谓的超级对齐(super alignment)上,这是一个研究项目,旨在找到控制人类设想中的超级智能的方法。苏斯克维尔推测,超级智能未来将在几乎所有方面超过人类。

“我这么做是为了我自己的利益。”苏斯克维尔告诉我们,“显然,任何人构建的任何超级智能都不能失控,这一点很重要。这很明显。”

希尔的公开言论表明,他正是那种会注意到苏斯克维尔担忧的谨慎领导者。正如希尔在 X 上发布的那样:“在夜晚安全穿过危险丛林的方法不是全速冲刺,也不是裹足不前,而是小心翼翼地往前挪动。”

随着该公司更多地将自己定位于应对尚未出现,甚至可能永远不会出现的技术,它会继续引领人工智能领域吗?苏斯克维尔认为是的。他说,OpenAI 公司内部有足够多的好主意,可以让其他人继续推动生成式人工智能的发展。

他告诉我们:“多年来,我们培育了一个强大的研究机构,提供人工智能领域的最新进展。我们公司有非常优秀的人才,我相信他们会解决问题的。”

当然,这是他在 2023 年 9 月说过的话。随着顶尖人才纷纷辞职和跳槽, OpenAI 的未来远没有以前那么确定了。

微软的下一步是什么?

微软这家科技巨头及其 CEO 萨蒂亚·纳德拉(Satya Nadella)似乎在这场危机中坐享其成,成为了最大赢家。

随着奥特曼、布罗克曼以及更多 OpenAI 的资深员工加入微软,尤其是如果今天 OpenAI 的 500 多名员工的公开信可信的话,甚至可以说是公司的大部分员工,微软已经成功地将其力量进一步集中在人工智能领域。

该公司将生成式人工智能嵌入其不那么吸引人,但却非常有利可图的生产力和开发工具中,从中获益巨大。

目前最大的问题是,微软是否有必要考虑与 OpenAI 建立昂贵的合作关系,以创造尖端技术。

纳德拉在 X 上的一篇帖子中宣布,他对聘请奥特曼和布罗克曼感到“非常兴奋”。他表示,他的公司仍然“重视”OpenAI 及其产品路线图。

但让我们面对现实吧。在接受《麻省理工科技评论》独家采访时,纳德拉称两家公司是“相互依赖”的。

“他们(OpenAI)依靠我们来建立最好的系统,我们依靠他们来打造最好的模型,我们一起走向市场。”纳德拉上周对《麻省理工科技评论》主编马特·霍南(Mat Honan)表示。

如果 OpenAI 的领导层动荡和人才外流拖慢了它的产品线,或者导致其人工智能模型不如微软自己打造的那样性能高超,那么微软抛弃这家初创公司将只是时间问题。

人工智能的下一步是什么?

在苏斯克维尔和 OpenAI 董事会的核心圈子之外,没有人预见到这一爆炸性事件,微软、其他投资者和整个科技界都没有预见到。

律师事务所 Fried Frank 的律师阿米尔•加维(Amir Ghavi)表示,这件事震动了整个行业:“正如一位业内朋友说的那样,‘我对未来的预测里肯定没有这件事。’”该事务所代表过的客户包括 Stability AI 等多家生成式人工智能公司。

奥特曼和布罗克曼将在微软做出一些新东西,还是会离开微软,自己创办一家新公司,还有待观察。这两人是风投圈中人脉最广的两个人,尤其是奥特曼,被许多人视为业内最优秀的 CEO 之一。

财力雄厚的大人物将排着长队支持他们下一步想做的事情。这笔钱的来源可能会影响人工智能的未来。加维表示,潜在的投资者可能是任何人,从穆罕默德·本·萨勒曼(Mohammed bin Salman)到杰夫·贝佐斯(Jeff Bezos)。

更重要的是,OpenAI 的危机表明,整个人工智能行业出现了更广泛的分歧。更重视“人工智能安全”的人士认为,不受控制的技术进步有一天会给人类带来灾难性的后果,而另一些人则认为,这种“末日论”是一种荒谬的说法,让人忽视了任何技术革命带来的现实风险,比如经济动荡、有害偏见和滥用。

2023 年,科技圈出现了一场将强大的人工智能工具发放到每个人手中的竞赛,微软和谷歌等科技巨头竞相将这项技术用于电子邮件、网络搜索和会议摘要等各个方面。

但我们仍在等着看生成式人工智能的杀手级应用到底是什么。如果 OpenAI 的裂痕广泛扩散到整个行业,并让开发速度整体放缓,我们可能不得不再等上一段时间。

作者简介①:梅丽莎·海基莱(Melissa Heikkilä)是《麻省理工科技评论》的资深记者,她着重报道人工智能及其如何改变我们的社会。此前,她曾在 POLITICO 撰写有关人工智能政策和政治的文章。她还曾在《经济学人》工作,并曾担任新闻主播。

作者简介②:威尔·道格拉斯·海文(Will Douglas Heaven)是《麻省理工科技评论》人工智能栏目的高级编辑,他在这里报道新的研究、新兴趋势及其背后的人。此前,他是英国广播公司(BBC)科技与地缘政治网站 Future Now 的创始编辑,也是 New Scientist 杂志的首席技术编辑。他拥有英国伦敦帝国理工学院计算机科学博士学位,深谙与机器人合作的体验。

支持:Ren


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1