当前位置:首页|资讯|ChatGPT|OpenAI|人工智能|阿尔特曼

ChatGPT之父被OpenAI踢出局背后:被指注重名利 忽略安全

作者:雷递发布时间:2023-11-18

原标题:ChatGPT之父被OpenAI踢出局背后:被指注重名利 忽略安全

雷递网 雷建平 11月19日

这个周末,重量级的AI(人工智能)初创公司OpenAI发生管理层“地震”。

OpenAI董事会宣布,OpenAI CEO萨姆·奥特曼(Sam Altman)将辞去CEO,并离开公司,首席技术官米拉·穆拉蒂(Mira Murati)将担任临时首席执行官,立即生效。

OpenAI是由特斯拉CEO马斯克、Sam Altman等六人在2015年联合创办,最初为非营利性机构。2022年11月,聊天机器人ChatGPT的爆火,推出仅仅2个月,就达到月活过亿,成为历史上增长最快的消费者应用程序。

ChatGPT创造了一个奇迹,也让Sam Altman在全世界声名鹊起,Sam Altman由此被称为ChatGPT之父。

谈及被解雇一事时,Sam Altman说,今天在很多方面都是一次奇怪的经历。但令人意想不到的是,这有点像在你还活着的时候读你自己的悼词。爱的倾注真是棒极了。

(today was a weird experience in many ways. but one unexpected one is that it has been sorta like reading your own eulogy while you’re still alive. the outpouring of love is awesome.)

OpenAI联合创始人格雷格·布罗克曼 (Greg Brockman) 也将辞去董事会主席职务,但继续担任公司职务。

据悉,Sam Altman被解雇后,OpenAI的三位高级研究员宣布辞职,包括研究总监Jakub Pachocki、负责评估AI风险的团队负责人Aleksander Madry,及七年研究员Szymon Sidor。

Sam被指违背初心 越来越注重名利

2023年,OpenAI在持续快速发展。

2023年2月,OpenAI推出了ChatGPT的订阅计划,称为ChatGPT Plus,起价为每月20美元,与基础级ChatGPT相比有许多优势,包括在高峰时段也能普遍访问ChatGPT、更快的响应时间以及优先访问新功能和改进。

2023年3月,OpenAI又推出了GPT-4,也被称为“王炸”产品,称ChatGPT现在可以看、听和说话。

2023年11月还发布一系列GPT新产品,并将推出GPT Store。Sam Altman在OpenAI开发者大会上表示,人工智能是技术和社会的变革,将改变世界,改变我们的生活和未来。“人工智能的发展比我们想象的快很多! 我们拥抱变化,拥抱AI。借助AI我们都会有超级能力和超级智慧。You have superpower on-demand!”

自OpenAI推出付费版ChatGPT以来,公司收入增长明显。如果OpenAI今年的营收能够达到13亿美元,将比公司此前10亿美元的预估高出30%。

而此次OpenAI给出了罢免理由:“Sam Altman的离职是在董事会经过深思熟虑的审查程序之后进行的,审查程序得出的结论是,他在与董事会的沟通中始终不坦诚,阻碍了董事会履行职责的能力。董事会不再对他继续领导OpenAI的能力充满信心。”

此次OpenAI管理层“地震”,引发了行业很大关注和讨论。

有观点认为,工程师们担心,在利用ChatGPT炒作的竞赛中,Sam Altman没有充分的安全审查,就匆忙将技术推向市场。

Sam Altman的关注焦点越来越是名利,而不是坚持OpenAI作为一个负责任的非盈利组织的原则。Sam Altman做了单方面的商业决定,目的是为了利润,偏离了OpenAI的使命。

“当他提出GPT商店和收入分享,它越过一条线,这标志着我们的核心价值受到了威胁,所以,董事会做了一个艰难的决定,解除了他的CEO职务。”

OpenAI希望通过此次调整,回到工程驱动的使命,安全地开发人工智能,造福世界,而不是股东。

OpenAI此次管理层地震也并非毫无征兆。OpenAI开发者大会结束后,AI聊天机器人产品ChatGPT和其 API 接口出现“严重停机”(Major Outage)事件,整个故障时间陆陆续续长达超过12小时。

Sam Altman曾公开道歉,称新功能的使用情况远超预期,公司原计划周一为所有订阅者启用GPT,但仍未能实现。由于负载原因,短期内可能会出现服务不稳定的情况。

此次的宕机导致了微软和OpenAI的合作关系遇到了挑战。

由于安全担忧,Windows暂时阻止员工访问ChatGPT。微软在一份内部更新中表示:“由于安全和数据顾虑,一些AI工具已不再向员工开放使用。”

微软表示:“虽然微软确实投资了OpenAI,ChatGPT也有内置的保护措施来防止不当使用,但该网站仍然是第三方外部服务。这意味着由于隐私和安全风险,你必须谨慎使用它。这也适用于Midjourney或Replika。”

除了微软以外,许多大公司也都员工限制访问ChatGPT,通常是为了防止共享机密数据。

此次事件发生后,刚刚为OpenAI站台的微软公司CEO、董事长萨提亚·纳德拉(Satya Nadella)很快做出了回应,称“我们与 OpenAI 签订了长期协议,可以完全访问我们实现创新议程和令人兴奋的产品路线图所需的一切; 并继续致力于我们的合作伙伴关系、Murati和团队。我们将共同努力,继续为世界带来这项技术的有意义的好处。”

值得注意的是,Satya Nadella在回应中都没提及到Sam Altman,对这则OpenAI内部的动荡显得轻描淡写。

被自己制定的规定赶下台

引发Sam Altman此次被踢走的根源,反而是Sam Altman自己的规定。

OpenAI最初是一个非营利组织,2019年时因为意识到非营利组织不足以和营利性公司竞争的资金,决定进行一定的营利。

为保持初心,OpenAI没直接转换成营利公司,而是做了一个新的“限制营利”结构——拆出一个营利性的子公司,还接受微软和其他资方股权投资,但子公司受非营利组织控制(51%股权),而非营利组织受董事会控制。

OpenAI非营利组织受董事会只对非营利组织的章程负责,不对任何股东或者资方负责,目前董事会的成员有6个:Sam Altman(山姆·阿尔特曼,OpenAI CEO)、Ilya Sutskever(伊利亚·苏茨克维,OpenAI首席科学家)、Greg Brockman(格雷格·布洛克曼,OpenAI总裁、董事会主席)、Adam D'Angelo(亚当·丹杰罗,Quora CEO)、Tasha McCauley(塔莎·麦考利,科技企业家)、Helen Toner(海伦·托纳,乔治城大学安全与新兴技术中心主任)。

这六个人里,Sam Altman有少量股份,有三人没有任何OpenAI股份。

据OpenAI工程师匿名爆料和OpenAI官方博客的内容,Ilya Sutskever一方对Sam Altman过快推进商业化,没有对AI安全的足够重视感到不满,先获得了三名独立董事,然后以少数服从多数的原则,开除了CEO Sam Altman、解除了Greg Brockman的董事席位。

卸任董事长职务的Greg说:“Sam和我对董事会今天的所作所为感到震惊和悲伤。”Greg称也在试图弄清楚究竟发生了什么。这是Greg所知道的:

- 昨晚,Sam收到Ilya发来的短信,要求周五中午谈话。Sam参加了一次Google Meet,除了Greg之外,整个董事会都在场。Ilya告诉Sam,他将被解雇,并且消息很快就会传出。

- 中午12:19,Greg收到Ilya发来的短信,要求快速打电话。中午12:23,Ilya发送了一条 Google Meet链接。Greg被告知,他将被从董事会中除名(但对公司至关重要,并将保留Greg的职位),而Sam已被解雇。大约在同一时间,OpenAI 发表了一篇博文。

- 据我们所知,管理团队不久后就意识到了这一点,除了Mira在前一天晚上发现了这一点。”

任命34岁女CTO为临时CEO 其曾在特斯拉工作

相对于Sam Altman,此次接任的Mira Murati并不太为人所知。

资料显示,Mira Murati是一个移民,16岁时离开祖国阿尔巴尼亚来到美国,Mira Murati拥有达特茅斯学院(Dartmouth College)机械工程学位,曾在高盛和法国航空航天集团Zodiac Aerospace 实习。

Mira Murati还曾在特斯拉工作了三年,担任特斯拉的跨界 SUV Model X 的高级产品经理,在此期间,特斯拉发布了Autopilot的早期版本,这是其支持人工智能的驾驶员辅助软件。

2016 年,Murati加入Leap Motion,这是一家为PC制造手部和手指追踪运动传感器的初创公司,担任产品和工程副总裁。

2018 年,Murati加入 OpenAI,担任应用人工智能和合作伙伴关系副总裁。2022年晋升为首席技术官后,Murati领导了OpenAI病毒式人工智能聊天机器人 ChatGPT、文本到图像人工智能 DALL-E 以及为 GitHub 的 Copilot 产品提供支持的代码生成系统Codex的工作。

Murati也有艺术的一面——从诗歌、科幻电影和摇滚乐队中汲取灵感。Murati曾说,她的灵感首选歌曲是 Radiohead 的《Paranoid Android》,因为它“层次分明,触及了与技术社会相关的主题”。

她是莱纳·玛丽亚·里尔克(Rainer Maria Rilke)诗集《杜伊诺挽歌》(Duino Elegies)的粉丝,Murati曾说,即使是现在,科幻电影《2001:太空漫游》“仍然以其图像和音乐激发我的想象力。”

之所以Mira Murati能成为OpenAI临时CEO,原因在于,当OpenAI董事会寻找永久替代者时,她也许会选择不去搅局。

从接受的采访来看,Murati将多模态模型(即OpenAI的GPT-4 with Vision 等模型,它可以理解图像和文本的上下文)视为公司的未来,也是未来的发展方向之一。通往超能力人工智能的最有希望的途径。

“我们想要开发DALL-E的原因之一是为了对世界有更深入的了解,让这些模型像我们一样理解世界,”Murati说。“你把技术与现实联系起来;你会看到人们如何使用它,有什么限制;你从中学习;你可以将其反馈到技术开发中。另一个维度是,你实际上可以看到[该技术]在解决现实世界问题方面有多大作用,或者它是否新颖。”

Mira Murati在周五的全公司会议上告诉OpenAI 员工,OpenAI最大支持者之一微软的首席执行官和首席技术官萨蒂亚·纳德拉 (Satya Nadella) 和凯文·斯科特 (Kevin Scott) 对 OpenAI 的方向“充满信心”。她重申 OpenAI正在开始寻找新的首席执行官。

———————————————

雷递由媒体人雷建平创办,若转载请写明来源。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1