当前位置:首页|资讯|OpenAI|谷歌|ChatGPT

OpenAI 工程师自曝开发 ChatGPT 仅用时 8 天,长文揭秘谷歌 DeepMind 等硅谷顶流如何诞生

作者:IT之家发布时间:2023-12-18

原标题:OpenAI 工程师自曝开发 ChatGPT 仅用时 8 天,长文揭秘谷歌 DeepMind 等硅谷顶流如何诞生

OpenAI 的出现,源自马斯克和拉里佩奇的一场争论。那是在 2015 年,特斯拉刚刚盈利,佩奇还是谷歌的 CEO。就是这场争吵的几周后,OpenAI 在一次晚饭上诞生。

最近,OpenAI 工程师惊人曝出:ChatGPT 的开发竟然只用了 8 天!

这位工程师表示,一年前的今天,自己报名了这项全世界演示的研究预览。

8 天内,团队完成了产品制作和上线的全部流程。那时,没人能预料,世界会发生怎样的变化。

下面是一些关于那个「疯狂第一夜」的截图。

众所周知,从 GPT-2 到 GPT-3,用了很多年,为什么 ChatGPT 的诞生却只要 8 天?

据悉,当时 OpenAI 的一些「叛逃员工」成立的 Anthropic,马上就要发布大模型产品了。为了抢在他们前面发布 AI 聊天机器人,OpenAI 团队用 Next.js写了个网页、调了个接口。

然后,掀起全世界 AI 风暴的 ChatGPT,就此诞生。

AI 大公司和独角兽,如何诞生

就在今天,纽约时报也发出一篇长文,揭秘了关于谷歌、DeepMind、OpenAI 和 Anthropic 起源的戏剧性故事。

自我、恐惧和金钱:AI 导火索是如何点燃的

2015 年 7 月,马斯克迎来了 44 岁的生日,他的妻子为他举办了为期三天的派对。

那一年,特斯拉刚刚盈利,拉里佩奇还是谷歌的 CEO。佩奇作为马斯克的 10 多好友也受邀参加派对。

那天晚上,当两个人聊到人工智能会让人类受益还是毁灭人类时,讨论变成了争吵。

30 多个在场的朋友中,都开始静下来听着两人的争论。

因为声带异常疾病的困扰,佩奇对于数字乌托邦抱有愿景。

他相信,人类最终会与人工智能机器融合。而终有一天,各种智能会争夺资源,最好的智能会赢。

马斯克说,如果这种情况发生,机器会摧毁人类,我们注定会失败。

而佩奇认为,他理想中的乌托邦值得被追求。最后,他称马斯克为「物种主义者」,认为他更偏爱人类,而不是未来的数字生命形式。

马斯克后来说,这种侮辱是最后一根稻草。

在场的许多人都被吓得目瞪口呆,然而八年后,大家发现,两人之间的争论到处都在上演。

AI 会造福人类还是毁灭人类?这个问题,已经在硅谷创始人、用户、学者、立法者、监管机构之间引发了一场旷日持久的大战。

这场辩论,让世界最富有的一些人相互对抗 —— 马斯克、佩奇、小扎、Peter Thiel、纳德拉、Sam Altman。

所有人都在为这项可能有朝一日价值数万亿美元的事业而战。

而这场比赛的核心,是一个令人费解的悖论。

那些说着最担心 AI 的人,也是最有强烈的决心要创造 AI、享受其财富的人。他们用坚定的信念来证明自己的野心是合理的,只有他们才能阻止 AI 毁灭人类。

那年夏天,马斯克和佩奇在派对结束后,就不再和彼此说话。

OpenAI 的诞生

几周后,马斯克于当时经营着科技孵化器的 Altman 和几个研究人员一起共进晚餐。

就是这次晚餐,促成了 OpenAI 的诞生。

在马斯克和其他投资者数亿美元的支持下,OpenAI 承诺,保护世界免受佩奇的愿景的影响。

现在,OpenAI 用 ChatGPT 从根本上改变了科技行业,据内部人士透露,OpenAI 的估值已经超过了 800 亿美元。

不过,现在马斯克和 Altman 也已经分道扬镳。

在上个月,OpenAI 董事会也发生了内讧。董事会中的「叛徒」试图赶走 Altman,因为他们不再相信他会制造造福人类的 AI。

OpenAI 内部的戏剧性事件,也让世界第一次看到,在那些决定 AI 未来的人之间,存在着激烈的争斗。

其实,在 OpenAI 剧变的前几年,硅谷就曾发生一场鲜为人知的激烈斗争,争夺着这项技术的主动权。

纽约时报采访了 80 多位高管、科学家,包括 2015 年参加了马斯克生日派对的两个人,重现了这个关于野心、恐惧和金钱的故事。

DeepMind 的诞生

在马斯克生日排队的五年前,34 岁的神经科学家 Demis Hassabis 走进 Peter Thiel 旧金山联排别墅的鸡尾酒会,意识到自己赚了。

在 Thiel 的客厅里,有一个国际象棋棋盘,而 Hassabis,曾经是 14 岁以下世界上排名第二的象棋选手。

「我为那次会面准备了一年。我知道这将是我独特的魅力所在:他喜欢国际象棋。」

2010 年,Hassabis 和同事正在寻找资金,来建立 AGI。

当时,很少有人对 AI 感兴趣。

当时,这三位来自英国的年轻人都与自学成才的 AI 研究者 Eliezer Yudkowsky 有联系,Yudkowsky 领导的社区理性主义者,后来发展成了有效利他主义者。

他们相信 AI 可以治愈癌症,解决气候变化,但他们担心 AI 机器人可能出令自己的创造者出乎意料的事。

Thiel 通过早期对 Facebook 的投资,以及在 PayPal 早期与马斯克的合作,变得非常富有。他对奇点产生了浓厚的兴趣。

在 Thiel 的资助下,Yudkowsky 扩大了他的人工智能实验室,举办了一个关于奇点的年度会议。

几年前,Hassabis 的一位同事中的一位见过 Yudkowsky,他为他们安排了会议上的演讲名额,确保他们被邀请参加 Thiel 的聚会。

随后,Yudkowsky 顺利地把 Hassabis 介绍给了 Thiel。

Hassabis 告诉 Thiel,主教和骑士之间存在着一种紧张关系,最好的棋手会明白,它们的价值看起来先沟通,但优势截然不同。

Hassaibs 成功了。Thiel 被迷住了,在刚完成晨练后,邀请他们来到厨房和自己聚会。

很快,Thiel 和自己的风投公司同意向他们的创业公司投资 225 万美元,这是他们获得的第一笔大投资。

他们将公司命名为 DeepMind,这是对深度学习、神经科学以及《银河系漫游指南》中的 Deep Thought 超级计算机的致敬。

到 2010 年秋天,他们开始建造自己梦想中的机器。他们相信自己了解风险,所以能够保护世界。

「我不认为我们的立场矛盾,」DeepMind 的三位创始人之一 Mustafa Suleyman 说。「这些技术带来了巨大的好处。我们的目标不是消除它们或暂停它们的发展,而是减轻不利因素。」

DeepMind 创始人:Mustafa Suleyman(左)、Demis Hassabis(中)和 Shane Legg(右)

获得 Thiel 的投资后,Hassabis 进入了马斯克的社交圈。

大约两年后,他们在 Thiel 的投资基金组织的一次会议上相遇。Hassabis 参观了 SpaceX 总部,然后和马斯克在自助餐厅聊起天来。

马斯克解释说,自己的计划是殖民火星,以此规避地球上人口过剩等危险。Hassabis 回答说,这个计划会奏效的 —— 只要超级智能不会跟着人类上火星,也不会摧毁人类。

马斯克无言以对,他没有想过这种危险。

很快,马斯克和 Thiel 一起投资了 DeepMind,这样他就可以更接近这项技术。

DeepMind 手握大笔钞票,聘请了专门研究神经网络的研究人员。

神经网络是以人脑图像创建的复杂算法。它本质上是一个巨大的数学系统,需要花费数天、数周甚至数月的时间,来识别大量数字中的模式。

这些系统于 1950 年代首次开发,可以学习自行处理任务。比如,在分析了数百个信封上潦草的姓名和地址后,系统就可以阅读手写文本。

DeepMind 进一步推进了这一概念。它建立了一个系统,可以学会玩经典的雅达利游戏,比如《太空侵略者》、《乒乓》和《突围》。

这引起了另一家硅谷巨头谷歌的注意,尤其是拉里・佩奇。

看完 Deep Mind 的机器玩雅达利游戏的 demo,他也想投资。

人才拍卖会

2012 年秋天,多伦多大学 64 岁的教授杰 Geoffrey Hinton 和两名研究生发表了一篇论文,他们训练了一个神经网络来识别常见的物体,比如鲜花、狗和汽车。

人们对这项技术非常惊讶,尤其引起了 AI 研究者余凯的注意。

百度为 Hinton 和他的学术提供了 1200 万美元,邀请他们加入百度。

Hinton 并没有选择百度,但这笔钱引起了他的注意。

作为一个在剑桥受教育的英国侨民,Hinton 的大部分时间都在学术界度过,偶尔会在微软和谷歌任职。

他对金钱并不那么在意,但因为有一个患有神经变异的孩子,这笔钱意味着经济上的安稳。

在咨询律师和专家后,他提出这个计划 —— 组织一次拍卖。

谷歌、微软、百度等大科技公司相信,神经网络是通往 AI 的途径。

佩奇在谷歌大脑实验室看到了类似技术,他相信 Hinton 的研究会对谷歌大脑大有裨益。

他给谷歌工程高级副总裁 Alan Eustace 一张空白支票,让他雇佣谷歌需要的任何 AI 人才。

领导谷歌大脑的 Eustace 和 Jeff Dean 在拍卖会的前一晚,飞往 Hinton 和学术所在的太浩湖,和他们共进晚餐,劝说他们来谷歌工作。

第二天,Hinton 在酒店房间里主持了拍卖会。

由于背部旧伤,他很少坐下。他把一个垃圾桶倒过来放在桌子上,把笔记本电脑放在上面,接下来两天,出价滚滚而来。

谷歌微软都出价了,随着价格不断上涨,DeepMind 迅速推出。

出价到了 2000 万美元,然后是 2500 万美元。价格超过 3000 万美元时,微软退出了,随后,它又以 3700 万美元的价格重新加入竞标。

Hinton 说,那种感觉就像在看电影一样。

然后,微软第二次退出了。

只剩下百度和谷歌,出价推到了 4200 万美元,4300 万美元。最后,在 4400 万美元价格时,Hinton 和他的学生停止了拍卖。

出价仍在攀升,但他们想为谷歌工作。而且钱的数目已经很惊人了。

这次拍卖事件表明,财力雄厚的大公司决心买下最有才华的 AI 研究者。

此前,Hassabis 一直告诉员工,DeepMind 会一直是一家独立的公司,唯有这样才能确保 AI 不会危及人类。

但随着大型科技公司开始加入人才竞赛,他知道自己别无选择:是时候选择出售 DeepMind 了。

据三位知情人士透露,到 2012 年底,谷歌和 Facebook 正争相试着收购 DeepMind 伦敦实验室。

Hassabis 和联合创始人坚持两个条件:DeepMind 的技术不能用于军事目的,其 AGI 技术必须由一个由技术专家和伦理学家组成的独立委员会监督。

谷歌出价 6.5 亿美元。Facebook 扎克伯格出价更高,但不同意这些条件。于是 DeepMind 卖给了谷歌。

扎克伯格决心建立一个自己的人工智能实验室。他聘请了法国计算机科学家 Yann LeCun。

在 Hinton 的拍卖会一年后,扎克伯格和 LeCun 飞往 Tahoe 湖,参加了同样的人工智能会议。

扎克伯格在赌场的一间套房里闲逛,同顶级的 AI 研究人员交谈,很快,他们就获得了数百万美元的薪水和股票。

曾经被嘲笑过的 AI,正在让硅谷最富有的人掏出数十亿美元,来防止自己落后。

失落的道德委员会

当马斯克投资 DeepMind 时,他打破了自己以往的准则 —— 不投资任何不是自己经营的公司。

跟佩奇的吵架一个月后,他发现这个决定的弊端很明显了。

2015 年 8 月 14 日,DeepMind 伦理委员会召开了第一次会议。成员们在马斯克在 SpaceX 办公室外的一间会议室里开了会,但马斯克的控制就到此为止了。

当谷歌收购 DeepMind 时,买下了整个公司。马斯克出局了。

牢牢控制着 DeepMind 的三位谷歌高管出席了会议:佩奇;谷歌联合创始人兼特斯拉投资者谢尔盖・布林;以及谷歌董事长 Eric Schmidt。其他与会者包括 PayPal 的另一位创始人里德・霍夫和研究「存在风险」的澳大利亚哲学家 Toby Ord。

DeepMind 的创始人报告说,他们正在推进工作,但也意识到:这项技术存在严重的风险。

DeepMind 的联合创始人 Suleyman,做了一个题为「干草叉来了(The Pitchforkers Are Coming)」的演讲。

他告诉董事会,AI 可能会导致虚假信息的爆炸式增长。他担心,这项技术在未来几年可能会取代无数工作岗位,公众会指责谷歌砸掉了他们的饭碗。

他认为,谷歌需要与数百万无法失业的人分享财富,并保证「普遍的基本收入」。

马斯克对此表示同意。但很明显,谷歌的高管们并不打算重新分配自己的财富。

Schmidt 说,他认为这些担忧完全被夸大了。

佩奇也表示同意。他认为,人工智能创造的就业机会将多于它带走的就业机会。

八个月后,DeepMind 取得了震惊 AI 社区和全世界的突破。

AlphaGo 在围棋比赛中击败了世界上最好的人类棋手。全球 2 亿多人观看了这场比赛。

大多数研究者认为,AI 还需要 10 年才能做到这一点。

理性主义者、有效利他主义者和其他担心 AI 风险的人声称,AI 的胜利证实了他们的担忧。

即将加入 DeepMind 担任 AI 安全研究院的 Victoria Krakovna 写道,「这个迹象表明,AI 发展得如此之快,甚至比许多专家预期的还要快。」

DeepMind 的创始人越来越担心,谷歌会用自己的发明做什么。

2017 年,他们试图脱离公司。谷歌的回应是,提高 DeepMind 创始人及其员工的工资和股票奖励待遇。于是他们留下了。

道德委员会从未召开过第二次会议。

分手

马斯克确信,佩奇对 AI 看法太乐观了,并且对于失去 DeepMind 感到愤怒,于是建立了自己的实验室。

马斯克向成立于 2015 年底的 OpenAI 注入了资金,他的前 Paypal 好友 Hoffman 和 Thiel 也来了。

几个人向项目投入了 10 亿美元,为了让 OpenAI 开始,他们从谷歌挖走了 Ilya Sutskever。(Ilya 就是谷歌在 Hinton 拍卖会上买下的研究生之一)

最初,马斯克希望把 OpenAI 作为非营利组织运营,不受经济激励的影响。

但当谷歌用围棋的噱头让科技界惊叹不已时,马斯克改变了主意。他迫切希望 OpenAI 能发明世界想象力的东西、缩小与谷歌的差距。

然而,OpenAI 并没有作为非营利组织在工作。

据知情人士透露,在 17 年底,他制定了一项计划,从 Altman 和其他创始人手中夺取 OpenAI 的控制权,并将其转变为和特斯拉联手的商业公司,依靠后者开发的超算。

当 Altman 和其他人提出异议时,马斯克辞职了。

当他说明 OpenAI 需要加快行动时,一位研究者反驳他说他很鲁莽。马斯克骂他混蛋,然后带着自己雄厚的钱袋冲了出去。

于是,OpenAI 需要新的融资。Altman 飞往太阳谷参加一个会议时,遇到了微软 CEO 纳德拉。新的合作顺理成章。

Altman 认识微软的 CTO Kevin Scott。微软从 OpenAI 董事会成员 Hoffman 手中买下 LinkedIn。纳德拉告诉 Scott 要完成这件事。交易于 2019 年完成。

Altman 和 OpenAI 在最初的非营利组织下,成立了一家营利性公司。他们拥有 10 亿美元的新资本,而微软能将 AI 构建到其庞大的云计算服务中。

并非 OpenAI 的每个人都高兴。

Dario Amodei 是一位与有效的利他主义社区有联系的研究员。他领导的实验室在 2020 年夏天发布了 GPT-3。

OpenAI、谷歌和其他公司的研究人员认为,这项技术可能是通往 AI 的一条道路。但 Amodei 博士对于微软的交易并不满意,他认为这正在将 OpenAI 带入真正的商业方向。

据五位知情人士透露,他和其他研究人员前往董事会,试图将 Altman 赶下台。失败后,他们离开了,就像曾经 DeepMind 的创始人一样。

2021 年,大约 15 名工程师和科学家创建了一个名为 Anthropic 的新实验室。他们计划是按照有效利他主义者认为应该做的方式构建 AI—— 通过非常严格的控制。

「Anthropic 的联合创始人没有试图将 Sam Altman 从 OpenAI 中移除,」Anthropic 的发言人 Sally Aldous 说。「他们希望离开 OpenAI 创办自己的公司,于是向 OpenAI 的领导层透露了这一点,并在几周内,以双方都同意的条件谈判退出。」

两年后,Anthropic 接受了亚马逊的 40 亿美元投资,又接受了谷歌的 20 亿美元投资。

揭秘 GPT-4

在 OpenAI 从微软获得 20 亿美元投资后,Altman 和另一位高管 Greg Brockman 拜访了比尔・盖茨位于西雅图的豪宅。那时,这位微软创始人已不再参与公司日常工作,只是与高管定期保持联系。

晚餐时,盖茨告诉他们,自己怀疑大型语言模型是否能奏效。

他说,除非 LLM 能执行需要批判性思维的任务,比如通过 AP Bio 的大学生物学考试。

五个月后,也就是 2022 年 8 月 24 日,Altman 和 Brockman 再次来找盖茨,还带来了另一位 OpenAI 研究员 Chelsea Voss。她在高中时曾获得国际生物奥林匹克竞赛的奖牌。

出席会议的还有纳德拉和其他微软高管。

在现场,OpenAI 的工作人员展示了 GPT-4 技术。

Brockman 让 GPT-4 做高级生物学考试的多项选择题,Voss 给答案打分。

第一个问题涉及极性分子,GPT-4 做出了正确回答,还解释了这么选择的原因。

Brockman 解释说,本来他们只是训练 GPT-4 提供答案,并没有设计让它解释,但是它自动做到了。

60 个问题中,GPT-4 只做错了一道题。

盖茨在椅子上坐了起来,睁大了眼睛。

上一次他有这样的反应,是在 1980 年,当时研究人员正在向他展示后来成为现代个人电脑基础的图形用户界面。

毫无疑问,他相信 GPT 是革命性的。

到了 10 月,微软已经在必应搜索引擎等服务中集成 GPT-4。现在,每周都有 1 亿人在使用 ChatGPT。

OpenAI 击败了 Anthropic 的有效利他主义者。谷歌的乐观主义者匆忙发布了 Bard,但人们公认谷歌已经输给了 OpenAI。

ChatGPT 发布三个月后,谷歌股价下跌了 11%。而这仅仅是个开始。

参考资料:

  • https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html?smid=nytcore-android-share

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1