当前位置:首页|资讯|OpenAI|ChatGPT

OpenAI 总裁:ChatGPT 爆火的幕后功臣

作者:AppSo发布时间:2023-04-10

原标题:OpenAI 总裁:ChatGPT 爆火的幕后功臣

好内容值得不断传播

APPSO × 赛博禅心 创作者联名计划

OpenAI 成立的初衷,是为了对抗 Alphabet 等掌握人工智能核心技术的科技巨头。

然而,在早期,OpenAI 这个只有 50 名员工的非营利组织还很难追赶上像 DeepMind 这样的竞争对手。

如今,OpenAI 已经从一个担心无法与强劲对手竞争的非营利组织转变为估值 200 多亿美元的盈利公司,并与微软达成战略合作。

OpenAI 能够成功翻身的秘密在于总裁 Greg Brockman。

Brockman 具备将编程、产品决策和团队管理相结合的能力,他将 OpenAI 的研究成果转化为实际业务,这也是 OpenAI 的秘密武器。

文/Jon Victor@The Information

译/f.chen@真格基金

关键提要

- 作为前 Stripe CTO 的 Brockman 以擅长快速执⾏、推动⼩幅改进⽽闻名

- 作为总裁,Brockman 拥有 OpenAI 的股权,⽽ CEO Altman 没有

- Brockman 在开发 GPT-4 的过程中起了关键作用

Greg Brockman 需要一场胜利。

2017 年,时任 OpenAI CTO 的 Brockman 感到担忧,他担心 OpenAI 这个当时只有 50 名员工的非营利组织会被像为 Google 母公司 Alphabet 所有的 AI 实验室 DeepMind 这样的强大竞争对手抛在身后;他还担心 OpenAI 可能会和其他 AI 实验室一样陷入同一个陷阱 —— 研究人员一门心思钻研从不付诸实践的项目。

因此,Brockman 带头制定了一个计划,让 OpenAI 的研究员和工程师协同工作,搭建一款能玩复杂的在线战斗游戏 Dota 2 的软件。

虽然两个团队的职责相似,研究人员专注于训练新模型,而工程师则负责搭建使这些模型运行的软件,但前 OpenAI 员工表示,在 OpenAI 的其他项目中,两个团队之间关系紧张,这是科技公司内部的常见现象。

经过数月的彻夜工作,他们最终做出了能玩这款游戏的软件,并于 2019 年初在击败了全球最好的 Dota 2 人类选手,引起了游戏玩家和 AI 研究者的关注。

这⼀成功成为了 OpenAI 搭建其迄今为⽌最引人注目的产品 ChatGPT 的工作模式模版ChatGPT 在过去的几个月里成功掀起了新时代的潮流。

虽然这个聊天机器⼈并非基于任何 AI 研究的激进突破,但是它的魔⼒在于将「象⽛塔⽩⽪书」翻译成可以执⾏实际任务的系统。

据了解情况的人说, Brockman 在其中发挥了最大的作用,比 OpenAI 的其他任何人都多,他 推动技术⼈员共同开展关键计划,从⽽增强了团队开发此产品的专注度。

「看看历史上的许多 AI 实验室,成员们坐在一起努力构思,实现了非常出色的研究突破,但将其变成可落地的产品是一件困难的事。」问答⽹站 Quora 的 CEO Adam D’Angelo 说,他和 Brockman 一样,是 OpenAI 的董事会成员。

「Greg 是那个真正能使技术变成现实的人。」D’Angelo 说。

虽然 OpenAI 的 CEO Sam Altman 代表公司的公众形象,但 Brockman 是公司的秘密武器—— 他是 OpenAI 的总裁, 但他的日常职责与拥有该头衔的大多数科技领导者几乎没有任何相似之处 —— 34 岁的 Brockman 没有直接下属,这使他免于常规的管理类繁琐事务,可以将大约 80% 的时间用于编程工作。

Greg 有极强的能力,能够看到每个技术问题的细节,对每个层次都了如指掌,同时也能非常有战略性地考虑每个部分需要如何协同工作。Altman 说。

Brockman 是一个「流动人员」他在不同的团队之间游走,制定目标并推动团队在软件效率方面进行渐进式改进,到了特定节点,他就会将项目转交给管理者,并 跳到新项目上,「我一直在不断地探索新领域。」Brockman 说。

当然,他的方法也有缺点。曾与他合作过的两个人表示,在他独自编写项目的关键部分的程序后,其他 OpenAI 的工程师可能需要数月时间才能弄清楚 Brockman 如何解决技术问题。

其中一位人士表示,在 2022 年初,Brockman 坚持要从头开始重写公司用于训练模型的一个重要软件,迫使 OpenAI 的其他员工需要重新适应系统。

Brockman 承认,介入项目,改变团队的优先级并否决其他经理人的决定可能会引起同事们的反感,但他表示他已经在努力提高人际交往能力,学会减少冲突。

「我失败的工作模式可能会让人们感到不满。」他说。

尽管如此,Brockman 的影响力仍然让人尊敬。与他合作过的人描述,Brockman 是典型的「10 倍工程师(1 0X engineer)」—— 硅谷黑话,指一个程序员的生产率是普通人的 10 倍。

他的工作已经转化为 OpenAI 的实际业务,该公司现在正在通过销售访问其软件的权限,以每年数亿美元的速度增长,就像《The Information》所报道的那样。

去年,曾在 Google 和 OpenAI 工作的 Aravind Srinivas 创立了一家人工智能驱动的搜索引擎公司 Perplexity,他直截了当地描述了这位前同事的影响:

——「OpenAI 工作最努力的人就是 Greg Brockman。」

Srinivas 还说,Brockman 这样的可以将编程、产品决策和团队管理相结合的能力在科技领域中很罕见,「Google 没有这样的人。」他说(但一位 Google 受访者拒绝发表评论)。

几年前,Brockman 担心 OpenAI 可能无法与 DeepMind 等强劲的对手竞争,但这种担忧目前没有成为现实。

相反,ChatGPT 的发布和注册量的猛增把 Google 和 DeepMind 打了个措手不及,迫使他们加快开发自己的 AI 聊天机器人 Bard。

OpenAI 在 2019 年转为一个盈利公司,并且拥有了一个强大的盟友 Microsoft,是 Google 最大的竞争对手。

Microsoft 一直在努力将自己的 AI 研究转化为可以产生收益的产品,他们已向 OpenAI 投资了数十亿美元以获取其技术,并将这家成立七年的创业公司的估值定为 200 多亿美元。

但是,科技行业的变化速度很快。笨重的科技巨头以前已经经历过自我蜕变,他们可能会再次这样做,这会对 OpenAI 造成冲击。

Brockman 和他在创业公司的同事们也可能无法实现他们最终发展人工通用智能(AGI)的愿景,AGI 是指展现出人类水平智能的系统。这样的系统比 ChatGPT 先进得多,能够做从开创性的研究到创建公司的所有事情。

更令人担忧的是,一些 AI 研究人员担心 AGI 最终会摆脱人类主人的控制并造成灾难。但 Brockman 对 AI 不会成为人类威胁更为乐观,他说: 「如果我们认为我们今天思考问题的方式会与五年后相同的话,那就太想当然了。」

大学辍学

Brockman 在位于明尼苏达州与北达科他州交界处的汤普森(Thompson)的一个大约有 1100 人的小镇长大,他上学时在科学和数学方面表现出色。

在 Red River High School 读高中时,他在 2006 年的国际化学奥林匹克竞赛中获得了银牌。在高中 10 年级时,他已经完成了学校的数学课程,大部分时候都在北达科他大学(University of North Dakota)上课。

Brockman 说:「我的校长要求我每学期在高中上三门课,然后就可以在大学里选任何我想学的课了。」

2008 年,Brockman 进入哈佛大学(Harvard University),最初计划主修数学和计算机科学(他在海外度过的一年间学会了编程)。

但当他觉得无法从同学那里学到更多关于软件的知识时,他辍学了。他转入麻省理工学院(MIT),但也没待多久。「那里的学生对软件的了解比我多得多。」Brockman 说。

他并没有在 MIT 待很久。在计划创业做自己的软件公司后,Brockman 遇到了刚开始创业的 Patrick 与 John Collison 兄弟,他们要做一个支付公司,后来,这家公司被命名为 Stripe —— 尽管对他们的业务有所疑虑,但 Brockman 决定和他们一起工作。

「我非常确定这事儿成不了,我们必须年龄最够大才能在这个领域有真正的影响力。」Brockman 说,「但是我很好奇我们谁是错的,所以和他们开了个会。」

事实证明,Brockman 是错的。2010 年的某个周四,他辍学离开了 MIT,在第二周的周一就坐飞机到旧金山,加入了 Collison 兄弟的公司。

Brockman 在 Stripe 待了五年,最终成了公司 CTO,在这段时间里,Stripe 实现了爆炸式增长,成为科技行业中最有价值的创业公司之一。

成为救火队长

OpenAI 的起源可以追溯到 2015 年底在加州 Menlo Park 的 Rosewood 酒店举行的一次晚宴。Brockman 与其他十几位科技界名人一起出席了这场晚宴,包括特斯拉CEO Elon Musk,当时还是 Google 研究科学家的 Ilya Sutskever 和 Dario Amodei。

Brockman 说,他通过 Patrick Collison 结识了 Altman,他们聚在一起是为了讨论组建一个新的非营利实验室,汇集全球顶级的 AI 研究人员来开发 AGI。

当时,Altman 将该项目作为与 Alphabet 等掌握 AI 核心实力的科技巨头相制衡提出。他认为先进的 AI 技术掌握在大公司之手可能会使 AI 成为只有少数人而不是全人类受益的技术。

Brockman 不久后就离开了Stripe,从一开始就全身心地投入到这个项目中。「我们离开时,Sam 和我相互看了一眼,说:开始吧,让我们真正创立这个实验室。」

OpenAI 最早的支持者包括 Brockman、Altman、Musk、LinkedIn 联合创始人 Reid Hoffman、Y Combinator 创始合伙人 Jessica Livingston 和 PayPal 联合创始人 Peter Thiel,他们共同承诺捐赠 10 亿美元资助这个刚成立的非营利组织。

Brockman 成为了 OpenAI 的 CTO,负责招募研究人员来加入这个新组织,其中一位前 OpenAI 员工说,他邀请了一组候选人加入他在 Napa 的周末假期,向他们介绍这个项目。

在 OpenAI 早期,Brockman 的职责很灵活,有时甚至很乏味。他上任的第一天,就在与 OpenAI 的联合创始人之一 Sutskever 和加州大学伯克利分校的计算机科学家 John Schulman 进行头脑风暴会议时负责四处寻找白板来写字。

「我认为我的工作是应该的 —— 我是那个解决问题的人,那个会说 ‘无论你需要什么来更好地完成你的工作,我都去做’ 的人」Brockman 说,「我花了几周才找到第一个工程问题,并解决了这个问题。」

在 OpenAI 的前几年,Brockman 和 Sutskever 做了大部分日常决策,Brockman 管理公司的软件工程师,而 Sutskever 则负责管理研究员。同时,Brockman 经常与 Altman 通电话,当时 Altman 还在经营 Y Combinator,他和 Musk 是公司董事会的联合主席。

Brockman 需要解决的一个难题是让研究员和工程师协同工作的问题,一些 OpenAI 的工程师低估了研究员的贡献,而研究员则将工程师视为技术人员而非科学家,这反映出他们在大公司实验室工作的惯性思维。

但是,Brockman 牵头的 Dota 2 项目有助于打破僵局。为了推动该项目,Brockman 与 Dota 2 的开发人员通了数小时电话,以确定如何让玩游戏的软件运行起来。有三位当时参与其中的人说,由于该游戏和 OpenAI 的算法是用不同的编程语言编写的,所以中间涉及到语言转换,这是个技术挑战。

OpenAI 的工程师们也曾努力应用他们的机器学习算法到一个看似有无限变量的游戏中,从玩家的移动方式到地图的各种特征 —— 他们最终通过细致的工程设计和昂贵的算力解决了这个问题。

前员工表示,这些进展也有助于 Brockman 成为 OpenAI GPT 模型开发的关键人物。这些模型可以在基于文本的提示下生成类似自然语言的答案,其研究工作始于 2017 年,当时 Google 研究人员发表了一篇名为 Atention Is All You Need 的研究论文,这篇论文展示了一种名为 transformer 的深度学习模型如何帮助人们更有效地构建更大的模型。

尽管 GPT 并不基于 OpenAI 的任何基础研究突破,但一位知情人士表示,它帮助这家初创公司构建了一个不会因为数百万人同时使用而崩溃的产品。Perplexity 的 Srinivas 曾在OpenAI 的 GPT 团队工作,他说,为了优化 OpenAI 系统的速度和成本,Brockman 「痴迷于每一个可能的进步」

「它在工程创新方面达到了前所未有的规模。」蒙特利尔大学计算机科学教授 Yoshua Bengio 表示,他发表过一些关于机器学习的重要研究成果,使 transformer 和 GPT 模型成为可能。

2017 年末,Musk 在 OpenAI 的办公室召开了一次会议,说出了他的担忧:这家初创公司的发展速度过慢,有可能输给 DeepMind。据一位参加了会议的人士透露,他担心 DeepMind 的技术即将加速发展,超出 OpenAI 的可追赶范围。

Musk 建议将 OpenAI 并入特斯拉,作为一家营利性公司,其筹集资金的能力更强,会更有可能开发出 AGI。一些 OpenAI 员工回应说,这样做将会助长一场 AI 军备竞赛,每个公司都会优先考虑速度,而不是安全性,以争取先达到 AGI。这场争论的结果是,Musk 于 2018 年离开了 OpenAI 董事会。

Musk 和 Altman 都拒绝对此次会议发表评论。

尽管存在这些分歧,Altman 和 Brockman 还是认真考虑了这位特斯拉 CEO 的意见,特别是在 AI 软件训练成本不断上升的情况下。

据 The Information 之前报道,2018 年,OpenAI 在 Google Cloud 服务上的支出约为 3400 万美元,这一数字在 2019 年翻了一番。据一位直接了解该项目的人士透露,有一段时间,仅在 Dota 2 项目上工作的团队每月就要花费超过 200 万美元的算力费用,超过了当时公司每月算力预算的 90%。

但要开发出 AGI,OpenAI 需要更多资本投入 —— 数十亿美元。Brockman 回忆,投资者对将数百万美元投入到一个没有希望获得财务回报的非营利研究机构中犹豫不决,他说:「我们意识到这是不可能的,我们需要改变实体性质。」

结果是,2019 年 3 月,OpenAI 创建了一个营利性子公司,这使其拥有了吸引外部支持者的潜力,尽管回报将被限制在其初始投资的 100 倍以内。

正如 The Information 当初报道的那样,Altman 没有在营利性子公司中持有任何股权。至于 Brockman,他表示他确实持有股权(但没有回应他持有多少股权)。Brockman 的股权可能在某种程度上限制他对 OpenAI 的影响力:他是 OpenAI 的董事会成员,公司的章程规定,在非营利机构和营利性子公司的投资者利益可能存在分歧的情况下,只有没有财务利益的董事会成员才能进行投票。

在 OpenAI 内部,一些员工对创建营利性子公司感到不安 —— 有些人认为,OpenAI 正在放弃其理想,开发与大公司一样的 AI 系统。最终,大多数人接受了这种变化,因为他们认为 公司的管理层正在尝试寻找一种平衡,使 OpenAI 能够负责任地追求其实现 AGI 的目标。

随着 OpenAI 不断完善 GPT 模型,一些员工开始对 Brockman 发布新产品的方式感到不满。例如,ChatGPT 收到了一些指责,称其在信息发布和行为方面存在错误。

2020 年底,一群由 OpenAI 研究副总裁 Dario Amodei 领导的员工离开公司,创建了一个名为 Anthropic 的竞争对手。根据 Brockman 的说法,他与 Amodei 和其他Anthropic 联合创始人的争端关键在于在发布 AI 软件之前需要等待多长时间的意识形态分歧。Brockman 更喜欢发布产品并利用客户反馈来改进它们。

Brockman 说:「这种认为可以在真空中解决问题的观点是错误的。」

Amodei 没有回应评论请求。

当 ChatGPT 在去年 11 月推出时,其成功让 Brockman 措手不及。他说:「对我们来说,我们看得到所有缺陷 —— 对这个不起作用,对那个不完全起作用,对这个完全不起作用 —— 但你会忽略这个事实,因为它对很多东西都很有用,实际上很多人会发现它具有惊人的实用性。」

这一反应引发了科技行业的一场争夺战,希望推出类似的聊天机器人。Google 旗下的两个 AI 实验室 DeepMind 和 Google Brain 首次开始合作,以试图追赶 OpenAI,今年 3 月,Anthropic 也推出了 ChatGPT 的竞争对手 Claude。与此同时,Musk 早些时候招募了 DeepMind 研究员 Igor Babuschkin,在他的另一家公司 Twitter 内部启动了一个新的「anti-woke(反觉醒)」AI 实验室。

与此同时,Brockman 继续推动 OpenAI 的产品前进。今年 3 月,他推出了最新的 AI 模型 GPT-4,展示了它如何仅根据网站的粗略设计草图生成网站开发代码,这个模型目前超过了其他科技公司公开发布的任何模型的能力。

Altman 说:「如果没有他的参与,整个项目不可能以如此高的质量交付。」

关于 APPSO 创作者联名计划

APPSO 创作者联名计划是我们正在探索的栏目,我们寻找各个领域最善于思考的创作品牌/创作者和最值得传播的内容,希望这些内容到达 APPSO 百万受众。

创作品牌介绍

赛博禅心

敲电子木鱼,修赛博禅心


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1