GPT-4老板：别慌，我有一个计划，AGI未来真的很美好

Sam Altman看到了改变世界的利与弊。他认为与其在全面发布之前完全闭门开发和测试技术，不如逐步共享更安全。如果真的要关停研究，他也有计划。

OpenAI的聊天机器人让世界震惊。

但是当人们意识到这种技术也是一种传播虚假信息的方式，也会劝说人们做危险的事情时，一些批评者指责奥特曼的行为很鲁莽。

许多行业领袖、人工智能研究人员和学者认为ChatGPT是一项基本的技术转变，其意义不亚于网络浏览器或iPhone的诞生。但很少有人能就这项技术的未来达成一致。

一些人认为它将带来一个乌托邦，在那里每个人都拥有所有需要的时间和金钱。其他人则认为它可能摧毁人类。还有一些人把大部分时间花在争论上，认为这项技术永远不会像大家说的那样强大，坚持认为无论是涅槃还是末日，都还很遥远。

在过去的一周里，一千多名人工智能专家和技术领袖呼吁OpenAI和其他公司暂停他们在ChatGPT等系统上的工作，说它们「给社会和人类带来了深刻的风险」。

作为OpenAI的首席执行官，奥特曼以某种方式体现了这些看似矛盾的观点中的每一种观点，他希望将这一奇怪的、强大的、有缺陷的技术推向未来，与此同时去平衡无数种可能性。

这意味着他经常受到来自各个方向的批评。但OpenAI的总裁Greg Brockman认为这是应该的：「如果你同样让两个极端的人感到不安，那么你就做对了。」

曼哈顿项目领导人Robert Oppenheimer认为原子弹是科学进步的必然产物，而奥特曼跟Oppenheimer同一天生日。在说到OpenAI的技术时，奥特曼也引用了他的话：「技术发生是因为它是可能的。」他相信人工智能将以某种方式发生，它将做出连他自己都无法想象的美妙事情，而且我们可以找到方法来减轻它可能造成的伤害。

这种态度反映了奥特曼自己的发展轨迹。他在有效的个人技能的驱动下，相当稳定地向着成功和财富攀登。他相信好的事情会发生，这是有道理的。

但是，他也表示，如果他错了，还有一个逃生舱门：在与微软等投资者的合同中，OpenAI的董事会保留了在任何时候关闭技术的权利。

01 自我拉扯

奥特曼是一个生活在矛盾中的人，他是一个素食主义者，却养着牛。

在他谈及公司研发的技术时，他认为技术将「解决我们一些最紧迫的问题，真正提高生活水平，并为人类的意志和创造力找出更好的用途。」

但是，他并不完全确定它将解决哪些问题。与此同时，他又同样担心技术如果落入一些专制政府的手中，那样可能会造成严重的伤害。

风险投资公司Thrive Capital的合伙人Kelly Sims曾作为OpenAI的董事会顾问与奥特曼共事，她说他就像在不断地与自己争论：「在谈话中，他自己就是辩论的两方。」

问题是，奥特曼的两方最终是否相容：如果可能以灾难告终，那么领先这个潮流是否有意义？奥特曼当然决心要看看这一切是如何发生的。

2014-2019年，作为硅谷创业加速器和种子投资者Y Combinator的总裁，他为源源不断的新公司提供建议，并且敏锐地投资了几个如今已家喻户晓的公司，包括Airbnb、Reddit和Stripe。

他很自豪自己可以识别一项技术是否可以达到指数级增长。

02 我对钱不感兴趣

硅谷的许多人，个人财富被捆绑在各种各样的公共和私人公司中，奥特曼和他们一样。而且他的财富并没有惊人的多。

他在OpenAI中没有任何股份。他唯一能从该公司赚到的钱是大约65,000美元的年薪，以及Y Combinator对该公司的旧投资中的一小部分。

Y Combinator的创始人Paul Graham是他的伙伴、导师，他这样解释奥特曼的动机：

「他为什么要从事不会让他更富有的工作？一个答案是，很多人一旦有了足够的钱就会这样做，Sam就是这样。而另一个答案就是，他喜欢权力。」

03 比尔·盖茨一定就是这样的

20世纪90年代末，以19世纪美国自然学家和哲学家命名的私立预科学校John Burroughs的学生群体中充斥着对同性恋的恐惧。

21世纪初，17岁的学生奥特曼开始改变学校的文化，一个个说服教师在教室门上张贴「安全空间」的标志，作为支持像他这样的同性恋学生的声明。

Georgeann Kepchar教授学校的高级计算机科学课程，她认为奥特曼是她最有天赋的计算机科学学生之一：「他有创造力和远见，再加上雄心壮志和人格力量，他可以说服别人与他合作，将他的想法付诸行动。奥特曼还告诉我，他曾成功要求一位特别仇视同性恋的老师，贴出安全空间的标志。」

大一结束后，他在Andrew Ng教授的人工智能和机器人实验室工作，教授后来在谷歌创立了旗舰人工智能实验室。但是他说在斯坦福大学的短暂停留期间，他从晚上打扑克中学到的东西比其他大学活动中学到的东西更多，扑克教会了他如何看人和评估风险。

「如何注意到人们长期以来的模式，如何在非常不完美的信息下做出决定，如何决定何时值得用痛苦去获得更多信息，这是一个伟大的游戏。」

与奥特曼一起工作了十年的Graham在这个来自圣路易斯的人身上看到了同样的说服力：「他有一种天生的能力，可以说服人们去做事情。如果这不是与生俱来的，至少在他20岁之前就已经充分拥有这种能力了。我第一次见到Sam时，他才19岁，我当时就在想：‘比尔·盖茨一定就是这样的’。」

当Graham辞去了Y Combinator总裁的职务之后，他挑选了28岁的奥特曼作为他的继任者，这令硅谷的人十分震惊，因为这可不是雇佣编码员、工程师或人工智能研究人员，他是要制定议程、组建团队和达成交易的人。

作为YC的总裁，奥特曼几乎是放弃了对公司的扩张，成立了一个新的投资基金和一个新的研究实验室，并将公司每年提供咨询的公司数量扩大到数百家。

他还开始从事投资公司以外的几个项目，包括他在2015年与包括马斯克在内的一群人一起创立的非营利组织OpenAI。YC越来越担心奥特曼把自己搞得太累了，于是他决心将注意力重新集中在一个项目上，正如他所说，这个项目将对世界产生真正的影响，这个项目就是人工智能。

据他的弟弟所说，他相信自己是少数几个可以通过人工智能研究改变世界的人之一。

2019年，就在OpenAI的研究开始起步时，奥特曼先生抓住了机会，卸下了Y Combinator总裁的职务，专注于一家员工不到100人，甚至不知道如何开工资的公司。

在一年之内，他将OpenAI转变为一个非营利性机构，并设有一个营利性部门。这样一来，他就可以寻求资金，建造一台可以做人脑所能做的任何事情的机器。

在一次通常被称为「亿万富翁夏令营」的科技领袖年度聚会上，他碰到了微软首席执行官Satya Nadella，之后他亲自与Nadella和微软首席技术官Kevin Scott谈判达成了协议。

OpenAI的总裁Brockman曼先生说，奥特曼的才能在于理解人们的需求：「他真的试图找到对一个人来说最重要的东西，然后想办法把它送给他们，这是他反复使用的算法。」

这项协议将OpenAI和微软置于一场运动的中心，这场运动准备重塑从搜索引擎到电子邮件应用程序到在线导师的一切。而这一切的发生速度甚至让那些几十年来一直跟踪这项技术的人感到惊讶。

在这股热潮中，奥特曼一如既往地冷静。微软的CTO Scott认为，奥特曼最终会成为像史蒂夫·乔布斯、比尔·盖茨和马克·扎克伯格一样伟大的人。

「这些人在科技行业的结构上留下了不可磨灭的印记，也许在世界的结构上也是如此。我认为Sam将成为这些人中的一员。」

04 漫漫筑梦路

Yudkowsky以及他的著作在创建OpenAI和DeepMind方面发挥了关键作用。他还帮助催生了由理性主义者和有效的利他主义者组成的庞大网络社区，他们相信人工智能是一种生存风险，担心人工智能有一天会毁灭世界。

包括OpenAI在内的许多顶级人工智能实验室的研究人员都属于这个十分有影响力的群体。他们不认为这是虚伪的行为：他们中的许多人认为，由于他们处于建立这种技术的最佳位置，他们比其他人更清楚地了解这些危险。

奥特曼认为，有效的利他主义者在人工智能的兴起中发挥了重要作用，可以提醒行业注意危险。他还认为他们夸大了这些危险。

在OpenAI开发ChatGPT时，包括谷歌和Meta在内的许多其他公司都在构建类似的技术。但正是奥特曼和OpenAI选择与世界分享这项技术。

该领域的许多人批评了这一决定，认为这掀起了一场发布技术的竞赛，这些技术会出错，会胡编乱造，并可能很快被用于快速传播虚假信息。

上周五，意大利政府暂时禁止ChatGPT在该国使用，理由是出于对隐私和对未成年人接触危险内容的担忧。

奥特曼认为，与其完全闭门造车地开发和测试这项技术，然后再全面发布，不如逐步分享它，让大家更好地了解风险和如何处理它们，这样更安全。

他说，这将是一次「非常缓慢的腾飞」。他说，他无法想象一个人类智慧毫无用处的世界。如果他错了，他认为他可以弥补人类的过失。

他将OpenAI重建为他所谓的盈利上限的公司。这使他能够通过向微软等投资者承诺利润来获得数十亿美元的融资。但这些利润是有上限的，任何额外的收入都将被抽回2015年成立的OpenAI非营利组织。

他的宏伟构想是，OpenAI将通过创造AGI获取世界上的大部分财富，然后将这些财富重新分配给人民。

不过，他并不确定如何重新分配这些财富。他认为在这个新世界里，金钱可能意味着不同的东西，不过「我觉得AGI可以帮助解决这个问题。」

参考资料：

https://archive.is/6SK6a

本文来自微信公众号“新智元”（ID:AI_era），作者：Britta ，36氪经授权发布。