OpenAI CEO Sam Altman：技术狂人和他的AI乌托邦
来源 | 张修修的不正常人生
导语：为什么 ChatGPT 会突然爆发？我在这次的浪潮中应该做些什么事情？这次的 AI 革命会带给人类什么影响？
最近 AI 应用大爆发，处于无业状态的我，前一阵子又陷入了几天（还好只有几天）的 FOMO 状态，第一个念头，就是要好好利用这些工具，来让我的生产力大爆发。
自己也安装了 Stable Diffusion，抓了一堆 Model 下来，再用自己的显卡跑 Dreambooth 训练自己的照片，生了一堆自己的大头贴，本来想拿来做 YouTube 缩图，但发现直接用拍的快多了。
折腾了一阵子，大概摸清楚目前这几个热门应用的局限，以及能帮到我的事情后，终于冷静下来好好思考，心里开始出现一些问题。
1. 为什么 ChatGPT 会突然爆发？之前的发展轨迹是什么？
2. 我在这次的浪潮中应该做些什么事情？
3. 这次的 AI 革命会带给人类什么影响？
自己想当然会有限制，所以我上网找了始作俑者：OpenAI 的共同创办人兼 CEO—Sam Altman 接受的一堆访问，其中包括 Guy Raz 去年九月的专访、OpenAI 创始人兼董事会成员 Reid Hoffman 的访问等等。
收获最多且最新的是他接受 StrictlyVC 的 Connie Loizos 的访问，超级精彩，大家有空可以去听听。
除此之外，我也看了大量相关的影片和文章，自己也开始在 Corsera 开始上 Deep Learning 的课（无业状态时间真的很多）。
整个看（听）完之后，心中很多疑问都被解开了，也对之后世界会变怎样大概有个底，比较不那么焦虑了。
在讲这次的 AI 革命前，先来介绍一下Sam Altman 这个狂人。我觉得，如果他想做的事情都做成的话，他可能会成为全世界最有影响力的人。
Sam Altman 是何方神圣
第一次知道这个人是在 2016 年，那时候想要开发一个手机 App，除了加入 Appworks 以外，我也疯狂在网路上学新东西，什么叫做 DAU，什么是 AARRR，什么叫做NPS 啊等等。
其中一个超重量级的资源，就是当时硅谷传奇新创公司加速器：Y combinator 在史丹佛大学开的课程 CS183B，a.k.a “How to start a startup” 。
这课程的讲师说有多梦幻就有多梦幻，有 YC 的老大 PG（Paul Graham），大家熟知的 Peter Thiel，a16z 的共同创办人 Marc Andreessen 等等硅谷的大老们，把成立一家成功的新创公司要学的东西全部讲了一遍。
这课实在太夸张了，而且完全免费放在网路上让大家看。我觉得如果你想创业，一定要先去看这一系列，你的功力和成功机率绝对会高上不少。
而这一系列课程的主持人和前两堂课的讲者，就是当时刚接下 YC 总裁的 Sam Altman，他当时才 29 岁。
十年前他从史丹佛大学退学创业，做了一个地图社群服务 Loopt，成功进入 YC，成了第一批受辅导团队，并且募到了 B 轮资金，之后以 4340 万美金卖掉。
他拿这些钱的一部分成立了一个创投，再把大部分的钱投资到 YC，之后自己也加入 YC，成了兼职合伙人。
2014 年，PG 邀请还不到三十岁的他成为 YC 的总裁，这应该是许多人做梦也想不到的机会，但他并不这样想。
Guy Raz 在专访中问他当时会不会害怕，毕竟要这么年轻的他来开这艘大船，还要带头指引这么多新创团队前进的方向。
没想到他回：“很奇怪，我一点也不感到害怕，而是有点悲伤。我花了好一段时间才说服自己接下这个工作，因为我还想成立另一间新创，我想证明自己。”
原来担任 YC 总裁对他来说，是个“退休”后才会去做的爽缺。
甚至在 Connie Loizos 的访问里，他说：“在当时那个环境，随便一个白痴来经营 YC 都能让它很成功。”
于是他在 2015 年和包括 Elon Musk 等一堆科技大头一起创办 OpenAI，并且在2019 年接下 OpenAI 的 CEO 后，就慢慢的淡出 YC 的经营，专注在他的 AI 大业，而他的目标就是创造出能造福全人类的 AGI（通用人工智慧）。
但在那之前，OpenAI 先以ChatGPT 震惊了全世界。
横空出世的 ChatGPT 是怎么来的，接下来呢？
Connie Loizos 问他，包括google 在内的科技巨头都在开发类似的东西，为什么 ChatGPT 会引起全世界这么大的惊吓？
他想了整整五秒（超级久，我还以为网路断线），然后说：“我真的不知道 。 ”
他说，因为在推出 ChatGPT 的10 个月前，它的前身：InstructGPT 的 API 就已经上线了，甚至 GPT-3 在两年半前就出现了。
他觉得应该有人会拿来做些很屌的东西，他也一直在跟别人说，做一个很强的对话机器人出来一定会爆，但讲了一阵子没有人做，所以只好自己跳下来做。
但是对一个不想抢快赚钱的平台供应者，为什么要急著做这件事情呢？因为不做不行了，人类需要赶快意识到这场 AI 革命已经到来。
Sam Altman 认为，在 AGI到来之前，比较负责任的方法是把 AI 技术慢慢放到世界上，让社会、政策制定者、还有相关机构有时间来做反应。
先把还有很多缺陷的 ChatGPT 放出来，让大众先熟悉它的存在，并且展开讨论，等大家普遍习惯后，再一步一步让它更强，对社会的冲击会比较小。
但 ChatGPT 竟然会造成这么大的反响，是他始料未及的，他预期中 ChatGPT 在各个层面的冲击，都要比现在小于一个数量级。
至于为什么会造成这个现象，他认为可能有两个原因。
第一，专家们对于 AI 取代人类工作的预测，有了很大的误判。
五年前大家的认知，是 AI 会先取代蓝领，像是重复性高且劳力密集的工作，比如卡车司机等。再来是低阶的白领工作，再来是比较需要花脑力的白领工作，像是写程式的工程师，最后才会是我们人类特有的：创作。
但事实证明是整个反过来，所以大家慌了。
第二，人们误解了 ChatGPT 做的事情。
它目前就是个在网路上抄了一大堆人类的对话，很会模仿人类接话，但是不求甚解、没办法查证事实的机器人。
但在很多为了冲流量的网红加油添醋之下，它忽然变成了全知全能的神，不但能思考、有感情，而且过没多久就要取代人类，还大喊奇点近了。
有张图把 GPT-4 和 GPT-3 的参数做比较然后画了张图，把 GPT-3 弄成一小点，GPT-4 弄成一个大圆，意思是 GPT-4 将会比 ChatGPT 强大 n 倍。
Sam Altman 直接在访问里说这根本是胡扯（bullshit），觉得这些人真的很闲。
他会确保 GPT-4 是安全的之后才会发布，这过程会相当谨慎，也会比大家想象中的慢，到时候大家一定会感到失望。
什么是 AGI，它能做到什么？
OpenAI 的官网部落格最近的一篇文章开宗明义讲到，这间公司的任务就是“确保通用人工智慧（AGI）是能造福全人类的”。
那这 AGI 到底是什么？
Sam Altman 在 Reid Hoffman 的访谈里面说：“AGI 是一个可以学习和自我改进，并且创造和推理新信息的系统。”
“他就会像是你平常接触的同事一样，你可以很自然和他协作，但他比所有人类加起来还聪明。”
“他可以是西部世界的人形机器人，或者可以根据数十万个数据检测人类疾病的机器。我们未来每个人都会有一个 AGI 伙伴，它帮助我们学习、提高效率、更快乐，成为最好的自己。”
为什么 OpenAI 一开始会是个非营利组织，就是因为他认为 AGI 应该应该是个最民主化的技术。
它将对所有人产生极深远的影响，全人类都应该对它的管理、使用方式、以及如何分配产生的利益有发言权。
在未来五年内，能够思考的程式将可以阅读法律文件并提供医疗建议。未来十年，它们将从事流水线工作，甚至成为你的同事。
在之后的几十年里，随着这些聪明的机器本身就能帮助我们制造更聪明的机器，创新将持续加速，包括做出新的科学发现，像是找到绝症的治疗方式，或是找到气候变迁的解法等等。
大家都看过钢铁人对吧？你就想象几十年后 Jarvis 真的会出现，而且每个人都有机会使用。
Sam Altman 的梦想版图
从 Sam Altman 的言论和做的事情来看，我觉得他是一个谨慎又乐观的理想主义者，这可以从他的几项投资看出来。
他是一间核融合新创公司 Helion 最大的个人投资者和执行主席，这家公司在 2021 年完成由他领投的 E 轮融资，总金额 5 亿美元里面他自己就佔了 3.75 亿。
他们的终极目标是提供干净而且永续的电力，而且一度电只要一分美元（0.3 台币），据他说，Helion 很快会有令人惊叹的 Demo 公布。
Sam Altman 投资的另一间公司叫做 Hermeus，目标是做出五倍音速的商用客机。
他觉得以目前可持续航空燃料（SAF）的发展，让他可以比以前更放心地投资包括 Boom 在内的超音速客机公司，而不用担心这对环境的冲击。
他认为更频繁更快速的跨国旅行，可以加快人们的交流、商务活动、创新，并且让人们更了解彼此，这对整个人类世界是好处多多的。
再来是他共同创办的加密货币 Worldcoin，这个项目曾引起轩然大波，因为它需要扫描你的视网膜，来建立一个独一无二的 World ID 和加密货币钱包。
理论上每个人都只会有一个 World ID，所以不会像现在的加密货币钱包一样，每个人都可以有无限个。
为什么对 Web3 不是持太正面看法的Sam Altman，会共同创办这个项目呢？答案是为了实现他的理想：UBI。
UBI 的全名叫做 Universal Basic Income，中文是全民基本收入，意思是一个国家中的合法居民，每个月都能无条件收到一笔收入，来维持基本的生活所需。
这想法听起来相当的乌托邦，但是因为整个世界的贫富差距越来越大，这几年越来越常被提起。
台裔美籍政治人物杨安泽就把这个当成他的重要政见之一，而 Sam Altman 在他参加总统初选时还帮他募过款。
事实上，在 Sam Altman 还是YC 总裁的时候，他们就在奥克兰实验过 UBI，史丹佛大学也有一个 Basic Income Lab 专门在研究。
这也许听起来好像跟我们没关系，但是在 AI 的持续进化之下，这件事不再这么遥不可及了。
短期之内世界会有什么变化？
乌托邦离我们可能还太远，先来听听 Sam Altman 认为短期之内世界会有什么变化吧。
他觉得这会是第一次 google 受到强力的挑战，但是人家也不是吃素的，有那么丰富的资金和人才，一定可以做出某种程度的反制。
他认为未来几年，除了语言模型会有大家超乎想象的进展以外，图片、影像等模型也会迅速发展。
而 AI 的大爆发也会帮助以下几个领域加速发展，第一个是生技领域，AI 会让做实验的速度加快，再来就是科技领域，会使用 AI 工具的工程师生产力将会开外挂。
除此之外，会有很多 startup 出现，把这些超大模型调校成某个领域专用的服务。
而现有的公司更要运用 AI 来打造更好的产品，和客户建立更深的关系，打造某种不能被科技轻易取代的护城河。
我现在随便想就一大堆了，以我现在每天都在用的东西来说，Garmin 或 RQ 马上就可以用 ChatGPT 做成更人性化的专属教练，根据我每天运动和睡眠的状况来排课表。
但相对的也会有些坏处出现，在学术、教育、媒体等领域已经有很多讨论了，诈骗集团现在应该没日没夜的在想怎么利用 AI 来骗钱吧。
人类到底会不会被 AI 取代？
在 Greylock 的访谈里，有个观众就提了个问题：“我很好奇，生命的哪个面向是不会被 AI 改变的？”
Sam 答：“所有底层的生理机制都是，我们依旧拥有一样的身体和大脑，五万年前人类在意的事情，像是竞争地位，组织家庭等，即便到现在，以及一百年后，都还会是一样的。”
就像我在 FB 上的贴文：AI 能取代你享受一碗牛肉麵或五十岚吗？不行嘛。AI 能取代你体会看一本好书或看场好电影的乐趣吗？不行嘛。AI 取代帮你和朋友打一场酣畅淋漓的篮球吗？不行嘛。
所以大家的问题应该是：“我的工作会不会被 AI 抢走，而导致失业、付不起帐单、甚至流落街头”吧？
Sam Altman 说，人们第一时间会担心的这件事，其实是不会发生的。人们可能会做和现在不一样的工作，但总会有事情做。
他说 Covid 给他一个很大的启示，就是他发现：人类远比他想象的能够适应变化。
就像是 google 出现前，记东西很重要，计算机出现前，算数的能力很重要，但这些都被取代了，而我们也活得好好的。
而现今的职场必备的技能，就是用 google 找资料，以及用 excel 来整理资料等等。
所以会取代掉你的人，不是 AI，而是会使用 AI 工具的人。
我们要怎么做才不会被取代？
Connie Loizos 也帮他的儿子（和我们其他人）问了大家最关心的问题：“处于这场 AI 大革命中，我们需要具备什么技能来因应呢？”
Sam Altman 的回答是：“韧性，适应性，快速学习新事物的能力，能够使用 AI 工具的创造力。”
这跟我想的一模一样。但他讲的都是软技能，我还想补充几个硬的。
至少在十年内，要能够在第一时间获取第一手的资讯，以及能够顺畅的和全世界沟通、协作，“英文”还是必要的。
第二个是“解决陌生问题的能力”。自从上过 Sherman 老师的 CTPS 后，我就成了他的脑粉。
我觉得这世界接下来的变化速度会快到难以理解，对我这一个还在拼搏的一介乡民来说，当然就是紧跟这个趋势，努力学习。
而身为一个爸爸，就是尽我所能让我的孩子具备上述这些技能。
以前那种“现在什么火红选什么科系”的策略会完全失效，甚至该不该花四年去换一个会不断贬值的学历，都是值得讨论的。
有内在动机的孩子，现在很轻易的可以在网路上学到一切技能，开始打造自己的东西，只要有人提点，他们的成长也将会难以理解。
未来世界会变怎样
在描绘这个世界之前，要先介绍他在 2021 年写的文章：”Moore’s Law for Everything”。
摩尔定律是我前东家 Intel 的共同创办人：Gordon Moore 提出来的，他说：“单位面积 IC 上的电晶体，每两年就会增加一倍”，换句话说，同效能的电脑每两年会便宜一半。
Sam Altman 很大胆地提出一个预测：“摩尔定律将适用于一切”。
他说：“想象这样一个世界，接下来的几十年，住房、教育、食物、衣服等——每两年就便宜一半。”（但房价我持保留态度）。
而这一切的驱动力，就是 AI。他认为接下来的世界，AI 每两年就会变强一倍，在这样指数型的增长下，AGI 终将出现，如果这件事情成真，那就会是人类历史上最重要的发明。
这场技术革命已经开始了，而且将势不可挡。他认为三个重要的后果如下：
这场革命将创造惊人的财富。一旦足够强大的人工智能加入劳动力，多种劳动力的价格（推动商品和服务的成本）将降至零。
世界变化如此之快和剧烈，以至于需要在政策上做出同样剧烈的变化，来分配这些创造出来的财富，并使更多的人能够追求他们想要的生活。
如果我们把这两个都做好，我们就能比以往任何时候都更能提高人们的生活水平。
在 AI 持续的进步下，现在人类无法解决的问题都有希望被解决了，核融合商转指日可待，能源变得跟空气一样取之不尽用之不竭，环游世界变得又快又便宜，癌症也不再令人绝望，每个人的寿命都会从 100 岁起跳。
到时会有多种 AGI 任君挑选，每个人都可以依照他的需求做选择，并且高度个人化。专业型的就像是 Jarvis，陪伴小朋友的就会是《天兵阿荣》里的那种机器人。
最棒的是，因为所有东西都变得太便宜，而且每个月都有 UBI 进到你的钱包，我们再也不用为了生存而工作了。
Sam Altman 说，最好的世界是连他都无法想像的好，有可能像 Star Trek 那样，人类的资源和科技已经进步到把地球的问题全解决了，也能让地球上每个人都能过上好生活，所以无聊到只好去探索宇宙。
最糟情况呢？
他说，他可以很清楚的想象出几个“意外的误用”，而结果会很糟，不过既然想得到，他就有信心能防堵，但如果是他没想到的呢？
Guy Raz 在专访里问 Sam Altman：“我曾经在 2010 年访问过 Mark Zuckerberg，当时他对社群媒体的愿景超级清晰，认为这会带给人类社会种种好处，让世界成为一个真正的地球村，但这并没有实现。”
“我知道你很聪明，一定有想过这些事情，你讲的那些好事都会发生，但坏事呢？现在让你夜不成眠的事情是什么？”
他回答：“我有三个会一直重复的噩梦，第一个是忘记去考试，第二个是创办公司失败，第三个就是现在会梦到的：如果我们错了呢？”
他认为，每个新科技一定都会带来好事和坏事，只要好事比坏事多出一个数量级就好，他相信未来就是会这样，所以他相当乐观。
他说 OpenAI 的非营利结构有个好处，就是他们能去做一些只为追求利益最大化的公司不能做的事情。
像是投入 alignment research，确保 AI 的利益和人类是相符的；他们也会做足所有安全措施，防止 AI 被有心人利用在坏事上。
他们会竭尽所能地谨慎部署新技术，宁愿让大家不开心，也不会躁进；他们也正在做一个全世界最大的 UBI 实验，为以后财富的公平分配做准备。
Guy Raz 在访谈的最后说：“Sam，你还不到 40 岁，但我保证你不会像奥本海默一样，做出一个自己都觉得很可怕的东西。”
Sam 回答：“我有那本书，而且我每天都盯着它。我不能跟你保证，对吧？但我可以告诉你，我会尽我所能地努力工作，聚集最好的人才，来确保我们不会落到那b步田地。
这将会改变几乎所有事情，要通往那个最好版本的世界，就需要大家一起集思广益。我们需要很多人认真对待它、理解它、将宝贵且有限的注意力转移到它上面。我们的使命就是让这件事情发生。”