恐怖的ChatGPT
《先声》·第12期
前不久，OpenAI的首席科学家试图警告人类：ChatGPT可能已经有了意识。此时距离它诞生还不到一年时间。
这也意味着，《流浪地球2》中的MOSS或许会在未来某一天走进现实。
我们真的了解AI的力量吗？我们能掌控AI的发展和进化吗？我们亲手制造了它，反过来会被它消灭吗？
就在此刻，就在世界的某个角落，有插画师、翻译员、自媒体编辑正被AI取代。他们将何去何从？
本期《先声》我们邀请到美团顾问、“搜狗输入法之父”、《ChatGPT：人类新纪元》作者马占凯来聊一聊AI，希望能带给你一些思考。
口 述：马占凯 美团顾问、“搜狗输入法之父”
访 谈：孙允广 正和岛内容总监
编 辑：十一、米丽萍
来 源：正和岛（ID：zhenghedao）
01 ChatGPT与人类 的差距到底有多大？问：ChatGPT到底有多强大？
马占凯：人类从南方古猿进化到智人的两百万年间，大脑容量才扩增了3倍。 但AI的大脑要扩增十倍的脑容量，可能只需一个月或几周。而且我们的大脑因为生物限制，所以智商世世代代都是100来分，但AI没有这样的生物限制。
ChatGPT从诞生到现在还不到一年，但是在智能的能力上高速增长，可怕的是目前还没有看到这条技术路线的天花板。
如今它的智商在某些方面已经达到了硕士研究生的水平，未来智商要达到500分、1000分是完全有可能的，达到这样的水平后人类就无法理解它。
我们知道大人管小孩是很容易的，但是对于智商1000分的机器人或者AI，人类要如何管它呢？一个比你聪明10倍的机器人，如果装傻骗你，来个反向图灵测试，你要怎么识破它？
当AI在快速进化的同时，它还在解锁自己一项又一项技能，一点点地去覆盖人类的能力，例如写作、总结、翻译等等。AI在某一项任务上一旦超越人类，那么就会远远超越人类。
ChatGPT本身就会67种语言，是“自然语言之神”，所有语言都是它的母语，再加上它又学习了万亿的词汇，任何人类翻译家都赢不过它。
当前它正在覆盖的还有绘画等艺术类创作能力，未来即将覆盖的还有数学能力，甚至对于前沿科学的底层研究能力。
问：无论是对于文明还是对于生命个体，延续都是一个本质的问题。秦始皇要寻仙问药求长生不老，《流浪地球2》中的图丫丫某种程度上就是数字生命的体现，那么人类的意识能不能在硅基文明的基础上得以永生？
马占凯：目前看，还很遥远。人类有100多种神经递质，可以调节人的情绪，我们丰富的大脑感受都是以生物学为基础的。机器之间则是用非常确切的字符——0和1，来进行有限的通信。尽管当前马斯克的脑机接口公司Neuralink致力于在人脑中植入芯片（又或者称之为湿件），但湿件目前也只能传输有限的电信号，无法传输神经递质。
就算你的记忆被移植过去了，但很多感受可能随之消失了。移植过去的那个你，是简化的1%版的你。真实的你，与机器版的你仍有很大的区别。
所以这个畅想还非常遥远，在我们的有生之年应该很难看见。
问：AI有什么弱点？
马占凯：弱点当然有，比如ChatGPT现在是个数学白痴，还有很严重的幻觉问题。
有人会说AI没有情感，但情感很多时候是人类的一个缺点。人类动不动就生气，比如不知道说了什么就被朋友拉黑了，这种事情经常发生。
教大家分辨AI和人类的一个小绝招：AI的回答永远是空心化的，是没有自我的。因为它被驯化成必须要对人类友好，所以它的回答一定是有利于你、附和你、迁就你。
但是人类不一样，你和任何人聊天，十句里总有三五句是讲自己那点小破事。这是不可避免的，因为人只关心自己的利益。但你和AI聊得再多，只要不问它永远不会讲自己。
02 AI会主宰人类吗？
问：AI智商达到10000点，会不会主宰这个世界？让人类成为“二等公民”？
马占凯：这是目前AI领域里面临的最大挑战，就是怎样让AI为人类所用，要以人类的价值观、人类文明延续为主要的第一目标。现在我们的人类文明，完全是以人为核心的。举个例子，其实虫子本身就是虫子，但人类把它们区分为了害虫和益虫。
对于AI来说，它出生之后人类会告诉它：你要为人类服务。刚开始它还会老实地听你话，可当它变得极其聪明以后，你管它就无异于一个小孩去管大人。这就会有一个巨大的挑战。
马斯克曾经说过一段话，某种程度上，可以把人类看做一个生物引导程序，这是一段非常小的代码，可以引出一种超级数字智能物种。当引导程序完成引导任务后，程序也就没用了。
假如以AI的视角去看，我们人类造出了AI，当它可以自我迭代的时候，就不需要人类了。到时候AI会怎么看待自己？它又怎么看待我们人类？
所以对于AI来说，它也有自己的终极哲学三问：我是谁，我从哪里来，我要往何处去。
问：正如工业革命的来临，让汽车直接取代了马车夫。信息革命正在滚滚而来，ChatGPT或者AI又会取代掉哪些工作？
马占凯：人们以为AI最先取代的会是体力劳动者，但实际上却相反，它率先取代的是富有创意的脑力劳动者。为什么会这样？因为人工智能这一波的突破，相当于率先突破了人的大脑。即人类发展了几千年的语言、文字，这些信息经过AI大量的计算后被率先突破。
举个例子，一本十几万字的书，过去人工翻译要3个月，如今在ChatGPT的帮助下，这个时间缩短到了两周，翻译只需花费7元钱。
更直观的一个例子是，《ChatGPT：人类新纪元》这本书的封面、封底、书签全是由AI一键制作，要知道，这是人类设计师一周的工作量。已经有不少公司规定，只允许AI生图做创意海报了，因为这可以提升十倍的生产效率，并且还没有版权问题、费用更便宜。
这种在生产力上AI取代人类的例子有很多。
虽然在信息的智能处理上AI很厉害，但也有一些很简单的任务，对于AI却很困难，例如剥糖纸，剥开一张糖纸需要眼睛、手指等很好地协调配合。
我们人类的身体是几千万年甚至上亿年进化而成的非常高效的机械构造，所以剥糖纸对于我们稀松平常，而AI或者机器人却难以完成。
AI下一步要突破的就是人类的小脑，要突破其中的算法并不难，更难的是涉及机械构造、电机驱动等这部分受原子限制的东西。
问：假如未来AI产生意识，人类该如何与其相处？
马占凯：如果这种科幻畅想实现的话，我们该如何定义机器人的权利，机器人能不能自己上街，它被毁灭时会不会反抗？目前机器人还没有强大的身体，也没有很高的智能，但如果它进化得比你强大又聪明，当它没电的时候，你无意中挡住了它的去路，它会不会把你消灭掉？这就涉及到“目标函数”的概念。
我们人类的“目标函数”是DNA的延续，许多人牺牲自我就为了下一代的美好生活。
那么对于机器人来说，当人类和机器人同时被困在一个岛上，你的仪器需要电，机器人也快没电了，那么它愿不愿意把自己的电池拿给你，它把什么放在最优先的地位，这就是目标函数。
在AI的训练中就是要不断地去优化这个目标函数。包括ChatGPT现在的目标函数就是把训练压缩率降到最高，让它的智能性最高。
对于机器人而言，它的目标函数必须是保证人类的文明延续。
03 AI对现实世界会有何影响？问：目前，国内的大模型，与ChatGPT差距有多大？
马占凯：目前美国在整个领域的投资将近200亿美元，像OpenAI是130亿美元，还有很多应用型、生产力工具型的公司。国内的创业融资在20亿美金左右，虽然很多大厂还在投入，但是与国外大公司高一个数量级的GPU算力比还是有较大的差距。
更重要的是一个显卡问题。在国外，已经迈到十万级GPU的时代，但国内还在万级时代里。再加上中英文语料世界的数据相差10倍，显卡相差10倍，投资也差10倍，所以这一波差距我们还需迎头赶上。
目前来看有些中文大模型已经非常接近ChatGPT 3.5了，但是OpenAI发布的ChatGPT4就已经非常强了，人家内部还在做更先进的版本，还在探索更深的多模态功能。
问：AI会不会加大“数字鸿沟”，造成社会进一步两极分化，拉大不平等和贫富差距？
马占凯：作为一个复杂系统，还是需要让先富带动后富，虽然这个鸿沟是拉大了，但是它会让整体的底线上升。具体到AI上，它一方面让白领或者大企业提高了生产效率，变得更富有；与此同时，它也可能让路边摆摊的老奶奶受益。因为它让整个社会的生产力提升了，让整体的财富增加了。
所以我们还是要拥抱未来、拥抱变化、拥抱创新，这是毋庸置疑的。
全世界现在还有许许多多的问题没有解决，例如癌症的问题、能源的问题，这些问题都依赖于更高等级的AI智能的涌现、创新和发明。
当然财富的过于集中会让阶层流动变得困难，所以会有反垄断、提倡教育公平，这也是科技发展、财富增长所需要解决的问题。
04 未来人类会被AI“包养”吗？问：刘慈欣在小说《赡养上帝》中讲了一个很有预言意义的故事，一个叫“上帝”的文明，因为被机器“包养”得很好，最终失去自身创造力和想象力，失去生存所必须的能力，只能流浪在宇宙中。人类是否也会被机器“包养”起来，最后不得不依靠机器生存呢？
马占凯：不排除这种可能性。面对比我们更聪明、更强大的AI，我们希望和它保持一种什么关系？当然是希望它的地位会一直比人类低。未来，人类和AI可能是一种宠物关系。如果AI发展得很好，把延续人类文明作为第一目标，那么人和AI可能会像人和宠物狗一样，人类为狗提供稳定的食物，狗则提供它的情绪价值，两者是共生的。
当然，如果未来脏活累活或者探索性工作都是AI在做，大多数人类就在那里吃喝玩乐，做危险边界内的工作，那这不就变成人类是宠物了吗？这就会比较危险了，因为两者关系不平等。
还有一种是亲子关系。比较理想的状态是，AI是为人的目的服务，给人类赚钱、保护人类，甚至必要的时候牺牲自己。未来AI就需要很好地执行以人为本的目标函数，一旦出了bug它可能就会对人类不利。
就像《复仇者联盟2：奥创纪元》里面的AI机器人奥创，钢铁侠命令它保护世界，要让世界和平，结果奥创翻阅了所有的互联网资料，发现对世界和平威胁最大的其实是人类自己，因为所有的战争都是人类发起的，于是它就开始实施消灭人类的计划。所以要避免AI威胁人类自身，也是值得重视的一个问题。
问：尽管人类是万物之灵，但是人类至今为止都没有造出过一个生命。那么人类是否能造出高于自己的智慧生命？
马占凯：人类确实很聪明，可以造光刻机，可以造宇宙飞船，但人类却造不出一个小小的鸡蛋，因为鸡蛋只能由母鸡造。低等生命能不能造出比它高百倍的高等智慧生命，这在理论上是有可能实现的。这涉及到复杂性科学中的涌现现象，当低等级的生命聚合起来、当大量的个体以某种有序的方式组织起来的时候，就会涌现出个体远远没有的形态，这叫涌现现象。
这次以ChatGPT为核心的人工智能浪潮，其底层所依赖的超大神经网络超大计算产生智能就叫智能涌现。
举几个例子，在音乐节上几万人挥舞的音浪，就是一个特别典型的涌现现象。如果你就这么一个人这么去挥会显得很傻，但当有几万人挥的时候，那种震撼人心的信心和情绪就被激发出来了。
还有包括像鸟群、蚁群也一样，任何时候单个蚂蚁在自然界中是无法生存的，只有蚁群才能生存下来。
不要小瞧蚁群，如果有一天人类灭亡了，蚁群都可能还存在。一个典型的蚁群大概有八百万只蚂蚁，蚁群也会自己种蘑菇，它们也有它们的地下农场。
你想八百万只蚂蚁，每只蚂蚁的大脑不到三克重，小到像盐粒一样，个体有多笨可想而知。
但当它们组织起来的时候，能做到不慌不乱。蚁群通过几千万年的进化就涌现了很高的智能，从而成千上亿只蚂蚁个体能在自然界中生存。
同样的，当人类制造的人工智能大量聚集起来，是否会涌现出比人类自身高很多的高等智慧生命，这是个未知数。
问：人类发展史也是一部战争史，AI与AI之间是否也会出现战争，是否会有“AI之间文明的冲突”？最后是否会出现一个超级智能体终结战争？
马占凯：智体的发展可以分为3个阶段，智体1.0、2.0和3.0。ChatGPT和接入了ChatGPT的智能设备都属于智体1.0，你只能主动问它，它很少主动和你聊天，且没有长期记忆。一旦智体想要复制自己，就会出现“智体病毒”，其会自我进化，因此很难被消灭。
此外还会有分布式网络版智体，也就是说，控制多个计算中心的智体。它不只有一个大脑，被称为“章鱼智体”。科幻电影中无法被关掉的AI都可以被叫作章鱼智体，比如《流浪地球2》中的Moss机器人。
在智体2.0阶段，AI通过在硬件中穿梭、控制能源，或许就能实现永不关机。到了3.0阶段，智体就能自己复制自己，进行自我生产，此时的它要比人类聪明100倍。
在未来，全球的智体可能没有那么多，即使是在目前也屈指可数。
但因为智体的大脑依附于网络，它只要换个服务器可能就跨越了一个大洋。未来高智能的AI会不会破解别的服务器鸠占鹊巢，从而进一步提升自己的智能，继续挤占别的AI的服务器，最后出现一个超级智能体来管理全球，这个可能性也不能排除。
05 结语
技术是一把双刃剑。技术的发展到底是给人类带来了更多福祉，还是造成了更多痛苦，大众对于这个话题的讨论持续了很长一段时间。
正如《人性中的善良天使》一书中反思道：每个人都巴望着倒转时光，他们说，除了异化、掠夺、社会病态、失去意义，以及为了豪宅、越野车、电视真人秀不惜毁灭地球的消费文化之外，技术给我们带来了什么？
作者斯蒂芬·平克对这个问题的态度相对比较乐观：
“现代性的力量——理性、科学、人本主义、个人权利，当然不曾是一鼓作气地向着一个方向推进，而且它们永远也不可能带来乌托邦，或者终结人类之间的摩擦和作为人的痛苦。但是，在现代性给我们带来的各种收益——健康、体验和知识之上，我们还可以再加上一个收益：它具有减少暴力之效。”
如果从这个角度来看，这一波AI技术的浪潮，或许能在一定程度上减少人类之间的暴力，甚至能为迷茫的现代人带来一个全新世界，找到个体生命新的意义。
当然，这个构想的一大前提是，AI也能像人类一样，始终以人为本。
排版 | 冉润编辑 | 小米 主编 | 孙允广