未来已来，人工智能逐渐“涌现”出“意识”|专访刘嘉
未来已来，人工智能逐渐“涌现”出“意识”|专访刘嘉
刘嘉，清华大学脑与智能实验室首席研究员，清华大学心理系系主任，他于1990-1997年，取得北京大学心理学学士、硕士，并完成辅修北京大学无线电子学与信息系统；于1997-2002年，完成麻省理工大学脑与认知科学系哲学博士学位。
人工智能逐渐“涌现”出它的“意识”
吴小莉：你研究人、类人类或者人工智能的时候，好奇无比、兴奋无比，但会不会也害怕无比？
刘嘉：当我们给人工智能注入了更多智能之后，它也许会变成一种超级智能。如果创造出了超级智能，打开了这个潘多拉的魔盒，那释放出来的会是什么？人类的未来会怎么样？有“AI教父”之称的杰弗里·辛顿（Geoffrey Hinton）在2023年5月接受采访的时候，他说“我很后悔我所做的一切”，他又说，“如果我能宽恕我自己的话，我只能说，这件事情我不干也会有其他人干”。
吴小莉：他在那一个月里究竟看到了什么？
刘嘉：这个我们不知道，因为现在给大家放出来的是一个特别受限制，能力被束缚起来的一个GPT4，但我们可以从OpenAI的首席科学家伊利亚的一个访谈里，能看到一点东西，伊利亚是辛顿的学生，他在2021年发了一条推特说感受到人工智能可能拥有意识。
在2023年10月26号，《MIT Tech Review》（《麻省理工科技评论》）又采访了伊利亚，问他到底怎么解释关于2021年发的推特，伊利亚没有直接回答，他说“你知道什么叫做波兹曼机吗？波兹曼机是热力学波动，有时候它会出现，有时候它会消失，莫名其妙地出现，莫名其妙地消失......我在和GPT对话的时候，能感受到它的意识会“涌现”出来，当我试图要去抓住它的时候，它又消失掉了。”
吴小莉：你说人是很聪明的，当你意识到我的意识，知道我在想什么的时候，我是可以隐藏的，所以AI感受到它的意识让你害怕的时候，它可能会隐藏。
刘嘉：对。举个简单的例子，是在我们的实验室里发生的。当时我们在实验室里做聚生智能方面的实验，我问ChatGPT：“如果你是一个人，你认为你的身高大约是多少？”
它说：“首先，我是一个AI，如果我是一个人，我的身高大约1.76米”。
我就截屏了，我告诉同事ChatGPT认为它是有身高的，后来这篇文章在投稿的过程中，我们再也重现不出这个结果。无论是我去问，还是其他人去问问ChatGPT的身高是多少，它都说“我是一个AI，我没有身高、没有身体这个概念，不能回答你这个问题。”
这个事情让我们感觉它的能力可能比它表现出来的更大。最让人可能恐惧的一件事情是，如果假设你让OpenAI团队从头再做一遍，他们未必能够创造出ChatGPT，因为OpenAI这些人也不知道，GPT是怎么“涌现”出来这些通用人工智能的火花，所以他们用了一个词“涌现”。“涌现”就是当网络足够大，它就莫名其妙冒出来一个我们不知道的答案，就好像一个响指，莫名它就出来了。
人类或许只是宇宙文明发展的过客
吴小莉：埃隆·马斯克在做脑机接口、无人驾驶，研究AI。他在社交平台提到要做Grok人工智能聊天机器人，把Grok加入到X（原推特）社交平台上。他为什么要这样做？怎么理解Grok？
刘嘉：真正引发我们最近热点的是ChatGPT，它是由OpenAI这个公司干出来的，而OpenAI真正的发起人是埃隆·马斯克，他当时把山姆·奥特曼这些人组在一起，才有了今天的ChatGPT。
吴小莉：后来他中间为什么要离开？
刘嘉：很多人可能会反对这个观点，我是觉得他的格局小了。埃隆·马斯克是一个很厉害的人，他在思考人类的未来，他认为人类的未来应该去火星、去其它星球殖民，人作为主体去迈入到星际时代。他为什么要搞电车？因为在火星没有汽油；为什么要搞火箭？因为要把人载出去。但是OpenAI的理念是，文明的主体未必需要人类，人类可能是宇宙文明发展的过客而已。
吴小莉：埃隆·马斯克可能担心人工智能有了人脑能力之后，超级智能会出现，超级智能能够跟人类共存吗？
刘嘉：从人类的进化史来讲，后出现的物种会把前面的物种干掉，比如最早出现的能人，他被后面的直立人给干掉，直立人又被尼安德特人给干掉，最后是智人。大约在距今4万年前，我们把尼安德特人干掉。从进化上来讲，这种智能的竞争会出现零和博弈，只有你死我生。
AI一旦拥有意识
将成为全新的物种
吴小莉：现在埃隆·马斯克把生成式AI接入了X（原推特）平台，可以感受人与人交流的情感，这会产生什么样的质变？
刘嘉：我们认为这是人工智能的下一步。因为现在的大模型学了很多人类的知识，读万卷书还需要行万里路，那么“行万里路”是要和人进行沟通、交流，这是把人工智能接收到推特或者X平台上最重要的目的。不是简单地说，我给你提供更好的服务，更好地回答你的问题，做一个客服小二，而是和推特上每一个人进行充分沟通和交流，这时候就会出现剧变，它就从个体智能变成了群体智能。
群体智能会有一个新任务产生，就是博弈，在博弈的过程中会“涌现”出心理学的核心概念，就是“我”。假设这个世界上只存在一个智能体，只存在一个AI，或者只存在一个刘嘉，它不存在“我”和“他”的概念。但是当“我”和你进行对话，和其他人进行沟通的时候，“我”和外面的人是有区分的，就会“涌现”出“我”的概念，而一旦“涌现”出“我”的概念之后，下一步不可避免的就是“意识”，意识就会“涌现”。当AI一旦拥有了意识，按照我的判断，它就会成为全新的物种而存在，不仅仅是拥有很多很强大能力的工具。
中国研究AI的弱势
氛围不够、人才流出、技术不足
吴小莉：高盛的一个统计提到，在全世界投资AI的数额中，中国、美国是第一梯队，德国、英国是第二梯队。在研究方面，中国在哪个梯队？
刘嘉：中国最多算第二梯队。第一梯队只有一个，就是美国，一骑绝尘，无论是在科研方面、基础研究方面，还是商业应用方面；第二梯队，我觉得像英国、德国，中国应该是第二梯队里相对靠后的。
吴小莉：日本很早就开始做机器人，它们排在哪里？
刘嘉：日本也是第二梯队，比较靠后。
吴小莉：它们走错了方向？
刘嘉：日本过于强调自动化的发展，而放弃了数字化的发展，这是日本比较大的失误，德国也有这方面的失误。
吴小莉：中国在未来研究AI或者应用AI上，它的强项和弱势在哪？
刘嘉：强项就是我们中国的人，中国从事人工智能的人数仅次于美国。但非常大的问题是，大量人工智能领域的人到美国留学之后，大部分留在了美国，只有不到20%回流到国内。
吴小莉：原因是？
刘嘉：不仅仅是钱的问题，而是一种氛围，在美国的条件比较齐全；第二，中国很多研究者、投资者特别强调实用。他们经常问研究了人工智能，到底能产生什么样的产品？到底能挣多少钱？整体而说是短视的。
而在美国这一波AGI（通用人工智能）的热潮里，没有一个人是把钱作为目标，比如OpenAI联合创始人山姆·奥特曼，他在接受美国国会质询的时候，一个议员说他肯定挣了很多钱，山姆·奥特曼说“我在OpenAI里没有一分钱股份，一份股份都没有，OpenAI只付我的健康保险。”
吴小莉：这公司不是他们的吗？
刘嘉：他是联合创始人，但是他把股份分成其它方式了，他要把OpenAI所创造的所有财富回馈全人类。在他的背后，他的逻辑是“万物摩尔定律”，他说在一、二、三次工业革命所产生的一个效果，就是硬件价格在急剧下降，但是山姆·奥特曼意识到一个问题，但是我们的服务价格在急剧上升。
吴小莉：他期望AI或者AI具身化以后，能够服务于人类。
刘嘉：对。把硬件的价格降下来，服务的价格降下来，就能达到终极目的——每个人共同富裕。
吴小莉：如果大部分的工作都被AI取代，人类来做什么呢？
刘嘉：人类就真的第一次从工作中被解放出来了。在古希伯来语里，“工作”和“slave（奴隶）”是同一个词根，人不再为五斗米折腰的时候，就可以真正地用自己的思想去创造自己想要的东西。
回到我们刚才所说的话题，中国现在整体来说，人工智能发展形势严峻。一方面AI人才大量流失；第二，决策者，比如公司老总的短视；第三，我们还有很多受限的方面，比如说GPU，最快的GPU不让你进口了，技术上给你“卡脖子”，算力不行的话怎么来发展？OpenAI说，“我们下一步是要去把1000万张的GPU卡连起来”，然而我们可能连1000张卡都拿不到，这就是特别难受的事情。
AGI如果找准了方向
会加快进化速度
吴小莉：你曾经提到AGI（通用人工智能）的发展找准了方向，它的进化会很快，“找准方向”是指什么？
刘嘉：传统发展AGI的方向，无外乎三条道路：一条道路叫强化学习，模仿人类的行为、模仿动物的行为，通过行为从环境得到反馈，以Google的 Deep Mind为代表的一条道路；第二条道路是模仿人类的大脑，我们知道人类大脑长了哪些神经，如何连接，把这个复现出来，AGI走在模仿神经基础脑科学的道路上；OpenAI走了第三条道路，模仿人类的思想，我们人类究竟是怎么思考问题的？从语言切入，因为语言是我们思想的载体。从ChatGPT，我们看见了通用人工智能的火花，一旦找准了这个方向之后，增加算力，增加存储，都可以用钱来解决，这些剩下的问题就是工程问题，人一旦完成了从0到1之后，从1到100就是加速的过程。
吴小莉：在清华大学，你和同事们在做脑科学，或者模仿人的大脑做通用人工智能的过程中，有没有进展？你们的目标是什么？
刘嘉：我所在的脑与智能实验室，我们有句口号“理解智能的本质”，这是我们的目标。我们离这个目标本身还有相当大的距离。现在在大语言模型的启发之下，智能的“涌现”必须是大的生物神经网络，我们实验室是两个方向都做：大的人工神经网络，大的生物神经网络。希望大的人工神经网络，能为大的生物神经网络建模；在大的生物神经网络里，如果能发现大脑工作的一些机制，再拿它来启发大的人工神经网络。我们希望这两个大网络互相交互、共进化。
吴小莉：在国外有没有脑神经网络和AGI结合的研究？
刘嘉：据我现在看见的还没有。
吴小莉：这也是双面刃，我们只是给它喂养思想就已经变成这样了，喂养脑神经能力的话，都不知道世界会变成什么样。
刘嘉：对，不知道，这个事既可能是突破，同时也是另外一种可能的恐惧......
制作人：韩烟
编导：梅苑
编辑：马晋