人工智能治理：“外意识”爆发给人类带来的挑战

导读：在人工智能浪潮席卷全球的今天，"外意识"——由现代电子计算机及人工智能技术所展现的意识性工具，正以前所未有的速度重塑着人类文明。随着计算能力的飞跃，这一新兴力量不仅带来了前所未有的便利与创新，也悄然间对人类自身的意识能力发起了挑战。

在本文中，清华大学电子工程系博士谢耘深度剖析了"外意识"的诞生、发展及其对人类社会的深远影响，探讨了在智能纪元下，人类如何面对并治理这一新兴力量带来的挑战，确保科技发展与人类自身的和谐共生。

一．人类创造的意识性工具

制造工具是人类脱离动物界的起点，不断更加复杂的工具也是推动人类文明持续发展的直接动力。

1946年诞生的现代电子计算机，在人类文明发展史上是一个极为重要的里程碑，其意义远超工业革命。

1946年2月14日，世界上第一台电子计算机 ENIAC 图源：腾讯科技

在此之前，人类创造的所有工具都是作用于物质之上，为了人类的目的而去改变物质对象的性质或状态。比如提取能量、合成材料、运输物品等等。我们可以称这些技术与工具是物质性技术与工具，那时属于人类文明的物质纪元。

现代电子计算机则与物质性技术与工具完全不同。它作用的对象是数据或称为信息，而不是物质对象。至今在标准的大学教科书中一直存在一个错误的说法：“信息与物质和能量是构成世界的三个基本要素。”这种表述将信息当成了客观之物，而且是构成世界的最基本的三要素之一。

反驳这种说法的一个最简单有力的方式便是反证法：有哪一个描述世界基本运动规律的物理原理方程中，存在“信息”这个参数变量？如果没有，何来它是构成世界的基本要素的论断？我们不能因为信息对人类很重要，就把它夸大为构成世界的基本要素。人类并不代表世界，仅仅是世界的极微小的一部分。不是世界的基本要素，那它是否依然可以是客观之物？对此著名科学家、控制论创立人诺伯特·维纳有句名言：“信息就是信息，它既不是物质，也不是能量。”

80年代IBM计算机 图源：pixabay

认真考察就不难发现，数据或称信息是人类意识活动的产物，也是绝大部分意识活动必须的基本要素。它是一种意识范畴的存在。所以，现代电子计算机所代表的信息技术的应用，不是一种改变物质性状的过程，而是一种意识类的活动（谢耘，“信息技术的智能本质与人类的外意识”，微信公众号“慧影Cydow”，2019年5月9日）。

在现代电子计算机诞生之前，人类的意识活动只能由我们自己的大脑来完成。外部工具最多起到记录的作用。比如算盘，仅仅是一个计算过程的记录工具，而不是一个可以自己完成计算的计算工具。

现代电子计算机实现了零的突破。通过计算机程序，我们可以把某些类型的意识活动注入到计算机之中，然后由计算机自己来完成这个意识活动。这种意识活动从计算类任务开始，随着计算机能力的提升，逐步发展出了众多的类型。

直到2010年“暴力计算”的出现，让“人工智能”再次复兴，导致今天的计算机已经可以像模像样地与人交流，相当自如地“说人话”了。计算机应用今天所具有意识活动能力和特性在许多方面还远无法与人相比，比如它还没有自我意识、没有情感。但是在世界的两大基本范畴中，它依然属于意识性活动，而非物质性活动，是人类大脑之外的意识---“外意识”。

与ChatGPT交流图源：36氪

所以，1946年诞生的电子计算机不是“电子算盘”，而是人类创造出来的一个史无前例的“意识性技术与工具”，对于人类文明的发展，具有空前的里程碑意义。它让人类文明的发展历史性地拥有了两个轮子：分别是物质性和意识性的技术与工具。所以它的诞生超越了工业革命对人类的意义，接近于人类几十万年前开始学会制造工具而告别动物界。它开启的是人类文明的智能纪元。因此，人类今天所面临的变化与挑战，比起人类文明从农业到工业形态的转变，更加全面深刻。在这个过程中，“外意识”的两个本质性的作用尤其影响深远。

二．“外意识”对人类的意识能力的不断削弱

在2010年之前，计算机或称芯片的处理能力还捉襟见肘。在许多场合计算能力远不能满足需要，所以计算机应用或称人类的“外意识”尚不发达，没有显现出其深刻改变人类社会的作用。2010年后，由于集成电路技术跨过了一个关键的发展节点：从32纳米迈向了22纳米量级，让计算机进入了“暴力计算”时代。“暴力计算”对于信息技术应用这个人类的“外意识”而言，类似于物质性技术与工具发展历程中的工业革命。以人工智能为代表的各种应用自此到处开花结果，催生了所谓的“第四次工业革命”。

图源：pixabay

看到这个景象许多人惊呼人工智能将取代人类，至少将会让大批人失业。其实这种焦虑是有些多余了。在工业革命发生之初，社会漫延着同样的焦虑。而后来的事实证明，虽然许多工作被机器代替，但是由于机器的出现而产生了更多的工作，吸收了大量的农业人口。

不必过于为失业焦虑并不是说“外意识”的发展不会带来重大的潜在问题。事实上对于人类来说，问题将相当的严重，严重到人是否还将会是“人”。

人类物质性技术与工具的发展有一个显而易见也颇具共识的后果，就是人类的体能退化了。因为物质性工具将大量的体力工作接了过去。所以在一些科幻作品中，未来人类的形象是一个瘦弱的身体上顶着一个硕大的脑袋：人类智力高度发达，但体能严重萎缩。

工业人形机器人已进工厂实景训练

在人类体能不断退化、各种曾经的老年病成为了中青年甚至是青少年的疾患之后，由于良好的食物与医学的进步，人类的预期寿命大幅提升。所以人类并没有太在意这种退化，因为我们本来也不是靠体能取胜而成为万物之灵的物种。

与此类似，意识性的技术与工具的大规模普及与应用也会带来人类的退化，但这次不再是体能，而是智能。问题的性质变了。

当“外意识”可以代替人类做越来越多的本来需要我们自己去劳神费力做的脑力工作后，我们的脑袋就会逐步退化。或许很多人会说，机器不过是代替我们做一些相对简单的日常性工作，重要的复杂工作不是还要靠我们自己做吗？何来退化一说？

远古时期人类由于生存需要，体能相对充沛。 图源：网易

如果我们认真思考就不难理解，当我们放弃那些看上去“简单”的脑力劳动后，我们几乎必然会逐渐失去做复杂的脑力劳动的能力。除非你经常在做复杂的脑力劳动，否则最终的结果很可能是我们不仅不再能从事复杂的脑力劳动，连简单的也已经做不好了。这将是一个不知不觉的退化过程，就像坚硬的岩石最后风化为尘土那样。

如果这种退化现象大规模发生，它对人类的意义必然完全不同于体能的退化。因为人类正是靠智能而区别于其它的物种、成为万物之灵。如果智能大规模退化，我们是否将逐步丧失人之所以为人的基础，而转头向动物界回归？

我们必须承认，懒惰是人性中很难克服的弱点。但凡有工具可以依赖，绝大多数人都会选择不再自己劳心费力。高度自律是少见的品德。所以随着各种智能应用的出现与普及，人类中绝大多数的人的智能退化恐怕很难避免。其实这个现象在互联网上已经开始显现出来，许多人已经理直气壮地没有了掌握一些基本常识的能力，比如顽固地认为阿波罗登月是造假。这种智能的退化不仅仅涉及到社会人们之间的公平与公正，而将是一个侵蚀人之所以为人的根本基础的重大问题。

人类里程碑式的创造，给自身提出了一个前所未有的挑战：我们是否还会继续作为“人”而存在？

三．虚拟空间带来的人类与真实世界的割裂

意识性的信息技术不仅产生了具有不同功能的各种“外意识”应用，而且创造出了一个容纳“外意识”于其中的虚拟空间。

这个虚拟空间不仅向人讲述着虚拟世界的“故事”，还讲述着真实世界的“故事”。每个人在虚拟空间中耗费的时间比例越来越大。一家人出去吃饭，上菜前各看各的手机已经是司空见惯的场景了。

虚拟空间对人的精力的吸引，带来了两个严重的问题。

首先，我们在不自觉地疏远真实的世界，包括自己的同伴。虚拟空间中的接触永远无法完全等价于在现实空间中的面对面交流与感受。这种疏远带来的一个实质性问题便是我们对真实世界的实在感知会随之减少。而一个人对真实世界的实在感知是他理解能力赖以建立的基础（谢耘，“理解，知识与人工智能”，微信公众号“慧影Cydow”，2023年12月19日）。

图源：电影《头号玩家》海报

对真世界的实在感知的减少，必然导致对其正确理解的下降。或许有人会说人们将从虚拟空间中获得更多的关于真实世界的认识。这就引出了第二个问题。

虚拟空间是人类创造的。这几年的一个热词就是“数字孪生”。这是一个带着虚幻、给人以极大误导的词。“孪生”是指两个完全等同的存在物。而虚拟空间中的存在，并不等同于其在真实世界的对应物。它仅仅是真实世界存在的一个“映像”，是真实存在的一个“虚拟映像”。通过“虚拟映像”去感受真实存在，是会有难以估计的、不自觉的遗漏和偏差的。这种遗漏和偏差不仅仅由“映像”与真实存在之间的差异导致，还来源于构造“映像”的人对真实存在的认识局限。而且如果人类对真实存在的感知越来越多地依赖虚拟空间提供的信息，这种遗漏与偏差还会在不觉中持续积累。

数字孪生工厂 图源：中新网

虚拟空间的这两个作用可能会导致人类与真实世界不断地疏远与割裂。不论我们如何赞美与陶醉于人类创造物的宏伟，这种疏远与割裂都应该不是人类正常发展的方向。如果人类最终卷缩在自己构造的虚拟空间中而与真实的世界格格不入，发展出“真实世界恐惧症”，那恐怕是一种末日的降临，而非人类文明的升级。

四．“外意识”的管理与智能纪元的启蒙

工业革命之后，人类借助现代科学与技术在物质性技术与工具的发展上一路高歌猛，甚至可以说肆无忌惮，毫不在意引发的各种不良后果，包括对人类生存环境的破坏及对自身健康的危害。

1962年引起巨大争议的《寂静的春天》一书在美国出版。虽然书中有诸多不准确甚至错误的地方，但是它终于拉响了人类环保事业与可持续发展启航的汽笛，成为改变人类物质性技术与工具发展轨迹的不朽之作。作者蕾切尔·卡森在书的前言中写道：“这些战斗将最终取得胜利，并将理智和普通常识带回给我们，使我们与环绕着我们的世界和谐相处。”

蕾切尔·卡逊与《寂静的春天》

物质性的破坏作用直观而且易于科学地评估，却还需要付出巨大的社会性努力才能形成共识；意识性的不良影响就要隐蔽很多，而且难以客观估量，人类对意识性技术与工具的管控将会困难百倍。

今天，当“暴力计算”将包括人工智能在内的“外意识”的发展推向一个前所未有的高潮的时候，我们需要冷静、理性及睿智地面对它带给人类的前所未有的机会与挑战。

首先，我们需要把它明确地当成意识性活动来看待，这是考虑一切相关问题的基点，而不能按照习惯把它归入传统的物质性技术与工具之列。物质具有客观机械特征，对物质性工具可以做到客观评价与整齐划一的要求；意识则天然有主观性与个性，消灭了意识性工具的主观性与个性也就消灭了“外意识”本身。人类社会有许多管理意识活动的经验与做法可以借鉴，当然这里更有巨大的挑战需要我们去应对。“外意识”借助网络对社会具有史无前例的渗透性，ChatGPT用户的爆炸性增长就是一个典型的例子。这是传统的意识性活动所不具备的。

其次，在人类的物质极大丰富、意识性工具花样翻出的今天，提升人类每一个成员的自我约束、自我管理、自我负责的意识，而不是一味依靠极少数精英设计的外在强制性措施，可能才是人类文明能够持续健康发展的出路所在。其实归根到底，任何的社会约束都要建立在大众共识之上。这一挑战是所有国家与民族都无法回避的。而对于有着几千年大一统经历的国家，面对这个挑战尤其艰难。新的挑战需要新的创造，试图走回头路便是放弃未来。

回望历史，人类每掌握一种新的强大力量之后，必然伴随自我约束、自我管理、自我负责的意识的提升，否则便会是灾难丛生。20世纪初人类掌握了强大的物质性科学与技术，随后便陷入空前的混乱与灾难之中。但是人类后来掌握了可以毁灭地球的核武器之后，却至今没有发生全球规模的热战，就是缘于在20世纪初两次世界大战血的教训后，人类建立了新的国际秩序，改变了原来国家民族间一味弱肉强食的丛林法则，变得更加文明。

1945年二战结束后，雅尔塔体系取代凡尔赛——华盛顿体系作为二战后世界新秩序

所以人类文明的发展，不仅仅是工具的进步，还必须伴随人类自我约束、即文明程度的相应提升。今天，“外意识”的出现带来的不再是人与自然如何相处的问题，而是我们如何关照自己作为一个人而拥有的灵魂的问题；“外意识”不仅仅是国家间的实力差异问题，更是涉及每一个人如何为人、如何发展的问题。所以每一个人类的成员的更进一步的自我约束、自我管理、自我负责便成为了直接关系人类文明未来走向与命运的问题。而由此形成的社会性共识便决定着人类的文明水平与走向。文明必然走向更加光明的未来并非是一件理所当然的事情，事实上，地球上出现的一些文明就彻底地消失在了地球历史的尘烟之中。人类文明的未来是光明还是黑暗取决于人类的理性智慧所能达到的高度。

这或许是人类进入到智能纪元后的一次关键的自我启蒙。它不是人的欲望的觉醒与释放，而是人的理性智慧的再一次跃升。