21世纪最大困境，是什么？

《更新书堂》·第499篇

《浪潮将至》

[英]穆斯塔法·苏莱曼，[英]迈克尔·巴斯卡尔 著

责编| 若风 排版| 五月

第 8655 篇深度好文：6394字 | 12 分钟阅读

在人工智能、生物技术和量子计算等领域的推动下，我们正站在人类历史的一个关键节点上，这个节点将塑造我们未来的走向。人工智能已经渗透到我们生活的方方面面，预示着一切都将发生变革。

人工智能的发展速度之快令人惊叹，新模型和产品层出不穷，每周甚至每天都有新突破。这场技术革命的浪潮正在以前所未有的速度加速前进。

作为开创性的人工智能公司DeepMind的联合创始人和微软人工智能的CEO，作者穆斯塔法·苏莱曼一直处于这场浪潮的中心。他认为，未来10年将被这一波强大、快速扩散的新技术所定义。

我们提炼了穆斯塔法·苏莱曼和迈克尔·巴斯卡尔在《浪潮将至》中关于强大、快速扩散的新技术的深刻见解，旨在为读者提供了一剂现实的镇静剂，帮助大家更加从容地面对和适应当前的技术冲击。

一、人工智能正席卷世界

人工智能的大规模应用已如火如荼。放眼望去，软件已经深入生活的方方面面，帮助我们搜集和分析海量数据。这些数据正用于训练人工智能系统，使其能够在我们日常生活的几乎每个领域创造出更高效、更精准的产品。

同时，人工智能的获取和使用也变得日益便捷：因为有了如 Meta 的 PyTorch （一个开源的深度学习框架）和 OpenAI 的应用程序编程接口 （API）这样的工具和基础设施，非专业人士也能轻松掌握尖端的机器学习能力。

此外，5G （第五代移动通信技术）网络和其无所不及的连通性为我们构建了一个庞大且持续在线的用户群体。

人工智能正逐步从演示阶段过渡到现实世界的应用中。

要不了几年，人工智能将能以与人类一样的方式对话、推理，甚至采取行动。它们的感知系统将和我们的一样敏锐。

这并不等同于它们达到了超级智能水平，但它们确实会成为异常强大的系统。这意味着人工智能将紧密地融入我们的社会结构，成为其不可分割的一部分。

人工智能真的不再是“新兴”的了。它存在于你每天使用的产品、服务和设备中。在生活的各个领域，大量应用程序正依赖于 10 年前还不可能实现的技术。这些技术有助于在如今治疗成本不断攀升的背景下，发现治疗某些棘手疾病的新药。

深度学习可以检测水管裂缝，管理交通流量，模拟聚变反应以开发新的清洁能源，优化航线，以及辅助设计更可持续、功能更丰富的建筑材料。

深度学习技术也被用来驾驶汽车、卡车和拖拉机，有可能创造出更安全、更高效的交通基础设施。在电力和水资源系统中，它被用来有效管理稀缺资源，缓解日益增大的资源压力。

人工智能系统能够管理零售仓库、提供邮件写作建议、推荐歌曲、检测欺诈行为、撰写故事、诊断罕见疾病，甚至模拟气候变化的影响。它们出现在商店、学校、医院、办公室、法庭和家庭中。

如今，你每天都会和人工智能互动很多次；未来，这种互动将更加频繁。几乎在任何方面，人工智能都将使人类体验变得更加高效、快速、实用和顺畅。

人工智能已经在我们身边了，但这仅仅是个开始。

二、21世纪人类须面对的重大元问题

在人工智能之外，一场更为广泛的技术革命已然兴起。在这场革命中，人工智能正推动新兴的、强大的基因技术和机器人技术突飞猛进。

在这个错综复杂、多种技术相互交织的局面下，一个领域的进步会加速其他领域的发展，而这种相互强化的局面已经超出了任何人的直接掌控。

显然，如果任何人能够成功地复制人类智慧，那就不仅仅意味着一个有利可图的商机，更预示着人类历史的一次重大变革。它将开启一个新的纪元，带来前所未有的机遇，同时也伴随着前所未有的风险。

这些年来，随着技术的不断进步，我的担忧也与日俱增。如果这股技术浪潮实际上是一场无法阻挡的海啸，那么我们该怎么办？

2010 年时，几乎无人认真探讨人工智能。如今，这个曾被视为仅属于少数研究人员和企业家的研究任务，已经演变为一个吸引全球广泛参与的宏大领域。人工智能无处不在。无论是在新闻报道中，还是在智能手机中，甚至在股票交易和网站建设的过程中，我们都能见到它的身影。

这些新兴技术一旦成熟，将会迅速普及，价格将变得更便宜、获取将变得更便捷，其将广泛渗入社会的各个领域。它们将带来卓越的医学进步和清洁能源的突破，不仅能催生新的商业机会，还将在几乎所有我们可以想象的领域中促进产业多样化和生活质量的提升。

然而，除了带来众多利益，人工智能、合成生物学以及其他尖端技术也将引发令人忧虑的尾部风险。这些风险可能对民族国家的生存安全构成威胁，其影响之深远，足以动摇甚至颠覆现有的地缘政治格局。

设想一下，由人工智能助力的网络攻击、可能引发国家毁灭的自动化战争、人为制造的流行病，以及一个由看似强大但充满未知力量的技术所主导的世界，这些极端情况在技术的推动下都有可能成为现实。

尽管每种情况的发生概率都不大，但其潜在后果都是灾难性的。因此，即便这些后果出现的可能性较小，我们也必须保持高度警惕。

面对这些潜在的灾难性风险，一些国家可能会采取高度技术化的威权主义手段来应对，以减缓这些新力量的扩散。这很可能导致对个人隐私的严密监控和大规模侵犯。

技术的严格控制可能会催生一个反乌托邦式的全球监控体系，在这个体系下，一切事物和个体都将受到无间断的监视。人们对预防最极端的潜在后果的渴望为这个监控体系提供了合理化的借口。

同样可能出现的是卢德主义式抵抗。一系列针对新技术的抗议、抵制和要求暂停的声音可能出现。然而，放弃新技术的研发并全面暂停其应用，这可能吗？答案似乎是否定的。

考虑到新技术所带来的巨大地缘战略和商业价值，我们很难想象有谁能轻易说服国家或企业单方面放弃这些技术所带来的变革力量。此外，试图阻止新技术的发展本身就是一种危险。历史上，技术停滞的社会往往不稳定，容易崩溃。这样的社会最终会丧失解决问题和实现进步的能力。

从当前的视角来看，无论是追求还是避免新技术都存在着巨大的风险。随着技术变得更加便宜、强大，普及度更高，风险也在逐渐累积。在这些风险中寻找一条安全的“狭窄小道”，以避免陷入技术专制主义的反乌托邦或陷入技术开放可能带来的灾难，变得越来越困难。

然而，放任自流也非明智之举。尽管我们对技术风险深感担忧，但我们前所未有地需要即将到来的技术浪潮所带来的巨大好处。

这正是我们面临的核心困境：新一代的强大技术迟早可能将人类引向灾难性或反乌托邦式的局面。我坚信这是21 世纪人类必须面对的一个重大元问题。

三、即将到来的技术浪潮对国家的挑战

历史上的每一次技术浪潮都带来了深远的政治影响，预计未来仍会如此。

最近的一次技术浪潮以大型计算机、台式计算机、电脑软件、互联网和智能手机的出现为标志，为社会带来了难以估量的利益。它为现代经济带来了新工具，极大地推动了经济增长，并改变了我们获取知识、娱乐和相互沟通的方式。

以社交媒体为例，尽管现在有很多关于其负面影响的悲观言论，但我们不能忽视其为现代社会所带来的众多积极影响。不过，在过去 10年里，人们也越发认识到技术带来的另一种影响：它们为政治极化和制度脆弱性的形成和加剧创造了条件。

社交媒体平台能够轻易地触发我们的本能情绪反应，我们会因感知到威胁信息而大量分泌肾上腺素。人们的情绪尤其是愤怒情绪越强烈，社交媒体上的活跃度就越高。

一项发表在《自然》杂志上的元分析通过近 500 项研究结果发现，数字媒体使用的增加与人们对政治的不信任、民粹主义运动的兴起、仇恨情绪的加剧以及政治极化的上升之间存在显著相关性。尽管相关性并不等同于因果关系，但这一综述确实呈现了新技术“对民主制度构成严重威胁的明确证据”。

技术已经逐渐侵蚀了民族国家原本稳固的主权边界，它开启了人口、信息、思想、经验、商品、资本和财富的全球化流动，并不断推动这一趋势。正如我们所观察到的，技术在地缘政治战略中占据着举足轻重的地位，它几乎渗入了人类生活的方方面面。

在新的技术浪潮到来之前，技术已经是世界发展的重要驱动力，但它也导致了全球民族国家体系的稳定性日益下降。

现代技术的迅猛发展、高度的全球化、广泛的应用范围以及巨大的吸引力，使得任何简单的遏制方案都难以成功。技术有重要的战略价值，为数十亿人所依赖，它已成为人类社会的一个核心角色，也是国家难以掌控的一股强大力量。

如今，那些已经因先前技术浪潮冲击而动荡不安的社会，又将面临人工智能、合成生物学等新技术的挑战。这个世界尚未为这场即将到来的技术浪潮做好准备。在现有压力下，它已处于崩溃的边缘。

有一种观点，说技术是“价值中立”的，其政治性仅源于其使用方式。这种观点过于简化，实际上几乎没有任何意义。技术并没有直接“导致”现代国家的诞生，或创造出现代国家（或任何其他政治结构）。但在这个历史进程中，技术所释放的力量绝不是中立的。

正如技术史学家兰登·温纳所言：“技术有各种各样的表现形式，它已成为人类世界的重要组成部分。其结构、过程及变迁都已深深融入人类意识、社会和政治之中。”换言之，技术本身具有政治属性。

然而，不仅我们的领导者，连技术开发者本身都未能充分认识到这一事实。技术微妙的政治化影响无处不在，但常常被人们忽视。我们必须正视它。社交媒体就是最新的例证，它提醒我们，技术与政治组织是密不可分的；国家和技术之间紧密相连。这一点对于即将到来的现实具有重要的启示。

技术并不会简单地将人们推向某个预定的方向。认识到技术能为人们提供某些能力，或者观察到技术如何引导我们达到某些特定结果，这也并非一种天真的技术决定论。

从这个角度来看，技术是决定历史进程和走向的重要因素之一，但它绝不是唯一的因素，也从未以机械的或固有的可预测的方式发挥作用。技术并不直接引发特定的行为或结果，但它所创造的环境和条件确实会增加或减少某些发展的可能性。

战争、和平、商业、政治秩序和文化，这些元素始终相互交织，并与技术紧密相连。技术是思想，体现在各种各样的产品和服务中，对人、社会结构、环境及人类社会的所有一切产生深刻而持久的影响。

技术与政治秩序之间紧密相连。新技术的出现往往会带来重大的政治影响。正如大炮和印刷术曾经颠覆了社会格局一样，我们也应该相信人工智能、机器人技术和合成生物学等能够引发同样的变革。

未来趋势将主要沿着两个方向发展，并可能产生一系列中间结果。

一方面，某些自由民主国家的内部社会结构会继续削弱，最终演变为“僵尸政府”。这些国家虽然还保留着自由民主和传统民族国家的外壳，但其核心功能将逐渐丧失，基本服务的质量持续下滑，政治体制也将变得不稳定。在缺乏可行的替代方案的情况下，这些国家的状况会持续恶化，功能也越发紊乱。

另一方面，若不经思考地全盘接受即将到来的技术浪潮的某些要素，可能会导致国家控制力过度扩张，进而催生出比历史上最极端的极权政府还要强大的超级权力体。

威权政体同样有可能陷入僵尸政府的状态，但它们也有可能选择加强权力控制，充分利用技术的强化效应，从而演变为纯粹的技术独裁政体。无论选择哪一种路径，原本维系国家稳定的平衡都将被打破，使国家陷入混乱。

无论是国家体系的崩溃，还是威权政体的兴起，都是灾难性的情况。这不仅对这些国家和社会本身构成灾难，对技术的治理同样是巨大的打击。我们绝不希望盲目无能的官僚机构、民粹主义的投机者或权力无边的独裁者控制那些强大的新技术。上述两个发展方向无一能帮助我们遏制即将到来的技术浪潮。

在这样的背景下，我们应当预见到这些技术和工具对经济、民族国家及与之相关的一切产生的深远影响。国家与人民之间的大契约已不再稳固，随着新技术浪潮的汹涌来袭，一系列新的压力因素将真正动摇其基础。

四、在洪水来临之前做好准备

现实情况是，过去我们并没有有效遏制技术的发展。如果现在想做到这一点，我们就需要实施一些全新的、全面的方案，其需要涵盖安全、道德、监管和控制等多个方面。而这类方案迄今为止还没有明确的名称，乍一看甚至觉得这样的方案不可能存在。

我们面临的困境本应是一个迫切的行动召唤。但多年来，显然大多数人觉得这些信息有些难以接受。我完全能理解，因为初次接触这些信息时，它们看起来似乎很不真实。

在关于人工智能和监管的众多讨论中，我惊讶地发现，与应对许多现存的或即将出现的挑战相比，说服人们正视诸多风险要困难得多。他们很难相信这些风险既非微不足道的尾部风险，亦非科幻小说的虚构情节。

在开始探讨这些问题之前，我们已经面临一项重要挑战，即一提到技术，普通大众脑海里浮现的便是一系列冗余的应用程序。“技术”一词经常让人联想到社交媒体平台和用于监测步数和心率的可穿戴设备。

人们很难想到技术还包括对全球粮食供应至关重要的灌溉系统，以及新生儿生命维持设备。实际上，技术的作用远不只存储自拍照片，它代表着世界文化和智慧的积累。科技并非小众领域，它是主导人类生活的核心。

在相互冲突的议程中，该如何找到共同点呢？中国和美国在限制人工智能的发展上存在分歧。美国Meta 公司不会认同“社交媒体是一个问题”这个观点。

人工智能研究人员和病毒学家认为，他们的工作是理解和预防灾难的重要部分，而非导致灾难的关键因素。“技术”从表面上看，并不像全球变暖那样是一个问题。

然而，事实可能并非如此。

第一步是认识问题。我们需要冷静地承认，技术浪潮即将到来，如果不大幅改变现有路线，我们就将陷入困境。

摆在我们面前的有两条路，要么努力应对持续开放和无节制的追求所引发的一系列积极和消极的结果，要么承担我们试图遏制强大技术扩散而可能产生的反乌托邦和威权风险 （技术所有权的高度集中势必存在此类风险）。

我们必须做出抉择。最终，我们需要在广泛征询意见的基础上寻求平衡，当然，公众关注程度越高越好。如果这本书能引发批评、争论、建议和反建议，那么越多越好。

一群聪明人躲在某个秘密地点不可能有神奇的解决办法。情况恰恰相反。

当前的精英一门心思想避免悲观情绪，以至于不敢正视我们面临的危险。他们乐于私下发表观点和争论，却不太愿意公开谈论。

他们习惯于一个充满控制、秩序井然的世界，比如CEO 掌控公司，央行行长决定利率，政府官员负责军事采购，或者城市规划者决定修补哪些路面坑洼。他们的控制手段当然并不完美，却是已知的、经过测试的，通常也是有效的。但在这里，情况并非如此。

现在是一个关键时刻。技术浪潮真的要来了，但还未把我们淹没。尽管大势已定，但浪潮的最终形态，即我们将面临的具体困境，还未确定。我们不能浪费几十年的时间等待结果揭晓。我们应该立马着手应对。

*文章为作者独立观点，不代表笔记侠立场。

推荐：

• 3年获得超额利润，他只有这1个方法

• 李想：如何做一个专业的CEO？

• 成大器者，胜在认知高度

分享、点赞、在看，3连3连！