21书评｜薛澜：人工智能治理需要一份“大契约”

薛澜 清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长

在当今这个瞬息万变的时代，技术的进步和创新正以前所未有的速度改变着我们的生活、工作和思维方式。《浪潮将至》一书正是对这一波澜壮阔的技术浪潮的深刻洞察和前瞻性分析。

最早接触此书还要感谢苏世民书院的兼课教授、联合国原副秘书长安吉拉·凯恩。我们原来是联合国大学理事会的同事，几年前，我请她来书院开设全球治理的课程。2023年，她来上课的时候送给我一本书，并建议我好好地读一下，它就是此书的英文版The Coming Wave: Technology, Power, and the 21st Century’s Greatest Dilemma。2023年11月，世界经济论坛人工智能治理联盟指导委员会（AI Governance Alliance Steering Committee）在旧金山开会，我和作者穆斯塔法·苏莱曼作为委员都参加了会议，我们进行了简要的交流并在会上发表意见，表达了我们对人工智能技术的未来发展方向，以及如何通过国际合作应对人工智能带来的挑战的看法，我们的想法高度一致。这次会面让我深刻认识到，人工智能的健康发展不仅需要技术的进步，更需要全球范围内的思想交流与治理合作。

《浪潮将至》重点探讨了人工智能、合成生物学、量子技术、新能源等高速发展的技术将给全球秩序带来的前所未有的冲击和风险，提出了我们面对科技浪潮时必须应对的根本困境：如果不任凭技术发展带来的各种风险泛滥直至人类社会崩溃瓦解，如果不进入大规模侵犯个人隐私的反乌托邦式的全球技术监控体系，我们如何在二者之间找到一条狭窄的道路来实现人类社会的技术突围？

与其他很多作者和评论家不同，这本书的作者穆斯塔法·苏莱曼是大名鼎鼎的人工智能公司DeepMind的联合创始人，2022年，他又与人创办了生成式人工智能公司Inflection AI，现在担任微软人工智能的CEO。苏莱曼始终处于这波技术浪潮的中心，这也就使得他对这波技术浪潮的观察和体会比别人更加深刻和富有洞见。当然，他对技术浪潮所产生的影响的担忧也就更让人警醒，其忠告也就更让人重视。

在这本书中，苏莱曼以其丰富的实践经验和敏锐的洞察力，深入探讨了人工智能、生物技术、量子计算等前沿领域的发展趋势及其对社会、经济和文化的深远影响。书中不仅有对技术本身的详细解析，还有对其可能带来的机遇和挑战的深刻思考。他归纳出了这波技术浪潮令人担忧的四个特征：（1）非对称性——技术的高度非对称影响，使得你不必力量相当、规模相当地进行对抗；（2）超级进化性——这些技术以惊人的速度迭代改善，并不断拓展至新的领域；（3）通用性——它们能够服务于多种不同的目的；（4）自主性——与其他技术相比，这些技术越来越展现出一定程度的自主性。正是这些特征相互交织，使得技术潜在的收益巨大，能够创造高度的繁荣。但这些技术也可能带来巨大的风险，威胁到国家和全球秩序的基础。如何保持对这些技术的控制，遏制这些技术可能带来的风险，成为今天的时代之问。

与大部分研究者或企业家对政府监管持否定的态度不同，苏莱曼的态度是，“尽管阻力重重，但对前沿技术的监管是必要的，且力度不断加强”。当然，他对政府监管所面临的挑战完全清楚。他清醒地看到了新技术浪潮中治理机制与技术进步之间步调不一致的问题；他也看到了政府治理能力的局限性——政府总是善于应对过去的技术浪潮；他更看到了全球新技术治理面临的国际挑战，包括各国法律、文化之间的不同，以及地缘政治冲突带来的各国竞争。他的态度非常鲜明——依靠监管是远远不够的，但监管至少是一个起点！他提出了一个更加恢宏的技术遏制的“大契约”，其中包括新的商业驱动力、政府改革、国际条约、更健康的技术文化以及全球性的公众运动。

《浪潮将至》一书的出版，正值全球科技创新进入新一轮高峰的关键时刻。无论是人工智能的迅猛发展与广泛应用，还是生物技术的突破性进展，都表明技术持续不断地重塑着我们的世界，我们的治理体系也在不断地努力跟上技术发展的步伐。在这样的背景下，这本书为我们提供了宝贵的思考和借鉴，帮助我们更好地理解和应对未来的变化。

在《浪潮将至》一书中，苏莱曼认为，技术的进步和对技术浪潮的应对不仅仅是科学家的责任，更是全社会的共同使命；我们每一个人都应该积极参与到这场技术革命中，共同探索和应对未来的挑战。这一观点与清华大学苏世民书院的教育理念不谋而合。作为苏世民书院的院长，我深知教育和科技的重要性。我们致力于培养具有全球视野、创新精神和社会责任感的未来领导者，希望他们能够在即将到来的技术浪潮中发挥积极作用，引领社会进步。

《浪潮将至》不仅展现了苏莱曼对技术发展的深刻洞察，更表达了其对人类未来美好生活的憧憬，以及对人类勇敢面对技术浪潮挑战的信心！希望这本书能够激发中国读者更加积极地参与到对新技术监管治理的讨论和行动中，共同迎接和创造一个更加美好的未来。（本文为《浪潮将至》推荐序节选，标题为编者所加。）

更多内容请下载21财经APP