治理之智 | 《国际论坛》贾开、俞晗之、薛澜：人工智能全球治理新阶段的特征、赤字与改革方向

（本文转载于清华大学CIDEG）

文章摘要

Abstract

人工智能技术及应用超出预期的快速发展已经引起了国际社会的普遍关注，并推动人工智能全球治理进入新阶段。已有研究的单一、静态视角难以刻画人工智能全球治理的全貌，本文从主体、机制双重视角的实践梳理勾勒出其当前进展与特征。人工智能全球治理正在经历从多方主体主导向多边主体主导的演化进程，且形成了以原则理念、技术方案、工作项目、平台机构四项核心机制并行的主要特征，但仍然存在三方面治理赤字：由于治理过程开放性和责任性不足而导致的合理性赤字、由于治理成果的结构性失衡而导致的公正性赤字、由于治理效能难执行与错位问题导致的有效性赤字。面对新阶段的机遇与挑战，“竞争性合作”理念有助于打开新的改革空间，其要求将“零和博弈”转变为“变和博弈”，强调利益与目标不完全一致但又相互依赖的独立决策主体间的关系策略，能够兼具敏捷性与“硬约束”特征，而这三点有助于回应当前进程的治理赤字。未来，不仅要关注人工智能本身的动态演化及其引发的治理挑战，更应关注围绕技术演化而动态发展的国际关系，以推动人工智能全球治理的良性发展。

精彩内容节选

Highlights

一、人工智能全球治理进入新阶段的机遇与挑战

人工智能作为一般通用技术的强大变革潜力已经成为国际社会的普遍共识。如何推动技术创新并使创新价值广泛、公平扩及全球各国，同时在此过程中控制技术创新应用的治理风险，也成为了国际社会关注的全球治理议题。尤其自2022 年以来，以ChatGPT 为代表的新一代人工智能技术的跨越式发展与普遍运用，在将人工智能技术创新与应用推上新台阶的同时，也推动人工智能全球治理进入了新阶段。

一方面，以联合国成立“人工智能高级别顾问委员会”、英国举行全球首届人工智能安全峰会、欧盟通过《人工智能法案》等重要事件为标志，人工智能领域的国际合作正在展现出新机遇，国际社会可能将在不远的未来迎来人工智能全球治理的新机构、新规则、新体系；另一方面，人工智能全球治理的国际竞争现象并未淡化，反而呈现出加剧趋势，例如美国在该领域仍然强调与“志趣相同”国家的合作，并且要求限制向“志趣不同”国家的技术输出与交流，1 试图通过“划小圈子”来影响乃至主导人工智能的全球发展进程与方向，而这无疑为人工智能全球治理的良性发展蒙上了阴影。于是，在国际合作与国际竞争共存的时代格局下，人工智能全球治理究竟应该如何在兼顾多方、多边诉求的基础上，建构合理、公正、有效的全球治理体系与机制，从而真正释放人工智能的技术变革潜力，使之服务于全球社会的可持续发展目标，便成为实践改革的迫切任务。但已有研究对此却尚未作出充分回应。

二、人工智能全球治理进入新阶段的特征：基于主体与机制的双重视角分析

一般意义上，人工智能全球治理的目标在于促进全球公共善并控制共同风险，但这一概括过于宽泛，不利于具体改革的展开。从已有研究来看，这两个总体性目标可细化为以下三方面治理目标：第一，各国形成的差异化人工智能治理方案的交互性问题，其目的是避免因治理环境不同而对跨境技术创新与应用活动带来额外的制度负担，从而释放人工智能促进变革的发展潜力；2 第二，人工智能治理风险底线的设定、执行与管理问题，以在限制“监管套利”行为的基础上，维系国际社会利益相关方的基本权益；第三，人工智能发展收益与风险匹配的公平性问题，以确保人工智能技术与产业变革不会导致更大分化，进而促进全球各国、各利益相关方的普惠性、包容性发展。围绕这三点目标，可从主体、机制双重视角对人工智能全球治理的当前进展展开梳理，并界定其在当前阶段的主要特征。

三、针对人工智能全球治理进程的反思：合理性、公正性、有效性赤字

对人工智能全球治理的整体性评估需要包括治理过程、治理成果、治理效能等不同环节，它们既涵盖对治理主体身份、行为效果的分析，也涵盖对不同治理机制的程序及实质内涵的影响分析。对于每一个环节而言，可以分别用合理性、公正性、有效性这三个指标进行概括并分别展开分析：“合理性”涉及人工智能全球治理过程的参与民主性，其要求从程序合理性方面对“谁应该向谁施加治理权力”问题作出回答；“公正性”涉及人工智能全球治理成果的正义性，其要求确保不同主体从人工智能发展中“获得其所应获得的、承担其所应当承担的”；“有效性”涉及人工智能全球治理的效能问题，即在经过一定程序并形成特定产出之后，人工智能技术创新与应用能否真正服务于人类命运共同体建设。就这三点而言，当前人工智能全球治理进程仍然存在诸多治理赤字。

四、应对人工智能全球治理赤字：“竞争性合作”理念作为改革方向

当前，人工智能全球治理取得了一定成效，但其在公平性、合理性、有效性三个方面的治理赤字仍然体现出不足。在此背景下，建设大一统的治理机构或者追求一致化的治理框架都是不切实际的。如何在承认竞争前提下推动国际合作，以实现人工智能发展应用的价值共享与风险共担，是人工智能全球治理未来改革更实际的目标。在此意义上，“竞争性合作”理念可作为未来改革的指导方向。

近年来，缘于市场策略、经济管理研究与实践领域的“竞争性合作”概念被延伸至公共管理、全球治理领域，其内涵是“利益与目标不完全一致但又相互依赖的独立决策主体间的关系策略”。与单独的“竞争”或“合作”概念不同，“竞争性合作”将博弈论引入关系策略的讨论之中。此时，各行动主体间既不是非赢即输的“零和博弈”关系，也不是互利、利他的相同利益关系，而是需要将他人行动纳入自身决策考量的“变和博弈”关系。换言之，尽管行动主体间仍然存在利益或目标冲突，但他们各自目标的实现都需要依赖另一方的决策选择，而在相互交叠处的合作则可能增进整体利益并实现各自目标。

五、结 语

人工智能技术及应用超出预期的快速发展，人工智能治理在各国国内政治议程中重要性的不断提升，都推动着人工智能全球治理进入新阶段。在承认差异性、多元性的基础上，如何通过全球治理理念、体系、机制的创新引导人工智能发展应用造福人类，仍然是摆在多边、多方主体面前的重要挑战。本文对人工智能全球治理国际格局的梳理与反思，以及在此基础上从“竞争性合作”概念提出的改革方向，便是在此背景下的一次理论探索。

未来，我们仍然有必要持续关注人工智能全球治理进程的动态发展：一方面要关注技术本身的迭代创新与普及应用，人工智能在不断扩大其影响力的同时也势必要求更密集的治理关注与更敏捷的治理回应；另一方面不能忽视对多边、多方主体行为及其关系的分析，人工智能全球治理进程的成功与否仍然在很大程度上取决于围绕颠覆性技术而演化的国际关系。在此意义上，为真正推动人工智能全球治理进程走向共商共建共享、推动构建人类命运共同体，揭开技术“黑箱”的面纱，以更丰富视角探索多层次的竞合空间，将是理论研究和实践发展的重要方向。

来源：《国际论坛》2024年第3期

版块介绍 —治理之智

在全球化背景下，科技的快速发展也带来了前所未有的治理挑战。本板块内容依托阿里巴巴集团先进的AI科技能力、丰富的应用场景与负责任的技术生态，聚焦于AI风险、AI大模型安全、AI大模型开闭源生态、AI大模型出海等AI治理政策研究，基于技术理性的风险观，为大模型发展与安全平衡与取舍提供独到见解。同时，我们致力于收集和分享海内外AI治理先进理论与经验，为构建合理的科技治理体系提供智慧与灵感。

‍

推荐阅读

Reading

1、静水流深：美国人工智能治理的特征、趋势与启示

2、《中华人民共和国人工智能法（学者建议稿）》：产业期待中的中国方案

3、“不用旧瓶装新酒”：模型开源生态的认知——基于美国NTIA公共咨询意见的分析

4、寻找高质量数据：对“确定性”的实践探寻和思考

5、薛澜：人工智能面临治理挑战

6、合成数据：治理之智

7、合成数据：大模型训练和应用的新方案

8、合成数据：前世今生

9、“全球AIGC版权侵权首判”留下的三个问题

10、2024年中国数据治理前瞻：再平衡与新常态

11、走向AGI时代——关于AI发展与治理的十段观察

12、段伟文｜如何应对前沿科技的核心伦理风险？

13、大模型数据之二｜中美大模型的竞争之路：从训练数据讲起

14、大模型训练数据之一｜大模型训练的“阿喀琉斯之踵”：数据这么近那么远？

15、ChatGPT这么牛，我们应该如何兼顾发展和治理？

- END -