OpenAI、剑桥大学等联合发布：《算力与人工智能治理》

算力为何是人工智能治理的重点？政府和公司采取了哪些治理手段？2024年2月，图灵奖得主约书亚·本吉奥（Yoshua Bengio）和来自OpenAI、人工智能治理中心（GovAI）、剑桥大学Leverhulme未来智能中心等机构的19位学界、业界人士联合发表了一篇题为“Computing Power and the Governance of Artificial Intelligence”的研究论文，介绍了人工智能算力的特点，解释了算力的哪些特征使其成为人工智能治理的一个具有吸引力的工具，以及算力治理的优势和可能的风险。元战略编译此文章，以期为读者提供参考。

一

简介

十年来，人工智能取得了巨大的进步，这在很大程度上得益于用于训练深度神经网络的算力的指数级增长。这种算力的增长是当前人工智能浪潮的关键推动因素，包括大语言模型和生成式人工智能，其总体性能可以随着更多算力的应用而提高。日益强大的人工智能系统可能会在未来几年深刻地重塑社会。事实上，它们已经在影响我们生活的许多方面，如生产力、流动性、健康和教育。人工智能的风险和收益引发了关于人工智能治理的问题：哪些规范、机构和政策能够更好地影响人工智能的发展轨迹？本文的中心论点是，管理算力可以在人工智能治理中发挥重要作用。人工智能开发的其他输入和输出（数据、算法和训练模型）是易于共享的、非竞争性的无形商品，使它们本质上难以控制；相比之下，人工智能计算硬件是有形的，并且是使用极其集中的供应链而生产的。

政策制定者已经就算力问题做出重大决策。政府已经在本国算力生产上投入了大量资金，对竞争国家销售计算硬件实施出口管制，并对大型科技公司以外的计算使用权进行补贴。然而，这些早期的步骤并没有穷尽通过干预算力来引导人工智能发展和部署的潜在方式。这表示还有更多的方法和策略可以探索和实施，以影响人工智能的发展和应用。本文探讨了算力如何在三个关键治理领域发挥作用，而不是制定具体政策：首先，算力治理可以帮助提高监管机构对人工智能能力和使用的可见性；其次，算力治理可以通过改变资源分配，向安全和有益的人工智能用途转变，引导人工智能的进展；最后，算力治理可以加强对恶意开发或使用的禁令执行力度。

然而，正如算力本身并不能决定人工智能的能力一样，算力治理也不是人工智能治理的全部。例如，可能需要超出算力治理的方法来解决小规模使用算力的问题。此外，如果实施不当，算力治理可能对隐私和其他关键价值构成风险。由于算力治理仍处于起步阶段，政策制定者在管理其意外后果方面的经验有限。为了降低这些风险，我们建议实施关键的保障措施，如专注于工业规模的算力治理，并纳入保护隐私的做法和技术。

二

人工智能能力、人工智能治理和现在的算力治理

本节首先描述了人工智能能力是如何开发形成的，以及算力在此过程中所起的作用。其次，定义了人工智能治理，介绍了算力治理与人工智能治理的关系，最后简单说明了现在的算力治理。

（一）人工智能能力

人工智能是指构建数字系统的科学和工程，这些系统能够执行通常被认为需要智能的任务，这种行为通常是通过学习而不是直接编程实现的。开发人工智能能力的三个关键技术要素是数据、算法和算力，也被称为“人工智能三要素”。人们提供必要的科学技术和专业知识（人才或人力资本）来协调人工智能三要素，以产生训练有素的模型。

数据、算法、算力和人力资本在人工智能的开发和部署中都发挥着关键作用。数据是算力处理的原材料，换句话说，算力是由大量数据驱动的“引擎”；算法决定了在数据上执行哪些操作以产生人工智能能力。算法涵盖了从人工智能模型架构到训练中所采用的具体方法论的源代码；算力（以及相关的硬件和软件）用于执行算法，并作为人工智能中信息处理所涉及的“基质”；最后，人力资本对于生产数据、算法和算力以及运行训练过程本身都至关重要。

算力在最近的人工智能进展中发挥了特别突出的作用。大约在2010-2012年深度学习时代到来，得益于最初使用GPU来训练人工智能系统。这使得人工智能系统的规模显著增长，为“深度学习”中的“深度”提供了可能。人工智能芯片为人工智能训练和推理提供了显著的计算效率提升，这些芯片针对人工智能工作负载进行了优化，能够在更短的时间内处理更多的数据，并减少能源消耗。随着技术的进步，算力将继续在推动人工智能发展和应用方面发挥关键作用。

（二）人工智能治理

首先，人工智能治理是指对当地和全球治理体系（包括规范、政策、法律、流程和机构）的研究或实践，这些体系管理人工智能的研究、开发、部署和使用。其次，随着人工智能系统在各领域的能力不断增强，它们在医疗保健、能源、娱乐以及许多其他商业和公共服务领域都具有潜在的极其有益的应用。人工智能系统的广泛使用将对生产力和生活水平产生积极影响，但实现的利益将取决于所采用的监管和治理结构。人工智能也可能带来更为极端的风险。这些风险大规模影响行动、生物武器、对国际稳定的威胁以及由于目标不一致人工智能可能故意造成伤害的可能性等。对这些风险的管理不当可能导致人类权力丧失甚至灭绝。总的来说，算力治理是人工智能治理的工具之一。人工智能治理的其他工具还包括在测试或评估中建立模型性能标准，以及制定关于训练数据、技术方法和生产人工智能所用人员的规则。

（三）现在的算力治理

世界各国政府已经将算力作为目标。这主要是在地缘政治的背景下，各国政府为确保本国能够蓬勃发展人工智能革命，并防止对手已证实或可能的滥用。本文指出这一点，并不是说目前的做法是明智或有效的。但这表明，算力治理并不是一个纯理论的想法，算力治理已经在发生，目前算力治理实例主要有以下四个：投资国内算力、为大科技公司之外的人员使用算力提供补贴、对竞争国家实施出口管制以及设定基于算力的报告门槛。

三

为什么算力治理对政策制定具有吸引力？

在本节中，我们将从两个方面阐述为什么算力是人工智能治理的一个有力的杠杆。首先，算力在开发和部署尖端人工智能系统中发挥着至关重要的作用。在其他条件相同的情况下，计算量是衡量一个系统在开发和部署过程中潜在影响的最可靠指标之一。随着用于训练人工智能系统的算力的增加，人工智能系统会不断发展出更复杂的能力。因此，在过去十年中，用于训练前沿系统的计算量迅速增加。训练完成后，模型的影响与其部署的广泛程度相关；一些前沿人工智能系统被部署给数百万用户，这也需要大量算力。

其次，对算力的治理在技术上是可行的：社会似乎可以监控和限制用于开发和部署人工智能的计算资源。这得益于算力的四个特点：可探测性、可排除性、可量化性和供应链集中性。计算硬件是一种可竞争的实物商品，可以识别、计算和跟踪；由于生产硬件的供应链存在几个关键瓶颈，因此这一点变得更加容易。相比之下，其他许多投入和产出（包括训练数据、算法和训练模型）都是易于共享、非竞争性的无形商品。此外，计算硬件可以用相对客观的方式量化（如每秒运算次数、通信带宽和内存等技术特征），从而可以量化开发人工智能系统所用的整体计算量。而几乎所有其他投入（尤其是人力资本）都难以量化。

四

算力可提高人工智能治理能力的方式

第三节中的论点让我们有理由进一步探讨如何通过算力来治理人工智能。在本节中，我们认为至少可以通过三种关键方式利用算力来提高社会治理人工智能的能力，包括提高政策制定者对人工智能的可见性、分配人工智能能力以及加强规范和法律的执行。

（一）提高政策制定者对人工智能的可见性

可见性是指了解行为者如何使用、开发和部署人工智能的能力，以及了解哪些行为者与前沿人工智能模型的开发和部署最为相关的能力。这种可见性至关重要：它使决策者能够预见问题，做出更准确的决策，跟踪国家内部的关键成果，并谈判和执行国家间的协议。例如，管理人工智能的新国际机构、条约或更多非正式的建立信任措施。

利用算力提高监管可见性的四种政策机制：

1.利用有关计算量的公共信息来估算参与者现在和未来的人工智能能力；

2.要求云供应商和人工智能开发人员报告大规模训练模型的算力的使用情况；

3.通过建立国际人工智能芯片注册机构来跟踪尖端人工智能芯片的流动和库存；

4.监控隐私保护工作量。

（二）分配人工智能能力

分配是指通过改变人工智能能力在不同参与者和项目之间的分配来引导和影响人工智能发展轨迹的能力。例如，政府可能希望引导人工智能的发展（如纠正市场失灵，使其向有益和防御性用途发展，抑制有害和恶意用途，增加以公共利益为导向的人工智能发展比例，或扩大人工智能能力的获取途径）。

通过分配引导人工智能发展的四种现有和拟议实例：

1.有区别地推进有益的人工智能发展；

2.在国家之间和国家内部重新分配人工智能的开发和部署；

3.改变人工智能发展的整体步伐；

4.合作开展人工智能大型联合项目。

（三）加强规范和法律的执行

执法是指对违反人工智能相关规范或法律的行为做出反应的能力，如违反既定安全要求的鲁莽开发和部署，或蓄意恶意使用技术。就广义的人工智能治理而言，执法可以通过法律制度、非正式社会规范、行业自律或其他程序等机制进行。

利用算力执行法规的示例方法：

1.通过芯片到芯片网络的物理限制强制执行“计算上限”；

2.实施基于硬件的远程执行机制；

3.通过多方控制防止风险训练的运行；

4.对基础设施即服务（IaaS）实体的算力资源实施数字控制。

五

算力治理的风险和可能的缓解措施

虽然如上所述，通过算力治理人工智能具有巨大潜力，但将算力治理推向极端——尤其是将其作为可见性和强制执行的工具时可能会带来巨大风险，决策者应谨慎评估。正如在上文强调的那样，算力治理是一把双刃剑：它可以被用来促进安全等广泛认同的目标，但也可以被用来侵犯公民自由、扶持权贵和巩固专制制度。例如：对隐私的威胁，更多泄露商业敏感信息的机会，以及其他负面经济影响等。此外，算力治理是人工智能治理的一个有效的工具，但算力治理也有一定的局限性，包括：算法和硬件方面的进步；具有危险能力的低计算专用模型；以及逃避、规避和脱钩。最后，我们提出了几项防范上述问题的总体建议，包括：专注于为人工智能超级计算机设计的人工智能芯片（尽可能排除消费级硬件）；使用保护隐私的实践和技术；在事前措施合理的情况下，倾向于采用基于计算的措施来应对风险；定期重新审视受控计算技术；在实施所有控制措施时，采取实质性和程序性保障措施；使用可治理的算力来保护社会免受不可治理的算力带来的风险。

六

结论

在人工智能能力的各种输入中，算力具有独特的属性，它对计算密集型前沿人工智能模型的治理尤为重要。过去几年中著名的人工智能治理建议和实践都反映了这一认识。通过本文，我们希望能从理论上更好地理解算力治理作为人工智能治理载体的前景和局限，并激发人们对算力治理未来的更多创造性思考。

免责声明：本文转自元战略。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

转自丨元战略

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er