人工智能专题：人工智能治理联盟：简报系列（附下载）

作者：烟树晚雁发布时间：2024-02-19

今天分享的是人工智能系列深度研究报告：《人工智能专题：人工智能治理联盟：简报系列》。

（报告出品方：WORLD ECONOMIC FORUM）

报告共计：60页

海量/完整电子版/报告下载方式：公众号《人工智能学派》

阅读指南

这一系列文件由三份简报文件组成，根据联盟的三个工作组，这些文件按主题分类。

报告的每一份简报文件也可作为一份单独文件阅读。例如，对技术层面更感兴趣的开发人员、采用者和政策制定者可以轻松跳转到安全系统和技术简报，以获得对人工智能领域的当代理解。对于从事企业战略和创新型人工智能业务影响的决策者，责任应用和转型简报文件提供了具体的背景。对于忙于法律的商界领袖和政策制定者来说

《弹性治理与监管》简报提供了指导，以规范人工智能技术的道德开发、部署、使用和监管的政策、原则和实践。

虽然每份简报文件都有一个独特的重点领域，但许多重要的经验教训是在这些不同的多利益攸关方群体的交汇处获得的，同时还有每个工作组产生的共识和知识。因此，本简报文件系列的许多要点应在每个工作组的交叉点上加以审视，在这些交叉点上，调查结果变得相加，并在背景和相互关系中得到加强。

执行摘要

生殖铝的崛起为积极的社会变革提供了重要的机会。同时，生成式铝模型为铝风险管理增加了新的维度，涵盖了幻觉、误用缺乏可追溯性和有害输出等各种风险。因此，平衡安全、道德和创新至关重要。

这份简报文件列出了在实践中实现这一平衡的一系列挑战，例如缺乏对生成的铝模型生命周期的一致看法，以及在整个生命周期中不同的安全护栏的部署和所感知的有效性方面的模糊性。在这些挑战中，也存在重大机遇，包括通过共享术语和最佳做法实现更大程度的标准化，促进对各种风险缓解战略有效性的共同理解。

这份简报介绍了Presidio铝框架，它提供了一个结构化的方法来安全开发，部署和使用生成铝。在这样做的过程中，该框架从四个主要行为者的角度强调了在解决安全关切方面的差距和机会：AI模型创建者、AI模型适配器、AI模型用户和AI应用程序用户。通过实施适当的防护措施，始终强调共同承担责任、早期风险识别和积极主动的风险管理。

1.扩展的人工智能生存周期:这个框架的要素建立了一个全面的端到端的生成人工智能生存周期的观点，这意味着在每个阶段不同的行为者和责任水平。

2.扩展的风险屏障:该框架详细说明了在人工智能生成生存周期的不同阶段需要考虑的强大屏障，强调预防而不是缓解。

3.左移方法:这种方法建议在人工智能的生存周期中尽可能早的阶段实施护栏。虽然移位左是软件工程中公认的概念，但它在以下方面的应用:生殖铝提供了一个独特的机会，以促进更广泛的采用。

总之，本文强调需要更大的行业利益相关者，政策制定者和组织之间的多方利益相关者的合作。“常设铝框架”促进共同责任、早期风险识别和积极主动的风险管理，利用护栏确保有道德和负责任的部署。该文件为AI治理联盟和安全系统与技术工作组正在进行的安全相关工作奠定了基础。未来的工作将扩展在本文中介绍的核心概念和组件，包括提供一个更详尽的已知和新颖的护栏的列表，以及一个检查表，在生成的人工智能生存周期中实施框架。

跨越扩展的AI生存周期的护栏

实施已知的和新颖的护栏是必要的安全系统，以确保技术质量，一致性和控制。

安全铝系统护栏是指为确保负责任地开发、部署遵守既定的流程和准则。这两种类型的组合，往和使用再生铝系统和技术而制定的指导方针、原往需要确保安全的系统。技术护栏确保技术质量则和实践。它们的目的是降低风险，防止伤害，和一致性，而程序护栏提供过程一致性和控制。并确保人工智能系统按照特定的标准以及道德和社会价值观运行。护栏是从建模阶段开始实施的，在整个扩展的人工智能生存周期中，可以是技术性的，也可以是程序性的。技术护栏涉及工具或自动化系统和控制，而程序护栏依赖于人的

下节提供了在AI的生存周期的不同阶段适用的选定护栏的快照。由于简洁，只突出了两个最广泛使用的护栏，以及它们的相位位置。

结论

Presidio Al框架促进共同责任、早期风险识别和积极主动的风险管理，利用护栏来确保有道德和负责任的部署。AlGovermance Alliance和安全系统和技术工作组鼓励行业利益相关者政策制定者和组织之间进行更多的信息交流这一合作努力的目的是增加对铝系统的信任，最终造福社会。

除了已知的护栏，该小组将继续确定AI安全的新机制，包括新兴的技术护栏，如recteaming语言模型，7液体神经网络(LNN)，BarrierNets，“因果基础模型和神经符号学习等。此外，该小组还将调查各种四方选择方案，并引入一份核对表，将框架付诸实施，以评估铝模型在生成铝生命周期中的风险和护栏。