联合国发布《以人为本的人工智能治理》报告
2023年12月12日，联合国秘书长设立的人工智能咨询机构发布了《以人为本的人工智能治理》（Governing AI for Humanity）临时报告。该报告阐明了人工智能对人类潜在益处的机会和推动因素；强调了人工智能在当前和未来一段时期潜在的风险挑战；明确了解决全球治理赤字所需的原则以及满足当下需求的新功能和制度安排。现将原文主要内容编译如下，以飨读者。
图1 原报告封面
报告指出，人工智能（AI）的迅速发展为人类社会带来前所未有的机遇和潜力，如推动科学发现、优化资源使用、协助完成日常任务、缓解劳动力短缺问题。然而，AI发展也伴随着风险，包括强化偏见、扩大监控、模糊责任边界和传播虚假信息等。全球对AI的关注不断增加，在获取和推动AI发展的数据和人才方面存在地缘战略紧张局势，并引发了新的人工智能军备竞赛的讨论。同时，AI发展的收益和风险没有实现公平分配，其好处主要惠及少数国家、公司和个人。因此，迫切需要有效治理AI，确保其发展能公平惠及所有人，并通过促进可持续发展目标（SDGs）的实现来衡量治理效能。
一、机遇与推动因素
AI的发展转变了知识获取方式并促进了效率提升，在医疗保健、农业等多个领域提升了生产力和创新能力，影响遍及发达及发展中经济体。随着AI的普及应用，如何公平安全地分配发展利益、应对潜在挑战成为关键问题。政策制定者面临的重要任务是在全球范围内营造良好的AI生态系统，确保对所有参与者负责。
（一）行业机遇
报告指出，AI对特定行业产生深远影响，其中最有前景的是农业与粮食安全、健康保健、教育、环境保护以及自然灾害预防和气候变化应对。例如它被用于创建已经覆盖80多个国家的洪水预警系统、用于监控濒危物种和优化农业生产实践。AI的应用潜力无穷，如正在拓宽高质量医疗服务的可及性。同样，在解决环境问题、提高教育可及性、缓解贫困和饥饿以及增强城市安全等方面，AI都显示出了巨大的可能性。
（二）科学机遇
AI正在革新科学研究的途径，并推动科学界的边界不断扩展，特别是在加速分子和基因组学研究方面。从开拓新的研究领域到实现大规模自动化实验，AI为科学家们跨学科研究提供支持，显示出特殊的发展前景也标志着科学实践方法的范式转变。在医疗保健领域，AI推动了诊断工具的发展，帮助医生更快诊断癌症和眼科相关疾病，挽救了更多生命。在能源领域，AI在优化能源系统和推进向可再生能源过渡转型方面发挥着作用，如提高风能效率，控制核聚变反应中的托卡马克等离子体，并实现碳捕获。
（三）公共部门机遇
AI的发展也为公共部门提供了独特的机遇，能够推动在传统市场力量作用下难以取得进展的领域实现突破，包括从精准预测极端天气、监控生物多样性，到扩展教育机会、提供高质量医疗保健以及优化能源管理等多个方面。政府和公共机构可以借助人工智能技术，显著提升向公民提供的服务质量，并特别加强对社会弱势群体的支持和服务。
（四）利用人工智能造福人类的关键因素
1.制定共同的数据标准和测试标准，促进AI初创企业在更多国家和地区进行测试和部署。
2.在发展中国家和地区，鼓励构建本土AI生态系统和适应本地需求的模型。鼓励政府和私营部门投资其他核心基础设施，以推动全球AI的发展。
3.国家和国际层面上应对落后地区的企业进行人才、数据、计算资源的投资，以及开源数据和模型共享的支持，使其创建自己的人工智能解决方案。通过国际合作，促进AI人才的培养和交流，推动AI在科学研究和可持续发展目标方面的应用。
4.人工智能的发展、部署和使用需要平衡推动因素和防护措施，以促进人类的增强而非替代，避免形成“人工智能鸿沟”，确保公平获取技术和技能。建设和完善各利益相关方和成员国之间资源平等获取和隐私保护数据共享的机制，以实现更公平的AI发展。
（五）治理作为推动人工智能的关键因素
1.人工智能应致力于支持可持续发展目标的实现，通过全球治理框架塑造激励机制，推动实现包容性目标并解决权衡与平衡问题。通过数据保护和交换框架促进模型构建生态系统，实现更具包容性和可持续性的AI开发。
2.借鉴Gavi疫苗联盟等其他领域经验，通过创新市场机制和激励措施，加强国际合作，如“分布式CERN”，扩大人工智能的普及，确保其服务于公共利益并公平分配成果。
二、风险与挑战
（一）人工智能的风险
在确保公平享受AI发展机遇的同时，必须认真对待各种已知和潜在危害。AI的部署可能引发种族或歧视，威胁语言多样性，产生新型虚假信息甚至影响政治进程，在网络安全领域引起复杂挑战。AI风险包括技术局限导致的偏见和信息危害，以及技术被用于恶意目的，如深度伪造和敌对信息活动，严重危害社会民主和安全。编制全面的人工智能风险清单是一项挑战，需要跨学科研究和灵活的风险管理框架共同配合。联合国对此提供了理想的交流和适应平台。从现有或潜在脆弱性的角度对风险进行分类，分为以下六个层面（见表1）。
表1 从现有或潜在脆弱性的角度看人工智能风险（笔者根据报告内容自制）
我们需要全球合作和协调来建立风险监测共享机制，并达成共识以采取行动。国际组织在处理具有双重用途的技术方面积累了丰富的经验，这些经验可以帮助我们应对人工智能带来的风险。同时，我们也认识到采取积极措施的重要性。在全球范围内评估人工智能影响和意义的同时，实现有效的全球治理变得尤为重要。我们还需要对人工智能在多样化和未经测试的环境中应用可能带来的意外后果保持警惕，并进行前瞻性监测，克服技术、政治和社会挑战以实现这一目标。
（二）待解决的挑战
1.人工智能系统的复杂性和商业秘密使其难以透视，加之科学的初级阶段和资源限制，这些因素阻碍了风险识别和管理责任的确定。
2.尽管人工智能影响全球，但其治理受国家边界局限，需要国际合作以填补监管空白，确保全面问责。
3.应考虑成员国的具体限制，满足其需求，帮助解决本土问题，而非强加不适用的解决方案。
4. 需在其生命周期内全面考虑人工智能的成本和影响。
5. 需警惕过度谨慎导致错失利用人工智能的机会。
三、国际AI治理的指导原则和机构职能
（一）人工智能国际治理格局
全球已经制定了多项人工智能治理的指南、框架和原则，涵盖数据、模型管理和特定行业应用等方面。尽管存在共性，但在实际操作、跨司法管辖区互操作性及遵从性激励方面，全球尚未达成一致。人工智能技术的快速进步加剧了开发者、使用者与监管者之间的理解和能力差距，导致许多地区实际上依赖于自我监管。这种状况急需改变，才能更好地考虑长期风险的问题同时兼顾包容性。图2提供了一个简化视图，用于理解新兴的人工智能治理格局，咨询机构将在其后续工作中进一步完善这一框架。
图2 考虑不同人工智能治理工作互操作性的三重简化模式
（二）国际人工智能指导原则
1.包容性：人工智能的管理应包容对方，由所有人管理，并为他们谋福利。
2.公共利益：人工智能必须符合公众利益。
3.数据治理的中心地位：人工智能治理应与数据治理和促进数据共享同步进行。
4.普遍化、网络化和多利益攸关方：人工智能治理必须具有普遍性、网络化，并植根于多利益攸关方的适应性合作。
5.国际法：人工智能治理应立足于《联合国宪章》、国际人权法和其他商定的国际承诺，如可持续发展目标等。
图3 按机构“硬度”分布的人工智能治理功能
（三）机构职能
1.定期评估人工智能的未来方向和影响。
2.通过在全球范围内认可的全球人工智能治理框架，加强全球治理工作的互操作性及其在国际规范中的基础。
3.制定和协调标准、安全和风险管理框架。
4.通过国际合作促进人工智能的发展和使用，以实现经济和社会效益。
5.促进人才发展、获取计算基础设施、建立各种高质量数据集和人工智能公共产品方面的国际合作，以实现可持续发展目标。
6.监测风险，报告事件，协调应急响应。
7.通过有约束力的规范遵守和问责。
四、结语
人工智能对我们的生活方式、工作、社交、教育和管理方式产生了深远的影响，引发了关于人类在全数字化世界中的意义等根本性问题。这些问题超出了单一咨询机构的工作范围，但与当前的决策密切相关。全球人工智能的治理视为至关重要，旨在评估其对人类生活的影响，并确定联合国在其中可以发挥的独特作用。治理应以原则为指导，通过明确的职能实施，确保国际、国家、行业和社区层面的协同和互操作性。目前，尚未确定单一的治理模式，但强调治理必须为人类和社会带来实际利益，桥接原则与实际影响之间的差距。未来将探索全球人工智能治理体制的备选方案。
免责声明：本文转自军事高科技在线，原作者张青青 陈琳。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！
转自丨军事高科技在线
作者丨张青青 陈琳
研究所简介
国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。
地址：北京市海淀区小南庄20号楼A座
电话：010-82635522
微信：iite_er