治理之智 | 《人工智能安全作为全球公共产品》研究报告发布

2024年7月5日，“2024世界人工智能大会暨人工智能全球治理高级别会议”期间，在上海徐汇区西岸智塔举办的"加速‘人工智能+’构筑新质生产力"论坛上，与会者深入讨论了构建人工智能治理机制的重要性，以促进人工智能技术及其应用的健康发展和持续进步。论坛上首次发布了关于"人工智能安全作为全球公共产品"的研究报告，并启动了建立人工智能安全与治理对话网络的倡议。阿里研究院参与报告撰写。

报告由上海人工智能实验室治理研究中心、清华大学产业发展与环境治理研究中心、上海交通大学国际与公共事务学院和中央广播电视总台超高清视音频制播呈现国家重点实验室共同起草，由清华大学文科资深教授、苏世民书院院长、清华大学产业发展与环境治理研究中心学术委员会主席薛澜教授担任主稿顾问，清华大学产业发展与环境治理研究中心主任、清华大学公共管理学院教授陈玲，清华大学产业发展与环境治理研究中心副主任、清华大学公共管理学院副教授赵静，清华大学产业发展与环境治理研究中心兼职研究人员、上海交通大学国际与公共事务学院副教授贾开，清华大学产业发展与环境治理研究中心兼职研究人员、阿里研究院数字经济中心主任傅宏宇等担任主稿专家。

报告指出，人工智能可能带来极大收益，但也可能带来系统风险，而其快速演化的技术迭代速度正在加剧发展的不确定性。这一现象已经引起了全球利益相关方的普遍关注，多边、多方主体具有共识性地认为，当前应对人工智能风险的治理措施选择至关重要，是实现人工智能可信赖与负责任的关键。

报告认可多边、多方主体在人工智能安全方面开展行动的积极和重要意义，同时也认识到当前进程的可能改善空间。基于中国实践经验，报告提出，在推动人工智能安全实践、形成人工智能安全规则、促进人工智能安全共识的过程中，应将人工智能安全视为“全球公共产品”，致力于建设公共性的安全知识、安全能力、安全资源。“人工智能安全作为全球公共产品”的理念价值是其能够统筹发展与安全的双重目标，不仅仅将安全视为风险管理措施或监管手段，而是同时强调安全知识、能力、资源的积累与增长，以促进人工智能更好发展。该概念能够兼顾国内与国际，既有利于引导各国国内人工智能安全治理机制和体系改革，同时也有利于推动人工智能安全的国际合作与全球治理。

以下为报告内容节选：

获取完成报告，请扫描下面二维码下载：

版块介绍 —治理之智

在全球化背景下，科技的快速发展也带来了前所未有的治理挑战。本板块内容依托阿里巴巴集团先进的AI科技能力、丰富的应用场景与负责任的技术生态，聚焦于AI风险、AI大模型安全、AI大模型开闭源生态、AI大模型出海等AI治理政策研究，基于技术理性的风险观，为大模型发展与安全平衡与取舍提供独到见解。同时，我们致力于收集和分享海内外AI治理先进理论与经验，为构建合理的科技治理体系提供智慧与灵感。

Reading

1、治理之智 | 《大模型训练数据白皮书》在第七届数字中国峰会发布：大模型是数据要素价值释放的最短路径

2、《中华人民共和国人工智能法（学者建议稿）》：产业期待中的中国方案

3、“不用旧瓶装新酒”：模型开源生态的认知——基于美国NTIA公共咨询意见的分析

4、寻找高质量数据：对“确定性”的实践探寻和思考

5、薛澜：人工智能面临治理挑战

6、合成数据：治理之智

7、合成数据：大模型训练和应用的新方案

8、合成数据：前世今生

9、“全球AIGC版权侵权首判”留下的三个问题

10、2024年中国数据治理前瞻：再平衡与新常态

11、走向AGI时代——关于AI发展与治理的十段观察

12、段伟文｜如何应对前沿科技的核心伦理风险？

13、大模型数据之二｜中美大模型的竞争之路：从训练数据讲起

14、大模型训练数据之一｜大模型训练的“阿喀琉斯之踵”：数据这么近那么远？

15、ChatGPT这么牛，我们应该如何兼顾发展和治理？

16、静水流深：美国人工智能治理的特征、趋势与启示

17、治理之智 | 《国际论坛》贾开、俞晗之、薛澜：人工智能全球治理新阶段的特征、赤字与改革方向

18、如何应对“模型抄袭”？对“斯坦福抄袭中国大模型”事件的三重思考

19、大模型时代：消失的飞轮

- END -