全国网络安全标准化技术委员会发布《人工智能安全治理框架》
---
9月9日，在2024年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0版（以下简称“框架”）。
《框架》紧密结合人工智能技术特性，分析人工智能风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险和网络域、现实域、认知域、伦理域等应用安全风险，提出相应技术应对和综合防治措施，以及人工智能安全开发应用指引。
AI安全治理框架构成
基于风险管理理念，本框架针对不同类型的人工智能安全风险，从技术、管理两方面提出防范应对措施。
安全风险方面
通过分析人工智能技术特性，以及在不同行业领域应用场景，梳理人工智能技术本身，及其在应用过程中面临的各种安全风险隐患。
技术应对措施方面
针对模型算法、训练数据、算力设施、产品服务应用场景，提出通过安全软件开发、数据质量提升、安全建设运维、测评监测加固等技术手段提升人工智能产品及应用的安全性、公平性、可靠性、鲁棒性的措施。
综合治理措施方面
明确技术研发机构、服务提供者、用户、政府部门、行业协会、社会组织等各方发现、防范、应对人工智能安全风险的措施手段，推动各方协同共治。
安全开发应用指引方面
明确模型算法研发者、服务提供者、重点领域用户和社会公众用户，开发应用人工智能技术的若干安全指导规范。
人工智能安全风险分类与技术应对措施、综合治理措施映射如下表所示：
《框架》以有效防范化解人工智能安全风险为出发点和落脚点，还针对模型算法研发者、人工智能服务提供者、重点领域使用者、社会公众列举了详细的应用指引，对推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用。
--THE END--
来源：全国网络安全标准化技术委员会官网