原标题：人工智能安全合规与备案流程政策解读

2023年10月18日，国家互联网信息办公室发布《全球人工智能治理倡议》，旨在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。生成式人工智能已经从一个边缘话题逐渐崭露头角，这也是中国人工智能产业发展历史中的里程碑。

生成式人工智能的出现将在多个行业内产生广泛的影响，在极大提高工作效率的同时，也带来了诸多数据安全和网络安全的合规风险。企业在提供生成式人工智能服务时，往往需要海量的数据来进行算法的更迭优化，从而引申出数据来源的合法合规性的问题。生成式人工智能一旦被违法使用，亦会造成生成虚假信息、侵害个人信息权益等问题。

为营造良好的创新生态，需做好前瞻性研究，建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。国家依次出台《生成式人工智能服务管理暂行办法》《移动互联网应用程序信息服务管理规定》和《GB/T 42888 信息安全技术 机器学习算法安全评估规范》等法规及标准，就人工智能产业安全管理提出要求，规范信息内容管理主体范围，明确备案流程、建立网络安全、数据安全、个人信息保护和未成年人保护体系，更好地促进人工智能产业的安全有序发展。

生成式人工智能在多种场景中的实现方式

生成式人工智能是赋能技术，必须与应用场景结合才能发挥最大作用，如图像识别、第三方大模型、开源大模型、语音识别、ML/DL、NLP、OCR等场景，可通过AIGC平台进行实现。

企业应建立生成式人工智能的监管机制

生成式人工智能服务实现背后是大模型，往往需要海量的数据来进行算法的更迭优化，从而引申出数据来源的合法合规性的问题。此外，人工智能一旦被违法使用，会造成生成虚假信息、侵害个人信息权益等问题。监管机制主要包括培训数据评估、算法模型评估和生成式内容评估。

培训数据评估：从数据全生命周期（收集、存储、传输、使用和处理、提供、披露和删除），个人信息的基本原则、知情同意、主体权利等方面开展。培训数据评估主要识别数据的类型、规模和分布等基本信息，重点关注数据处理活动（境外传输），发现可能影响国家安全、公共利益或个人和组织合法权益的数据安全问题和风险和发现共享、交易、委托处理和向境外提供重要数据等处理活动中的数据安全问题和风险。

算法模型评估：从需求、设计、开发培训、验证评估、操作阶段的保密性、完整性、可用性、可控性、稳健性和隐私性方面进行评估，如保密性主要关注数据保密（防泄漏）能力、模型保密（防盗和防逆转）能力和系统机密性（未经授权的访问）能力。安全风险主要包括算法歧视、算法缺陷（安全漏洞）和算法攻击（后门攻击/数据中毒）。

生成式内容评估：从意识形态安全、虚假信息管理、个人权利保护、市场公平竞争和知识产权保护进行评估。值得注意的是具有意识形态AIGC的内容量呈指数级增长，违规内容难以预测，需要审计机制和审计制度的支持，事后管理机制也需要考虑，如安全事件应急响应机制（停止提供服务）和全过程内部修复迭代机制。

国内人工智能安全合规法规与标准最新进展

国家依次出台有关人工智能模型和算法的法律法规，就生成式人工智能模型和算法的备案提出要求，以更好地促进生成式人工智能产业的安全有序发展并提供前瞻性建议：

2018年《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》

国家互联网信息办公室和公安部发布《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》，并于2018年11月30日起施行，旨在督促指导具有舆论属性或社会动员能力的信息服务提供者履行法律规定的安全管理义务，维护网上信息安全、秩序稳定，防范谣言和虚假信息等违法信息传播带来危害，是促进互联网企业依法落实信息网络安全义务的重要措施。

2022年《互联网信息服务算法推荐管理规定》

国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》，并于2022年3月1日起施行，旨规范互联网信息服务算法推荐活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，促进互联网信息服务健康发展。

2022年《移动互联网应用程序信息服务管理规定》

国家互联网信息办公室发布新修订的《移动互联网应用程序信息服务管理规定》，并于2022年8月1日起施行，旨在规范移动互联网应用程序信息服务，保护公民、法人和其他组织的合法权益，维护国家安全和公共利益。

2023年《生成式人工智能服务管理办法（征求意见稿）》

国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》，并于2023年4月11日公开征求意见，此办法为《生成式人工智能服务管理暂行办法》的前身。

2023年《生成式人工智能服务管理暂行办法》

国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部和国家广播电视总局同意发布《生成式人工智能服务管理暂行办法》，并于2023年8月15日起施行，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。

2023年《GB/T 42888 信息安全技术 机器学习算法安全评估规范》

本规范于2023年8月6日发布，2024年3月1日实施，本文规定了机器学习算法技术和服务的安全要求和评估方法，以及机器学习算法安全评估流程，适用于指导机器学习算法提供者保障机器学习算法生存周期安全以及开展机器学习算法安全评估。

《移动互联网应用程序信息服务管理规定》的适用范围和适用主体

国家互联网信息办公室2022年6月14日发布新修订的《移动互联网应用程序信息服务管理规定》。新规定要求应用程序提供者和应用程序分发平台应当履行信息内容管理主体责任，建立健全信息内容安全管理、信息内容生态治理、数据安全和个人信息保护、未成年人保护等管理制度，确保网络安全，维护良好网络生态。

适用范围

在中华人民共和国境内提供应用程序信息服务以及从事互联网应用商店等应用程序分发服务。应用程序信息服务是指通过应用程序向用户提供文字、图片、语音、视频等信息制作、复制、发布、传播等服务的活动，包括即时通讯、新闻资讯、知识问答、论坛社区、网络直播、电子商务、网络音视频、生活服务等类型。

应用程序分发服务是指通过互联网提供应用程序发布、下载、动态加载等服务的活动，包括应用商店、快应用中心、互联网小程序平台、浏览器插件平台等类型。

适用主体

移动互联网应用程序提供者：提供信息服务的移动互联网应用程序所有者或者运营者；

移动互联网应用程序分发平台：提供移动互联网应用程序发布、下载、动态加载等分发服务的互联网信息服务提供者。

《移动互联网应用程序信息服务管理规定》的合规义务

《移动互联网应用程序信息服务管理规定》对于维护网络信息内容生态，保护公民、法人和其他组织的合法权益发挥了积极作用，其中对应用程序提供者和应用程序分发平台分别做出了合规要求。

应用程序提供者：

► 落实用户实名认证和管理（第六条）

► 通过应用程序提供互联网新闻信息服务的，取得互联网新闻信息服务许可（第七条）

► 不生产传播违法信息（第八条）

► 不得诱导用户下载（第九条）

► 履行网络安全保护各项义务（第十条）

► 履行数据安全保护各项义务（第十一条）

► 履行个人信息保护各项义务（第十二条）

► 履行未成年人网络保护各项义务（第十三条）

► 对具有舆论属性或者社会动员能力的新技术、新应用、新功能进行安全评估（第十四条）

► 鼓励积极采用互联网协议第六版（IPv6）向用户提供信息服务（第十五条）

► 制定并公开管理规则，与注册用户签订服务协议，对违法、违规、违约应用程序采取处置措施（第十六条）

► 设置投诉举报入口（第二十二条）

应用程序分发平台：

► 在上线运营三十日内向所在地省、自治区、直辖市网信部门备案（第十七条）

► 建立分类管理制度按类别向其所在地省、自治区、直辖市网信部门备案应用程序（第十八条）

► 采取复合验证等措施对申请上架的应用程序提供者进行真实身份信息认证（第十九条）

► 建立健全管理机制和技术手段，建立完善上架审核、日常管理、应急处置等管理措施（第二十条）

► 制定并公开管理规则，与应用程序提供者签订服务协议，对违法、违规、违约应用程序采取处置措施（第二十一条）

► 设置投诉举报入口（第二十二条）

《生成式人工智能服务管理暂行办法》的法律依据与适用范围

经国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部和国家广播电视总局发布的《生成式人工智能服务管理暂行办法》于2023年8月15日起施行，其规定提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

《生成式人工智能服务管理暂行办法》的法律依据为包括但不限于：《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》《关于加强互联网信息服务算法综合治理的指导意见》《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》和《互联网信息服务深度合成管理规定》等。

算法备案适用范围（面向公众）主要包括应用深度合成技术提供互联网信息服务的服务提供者和技术支持者、利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法推荐技术向公众提供互联网信息服务和提供具有舆论属性或者社会动员能力的生成式人工智能服务的服务提供者和服务使用者等。

算法安全自评估报告主要内容包括算法情况（算法流程、算法数据、算法模型、干预策略和结果标识）、服务情况、风险研判（算法滥用、算法漏洞和算法恶意利用）、风险防控情况（风险机制机理审核、算法风险评估检测、对生成合成的虚假信息的辟谣机制、算法安全事件应急处理）和安全评估结论等。

《互联网信息服务算法推荐管理规定》的备案流程

国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》，自2022年3月1日起施行，为解决种种算法乱象提供了指引和规范，也有利于互联网生态环境的改善，以下内容为算法备案相关流程：

算法备案填报信息包括：服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容。

备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。

备案相关信息可通过互联网信息服务算法备案系统（https://beian.cac.gov.cn）进行查询。

算法安全自评估参考框架

企业可以通过以下内容进行算法安全自评估，帮助企业发现固有风险点、控制措施的薄弱环节和风险隐患。

《GB/T 42888 信息安全技术 机器学习算法安全评估规范》

机器学习算法技术安全要求如下：

提供服务的安全要求：

► 完整梳理各服务功能使用的算法，形成记录文档，并及时更新；

► 以适当方式公示算法的基本原理、目的意图和主要运行机制；

► 评估算法在各服务功能中可能对用户、社会及应用者造成的安全风险；

► 设置算法相关服务的恢复性指标，并按照该指标提供服务；

► 应设计算法相关服务的安全应急处置机制，使算法出现安全意外时服务可被人工中断；

► 加强个人信息收集和使用等环节的安全管理，针对个人信息收集的必要性进行分析和记录；

► 利用个人信息提供推送、商业营销等服务时，应同时提供不针对其个人特征的选项，或者向个人提出便捷的拒绝方式；

► 设置便捷有效的用户申诉和公共投诉、举报入口，并及时响应、及时处理、及时反馈关于算法公平性、决策透明性等方面的问题，并如实记录；

► 应在服务中采取措施保护模型参数等数据，防止被攻击者通过爬山攻击等方式还原推测数据；

► 开展具有舆论属性或社会动员能力的算法推荐服务时，应开展算法自评估，并保存自评估报告。

安永服务介绍 ——人工智能方案规划、治理、合规与实施

安永团队已在全球开展了几百项人工智能项目，始终致力于降低风险、增加收入和提高效率，如提供从战略规划到落地实施中所需的业务专家、数据科学家、产品经理等丰富资源。此外，安永团队在帮助客户采用新一代人工智能方面发挥着不可或缺的作用，主要提供4项服务。

新一代人工智能战略和路线图：为了新一代人工智能，客户需要创建新的业务模式，重新构想运营模式，并推动人力资本的转型变革。安永将部署一个路线图，通过业务模式或运营模式转型创造价值，平衡风险与回报，如人工智能策略、诊断与使用案例选择、供应商分析与技术选择、风险规划、效益实现/应用框架、目标业务模式设计和商业案例和路线图和实施计划。

对人工智能的治理和责任：客户将会在新法规之前采用新一代人工智能。安永将部署和扩展管理服务，帮助客户负责任地管理和交付人工智能。提供的服务包括流程、程序和生成式人工智能模型风险管理的启用，如人工智能/机器学习政策、模型验证、模型验证步骤/标准、持续的检测、AI公平性/偏见框架、制定基准、高风险流程和模型变更管理。

算法备案合规咨询：随着监管部门对人工智能产业的监管重视力度不断加大，国家相继出台了相应的法律法规。安永将帮助客户识别和规避潜在的合规风险并建立对应的制度，有助于避免企业因违规而遭受罚款、声誉损害和经济损失，进而阻碍企业的发展，如信息发布审核流程、机理审核流程、用户注册制度、用户标签管理规则、科技伦理审查机制、用户自主选择机制、用户模型的兴趣点规则和用户申诉渠道。

规模化用例实施：将用例原型化、构建、扩展并交付到完整的生产环境中（dataops、MLOps、API集成），如概念设计与原型制作、技术/基础设施构建、流程设计、持续的检测、人工智能模型的建造与测试、模型变更管理性能评估和利用CoE使用案例。

本文是为提供一般信息的用途所撰写，并非旨在成为可依赖的会计、税务、法律或其他专业意见。请向您的顾问获取具体意见。