七部门联合公布《生成式人工智能服务管理暂行办法》！提出分类分级监管，增加发展条款

原标题：七部门联合公布《生成式人工智能服务管理暂行办法》！提出分类分级监管，增加发展条款

7月13日，国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（以下称《办法》），自2023年8月15日起施行，我国正式迎来首个国家AIGC监管文件。此前4月，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（下称“征求意见稿”）并公开征求意见。

↑资料图 图据图虫创意

《办法》最大修改亮点是强调发展。相比征求意见稿，《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展。在监管方式上，《办法》提出对生成式人工智能服务实行包容审慎和分类分级监管。《办法》提出了促进发展的4条具体措施。

此外，《办法》规定了生成式人工智能服务规范，以及安全评估、算法备案、投诉举报等制度，明确了法律责任。

中国政法大学数据法治研究院教授张凌寒接受红星新闻记者采访时指出，相比征求意见稿，《办法》大量增加了事关发展的条款措施，这是多个监管部门共同考量推进我国人工智能产业发展的结果。具体监管措施也基本沿用了原有算法监管的备案、评估等制度，保持了制度的一贯性和稳定性。

安全：

明确将生成内容的监管目标

设置在网络信息内容安全上

张凌寒指出，《办法》不仅有很多倡导发展的条款，具体条款中还有一些减轻了企业负担的合规要求。如在适用范围上，《办法》明确了“对境内公众提供服务”适用，强调只有对公众提供服务的生成式人工智能服务适用本规定，对大量垂直领域如支持科研、工业应用等场景则排除适用。体现出《办法》的规制重点在于服务应用层的信息内容安全，对模型及其相关技术作为基础设施的功能研发活动并不适用，鼓励生成式人工智能在多领域的探索应用。

在服务提供者的法律地位界定上，《办法》从“该产品生成内容生产者”改为了“网络信息内容生产者”，张凌寒认为这是明确将生成内容的监管目标设置在了网络信息内容安全上，对可能相关的人格权侵权和知识产权侵权责任排除。此前张凌寒撰文提出，生成式人工智能的技术产出链条上，技术开发者是关键，因而应在生成式人工智能的技术链上进行可行性的责任分配，包括对技术开发者提出更严格的要求、对部署者结合其应用场景设置义务、在用户层面进一步细化管理。

在训练数据要求上，张凌寒还指出，将对训练数据的要求改为了对训练数据处理活动的要求。尤其是对于训练数据质量上，对“训练数据的真实性、准确性、客观性、多样性”从强制性要求改为了鼓励性要求。

此外，防沉迷范围从所有用户缩小到未成年人；只有具有舆论属性或者社会动员能力的才需要按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》安全评估；从“不得向他人提供使用者的输入信息和使用记录”到不得“非法”提供；删除“不得画像”规定。

张凌寒点评，从不同维度去促进发展，这不仅体现了为促进生成式人工智能技术健康发展和规范应用的立法宗旨，也切实从制度设计各个方面落到了实处。

亮点：

数据安全和隐私保护规定

贯穿各个环节

全球监管部门都在关注AIGC带来的安全风险。张凌寒此前在《办法》的公开征求意见时接受红星新闻记者采访时表示，新兴领域立法速度加快，已经成为了世界各国的一个常态。

对于如何在管制与创新，也即安全和发展之间平衡，张凌寒表示，这是网络立法的永恒命题。我国在个人信息保护和数据立法领域与欧盟、美国并行，在算法治理和深度合成治理领域则成为了一定意义上的领跑者。以促进ChatGPT为代表的生成式人工智能健康发展为契机，积极构建人工智能治理制度，有助于形成我国真正的制度优势。

征求意见3个月后，正式稿颁布并将于下月实施，这是AIGC规制的中国速度。

此前《征求意见稿》要求采取措施防止歧视、防止生成虚假信息、防止侵犯权益、提高训练数据质量、防范沉迷等。此前中国工程院院士、前北京邮电大学校长、网络空间安全专家方滨兴接受红星新闻记者采访时指出，“采取措施”和措施不足是两个概念，“不是说过滤不了有害信息，互联网就不发展”，提供者应按法律法规要求采取措施，尽力而为。

而今，《办法》要求的是采取“有效”措施。

据国家互联网信息办公室发布《办法》的消息，网信办有关负责人指出，出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。生成式人工智能技术的快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。

奇安信集团副总裁张卓接受红星新闻记者采访时曾举例，通过生成式人工智能伪造内容导致的诈骗事件已经屡有发生。国内福建一位市民10分钟内被骗走了430万元。国外也有一对夫妻，被黑客使用AI工具伪造的30秒音频诈骗了2万多美元。

张卓认为，促进发展和防范风险需要两者并重，从《办法》可以看出，数据安全和隐私保护规定贯穿于生成式人工智能数据的标注、模型训练和预训练、提供服务等各个环节，形成了监管闭环，避免了安全盲区。所有这些措施，都充分考虑到了生成式人工智能的使用服务场景，尤其是面向公众的场景。

国家互联网信息办公室有关负责人指出，生成式人工智能服务的发展与治理需要政府、企业、社会、网民等多方参与，共同促进生成式人工智能健康发展，让生成式人工智能技术更好地造福人类。

红星新闻记者 胡伊文 赵倩 北京报道

责编 官莉 编辑 郭宇