重磅！生成式AI监管规定即将出台！

原标题：重磅！生成式AI监管规定即将出台！

重磅！生成式AI监管规定即将出台！

几个月以来，生成式人工智能（AIGC）一直是人们关注的焦点，从ChatGPT到文心一言，再到GPT-4和各类生成式人工智能，生成式人工智能的浪潮滚滚向前。

▲图源：网信中国微信公众号截图

4月11日，国家网信办起草《生成式人工智能服务管理办法（征求意见稿）》（下称《征求意见稿》），并向社会公开征求意见。《办法》共21条，要点如下↓

《征求意见稿》首先明确，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作。因此， 制订管理办法正是为了未来更好地发展该技术，而不是限制该技术。

什么是生成式人工智能？

提供产品或服务应遵守哪些要求？

生成式人工智能，是指基于算法、模型、规则 生成文本、图片、声音、视频、代码等内容的技术。

提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求↓

• 利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
• 在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
• 尊重知识产权、商业道德， 不得利用算法、数据、平台等优势实施不公平竞争 。
• 利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
• 尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等， 承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。

提供服务前需申报安全评估

《征求意见稿》提出，利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。 用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：

• 符合《中华人民共和国网络安全法》等法律法规的要求；
• 不含有侵犯知识产权的内容；
• 数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；
• 能够保证数据的真实性、准确性、客观性、多样性；
• 国家网信部门关于生成式人工智能服务的其他监管要求。

不得利用AI生成内容损害他人形象名誉

《征求意见稿》提出，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。 不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。

提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合《生成式人工智能服务管理办法（征求意见稿）》的要求时，应当采取措施，停止生成，防止危害持续。

此外，提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容， 不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

来源：小康头条微信公众号综合网信中国微信公众号、《朝闻天下》、“新闻联播”微信公众号、长安街知事

图源：图虫创意

责编： 田苑淯颖

校对：周经韬

审核： 王芳