生成式AI新规详解：新增分类分级监管，明确使用者义务

原标题：生成式AI新规详解：新增分类分级监管，明确使用者义务

近日，七部门联合发布了《生成式人工智能服务管理暂行办法》（下称《办法》），对我国的生成式AI产业的发展提出了不少具体措施和明确规范。

有参与立法的专家向南都记者表示，《办法》可以说是以此前4月推出的《生成式人工智能服务管理办法（征求意见稿）》（下称《征求意见稿》）为基础的。

当然，与其相比，《办法》在部分相似条款的措辞、规定上都做出了不少调整和修改——比如新增了“分类分级监管”原则和“公共数据资源开发利用”的描述，对生成式AI服务的用户也提出了一些要求。

··· 新增分类分级监管、强调公共数据资源开发利用

首先可以看到的是，《办法》与《征求意见稿》两份文件中，对于“生成式AI”的定义有描述上的细微差别：前者是“具有文本、图片、音频、视频等内容生成能力的模型及相关技术”，后者则是“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。

南都记者注意到，《办法》中还有许多新增内容。

比如，第三条、第六条、第十六条中，均提到了“分类分级监管”。北京高勤律师事务所合伙人王源也向南都记者解释，基于这一原则，有些风险没有那么大的AI应用场景也就不会受到严监管，毕竟“人工智能技术的发展趋势本身就是日常化和普及化的”。

浙江理工大学数据法治研究院副院长郭兵表示，现在国内有“AI大模型之战”，基于生成式AI的各种应用技术正在层出不穷地产生，因此，就需要根据技术的不同应用领域进行包容审慎、分类分级的监管。这也意味着对生成式AI这样的新兴技术，监管的态度有一定的调整，对这类技术违规进行监管处置时会适当留下一定的试错空间，还在一定程度上降低了企业合规经营的成本。

再比如，第六条中提到了“推动生成式人工智能基础设施和公共训练数据资源平台建设。促进算力资源协同共享，提升算力资源利用效能。推动公共数据分类分级有序开放，扩展高质量的公共训练数据资源。鼓励采用安全可信的芯片、软件、工具、算力和数据资源。”

郭兵指出，这里涉及到的“公共数据资源开发利用”是指未来或许会有更多的公共数据资源投入到生成式AI的领域，这也是《征求意见稿》中没有的。

《办法》中也有对生成式AI服务的用户提出要求的新内容。比如第十四条中提到“（生成式AI服务）提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。”

王源认为，这一规定在一定程度上分担了生成式AI服务提供者的违法风险——因为生成式AI产品具有用户交互的属性，很多内容依赖使用者的提问和内容输入，所以，从内容合规角度看，风险源是动态变化的，不具有可预料性。也正因如此，该法规规定提供者并不绝对为使用者的行为负责，但是对使用者行为有监督义务。

除了完全的新增内容之外，《办法》中也对部分已有描述进行了调整。

比如，《征求意见稿》中的第四条提出“利用生成式人工智能生成的内容应当真实准确”，而《办法》中的第四条的描述则为“提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。”再比如，《征求意见稿》提出要采取措施防止生成“虚假信息”，《办法》则强调需要规范“虚假有害信息”。

由此来看，去掉了一些绝对性表述，在很多概念描述上也更加准确。王源表示，这些几个字的改变其实是非常有意义的，比如有时候生成式AI生成故事片段等信息，生成的内容本身是“虚假”的，却有可能是用户需要的。这些描述上的改变，面对的正是这样的场景。

··· 给产业搭建生长空间，确保安全

整体看来，王源还认为，《办法》对“研发生成式AI技术”，“未向境内公众提供生成式AI服务”这两种情形进行了豁免。

其一，研发阶段不适用《办法》。也就是说，当研发主体（行业组织、教育科研机构、企业等）向特定公众提供小范围试用版本，或仅仅是在研发过程中推出测试版本，这些都是属于未正式上市的AI服务，因此不适用《办法》。

其二，生成式AI服务到了应用阶段，不向境内公众提供服务，也不需要遵守《办法》。例如不向消费者直接提供服务，仅向公司提供服务就属于这种情形。

“这是《办法》最大的亮点，体现了国家促进人工智能发展的导向，相当于给了研发、应用生成式人工智能各主体一颗‘定心丸。’”王源说。

对于这部文件的落地和执行，王源坦言，由于生成式AI技术本身涉及的问题类型多样，伦理、个人信息保护、知识产权等法律问题都需要在技术发展中进行自我发展，现阶段并不成熟。因此，她认为《办法》本质上是在给理论和产业搭建生长空间，主要起到的是宣誓性作用，也就是在一方面促进技术发展，另一方面确保安全。

采写：南都记者 杨博雯 樊文扬