如何保障生成式AI行业高质量发展

“

AIGC新规不是对全行业的全范围监管，其规范范围和力度应当是有边界的，市场不必过于担心，进而影响生成式人工智能技术在中国的研发进展。

本文字数5446，阅读时长约17分钟

文｜王静  北京师范大学法学院副教授、中国法学会行政法学研究会副秘书长

王轩  澄观治库执行主任、广州大学科技创新法治研究中心副主任

编辑｜鲁伟

《生成式人工智能服务管理办法（征求意见稿）》（下称“AIGC新规”）于2023年4月11日发布，这引发行业和市场广泛关注，甚至有人认为这是中国的人工智能法案，但无论是从该部门规章的颁布主体的行政职权来讲，还是从AIGC新规的内容来看，AIGC新规都不是对全行业的全范围监管，其规范范围和力度是有边界的，市场不必过于担心，进而影响生成式人工智能技术在中国的研发进展。

进入本世纪以来，新技术发展带来的新业态和新经济层出不穷，中国成为全球的创新高地，这与中国立法和政府监管的包容审慎有着密切关系，特别是党的十八大以来，运用法治思维和法治理念来提升国家治理体系和能力现代化，通过立法、执法来为新技术、新业态和新经济发展护航，中国正在摸索出一条科学民主、行之有效的法治路径，这也是中国能够吸引国内外创新主体聚集的重要原因。

结合中国所处的战略机遇期，本文对AIGC新规所涉及的若干重要问题进行分析，以助力中国AIGC技术研发和应用的健康可持续发展。

01

适用所有向境内公众提供的AIGC服务

在AIGC新规的二十一条草案中，涉及内容广泛，从第二条规定的“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法”所确定的适用范围，到第五条规定的“生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”所确定的技术形态，似乎将所有与AIGC的技术开发与应用的各种情况都囊括其内。但是，从部门规章的定位到条文本身仔细探究，其实都给技术研发和更广泛应用留下了巨大的空间。

根据2011年国务院设立国家互联网信息办公室（下称“国家网信办”）的相关通知，国家网信办的职能主要包括：落实互联网信息传播方针政策和推动互联网信息传播法制建设；指导、协调、督促有关部门加强互联网信息内容管理；负责网络新闻业务及其他相关业务的审批和日常监管；指导有关部门做好网络游戏、网络视听、网络出版等网络文化领域业务布局规划；协调有关部门做好网络文化阵地建设的规划和实施工作；负责重点新闻网站的规划建设，组织、协调网上宣传工作，依法查处违法违规网站；指导有关部门督促电信运营企业、接入服务企业、域名注册管理和服务机构等做好域名注册、互联网地址（IP地址）分配、网站登记备案、接入等互联网基础管理工作；在职责范围内指导各地互联网有关部门开展工作等。

从上述职能范围来看，国家网信办对网络有关活动和主体的管理，主要涉及网络信息传播、内容管理、网络新闻等方面。从机构职能划分的原理来讲，国家网信办承担的行政职能是以中编办的“三定规定”为依据的，而具体行政行为的实施，包括行政许可、行政处罚和行政强制等，又以全国人大及其常委会制定的法律和国务院制定的行政法规为依据。从《立法法》《行政法规制定程序条例》和《规章制定程序条例》的规定来看，国家网信办所制定的部门规章以及与其他部门联合发布的联合部门规章也都是以各自的行政职能作为边界的。

在此基础上仔细研读AIGC新规，其适用范围是非常清楚的，它是由第五条、第六条等所框定的、与互联网信息传播与内容管理有关的AIGC，并且是以《网络安全法》《数据安全法》和《个人信息保护法》为依据的、对涉及到生成型人工智能向公众提供提供聊天和文本、图像、声音生成等服务予以规范，在此范围之外的并不是这一部门规章所规范的对象。值得注意的是，第二条规定AIGC“面向中华人民共和国境内公众提供服务的，适用本办法”，与《数据安全法》第二条有异曲同工之妙，即服务提供者无论在中国境内还是中国境外，只要是面向中国境内公众提供服务，就要受到这一部门规章的管辖。

02

重点条款有待完善立法或优化执法

基于上述基本分析，对AIGC新规的若干重点条款，业内有不少模糊认识和争议，有待立法进一步完善，或者未来通过起草说明给业界更为清晰的指引。

第一，AIGC新规所规范的服务，特指聊天和文本、图像、声音生成等服务。

AIGC新规对生成型人工智能做了定义，即“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。

AIGC新规第五条前半句规定的“利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任”。这一规定实际上明确了规范的对象，并且是三层限定：一是，规范的对象是“服务提供者”，而不是技术提供者或者技术支持者；二是，范规的服务是“提供聊天和文本、图像、声音生成等服务”，而不是其他有形商品，或是打车、外卖、旅游等服务，此处的服务应当是限定在网信部门行政职能范围内的服务；三是服务提供者承担的是“内容生产者”责任，也就是说，规范的重点仍然是“内容生产”而非其他。

但需要注意的是，各种类型的商品、服务也都可能涉及内容生产，那么是不是也就意味着服务范围的泛化？答案应当是否定的。首先应限定所规范的服务的范围，即四种服务：聊天、文本、图像和声音生成，而不应包括其他服务。从逻辑上来讲，在限定了服务的类型后，利用AIGC承担内容生产者的责任，才落到了新规的适用范围之内。

第二，AIGC新规所规范的服务，特指向社会公众提供的服务。

AIGC新规第六条规定，要履行安全评估和算法备案手续的是“向社会会公众提供服务”，这也是规范重点。即新规所规范的服务特指的是“面向社会公众的服务”，因此，如果是非面向公众的，也就是不是公开的，非To C（消费者）的、其他种类的服务，包括To B（企业）和To G（政府）等，不是新规所适用的范围。

AIGC的革新性不仅仅在于聊天以及提供文字、图片和视频的生成型服务，而更会是与具体领域、具体行业的深入结合，比如在代码生成等领域发展潜力巨大。从技术的进展来看，未来会形成多个GPT技术的公司，并且通过开源的形式实现在多个领域的应用。比如在医疗健康领域，将显著压缩创新药品研发的周期，并大幅降低研发成本；在自动驾驶领域，合成数据可以自动创建、生成现实世界中难以或无法采集的数据场景，提高模型算法的准确性、可靠性；其他诸如在制造业升级、金融风险防范等各个领域也都将带来革新性的变化。从这一角度而言，AIGC给信息传播带来的变化只是目前公众能一般性了解的领域，而它对整个现实世界的改造和提升所带来的益处，将远远大于其可能产生的危害。

因此，从AIGC新规的本意来看，绝不是因为信息传播中可能存在一些内容虚假、个人信息保护缺失等问题，就要对AIGC进行限制乃至禁止，而是通过守住信息传播和内容管理的底线，为AIGC在各个行业的广泛纵深应用创造更为宽松的环境，从而为全面提升中国一二三产业，及各行业发展水平奠定坚实的技术基础。而且，AIGC对落实党的十八届四中全会精神，对提升国家治理体系和能力的现代化，打造数字政府，提升数据应用能力等方面，都将发挥不可替代的重要作用。如何将AIGC应用于政府管理的方方面面，全面提升政府数字化、智能化水平，也不是AIGC新规所限制的方向，恰恰相反，相信在政府数字化转型、进一步完善数字政府和数字中国建设的规划中，将看到更多鼓励AIGC应用的表述。

第三，AIGC新规所要求的安全评估，是针对具有舆论属性或社会动员能力的信息服务。

就立法技术而言，此规定的表述方法还可以更为完善。根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（下称《安全评估规定》），具有舆论属性或社会动员能力的服务要申报安全评估，那么不具有舆论属性或社会动员能力的就不需要申报安全评估；此外，根据《互联网信息服务算法推荐管理规定》（下称《算法管理规定》），涉及到算法的要履行算法备案相关手续。

目前，新规第六条为，“利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”。按照这一表述，人们会以为所有运用AIGC技术向公众提供服务都要完成安全评估和算法备案。而《安全评估规定》规定涉及具有舆论属性或者社会动员能力的主要是指“论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能”，其他不具有舆论属性或者社会动员能力的服务，则不需要进行安全评估。

所以，这一条款分为两项分别表述，可能更为科学：“利用生成式人工智能产品向公众提供服务，且具有舆论属性或社会动员能力的，应当事先按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估。利用生成式人工智能产品向公众提供服务的，还应当照《互联网信息服务算法推荐管理规定》履行算法备案相关手续”。

第四，AIGC新规与之前网信部门以及其他部门的规章之间，是并列且协调的关系。

一是网信部门自己的部门规章之间，AIGC新规与之前的比如《互联网信息服务管理办法》《算法管理规定》《互联网信息服务深度合成管理规定》之间的关系不是替代、重叠的关系，而是并列且协调的关系。现代技术及其应用层出不穷、日新月异，算法推荐、深度合成与AIGC在很大程度上会合并在一起使用，但也有很多单独发挥作用的场景，各自的立法和监管目的不同，监管侧重点与方法也有不同。因此，不存在AIGC新规替代之前规章或者与其他规章冲突的问题。对之前规章已经做出规定，新规也都明确，要依据已生效规章的规定来执行。

二是AIGC新规与其他部门的部门规章之间的关系，也是根据行政机关的组织法来确定的，即各自监管各自的专业领域。如前文所述，此次AIGC新规主要是对向公众提供服务的聊天、文字、图片和声音等服务进行规范，并不直接涉及自动驾驶、网约车、外卖甚至商品交易等服务。在这些领域里AIGC所造成的风险还有待进一步评估，并且按照现代风险规制原理来进行分类分级监管，以确保AIGC技术在几乎所有领域的科学合理应用。在这一点上，如何理解网信部门和其他各部门之间的关系，同其他互联网技术应用是相同的，即各部门对互联网技术在各领域的应用承担主管责任，对具有跨部门跨领域的、带有综合性质的问题，由网信部门承担综合协调职能。

也正因此，在未来，对AIGC在内的一些突破性技术研发和应用，可望通过全国人大及其常委会制定法律，或者至少通过国务院的行政法规，在更高层面上做出更为全面和更为纵深的规定。

第五，AIGC新规中所涉及的安全评估等行政执法的具体实施，应当更加高效便捷。

AIGC新规延续了网信部门实施监管的一贯思路，即在产业发展与安全兼顾的指导思路下的监管。因此，新规第一条就明确立法的目的是“为促进生成式人工智能健康发展和规范应用”。也就是说，新规设定了多种监管方法的目的也是为了更好地保障技术与行业的健康发展和规范应用。

经过梳理，AIGC新规并没有创设新的行政执法手段，都还是依据之前的部门规章要求，比如安全评估、算法备案等，但是对服务提供者的义务有多条规定，并以第二十条的规定强调，要根据《网络安全法》《数据安全法》和《个人信息保护法》等相关法律来予以行政处罚，处罚方法也并非新设。

从实践来看，安全评估一般的时限都在6个月以上，可能对市场主体造成明显影响。需要看到，当下AIGC的发展以“月”为单位在突飞猛进，既往的执法手段可能无法完全适应技术发展的进程。那么，在AIGC领域，上述执法方式应当与网信其他领域的执法有所不同，以避免增加不必要的监管成本，应当为技术的开发和应用提供更加快速便捷和合理和监管“绿色通道”。比如，以动态安全的理念来理解安全评估，相信技术的问题也可以通过技术的迭代和发展来解决；再如，可以进一步加速安全评估的流程，限定在一个月内甚至两周内完成主要的评估指标等。这既可以在AIGC新规中有所规定，也可以从优化营商环境、为科技研发提供法律支持的角度，通过相关执法指导意见等来实现更高效的监管。

第六，如果AIGC技术提供者的合规义务过重，可能抑制创新。

如前文所述，即使AIGC新规的适用范围限定在一定服务领域内，目前要求服务提供者承担各项义务可能仍需斟酌。比如，提供API接口等AIGC接入服务的技术支持者也要为内容生成承担责任。事实上，提供AIGC功能而不实际参与制作、复制、发布相关生成内容的主体，并没有能力控制服务使用者生成的内容。

规定合规义务的原则应是，一符合立法法中对规章不得减损公民、法人和社会组织的权利，亦不得增设其义务的规定；二是不应加大对技术研发主体，即技术支持者或者提供者的责任，否则可能大大抑制产业创新的意愿。基于这一原则，是否应要求技术提供者履行个人信息保护责任同样值得探讨。此外，要求用户提供真实身份信息，可能也会限缩用户的使用范围。

在全球技术竞争白热化的背景下，AIGC新规的部分规定要避免影响中国市场主体投入的积极性，以及延缓技术研发进度。未来，在AIGC新规的完善过程中，建议应考虑为技术提供者设定更为科学可行的合规义务，提出符合技术发展现状的监管要求，将技术提供者与技术应用者的法律角色和法律责任予以区分。