关注 | 给生成式人工智能“带上紧箍圈”
关注 | 给生成式人工智能“带上紧箍圈”
▋关注
该办法体现了国家对于AIGC坚持发展和安全并重、促进创新和依法治理相结合的原则，对以往的政策内容进行了很好的衔接和补充，推动了人工智能治理体系的完善，也为推动AIGC在规范中开展技术创新和应用赋能提供了指引。
原文：推进生成式人工智能规范发展
作者 | 之江实验室人工智能研究院 裴冠雄
图片 |网络
生成式人工智能（AIGC）技术的快速发展和应用，使得新业态、新场景、新模式不断涌现，但也给原有社会生态带来了潜在的风险和挑战。在此背景下，国家网信办联合七部门出台了《生成式人工智能服务管理暂行办法》（以下简称“办法”），并自2023年8月15日起施行。该办法具有精准性、前瞻性和引领性三个重要鲜明特征，旨在促进生成式人工智能健康发展和规范应用，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。
该办法强调治理的精准性，将包容审慎的理念和分类监管的手段有机结合。首先，《办法》根据“是否向境内公众提供生成式人工智能服务”厘清了适用范围，行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用该办法的规定。这就为科技研发、企业内部应用、组织内部效率工具开发等提供了相对包容的环境，实质是鼓励AIGC技术的快速迭代创新。其次，该办法根据所属行业做了分类监管的要求，比如“国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定”，并要求对网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等加强监管，这有助于合理利用现有监管资源，同时提升监管效率。可以预见，未来在相关重点行业将会出台办法的实施细则或补充规定。最后，该办法依据风险程度区分了应用场景，对于可能产生高风险的领域，特别是具有舆论属性或者社会动员能力的生成式人工智能服务的提供者，需要按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
该办法强调风控的前瞻性，覆盖技术流程全链路和生成内容全方位的风险点。《办法》对AIGC提供服务所依托的技术流程做了明确规定，包括数据和基础模型来源的合法性、数据标注、预训练、模型微调、应用运行、模型优化等全生命周期。此外，《办法》对AIGC服务生成内容做了全面规范，禁止涉黄，涉恐，涉暴以及涉及歧视，编造虚假信息，损害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益等。综上所述，该办法对可预见的技术风险做了流程全链路、内容全方位的规范，为AIGC研发和产业的健康发展提供了护栏和指南。但是AIGC技术本身存在一定的不透明、不可解释性，且训练用的数据审核和标注本身存在海量异构、主观性强、质量层次不齐等问题，因此数据提供者、AIGC开发者和服务提供者等全产业价值链应该加强协同配合，明确主体责任和连带责任，多方共建合规体系及风险管理框架。
该办法强调发展的引领性，在健康规范的轨道上予以积极支持。《办法》明确了国家对于促进AIGC技术发展的积极态度，一是鼓励创新应用，在各行业、各领域生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系；二是鼓励多方协作，支持行业组织、企业、教育和科研机构等不同主体在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面合作共建；三是鼓励自主创新，在算法、框架、芯片及配套软件平台等基础技术方面加大研发力度，并参与相关国际规则制定，这有助于在人工智能全球治理版图中融入中国方案和智慧；四是鼓励资源建设，包括算力基础设施、公共训练数据资源平台等，这有助于形成资源集聚优势和先发优势，并降低全社会AIGC的整体研发和应用成本。此外，《办法》两次提及了芯片，表明了国家对卡脖子关键科学问题突破的重视。
总体而言，该办法体现了国家对于AIGC坚持发展和安全并重、促进创新和依法治理相结合的原则，对以往的政策内容进行了很好的衔接和补充，推动了人工智能治理体系的完善，也为推动AIGC在规范中开展技术创新和应用赋能提供了指引。此外，《办法》为AIGC发展注入了强心剂，有助于打消科学研发投入、人工智能基础设施和大科学装置建设、产业资金注入等方面存在的顾虑，激发资本市场和民间力量共同参与技术研发和成果转化的热情。可以预见，《办法》为AIGC提供了规范遵循和发展机遇，为我国在通用人工智能制度比较优势方面奠定基础，为新技术与应用深度融合并逐步走进千行百业、千家万户提供了可能，将会引领生产力、生产关系的创新变革，促进智能化、数字化社会效能的整体跃升。
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1868期第4版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：宋献琪
拓展阅读
关注 | 以本土知识传承，延续活态遗产的生命力
国家治理 | 以法治化解生成式人工智能风险