生成式人工智能迎法规
文/本刊记者 李肆
近年来，生成式人工智能技术快速发展，为经济社会发展带来新机遇的同时，也产生了传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题，如何统筹生成式人工智能发展和安全引起各方关注。
为此，国家网信办联合国家发改委、教育部、科技部、工信部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》（下称《办法》）。据国家网信办有关负责人表示：“出台《办法》，既是促进生成式人工智能健康发展的重要要求，也是防范生成式人工智能服务风险的现实需要。”
推动生成式人工智能产业的健康发展
“制定《办法》，是落实《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》有关规定的重要要求，进一步规范数据处理等活动，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益。”公安部部长王小洪表示。
《办法》明确了生成式人工智能服务提供者是指利用生成式人工智能技术提供生成式人工智能服务（包括通过提供可编程接口等方式提供生成式人工智能服务）的组织、个人。生成式人工智能服务使用者，是指使用生成式人工智能服务生成内容的组织、个人。
《办法》规定，利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。同时，《办法》明确提出“不适用”场景，即“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。”
传播内容认知全国重点实验室研究员郭俊波指出，此提法是一个重大突破。这说明《办法》的目的是兼顾生成式人工智能的发展与安全，为其研究与发展留足空间。
“《办法》提出‘不适用’场景，让规制对象目标更明确、针对性更强，体现出中国对生成式人工智能在研究与应用方面的支持和鼓励。”北京大成律师事务所高级合伙人肖飒称。
在肖飒看来，《办法》实施后，将有望大幅扩充人工智能训练数据库，极大促进中国人工智能应用的深度与广度。
上海兰迪律师事务所律师丁学明表示，生成式人工智能技术会涉及多种法律风险，如数据合规、算法歧视、知识产权、内容违规等，《办法》确定了生成式人工智能适用范围，明确了合规要求以及内部规范和外部监管，提出人工智能服务的评估备案，推动生成式人工智能产业的健康发展。
“面对新技术，《办法》的出台不仅仅是规范其发展，更是良性引导和鼓励创新。《办法》在明确行业规范的同时，也进一步促进生成式人工智能应用加速落地。”北京社科院研究员、中国人民大学智能社会治理研究中心研究员王鹏说。
鼓励创新，探索优化应用场景
伴随生成式人工智能的技术迭代，更“聪明”的大模型必将渗透进更多的产业领域和生活场景。国家网信办有关负责人表示，《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。
《办法》明确，生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性。
此外，针对生成式人工智能内容难以分辨，甚至出现技术滥用、误用等问题，《办法》明确服务提供者应当按照《互联网信息服务深度合成管理规定》对相关生成内容进行标识。肖飒对此表示：“目前来看，标识人工生成、深度合成的内容，是成本最低且有望从根本杜绝上述相关问题的方法。”
受此政策影响，百度、阿里巴巴、360等国内大模型头部厂商有望进入发展快车道。360集团创始人周鸿祎表示，《办法》表明了有关部门鼓励创新、支持大模型发展的态度，为科技企业创新提供了信心和保障。
“未来，大模型真正的发展机会就是企业级市场。在产业数字化战略背景下，大模型作为工业革命级的生产力工具，应当帮助传统产业特别是制造业实现数字化转型到智能化升级。从《办法》来看，国家对企业级场景的应用研发和落地整体持大力支持的态度，对科技企业推动大模型在企业级场景的落地有积极意义。”周鸿祎认为。
业内人士普遍认为，随着《办法》落地实施不断深入，大模型行业将走上发展的快车道，国产大模型将充分释放通用能力优势，推动产业加速发展。
《办法》或促使行业迎来应用的爆发
随着人工智能与日常生活场景结合越来越密切，在此基础上产生的隐私泄露、造谣诈骗等问题也不断凸显。对此，《办法》将保护使用者的个人信息安全摆在重要位置。《办法》第九条提出，生成式人工智能服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。
“这将生成式人工智能服务提供者明确纳入网络平台责任的规制范围内，让违规违法者无灰色地带可躲。”肖飒表示。
AIGC行业的境外厂商处于技术领先地位，境外投资者在该领域也更为活跃。《办法》首次原则性明确，对来源于境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。
“如果境外生成式人工智能服务商提供的产品涉及知识产权类侵权、个人信息泄漏，会影响到国家安全和公共安全，需及时有效的监管介入。对于境外服务提供商，更要充分考虑生成式人工智能服务的‘不可知性’、跨境属性与风险特点进行有针对性的管控，有效应对境外服务提供商的法律规避行为。”上海中因律师事务所律师栾靖宣指出。
网易易盾专家提醒道，考虑到目前该领域外商投资的规定尚不明确，建议持续关注相关立法动态，且预计根据未来出台的分类分级监管规则，会适用不同的外商投资限制规定。
关于投诉和举报，《办法》在处罚措施方面较为“柔和”。《办法》第二十一条提出，提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》等法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责予以警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。
“这采用的是逐渐加重的处罚措施，允许服务提供者不断完善修正，而不是简单的‘一棍子打死’。”郭俊波称。他还预计，下一步，监管部门或将针对某些特定领域，如医疗、金融等行业，根据相关行业法规，对其领域的生成式人工智能做出相应规范。
网易易盾安全专家表示，随着《办法》的落实，监管体系逐渐完善，生成式人工智能行业或将迎来应用的爆发。但是，企业在训练数据合规性、生成内容安全准确和可靠性、生成式人工智能服务的透明度等方面的要求，需要企业结合技术与法律力量提出可行性的解决方案，符合监管机构的安全规范要求，共同推进生成式人工智能应用生态发展。