对生成式人工智能，鼓励和监督要双管齐下 | 社会科学报

原标题：对生成式人工智能，鼓励和监督要双管齐下 | 社会科学报

对生成式人工智能，鼓励和监督要双管齐下 | 社会科学报

▋关注

国家网信办联合七部门出台的《生成式人工智能服务管理暂行办法》自2023年8月15日起施行。该办法体现了国家对于生成式人工智能坚持发展和安全并重、促进创新和依法治理相结合的原则，对以往的政策内容进行了很好的衔接和补充，推动了人工智能治理体系的完善，也为推动AIGC在规范中开展技术创新和应用赋能提供了指引。

原文 ：生成式人工智能发展应鼓励与监管并重

作者 | 上海人工智能研究院 王资凯

图片 |网络

随着我国大力推动人工智能技术的发展，必须高度重视可能出现的安全风险挑战，以确保人工智能的安全可控发展，从而提升国家竞争力。为此，国家七部委共同发布的《生成式人工智能服务管理暂行办法》全面规范了生成式人工智能服务的提供和使用，以客观、合理、适度的价值导向为基础，具有前瞻性的预防和约束引导作用。

当前，生成式人工智能技术相关应用越来越多，同时也带来了一系列的安全和隐私风险。此次《办法》的发布，确立了鼓励生成式人工智能创新发展和实施包容审慎、分类分级监管的有效措施。生成式人工智能技术的快速发展为经济社会带来了新的机遇，但也引发了虚假信息传播、个人信息权益侵害、数据安全和偏见歧视等问题。如何统筹生成式人工智能的发展与安全成为各方关注的焦点。《办法》的出台既是促进生成式人工智能健康发展的重要要求，又是为了防范生成式人工智能服务风险的现实需要。《办法》立足于促进生成式人工智能健康发展，提出了具体措施，鼓励创新应用，多方协作，同时鼓励自主创新与国际间的合作及资源共享。从产业应用到内容质量，它以鼓励为导向，适用于各个领域的多线发展。这展现了中国对于生成式人工智能技术全球发展的前瞻性认知，也彰显了中国的雄心壮志。

《办法》的发布为引导生成式人工智能的健康发展提供了政策依据和行动指南，但要实现其效果，需要监管部门和行业共同努力。各相关部门需要在贯彻执行过程中进一步完善相关规定，共同培育安全有序的发展环境，以更好地应对生成式人工智能技术带来的挑战，确保其在推动社会进步的同时，符合法律规范，保障公众利益。《办法》从促进发展和防范风险的角度，构建了相对系统和全面的管理框架。它不仅提出了总体遵循的原则，还从技术研发、数据管理、服务规范等环节制定了重要规定，并增设了监督检查等制度设计，体现了多维度的监管思路。

为明确服务规范，《办法》明确规定了生成式人工智能服务提供者与使用者之间应签订服务协议，明确双方的权利和义务。针对生成式人工智能服务的提供方，《办法》提出了一系列的提供方服务规范，包括保护网络信息安全、防止未成年人沉迷、保护用户个人信息等。同时，《办法》也要求生成式人工智能服务使用方合法使用服务，不得有违法、有害、侵权等行为。

强化生成式人工智能监管手段，要通过制定法律进一步健全生成式人工智能的管理制度，提高透明度和问责性，更好地平衡科技发展和监管需求，为实现科技与社会的共同进步打下坚实的基础。《办法》强调了对生成式人工智能服务内容的监管，生成式人工智能服务提供者要确保提供的内容真实、合法、正当，并采取措施防止虚假信息的传播。生成式人工智能服务提供者需要进行风险评估，并采取必要的安全措施，确保生成式人工智能服务的安全可控。此外，对于特定领域和关键领域的生成式人工智能服务还要进行审查和备案，加强监督管理。同时，也要防止生成式人工智能服务产生的内容对用户权益造成个人隐私权、知识产权等损害。

需要额外注意的是，在监管境外服务方面，《办法》规定了对于从中国境外向中国境内提供生成式人工智能服务的违法违规行为，国家网信部门有权通知相关机构采取技术措施进行处置。这意味着，如果在跨境服务过程中发现违法违规行为，国家网信部门有权通过技术手段采取屏蔽、拦截等处置措施，为国家进一步管理来源于境外的生成式人工智能服务提供了法律依据，以保障国家技术产业和数字经济的和谐发展。

生成式人工智能作为技术发展的全新产物，国内外都在积极探索相关的监管措施。《办法》通过明确监管适用对象和监管红线，以及规范生成式人工智能服务的提供方行为，可以有效维护社会秩序，保护用户权益，推动生成式人工智能服务的健康发展。国家在加速集中资源鼓励科技创新的同时出台相关监管政策，在发展人工智能技术的同时防范可能存在的道德、法律风险，引导生成式人工智能技术向着健康、良性的方向发展，营造安全有序的法治环境。作为人工智能从业者，我们期待更系统化的法律法规出台，完善监管体系，为国家人工智能技术产业与数字经济社会协同创新发展保驾护航。

文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1868期第4版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。

本期责编：宋献琪

拓展阅读

见地 | “Z世代”教育，如何拥抱生成式人工智能？

关注 | 给生成式人工智能“带上紧箍圈”