《生成式人工智能服务管理暂行办法》的公布本着促进创新和依法治理相结合的原则,引导我国构建生成式人工智能安全治理环境,强化产业链各方责任主体,搭建多层次立体治理结构,为相关管理工作的开展明确了方向。同时,鼓励生成式人工智能在创新技术等领域的发展及应用,推动生成式人工智能技术更好的服务经济高质量发展。
为了促进生成式人工智能健康发展的重要要求,防范生成式人工智能服务风险的现实需要,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局七部门发布《生成式人工智能服务管理暂行办法》(以下简称《办法》)。《办法》由国家互联网信息办公室第12次室务会会议审议通过,自8月15日起正式施行。
《办法》对生成式人工智能的界限做出了明确规定,利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务均适用于《办法》。《办法》提出,对生成式人工智能服务实行包容审慎和分类分级监管。提供和使用生成式人工智能服务应遵循法律法规,坚持社会主义核心价值观,避免民族、信仰、国别、地域等歧视,应尊重知识产权与商业道德,尊重他人合法权益等要求。
在监督检查和法律责任方面,《办法》要求,国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用,完善与创新发展相适应的科学监管方式,制定相应的分类分级监管规则或者指引。对来源于境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的,国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置。
国家网信办有关负责人就《办法》相关问题回答记者提问时表示,制定《办法》是落实《网络安全法》、《数据安全法》、《个人信息保护法》、《科学技术进步法》有关规定的重要要求,进一步规范数据处理等活动,维护国家安全和社会公共利益,保护公民、法人和其他组织的合法权益。
此外,《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用;支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等开展协作;鼓励生成式人工智能算法、框架、芯片及配套软件平台等基础技术的自主创新,平等互利开展国际交流与合作,参与生成式人工智能相关国际规则制定。《办法》提出推动生成式人工智能基础设施和公共训练数据资源平台建设,促进算力资源协同共享,提升算力资源利用效能等。
与往年相比,ChatGPT发布GPT-4无疑引爆了人工智能领域中生成式人工智能这一话题的热度。2022年之前,我国的人工智能技术更多的集中在“分析式”人工智能,2022年以来,伴随着互联网行业的创新发展,人工智能技术的应用逐渐从“理解分析”朝着“内容创造”方向发展,2023年也被称之为AIGC元年。生成式人工智能(AIGC)作为一种专注于生成文本、图像或声音等新内容的人工智能应用,影响和改变着人们信息获取和内容产出的方式,进一步解放生产力。
AIGC或将颠覆传统的内容生产方式,与区块链和元宇宙等协同发展。在Web1.0时期,互联网的内容主要来自于专业的内容生产者,如典型的信息门户网站,这一内容生产形式为PGC;在Web2.0时期,伴随着步入移动互联网和社交媒体时代,内容生产者逐渐多元化起来,用户成为内容生产和发布的主体,这一时期的内容生产形式为UGC;在Web3.0形态中,内容的生产者包含了人工智能,其低成本、高效率的特点催生着区块链和元宇宙等概念的持续发展。
我国的生成式人工智能相较于欧美国家处于一个较为早期的发展阶段。按类型来看,模型基础设施领域的主要玩家包括腾讯、百度、华为、阿里巴巴等企业;在文字生成领域催生了澜舟科技、秘塔科技等一批企业;在音频生成领域,有科大讯飞、思必驰、云知声等公司;图像生成领域包含来画、相芯科技等。
在创投方面,众多初创企业的涌入获得了投资机构的高关注度。自2023年上半年以来,据不完全统计,AIGC领域的投融资事件超20起,主要投资阶段集中在C轮以前,地域主要分布在北京、上海、江苏和浙江。从创业者角度看,其中不乏李开复、王慧文、王小川等连续创业者。从投资方来看,汇聚了红杉资本、腾讯投资、源码资本、百度风投等众多资方。
伴随着生成式人工智能的广泛应用和赛道热度的不断升温,随之而来的是广大用户对信息安全与数据安全等一系列问题的严重关切。首先,人工智能需要海量的数据训练学习,在模型算法深入挖掘数据价值的同时,被攻击、修改、窃取的风险也相应提升。其次,庞大数据需求也催生了数据非法获取、数据泄露、恶意滥用等数据安全问题。此外,在知识产权方面,生成式人工智能在训练阶段与应用阶段均有可能导致无法忽视的侵权问题。
各国对于生成式人工智能的合规问题正在加以重视并推动相关措施出台,加速人工智能领域的合规制度迭代已是全球多国共识。4月11日,美国商务部就ChatGPT等相关工具问责措施正式公开征求意见,包括具有潜在风险的新型人工智能模型在发布前是否应该进行核准认证程序。我国在个人信息保护与数据安全立法领域已走在了前列。
构建经济、便利、良好的生态治理是凝聚各方力量共同促进生成式人工智能行业健康发展的必要前提。《办法》的出台明确生成式人工智能服务的安全要求,聚焦生成式人工智能的内容安全,引导服务向上向善,聚焦用户权益保护,保障服务合法合规。监管当下,生成式人工智能领域的服务提供者应当承担网络信息内容生产者责任,履行网络信息安全义务,应当对使用者的输入信息和使用记录应当依法履行保护义务。