4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》(以下简称“办法”)公开征求意见,引发广泛关注。业内人士对此早有预期,不久前在第十届中国网络视听大会AIGC产业论坛上,重视AIGC的合规性就是热议的话题。
国内首个AIGC监管办法将至
办法提到,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。其中办法涉及的生成式人工智能包括基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
办法对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人(简称“提供者”)的责任进行了规定。提供者应当承担该产品生成内容生产者的责任、个人信息保护义务。利用生成式人工智能产品向公众提供服务前,需按规定向国家网信部门申报安全评估。
此外,提供者需对预训练数据、优化训练数据来源的合法性负责,对标注人员进行必要培训,明确并公开其服务的适用人群、场合、用途,对用户的输入信息和使用记录承担保护义务。
对于生成式人工智能产品,提供者需要按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识等。
意见反馈截止时间为2023年5月10日。
业内早有预期,长期利好行业
对于生成式人工智能迎来监管,业内其实早有预期。
3月31日,第十届中国网络视听大会AIGC产业论坛在成都举行。AIGC行业一线头部企业相关负责人和产学研投相关人士在会上分享了对于行业的认识和思考。不少嘉宾提出,生成式人工智能需要监管,将长期利好行业。
蓝色光标集团旗下蓝色宇宙,围绕虚拟人、虚拟物、虚拟空间三个业务板块构建了IP、产品和服务交织的生态。蓝色光标集团副董事长熊剑重点分享了蓝色光标的AI实践之路。他特别提到,AIGC有各种各样的可能性,但也有各种各样的风险需要评估。如何合规地接入大模型,如何保护知识产权,企业需要相关管理办法作为指导。
腾讯研究院西南平台负责人王平禄也提到,AIGC会带来包括伦理、社会管理、能源消耗等多方面的挑战,需要行业深入探讨。
西部证券近日相关研报则指出,生成型人工智能可能在获取数据时侵犯知识产权,同时其生成内容是否应受版权保护存在一定争议;目前以 ChatGPT为代表的生成型人工智能在数据获取与保存上存在一定法律风险;人工智能生成内容被滥用可能带来巨大的伴生风险。同时该机构预计,出于数据安全、知识产权等原因,生成型人工智能的应用与市场推广可能短期内面临一定限制。
封面新闻记者 杨鑫