当前位置:首页|资讯|百度|AIGC|人工智能|AIGC政策

百度阿里等蜂拥“AIGC”!国内首份AIGC监管文件拟出炉释放哪些信息

作者:时间财经发布时间:2023-04-13

我国生成式人工智能(AIGC)产业将迎来首份监管文件,释放哪些信息?

4月11日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。《管理办法》共21条,对生成式人工智能产业给出较为详尽的规定,从生成式人工智能的定义,服务商的准入,到提供内容的真实性、责任主体、训练数据的安全性等问题皆在其中。

《管理办法》明确,生成式人工智能,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是,对生成式人工智能的定义中不仅包含文字,目前常见的“文生图”、“文生视频”等也将被纳入管理。

管理范围则是,研发、利用生成式人工智能产品,面向中华人民共和国境内公众提供服务的服务商。

一段时间以来,生成式人工智能成为人们持续关注的焦点,从ChatGPT到文心一言,再到GPT-4和各类生成式人工智能,生成式人工智能被认为是降本增效的重要载体。

随着ChatGPT火爆市场,大众对生成式人工智能技术的认知程度不断提升,激发市场需求的同时,也加速了相关企业布局。目前,包括百度、腾讯、阿里、华为、京东、360等多家国内科技巨头均已宣布在生成式AI产业有相应布局。

人工智能通用大模型横空出世,全世界看到了AIGC的强大的同时,AIGC的可信度、隐私保护、产权等问题亦引发空前争议。以隐私安全问题为例,据英国广播公司(BBC)报道,当地时间3月22日,ChatGPT的开发公司OpenAI创始人山姆·阿尔特曼在推特发文称,该AI的一个故障让一些用户能够看到其他用户对话历史记录的标题。

在技术滥用问题方面,生成的内容开始变得真伪莫测,治理难度随之升级,这也成为目前以ChatGPT为代表的AIGC被诟病的问题。例如今年2月,有人用ChatGPT写了一条“杭州市政府将取消机动车尾号限行政策”的假新闻,让不少人信以为真。此外,生成式人工智能在输出内容的过程中,其输出的内容很有可能造成专利侵权、商标侵权、版权侵权、未经许可使用软件或数据等问题。同时,生成式人工智能所产生的内容是否具有著作权,也成为有争议的问题。

《管理办法》集中瞄准相关问题,从明确条件要求、划定责任主体、形成问题处理机制、清晰法律责任几个方面为行业划定底线。首先,隐私、数据安全方面,《管理办法》规定,生成式人工智能提供者需“承担该产品生成内容生产者的责任;涉及个人信息的,承担个人信息处理者的法定责任,履行个人信息保护义务。”

其次,在与技术滥用问题相关的虚假信息管理和他人权益问题上,《管理办法》提出“利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息。尊重他人合法利益,防止伤害他人身心健康,损害肖像权、名誉权和个人隐私,侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。”

同时,《管理办法》也作出初步规定,包括生成式人工智能的训练“不含有侵犯知识产权的内容”“数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形”等。

同时,生成式人工智能提供者需要建立侵权投诉及保护机制,“及时处置个人关于更正、删除、屏蔽其个人信息的请求;发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密,或者不符合本办法要求时,应当采取措施,停止生成,防止危害持续。”

工信部信息通信经济专家委员会委员盘和林对时间财经表示,这些规则更多是基于国外在生成式AI的一些实践中总结出来的规则经验,诸如数据安全问题,之前意大利暂停ChatGPT在其国内的应用,就是因为担忧ChatGPT会造成新的数据安全问题。

此次,《管理办法》也对一些可能出现的衍生问题,提出防范举措。互联网行业分析师唐欣对时间财经表示,比如在生成的内容上,除了常规的合法合规和社会公序良俗要求,还强调在算法上要避免歧视性内容,确保生成内容的准确,以及尊重知识产权和个人隐私。此外,还包括需要使用者提供真实身份信息,要建立防沉迷机制,对合成内容进行标识等多个亮点内容。

值得关注的是,前述《管理办法》也明确了我国对生成式AI产业的支持和鼓励态度。《管理办法》提出,国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作,鼓励优先采用安全可信的软件、工具、计算和数据资源。

艾媒咨询数据显示,预计2023年中国AIGC行业核心市场规模为79.3亿元,2028年将达2767.4亿元。艾媒咨询调研数据也显示,超七成的受访者认为降本增效是AIGC最主要的应用价值。54.70%的受访用户认为AIGC技术的进步将促进虚拟人产业的发展,48.69%以及45.82%的受访用户认为会促进直播电商行业和游戏行业的发展。

“《管理办法》总体上是为完善生成式AI的应用环境,为生成式AI在国内应用创造条件。另一方面看,当前《管理办法》内容还相对简化,未来依然需要进一步完善相关内容,且需要预防‘一管就死,一放就乱’的情况出现。”盘和林表示。

平安证券研报也称,预计随着更多AIGC技术的应用落地,一些潜在的风险将更多被认识和暴露,监管侧的监管措施也会更“对症”,《管理办法》只是第一步。(时间财经 吴珊)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1