生成式AI浪潮下AI合规及内容甄别提上日程 这些公司已有布局

近日，海外国家纷纷探讨AI相关的监管问题。3月31日，意大利个人数据保护局宣布，即日起暂时禁止使用聊天机器人ChatGPT，并表示已对ChatGPT背后的OpenAI公司展开调查。4月3日，德国联邦数据保护专员发言人称，出于数据保护方面的考虑，可能会暂时禁止在德国使用ChatGPT。此外，欧盟表示希望对AI生成的内容进行强制性的规定，或要求所有生成式AI内容必须注明来源。

目前，AIGC作为生产力工具，已在内容生成领域释放了价值，而针对AI生成内容的痛点短板仍亟需解决，比如文本生成类应用存在生成内容准确率低、可控性低等问题；图片生成类应用则存在作品版权争议较大、生成内容细节不足等问题。教育领域中，全球多国大学、科研机构发布明确的人工智能禁令，禁止使用ChatGPT和其他所有基于人工智能的工具完成学习与考试任务；多家期刊、出版机构也禁止将ChatGPT列为论文合著者。国内厂商看，包括阿里、腾讯、百度、华为、360等均在加码布局大模型产品。分析师认为，随着生成式AI技术的快速迭代和普及，AI内容广泛流通于行业和市场中，为了区分AI内容和非AI内容，对内容识别技术的需求或将衍生。此外，对于AI内容中充斥着的虚假和不实信息，也需要内容甄别技术进行判定和标识。AI快速发展带来的革命性机会，但新技术发展过程中伴随的合规性、版权、数据隐私等方面问题也亟待行业和监管共同规范，因此AI环境下版权识别、内容甄别的细分应用主线值得关注。

天风证券建议关注：

【人民网】设置建立“AI编辑部”，其中事实核查技术融合人脸识别、语音识别等多项人工智能技术，实现对文字、图片、音频、视频等多种形态信息的审核；人民日报社传播内容认知全国重点实验室、中国科学技术大学、合肥综合性国家科学中心人工智能研究院联合推出国内首个AI生成内容检测工具AIGC-X；

【新华网】旗下新华智云的事实核查机器人，是基于新华智云自主研发的AI算法能实现对视频、音频、图片、文本等内容的统一审核，确保新闻内容的真实准确；

【博汇科技】公司运用人工智能深度学习算法，通过海量专项素材的机器学习，不断优化人脸识别、场景识别、语音识别、文字识别等智能化识别引擎，对各类媒体内容进行多维度分析，精准识别敏感、违规内容，实现对各类传播媒介播放的视听内容进行监管，对媒体中敏感、有害、违规内容的自动化、智能化分析研判。