人工智能与网络辟谣：做真相的守护者

（来源：网信江西）

原标题：人工智能与网络辟谣：做真相的守护者

近日，在中央网信办违法和不良信息举报中心指导下，中国互联网联合辟谣平台推出《澄清谬误、传递真相》系列辟谣访谈，邀请健康、医疗、经济、科技、传媒等行业专家，对常见谣言进行分析，内容涵盖多类社会民生热点话题，帮助广大网民朋友提升识谣辨谣能力、提高网络媒介素养。

本系列第二期访谈——《人工智能与网络辟谣：做真相的守护者》，针对人工智能科技在辟谣工作中的创新应用主要内容，邀请新华网AIGC-Safe平台首席技术专家、中国科学院计算所数字内容合成与伪造检测实验室主任曹娟接受专访，就AI生成信息鉴别、伪造检测系统应用技术等问题，提供专业解答。

有人说“人工智能会威胁人类安全”，您怎么看？

需要多方合作，打出AI安全防护组合拳。

人工智能技术，特别是近期GPT-4等生成式人工智能的爆炸式发展，将带领人类进入人工智能生成内容（AIGC）时代，未来AIGC数据将成为新增数据主流。但技术的快速发展也带来了新的未知安全风险。这些AI安全问题目前尚无定论。我们需要在技术研发、产业应用、制度设计等各方面加强合作，打出AI安全防护的组合拳。

如何检测和鉴别AI生成信息的真实性？

检测和鉴别伪造内容，核心是要回归技术。

当前数字合成内容很多已经超过了人眼的辨识能力，多数人无法靠肉眼判断一段视频、一张照片或一段语音是否来自真人。要检测和鉴别这些伪造内容，核心是要回归技术。我们构建了训练数据自动生成平台作为数据底座，能够快速生成TB级的训练数据，支撑检测技术迭代，同时基于“生成—检测—对抗”的模型自进化流程，构建了十亿量级的多模态生成模型和检测模型底座，在攻防演练中提升检测水平。最后，针对具体应用，通过快速微调实现了多个行业场景高精度的伪造检测服务。

人工智能技术在网络辟谣工作中的应用场景和功能优势有哪些？

能够及时锁定可疑线索，提高针对新型伪造信息的辟谣效率。

以AI生成文本为例，随着ChatGPT类模型服务的普及，自媒体创作者开始使用AI生成文本大批量制作内容。其中，以博眼球、赚流量为目的，利用ChatGPT杜撰虚假新闻的情况越来越多。由于AI生成虚假新闻的文风非常贴近正规报道，因此既有审核能力很难及时发现并开展辟谣。AI生成文本检测技术及时填补了这一缺陷，保障了对这种新型伪造内容的快速有效识别。

人工智能在网络谣言发现、查证工作中的应用面临着哪些风险和挑战？

AI生成的虚假信息越来越多，对审核系统数据计算速度要求越来越高。

目前人工智能在网络谣言发现、查证工作中面临两大挑战。第一，新型伪造技术与传统伪造技术差异较大，造成传统检测模型大范围失效，例如传统检测模型多数无法识别出基于扩散模型生成的人物图像；第二，AI生成技术的普及降低了信息伪造的门槛，需要审核的AIGC数据越来越多，计算速度瓶颈日渐显现。面对这些挑战，关键是要提高检测模型的通用性，通过软硬件协同优化，满足高通量高并发需求。

AIGC技术未来在网络辟谣工作中还有哪些突破点？

基于AIGC技术，未来有望提供更个性化、更易懂的自动化辟谣解释。

辟谣是消除虚假信息中的重要一环，如果人不能理解“为什么假”，就很难消除因虚假信息造成的错误认识。基于AIGC技术，我们有望提供更个性化、更易懂的自动化辟谣解释，这个解释可能是一份造假痕迹的分析报告，也可能是一段符合目标受众认知偏好的辟谣短文。AIGC-Safe将推动“识谣-辟谣”全链条智能化，用AIGC守护AIGC安全，用技术让世界更可信。

来源：中国互联网联合辟谣平台

编辑：张 璐

校对：彭佩雯

审核：吴寒冰