当前位置:首页|资讯|AIGC

「瑞莱智慧」内测首个AIGC实时检测产品RealBelieve|最前线

作者:黄 楠发布时间:2024-06-21

作者|黄楠

编辑|袁斯来

硬氪获悉,6月21日,瑞莱智慧(以下简称「RealAI」)正式发布AIGC检测产品RealBelieve,中文名“尊嘟假嘟”。

这是全球首个可进行AI合成内容实时检测的产品。与此前采用被动上传检测的检测产品不同,尊嘟假嘟RealBelieve面向终端用户,不仅提供有文件上传检测服务,还可以通过插件的形式、变被动为主动,实时提示页面存在AI合成内容的可能性。

浏览含AIGC合成内容网页实时检测效果

举个例子,当用户进行视频通话时,尊嘟假嘟RealBelieve会及时给用户发出预警内容,提示视频对方的人脸是否存在AI合成的风险,以帮助用户及时调整聊天方式,快速确认对方的身份,减少不必要的损失。

相较被动上传视频的方式,用户无需特地手动录制和上传会议视频,界面使用简单,操作更灵活,方便用户随时随地在AI安全保障下进行视频通话。

视频通话实时检测效果

随着以大模型为代表的AI核心技术取得新突破,AI的广泛应用也给人类社会带来法律法规、道德伦理、社会治理等方面带来新的挑战。除了人像,人们在工作中常见常用的各类文档所产生的图片,也是造假重灾区,如被篡改的资质证书、文案、聊天截图等,常常被用于散播谣言、经济诈骗。

当前,AI诈骗等AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。我国AI诈骗案件数量及涉案金额均呈现指数级增长,仅2023年,我国被公开报道的AI诈骗案涉案金额就达到数千万人民币。

今年年初,某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗,仅此一案就已导致该公司受损2亿港币。

此次「RealAI」发布的尊嘟假嘟RealBelieve,提供了文本、图片、视频和音频等多种模态内容的检测服务。

「RealAI」联合创始人、算法科学家萧子豪透露,该产品背后的检测模型基于贝叶斯深度学习技术开发,团队构建了一整套多模态AIGC检测技术体系,能够挖掘并建模多模态、多层次、多角度的AI合成线索,度量真假差异,并进行不确定性推理决策。

文本、图片、视频和音频多模态文件拖拽上传即可检测

自2018年成立以来,「RealAI」专注AI合成检测技术研究和产品研发,先后推出了AIGC检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品,已服务百余家政务、金融等领域客户。

目前,尊嘟假嘟RealBelieve已开启内测招募。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1