当前位置:首页|资讯|AIGC

首个面向个人用户的AIGC实时检测产品“尊嘟假嘟”开启内测招募

作者:甲小姐甲子光年发布时间:2024-06-21

6月21日,瑞莱智慧(简称:RealAI)举办2024线上产品发布会,推出了全球首个可实时检测AI合成内容产品RealBelieve,中文名“尊嘟假嘟”。与此前国内外AIGC检测产品被动上传检测不同,该产品面向终端用户,能够提供主动实时检测防护,可接入视频流鉴别人脸真伪,也可在用户浏览网页内容时提供AIGC合成可能性提示,现已启动内测招募。

首个面向个人用户的AIGC实时检测产品“尊嘟假嘟”发布

当前,人工智能的可控性和安全性已成为重要的发展议题。随着人工智能通用性和泛化性大幅提升,其内生及衍生安全问题也变得愈加复杂,带来的挑战和已经引起的各类风险事件也持续引起公众、企业和政府的关注,其中AI诈骗等AI技术恶用、滥用行为已成为全球范围内最为严峻的挑战之一。

根据公开报道数据整理,近年来,我国AI诈骗案件数量及涉案金额均呈现指数级增长。2023年,我国被公开报道的AI诈骗案涉案金额已达数千万人民币。而2024年初,某全球顶尖工程咨询公司香港分部职员遭遇AI诈骗,仅此一案就已导致该公司受损2亿港币。

RealAI团队早在2018年成立之初,就已开展AI合成检测技术研究和产品研发,先后推出生成式人工智能内容检测平台DeepReal、人脸AI安全防火墙RealGuard等相关产品并持续迭代升级,已服务百余家政务、金融等领域客户。

RealAI此次发布的尊嘟假嘟RealBelieve,不仅可以为终端用户提供文本、图片、视频和音频多种模态的文件上传检测服务,还可以通过浏览器插件的形式实时提示用户所浏览网页的疑似AI合成内容,变被动为主动。

文本、图片、视频和音频多模态文件拖拽上传即可检测

浏览含AIGC合成内容网页实时检测效果

针对AI诈骗这一AI滥用风险日益加剧态势,尊嘟假嘟RealBelieve还可为用户提供视频通话AI合成实时监测防护。在视频通话时,产品会及时给用户发出预警内容,提示视频对方的人脸是否存在AI合成的风险。实时的风险提示可以帮助用户及时调整聊天方式,快速确认对方的身份,减少不必要的损失。

相较被动上传视频的方式,用户无需特地手动录制和上传会议视频,界面使用简单,操作灵活,方便用户随时随地在“AI安全保障”下进行视频通话。

视频通话实时检测效果

RealAI联合创始人、算法科学家萧子豪透露,该产品背后的检测模型基于贝叶斯深度学习技术开发,团队构建了一整套多模态AIGC检测技术体系,能够挖掘并建模多模态、多层次、多角度的AI合成线索,度量真假差异,并进行不确定性推理决策。

目前,尊嘟假嘟RealBelieve已开启内测招募。通过申请后,便能试用上述功能,抢先“系”上AIGC时代的“安全带”。


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1