当前位置:首页|资讯|OpenAI|DALL·E

AI图片检测器出炉,是否以后再也不用担心被AI图片所欺骗了?

作者:非业内报发布时间:2024-05-09

不论是在哪个社交媒体上,我们似乎都能看到越来越多由AI生成的内容。不少用户对此感到十分困扰,搜索结果中的垃圾信息占比以及越来越高,尤其是图片内容。



针对这一问题,OpenAI的CTO在半年前就曾公开表示正在制作一款用来识别AI图片的工具。而在沉寂半年之后,这款工具终于有了最新的进展结果,不少机构受邀体验这一AI图片识别工具。



根据OpenAI官方的宣称,这款AI图片生成器的识别准确率高达99%,能够精准识别出目标图片是否为OpenAI旗下的DALL·E 3(图像生成器)生成。之所以不是100%,是因为任有一些图片会被误判,比如出现了压缩和裁剪的图片。不过,如果是DALL·E 3以外的模型生成的内容,其识别精度会有明显下降,误差率可能会接近10%。



除了AI图片识别器外,OpenAI还在研发另一种用于音频的水印技术。这种水印类似于加密的数字货币那般,有着难以消除印记,可以用来识别由AI生成的音频内容。但显然,伴随着各类大模型的开发,除了图片与音频外,还有越来越多的内容需要进行监测。


由于监管的滞后性,以及AI巨头们为了奋力开发模型而对风险刻意忽视的态度,当前由AI引发的衍生问题越来越严重。自从chatGPT-4问世后,几乎每个月,我们都可以看到OpenAI这家公司深陷舆论漩涡。



OpenAI针对AI生成内容泛滥所采取的措施主要有2个,一个是与其他机构或组织进行合作,强化数值内容的可验证性。另一个则是开发专门的识别技术,用来识别创建内容。希望这些AI巨头们能够真正担负起社会的责任,不要盲目拿人类的未来作为赌注。



Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1