OpenAI推出图像检测新工具！可检测DALL·E 3生成图像，准确率达98%

智东西

编译 | 长颈鹿

编辑 | 李水青

智东西5月8日消息，5月7日，OpenAI宣布推出一个面向文生图模型DALL·E 3的图像检测分类器，该工具能帮助用户识别AI工具生成的内容。据内部测试，该工具识别DALL·E 3生成图片的准确率达到了98%。

此外，OpenAI称为了应对图片内容是否真实的挑战，公司希望与业界各方机构一起采用、开发和推广开放标准。据悉，OpenAI昨日开放了图像检测分类器的API，希望通过技术共享来提升数字内容的真实性和完整性。

5月7日，OpenAI宣布加入C2PA（内容来源和真实性联盟）指导委员会。C2PA是一个开放数据标准，其元数据（Metadata）可用以追踪数字内容的初始来源。同日，OpenAI和微软宣布推出200万美元的“社会韧性基金（Societal Resilience Fund）”，用于推动人们对AI技术的认知。

一、OpenAI加入数字内容认证机构，助力鉴别AI生成内容

OpenAI在5月7日加入了C2PA指导委员会，由多家机构共同开发的C2PA是一个被广泛使用的数字内容认证标准。这个标准可以协助用户确认内容的来源，即鉴别一张图是直接由相机拍摄的照片，还是通过像DALL·E 3这样的文生图工具创作的作品。

▲添加了C2PA元数据的DALL·E 3

今年2月7日，OpenAI在ChatGPT和OpenAI API中为DALL·E 3创建的图像嵌入了C2PA元数据。据悉，OpenAI即将推出的视频生成模型Sora也将集成C2PA元数据。

OpenAI称用户无法轻易伪造或修改C2PA元数据。无论内容被如何传播和使用，其元数据都将保持不变，C2PA等标准能够提供关于内容来源和真实性的可靠信息。

OpenAI和微软于5月7日共同设立了一个资金规模为200万美元的基金，这个基金的目的是加强人们对AI的理解，以及推动人们理解和接受数字来源标准。这个基金支持的组织包括美国退休人员协会（AARP）、国际IDEA联盟，以及相关的AI合作伙伴。

OpenAI称实现内容真实性需要全行业的共同努力。平台、内容创作者和处理者需协作保留元数据，以确保内容来源的清晰，从而建立更真实的数字生态系统。

二、OpenAI自研图像检测工具，准确率约达98%

为了增强数字内容的完整性，OpenAI在推广C2PA认证标准的同时还在自研一款图像检测分类器。该工具有助于抵制删除或篡改内容真实来源的行为。

图像检测分类器可以识别出压缩、裁剪、更改饱和度/颜色、去除水印等常规图片操作。OpenAI称，图像检测器在内部测试中，能正确识别约98%由DALL·E 3生成的图像，有约0.5%的概率会将非AI生成的图像误判为AI生成。但其在区分DALL·E 3生成图像和其他AI模型生成图像方面性能较低，约有5-10%的误判。

OpenAI的图像检测分类器现已向AI实验室和AI初创公司开放申请，公司希望通过业内集体协作共同完善图像检测技术。

OpenAI还在其语音模型Voice Engine中引入了音频水印技术，目前处于产品预览阶段。

结语：AI强企斥资普及AI知识，发展可识别数字生态

OpenAI正积极参与构建一个标准化、可信赖的数字内容生态系统。其不仅加入C2PA指导委员会并集成C2PA元数据于DALL·E 3中，还正自研图像检测分类器。

OpenAI与微软共同推出的“社会韧性基金”进一步凸显了OpenAI对于普及AI知识、提升公众对AI技术认知的承诺。

OpenAI的这些努力将使AI生成内容向更规范、透明的方向发展。我们也希望有更多AI企业间技术共享、开放合作的行为来构建一个更加真实和可信的数字世界。

来源：OpenAI