当前位置:首页|资讯|OpenAI|ChatGPT|DALL·E

准确率高达99%!OpenAI CFO:正开发一款AI图像检测工具

作者:财联社发布时间:2023-10-18

准确率高达99%!OpenAI CFO:正开发一款AI图像检测工具

财联社10月18日讯(编辑 卞纯)热门聊天机器人ChatGPT和图像生成器DALL-E的开发商OpenAI正在开发一款工具,可以高度准确地检测人工智能(AI)生成的图像。

OpenAI首席技术官(CFO)米拉·穆拉蒂(Mira Murati)周二在一场科技会议上表示,公司正在开发的这款工具在确定图片是否由AI生成时 “99%可靠”。她表示,目前正在对该工具进行内部测试,并计划在未来公开发布,但她没有具体说明时间表。

在这之前,一些用于检测AI生成图像或其它内容的工具已经问世,但它们的准确率却不尽如人意。

例如,OpenAI今年1月发布了一个类似的工具,旨在确定文本是否是由AI生成,但由于准确率不高,该公司7月悄悄下架了这款工具。OpenAI当时表示,正在努力改进该软件,并致力于开发识别音频或图像是否由AI生成的工具。

AI工具在显著提高生产率的同时,也存在一些明显弊端,包括其可能会被用于捏造假新闻。在极端的情况下,这些由AI生成的内容可能会对社会与经济运行造成负面影响。这凸显出,一款值得信赖的AI内容检测工具十分重要。

关于下一代大模型GPT-5

周二,OpenAI CFO还就GPT-4之后的下一代人工智能模型向外界透露了一些信息。虽然OpenAI从未公开表示GPT-4的后续模型可能会被称为什么,但该公司今年7月向美国专利商标局提交了“GPT-5”商标申请,此举暗示下一代模型将以“GPT-5”命名。

类似ChatGPT这样的聊天机器人——使用GPT-4和上一代模型GPT-3.5——存在一个致命缺陷:擅长胡编编造,或者说容易“产生幻觉”。当被问及GPT-5模型是否不再“说谎”时,穆拉蒂给出的答案是:“也许吧。”

“让我们看看。我们已经在GPT-4的幻觉问题上取得了很大的进展,但我们还没有达到我们需要达到的程度,”她称。

关于自研芯片

在同一场会议上,OpenAI首席执行官Sam Altman还谈到了OpenAI可能会自主设计和制造计算机芯片来训练和运行自己的AI模型的可能性,而不是使用目前被视为市场领导者的英伟达等公司提供的芯片。

“默认的做法当然是不这么做,”他表示,“但我永远不会排除这种(自研芯片)可能性。”

本月早些时候,有消息人士透露称, OpenAI正在探索设计自己的AI芯片,并已开始评估一个潜在的收购目标。

(财联社 卞纯)


Copyright © 2024 aigcdaily.cn  北京智识时代科技有限公司  版权所有  京ICP备2023006237号-1