魔法对抗魔法 OpenAI新工具检测文章是否由ChatGPT撰写
2023-02-02 05:28:45 作者：老王
OpenAI发布了一个工具，帮助你确定文本是由人类还是人工智能写的可能性更大。然而，ChatGPT制造商警告说，它相当于《银翼杀手》中的Voight-Kampff测试，也可能出错。
该工具包括一个方框，你可以粘贴至少1000个字符的文本。然后它将吐出一个裁决，如 "分类器认为该文本非常不可能是人工智能生成的 "或 "分类器认为该文本可能是人工智能生成的"。
我通过提示ChatGPT写一篇关于鸟类迁徙模式的文章来测试它，然后检测工具将其描述为 "可能是AI生成的"。同时，它将几篇由人类撰写的文章评为 "非常不可能是人工智能生成的"。因此，尽管该工具可能会在任何一个方向上引起错误的信号，但我的（很小的样本量）测试表明至少有一定的准确性。不过，OpenAI提醒说，不要单独使用该工具来确定内容的真实性；它对1000字以上的文本也有最佳效果。
这家初创公司在11月发布其ChatGPT工具后面临着来自教育工作者的压力，该工具产生的人工智能编写的内容有时可以冒充人类写作。这种自然语言模型可以在几秒钟内根据简单的文字提示创造出文章--甚至可以通过研究生商业和法律考试--同时为学生提供一个诱人的新作弊机会。因此，纽约公立学校禁止该机器人进入其WiFi网络和学校设备。
虽然ChatGPT的到来是最近的一个热门话题，甚至延伸到了渴望自动化SEO友好文章的媒体机构，但该机器人对OpenAI来说是大生意。据报道，该公司本月初从微软获得了100亿美元的投资，微软计划将其整合到必应和Office 365中。据称，OpenAI去年年底讨论了以290亿美元的估值出售股票，这将使其成为美国最有价值的创业公司之一。
虽然ChatGPT是目前公开的最好的自然语言人工智能模型，但谷歌、百度和其他公司正在研究竞争对手。谷歌的LaMDA有足够的说服力，以至于一位前研究人员去年因声称该聊天机器人有知觉而丢掉了他在该搜索巨头的工作。(人类倾向于将感情和意识投射到算法上，这是我们在未来几年可能会听到的一个概念）。谷歌只在测试版中发布了极其有限的聊天机器人，可能是出于道德方面的考虑。随着精灵从瓶子里出来，看看这种限制能持续多久将很有趣。
