ChatGPT 学会上网不到两个月,OpenAI 就不能忍了。
本周二,OpenAI 突然宣布停止 ChatGPT 的网络浏览功能「使用 Bing 浏览」。
果不其然,关闭的原因是这项功能遭到了滥用。在周一发布的一篇文章中,OpenAI 支持团队人员表示:「我们了解到,ChatGPT Browse 测试版有时会以我们不想要的方式显示内容。」
OpenAI 指出,此前仅供付费用户使用的 ChatGPT Browse with Bing 是一项测试版功能,它允许 ChatGPT 搜索互联网以帮助 AI 从实时信息中获得帮助回答的内容。OpenAI 还发推表示,「非常感谢 ChatGPT Plus 订阅者一直帮助我们测试浏览功能。我们收到了非常有价值的反馈,学到了很多东西,会很快将其重新上线。」
至于关闭联网能力的理由,OpenAI 表示,ChatGPT Plus 订阅者有时会向聊天机器人询问目标网页的全文,而 ChatGPT 会绕过付费墙和隐私设置,以完整文本进行响应。
目前,官方还没有给出功能重新上线的时间表。
今年 2 月,已向 OpenAI 投资超过 130 亿美元的微软将 ChatGPT 集成到了必应搜索及 Edge 浏览器中,引发了全球科技界大模型技术落地的热潮。3 月份,OpenAI 推出了 GPT-4,带来更强的通用化智能水平,并实现了多模态能力,微软在这一领域获得了巨大的先发优势,把 ChatGPT 搬上 Office 全家桶的计划也被放上了日程表。不过随着大量用户免费或付费的测试,一些安全问题正在逐步显现。
为了给大语言模型提供更接近实用化的能力,OpenAI 正在尝试给 ChatGPT 加入各类插件,它们是以安全为核心原则设计的语言模型增强工具,可帮助 ChatGPT 访问最新信息、运行计算或使用第三方服务。目前 ChatGPT 上已有 70 余种插件,可让其联网的 Browsing 就是其中之一。
OpenAI 曾表示,浏览插件的工作范围被限定在可检索信息,但不包括「事务」操作,例如表单提交,因为后者更容易在安全问题上出错。Browsing 使用必应搜索 API 从网络检索内容,因此继承了微软验证信息来源的可靠性的机制,以及防止检索有问题内容的「安全模式」,它在独立的服务中运行,因此浏览活动与 OpenAI 基础设施的其余部分互相分离。
另外,OpenAI 还限制了 AI 引用网络的速率,公布了 IP 端口的范围,避免有人使用 ChatGPT 做爬虫。
OpenAI 为插件系统进行了很多准备,3 月份宣布第三方插件计划,直到 5 月 16 日才正式将浏览功能引入 ChatGPT。然而刚到 7 月初,这项功能就宣告临时关闭。
看起来,目前给出的限制仍不能阻止 AI 对于网络资源的「滥用」。
另外,还有人报告目前的插件系统存在更多漏洞:尽管 OpenAI 禁用了浏览插件,但多个 GPT-4 插件允许用户要求 ChatGPT 聊天机器人读取 URL 和 PDF,并询问有关所提供链接内容的问题。
让用户付费测试,又关掉已有功能的行为也让人难以接受,一位 ChatGPT Plus 用户在 OpenAI 论坛上表示:「OpenAI 似乎正在针对 ChatGPT Plus 的付费用户。」
「这次他们取消了浏览功能,因为它可以读取用户请求的网站内容?讲道理,这就是我为 Plus 付费的原因。」
最后有网友指出,由于对安全问题的谨慎,OpenAI 似乎也在给后来者创造机会。
可能这种小 bug 在谷歌那里,根本算不上个问题?
参考内容:
https://help.openai.com/en/articles/8077698-how-do-i-use-chatgpt-browse-with-bing-to-search-the-web
https://decrypt.co/147300/openai-disables-web-browse-bing-chatgpt
https://openai.com/blog/chatgpt-plugins
https://twitter.com/OpenAI/status/1676072388436594688
本文来自微信公众号“机器之心”(ID:almosthuman2014),编辑:泽南,36氪经授权发布。