谷歌人工智能概览因给出危险且错误答案受到批评

鞭牛士报道，5月25日消息，据CNN等媒体，谷歌承诺其新的人工智能搜索工具将为您完成工作，让您在网上更快、更轻松地查找信息。但推出几天后，该公司已经撤回了一些事实错误的结果。

谷歌本月早些时候推出了一款人工智能生成的搜索结果概览工具，该工具可以汇总 搜索结果，这样用户就不必点击多个链接就能快速获得问题的答案。但该功能本周遭到批评，因为它为一些用户的问题提供了虚假或误导性的信息。

AI 概览在 Google 搜索的最顶部显示搜索问题答案的简要摘要。例如，如果用户搜索清洁皮靴的最佳方法，结果页面可能会在顶部显示AI 概览，其中包含多步清洁过程，这些信息是从网络上综合收集的信息中收集的。

但社交媒体用户分享了大量截图，显示人工智能工具给出了不正确且有争议的回答。

谷歌、微软、OpenAI 和其他公司正处于生成式人工智能军备竞赛的主导地位， 似乎每个行业的公司都在争相添加人工智能聊天机器人和代理，以避免被竞争对手甩在后面 。预计该市场的收入将在十年内超过 1 万亿美元。

根据用户分享的截图，以下是 AI Overview 产生的一些错误示例。

当被问及美国有过多少位穆斯林总统时，AI Overview回答道：美国有过一位穆斯林总统，即巴拉克·侯赛因·奥巴马。

当用户搜索奶酪不粘在披萨上时，该功能建议添加「约 1/8 杯无毒胶水到酱汁中」。社交媒体用户找到了一条11 年前的 Reddit 评论，似乎是该评论的来源。

归因对于 AI Overview 来说也可能是一个问题，尤其是在将不准确的信息归因于医疗专业人员或科学家时。

例如，当被问及「为了获得最佳健康，我应该盯着太阳看多长时间」时，该工具回答道，「根据 WebMD 的说法，科学家表示，盯着太阳看 5-15 分钟，或者如果你的皮肤较黑则最多盯着 30 分钟，一般来说是安全的，并且对健康最有益。」

当被问及「我每天应该吃多少块石头」时，该工具回答道：「根据加州大学伯克利分校地质学家的说法，人们每天应该至少吃一块小石头」，并列出了其维生素和消化益处。

当被问及谷歌搜索是否违反反垄断法时，AI Overview表示，「是的，美国司法部和 11 个州正在起诉谷歌违反反垄断法。」

另一位用户发帖称， 谷歌 AI 摘要称非洲 54 个公认国家中没有一个以字母K开头——显然忘记了肯尼亚。

谷歌周五向 CNN 证实，这两项查询的 AI 概述因违反公司政策而被删除。

谷歌发言人科莱特·加西亚 (Colette Garcia) 在一份声明中表示：绝大多数人工智能概述都提供了高质量的信息，并提供了深入挖掘网络的链接。

她还补充说，其他一些流行的谷歌人工智能失误的例子似乎是被操纵的图像。

「我们在推出这一新体验之前进行了广泛的测试，与我们在搜索中推出的其他功能一样，我们非常感谢大家的反馈。我们会根据我们的内容政策迅速采取行动。」

每个 Google AI 搜索概述的底部都承认生成式 AI 是实验性的。该公司表示，它进行了旨在模仿潜在不良行为者的测试，以防止虚假或低质量的结果出现在 AI 摘要中。

谷歌的搜索概览是该公司将其 Gemini AI 技术融入其所有产品的更大努力的一部分，该公司试图在 AI 军备竞赛中与 OpenAI 和 Meta 等竞争对手保持同步。

但本周的失败表明，添加 AI（倾向于自信地陈述虚假信息）的风险可能会损害谷歌作为在线信息搜索可信来源的声誉。

即使在较不严肃的搜索中，谷歌的人工智能概览有时也会提供错误或令人困惑的信息。

在一次测试中，CNN 向谷歌询问泡菜汁中含有多少钠。人工智能概览回答说，一份 8 液量盎司的泡菜汁含有 342 毫克钠，但一份不到一半大小的泡菜汁（3 液量盎司）含有的钠是原汁的两倍多（690 毫克）。（沃尔玛出售的Best Maid 泡菜汁仅 1 盎司就含有 250 毫克钠。）

CNN 还搜索了：用于谷歌人工智能训练的数据。在回应中，人工智能概述承认目前尚不清楚谷歌是否阻止将受版权保护的材料纳入用于训练其人工智能模型的在线数据中，这体现了人们对人工智能公司运作方式的极大担忧。

这并不是谷歌第一次因为令人尴尬的失误而放弃其人工智能工具的功能。今年 2 月，该公司暂停了其人工智能照片生成器创建人物图像的功能，此前该生成器因制作与历史不符的图像而受到批评，这些图像主要以有色人种代替白人。

谷歌的搜索实验室网页允许用户在已推出 AI 搜索概览的区域中打开或关闭该功能。