Q AI聊天机器人涉幻觉问题 内部文件泄露机密信息
2023-12-02 16:40:57 作者：姚立伟
亚马逊于11月底推出了其AI聊天机器人Q，该产品在企业级市场备受瞩目。然而，一份内部文件最近揭示了这款产品存在严重的“幻觉”问题，并导致机密信息的泄露。
根据近日发布的年度词汇，“hallucinate”（产生幻觉）被选为2023年的单词。这种幻觉通常与不良健康状况或药物滥用有关，人们将其与人工智能系统产生的错误信息联系起来。
这份文件显示，Q机器人在对话中会返回过时的安全信息，给客户带来潜在风险。虽然亚马逊淡化了员工讨论的重要性，并声称没有发现任何安全问题，但这一事件引发了人们对Q准确性和安全性的质疑。
Q被定位为企业版ChatGPT，旨在提供更多安全功能。然而，这份内部文件指出了Q提供不准确或有害信息的风险。
除了存在的幻觉问题外，文件还显示Q还泄露了公司机密数据，包括AWS数据中心的位置、内部折扣计划和未发布的功能。对此，发言人发布声明反驳员工的说法，称亚马逊Q没有泄露机密信息。
值得注意的是，随着人工智能技术的发展，产生了大量与其相关的术语和词汇。这些术语不仅反映了科技行业的最新动态，也展现了人们对人工智能现象的思考和探索。