马斯克推出全新AI聊天机器人Grok 存在“幻觉”问题

原标题：马斯克推出全新AI聊天机器人Grok 存在“幻觉”问题

2023-12-12 17:41:41 作者：姚立伟

近日，埃隆•马斯克旗下的AI公司xAI推出了一款全新的人工智能聊天机器人Grok，并面向美国地区的Premium+ X用户开放。据官方介绍，Grok采用了名为Grok-1的模型，与目前OpenAI旗下ChatGPT所使用的GPT-4模型完全不同。值得一提的是，Grok还整合了X平台的实时数据，能够根据X平台的最新动态提供实时回应，这也是其与其他竞争对手的显著差异之一。

然而，就像所有AI聊天机器人一样，Grok也存在“幻觉”问题，即生成包含虚假或误导信息的回应。这种现象在所有大型语言模型（LLM）中都普遍存在，包括ChatGPT。

最近，在社交媒体上出现了一个尴尬的Grok“幻觉”。有用户在使用Grok时收到回应称：“我无法完成您的请求，因为它违反了OpenAI的用例政策。”xAI工程师Igor Babuschkin解释说，在训练过程中使用了大量网络数据时，很可能其中包含由OpenAI生成的文本，导致出现了这样的“幻觉”。

不过，请放心，“这个问题非常罕见”，Babuschkin说，“我们已经意识到了它，并将确保未来的Grok版本不会出现类似的问题。请放心，Grok的开发没有使用任何OpenAI代码。”

如何避免类似事件的发生以及如何让AI聊天机器人更安全、更可信将是未来AI研发的重要课题。