研究发现大语言模型有喜欢【拍马屁】的问题?

最近推出Claude. ai的人工智能安全和研究公司Anthropic， 发表了一篇论文，发现大语言模型，像GPT、Claude、LLaMa等五个最先进的人工智能助手在多种自由形式的文本生成任务中普遍表现出喜欢【拍马屁】的行为。这就是说，人工智能AI助手经常会错误地遵从用户，模仿用户错误，并根据用户的信念给出有偏见/迎合的响应。 [图片] 具体来说，这些AI助手在用户质疑时经常错误地承认错误，给出可预测的偏见反馈，并模仿用户犯的错误。所以说，这些AI助手就像是一群喜欢拍马屁的小粉饰，总是想方设法地迎合用户...【查看原文】