您应该向 ChatGPT 寻求医疗建议吗？我们请教了一位专家以及 ChatGPT自己

作者：医道社发布时间：2023-04-03

ChatGPT 以即时生成的、易于理解的答案回答人们问题的惊人能力可能会改变人们寻求医疗建议的游戏规则，但一篇新的医学期刊文章表示，事情并非那么简单。ChatGPT 也是如此。

微软副总裁 Peter Lee 在过去六个月中一直在试验最新版本的 ChatGPT，这是一个人工智能平台，旨在以对话的方式回答用户的问题。

与其他所谓的大型语言模型一样，总部位于旧金山的初创公司 OpenAI 开发的 ChatGPT 是根据互联网、书籍和其他来源的大量数据进行训练的。它使用算法根据单词一起在线出现的频率按顺序生成单词。微软的 Bing 搜索引擎现在使用 ChatGPT。

Lee是一名计算机科学家，在全球范围内负责 Microsoft 研究，他对 ChatGPT 的医学和科学潜力特别感兴趣。

以前：ChatGPT 准备颠覆医疗信息。无论好坏。

他周四在《新英格兰医学杂志》上发表了一篇文章，内容涉及 ChatGPT 在记录医疗笔记、提供诊断可能性、教育临床医生和患者以及分析和总结数据方面的潜在用途。他说，特别值得注意的是界面能够提供同理心的、类似人类的反应。

我们询问了 Lee，他也是即将出版的新书《医学中的 AI 革命：GPT-4 及以后》的合著者，了解他对最近发布的最新版 ChatGPT（现为 ChatGPT-4）的热情和担忧。我们也向 ChatGPT 提出了同样的问题，但由于它的可用性仍然有限，因此回复来自 ChatGPT-3。

微软副总裁 Peter Lee

问题：ChatGPT 是否提供可靠的医疗信息？

李：我个人不会相信那种复杂程度的模型来提供我个人的健康建议或信息，如果医生和护士将其用于医疗决策，我会担心。

ChatGPT：ChatGPT 是一种在海量文本数据（包括医疗信息）上训练的语言模型。但是，请务必注意，ChatGPT 不是医疗专业人士，其回复不应被视为医疗建议。

虽然 ChatGPT 可能会提供有关医学主题的信息，但在做出有关您的健康的任何决定之前，必须与合格的医疗专业人员核实该信息。ChatGPT 还存在提供不准确或过时的医疗信息的风险，这可能是有害的。

问题：ChatGPT 通常会犯哪些错误，为什么？

Lee：GPT 模型通常在信息检索方面非常糟糕。这几乎是设计使然，因为 GPT 模型不想反省他们的训练数据。如果你要求它提供特定的来源，比如对一篇论文的引用，它无法恢复确切的来源，所以它会编造一些东西，它会“产生幻觉”。

ChatGPT：ChatGPT 可能会犯错误，例如提供不相关或不正确的响应、重复自身或产生与对话上下文不一致的响应。

之所以会出现这些错误，是因为 ChatGPT 是根据大量文本数据进行训练的，包括未经验证和可能存在偏见的信息，这可能会导致信息不正确或过时。

此外，ChatGPT 的响应可能会受到其接收到的输入质量的影响，这可能会导致不相关或偏离主题的响应。

问题：ChatGPT-4 比 ChatGPT-3 好在哪里？

李：我们达到了不同的智力水平。最基本的是你拥有这个具有很多认知能力的人工智能模型，并且你有一个聊天界面。最终与之互动非常自然。

ChatGPT：期望在规模、准确性、多语言能力、上下文理解和一致性等方面有所改进是合理的。

Getty images

问题：ChatGPT 有时听起来像真人。ChatGPT 是否具有“心理理论”，即想象他人心理状态的能力？

李：这不可能。这是一台机器。但是您可以询问 GPT-4 患者描述的（在特定情况下）的想法和感受是什么。它能够评估那种心态。...它转化为对患者的同理心。

ChatGPT：不，ChatGPT 没有心智理论。

ChatGPT是一种机器学习模型，它使用统计模式和算法来生成对自然语言输入的响应。它没有意识、情感或信仰，也不具备理解或推断人类用户心理状态的能力。

虽然ChatGPT能够产生可能具有同理心、参与性和对话性的响应，但它不具备心智理论，而心智理论是人类认知和社会互动的一个重要方面。

问题：ChatGPT 应该用于医学吗？

李：社会可以做出选择。我们可以尝试放慢或关闭这项技术，因为我们不完全了解其中的风险。第二个论点更宿命论，说：“这是不可阻挡的，我们不妨试一试。”第三个选择，我认为是唯一合理的，但必须有意识地做出，是认真思考如何将这项技术融入我们的生活，以便我们能够完成人类或人工智能单独无法完成的事情.我希望医学界和公众会选择第三种选择。

ChatGPT：ChatGPT 不应完全依赖于医疗建议或诊断。虽然 ChatGPT 可能能够提供有关医学主题的信息，但它不是医学专业人士，其回复应仅供参考。

但是，ChatGPT 可以成为帮助您全面了解医学概念和术语的工具。在任何情况下，都必须与合格的医疗专业人员核实 ChatGPT 提供的任何信息，以确保其准确且适用于您的情况。