南京云问申请基于迭代评价算法的大模型幻觉修正方法和装置专利，可修正大模型幻觉

金融界2024年9月30日消息，国家知识产权局信息显示，南京云问网络技术有限公司申请一项名为“一种基于迭代评价算法的大模型幻觉修正方法和装置”的专利，公开号 CN 118709777 A，申请日期为 2024 年 6 月。

专利摘要显示，本发明涉及 AI 大语言模型领域，公开了一种基于迭代评价算法的大模型幻觉修正方法和装置，其技术方案要点是包括如下步骤：S1、响应用户问题，获取用户问题和上下文信息，并检索相关的外部知识；S2、对外部知识进行融合，构造查询 LLM 的提示，并由 LLM 生成候选答案；S3、通过迭代评价算法，对候选答案进行评估，根据预设幻觉评判规则检验候选答案是否产生幻觉；若没有产生幻觉，则将候选答案输出；若产生幻觉，则执行 S4；S4、从候选答案的语句中拆解出存在幻觉的语句，提示 LLM 进行事实概念抽取，并构造事实-知识图谱；S5、提示 LLM 生成问题，并检索生成证据；S6、通过 LLM 根据证据对候选答案进行幻觉修正，对修正后的候选答案执行 S3。

来源：金融界