基于解释性证据子图与多源置信度融合的检索增强生成幻觉检测与修复方法及系统与流程

本发明涉及人工智能及自然语言处理，尤其涉及基于解释性证据子图与多源置信度融合的检索增强生成幻觉检测与修复方法及系统。

背景技术：

1、检索增强生成技术通过从外部知识库或语料库中检索与用户查询相关的参考文档，并将检索结果提供给大语言模型生成应答，以增强生成内容的知识依据。然而，由于参考文档检索不充分、实体表达不一致、结构化关系抽取遗漏或错误，以及生成模型出现语义漂移等原因，生成结果仍可能包含与参考文档不一致、缺乏证据支持或者概念混淆的内容。

2、现有幻觉检测方案通常采用语义相似度、文本蕴含关系或者知识图谱推理中的一种方式验证生成内容。单一验证方式难以同时覆盖结构关系、概念语义和原始文本证据，且部分知识图谱构建方法将抽取关系直接作为确定事实，或者直接删除低置信度关系，容易因结构化抽取误差造成错误判定。简单加权融合还可能使某一较高评分掩盖明显的语义偏离，难以准确识别不同证据之间的冲突。

3、此外，现有方案在发现幻觉后通常仅对生成文本进行统一纠正或重新生成，未能根据冲突成因分别处理证据缺失、错误关系、概念偏离及证据不足等情况。若将修复结果直接写入全局知识图谱或逻辑规则库，还可能使单次会话中的抽取误差扩散至其他会话。因此，需要一种能够保留证据不确定性、融合多源验证结果、区分冲突类型并限定修复范围的幻觉检测与修复方案。

技术实现思路

1、针对现有技术存在的不足，本发明的目的在于提供基于解释性证据子图与多源置信度融合的检索增强生成幻觉检测与修复方法及系统，用于克服现有技术中的上述缺陷。

2、为实现上述目的，本发明提供了如下技术方案：

3、基于解释性证据子图与多源置信度融合的检索增强生成幻觉检测与修复方法，包括：

4、证据处理步骤，获取与用户查询相关的参考文档，对参考文档进行预处理和实体归一化，获得文本证据及文档概念集合；

5、子图构建步骤，从文本证据中抽取实体关系并建立解释性证据子图，为各关系边关联抽取置信度和原文来源索引；

6、结构验证步骤，基于预置且保持不变的逻辑规则库确定与生成断言对应的候选路径，根据候选路径内关系边的抽取置信度与规则置信度生成结构支持度；

7、语义验证步骤，计算生成断言中的断言概念与文档概念集合之间的语义相似度，获得语义一致性评分；

8、文本验证步骤，将生成断言转换为自然语言命题，确定文本证据中与自然语言命题对应的文本片段，获得文本支持置信度；

9、融合判定步骤，将语义一致性评分与语义熔断阈值比较，对未触发语义熔断的生成断言融合结构支持度、语义一致性评分和文本支持置信度，获得综合一致性评分；

10、冲突修复步骤，根据综合一致性评分及各分项评分的组合关系确定冲突类型，按照冲突类型更新当前会话的解释性证据子图或调整生成断言。

11、作为优选，所述融合判定步骤包括：先将语义一致性评分与预设语义熔断阈值进行比较；在语义一致性评分低于预设语义熔断阈值时，将综合一致性评分设置为预设最低值，并记录语义冲突类型；在语义一致性评分不低于预设语义熔断阈值时，分别对结构支持度、语义一致性评分和文本支持置信度进行数值平滑处理，将处理后的三类分项评分转换至对数域，按照对应的预设权重进行组合，并将组合结果转换为综合一致性评分。

12、作为优选，所述冲突修复步骤包括：在文本支持置信度高于第一文本阈值且结构支持度低于第一结构阈值时，检查解释性证据子图中是否存在与生成断言对应的关系边；不存在所述关系边时，根据文本片段在当前会话的解释性证据子图中添加对应关系边，存在所述关系边且其抽取置信度低于预设置信度阈值时，根据文本支持置信度调整该关系边的置信度；在文本支持置信度低于第二文本阈值且结构支持度高于第二结构阈值时，对候选路径中的关系边执行降权或剪枝处理；在语义一致性评分低于语义熔断阈值时，从文档概念集合中选择与分布外概念相邻的文档概念替换所述分布外概念；在结构支持度、语义一致性评分和文本支持置信度均低于各自对应阈值时，扩大参考文档的检索范围或生成拒绝回答指令。

13、作为优选，对解释性证据子图执行关系边添加、置信度调整、关系边降权或关系边剪枝时，将对应更新操作的有效范围限定为当前会话周期，并记录更新前的关系边属性、更新后的关系边属性以及更新所依据的文本片段来源索引；所述更新操作不写入逻辑规则库；完成解释性证据子图更新后，重新执行结构验证步骤、语义验证步骤、文本验证步骤和融合判定步骤，获得更新后的综合一致性评分。

14、作为优选，所述证据处理步骤和子图构建步骤包括：对参考文档执行清洗和分段，识别各文本片段中的实体候选，将表达不同但指向同一概念的实体候选映射为标准概念；从完成实体归一化的文本证据中抽取由头实体、关系类型和尾实体组成的关系信息，将头实体和尾实体设置为图节点，将关系类型设置为关系边，并将抽取置信度和对应文本片段的来源索引写入关系边属性；对于抽取置信度低于预设保留阈值的关系边，保留所述关系边并写入低置信度标记。

15、作为优选，所述结构验证步骤包括：从生成断言中确定头实体、断言关系和尾实体，按照逻辑规则库中的关系组合规则，在解释性证据子图中搜索连接头实体和尾实体且关系序列与关系组合规则匹配的候选路径；将候选路径中各关系边的抽取置信度与所匹配关系组合规则的规则置信度相乘，得到对应候选路径的路径强度；对多个候选路径的路径强度按照噪声或逻辑进行聚合，得到结构支持度；在候选路径搜索及路径强度聚合期间，逻辑规则库中的关系组合规则和规则置信度保持不变。

16、作为优选，所述语义验证步骤包括：分别生成断言概念和文档概念的向量表示，计算每一断言概念与文档概念集合中各文档概念之间的语义相似度；采用温度系数对各语义相似度进行缩放和归一化处理，从归一化结果中确定最大概念匹配值，将最大概念匹配值作为对应断言概念的语义一致性评分；将语义一致性评分与预设语义熔断阈值进行比较，并为低于预设语义熔断阈值的断言概念写入分布外概念标记。

17、作为优选，所述文本验证步骤包括：按照断言关系对应的自然语言模板，将包含头实体、断言关系和尾实体的生成断言转换为自然语言命题；根据自然语言命题与文本证据中各文本片段的词项匹配度，选择与自然语言命题对应的文本片段；将所选择的文本片段设置为前提文本，将自然语言命题设置为待验证文本，执行文本蕴含推理，获得文本支持置信度，并建立文本支持置信度、自然语言命题和所选择文本片段的来源索引之间的对应关系。

18、基于解释性证据子图与多源置信度融合的检索增强生成幻觉检测与修复系统，包括：

19、证据处理模块，被配置为获取与用户查询相关的参考文档，对参考文档进行预处理和实体归一化；

20、子图构建模块，被配置为从文本证据中抽取实体关系，建立包含抽取置信度和原文来源索引的解释性证据子图；

21、结构验证模块，被配置为基于保持不变的逻辑规则库确定生成断言对应的候选路径并生成结构支持度；

22、语义验证模块，被配置为根据断言概念与文档概念集合之间的语义相似度生成语义一致性评分；

23、文本验证模块，被配置为将生成断言转换为自然语言命题，并根据对应文本片段生成文本支持置信度；

24、融合判定模块，被配置为执行语义熔断判断，并对未触发语义熔断的三类分项评分进行融合；

25、冲突修复模块，被配置为根据三类分项评分的组合关系更新当前会话的解释性证据子图或调整生成断言。

26、作为优选，还包括规则存储单元和会话子图存储单元；规则存储单元存储逻辑规则库，并向结构验证模块提供关系组合规则及规则置信度；会话子图存储单元按照会话标识存储解释性证据子图、关系边属性及原文来源索引；冲突修复模块将关系边添加、置信度调整、关系边降权或关系边剪枝的结果写入会话子图存储单元，并保持规则存储单元中的逻辑规则库不变；融合判定模块将三类分项评分及综合一致性评分与同一生成断言标识关联，并将冲突类型发送至冲突修复模块。

27、本发明的有益效果：通过构建解释性证据子图，将实体关系、抽取置信度和原文来源索引关联存储，并对低置信度关系边进行保留和标记，使结构验证过程能够利用带有不确定性的证据，减少因直接删除低置信度关系而造成的证据缺失，同时支持对验证依据进行追溯；分别从关系路径结构、概念语义和原始文本蕴含三个维度获得结构支持度、语义一致性评分和文本支持置信度，并通过语义熔断与对数域加权融合生成综合一致性评分，避免较高的结构评分或文本评分掩盖生成断言中的明显语义漂移；根据各分项评分的组合关系确定冲突类型，分别执行关系边添加、置信度调整、关系边降权或剪枝、分布外概念替换、扩大检索范围或者生成拒绝回答指令，使修复操作能够与证据缺失、错误关系、概念偏离及证据不足等不同冲突原因相对应；将证据子图的更新范围限定于当前会话周期，记录更新前后的关系边属性及所依据的原文来源索引，并保持逻辑规则库不变，能够防止单次会话中的抽取误差污染全局规则或影响其他会话；在完成证据子图更新后重新执行结构验证、语义验证、文本验证和融合判定，使检测、修复与再次验证形成闭环，并使更新后的综合一致性评分与当前证据状态相对应。