一种面向图检索增强生成的单证据断裂修复方法
本发明属于人工智能与信息检索,具体涉及一种面向图检索增强生成的单证据断裂修复方法,适用于多跳推理问答场景下的检索增强生成系统。
背景技术:
1、检索增强生成(retrieval-augmented generation,rag)通过为大语言模型配备外部知识库,有效缓解参数化记忆难以及时更新的问题,已成为大语言模型应用的重要范式。标准rag依赖基于向量相似度的稠密检索,将文档片段独立打分后选入top-k上下文供大语言模型使用;这种线性排序机制难以建模文档之间的结构化关联关系。在需要跨文档整合信息的多跳推理场景中,证据因而容易碎片化,阻碍连贯推理链的构建。
2、图检索增强生成(graphrag)通过显式建模实体及其关系,显著改善了多跳关联性。代表性方法如hipporag和hipporag2,通过开放信息抽取构建知识图谱,并利用个性化pagerank实现跨文档的多跳关联扩散。另一类方法如ircot和neuropath则将大语言模型配置为自主代理,执行多轮迭代检索与推理。然而,上述方法在严格的检索预算(如top-k限制)下,多跳推理准确性仍存在不足。对graphrag在高召回率设置下的失效模式进行分析发现,即使全局检索近乎完整,单个关键桥接段落的缺失仍会导致整条推理链无法贯通;本发明将该现象称为单证据断裂(single evidence break,seb)。造成seb的主要原因包括以下两类拓扑缺陷:
3、(1)实体覆盖偏差:hub节点垄断检索预算,导致评分较低但具有桥接作用的实体被挤出;
4、(2)缺失桥接实体:关键中间实体在检索过程中被遗漏。
技术实现思路
1、本发明的目的在于提供一种面向图检索增强生成的单证据断裂修复方法,通过三个协同机制,在不显著增加检索预算的前提下,系统性修复上述图检索增强生成方法中因关键桥接实体缺失而导致的推理链断裂问题,从而提升多跳推理问答系统中证据链的完整性与答案准确率。
2、为实现上述目的,本发明采用如下技术方案:
3、一种面向图检索增强生成的单证据断裂修复方法,包括以下步骤:
4、步骤s1、离线知识图谱构建阶段:对文档语料库中的文档段落,利用大语言模型进行开放信息抽取,获得无模式关系三元组,并以此构建包含实体节点、段落节点和关系边的异构知识图谱;利用稠密编码器分别为文档段落、实体和关系三元组生成向量表示,存储于相应的向量库中;
5、步骤s2、在线多轮检索与结构修复阶段:
6、对于给定查询,利用稠密段落检索获得语义相关段落排序,并对知识图谱中的三元组进行语义打分,获得候选三元组;
7、采用主题级覆盖约束对候选三元组进行过滤,所述主题级覆盖约束为:
8、 (1)
9、其中表示从三元组集合中抽取所有唯一主题的函数,表示经语义打分后获得的候选三元组集合,为预设的主题实体覆盖上限阈值;
10、以过滤后的三元组所含实体为种子节点,执行个性化pagerank图扩散,获得初步top-k段落序列;执行证据保护机制,将稠密段落检索中排名第一的文档段落注入段落序列;所述段落序列即为当前轮次的证据集;
11、步骤s3、状态感知门控路由阶段:利用大语言模型作为判断模块评估证据集的闭卷可回答性和拓扑锚点存在性,所述拓扑锚点是指证据集中所包含的、且在知识图谱中存在的实体节点;若不可回答且存在拓扑锚点,则生成桥接查询,所述桥接查询涉及的实体必须与拓扑锚点相交;以桥接查询替代原始查询,触发第二轮检索,将两轮检索结果进行整合;若可回答则直接跳过第二轮检索;
12、步骤s4、问答生成阶段:将所述证据集作为上下文输入大语言模型,生成最终答案。
13、进一步的,所述步骤s1具体为:
14、对语料库中的每个文档段落,利用大语言模型进行命名实体识别,提取唯一实体集合;再基于识别的实体,利用大语言模型进行三元组抽取,获得主语、谓语、宾语形式的关系三元组集合;上述两个阶段均采用多线程并行处理;
15、基于抽取的关系三元组集合构建异构知识图谱:为每个唯一实体短语创建实体节点,为每个文档段落创建段落节点;对于每个三元组,在对应主语实体节点和宾语实体节点之间添加双向关系边,权重随共现次数累加;为每个段落节点与其包含的实体节点之间添加上下文边;利用实体短语的向量表示计算语义相似度,在相似度超过预设阈值的实体节点对之间添加同义边;
16、利用稠密编码器分别生成三组向量表示:段落向量、实体短语向量和三元组事实向量,每组向量采用基于内容哈希去重的持久化存储,支持增量索引。
17、进一步的,所述步骤s2中的采用主题级覆盖约束对候选三元组进行过滤的具体过程包括:
18、对于给定查询,首先计算查询与所有三元组事实向量的点积相似度,取得分最高的前n个候选三元组;
19、设计面向大语言模型的控制指令,将传统的三元组总数硬截断约束转化为对不同主题实体的覆盖数量约束;
20、将候选三元组及控制指令提交给大语言模型进行语义过滤,通过模糊字符串匹配将返回结果映射回原始候选三元组,获得最终过滤后的三元组集合;
21、该主题级覆盖约束通过抑制高频中心主题实体对有限检索预算的过度占用,确保评分相对较低但具有更高桥接潜力的实体能够稳定进入后续图扩散阶段。
22、更进一步的,所述步骤s2中的个性化pagerank图扩散和执行证据保护机制具体为:
23、为知识图谱中的实体节点分配初始权重,应用idf类校正因子使实体获得更高权重;保留权重最高的前m个实体节点作为种子;同时为段落节点分配基于稠密段落检索得到的相似度得分的初始权重;若过滤后三元组为空,则降级为直接使用稠密段落检索结果;
24、所述证据保护机制遵循最小干扰原则执行非对称拓扑干预,定义可替换目标位置j的计算公式为:
25、 (2);
26、其中为当前序列中第个段落,为受保护证据集合;在首轮检索中,若稠密检索排名第一的段落不在top-k序列中,则将其替换至序列尾部;在第二轮检索中,将第一轮确认的证据标记为受保护证据,当受保护证据未出现在当前段落序列中时,将该受保护证据替换至序列的尾部可替换位置;所述证据保护机制确保受保护证据不会被后续操作逐出。
27、更进一步地,所述步骤s3的实现方法包括:
28、将查询和第一轮检索得到的top-k段落序列作为输入,采用大语言模型判断模块进行处理并得到结构化结果,所述结构化结果包括:当前证据集是否可回答查询q的布尔标志、最大覆盖证据集、是否可生成桥接查询的布尔标志以及桥接查询文本;
29、当判断模块输出的“当前证据集可回答查询q”布尔标志为假、受保护证据集合中存在拓扑锚点、且“可生成桥接查询”布尔标志为真时,以非空桥接查询替代原查询触发第二轮检索;第二轮检索继续执行证据保护机制;
30、所述桥接查询所涉及的实体属性集合必须与受保护证据集合中的拓扑锚点相交;整个检索迭代过程限制为最多两轮。
31、更进一步的,所述步骤s3中判断模块的触发条件采用数学方式表示为:
32、 (3);
33、其中,为判断模块输出的布尔函数;表示步骤s2中获得的top-k段落序列,即当前轮次的证据集;为受保护证据集合,表示受保护证据集合中实体节点的数量;
34、所述桥接查询的生成为约束条件最大似然估计任务,其形式为:
35、 (4);
36、其中,表示桥接查询所涉及的所有实体属性集合。
37、进一步地,所述步骤s4中大语言模型生成最终答案时的采样温度设为0,以确保确定性。
38、进一步的,所述步骤s2中主题实体覆盖上限阈值的取值为4;所述证据保护机制注入的文档段落数量为1个;所述状态感知门控路由的检索轮次为2轮。
39、采用上述技术方案后,本发明具有了以下有益效果:
40、(1)本发明通过主题级覆盖约束机制,将传统的三元组总数限制转化为拓扑多样性约束,有效抑制高频中心节点对检索预算的垄断,使更多具有桥接潜力的长尾实体进入图扩散阶段;相较当前最优基线,严格完整召回率(full recall@5)的三数据集平均值相对提升13.4%。
41、(2)本发明的证据保护机制为轻量级证据保护机制,遵循最小干扰原则,通过非对称拓扑干预精准锁定高置信度锚点,在不破坏现有检索排序结构的前提下系统性地修复单证据断裂,平均检索调用次数仅为1.06~1.24次,远低于ircot等迭代方法的2.60~3.85次。
42、(3)本发明的状态感知门控路由机制通过大语言模型实时监控证据集的拓扑连通性,仅在检测到近完整但不可回答状态时自适应触发定向桥接检索,并将迭代深度限制为两轮,在提升召回率的同时严格控制了计算开销和token消耗。
43、(4)本发明在2wikimultihopqa、hotpotqa和musique等多个多跳问答基准数据集上验证了有效性;相较当前最优基线,准确匹配率(exact match)和f1分数的三数据集平均值分别相对提升4.6%和6.0%,且在14b参数规模的轻量模型上仍保持较高的完整召回能力。
44、(5)本发明所提出的三个修复机制相互协同、层层递进,覆盖约束为图扩散提供多样化种子,证据保护防止关键锚点被逐出,门控路由实现精准补偿,三者共同构成完整的单证据断裂修复管线。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com