子图检索的增强生成方法、装置及设备与流程

摘要: 本申请涉及自然语言处理,特别是涉及一种子图检索的增强生成方法、装置及设备。背景技术:1、在人工智能技术的快速发展过程中,大语言模型(largelanguagem...
子图检索的增强生成方法、装置及设备与流程

本申请涉及自然语言处理,特别是涉及一种子图检索的增强生成方法、装置及设备。

背景技术:

1、在人工智能技术的快速发展过程中,大语言模型(large language models,llms)凭借其能够生成连贯文本并具备一定推理能力,已经在自然语言生成、智能问答、知识推理等场景中得到广泛应用,但其固有的知识滞后、事实性错误与逻辑幻觉问题,始终制约着复杂推理任务的输出质量。为缓解此问题,检索增强生成(retrieval-augmentedgeneration,rag)技术应运而生,其核心思想是在生成答案前,先从外部知识库中检索相关信息作为上下文依据,已成为提升大模型可靠性的主流技术路径。

2、目前,相关技术中采用直接检索方式,即利用问题直接在知识库中检索最相似的文本片段或知识三元组。但是该方式在面向多跳推理的复杂任务时,难以建立自然语言和知识图谱结构化知识的深层语义关联以及关键中间知识,知识图谱的三元组原生表示存在大量冗余token,且大语言模型缺乏结构化图谱数据的深度理解能力,知识增强效果不佳。因此,现有检索增强方式难以满足复杂推理场景下精准检索、高效表示、深度理解结构化知识的综合需求,导致生成内容的准确性较低。

技术实现思路

1、本申请的目的是提供一种子图检索的增强生成方法、装置及设备,以解决现有检索增强方式难以满足复杂推理场景下精准检索、高效表示、深度理解结构化知识的综合需求,导致生成内容的准确性较低的技术问题。

2、为实现上述目的,本申请提供了如下方案:

3、第一方面,本申请提供了一种子图检索的增强生成方法,包括:

4、构建基于链式思维的子图检索模型;

5、获取输入文本,基于所述子图检索模型生成链式推理路径,根据所述链式推理路径从预设知识图谱中召回包含中间知识的知识图谱子图;

6、采用yaml格式对所述知识图谱子图进行层级化重组,得到结构化增强数据;

7、获取指令集和结构化知识图谱数据,利用所述指令集和所述结构化知识图谱数据对预设大语言模型进行指令微调与持续预训练,获得生成模型;所述结构化知识图谱数据是采用yaml格式对所述知识图谱进行序列化处理得到的;

8、将所述输入文本与所述结构化增强数据通过所述生成模型进行处理,得到增强生成结果。

9、第二方面,本申请提供了一种子图检索的增强生成装置,该装置包括:

10、检索模型构建模块,用于构建基于链式思维的子图检索模型;

11、子图召回模块,用于获取输入文本,基于所述子图检索模型生成链式推理路径,根据所述链式推理路径从预设知识图谱中召回包含中间知识的知识图谱子图;

12、重组模块,用于采用yaml格式对所述知识图谱子图进行层级化重组,得到结构化增强数据;

13、生成模型获取模块,用于获取指令集和结构化知识图谱数据,利用所述指令集和所述结构化知识图谱数据对预设大语言模型进行指令微调与持续预训练,获得生成模型;所述结构化知识图谱数据是采用yaml格式对所述知识图谱进行序列化处理得到的;

14、处理模块,用于将所述输入文本与所述结构化增强数据通过所述生成模型进行处理,得到增强生成结果。

15、第三方面,本申请提供了一种计算机设备,包括:存储器、处理器以存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序以实现上述中任一项所述的子图检索的增强生成方法的步骤。

16、根据本申请提供的具体实施例,本申请公开了以下技术效果:

17、本申请提供了一种子图检索的增强生成方法、装置及设备,与现有技术相比,本方案中通过构建基于链式思维的子图检索模型,能够使得检索过程由传统问题直接匹配转变为按推理逻辑引导检索,从而精准捕获多跳推理所需的中间知识,建立自然语言与结构化知识之间的深层语义关联,解决传统直接检索相关性不足、缺失关键中间知识的问题;通过根据链式推理路径召回包含中间知识的知识图谱子图,实现知识检索与推理过程的深度绑定,进一步提升检索结果与推理需求的匹配度;并且通过采用yaml格式对知识图谱子图进行层级化重组,消除三元组原生表示的重复冗余,降低词元(token)占用,提升知识表示效率与模型上下文利用率;通过利用yaml格式结构化知识图谱数据对预设大语言模型进行指令微调与持续预训练,使模型具备结构化知识的深度理解与融合能力,解决通用大语言模型难以有效利用图谱数据的缺陷;以及将输入文本与结构化增强数据输入生成模型进行联合处理,使生成过程在精准知识约束下进行,有效抑制幻觉并提升事实准确性。因此,从检索逻辑、知识表示、模型理解、生成约束四个层面系统性解决现有技术缺陷,实现复杂推理场景下精准检索、高效表示与深度理解结构化知识的综合效果,显著提高生成内容的准确性与可靠性。

1.一种子图检索的增强生成方法,其特征在于,所述子图检索的增强生成方法包括:

2.根据权利要求1所述的子图检索的增强生成方法,其特征在于,构建基于链式思维的子图检索模型,包括:

3.根据权利要求2所述的子图检索的增强生成方法,其特征在于,基于所述训练样本、答案和知识图谱,构建候选集合,并对所述候选集合内每个三元组及邻域子图进行拼接编码,得到正样本编码和普通候选编码,包括:

4.根据权利要求1所述的子图检索的增强生成方法,其特征在于,所述知识图谱子图包括多个子图三元组,每个子图三元组包括头实体、关系和尾实体;

5.根据权利要求1所述的子图检索的增强生成方法,其特征在于,所述指令集包括三类任务:实体级任务、关系级任务和图级任务;

6.根据权利要求1所述的子图检索的增强生成方法,其特征在于,利用所述指令集和所述结构化知识图谱数据对预设大语言模型进行指令微调与持续预训练,获得生成模型,包括:

7.根据权利要求6所述的子图检索的增强生成方法,其特征在于,对所述训练后的大语言模型进行质量监督训练处理,得到所述生成模型,包括:

8.根据权利要求1所述的子图检索的增强生成方法,其特征在于,所述生成模型包括输入层、多个解码器层及输出层;将所述输入文本与所述结构化增强数据通过所述生成模型进行处理,得到增强生成结果,包括:

9.一种子图检索的增强生成装置,其特征在于,所述子图检索的增强生成装置包括:

10.一种计算机设备,包括:存储器、处理器以存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序以实现权利要求1-8中任一项所述的子图检索的增强生成方法的步骤。