基于自适应检索任务规划的检索增强生成方法、装置与流程

摘要: 本发明涉及人工智能,尤其涉及一种基于自适应检索任务规划的检索增强生成方法、装置。背景技术:1、随着检索增强生成(retrieval-augmentedgener...
基于自适应检索任务规划的检索增强生成方法、装置与流程

本发明涉及人工智能,尤其涉及一种基于自适应检索任务规划的检索增强生成方法、装置。

背景技术:

1、随着检索增强生成(retrieval-augmented generation,rag)技术的发展,大语言模型(llms)检索和整合外部知识的能力得到了显著提升,在知识问答、机器翻译等多种自然语言处理场景中取得了令人瞩目的成果。现有rag框架通过引入外部知识库,有效缓解了纯参数化知识记忆的局限性,凭借其复杂的检索机制和强大的语言模型,在开放域问答和复杂推理任务中展现出卓越的性能。然而值得注意的是,现有rag框架对大语言模型的严重依赖也带来了显著的计算开销和资源消耗。这一问题在资源受限的环境中尤为突出,严重限制了其实际部署能力。

2、针对资源受限的环境,通过小语言模型(slms)实现高效资源部署是当前人工智能应用落地的可行路径之一。虽然这些轻量级模型在计算效率和部署灵活性方面具有显著优势,但它们在rag的核心操作中仍面临基础性瓶颈,特别是在语义理解和信息检索等关键领域。当前主流的rag架构最初是为充分利用大语言模型的复杂能力而设计的。然而,小语言模型在模型能力上存在固有局限。在现有rag架构中用小语言模型替换大语言模型将导致严重的性能下降,主要原因有两方面:

3、一方面,对于复杂的查询问题,小语言模型可能无法有效解析查询意图并构建合适的检索策略。如何针对小语言模型的能力边界,构建合理的查询分解与路由方法以匹配其性能,是现有技术尚未解决的问题。此外,对于不同复杂度的查询,现有rag框架缺乏对查询复杂度的自动分析能力,无法根据查询特征自适应地选择最合适的检索路径来搜索相关数据库,从而难以最大化小语言模型的检索性能。

4、另一方面,对于涉及多步推理的复杂问题,必须确保推理路径的有效性才能检索到与查询最相关的信息。对于小模型而言,仅依靠自身能力构建合理的路径是困难的。

技术实现思路

1、针对上述现有技术的不足,本发明提供一种基于自适应检索任务规划的检索增强生成方法、装置和电子设备,采用如下技术方案:

2、第一方面,提供一种基于自适应检索任务规划的检索增强生成方法,包括:

3、基于预设的知识库,构建异构加权图索引;所述异构加权图索引中节点表示实体,实体节点之间通过关系边连接;所述关系边包括第一类型边和第二类型边,其中,所述第一类型边用于表示实体之间的结构关系并存储有权重参数,所述第二类型边用于表示实体之间的语义相似关系并存储有相似度分数;所述知识库中存储有从文本数据中提取的所述实体;

4、基于所述异构加权图索引构建检索方法集;所述检索方法至少包括以下之一:向量检索、本地检索、双重检索和拓扑增强检索;

5、响应于自然语言查询,根据查询的语义特征和结构需求,从所述检索方法集中自主选择最合适的检索方法,检索并生成查询内容。

6、第二方面,提供一种基于自适应检索任务规划的检索增强生成装置,包括:

7、异构加权图索引构建模块,用于基于预设的知识库,构建异构加权图索引;所述异构加权图索引中节点表示实体,实体节点之间通过关系边连接;所述关系边包括第一类型边和第二类型边,其中,所述第一类型边用于表示实体之间的结构关系并存储有权重参数,所述第二类型边用于表示实体之间的语义相似关系并存储有相似度分数;所述知识库中存储有从文本数据中提取的所述实体;

8、检索方法集构建模块,用于基于所述异构加权图索引构建检索方法集;所述检索方法至少包括以下之一:向量检索、本地检索、双重检索和拓扑增强检索;

9、自适应规划模块,用于响应于自然语言查询,根据查询的语义特征和结构需求,从所述检索方法集中自主选择最合适的检索方法,检索并生成查询内容。

10、第三方面,提供一种电子设备,所述电子设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如第一方面所述方法的步骤。

11、本申请的自适应检索任务规划的检索增强生成方法,具有以下有益效果:

12、本申请在资源受限场景下提高检索增强生成的性能和鲁棒性,解决现有rag系统在使用小语言模型时性能严重下降的问题。通过构建一种合理的查询方法来匹配小模型的性能,克服离散优化非平滑性;对于不同复杂度的问题,正确分析复杂度并选择最合适的方法来搜索相关数据库,最大化小模型的性能;并通过验证推理路径有效性的方法来辅助小模型做出判断来构建合理的路径,从而能生成更具通用性检索策略的新型检索增强生成方法,以更有效地在资源受限环境中部署,同时保持高检索精度和推理稳定性。

13、本申请与自适应检索任务规划的检索增强生成方法对应的装置、电子设备,其能达到相同的技术效果,为避免重复,这里不再赘述。

1.一种基于自适应检索任务规划的检索增强生成方法,其特征在于,包括:

2.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

3.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

4.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

5.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

6.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

7.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

8.根据权利要求1所述的基于自适应检索任务规划的检索增强生成方法,其特征在于,

9.一种基于自适应检索任务规划的检索增强生成装置,其特征在于,包括:

10.一种电子设备,其特征在于,所述电子设备包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现如权利要求1至8中任一项所述基于自适应检索任务规划的检索增强生成方法的步骤。