基于大模型的检索增强生成方法、装置、设备和产品与流程

摘要: 本公开涉及人工智能,尤其涉及智能体、大模型、深度学习等,具体涉及一种基于大模型的检索增强生成方法、装置、智能体、设备、介质和产品。背景技术:1、检索增强生成(r...
基于大模型的检索增强生成方法、装置、设备和产品与流程

本公开涉及人工智能,尤其涉及智能体、大模型、深度学习等,具体涉及一种基于大模型的检索增强生成方法、装置、智能体、设备、介质和产品。

背景技术:

1、检索增强生成(retrieval-augmented generation,rag)通过将外部文档检索结果引入大语言模型(large language model,llm)问答过程,能够缓解模型仅依赖参数记忆时产生的事实错误。

2、然而,在开放域问答、搜索问答、企业知识库问答和智能客服等场景中,传统 rag系统仍然容易受到各种影响,生成表面合理但缺乏证据支撑的答案。

技术实现思路

1、本公开提供了一种基于大模型的检索增强生成方法、装置、智能体、设备、介质和产品。

2、根据本公开的一方面,提供了一种基于大模型的检索增强生成方法,包括:根据问题进行检索,以获得目标内容;基于大模型,对所述目标内容进行事实提取,以生成事实计划;根据所述问题、所述目标内容和所述事实计划,生成初始答案;基于反思模型,根据所述问题、所述候选内容、所述事实计划和所述初始答案进行反思,以生成反思结果;根据所述反思结果调整所述初始答案,以生成最终答案。

3、根据本公开的另一方面,提供了一种基于大模型的检索增强生成装置,包括:检索模块,根据问题进行检索,以获得目标内容;计划模块,用于基于大模型,对所述目标内容进行事实提取,以生成事实计划;生成模块,用于根据所述问题、所述目标内容和所述事实计划,生成初始答案;反思模块,用于基于反思模型,根据所述问题、所述候选内容、所述事实计划和所述初始答案进行反思,以生成反思结果;调整模块,用于根据所述反思结果调整所述初始答案,以生成最终答案。

4、根据本公开的另一方面,提供了一种问答智能体,包括:输入模块,用于输入问题;处理模块,用于对所述问题进行检索,以获得目标内容;基于大模型,对所述目标内容进行事实提取,以生成事实计划;根据所述问题、所述目标内容和所述事实计划,生成初始答案;采用反思模型,根据所述问题、所述候选内容、所述事实计划和所述初始答案进行反思,以生成反思结果;根据所述反思结果调整所述初始答案,以生成最终答案;输出模块,用于输出所述最终答案。

5、根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上述任一方面的任一项所述的方法。

6、根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据上述任一方面的任一项所述的方法。

7、根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据上述任一方面的任一项所述的方法。

8、根据本公开实施例,可以提高答案准确性。

9、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

1.一种基于大模型的检索增强生成方法,包括:

2.根据权利要求1所述的方法,其中,所述根据问题进行检索,以获得目标内容,包括:

3.根据权利要求2所述的方法,其中,所述对所述召回内容进行排序,以获得所述目标内容,包括:

4.根据权利要求1所述的方法,其中,所述基于大模型,对所述目标内容进行事实提取,以生成事实计划,包括:

5.根据权利要求4所述的方法,其中,所述预设字段包括:

6.根据权利要求1所述的方法,其中,根据所述问题、所述目标内容和所述事实计划,生成初始答案,包括:

7.根据权利要求6所述的方法,其中,所述根据所述反思结果调整所述初始答案,包括:

8.根据权利要求1-7任一项所述的方法,其中,所述反思模型是基于强化学习算法,对大模型进行训练后得到的。

9.根据权利要求8所述的方法,其中,所述强化学习算法的奖励值采用如下方式构建:

10.根据权利要求1-7任一项所述的方法,还包括:

11.一种基于大模型的检索增强生成装置,包括:

12.一种问答智能体,包括:

13.一种电子设备,包括:

14.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-10中任一项所述的方法。

15.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-10中任一项所述的方法。