一种答案生成方法及装置与流程

摘要: 本技术涉及人工智能(artificialintelligence,ai),尤其涉及一种答案生成方法及装置。背景技术:1、当前,大型语言模型(largelangu...
一种答案生成方法及装置与流程

本技术涉及人工智能(artificial intelligence,ai),尤其涉及一种答案生成方法及装置。

背景技术:

1、当前,大型语言模型(large language model,llm)展示了令人印象深刻的功能,但也面临着幻觉、知识过时以及不透明、不可追踪的推理过程等挑战。检索增强生成(retrieval-augmented generation,rag)技术通过整合着来自外部数据库的知识已成为一种有前途的解决方案。rag作为一种范式,通过在生成任务中引入初始检索步骤,使llm能够查询外部数据库获取相关信息,进而指导后续的文本生成。这一过程不仅确保生成内容牢固基于检索到的“记忆”,还显著提升了llm的性能,近年来受到越来越多的研究关注。

2、为了实现检索增强生成技术,业界普遍采用三种方法:朴素rag、高级rag和模块化rag。其中,朴素rag遵循标准的索引、检索和生成流程,但在实际应用中存在诸多问题,如检索精度低、生成内容易出现幻觉和冗余等。高级rag针对朴素rag的不足进行了优化:在索引阶段,通过优化数据嵌入来提高索引内容的质量;在检索阶段,通过计算查询(query)和块(即文本片段)之间的相似性来识别适当的上下文,具体技术包括微调嵌入模型或学习不同上下文的动态嵌入;在生成阶段,将检索到的上下文与查询合并为llm的输入,通过重新排序最相关的内容或压缩提示来解决上下文窗口限制带来的挑战。模块化rag则通过引入外部模块进一步增强性能,例如selfmem将检索增强型生成器纳入模块中,迭代创建内存池,并训练选择器从池中选择记忆来生成响应。

3、尽管目前的rag方法具有诸多优点,如克服数据噪声、提升生成结果精度、降低运行时延等,但其检索到的数据在覆盖范围或完整性上仍存在欠缺,这限制了rag技术整体效果的发挥,使其难以达到预期的最佳性能。

技术实现思路

1、本技术提供了一种答案生成方法、装置、计算设备、计算机可读存储介质和包含指令的计算机程序产品,能够提升检索到的数据的覆盖范围和完整性,从而提升rag技术的整体效果。

2、第一方面,本技术提供一种答案生成方法,包括:接收来自用户的查询问题;基于查询问题,在与第一数据库相关的第一图索引结构中做检索,得到至少一条检索路径,其中,第一图索引结构中的一个节点用于表示第一数据库中的一个分区,第一图索引结构中两个节点之间的边用于表示第一图索引结构中两个节点各自所表示的分区中的数据至少涉及一个共同的问题,一条检索路径上至少包含第一图索引结构中的一个节点;基于查询问题和至少一条检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案。

3、这样,通过基于特定的图索引结构对数据库中的数据做多分区且跨区的管理,使得在生成答案过程中,可以充分利用数据库中不同分区中的信息,降低了跨分区信息的丢失或混淆的概率,从而提升了答案的全面性和准确性。

4、在一种可能的实现方式中,在基于查询问题,在与第一数据库相关的第一图索引结构中做检索,得到至少一条检索路径之前,还包括:基于查询问题,从多个数据库中筛选出第一数据库,其中,在多个数据库中不同数据库内的数据具有不同的隐私级别。这样,就可以在做数据检索之前从多个数据库中筛选出所需访问的数据库,提升数据检索的准确度。

5、在一种可能的实现方式中,多个数据库中包括第二数据库,第二数据库与第二图索引结构相关,第二图索引结构中的一个节点用于表示第二数据库中的一个分区,第二图索引结构中两个节点之间的边用于表示第二图索引结构中两个节点各自所表示的分区中的数据至少涉及一个共同的问题。这样,不同的数据库就可以具有不同的图索引结构,从而便于在不同的数据库中的做分区且跨区的管理和检索。

6、在一种可能的实现方式中,第一数据库中数据的隐私级别高于第二数据库中数据的隐私级别;第一数据库中的第一分区中的数据和第二数据库中的第二分区中的数据至少涉及一个共同的问题;第一图索引结构中的第一节点用于表示第一分区,第二图索引结构中的第二节点用于表示第二分区;其中,第一节点和第二节点均被配置为索引接入点,用于实现从第一节点到第二节点的单向跨图索引连接。这样,就可以从数据隐私级别高的数据库访问到数据隐私级别低的数据库,而不能反向访问,从而在保护用户隐私的同时,能够高效地提供跨数据库的个性化智能服务,且可以充分利用不同数据库中不同分区中的信息,降低了跨数据库和跨分区信息的丢失或混淆的概率,从而提升了答案的全面性和准确性。

7、在一种可能的实现方式中,至少一条检索路径包括:第一检索路径,第一检索路径上的节点包括第一节点。其中,基于查询问题和第一检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案,包括:基于第一检索路径,从第一数据库中获取第一检索路径上的各个节点所表示的分区中的数据,以得到第一数据集合;基于第一节点,从第二数据库中召回第二节点所表示的分区中的数据,以及,召回在第二图索引结构中与第二节点直接和间接相连的节点所表示的分区中的数据,以得到第二数据集合;基于查询问题、第一数据集合和第二数据集合,得到与查询问题相关的答案。这样,就实现了从隐私级别低的数据库中召回数据,并结合隐私级别高的数据库中的数据做推理。

8、在一种可能的实现方式中,该方法应用于端侧设备,其中,第一数据库位于端侧设备上,第二数据库位于云侧设备上。这样,就可以实现将非敏感数据部署于云侧,敏感数据保留在端侧,并通过建立端云数据间的索引接入点,确保数据的安全性与高效性。

9、在一种可能的实现方式中,基于查询问题和至少一条检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案,包括:基于查询问题,对至少一条检索路径进行路径筛选,以得到第二检索路径;基于查询问题和第二检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案。这样,就可以从多条检索路径中筛选出最优或较优的检索路径,从而提升后续数据检索范围的精度,进而提升答案的准确性。

10、在一种可能的实现方式中,基于查询问题和第二检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案,包括:基于第二检索路径,从第一数据库中获取第二检索路径上的各个节点所表示的分区中的数据,以得到第三数据集合;基于查询问题和第三数据集合,得到与查询问题相关的答案。这样,就可以利用数据库中的知识完整推理,从而得到与查询问题相关的答案。

11、在一种可能的实现方式中,该方法还包括:接收到来自用户的数据存储指令,其中,数据存储指令用于指示存储多个知识原理,该多个知识原理用于解答同一个问题;基于各个知识原理与第一图索引结构中节点之间的相似性,在第一数据库中分别将各个知识原理添加至第一图索引结构中各个第三节点所表示的分区中,以及,在第一图索引结构中的多个第三节点之间构建边,其中,一个第三节点是与一个知识原理相似的节点。这样,就可以实现对数据的分区且跨区的管理。

12、第二方面,本技术提供一种答案生成装置,包括:接收模块和处理模块。其中,接收模块,用于接收来自用户的查询问题。处理模块,用于基于查询问题,在与第一数据库相关的第一图索引结构中做检索,得到至少一条检索路径,其中,第一图索引结构中的一个节点用于表示第一数据库中的一个分区,第一图索引结构中两个节点之间的边用于表示第一图索引结构中两个节点各自所表示的分区中的数据至少涉及一个共同的问题,一条检索路径上至少包含第一图索引结构中的一个节点。处理模块,还用于基于查询问题和至少一条检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案。

13、在一种可能的实现方式中,处理模块在基于查询问题,在与第一数据库相关的第一图索引结构中做检索,得到至少一条检索路径之前,还用于:基于查询问题,从多个数据库中筛选出第一数据库,其中,在多个数据库中不同数据库内的数据具有不同的隐私级别。

14、在一种可能的实现方式中,多个数据库中包括第二数据库,第二数据库与第二图索引结构相关,第二图索引结构中的一个节点用于表示第二数据库中的一个分区,第二图索引结构中两个节点之间的边用于表示第二图索引结构中两个节点各自所表示的分区中的数据至少涉及一个共同的问题。

15、在一种可能的实现方式中,第一数据库中数据的隐私级别高于第二数据库中数据的隐私级别;第一数据库中的第一分区中的数据和第二数据库中的第二分区中的数据至少涉及一个共同的问题;第一图索引结构中的第一节点用于表示第一分区,第二图索引结构中的第二节点用于表示第二分区;其中,第一节点和第二节点均被配置为索引接入点,用于实现从第一节点到第二节点的单向跨图索引连接。

16、在一种可能的实现方式中,至少一条检索路径包括:第一检索路径,第一检索路径上的节点包括第一节点。其中,处理模块在基于查询问题和第一检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案时,具体用于:基于第一检索路径,从第一数据库中获取第一检索路径上的各个节点所表示的分区中的数据,以得到第一数据集合;基于第一节点,从第二数据库中召回第二节点所表示的分区中的数据,以及,召回在第二图索引结构中与第二节点直接和间接相连的节点所表示的分区中的数据,以得到第二数据集合;基于查询问题、第一数据集合和第二数据集合,得到与查询问题相关的答案。

17、在一种可能的实现方式中,该装置部署于端侧设备,其中,第一数据库位于端侧设备上,第二数据库位于云侧设备上。

18、在一种可能的实现方式中,处理模块在基于查询问题和至少一条检索路径上各个节点所表示的分区中的数据集合做推理,以得到与查询问题相关的答案时,具体用于:基于查询问题,对至少一条检索路径进行路径筛选,以得到第二检索路径;基于查询问题和第二检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案。

19、在一种可能的实现方式中,处理模块在基于查询问题和第二检索路径上各个节点所表示的分区中的数据做推理,以得到与查询问题相关的答案时,具体用于:基于第二检索路径,从第一数据库中获取第二检索路径上的各个节点所表示的分区中的数据,以得到第三数据集合;基于查询问题和第三数据集合,得到与查询问题相关的答案。

20、在一种可能的实现方式中,接收模块,还用于接收到来自用户的数据存储指令,其中,数据存储指令用于指示存储多个知识原理,该多个知识原理用于解答同一个问题;处理模块,还用于基于各个知识原理与第一图索引结构中节点之间的相似性,在第一数据库中分别将各个知识原理添加至第一图索引结构中各个第三节点所表示的分区中,以及,在第一图索引结构中的多个第三节点之间构建边,其中,一个第三节点是与一个知识原理相似的节点。

21、第三方面,本技术提供一种答案生成装置,包括至少一个处理器和接口;至少一个处理器通过接口获取程序指令;至少一个处理器用于执行程序行指令,以实现第一方面或第一方面的任一种可能的实现方式所描述的方法。示例性的,该答案生成装置可以但不限于为芯片。

22、第四方面,本技术提供一种计算设备,包括至少一个存储器,用于存储程序;至少一个处理器,用于调用存储器存储的程序,以执行第一方面或第一方面的任一种可能的实现方式所描述的方法。

23、第五方面,本技术提供一种计算机存储介质,计算机存储介质中存储有指令,当指令在计算机上运行时,使得计算机执行第一方面或第一方面的任一种可能的实现方式所描述的方法。

24、第六方面,本技术提供一种包含指令的计算机程序产品,当指令在计算机上运行时,使得计算机执行第一方面或第一方面的任一种可能的实现方式所描述的方法。

25、可以理解的是,上述第二方面至第六方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。