用于检索增强生成的基于索引的检索技术的制作方法

摘要: 背景技术:1、人工智能(ai)和机器学习(ml)模型被广泛用于执行各种任务。诸如chatgpt的大语言模型(llm)的出现扩展了这些模型的有用性。llm是利用大...
用于检索增强生成的基于索引的检索技术的制作方法

背景技术:

1、人工智能(ai)和机器学习(ml)模型被广泛用于执行各种任务。诸如chatgpt的大语言模型(llm)的出现扩展了这些模型的有用性。llm是利用大量文本数据进行训练以理解并生成类人语言的ai模型。llm可以执行各种自然语言处理(nlp)任务,诸如文本生成、摘要和翻译。

2、检索增强生成(rag)通过集成外部知识检索来增强llm。虽然llm的知识在训练时一般是固定的,但使用rag可以使用选定数据集来扩增llm的知识。rag允许llm在生成响应之前获取最新的和/或领域特定的信息。

3、rag和llm技术面临诸如幻觉现象、长收敛时间和高功耗的问题。本公开的实施方案单独地或共同地解决了这一问题和其它问题。

技术实现思路

1、实施方案涉及用于基于自然语言输入和大数据集来生成满足若干准则的llm输出的技术。

2、在一些实施方案中,一种方法包括:由服务器计算机接收指定多个类别和数据元素的自然语言查询;由服务器计算机向大语言模型(llm)提供第一提示,该第一提示包括所接收到的自然语言查询以及表征数据集中的类别和数据元素的上下文元数据,其中上下文元数据包括键-值对集合,其中键包括数据集中的类别,并且值包括数据集中的对应数据元素;由llm基于上下文元数据来输出在自然语言查询中标识的多个关键词;由服务器计算机标识数据集中包含与多个关键词中的一个或多个关键词相对应的数据元素的一个或多个条目;由服务器计算机向llm提供第二提示,该第二提示包括所接收到的自然语言查询、关键词以及针对数据集中的一个或多个所标识的条目的一个或多个索引;以及由llm输出基于数据集中的一个或多个所标识的条目的生成的输出。

3、在一些方面,标识数据集中包含与多个关键词中的一个或多个关键词相对应的数据元素的一个或多个条目包括执行k-近邻法(knn)以标识数据集中的一个或多个条目。

4、在一些方面,一个或多个条目包括与多个关键词中的两个或更多个关键词相对应的两个或更多个条目;并且该方法还包括:基于多个关键词中的两个或更多个关键词的存在来对两个或更多个条目进行排序;以及选择至少排序最高的条目,随后将该排序最高的条目的索引提供给llm。在一些方面,该排序包括对索引和关键词执行递归搜索。

5、在一些方面,该方法还包括:使得在远程计算设备的显示部件上显示生成的输出;或者使得经由远程计算设备的扬声器部件来播放语音输出。

6、在一些方面,该方法还包括:由服务器计算机接收原始数据;由服务器计算机解析原始数据以标识该原始数据中的类别和数据元素;以及由服务器计算机生成数据集,该生成包括将类别映射到键-值对中的数据元素。

7、在一些方面,原始数据包括十六进制数据。在一些方面,原始数据包括国际标准化组织(iso) 8583数据。

8、在一些方面,该方法还包括:由服务器计算机生成与对应数据条目的索引配对的补充键以生成补充键-值对;由服务器计算机对补充键-值对进行向量化;以及由服务器计算机存储经向量化的补充键-值对,其中服务器计算机使用所存储的经向量化的补充键-值对来准备第二查询。

9、在一些方面,一种系统(例如服务器计算机)包括:一个或多个处理器;和一个或多个计算机可读介质,该一个或多个计算机可读介质包括可由一个或多个处理器执行以执行上述方法中的任何方法的代码。

10、在一些方面,一种非暂态计算机可读介质包括指令,这些指令在由一个或多个处理器执行时使得执行上述方法中的任何方法。

11、下文进一步详细描述这些和其它实施方案。

1.一种计算机实现的方法,包括:

2.如权利要求1所述的计算机实现的方法,其中标识所述数据集中包含与所述多个关键词中的一个或多个关键词相对应的数据元素的所述一个或多个条目包括:

3.如权利要求2所述的计算机实现的方法,其中:

4.如权利要求3所述的计算机实现的方法,其中所述排序包括对所述索引和所述关键词执行递归搜索。

5.如权利要求1所述的计算机实现的方法,还包括:

6.如权利要求1所述的计算机实现的方法,还包括:

7.如权利要求6所述的计算机实现的方法,其中所述原始数据包括十六进制数据。

8.如权利要求6所述的计算机实现的方法,其中所述原始数据包括国际标准化组织(iso) 8583数据。

9.如权利要求1所述的计算机实现的方法,还包括:

10.一种服务器计算机,包括:

11.如权利要求10所述的服务器计算机,其中所述上下文元数据包括:

12.如权利要求10所述的服务器计算机,其中标识所述数据集中包含与所述多个关键词中的一个或多个关键词相对应的数据元素的所述一个或多个条目包括:

13.如权利要求12所述的服务器计算机,其中:

14.如权利要求10所述的服务器计算机,其中所述排序包括对所述索引和所述关键词执行递归搜索。

15.如权利要求10所述的服务器计算机,所述方法还包括:

16.如权利要求10所述的服务器计算机,所述方法还包括:

17.如权利要求16所述的服务器计算机,其中所述原始数据包括十六进制数据。

18.如权利要求16所述的服务器计算机,其中所述原始数据包括国际标准化组织(iso)8583数据。

19.如权利要求10所述的服务器计算机,所述方法还包括:

20.一种包括指令的非暂态计算机可读介质,所述指令在由一个或多个处理器执行时使得执行方法,所述方法包括: