一种基于知识注入的实体检索方法及装置与流程

本技术涉及智能教育领域，尤其涉及一种基于知识注入的实体检索方法及装置。

背景技术：

1、检索流水线是指将信息检索任务拆解为多个有序、可组合的处理环节，数据像经过工厂产线一样逐级流转处理，最终输出检索结果的过程‌。在检索流水线中通常通过引入外部知识，来提升检索结果的排序质量，常见的有训练式知识增强技术和检索增强生成‌（retrieval-augmented generation, rag）技术。

2、在训练式知识增强技术中，采用的是将外部知识图谱信号在嵌入层融合进交叉编码器并进行模型参数更新，例如将知识元图蒸馏进交叉编码器，或将结构化知识图谱信号融合进排序器。该方法需要消耗算力来重新训练模型，并调整模型参数，无法对已部署的模型即插即用。

3、‌检索增强生成技术是将外部的知识库与大语言模型（large language model,llm）结合，通过“重排替代重训”的方式，节省了‌模型重新训练的算力消耗‌，能够对已部署的大语言模型重排器即插即用，但该技术将算力消耗转移至用于执行重排的推理侧，增大了推理侧的算力消耗。

4、因此，在检索流水线中引入知识库时，如何提供一种既能对已部署的模型即插即用，又能节省算力消耗的方案，是亟需解决的问题。

技术实现思路

1、本技术实施例提供了一种基于知识注入的实体检索方法及装置，用于在检索流水线中，减少引入知识库时的算力消耗，并且能够对已部署的大语言模型重排器即插即用。

2、第一方面，本技术提供了一种基于知识注入的实体检索方法，该方法可以由计算设备执行，也可以由计算设备的部件，例如计算设备的处理器、芯片或芯片系统等执行，还可以由能实现全部或部分计算设备功能的逻辑模块或软件实现。第一方面提供的方法包括：获取查询文本；根据查询文本在实体池中进行检索，以得到第一候选实体序列、第二候选实体序列和第三候选实体序列；第一候选实体序列和第二候选实体序列根据语义检索得到，第一候选实体序列和第二候选实体序列的长度可以相同，也可以不相同，第三候选实体序列根据词法检索得到，第二候选实体序列和第三候选实体序列的长度相同；在第二候选实体序列和第三候选实体序列包含的相同候选实体的数量小于或等于第一阈值的情况下，将待查询文本、第一候选实体序列和第一候选实体序列中每个候选实体的概念条目输入大语言模型进行重排，以得到第一目标实体序列；其中，概念条目是根据知识库得到的输出第一目标实体序列。

3、本技术实施例提供的基于知识注入的实体检索方法，根据词法检索和语义检索的重叠度来确定是否存在命名鸿沟，并在存在命名鸿沟的情况下，才使用高算力成本的基于知识注入的大语言模型重排路径对语义检索的结果（第一候选实体序列）进行重新，从而在保证检索精准度的同时，减少了引入知识库对算力的消耗，并且能够对已部署的大语言模型即插即用。

4、命名鸿沟是指查询文本的字面表达形式与实体池中的候选实体的规范名称之间的失配现象（naming gap）。实体池中存储的是实体的规范名称，在该规范名称未出现在查询文本，或查询文本和规范名称仅有少数字词重合时，会导致词法检索失效，这时需要依赖语义和引入的知识库来提升检索的精准度。

5、进一步地，本技术实施例注入的知识（概念条目）仅仅增加了大语言模型的输入文本量，并没有改变用户输入的查询文本，无需对大语言模型进行重新训练，不改变大语言模型的参数，也不改变初始检索结果（第一候选实体序列）中的候选实体，能够对已部署的大语言模型重排器即插即用。该方法让大语言模型根据查询文本和注入的知识来对第一候选实体序列进行重排，提高了检索的精准度。

6、作为一种实施方式，在大语言模型重排后的候选实体序列中，选取前n个候选实体，以得到第一目标实体序列，并将第一目标实体序列输出给用户。n小于或等于第一候选实体序列的长度，该长度就是第一候选实体序列中包含的实体的数量。

7、作为一种实施方式，本技术实施例在第二候选实体序列和第三候选实体序列包含的相同候选实体的数量大于第一阈值的情况下，将第一候选实体序列作为最终的检索结果进行输出。

8、在上述实施方式中，在第二候选实体序列和第三候选实体序列包含的相同候选实体的数量大于第一阈值时，则判定此次检索不存在命名鸿沟，此时使用低算力成本的语义检索路径就可以满足检索精准度的需求。因此，在这种情况下，将第一候选实体序列直接作为最终的检索结果进行输出；或者，选取第一候选实体序列中前m个候选实体，以得到第二目标实体序列，并将第二目标实体序列输出给用户。

9、作为一种实施方式，本技术实施例按照任务级算力分配来决策将额外算力分配至哪个具体的任务，其中，任务包括可达、排序和推理三种。在根据查询文本在实体池中进行检索，以得到第一候选实体序列、第二候选实体序列和第三候选实体序列之前，本技术实施例根据标注文本在实体池中进行检索，根据各个任务的检索质量、时延代价、调用代价/资源费用、显存代价/内存代价决策算力分配的结果是推理。

10、在上述实施方式中，只有在任务级算力分配的结果是推理的情况下，才通过判定是否存在命名鸿沟来决定是否执行高算力成本的重排路径，从而将算力分配到最有需求的推理任务中，进一步节省了算力的消耗。在本技术实施例中，推理任务指的是初始检索结果的重排过程。

11、作为一种实施方式，本技术实施例提供的方法可以应用于教育场景，在教育场景中，实体池中的实体是知识点或课程，概念条目至少包括规范名称、定义和例题，还可以包括上下位关系、先修关系或互斥关系中的一个或多个。

12、作为一种实施方式，第一目标实体序列中包括每个实体的证据来源，该证据来源包括规范名称、定义和例题；在输出第一目标实体序列之前，还包括：根据知识库对第一目标实体序列中的每个实体的证据来源进行验证，删除证据来源不属于知识库的第一目标实体序列中的实体，或降低证据来源不属于知识库的第一目标实体序列中的实体在第一目标实体序列中的次序。在本技术实施例中，知识库是真实知识的来源，通过知识库对证据来源做验证，可保证注入的知识的真实度，从而确保检索结果的精准度和可靠性。。

13、第二方面，本技术实施例提供一种基于知识注入的重排装置，该 装置包括获取模块、检索模块、重排模块和输出模块。其中，获取模块，用于获取查询文本；检索模块，用于根据查询文本在实体池中进行检索，以得到第一候选实体序列、第二候选实体序列和第三候选实体序列；第一候选实体序列和第二候选实体序列根据语义检索得到，第三候选实体序列根据词法检索得到，第二候选实体序列和第三候选实体序列的长度相同；重排模块，用于在第二候选实体序列和第三候选实体序列包含的相同候选实体的数量小于或等于第一阈值的情况下，将待查询文本、第一候选实体序列和第一候选实体序列中每个候选实体的概念条目输入大语言模型进行重排，以得到第一目标实体序列；概念条目根据知识库得到；输出模块，用于输出第一目标实体序列。

14、第三方面，本技术实施例提供一种计算设备，包括处理器，处理器与存储器耦合，处理器用于存储指令，当指令被处理器执行时，计算设备集群执行第一方面或第一方面中任意一种可能的实施方式所述的方法。

15、第四方面，本技术实施例提供一种计算机可读存储介质，其上存储有指令，该指令被执行时，使得计算机执行第一方面或第一方面中任意一种可能的实施方式所述的方法。

16、第五方面，本技术实施例提供一种计算机程序产品，该计算机程序产品中包括指令，指令被执行时，使得计算机实现第一方面或第一方面中任意一种可能的实施方式所述的方法。

17、可以理解，上述提供的任意一种基于知识注入的重排装置、计算设备、计算机可读存储介质或计算机程序产品等所能达到的有益效果可参考对应的方法中的有益效果，此处不再赘述。