重排序模型的增强方法及装置、查询方法及装置与流程

本公开涉及人工智能领域，尤其涉及一种重排序模型的增强方法及装置、查询方法及装置。

背景技术：

1、随着大语言模型（large language model，缩写为llm）推理能力的快速发展，基于推理的信息检索与文档重排序（reranking）技术受到广泛关注。在检索增强生成（retrieval-augmented generation，缩写为rag）、知识问答、学术搜索等典型应用场景中，重排序模块负责从初步检索返回的候选文档集合中精选出与查询文本最相关的文档，其排序质量直接决定了下游任务（如答案生成、决策辅助）的效果上限。

2、传统的重排序方法主要依赖双塔模型（bi-encoder）或交叉编码器（cross-encoder）进行相关性打分，无法充分利用llm的深度语义理解与多步推理能力。近年来，以reasonrank、rank1、rank-r1等为代表的推理增强型重排序器（reasoning-intensivereranker）通过让模型在重排序前生成完整的思维链（chain-of-thought，缩写为cot）推理过程，显著提升了在复杂推理密集型查询（如bright基准）上的排序精度。

3、然而，目前的推理增强型重排序器不仅面临严重的推理成本问题，即模型需要针对每个查询-文档窗口生成数百乃至数千个推理词元，导致推理时延高、计算开销大，在工业部署中面临显著挑战；同时还缺乏外部监督信号以及文本空间内压缩存在语言表面结构干扰，所以潜在信息的质量难以保证。

技术实现思路

1、本公开提供一种重排序模型的增强方法及装置、查询方法及装置，以至少解决相关技术中潜在信息的质量无法保证的问题。

2、根据本公开实施例的第一方面，提供一种重排序模型的增强方法，包括：获取训练数据集，其中，训练数据集包括多个查询文本、每个查询文本对应的候选文档、真实推理链和真实排序结果；对于训练数据集中每个查询文本，将查询文本对应的真实推理链渲染为目标图像，并基于目标图像，利用视觉编码器和大语言模型，获得大语言模型输出的最后一个词元对应的隐藏状态，作为查询文本的目标向量；对于训练数据集中每个查询文本，执行如下处理：将查询文本和查询文本对应的候选文档输入重排序模型，得到查询文本对应的预估潜在信息和第一预估排序结果，其中，预估潜在信息为查询文本的预估推理链对应的低维特征；根据第一预估排序结果和查询文本对应的真实排序结果，确定下一词元预测损失；基于预估潜在信息和目标向量，确定查询文本对应的对齐损失；通过最小化下一词元预测损失和对齐损失调整重排序模型的参数，对重排序模型进行训练以得到增强重排序模型。

3、可选地，将查询文本和查询文本对应的候选文档输入重排序模型，得到查询文本对应的预估潜在信息和第一预估排序结果，包括：构建针对查询文本的第一输入序列，其中，第一输入序列包括查询文本、查询文本对应的候选文档、预定数量的开始词元、预定数量的潜在词元、预定数量的结束词元和排序结果，预定数量小于预设值；将第一输入序列输入重排序模型，得到查询文本对应的预估潜在信息和第一预估排序结果，其中，对于重排序模型中的每一层，开始词元对应的潜在信息采用前一层中结束词元对应的隐藏状态，潜在词元对应的潜在信息采用开始词元对应的隐藏状态，结束词元对应的潜在信息采用潜在词元对应的隐藏状态，预估潜在信息为重排序模型中的最后一层的潜在词元对应的潜在信息。

4、可选地，将查询文本对应的真实推理链渲染为目标图像，包括：按预设字体大小范围内从大字体到小字体的顺序搜索，确定在预设尺寸内能够装下真实推理链的最大字体，其中，预设尺寸为目标图像预先设定的尺寸；按最大字体，将查询文本对应的真实推理链渲染为预设尺寸的目标图像。

5、可选地，在按最大字体，将查询文本对应的真实推理链渲染为预设尺寸的目标图像之后，，还包括：响应于目标图像的置信度小于预设阈值，对目标图像的参数进行调整直至目标图像的置信度超过预设阈值。

6、可选地，获取训练数据集，包括：预先获取多个给定查询文本、每个给定查询文本相应的候选文档和真实推理链；基于真实推理链，得到每个给定查询文本的归一化折损累计增益；从多个给定查询文本中选择归一化折损累计增益大于或等于预设值的给定查询文本，作为训练数据集中的查询文本。

7、可选地，重排序模型预先通过如下方式获取：对于多个查询文本中每个查询文本，执行如下处理：构建针对查询文本的第二输入序列，其中，第二输入序列包括查询文本、查询文本对应的候选文档、开始词元、推理链和结束词元；将第二输入序列输入初始重排序模型，得到查询文本对应的预估推理链和第二预估排序结果；基于预估推理链、第二预估排序结果、真实推理链和真实排序结果，确定下一词元预测损失；通过最小化下一词元预测损失调整初始重排序模型的参数，对初始重排序模型进行训练以得到重排序模型。

8、根据本公开实施例的第二方面，提供一种查询方法，包括：将待查询文本和待查询文本对应的候选文档输入增强重排序模型，得到候选文档的排序结果；基于所述排序结果，确定与待查询文本最相关的候选文档；其中，增强重排序模型通过上述任一增强方法得到的。

9、可选地，将待查询文本和待查询文本对应的候选文档输入增强重排序模型，得到候选文档的排序结果，包括：构建针对待查询文本的第一输入序列，其中，第一输入序列包括待查询文本、待查询文本对应的候选文档、预定数量的开始词元、预定数量的潜在词元、预定数量的结束词元和排序结果，预定数量小于预设值；将第一输入序列输入增强重排序模型，得到待查询文本对应的预估潜在信息和排序结果，其中，对于增强重排序模型中的每一层，开始词元对应的潜在信息采用前一层中结束词元对应的隐藏状态，潜在词元对应的潜在信息采用开始词元对应的隐藏状态，结束词元对应的潜在信息采用潜在词元对应的隐藏状态，预估潜在信息为增强重排序模型中的最后一层的潜在词元对应的潜在信息。

10、根据本公开实施例的第三方面，提供一种重排序模型的增强装置，包括：第一获取单元，被配置为获取训练数据集，其中，训练数据集包括多个查询文本、每个查询文本对应的候选文档、真实推理链和真实排序结果；第二获取单元，被配置为对于训练数据集中的每个查询文本，将查询文本对应的真实推理链渲染为目标图像，并基于目标图像，利用视觉编码器和大语言模型，获得大语言模型输出的最后一个词元对应的隐藏状态，作为查询文本的目标向量；处理单元，被配置为对于训练数据集中每个查询文本，执行如下处理：将查询文本和查询文本对应的候选文档输入重排序模型，得到查询文本对应的预估潜在信息和第一预估排序结果，其中，预估潜在信息为查询文本的预估推理链对应的低维特征；根据第一预估排序结果和查询文本对应的真实排序结果，确定下一词元预测损失；基于预估潜在信息和目标向量，确定查询文本对应的对齐损失；调整单元，被配置为通过最小化下一词元预测损失和对齐损失调整重排序模型的参数，对重排序模型进行训练以得到增强重排序模型。

11、可选地，处理单元，还被配置为构建针对查询文本的第一输入序列，其中，第一输入序列包括查询文本、查询文本对应的候选文档、预定数量的开始词元、预定数量的潜在词元和预定数量的结束词元，预定数量小于预设值；将第一输入序列输入重排序模型，得到查询文本对应的预估潜在信息和第一预估排序结果，其中，对于重排序模型中的每一层，开始词元对应的潜在信息采用前一层中结束词元对应的隐藏状态，潜在词元对应的潜在信息采用开始词元对应的隐藏状态，结束词元对应的潜在信息采用潜在词元对应的隐藏状态，预估潜在信息为重排序模型中的最后一层的潜在词元对应的潜在信息。

12、可选地，第二获取单元，还被配置为按预设字体大小范围内从大字体到小字体的顺序搜索，确定在预设尺寸内能够装下真实推理链的最大字体，其中，预设尺寸为目标图像预先设定的尺寸；按最大字体，将查询文本对应的真实推理链渲染为预设尺寸的目标图像。

13、可选地，第二获取单元，还被配置为在按最大字体，将查询文本对应的真实推理链渲染为预设尺寸的目标图像之后，响应于目标图像的置信度小于预设阈值，对目标图像的参数进行调整直至目标图像的置信度超过预设阈值。

14、可选地，第一获取单元，还被配置为预先获取多个给定查询文本、每个给定查询文本相应的候选文档和真实推理链；基于真实推理链，得到每个给定查询文本的归一化折损累计增益；从多个给定查询文本中选择归一化折损累计增益大于或等于预设值的给定查询文本，作为训练数据集中的查询文本。

15、可选地，重排序模型预先通过如下方式获取：对于多个查询文本中每个查询文本，执行如下处理：构建针对查询文本的第二输入序列，其中，第二输入序列包括查询文本、查询文本对应的候选文档、开始词元、推理链和结束词元；将第二输入序列输入初始重排序模型，得到查询文本对应的预估推理链和第二预估排序结果；基于预估推理链、第二预估排序结果、真实推理链和真实排序结果，确定下一词元预测损失；通过最小化下一词元预测损失调整初始重排序模型的参数，对初始重排序模型进行训练以得到重排序模型。

16、根据本公开实施例的第四方面，提供一种查询装置，包括：第三获取单元，被配置为将待查询文本和待查询文本对应的候选文档输入增强重排序模型，得到候选文档的排序结果；确定单元，被配置为基于排序结果，确定与查询文本最相关的候选文档；其中，增强重排序模型通过上述任一增强方法得到的。

17、可选地，第三获取单元，还被配置为构建针对待查询文本的第一输入序列，其中，第一输入序列包括待查询文本、待查询文本对应的候选文档、预定数量的开始词元、预定数量的潜在词元、预定数量的结束词元和排序结果，预定数量小于预设值；将第一输入序列输入增强重排序模型，得到待查询文本对应的预估潜在信息和排序结果，其中，对于增强重排序模型中的每一层，开始词元对应的潜在信息采用前一层中结束词元对应的隐藏状态，潜在词元对应的潜在信息采用开始词元对应的隐藏状态，结束词元对应的潜在信息采用潜在词元对应的隐藏状态，预估潜在信息为增强重排序模型中的最后一层的潜在词元对应的潜在信息。

18、根据本公开实施例的第五方面，提供了一种电子设备，包括：至少一个处理器；至少一个存储计算机可执行指令的存储器，其中，所述计算机可执行指令在被所述至少一个处理器运行时，促使所述至少一个处理器执行如上所述的重排序模型的增强方法和/或查询方法。

19、根据本公开实施例的第六方面，提供了一种计算机可读存储介质，当计算机可读存储介质中的指令被至少一个处理器运行时，促使至少一个处理器执行如上所述的重排序模型的增强方法和/或查询方法。

20、根据本公开实施例的第七方面，提供了一种计算机程序产品，包括计算机指令，计算机指令被处理器执行时实现如上所述的重排序模型的增强方法和/或查询方法。

21、本公开的实施例提供的技术方案至少带来以下有益效果：

22、根据本公开的重排序模型的增强方法及装置、查询方法及装置，通过将推理链渲染为图像、经视觉编码器和大语言模型提取跨模态监督信号（即目标向量），为潜在信息提供高质量的对齐目标，从而在增强重排序模型时不仅依赖了下一词元预测损失，还结合了对齐损失，使得可以重训练出能够输出更准确的潜在信息和排序结果的增强重排序模型。这一跨模态监督机制使得视觉编码产生的隐藏状态与重排序模型的自回归先验解耦，天然具有信息瓶颈效应，从而增强重排序模型表现出更稳定的对齐特性，进而实现高效推理增强重排序，提升了针对每个查询文本的候选文档排序准确性和潜在信息的质量。因此，本公开解决了相关技术中潜在信息的质量无法保证问题。

23、应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。