资源排序模型的训练方法、资源推荐方法、装置、设备和介质与流程

摘要: 本公开涉及人工智能,尤其涉及推荐系统、深度学习和大模型等,能够用于生成式搜索、文档智能编辑、智能助手、虚拟助手、智能电商等应用场景,具体涉及一种资源排序模型的训...
资源排序模型的训练方法、资源推荐方法、装置、设备和介质与流程

本公开涉及人工智能,尤其涉及推荐系统、深度学习和大模型等,能够用于生成式搜索、文档智能编辑、智能助手、虚拟助手、智能电商等应用场景,具体涉及一种资源排序模型的训练方法、资源推荐方法、资源排序模型的训练装置、资源推荐装置、电子设备、计算机可读存储介质和计算机程序产品。

背景技术:

1、人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括自然语言处理技术、计算机视觉技术、语音识别技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。

2、在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。

技术实现思路

1、本公开提供了一种资源排序模型的训练方法、资源推荐方法、资源排序模型的训练装置、资源推荐装置、电子设备、计算机可读存储介质和计算机程序产品。

2、根据本公开的一方面,提供了一种资源排序模型的训练方法,包括:获取多组样本偏序数据,每组样本偏序数据表征多个样本资源在预设的多个偏序维度中的一个偏序维度上的相对优先级;基于多组样本偏序数据对大语言模型进行微调;利用微调后的大语言模型,基于历史用户的多源信息和多个历史资源进行处理,得到多个历史资源在多个偏序维度上的多组目标偏序数据;对多个偏序维度上的多组目标偏序数据进行融合处理,得到多个历史资源之间的统一偏序关系,并基于统一偏序关系构建训练数据;以及利用训练数据对资源排序模型进行训练,其中,资源排序模型的参数量小于大语言模型,资源排序模型用于基于目标用户的多源信息对多个候选资源进行排序。

3、根据本公开的另一方面,提供了一种资源推荐方法,包括:获取目标用户的多源信息和多个候选资源;利用资源排序模型,基于目标用户的多源信息对多个候选资源进行处理,得到多个候选资源各自的预估分数,其中,资源排序模型是根据本公开上述方面的训练方法训练得到的;以及基于预估分数对多个候选资源进行排序,并根据排序结果向目标用户推荐资源。

4、根据本公开的另一方面,提供了一种资源排序模型的训练装置,包括:获取单元,被配置为获取多组样本偏序数据,每组样本偏序数据表征多个样本资源在预设的多个偏序维度中的一个偏序维度上的相对优先级;微调单元,被配置为基于多组样本偏序数据对大语言模型进行微调;生成单元,被配置为利用微调后的大语言模型,基于历史用户的多源信息和多个历史资源进行处理,得到多个历史资源在多个偏序维度上的多组目标偏序数据;融合单元,被配置为对多个偏序维度上的多组目标偏序数据进行融合处理,得到多个历史资源之间的统一偏序关系,并基于统一偏序关系构建训练数据;以及训练单元,被配置为利用训练数据对资源排序模型进行训练,其中,资源排序模型的参数量小于大语言模型,资源排序模型用于基于目标用户的多源信息对多个候选资源进行排序。

5、根据本公开的另一方面,提供了一种资源推荐装置,包括:信息获取单元,被配置为获取目标用户的多源信息和多个候选资源;预估单元,被配置为利用资源排序模型,基于目标用户的多源信息对多个候选资源进行处理,得到多个候选资源各自的预估分数,其中,资源排序模型是根据本公开上述方面的训练装置训练得到的;以及推荐单元,被配置为基于预估分数对多个候选资源进行排序,并根据排序结果向目标用户推荐资源。

6、根据本公开的另一方面,提供了一种电子设备,包括:至少一个处理器;以及与至少一个处理器通信连接的存储器;其中存储器存储有可被至少一个处理器执行的指令,这些指令被至少一个处理器执行,以使至少一个处理器能够执行上述方法。

7、根据本公开的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,计算机指令用于使计算机执行上述方法。

8、根据本公开的另一方面,提供了一种计算机程序产品,包括计算机程序,其中,计算机程序在被处理器执行时实现上述方法。

9、根据本公开的一个或多个实施例,本公开通过基于多组样本偏序数据对大语言模型进行微调,利用微调后的大语言模型生成多个偏序维度上的多组目标偏序数据,并对多组目标偏序数据进行融合处理得到统一偏序关系以构建训练数据,训练参数量小于大语言模型的资源排序模型,使资源排序模型的输出结果与用户在多个偏序维度上的偏好相匹配,提升了资源排序的准确性,从而能够为用户提供与其需求更匹配的资源,并且降低了线上排序的计算开销。

10、应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

1.一种资源排序模型的训练方法,包括:

2.根据权利要求1所述的方法,其中,基于所述多组样本偏序数据对大语言模型进行微调包括:

3.根据权利要求2所述的方法,其中,基于所述输出词元序列和所述偏序打分,确定联合损失包括:

4. 根据权利要求3所述的方法,其中,所述语言建模损失通过以下公式确定:

5. 根据权利要求3所述的方法,其中,所述偏序预测损失通过以下公式确定:

6. 根据权利要求3所述的方法,其中,基于所述输出词元序列和所述偏序打分,确定联合损失还包括:

7. 根据权利要求6所述的方法,其中,所述偏序一致性损失通过以下公式确定:

8.根据权利要求1-7中任一项所述的方法,其中,所述多个偏序维度包括兴趣匹配度维度、渗透潜力维度、内容质量维度和时效性维度中的至少两项。

9.根据权利要求1-7中任一项所述的方法,其中,利用微调后的大语言模型,基于历史用户的多源信息和多个历史资源进行处理,得到所述多个历史资源在所述多个偏序维度上的多组目标偏序数据包括:

10.根据权利要求9所述的方法,其中,所述历史用户的多源信息包括历史用户画像、历史搜索查询文本集合和历史用户行为序列中的至少两项。

11.根据权利要求1-7中任一项所述的方法,其中,对所述多个偏序维度上的多组目标偏序数据进行融合处理,得到所述多个历史资源之间的统一偏序关系包括:

12.根据权利要求1-7中任一项所述的方法,还包括:

13.一种资源推荐方法,包括:

14. 根据权利要求13所述的方法,还包括:

15.一种资源排序模型的训练装置,包括:

16.一种资源推荐装置,包括:

17. 一种电子设备,其特征在于,所述电子设备包括:

18.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,计算机指令用于使计算机执行根据权利要求1至14中任一项所述的方法。

19.一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现权利要求1至14中任一项所述的方法。