推荐模型的训练方法、装置、电子设备及存储介质与流程

摘要: 本公开涉及计算机,特别涉及一种推荐模型的训练方法、装置、电子设备及存储介质。背景技术:1、随着互联网推荐技术的发展,向用户推荐其可能感兴趣的物品已成为重要研究方...
推荐模型的训练方法、装置、电子设备及存储介质与流程

本公开涉及计算机,特别涉及一种推荐模型的训练方法、装置、电子设备及存储介质。

背景技术:

1、随着互联网推荐技术的发展,向用户推荐其可能感兴趣的物品已成为重要研究方向。目前,通常由推荐模型根据用户特征检索用户所匹配的物品,实现用户查找物品的单向推荐,而难以以物品为出发点反向挖掘可能会对该物品产生正向反馈的用户。

技术实现思路

1、本公开提供一种推荐模型的训练方法、装置、电子设备及存储介质。本公开的技术方案如下所述。

2、根据本公开实施例的一方面,提供了一种推荐模型的训练方法,所述方法包括:

3、获取多条第一训练数据,所述第一训练数据包括样本物品信息和用户特征序列,所述样本物品信息用于描述样本物品,所述用户特征序列包括多个样本用户特征,每个样本用户特征用于表征已对所述样本物品执行正向反馈的对应第一样本用户;

4、在第i轮训练过程中,将每条第一训练数据中的样本物品信息和前i-1个样本用户特征输入推荐模型,得到用户预测特征,所述推荐模型用于针对物品预测下一个对所述物品执行正向反馈的用户,所述用户预测特征用于表征所预测的对所述样本物品执行正向反馈的第i个用户;

5、基于所述用户预测特征和第i个样本用户特征,对所述推荐模型进行训练;

6、其中,i为正整数;当i为1时,所述前i-1个样本用户特征为空序列。

7、根据本公开实施例的另一方面,提供了一种推荐模型的训练装置,所述装置包括:

8、获取单元,被配置为执行获取多条第一训练数据,所述第一训练数据包括样本物品信息和用户特征序列,所述样本物品信息用于描述样本物品,所述用户特征序列包括多个样本用户特征,每个样本用户特征用于表征已对所述样本物品执行正向反馈的对应第一样本用户;

9、预测单元,被配置为执行在第i轮训练过程中,将每条第一训练数据中的样本物品信息和前i-1个样本用户特征输入推荐模型,得到用户预测特征,所述推荐模型用于针对物品预测下一个对所述物品执行正向反馈的用户,所述用户预测特征用于表征所预测的对所述样本物品执行正向反馈的第i个用户;

10、训练单元,被配置为执行基于所述用户预测特征和第i个样本用户特征,对所述推荐模型进行训练;

11、其中,i为正整数;当i为1时,所述前i-1个样本用户特征为空序列。

12、在一些实施例中,所述推荐模型包括适配器和大语言模型,所述适配器用于将输入的用户特征由原始维度转换为预设维度,所述大语言模型用于基于输入的物品信息和预设维度的用户特征预测下一个对物品执行正向反馈的用户;

13、所述训练单元,被配置为执行在所述大语言模型的参数保持不变的情况下,基于所述用户预测特征和第i个样本用户特征,对所述适配器进行训练。

14、在一些实施例中,所述推荐模型还用于针对物品预测可能对所述物品执行正向反馈的用户;所述第一训练数据还包括样本问题和样本答案,所述样本问题用于提问可能对所述样本物品执行正向反馈的用户,所述样本答案用于描述可能对所述样本物品执行正向反馈的用户;

15、所述预测单元,还被配置为执行将所述样本物品信息和所述样本问题输入所述推荐模型,得到预测答案,所述预测答案用于描述所预测的可能对所述样本物品执行正向反馈的用户;

16、所述训练单元,被配置为执行基于所述用户预测特征和所述第i个样本用户特征,确定第一损失值;基于所述预测答案和所述样本答案,确定第二损失值;基于所述第一损失值和所述第二损失值,对所述推荐模型进行训练。

17、在一些实施例中,在预训练阶段完成后,所述推荐模型还用于确定用户的用户特征;

18、所述装置还包括:

19、生成单元,被配置为执行在所述预训练阶段完成后,将任一第一样本用户的用户信息输入所述推荐模型,针对所述用户信息中第一词元,得到所述第一词元的隐向量,所述用户信息用于描述所述第一样本用户,所述第一词元用于聚合所述用户信息中的上下文信息;将所述第一词元的隐向量确定为所述第一样本用户的样本用户特征。

20、在一些实施例中,所述装置还包括:

21、预训练单元,被配置为执行在所述预训练阶段中,获取多条第二训练数据,所述第二训练数据包括第二样本用户的样本用户信息和下游任务的样本结果,所述样本用户信息包括第二词元,所述第二词元用于聚合所述样本用户信息中的上下文信息;将每条第二训练数据中的样本用户信息输入所述推荐模型,得到所述第二词元的隐向量;基于所述第二词元的隐向量,生成所述下游任务的预测结果;基于所述预测结果和所述样本结果,对所述推荐模型进行预训练;其中,所述预训练阶段的训练目标为使所述推荐模型能够将用户信息中的上下文信息聚合至对应词元的隐向量中。

22、在一些实施例中,所述预训练单元,被配置为执行在所述预训练阶段的第k轮训练过程中,基于第k-1轮的用户输入信息,确定第k轮的用户输入信息,每轮用户输入信息均包括所述第二词元; 将所述第k轮的用户输入信息输入所述推荐模型,得到所述第二词元的隐向量;其中,k为大于1的正整数,第1轮的用户输入信息为所述样本用户信息。

23、在一些实施例中,所述预训练单元,被配置为执行对所述第k-1轮的用户输入信息进行随机掩码,得到所述第k轮的用户输入信息;或者,对所述第k-1轮的用户输入信息的前预设位进行掩码,得到所述第k轮的用户输入信息。

24、在一些实施例中,所述样本物品信息包括视觉信息和文本信息中至少一项,所述视觉信息用于以图像、视频中至少一种形式描述所述样本物品,所述文本信息用于以文本形式描述所述样本物品。

25、根据本公开实施例的另一方面,提供一种电子设备,该电子设备包括:

26、一个或多个处理器;

27、用于存储该处理器可执行程序代码的存储器;

28、其中,该处理器被配置为执行该程序代码,以实现上述推荐模型的训练方法。

29、根据本公开实施例的另一方面,提供一种计算机可读存储介质,当该计算机可读存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行上述推荐模型的训练方法。

30、根据本公开实施例的另一方面,提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述推荐模型的训练方法。

31、本公开实施例提供了一种推荐模型的训练方法,将样本物品对应的多个样本用户特征构建为用户特征序列,训练时逐轮将物品信息和前i-1个样本用户特征输入推荐模型,预测第i个会对该样本物品执行正向反馈的用户特征,对比序列中作为真值的第i 样本用户特征,从而迭代更新模型。该方案能够模拟该物品下用户正向反馈的时序发生过程,让模型学习物品与后续正向反馈用户之间的关联关系,提高了模型预测下一个正向反馈用户的能力,从而能够针对物品精准挖掘潜在用户,提高了基于物品推荐用户的准确度。

32、应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。