基于用户兴趣偏好的跨域迁移推荐系统

1.本技术实施例涉及媒体资源推荐领域，尤其涉及基于用户兴趣偏好的跨域迁移推荐系统。


背景技术：

2.随着互联网的快速发展，媒体资源推荐被应用于人们日常生活中的各方各面，比如，在阅读应用中可以为用户推荐感兴趣书籍，在长短视频应用中可以为用户推荐感兴趣的长视频或者短视频，在音频应用中可以为用户推荐评书、有声书、广播剧等，但是，这些应用互相之间没有数据交互，也无法根据其他的应用中的有效信息优化自身的推荐能力。


技术实现要素：

3.为了解决上述至少一个技术问题，本技术实施例提供基于用户兴趣偏好的跨域迁移推荐系统。
4.一方面，本技术实施例提供了基于用户兴趣偏好的跨域迁移推荐系统，所述系统包括用户数据获取模块，以及推荐模块：
5.所述用户数据获取模块，用于获取用户的账号信息、行为习惯信息以及在目标域的历史行为记录，所述域指向应用场景以及，所述应用场景所使用的、并且对应于所述应用场景的特定类型的媒体资源所形成的媒体资源空间；
6.所述推荐模块，用于根据所述用户的账号信息、所述行为习惯信息以及在所述目标域的历史行为记录，向所述用户推荐所述目标域中的媒体资源；
7.其中，所述推荐模块通过迁移至少两个域中的共性联想偏好信息训练得到。
8.在一个实施例中，所述推荐模块具体用于执行下述操作：
9.根据所述用户的账号信息以及所述历史行为记录预测所述用户在所述目标域的媒体资源偏好信息，所述目标域的媒体资源偏好信息表征所述用户在所述目标域所在的应用场景中，对所述目标域对应的特定类型的媒体资源的偏好信息；
10.根据所述用户的账号信息、行为习惯信息和静态属性信息预测用户的行为指示偏好信息，所述行为指示偏好信息表征用户在所述目标域的行为倾向；
11.根据所述目标域的媒体资源偏好信息和所述用户行为指示偏好信息预测被推荐的媒体资源。
12.在一个实施例中，所述推荐模块由神经网络构建得到，所述神经网络通过下述方法训练：
13.获取至少一批的样本用户对应的样本数据，所述样本数据包括所述样本用户的账号信息、静态属性信息、行为习惯信息、至少一个样本域的历史行为信息以及反馈行为信息；
14.针对每一样本用户的针对每一样本域的样本数据，执行下述操作：
15.将所述样本域输入第一网络进行分散性激活处理，得到针对各第二网络分别对应
的融合特征参量，所述神经网络包括至少两个域分别对应的第二网络，所述第二网络用于输出所对应的域的媒体资源本身的共性联想偏好信息；
16.将所述各第二网络分别对应的融合特征参量，分别对应输入第二网络，并将各第二网络输出的信息进行融合，得到基于所述样本域的共性联想偏好信息；
17.将针对所述样本域的历史行为信息输入第三网络进行嵌入特征提取，得到所述样本域对应的历史行为特征；
18.将所述样本域对应的历史行为特征和所述样本域的共性联想偏好信息一起输入第四网络进行编码，得到所述样本用户在样本域对应的媒体资源偏好信息；
19.将所述样本用户的账号信息、静态属性信息和行为习惯信息输入第五网络进行基于融合的特征提取，得到所述样本用户对应的行为指示偏好信息；
20.将所述样本域对应的媒体资源偏好信息和所述样本用户对应的行为指示偏好信息输入第六网络，得到所述样本用户在所述样本域下个性化的感兴趣资源；
21.根据所述感兴趣资源和所述样本数据中针对所述感兴趣资源的反馈行为信息，确定所述神经网络产生的损失；
22.根据所述损失反馈调整所述第一网络、所述第二网络、所述第三网络、所述第四网络、所述第五网络和所述第六网络的参数。
23.在一个实施例中，所述账号信息包括：账号标识、账号归属地、账号活跃频率、账号等级中的至少一个；
24.所述静态属性信息包括：所述账号所属的用户的年龄信息、性别信息、学历信息、地域信息、简介信息中的至少一个；
25.所述行为习惯信息包括：所述账号所属的用户是否有长期固定的兴趣，是否喜欢重复消费相同的媒体资源中的至少一个；
26.所述历史行为信息：所述账号所属的用户的消费媒体资源的历史行为。
27.在一个实施例中，所述第二网络来自于对应的域所对应的推荐系统，通过跨域迁移被链接至所述神经网络。
28.在一个实施例中，所述第一网络和每一所述第二网络之间均设置有激活层序列，所述激活层序列包括依次连接的至少两个激活层，对于任一第二网络，所述样本域被输入所述第一网络进行特征表征，得到样本域特征，将所述样本域特征被输入所述第二网络对应的激活层序列的靠近所述第一网络的激活层，并由所述激活层序列靠近所述第二网络的激活层输出对应的融合特征参量；
29.对于任一所述激活层序列，所述激活层序列中的相邻激活层的激活函数不一致。
30.在一个实施例中，所述至少一个样本域包括下述样本域中的至少一个：
31.在视频播放场景中播放的视频类型的媒体资源形成的媒体资源空间；
32.在音频播放场景中播放的音频类型的媒体资源形成的媒体资源空间；
33.在图书阅览场景中播放的文本类型的媒体资源形成的媒体资源空间。
34.在一个实施例中，所述所述至少一批的样本用户对应的样本数据包括至少两批的样本用户对应的样本数据；
35.所述训练方法还包括：
36.基于第一目标批次的样本数据进行神经网络的训练，得到中间态神经网络；
37.基于所述中间态神经网络的精度信息和预设的精度信息目标值之间的差异，对所述中间态神经网络进行裁剪处理，得到裁剪后的神经网络；
38.基于第二目标批次的样本数据进行所述裁剪后的神经网络的训练。
39.另一方面，本技术实施例提供了一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一条指令或至少一段程序，所述至少一条指令或至少一段程序由处理器加载并执行以实现上述的基于用户兴趣偏好的跨域迁移推荐系统。
40.另一方面，本技术实施例提供了一种电子设备，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述至少一个处理器通过执行所述存储器存储的指令实现上述的基于用户兴趣偏好的跨域迁移推荐系统。
41.另一方面，本技术实施例提供了一种计算机程序产品，包括计算机程序或指令，该计算机程序或指令被处理器执行时实现上述的基于用户兴趣偏好的跨域迁移推荐系统。
42.本技术实施例提供基于用户兴趣偏好的跨域迁移推荐系统，该方案将各个应用程序分别对应的个性化的推荐系统中相关的信息通过跨域迁移的方式迁移到一个综合性的跨域迁移推荐系统，从而使得该跨域迁移系统可以为其所支持的各个域提供对应的推荐服务，这就实现了不同域的共性信息的融合以及对各个域都进行高精准推荐的目的。
附图说明
43.为了更清楚地说明本技术实施例或相关技术中的技术方案和优点，下面将对实施例或相关技术描述中所需要使用的附图作简单的介绍，显而易见地，下面描述中的附图仅仅是本技术实施例的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它附图。
44.图1是本说明书实施例提供的基于用户兴趣偏好的跨域迁移推荐系统的虚拟结构示意图；
45.图2是本技术实施例提供的神经网络训练方法的流程示意图。
具体实施方式
46.下面将结合本技术实施例中的附图，对本技术实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本技术实施例一部分实施例，而不是全部的实施例。基于本技术实施例中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本技术实施例保护的范围。
47.需要说明的是，本技术实施例的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本技术实施例的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或服务器不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
48.为了使本技术实施例公开的目的、技术方案及优点更加清楚明白，以下结合附图
及实施例，对本技术实施例进行进一步详细说明。应当理解，此处描述的具体实施例仅仅用以解释本技术实施例，并不用于限定本技术实施例。
49.以下，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本实施例的描述中，除非另有说明，“多个”的含义是两个或两个以上。为了便于理解本技术实施例上述的技术方案及其产生的技术效果，本技术实施例首先对于相关专业名词进行解释：
50.以下介绍本技术实施例的基于用户兴趣偏好的跨域迁移推荐系统，图1示出了本技术实施例提供的基于用户兴趣偏好的跨域迁移推荐系统的虚拟结构示意图。
51.所述系统包括用户数据获取模块101，以及推荐模块102，
52.所述用户数据获取模块101，用于获取用户的账号信息、行为习惯信息以及在目标域的历史行为记录，所述域指向应用场景以及，所述应用场景所使用的、并且对应于所述应用场景的特定类型的媒体资源所形成的媒体资源空间。
53.本技术中可以对来自各个域的用户，根据其账号信息、行为习惯信息以及在该域的历史行为记录，预测该用户感兴趣的在该域的媒体资源，则该域即为上述的目标域。本技术中目标域可以为所述迁移推荐系统所支持的各个域中的任一域。
54.事实上，本技术实施例认为，虽然存在各个不同的应用，可以为用户推荐不同的类型的媒体资源，但是对于同一个用户来说，其爱好是有共性的，比如，用户喜欢历史，则其观看的视频、音频和图书很有可能都是历史类的，也就是说，对这一共性的信息的充分利用有利于更加准确的预测用户的偏好，这也是本技术实施例中构建基于用户的兴趣偏好的跨域迁移系统的一个原因，将各个应用程序分别对应的个性化的推荐系统中相关的信息通过跨域迁移的方式迁移到一个综合性的跨域迁移推荐系统，从而使得该跨域迁移系统可以为其所支持的各个域提供对应的推荐服务，这就实现了不同域的共性信息的融合以及对各个域都进行高精准推荐的目的。
55.本技术中的参与跨域迁移的域包括下述至少之一：在视频播放场景中播放的视频类型的媒体资源形成的媒体资源空间，视频播放场景中的特定类型指的就是视频这一类型；在音频播放场景中播放的音频类型的媒体资源形成的媒体资源空间，音频播放场景中的特定类型指的就是音频这一类型；在图书阅览场景中播放的文本类型的媒体资源形成的媒体资源空间，图书阅览场景中的特定类型指的就是文本这一类型。也就是说，可以对这些域相关的应用程序的所对应的个性化推荐系统进行跨域迁移来得到跨域迁移系统。
56.用户数据获取模块101可以在推荐场景中使用，向其输入用户的账号信息、行为习惯信息以及在该跨域迁移系统所支持的某个域(目标域)的历史行为记录，即可得到该跨域迁移系统的推荐结果，该推荐结果可以是在该目标域中向用户所推荐的媒体资源。
57.所述推荐模块102，用于根据所述用户的账号信息、所述行为习惯信息以及在所述目标域的历史行为记录，向所述用户推荐所述目标域中的媒体资源；其中，所述推荐模块通过迁移至少两个域中的共性联想偏好信息训练得到。
58.该推荐模块102是该跨域推荐系统核心组件，是通过跨域迁移所构建得到的，所述推荐模块具体用于执行下述操作：
59.根据所述用户的账号信息以及所述历史行为记录预测所述用户在所述目标域的
媒体资源偏好信息，所述目标域的媒体资源偏好信息表征所述用户在所述目标域所在的应用场景中，对所述目标域对应的特定类型的媒体资源的偏好信息；
60.根据所述用户的账号信息、行为习惯信息和静态属性信息预测用户的行为指示偏好信息，所述行为指示偏好信息表征用户在所述目标域的行为倾向；
61.根据所述目标域的媒体资源偏好信息和所述用户行为指示偏好信息预测被推荐的媒体资源。
62.具体来说，所述账号信息包括：账号标识、账号归属地、账号活跃频率、账号等级中的至少一个；
63.所述静态属性信息包括：所述账号所属的用户的年龄信息、性别信息、学历信息、地域信息、简介信息中的至少一个；
64.所述行为习惯信息包括：所述账号所属的用户是否有长期固定的兴趣，是否喜欢重复消费相同的媒体资源中的至少一个；
65.所述历史行为信息：所述账号所属的用户的消费媒体资源的历史行为。
66.本技术中所述推荐模块由神经网络构建得到，如图2所示，所述神经网络通过下述方法训练：
67.s101.获取至少一批的样本用户对应的样本数据，所述样本数据包括所述样本用户的账号信息、静态属性信息、行为习惯信息、至少一个样本域的历史行为信息以及反馈行为信息。
68.本技术实施例中通过批训练的方式来进行神经网络的训练，每个批次的训练都可以使用步骤s102。当然，样本数据中样本用户的账号信息、静态属性信息、行为习惯信息的内容可以参考前文，而样本域就属于跨域推荐系统所支持的域中的某个域，而历史行为信息包括样本用户在该域中的行为，比如，对于视频应用而言，可以是观看视频的行为，该行为可以包括观看了哪些视频、观看了多久，有没有评论、点赞、评分等内容。而反馈行为信息指定是对于该跨域推荐系统基于该样本用户的账号信息、静态属性信息、行为习惯信息、至少一个样本域的历史行为信息所推荐的媒体资源而言，该样本用户产生的消费信息，比如，是否点击、是否观看、是否评论、是否表达了喜欢或者讨厌等反馈信息。
69.s102.针对每一样本用户的针对每一样本域的样本数据，执行下述操作：
70.(1)将所述样本域输入第一网络进行分散性激活处理，得到针对各第二网络分别对应的融合特征参量，所述神经网络包括至少两个域分别对应的第二网络，所述第二网络用于输出所对应的域的媒体资源本身的共性联想偏好信息；
71.本技术实施例认为虽然域不同，但是用户在不同的域表现出的兴趣却可以呈现相一致的共性联想表现，这是本技术实施例的发明构思的构建基础之一，比如，对于阅读应用关联的域而言，用户喜欢历史书很可能也喜欢人物传记，那么，对于视频应用关联的域而言，用户喜欢历史电影很可能也喜欢人物传记类的电影。这样子的信息就是共性联想信息，各个域的推荐系统中都记录有这种信息，通常来说，各个域的推荐系统都是神经网络构建的，这种信息会被记录在神经网络的参数矩阵中。也即是说，第二网络可以来自各个域所对应的子集的推荐系统，通过训练带有第二网络的跨域迁移推荐系统实现了第二网络的跨域迁移。比如，阅读应用的推荐系统、视频应用的推荐系统和音频应用的推荐系统，将这些推荐系统中记录有共性联想偏好信息的网络迁移到上述神经网络中就是该神经网络中的第
二网络，而第二网络本身记录了跨域迁移的信息，但是这些信息需要跟随神经网络的的训练过程迭代优化，才能最终被应用于跨域迁移系统的推荐。因此，也可以认为，所述第二网络来自于对应的域所对应的推荐系统，通过跨域迁移被链接至所述神经网络。对应的域所对应的推荐系统自然由其对应的软件研发团队维护，在获取授权之后直接使用即可。本技术对其构建方法不做阐述。
72.所述第一网络和每一所述第二网络之间均设置有激活层序列，所述激活层序列包括依次连接的至少两个激活层，对于任一第二网络，所述样本域被输入所述第一网络进行特征表征，得到样本域特征，将所述样本域特征被输入所述第二网络对应的激活层序列的靠近所述第一网络的激活层，并由所述激活层序列靠近所述第二网络的激活层输出对应的融合特征参量；对于任一所述激活层序列，所述激活层序列中的相邻激活层的激活函数不一致。
73.本技术实施例中并不限定第一网络的结构，其可以进行特征提取就可以，特征提取的神经网络结构非常多，比如，cnn或者dnn中的部分结构等，都可以选用，请参考现有技术，在此不做限制。本技术并不限定激活层序列中激活层的数量，最好是两个或者三个。激活层序列本质上就是将样本域特征映射成一个常量，该常量可以作为第二网络输出的信息的权重。本技术实施例对于激活层的激活函数不做限定，只要所述激活层序列中的相邻激活层的激活函数不一致就可以了，通过至少两次的连续激活，可以得到更为适配跨域迁移推荐系统的常量，该常量就是融合特征参量。
74.本技术实施例对于输入至第一网络的样本域的表达方式没有限定，其可以通过样本域对应的标识信息表达。
75.(2)将所述各第二网络分别对应的融合特征参量，分别对应输入第二网络，并将各第二网络输出的信息进行融合，得到基于所述样本域的共性联想偏好信息；
76.每个第二网络中的参数记录了该第二网络对应的域的共性联想偏好信息，将融合特征参量输入第二网络后，达到了对该第二网络的域的共性联想偏好信息的放缩效果，也就是说，如果该第二网络对应的域和样本域接近，则其比较重要，在进行跨域推荐时候重点考虑，但是如果较远，则其比较不重要，在跨域推荐时较少考虑，从而得到了基于所述样本域的共性联想偏好信息，实现了跨域信息的融合并适配至具体的样本域，从而得到样本域的共性联想偏好信息的技术效果。
77.(3)将针对所述样本域的历史行为信息输入第三网络进行嵌入特征提取，得到所述样本域对应的历史行为特征；
78.本技术实施例中并不限定第三网络的结构，其可以进行嵌入特征提取就可以，嵌入特征提取的神经网络结构非常多，比如，cnn或者dnn中的部分结构等，都可以选用，请参考现有技术，在此不做限制。
79.(4)将所述样本域对应的历史行为特征和所述样本域的共性联想偏好信息一起输入第四网络进行编码，得到所述样本用户在样本域对应的媒体资源偏好信息；
80.本技术实施例中并不限定第四网络的结构，其可以进行编码就可以，编码的神经网络结构非常多，比如，transformer中的部分结构等，都可以选用，请参考现有技术，在此不做限制。
81.编码的目的在于对所述样本域对应的历史行为特征和所述样本域的共性联想偏
好信息进行融合，得到所述样本用户在样本域对应的媒体资源偏好信息。
82.(5)将所述样本用户的账号信息、静态属性信息和行为习惯信息输入第五网络进行基于融合的特征提取，得到所述样本用户对应的行为指示偏好信息；
83.本技术实施例中并不限定第五网络的结构，其可以进行基于融合的特征提取就可以，比如，可以使用卷积层、池化层、最大池化层等有机组合得到第五网络，其构建方法不做限定，本领域技术人员可根据实际情况设计。
84.(6)将所述样本域对应的媒体资源偏好信息和所述样本用户对应的行为指示偏好信息输入第六网络，得到所述样本用户在所述样本域下个性化的感兴趣资源；
85.本技术实施例中并不限定第六网络的结构，其可以进行基于融合的特征提取就可以，比如，可以使用卷积层、池化层、最大池化层等有机组合得到第六网络，其构建方法不做限定，本领域技术人员可根据实际情况设计。
86.(7)根据所述感兴趣资源和所述样本数据中针对所述感兴趣资源的反馈行为信息，确定所述神经网络产生的损失；
87.本技术实施例对于损失的度量方法不做限定，基于预测出的资源和该资源的反馈信息确定损失的方法在推荐类神经网络训练中比比皆是，对此，不做赘述。
88.(8)根据所述损失反馈调整所述第一网络、所述第二网络、所述第三网络、所述第四网络、所述第五网络和所述第六网络的参数。
89.神经网络的训练过程中前(1)至(7)都是前向反馈的步骤，(8)是反馈调节的步骤，关于前向反馈和反向调节以及反向调节的调参方法，以及神经网络的训练终止条件都属于现有技术，可以查阅其他资料，对此不做赘述。
90.本技术实施例中，可以分多个批次来进行神经网络的训练，由于神经网络比较庞大，收敛速度和精度的把控也会存在困难，对此，本技术实施例提出在连续两个批次的训练中间来进行神经网络的裁剪，也就是，将裁剪和训练这两个优化神经网络的步骤按照批次的方式交叠进行，从而加快收敛，并且在充分保证精度的基础上精简神经网络，提升训练速度。
91.具体来说，所述所述至少一批的样本用户对应的样本数据包括至少两批的样本用户对应的样本数据；所述训练方法还包括：基于第一目标批次的样本数据进行神经网络的训练，得到中间态神经网络；基于所述中间态神经网络的精度信息和预设的精度信息目标值之间的差异，对所述中间态神经网络进行裁剪处理，得到裁剪后的神经网络；基于第二目标批次的样本数据进行所述裁剪后的神经网络的训练。
92.第一目标批次的样本和第二目标批次的样本可以被理解为任意两个连续的批次中的样本，在连续两个批次的样本的训练中根据中间态神经网络的精度来进行神经网络裁剪，从而使得裁剪后的神经网络体量更小，训练速度更快，从而加快训练，快速收敛。本技术实施例精度信息目标值可以根据实际情况设定，而精度信息的获取可以使用相关的神经网络精度信息评估软件计算，神经网络的裁剪可以有多种方式和规则，其具体如何裁剪可以基于现有技术实施，本技术实施例不做限定，但是需要指出的是，这种交叠裁剪与按照批次调参的训练方式是本技术实施例为了快速收敛神经网络并保证精度而提出的发明构思。
93.本技术实施例提供基于用户兴趣偏好的跨域迁移推荐系统，该方案将各个应用程序分别对应的个性化的推荐系统中相关的信息通过跨域迁移的方式迁移到一个综合性的
跨域迁移推荐系统，从而使得该跨域迁移系统可以为其所支持的各个域提供对应的推荐服务，这就实现了不同域的共性信息的融合以及对各个域都进行高精准推荐的目的。
94.另一方面，本技术实施例提供了一种电子设备，包括至少一个处理器，以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述至少一个处理器通过执行所述存储器存储的指令实现上述的基于用户兴趣偏好的跨域迁移推荐系统。
95.另一方面，本技术实施例提供了一种计算机程序产品，包括计算机程序或指令，该计算机程序或指令被处理器执行时实现上述的基于用户兴趣偏好的跨域迁移推荐系统。
96.以上上述仅为本技术实施例的较佳实施例，并不用以限制本技术实施例，凡在本技术实施例的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本技术实施例的保护范围之内。