基于深度学习的有线电视运营商的排序推荐系统及方法与流程

1.本发明属于有限电视技术领域，具体涉及基于深度学习的有线电视运营商的排序推荐系统及方法。


背景技术：

2.电视是当今最常见的家用电器之一。iptv是从数字电视发展而来的，它使用户能够更方便、更高效地访问多媒体内容。尤其是，iptv提供的交互式服务，例如时移电视、视频点播和按需付费，使得观众能够在任何时候观看优选的内容。然而，随着可用内容的不断增加，也出现了挑战，因为观众对浏览内容没有兴趣，尤其是通过不方便的电视遥控器。因此，有线电视运营商发展推荐系统向受众提供个性化服务。
3.推荐系统已经广泛应用于基于web的视频应用，如netflix、youtube、腾讯、优酷等，通过提供基于丰富用户配置文件和受众各种交互的内容建议来处理信息开销。然而，由于iptv用户基本信息有限以及缺乏用户偏好方面的明确知识，在iptv应用中产生好的推荐方案面临着更多的挑战。首先，iptv帐户通常由一群观众共享，例如儿童、父母和祖父母等。在一个家庭里。因此，每个iptv账户的初始注册信息不一定具有有效的用户基本信息。其次，互动的选择较少，很难从受众那里得到明确的反馈。例如，iptv应用程序通常不提供评分、评论和支持列表。


技术实现要素：

4.本发明要解决的技术问题是，提供一种能有效推荐精度的基于深度学习的有线电视运营商的排序推荐系统及方法。
5.本发明的技术方案是：一种基于深度学习的有线电视运营商的排序推荐系统，其特征在于：包括基础编码层、注意力层和融合层；
6.所述基础编码层用于完成对用户点击序列和目标影片的嵌入编码，并最终以稠密向量的形式输出对输入信息的编码；
7.所述注意力层用于接收来自所述基础编码层的稠密向量，对用户点击序列向量编码，并将目标影片向量解码映射得到用户偏好语义特征向量；
8.所述融合层用于接收来自所述注意力层的用户偏好语义特征向量和目标影片向量，对用户特征向量和目标影片向量进行计算，得到用户对该影片的点击率。
9.具体地，所述注意力层包括多个transformer结构；多个所述transformer结构以级联的方式堆叠而成，每个transformer结构包括一层自注意力编码层和一层注意力解码层；
10.所述自注意力编码层接收来自所述基础编码层的用户点击序列向量，并将用户点击序列向量通过自注意力映射成用户语义特征向量；
11.所述注意力解码层对所述用户语义特征向量与目标影片向量进行解码，映射得到用户偏好语义特征向量。
12.基于深度学习的有线电视运营商的排序推荐方法，具体包括以下步骤：
13.步骤s1、基础编码层对用户点击序列和目标影片的进行编码，将编码后的向量序列输出到注意力层；
14.步骤s2、注意力层中自注意力编码层接收来自基础编码层的用户点击序列向量并进行自注意力，映射得到用户语义特征向量；
15.步骤s3：注意力层中注意力解码层将用户语义特征向量与目标影片向量进行注意力解码，映射得到用户偏好语义特征向量；
16.步骤s4：重复步骤s2和步骤s3直到所有用户偏好语义特征向量被映射提取后输入到融合层；
17.步骤s5：融合层中的内积操作和多层感知机同时接收注意力层的用户偏好语义特征向量和基础编码层的目标影片向量，二者并将计算的结果进行拼接，得到用户对该影片的点击率。
18.具体地，所述步骤s1中编码以稠密向量的形式表示，稠密向量为i：
[0019][0020]
其中，n为影片数量，d为嵌入向量长度，r指实数空间。
[0021]
具体地，所述步骤s2具体包括以下步骤：
[0022]
步骤s21：设定用户点击序列向量为s；通过方程式(1)得到：
[0023][0024]
其中：l为序列长度，si＝ij指某一部被点击的影片；
[0025]
步骤s22：设定注意力为：
[0026][0027]
其中，为查询矩阵；为键矩阵；为键所对应的值矩阵；k与v是每一行存在一对一的对应关系；
[0028]
步骤s23：将q中的每一个d维行向量分别与k中的每一个d维行向量进行内积操作并进行相似度计算，得到权重矩阵，其维度为tq×
tk；
[0029]
步骤s24：使用softmax函数对权重进行归一化，将权重和相应的键值进行矩阵相乘运算得到注意力矩阵，其维度为tq×
d；
[0030]
步骤s25：当q,k,v都表示为同一矩阵时，则注意力转换为自注意力；得到用户语义特征向量其维度为tq×
d；
[0031][0032]
具体地，所述步骤s23中内积操作具体指：对两个n维向量a、b进行内积定义；
[0033]
其中a＝[a1,a2,...,an]；b＝[b1,b2,...,bn]：
[0034]a·
b＝a1b1 a2b2 ...... a
nbn
ꢀꢀꢀ
(4)。
[0035]
具体地，所述步骤s4具体是指，得到用户偏好语义特征向量uo，其维度为1
×
d：
[0036][0037]
具体地，所述步骤s5中的内积操作具体是指：
[0038]
h1＝uo·it
ꢀꢀꢀ
(7)
[0039]
其中uo为用户偏好语义特征向量；i
t
为目标影片向量。
[0040]
具体地，所述步骤s5中的多层感知机具体是指：
[0041]
首先需要将uo和稠密向量i
t
拼接得到z0：
[0042]
z0＝concat(uo,i
t
)
ꢀꢀꢀ
(8)
[0043]
两个向量a＝[a1,a2,...,an]和b＝[b1,b2,...,bn]的concat定义为：
[0044]
concat(a,b)＝[a,b]＝[a1,a2,...,an,b1,b2,...,bn]
ꢀꢀꢀ
(9)
[0045]
然后z0作为多层感知机的输入，得到输出h2：
[0046][0047]
其中，多层感知机包括多个隐藏层，每个隐藏层表示为α
l
(w
ltzl-1
b
l
)；
[0048]
α
l
表示该隐藏层的激活函数，w
lt
为该隐藏层的权重矩阵，z
l-1
为上一隐藏层的输出，b
l
为该隐藏层的偏置向量；
[0049]wlt
与z
l-1
进行矩阵相乘运算，然后与b
l
进行求和运算，最后利用激活函数α
l
得到激活值；
[0050]
将内积操作和多层感知机的输出h1和h2拼接起来得到：
[0051]
h＝concat(h1,h2)
ꢀꢀꢀ
(11)；
[0052]
最后，用户对该影片的点击率表示为：
[0053][0054]
与现有技术比较，本发明的有益效果是：应用序列建模的方式，根据用户的历史点击记录后处理成点击序列，通过计算出注意力的表现形式，用来处理点击序列，从而更精准的进行推荐。
附图说明
[0055]
图1为本发明中推荐系统的示意图；
[0056]
图2为本发明中融合层的示意图；
[0057]
图3为本发明的工作流程图。
具体实施方式
[0058]
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明的部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。
[0059]
实施例1
[0060]
本发明通过下述技术方案实现，如图1-图3所示，基于深度学习的有线电视运营商的排序推荐系统，包括：
[0061]
基础编码层：用于完成对用户点击序列和目标影片的嵌入编码，并最终以稠密向量的形式输出对输入信息的编码；
[0062]
注意力层：用于接收来自所述基础编码层的稠密向量，对用户点击序列向量编码，并将目标影片向量解码映射得到用户偏好语义特征向量；
[0063]
融合层：用于接收来自所述注意力层的用户偏好语义特征向量和目标影片向量，对用户特征向量和目标影片向量进行计算，得到用户对该影片的点击率。
[0064]
进一步地，为了更好的实现本发明，所述注意力层包括多个transformer结构，多个所述transformer结构以级联的方式堆叠而成，每个transformer结构包括一层自注意力编码层和一层注意力解码层；
[0065]
所述自注意力编码层接收来自所述基础编码层的用户点击序列向量，并将用户点击序列向量通过自注意力映射成用户语义特征向量；
[0066]
所述注意力解码层对所述用户语义特征向量与目标影片向量进行解码，映射得到用户偏好语义特征向量。
[0067]
需要说明的是，通过上述改进，所述自注意力编码层接收来自所述基础编码层的用户点击序列向量，并将这一向量通过自注意力映射成用户语义特征向量；所述注意力解码层对所述用户语义特征向量与目标影片向量进行解码，映射得到用户偏好语义特征向量。
[0068]
图2所示，所述融合层包括内积操作和多层感知机两个部分，二者并将计算的结果最后进行拼接输入到一层全连接得到最终的点击率。
[0069]
图2所示，所述多层感知机包括多个隐藏层。
[0070]
本发明通过应用序列建模的方式，根据用户的历史点击记录，从而更精准的进行推荐，精确度高。
[0071]
实施例2
[0072]
本实施例在上述实施例的基础上做进一步优化，如图3所示，基于深度学习的有线电视运营商的排序推荐方法，具体包括以下步骤：
[0073]
步骤s1：基础编码层对用户点击序列和目标影片的进行编码，编码以稠密向量的形式表示，同时输出编码后的向量序列到注意力层；
[0074]
步骤s2：注意力层中自注意力编码层接收来自基础编码层的用户点击序列向量并进行自注意力，映射得到用户语义特征向量；
[0075]
步骤s3：注意力层中注意力解码层将用户语义特征向量与目标影片向量进行注意力解码，映射得到用户偏好语义特征向量；
[0076]
步骤s4：重复步骤s2和步骤s3直到所有用户偏好语义特征向量被映射提取后输入到融合层；
[0077]
步骤s5：融合层中的内积操作和多层感知机同时分别接收注意力层的用户偏好语义特征向量和基础编码层的目标影片向量，分别进行计算，并将计算的结果进行拼接，在经过一层隐藏层从而得到用户对该影片的点击率。
[0078]
本实施例的其他部分与上述实施例相同，故不再赘述。
[0079]
实施例3
[0080]
本实施例在上述实施例的基础上做进一步优化，如图1所示，一步地，为了更好的实现本发明，所述步骤s1中稠密向量为i：
[0081][0082]
其中，n为影片数量，d为嵌入向量长度，r指实数空间。
[0083]
需要说明的是，通过上述改进，通常情况下，影片根据其索引被表示为稀疏的one-hot向量，但是在基础编码层中，影片被表示为稠密的嵌入向量，n是影片数量，d是嵌入向量长度。
[0084]
本实施例的其他部分与上述实施例相同，故不再赘述。
[0085]
实施例4
[0086]
本实施例在上述实施例的基础上做进一步优化，如图1所示，进一步地，为了更好的实现本发明，所述步骤s2具体包括以下步骤：
[0087]
步骤s21：设定用户点击序列向量为s；通过方程式(1)得到：
[0088][0089]
其中：l为序列长度，si＝ij指某一部被点击的影片；点击序列中的每一部影片表示为d为向量，因此，长度为l的点击序列表示为l
×
d的矩阵；
[0090]
步骤s22：根据注意力机制，设定注意力为：
[0091][0092]
其中，为查询矩阵；为键矩阵；为键所对应的值矩阵；k与v是每一行存在一对一的对应关系；公式(3)是注意力的通用表现形式，用来处理点击序列；
[0093]
步骤s23：将q中的每一个d维行向量分别与k中的每一个d维行向量进行内积操作并进行相似度计算，得到权重矩阵，其维度为tq×
tk，相当于矩阵q与矩阵k的转置相乘；
[0094]
所述步骤s23中内积操作具体是指：
[0095]
对两个n维向量a、b进行内积定义；
[0096]
其中a＝[a1,a2,...,an]；b＝[b1,b2,
…
,bn]：
[0097]a·
b＝a1b1 a2b2 ...... a
nbn
ꢀꢀꢀ
(4)。
[0098]
其中，为查询矩阵；为键矩阵；为键所对应的值矩阵；k与v是每一行存在一对一的对应关系；
[0099]
步骤s24：使用softmax函数对权重进行归一化，将权重和相应的键值进行矩阵相乘运算得到注意力矩阵，其维度为tq×
d；
[0100]
步骤s25：当q,k,v都表示为同一矩阵时，则注意力转换为自注意力；得到用户语义特征向量其维度为tq×
d；求得用户语义特征向量
[0101][0102]
公式(5)是计算相似度的一种形式。
[0103]
本实施例的其他部分与上述实施例相同，故不再赘述。
[0104]
实施例5
[0105]
本实施例在上述实施例的基础上做进一步优化，如图1所示，进一步地，为了更好的实现本发明，所述步骤s4具体是指，得到用户偏好语义特征向量uo，其维度为1
×
d；
[0106][0107]
进一步地，为了更好的实现本发明，通过方程式(5)，步骤s5中的内积操作具体是指：
[0108]
h1＝uo·it
ꢀꢀꢀ
(7)
[0109]
其中uo为用户偏好语义特征向量；i
t
为目标影片向量。
[0110]
进一步地，为了更好的实现本发明，所述步骤s5中的多层感知机具体是指：
[0111]
将用户偏好语义特征向量uo和i拼接得到z0：
[0112]
z0＝concat(uo,i)
ꢀꢀꢀ
(8)
[0113]
对向量a和向量b采用concat函数定义：
[0114]
concat(a,b)＝[a,b]＝[a1,a2,...,an,b1,b2,...,bn]
ꢀꢀꢀ
(9)
[0115]
然后z0作为多层感知机的输入，得到输出h2：
[0116][0117]
其中，多层感知机由多个隐藏层组成，每个隐藏层表示为α
l
(w
ltzl-1
b
l
)；
[0118]
α
l
表示该隐藏层的激活函数，w
lt
为该层的权重矩阵，z
l-1
为上一隐藏层的输出，b
l
为该隐藏层的偏置向量；
[0119]wlt
与z
l-1
进行矩阵相乘运算，然后与b
l
进行求和运算，最后利用激活函数α
l
得到激活值；
[0120]
将内积操作和多层感知机的输出h1和h2拼接起来得到：
[0121]
h＝concat(h1,h2)
ꢀꢀꢀ
(11)；
[0122]
最后，用户对该影片的点击率表示为：
[0123][0124]
上述公式(11)的输出h是公式(12)的输入。
[0125]
以上公开的本发明优选实施例只是用于帮助阐述本发明。优选实施例并没有详尽叙述所有的细节，也不限制该发明仅为所述的具体实施方式。显然，根据本说明书的内容，可作很多的修改和变化。本说明书选取并具体描述实施例，是为了更好地解释本发明的原理和实际应用，从而使所属技术领域技术人员能很好地理解和利用本发明。