基于时间感知兴趣演化的点击率预测方法

技术特征：
1.一种基于时间感知兴趣演化的点击率预测方法，其特征在于，包括：s1，采集用户、目标项目、用户历史行为的用户数据信息；s2，根据所述用户数据信息预测所述用户在所述目标项目的点击概率；s3，将点击概率大于或者等于预设点击率阈值所对应的目标项目推荐给用户。2.根据权利要求1所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述s2包括：s2-1，通过预测模型的嵌入层将用户、目标项目和用户历史行为中的稀疏特征转化为低维密集向量，得到用户、目标项目和用户历史行为的嵌入向量；s2-2，捕获用户的兴趣表示；s2-3，将目标项目、用户的嵌入向量和用户的兴趣表示连接起来，得到连接的向量；s2-4，将连接的向量送入多层感知器mlp；s2-5，使用softmax函数预测用户点击目标项目的概率。3.根据权利要求1所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述s2-2包括：s2-2-1，通过所述预测模型的兴趣提取层基于用户历史行为的嵌入向量提取用户历史行为的兴趣表示；s2-2-2，通过所述预测模型的兴趣发展层基于目标项目的嵌入向量提取目标项目的兴趣表示。4.根据权利要求3所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述兴趣提取层包括：采用gru模型来模拟行为之间的依赖关系，其中gru的输入是按发生时间排序的行为；所述gru模型包括：u
t
＝σ(w
u
i
t
u
u
h
t-1
b
u
)r
t
＝σ(w
r
i
t
u
r
h
t-1
b
r
))其中u
t
代表gru的更新门；σ(
·
)为sigmoid激活函数；i
t
是gru的输入；h
t-1
表示gru第t-1个隐藏层的状态；r
t
代表重置门；代表候选集；h
t
表示gru第t个隐藏层的状态；tanh(
·
)为双曲正切函数；ο为元素乘积符号；w
u
,w
r
,w
h
均为属于n
h
×
d
model
维实数域的参数；u
u
,u
r
,u
h
均为属于n
h
×
n
h
维实数域的参数；
b
u
,b
r
,b
h
均为属于n
h
×
n
h
维实数域的参数；n
h
为隐藏层的尺寸。5.根据权利要求3所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述兴趣发展层包括：采用注意力机制和att-gru模型相结合的模型；所述注意力机制包括时间感知注意力网络，所述时间感知注意力网络包括：注意力分数p
a
＝a(b
a
,e
t
)以及三个时间的注意力分数p
y
，p
m
，p
d
；当前年份与用户历史行为发生的年份进行交互，得到年份的注意力分数为：p
y
＝a(y
t
,y
now
)其中a(
·
,
·
)为注意力函数；y
t
表示用户历史行为发生的年份；y
now
表示当前年份的嵌入向量；当前年份与用户历史行为发生的月份进行交互，得到月份的注意力分数为：p
m
＝a(m
t
,m
now
)其中m
t
表示用户历史行为发生的月份；m
now
表示当前月份的嵌入向量；当前日份与用户历史行为发生的日份进行交互，得到日份的注意力分数为：p
d
＝a(d
t
,d
now
)其中d
t
表示用户历史行为发生的日份；d
now
表示当前日份的嵌入向量；最终输出非线性组合a
′
：a
′
＝w0p
a
w1p
y
w2p
m
w3p
d
w4p
y
p
m
p
d
w5p
a
p
y
p
m
p
d
其中w0、w1、w2、w3、w4、w5为向量参数。6.根据权利要求5所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述att-gru模型包括：gru模型包括：gru模型包括：gru模型包括：gru模型包括：其中u
′
t
代表att-gru的包含注意力的更新门；σ(
·
)为sigmoid激活函数；i
′
t
是att-gru的输入；h
′
t-1
表示att-gru第t-1个隐藏层的状态；w
t
指时间感知注意力网络得到的注意力分数；r
′
t
代表att-gru的包含注意力的重置门；
代表候选集；z
′
t
代表额外的候选集；y
′
t
代表i
′
t
的年份表示向量；m
′
t
代表i
′
t
的月份表示向量；d
′
t
代表i
′
t
的日份表示向量；h
′
t
表示att-gru第t个隐藏层的状态；tanh(
·
)为双曲正切函数；ο为元素乘积符号；均为属于n
h
×
d
model
维实数域的参数；均为属于n
h
×
n
h
维实数域的参数；均为属于n
h
×
d
model
维实数域的参数；均为属于n
h
×
n
h
维实数域的参数；均为属于n
h
×
d
model
维实数域的参数；d
model
为嵌入维度；n
h
为隐藏层的尺寸。7.根据权利要求2所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述预测模型还包括全局损失，所述全局损失为：l＝l
target
α*l
aux
其中l
target
为损失函数；α是平衡兴趣特征表示和点击率预测的超参数；l
aux
为辅助损失函数。8.根据权利要求7所述的一种基于时间感知兴趣演化的点击率预测方法，其特征在于，所述辅助损失包括：所述辅助损失包括：所述辅助损失包括：其中y
aux
表示用户正样本实例的激活函数值；σ(
·
,
·
)为sigmoid激活函数，[x1,x2]表示向量x1与向量x2的拼接；表示用户i的第t个gru隐藏状态；表示用户i点击的第t 1个项目的嵌入向量；
表示用户负样本实例的激活函数值；表示排除的项目集合ε中的项目的嵌入向量；n表示用户的总数。

技术总结
本发明提出了一种基于时间感知兴趣演化的点击率预测方法，包括：S1，采集用户、目标项目、用户历史行为的用户数据信息；S2，根据所述用户数据信息预测所述用户在所述目标项目的点击概率；S3，将点击概率大于或者等于预设点击率阈值所对应的目标项目推荐给用户。本发明使用了时间感知注意力网络与ATT-GRU，捕捉历史行为序列在不同时间维度(年份、月份、日份)的用户兴趣表示，通过捕捉每个维度的时间因素对注意力的影响，能够对于时间跨度较长期的用户的点击率得到更加精确的预估结果。户的点击率得到更加精确的预估结果。户的点击率得到更加精确的预估结果。


技术研发人员：王佳萌 陈乙雄
受保护的技术使用者：重庆大学
技术研发日：2021.12.24
技术公布日：2022/4/12