一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种基于注意力机制的情感时序推荐方法与流程

2022-03-09 10:21:40 来源:中国专利 TAG:

技术特征:
1.一种基于注意力机制的情感时序推荐方法,其特征在于,包括以下步骤:s1、收集评论信息和时间信息,并将其输入嵌入层,得到具有时态信息的用户因素和项目因素;s2、将有时态信息的用户因素和项目因素输入至blstm层进行情感特征提取,得到用户和项目之间的交互序列;s3、将用户和项目之间的交互序列通过注意力层输入至cnn层,得到用户表示和项目表示;s4、将用户表示和项目表示输入至输出层,得到精确评分,进而将最高精确评分对应项目作为情感时序推荐结果。2.根据权利要求1所述的基于注意力机制的情感时序推荐方法,其特征在于,所述步骤s1中,所述评论信息具体为评论的集合r={r1,r2,...,r
p
},其中,r
i
为第i条评论,i=1,2,...,p,p为评论的总数;第i条评论具体为r
i
={w1,w2,...,w
q
},其中,w
j
为第j个词的低维密集向量,j=1,2,...,q,q为第i条评论的单词数;其中,第j个词的低维密集向量w
j
的表达式具体为:w
j
=e
j
×
w
e
式中,w
e
为预训练的词向量矩阵,e
j
为嵌入层中输入第j个词生成对应的索引e
j
;所述时间信息具体为第i次用户与项目交互和第i 1次用户与项目交互之间的时间间隔其表达式具体为:式中,t
i
为第i条评论对应的时间,min(t)为用户与项目交互时间间隔的最小值,max(t)为用户与项目交互时间间隔的最大值。3.根据权利要求2所述的基于注意力机制的情感时序推荐方法,其特征在于,所述步骤s1中,具有时态信息的用户因素和项目因素具体为融合时间信息的用户和项目评论集;得到具有时态信息的用户因素和项目因素的方法具体为:通过融合时间信息和评论信息,得到更新后的评论,进而得到融合时间信息的用户和项目评论集;其中,融合时间信息的用户和项目评论集r

=[r
t1
,r
t2
,...,r
tq
];r
ti
为更新后的第i条评论,且评论,且为连接算子。4.根据权利要求3所述的基于注意力机制的情感时序推荐方法,其特征在于,所述步骤s2中,blstm层包括并列的前向lstm层和后向1stm层;所述步骤s2包括以下分步骤:s21、将融合时间信息的用户和项目评论集输入blstm层,通过前向lstm层和后向lstm层进行情感特征提取,分别得到时间步k的语法含义和时间步k的单子含义其中,时间步k的语法含义和时间步k的单子含义的表达式具体为:
式中,为时间步k-1的语法含义,为时间步k-1的单子含义,x
k
为在时间步k,blstm层输入融合时间信息的用户和项目评论集向量;s22、根据语法含义和单子含义得到时间步k的隐藏状态更新h
k
;其中,时间步k的隐藏状态更新h
k
的表达式具体为:s23、将所有时间步的隐藏状态更新组合,得到用户和项目之间的交互序列h;其中,用户和项目之间的交互序列h=[h1,h1,...,h
t
],t为句子长度。5.根据权利要求1所述的基于注意力机制的情感时序推荐方法,其特征在于,所述步骤s3包括以下分步骤:s31、将用户和项目之间的交互序列输入注意力层,得到句子级用户和项目之间的交互序列;s32、将句子级用户和项目之间的交互序列输入cnn层,得到用户表示和项目表示。6.根据权利要求5所述的基于注意力机制的情感时序推荐方法,其特征在于,所述步骤s31具体为:通过注意力层生成一个权重向量,使权重向量乘以用户和项目之间的交互序列,得到句子级用户和项目之间的交互序列;其中,句子级用户和项目之间的交互序列h*表达式具体为:h*=tanh(r)r=hαtα=softmax(wtm)m=tanh(h)式中,m为第二运算过程向量,r为第一运算过程向量,α为权重向量,t为句子长度,w为是经过训练的参数向量,tanh(*)为第一激活函数,softmax(*)为第二激活函数。7.根据权利要求5所述的基于注意力机制的情感时序推荐方法,其特征在于,所述s32中,cnn层包括依次连接的卷积层、最大池化层和全连接层;其中,所述卷积层设置有并列的g个互不相同卷积滤波器;所述步骤s32包括以下分步骤:s32-1、将用户和项目之间的交互序列通过卷积层的卷积滤波器提取特征,得到特征图;其中,所述特征图t具体为t=[t1,t2,...,t
s
];t
j
为第j个卷积滤波器输出的结果,j=1,2,...,s,s为卷积滤波器的总数;第j个卷积滤波器输出的结果t
j
表达式具体为:式中,x
i
为句子级用户和项目之间的交互序列h*中的第i个评论,其中i=1,2,...,p,p为评论的总数,b
j
为偏置项,为卷积运算,k
j
为第j个卷积滤波器,为第三激活函数s32-2、将所述特征图输入最大池化层进行特征提取,得到特征子向量,进而将得到的特征子向量进行拼接,得到固定长度的特征向量;
其中,得到特征子向量z
s
的表达式具体为:z
s
=max(t)所述特征向量z具体为[z1,z2,...,z
g
];s32-3、将特征向量输入至全连接层,进而通过下式对特征向量进行特征提取,得到用户表示和项目表示;χ=relu(w
×
z b)式中,χ为特征提取的结果,relu(*)为激活函数,w为权重矩阵,z为特征向量,b为偏置项;根据特征提取的结果χ得到用户表示χ
u
和项目表示χ
o
。8.根据权利要求7所述的基于注意力机制的情感时序推荐方法,其特征在于,所述步骤s4包括以下分步骤:s41、根据用户表示和项目表示计算得到评分,进而根据评分计算预测评分;其中,计算评分γ的表达式具体为:所述预测评分的表达式具体为:式中,γ
m
为第m次计算的评分,γ
n
为第n次计算的评分;为第一辅助向量,为第二辅助向量,n为计算的评分的总数;s42、根据评分和预测评分计算,得到评分的损失函数和损失函数的正则化项,进而通过评分的损失函数和损失函数的正则化项处理评分,得到精确评分;其中,损失函数的表达式具体为:式中,m为预测评分的总数,为第f次计算的预测评分,y
f
为第f次计算的评分;所述损失函数的正则化项表达式具体为:式中,η为惩罚系数,θ为可训练参数的集合。

技术总结
本发明公开了一种基于注意力机制的情感时序推荐方法,包括以下步骤:S1、收集评论信息和时间信息,并将其输入嵌入层,得到具有时态信息的用户因素和项目因素;S2、将有时态信息的用户因素和项目因素输入至blstm层进行情感特征提取,得到用户和项目之间的交互序列;S3、将用户和项目之间的交互序列通过注意力层输入至cnn层,得到用户表示和项目表示;S4、将用户表示和项目表示输入至输出层,得到精确评分,进而将最高精确评分对应项目作为情感时序推荐结果。推荐结果。推荐结果。


技术研发人员:王庆先 刘鹏宇 常奥 黄庆 吴苏强 曾昌强
受保护的技术使用者:电子科技大学
技术研发日:2021.12.09
技术公布日:2022/3/8
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献