一种基于自适应门控跨通道融合的图推荐方法

摘要: 本发明属于电数据处理领域,尤其是涉及一种基于自适应门控跨通道融合的图推荐方法。背景技术:1、推荐系统通过从用户与物品的交互历史中学习用户偏好,为用户提供个性化推...
一种基于自适应门控跨通道融合的图推荐方法

本发明属于电数据处理领域,尤其是涉及一种基于自适应门控跨通道融合的图推荐方法。

背景技术:

1、推荐系统通过从用户与物品的交互历史中学习用户偏好,为用户提供个性化推荐。协同过滤是推荐系统中的核心方法之一,近年来图神经网络已成为协同过滤的标准实现路径。其中,lightgcn通过将图卷积简化为线性邻域聚合,在保持计算效率的同时取得了较好的推荐性能,是目前广泛使用的图神经网络骨干模型。

2、上述基于图神经网络的协同过滤方法通常将所有用户与物品的交互均视为正反馈,将用户与物品交互建模为无符号二部图,缺乏对正反馈与负反馈的区分。然而在实际应用场景中,用户表达的负反馈对准确建模用户偏好具有重要价值。

3、已有研究尝试利用负反馈信息,通过构建符号图结构对正反馈和负反馈进行区分处理,并结合对比学习框架提升推荐性能。然而,该类方法中的跨通道信息融合操作对所有节点施加完全相同的混合规则,忽视了不同用户在负反馈表达方式上的强异质性,且融合操作缺乏针对不同节点特征的差异化调节能力。

技术实现思路

1、为解决上述技术问题,本发明提供一种基于自适应门控跨通道融合的图推荐方法,尤其适合应用于推荐系统中需要同时利用用户的正向反馈和负向反馈进行个性化推荐的场景。

2、本发明采用的技术方案是:提供一种基于自适应门控跨通道融合的图推荐方法,包括以下步骤:

3、获取用户与物品的交互数据对应的正交互图和负交互图,并分别执行逐层图卷积传播,得到各传播层的通道嵌入;所述通道嵌入包括正通道嵌入和负通道嵌入;

4、对各所述传播层,将所述通道嵌入投影到多个并行的注意力子空间;在各所述注意力子空间内,分别以所述正通道嵌入为基准计算与所述负通道嵌入的注意力权重、以所述负通道嵌入为基准计算与所述正通道嵌入的注意力权重,其中,注意力权重的归一化跨所述注意力子空间进行;并基于注意力权重分别对被检索方的所述通道嵌入进行加权聚合,得到正通道方向和负通道方向的跨通道检索信号;

5、对各所述传播层,基于所述通道嵌入和对应方向的所述跨通道检索信号,通过非线性映射生成取值在预设范围内的门控值,以所述门控值控制对应方向的所述跨通道检索信号的融合幅度;

6、对各所述传播层,将所述通道嵌入与经所述门控值控制后的对应方向的所述跨通道检索信号,按可学习的逐层融合强度进行融合,得到各通道在该层的融合嵌入;将所有所述传播层的所述融合嵌入聚合为通道融合表示,所述通道融合表示包括正通道融合表示和负通道融合表示;

7、构建联合训练目标对模型中的可学习参数进行优化;所述联合训练目标包括推荐损失、通道内对比损失和通道间分布对齐损失。

8、进一步地,还包括基于训练得到的所述模型进行推荐的步骤:对目标用户,获取其正通道融合表示与各物品的正通道融合表示,计算两者之间的推荐得分,根据所述推荐得分生成推荐结果。

9、进一步地,分别以所述正通道嵌入为基准计算与所述负通道嵌入的注意力权重、以所述负通道嵌入为基准计算与所述正通道嵌入的注意力权重的实现方式为:分别以所述正通道嵌入的投影为查询、以所述负通道嵌入的投影为键和值,计算正通道方向的相关度;以所述负通道嵌入的投影为查询、以所述正通道嵌入的投影为键和值,计算负通道方向的相关度;对同一方向的各所述注意力子空间相关度执行softmax归一化,得到各所述注意力子空间的注意力权重。

10、进一步地,通过非线性映射生成所述门控值的具体方式为:将所述通道嵌入与对应方向的所述跨通道检索信号拼接,经线性变换和sigmoid激活函数处理,生成所述门控值。

11、进一步地,所述可学习的逐层融合强度为各传播层独立的可训练标量参数,所述可训练标量参数通过sigmoid激活函数将无约束标量映射获得。

12、进一步地,所述联合训练目标还包括对各层的所述逐层融合强度参数施加的正则约束,以鼓励所述逐层融合强度随传播层深度单调递增。

13、进一步地,所述推荐损失为贝叶斯个性化排序损失,以用户与物品在所述正通道融合表示上的内积作为预测得分;所述通道内对比损失为基于余弦相似度的信息噪声对比估计损失;所述通道间分布对齐损失为所述正通道融合表示与所述负通道融合表示之间的均方误差。

14、进一步地,对所述模型中的可学习参数进行优化后还包括课程采样策略:为每个负实例计算难度分,并在训练过程中采用温度退火策略,由易到难地采样负实例。

15、进一步地,所述难度分基于物品的争议程度和用户负历史的稀疏程度加权计算得到。

16、进一步地,所述温度退火策略采用余弦退火方式,温度从初始值逐渐降低至终止值,采样概率与所述难度分和当前温度相关。

17、本发明具有的优点和积极效果是:由于采用上述技术方案,通过多头跨通道注意力机制,能够在多个语义子空间中选择性地从对侧通道检索相关信息,替代固定加法融合中对所有节点施加相同混合规则的方式,提升融合的信息质量;通过自适应门控机制,能够根据节点自身的嵌入特征动态调节跨通道信息的融合幅度,避免对侧通道信息的过度引入或不足引入;通过可学习的逐层融合强度参数,使模型能够在不同传播深度上灵活控制融合程度,兼顾低层局部协同信号和高层抽象偏好特征。

1.一种基于自适应门控跨通道融合的图推荐方法,其特征在于,包括以下步骤:

2.根据权利要求1所述的方法,其特征在于,还包括基于训练得到的所述模型进行推荐的步骤:对目标用户,获取其正通道融合表示与各物品的正通道融合表示,计算两者之间的推荐得分,根据所述推荐得分生成推荐结果。

3.根据权利要求1或2所述的方法,其特征在于,分别以所述正通道嵌入为基准计算与所述负通道嵌入的注意力权重、以所述负通道嵌入为基准计算与所述正通道嵌入的注意力权重的实现方式为:分别以所述正通道嵌入的投影为查询、以所述负通道嵌入的投影为键和值,计算正通道方向的相关度;以所述负通道嵌入的投影为查询、以所述正通道嵌入的投影为键和值,计算负通道方向的相关度;对同一方向的各所述注意力子空间相关度执行softmax归一化,得到各所述注意力子空间的注意力权重。

4.根据权利要求1或2所述的方法,其特征在于,通过非线性映射生成所述门控值的具体方式为:将所述通道嵌入与对应方向的所述跨通道检索信号拼接,经线性变换和sigmoid激活函数处理,生成所述门控值。

5.根据权利要求1或2所述的方法,其特征在于,所述可学习的逐层融合强度为各传播层独立的可训练标量参数,所述可训练标量参数通过sigmoid激活函数将无约束标量映射获得。

6.根据权利要求1或2所述的方法,其特征在于,所述联合训练目标还包括对各层的所述逐层融合强度参数施加的正则约束,以鼓励所述逐层融合强度随传播层深度单调递增。

7.根据权利要求1或2所述的方法,其特征在于:所述推荐损失为贝叶斯个性化排序损失,以用户与物品在所述正通道融合表示上的内积作为预测得分;所述通道内对比损失为基于余弦相似度的信息噪声对比估计损失;所述通道间分布对齐损失为所述正通道融合表示与所述负通道融合表示之间的均方误差。

8.根据权利要求1或2所述的方法,其特征在于,对所述模型中的可学习参数进行优化后还包括课程采样策略:为每个负实例计算难度分,并在训练过程中采用温度退火策略,由易到难地采样负实例。

9.根据权利要求8所述的方法,其特征在于:所述难度分基于物品的争议程度和用户负历史的稀疏程度加权计算得到。

10.根据权利要求8所述的方法,其特征在于:所述温度退火策略采用余弦退火方式,温度从初始值逐渐降低至终止值,采样概率与所述难度分和当前温度相关。