一种基于语义依赖顺序的图神经网络商品推荐方法

摘要: 本发明属于深度学习与推荐系统,具体涉及一种基于语义依赖顺序的图神经网络商品推荐方法。背景技术:1、随着电子商务、内容电商、在线零售、本地生活服务等平台的持续发展...
一种基于语义依赖顺序的图神经网络商品推荐方法

本发明属于深度学习与推荐系统,具体涉及一种基于语义依赖顺序的图神经网络商品推荐方法。

背景技术:

1、随着电子商务、内容电商、在线零售、本地生活服务等平台的持续发展,商品供给规模快速扩大,推荐系统已从平台辅助模块升级为核心基础能力,直接影响用户浏览效率、商品分发效率、成交转化与用户留存,广泛应用于首页推荐、搜索结果重排、商品详情页关联推荐、活动会场推荐及新商品冷启动等场景。

2、在真实商品推荐应用中,平台通常难以获取用户对未曝光商品的显式打分,可观测的多为点击、浏览、收藏、加购、购买等隐式反馈行为。这类行为能真实反映用户自然兴趣,但存在噪声多、语义强度不均、反馈稀疏、兴趣漂移快等特点,若建模时不对信号强度加以区分,易出现弱行为干扰强偏好的问题。

3、传统协同过滤与矩阵分解方法是推荐系统的经典技术方案,其将用户与商品映射至统一潜在空间,通过向量内积或相似度函数描述二者匹配程度,具有结构简洁、计算开销低、工程落地成熟的优势。但该类方法仅依赖用户-商品二部交互结构,无法显式建模多跳高阶协同信号,也难以有效利用商品品牌、类别、用户相似关系等异构辅助信息;在商品更新迭代快、长尾商品占比高或交互数据稀疏的场景下,难以生成稳定可靠的用户兴趣表示。

4、近年来,图神经网络被广泛引入推荐建模领域,通过图结构上的消息传递机制,使用户节点吸收交互商品及高阶邻居的协同信息,商品节点获取相关用户的行为信号,可有效刻画高阶行为关系。其中轻量化图卷积模型已验证,仅基于用户-商品交互二部图即可实现优异的推荐性能,说明用户真实行为是推荐任务的核心监督来源。但该类方法仍局限于二部交互结构,无法充分挖掘商品属性、用户相似关系中的补充语义,当商品交互数据稀疏或面临新商品冷启动时,易出现商品表示表征不足、用户兴趣画像不完整的问题。

5、为弥补单一交互图的局限,现有研究进一步提出异构图推荐、相似用户增强推荐等方案,引入商品属性关系、用户相似关系等多源异构信息,以扩充信息来源、增强语义解释性。但现有技术仍存在三处核心缺陷: 第一,未遵循语义依赖顺序建模。现有方法通常将不同层级的关系直接放入统一传播空间联合训练,默认所有关系在传播起点地位对等,忽略了“商品属性语义→商品表示增强→用户兴趣建模→相似用户偏好迁移”的天然语义层级,易导致高层语义反向干扰底层行为信号,引发噪声扩散、表示退化与语义混杂。 第二,用户相似关系缺乏可靠筛选。业务中构建的用户相似关系易受促销活动、偶发浏览、短期兴趣漂移、样本稀疏等因素影响,包含大量低可信噪声边;方法多采用平均聚合方式处理相似用户信息,易将无关或偏差偏好注入目标用户表示,降低推荐结果的稳定性。 第三,异构信息融合机制过于粗放。现有方案多采用直接相加或简单拼接的方式融合行为主干与辅助语义,无法根据用户、商品的具体状态动态调控辅助信息的注入强度,导致异构辅助信息的增益不稳定,甚至可能削弱行为主信号的主导地位。

6、综上,如何在不改变用户真实行为主信号地位的前提下,按照业务语义层级有序组织多源异构信息传播,并对辅助信息注入过程进行动态约束,从而提升稀疏场景、新商品冷启动场景下的推荐性能,是当前商品推荐领域亟需解决的技术问题。

技术实现思路

1、针对现有异构图推荐方法中语义传播无序、相似用户噪声干扰大、异构信息融合粗放等问题,本发明提出一种基于语义依赖顺序的图神经网络商品推荐方法,设计合理,有效解决了现有技术的不足。

2、一种基于语义依赖顺序的图神经网络商品推荐方法,包括如下步骤:

3、步骤1、采集商品平台中的用户行为数据、商品属性数据和用户相似关系数据,构建包含用户节点、商品节点、品牌节点和类别节点的多关系异构图;

4、步骤2、通过主干分支在用户-商品交互图上执行行为依赖表示学习,获得用户行为主干表示和商品行为主干表示;通过辅助分支按照商品属性语义到商品表示增强、再到用户兴趣画像的语义依赖顺序进行分层传播,获得商品基础辅助表示和用户基础辅助表示;

5、步骤3、利用辅助分支中的锚节点感知注意力机制筛选可靠相似用户,获得商品辅助表示和用户辅助表示;并通过动态门控融合机制控制辅助语义对行为主干表示的注入强度,根据最终用户表示和最终商品表示计算偏好得分,并采用贝叶斯个性化排序损失进行端到端训练,获得训练完成的推荐模型;

6、步骤4、获取当前用户及候选商品数据,将其输入训练完成的推荐模型中,输出当前用户对各候选商品的预测偏好得分,并根据预测偏好得分生成top-k商品推荐列表。

7、进一步地,所述步骤1中,所述多关系异构图的构建过程如下:

8、步骤1.1、节点集合由用户集合、商品集合、品牌集合和类别集合组成;设用户集合为,商品集合为,品牌节点集合,类别节点集合;其中,分别表示用户、商品节点数,分别表示品牌和类别节点数;

9、步骤1.2、边集合由用户-商品交互边集合、用户相似边集合、商品-品牌边集合和商品-类别边集合组成;

10、步骤1.3、系统中全部节点表示为,全部边集合表示为;

11、步骤1.4、构造一个多类型节点、多关系边组成的异构图:

12、(1)。

13、进一步地,所述步骤1.2的具体过程为:

14、步骤1.2.1、用户的历史交互行为被统一表示为用户—商品交互边集合,历史交互行为包括点击、浏览、收藏、购买;

15、步骤1.2.2、用户相似边集合,记为,代表与用户相似的用户,为用户与的相似度函数,采用用户历史交互商品集合的余弦相似度计算,为相似关系构建阈值;

16、步骤1.2.3、商品-品牌边集合,用于描述商品和品牌之间的关联关系,记为;

17、步骤1.2.4、商品-类别边集合,用于描述商品和类别之间的关联关系,记为。

18、进一步地,所述步骤2中,通过主干分支在用户-商品交互图上执行行为依赖表示学习,获得用户行为主干表示和商品行为主干表示,具体过程为:

19、步骤2.1.1、基于用户—商品交互边集合构建用户—商品交互图,设的邻接矩阵为,则:

20、;(2)

21、其中,为邻接矩阵中第行第列对应的元素值;为统一大图中的任意节点索引,节点类型包含用户节点与商品节点。

22、定义度矩阵,其中对角元为:

23、;(3)

24、采用对称归一化邻接矩阵:

25、;(4)

26、步骤2.1.2、执行用户—商品交互图上的轻量化邻域传播,设所有用户和商品节点在第层邻域传播的表示拼接为矩阵,则传播过程为:

27、;(5)

28、其中,为主干分支邻域传播的总层数;初始输入矩阵由所有用户和商品初始嵌入、拼接得到:

29、;(6)

30、对于任意用户节点,第层传播过程表示展开为:

31、;(7)

32、其中,为用户经过第层邻域传播后得到的嵌入表示向量,表示与用户相连的商品邻居集合;

33、对于商品节点,有:

34、;(8)

35、其中,为商品经过第层邻域传播后得到的嵌入表示向量,表示与商品相连的用户邻居集合;

36、步骤2.1.3、采用层间平均聚合策略融合不同深度的主干表示:

37、;(9)

38、最终,从中分离出用户主干表示和商品主干表示。

39、进一步地,所述步骤2中,通过辅助分支按照商品属性语义到商品表示增强、再到用户兴趣画像的语义依赖顺序进行分层传播,获得商品基础辅助表示和用户基础辅助表示,具体过程为:

40、步骤2.2.1、在商品–品牌关系与商品–类别关系上执行关系特定的异构传播,设第层异构传播中商品表示为,其来自品牌关系和类别关系的消息分别为:

41、;(10)

42、;(11)

43、其中,和分别表示商品的品牌邻居集合和类别邻居集合,与分别为商品-品牌关系和商品-类别关系对应的第层关系特定线性变换矩阵,和分别为第层传播中品牌节点和类别节点的嵌入表示,和分别为在第层传播中,品牌节点和类别节点传递给商品节点的消息;

44、商品表示更新为:

45、;(12)

46、其中,表示商品节点自身信息的第层线性变换矩阵,表示非线性激活函数;

47、经过层传播后,得到语义增强的商品基础辅助表示:

48、;(13)

49、步骤2.2.2、对于用户,根据其历史交互商品集合,定义用户基础辅助表示为:

50、(14)。

51、进一步地,所述步骤3具体过程如下:

52、步骤3.1、对于任一用户,设其在用户相似图中的邻居集合为;

53、对于用户与候选相似用户,首先计算其未归一化注意力分数:

54、;(15)

55、其中,为可训练注意力向量,为非线性激活函数,和分别为用户和候选用户的线性变换矩阵,‖表示向量拼接操作;

56、对用户的全部候选相似用户进行softmax归一化,得到注意力权重:

57、;(16)

58、该注意力权重实现了对相似用户的自适应筛选:语义一致性越高的可靠邻居权重越高,低可信、低相关的邻居信息被显著抑制;在此基础上,先对相似用户信息进行加权聚合,得到相似用户偏好迁移表示:

59、;(17)

60、其中,为邻居用户映射矩阵;

61、为在引入相似用户偏好信息的同时保留目标用户自身的基础语义,采用残差式偏好迁移构造用户辅助表示:

62、;(18)

63、商品辅助表示采用第一阶梯聚合后的语义表示:

64、;(19)

65、步骤3.2、分别将用户和商品的主干表示与辅助表示进行融合,得到用户和商品融合表示;

66、步骤3.3、基于主干分支、辅助分支、门控融合机制和预测层构建异构图推荐模型,预测层输出最终用户表示和最终商品表示计算偏好得分,并采用贝叶斯个性化排序损失进行端到端训练,获得训练完成的推荐模型。

67、进一步地,所述步骤3.2的具体过程为:

68、步骤3.2.1、将用户主干表示与辅助表示拼接为一个联合向量:

69、;(20)

70、通过一个线性层和sigmoid激活函数生成门控向量:

71、;(21)

72、其中,、是逐维门控系数;

73、采用残差式融合方式构造用户融合表示:

74、;(22)

75、其中,为全局超参数,表示逐元素相乘;

76、步骤3.2.2、对于商品节点,先构造拼接向量:

77、;(23)

78、生成门控向量:

79、;(24)

80、其中,、是逐维门控系数;

81、得到商品融合表示:

82、(25)。

83、进一步地,所述步骤3.3的具体过程为:

84、步骤3.3.1、在融合表示基础上引入初始嵌入残差:

85、;(26)

86、其中,、分别代表用户、商品的初始嵌入,为引入初始嵌入残差后的用户中间表示,为引入初始嵌入残差后的项目中间表示;

87、采用全局残差连接与层归一化获得最终节点表示:

88、;(27)

89、其中,为层归一化操作,表示用户的最终表示,表示商品的最终表示;

90、采用内积形式计算用户对候选商品的偏好分数:

91、;(28)

92、步骤3.3.2、在推理阶段,对于任意目标用户,模型会计算其对全部候选商品的预测得分:;

93、随后按照预测分数从高到低进行排序,并选取得分最高的top-k个商品作为最终推荐结果;

94、步骤3.3.3、采用适用于top-k排序任务的bpr损失函数对模型进行优化:

95、对于任一用户,从其已交互商品集合中采样一个正样本,再从未交互商品集合中随机采样一个负样本,构造三元组,且满足:

96、;(29)

97、bpr损失定义为:

98、;(30)

99、其中,为sigmoid函数,为训练三元组集合;

100、为了防止参数过拟合,加入正则项:

101、;(31)

102、其中,表示全部可训练参数,为正则化系数;

103、模型最终训练目标为:

104、(32)。

105、本发明带来的有益技术效果:

106、其一,本发明将商品属性语义、商品表示、用户兴趣和用户相似偏好迁移明确组织为具有先后关系的传播链条,减少了高层关系对底层行为信号的过早干扰。其二,本发明没有削弱用户真实行为的核心地位,而是以用户-商品交互图作为主干分支,在此基础上引入辅助信息,因而更符合推荐业务中“行为优先”的实际情况。其三,本发明通过锚节点感知注意力机制筛选可靠的相似用户,使相似关系不再被平均处理,从而降低噪声偏好传播。其四,本发明通过动态门控融合逐维控制辅助语义的注入强度,使辅助信息以增量方式进入主干表示,而不是简单覆盖或无差别叠加。其五,本发明整体复杂度主要与图边规模线性相关,便于在大规模商品推荐平台中进行离线训练和在线部署。