一种基于有向超图神经网络的会话推荐方法与流程

1.本发明属于互联网服务技术领域，尤其是涉及一种基于有向超图神经网络的会话推荐方法。


背景技术：

2.会话(session)是一个时间段内用户的交互行为，基于会话的推荐是基于当前会话，推荐用户下一个点击的物品。一般的会话推荐认为用户的行为是有序的，如，当用户买了手机，会偏向于对手机壳等手机周边产品感兴趣。但是，也存在一些场景，用户的行为序列是无序的。在这种场景中，若仍然采用有序序列建模方法会夸大最近行为的重要性。比如，用户在网易音乐等平台播放推荐的歌单时，音乐的播放顺序完全取决于平台推荐顺序，而不是用户的偏好；用户在抖音等短视频平台中浏览短视频的顺序也是基本取决于平台的展示顺序。此时，用户的物品交互序列并不能体现物品的转移关系，这里的交互指代播放、浏览和点击等用户行为。
3.本方法采用超图来对无序序列进行建模，用系统中的所有会话和会话中物品集合，构建超图(hypergraph)。超图是普通图(normal graph)的更一般化的表示。在普通图中，一个边只能连接两个节点，而超图中的超边可以连接两个或者两个以上的节点。在本方法中，物品是超图的节点，会话是超图的超边。同一个会话中物品之间的关系，是同属于一个会话的关系，也就是集合关系。现有的超图神经网络方法可以被划分为两种。第一种是把超图转化为普通图，用普通的图神经网络学习节点向量表征。把超图转化为普通图的具体做法是，把同属于一个超边中的所有节点用边连接起来，构建一个普通图。第二种做法是采用“节点-超边-节点”这样的信息传输方式，先把节点的信息传递给包含该节点的超边，然后再把超边的信息传递给被该超边包含的节点。第一种通过把超图转化为普通图的做法，会丢失超图的信息。超图转化为普通图之后，无法识别出两个相连节点是被哪个会话所包含。第二种做法是超图信息传递的通用做法，但是无法完全照搬到会话推荐场景中。第二种“节点-超边-节点”的做法，对应到会话推荐场景中，就是“物品-会话-物品”。第一步是“物品-会话”，将会话中的物品信息汇聚到会话中，得到会话向量表征；第二步是“会话-物品”，把会话信息传递到物品信息中，得到物品向量表征。在“会话-物品”这一步中，将会话代表的用户整体兴趣传递给物品，这个整体兴趣可能和该物品是相关度不高的，也就是这一步中会引入过多的噪声。
4.因此，本方法提出新的有向超图神经网络，信息传递过程可以归纳为“节点-超边-有向超边-节点”，引入了“有向超边”的概念。有向超边是有方向的，可以指向超边内的任一物品节点。引入“有向超边”的好处是，通过对“有向超边”的建模，从超边内包含的物品节点中过滤出和指向节点语义相同的信息，再把该信息传递给指向节点，这样可以大幅减少噪声，过滤出有效信息。超边内的有向超边的数量等于超边内物品节点的数量。


技术实现要素：

5.本发明所要解决的技术问题是给定用户当前会话对用户兴趣建模，并推荐用户在下一步最可能感兴趣的物品，物品是集合v的子集。本方法适用于用户序列是无序的场景，通过对所有会话和会话中的物品集合构建全局超图，充分学习到协同信息。并且将“有向超图”的概念引入到超图神经网络，提出有向超图神经网络方法，并应用于会话推荐场景中。
6.一种基于有向超图神经网络的会话推荐方法，包括以下步骤：
7.用所有会话和会话中的物品集合，构建包含了用户和物品交互关系的超图。对于任一会话任一会话会话si中任一物品vj为超图t的节点，该会话si构成超图t的超边超边包含会话si内的所有物品
8.根据有向超图神经网络，得到当前会话中的物品向量表征和会话向量表征。有向超图的信息传递过程可以归纳为“节点-超边-有向超边-节点”。第一步是聚合会话超边内的节点，得到会话超边的向量表征，会话超边向量表征代表了会话中的主要兴趣；第二步根据有向超边的指向节点、会话超边向量表征以及会话超边内包含的物品节点信息，得到有向超边的向量表征；第三步是将有向超边的信息传递到会话超边内包含的节点，这三步和下面三个公式一一对应。通过“节点-超边-有向超边-节点”这样的信息传递链路，节点的向量表征将融合到协同信息，且节点接收到的噪声信息得到了极大地降低。
[0009][0010][0011][0012]
其中，是超图t中会话超边包含的节点集合，e(vj)是超图t中包含节点vj的所有会话超边集合。表示节点vj在l-1层的向量表征，节点vj第0层的向量表征为emb(vj)，emb(vj)是节点vj的随机初始化向量，表示会话超边在l-1层的向量表征，表示会话超边内指向vj的有向超边在l层的向量表征。信息传递的层数由超参数l来控制，最后一层的节点向量就是节点vj的向量表征，最后一层的会话超边向量就是会话si的向量表征。对于当前会话向量表征为aggr
node
→‑e‑‑
ion
是节点信息融合到会话超边的聚合函数，具体公式为：
[0013][0014]
atten_ggr
node
→
edge
是得到有向超边的聚合函数，该聚合方法是一种加法注意力机制，由有向超边指向节点vj向量表征和该有向超边所在的会话超边向量表征来决定会话超边内节点vk的注意力值αk。再用会话超边内每个节点vk的注意力值和对应的向量表征相乘，得到指向vj的有向超边向量表征
[0015]
[0016][0017]
aggr
session
→
node
是会话超边信息融合到节点的聚合函数。具体为：
[0018][0019]
其中，三个聚合函数中出现的参数w1、w2、w3、w4和w5是转移矩阵，q1、b1、b2和b3是向量，σ为sigmoid函数，max_pooling代表元素级别的max操作，有效捕捉突出属性。
[0020]
通过注意力机制，根据当前会话中的物品向量表征和会话向量表征，得到用户兴趣。通过有向超图神经网络，得到任一节点的向量表征和任一会话的向量表征。当前会话为通过注意力机制，得到用户兴趣pu为：
[0021][0022][0023]
其中，是物品vj的向量表征，是会话su的向量表征，σ是sigmoid函数，向量q2、b4和转移矩阵w6、w7控制su中每个节点vj的权重αj。会话su中所有物品vj的权重αj乘以对应向量表征，即是用户兴趣pu。
[0024]
根据用户兴趣，给用户推荐物品。将物品集合中的物品v
τ
的向量乘以用户兴趣pu，再应用softmax函数计算出物品v
τ
的分数：
[0025][0026]
其中，pu代表用户的兴趣向量，是物品v
τ
的向量表征，表示物品v
τ
成为下一个交互物品的可能性。计算损失函数为：
[0027][0028]
其中，y
τ
代表物品v
τ
的one-hot编码。函数用梯度下降法来最优化。
[0029]
本发明的有益技术效果如下：
[0030]
(1)本发明引入“有向超边”的概念，通过对“有向超边”的建模，可以在超图中信息传播时大幅减少噪声，过滤出有效信息。
[0031]
(2)本发明提出一种有向超图神经网络，基于所有会话和会话中的物品集合构建超图，从中学习包含了协同信息的物品向量表征，极大缓解数据的稀疏性。
附图说明
[0032]
图1为本发明一种基于有向超图神经网络的会话推荐方法的流程示意图；
[0033]
图2为本发明一种基于有向超图神经网络的会话推荐方法的有向超图神经网络图；
[0034]
图3为本发明一种基于有向超图神经网络的会话推荐方法的模型框架图。
具体实施方式
[0035]
为了进一步理解本发明，下面结合具体实施方式对本发明提供的一种基于有向超
图神经网络的会话推荐方法进行具体描述，但本发明并不限于此，该领域技术人员在本发明核心指导思想下做出的非本质改进和调整，仍然属于本发明的保护范围。
[0036]
首先，需要对用到的变量和公式给出相关定义。
[0037]
定义1.v：物品集合，且v＝v1,v2,
…
,v
|v|
，|v|代表物品集合中物品的数量。
[0038]
定义2.su：当前会话，是当前时间段里的所有交互物品集合|su|代表会话中物品的数量。
[0039]
定义3.t：基于所有会话和会话中的物品集合，构建的超图。
[0040]
定义4.第i个会话si在超图t中对应的会话超边。
[0041]
定义5.超图t中会话超边包含的节点集合。
[0042]
定义6.e(vj)：超图t中包含节点vj的所有会话超边集合。
[0043]
定义7.emb(vj)：物品vj的初始化向量表征，在模型训练过程中得到更新。
[0044]
定义8.pu：用户兴趣向量表征。
[0045]
结合以上变量定义，将最终的问题定义为：给定用户当前会话对用户兴趣建模，并推荐用户在下一步最可能感兴趣的物品，物品是集合v的子集。本方法适用于用户序列是无序的场景，通过对所有会话和会话中的物品集合构建全局超图，充分学习到协同信息。并且将“有向超图”的概念引入到超图神经网络，提出有向超图神经网络方法，并应用于会话推荐场景中。
[0046]
为此，本发明提出了一种基于有向超图神经网络的会话推荐方法。如图2所示，本方法最重要且创新的模块是有向超图神经网络模块，该模块基于构建好的超图，先将节点信息传递到会话超边，会话超边是无向的，得到无向超边的向量表征，代表了用户的主要兴趣；然后把无向超边和节点信息一起传递到有向超边和有向超边指向的节点中，得到有向超边和节点向量表征。本方法的模型图如图3所示，用有向超图神经网络得到当前会话中的物品向量表征和会话向量表征；然后通过注意力机制得到用户兴趣，并给用户推荐物品。下面内容将对本发明的全部过程进行详细描述。
[0047]
如图1所示，按照本发明的一个实施例，本方法包括如下步骤：
[0048]
s100，用所有会话和会话中的物品集合，构建包含了用户和物品交互关系的超图。对于任一会话对于任一会话会话si中任一物品vj为超图t的节点，该会话si构成超图t的超边超边包含会话si内的所有物品
[0049]
s200，根据有向超图神经网络，得到当前会话中的物品向量表征和会话向量表征。有向超图的信息传递过程可以归纳为“节点-超边-有向超边-节点”。第一步是聚合会话超边内的节点，得到会话超边的向量表征，会话超边向量表征代表了会话中的主要兴趣；第二步根据有向超边的指向节点、会话超边向量表征以及会话超边内包含的物品节点信息，得到有向超边的向量表征；第三步是将有向超边的信息传递到会话超边内包含的节点，这三步和下面三个公式一一对应。通过“节点-超边-有向超边-节点”这样的信息传递链路，节点的向量表征将融合到协同信息，且节点接收到的噪声信息得到了极大地降低。
[0050][0051]
[0052][0053]
其中，是超图t中会话超边包含的节点集合，e(vj)是超图t中包含节点vj的所有会话超边集合。表示节点vj在l-1层的向量表征，节点vj第0层的向量表征为emb(vj)，emb(vj)是节点vj的随机初始化向量，表示会话超边在l-1层的向量表征，表示会话超边内指向vj的有向超边在l层的向量表征。信息传递的层数由超参数l来控制，在本方法中l＝2，最后一层的节点向量就是节点vj的向量表征，最后一层的会话超边向量就是会话si的向量表征。对于当前会话向量表征为aggr
node
→
se
‑‑
io；
是节点信息融合到会话超边的聚合函数，具体公式为：
[0054][0055]
atten_ggr
nod4
→
edg4
是得到有向超边的聚合函数，该聚合方法是一种加法注意力机制，由有向超边指向节点vj向量表征和该有向超边所在的会话超边向量表征来决定会话超边内节点vk的注意力值αk。再用会话超边内每个节点vk的注意力值和对应的向量表征相乘，得到指向vj的有向超边向量表征
[0056][0057][0058]
aggr-e-sion
→
node
是会话超边信息融合到节点的聚合函数。具体为：
[0059][0060]
其中，三个聚合函数中出现的参数w1、w2、w3、w4和w5是转移矩阵，q1、b1、b2和b3是向量，σ为sigmoid函数，max_pooling代表元素级别的max操作，有效捕捉突出属性。
[0061]
s300，通过注意力机制，根据当前会话中的物品向量表征和会话向量表征，得到用户兴趣。通过有向超图神经网络，得到任一节点的向量表征和任一会话的向量表征。当前会话为通过注意力机制，得到用户兴趣pu为：
[0062][0063][0064]
其中，是物品vj的向量表征，是会话su的向量表征，σ是sigmoid函数，向量q2、b4和转移矩阵w6、w7控制su中每个节点vj的权重αj。会话su中所有物品vj的权重αj乘以对应向量表征，即是用户兴趣pu。
[0065]
s400，根据用户兴趣，给用户推荐物品。将物品集合中的物品v
τ
的向量乘以用户兴趣pu，再应用softmax函数计算出物品v
τ
的分数：
[0066][0067]
其中，pu代表用户的兴趣向量，是物品v
τ
的向量表征，表示物品v
τ
成为下一个交
互物品的可能性。计算损失函数为：
[0068][0069]
其中，y
τ
代表物品v
τ
的one-hot编码。函数用梯度下降法来最优化。
[0070]
上述对实施例的描述是为方便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施例做出各种修改，并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此，本发明不限于上述实施例，本领域技术人员根据本发明的揭示，对于本发明做出的改进和修改都应该在本发明的保护范围之内。