基于多尺度特征的动态网络链路预测方法
本技术涉及图表示学习、网络分析和链路预测,特别是涉及一种基于多尺度特征的动态网络链路预测方法。
背景技术:
1、作为动态网络分析的核心任务之一,链路预测已在通信网络、交通网络、社交网络、金融网络和生物网络等多个领域得到了广泛研究。动态链路预测是指基于历史时刻的网络结构、节点属性及节点交互关系,对未来时刻,节点之间是否会产生连接进行预测的过程。通过对网络节点之间历史交互模式和时序演化规律进行建模,动态链路预测能够为网络资源分配、异常关系检测、用户行为分析、推荐关系生成、交通流量预测以及关键节点识别等任务提供重要技术支撑。近年来,随着图神经网络和时序深度学习技术的发展,基于图卷积网络、图注意力网络、循环神经网络以及transformer的动态链路预测方法取得了一定进展。
2、在现有的链路预测方法中,主要通过对历史的节点表示进行对数映射和双曲正切处理,从而得到历史的上下文表示,以便于利用上下文表示得到最终的节点表示,并基于最终的节点表示进行模型训练和链路预测。但是,通过对历史的节点表示进行对数映射和双曲正切处理得到历史的上下文表示,容易导致模型参数量和计算复杂度增加,从而降低多尺度时序特征的提取效率,影响模型的训练效果。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种基于多尺度特征的动态网络链路预测方法。
2、一种基于多尺度特征的动态网络链路预测方法,所述方法包括:
3、s1、基于动态网络在时刻t的快照,通过热核扩散生成用于表征所述动态网络中的各节点在k跳邻域范围内的加权连接关系的扩散矩阵,并利用双曲图卷积网络和各所述扩散矩阵对各节点的节点特征进行特征提取,得到多尺度的第一节点表示;
4、s2、对各所述第一节点表示进行自适应融合处理,得到所述快照的第二节点表示;
5、s3、基于所述动态网络在多个历史时刻的历史节点表示,通过分组卷积和逐点卷积确定多尺度的查询矩阵、键矩阵和值矩阵;基于所述查询矩阵、所述键矩阵和所述值矩阵,得到不同尺度的时序聚合信息,并聚合各所述时序聚合信息,得到时序信息;基于所述时序信息和所述历史节点表示,确定历史上下文表示;基于所述第二节点表示、所述历史节点表示及所述历史上下文表示,得到时刻t的第三节点表示;所述历史时刻为时刻t之前的时刻;
6、s4、基于所述第三节点表示,预测各所述节点之间在时刻t+1的链路连接概率,并基于所述链路连接概率训练链路预测模型,以使用训练后的所述链路预测模型进行链路预测。
7、本技术可以在保持时序特征提取能力的同时,显著降低模型参数量和计算复杂度,提高多尺度时序特征提取效率,从而能够快速得到较为准确的历史上下文表示,并在使用基于历史上下文表示得到的第三节点表示进行模型训练时,提升模型的训练效果,提升预测的准确性。
8、在其中一个实施例中,步骤s1中所述扩散矩阵的生成过程包括:
9、基于动态网络在时刻t的快照,确定所述动态网络在时刻t的邻接矩阵和度矩阵;所述度矩阵用于表征所述快照中各节点的邻居数量,所述邻接矩阵用于表征所述快照中各所述节点之间的连接关系;
10、基于所述邻接矩阵at和所述度矩阵dt,通过,得到时刻t的归一化拉普拉斯矩阵lt;i为单位矩阵;
11、基于所述归一化拉普拉斯矩阵lt,通过,得到表征各节点在k跳邻域范围内的加权连接关系的扩散矩阵;,k为预设的最大跳数,为衰减系数。
12、本技术中,基于归一化拉普拉斯矩阵lt,通过,得到表征各节点在k跳邻域范围内的加权连接关系的扩散矩阵,这样可以无需采用深层图神经网络进行逐层信息传播,就可以将多跳邻域信息的传播过程与特征变换过程相分离,在降低模型计算复杂度和参数规模的同时,实现不同尺度拓扑结构信息的有效建模,为后续超曲率空间特征学习提供丰富的多尺度结构先验。
13、在其中一个实施例中,步骤s1中所述第一节点表示的生成过程包括:
14、获取包括各所述节点的节点特征向量的向量矩阵,利用庞加莱球模型对所述向量矩阵中的各所述节点特征向量进行指数映射,得到第一指数映射结果;
15、利用双曲图卷积网络和各所述扩散矩阵,对所述第一指数映射结果进行特征提取,得到各所述扩散矩阵对应的第一节点表示;各所述第一节点表示的尺度不一致;
16、其中,所述第一节点表示的表达式为,hgcn表示双曲图卷积网络,c为预设曲率,o为庞加莱球模型的庞加莱球原点。
17、本技术中,通过获取包括各节点的节点特征向量的向量矩阵,利用庞加莱球模型对向量矩阵中的各节点特征向量进行指数映射,得到第一指数映射结果,利用双曲图卷积网络和各扩散矩阵,对第一指数映射结果进行特征提取,这样可以得到各扩散矩阵对应的第一节点表示。
18、在其中一个实施例中,步骤s2包括:
19、利用庞加莱球模型对各所述第一节点表示进行对数映射,得到多个第一对数映射结果;
20、基于各所述第一对数映射结果,得到拼接特征;
21、基于所述拼接特征,通过,得到多尺度注意力分数向量,为链路预测模型中的权重矩阵,bf为所述链路预测模型中的偏置向量,k为预设的最大跳数;
22、基于所述多尺度注意力分数向量,通过对各所述第一节点表示进行自适应融合处理,并利用所述庞加莱球模型对融合结果进行指数映射,得到第二节点表示;为多尺度注意力分数向量中的第k个值;
23、其中,所述第二节点表示的表达式为,c为预设曲率,o为庞加莱球模型的庞加莱球原点。
24、本技术中,通过利用庞加莱球模型对各第一节点表示进行对数映射,得到多个第一对数映射结果,基于各第一对数映射结果,得到拼接特征,基于拼接特征,通过,得到多尺度注意力分数向量,基于多尺度注意力分数向量,通过对各第一节点表示进行自适应融合处理,并利用庞加莱球模型对融合结果进行指数映射,得到第二节点表示,这样实现了第二节点表示从固定感受野到动态感受野的跨越,使模型从被动接收多尺度信息升级为主动调配信息比例,在提升表征精度的同时,极大增强了模型在动态噪声环境下的训练稳定性与收敛效率,以在利用训练后的链路预测模型进行预测时,能根据节点所处局部环境自动调整信息聚合的范围,提升链路预测的精度与鲁棒性。
25、在其中一个实施例中,步骤s3中所述第三节点表示的确定过程包括:
26、利用庞加莱球模型分别对所述第二节点表示和历史上下文表示进行对数映射,得到所述第二节点表示的第二对数映射结果和所述历史上下文表示的第三对数映射结果;
27、基于所述第二对数映射结果和所述第三对数映射结果,通过得到更新门,通过得到重置门;
28、基于所述第二对数映射结果、所述第三对数映射结果及所述重置门,通过,得到时刻t的上下文表示对应的第四对数映射结果;、、、、及为链路预测模型中的权重矩阵,表示逐元素乘积;
29、基于所述更新门、所述第四对数映射结果及所述第三对数映射结果,得到待映射数据;
30、利用所述庞加莱球模型对所述待映射数据进行对数映射,得到第三节点表示。
31、本技术中,通过利用庞加莱球模型分别对第二节点表示和历史上下文表示进行指数映射,得到第二节点表示的第二对数映射结果和历史上下文表示的第三对数映射结果,基于第二对数映射结果和第三对数映射结果,通过得到更新门,通过得到重置门,基于第二对数映射结果、第三对数映射结果及重置门,通过,得到时刻t的上下文表示对应的第四对数映射结果,基于更新门、第四对数映射结果及第三对数映射结果,得到待映射数据,利用庞加莱球模型对待映射数据进行对数映射,得到第三节点表示,这样可以在使用基于第三节点表示得到的链路连接概率进行模型损失计算,以训练链路预测模型时,让链路预测模型在具备记忆遗忘能力的同时,拥有无限层级容纳能力。
32、在其中一个实施例中,步骤s4中所述链路连接概率的预测过程包括:
33、基于所述第三节点表示,通过,得到各所述节点之间在时刻t+1的链路连接概率;为节点i和节点j在时刻t+1的链路连接概率,是第三节点表示中节点i的节点表示,是第三节点表示中节点j的节点表示,是双曲空间中的距离度量函数,r和q为链路预测模型中的超参数。
34、本技术中,基于第三节点表示,通过,得到各节点之间在时刻t+1的链路连接概率,这样可以为双曲空间中的链路预测提供了一套层级敏感、边界鲁棒、几何无损的概率解码方案,让链路预测模型具有不仅知道两个节点离得远不远,还能理解这种距离在对应层级下是否意味着应该连边的能力。
35、在其中一个实施例中,所述基于所述链路连接概率训练链路预测模型,包括:
36、基于各所述节点之间在时刻t+1的所述链路连接概率,确定正样本节点对和负样本节点对;所述正样本节点对为大于或等于预设概率的所述链路连接概率对应的两个节点组成的节点对,所述负样本节点对为小于预设概率的所述链路连接概率对应的两个节点组成的节点对;
37、基于所述正样本节点对和所述负样本节点对各自的所述链路连接概率,通过,得到交叉损失;et表示时刻t的快照对应的边集合,表示正样本节点对,表示负样本节点对,表示边集合中边的数量,表示正样本节点对在时刻t+1的链路连接概率,表示负样本节点对在时刻t+1的链路连接概率;
38、基于各所述节点在时刻t-1的节点表示和时刻t的节点表示,通过,得到双曲时间一致性损失;n为节点数量,表示双曲空间中的距离度量函数,为节点i在时刻t-1的节点表示;
39、基于所述双曲时间一致性损失和所述到交叉损失,通过,得到总损失;为权重系数;
40、基于所述总损失训练所述链路预测模型中的权重矩阵、超参数及偏置向量,得到训练后的链路预测模型。
41、本技术中,基于双曲时间一致性损失和到交叉损失,通过,得到总损失,基于总损失训练链路预测模型中的权重矩阵、超参数及偏置向量,得到训练后的链路预测模型,这样可以通过训练后的链路预测模型获得稳定且准确的链路预测概率。
42、在其中一个实施例中,步骤s3中所述历史上下文表示的确定过程包括:
43、获取动态网络在多个历史时刻的历史节点表示;
44、基于各所述历史节点表示和多个预设的卷积核尺寸s,通过,得到各卷积核尺寸对应的查询矩阵、键矩阵和值矩阵;表示分组卷积操作,表示逐点卷积操作,c为预设曲率,o为庞加莱球模型的庞加莱球原点,||表示拼接;
45、利用庞加莱球模型对所述查询矩阵、所述键矩阵及所述值矩阵分别进行对数映射,得到所述查询矩阵的第五对数映射结果、所述键矩阵的第六对数映射结果及所述值矩阵的第七对数映射结果;
46、基于所述第五对数映射结果、所述第六对数映射结果的转置及所述第七对数映射结果,通过得到各所述卷积核尺寸的时序聚合信息;表示relu激活函数,m为全1向量,为平滑因子;
47、基于各所述卷积核尺寸的所述时序聚合信息,通过,得到聚合后的时序信息;
48、基于所述时序信息和各所述历史节点表示,通过,得到历史上下文表示;表示莫比乌斯加法。
49、本技术中,通过使用卷积操作对不同时间尺度下的时序聚合信息进行融合,获得统一的时间特征表示,可以实现不同时间感受野信息的有效整合。基于各卷积核尺寸的时序聚合信息,通过,得到聚合后的时序信息,基于时序信息和各历史节点表示,通过,得到历史上下文表示,这样可以结合多尺度卷积提取的局部时序特征和线性注意力聚合的全局时序依赖,实现不同时间尺度信息的协同建模,提高动态图时间演化特征的表达能力。此外,还可以学习长时间跨度的依赖关系。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com