一种多元路径卷积的残差宽度网络异质图表示学习方法及系统

本发明涉及数据，具体涉及一种多元路径卷积的残差宽度网络异质图表示学习方法及系统。

背景技术：

1、随着人工智能与大数据技术的快速发展，图数据作为刻画实体间复杂关联关系的典型数据结构，已广泛应用于学术网络、知识图谱、社交网络、推荐系统等关键领域。相较于独立向量、表格等传统数据，图数据兼具节点自身属性与节点间拓扑结构信息，可天然适配现实场景中多类型实体、多维度关系的交互建模需求，成为复杂关联数据的主流表示形式。

2、现实应用中的图数据大多并非仅含单一节点类型、单一边类型的同构图，而是由多种节点类型、多种边类型构成的异质图。例如学术网络包含作者、论文、会议、术语等节点，存在“作者-撰写-论文”“论文-发表-会议”“论文-涉及-术语”等差异化关系；知识图谱包含实体、属性、概念等节点及多层级语义关系。异质图通过节点与边的类型差异，承载远丰富于同构图的语义信息，但也为图表示学习带来更复杂的语义建模挑战——若无法有效区分不同关系的语义来源与价值差异，模型易混入无关信息，降低节点表示的质量与判别能力。

3、异质图表示学习的核心目标是在保留拓扑结构与节点语义信息的前提下，将节点映射为低维稠密向量，支撑节点分类、节点聚类、链接预测、个性化推荐等下游任务，是当前图学习领域的核心研究方向。针对异质图的语义建模需求，现有技术主流路线为基于图神经网络gnn、图卷积网络gcn、图注意力网络gat聚合邻域信息，再通过任务模块完成下游应用；为提升语义区分能力，学界引入元路径技术——元路径是预定义的复合语义关系模式，可明确刻画异质图中不同类型节点的关联逻辑，如“作者—论文—作者”表示合作关系、“作者—论文—会议”表示发表关系，基于元路径构建语义子图，能减少不同语义信息的直接混杂，成为异质图表示学习的主流技术方案。

4、当前的现有技术方案，整体流程为：依据预定义元路径从原始异质图抽取若干语义子图→在各子图上执行图卷积/图注意力特征提取→拼接/加权融合多路径表示→经全连接层或常规任务模块输出结果。该方案虽能利用多语义信息，但在实际应用中存在四项核心缺陷：

5、1.元路径语义利用不充分；不同元路径对应独立语义视角，节点邻域分布、关键邻居贡献存在显著差异，现有方法仅将元路径作为关系划分依据，未在建模中充分刻画语义差异，不同关系信息仍被混合处理，节点表示的语义表达能力受限。

6、2.多元路径特征融合方式简陋；现有融合多采用直接拼接、均值、固定权重加和等简单策略，未考虑不同元路径对不同节点的重要性差异，关键路径的有效信息易被弱化，在关系复杂、语义来源多样的异质图中，判别能力损失尤为突出。

7、3.深层传播易出现特征退化；浅层模型仅能捕获近邻信息，难以挖掘高阶语义关系；增加卷积/注意力层数扩大感受野时，会引发节点表示趋同、原始特征衰减、训练不稳定等问题，无法兼顾高阶结构利用与浅层有效特征保留。

8、4.表示学习与任务模块衔接低效；现有方法完成图表示学习后，直接衔接常规全连接分类器等传统任务模块，前端复杂结构与高维特征会大幅增加后端训练代价，整体训练效率偏低；同时，宽度网络虽具备训练效率优势，但传统宽度网络依赖随机映射生成输入特征，无法适配异质图结构语义信息的输入需求，难以发挥高效特征增强作用。

9、综上，现有异质图表示学习方法在元路径语义挖掘、多元特征融合、深层传播稳定性、任务模块高效衔接、宽度网络适配等关键环节存在明显短板，无法同时满足复杂异质图语义建模、深层特征稳定传播与高效任务求解的综合需求，制约了模型在真实场景中的表示质量与应用效率。

技术实现思路

1、本发明所要解决的技术问题是提供一种多元路径卷积的残差宽度网络异质图表示学习方法及系统，旨在解决现有异质图表示学习方法中存在的多元路径语义利用不充分、深层传播过程中容易出现特征退化、不同语义路径下的特征融合方式较为简单以及后续任务模块训练效率不高等问题

2、为解决上述技术问题，本发明所采用的技术方案是：

3、一种多元路径卷积的残差宽度网络异质图表示学习方法，包括以下步骤：

4、step1、输入异质图数据，根据预定义的多条元路径构建对应语义子图；

5、step2、在各元路径语义子图上分别执行多层残差图注意力卷积，提取节点在对应语义空间下的特征表示；

6、step3、将不同元路径下得到的节点特征进行融合，得到多元路径融合特征；

7、step4、将多元路径融合特征作为宽度网络输入，构造增强节点并形成整体特征矩阵；

8、step5、基于整体特征矩阵，采用岭回归闭式求解输出权重，并生成对应下游任务的输出结果。

9、上述的step1中输入异质图表示为：

10、；

11、其中，表示节点集合，表示边集合，表示节点类型集合，表示边类型集合；

12、元路径集合为：

13、；

14、其中，表示元路径的数量，每一条元路径用于描述异质图中节点之间的一种复合语义关系；

15、对于每一条预定义元路径，构建其对应的同质子图：

16、；

17、其中，表示满足该元路径语义约束的节点集合，表示满足该元路径连接关系的边集合。

18、上述的step2中残差图注意力卷积包括：

19、对节点特征进行线性映射得到子空间特征；计算节点与其邻居的注意力得分并归一化，得到注意力系数；基于注意力系数加权聚合邻居特征，得到多头注意力输出；在每一层卷积后加入残差连接，将当前层输出与上一层输入加权融合。

20、上述的残差连接满足：

21、；

22、其中，表示卷积的层数，表示节点在元路径下经第层多头图注意力卷积得到的中间特征，为可学习的缩放因子，用于平衡当前层学习到的新特征与上一层保留下来的特征；

23、注意力系数为非对称形式，以适配异质图节点关系的方向性与差异性。

24、上述的step3中多元路径特征融合采用特征维度拼接方式，设共有条元路径，则节点的融合特征表示为：

25、；

26、其中，表示节点在第条元路径下经过层残差图注意力卷积后得到的特征，表示最终得到的节点嵌入表示。

27、上述的step4中宽度网络取消传统随机特征映射层，直接以多元路径融合特征作为网络输入；

28、宽度网络的增强节点构造为：

29、；

30、其中，表示增强节点组编号，为由各节点的多元路径融合特征按行堆叠形成的输入特征矩阵，为随机生成的权重矩阵，为偏置项，为非线性激活函数。

31、上述的step4中将全部增强节点按列拼接，得到增强节点矩阵；

32、将输入特征矩与增强节点拼接矩阵进行维度拼接，得到整体特征矩阵。

33、上述的step5中通过岭回归闭式求解输出权重具体包括：

34、在得到整体特征矩阵后，通过输出权重矩阵生成任务相关输出；输出权重矩阵采用岭回归方式求解：

35、；

36、其中，为正则化系数，用于抑制过拟合；为输入特征矩阵x对应的监督矩阵，为单位矩阵。

37、上述的残差图注意力卷积采用多头注意力机制，在多个子空间中并行建模邻域依赖关系，以细粒度捕捉异质图多语义信息。

38、使用上述的多元路径卷积的残差宽度网络异质图表示学习方法的系统，包括：

39、子图构建模块，用于根据预定义元路径将异质图分解为多个语义子图；

40、残差卷积模块，用于在各语义子图上执行多层残差图注意力卷积；

41、特征融合模块，用于融合不同元路径下的节点特征；

42、宽度增强模块，用于构造增强节点并生成整体特征矩阵；

43、输出求解模块，用于通过岭回归闭式求解输出权重并生成任务输出。

44、本发明所提及的一种多元路径卷积的残差宽度网络异质图表示学习方法及系统，通过在不同元路径诱导的语义子图上分别进行残差图注意力卷积，提取多语义视角下的节点特征；再对多路径特征进行融合，并引入宽度网络完成特征增强与高效求解，从而提高异质图表示学习结果的质量，并为异质图表示学习相关下游任务提供更有效的表示支撑。

45、本发明通过多元路径语义建模、残差图注意力卷积、宽度网络高效增强与闭式求解相结合的整体架构，从异质图表示学习的语义表达、特征传播、模型效率、训练稳定性、通用性等方面实现全面提升，具体技术效果如下：

46、1.充分挖掘并利用异质图多元路径语义，显著提升节点表示的语义完整性；本发明按不同元路径独立构建语义子图，在各子图内单独进行特征提取与表示学习，使模型从多个语义视角分别刻画节点关联关系，避免不同关系信息直接混合干扰。所得到的节点表示同时包含节点属性、拓扑结构与多层次复合语义，可完整反映异质图复杂关联逻辑，大幅提升表示的语义表达能力。

47、2.有效缓解深层网络特征退化与过平滑，兼顾高阶语义挖掘与浅层特征保留；在各层图注意力卷积后引入带可学习缩放因子的残差连接，使深层网络在聚合高阶邻域信息的同时，保留浅层有效语义特征，显著改善梯度消失、节点表示趋同、特征衰减等问题。模型可安全加深网络层数以扩大感受野，稳定挖掘异质图中的高阶结构与语义关系。

48、3.多头注意力实现细粒度邻域加权，自适应区分邻居重要性；采用多头图注意力机制在多个子空间并行建模节点依赖关系，通过非对称注意力系数自适应分配邻居权重，精准捕捉异质图中节点关系的方向性与差异性，相比单头注意力与均等聚合，邻域特征提取更精准、判别力更强。

49、4.多元路径特征融合更合理，有效保留关键语义信息；各元路径特征在独立语义空间学习后统一拼接融合，不同路径的互补信息被完整保留，避免简单拼接、均值或固定加权带来的关键信息弱化问题，融合后的特征维度完整、语义丰富，可为下游任务提供高质量输入。

50、5.宽度网络与图表示深度结合，大幅提升训练与推理效率；摒弃传统宽度网络的随机特征映射层，直接以高质量图卷积嵌入作为输入，配合增强节点扩展特征空间；输出权重采用岭回归闭式求解，无需大量反向传播迭代，在保证表示效果的前提下，显著降低训练开销、提升收敛速度与整体运行效率。

51、6.模型训练更稳定，适配复杂异质图场景；残差结构保障深层传播稳定，宽度网络采用解析解降低优化难度，整体模型在节点类型多、关系复杂、语义丰富的大规模异质图中仍可稳定训练，不易出现震荡、过拟合与表示崩溃，实用性更强。

52、7.通用性与扩展性强，可快速适配多类异质图下游任务；以元路径为统一语义建模单元，仅需更换元路径定义即可适配学术网络、知识图谱、社交网络、推荐系统等不同场景，直接支持节点分类、节点聚类、链接预测、个性化推荐等主流任务，框架灵活、易于落地与扩展。

53、8.整体实现表示质量与计算效率的平衡；前端专注高质量异质图表示提取，后端专注高效特征增强与任务求解，不盲目增加网络深度与复杂度，在提升表示精度的同时控制计算成本，适合在资源受限环境与实时任务中使用。