基于多头交叉对齐与动态特征精炼的知识图谱补全方法
本发明涉及知识图谱领域,具体涉及一种基于多头交叉对齐与动态特征精炼的知识图谱补全方法。
背景技术:
1、知识图谱作为一种以“头实体—关系—尾实体”三元组形式组织知识的语义网络结构,用图结构刻画现实世界中万事万物之间的联系。自2012年谷歌正式提出知识图谱概念以来,其在智能问答、信息检索、推荐系统、自然语言理解等人工智能领域得到了广泛应用,成为推动人工智能技术实用化进程的关键基础设施之一。然而,实际构建的知识图谱往往存在严重的不完整性,大量实体之间本应存在的关系并未被收录,这一不完整性问题直接限制了知识图谱在下游应用中的效用和价值。知识图谱补全任务旨在基于已有的部分三元组,自动推断知识图谱中缺失的实体或关系信息,通常可形式化为链接预测问题,即在给定或的情况下,预测最有可能成立的实体。
2、现有知识图谱补全方法主要可以分为三大类:基于距离的模型、基于张量分解的模型以及基于神经网络的模型。
3、基于距离的模型通过几何变换刻画实体与关系之间的关联关系。其中最具代表性的是bordes等人于2013年提出的transe模型,该模型将关系视为头实体到尾实体的平移变换,假设成立的三元组满足。transe具有结构简单、计算效率高、可解释性强等优点,但其表达能力受限,难以建模复杂关系模式,尤其在一对多、多对一和多对多关系上表现不佳。此后,研究者提出了多种transe的改进模型,如transh、transr、rotate等。其中,sun等人提出的rotate将关系定义为复空间中的旋转操作,能够有效建模对称、反对称、互逆等多种关系模式,在一定程度上提升了表达能力,但该类基于几何变换的方法总体上仍受限于预设的变换形式,难以充分刻画知识图谱中丰富多样的语义关联。
4、基于张量分解的方法通过双线性或多线性交互函数刻画实体与关系之间的语义关联。nickel等人提出的rescal模型将知识图谱表示为三阶张量,并通过张量分解学习实体和关系的表示,但该模型参数量与关系维度平方成正比,难以扩展到大规模知识图谱。yang等人提出的distmult将关系矩阵限制为对角矩阵,大幅降低了参数量,但因此丧失了建模非对称关系的能力。trouillon等人提出的complex将嵌入扩展到复数空间,通过复共轭内积成功建模非对称关系。虽然基于张量分解的方法在一定程度上提升了表达能力,但其模型形式较为固定,通常仅使用简单的双线性函数,在复杂语义建模与参数规模之间难以取得良好平衡。
5、近年来,基于神经网络的知识图谱补全方法通过引入非线性映射与复杂特征交互机制,在建模能力方面取得了显著进展。其中,基于卷积神经网络的方法受到广泛关注。dettmers等人提出的conve模型首次将卷积神经网络应用于知识图谱补全,通过将头实体和关系的一维嵌入向量重构为二维特征图,并利用二维卷积操作建模实体与关系之间的局部交互特征,在提升特征表达能力方面表现出一定优势。nguyen等人提出的convkb模型则将头实体、关系和尾实体的嵌入向量堆叠为三列矩阵,通过一维卷积进行特征提取。然而,这类方法仍存在若干关键不足。
6、首先,现有方法中实体与关系的语义交互和对齐能力不足。conve、convkb等模型通常将实体和关系分别进行独立编码,再通过拼接、固定卷积或浅层交互方式完成建模,缺乏对实体与关系之间双向语义依赖的显式刻画。这种方式难以充分反映实体语义与关系语义之间的深层对应关系,导致实体表示与关系表示之间语义关联不紧密,在复杂关系模式下模型对实体-关系交互信息的利用不充分,从而限制了模型对复杂关系模式的表达能力。
7、其次,现有卷积式知识图谱补全方法的特征交互方式较为固定,缺乏对关系语义的自适应调整能力。conve等模型采用固定参数的卷积核对实体与关系特征进行提取,其卷积操作对不同关系类型通常采用相同的特征提取策略,无法根据具体关系语义动态改变特征提取策略。这使得模型在处理多样化关系和复杂语义结构时,难以精细刻画实体与关系之间在不同语义条件下的局部匹配特征,限制了模型的表达能力。虽然vashishth等人提出的interacte通过特征重排、多语义空间映射等策略在一定程度上增强了实体与关系之间的交互建模能力,cao等人提出的mrcca引入了交叉注意力机制用于局部特征增强,但这类方法仍缺乏对实体与关系之间双向依赖关系的系统建模,语义对齐过程仍不充分,难以实现细粒度的语义匹配。此外,这些方法通常侧重于特征增强而非特征筛选,缺乏显式的特征选择机制,容易引入冗余信息,从而影响模型的判别能力。
8、再次,现有方法在特征建模过程中往往缺乏对关键特征的显式筛选与增强机制。convd等方法通过引入动态卷积或关系感知卷积核,在一定程度上提升了模型对关系语义的建模能力,使卷积核能够随关系变化而调整。然而,该类方法通常仅在单一尺度或有限层级上进行特征建模,缺乏多尺度特征融合机制,难以同时捕获不同语义层次下的结构信息。此外,其特征融合方式较为简单,缺乏通道级与空间级的联合建模与筛选机制,对关键特征与冗余信息的区分能力仍然有限。现有方法通常采用单一尺度或粗粒度的特征融合方式,难以有效区分关键信息与冗余噪声,也难以同时捕获不同尺度下的交互语义,导致模型在复杂知识图谱场景中的推理精度和鲁棒性仍有不足。
9、综上所述,现有知识图谱补全技术在实体-关系语义对齐、自适应特征交互以及多层次特征精炼等方面仍存在较为突出的不足,需要一种新的方法能够实现实体与关系的深度双向对齐,构建关系驱动的动态特征建模机制,并通过多尺度与多维度特征精炼提升模型在复杂知识图谱补全任务中的表达能力与预测精度。
技术实现思路
1、为解决上述技术问题,本发明提供一种基于多头交叉对齐与动态特征精炼的知识图谱补全方法。
2、本发明是通过以下技术方案实现的:
3、本发明的基于多头交叉对齐与动态特征精炼的知识图谱补全方法,包括以下步骤:
4、s1:获取待补全知识图谱中第一实体的初始嵌入表示和关系的初始嵌入表示;
5、s2:采用双向多头交叉注意力机制,分别以第一实体到关系和关系到第一实体两个方向计算交叉注意力,得到第一实体侧增强表示和关系侧增强表示;
6、s3:通过可学习的软融合权重,对所述初始嵌入表示与对应的增强表示进行加权融合,得到融合第一实体表示和融合关系表示;
7、s4:将所述融合第一实体表示重构为二维特征图,并将其与原始第一实体的初始嵌入表示经重构得到的原始实体二维特征图在通道维度上进行拼接,并通过线性融合映射得到融合实体二维特征图;同时,将所述融合关系表示重构为关系二维特征图,用于后续动态卷积核的生成;
8、s5:利用所述融合关系表示的二维特征图生成动态卷积核,并以重叠滑动方式对所述融合实体二维特征图执行动态卷积,得到关系感知特征图;
9、s6:对所述关系感知特征图进行多尺度特征提取,通过并行多分支卷积与池化操作捕获不同感受野下的结构语义,并经残差连接得到多尺度融合特征;
10、s7:对所述多尺度融合特征进行通道注意力重标定,通过全局池化与瓶颈结构生成通道权重,对特征通道进行自适应增强与抑制,得到重标定特征;
11、s8:对所述重标定特征依次执行门控筛选和空间加权操作,结合由原始第一实体的初始嵌入表示经重构和池化得到的实体基底特征进行位置级重标定与残差融合,得到精炼特征图;
12、s9:将所述精炼特征图映射为结构感知特征向量,基于该向量计算所述第一实体和关系与候选第二实体的匹配概率,并利用二元交叉熵损失函数优化模型参数,以及根据所述匹配概率确定补全的第二实体;
13、其中,当所述第一实体为头实体时,所述第二实体为尾实体;当所述第一实体为尾实体时,所述第二实体为头实体。
14、知识图谱是一种以有向图形式表示结构化知识的语义网络,其中节点代表现实世界中的实体,边代表实体之间的语义关系。在知识图谱中,事实通常以三元组的形式存储,即(头实体,关系,尾实体)。然而,实际构建的知识图谱往往存在严重的不完整性,大量实体之间本应存在的关系并未被收录,这直接限制了知识图谱在下游应用中的效用。知识图谱补全任务旨在基于已有的不完整三元组集合,自动推断出图谱中缺失的链接,其核心可形式化为链接预测问题:给定一个不完整的查询,例如已知头实体和关系而缺失尾实体,或已知尾实体和关系而缺失头实体,模型需要从候选实体集合中预测出最可能成立的实体。
15、在本发明中,第一实体和第二实体是对查询中已知实体和待预测实体的功能性称谓。具体而言,当执行头实体补全尾实体的任务时,已知的头实体即为第一实体,待预测的尾实体即为第二实体;当执行尾实体补全头实体的任务时,已知的尾实体即为第一实体,待预测的头实体即为第二实体。这种对称性设计使得同一模型结构无需任何修改即可同时支持两种链接预测方向,显著提升了方法的通用性和实用性。
16、初始嵌入表示是指将知识图谱中的离散符号(实体标识符和关系标识符)映射为连续向量空间中的稠密向量。这种分布式表示方法能够捕捉实体和关系之间的潜在语义相似性,使得语义相近的实体在向量空间中彼此靠近。嵌入维度d是一个关键的超参数,它决定了表示空间的大小。较大的嵌入维度能够提供更强的表示能力,但也增加了模型的参数量和过拟合风险;较小的嵌入维度则计算效率更高,但可能不足以充分表达复杂的语义关系。在具体实施中,嵌入维度通常取值为128、256、512或1024等2的幂次方,以便于硬件加速计算。
17、双向多头交叉注意力机制源于自然语言处理领域的transformer架构,其核心思想是允许模型在处理一对输入时,根据二者之间的交互关系动态调整各自的表示。在本发明中,该机制被创新性地应用于实体表示和关系表示的双向对齐:实体表示在关系语义的引导下进行更新,以突出与当前关系相关的属性特征;同时,关系表示也在实体语义的引导下进行精炼,以捕捉该关系在特定实体上下文中的具体含义。这种双向耦合机制克服了传统方法中实体和关系独立编码、缺乏深度语义交互的根本缺陷。
18、软融合权重是一种自适应平衡机制,用于控制原始语义信息与交互增强信息在最终表示中的贡献比例。如果直接用交叉注意力增强后的表示替代原始嵌入表示,可能会丢失原始嵌入中包含的全局结构信息,导致模型的语义稳健性下降。软融合机制通过学习一个可微分的权重系数,允许模型根据具体输入动态决定保留多少原始语义、融入多少交互信息,从而在二者之间取得最优平衡。
19、二维特征图的重构操作是将原本线性排列的一维嵌入向量重新排列为具有空间结构的二维矩阵。这一操作的理论动机在于:卷积神经网络在图像处理领域的成功已经证明,二维空间结构能够有效捕捉局部模式之间的依赖关系。通过将实体和关系嵌入重构为二维特征图,模型可以借助卷积操作显式建模实体与关系之间的局部结构匹配模式,这比传统方法中简单的向量内积或双线性变换具有更强的表达能力和泛化性能。
20、关系感知的动态卷积核是本发明的一项核心创新。在传统卷积神经网络中,卷积核的参数在训练完成后是固定不变的,对所有输入样本采用相同的特征提取策略。然而,在知识图谱补全任务中,不同关系类型对应着截然不同的语义模式:例如,“出生地”关系关注的是人物的地理位置属性,“创作”关系关注的是艺术家与其作品之间的创作关联。采用固定的卷积核难以同时适配如此多样化的语义场景。本发明提出的动态卷积机制将关系语义显式引入卷积核的生成过程:卷积核的参数不再固定,而是根据当前关系的嵌入表示动态计算得出。这使得模型能够针对不同的关系类型采用不同的特征提取策略,大幅提升了复杂关系场景下的建模精度。
21、多尺度特征提取借鉴了计算机视觉领域inception网络的设计理念。在知识图谱中,实体之间的关联模式可能存在于不同的空间尺度上:某些局部模式可能仅涉及少数几个特征维度之间的交互,而某些全局模式可能需要跨越较大的感受野才能有效捕获。通过构建包含不同尺寸卷积核的并行分支结构,模型能够同时关注细粒度的局部特征、中尺度的上下文信息以及大范围的结构语义,从而形成对实体-关系交互模式的立体化理解。
22、通道注意力重标定机制源于senet,其核心思想是让模型自主学习特征通道的重要性权重。在多尺度特征提取后,不同通道的特征图对应着不同尺度、不同语义模式下的响应。然而,并非所有通道都对当前的补全任务同等重要:某些通道可能捕获了与当前关系语义高度相关的判别性特征,而另一些通道可能包含噪声或弱相关信息。通道注意力机制通过全局池化聚合空间信息,再经由轻量级瓶颈网络生成通道级权重,对特征通道进行自适应增强或抑制,从而提升特征的判别质量。
23、门控筛选机制采用门控线性单元的实现形式,通过sigmoid函数生成的选通信号对特征进行细粒度筛选。sigmoid函数的输出值域为(0,1),当选通信号趋近于0时,对应位置的特征值被显著抑制;当选通信号趋近于1时,对应位置的特征值得以保留或强化。这种机制能够在空间维度上有效过滤冗余噪声,突出关键结构模式。
24、空间加权操作进一步引入了实体先验约束,将实体基底特征与门控特征共同输入空间注意力函数,可以生成空间位置权重图,使得模型在空间层面突出那些与第一实体语义最为一致的特征响应区域,进一步增强特征表示的判别性和可解释性。
25、1-n训练策略是近年来知识图谱补全领域广泛采用的高效训练范式。与传统的1-1训练方式(每次仅对一个正样本和一个负样本计算损失)不同,1-n策略将链接预测形式化为多标签分类问题:对于给定的查询对,模型一次性计算其与所有候选实体的匹配分数,并基于二元交叉熵损失进行参数更新。这种策略不仅显著提升了训练效率,还能让模型在每次迭代中同时感知多个负样本的分布特征,有利于学习更具判别性的决策边界。
26、二元交叉熵损失函数是二分类问题中应用最为广泛的损失函数之一。在知识图谱补全的1-n框架下,对于给定的查询对,模型为每一个候选实体输出一个匹配概率,真实尾实体对应的标签为1,其余候选实体的标签为0。损失函数通过最小化预测概率分布与目标标签分布之间的交叉熵,驱动模型为真实实体赋予更高的匹配概率、为虚假实体赋予更低的匹配概率。标签平滑是一种正则化技术,它将硬标签(0或1)替换为软标签(例如0.9和0.1),防止模型对训练样本过度自信,从而提升泛化能力。
27、进一步地,步骤s1中所述获取待补全知识图谱中第一实体的初始嵌入表示和关系的初始嵌入表示,具体包括:
28、在模型训练开始前,构建或加载一个实体嵌入矩阵和一个关系嵌入矩阵,其中表示知识图谱中实体的总数,表示关系的总数,为预设的嵌入维度,所述实体嵌入矩阵和关系嵌入矩阵中的每一行分别对应一个实体或一个关系的连续向量表示;
29、在接收到待补全的查询对后,其中为第一实体,根据第一实体的标识符从所述实体嵌入矩阵中查表取出对应的第行向量,作为所述第一实体的初始嵌入表示,并根据关系的标识符从所述关系嵌入矩阵中查表取出对应的第行向量,作为所述关系的初始嵌入表示;
30、为提升模型在训练过程中的泛化能力并防止过拟合,在将所述第一实体的初始嵌入表示和关系的初始嵌入表示输入后续模块之前,对二者分别施加随机失活处理,所述随机失活处理以预设的丢弃概率随机地将所述向量中的部分元素置为零,其余保留的元素按比例进行缩放以保持其期望值不变;
31、经过所述随机失活处理后的第一实体初始嵌入表示和关系初始嵌入表示随后被分别传递至步骤s2的双向多头交叉注意力模块,作为该模块的两个输入。
32、进一步地,步骤s2中所述采用双向多头交叉注意力机制计算交叉注意力,具体包括:
33、步骤s2所执行的双向多头交叉注意力计算分为两个对称的注意力计算路径,分别记为第一实体到关系方向和关系到第一实体方向;
34、在第一实体到关系方向中,以经过步骤s1随机失活处理后的第一实体初始嵌入表示作为查询输入,以经过步骤s1随机失活处理后的关系初始嵌入表示作为键输入和值输入;首先通过三个可学习的线性映射矩阵,,分别对所述查询输入、键输入和值输入进行线性投影,得到查询矩阵、键矩阵和值矩阵;随后,将所述查询矩阵、键矩阵和值矩阵在特征维度上均等划分为份,每一份对应一个注意力头,使得每个注意力头获得对应的查询子空间矩阵、键子空间矩阵和值子空间矩阵,每个注意力头的特征维度为;在每个注意力头内部,独立执行缩放点积注意力计算,即首先计算查询子空间矩阵与键子空间矩阵的转置的矩阵乘积,将乘积结果除以缩放因子后,通过softmax函数进行归一化得到注意力权重矩阵,再将所述注意力权重矩阵与值子空间矩阵相乘,得到该注意力头的输出,其计算公式为:;将所有个注意力头的输出向量在特征维度上进行拼接,得到一个维度为的拼接向量,再通过一个可学习的输出映射矩阵对该拼接向量进行线性变换,得到所述第一实体侧增强表示;
35、在关系到第一实体方向中,以经过步骤s1随机失活处理后的关系初始嵌入表示作为查询输入,以经过步骤s1随机失活处理后的第一实体初始嵌入表示作为键输入和值输入;采用与第一实体到关系方向相同的操作流程,通过三个可学习的线性映射矩阵、、进行投影,划分至个注意力头,在每个头内执行缩放点积注意力计算,将各头输出拼接后通过输出映射矩阵进行线性变换,得到所述关系侧增强表示。
36、进一步地,步骤s3中所述通过可学习的软融合权重进行加权融合,具体包括:
37、所述步骤s3采用可学习的软融合机制对原始语义信息与交互增强信息进行自适应平衡;
38、对于第一实体侧,首先将第一实体初始嵌入表示和第一实体侧增强表示分别输入至一个由单层全连接层构成的轻量级神经网络中,所述单层全连接层具有两个输入节点和两个输出节点,其输出为两个未归一化的原始融合权重和;随后,对所述原始融合权重和施加softmax归一化处理,得到可学习的软融合权重和,其计算公式为:,,且满足;然后,按公式对第一实体初始嵌入表示和第一实体侧增强表示进行加权求和,得到所述融合第一实体表示,其中加权求和操作在在向量空间中按特征向量进行加权融合;
39、对于关系侧,采用与第一实体侧完全相同的融合流程:将关系初始嵌入表示和关系侧增强表示输入至另一个结构相同的由单层全连接层构成的轻量级神经网络,生成未归一化的原始融合权重和,经softmax归一化后得到满足的软融合权重和,再按公式进行加权求和,得到所述融合关系表示。
40、进一步地,步骤s4具体包括:
41、在步骤s3获得融合第一实体表示和融合关系表示后,为利用卷积神经网络对局部结构模式的建模能力,需将一维的向量表示重构为二维的特征图格式;首先,分别对所述融合第一实体表示和融合关系表示执行维度重排操作,将其从长度为的一维向量重排为预设尺寸为的二维矩阵,其中和均为大于1的整数,且满足,所述和的具体取值在模型训练前根据嵌入维度的因式分解预先确定,当时可取;重排后分别得到二维第一实体特征图和二维关系特征图,为便于卷积操作,可进一步将其视为具有单个通道的二维张量;
42、考虑到原始第一实体的初始嵌入表示中仍包含重要的基础语义信息,步骤s4在二维空间中对原始第一实体特征与交叉注意力增强后的第一实体特征进行联合建模;具体而言,将所述原始第一实体的初始嵌入表示按照与上述相同的维度重排方式重构为预设尺寸的原始实体二维特征图,然后在通道维度上将所述原始实体二维特征图与所述二维第一实体特征图进行拼接,即若两者均视为单通道二维张量,拼接后得到一个具有2个通道的待卷积融合实体二维特征图,并通过逐点卷积对其进行通道压缩与线性融合,得到单通道的融合实体二维特征图;
43、所述融合实体二维特征图随后被传递至步骤s5,作为动态卷积操作的目标特征图。
44、进一步地,步骤s5具体包括:
45、在获得步骤s4输出的待卷积融合实体二维特征图和二维关系特征图后,步骤s5执行关系感知的动态重叠卷积机制,将关系语义显式引入特征精炼过程;
46、首先,将所述二维关系特征图视为一个由空间尺寸为的二维矩阵,其包含一个通道;为了生成动态卷积核,将该二维关系特征图在空间维度上按预设的卷积核尺寸划分为多个局部区域,每个局部区域作为一个动态生成的卷积核;
47、所述预设的卷积核尺寸为预设的局部窗口大小,其中为小于所述二维关系特征图空间尺寸的正整数,而动态卷积核的数量等于所述二维关系特征图在空间维度上滑动窗口的数量;
48、随后,以步幅为1的重叠滑动方式,将所述动态生成的卷积核在待卷积融合实体二维特征图上进行卷积运算;由于待卷积融合实体二维特征图具有2个通道,所述动态卷积核需具有与之匹配的通道数,每个动态卷积核对应一个尺寸为的局部区域,并以展平形式参与后续匹配计算;
49、卷积运算的具体过程为:将所述动态生成的卷积核与待卷积融合实体二维特征图中对应的局部窗口进行匹配计算,在每一个滑动窗口位置,通过对卷积核与对应窗口内特征进行相似度计算获得该空间位置的响应值;通过对所有可能的空间窗口位置执行上述匹配计算,最终生成一张由关系语义条件化的多通道二维关系感知特征图,其中通道数等于所述局部区域的数量;
50、该动态卷积操作可统一表示为,其中表示关系驱动的动态重叠卷积算子;该算子中的卷积核参数完全由关系特征自适应生成,使得模型能够针对不同关系类型动态调整其特征筛选策略。
51、进一步地,步骤s6中所述对关系感知特征图进行多尺度特征提取,具体包括:
52、在获得步骤s5输出的关系感知特征图后,步骤s6采用inception风格的多分支多尺度特征变换对所述关系感知特征图进行并行建模,包括以下步骤:
53、构建一个包含四个并行分支的多分支并行结构:第一个分支为卷积分支,包含一个卷积核尺寸为的卷积层,用于捕获局部细粒度模式并对特征通道进行线性组合;第二个分支为卷积分支,包含一个卷积核尺寸为的卷积层,其有效感受野为区域,用于捕获中尺度的局部上下文信息;第三个分支为等效卷积分支,通过串联两个卷积层实现,用于在扩大感受野的同时降低计算复杂度;第四个分支为平均池化分支,包含一个池化窗口尺寸为、步幅为1的平均池化层,后接一个卷积层,用于在保留空间结构信息的同时进行特征平滑与降维;
54、将所述关系感知特征图同时输入至上述四个分支,各分支独立进行前向计算,分别输出一个与输入特征图空间尺寸相同或经适当填充后尺寸相同的特征图;随后,将四个分支的输出特征图在通道维度上进行拼接,即若每个分支输出个通道的特征图,则拼接后得到一个具有个通道的拼接特征图;
55、为了在引入多尺度结构信息的同时保持特征表示的稳定性,步骤s6进一步将所述拼接特征图与原始输入的关系感知特征图进行残差连接;若拼接特征图的通道数与关系感知特征图的通道数不一致,则首先通过一个卷积层将关系感知特征图的通道数调整至与拼接特征图一致,然后将二者在对应空间位置和通道上进行逐元素相加,得到所述多尺度融合特征,该过程可形式化表示为,其中表示上述多分支并行变换操作,为经通道数调整后的关系感知特征图。
56、进一步地,步骤s7中所述通道注意力重标定,具体包括:
57、在获得步骤s6输出的多尺度融合特征后,其中为特征图的通道数,和分别为空间高度和宽度,步骤s7引入通道注意力机制对多尺度融合特征进行自适应重标定:
58、首先,对所述多尺度融合特征在空间维度上进行全局平均池化操作,即对每个通道,计算该通道上所有个空间位置的特征值的算术平均值,得到一个长度为的通道描述符向量,其中第个元素,该通道描述符向量汇聚了每个通道的全局空间信息;
59、随后,将所述通道描述符向量z输入至一个由两个全连接层构成的瓶颈结构中,以学习通道间的非线性依赖关系;所述瓶颈结构的第一个全连接层将输入维度c压缩至一个预设比例r的较小维度,其中r为压缩比,取值大于1的整数;该全连接层的输出随后通过relu激活函数进行非线性变换,以增强模型的表达能力;接着,第二个全连接层将维度从恢复至原始维度c,其输出经过sigmoid激活函数进行归一化,生成一个取值范围在(0,1)之间的通道激活权重向量,其中第c个元素表示第c个特征通道的重要性权重;
60、然后,将所述通道激活权重向量s与原始的多尺度融合特征在通道维度上进行逐通道相乘,即对于每个通道c,将该通道的特征图中的每一个空间位置的特征值均乘以对应的通道权重,得到加权特征图;最后,为了在增强特征判别性的同时保留原始多尺度结构信息,将加权后的特征图与原始多尺度融合特征进行残差连接,即在对应空间位置和通道上进行逐元素相加,得到所述重标定特征。
61、进一步地,步骤s8具体包括:
62、在获得步骤s7输出的重标定特征后,步骤s8依次执行门控筛选和空间加权两个子步骤;
63、所述门控筛选子步骤具体为:首先,对所述重标定特征u施加一个卷积核尺寸为的逐点卷积操作,该逐点卷积不改变特征图的空间尺寸,仅对通道信息进行线性组合,其输出与输入具有相同的空间尺寸和通道数c;将逐点卷积的输出结果输入至sigmoid激活函数,生成一个取值范围在(0,1)之间的选通信号,其中为sigmoid函数,表示所述逐点卷积算子;同时,将所述重标定特征u输入至双曲正切激活函数tanh,得到非线性激活后的特征,其取值范围在(-1,1)之间,能够保持特征的零中心化特性并增强非线性表达能力;随后,将所述选通信号g与所述非线性激活后的特征t在对应空间位置和通道上进行逐元素相乘,得到门控特征,其中表示逐元素乘法;该门控机制能够在保持非线性表达能力的同时,根据选通信号的值自适应地抑制弱响应区域的特征值并将其推向零,同时保留或强化强响应区域的特征值,从而有效过滤冗余噪声;
64、所述空间加权子步骤具体为:
65、首先,从步骤s4所述的原始实体二维特征图中,通过空间平均池化操作获得实体基底特征,所述平均池化操作将整个空间区域的特征值聚合为一个具有个通道的向量,其中由池化前的特征图通道数决定;为便于后续操作,所述实体基底特征被扩展为与所述门控特征具有相同空间尺寸的特征图;然后,将所述门控特征与实体基底特征共同输入至注意力门控模块,以生成空间注意力权重图,其中每个空间位置的权重值表示该位置特征的重要性程度;随后,将所述空间注意力权重图与门控特征在对应空间位置进行逐元素相乘,对各通道特征进行加权,并在通道维度上对加权结果进行聚合,得到单通道的空间响应特征,即在每个通道c上,将门控特征图的每个空间位置的特征值乘以权重,得到加权门控特征图;
66、最后,采用残差融合策略,将所述实体基底特征、所述加权门控特征图、以及原始第一实体嵌入的线性映射结果进行联合建模,即在对应空间位置和通道上进行逐元素相加,得到所述精炼特征图,其中是通过一个可学习的线性映射层将原始第一实体初始嵌入表示映射至与相同的维度和空间尺寸得到的。
67、进一步地,步骤s9具体包括:
68、在完成步骤s8的多层次特征精炼并得到精炼特征图后,其中为特征图的通道数,和为空间尺寸,步骤s9执行特征投影、评分计算与模型优化三个环节;
69、所述特征投影环节具体为:首先,将所述精炼特征图进行展平操作,即将三维张量重新排列为一个长度为的一维向量;然后,将该一维向量输入至一个全连接层,所述全连接层的权重矩阵为,偏置向量为,其中为实体嵌入的维度,通过矩阵乘法与偏置加法运算将展平向量线性映射为维度为的中间向量;接着,将所述中间向量输入至一个批量归一化层,所述批量归一化层对当前训练批次内多个样本的中间向量进行归一化处理,使其均值为0、方差为1,从而稳定训练过程并加快模型收敛;最后,将批量归一化层的输出输入至relu激活函数进行非线性变换,得到所述结构感知特征向量,该向量综合了从交叉注意力对齐、动态卷积到多级特征精炼的全部语义与结构信息;
70、所述评分计算环节采用1-n训练策略,将知识图谱链接预测建模为一个多标签分类问题;具体而言,在每一次前向传播中,针对给定的查询对,其中为第一实体,模型获得所述结构感知特征向量后,通过一次矩阵乘法计算该向量与实体嵌入矩阵的转置的点积相似度,得到一个长度为的原始评分向量,其中第t个元素表示查询对与候选第二实体t的原始匹配分数;随后,将所述原始评分向量乘以一个可学习的尺度参数,并与一个可学习的偏置项b相加,其中尺度参数在模型训练过程中通过反向传播自动调整,且其取值范围约束在[5,15]之间以保持评分分布的合理动态范围;然后,将经过尺度缩放和偏置调整后的评分向量输入至sigmoid函数,将每个评分值映射为(0,1)区间内的匹配概率,得到匹配概率向量,其中为sigmoid函数;
71、所述模型优化环节采用二元交叉熵损失函数对模型参数进行优化,将链接预测任务形式化为多标签二分类问题;具体而言,对于一个训练样本,其中为真实第二实体,其目标标签为一个长度为的二值向量y,其中仅有对应真实第二实体的位置为1,其余位置为0;为提升模型的泛化能力并防止过拟合,对所述目标标签施加标签平滑处理,即将真实第二实体位置的目标值从1调整为,同时将其他位置的目标值从0调整为,其中平滑系数取值为0.1;然后,计算所述匹配概率向量与平滑后的目标标签向量之间的二元交叉熵损失,损失函数定义为:
72、;
73、其中为平滑后的目标标签值,为模型预测的候选第二实体的匹配概率;模型采用adam优化器,基于所述损失函数计算梯度并通过反向传播更新所有可学习参数,直至损失收敛;
74、在模型训练完成后,对于任意给定的待补全查询对,其中为已知的第一实体,通过步骤s1至s9的前向计算过程得到所述匹配概率向量,并选择其中匹配概率值最大的候选第二实体作为针对该查询对的补全结果输出,从而完成对待补全知识图谱中缺失实体的补全;
75、其中,当所述第一实体为头实体时,所述第二实体为尾实体,所述查询对对应于头实体补全尾实体的场景;当所述第一实体为尾实体时,所述第二实体为头实体,所述查询对对应于尾实体补全头实体的场景。
76、本发明的有益效果在于:
77、第一,显著提升了实体与关系之间的语义对齐能力和复杂关系建模精度。通过构建双向多头交叉注意力机制,在实体到关系和关系到实体两个方向上建立显式交互,使实体表示能够在关系语义条件下动态调整,同时关系表示也能够感知实体特征,实现深层语义对齐。相较于现有技术中“先独立编码、再被动交互”的模式,本发明从表示学习初期即建立双向耦合关系,有效缓解了语义不一致问题,在复杂关系场景下取得了更高的推理精度。
78、第二,突破了传统卷积式知识图谱补全方法中固定交互模式的限制。通过引入关系驱动的动态二维卷积机制,将关系语义映射为可自适应生成的卷积核,使模型能够根据不同关系类型灵活调整特征提取策略,从而更精细地建模实体与关系之间的局部结构匹配模式。相比传统静态卷积方法,本发明实现了卷积核参数与关系语义的强耦合,大幅增强了模型对多样化关系语义的表达能力。
79、第三,实现了多层次特征精炼与关键信息突出。通过结合多尺度特征提取、通道注意力重标定、门控筛选以及空间加权等机制,对动态卷积得到的特征进行逐层精炼,能够同时捕获局部细粒度模式、中尺度上下文信息以及更大感受野下的结构语义响应,突出关键判别信息并有效抑制冗余噪声。相较于现有方法中粗粒度的特征融合方式,本发明的多层次特征精炼机制显著提升了模型表示学习的判别性、稳定性和鲁棒性。
80、第四,提升了知识图谱补全任务中的整体预测性能与泛化能力。通过构建统一的实体-关系交互建模框架,综合利用原始实体语义、交叉注意力增强表示和多尺度结构特征,使模型能够在保持计算效率的前提下,同时利用基础语义信息与高阶结构信息,实现局部匹配与全局语义的一体化建模。在公开基准数据集fb15k-237、wn18rr及umls上的实验结果表明,本发明在mrr、hits@1、hits@3及hits@10等关键评估指标上均优于现有主流方法,验证了其在复杂知识图谱补全任务中的有效性与先进性,能够满足实际应用场景中对高精度与高可靠性的需求。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com