一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种用于知识图谱嵌入模型的负采样方法

2023-04-05 06:23:32 来源:中国专利 TAG:

技术特征:
1.一种用于知识图谱嵌入模型的负采样方法,其特征在于,包括以下步骤:s1:在进行嵌入模型的第一次训练之前,根据输入模型的正样本x
i
,初始化n个存储空间space_i;s2:根据给定的正样本三元组x
i
=(h,r,t),基于实体集合ε中全部实体生成负样本集合通过均匀采样,从负样本集合中采样得到若干个负样本;s3:将所述步骤s2得到的若干个负样本添加至所述存储空间space_i;s4:对所述存储空间space_i中的负样本进行重要性p
i
评估;s5:对所述存储空间space_i中所有负样本的重要性p
i
进行降序排序,保留重要性分数较高的若干个样本,存储于所述存储空间space_i;s6:从所述步骤s5保留的负样本中均匀采样若干个负样本组成hns=(h',r,t')并将所述存储空间space_i更新为hns;s7:对步骤s2-s6重复n次,n个正样本分别得到对应的n个所述存储空间space_i,将n个正样本集合和n个负样本集合输入模型完成一次训练;s8:模型的当前轮次训练完成后,在下一次迭代训练开始之前,重复步骤s2-s7,直到迭代训练次数达到设置的次数或模型性能表现稳定。2.根据权利要求1所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s1中所述正样本x
i
中i=1,2,3
……
n;n个所述存储空间space_i中i=1,2,3
……
n;每一个所述存储空间space_i包括n个负样本;其中,存储空间space_i与正样本x
i
一一对应。3.根据权利要求2所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s2通过均匀采样从(h',r,t)和(h,r,t')中分别采样n1个负样本,得到2*n1个负样本,其中,负样本统一表示为(h',r,t'),此外,(h',r,t)中t=t',(h,r,t')中h=h'。4.根据权利要求3所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s3将所述步骤s2采样得到的2*n1个负样本添加到所述存储空间中space_i,所述存储空间space_i一共包含n2=(n 2*n1)个负样本。5.根据权利要求4所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s4首先计算d
i
,d
i
通过以下任一方法,或任意多种方法取平均值求得:a)通过相似性函数,衡量正样本(h,r,t)和负样本(h',r,t')之间的差异性,d
i
=||e
h-e
h'
|| ||e
t-e
t'
||,其中e
h
为实体h的嵌入表示形式;b)通过相似性函数,衡量当前状态的嵌入模型对正样本(h,r,t)和负样本(h',r,t')的损失函数g差异性,d
i
=||g(h,r,t)-g(h',r,t')||;c)通过当前状态的嵌入模型对负样本(h',r,t')进行打分,d
i
=f(e
h'
,e
r
,e
t'
);通过softmax函数计算重要性程度p
i
:6.根据权利要求5所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s5中计算得到的p
i
表示对应负样本的质量,重要性程度p
i
越高,负样本的质量越高。
7.根据权利要求6所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s5保留重要性排序后重要性最高的n3个负样本于存储空间space_i中,其中n3>n。8.根据权利要求7所述的用于知识图谱嵌入模型的负采样方法,其特征在于,所述步骤s6具体为:从n3个负样本中均匀采样得到n个负样本,组成hns=(h',r,t'),并将存储space_i更新为hns,hns即为正样本三元组x
i
=(h,r,t)对应的高质量负样本集合,其中,一个正样本(h,r,t)对应了n个负样本(h',r,t')。

技术总结
本发明公开了一种用于知识图谱嵌入模型的负采样方法,包括以下步骤:S1:初始化n个包含N个负样本的存储空间;S2:根据给定的正样本三元组,基于实体集合ε中全部实体生成负样本集合,通过均匀采样,从负样本集合中采样得到2*N1个负样本;S3:将步骤S2得到的若干个负样本添加至所储空间;S4:对存储空间中的负样本进行重要性评估;S5:对存储空间中所有负样本的重要性进行排序,保留重要性分数高的N3个样本;S6:从保留的负样本中均匀采样N个负样本组成HNS;S7:重复步骤S2-S6n次;S8:对模型进行迭代训练。本发明提供的技术方案占用资源少,运行效率高,广泛适用于各种知识图谱模型。广泛适用于各种知识图谱模型。广泛适用于各种知识图谱模型。


技术研发人员:谢禹舜 顾钊铨 方滨兴 张小松 王乐 牛伟纳 韩伟红 李树栋 张登辉 谭润楠 龙宇
受保护的技术使用者:电子科技大学(深圳)高等研究院 广州大学
技术研发日:2022.11.21
技术公布日:2023/3/10
再多了解一些

本文用于创业者技术爱好者查询,仅供学习研究,如用于商业用途,请联系技术所有人。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献