一种残膜回收机防缠绕挑膜装置的制 一种秧草收获机用电力驱动行走机构

一种基于路径扩展的非连续实体识别方法与流程

2022-02-19 02:51:52 来源:中国专利 TAG:

技术特征:
1.一种基于路径扩展的非连续实体识别方法,其特征在于,具体步骤如下:步骤1,对文本序列使用transformer

1编码器编码;步骤2,将transformer

1编码器的输出通过一层线性映射层映射为实体首字符判别向量,并使用softmax函数得到字符标签预测值,以获得实体首字符的索引值;步骤3,针对预测的每个实体首字符,将其对应的transformer

1编码器输出向量与其后字符的transformer

1编码器输出向量拼接,使用transformer

2编码器进行编码,接着通过一层线性映射层映射为实体尾字符判别向量,并使用softmax函数得到字符标签预测值,以获得对应实体首字符的实体尾字符索引值;步骤4,针对每对实体首字符和实体尾字符区间字符使用路径扩展方法,得到实体表示的路径;步骤5,解码获得的实体表示路径,得到识别出的实体。2.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤1中,对文本序列使用transformer

1编码器编码,具体公式如下:h=transformer

1(x)(1)其中,h={h1,h2,

,h
n
}表示transformer

1编码器的输出,x={x1,x2,

,x
n
}表示文本序列,n表示文本序列长度。3.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤2中,将transformer

1编码器的输出通过一层线性映射层映射为实体首字符判别向量,并使用softmax函数得到第i个字符标签预测值具体公式如下:其中,w1是transformer

1编码器的权重矩阵,b1是transformer

1编码器的偏置量,h
i
是第i个字符的transformer

1编码器输出,表示该字符是实体首字符,表示该字符不是实体首字符。4.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤3中,针对预测的每个实体首字符x
k
,将其对应的transformer

1编码器输出向量与其后字符对应的transformer

1编码器输出向量拼接,使用transformer

2编码器进行编码,接着通过一层线性映射层映射为实体尾字符判别向量,并使用softmax函数得到第j个字符标签预测值具体公式如下:具体公式如下:其中,表示向量拼接操作,w2是transformer

2编码器的权重矩阵,b2是transformer

2编码器的偏置量,是第j个字符与h
k
拼接后通过transformer

2编码的向量,表示该字符是首字符序号为k的实体的尾字符,表示该字符不是首字符序号为k的实体的尾字符。5.根据权利要求1所述的基于路径扩展的非连续实体识别方法,其特征在于,步骤4中,针对首字符为x
k
尾字符为x
j
的实体区间[x
k
,

,x
j
]使用路径扩展方法,得到实体表示的路
径,具体方法为:将路径扩展视为字符的多分类问题,同时对每条路径设置记忆向量,将记忆向量与transformer

1编码后的字符输出向量拼接,通过一层线性映射层进行路径扩展分类,具体公式如下:公式如下:其中,表示向量拼接操作,w3是线性映射层的权重矩阵,b3是偏置量,表示第p条路径第i个字符的记忆向量,h
i
是第i个字符的transformer

1编码器输出,是一个多维向量,表示第p条路径第i个字符的分类向量,第一维向量为1表示该字符不是当前实体表示路径上的点,其余维向量为1表示该字符是对应类别实体表示路径上的点,当在多个维度上的值都为1,第p条路径分支出多个新路径,新路径的初始记忆向量等于6.一种基于路径扩展的非连续实体识别系统,其特征在于,基于权利要求1

5任一项所述的基于路径扩展的非连续实体识别方法,实现基于路径扩展的非连续实体识别。7.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时,基于权利要求1

5任一项所述的基于路径扩展的非连续实体识别方法,实现基于路径扩展的非连续实体识别。8.一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时,基于权利要求1

5任一项所述的基于路径扩展的非连续实体识别方法,实现基于路径扩展的非连续实体识别。

技术总结
本发明提出了一种基于路径扩展的非连续实体识别方法,对文本序列使用Transformer


技术研发人员:胡岩峰 胡政 潘宇顺 陈诗旭 乔雪 宋路杰 丁士伟 吕东帅
受保护的技术使用者:苏州空天信息研究院
技术研发日:2021.09.13
技术公布日:2022/1/3
再多了解一些

本文用于企业家、创业者技术爱好者查询,结果仅供参考。

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表

相关文献