一种基于小样本的命名实体识别方法、装置及相关介质与流程

技术特征：
1.一种基于小样本的命名实体识别方法，其特征在于，包括：获取样本数据，并对所述样本数据标注实体标签，以此构建第一样本集；在所述第一样本集中选取枢纽字符，并基于所述枢纽字符构建标签映射空间；利用所述标签映射空间将所述第一样本集映射为第二样本集；利用所述第二样本集对预训练语言模型进行微调；采用微调后的预训练语言模型对指定文本进行命名实体识别预测。2.根据权利要求1所述的基于小样本的命名实体识别方法，其特征在于，所述获取样本数据，并对所述样本数据标注实体标签，以此构建第一样本集，包括：将所述样本数据划分为命名实体文本和非命名实体文本；对所述命名实体文本标注实体标签；对所述非命名实体文本标注为o；基于标注结构构建得到所述第一样本集s1＝<文本x，标签y>。3.根据权利要求2所述的基于小样本的命名实体识别方法，其特征在于，所述在所述第一样本集中选取枢纽字符，并基于所述枢纽字符构建标签映射空间，包括：按照下式构建所述标签映射空间m：其中，x和y分别表示第一样本集中的文本和对应的实体标签，表示枢纽字符w对实体标签li的代表程度指标，表示从所有字符v中选择出对实体标签l
i
代表程度指标最高的的枢纽字符w，tf(x＝w,y＝l
i
)表示所有被标注为l
i
的字符中枢纽字符w所出现的频率，idf(x＝w)表示枢纽字符w普遍重要性的度量。4.根据权利要求3所述的基于小样本的命名实体识别方法，其特征在于，所述利用所述标签映射空间将所述第一样本集映射为第二样本集，包括：选取第一样本集中的实体标签；按照下式，对所述第一样本集中的实体标签对应的文本进行映射，以此得到包含文本和目标文本的所述第二样本集s2＝<文本x，目标文本x’>：x'＝{x1,
…
,m(y
i
),
…
,x
n
}其中，x’表示被映射为第二样本集中的目标文本，m(
·
)表示标签映射空间，y
i
表示第一样本集中的实体标签，x1和x
n
表示第一样本集中的文本。5.根据权利要求4所述的基于小样本的命名实体识别方法，其特征在于，所述预训练语言模型为bert预训练模型。6.根据权利要求5所述的基于小样本的命名实体识别方法，其特征在于，所述利用所述第二样本集对预训练语言模型进行微调，包括：将所述第二样本集中的文本输入至bert预训练模型中，并由bert预训练模型输出对应的特征编码；基于所述特征编码，按照计算输入的文本被预测为目标文本的概率p：p(x
i
＝x
′
i
|x)＝softmax(w
lm
·
h
i
)
其中，x
i
表示输入的第i个文本数据，x'
i
表示第i个目标文本数据，x表示第二样本集的文本，lm表示bert预训练模型，w
lm
表示bert预训练模型lm最后一层全连接层的权重参数，h
i
表示第i个文本数据的特征编码；按照下式，利用损失函数对微调训练进行优化更新，以得到微调后的bert预训练模型lm'：7.根据权利要求6所述的基于小样本的命名实体识别方法，其特征在于，所述采用微调后的预训练语言模型对指定文本进行命名实体识别预测，包括：按照下式，采用微调后的预训练语言模型对指定文本进行字符预测：o
i
＝softmax(w
lm'
·
e
i
)其中，o
i
表示字符生成概率，w
lm'
表示微调后的预训练语言模型的权重参数，e
i
表示指定文本中第i个文本数据的特征编码，表示预测的第i个字符；将预测生成的字符构建为预测文本，并利用所述标签映射空间将所述预测文本中的字符映射为实体标签。8.一种基于小样本的命名实体识别装置，其特征在于，包括：标签标注单元，用于获取样本数据，并对所述样本数据标注实体标签，以此构建第一样本集；字符选取单元，用于在所述第一样本集中选取枢纽字符，并基于所述枢纽字符构建标签映射空间；样本映射单元，用于利用所述标签映射空间将所述第一样本集映射为第二样本集；模型微调单元，用于利用所述第二样本集对预训练语言模型进行微调；识别预测单元，用于采用微调后的预训练语言模型对指定文本进行命名实体识别预测。9.一种计算机设备，其特征在于，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的基于小样本的命名实体识别方法。10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的基于小样本的命名实体识别方法。

技术总结
本发明公开了一种基于小样本的命名实体识别方法、装置及相关介质，该方法包括：获取样本数据，并对所述样本数据标注实体标签，以此构建第一样本集；在所述第一样本集中选取枢纽字符，并基于所述枢纽字符构建标签映射空间；利用所述标签映射空间将所述第一样本集映射为第二样本集；利用所述第二样本集对预训练语言模型进行微调；采用微调后的预训练语言模型对指定文本进行命名实体识别预测。本发明通过选取最具有代表性的枢纽字符构建标签映射空间，以对样本数据进行映射，然后利用映射得到的第二样本集对预训练语言模型进行微调，从而利用微调后的预训练语言模型进行命名实体识别预测，如此可以提高命名实体识别效率和精度。度。度。


技术研发人员：张黔 王伟 陈焕坤
受保护的技术使用者：华润数字科技有限公司
技术研发日：2022.08.19
技术公布日：2022/11/8