一种实体识别方法、装置、设备及存储介质

本技术涉及自然语言处理，尤其涉及一种实体识别方法、装置、设备及存储介质。

背景技术：

1、随着信息技术的不断发展与文本数据的爆发式增长，在诸多智能化应用场景中，需要对海量文本数据中的实体信息进行快速且准确地提取。命名实体识别作为自然语言处理领域的关键基础技术，旨在识别出文本中具有特定意义的实体。然而，在实际应用中，实体类别往往随时间动态增加，这就要求模型能够进行类别增量学习，即在仅接触新类别数据的情况下不断学习新实体识别能力。

2、目前的方法通常通过随新类别扩展分类头权重矩阵的方式来进行增量识别。然而，这种方法往往面临“竞争稀释”与旧类特征目标漂移的问题。随新类别增加，归一化分母变大导致旧类预测概率被系统性压低；同时旧类在增量训练中缺乏充分监督，特征容易在新类数据推动下发生几何漂移，容易出现遗忘与识别错误，从而导致实体识别的准确性降低。

3、因此，如何有效缓解增量学习过程中的灾难性遗忘与竞争稀释，提高实体识别的准确性，是一个亟待解决的问题。

技术实现思路

1、有鉴于此，本技术实施例提供的一种实体识别方法、装置、设备及存储介质，能够有效缓解增量学习过程中的灾难性遗忘与竞争稀释，提高实体识别的准确性。本技术实施例提供的一种实体识别方法、装置、设备及存储介质是这样实现的：

2、本技术实施例提供的一种实体识别方法，包括：

3、对预先生成的正交基矩阵、中心化规则、模长缩放规则以及冻结控制参数进行几何构造与参数锁定处理，得到预设等角原型矩阵，所述预设等角原型矩阵包括多个两两夹角相等的固定原型向量；

4、对待处理文本序列进行深层语义特征提取、残差瓶颈投影映射以及模长归一化处理，得到对应的文本词元单位特征向量；

5、对当前增量任务阶段已开放的所有实体类别标识与所述预设等角原型矩阵进行按类索引截取处理，得到由当前已开放类别对应的固定原型向量构成的当前激活原型矩阵；

6、对所述文本词元单位特征向量、所述当前激活原型矩阵中的各个固定原型向量以及预设的温度缩放因子进行向量内积与数值放大处理，得到各个已开放实体类别的分类打分；

7、基于构建的规范转移概率矩阵对所述分类打分进行维特比动态规划搜索处理，得到目标实体识别结果。

8、在一些实施例中，所述对预先生成的正交基矩阵、中心化规则、模长缩放规则以及冻结控制参数进行几何构造与参数锁定处理，得到预设等角原型矩阵，包括：

9、对预设的最大类别数量与特征维度进行高斯随机采样与正交分解处理，得到正交基矩阵；

10、对所述正交基矩阵进行按行求均值与按行减均值处理，得到零均值的中心化矩阵；

11、对所述中心化矩阵进行模长归一化与比例缩放处理，得到任意两个向量之间余弦相似度均为预设负常数的预设等角原型矩阵；

12、对所述预设等角原型矩阵的梯度更新状态进行反向传播截断与参数锁定处理，得到在模型训练与推理阶段均保持不变的预设等角原型矩阵。

13、在一些实施例中，所述对待处理文本序列进行深层语义特征提取、残差瓶颈投影映射以及模长归一化处理，得到对应的文本词元单位特征向量，包括：

14、对待处理文本序列进行预训练语言模型编码处理，得到深层语义特征向量；

15、对所述深层语义特征向量进行线性降维、非线性激活、线性升维以及残差连接融合处理，得到投影映射特征向量；

16、对所述投影映射特征向量进行二范数模长归一化处理，得到对应的文本词元单位特征向量。

17、在一些实施例中，所述对当前增量任务阶段已开放的所有实体类别标识与所述预设等角原型矩阵进行按类索引截取处理，得到由当前已开放类别对应的固定原型向量构成的当前激活原型矩阵，包括：

18、对当前增量任务阶段包含的所有历史旧实体类别与当前新实体类别进行集合汇总处理，得到已开放类别索引集合；

19、基于所述已开放类别索引集合，对所述预设等角原型矩阵中对应的列向量进行掩码筛选与切片提取处理，得到按类别顺序排列的子矩阵；

20、对所述子矩阵进行激活状态标记与多阶段隔离处理，得到由当前已开放类别对应的固定原型向量构成的当前激活原型矩阵。

21、在一些实施例中，所述对所述文本词元单位特征向量、所述当前激活原型矩阵中的各个固定原型向量以及预设的温度缩放因子进行向量内积与数值放大处理，得到各个已开放实体类别的分类打分，包括：

22、对所述文本词元单位特征向量与所述当前激活原型矩阵中的各个固定原型向量进行矩阵乘法与点积计算处理，得到余弦相似度数值矩阵；

23、对所述余弦相似度数值矩阵与预设的温度缩放因子进行乘法缩放放大处理，得到概率未归一化的原始打分矩阵；

24、对所述原始打分矩阵中各个词元位置对应的数值与各个已开放实体类别进行映射关联处理，得到各个已开放实体类别的分类打分。

25、在一些实施例中，所述基于构建的规范转移概率矩阵对所述分类打分进行维特比动态规划搜索处理，得到目标实体识别结果，包括：

26、对标签转移合法性规则进行二值掩码与数值惩罚矩阵映射处理，得到规范转移概率矩阵；

27、将所述分类打分作为各个词元位置的发射概率数值，并与所述规范转移概率矩阵进行维特比动态规划状态转移求解处理，得到最佳标签路径序列；

28、对所述最佳标签路径序列进行实体边界解析与类别映射处理，得到目标实体识别结果。

29、本技术实施例提供的一种实体识别装置，包括：

30、处理模块，用于对预先生成的正交基矩阵、中心化规则、模长缩放规则以及冻结控制参数进行几何构造与参数锁定处理，得到预设等角原型矩阵，所述预设等角原型矩阵包括多个两两夹角相等的固定原型向量；

31、所述处理模块，还用于对待处理文本序列进行深层语义特征提取、残差瓶颈投影映射以及模长归一化处理，得到对应的文本词元单位特征向量；

32、所述处理模块，还用于对当前增量任务阶段已开放的所有实体类别标识与所述预设等角原型矩阵进行按类索引截取处理，得到由当前已开放类别对应的固定原型向量构成的当前激活原型矩阵；

33、获取模块，用于对所述文本词元单位特征向量、所述当前激活原型矩阵中的各个固定原型向量以及预设的温度缩放因子进行向量内积与数值放大处理，得到各个已开放实体类别的分类打分；

34、构建模块，用于基于构建的规范转移概率矩阵对所述分类打分进行维特比动态规划搜索处理，得到目标实体识别结果。

35、本技术实施例提供的计算机设备，包括存储器和处理器，所述存储器存储有可在处理器上运行的计算机程序，所述处理器执行所述程序时实现本技术实施例所述的方法。

36、本技术实施例提供的计算机可读存储介质，其上存储有计算机程序，该计算机程序被处理器执行时实现本技术实施例提供的所述的方法。

37、本技术实施例所提供的一种实体识别方法、装置、设备及存储介质，通过对预先生成的正交基矩阵、中心化规则、模长缩放规则及冻结控制参数进行几何构造与参数锁定处理，得到预设等角原型矩阵；对待处理文本序列进行深层语义特征提取、残差瓶颈投影映射及模长归一化处理，得到文本词元单位特征向量；对当前增量阶段已开放的实体类别标识与预设等角原型矩阵进行索引截取，得到当前激活原型矩阵；对文本词元单位特征向量、当前激活原型矩阵及温度缩放因子进行向量内积与数值放大处理，得到分类打分；基于规范转移概率矩阵对分类打分进行维特比动态规划搜索，得到目标实体识别结果。这样，能够有效缓解增量学习过程中的灾难性遗忘与竞争稀释，提高实体识别的准确性，解决背景技术中所提出的技术问题。