一种实体识别方法、系统、电子设备及存储介质与流程

1.本发明属于语言处理技术领域，尤其涉及一种实体识别方法、系统、电子设备及存储介质。


背景技术：

2.近年来在通用领域应用的ner算法可以分为以下三类：基于规则匹配的算法；基于统计机器学习的算法；基于神经网络深度学习的算法。基于规则匹配的算法始终无法解决人工构建规则复杂性问题和低泛化能力问题。在基于统计机器学习的方法中，crf在序列标注中是广泛应用的模型，能有效提取标签预测的约束特征,使得不合理输出标签序列出现的概率降低。端到端深度学习神经网络模型也被应用于大规模文本的非线性隐性特征的自动提取，被大量应用在改进统计机器学习ner任务的效果上。


技术实现要素：

3.本技术实施例提供了一种实体识别方法、系统、电子设备及存储介质，以至少解决现有方法特征提取效率低的问题。
4.第一方面，本技术实施例提供了一种实体识别方法，包括：文本向量获取步骤，将一被标注的文本序列输入至一roberta模型中得到所述文本序列的文本向量表示；上下文向量获取步骤，计算所述文本序列中的一注意力权重，根据所述文本向量表示和所述注意力权重计算结合上下文信息的上下文向量表示；实体识别标注步骤，将所述序列中每一个位置字所对应的所述上下文向量表示进行组合，得到整个所述文本序列的序列向量表示，并进一步根据所述序列向量表示得到最终的实体标注结果。
5.在其中一些实施例中，所述上下文向量获取步骤进一步包括：根据所述文本序列的长度，对所述文本序列区分为填充部分和非填充部分，对所述非填充部分位置的字进行所述注意力权重的计算。
6.在其中一些实施例中，所述上下文向量获取步骤进一步包括：利用点互信息对所述注意力权重进行计算。
7.在其中一些实施例中，所述实体识别标注步骤进一步包括：将所述序列向量表示输入到bi-lstm crf模块中得到最终的所述实体标注结果。
8.第二方面，本技术实施例提供了一种实体识别系统，适用于上述一种实体识别方法，包括：文本向量获取模块，将一被标注的文本序列输入至一roberta模型中得到所述文本序列的文本向量表示；上下文向量获取模块，计算所述文本序列中的一注意力权重，根据所述文本向量表示和所述注意力权重计算结合上下文信息的上下文向量表示；实体识别标注模块，将所述序列中每一个位置字所对应的所述上下文向量表示进行组合，得到整个所述文本序列的序列向量表示，并进一步根据所述序列向量表示得到最终的实体标注结果。
9.在其中一些实施例中，所述上下文向量获取模块进一步包括：根据所述文本序列的长度，对所述文本序列区分为填充部分和非填充部分，对所述非填充部分位置的字进行
所述注意力权重的计算。
10.在其中一些实施例中，所述上下文向量获取模块进一步包括：利用点互信息对所述注意力权重进行计算。
11.在其中一些实施例中，所述实体识别标注模块进一步包括：将所述序列向量表示输入到bi-lstm crf模块中得到最终的所述实体标注结果。
12.第三方面，本技术实施例提供了一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现如上述第一方面所述的一种实体识别方法。
13.第四方面，本技术实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述第一方面所述的一种实体识别方法。
14.本技术可应用于知识图谱技术领域。相比于相关技术，本技术引入注意力机制来提取上下文中的特征向量，文本中的文字将获得更加高效的特征提取，设计并利用点互信息注意力机制提取上下文语境信息，使得实体标注具有更广泛的特征来源，使得特征向量将融合更多的上下文语义，提高模型的标注精度。
附图说明
15.此处所说明的附图用来提供对本技术的进一步理解，构成本技术的一部分，本技术的示意性实施例及其说明用于解释本技术，并不构成对本技术的不当限定。在附图中：
16.图1为本发明的实体识别方法流程图；
17.图2为本发明的实体识别系统的框架图；
18.图3为本发明的电子设备的框架图；
19.图4为本发明的整体结构示意图；
20.以上图中：
21.1、文本向量获取模块；2、上下文向量获取模块；3、实体识别标注模块；4、嵌入集成交互模块；5、模型构建实施模块；60、总线；61、处理器；62、存储器；63、通信接口。
具体实施方式
22.为了使本技术的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本技术进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本技术，并不用于限定本技术。基于本技术提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本技术保护的范围。
23.显而易见地，下面描述中的附图仅仅是本技术的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本技术应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本技术公开的内容相关的本领域的普通技术人员而言，在本技术揭露的技术内容的基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本技术公开的内容不充分。
24.在本技术中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本技术的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相
同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本技术所描述的实施例在不冲突的情况下，可以与其它实施例相结合。
25.除非另作定义，本技术所涉及的技术术语或者科学术语应当为本技术所属技术领域内具有一般技能的人士所理解的通常意义。本技术所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本技术所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。
26.以下，结合附图详细介绍本发明的实施例：
27.图1为本发明的实体识别方法流程图，图4为本发明的整体结构示意图，请参见图1和图2，本发明实体识别方法包括如下步骤：
28.s1：将一被标注的文本序列输入至一roberta模型中得到所述文本序列的文本向量表示。
29.在具体实施中，将被标注的文本序列输入到roberta模型中得到文本序列的向量表示x,可选的，roberta模型可以是预训练好的模型表示；也可以使用未经训练的roberta模型作为文本的向量表示，roberta模型在整个实体识别任务中被训练。
30.s2：计算所述文本序列中的一注意力权重，根据所述文本向量表示和所述注意力权重计算结合上下文信息的上下文向量表示。
31.可选的，根据所述文本序列的长度，对所述文本序列区分为填充部分和非填充部分，对所述非填充部分位置的字进行所述注意力权重的计算。
32.可选的，利用点互信息对所述注意力权重进行计算。
33.在具体实施中，文本向量进入到pmi-attention模块提取上下文中的特征向量。具体的，设置序列的最大长度max_len，对于长度大于最大长度的部分直接省略，对于序列长度小于最大长度的缺省部分用统一的[padding]字符填充，被填充的[padding]字符与其他的字符的注意力数值为0。对于非填充部分位置i的字xi首先计算注意力权重α
ij
,α
ij
表示xi与xj之间关联度，二者关联度越高权重α
ij
,数值越大。具体的计算过程就是对两个字xi与xj之间的注意力分数进行softmax归一化，体现xi与xj的关联程度在xi与全部字的注意力数值综合的占比：
[0034][0035]
本发明利用点互信息衡量两个字的关联程度，也就是打分函数是利用点互信计算的函数：
[0036][0037]
分别统计包含字xi的句子数、包含字xj的句子数、同时包含字xi和xj的句子数以及数据集包含的所有的句子数，然后按照上面公式的计算方式计算注意力得分。公式中p(xi,
xj)代表xi与xj共同出现的概率，数值等于xi与xj共同出现的句子数与数据集中包含的总句子数的比值；p(xi)表示xi出现的概率，数值等于xi出现的句子数与总句子数的比值；p(xj)表示xj出现的概率，数值等于xj出现的句子数与总句子数的比值。
[0038]
将文本序列的向量表示xj与注意力权重α
ij
加权求和得到结合上下文信息的向量表示gi:
[0039][0040]
s3：将所述序列中每一个位置字所对应的所述上下文向量表示进行组合，得到整个所述文本序列的序列向量表示，并进一步根据所述序列向量表示得到最终的实体标注结果。
[0041]
可选的，将所述序列向量表示输入到bi-lstm crf模块中得到最终的所述实体标注结果。
[0042]
在具体实施中，将每一个位置字对应的向量表示gi按位置组合在一起，得到整个序列的向量表示；得到输入文本序列的全局向量表示g＝[g1…gn
]之后,将向量g输入到bi-lstm crf模块中得到最终的实体标注结果。
[0043]
需要说明的是，在上述流程中或者附图的流程图中示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。
[0044]
本技术实施例提供了一种实体识别系统，适用于上述的一种实体识别方法。如以下所使用的，术语“单元”、“模块”等可以实现预定功能的软件和/或硬件的组合。尽管以下实施例所描述的装置较佳地以软件来实现，但是硬件、或者软件和硬件的组合的实现也是可能并被构想的。
[0045]
图2为根据本发明的实体识别系统的框架图，请参见图2，包括：
[0046]
文本向量获取模块1：将一被标注的文本序列输入至一roberta模型中得到所述文本序列的文本向量表示。
[0047]
在具体实施中，将被标注的文本序列输入到roberta模型中得到文本序列的向量表示x,可选的，roberta模型可以是预训练好的模型表示；也可以使用未经训练的roberta模型作为文本的向量表示，roberta模型在整个实体识别任务中被训练。
[0048]
上下文向量获取模块2：计算所述文本序列中的一注意力权重，根据所述文本向量表示和所述注意力权重计算结合上下文信息的上下文向量表示。
[0049]
可选的，根据所述文本序列的长度，对所述文本序列区分为填充部分和非填充部分，对所述非填充部分位置的字进行所述注意力权重的计算。
[0050]
可选的，利用点互信息对所述注意力权重进行计算。
[0051]
在具体实施中，文本向量进入到pmi-attention模块提取上下文中的特征向量。具体的，设置序列的最大长度max_len，对于长度大于最大长度的部分直接省略，对于序列长度小于最大长度的缺省部分用统一的[padding]字符填充，被填充的[padding]字符与其他的字符的注意力数值为0。对于非填充部分位置i的字xi首先计算注意力权重α
ij
,α
ij
表示xi与xj之间关联度，二者关联度越高权重α
ij
,数值越大。具体的计算过程就是对两个字xi与xj之间的注意力分数进行softmax归一化，体现xi与xj的关联程度在xi与全部字的注意力数值综合的占比：
[0052][0053]
本发明利用点互信息衡量两个字的关联程度，也就是打分函数是利用点互信计算的函数：
[0054][0055]
分别统计包含字xi的句子数、包含字xj的句子数、同时包含字xi和xj的句子数以及数据集包含的所有的句子数，然后按照上面公式的计算方式计算注意力得分。公式中p(xi,xj)代表xi与xj共同出现的概率，数值等于xi与xj共同出现的句子数与数据集中包含的总句子数的比值；p(xi)表示xi出现的概率，数值等于xi出现的句子数与总句子数的比值；p(xj)表示xj出现的概率，数值等于xj出现的句子数与总句子数的比值。
[0056]
将文本序列的向量表示xj与注意力权重α
ij
加权求和得到结合上下文信息的向量表示gi:
[0057][0058]
实体识别标注模块3：将所述序列中每一个位置字所对应的所述上下文向量表示进行组合，得到整个所述文本序列的序列向量表示，并进一步根据所述序列向量表示得到最终的实体标注结果。
[0059]
可选的，将所述序列向量表示输入到bi-lstm crf模块中得到最终的所述实体标注结果。
[0060]
在具体实施中，将每一个位置字对应的向量表示gi按位置组合在一起，得到整个序列的向量表示；得到输入文本序列的全局向量表示g＝[g1…gn
]之后,将向量g输入到bi-lstm crf模块中得到最终的实体标注结果。
[0061]
另外，结合图1描述的一种实体识别方法可以由电子设备来实现。图3为本发明的电子设备的框架图。
[0062]
电子设备可以包括处理器61以及存储有计算机程序指令的存储器62。
[0063]
具体地，上述处理器61可以包括中央处理器(cpu)，或者特定集成电路(application specific integrated circuit，简称为asic)，或者可以被配置成实施本技术实施例的一个或多个集成电路。
[0064]
其中，存储器62可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器62可包括硬盘驱动器(hard disk drive，简称为hdd)、软盘驱动器、固态驱动器(solid state drive，简称为ssd)、闪存、光盘、磁光盘、磁带或通用串行总线(universal serial bus，简称为usb)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器62可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器62可在数据处理装置的内部或外部。在特定实施例中，存储器62是非易失性(non-volatile)存储器。在特定实施例
中，存储器62包括只读存储器(read-only memory，简称为rom)和随机存取存储器(random access memory，简称为ram)。在合适的情况下，该rom可以是掩模编程的rom、可编程rom(programmable read-only memory，简称为prom)、可擦除prom(erasable programmable read-only memory，简称为eprom)、电可擦除prom(electrically erasable programmable read-only memory，简称为eeprom)、电可改写rom(electrically alterable read-only memory，简称为earom)或闪存(flash)或者两个或更多个以上这些的组合。在合适的情况下，该ram可以是静态随机存取存储器(static random-access memory，简称为sram)或动态随机存取存储器(dynamic random access memory，简称为dram)，其中，dram可以是快速页模式动态随机存取存储器(fast page mode dynamic random access memory，简称为fpmdram)、扩展数据输出动态随机存取存储器(extended date out dynamic random access memory，简称为edodram)、同步动态随机存取内存(synchronous dynamic random-access memory，简称sdram)等。
[0065]
存储器62可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器61所执行的可能的计算机程序指令。
[0066]
处理器61通过读取并执行存储器62中存储的计算机程序指令，以实现上述实施例中的任意一种实体识别方法。
[0067]
在其中一些实施例中，电子设备还可包括通信接口63和总线60。其中，如图3所示，处理器61、存储器62、通信接口63通过总线60连接并完成相互间的通信。
[0068]
通信端口63可以实现与其他部件例如：外接设备、图像/数据采集设备、数据库、外部存储以及图像/数据处理工作站等之间进行数据通信。
[0069]
总线60包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线60包括但不限于以下至少之一：数据总线(data bus)、地址总线(address bus)、控制总线(control bus)、扩展总线(expansion bus)、局部总线(local bus)。举例来说而非限制，总线60可包括图形加速接口(accelerated graphics port，简称为agp)或其他图形总线、增强工业标准架构(extended industry standard architecture，简称为eisa)总线、前端总线(front side bus，简称为fsb)、超传输(hyper transport，简称为ht)互连、工业标准架构(industry standard architecture，简称为isa)总线、无线带宽(infiniband)互连、低引脚数(low pin count，简称为lpc)总线、存储器总线、微信道架构(micro channel architecture，简称为mca)总线、外围组件互连(peripheral component interconnect，简称为pci)总线、pci-express(pci-x)总线、串行高级技术附件(serial advanced technology attachment，简称为sata)总线、视频电子标准协会局部(video electronics standards association local bus，简称为vlb)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线60可包括一个或多个总线。尽管本技术实施例描述和示出了特定的总线，但本技术考虑任何合适的总线或互连。
[0070]
该电子设备可以执行本技术实施例中的一种实体识别方法。
[0071]
另外，结合上述实施例中的一种实体识别方法，本技术实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现上述实施例中的任意一种实体识别方法。
[0072]
而前述的存储介质包括：u盘、移动硬盘、只读存储器(readonly memory，简称为
rom)、随机存取存储器(random access memory，简称为ram)、磁碟或者光盘等各种可以存储程序代码的介质。
[0073]
以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
[0074]
以上所述实施例仅表达了本技术的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本技术构思的前提下，还可以做出若干变形和改进，这些都属于本技术的保护范围。因此，本技术专利的保护范围应以所附权利要求为准。