模型的训练方法、实体关系抽取方法、装置、介质、设备与流程

1.本公开涉及医疗数据挖掘技术领域，具体而言，涉及一种医学实体关系抽取模型的训练方法、医学实体关系抽取模型的训练装置、医学实体关系抽取方法、医学实体关系抽取装置、计算机可读存储介质、电子设备。


背景技术：

2.随着医疗信息化过程的推进，患者就医记录由之前的手写病历转换为电子病历，产生了大量的电子医疗信息。对电子医疗信息中的实体关系进行抽取，可以挖掘出一些对医疗研究有用的信息。
3.相关技术中，主要通过人工标注的方式生成医学实体关系抽取中的标签数据，从而进行医学实体关系抽取模型的训练。
4.然而，这种人工生成标签的方式，导致模型的训练效率低下。
5.需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。


技术实现要素：

6.本公开的目的在于提供一种医学实体关系抽取模型的训练及装置、医学实体关系抽取方法及装置、计算机可读存储介质及电子设备，进而至少在一定程度上改善医学实体关系模型训练效率低下的问题。
7.本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。
8.根据本公开的第一方面，提供了一种医学实体关系抽取模型的训练方法，包括：获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集；根据有标签训练样本集进行有监督学习训练，以得到初始自注意力模型；基于所述全局无标签训练样本集，重复执行以下训练过程，直到满足第一预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系抽取的目标自注意力模型：获取全局无标签训练样本集中的无标签样本数据，根据当前的初始自注意力模型预测所述无标签样本数据属于不同预设实体关系类型的概率；基于所述概率确定出可靠数据，并根据所述可靠数据更新可靠训练样本集；在当前确定出的所述可靠数据的数量满足第二条件时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型；其中，所述有标签训练样本集中包括样本电子病历和其对应的标注数据，所述标注数据包括所述样本电子病历中包括的医学实体对以及各所述医学实体对的实体关系，所述无标签训练样本集中包括未标注的样本电子病历。
9.在本公开的一种示例性实施例中，基于前述方案，所述根据有标签训练样本集对一预设自注意力模型进行有监督学习训练，以得到初始自注意力模型，包括：将所述有标签训练样本集划分为训练集和测试集；根据所述训练集进行有监督学习训练，以得到待调整
自注意力模型；根据所述测试对所述待调整自注意力模型进行测试，以得到所述待调整自注意力模型的模型评价指标的测试值；在所述模型评价指标的测试值满足第三预设条件时，确定所述待调整自注意力模型为所述初始自注意力模型。
10.在本公开的一种示例性实施例中，基于前述方案，所述基于所述概率确定出可靠数据，并根据所述可靠数据更新可靠训练样本集，包括：在预测出的所述无标签样本数据属于任一预设实体关系类型的概率大于或等于第一预设值时，将所述无标签样本数据确定为所述可靠数据，并将所述无标签样本数据添加至所述可靠训练样本集。
11.在本公开的一种示例性实施例中，基于前述方案，所述基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型，包括：将所述概率大于或等于第一预设值的预设实体关系类型确定为所述无标签样本数据的标签，以为所述无标签样本数据添加所述标签；基于所述有标签训练样本集和更新后的所述可靠训练样本集得到更新后的有标签训练样本集；根据更新后的所述有标签训练样本集进行有监督学习训练，以更新所述初始自注意力模型。
12.在本公开的一种示例性实施例中，基于前述方案，所述根据更新后的所述有标签训练样本集进行有监督学习训练，以更新所述初始自注意力模型，包括：获取所述更新后的所述有标签训练样本集中的样本电子病历，对所述样本电子病历进行分词处理，以得到出所述样本电子病历中包括的分词，根据预训练语言表征模型得到每个分词对应的语言特征向量；根据医学实体识别模型，识别出所述分词中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息，所述标注信息用于表征所述分词是否为医学实体；将每个分词对应的语言特征向量输入到当前的初始自注意力模型中，以预测出不同分词对的实体关系；基于所述标注信息从各分词对对应的实体关系中确定出医学实体分词对的实体关系的预测结果；根据各所述医学实体分词对的实体关系的预测结果和所述医学实体分词对的实体关系的标签进行有监督学习训练，以更新所述初始自注意力模型。
13.在本公开的一种示例性实施例中，基于前述方案，将所述无标签样本数据确定为所述可靠数据后，所述方法还包括：从所述全局无标签样本训练集中删除所述无标签样本数据；所述第一预设条件包括所述全局无标签样本训练集中的无标签样本数据的数量小于或等于第二预设值。
14.在本公开的一种示例性实施例中，基于前述方案，在当前确定出的所述可靠数据的数量满足第二条件时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，包括：在当前确定出的所述可靠数据的数量满足第三预设值时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练。
15.在本公开的一种示例性实施例中，基于前述方案，所述直到满足第一预设条件时，基于当前更新后的可靠训练样本集，确定出用于医学实体关系模型抽取的目标自注意力模型，包括：基于所述有标签训练样本集和当前更新后的所述可靠训练样本集得到更新后的有标签训练样本集；将所述有标签训练样本集划分为训练集和测试集；根据所述训练集对当前更新后的初始自注意力模型进行训练，以得到待测试自注意力模型；根据所述测试集对所述待测试自注意力模型进行测试，以得到所述待测试自注意力模型的模型评价指标的测试值；在所述模型评价指标的测试值满足第四预设条件时，确定所述待测试自注意力模型为所述目标自注意力模型。
16.根据本公开的第二方面，提供了一种医学实体关系抽取方法，包括：获取待处理电子病历对应的分词结果，根据预训练语言表征模型得到每个分词对应的语言特征向量；根据医学实体识别模型，识别出所述分词结果中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息，所述标注信息用于表征所述分词是否为医学实体；将每个分词对应的语言特征向量输入到目标自注意力模型中，以确定出不同分词对对应的实体关系；基于所述标注信息从所述不同分词对的实体关系中，确定出医学分词实体对的实体关系，以抽取出所述待处理电子病历中的医学实体之间的关系；其中，所述目标自注意力模型基于第一方面述的医学实体关系抽取模型的训练方法训练得到。
17.根据本公开的第三方面，提供了一种医学实体关系抽取模型的训练装置，包括：训练样本集获取模块，被配置为获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集；有监督学习训练模块，被配置为根据有标签训练样本集进行有监督学习训练，以得到初始自注意力模型；概率预测模块，被配置为获取全局无标签训练样本集中的无标签样本数据，根据当前的初始自注意力模型预测所述无标签样本数据属于不同预设实体关系类型的概率；可靠训练样本集更新模块，被配置为基于所述概率确定出可靠数据，并根据所述可靠数据更新可靠训练样本集；初始自注意力模型更新模块，被配置为在当前确定出的所述可靠数据的数量满足第二条件时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型；目标自注意力模型确定模块，被配置为在满足第一预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系模型抽取的目标自注意力模型；其中，有标签训练样本集中包括样本电子病历和其对应的标注数据，所述标注数据包括所述样本电子病历中包括的医学实体对以及各所述医学实体对对应的实体关系，所述无标签训练样本集中包括未标注的样本电子病历。
18.根据本公开的第三四方面，提供了一种医学实体关系抽取装置，包括：预处理模块，被配置为获取待处理电子病历对应的分词结果，根据预训练语言表征模型得到每个分词对应的语言特征向量；医学实体识别模块，被配置为根据医学实体识别模型，识别出所述分词结果中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息，所述标注信息用于表征所述分词是否为医学实体；实体关系预测模块，被配置为将每个分词对应的语言特征向量输入到目标自注意力模型中，以确定出不同分词对对应的实体关系；医学实体关系抽取模块，被配置为基于所述标注信息从所述不同分词对的实体关系中，确定出医学分词实体对的实体关系，以抽取出所述待处理电子病历中的医学实体之间的关系；其中，所述目标自注意力模型基于第一方面所述的医学实体关系抽取模型的训练方法训练得到。
19.根据本公开的第五方面，提供了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如上述实施例中第一方面所述的医学实体关系抽取模型的训练的方法和/或第二方面所述的医学实体关系抽取方法。
20.根据本公开实施例的第六方面，提供了一种电子设备，包括：处理器；以及，存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如上述实施例中第一方面所述的医学实体关系抽取模型的训练方法和/或第二方面所述的医学实体关系抽取方法。
21.由上述技术方案可知，本公开示例性实施例中的医学实体关系抽取模型的训练方法及装置，以及实现所游医学实体关系抽取模型的训练方法的计算机可读存储介质及电子设备，至少具备以下优点和积极效果：
22.在本公开的一些实施例所提供的技术方案中，获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集；根据有标签训练样本集对一预设自注意力模型进行有监督学习训练，以得到初始自注意力模型；基于所述全局无标签训练样本集，更新可靠训练样本集，在无标签训练样本集中的无标签样本数据的数量满足预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系抽取的目标自注意力模型。与相关技术相比，一方面，本公开基于从对无标签训练样本集中选择出可靠训练样本集，可以降低医学实体关系抽取模型中的训练数据的标注成本，提高医学实体关系抽取模型的训练效率；另一方面，本公开动态的进行可靠训练样本集的更新，可以通过不断的累积训练过程，提高可靠训练样本确定的准确性，从而提高训练得到的医学实体关系抽取模型的实体关系抽取的准确性。
23.本公开应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。
附图说明
24.此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
25.图1示出本公开一示例性实施例中的医学实体关系抽取模型的训练方法的流程示意图；
26.图2示出本公开一示例性实施例中的根据更新后的所述有标签训练样本集进行有监督学习训练的方法的流程示意图；
27.图3示出本公开一示例性实施例中的另一种医学实体关系抽取模型的训练方法的流程示意图；
28.图4示出本公开一示例性实施例中的医学实体关系抽取的方法的流程示意图；
29.图5示出本公开一示例性实施例中的医学实体关系抽取模型的结构示意图；
30.图6示出本公开一示例性实施例中的医学实体关系抽取模型的训练装置的
31.图7示出本公开一示例性实施例中的医学实体关系抽取装置的结构示意图；
32.图8示出本公开示例性实施例中电子设备的结构示意图。
具体实施方式
33.现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可
以实践本公开的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
34.本说明书中使用用语“一个”、“一”、“该”和“所述”用以表示存在一个或多个要素/组成部分/等；用语“包括”和“具有”用以表示开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等；用语“第一”和“第二”“第三”等仅作为标记使用，不是对其对象的数量限制。
35.此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。
36.随着医疗信息化过程的推进，患者就医纪录由之前的手写病历转变为电子病历，产生了大量的电子医疗信息。电子病历记录了患者所有的诊疗记录，基于电子病历可以搭建多病种的专病队列，对于医疗工作者进行科学研究有很大的帮助。所以，利用人工智能技术对电子病历中的数据进行挖掘就显得尤为重要。
37.电子病历大多是无结构的文本信息，可以从无结构的文本信息中抽取出医学实体之间的关系，从而基于抽取出的实体关系进行医学研究或者其它的应用。医学实体之间的关系可以用一个三元组表示，即(实体1-关系-实体2)。
38.一种相关技术中，可以基于远程监督进行医学实体关系抽取，简单来说就是在知识图谱中查看某对医学实体属于什么关系，比如，医学实体对具有a关系，那么就可以认为所有包含该实体对的句子都是在说这一关系，都可认为是正样本，这样做的好处就是实现了医学实体关系抽取的自动化，但这种方式的抽取准确性较低，夹杂了太多噪声。
39.另一种相关技术中，可以通过定义一系列的正负样本打标规则去打标签，通过远程监督和规则打标结合便可以得到一份比较干净的数据，如果规则定义的足够好，就可以有效的进行医学实体关系抽取。
40.然而，这种方式需要专业医学任一去定义正负样本的规则，然后需要人工去进行标注，耗费大量的人力，效率较为低下。
41.在本公开的实施例中，首先提供了一种医学实体关系抽取模型的训练方法，至少在一定程度上克服上述相关技术中存在的缺陷。
42.图1示出本公开一示例性实施例中医学实体关系抽取模型的训练方法的流程示意图。参考图1，该方法包括：
43.步骤s110，获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集；
44.步骤s120，根据有标签训练样本集对一预设自注意力模型进行有监督学习训练，以得到初始自注意力模型；
45.步骤s130，获取全局无标签训练样本集中的无标签样本数据，根据当前的初始自注意力模型预测所述无标签样本数据属于不同预设实体关系类型的概率；
46.步骤s140，基于所述概率确定出可靠数据，并根据所述可靠数据更新可靠训练样本集；
47.步骤s150，在当前确定出的所述可靠数据的数量满足第二条件时，基于所述有标
签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型；
48.重复执行上述的步骤s130至步骤s150，直到满足第一预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系抽取的目标自注意力模型；其中，所述有标签训练样本集中包括样本电子病历和其对应的标注数据，所述标注数据包括所述样本电子病历中包括的医学实体对以及各所述医学实体对对应的实体关系，所述无标签训练样本集中包括未标注的样本电子病历。
49.在图1所示实施例所提供的技术方案中，获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集；根据有标签训练样本集对一预设自注意力模型进行有监督学习训练，以得到初始自注意力模型；基于所述全局无标签训练样本集，更新可靠训练样本集，在无标签训练样本集中的无标签样本数据的数量满足预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系抽取的目标自注意力模型。与相关技术相比，一方面，本公开基于从对无标签训练样本集中选择出可靠训练样本集，可以降低医学实体关系抽取模型中的训练数据的标注成本，提高医学实体关系抽取模型的训练效率；另一方面，本公开动态的进行可靠训练样本集的更新，可以通过不断的累积训练过程，提高可靠训练样本确定的准确性，从而提高训练得到的医学实体关系抽取模型的实体关系抽取的准确性。。
50.以下对图1所示实施例中各个步骤的具体实施方式进行详细阐述：
51.在步骤s110中，获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集。
52.在一种示例性的实施方式中，所述有标签训练样本集中包括样本电子病历和其对应的标注数据，所述标注数据包括所述样本电子病历中包括的医学实体对以及各所述医学实体对的实体关系，所述无标签训练样本集中包括未标注的样本电子病历。
53.其中，有标签训练样本集中包括的样本电子病历和其对应的标注数据是通过人工标注的。有标签样本训练集中包括的经人工标注的样本电子病历的数量可以根据需求进行自定义，本示例性实施方式对此不做任何限定。而无标签样本训练集中包括的是未经过任何标注的用于训练的样本电子病历。
54.接下来，在步骤s120中，根据有标签训练样本集对一预设自注意力模型进行有监督学习训练，以得到初始自注意力模型。
55.举例而言，可以先根据人工标注的少量的有标签训练样本集中的有标签样本数据对一预设自注意力模型进行有监督学习训练，以得到初始自注意力模型。预设自注意力模型的初始参数可以自定义确定。
56.其中，自注意力模型，即self-attention model，是基于自注意力机制实现的，其可以动态的生成不同连接的权重，建立长距离的依赖关系。
57.示例性的，步骤s120的具体实施方式可以包括：将所述有标签训练样本集划分为训练集和测试集；根据所述训练集进行有监督学习训练，以得到待调整自注意力模型；根据所述测试集对所述待调整自注意力模型进行测试，以得到所述待调整自注意力模型的模型评价指标的测试值；在所述模型评价指标的测试值满足第三预设条件时，确定所述待调整自注意力模型为所述初始自注意力模型。
58.其中，第三预设条件可以根据业务需求进行自定义，如模型评价指标的测试值大于某个预设阈值等，本示例性实施方式对此不做特殊限定。模型评价指标也可以根据用户需要进行自定义选择，如选择准确率作为模型的评价指标，当然，也可以选择其它的模型性能评价参数作为模型评价指标，以基于测试集得到待调整自注意力模型的该性能评价参数的测试值。
59.确定出初始自注意力模型后，可以重复执行下述的步骤s130至步骤s150，直到满足第一预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系抽取的目标自注意力模型。
60.在步骤s130中，获取全局无标签训练样本集中的无标签样本数据，根据当前的初始自注意力模型预测所述无标签样本数据属于不同预设实体关系类型的概率。
61.举例而言，可以先根据步骤s120中确定出的初始自注意力模型对无标签训练样本集中的无标签样本数据进行实体关系预测，以得到无标签样本数据属于不同预设实体关系类型的概率。
62.换言之，在本公开中，实体关系抽取可以理解为预测当前的实体对属于不同预设实体关系类型的概率，然后，基于概率值将当前的实体对确定为不同预设实体关系类型中的某一个实体关系类型。
63.接下来，在步骤s140中，基于所述概率确定出可靠数据，并根据所述可靠数据更新可靠训练样本集。
64.示例性的，步骤s140的具体实施方式可以是，在预测出的所述无标签样本数据属于任一预设实体关系类型的概率大于或等于第一预设值时，将所述无标签样本数据确定为所述可靠数据，并将所述无标签样本数据添加至所述可靠训练样本集。
65.其中，第一预设值可以在(0，1)区间内进行自定义确定，第一预设值越高，可靠数据的可靠性越大。
66.以预设实体关系类型有4种为例，如果对于某个无标签样本数据而言，预测出的该4种预设实体关系类型的概率中有大于0.8的，则可以将该无标签样本数据确定为可靠数据，并将该无标签样本数据添加至可靠训练样本集，以对可靠训练样本集进行更新。
67.接下来，在步骤s150中，在当前确定出的所述可靠数据的数量满足第二条件时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型。
68.在一种示例性的实施方式中，步骤s150的具体实施方式可以是，在当前确定出的所述可靠数据的数量满足第三预设值时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型。
69.举例而言，第二预设条件可以包括当前确定出的可靠数据的数量大于某个预设阈值，如大于1000时，可以基于有标签训练样本集和当前更新后的可靠训练样本集重新进行训练，以更新初始自注意力模型。
70.其中，重新进行训练时，可以基于步骤s120中确定出的初始自注意力模型重新进行训练，也可以基于上一个训练过程中更新后的初始自注意力模型进行重新训练，还可以完全随机的重新给定一组初始训练数据，以进行重新训练，以更新初始自注意力模型，且该更新后的初始自注意力模型作为下一个循环过程中在步骤s130中需要用到的初始自注意
力模型。
71.示例性的，所述基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型，可以包括：将所述概率大于或等于第一预设值的预设实体关系类型确定为所述无标签样本数据的标签，以为所述无标签样本数据添加所述标签；基于所述有标签训练样本集和更新后的所述可靠训练样本集得到更新后的有标签训练样本集；根据更新后的所述有标签训练样本集进行有监督学习训练，以更新所述初始自注意力模型。
72.举例而言，如果某个无标签样本数据对应的某个预设实体关系类型的预测概率大于0.8，则可以将该无标签样本数据确定为可靠数据的同时，还可以将该预设实体关系类型确定为该无标签样本数据的标签，并且为该无标签样本数据添加该标签，添加了标签后，可以将添加标签的无标签样本数据添加至有标签样本训练集中，以更新有标签样本训练集。
73.接下来，图2示出本公开一示例性实施例中的根据更新后的所述有标签训练样本集进行有监督学习训练的方法的流程示意图，参考图2，该方法可以包括步骤s210至步骤s250。其中：
74.在步骤s210中，获取所述更新后的所述有标签训练样本集中的样本电子病历，对所述样本电子病历进行分词处理，以得到出所述样本电子病历中包括的分词，根据预训练语言表征模型得到每个分词对应的语言特征向量。
75.在一种示例性的实施方式中，预训练语言表征模型可以包括bert(bidirectional encoder representation from transformers，基于转换器的双向编码表征)预训练模型。当然，也可以包括其它的可以提取出电子病历中的各分词的特征向量的模型，本示例性实施方式对此不做特殊限定。
76.示例性的，可以预先根据电子病历样本对bert模型进行微调训练，如保留bert模型中的某些通用层的参数不变，仅调整个别层的训练参数，以使得bert模型可以更好的适应电子病历中的特征向量表征任务。
77.预训练完成后，可以基于预训练的bert模型将样本电子病历对应的分词根据顺序转换为语言特征向量。
78.接下来，在步骤s220中，根据医学实体识别模型，识别出所述分词中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息。
79.其中，所述标注信息用于表征所述分词是否为医学实体。
80.举例而言，由于电子病历中存在非医学实体，所以，可以基于医学实体识别类型，识别出样本电子病历对应的分词中的医学实体分词。其中，医学实体识别类型可以通过对前馈神经网络进行预训练确定，当然，也可以是其它的能够识别出医学实体分词和非医学实体分词的模型，本示例性实施方式对此不做特殊限定。
81.接下来，在步骤s230中，将每个分词对应的语言特征向量输入到当前的初始自注意力模型中，以预测出不同分词对的实体关系。
82.示例性的，可以将步骤s210中得到的每个分词对应的语言特征向量输入到当前的初始自注意力模型中，以基于该初始自注意力模型预测出基于各个分词组成的不同分词对的实体关系。
83.然后，在步骤s240中，基于所述标注信息从各分词对对应的实体关系中确定出医
学实体分词对的实体关系的预测结果。
84.示例性的，可以根据在步骤s220中确定出的标注信息，从各分词对对应的实体关系中确定出标注信息均为医学实体分词的分词对的实体关系，从而得到医学实体分词对的实体关系的预测结果。
85.接下来，在步骤s250中，根据各所述医学实体分词对的实体关系的预测结果和所述医学实体分词对的实体关系的标签进行有监督学习训练，以更新所述初始自注意力模型。
86.示例性的，可以基于样本电子病历中的医学实体对的预测结果和医学实体对的实体关系标签进行有监督学习训练，以调整模型参数，从而更新初始自注意力模型。
87.换言之，在确定当前循环过程中的训练是否结束时，是基于医学实体对的预测结果和其对应的标签确定的。
88.举例而言，可以将当前更新后的有标签训练集中的有标签样本数据划分为训练集和测试集，然后，基于训练集进行有监督学习训练，在有监督学习训练的过程中，模型参数是基于电子病历中的医学实体对的实体关系预测结果和标签之间的误差进行调整的。
89.在训练结束后，使用测试训练集进行模型评价时，也是基于测试训练集中的医学实体对的预测结果和标签计算模型评价指标的测试值，以确定当前训练是否满足要求，当满足要求时，可以结束当前循环过程中的训练。这样，通过上述的步骤s210至步骤s250，可以保证训练得到的模型对医学实体对之间的实体关系确定的准确性。
90.示例性的，将无标签数据确定为可靠数据后，还可以根据可靠数据更新全局无标签样本训练集。具体的，可以将确定为可靠数据的无标签样本数据从全局无标签样本训练集中删除，以更新全局无标签样本训练集。
91.基于此，上述的第二预设条件中的预设阈值也可以根据全局无标签样本训练集中的无标签样本数据的数量确定，例如，无标签样本数据的数量越大，该预设阈值越大，随着全局无标签样本训练集中的无标签样本数据的数量的减少，该预设阈值可以逐步减少。
92.进一步的，基于此，上述的第一预设条件可以包括全局无标签样本训练集中的无标签样本数据的数量小于或等于第二预设值。其中，在第二预设值为0时，第一预设条件可以包括全局无标签样本训练集中的无标签样本数据的数量等于0，换言之，当全局无标签样本训练集中的无标签样本数据全部被确定为可靠数据时，可以基于当前更新的可靠训练样本集和在步骤s110中获取的有标签训练样本集进行训练，以确定出目标自注意力模型。
93.举例而言，当更新后的全局无标签样本训练集中的无标签样本数据的数量为0时，即满足第一预设条件时，可以停止整个循环过程，并基于当前更新后的可靠训练样本集和人工标注的有标签训练样本集中的样本数据，重新进行有监督学习训练，以得到出目标自注意力模型。
94.示例性的，所述直到满足第一预设条件时，基于当前更新后的可靠训练样本集，确定出用于医学实体关系模型抽取的目标自注意力模型，包括：基于所述有标签训练样本集和当前更新后的所述可靠训练样本集得到更新后的有标签训练样本集；将所述有标签训练样本集划分为训练集和测试集；根据所述训练集对当前更新后的初始自注意力模型进行训练，以得到待测试自注意力模型；根据所述测试集对所述待测试自注意力模型进行测试，以得到所述待测试自注意力模型的模型评价指标的测试值；在所述模型评价指标的测试值满
足第四预设条件时，确定所述待测试自注意力模型为所述目标自注意力模型。
95.其中，第四预设条件可以根据需求进行自定义，如对医学实体关系对的预测准确率的评价指标值大于某个预设阈值时，开业确定当前待测试自注意力模型为目标自注意力模型。
96.接下来，图3示出本公开一示例性实施例中的另一种医学实体关系抽取模型的训练方法的流程示意图。参考图3，该方法可以包括步骤s301至步骤s
97.在步骤s301中，获取种子集；
98.在步骤s302中，得到初始关系抽取模型；
99.在步骤s303中，对当前未标注数据进行预测；
100.在步骤s304中，判断预测概率是否大于预设值，如果是，则转至步骤s305，如果否，则获取下一个未标注数据，将其确定为当前未标注数据，并返回上述的步骤s303；
101.在步骤s305中，根据当前未标注数据更新可靠训练集；
102.在步骤s306中，根据更新后的可靠训练集和种子集生成新的标注数据集；
103.在步骤s307中，基于新的标注数据集重新训练，以得到新的关系抽取模型，并返回步骤s303，且基于新的关系抽取模型对当前未标注数据进行预测，直到未标注数据全部清空，结束训练。
104.举例而言，可以先使用人工标注少量的数据作为种子集，训练得到初始关系抽取模型。然后，使用该初始关系抽取模型对未标注数据集中的未标注数据进行预测，以得到未标注数据属于不同预设关系标签的概率，如果存在大于0.8的概率，则将该条数据划分到可靠集中，且将概率确定为该未标注数据的关系标签。当可靠集中的可靠数据的更新数量达到1000条时，将种子集和可靠集合并为新的标注数据集，重新训练新的关系抽取模型。重复以上过程，直至未标注训练集中的未标注数据全部被清空。
105.在本公开中，通过少量的人工标注样本，可以实现对医学实体关系抽取模型的训练，且通过不断的选择可靠数据和对电子病历中的医学实体关系对的标注，可以逐步提高模型训练的准确性，保证医学实体关系抽取的准确性，降低人工标注成本，提高模型训练的速度。
106.进一步的，图4示出本公开一示例性实施例中的医学实体关系抽取的方法的流程示意图。参考图4，该方法可以包括步骤s410至步骤s440。
107.其中：
108.在步骤s410中，获取待处理电子病历对应的分词结果，根据预训练语言表征模型得到每个分词对应的语言特征向量；
109.在步骤s420中，根据医学实体识别模型，识别出所述分词结果中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息，所述标注信息用于表征所述分词是否为医学实体；
110.在步骤s430中，将每个分词对应的语言特征向量输入到目标自注意力模型中，以确定出不同分词对对应的实体关系；
111.在步骤s440中，基于所述标注信息从所述不同分词对的实体关系中，确定出医学分词实体对的实体关系，以抽取出所述待处理电子病历中的医学实体之间的关系；
112.其中，步骤s430中的目标自注意力模型基于图1所述的医学实体关系抽取模型的
训练方法训练得到。关于如何得到每个分词的语言特征向量和对每个分词进行医生实体标注的具体实施方式已经在上述的图1的相关步骤中进行了说明，此处不再进行赘述。
113.图5示出本公开一示例性实施例中的医学实体关系抽取模型的结构示意图。参考图5，本公开中的医学实体关系抽取模型51可以包括自注意力层和分类层，其中，分类层可以为softmax层，分类层输出的类别的数量和种类可以根据需求进行自定义确定。用于本公开中的医学实体关系抽取中的医学实体识别模型52可以包括前馈神经网络和softmax层。
114.参考图5，对本公开的医学实体关系抽取方法进行说明。在一种示例性的应用场景中，可以先使用图5中的预训练语言模型53将待处理电子病历对应的分词转换为语言特征向量，然后将该语言特征向量输入到医学实体识别模型52中，以确定出各分词的标注信息；然后，将各分词的标注信息和语言特征向量输入到医学实体关系抽取模型51中，以确定出待处理电子病历中包括的医学实体对之间的实体关系，从而实现医学实体关系的抽取。
115.本领域技术人员可以理解实现上述实施方式的全部或部分步骤被实现为由cpu执行的计算机程序。在该计算机程序被cpu执行时，执行本发明提供的上述方法所限定的上述功能。所述的程序可以存储于一种计算机可读存储介质中，该存储介质可以是只读存储器，磁盘或光盘等。
116.此外，需要注意的是，上述附图仅是根据本发明示例性实施方式的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。
117.图6示出本公开示例性实施例中医学实体关系抽取模型的训练装置的结构示意图。参考图6，该装置600可以包括训练样本集获取模块610、有监督学习训练模块620、概率预测模块630、可靠训练样本更新模块640、初始自注意力模型更新模块650、目标自注意力模型确定模块660。其中：
118.训练样本集获取模块610，被配置为获取训练样本集，所述训练样本集包括有标签训练样本集和全局无标签训练样本集；
119.有监督学习训练模块620，被配置为根据有标签训练样本集进行有监督学习训练，以得到初始自注意力模型；
120.概率预测模块630，被配置为获取全局无标签训练样本集中的无标签样本数据，根据当前的初始自注意力模型预测所述无标签样本数据属于不同预设实体关系类型的概率；
121.可靠训练样本集更新模块640，被配置为基于所述概率确定出可靠数据，并根据所述可靠数据更新可靠训练样本集；
122.初始自注意力模型更新模块650，被配置为在当前确定出的所述可靠数据的数量满足第二条件时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练，以更新所述初始自注意力模型；
123.目标自注意力模型确定模块660，被配置为在满足第一预设条件时，基于当前更新后的可靠样本训练集，确定出用于医学实体关系模型抽取的目标自注意力模型；
124.其中，所述有标签训练样本集中包括样本电子病历和其对应的标注数据，所述标注数据包括所述样本电子病历中包括的医学实体对以及各所述医学实体对对应的实体关系，所述无标签训练样本集中包括未标注的样本电子病历。
125.在本公开的一些示例性实施例中，基于前述实施例，所述有监督学习训练模块620，可以被具体配置为：将所述有标签训练样本集划分为训练集和测试集；根据所述训练集进行有监督学习训练，以得到待调整自注意力模型；根据所述测试对所述待调整自注意力模型进行测试，以得到所述待调整自注意力模型的模型评价指标的测试值；在所述模型评价指标的测试值满足第三预设条件时，确定所述待调整自注意力模型为所述初始自注意力模型。
126.在本公开的一些示例性实施例中，基于前述实施例，所述概率预测模块630可以被具体配置为：在预测出的所述无标签样本数据属于任一预设实体关系类型的概率大于或等于第一预设值时，将所述无标签样本数据确定为所述可靠数据，并将所述无标签样本数据添加至所述可靠训练样本集。
127.在本公开的一些示例性实施例中，基于前述实施例，所述初始自注意力模型更新模块650可以被具体配置为：将所述概率大于或等于第一预设值的预设实体关系类型确定为所述无标签样本数据的标签，以为所述无标签样本数据添加所述标签；基于所述有标签训练样本集和更新后的所述可靠训练样本集得到更新后的有标签训练样本集；根据更新后的所述有标签训练样本集进行有监督学习训练，以更新所述初始自注意力模型。
128.在本公开的一些示例性实施例中，基于前述实施例，所述根据更新后的所述有标签训练样本集进行有监督学习训练，以更新所述初始自注意力模型，包括：获取所述更新后的所述有标签训练样本集中的样本电子病历，对所述样本电子病历进行分词处理，以得到出所述样本电子病历中包括的分词，根据预训练语言表征模型得到每个分词对应的语言特征向量；根据医学实体识别模型，识别出所述分词中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息，所述标注信息用于表征所述分词是否为医学实体；将每个分词对应的语言特征向量输入到当前的初始自注意力模型中，以预测出不同分词对的实体关系；基于所述标注信息从各分词对对应的实体关系中确定出医学实体分词对的实体关系的预测结果；根据各所述医学实体分词对的实体关系的预测结果和所述医学实体分词对的实体关系的标签进行有监督学习训练，以更新所述初始自注意力模型。
129.在本公开的一些示例性实施例中，基于前述实施例，所述装置还包括全局无标签样本训练集更新模块，该模块被配置为：从所述全局无标签样本训练集中删除所述无标签样本数据；基于此，所述第一预设条件包括所述全局无标签样本训练集中的无标签样本数据的数量小于或等于第二预设值。
130.在本公开的一些示例性实施例中，基于前述实施例，所述初始自注意力模型更新模块，还可以被具体配置为：在当前确定出的所述可靠数据的数量满足第三预设值时，基于所述有标签训练样本集和更新后的所述可靠训练样本集重新进行训练。
131.在本公开的一些示例性实施例中，基于前述实施例，所述目标自注意力模型确定模块660，可以被具体配置为：在满足第一预设条件时，基于所述有标签训练样本集和当前更新后的所述可靠训练样本集得到更新后的有标签训练样本集；将所述有标签训练样本集划分为训练集和测试集；根据所述训练集对当前更新后的初始自注意力模型进行训练，以得到待测试自注意力模型；根据所述测试集对所述待测试自注意力模型进行测试，以得到所述待测试自注意力模型的模型评价指标的测试值；在所述模型评价指标的测试值满足第
四预设条件时，确定所述待测试自注意力模型为所述目标自注意力模型。
132.图7示出本公开一示例性实施例中的医学实体关系抽取装置的结构示意图，参考图7，该装置700可以包括：预处理模块710、医学实体识别模块720、实体关系预测模块730、医学实体抽取模块740。其中：
133.预处理模块710，被配置为获取待处理电子病历对应的分词结果，根据预训练语言表征模型得到每个分词对应的语言特征向量；
134.医学实体识别模块720，被配置为根据医学实体识别模型，识别出所述分词结果中的医学实体分词，并为识别出的所述医学实体分词添加标注，以得到每个分词的标注信息，所述标注信息用于表征所述分词是否为医学实体；
135.实体关系预测模块730，被配置为将每个分词对应的语言特征向量输入到目标自注意力模型中，以确定出不同分词对对应的实体关系；
136.医学实体关系抽取模块740，被配置为基于所述标注信息从所述不同分词对的实体关系中，确定出医学分词实体对的实体关系，以抽取出所述待处理电子病历中的医学实体之间的关系；
137.其中，所述目标自注意力模型基于上述的医学实体关系抽取模型的训练方法训练得到。
138.上述各装置中各模块的具体细节已经在对应的方法中进行了详细的描述，因此此处不再赘述。
139.应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
140.此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。
141.通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。
142.在本公开示例性实施方式中，还提供了一种能够实现上述方法的计算机存储介质。其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施例中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
143.其中，上述程序产品可以采用便携式紧凑盘只读存储器(cd-rom)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件
中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
144.所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、光纤、便携式紧凑盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。
145.计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
146.可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、rf等等，或者上述的任意合适的组合。
147.可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如java、c 等，还包括常规的过程式程序设计语言—诸如“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(lan)或广域网(wan)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
148.此外，在本公开的示例性实施例中，还提供了一种能够实现上述方法的电子设备。
149.所属技术领域的技术人员能够理解，本公开的各个方面可以实现为系统、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“系统”。
150.下面参照图8来描述根据本公开的这种实施方式的电子设备800。图8显示的电子设备800仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。
151.如图8所示，电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于：上述至少一个处理单元810、上述至少一个存储单元820、连接不同系统组件(包括存储单元820和处理单元810)的总线830以及显示单元840。
152.其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元810执行，使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如，所述处理单元810可以执行如图1至图4中所示的各个步骤。
153.存储单元820可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(ram)8201和/或高速缓存存储单元8202，还可以进一步包括只读存储单元(rom)8203。
154.存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具
8204，这样的程序模块8205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
155.总线830可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
156.电子设备800也可以与一个或多个外部设备900(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备800交互的设备通信，和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(i/o)接口850进行。并且，电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(lan)，广域网(wan)和/或公共网络，例如因特网)通信。如图所示，网络适配器860通过总线830与电子设备800的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备800使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、raid系统、磁带驱动器以及数据备份存储系统等。
157.通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是cd-rom，u盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。
158.此外，上述附图仅是根据本公开示例性实施例的方法所包括的处理的示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在多个模块中同步或异步执行的。
159.本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其他实施例。本技术旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。