预训练模型与大语言模型融合的医学命名实体识别方法与流程
本发明涉及自然语言,特别是预训练模型与大语言模型融合的医学命名实体识别方法。
背景技术:
1、随着自然语言处理技术在电子病历、医学文献、临床研究资料及医学知识图谱中的持续应用,医学命名实体识别逐渐成为医学文本结构化的重要基础。当前技术通常采用预训练语言模型提取具有明确上下文边界的候选医学实体,也采用生成式大语言模型结合提示指令完成疾病、症状、药物、检查项目及解剖结构等实体识别,并通过束搜索获得多个候选序列,以利用不同生成路径对医学文本中的实体语义和边界信息进行表达。
2、现有自然语言处理方法在融合预训练模型与大语言模型进行医学命名实体识别时,通常侧重候选实体是否出现、模型置信度或多候选序列的简单投票,难以区分同一候选医学实体在高低排序候选实体序列中的持续支持差异,也难以刻画实体起始位置和实体结束位置随候选序列变化产生的边界演化特征。当医学文本包含长医学术语、嵌套实体或边界相近实体时,候选实体即使获得多次支持,仍可能存在边界漂移和结构不一致,进而影响最终实体融合与边界确定的准确性。
技术实现思路
1、鉴于上述现有技术存在的问题,提出了本发明。
2、因此,本发明提供了预训练模型与大语言模型融合的医学命名实体识别方法,解决多候选序列中候选医学实体持续支持与实体边界可靠性难以联合判定的问题。
3、为解决上述技术问题,本发明提供如下技术方案:
4、本发明提供了预训练模型与大语言模型融合的医学命名实体识别方法,其包括:通过预训练模型识别待识别医学文本中的候选医学实体,依据文本长度和预训练模型候选医学实体数量确定大语言模型候选实体序列数量;将待识别医学文本输入大语言模型,按照大语言模型候选实体序列数量执行束搜索,获取大语言模型输出的候选序列及对应整句序列概率,并按整句序列概率排列形成候选实体序列,对候选实体序列中的候选医学实体进行文本位置校正,根据同一候选医学实体在不同候选实体序列中的出现次序和实体边界变化建立候选实体有序出现状态及候选实体边界演化轨迹;利用候选实体有序出现状态判定不同排序候选实体序列对同一候选医学实体的候选实体持续支持程度,根据候选实体持续支持程度以及候选实体边界演化轨迹与预训练模型候选医学实体位置之间的变化关系确定候选实体结构可靠程度,并从候选实体边界演化轨迹中确定候选实体目标边界;根据预训练模型候选医学实体与大语言模型候选医学实体之间的跨模型候选实体对应关系融合候选医学实体,并结合候选实体结构可靠程度和候选实体目标边界对存在实体边界冲突的候选医学实体进行取舍,生成医学命名实体识别信息。
5、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述识别待识别医学文本中的候选医学实体,步骤如下:
6、获取待识别医学文本,按待识别医学文本中的字符数量确定文本长度,将待识别医学文本输入预训练模型进行医学命名实体识别,获得预训练模型候选医学实体及预训练模型候选医学实体数量;
7、针对已标注医学文本的不同文本长度和预训练模型候选医学实体数量,分别采用不同候选实体序列数量执行大语言模型医学命名实体识别,根据不同候选实体序列数量对应的医学命名实体与标注医学实体的一致情况确定目标候选实体序列数量,并建立对应关系,依据待识别医学文本的文本长度和预训练模型候选医学实体数量确定大语言模型候选实体序列数量。
8、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述按照大语言模型候选实体序列数量执行束搜索,步骤如下:
9、将待识别医学文本输入大语言模型,在逐步生成识别内容时依据各生成位置对应的词元概率更新候选序列概率,并按照大语言模型候选实体序列数量保留候选序列概率排序在前的候选序列,直至候选序列生成结束,获得候选序列及对应整句序列概率;
10、按整句序列概率由高至低排列候选序列,从各候选序列中取得候选医学实体对应的实体文本、实体类型和实体位置,并按候选序列排列次序建立候选实体序列。
11、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述对候选实体序列中的候选医学实体进行文本位置校正,步骤如下:
12、对候选实体序列中的候选医学实体逐项核对实体文本与待识别医学文本,实体文本不存在于待识别医学文本时排除对应候选医学实体,实体文本存在但实体位置不对应时按照实体文本在待识别医学文本中的实际出现位置更新实体起始位置和实体结束位置;
13、针对不同候选实体序列中实体类型相同的候选医学实体,根据实体文本和实体位置确定对应同一医学实体的候选医学实体,并建立同一候选医学实体在不同候选实体序列之间的跨序列候选医学实体对应关系。
14、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述建立候选实体有序出现状态及候选实体边界演化轨迹,步骤如下:
15、按照候选实体序列排列次序依次核对跨序列候选医学实体对应关系,记录同一候选医学实体在各候选实体序列中的出现状态和缺失状态,并将各出现状态和缺失状态按对应候选实体序列的排列次序关联,建立候选实体有序出现状态;
16、按照候选实体序列排列次序读取处于出现状态的候选医学实体对应的实体起始位置和实体结束位置,依次比较相邻出现的候选医学实体对应的实体起始位置和实体结束位置,并按照候选实体序列排列次序记录实体起始位置和实体结束位置的变化关系,建立候选实体边界演化轨迹。
17、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述判定不同排序候选实体序列对同一候选医学实体的候选实体持续支持程度,步骤如下:
18、按照实体类型、实体文本和实体位置核对预训练模型候选医学实体与大语言模型候选医学实体,将实体类型相同、实体文本存在对应关系且实体位置区间存在重合的候选医学实体建立跨模型候选实体对应关系;
19、针对跨模型候选实体对应关系中的同一候选医学实体,按照候选实体序列排列次序读取候选实体有序出现状态,确定首次出现的候选实体序列排列位置、连续出现范围以及连续出现范围之间的缺失位置;
20、将处于出现状态的候选实体序列对应整句序列概率之和占全部候选实体序列整句序列概率之和的比例确定为概率支持比例,将各连续出现范围中包含候选实体序列数量最多的连续出现范围所包含的候选实体序列数量,占首次出现位置至最后出现位置之间候选实体序列数量的比例确定为连续支持比例,根据概率支持比例和连续支持比例计算候选实体持续支持程度。
21、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述确定候选实体结构可靠程度,步骤如下:
22、按照候选实体序列排列次序读取候选实体边界演化轨迹中的实体起始位置和实体结束位置,分别取得各实体起始位置和实体结束位置相对跨模型候选实体对应关系中预训练模型候选医学实体起始位置和结束位置的偏差,并取得相邻出现的候选医学实体之间的实体边界变化量;
23、根据候选实体边界演化轨迹中的实体起始位置和实体结束位置相对预训练模型候选医学实体位置的边界偏差以及相邻出现候选医学实体之间的实体边界变化量确定候选实体边界结构偏离程度,并根据候选实体持续支持程度与候选实体边界结构偏离程度的反向变化关系确定候选实体结构可靠程度。
24、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述从候选实体边界演化轨迹中确定候选实体目标边界,步骤如下:
25、针对候选实体边界演化轨迹记录的各实体边界,根据对应实体边界所在候选实体序列在候选实体有序出现状态中的连续出现范围确定对应实体边界持续支持程度;
26、比较各实体边界与预训练模型候选医学实体位置之间的边界偏差,从边界偏差最小的实体边界中选取实体边界持续支持程度最高的实体边界作为候选实体目标边界。
27、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述融合候选医学实体,步骤如下:
28、将对应同一医学实体且实体类型相同的预训练模型候选医学实体与大语言模型候选医学实体归入同一候选实体融合组;
29、将候选实体融合组对应实体类型确定为融合候选医学实体的实体类型,按候选实体目标边界统一实体起始位置和实体结束位置,得到融合候选医学实体。
30、作为本发明所述预训练模型与大语言模型融合的医学命名实体识别方法的一种优选方案,其中,所述对存在实体边界冲突的候选医学实体进行取舍,步骤如下:
31、按照融合候选医学实体的候选实体目标边界核对实体起始位置和实体结束位置,识别存在部分交叉且不存在包含关系的实体边界冲突;
32、针对存在实体边界冲突的融合候选医学实体,比较候选实体结构可靠程度,保留候选实体结构可靠程度最高的融合候选医学实体并排除其余存在实体边界冲突的融合候选医学实体,汇总保留的融合候选医学实体对应的实体文本、实体类型、实体起始位置和实体结束位置,生成医学命名实体识别信息。
33、本发明有益效果为:通过建立候选实体有序出现状态和候选实体边界演化轨迹,可在自然语言处理过程中保留同一候选医学实体在不同排序候选实体序列中的出现连续性、缺失位置及实体边界变化信息,并结合候选实体持续支持程度与预训练模型候选医学实体位置确定候选实体结构可靠程度和候选实体目标边界,使候选医学实体的保留依据同时反映多序列支持稳定性和边界结构一致性,有利于提高长医学术语、嵌套实体及边界相近实体的边界确定准确性,为后续候选医学实体融合和实体边界冲突取舍提供明确依据。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com