语义融合和知识蒸馏的农业实体识别方法和装置与流程

技术特征：
1.一种基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，包括：确定待识别文本；将所述待识别文本输入至实体识别学生模型，得到所述实体识别学生模型输出的农业实体识别结果；其中，所述实体识别学生模型是对教师模型进行知识蒸馏得到的；所述教师模型是基于样本文本及其样本农业实体识别结果训练得到的；所述教师模型用于对所述样本文本进行多层次语义提取，得到语义融合信息编码，并基于语义融合信息编码，识别所述样本文本中的样本农业实体。2.根据权利要求1所述的基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，所述对所述样本文本进行多层次语义提取，得到语义融合信息编码，具体包括：基于所述教师模型的多个语义提取层，对所述样本文本进行语义提取，得到各个语义提取层输出的语义信息向量；基于所述教师模型的注意力层，对各个语义提取层输出的语义信息向量进行注意力变换，得到各个语义提取层输出的语义信息向量的注意力权重；基于各个语义提取层输出的语义信息向量及其注意力权重，确定所述语义融合信息编码。3.根据权利要求1所述的基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，所述基于语义融合信息编码，识别所述样本文本中的样本农业实体，具体包括：基于所述教师模型的教师上下文语义提取层，对所述语义融合信息编码进行上下文语义信息提取，得到教师上下文语义特征；基于所述教师模型的教师实体识别层，对所述教师上下文语义特征进行实体识别，得到教师实体识别结果。4.根据权利要求3所述的基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，所述对教师模型进行知识蒸馏，具体包括：基于所述实体识别学生模型的学生上下文语义提取层，对所述样本文本中每一样本分词的词向量进行上下文语义信息提取，得到学生上下文语义特征；基于所述实体识别学生模型的学生实体识别层，对所述学生上下文语义特征进行实体识别，得到学生实体识别结果；基于所述学生上下文语义特征、所述教师上下文语义特征、所述学生实体识别结果、所述教师实体识别结果以及所述样本文本的样本农业实体识别结果，更新所述实体识别学生模型的参数。5.根据权利要求4所述的基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，所述实体识别学生模型的损失函数包括语义提取差异损失、实体识别差异损失和实体识别损失；其中，所述语义提取差异损失表征所述学生上下文语义特征与所述教师上下文语义特征之间的差异；所述实体识别差异损失表征所述学生实体识别结果与所述教师实体识别结果之间的差异；所述实体识别损失表征所述学生实体识别结果与所述样本文本的样本农业实体识别
结果之间的差异。6.根据权利要求1至5任一项所述的基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，所述样本文本的样本农业实体识别结果是基于如下步骤确定的：遍历农业知识图谱中的所有实体，基于各个实体的实体名称和实体别名，构建各个实体对应的前缀树；对所述样本文本进行句子切分后，将所述样本文本的每一分句与各个实体对应的前缀树进行最大前缀匹配，得到所述样本文本的样本农业实体识别结果。7.根据权利要求6所述的基于语义融合和知识蒸馏的农业实体识别方法，其特征在于，所述农业知识图谱是基于如下步骤构建的：获取农业相关网页数据；基于预设规则，对所述农业相关网页数据进行正则匹配，得到所述农业相关网页数据中的三元组结构信息；基于所述三元组结构信息，构建所述农业知识图谱。8.一种基于语义融合和知识蒸馏的农业实体识别装置，其特征在于，包括：文本确定单元，用于确定待识别文本；实体识别单元，用于将所述待识别文本输入至实体识别学生模型，得到所述实体识别学生模型输出的农业实体识别结果；其中，所述实体识别学生模型是对教师模型进行知识蒸馏得到的；所述教师模型是基于样本文本及其样本农业实体识别结果训练得到的；所述教师模型用于对所述样本文本进行多层次语义提取，得到语义融合信息编码，并基于语义融合信息编码，识别所述样本文本中的样本农业实体。9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1至7任一项所述基于语义融合和知识蒸馏的农业实体识别方法的步骤。10.一种非暂态计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述基于语义融合和知识蒸馏的农业实体识别方法的步骤。

技术总结
本发明提供一种语义融合和知识蒸馏的农业实体识别方法和装置，其中方法包括：确定待识别文本；将所述待识别文本输入至实体识别学生模型，得到所述实体识别学生模型输出的农业实体识别结果；其中，所述实体识别学生模型是对教师模型进行知识蒸馏得到的；所述教师模型是基于样本文本及其样本农业实体识别结果训练得到的；所述教师模型用于对所述样本文本进行多层次语义提取，得到语义融合信息编码，并基于语义融合信息编码，识别所述样本文本中的样本农业实体。本发明提高了农业实体识别的准确性。确性。确性。


技术研发人员：李亮德 康孟珍 王秀娟 华净 王飞跃
受保护的技术使用者：中国科学院自动化研究所
技术研发日：2021.07.29
技术公布日：2021/11/21