农业知识抽取方法、装置、存储介质及电子设备

本发明涉及智慧农业，尤其涉及一种农业知识抽取方法、装置、存储介质及电子设备。

背景技术：

1、随着农业信息化、智慧农业的快速发展，农业领域产生了大量多源异构数据，包括科研文献、政策文件、农作物种植记录、病虫害监测报告、农业问答社区内容等。这些数据中蕴含着丰富的文本知识，如作物品种特性、环境因子影响、病害防控方案等。然而，这些知识往往以非结构化形式存在，难以被直接利用。因此，农业知识抽取（agriculturalknowledge extraction，ake）成为推动农业知识图谱构建、智能决策/农业大模型发展的关键基础技术。

2、现在的农业知识抽取旨在解决以下问题：

3、一、标注语料匮乏与知识碎片化。农业文本资源分布零散，缺乏高质量的标注数据集。

4、二、域适配与知识迁移困难。通用nlp（natural language processing，自然语言处理）模型在农业领域迁移效果有限。

5、三、知识动态性与时效性问题。农业知识受季节、气候、政策等因素影响频繁变化，需要可持续更新的抽取体系。

6、现有的农业知识抽取方法包括四种：

7、一、基于规则与模板的方法。早期的农业知识抽取研究主要依赖规则模板、人工特征工程。例如，通过定义正则表达式、句法模板或基于专家知识的规则体系，从农业文献中抽取实体（如“作物名称”“病害名称”“药剂种类”）及其关系。这类方法具有实现简单、可解释性强的优点，但其通用性、可扩展性较差，难以适应不同领域、文本风格的变化。此外，农业文本中存在大量专业术语、隐式语义关系，单纯依靠规则匹配往往导致召回率较低。

8、二、基于机器学习的浅层模型。随着统计学习方法的发展，研究者开始采用如svm（support vector machine，支持向量机）、crf（conditional random field，条件随机场）、hmm（hidden markov model，隐马尔可夫模型）等传统机器学习模型进行实体识别与关系抽取。这类方法通常依赖人工设计特征（如词性标注、上下文窗口、词向量等），在一定程度上提高了抽取的鲁棒性。然而，特征构建成本高、领域迁移能力弱是其主要局限，且模型难以捕捉复杂语义关系。

9、三、基于深度学习的端到端抽取方法。近年来，深度学习的引入显著推动了农业知识抽取的发展。基于bilstm-crf（bidirectional long short-term memory，双向长短期记忆网络-条件随机场）、cnn（convolutional neural network，卷积神经网络）、attention（注意力机制）及transformer（变换器）的模型在农业实体识别、关系抽取、事件抽取等任务上取得显著进步。尤其是bert（bidirectional encoder representations fromtransformers，基于 transformer 的双向编码器表征）、roberta（robustly optimizedbert pretraining approach，稳健优化型bert预训练模型）、ernie（enhancedrepresentation through knowledge integration，知识增强语义表示模型）等预训练语言模型的应用，使模型能更好地理解农业文本的上下文语义。例如，agribert（agricultural bert，农业领域专用bert预训练模型）、agrobert（agriculture-orientedbert，农业导向型bert预训练模型）等面向农业领域的预训练语言模型在多项农业nlp任务中表现出优越性能。然而，农业数据存在标注数据匮乏、领域知识稀疏、术语多义性强等问题，使得深度模型在迁移到细分农业场景时仍面临性能瓶颈。

10、四、基于知识图谱与多模态融合的研究趋势。随着智慧农业系统的发展，农业知识抽取逐渐向农业知识图谱构建与多模态融合方向演进。研究者尝试从文本、图像、传感器数据中联合抽取实体与关系，实现对农作物表型、环境因子与产量之间的知识建模。例如，将作物图像识别与文本信息融合，以支持病虫害识别与防治知识图谱构建。此外，近年来出现了一些利用大语言模型（llm）进行知识抽取与推理的研究，如基于chatgpt或agric-llm进行少样本农业知识生成与验证，显示出强大的通用抽取与知识补全能力。但这些大语言模型仍存在领域专用知识稀释、抽取结果可解释性不足、知识一致性难以保证等问题。

11、综上可知，现有技术在实际使用上显然存在不便与缺陷，所以有必要加以改进。

技术实现思路

1、针对上述的缺陷，本发明的目的在于提供一种农业知识抽取方法、装置、存储介质及电子设备，能够实现农业知识的自动、高效与可扩展抽取，为农业知识图谱构建与智能决策提供了技术支撑。

2、为了解决上述技术问题，本发明是这样实现的：

3、第一方面，本发明实施例提供了一种农业知识抽取方法，包括以下步骤：

4、数据预处理步骤，获取多源农业数据，对所述多源农业数据进行预处理，构建农业知识抽取的训练集；

5、模型构建步骤，基于通用信息抽取模块为基础架构，选取预训练语言模型作为底层表示模型，并结合农业知识特征设计层次化信息抽取模板，共同构建农业知识抽取模型；

6、模型微调步骤，通过所述训练集对所述农业知识抽取模型进行有监督微调训练；

7、模型推理步骤，通过所述农业知识抽取模型从待处理农业数据中抽取输出实体与关系。

8、根据本发明所述的农业知识抽取方法，所述数据预处理步骤包括：

9、获取多源农业数据，所述多源农业数据包括学术论文、农业技术手册、病虫害防控公告和/或农技问答文本；

10、对所述多源农业数据进行数据清洗和标注完成预处理，构建农业知识抽取的所述训练集；

11、所述实体包括作物、病虫害、药剂、防治措施和/或气候条件类领域实体。

12、根据本发明所述的农业知识抽取方法，所述层次化信息抽取模板采用多粒度标签体系，并定义多级实体与关系。

13、根据本发明所述的农业知识抽取方法，所述模型微调步骤的有监督微调训练采用自适应矩估计优化器和分层学习率策略，

14、所述自适应矩估计优化器更新参数表示为：

15、

16、其中，θ是可学习参数，η为学习率，为总损失函数，为损失函数对应的参数θ的梯度；

17、所述分层学习率策略表示为：

18、

19、其中，为第i层的学习率，为基础学习率，l为层数，为衰减系数。

20、根据本发明所述的农业知识抽取方法，所述模型微调步骤的有监督微调训练采用联合损失函数进行端到端优化，所述联合损失函数为：

21、

22、其中，lgen为序列生成的交叉熵损失，lcls为关系分类损失，，为平衡权重的超参数。

23、根据本发明所述的农业知识抽取方法，所述模型微调步骤的有监督微调训练引入农业专业问答数据。

24、根据本发明所述的农业知识抽取方法，所述模型微调步骤的有监督微调训练采用正则化策略，所述正则化策略包括：随机失活策略、梯度裁剪策略与早停策略。

25、第二方面，本发明实施例提供了一种基于任一项所述的方法构建的农业知识抽取装置，所述装置包括：

26、数据预处理模块，用于获取多源农业数据，对所述多源农业数据进行预处理，构建农业知识抽取的训练集；

27、模型构建模块，用于基于通用信息抽取模块为基础架构，选取预训练语言模型作为底层表示模型，并结合农业知识特征设计层次化信息抽取模板，共同构建农业知识抽取模型；

28、模型微调模块，用于通过所述训练集对所述农业知识抽取模型进行有监督微调训练；

29、模型推理模块，用于通过所述农业知识抽取模型从待处理农业数据中抽取输出实体与关系。

30、第三方面，本发明实施例提供了一种存储介质，用于存储一种用于执行任一项所述的方法的计算机程序。

31、第四方面，本发明实施例提供了一种电子设备，包括存储介质、处理器以及存储在所述存储介质上并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现任一项所述的方法。

32、借此，本发明农业知识抽取技术，包括：获取多源农业数据，对多源农业数据进行预处理，构建农业知识抽取的训练集；基于通用信息抽取模块为基础架构，选取预训练语言模型作为底层表示模型，并结合农业知识特征设计层次化信息抽取模板，共同构建农业知识抽取模型；通过训练集对农业知识抽取模型进行有监督微调训练；通过农业知识抽取模型从待处理农业数据中抽取输出实体与关系。借此，本发明能够实现农业知识的自动、高效与可扩展抽取，为农业知识图谱构建与智能决策提供了技术支撑。