一种基于深度学习模型的自动识别古籍引书系统和方法与流程

技术特征：
1.一种基于深度学习模型的自动识别古籍引书系统，其特征在于，包括：语料预处理模块；根据试验需求以及模型对语料要求，将语料进行清洗与处理，按照比例划分训练集和验证集；语言模型预训练模块；选择需要的预训练模型siku-bert、siku-roberta；引书条目识别试验模块；在预训练模型基础上，对模型参数进行调优；引书条目识别效果测评模块；结合国内外对实体识别评价的常用指标，选择准确率(precision)、召回率(recall)、f值(f-measure)三个指标来衡量模型性能。2.一种基于深度学习模型的自动识别古籍引书方法，其特征在于，包括如下步骤：s1、选取古籍的数字化文本为语料，将引书看做名词性指称的实体，人工对其进行标注，并规定标记符号为“【】”，以此构建实验语料；对标注了引书条目的语料依次进行文本格式转换、合并以及数据预处理，再去掉标点选用5-tag作为标记集拆分成字，形成训练语料；5-tag标记集采用{b-seg，m-seg，e-seg，s-seg，n-seg}标注方式，即b-seg表示实体的开始，m-seg表示实体的中间部分，e-seg表示实体的结尾，s-seg表示单字实体，非实体用n-seg表示；为适应模型的数据需求，将训练语料格式改为标签 制表符 文本数据；s2、基于pytorch深度学习框架编写模型训练程序，加载古文领域深度学习模型siku-bert、siku-roberta对文本进行处理，调整模型到合适参数，对训练集进行迭代训练，直至训练结束；s3、对实验所得的模型性能进行评价，采用的指标为准确率、召回率、f值，评估完成后，选择效果最优的模型进行保存；s4、搭建模型调用接口，从而方便用户进行直接使用，可实现用户直接输入古籍原文到对古籍引书的自动识别。3.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：所述步骤s1中的语料原文均可在网上直接获取，且所有标注的条目均为人工历经三轮对其进行标注及校对；古籍引书的认定标准为：直接引用了原文或部分原文的明引类型；对于隐引不考虑在内。4.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：所述步骤s2中，语料的预训练模型是经过《四库全书》语料构建的，是纯古籍语料；参数设置为12-layer，768-hidden，12-heads，110m parameters，it模型共12层，隐层768维，12头模式，110m个参数；最大截断长度256，训练批次大小32，学习率2e-5，迭代次数10.0次。5.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：所述步骤s3中，试验所采取的评价办法是基于十折交叉验证，在十次结果中选取最优值。6.根据权利要求2所述的一种基于深度学习模型的自动识别古籍引书方法，其特征在于：当模型保存完毕后，用户可直接通过用户接口，直接输入古籍原文，经模型判断后返回识别出的引书条目。

技术总结
本发明公开了一种基于深度学习模型的自动识别古籍引书系统和方法，包括：语料预处理模块；语言模型预训练模块；引书条目识别试验模块；引书条目识别效果测评模块。步骤为：S1、选取目标研究语料，人工对其进行处理与校对，确定模型类别；S2、编写相关模型代码，根据语料、研究目的修改调整模型参数，对模型进行迭代训练；S3、选取模型评价方法，并根据结果对其进行打分，选取最优模型进行保存；S4、将最优模型选用为日后用户直接进行此任务的工具，实现古籍引书的自动识别。本发明的优点是：避免大量人工劳动，可直接借助计算机技术自动实现古籍引书的识别与抽取，有效地解决大规模古籍文本引书语料难于构建的问题。本引书语料难于构建的问题。


技术研发人员：黄水清 周好 王东波
受保护的技术使用者：南京农业大学
技术研发日：2021.11.03
技术公布日：2022/2/8