面向残损古籍的知识网络构建与结构偏差分析方法及系统
本申请涉及古籍数字化处理,具体涉及一种面向残损古籍的知识网络构建与结构偏差分析方法及系统。
背景技术:
1、古籍、写本、简帛、卷轴和刻本文献在长期流传过程中可能遭受虫蚀、霉变、断裂、卷帙散佚、战乱破坏、抄写遗漏和后期重组。传统文献整理通常关注缺字、残句和篇章辑佚,数字化处理则主要关注图像增强、光学字符识别、手写文本识别、版面分析、文本补全和残片拼接。这些技术能够恢复或识别局部内容,但一般不回答一个更高层次的问题:在部分人物、地点及其叙事联系已经不可见的情况下,依据现存文本构建出的知识网络与相对完整参照网络之间发生了何种结构变化。
2、现有的历史知识图谱和文学社会网络构建方案通常包括文本预处理、实体识别、名称消歧、关系抽取或共现建图、图数据库存储和网络分析等步骤。对于完整现代文本,可以通过句法分析或关系抽取模型得到主谓宾三元组;对于残损古籍,缺字、断句、语法不完整和异体字会提高解析失败概率,因此常采用局部共现关系以降低对完整句法结构的依赖。但现有共现建图方案通常只生成一张网络并进行中心性或社群分析,没有把文本不完整性作为一个可模拟、可测量的变量。
3、具体而言,最接近的现有方案大致可分为四类:第一类是古籍命名实体识别与知识图谱构建方案,通常执行文本切分、实体识别、别名对齐、共现统计并存入图数据库,其输出是一张知识图谱,不能直接评估底层文本残缺导致的结构偏差;第二类是古籍图像修复、文字识别和内容补全方案,主要优化字符级识别率或文本复原质量,缺少将保留文字进一步映射为实体关系网络并计算拓扑偏差的步骤;第三类是复杂网络鲁棒性与攻击模拟方案,通常以结构化网络为输入,按度或介数删除枢纽、删除边并观察连通性指标,不保留关系在原始文本中的位置证据,也不包含古籍实体抽取和跨文本对齐;第四类是不完整知识图谱或缺失网络比较方案,通常计算节点覆盖、边覆盖或图距离,但一般不针对残损古籍构建文本位置驱动的退化算子,也不把完整参照文本和真实残缺文本通过同一处理流程独立建图。
4、上述方案存在若干共性问题:由于一般只生成单一网络,无法区分真实文本材料中已经存在的观测差异和人工退化算法造成的模拟效应;由于缺少规模匹配基线,候选机制之间的差异可能主要来自删除数量而非结构选择规则;由于未记录共现位置锚点,连续篇章或局部片段缺失只能被粗略近似为随机删边;由于实体抽取流程与特定工具绑定,模型更换后网络节点集合和边集合会改变,结论稳定性难以验证;由于评价指标单一,节点数量相近的两个网络可能在连通结构和中心实体上完全不同。这些缺陷导致现有技术难以形成可重复、可解释的残损影响评估结果。
技术实现思路
1、本申请的目的是提供一种面向残损古籍的知识网络构建与结构偏差分析方法、系统、电子设备及存储介质,能够将文本残缺导致的网络结构偏差转化为可计算、可比较、可复核的量化结果。
2、第一方面,本申请实施例提供了一种面向残损古籍的知识网络构建与结构偏差分析方法,包括:
3、获取至少一份完整参照文本和至少一份真实残缺文本;
4、对所述完整参照文本和所述真实残缺文本执行相同的统一文本处理映射,分别独立生成完整参照网络和真实残缺网络;所述统一文本处理映射包括文本预处理、候选实体生成与上下文判定、名称规范化与别名归一、实体提及位置记录以及基于局部共现的加权知识网络构建步骤,并记录每条共现关系对应的原始文本位置锚点;
5、以所述完整参照网络为基准,采用一种或多种候选退化算子对所述完整参照网络进行退化模拟,生成模拟退化网络;所述候选退化算子用于模拟文本残损对知识网络结构的影响;
6、以所述完整参照网络为共同基准,分别计算所述真实残缺网络相对于所述完整参照网络的第一偏差向量,以及所述模拟退化网络相对于所述完整参照网络的第二偏差向量;所述偏差向量包含多个结构偏差指标;
7、计算所述第二偏差向量与所述第一偏差向量之间的加权距离,作为综合拟合损失;
8、根据所述综合拟合损失的大小,对所述候选退化算子进行排序,并输出排序结果。
9、第二方面,本申请实施例提供了一种面向残损古籍的知识网络构建与结构偏差分析系统,包括:
10、文本获取模块,用于获取至少一份完整参照文本和至少一份真实残缺文本;
11、知识网络构建模块,用于对所述完整参照文本和所述真实残缺文本执行相同的统一文本处理映射,分别独立生成完整参照网络和真实残缺网络;所述统一文本处理映射包括文本预处理、候选实体生成与上下文判定、名称规范化与别名归一、实体提及位置记录以及基于局部共现的加权知识网络构建步骤,并记录每条共现关系对应的原始文本位置锚点;
12、退化模拟模块,用于以所述完整参照网络为基准,采用一种或多种候选退化算子对所述完整参照网络进行退化模拟,生成模拟退化网络;所述候选退化算子用于模拟文本残损对知识网络结构的影响;
13、结构偏差评估模块,用于以所述完整参照网络为共同基准,分别计算所述真实残缺网络相对于所述完整参照网络的第一偏差向量,以及所述模拟退化网络相对于所述完整参照网络的第二偏差向量;所述偏差向量包含多个结构偏差指标;
14、拟合与结果输出模块,用于计算所述第二偏差向量与所述第一偏差向量之间的加权距离,作为综合拟合损失;根据所述综合拟合损失的大小,对所述候选退化算子进行排序,并输出排序结果。
15、第三方面,本申请提供了一种电子设备,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器运行所述计算机程序时执行以实现如第一方面所述的方法。
16、第四方面,本申请实提供了一种计算机可读存储介质,其上存储有计算机可读指令,所述计算机可读指令可被处理器执行以实现如第一方面所述的方法。
17、相较于现有技术,本申请提供的面向残损古籍的知识网络构建与结构偏差分析方法,获取至少一份完整参照文本和至少一份真实残缺文本,对二者执行相同的统一文本处理映射并分别独立生成完整参照网络和真实残缺网络;以完整参照网络为基准,采用候选退化算子进行退化模拟生成模拟退化网络;再以完整参照网络为共同基准,分别计算真实残缺网络和模拟退化网络的结构偏差向量,通过二者之间的加权距离得到综合拟合损失,据此对候选退化算子排序并输出。该方法能够将文本残损导致的知识网络结构偏差转化为可计算、可比较、可复核的量化结果,便于残损影响评估与候选退化机制分析。
1.一种面向残损古籍的知识网络构建与结构偏差分析方法,其特征在于,包括:
2.根据权利要求1所述的方法,其特征在于,所述候选退化算子至少包括以下基础算子中的一种或多种,各算子可单独执行或按预设顺序组合执行:
3.根据权利要求2所述的方法,其特征在于,所述度依赖边缘节点流失算子中,节点的删除概率按照以下公式计算:
4.根据权利要求2所述的方法,其特征在于,所述节点归并算子中,将源节点的边权转移至目标节点时,合并后的边权按照以下方式计算:
5.根据权利要求1所述的方法,其特征在于,生成所述模拟退化网络之前,还包括规模匹配基线构建步骤:
6.根据权利要求1所述的方法,其特征在于,所述结构偏差指标至少包括以下指标中的一项或多项:
7.根据权利要求1所述的方法,其特征在于,所述综合拟合损失按照以下公式计算:
8.根据权利要求7所述的方法,其特征在于,对同一参数配置下的多个随机种子模拟,按照以下公式计算平均综合拟合损失:
9.一种面向残损古籍的知识网络构建与结构偏差分析系统,其特征在于,包括:
10.一种电子设备,包括:存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器运行所述计算机程序时以实现如权利要求1至8任一项所述的方法。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com