一种历史人物关系知识图谱构建方法、系统及电子设备

摘要: 本发明涉及自然语言处理与知识图谱,尤其涉及一种历史人物关系知识图谱构建方法、系统及电子设备。背景技术:1、随着数字人文与自然语言处理技术的快速发展,如何高效地整...
一种历史人物关系知识图谱构建方法、系统及电子设备

本发明涉及自然语言处理与知识图谱,尤其涉及一种历史人物关系知识图谱构建方法、系统及电子设备。

背景技术:

1、随着数字人文与自然语言处理技术的快速发展,如何高效地整理、管理和利用历史人物相关信息成为研究的重点。然而,传统的历史人物信息处理方式存在一些问题,例如实体识别不准确、人物关系难以系统化建模以及查询与展示方式不直观等情况,因此如何实现对历史人物关系的智能化构建成为学界关注的核心课题。

2、传统的历史人物关系研究通常依赖人工整理和线性编纂,这种方法不仅效率低下,而且难以灵活适应跨时期、多来源、多层级的复杂人物关系。相比之下,大模型具备较强的语言理解与语义抽取能力,能够从海量历史文献中识别人物实体、属性和关系,并发现其中的语义联系,为历史知识的结构化表达提供了新的技术手段。

3、知识图谱作为一种以图结构表示知识的技术,已经广泛应用于信息管理与智能分析。通过将历史人物实体及其关系建模为知识图谱,可以实现对历史人物生平、师承、同僚、从属、家族等关系的可视化展示和系统化管理。然而,在当前普遍采用的方法中,构建知识图谱通常需要为每个任务单独构建一个小型模型,对于多项任务则需要构建并训练多个模型,这种方式存在模型冗余度高、训练成本大以及不同模型间难以协同的问题。

技术实现思路

1、本发明意在提供一种历史人物关系知识图谱构建方法、系统及电子设备,以解决现有技术中在信息处理不准确、关系缺乏层级结构以及展示方式不直观等方面的不足的问题。

2、为了实现上述目的,本发明提供如下方法:

3、本发明提供的一种历史人物关系知识图谱构建方法是:

4、s1:利用marker-pdf对历史文献进行ocr识别,将所述历史文献规范化为markdown格式的历史文献文本数据;

5、s2:设计包含历史人物实体字段、实体属性字段及历史人物关系字段的本体模型,生成历史人物本体模型的原始json模板;

6、s3:生成引导deepseek大模型识别人物及其关系的关系抽取prompt;

7、s4:调用deepseek大模型api对步骤s1中的所述历史文献文本数据进行实体识别,对步骤s3中的所述关系抽取prompt进行抽取,生成调用历史人物关系json数据;

8、s5:将调用历史人物关系json数据导出并保存为csv文件,得到调用历史人物关系csv文件,并对调用历史人物关系csv文件进行人工校对与实体对齐;

9、s6:将对齐后调用历史人物关系csv文件转为utf-8编码后并导入neo4j,构建历史人物关系知识图谱,进行可视化展示。

10、优选的,所述利用marker-pdf对历史文献进行ocr识别,将所述历史文献规范化为markdown格式的历史文献文本数据的步骤,包括:对历史文献进行预处理,通过自适应二值化算法去除所述历史文献页面中的纸张纹理、污渍及扫描噪声;采用多尺度图像增强技术提升模糊文字的清晰度;调用marker-pdf的多语言ocr引擎,针对所述历史文献中的异体字、通假字及手写批注,加载定制化训练的历史文本识别模型,实现文字精准提取;执行规范化转换,按照“文献标题-作者-成书年代-正文段落-注释说明”的层级结构,将识别结果映射为markdown格式,其中人物名称、地名、时间关键信息采用特定标签进行标注,正文段落按语义拆分并保留原文引用格式,确保所述历史文献的文本数据的结构化和可复用性。

11、优选的,所述本体模型包括:所述历史人物实体字段包括人物唯一标识id、姓名、别名、出生年份、死亡年份、籍贯、所属朝代、核心身份8项基础属性;所述实体属性字段包括职务、头衔、关键事件、文献来源、原文证据5项扩展属性;所述历史人物关系字段包括军事支持、军事对抗、官场下属关系、官场上司关系、官场平等关系、官场奥援、荐举保任、师生关系、学术交往、主题相近、学术成员、学术襄助、文艺艺术交往、学术攻讦、政治对抗15类核心关系类型,每种关系类型均对应关系起始实体id、关系终止实体id、关系描述、关系依据、发生时间、权重、距离、置信度、文献来源9项属性,其中权重采用0至1之间的小数表示关系强度,距离采用1至3之间的整数表示关系远近;所述原始json模板采用嵌套结构设计,顶层包含“实体集合”“属性集合”“关系集合”三大固定模块,所述三大固定各模块内部字段通过“required”和“optional”标签明确必填项和可选项,字段注释包含数据格式、取值范围及示例,确保所述原始json模板的通用性和数据兼容性。

12、优选的,所述生成引导deepseek大模型识别人物及其关系的关系抽取prompt的步骤,包括:构建prompt基础框架,所述prompt基础框架包括任务说明、历史人物实体定义、关系类型列表、抽取格式要求、示例展示五大固定核心部分;所述任务说明通过所述deepseek大模型从所述历史文献文本数据中识别符合所述本体模型定义的人物实体及对应关系,并标注关系依据的原文语句片段;所述关系类型列表完整列出15类所述核心关系类型及文字定义,每个所述核心关系类型搭配正史案例辅助大模型理解;所述抽取格式采用“实体a-关系类型-实体b-关系依据-发生时间”的结构化输出格式,其中关系依据附原文片段、发生时间采用yyyy格式;所述示例展示选取3个不同关系类型的历史案例,附文献原文片段及对应抽取结果;根据文献文本类型正史、野史、文集、碑刻调整prompt句式结构,针对古籍文本增加“文言语句转白话释义后再抽取”的明确提示,针对多人物场景增加“按‘人物对’分条逐项抽取”的引导规则,确保prompt能精准引导大模型完成关系抽取任务。

13、优选的,所述调用deepseek大模型api对步骤s1中的所述历史文献文本数据进行实体识别,对步骤s3中的所述关系抽取prompt进行抽取,生成调用历史人物关系json数据的步骤,包括:配置deepseek大模型api连接参数,设置官方指定接口地址、开发者访问密钥、30秒请求超时时间、5个最大并发数,采用https协议进行数据传输保障安全性;对步骤s1中的所述markdown格式的历史文献文本数据进行分片处理,按照单篇文献拆分后每片段4000-5000字的标准拆分,每个片段添加文献唯一编码和段落顺序编号,得到分片后的文本片段;将所述分片后的文本片段与步骤s3生成的所述关系抽取prompt组合为完整请求数据,采用api要求的json格式封装后发送至所述deepseek大模型api;所述deepseek大模型返回结果后,对响应数据进行解析,提取人物实体id、姓名、属性信息、关系类型、关联实体id、关系依据、发生时间及文献编码、段落编号元数据,按照所述历史人物本体模型的原始json模板进行数据重组,缺失字段填充“不详”默认值,按“实体对+关系类型”维度去重,冲突结果保留置信度不低于0.8的记录,最终生成结构规范、数据完整的历史人物关系json数据,确保数据能直接适配后续的csv导出和neo4j导入流程。

14、优选的,所述将调用历史人物关系json数据导出并保存为csv文件,得到调用历史人物关系csv文件,并对调用历史人物关系csv文件进行人工校对与实体对齐的步骤,包括:构建校对标注体系,制定实体识别准确率、关系抽取准确率、数据完整性、字段规范性四项核心校验指标,明确每项指标的判定标准,所述实体识别准确率的计算方式为:

15、实体识别准确率=正确实体数/总识别实体数×100%;

16、纠错规则进行直接修正,属性错误对照原文核实;采用交叉核对模式,分别对csv文件中的人物实体名称、属性信息、关系类型、关系依据逐行核查,用标记错误数据和存疑数据;针对同名同姓人物实体,通过出生年份、死亡年份、籍贯、所属朝代、核心身份五项属性组合差异化区分,分配全局唯一实体id实现实体对齐;针对抽取遗漏的实体或关系,对照原始文献文本逐段落补充标注;针对关系类型误判、关系依据错误问题,参考文献上下文原文进行修正;汇总校对结果,生成包含数据总量、错误分类统计、修正明细、最终数据质量指标的校对报告,确保对齐后的csv文件数据准确率达到95%及以上。

17、优选的,所述将对齐后调用历史人物关系csv文件转为utf-8编码后并导入neo4j,构建历史人物关系知识图谱,进行可视化展示的步骤,包括:采用python的pandas库读取对齐后的所述csv文件,通过chardet库识别所述历史文献文本数据的编码格式,调用iconv函数将其统一转换为utf-8编码,处理过程中保留异体字、通假字、碑刻专用字形特殊字符和古籍用字的完整性,避免出现乱码问题;对所述csv文件进行数据预处理,删除空行记录、按“实体id+关系类型+关联实体id”维度去重重复记录、校验字段数据类型一致性文本型字段长度不超过100字符,数值型字段为整数或浮点数,日期型字段统一格式为yyyy-mm-dd,未知日期按yyyy或yyyy-mm兼容格式填写;通过neo4j的cypher语句构建数据导入脚本,采用loadcsv with headers命令批量导入处理后的csv文件,其中人物实体数据映射至neo4j的“historicalfigure”节点,实体属性一对一映射至节点属性,人物关系数据映射至neo4j的对应关系边,关系属性一对一映射至关系边属性;导入过程中启用read committed 级别事务管理机制,针对导入失败的数据记录至import_error.log日志并支持手动重试,导入完成后执行节点数、关系数统计校验,确保与所述csv文件数据完全一致,实现历史人物关系知识图谱的构建,并通过neo4j browser提供的可视化工具展示人物实体分布、关系网络结构及核心人物关联路径。

18、优选的,在步骤s6之后,还包括步骤s7,所述步骤s7的内容为知识图谱的动态更新与维护方法,具体为:按每月1次的周期采集新增历史文献资源,资源来源包括知网学术期刊库、国家图书馆数字资源库、考古研究所公开报告,按照步骤s1-s6的流程完成新数据的ocr识别、实体关系抽取、校对导入,实现知识图谱的增量更新;建立数据更新日志,记录每次更新的文献来源名称、新增数据量包含节点数与关系数、更新时间精确至日及更新内容清单,支持按时间戳进行数据回溯;针对历史研究中的新发现或学术争议,提供基于rbac权限控制的人工编辑接口,仅授权历史研究人员修改实体属性、关系类型及关系依据,修改操作自动记录操作人员id、修改时间精确至时分及修改理由为必填字段;采用图数据库索引优化技术,对人物姓名、所属朝代、核心关系类型3项高频查询字段建立b树索引,提升知识图谱的查询响应速度;每季度进行1次知识图谱的一致性校验,通过cypher语句检测并修复实体重复、关系冲突、属性缺失等数据质量问题,确保知识图谱的准确性和时效性。

19、本发明公开了一种历史人物关系知识图谱构建系统,其特征在于,所述系统包括:

20、ocr处理模块:利用marker-pdf对历史文献进行ocr识别,将所述历史文献规范化为markdown格式的历史文献文本数据;

21、本体建模模块:设计包含历史人物实体字段、实体属性字段及历史人物关系字段的本体模型,生成历史人物本体模型的原始json模板;

22、关系抽取模块:生成引导deepseek大模型识别人物及其关系的关系抽取prompt;调用deepseek大模型api对步骤s1中的所述历史文献文本数据进行实体识别,对步骤s3中的所述关系抽取prompt进行抽取,生成调用历史人物关系json数据;

23、数据处理模块:将调用历史人物关系json数据导出并保存为csv文件,得到调用历史人物关系csv文件,并对调用历史人物关系csv文件进行人工校对与实体对齐;

24、图数据库模块:将对齐后调用历史人物关系csv文件转为utf-8编码后并导入neo4j,构建历史人物关系知识图谱,进行可视化展示。

25、本发明公开了一种电子设备,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现所述的一种历史人物关系知识图谱构建方法的步骤。

26、本发明的有益效果体现在:

27、实现复杂历史文献的结构化处理:本发明利用marker-pdf进行ocr识别和markdown格式规范化,能够批量处理复杂排版、异体字及古籍扫描文献,相较于传统人工录入方式显著提升了数据处理效率和文本一致性。

28、本体建模的灵活性与扩展性:通过定义历史人物实体字段(如人物唯一标识id、姓名、别名、出生年份、死亡年份、籍贯、所属朝代、核心身份等)及实体属性字段(如职务、头衔、关键事件、文献来源、原文证据等),以及人物间的多层次关系类型(如军事支持、军事对抗、官场下属关系、官场上司关系、官场平等关系、官场奥援、荐举保任、师生关系、学术交往、主题相近、学术成员、学术襄助、文艺艺术交往、学术攻讦、政治对抗等),本发明建立了可扩展的本体模型,为跨事件、跨区域的历史研究提供了统一的语义框架。

29、高精度关系抽取:本发明基于deepseek大模型进行命名实体识别与关系抽取,能够避免传统正则表达式或小规模训练模型提取精度不足的问题,有效识别隐含关系和多层级语义关联,从而提高了知识图谱的准确性与完整性。

30、人工校对与实体对齐机制:通过将大模型抽取结果导出为csv文件,并结合人工验证和人物名称对齐,本发明在保持自动化效率的同时,进一步保证了数据质量,避免了因同名人物或别名差异造成的错误映射。

31、可视化与可扩展的图数据库存储:采用neo4j作为图数据库,实现历史人物关系的节点与边的可视化存储和查询,相较于传统表格或关系型数据库,具备更直观的交互式展示和更高效的关系检索能力。

32、避免幻觉与知识错配问题:本发明通过prompt设计结合本体约束,引导大模型严格遵循设定的实体属性和关系类型,从而有效减少大模型“幻觉”或生成与历史背景不符内容的问题。

33、适用范围广:本发明不仅适用于左宗棠收复新疆等历史事件知识图谱的构建,还可扩展至其他历史人物群体、重大历史事件,以及跨学科的数字人文研究,具备良好的通用性与推广价值。

34、提升学术研究效率:本发明实现了从文献数字化、关系抽取到知识图谱构建的一体化流程,能够显著缩短历史研究中数据整理与关系梳理的时间成本,使研究人员能够将更多精力集中于学术分析与理论建构。