一种面向水利行业的智能化知识管理方法及系统与流程
本技术涉及知识管理,特别是涉及一种面向水利行业的智能化知识管理方法及系统。
背景技术:
1、随着水利信息化建设的不断推进,水利工程建设、水文监测、防汛抗旱、河湖治理、设备运维及水务行政管理等业务领域持续产生大量知识资源,所述知识资源通常包括政策法规、标准规范、工程资料、水文数据、防汛预案、运维手册及事故案例等。由于水利知识往往同时关联流域、工程、业务场景和有效时段,并且不同知识之间存在同义、上下位、关联及因果等语义关系,如何对不断增长的水利知识资源进行有效管理和利用,已成为水利行业数字化建设的重要内容。
2、现有水利知识管理方式通常以通用文档知识库或单位内部档案平台为主,主要通过文件集中存储和关键词匹配为用户提供资料查询服务。然而,水利知识资源来源分散且数据格式多样,现有系统难以对文本、表格、图片及扫描件中的知识内容进行统一解析和组织;在文档处理过程中,采用固定规则对不同类型文档进行分段,容易造成上下文语义断裂,并且文档局部内容发生变化时通常需要重新处理整个文档,导致处理资源消耗较大;在知识检索过程中,单一的关键词检索或语义检索难以兼顾水利专业术语的精确匹配和相近表达的语义匹配,影响知识召回的完整性和准确性。此外,现有知识问答方式对历史会话语境的利用不足,连续追问时容易出现指代对象不明确或问答内容不连贯的问题;知识图谱中的实体类别、属性及关系通常依赖预先设定,难以适应不同水利业务场景下的知识组织需求;同时,知识库与水文监测、防汛指挥及工程管理等外部业务平台之间缺少统一、可靠的知识服务机制,限制了知识资源的跨系统利用。
3、因此,在水利行业知识管理过程中,多源异构知识难以统一处理、文档分段与更新方式适应性不足、专业知识检索及连续问答准确性较低、知识结构难以灵活配置以及知识服务跨系统利用能力不足,成为亟需解决的问题。
技术实现思路
1、本技术提供一种面向水利行业的智能化知识管理方法及系统,旨在解决现有技术在水利行业知识管理过程中,多源异构知识难以统一处理、文档分段与更新方式适应性不足、专业知识检索及连续问答准确性较低、知识结构难以灵活配置以及知识服务跨系统利用能力不足的问题。
2、第一方面,一种面向水利行业的智能化知识管理方法,所述方法包括:
3、获取水利知识资源以及与所述水利知识资源对应的分段配置信息,根据所述分段配置信息对所述水利知识资源进行内容处理和分段处理,得到水利知识单元;
4、基于所述水利知识单元建立与多个检索方式对应的检索索引以及所述水利知识单元之间的上下文关联关系,得到水利知识库;其中,所述上下文关联关系根据所述水利知识单元在对应水利知识资源中的位置关系建立,用于表示水利知识单元与能够补充所述水利知识单元语境的其他水利知识单元之间的对应关系;
5、获取用户查询信息,根据所述用户查询信息构建上下文查询信息,分别基于多个所述检索索引对所述上下文查询信息进行检索,得到多个候选检索结果,并对多个所述候选检索结果进行融合,得到知识检索结果;
6、根据所述知识检索结果和所述上下文关联关系确定上下文知识内容,将所述上下文查询信息和所述上下文知识内容进行组合,得到知识应答输入信息,将所述知识应答输入信息输入语言模型,得到知识应答信息,并对所述用户查询信息、所述知识检索结果和所述知识应答信息进行关联管理;
7、在所述水利知识资源发生变化时,根据所述水利知识资源的变更信息确定受影响的水利知识单元,对所述受影响的水利知识单元及其对应的检索索引进行差分更新,得到更新后的水利知识库。
8、上述方案中,可选地,所述获取水利知识资源以及与所述水利知识资源对应的分段配置信息,根据所述分段配置信息对所述水利知识资源进行内容处理和分段处理,得到水利知识单元,包括:
9、获取不同数据格式和内容载体的原始水利知识文档,对所述原始水利知识文档进行格式解析和内容识别,得到原始水利知识内容;
10、对所述原始水利知识内容进行重复内容识别和数据清洗,得到候选水利知识内容;
11、基于水利专业术语对所述候选水利知识内容进行语义标注和格式统一,得到标准化水利知识内容;
12、获取与所述标准化水利知识内容对应的分段配置信息,根据所述分段配置信息对所述标准化水利知识内容进行分段,得到所述水利知识单元。
13、上述方案中,可选地,所述根据所述分段配置信息对所述标准化水利知识内容进行分段,得到所述水利知识单元,包括:
14、从所述分段配置信息中提取父子级切分规则、切片最大长度和重叠区长度,得到目标分段参数;
15、根据所述目标分段参数中的父子级切分规则解析所述标准化水利知识内容的标题和章节结构,得到文档层级信息;
16、根据所述文档层级信息对所述标准化水利知识内容进行章节级切分,得到父级知识切片;
17、在每个所述父级知识切片内,根据所述切片最大长度和所述重叠区长度进行滑动切分,得到子级知识切片;
18、根据每个所述子级知识切片的来源位置,建立所述子级知识切片与对应父级知识切片之间的父子关联关系,得到所述水利知识单元,其中,所述子级知识切片用于知识检索,所述父级知识切片用于确定所述上下文知识内容。
19、上述方案中,可选地,所述基于所述水利知识单元建立与多个检索方式对应的检索索引以及所述水利知识单元之间的上下文关联关系,得到水利知识库,包括:
20、获取用户配置的实体类别、实体属性和实体关系,得到知识实体结构信息;
21、根据所述知识实体结构信息构建实体抽取指令,将所述实体抽取指令和所述水利知识单元输入语言模型,得到候选实体节点和候选实体关系;
22、根据所述知识实体结构信息,对所述候选实体节点和所述候选实体关系进行实体类别合法性校验、实体属性完整性校验和关系两端类别匹配校验,得到校验后的实体关系数据;
23、对所述校验后的实体关系数据进行同类同名实体合并和关系去重,得到目标知识图谱数据;
24、根据所述水利知识单元在对应水利知识资源中的位置关系,建立所述水利知识单元之间的上下文关联关系,得到知识关联数据;
25、分别对所述水利知识单元进行向量化处理和文本索引处理,得到语义检索索引和文本检索索引;
26、将所述水利知识单元、所述目标知识图谱数据、所述知识关联数据、所述语义检索索引和所述文本检索索引进行关联存储,得到所述水利知识库。
27、上述方案中,可选地,所述获取用户查询信息,根据所述用户查询信息构建上下文查询信息,分别基于多个所述检索索引对所述上下文查询信息进行检索,得到多个候选检索结果,并对多个所述候选检索结果进行融合,得到知识检索结果,包括:
28、获取所述用户查询信息及其对应的会话标识,根据所述会话标识查询会话记录;
29、当查询到与所述会话标识对应的会话记录时,将查询到的会话记录确定为目标会话记录;当未查询到与所述会话标识对应的会话记录时,创建与所述会话标识对应的会话记录,得到目标会话记录;
30、根据所述目标会话记录,从会话消息历史数据中提取预设窗口内的完整问答轮次,得到历史会话信息;
31、按照时间顺序将所述历史会话信息与所述用户查询信息进行组合,得到所述上下文查询信息;
32、分别基于多个所述检索索引对所述上下文查询信息进行检索,并对得到的多个候选检索结果进行融合,得到所述知识检索结果。
33、上述方案中,可选地,所述多个检索索引包括语义检索索引和文本检索索引;所述分别基于多个所述检索索引对所述上下文查询信息进行检索,并对得到的多个候选检索结果进行融合,得到所述知识检索结果,包括:
34、对所述上下文查询信息进行向量化处理,得到查询特征向量;
35、根据所述查询特征向量和所述语义检索索引对所述水利知识单元进行语义检索,得到包含第一候选水利知识单元及其语义检索得分的第一候选检索结果;
36、根据所述上下文查询信息和所述文本检索索引对所述水利知识单元进行文本检索,得到包含第二候选水利知识单元及其文本检索得分的第二候选检索结果;
37、根据水利知识单元标识对所述第一候选检索结果和所述第二候选检索结果进行对齐,得到候选融合结果;
38、分别对所述候选融合结果中的语义检索得分和文本检索得分进行归一化处理,得到归一化检索得分;
39、根据预设检索权重对同一水利知识单元对应的归一化检索得分进行加权融合,得到综合检索得分;
40、根据所述综合检索得分对所述候选融合结果进行排序、去重和阈值筛选,得到所述知识检索结果。
41、上述方案中,可选地,所述根据所述知识检索结果和所述上下文关联关系确定上下文知识内容,将所述上下文查询信息和所述上下文知识内容进行组合,得到知识应答输入信息,将所述知识应答输入信息输入语言模型,得到知识应答信息,并对所述用户查询信息、所述知识检索结果和所述知识应答信息进行关联管理,包括:
42、对所述知识检索结果进行相关性重排,得到目标水利知识单元;
43、根据所述上下文关联关系,确定与所述目标水利知识单元关联的上下文水利知识单元;
44、对所述目标水利知识单元和所述上下文水利知识单元进行组合,得到所述上下文知识内容;
45、将所述上下文查询信息和所述上下文知识内容进行组合,得到所述知识应答输入信息;
46、将所述知识应答输入信息输入所述语言模型,得到所述知识应答信息;
47、将所述用户查询信息、所述知识检索结果和所述知识应答信息关联存储至所述目标会话记录对应的会话消息历史数据,得到更新后的会话消息历史数据。
48、上述方案中,可选地,所述在所述水利知识资源发生变化时,根据所述水利知识资源的变更信息确定受影响的水利知识单元,对所述受影响的水利知识单元及其对应的检索索引进行差分更新,得到更新后的水利知识库,包括:
49、获取针对所述水利知识资源的切片编辑信息,从所述切片编辑信息中提取操作标记,并根据所述操作标记提取对应操作所需的切片标识和/或切片内容,得到切片变更数据;
50、根据所述操作标记,将所述切片变更数据划分为新增操作数据、修改操作数据和删除操作数据中的至少一种,得到切片差分操作集;
51、根据所述切片差分操作集,对所述水利知识库中的水利知识单元执行相应的新增操作、修改操作或删除操作,得到知识单元变更结果;
52、根据所述知识单元变更结果,对其中存在的新增水利知识单元或修改后的水利知识单元进行向量化处理和文本索引处理,对其中存在的被删除水利知识单元删除其对应的检索索引,得到索引变更结果;
53、根据所述知识单元变更结果和所述索引变更结果,对所述水利知识库中的水利知识单元、上下文关联关系及检索索引进行同步更新,得到所述更新后的水利知识库。
54、上述方案中,可选地,还包括:
55、获取外部业务平台发送的接口订阅申请,当所述接口订阅申请审核通过时,生成与所述外部业务平台及其检索权限关联的接口访问令牌,得到接口授权信息;
56、接收所述外部业务平台发送的外部知识检索请求,从所述外部知识检索请求中提取待验证访问令牌;
57、将所述待验证访问令牌与所述接口授权信息进行匹配,得到接口鉴权结果;
58、当所述接口鉴权结果为鉴权通过时,从所述外部知识检索请求中提取外部查询信息,并基于所述水利知识库对所述外部查询信息进行检索,得到外部知识检索结果;
59、将所述外部知识检索结果中的检索得分映射至预设数值区间,并按照所述外部业务平台对应的接口字段规则对所述外部知识检索结果进行字段转换,得到标准检索响应数据;
60、将所述标准检索响应数据发送至所述外部业务平台。
61、第二方面,一种面向水利行业的智能化知识管理系统,所述系统包括:
62、知识单元生成模块,用于获取水利知识资源以及与所述水利知识资源对应的分段配置信息,根据所述分段配置信息对所述水利知识资源进行内容处理和分段处理,得到水利知识单元;
63、知识库构建模块,用于基于所述水利知识单元建立与多个检索方式对应的检索索引以及所述水利知识单元之间的上下文关联关系,得到水利知识库;其中,所述上下文关联关系根据所述水利知识单元在对应水利知识资源中的位置关系建立,用于表示水利知识单元与能够补充所述水利知识单元语境的其他水利知识单元之间的对应关系;
64、融合检索模块,用于获取用户查询信息,根据所述用户查询信息构建上下文查询信息,分别基于多个所述检索索引对所述上下文查询信息进行检索,得到多个候选检索结果,并对多个所述候选检索结果进行融合,得到知识检索结果;
65、知识应答管理模块,用于根据所述知识检索结果和所述上下文关联关系确定上下文知识内容,将所述上下文查询信息和所述上下文知识内容进行组合,得到知识应答输入信息,将所述知识应答输入信息输入语言模型,得到知识应答信息,并对所述用户查询信息、所述知识检索结果和所述知识应答信息进行关联管理;
66、差分更新模块,用于在所述水利知识资源发生变化时,根据所述水利知识资源的变更信息确定受影响的水利知识单元,对所述受影响的水利知识单元及其对应的检索索引进行差分更新,得到更新后的水利知识库。
67、相比现有技术,本技术至少具有以下有益效果:
68、本技术基于对现有技术问题的进一步分析和研究,认识到现有技术在水利行业知识管理过程中,多源异构知识难以统一处理、文档分段与更新方式适应性不足、专业知识检索及连续问答准确性较低、知识结构难以灵活配置以及知识服务跨系统利用能力不足的问题,通过获取水利知识资源及对应的分段配置信息,对水利知识资源进行内容处理和分段处理,得到水利知识单元,使不同来源、不同格式的水利知识资源转化为能够统一存储和检索的内容对象;基于水利知识单元建立多个检索方式对应的检索索引,根据用户查询信息构建上下文查询信息,并对基于上下文查询信息进行多路检索得到的候选检索结果进行融合,使各检索方式的匹配能力相互补充,减少单一检索方式造成的相关知识遗漏,提高检索结果与用户查询需求的匹配程度;通过保存水利知识单元之间的上下文关联关系,在获得融合检索结果后进一步获取关联的上下文内容,使知识应答能够结合上下文查询信息、检索命中的内容及关联的上下文生成,降低知识分段造成的语义割裂对回答完整性和准确性的影响;同时,在水利知识资源发生变化时,确定受影响的水利知识单元及其处理类型,并据此更新相应内容和检索索引,使知识库能够随资源变化保持更新,减少重复处理未变化内容所产生的计算开销,从而缓解水利知识资源分散、检索匹配不足、上下文利用不充分以及知识更新效率较低的问题。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com