基于大语言模型知识扩展融合的专家匹配方法及系统与流程
本发明涉及知识融合,具体涉及一种基于大语言模型知识扩展融合的专家匹配方法及系统。
背景技术:
1、在当前的专家匹配与人才推荐领域,传统方法主要依赖关键词匹配或浅层语义模型,难以有效处理专家履历与任务需求中普遍存在的描述稀疏、术语异构及隐含能力未显性化等问题,导致匹配精度受限。虽然大语言模型(如预训练的transformer模型)具备强大的语义理解与推理能力,能够挖掘潜在的交叉技能与隐性需求,但在将其引入匹配流程时,直接融合大语言模型生成的扩展知识与原始事实数据面临着严峻挑战:由于大语言模型会生成与原始事实不符的虚构内容或生成与原始信息语义冲突的内容,若缺乏有效的校验机制,盲目进行知识融合极易引入噪声,污染专家画像的准确性;同时,现有技术方案往往忽视了原始信息与扩展信息之间的语义一致性差异,缺乏动态的冲突抑制策略,导致在知识融合过程中无法自适应地平衡事实保真度与信息丰富度,使得最终生成的专家表示向量既会丢失关键细节,又会包含误导性信息,严重制约了专家匹配系统在复杂场景下的鲁棒性与可靠性。
技术实现思路
1、本发明目的是针对背景技术中存在的问题,提出一种基于大语言模型知识扩展融合的专家匹配方法及系统。
2、本发明的技术方案:
3、基于大语言模型知识扩展融合的专家匹配方法,包括:
4、s1、采集专家基础信息数据集与需求任务知识数据集,并对专家基础信息数据集与需求任务知识数据集进行预处理,形成结构化初始知识单元集合;
5、s2、将结构化初始知识单元集合输入预训练的transformer模型并结合语义独特性评估方法进行语义推理扩展,分别生成专家扩展知识集合与任务扩展知识集合;所述语义独特性评估方法包括:将知识单元编码为语义向量,基于各知识单元语义向量与所属集合内其余知识单元语义向量的平均余弦相似度构建语义独特性评分uk,根据所述语义独特性评分uk对知识单元进行核心单元、辅助单元与冗余单元的分级分类,根据分级分类结果对输入序列进行动态增强处理,形成动态增强输入序列;
6、s3、将结构化初始知识单元集合与对应的专家扩展知识集合、任务扩展知识集合通过引入冲突抑制因子进行融合处理,形成融合后的专家知识向量矩阵与任务知识向量矩阵;所述冲突抑制因子的构建方式为:计算原始知识向量与对应的扩展知识向量之间的语义相似度s,基于所述语义相似度s构建冲突抑制因子,其中为冲突调节指数,利用所述冲突抑制因子δ对所述原始知识向量与所述扩展知识向量进行自适应加权融合;
7、s4、基于融合后的专家知识向量矩阵与任务知识向量矩阵构建包括专家节点、知识节点与任务节点的三元图谱,并通过图神经网络生成结构增强后的专家表示向量矩阵与任务表示向量矩阵;
8、s5、基于结构增强后的专家表示向量矩阵与任务表示向量矩阵,计算专家与任务之间的匹配得分,根据匹配得分进行排序,输出候选专家排序列表。
9、在所述的步骤s1中,对专家基础信息数据集与需求任务知识数据集进行预处理,形成结构化初始知识单元集合,包括以下步骤:
10、采集专家基础信息数据集与需求任务知识数据集,对专家基础信息数据集与需求任务知识数据集进行预处理,基于自然语言处理技术执行命名实体识别与关系抽取核心语义要素,并构建主体、属性与取值的结构化表示;基于结构化表示生成包括专家原始知识向量集合与任务原始知识向量集合的结构化初始知识单元集合。
11、在所述的步骤s2中,将结构化初始知识单元集合输入预训练的transformer模型并结合语义独特性评估方法进行语义推理扩展,分别生成专家扩展知识集合与任务扩展知识集合,包括以下步骤:
12、s2.1、针对所述结构化初始知识单元集合中的每一个专家和每一个任务,将其对应的所有知识单元的主体、属性与取值的结构化表示转换为线性文本序列,形成标准化模型输入序列,并通过语义独特性评估方法对标准化模型输入序列进行动态增强,形成动态增强输入序列;
13、s2.2、在动态增强输入序列前添加任务指令模板,形成完整输入序列;
14、s2.3、将完整输入序列输入预训练的transformer模型,利用其自注意力机制进行上下文建模与语义推理扩展,生成扩展文本序列;
15、s2.4、对扩展文本序列进行语义解析与结构化映射处理,提取扩展知识要素并构建对应的扩展知识子单元,生成专家扩展知识集合与任务扩展知识集合。
16、在所述的步骤s2.1中,通过语义独特性评估方法对标准化模型输入序列进行动态增强,形成动态增强输入序列,包括以下步骤:
17、s2.11、将知识单元中的独立属性片段使用预训练的句子编码器进行语义嵌入,编码为固定维度的语义向量,用于形成该知识单元的初始语义向量集合;
18、s2.12、对于所述初始语义向量集合中每个知识单元的语义向量,计算其与所属同一专家或任务的其余知识单元语义向量的平均余弦相似度;
19、s2.13、基于所述平均余弦相似度构建知识单元的语义独特性评分;
20、s2.14、根据语义独特性评分设置双阈值,并利用双阈值对知识单元进行分级分类,知识单元包括核心单元、辅助单元与冗余单元;
21、s2.15、根据所述语义独特性评分设置双阈值和,其中,并利用所述双阈值对知识单元进行分级分类:当时判定为核心单元,当时判定为辅助单元,当时判定为冗余单元;
22、s2.16、根据分级分类结果利用动态增强序列构建规则生成动态增强输入序列。
23、在所述的步骤s2.16中,利用动态增强序列构建规则生成动态增强输入序列,包括以下步骤:
24、对全部知识单元按照语义独特性评分进行降序排序,构建排序序列;
25、对核心单元执行增强处理规则,即每个核心单元在输入序列中重复插入,并在每次出现时于其前后添加预设高亮标记符;对辅助单元保留一次且不添加特殊标记;
26、按照既定排序结构依次拼接核心单元、辅助单元与冗余单元,构建初始动态增强输入序列;
27、实时计算当前初始动态增强输入序列的token总长度,并与预设最大长度阈值比较,当所述token总长度超过所述预设最大长度阈值时,优先按照排序尾部顺序依次丢弃冗余单元,若冗余单元全部移除后仍超限,则对辅助单元执行摘要压缩处理或依次丢弃,直至生成满足长度约束的最终的动态增强输入序列。
28、在所述的步骤s3中,通过引入冲突抑制因子进行融合处理,形成融合后的专家知识向量矩阵与任务知识向量矩阵,包括以下步骤:
29、s3.1、分别对结构化初始知识单元集合中的原始知识向量集合与对应的扩展知识向量集合进行维度对齐处理;
30、其中,原始知识向量集合包括专家原始知识向量集合与任务原始知识向量集合;扩展知识集合包括专家扩展知识向量集合与任务扩展知识向量集合;
31、s3.2、将原始知识向量集合与对应的扩展知识向量集合中的每个知识向量输入统一编码模型进行语义空间重映射,生成映射后的原始知识向量与对应的扩展知识向量;
32、s3.3、计算映射后的原始知识向量与扩展知识向量的语义相似度,并基于语义相似度构建冲突抑制因子,通过冲突抑制因子对扩展知识向量与原始知识向量进行融合处理,分别生成融合后的专家知识向量与任务知识向量;
33、s3.4、对融合后的专家知识向量按专家索引进行排列,构建专家知识向量矩阵;对融合后的任务知识向量按任务索引进行排列,构建任务知识向量矩阵。
34、在所述的步骤s3.3中,计算映射后的原始知识向量与扩展知识向量的语义相似度,并基于语义相似度构建冲突抑制因子,通过冲突抑制因子对扩展知识向量与原始知识向量进行融合处理,分别生成融合后的专家知识向量与任务知识向量,包括以下步骤:
35、s3.31、对于每个知识单元,计算其原始知识向量与扩展知识向量之间的语义相似度;
36、s3.32、基于语义相似度构建冲突抑制因子,其中τ为冲突调节指数;
37、s3.33、利用作为原始知识向量的权重,冲突抑制因子作为扩展知识向量的权重,进行自适应融合,分别生成融合后的专家知识向量与任务知识向量,其中为映射后的专家原始知识向量,为映射后的专家扩展知识向量,为映射后的任务原始知识向量,为映射后的任务扩展知识向量;所述冲突调节指数的取值范围为1≤τ≤3。
38、在所述的步骤s4中,构建包括专家节点、知识节点与任务节点的三元图谱,并通过图神经网络生成结构增强后的专家表示向量矩阵与任务表示向量矩阵,包括以下步骤:
39、s4.1、将专家知识向量矩阵中每个专家知识向量映射为对应的专家节点,将任务知识向量矩阵中每个任务知识向量映射为对应的任务节点,提取预处理阶段通过命名实体识别所获取的实体片段作为独立的知识节点,形成初步图节点集合;
40、s4.2、基于图节点间的关联关系构建边集合,包括专家与知识边、任务与知识边以及专家与任务边,并根据初步图节点集合和边集合生成包括专家节点、知识节点与任务节点的三元图谱;
41、s4.3、将所述三元图谱中的专家节点的初始特征设置为融合后的专家知识向量,将三元图谱中的任务节点的初始特征设置为融合后的任务知识向量,对于所述知识节点采用与其关联的专家节点和任务节点的知识向量的加权聚合向量进行初始化;
42、s4.4、将三元图谱输入图卷积网络,在多层图卷积迭代中,通过邻居信息聚合机制更新图节点表示;
43、s4.5、多层图卷积迭代完成后,提取图神经网络最后一层图卷积的节点表示,得到结构增强后的专家表示向量矩阵和任务表示向量矩阵。
44、在所述的步骤s5中,计算专家与任务之间的匹配得分,根据匹配得分进行排序,输出候选专家排序列表,包括以下步骤:
45、s5.1、对于所述结构增强后专家表示向量矩阵中的每个专家向量与所述结构增强后的任务表示向量矩阵中的每个任务向量,使用余弦相似度计算专家与任务之间的匹配得分;
46、s5.2、将匹配得分计算结果组成匹配矩阵;
47、s5.3、针对每个任务,从匹配矩阵中提取其对应的匹配向量,并对匹配向量按匹配得分进行降序排序,得到该任务的候选专家排序列表。
48、一种实现所述基于大语言模型知识扩展融合的专家匹配方法的系统,包括:
49、数据采集与预处理模块,用于采集专家基础信息数据集与需求任务知识数据集,并对所述专家基础信息数据集与所述需求任务知识数据集进行预处理,形成结构化初始知识单元集合;
50、语义推理扩展模块,用于将所述结构化初始知识单元集合输入预训练的transformer模型并结合语义独特性评估方法进行语义推理扩展,分别生成专家扩展知识集合与任务扩展知识集合;所述语义独特性评估方法包括:将知识单元编码为语义向量,基于各知识单元语义向量与所属集合内其余知识单元语义向量的平均余弦相似度构建语义独特性评分,根据所述语义独特性评分对知识单元进行核心单元、辅助单元与冗余单元的分级分类,根据分级分类结果对输入序列进行动态增强处理,形成动态增强输入序列;
51、知识融合模块,用于将所述结构化初始知识单元集合与对应的所述专家扩展知识集合、所述任务扩展知识集合通过引入冲突抑制因子进行融合处理,形成融合后的专家知识向量矩阵与任务知识向量矩阵;所述冲突抑制因子的构建方式为:计算原始知识向量与对应的扩展知识向量之间的语义相似度s,基于所述语义相似度s构建冲突抑制因子,其中为冲突调节指数,利用所述冲突抑制因子对所述原始知识向量与所述扩展知识向量进行自适应加权融合;
52、图谱构建与增强模块,用于基于所述融合后的专家知识向量矩阵与所述任务知识向量矩阵构建包括专家节点、知识节点与任务节点的三元图谱,并通过图卷积网络生成结构增强后的专家表示向量矩阵与任务表示向量矩阵;
53、匹配与排序模块,用于基于所述结构增强后的专家表示向量矩阵与所述任务表示向量矩阵,计算专家与任务之间的匹配得分,根据所述匹配得分进行排序,输出候选专家排序列表。
54、与现有技术相比,本发明的上述技术方案具有如下有益的技术效果:
55、(1)通过引入基于语义相似度的冲突抑制因子,实现了原始事实知识与大语言模型推理扩展知识之间的自适应加权知识融合,有效解决了扩展内容可能存在的语义偏差或与原始信息冲突的问题,在保留大语言模型挖掘深层隐含技能优势的同时,显著提升了专家表示向量的准确性与鲁棒性;
56、(2)通过引入语义独特性评估方法,基于语义独特性评分uk对知识单元进行核心、辅助、冗余三级分类,并对核心单元实施重复与标记双重增强,显式引导模型聚焦高价值信息,避免了关键能力或需求被共性描述淹没,提升了语义扩展的方向性和准确性;
57、(3)通过构建包括专家节点、知识节点与任务节点的三元图谱并结合图卷积网络进行结构增强,实现了专家与任务之间的结构关系建模,进一步提升了匹配精度。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com