基于关联图谱增强机器学习的研究报告分析链路智能生成方法及系统与流程
本技术涉及人工智能,特别是涉及一种基于关联图谱增强机器学习的研究报告分析链路智能生成方法及系统。
背景技术:
1、专业研究报告是进行城市发展动态决策和空间治理的重要依据。此类报告的撰写高度依赖专业分析师的知识与经验积累,需根据具体需求确定报告逻辑框架、选取量化指标、选择分析模型并关联数据来源,导致单份报告产出周期长、人力成本高,难以满足高频次、多主题的决策支撑需求。
2、近年来,机器学习与人工智能技术的快速发展为报告的智能化生成提供了新的可能。然而,将机器学习直接应用于专业研究报告的分析链路生成仍面临技术瓶颈。其一,专业研究报告为非结构化文本,其中蕴含的组件间搭配关系——哪些指标常与哪些章节搭配、哪些模型可计算哪些指标、哪些数据源可接入哪些模型——以隐性形式分散于报告正文中,传统机器学习方法难以直接利用这类非结构化的关联知识,导致预测准确率低。其二,报告链路中各组件之间存在严格的层级约束——指标必须归属于所选章节,模型必须可计算对应指标,数据源必须可接入对应模型。纯端到端的机器学习方法缺乏对这种结构化约束的内化能力,容易产出逻辑表面合规但实质错误的链路。
技术实现思路
1、本发明为克服上述现有技术分析链路预测质量低的缺陷,提供一种基于关联图谱增强机器学习的研究报告分析链路智能生成方法,所述方法包括:
2、s1、获取研究报告需求的需求特征;基于历史研究报告构建组件关联图谱,所述组件关联图谱包括章节模板节点、指标节点、分析模型节点、数据来源节点以及用于表征不同节点间关联关系的关联边;
3、s2、构建机器学习模型,所述机器学习模型的前向传播架构包括第一预测网络和第二预测网络;所述第一预测网络用于将所述需求特征映射至候选章节模板节点的概率分布;所述第二预测网络用于对所述指标节点、所述分析模型节点和所述数据来源节点分别配置独立训练的模型参数,并依次基于候选节点输出相互独立的概率分布;
4、s3、将所述需求特征输入训练完成的机器学习模型,通过所述第一预测网络得到预选章节模板节点;
5、s4、以所述预选章节模板节点为初始锚点,通过所述第二预测网络内基于节点顺序逐级选取预选节点;其中,在每级节点选取中,基于所述关联边确定与当前锚点相连接的候选节点并构建局部子图;通过所述局部子图提取各候选节点的图结构特征,输出各候选节点的概率分布,根据所述概率分布得到当前节点的预选结果并作为新锚点;
6、s5、通过组件关联图谱对预选的模板节点、指标节点、分析模型节点和数据来源节点构建层级映射关系,并组合为研究报告分析链路。
7、作为优选方案,所述获取研究报告需求的需求特征包括:
8、对所述研究报告需求进行标签编码,得到用于表征需求应用场景的需求标签特征;
9、对所述研究报告需求的需求文本进行语义编码,得到用于表征需求主题及内容侧重点的需求语义特征;
10、将所述需求标签特征与所述需求语义特征进行拼接,得到所述需求特征。
11、作为优选方案,所述组件关联图谱为包含不同类型节点特征及不同类型关联边特征的异质图,其中,所述关联边包括:连接所述章节模板节点与所述指标节点的包含边、连接所述指标节点与所述分析模型节点的可计算边和连接所述分析模型节点与所述数据来源节点的可接入边;所述节点特征用于描述组件的语义功能、拓扑角色及适用场景信息;所述边特征用于描述组件之间关联关系的类型、强度及置信度信息。
12、作为优选方案,所述组件关联图谱的构建过程包括:
13、将历史报告文本输入大语言模型,通过结构化提取获得所述历史报告的基准标签、章节模板组件、指标组件、分析模型组件、数据来源组件及相邻层组件之间的嵌套关系;
14、依据相邻父组件与子组件的类型,将所述嵌套关系转换为对应的关联边,并更新所述组件关联图谱的节点表和边表;
15、对所述节点表中相同类型的组件进行标准化合并,根据标准化后的组件及其对应的关联边形成用于构成所述组件关联图谱。
16、作为优选方案,所述组件关联图谱还基于图自编码器对缺失的隐含关联进行补全;所述图自编码器包括编码器和解码器;
17、所述编码器为图卷积网络,以初始共现图谱的邻接表和节点多模态特征向量为输入,通过多层消息传递将每个节点的特征与其邻居节点的特征进行聚合;其更新式如下:
18、
19、其中,为节点的邻居集合,为邻居特征聚合函数,和均为第层的可学习参数,为非线性激活函数;为第
l层的节点
v的隐藏表示;
20、所述解码器接收任意两个节点的嵌入向量,基于内积运算存在边的概率得分;
21、所述图自编码器以组件关联图谱中已有的边作为正样本集合,随机采样的不存在边作为负样本集合,通过二元交叉熵损失函数优化编码器和解码器的参数,训练完成后,解码器对初始图谱中所有未直接相连的节点对进行逐对打分,将得分超过预设阈值的节点对补充进组件关联图谱;所述二元交叉熵损失函数的表达式如下:
22、
23、其中,为二元交叉熵损失函数,为正样本集合,为负样本集合。
24、作为优选方案,通过第二预测网络提取图结构特征并确定候选节点的预测概率包括:
25、在所述局部子图上通过关系图卷积网络,按照关联边的类型分别对邻居节点的特征进行消息传递和聚合,并依据关联边的共现强度特征及关联置信度调节对应节点的贡献,得到候选节点的图结构特征及增强嵌入;
26、将所述需求标签特征、候选节点的节点特征和所述图结构特征进行拼接,形成用于候选节点评分的特征表示;
27、汇聚所述锚点的嵌入,将候选节点的增强嵌入与汇聚后的锚点嵌入结合,通过评分网络确定候选节点的独立预测概率。
28、作为优选方案,所述关系图卷积网络按照关联边的类型进行消息传递和聚合的步骤包括:
29、针对不同关联边类型设置对应的关系变换矩阵,通过所述关系变换矩阵对同类型邻居节点的隐藏表示进行变换;
30、根据对应关联边的调节系数对变换后的邻居信息进行加权,并按照同类型邻居节点的数量进行归一化聚合,将不同关联边类型的聚合结果与当前节点的自环变换结果相加,经非线性激活得到当前节点的下一层隐藏表示;
31、所述隐藏表示的更新式如下:
32、
33、其中,为节点在边类型下的邻居集合,为自环变换矩阵。
34、作为优选方案,所述依据关联边的共现强度特征及关联置信度调节对应节点的贡献包括:
35、将同一关联边的共现强度特征和关联置信度特征组合后输入边特征门控网络,通过所述边特征门控网络进行映射,并通过sigmoid函数将映射结果转换为调节系数,将所述调节系数乘用于所述关联边传递的消息;
36、所述调节系数的计算式如下:
37、
38、其中为sigmoid函数。
39、作为优选方案,所述机器学习模型的训练步骤包括:
40、将历史报告和对应的需求标签特征作为训练输入,将所述历史报告实际采用的各层组件作为训练标签;
41、对第一预测网络的章节模板节点预测概率与章节训练标签计算交叉熵损失,对第二预测网络在指标层、分析模型层和数据来源层输出的候选节点独立预测概率与对应训练标签分别计算二元交叉熵损失,将损失相加形成总损失;
42、基于所述总损失进行反向传播,更新第一预测网络的模型参数以及第二预测网络对应各层的关系聚合参数、边特征门控参数和评分参数,得到训练完成的机器学习模型;
43、所述损失的计算式如下:
44、
45、
46、
47、其中,为总损失,为章节层损失,为指标层损失,为分析模型层损失,为数据来源层损失;为指标层候选节点个数。
48、本技术还提出一种基于关联图谱增强机器学习的研究报告分析链路智能生成系统,所述系统包括:
49、数据获取模块,用于获取研究报告需求的需求特征、组件关联图谱及训练完成的机器学习模型,将所述需求特征、所述组件关联图谱及所述机器学习模型提供给对应预测模块;
50、章节预测模块,用于接收所述需求特征,通过所述机器学习模型中的第一预测网络获得候选章节模板节点的概率分布,并根据所述概率分布输出预选章节模板节点;
51、分层预测模块,用于接收所述预选章节模板节点、所述需求特征和所述组件关联图谱,按照指标层、分析模型层和数据来源层的层级顺序,以上一层的已选节点作为锚点,基于所述组件关联图谱中的关联边确定相连接的候选节点并形成局部子图,通过第二预测网络结合需求标签信息及所述局部子图的图结构特征确定候选节点的独立预测概率,输出各层的已选节点;
52、链路生成模块,用于接收各层的已选节点,根据所述组件关联图谱中连接相邻层已选节点的关联边确定层级映射关系,输出包含各层已选节点及所述层级映射关系的研究报告分析链路。
53、与现有技术相比,本发明的有益效果:
54、本技术通过第一预测网络根据研究报告需求确定章节模板,并以上一层已选节点为锚点,利用组件关联图谱中的关联边逐层限定候选节点范围,使后续节点选择与已有链路结构保持关联,减少无关联组件组合进入分析链路的情况;通过结合需求标签信息与局部子图提取的图结构特征确定候选节点的独立预测概率,使节点选择同时考虑需求适配性和组件间的关联信息,并适应同一层级选取多个组件的分析需求;根据相邻层已选节点之间的关联边建立层级映射关系,形成组件对应关系明确的结构化分析链路,从而使生成结果兼顾需求匹配与层级关联一致性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com