气象大语言模型训练的思维链数据合成方法及装置与流程
本技术涉及人工智能,具体而言,涉及气象大语言模型训练的思维链数据合成方法及装置。
背景技术:
1、随着人工智能技术的飞速发展,大语言模型在气象领域的应用正迎来历史性机遇。思维链(chain-of-thought,cot)数据作为连接气象问题与标准答案的推理桥梁,是气象大模型推理能力微调的核心要素。现有的可用于大模型推理微调的思维链数据通常是直接由大语言模型根据预先设定的提示词自动生成,再依靠人工校验得到的;该种方法生成的思维链数据无法应用于气象智能体的训练,且思维链数据的质量较低。
技术实现思路
1、本技术实施例的目的在于提供气象大语言模型训练的思维链数据合成方法及装置,用以解决了现有技术存在的上述问题,可生成针对气象智能体的高质量思维链数据。
2、第一方面,提供了一种气象大语言模型训练的思维链数据合成方法,该方法可以包括:
3、获取气象问题和所述气象问题对应的标准答案;
4、将所述标准答案逆向解构为气象物理因果图;所述气象物理因果图包含多个节点;每个节点对应一自然语言描述文本和气象状态向量;
5、根据配置的气象法则证据库,对各节点对应的自然语言描述文本进行校验,得到校验结果;
6、若任一节点的校验结果为未通过校验,则根据所述气象物理因果图,对所述节点对应的自然语言描述文本和气象状态向量进行修正,得到修正后的节点;
7、根据校验结果为通过校验的各节点和相应修正后的节点对应的自然语言描述文本,生成思维链文本;
8、将所述思维链文本和所述气象问题,确定为一组用于气象智能体训练的思维链数据。
9、在一个可选的实现中,所述将所述标准答案逆向解构为气象物理因果图,包括:
10、利用预先训练好的演绎生成模型,将所述标准答案按照因果顺序拆解为多个因果推理步骤,每个因果推理步骤对应一个节点,并生成各节点的自然语言描述文本;
11、根据预先构建的气象因果模式库,对各节点的自然语言描述文本进行语义解析、物理量抽取和规则映射,得到各节点的节点类型、气象过程模式和气象状态向量;
12、将各节点的节点类型、气象状态向量和自然语言描述文本,作为各节点的属性;
13、根据所述气象因果模式库、各因果推理步骤之间的因果顺序和各节点的气象过程模式,生成各节点之间的有向边,得到气象物理因果图。
14、在一个可选的实现中,根据配置的气象法则证据库,对各节点对应的自然语言描述文本进行校验,得到校验结果,包括:
15、针对任一节点,对所述节点的自然语言描述文本进行语义解析和物理量抽取,得到多个原子事实和相应原子事实对应的物理量约束向量;
16、根据所述气象法则证据库、各原子事实的自然语言描述文本和物理量约束向量,对各原子事实进行语义校验和物理量校验,得到各原子事实的校验结果;
17、当所述节点的各原子事实的校验结果均为通过校验时,所述节点的校验结果为通过校验。
18、在一个可选的实现中,根据所述气象法则证据库、各原子事实的自然语言描述文本和物理量约束向量,对各原子事实进行语义校验和物理量校验,得到各原子事实的校验结果,包括:
19、针对任一原子事实,根据所述原子事实对应的自然语言描述文本和物理量约束向量,生成所述原子事实的查询表示;
20、基于所述查询表示,在所述气象法则证据库中进行语义通道检索和物理约束通道检索,得到多个候选证据和相应候选证据对应的文本内容;
21、计算所述原子事实与各候选证据的综合匹配得分和物理量差异度;
22、根据所述原子事实对应的自然语言描述文本以及各候选证据对应的文本内容,确定所述原子事实与各候选证据的语义关系概率;
23、基于所述原子事实与各候选证据的语义关系概率、综合匹配得分和物理量差异度,确定所述原子事实的校验结果。
24、在一个可选的实现中,计算所述原子事实与各候选证据的物理量差异度,包括:
25、针对任一候选证据,对所述候选证据对应的文本内容进行物理量抽取,得到所述候选证据的物理量约束向量;
26、针对物理量约束向量中任一约束维度,根据所述原子事实的物理量约束向量和该候选证据的物理量约束向量在所述约束维度下的取值,计算所述原子事实和所述候选证据在该约束维度下的差异度;
27、基于该原子事实和该候选证据在物理量约束向量中不同约束维度下的差异度,得到所述原子事实与所述候选证据的物理量差异度。
28、在一个可选的实现中,根据所述气象物理因果图,对所述节点对应的自然语言描述文本和气象状态向量进行修正,得到修正后的节点,包括:
29、将所述节点中校验结果为未通过校验的原子事实,作为目标原子事实;
30、根据所述目标原子事实与各候选证据的语义关系概率,从目标原子事实的多个候选证据中筛选矛盾证据;
31、基于所述矛盾证据,生成所述节点修正后的自然语言文本,并根据所述修正后的自然语言文本,更新所述节点的气象状态向量,得到修正后的节点。
32、在一个可选的实现中,根据所述气象物理因果图,对所述节点对应的自然语言描述文本和气象状态向量进行修正,得到修正后的节点,还包括:
33、根据所述修正后的节点与所述气象物理因果图中位于所述修正后的节点下游的节点的气象状态向量,计算语义-物理一致性残差;
34、若所述语义-物理一致性残差大于预设残差阈值,则根据所述气象物理因果图,对下游的节点对应的自然语言描述文本和气象状态向量进行修正,得到修正后的节点。
35、第二方面,提供了一种气象大语言模型训练的思维链数据合成装置,该装置可以包括:
36、获取单元,用于获取气象问题和所述气象问题对应的标准答案;
37、解构单元,用于将所述标准答案逆向解构为气象物理因果图;所述气象物理因果图包含多个节点;每个节点对应一自然语言描述文本和气象状态向量;
38、校验单元,用于根据配置的气象法则证据库,对各节点对应的自然语言描述文本进行校验,得到校验结果;
39、修正单元,用于若任一节点的校验结果为未通过校验,则根据所述气象物理因果图,对所述节点对应的自然语言描述文本和气象状态向量进行修正,得到修正后的节点;
40、生成单元,用于根据校验结果为通过校验的各节点和相应修正后的节点对应的自然语言描述文本,生成思维链文本;
41、确定单元,用于将所述思维链文本和所述气象问题,确定为一组用于气象智能体训练的思维链数据。
42、第三方面,提供了一种电子设备,该电子设备包括处理器、通信接口、存储器和通信总线,其中,处理器,通信接口,存储器通过通信总线完成相互间的通信;
43、存储器,用于存放计算机程序;
44、处理器,用于执行存储器上所存放的程序时,实现上述第一方面中任一所述的方法步骤。
45、第四方面,提供了一种计算机可读存储介质,该计算机可读存储介质内存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面中任一所述的方法步骤。
46、本技术通过将标准答案逆向解构为包含节点及气象状态向量的因果图,并依据气象法则证据库对每个节点自动校验,仅对未通过节点进行局部修正而保留其余正确节点,最终基于通过校验的节点和修正后的节点生成思维链文本。本技术能够有效提升思维链数据的质量,确保生成的思维链数据符合气象法则要求,可满足气象智能体对高质量推理样本的需求,为气象智能体的训练提供了高质量的思维链数据。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com