一种基于执行前预测的产业数据自动化分析的方法及装置
本发明涉及人工智能产业数据分析,尤其涉及一种基于执行前预测的产业数据自动化分析的方法及装置。
背景技术:
1、随着产业链与供应链数字化程度不断提升,各类结构化数据文件(如csv、excel、数据库等)已成为产业运行分析与风险监测预警的重要数据基础。大语言模型驱动的数据分析智能体通过迭代式代码生成与执行,可从原始数据文件中自动提取关键指标、完成统计分析和趋势研判,为产业链风险识别和供应链优化提供决策支持。
2、然而,现有基于大语言模型的数据分析智能体在训练和推理中存在以下不足:
3、1)现有训练范式将智能体的策略学习与环境动态感知相解耦,即智能体学习的是"在已有观测下应采取何种动作",而未学习"该动作执行后将产生何种结果"。这导致智能体缺乏对执行后果的预判能力,无法有效避免错误。
4、2)实验观测表明,采用传统监督微调加强化学习训练的智能体,其错误规避能力薄弱:执行失败率甚至随训练提升而上升,恢复率的提高实质上伴随着更频繁的失败。智能体依赖试错式探索来完成任务,交互轮次显著膨胀,推理效率低下。
5、3)近期工作尝试将环境动态隐式编码至模型参数中,例如先训练模型预测下一状态作为策略优化的预热阶段。然而,一旦转入策略优化阶段,模型的预测推理变为隐式的,既无法被奖励信号直接塑造,也无法在推理时被检查和利用,失去了主动风险拦截的能力。
6、4)在产业链与供应链数据分析场景中,错误的代码执行可能引入虚假的观测信息,污染后续对话历史,导致分析结论偏差甚至误导风险预警决策。每一次可避免的执行失败都会将错误观测注入上下文,在后续交互轮次中产生复合误差。
7、因此,亟需一种新的数据分析方法,能够使大语言模型在生成代码动作的同时显式预测执行后果,在执行前主动拦截可能失败的动作,从而在产业链数据分析与供应链风险监测预警场景中实现更高的分析准确率、更少的交互轮次和更强的安全性。
技术实现思路
1、本发明目的在于针对现有技术的不足,提出一种基于执行前预测的产业数据自动化分析的方法及装置。
2、本发明的目的是通过以下技术方案来实现的:一种基于执行前预测的产业数据自动化分析方法,包括以下步骤:
3、采集产业数据中的专家轨迹数据,对专家轨迹中每一步动作,根据执行成功或失败,使用教师模型生成对应的结构化预测表述;将生成的结构化预测字段嵌入原始专家轨迹的每一步动作之后、执行反馈之前,构建预测增强轨迹数据集;
4、以预测增强轨迹数据集为训练语料,对基础大语言模型进行预测感知的监督微调冷启动训练,获得初始策略模型;训练过程中对实际解释器返回的执行结果施加补全掩码;
5、对初始策略模型执行双阶段强化学习预测校准训练,第一阶段为校准强化学习阶段,设计逻辑一致性奖励,评估模型每一步生成的预测字段与实际解释器执行结果之间的语义对齐程度,并与任务准确率奖励联合优化;第二阶段为结果强化学习阶段,释放预测一致性约束,仅保留任务准确率奖励,使策略模型在已校准的内部世界模型基础上自由优化长程任务性能;
6、基于训练好的策略模型进行执行前预测的推理拦截。
7、进一步地,所述根据执行成功或失败,使用教师模型生成对应的结构化预测表述具体包括:
8、对专家轨迹中每一步执行成功的动作,提取并掩码其执行结果中的具体数值与敏感字段,利用教师模型生成包含意图字段、状态预测字段、贡献字段和状态检查字段的结构化预测标注;
9、对专家轨迹中每一步执行失败的动作,将实际错误日志输入教师模型,生成包含意图字段、失败分析字段、根因字段和修正建议字段的结构化预测标注;失败分析字段包含对错误类型的分类诊断,将错误映射至具体代码行;所述修正建议字段包含针对下一步动作的可执行修复指引。
10、进一步地,所述监督微调冷启动训练包括:
11、设定学习率、预热比例、余弦衰减学习率调度,对于1.7b模型,采用描述性长文本报告样本进行格式预热训练2个epoch,再使用完整数据集训练;对于4b和8b模型,直接使用完整轨迹训练;
12、训练过程中,对轨迹中实际解释器返回的执行结果施加补全掩码,即模型在训练时不将解释器返回作为需要学习生成的目标,仅学习生成推理、代码动作和预测字段。
13、进一步地,所述校准强化学习阶段的联合奖励函数为:,其中为任务准确率奖励,为逻辑一致性奖励,的计算方式为:,其中为第步的预测字段,为第步的实际执行结果,为总交互轮数,为指示函数,为基于外部大语言模型的二分类语义匹配判定函数。
14、进一步地,所述任务准确率奖励的计算方式为:当最终答案正确且轨迹长度l不超过预设长度阈值l时,;当最终答案正确但轨迹长度l超过l时,;当最终答案不正确时,。
15、进一步地,所述双阶段强化学习均采用分组相对策略优化方法,通过裁剪目标函数进行策略更新:, 其中为重要性采样比率,为组内相对优势值,为裁剪系数;在第二阶段释放一致性奖励约束后,策略模型能够在已校准的预测能力基础上进行更积极的探索性动作选择。
16、进一步地,所述执行前预测的推理拦截包括:
17、在推理阶段,模型针对产业链数据文件生成每一步分析动作后,系统自动解析伴随生成的预测字段;
18、判断预测字段中的状态检查子字段是否指示潜在执行失败;若预测指示执行可能失败,则在代码提交至解释器执行之前拦截该动作,引导模型进行反思并重新生成动作;
19、重复拦截、反思、重生成过程,直到预测指示执行成功或达到最大重生成次数后执行当前动作;
20、输出最终产业数据分析结果,用于产业链风险监测与预警决策支持。
21、进一步地,所述最终产业数据分析结果的获取包括:若预测确认执行成功或达到重试上限:将代码提交至python解释器或sql引擎执行,获取真实执行反馈追加至交互历史;若执行成功,将代码追加至历史代码上下文;若执行失败,不追加代码,若模型生成最终答案或达到最大交互轮次,则输出结构化的最终结果;否则进入下一轮交互。
22、根据说明书的另一方面,还提供了一种基于执行前预测的产业数据自动化分析装置,包括存储器和一个或多个处理器,所述存储器中存储有可执行代码,所述处理器执行所述可执行代码时,实现所述的一种基于执行前预测的产业数据自动化分析方法。
23、根据说明书的另一方面,还提供了一种计算机可读存储介质,其上存储有程序,所述程序被处理器执行时,实现所述的一种基于执行前预测的产业数据自动化分析方法。
24、本发明的有益效果:
25、本发明提出了一种预测增强的专家轨迹构建方法。通过对专家交互轨迹中的每一步动作附加结构化的预测字段标注,将代码执行后果的预判信息显式地融入训练数据。针对执行成功与执行失败两种情况分别设计双轨标注模板,使模型既学习预测正常执行的状态变化,也学习诊断失败原因并给出修正建议。该方法突破了现有训练数据仅包含"动作-观测"对的局限,将环境动态信息作为结构化标签纳入训练语料。
26、本发明提出了一种双阶段强化学习预测校准训练方法。第一阶段通过逻辑一致性奖励联合优化动作质量与预测精度,使模型学会对自身生成的动作产生可靠的执行结果预判;第二阶段释放预测约束,仅以任务准确率作为奖励信号,使策略在已校准的内部世界模型基础上自由优化长程任务性能。这种渐进式训练避免了持续预测约束导致的保守动作倾向,在预测可靠性与任务探索性之间实现了平衡。
27、本发明提出了一种基于执行前预测的推理拦截框架(predict-and-intercept)。在推理阶段,模型生成每一步动作后,系统自动解析伴随生成的预测字段;若预测指示可能失败,则在代码提交至解释器之前拦截该动作,引导模型反思并重新生成。与传统的事后纠错机制不同,该拦截发生在执行之前,阻止了错误观测进入对话历史,避免了"执行—失败—观察—恢复"的被动纠错路径。
28、预测训练能力具有广泛的迁移性,可推广至非推理型基础模型骨干和sql数据库查询环境,在产业链财务报表分析、供应链数据统计、结构化数据多轮交互式分析等场景中均表现出显著的准确率提升和计算效率改善。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com