一种基于外层物理残差补偿校正的预测决策方法与系统
本发明涉及多物理场耦合特征的预测决策,具体是一种基于外层物理残差补偿校正的预测决策方法与系统。
背景技术:
1、物理信息神经网络(physics-informedneuralnetwork,pinn)通过将物理定律嵌入神经网络损失函数,能够以数据驱动与物理驱动融合的方式求解复杂偏微分方程。在激光引雷等复杂物理场应用中,pinn可用于构建环境模拟器,输出电场、云层电荷、潜在能量泄放通路等预测结果。
2、深度强化学习(deepreinforcementlearning,drl)是处理复杂决策问题的重要方法。将pinn与drl结合,可形成“预测决策”一体化框架:pinn提供预测物理场,drl基于预测物理场输出控制动作。
3、然而,pinn与drl直接拼接存在根本性问题,即预测与决策之间的双向耦合失稳问题。drl决策依赖pinn物理场预测结果,预测误差会导致决策动作偏离最优;同时,决策动作实际执行后又会改变物理场状态,动作执行偏差反过来影响后续预测,使预测误差与决策误差在交互中相互放大,最终造成预测失准、决策失效和闭环控制不稳定。
4、现有技术主要采用两类方法:一类是改进pinn结构提升物理预测精度;另一类是通过误差修正模型对预测结果进行后验校正。但上述方法多数只面向单一预测任务或单一决策任务内部优化,未能从机制上同时处理物理预测残差和动作执行残差。
技术实现思路
1、为解决现有技术中存在的技术问题,本发明提供了一种基于外层物理残差补偿校正的预测决策方法与系统,能够同时处理物理预测残差和动作执行残差,提高物理场预测决策的准确性、稳定性和鲁棒性。
2、为实现上述目的,本发明提供如下技术方案:
3、本发明公开了一种基于外层物理残差补偿校正的预测决策方法,构建pinn-drl耦合模型和外层物理残差补偿网络,还包括以下步骤:
4、s1、pinn获取当前时刻t的多源状态和上一时刻t-1经外层动作补偿后的校正动作,输出当前时刻的预测物理场和潜在通路概率;
5、s2、drl根据多源状态、预测物理场和潜在通路概率输出期望动作;
6、s3、采集上一时刻的执行反馈及当前时刻的观测数据,包括当前物理场状态、上一时刻实际执行动作、当前真实物理场响应以及目标效果响应;
7、s4、外层物理残差补偿网络根据预测物理场、潜在通路概率、期望动作和当前时刻的观测数据,计算状态补偿量、动作补偿量和约束奖励权重补偿量并注入pinn-drl耦合模型;
8、s5、先通过历史数据单独预训练pinn模型、drl模型和外层物理残差补偿网络;然后进行联合交替训练,先固定pinn-drl耦合模型参数训练外层物理残差补偿网络,再固定外层物理残差补偿网络更新pinn-drl耦合模型参数;重复联合交替训练至训练完成;
9、s6、基于训练完成的pinn-drl耦合模型和外层物理残差补偿网络进行预测决策。
10、优选的,所述s1中:
11、pinn环境模拟器为,其输出包括预测物理场以及潜在通路概率:
12、pinn模型的训练损失函数包括数据拟合损失、物理约束损失、边界条件损失和初始条件损失,各项损失加权融合得到训练总损失。
13、优选的,所述s2中drl模型采用actor-critic结构,actor网络策略为,critic网络价值函数为;
14、其中,表示actor网络参数;表示drl的融合状态;a表示在该融合状态下由actor策略生成的策略动作;表示critic网络参数;
15、drl根据当前融合状态输出期望动作:
16、;
17、其中,enc(·)表示条件编码函数;
18、采用sac策略目标函数:
19、;
20、;
21、式中,表示drl在t时刻的融合状态,表示actor在该融合状态下生成的策略动作;
22、令,实际控制指令记为;
23、表示环境反馈的即时奖励;表示经验回放池;为温度参数;为折扣因子;表示当前critic网络估计的动作价值;为actor策略损失函数;为critic价值损失函数;表示数学期望;为下一时刻融合状态;为在下采样得到的动作。
24、优选的,所述s4具体包括:
25、s401、构建统一残差向量:
26、;
27、其中表示环境预测残差,表示动作执行残差,表示物理约束一致性残差,表示目标效果残差;
28、s402、将统一残差向量输入残差分解编码器,分别进行来源、尺度和模态分解,得到压缩特征,将输入物理置信门控网络和三路补偿头,物理置信门控网络计算状态补偿、动作补偿和约束奖励权重补偿的门控系数;三路补偿头计算基础补偿;
29、s403、根据状态补偿、动作补偿、约束奖励权重补偿的门控系数和基础补偿计算状态补偿量、动作补偿量和约束奖励权重补偿量;
30、s404、将状态补偿量注入pinn模型,动作补偿量和约束奖励权重补偿量注入drl模型,完成pinn-drl耦合模型的解耦校正。
31、优选的,所述s401中:
32、;
33、;
34、;
35、;
36、其中,为物理约束算子;b(t)表示边界条件或安全阈值;为系统预设的期望调控目标;表示目标效果响应。
37、优选的,所述计算状态补偿、动作补偿、约束奖励权重补偿的门控系数包括:
38、;
39、;
40、其中,为计算得到的综合物理置信度得分;表示以为权重的残差平方范数;为观测质量因子;表示标量乘法,表示特征向量拼接;为门控网络层的可学习权重矩阵,为门控网络层的偏置向量;为sigmoid激活函数,用于将门控系数映射至[0,1]范围,表示模型不确定度,为残差尺度参数,为残差加权矩阵;为状态补偿门控系数,为动作补偿门控系数,为约束奖励权重补偿门控系数。
41、优选的,所述将输入三路补偿头,计算基础补偿具体包括:
42、设基础补偿为:
43、;
44、其中,表示向量转置运算,将行向量转为列向量;为状态补偿的基础补偿、为动作补偿的基础补偿、为约束奖励权重的基础补偿;
45、pinn-drl耦合模型注入补偿量后,统一残差向量在当前点附近一阶线性化为:
46、;
47、式中,表示注入补偿量之后预计达到的一阶近似新残差向量;为的偏导数;
48、;
49、其中,为偏微分算子;为系统状态;为执行动作;为奖励或物理约束的权重系数;
50、将寻找最优补偿量转化为带正则项的加权最小二乘问题:
51、;
52、式中,表示求解使损失函数最小的;为设定的正定或半正定对角加权矩阵;为加权二范数;为正则化惩罚系数,且满足;为标准l2范数平方;表示向量乘积;
53、对上式求导并令导数为零:
54、得到外层最优补偿算子的闭式表达:
55、;
56、其中,为与变量维度匹配的单位矩阵;为加权雅可比gram矩阵,为加权最小二乘目标关于补偿变量的gauss–newton近似hessian项;当时,该矩阵为半正定矩阵,加入且后,为正定矩阵,从而保证闭式解唯一且矩阵可逆。
57、由神经网络对进行近似学习:
58、;
59、其中,为模型不确定度,通过集成学习中多个基础网络输出的方差或蒙特卡洛随机失活方法实时计算获得,下标表示神经网络的可学习参数。
60、优选的,还包括构建外层物理残差补偿网络的复合损失函数:
61、;
62、其中,与分别表示外层物理残差补偿网络对环境残差和动作残差的预测输出值;,,,为对应的损失权重系数,用于平衡各项损失的量级;mse(·)为均方误差损失函数;为耦合抑制项,用于刻画预测残差与动作残差之间的相互影响关系,计算如下:
63、;
64、其中,表示矩阵的弗罗贝尼乌斯范数,表示向量的l2范数,表示环境预测残差与动作执行残差的协方差矩阵;表示物理场预测对动作的局部雅可比矩阵。
65、本发明还提出了基于外层物理残差补偿校正的预测决策系统,包括:
66、构建模块,用于构建pinn-drl耦合模型和外层物理残差补偿网络;
67、pinn模型用于获取当前时刻t的多源状态和上一时刻t-1经外层动作补偿后实际下发的校正动作,并输出预测物理场和潜在通路概率;
68、drl模型用于根据多源状态、预测物理场和潜在通路概率输出期望动作;
69、采集模块,用于采集上一时刻的执行反馈及当前实时观测数据,包括当前物理场状态、上一时刻实际执行动作、真实物理场响应以及目标效果响应;
70、外层物理残差补偿网络用于根据预测物理场、潜在通路概率、期望动作和当前时刻的观测数据,计算状态补偿量、动作补偿量和约束奖励权重补偿量并注入pinn-drl耦合模型;
71、训练模块,用于通过历史数据单独预训练pinn模型、drl模型和外层物理残差补偿网络;然后进行联合交替训练,先固定pinn-drl耦合模型参数训练外层物理残差补偿网络,再固定外层物理残差补偿网络更新pinn-drl耦合模型参数;重复联合交替训练至训练完成;
72、执行模块,基于训练完成的pinn-drl耦合模型和外层物理残差补偿网络进行预测决策。
73、与现有技术相比,本发明的有益效果是:
74、(1)本发明能够降低预测误差与决策误差在闭环交互中的相互放大,提高复杂物理环境下预测决策协同控制的准确性、稳定性和鲁棒性,适用于激光引雷潜在能量泄放通路调控等强非线性多物理场场景。
75、(2)本发明能够根据残差幅值、模型不确定度和观测质量动态调节补偿强度。
76、(3)本发明采用交替优化策略同步更新pinn模型、drl模型和外层物理残差补偿网络参数,执行阶段,在每个决策时间步,pinn输出预测状态,drl输出期望动作,外层网络根据实时观测与执行反馈估计残差并生成补偿量,使系统在动态环境中自适应修正。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com