一种基于因果残差解耦网络的工业软测量方法及系统
本发明涉及一种基于因果残差解耦网络的工业软测量方法及系统,属于工业过程监测和软测量建模。
背景技术:
1、在复杂工业过程中,关键质量变量的实时获取对于过程监测、闭环控制、故障预警以及生产优化具有重要意义。然而,在石油化工、多相流、精馏分离、制药和冶金等工业场景中,部分关键质量变量往往难以通过在线传感器直接测量。例如,一些质量指标需要依赖实验室化验、离线分析仪器或高成本高维护要求的物理传感设备,导致测量结果存在时间延迟、采样频率低和实时性不足等问题。为解决上述问题,基于数据驱动的工业软测量方法被广泛用于根据易测过程变量估计难测质量变量。
2、目前,常用的软测量建模方法包括主成分回归、偏最小二乘回归、支持向量回归、高斯过程回归以及基于长短期记忆网络、门控循环单元等深度时序模型的方法。上述方法能够在一定程度上建立过程变量与质量变量之间的非线性动态映射关系,并在训练数据与测试数据分布较为一致时取得较好的预测效果。然而,实际工业过程通常处于长期运行状态,容易受到设备老化、原料组成变化、操作负荷调整、阀门状态变化以及环境扰动等因素的影响,导致训练工况和测试工况之间存在数据分布偏移。此时,传统软测量模型容易依赖源域工况中的特定伪相关关系,导致在未知工况下预测精度下降,难以满足工业部署对鲁棒性和稳定性的要求。
3、此外,现有方法通常将变量筛选、注意力机制或正则化约束施加在输入层或损失函数层面,难以约束循环神经网络隐状态传播过程中的信息混合。即使在输入端筛选出部分目标相关变量,源域特有残差信息仍可能通过稠密的隐层递归连接与目标相关动态特征发生耦合,从而降低模型在未知工况下的泛化能力和可解释性。因此,亟需一种能够面向目标质量变量提取因果先验,并在深度时序网络内部实现因果信息与残差信息解耦的工业软测量方法。
技术实现思路
1、为了解决上述问题,本发明提供了一种基于因果残差解耦网络的工业软测量方法及系统。本发明能够降低源域特有扰动信息对未知工况预测的影响,提高工业软测量模型在跨工况场景下的鲁棒性、泛化能力和可解释性。
2、为实现上述目的,本发明采用如下技术方案:
3、第一方面,本发明提供了一种基于因果残差解耦网络的工业软测量方法,包括以下步骤:
4、步骤一:采集工业过程源域时间序列数据,获取过程变量和目标质量变量,对所述过程变量和目标质量变量进行归一化处理,并按照预设滑动窗口长度构造时序训练样本;
5、步骤二:采用基于偏相关条件独立检验(parcorr)的靶向pcmci算法,以目标质量变量为唯一靶向变量,仅检验各滞后过程变量指向所述目标质量变量的候选因果关系,得到目标导向的时滞因果骨架矩阵;
6、步骤三:将所述时滞因果骨架矩阵沿滞后维度进行聚合,得到静态空间因果先验向量,并根据所述静态空间因果先验向量确定允许进入因果流的目标相关过程变量;
7、步骤四:基于所述静态空间因果先验向量构造因果选择矩阵,并通过克罗内克(kronecker)积生成输入到隐层掩码和隐层到隐层掩码,以在长短期记忆网络(lstm)的潜在空间中形成块对角结构约束;其中,所述块对角结构约束是指不同过程变量对应的因果流隐层单元之间的连接权重被强制置零,仅保留同一变量对应隐层单元之间的连接;
8、步骤五:构建因果流和残差流组成的双流时序预测网络,其中,所述因果流在所述输入到隐层掩码和隐层到隐层掩码的约束下提取目标相关稳定动态特征,所述残差流接收未掩码的原始过程变量以吸收源域特有残差信息;
9、步骤六:根据联合预测损失、因果辅助预测损失以及希尔伯特-施密特独立准则(hsic)解耦损失构建总训练目标,对所述双流时序预测网络进行训练;
10、步骤七:在未知工况推理阶段,去除依赖残差流的联合预测分支,仅保留因果流及其因果预测头输出目标质量变量的软测量结果。
11、在本发明的一种实施方式中,所述步骤一中,所述源域时间序列数据包括:过程变量矩阵和目标质量变量向量,记为:
12、(1)
13、(2)
14、其中,为历史样本数量,为过程变量数量,为第个采样时刻的过程变量向量,为第个采样时刻的目标质量变量;对于单一目标质量变量,软测量目标为根据源域样本学习映射关系,以预测难以在线测量的目标质量变量。
15、在本发明的一种实施方式中,所述步骤二具体包括:
16、构建目标导向的候选滞后父集:对于目标质量变量,将各过程变量在不同滞后时刻的取值作为候选因果父变量,得到候选滞后父集,其计算公式为:(3)
17、其中,表示第个过程变量在滞后阶次下的取值,表示过程变量数量,表示最大滞后阶次;
18、靶向条件独立检验:以目标质量变量为唯一靶变量,仅检验候选滞后父集中的滞后过程变量指向所述目标质量变量的候选因果关系,而不对全部过程变量之间的因果关系进行全局搜索;对于候选变量,其条件独立检验表示为:
19、(4)
20、其中,表示用于消除其他相关滞后变量影响的条件集合,且所述条件集合的规模满足,表示最大条件集合规模;
21、基于偏相关条件独立检验计算条件相关性:分别将候选变量和目标质量变量对条件集合进行线性回归,得到对应残差,并根据残差之间的偏相关系数判断候选变量与目标质量变量之间是否存在目标导向因果关联,其偏相关系数为:
22、(5)
23、其中,表示候选变量对条件集合回归后的残差,表示目标质量变量对条件集合回归后的残差,表示相关性计算函数;
24、目标导向的时滞因果骨架矩阵:当候选变量与目标质量变量的条件独立假设在预设显著性水平下被拒绝时,将该候选变量保留为目标相关滞后因果变量,得到时滞因果骨架矩阵,其元素定义为:
25、(6)
26、其中,表示第个过程变量在滞后阶次下是否被识别为目标质量变量的目标相关滞后因果变量。
27、在本发明的一种实施方式中,所述步骤三具体包括:
28、静态空间因果先验向量构建:对于时滞因果骨架矩阵中第个过程变量在不同滞后阶次下的因果识别结果,沿滞后维度进行最大值聚合,得到第个过程变量对应的静态因果先验元素,其计算公式为:
29、(7)
30、其中,表示第个过程变量是否被识别为目标相关过程变量;
31、目标相关过程变量确定:将所有过程变量对应的静态因果先验元素组成静态空间因果先验向量,表示为:
32、(8)
33、其中,当时,第个过程变量被确定为允许进入因果流的目标相关过程变量;当时,第个过程变量在因果流中被抑制。
34、在本发明的一种实施方式中,所述步骤四具体包括:
35、构建因果选择矩阵:根据所述静态空间因果先验向量,构造对角形式的因果选择矩阵,公式如下:
36、(9)
37、划分变量对应的潜在块:将因果流的隐层维度设置为,其中表示每个过程变量对应的潜在块维度;因果流隐状态向量按照变量维度划分为个潜在块,公式如下:(10)
38、其中,,表示第个过程变量对应的潜在块;
39、构造输入到隐层掩码和隐层到隐层掩码:基于所述因果选择矩阵,通过克罗内克积生成输入到隐层掩码和隐层到隐层掩码,其计算公式为:
40、(11)
41、其中,表示全1列向量,表示全1矩阵,表示克罗内克积,用于约束输入变量到因果流隐层的连接,用于约束因果流隐状态之间的递归连接;
42、构造带掩码约束的因果流权重矩阵:对于因果流中长短期记忆网络的各门控单元,将未约束的可训练权重矩阵与所述输入到隐层掩码和隐层到隐层掩码进行哈达玛德积,得到结构化权重矩阵,其计算公式为:
43、(12)
44、其中,,分别表示遗忘门、输入门、输出门和候选记忆单元,和表示未约束的可训练权重矩阵,和表示经掩码约束后的结构化权重矩阵,表示哈达玛德积。
45、在本发明的一种实施方式中,所述步骤五具体包括:
46、构建因果流:将所述输入到隐层掩码和隐层到隐层掩码施加于长短期记忆网络的门控权重矩阵,使因果流在所述静态空间因果先验向量的约束下提取目标相关稳定动态特征;因果流的隐状态更新为:
47、(13)
48、其中,表示因果流在第个采样时刻的隐状态,表示带有所述块对角结构约束的长短期记忆网络单元;
49、构建残差流:将未经过因果掩码约束的原始过程变量输入标准长短期记忆网络,用于吸收源域工况特有的残差信息;残差流的隐状态更新为:
50、(14)
51、其中,表示残差流在第个采样时刻的隐状态,表示未施加因果掩码约束的长短期记忆网络单元;
52、提取因果表示和残差表示:分别将因果流和残差流的最后隐状态作为因果表示和残差表示,表示为:
53、(15)
54、其中,表示目标相关稳定动态特征,表示源域工况特有残差信息;
55、构建联合预测分支和因果辅助预测分支:在训练阶段,将所述因果表示和残差表示进行拼接,并输入联合预测头得到训练阶段预测结果,同时将因果表示输入因果预测头得到因果辅助预测结果,表示为:
56、(16)
57、(17)
58、其中,表示联合预测头,表示因果预测头,表示训练阶段联合预测结果,表示因果流辅助预测结果。
59、在本发明的一种实施方式中,所述步骤六具体包括:
60、构建联合预测损失和因果辅助预测损失:对于大小为的小批量训练样本,联合预测损失和因果辅助预测损失分别表示为:
61、(18)
62、(19)
63、其中,表示第个训练样本的目标质量变量真实值,表示第个训练样本的联合预测结果,表示第个训练样本的因果辅助预测结果;
64、构建因果表示和残差表示的小批量矩阵:将小批量训练样本中的因果表示和残差表示分别组成矩阵,表示为:
65、(20)
66、其中,表示小批量样本的因果表示矩阵,表示小批量样本的残差表示矩阵;
67、计算因果表示和残差表示的核矩阵:采用高斯核函数分别计算因果流和残差流的核矩阵,表示为:
68、(21)
69、(22)
70、其中,和分别表示因果流核矩阵和残差流核矩阵的第个元素,和分别表示对应的核带宽;
71、构建希尔伯特-施密特独立准则解耦损失:利用所述核矩阵计算因果表示和残差表示之间的统计依赖程度,其表达式为:
72、(23)
73、(24)
74、其中,表示矩阵的迹,表示中心化矩阵,表示阶单位矩阵,表示维全1列向量;
75、构建总训练目标:将联合预测损失、因果辅助预测损失和希尔伯特-施密特独立准则解耦损失加权组合,得到总训练目标,表示为:
76、(25)
77、其中,表示因果辅助预测损失的权重系数,表示希尔伯特-施密特独立准则解耦损失的权重系数;通过最小化所述总训练目标,对因果流、残差流、联合预测头和因果预测头的参数进行训练。
78、在本发明的一种实施方式中,所述步骤七具体包括:
79、将未知工况下的目标域过程变量输入训练后的因果流,得到未知工况下的因果表示:
80、(26)
81、其中,表示未知工况下第个采样时刻的过程变量,表示未知工况下因果流在采样时刻的隐状态,表示未知工况下由因果流提取得到的因果表示;
82、在未知工况推理阶段去除依赖残差流的联合预测分支,不使用残差表示参与最终软测量预测,仅保留因果流和因果预测头输出目标质量变量的软测量结果,表示为:
83、(27)
84、其中,表示未知工况下目标质量变量的软测量预测值,表示因果预测头。
85、第二方面,本发明提供了一种基于因果残差解耦网络的工业软测量系统,用于实现所述的基于因果残差解耦网络的工业软测量方法,所述基于因果残差解耦网络的工业软测量系统包括:
86、数据采集与预处理模块,用于采集工业过程源域时间序列数据,获取过程变量和目标质量变量,对所述过程变量和目标质量变量进行归一化处理,并按照预设滑动窗口长度构造时序训练样本;
87、因果先验提取模块,用于采用基于偏相关条件独立检验的靶向pcmci算法,以目标质量变量为唯一靶向变量,仅检验各滞后过程变量指向所述目标质量变量的候选因果关系,得到目标导向的时滞因果骨架矩阵;
88、因果先验聚合模块,用于将所述时滞因果骨架矩阵沿滞后维度进行聚合,得到静态空间因果先验向量,并根据所述静态空间因果先验向量确定允许进入因果流的目标相关过程变量;
89、掩码构造模块,用于基于所述静态空间因果先验向量构造因果选择矩阵,并通过克罗内克积生成输入到隐层掩码和隐层到隐层掩码,以在长短期记忆网络的潜在空间中形成块对角结构约束;
90、因果流构建模块,用于构建因果流中的长短期记忆网络,将所述输入到隐层掩码和隐层到隐层掩码施加于长短期记忆网络的门控权重矩阵,以提取目标相关稳定动态特征;
91、残差流构建模块,用于构建残差流中的长短期记忆网络,接收未掩码的原始过程变量,以吸收源域特有残差信息;
92、联合预测与训练模块,用于在训练阶段将因果表示和残差表示拼接并输入联合预测头,同时将因果表示输入因果预测头得到因果辅助预测结果;根据联合预测损失、因果辅助预测损失以及希尔伯特-施密特独立准则解耦损失构建总训练目标,对所述因果流、残差流、联合预测头和因果预测头的参数进行训练;
93、推理模块,用于在未知工况推理阶段去除依赖残差流的联合预测分支,仅保留因果流及其因果预测头输出目标质量变量的软测量结果。
94、本发明有益效果是:
95、1、本发明提供的一种基于因果残差解耦网络的工业软测量方法,用于在单一源域工况数据条件下实现目标质量变量的鲁棒预测。该方法以目标质量变量为靶点,仅搜索滞后过程变量指向目标质量变量的因果关联,避免对全部过程变量之间的因果关系进行全局搜索,从而减少冗余因果连接,降低因果搜索复杂度,并提高所提取因果先验与软测量任务之间的相关性和可解释性。实验结果表明,在t1→t3跨工况预测任务中,本发明方法(tdcrdn)的rmse为7.46e04,r²为0.8253,相较于kpls的9.42e04和0.7220分别降低约20.8%的rmse并提升约10.3个百分点的r²。
96、2、本发明提出一种基于潜在空间块对角约束的时序建模策略,将目标导向因果先验嵌入长短期记忆网络的隐状态传播结构中。该方法通过kronecker积构造输入到隐层掩码和隐层到隐层掩码,对因果流中的门控权重矩阵施加结构约束,从而减少不同变量潜在块之间的信息泄漏,抑制非目标相关扰动信息在隐状态递归传播过程中的混合,提高目标相关动态特征的稳定性。
97、3、本发明构建一种因果流与残差流相结合的双流解耦预测机制。因果流用于提取与目标质量变量相关的稳定动态特征,残差流用于吸收源域工况特有的残差信息,并通过希尔伯特-施密特独立准则解耦损失降低两类表示之间的统计依赖;在未知工况推理阶段去除依赖残差流的联合预测分支,仅保留因果流和因果预测头输出软测量结果,从而降低源域特有扰动信息对未知工况预测的影响,提高工业软测量模型在分布偏移条件下的鲁棒性、泛化能力和工程适用性。
版权声明:本站专利文献数据主要来源于国家知识产权局等公开渠道,由 技术新讯 进行整理汇编。页面设计及数据汇编的著作权归本站所有。全部内容仅供个人学习、科研评估与技术交流参考,严禁用于任何商业用途(包括但不限于直接生产制造、技术转让、倒卖数据等)。
免责条款:专利技术具有时效性,本站不对资料的绝对准确性、完整性和可实施性提供任何明示或暗示的担保。因参考本站内容造成的直接或间接损失,本站不承担相关法律责任。若您认为本站内容有侵权问题,请及时提供权属证明与我们联系,本站将在核实后依法处理。反馈意见:yyfuon@163.com