一种融合格兰杰因果与频域特征的工业时间序列预测方法

本发明涉及一种融合格兰杰因果与频域特征的工业时间序列预测方法，属于工业过程参数预测与中药智能制造。

背景技术：

1、中药提取是中成药生产的首道核心工序，提取罐内料液温度直接决定有效成分的溶出程度与热敏成分的保留水平。以金银花提取为例，其有效成分包括绿原酸、木犀草苷等，此类成分对温度较为敏感：温度升高时，绿原酸等成分会因受热而分解并失去活性；温度过低时，溶剂对药材的渗透能力下降，有效成分难以充分萃取。因此，若能提前预知罐内料液温度的变化趋势，便可指导操作人员及时调节蒸汽阀门，保障提取工艺的稳定运行。

2、金银花提取工艺按投料、注水、升温、保温提取、出液排渣的顺序循环运行，一次完整提取包含多个工艺阶段，各阶段温度曲线的水平与波动形态差异显著。车间内通常多个提取罐并行作业，管线密布，传感器与阀门数量众多。罐内温度受蒸汽调节阀开度、上下夹套蒸汽通断、溶媒进料、冷却循环水投运等数十个上下游变量的共同影响，其中既有连续型物理量，也有仅取0与1两种状态的布尔型阀门信号。变量之间存在明显的非线性耦合与滞后效应，加之设备传热惯性、阀门调节延迟与测量噪声，罐内料液温度呈现出强烈的非平稳性。传统的物理传感器监控配合人工调节或简单pid控制，在此类工况下响应滞后、精度不足，难以满足精细化生产的要求。

3、早期应用于工业参数预测的深度学习方法以循环神经网络及其变体为主。比如作为变体之一的长短期记忆网络通过门控机制缓解了长序列训练中的梯度消失问题，双向结构进一步兼顾了序列前后两个方向的信息。然而此类网络依靠逐时间步递归传递信息，难以高效并行，在长序列上存在误差累积；尤其当温度发生快速变化时，递归结构的信息传递方式会使预测曲线出现明显滞后，自注意力机制的引入改变了这一格局，后续众多研究从不同角度优化自注意力长时序建模效率：informer采用probsparse稀疏注意力降低长序列的计算开销；patchtst将序列划分为若干片段并以片段为单位计算注意力，在缩小注意力矩阵规模的同时保留了局部时序细节；itransformer将输入张量在变量维度上倒置，把每个变量的整条序列视为一个独立标记，从而在变量维度上建模耦合关系；frets通过离散傅里叶变换将信号转入频域，对频率分量的实部与虚部分别映射；timemixer通过多尺度降采样在不同时间分辨率上分别建模趋势与季节分量。

4、针对片段间幅值差异对注意力建模的干扰（即注意力机制优先匹配“数值大小接近”的片段，但各片段整体基线高低不一样，因此会出现偏差），如pmdformer模型提出了分块均值解耦方法，该方法指出，非平稳序列中各片段的绝对水平差异悬殊，直接计算注意力时水平差异会掩盖片段真实的形状相似性，使注意力偏向水平接近而非形态接近的片段；而已有的片段级归一化在减去均值的同时还除以标准差，会压缩片段的原始幅值并破坏其固有形状。为此该方法仅减去片段均值而保留幅值，将片段分离为承载趋势的均值分量与承载局部形态的残差分量，并配合趋势恢复注意力将均值经由值重新注入，以及近端变量注意力将跨变量建模限制在距离预测时刻最近的片段上。

5、虽然分块均值解耦思路一定程度上解决了片段间幅值差异的干扰问题，但将该方案应用于中药提取工艺的温度预测场景时，仍存在以下两方面不足。

6、其一，此类方法完全在时域内建模。提取工艺的升温与保温阶段由蒸汽阀的通断控制，温度序列中蕴含由该控制节奏决定的周期性成分与多频特征。纯时域的注意力需要通过多层堆叠间接拟合这些周期规律，对周期成分的表达不够直接，在多步预测中容易产生误差累积。

7、其二，此类方法在变量维度上的注意力权重完全由数据相似度计算得到，未引入关于变量间实际驱动关系的先验约束。提取过程属于复杂的物理与热力学过程，温度、压力、流量等变量之间存在方向性的驱动关系，而现有多数自注意力模型在处理多变量输入时未充分考虑这种因果影响及其在时间维度上的持续作用。在提取工艺数据中，五十余个变量里有相当比例为阀门开关信号，此类信号在长时间内保持恒定，单纯依靠数据相似度容易将统计上偶然相关而物理上并无驱动关系的变量对赋予较高权重。

技术实现思路

1、为了解决现有技术存在的问题，进一步提高中药提取工艺的温度预测精度，本发明提出了一种融合格兰杰因果与频域特征的工业时间序列预测方法，一方面，以格兰杰因果检验预先量化变量间的时序驱动关系，作为先验知识注入跨变量注意力，另一方面将频域支路的引出位置设置于片段切分完成之后、均值解耦之前，使傅里叶变换作用于保留完整幅值信息的原始片段，其幅值谱能够同时反映片段的绝对水平与波动强度，通过这种旁路式的融合方式使频域信息在网络的特征通路中形成显式表示；将上述两方面的改进与分块均值解耦、趋势恢复注意力等机制相结合，提高了针对中药提取工艺的温度预测精度，为提取工艺的稳定运行与产品质量一致性提供了支撑。

2、发明人此前申请的一项专利中针对金银花三效浓缩工艺提出了caudformer模型（公开号为cn121010047a的中国发明专利），该模型采用itransformer的变量维度建模结构，依据工艺流程与专家经验将变量按物理因果链条顺序排列，并在变量维度的自注意力中施加下三角因果掩码，使每个变量只能关注排序在其之前的变量；同时以实数快速傅里叶变换构造频域辅助损失项，与时域重建损失按自适应权重组合。该方法在浓缩参数预测上取得了良好效果，但其因果结构依赖专家经验的人工排序，在变量数目达到数十个且物理链条并不完全清晰的提取工序中难以直接构建；此外其因果约束采用掩码形式的硬性屏蔽，一经设定即不可调整；而且其频域信息仅作用于损失函数，未在网络的特征通路中形成显式表示。

3、格兰杰因果检验作为一种数据驱动的因果强度度量方式，已被引入工业时间序列异常检测领域，如gcad（grangercausalitybased multivariate timeseries anomalydetection）模型依据深度预测器的梯度在网络内部逐步动态构建因果图并结合稀疏化策略识别显著因果关系。但该类方法是面向异常检测任务，无法直接迁移适配工业时间序列预测任务：一方面，异常检测侧重实时甄别工况偏离状态，其因果图为动态推理生成、随工况实时迭代更新，无固定稳态结构，难以转化为时序预测模型可复用、可固化的静态物理先验知识；另一方面，该类方法仅能量化变量间独立的二元因果强弱关系，并未建立因果强度与模型特征建模的联动机制，无法将挖掘到的真实因果规律转化为可调节的软性权重，难以嵌入多变量时序预测的跨变量注意力建模流程中，无法从根本上解决现有预测模型忽略物理因果、依赖虚假数据关联建模的核心问题。

4、本发明的第一个目的在于提供一种融合格兰杰因果与频域特征的工业时间序列预测方法，所述方法应用于中药提取过程中提取罐内温度的多步预测，所述方法包括：

5、步骤一，采集中药提取过程中各提取罐的历史参数构建工业时间序列数据集；

6、步骤二，针对各提取罐的历史参数组成的多变量序列作差分处理，对差分后的序列逐对执行格兰杰因果检验，将所得检验统计量作为对应变量对的因果强度权重，据此构建变量间的格兰杰因果矩阵；

7、步骤三，基于步骤二构建得到的格兰杰因果矩阵构建融合格兰杰因果与频域特征的工业时间序列预测模型，所述模型将输入序列切分为若干不重叠的时间片段后，一方面沿片段内时间维度施加快速傅里叶变换以提取频域特征；另一方面将输入序列解耦为趋势分量与形状分量，对所述形状分量的末位片段在变量维度上进行自注意力建模，其注意力权重由步骤二构建的格兰杰因果矩阵以乘性门控方式调制，再将所述趋势分量经值路径重新注入片段维度进行趋势恢复注意力运算，并将运算结果和所述趋势分量再次融合后沿片段维度展平得到时域特征；最终将时域特征与频域特征以可学习标量门控相加融合后投影输出；

8、步骤四，利用步骤一的数据集对步骤三构建的预测模型进行训练，并利用训练好的模型完成对提取罐罐内温度的多步预测。

9、可选的，所述步骤二中格兰杰因果矩阵的构建过程包括：

10、对多变量序列作一阶差分；

11、对任意有序变量对(i,j)，当变量i或变量j的差分序列标准差为零时跳过该变量对并置零；否则以变量j为原因、变量i为结果，在最大滞后阶数下逐阶执行格兰杰因果检验，得到各滞后阶的f统计量与相应的p值；

12、取各滞后阶中最小的p值作为显著性判据，仅当其小于显著性水平0.05时保留该有序变量对的因果关系，并取各滞后阶中最大的f统计量作为其因果强度，否则置零，得到格兰杰因果矩阵的各元素：

13、

14、随后以矩阵中的最大元素作归一化，使得各元素取值于[0,1]，得到归一化后的格兰杰因果矩阵：

15、

16、其中，表示格兰杰因果矩阵的第i行第j列元素。

17、可选的，所述步骤三构建得到的融合格兰杰因果与频域特征的工业时间序列预测模型包括分块与均值解耦模块、频域特征提取支路模块、格兰杰因果引导的近端变量注意力模块、趋势恢复注意力模块与门控融合投影输出模块；

18、其中，所述分块与均值解耦模块用于将输入序列切分为若干不重叠的时间片段，计算均值，并解耦为趋势分量与形状分量；所述频域特征提取支路模块用于根据切分得到原始片段沿片段内时间维度施加快速傅里叶变换以提取频域特征；所述格兰杰因果引导的近端变量注意力模块用于根据所构建的格兰杰因果矩阵对形状分量的末位片段进行自注意力建模；所述趋势恢复注意力模块用于对每个变量的片段序列沿片段维度施加参数共享的注意力运算，在格兰杰因果引导的近端变量注意力模块输出的基础上进行趋势恢复注意力运算，进而和趋势分量再次融合后得到时域特征；所述门控融合投影输出模块用于将时域特征和频域特征进行门控相加融合后线性投影输出。

19、可选的，所述步骤三中分块与均值解耦模块对输入序列进行切分与解耦之前，先沿时间维度对输入序列作可逆实例归一化：

20、

21、其中代表归一化后的数据，代表原始数据，与分别代表沿时间维度计算的均值与方差，为保证数值稳定的极小正数；

22、随后将归一化后的输入序列以片段长度s与步长s切分为n个互不重叠的时间片段，片段数为：

23、

24、l为输入序列长度；

25、对第i个变量的第j个片段，计算其均值作为趋势分量，并与其均值作差得到形状分量：

26、

27、

28、其中，表示长度为s的全一向量，表示第i个变量的第j个片段中第k个数据点；

29、形状分量经共享线性投影嵌入至d维并叠加可学习的片段位置编码得到d维嵌入表示：

30、

31、其中、分别为共享嵌入权重和线性投影层偏置，为第j个片段的可学习片段位置编码。

32、可选的，所述频域特征提取支路模块的引出位置位于片段切分完成之后、均值解耦之前，其输入为未经去均值处理的原始片段；

33、对每个原始片段沿片段内时间维度施加实数快速傅里叶变换并取其幅值谱：

34、

35、经线性层投影至维度，再沿片段维度取算术平均完成聚合，得到频域特征：

36、

37、其中、为频域分支线性层可学习权重和偏置向量。

38、可选的，所述格兰杰因果引导的近端变量注意力模块根据所构建的格兰杰因果矩阵对形状分量的末位片段进行自注意力建模，包括：

39、取全部c个变量的末位片段的d维嵌入表示得到，以变量维度c作为注意力的序列维度，使注意力权重矩阵的形状与格兰杰因果矩阵的形状均为cc，从而实现二者的维度对齐；

40、按多头缩放点积方式计算注意力权重并施加随机失活，得到注意力权重矩阵a：

41、

42、其中，为每个注意力头的维度，t表示转置；

43、以格兰杰因果矩阵构造乘性门控矩阵，对上述注意力权重矩阵逐元素调制后按行重新归一化得到归一化后的权重矩阵：

44、

45、

46、其中为可学习的因果强度系数，初始值设为0.1；为防止除零的极小正数；当时，该模块退化为标准自注意力；

47、所述格兰杰因果引导的近端变量注意力模块的输出依次经带随机失活的残差连接、层归一化与前馈网络处理；

48、经处理后的末位片段与其余片段沿片段维度拼接，恢复完整片段序列。

49、可选的，所述趋势恢复注意力模块对每个变量的片段序列沿片段维度施加参数共享的注意力运算，在格兰杰因果引导的近端变量注意力模块输出的基础上进行趋势恢复注意力运算，进而和趋势分量再次融合后得到时域特征，包括：

50、对每个变量的片段序列沿片段维度独立施加参数共享的注意力运算，其查询与键仅由形状嵌入线性投影得到，而值在其投影结果上叠加对应的片段均值，实现趋势的重新注入；

51、所述趋势恢复注意力模块的输出同样依次经带随机失活的残差连接、层归一化与前馈网络处理，得到趋势恢复后的片段序列；

52、将片段均值再次叠加至趋势恢复后的片段序列并沿片段维度展平得到时域特征。

53、可选的，所述门控融合投影输出模块将时域特征和频域特征进行门控相加融合后线性投影输出，包括：

54、将时域特征与频域特征以可学习标量门控相加融合，经线性层映射至预测步长，得到预测结果向量：

55、

56、

57、其中，为可学习的频域融合门控系数，为门控融合投影输出模块中线性投影层的可学习权重矩阵，为该线性投影层的可学习偏置向量。

58、可选的，所述模型训练采用均方误差作为损失函数：

59、

60、其中，和分别表示真实值，预测值和样本量。

61、本发明的第二个目的在于提供一种中药提取过程控制方法，所述方法采用上述工业时间序列预测方法对中药提取过程中提取罐内温度实现多步预测，进而进行相应的变量调控。

62、本发明有益效果是：

63、考虑提取工艺的升温与保温阶段由蒸汽阀通断控制，温度序列中蕴含由该控制节奏决定的周期性成分，传统纯时域注意力模型仅能依靠网络多层结构堆叠，间接拟合时序数据中的周期特性，建模方式具有较强的间接性，建模效率较低，且在多步预测任务中易产生误差累积问题。本发明设计了频域特征提取支路模块，并对该支路的嵌入位置、特征融合方式进行针对性优化。本发明将频域变换支路的引出位置设置于片段切分完成之后、均值解耦之前，使傅里叶变换直接作用于保留完整幅值信息的原始时序片段。基于该结构设计，频域幅值谱可同步表征时序片段的绝对幅值基线与局部波动特征，有效避免了先执行去均值操作再开展频域变换所导致的零频分量消失、片段基线特征丢失的问题。在此基础上，本发明采用旁路特征融合架构，频域特征经投影、聚合处理后，不参与网络中间层的注意力计算流程，仅在模型输出端通过可学习标量门控与时域特征完成自适应融合。相较于现有仅将频域误差作为辅助损失函数实现隐性约束的技术方案，本发明可完成频域特征的显性建模，使时序数据的周期性、多频特征直接参与预测结果的生成，有效提升模型对工艺固有周期规律的拟合能力。同时，该旁路融合架构可完整保留时域分支的均值解耦与趋势恢复机制，避免频域噪声在多层注意力中被逐层放大。除此之外，本发明对频域门控系数采用小初始值初始化策略，通过模型迭代训练自适应更新参数，在有效引入频域先验特征、优化建模效果的前提下，充分保障网络训练过程的稳定性与收敛性能。

64、本发明还提出将格兰杰因果引入工业时间序列预测的思路，设计了格兰杰因果引导的近端变量注意力模块。考虑提取工艺涉及五十余个过程变量，仅凭数据相似度计算的注意力权重容易将统计上偶然相关而物理上并无驱动关系的变量对赋予较高权重。本发明以格兰杰因果检验预先量化变量间的时序驱动关系，作为先验知识注入跨变量注意力。而且在因果强度的度量上，本发明创造性选用f统计量完成变量因果强度的精细化量化，从而表征提取工艺变量间因果强弱差异悬殊的特点：提取罐温度主要受蒸汽调节阀开度、蒸汽压力等变量的直接物理驱动，此类变量对温度变化具有明确且持续的因果作用，理应在跨变量注意力中获得较高权重；而工艺步号、部分阀门开关信号等变量仅因工艺阶段同步切换而与温度存在统计意义上的显著相关，其驱动作用相对间接或微弱。若以传统采用的p值度量因果强度，二者在通过0.05显著性检验后，p值本身会同时被压缩至同一狭窄区间，难以反映蒸汽阀开度等直接驱动变量与工艺步号等间接相关变量之间因果强弱的实质差异，导致乘性门控矩阵对二者的调制幅度趋同、失去区分能力；而f统计量则能在弱因果与强因果之间保持数量级上的差异，使蒸汽阀开度、蒸汽压力等强驱动变量获得的门控强度显著高于工艺步号等弱驱动变量，使门控矩阵具备与提取工艺实际驱动关系相符的调制能力。同时对差分序列标准差为零的常值通道予以跳过，本技术方案这一设定针对的正是提取数据中大量阀门信号在长时间内保持恒定的特点，提升了因果矩阵在此类工业数据上的鲁棒性。在因果先验的注入方式上，本发明采用softmax之后的乘性门控并按行重新归一化。与依据专家经验对变量排序、再以掩码方式硬性屏蔽部分注意力的做法相比，本发明的因果强度由统计检验从数据中自动获得，无需人工梳理物理链条，在变量数目众多、驱动关系并不完全清晰的场景中更易实施；其调制作用是连续可调的加权而非二元的屏蔽，弱因果关系仍保留参与建模的机会。可学习的因果强度系数使模型能够根据数据自适应地决定先验的介入程度，当因果关系不显著时该系数趋于零，模块自动退化为标准自注意力，保证了方法在不同工况与不同罐体上的适用性。

65、本发明将上述两项改进与分块均值解耦、趋势恢复注意力等机制相结合。格兰杰因果矩阵的形状由变量个数确定，而近端变量注意力恰以变量维度作为其注意力的序列维度，二者形状天然对齐，因果先验得以直接注入而无需插值或投影；相较之下，片段维度上的注意力其权重矩阵形状由片段数确定，与因果矩阵无法对应。这一维度对齐关系决定了因果先验的注入位置。此外，因果矩阵在训练前一次性离线计算并以固定缓冲区形式加载，不参与梯度更新，相比在网络内部动态构建因果图的方案未增加训练开销。

66、在金银花提取工艺九个提取罐的真实数据集上，本发明所述方法在全部九个数据集的均方误差、平均绝对误差与决定系数三项指标上，均优于patchtst、informer、transformer、frets、timemixer五个对比模型中的最优结果。其中相对patchtst的均方误差平均降低27.99%、平均绝对误差平均降低33.30%；相对transformer分别降低49.38%与62.65%；相对timemixer分别降低29.48%与39.76%；相对frets分别降低28.50%与36.08%。可以看出，本方法在平均绝对误差上的改进幅度较均方误差更为显著，表明其对多数时刻逐点预测偏差的控制更为稳定。本发明克服了现有分块式预测模型在周期成分表达不充分、跨变量依赖缺乏先验约束两方面的不足，提高了工业过程关键参数的监控与软测量能力，为提取工艺的稳定运行与产品质量一致性提供了支撑。