基于因果时序图注意力网络的复杂产品质量预测方法

本技术涉及产品质量预测，特别是涉及一种基于因果时序图注意力网络的复杂产品质量预测方法。

背景技术：

1、在现代工业生产过程中，质量监测与控制对于制造企业至关重要。准确的质量预测技术能够确保工业过程安全、稳定和高效运行。随着物联网的快速发展和数据处理技术的进步，基于数据驱动的质量预测方法通过分析大量的工业过程数据，无需依赖先验物理和数学知识即可完成质量预测，其中深度学习能够快速处理海量数据、自适应地过滤隐藏特征和提取复杂模式，大大提高了训练效率和鲁棒性，因此得到了广泛应用。

2、然而，当前基于深度学习的质量预测方法主要聚焦于仅生产一种产品、加工方式固定的装配线。随着产品制造业的发展，同一装配线中可能有多种产品以不同的形式进行加工，即使是相同类型的产品也可能因为灵活调度从而经过不同的工位，现有方法大多忽略了多种产品与复杂加工形式带来的变化。与此同时，存在多工位对同一产品进行并行加工、跨工位加工的复杂情况，这使得各工位之间的依赖关系复杂且耦合性强，这种潜在复杂关系会显著影响产品的质量变化，多数现有方法没有考虑各工位之间的时空交互关系，进而制约了模型的精度与鲁棒性。

3、因此，如何全面、准确地考虑多耦合复杂过程数据中的时空交互信息，实现复杂产品的高效质量预测，是本领域亟需解决的技术问题。

技术实现思路

1、本技术的目的是提供一种基于因果时序图注意力网络的复杂产品质量预测方法，可全面、准确地考虑复杂产品制造过程中各加工站点之间的空间交互信息和时间交互信息，提高产品质量预测的准确性和鲁棒性。

2、为实现上述目的，本技术提供了如下方案：

3、一种基于因果时序图注意力网络的复杂产品质量预测方法，包括以下步骤：

4、获取待测产品的加工特征数据集与产品工艺流程知识。加工特征数据集包括待测产品在各加工站点的工艺参数和/或测量参数；产品工艺流程知识包括待测产品的产品属性以及待测产品在生产加工过程中的加工形式信息。

5、对加工特征数据集进行预处理，并将产品工艺流程知识转化为加工过程信息集。

6、将预处理后的加工特征数据集和加工过程信息集输入至预先训练好的质量预测模型，得到产品质量预测结果。质量预测模型包括质量特征图结构编码模块、时空特征挖掘模块和注意力融合解码模块；质量特征图结构编码模块用于根据预处理后的加工特征数据集和加工过程信息集，构建得到图结构数据；时空特征挖掘模块用于利用虚拟节点图注意力网络提取图结构数据的空间交互信息，得到各加工站点的空间特征和虚拟节点特征，并根据加工过程信息集和掩码矩阵对空间特征进行时间维度的筛选与排序后，利用因果掩码时间注意力网络，提取得到各有效加工站点之间的时序特征；注意力融合解码模块用于以虚拟节点特征作为查询矩阵，以时序特征作为键矩阵和值矩阵进行注意力融合，得到融合特征，并对融合特征进行解码，得到产品质量预测结果。

7、可选地，质量预测模型的训练过程包括：

8、获取历史样本集；历史样本集包括若干组标注有真实质量参数的加工特征数据集及对应的产品工艺流程知识。

9、对历史样本集进行预处理，并将对应的产品工艺流程知识转化为加工过程信息集。

10、将预处理后的历史样本输入至质量预测模型中，并根据质量预测模型的输出与真实质量参数计算损失值；损失值为交叉熵损失、焦点损失或均方误差损失。

11、根据损失值通过反向传播算法更新质量特征图结构编码模块、时空特征挖掘模块和注意力融合解码模块的参数。

12、重复上述模型训练过程直至模型收敛。

13、可选地，对历史样本集进行预处理，包括以下至少一种：

14、对历史样本集进行样本均衡重采样处理，并将历史样本集划分为训练集、验证集和测试集。

15、根据预设阈值对所述训练集中的各输入特征进行异常值检测并剔除异常值。

16、统计所述训练集中各输入特征的空缺值，并根据空缺值数量与产品总数的比例关系，采用均值填充或基于机器学习回归模型的预测填充方式对空缺值进行填充。

17、对训练集中的数据进行标准化处理，并将训练集预处理过程中的参数应用于验证集和测试集的预处理过程。

18、可选地，质量特征图结构编码模块包括加工嵌入池单元和先验知识分析单元。

19、加工嵌入池单元，用于将加工特征数据集按照加工站点划分为对应的特征子集，并利用与各加工站点对应的编码单元分别对各特征子集进行编码，得到各加工站点的站点特征；其中，各站点特征具有统一的特征维度。

20、先验知识分析单元，用于：根据加工过程信息集计算各加工站点之间的相关性；根据相关性确定各加工站点之间的依赖关系，生成邻接矩阵；根据加工过程信息集中各产品经过的加工站点生成掩码矩阵；根据各站点特征、邻接矩阵和掩码矩阵，构建掩码有向图作为图结构数据，图结构数据的节点与加工站点一一对应。

21、可选地，各加工站点对应的编码单元为前馈神经网络、卷积神经网络或循环神经网络。加工嵌入池单元表示为：

22、

23、其中，为加工站点总数，为第个加工站点，为加工站点对应的编码单元，编码过程表示为：

24、

25、其中，为属于加工站点的全部原始特征，为编码后的站点特征。

26、可选地，虚拟节点图注意力网络包括多层gatv2网络层，每层gatv2网络层中设置有一个虚拟节点；利用虚拟节点图注意力网络提取图结构数据的空间交互信息，得到各加工站点的空间特征和虚拟节点特征，具体包括以下步骤：

27、将图结构数据输入虚拟节点图注意力网络，通过各层gatv2网络层中的多头注意力机制计算各加工站点之间的注意力权重。

28、利用正向gatv2网络和反向gatv2网络分别提取前向加工信息和后向加工信息，并将前向加工信息和后向加工信息进行融合，得到各加工站点的空间特征。

29、通过虚拟节点聚合各加工站点的有效节点信息，得到虚拟节点特征。

30、可选地，注意力权重如下式所示：

31、

32、其中，，为可训练的权重矩阵，和分别为第层中节点和节点的特征，为节点的邻域节点集合，||表示向量拼接操作。

33、虚拟节点特征如下式所示：

34、

35、

36、其中，为第l层虚拟节点的特征，，为有效节点集，对于产品

i，，m为掩码矩阵，为第层中节点的特征，为可训练的权重矩阵，为激活函数。

37、可选地，根据加工过程信息集和掩码矩阵对空间特征进行时间维度的筛选与排序后，利用因果掩码时间注意力网络，提取得到各有效加工站点之间的时序特征，具体包括以下步骤：

38、根据加工过程信息集和掩码矩阵，从各加工站点的空间特征中筛选出有效站点的空间特征，并按加工时间进行正向与反向排序，得到排序后的有效站点特征正向与反向序列。在排序时，若存在加工时间相同的空间特征则取均值合并。

39、对有效站点特征正向与反向序列进行填充操作，使所有产品的有效站点特征正向与反向序列长度统一为预设长度。

40、将填充后的有效站点特征正向与反向序列输入至因果掩码时间注意力网络中，将最后一层局部窗口的正向与反向输出合并后作为时序特征。因果掩码时间注意力网络由多层非重叠的局部窗口组成，各层局部窗口的窗口宽度逐层递增，在各层局部窗口内执行覆盖站点之间的多头自注意力机制计算；多头自注意力机制中的注意力计算采用因果掩码矩阵进行选择性表达。

41、可选地，因果掩码时间注意力网络中每层局部窗口内的多头自注意力机制计算如下式所示：

42、

43、

44、其中，为局部窗口x覆盖的站点特征，为局部窗口的长度，为注意力头的数量，，，，，，为可学习的参数；因果掩码矩阵为下三角矩阵，因果掩码矩阵中上三角位置的元素值为负无穷，下三角及对角线位置的元素值为0，通过因果掩码矩阵与窗口注意力矩阵求和，注意力计算仅关注当前站点之前的站点信息。

45、可选地，以虚拟节点特征作为查询矩阵，以时序特征作为键矩阵和值矩阵进行注意力融合，得到融合特征，并对融合特征进行解码，得到产品质量预测结果，具体包括以下步骤：

46、将虚拟节点特征经查询权重矩阵映射后作为查询矩阵，将时序特征经键权重矩阵和值权重矩阵分别映射后作为键矩阵和值矩阵，根据下式执行注意力计算：

47、

48、其中，为最后一层虚拟节点图注意力网络输出的虚拟节点特征，为时序特征，、、为可学习的权重矩阵，为融合特征。

49、将融合特征输入终处理模块，根据预测任务类型选择对应的输出网络，得到产品质量预测结果。

50、根据本技术提供的具体实施例，本技术公开了以下技术效果：

51、本技术提供了一种基于因果时序图注意力网络的复杂产品质量预测方法，在该方法中，首先通过获取待测产品在各加工站点的工艺参数和/或测量参数以及产品工艺流程知识，并对其进行预处理和知识转化，以充分利用工业生产过程中易于采集的加工数据与工艺流程先验知识；继而将处理后的数据输入预先训练好的质量预测模型，该模型首先通过质量特征图结构编码模块基于加工过程信息构建规格统一的图结构数据，从而将多耦合、异构的复杂制造过程准确表征为可计算的图结构，解决了多产品、多形式加工条件下数据异质性强、难以统一建模的问题；在此基础上，由时空特征挖掘模块中虚拟节点图注意力网络通过引入虚拟节点机制，对各产品实际经过的有效站点进行并行化自适应聚合，在提取各站点间复杂空间交互信息的同时显著提升计算效率，再由因果掩码时间注意力网络按照加工时序筛选、排序并提取各有效站点间的多尺度时间依赖关系，有效保障了时序建模的因果性与保序性，从而突破了对过程状态表征能力不足的技术瓶颈；最后通过注意力融合解码模块以虚拟节点特征为查询、时序特征为键值进行注意力融合，使模型聚焦于与质量强相关的关键时空特征，实现精准解码预测，综合提升了复杂制造场景下产品质量预测的准确性、鲁棒性与计算效率。