基于门控多专家混合堆叠自编码器的产品质量预测方法

技术特征：
1.一种基于门控多专家混合堆叠自编码器的产品质量预测方法，其特征在于，该方法包括以下步骤：步骤一：收集工业过程的传感器数据与产品质量数据，得到建模用的训练数据集其中，x代表输入样本，y代表样本标签，m表示有标签样本个数；步骤二：构建用于产品质量预测的门控多专家混合堆叠自编码器模型，利用步骤一中的训练数据集对门控多专家混合堆叠自编码器模型进行训练；所述门控多专家混合堆叠自编码器模型包括多个专家子网和一个门控结构，每个专家子网均包括一个堆叠自编码器结构，所述门控结构用于收集输入数据信息与多个专家子网最后一层隐藏层信息，并计算得到对应专家子网输出结果的权重，最后利用权重和输出值进行加权融合计算得到模型的总体预测结果；步骤三：采集工业现场工作数据，并输入训练后的门控多专家混合堆叠自编码器模型，输出对应的产品质量预测结果。2.根据权利要求1所述的基于门控多专家混合堆叠自编码器的产品质量预测方法，其特征在于，所述步骤二具体分为如下的子步骤：(2.1)构建用于每个专家子网的堆叠自编码器结构；所述堆叠自编码器结构包含多层编码器和多层解码器，堆叠自编码器每层的输出是对输入的重构；对单层的自编码器，计算公式如下：计算公式如下：其中，为编码器函数，为解码器函数，x代表输入的数据集，h代表编码器的输出同时为解码器的输入，x％为解码器的输出；w
(e)
,w
(d)
为编码器和解码器的权重系数矩阵，b
(e)
,b
(d)
为编码器和解码器的偏差系数矩阵；对于堆叠自编码器结构，上一层编码器的输出作为下一层编码器的输入，其计算公式如下：其中，l代表隐藏层的层数，和为对应隐藏层的权重系数矩阵和偏差系数矩阵；对于单个专家子网，基于其最后一层隐藏层结果的专家子网输出结果的计算公式如下：其中，为第r个的专家子网的输出，w
reg,r
和b
reg,r
为对应隐藏层的权重系数矩阵和偏差系数矩阵；f
reg,r
为回归器函数；h
r,l
为第r个的专家子网的最后一层隐藏层；(2.2)对于多个专家子网结构，门控结构收集输入数据信息与多个专家子网最后一层隐藏层信息，计算对应专家子网输出结果的权重：[w
e,1
,w
e,2
,...,w
e,r
]＝softmax(gate(x,h
1,l
,h
2,l
,...,h
r,l
))
ꢀꢀꢀꢀꢀ
(5)
其中，r为专家子网的总数量；利用权重和输出值进行加权融合：其中，w
e,r
为专家子网的输出值权重，为专家子网的输出值；(2.3)采用步骤一构建的训练数据集，采用随机梯度下降算法对所述门控多专家混合堆叠自编码器模型进行训练，其模型训练损失函数定义为对输入的重构误差，重构误差由下式所示：下式所示：下式所示：其中，w
s
与w
a
分别为对应的mse与mae的权重值，n表示样本的总量；y
i
代表第个有标签输入样本，代表堆叠自编码器对它的重构。

技术总结
本发明公开了一种基于门控多专家混合堆叠自编码器的产品质量预测方法，该方法首先使用多专家混合的设计，由多个专家子网结构接收输入数据。对于每一个专家子网中构建了基于堆叠自编码器的网络结构。之后，对于多专家子网结构的底层利用门控结构作为顶层设计，通过输入信息和数据信息进行权重计算，实现对多专家子网输出结果的加权融合。进一步，利用有标签数据样本集训练基于门控多专家混合堆叠自编码器的产品质量预测模型。模型在应对所预测的系统工况动态变化的过程中，能够实时性地对专家子网权重值进行调整，提高模型的自适应能力，使得模型在对产品质量预测上的预测效果有显著的提升。显著的提升。显著的提升。


技术研发人员：张新民 朱泓宇 赵丽丽 何柏村
受保护的技术使用者：浙江大学
技术研发日：2022.08.18
技术公布日：2022/11/22