基于分级知识蒸馏的曲轴内部缺陷检测方法及其检测系统与流程

技术特征：
1.一种基于分级知识蒸馏的曲轴内部缺陷检测方法，其特征在于包括如下步骤：（1）数据采集及处理采集内部无缺陷曲轴和内部缺陷曲轴的激振信号，并对采集的激振信号预处理后时频变换为时频图，并按照8:2的比例将曲轴的时频图为训练数据集和测试数据集；（2）构建并训练教师模型所述教师模型包括依次连接的特征提取层、位置编码层、语义编码层和分类器；所述特征提取层用于提取时频图的高维特征，对特征图进行下采样处理，然后把特征图映射成一维特征向量；所述位置编码层用于对一维特征向量添加一个表征类别的class token生成特征向量，然后对特征向量的每个位置进行编码；所述语义编码层用于提取位置编码层输出的特征向量中的缺陷语义信息；所述分类器用于对缺陷语音信息进行缺陷分类别预测；（3）构建并训练分级知识蒸馏所述分级知识蒸馏包括一级知识蒸馏和二级知识蒸馏，每级知识蒸馏都包括教师网络和学生网络，一级知识蒸馏的教师网络采用步骤（2）训练好的教师模型，一级知识蒸馏的学生网络作为二级知识蒸馏的教师网络；二级知识蒸馏的教师网络和学生网络采用选择参数量小且模型简单的网络，它包括特征提取网络和分类器；一级知识蒸馏和二级知识蒸馏均在中间特征和逻辑输出进行蒸馏，使学生网络的中间特征和逻辑输出不断向教师网络对应部分特征和逻辑输出对齐；一级知识蒸馏和二级知识蒸馏中对特征和逻辑输出联合构建损失函数，逻辑输出蒸馏损失连接有损失函数，且学生网络的分类器连接有交叉熵损失，交叉熵损失与损失函数连接；所述损失函数为，α、β、λ为权重因子，取值范围0~1，l
f
为教师网络和学生网络的特征蒸馏损失，；为重构后学生网络中间特征，，为学生网络的中间特征，为softmax函数，为线性映射函数，f
t
分别教师网络的中间特征，为二次范数；t为蒸馏温度；l
l
为学生网络和教师网络的逻辑输出经过带有温度的softmax函数软化后的kl散度损失，l
c
为学生网络的逻辑输出与真实标签的交叉熵损失。2.根据权利要求1所述的一种基于分级知识蒸馏的曲轴内部缺陷检测方法，其特征在于：步骤（1）中所述预处理是对激振信号先归一化处理后进行滤波。3.根据权利要求1所述的一种基于分级知识蒸馏的曲轴内部缺陷检测方法，其特征在于：步骤（2）中所述特征提取层是由多层残差网络结构堆叠而成。4.根据权利要求1所述的一种基于分级知识蒸馏的曲轴内部缺陷检测方法，其特征在于：步骤（2）中所述语义编码层是指：先对特征向量进行归一化处理，然后进行多头注意力机制，再次归一化处理，最后通过多层感知机输出缺陷的语义信息；所述多头注意力机制用于提取多重语义中的含义，计算模型为；q表示访问向量，k被访问向量，v表示提取的信息，q、k、v均通过特征向量经过线性映射得到的，d
k
表示特征向量的维度，t为转置矩阵。5.根据权利要求1所述的一种基于分级知识蒸馏的曲轴内部缺陷检测方法，其特征在于：步骤（2）中所述训练教师模型是采用梯度下降方法和adam优化算法训练。6.根据权利要求1所述的一种基于分级知识蒸馏的曲轴内部缺陷检测方法，其特征在于：步骤（3）使用adam参数优化算法和误差反向传播方法来最小化损失函数，得到最优化网络参数。7.一种基于分级知识蒸馏的曲轴内部缺陷检测系统，其特征在于：包括激振信号采集装置、缺陷检测装置、传送装置、缺陷曲轴剔除装置和无缺陷曲轴收纳装置；所述传送装置用于传输曲轴，在所述传送装置的前端安装激振信号采集装置，传送装置的中部安装缺陷曲轴剔除装置，传送装置的末端安装无缺陷曲轴收纳装置；所述激振信号采集装置包括用于激发曲轴产生激振信号的激发器、用于采集激振信号的传感器、以及于传感器连接的数据采集卡，数据采集卡与缺陷检测装置连接，将传感器采集的激振信号通过数据采集卡发送给缺陷检测装置；所述缺陷检测装置内加载有权利要求1至7任一权利要求所述的基于分级知识蒸馏的曲轴内部缺陷检测方法，采集激振信号预处理后时频转换为时频图，再通过最终分级知识蒸馏进行内部缺陷识别；所述缺陷检测装置还与缺陷曲轴剔除装置连接，当检测内部缺陷的曲轴时，控制缺陷曲轴剔除装置工作；所述无缺陷曲轴收纳装置用于收纳无缺陷曲轴。

技术总结
本发明属于曲轴内部缺陷检测技术领域，本发明公开了一种基于分级知识蒸馏的曲轴内部缺陷检测方法及其检测系统，该方法包括（1）数据采集及处理；（2）构建并训练教师模型；（3）构建并训练分级知识蒸馏，以训练好的教师模型作为一级知识蒸馏的教师网络，一级知识蒸馏的学生网络作为二级知识蒸馏的教师网络；保证学生网络和教师网络的蒸馏匹配度，分别从中间特征和逻辑输出进行蒸馏，使学生网络的中间特征和逻辑输出不断向教师网络对应部分的特征和逻辑输出对齐，并对特征和逻辑输出联合构建损失函数，本发明采用的教师网络和学生网络灵活多变，从多个角度构造的损失函数增强了知识蒸馏的强度，弥补了创新性不足的问题。弥补了创新性不足的问题。弥补了创新性不足的问题。


技术研发人员：谢罗峰 卢后洪 殷鸣 殷国富 刘建华 杨扬 赖光勇 杨敏 余雅彬
受保护的技术使用者：四川飞亚动力科技股份有限公司
技术研发日：2023.02.10
技术公布日：2023/3/10