一种车辆发动机故障声学诊断方法及系统与流程

1.本发明涉及发动机故障检测技术领域，尤其涉及一种基于transformer神经网络的车辆发动机故障声学诊断方法及系统。


背景技术：

2.在现有的汽车发动机故障检测方法中，一般采用以人工经验听诊法和声音辅助诊断法为主的诊断方法来实现。由于其中需要依赖人工经验诊断，其主观性很强，容易造成误判现象；而简单地对发动机拆机来进行故障排查，往往耗时巨大且不一定能精准找出故障来源。
3.现在也出现了一些自主式声音辅助诊断法，其往往利用手动提取的特征直接进行故障分析，且采用的进行故障分类的神经网络架构一般是bp神经网络。但其也存在一些不足之处，限于bp神经网络的网络规模较小，且无法有效利用特征的时序依赖关系，故其识别精度往往较差，后期维修需要重新故障判定，准确率低。所以，如何提供一种基于客观事实的汽车发动机故障自动诊断方法变成了亟待解决的问题。


技术实现要素：

4.本发明所要解决的技术问题在于，提供一种车辆发动机故障声学诊断方法及系统，可以简单、快速、可靠地判定汽车发动机相应的故障，以及时进行排除，提高行车的安全性。
5.为解决上述技术问题，作为本发明的一方面，提供一种车辆发动机故障声学诊断方法，其包括如下步骤：
6.步骤s10，在车辆启动后，周期性收集所述车辆发动机的近场声音信号；
7.步骤s11，对所收集的声音信号进行声音频谱特征提取，形成时频二维声谱图；
8.步骤s12，将所述时频二维声谱图输入一已训练好的transformer神经网络中，获得预测结果，所述预测结果包括：所述车辆的发动机是否存在故障，以及相应的故障类别、故障位置；
9.步骤s13，在所述预测结果为存在故障时，输出所述故障对应的故障类别以及故障位置信息。
10.其中，所述步骤s11进一步包括：
11.对音频信号进行分帧加窗处理；
12.将分帧加窗处理后的信号进行快速傅里叶变换处理得到各帧的频谱，并对频谱取模平方计算得到信号的离散功率谱；
13.将功率谱信号输入梅尔滤波器组进行滤波处理，获得梅尔频谱图；
14.将所述梅尔频谱图进行对数变换，获得时频二维声谱图。
15.其中，进一步包括：
16.步骤s00，预先建立一transformer神经网络，并对所述transformer神经网进行训
练，获得已训练好的transformer神经网络的步骤，具体包括：
17.步骤s001，建立一用于发动机故障声学诊断的transformer神经网络，并确定对应的训练目标函数；
18.其中，所述transformer神经网络包括编码器以及解码器，所述编码器中包含多层叠加的处理块，每一处理块均包含多头注意力处理单元、残差连接单元、层归一化单元以及全连接网络层；在多头自注意力处理单元后连接有两个全连接，并在中间设置有relu激活函数，以构成双层前馈神经网络；所述解码器中包含多层叠加的处理块，每一处理块中至少包含：掩模自注意力层、编码器-解码器注意力层和全连接网络层；
19.步骤s002，在车辆处于不同运行工况及发动机位于不同的故障状态下，对发动机的近场声音数据进行采样，并对每一声音样本进行特征提取，形成时频二维声谱图，从而形成用于训练的训练集；
20.步骤s003，利用所述训练集对所述transformer神经网络进行训练，结合所述目标函数，获取所述transformer神经网络进行训练的最优参数，从而获得训练好的transformer神经网络。
21.其中，所述目标函数表达式为：
[0022][0023]
式中，n为训练集中全部训练样本的数量，y
ic
表示符号函数；若样本的真实类别，c取1，否则取0；p
ic
表示观测样本i属于类别c的预测概率；λ为正则项系数；w为权值参数。
[0024]
其中，所述步骤s12进一步包括：
[0025]
在所述已训练好的transformer神经网络中，通过其编码器将所输入的二维声谱图进行时序分解，并将分割后的每一段时序序列中的特征向量进行信息编码；
[0026]
通过编码器遍历二维声谱图对应的所有时序序列，以提取表征反映故障特征的全局语义特征，并传输给解码器；
[0027]
解码器通过单步解码模式对故障类别进行预测。
[0028]
相应地，本发明的另一方面，还提供一种车辆发动机故障声学诊断系统，其包括：
[0029]
发动机音频收集单元，用于在车辆启动后，周期性收集所述车辆发动机的近场声音信号；
[0030]
特征提取单元，用于对所收集的声音信号进行声音频谱特征提取，形成时频二维声谱图；
[0031]
故障预测处理单元，用于将所述时频二维声谱图输入一已训练好的transformer神经网络中，获得预测结果，所述预测结果包括：所述车辆的发动机是否存在故障，以及相应的故障类别、故障位置；
[0032]
预测结果输出单元，用于在所述预测结果为存在故障时，输出所述故障对应的故障类别以及故障位置信息。
[0033]
其中，所述特征提取单元，进一步包括：
[0034]
分帧加窗处理单元，有于对音频信号进行分帧加窗处理；
[0035]
变换处理单元，用于将分帧加窗处理后的信号进行快速傅里叶变换处理得到各帧的频谱，并对频谱取模平方计算得到信号的离散功率谱；
[0036]
滤波处理单元，用于将功率谱信号输入梅尔滤波器组进行滤波处理，获得梅尔频谱图；
[0037]
对数处理单元，用于将所述梅尔频谱图进行对数变换，获得时频二维声谱图。
[0038]
其中，进一步包括：训练处理单元，用于预先建立一transformer神经网络，并对所述transformer神经网进行训练，获得已训练好的transformer神经网络，具体包括：
[0039]
神经网络建立单元，用于建立一用于发动机故障声学诊断的transformer神经网络，并确定对应的训练目标函数；
[0040]
其中，所述transformer神经网络包括编码器以及解码器，所述编码器中包含多层叠加的处理块，每一处理块均包含多头注意力处理单元、残差连接单元、层归一化单元以及全连接网络层；在多头自注意力处理单元后连接有两个全连接，并在中间设置有relu激活函数，以构成双层前馈神经网络；所述解码器中包含多层叠加的处理块，每一处理块中至少包含：掩模自注意力层、编码器-解码器注意力层和全连接网络层；
[0041]
训练集获取单元，用于在车辆处于不同运行工况及发动机位于不同的故障状态下，对发动机的近场声音数据进行采样，并对每一声音样本进行特征提取，形成时频二维声谱图，从而形成用于训练的训练集；
[0042]
训练单元，用于利用所述训练集对所述transformer神经网络进行训练，结合所述目标函数，获取所述transformer神经网络进行训练的最优参数，从而获得训练好的transformer神经网络。
[0043]
其中，所述目标函数表达式为：
[0044][0045]
式中，n为训练集中全部训练样本的数量，y
ic
表示符号函数；若样本的真实类别，c取1，否则取0；p
ic
表示观测样本i属于类别c的预测概率；λ为正则项系数；w为权值参数。
[0046]
其中，所述故障预测处理单元进一步包括：
[0047]
分解编码单元，用于在所述已训练好的transformer神经网络中，通过其编码器将所输入的二维声谱图进行时序分解，并将分割后的每一段时序序列中的特征向量进行信息编码；
[0048]
语义特征获取单元，用于通过编码器遍历二维声谱图对应的所有时序序列，以提取表征反映故障特征的全局语义特征，并传输给解码器；
[0049]
预测单元，用于解码器根据所述全局语义特征，通过单步解码模式对故障类别进行预测。
[0050]
实施本发明实施例，具有如下的有益效果：
[0051]
本发明提供了一种车辆发动机故障声学诊断方法及系统。通过在车辆启动后，周期性收集所述车辆发动机的近场声音信号；对所收集的声音信号进行声音频谱特征提取，形成时频二维声谱图；将所述时频二维声谱图输入一已训练好的transformer神经网络中，获得预测结果并输出，所述预测结果包括：所述车辆的发动机是否存在故障，以及相应的故障类别、故障位置。实施本发明，可以简单、快速、可靠地判定汽车发动机相应的故障，以及时进行排除，提高了行车的安全性。
[0052]
在本发明实施例中，采用transformer神经网络来对声音信息进行识别，以确定发
动机故障。在transformer神经网络中，其编码器依赖内部的自注意力机制、多头注意力机制等技术，可以在高度并行化计算模式下充分挖掘声谱图内频率信息的变化模式，并映射成为编码语义信息的隐藏向量，而后transformer解码器则将其解码为发动机故障类别，故能直接捕获声音序列中的长时间依赖关系。由于其并行度高，花费在对transformer神经网络进行训练时间大幅度降低，同时在实际应用中进行故障预测的速度也非常快捷。
附图说明
[0053]
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，根据这些附图获得其他的附图仍属于本发明的范畴。
[0054]
图1为本发明提供的一种车辆发动机故障声学诊断方法的一个实施例的主流程示意图；
[0055]
图2为本发明提供的一种车辆发动机故障声学诊断系统的一个实施例的结构示意图；
[0056]
图3为图2中特征提取单元的结构示意图；
[0057]
图4为图2中训练处理单元的结构示意图；
[0058]
图5为图2中故障预测处理单元的结构示意图。
具体实施方式
[0059]
为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作进一步地详细描述。
[0060]
如图1所示，示出了本发明提供的一种车辆发动机故障声学诊断方法的一个实施例的主流程示意图；在本实施例中，所述方法包括如下的步骤：
[0061]
步骤s10，在车辆启动后，周期性收集所述车辆发动机的近场声音信号；在本步骤中，可以采用预定的频率对发动机的近场声音信号(音频信号)进行收集；
[0062]
可以理解的是，发动机近场声信号中含有丰富的周期信息和脉冲成分，因此当其发生故障时通常会表现在此类信号中，通过对发动机近场声信号进行时频域分析，可以具体定位到故障发生的位置，当系统部件故障时，正常系统的声音也会出现新的变化，这就使得它的频谱也相应改变，所以采用发动机声音信号进行故障模式识别是一种在发动机复杂机构维修的前期故障诊断任务中高效、智能的方法。基于声音识别模型的发动机故障诊断问题可以表述为：假设输入的音频信号为x(n)，建立发动机故障诊断模型的过程即寻找一个最优的f函数将输入映射至故障类别空间，使得最终的输出类别尽可能逼近真实故障类别。
[0063]
步骤s11，对所收集的声音信号进行声音频谱特征提取，形成时频二维声谱图；
[0064]
在一个具例的例子中，所述步骤s11进一步包括：
[0065]
步骤s110，对音频信号进行分帧加窗处理；
[0066]
具体地，假设输入的音频信号为x(n)，由于发动机运转模式为循环运动，可认为其运转噪声在一小段时间内的物理特征参数和频谱特性基本保持不变，或是缓慢的，即声音
信号的短时平稳特性。利用这一特性对音频信号进行交叠分帧，截取一小段进行分析。加窗实质是用一个所谓的窗函数与原始的时域信号作乘积的过程，取512个采样点数据为一帧，对应的时间长度为32ms，为了避免信号间断，让每两相邻帧之间存在一定的重叠区，帧间重叠取256个点数据。为了保持信号的短时平稳性，利用窗函数来减少由截断分帧处理导致的吉布斯现象。在本发明的实施例中，采用汉明窗，其主瓣稍宽，有较小的边瓣，更具有平滑的低通特性，能够在较高程度上反映短时信号的频率特性，防止fft变换后高频部分泄露。本发明涉及的汉明窗形式如下：
[0067][0068]
其中α表示常数，取值一般设定为经验值0.46，n表示信号截取的长度。
[0069]
步骤s111，将分帧加窗处理后的信号进行快速傅里叶变换处理得到各帧的频谱，并对频谱取模平方计算得到信号的离散功率谱；
[0070]
具体地，由于在时域范围内不易看出信号的特性，因此通常将对分帧加窗后的信号进行fft得到各帧的频谱，并对频谱取模平方计算得到信号的离散功率谱。
[0071][0072]
p(k)＝|x(k)|2[0073]
其中n表示傅里叶变换的点数。
[0074]
步骤s112，将功率谱信号输入梅尔滤波器组进行滤波处理，获得梅尔频谱图；
[0075]
具体地，将功率谱信号输入梅尔滤波器组，定义最低频率为零，最高频率为信号采样频率的一半。mel滤波器组将信号频域划分成一系列三角形的滤波器序列，来模拟类似人耳感知的对数关系和掩蔽效应，在频谱上表现为低频段滤波器数量多，高频段滤波器数量少；其中心频域在梅尔频率域内呈线性分布。实际频率与梅尔频率的转换关系式为：
[0076]
m(f)＝1125ln(1 f/700)
[0077][0078]
本发明使用128个mel带通滤波器对功率谱信号进行滤波，第m个带通滤波器的传递函数可表示为：
[0079][0080]
其中，经过以上步骤，最终形成mel频谱图。
[0081]
步骤s113，将所述梅尔频谱图进行对数变换，获得时频二维声谱图。
[0082]
步骤s12，将所述时频二维声谱图输入一已训练好的transformer神经网络中，获得预测结果，所述预测结果包括：所述车辆的发动机是否存在故障，以及相应的故障类别、故障位置；
[0083]
在一个具体的例子中，所述步骤s12进一步包括：
[0084]
在所述已训练好的transformer神经网络中，通过其编码器将所输入的二维声谱图进行时序分解，并将分割后的每一段时序序列中的特征向量进行信息编码；
[0085]
具体地，在本发明的实施例中，经过声音频谱特征提取模块生成的mel语谱图由时间t和频率frequency二维分量组成，鉴于transformer的输入为时序片段，因此首先必须将语谱图进行时序方向分割，得到t
obs
段f1维的特征向量(1≤t≤t)，以便作为transformer编码器的输入，如图2下部分所示。而后，在每个观测采样时间点将频率特征向量嵌入到一个固定长度的隐藏空间中，得到包含瞬时频率特征的语义表示向量，以参与transformer模块的信息编码，具体操作如下：
[0086][0087]
式中，为对象i在第t个时间戳的输入特征向量，φe(
·
)为嵌入函数，为通过嵌入操作得到的f2维特征向量。
[0088]
通过已训练好的transformer神经网络中编码器遍历二维声谱图对应的所有时序序列，以提取表征反映故障特征的全局语义特征，并传输给解码器；
[0089]
在已训练好的transformer神经网络解码器通过单步解码模式对故障类别进行预测。
[0090]
步骤s13，在所述预测结果为存在故障时，输出所述故障对应的故障类别以及故障位置信息。
[0091]
可以理解的是，在本发明所提供的方法中，预先建立一transformer神经网络，并对所述transformer神经网进行训练，获得已训练好的transformer神经网络的步骤，其具体包括：
[0092]
步骤s001，建立一用于发动机故障声学诊断的transformer神经网络，并确定对应的训练目标函数；
[0093]
其中，所述transformer神经网络包括编码器以及解码器，所述编码器中包含多层叠加的处理块，每一处理块均包含多头注意力处理单元、残差连接单元、层归一化单元、全连接网络层四个部分，其中，在多头自注意力处理单元后连接有两个全连接，并在中间设置有relu激活函数，以构成双层前馈神经网络；所述解码器中包含多层叠加的处理块，每一处理块中至少包含：掩模自注意力层、编码器-解码器注意力层和全连接网络层；
[0094]
更具体地，在一个例子中，编码器包含6层叠加的transformer-block，每一transformer-block均包含多头注意力处理单元、残差连接单元、层归一化单元、全连接网络层四个部分，编码器的输入为特征向量和相同维度的位置编码p
t
之和，即：
[0095][0096]
式中，为包含序列顺序信息的频率特征在t时刻的向量。位置编码的目的用于区分序列中频率的前后位置关系，采用在偶数位置使用正弦编码，在奇数位置使用余弦编码的形式，其计算公式如下：
[0097][0098][0099]
其中，t表示当前时间戳在序列中的位置，d表示向量中每个值的位置索引，f2表示向量的维度。
[0100]
而transformer模型中采用点积注意力计算模式的多头自注意力处理单元，其计算公式如下：
[0101][0102][0103]
multihead(q,k,v)＝concat(head1,
…
,headh)wo[0104][0105]
其中，q、k、v分别代表查询矩阵、键矩阵和值矩阵，q、k、v的值同等于前述得到的融合频率向量矩阵。w
iq
、w
ik
和w
iv
分别表示对q、k、v进行线性变换的矩阵，将f2维的词向量映射到dk维空间。h代表头的数量，每个头能捕获时间序列中一个子空间信息，执行h次自注意力机制然后进行拼接，通过线性变换矩阵wo得到最终的多头自注意力值。transformer模型中层归一化计算公式如下：
[0106][0107][0108][0109]
其中，ξn表示融合频率特征向量ξ的第n维，m表示输入ξ的均值，σ表示输入ξ的标准差，α、β是可学习的参数，∈是为了防止除数为0而设置的小数。层归一化单元可以增强反向传播信息流动性，加快训练收敛速度，解决网络训练困难，难以拟合的问题。transformer模型中前向连接计算公式如下：
[0110]
ffn(y)＝max(0,yw1 e1)w2 e2[0111]
其中，y是经过层归一化后的输出向量，e为偏置项。在多头自注意力模块后跟两个全连接，中间加一个relu激活函数，以构成双层前馈神经网络。
[0112]
transformer的解码器结构大部分和编码器一样，也是包含有6层transformer块，但是每一个单独的解码器与编码器相比，在自注意力层(解码器层中称为掩模自注意力层)和全连接网络层之间，增加了一层编码器-解码器注意力层。与编码器中自注意力层不同的
是，其q、k、v来源不同，q来自于上一个解码器的输出(对于故障模式识别来说，解码器通过一步完成预测任务，输入的q为自定义的《start》符)，而k、v则来自于编码器的输出。
[0113]
在训练时，根据历史收集的发动机近场声信号数据，通过故障预测模型得到预测结果后，为使得模型在训练过程中不断调整参数的权重以使得预测的故障类别与真实故障类别尽量逼近，采用多分类问题常见的交叉熵损失函数作为网络训练的损失函数，为防止过拟合现象而导致模型泛化能力的缺失，增加了正则项对权重参数的约束，组合得到网络训练的目标函数表达式为：
[0114][0115]
式中，n为训练集中全部训练样本的数量，y
ic
表示符号函数；若样本的真实类别，c取1，否则取0；p
ic
表示观测样本i属于类别c的预测概率；λ为正则项系数；w为权值参数。训练网络模型旨在最小化目标函数获取最优的权值参数w。
[0116]
步骤s002，在车辆处于不同运行工况及发动机位于不同的故障状态下，对发动机的近场声音数据进行采样，并对每一声音样本进行特征提取，形成时频二维声谱图，从而形成用于训练的训练集；可以理解的是，此处故障状态所涉及的故障类型可以是诸如：排气管堵塞、点火系统故障、火花塞高压火花弱、节气门卡滞、曲轴主轴承故、气缸缺火以及转轴匀速不稳等类型。
[0117]
步骤s003，利用所述训练集对所述transformer神经网络进行训练，结合所述目标函数，获取所述transformer神经网络进行训练的最优参数，从而获得训练好的transformer神经网络。
[0118]
可以理解的是，现有的自主式声音辅助诊断法，往往是从时域或者频域直接进行故障分析。本发明考虑到时域中声音频率变化的关联性对故障线索的有效刻画作用，在声音特征提取模块中通过短时傅里叶变换，即把一段长信号分帧、加窗，再对每一帧做傅里叶变换，最后把每一帧的结果沿另一个维度堆叠起来，得到类似于图像的二维信号表示形式，该操作能够综合瞬时频率特征和频率变化特征的优势，提高对声音内语义信息的表达能力和判别能力。
[0119]
同时，本发明的transformer神经网络引入transformer的编码-解码结构，transformer的编码器依赖内部的自注意力机制、多头注意力机制等技术，在高度并行化计算模式下充分挖掘声谱图内频率信息的变化模式，并映射成为编码语义信息的隐藏向量，而后transformer解码器则将其解码为发动机故障类别，算法可以直接捕获声音序列中的长时间依赖关系，且模型对时序数据一次性遍历的模式提高了训练过程的并行度，使得训练时间大幅度降低。
[0120]
如图2所示，示出了本发明提供的一种车辆发动机故障声学诊断系统的一个实施例的结构示意图。一并结合图3至图5所示，在本实施例中，所述系统1至少包括：
[0121]
发动机音频收集单元10，用于在车辆启动后，周期性收集所述车辆发动机的近场声音信号；
[0122]
特征提取单元11，用于对所收集的声音信号进行声音频谱特征提取，形成时频二维声谱图；
[0123]
故障预测处理单元12，用于将所述时频二维声谱图输入一已训练好的
transformer神经网络中，获得预测结果，所述预测结果包括：所述车辆的发动机是否存在故障，以及相应的故障类别、故障位置；
[0124]
预测结果输出单元13，用于在所述预测结果为存在故障时，输出所述故障对应的故障类别以及故障位置信息。
[0125]
在一个具体的例子中，所述系统1进一步包括：
[0126]
训练处理单元14，用于预先建立一transformer神经网络，并对所述transformer神经网进行训练，获得已训练好的transformer神经网络。
[0127]
如图3所示，所述特征提取单元11，进一步包括：
[0128]
分帧加窗处理单元110，有于对音频信号进行分帧加窗处理；
[0129]
变换处理单元111，用于将分帧加窗处理后的信号进行快速傅里叶变换处理得到各帧的频谱，并对频谱取模平方计算得到信号的离散功率谱；
[0130]
滤波处理单元112，用于将功率谱信号输入梅尔滤波器组进行滤波处理，获得梅尔频谱图；
[0131]
对数处理单元113，用于将所述梅尔频谱图进行对数变换，获得时频二维声谱图。
[0132]
如图4所示，在本发明的一个例子中，所述训练处理单元14进一步包括：
[0133]
神经网络建立单元140，用于建立一用于发动机故障声学诊断的transformer神经网络，并确定对应的训练目标函数；
[0134]
其中，所述transformer神经网络包括编码器以及解码器，所述编码器中包含多层叠加的处理块，每一处理块均包含多头注意力处理单元、残差连接单元、层归一化单元、全连接网络层四个部分，其中，在多头自注意力处理单元后连接有两个全连接，并在中间设置有relu激活函数，以构成双层前馈神经网络；所述解码器中包含多层叠加的处理块，每一处理块中至少包含：掩模自注意力层、编码器-解码器注意力层和全连接网络层；
[0135]
训练集获取单元141，用于在车辆处于不同运行工况及发动机位于不同的故障状态下，对发动机的近场声音数据进行采样，并对每一声音样本进行特征提取，形成时频二维声谱图，从而形成用于训练的训练集；
[0136]
训练单元142，用于利用所述训练集对所述transformer神经网络进行训练，结合所述目标函数，获取所述transformer神经网络进行训练的最优参数，从而获得训练好的transformer神经网络。
[0137]
其中，所述目标函数表达式为：
[0138][0139]
式中，n为训练集中全部训练样本的数量，y
ic
表示符号函数；若样本的真实类别，c取1，否则取0；p
ic
表示观测样本i属于类别c的预测概率；λ为正则项系数；w为权值参数。
[0140]
如图5所示，在本发明一个例子中，所述故障预测处理单元12进一步包括：
[0141]
分解编码单元120，用于在所述已训练好的transformer神经网络中，通过其编码器将所输入的二维声谱图进行时序分解，并将分割后的每一段时序序列中的特征向量进行信息编码；
[0142]
语义特征获取单元121，用于通过编码器遍历二维声谱图对应的所有时序序列，以提取表征反映故障特征的全局语义特征，并传输给解码器；
[0143]
预测单元122，用于解码器根据所述全局语义特征，通过单步解码模式对故障类别进行预测。
[0144]
更多的细节，可以参考并结合前述对图1的描述，在此不进行赘述。
[0145]
实施本发明实施例，具有如下的有益效果：
[0146]
本发明提供了一种车辆发动机故障声学诊断方法及系统。通过在车辆启动后，周期性收集所述车辆发动机的近场声音信号；对所收集的声音信号进行声音频谱特征提取，形成时频二维声谱图；将所述时频二维声谱图输入一已训练好的transformer神经网络中，获得预测结果并输出，所述预测结果包括：所述车辆的发动机是否存在故障，以及相应的故障类别、故障位置。实施本发明，可以简单、快速、可靠地判定汽车发动机相应的故障，以及时进行排除，提高了行车的安全性。
[0147]
在本发明实施例中，采用transformer神经网络来对声音信息进行识别，以确定发动机故障。在transformer神经网络中，其编码器依赖内部的自注意力机制、多头注意力机制等技术，可以在高度并行化计算模式下充分挖掘声谱图内频率信息的变化模式，并映射成为编码语义信息的隐藏向量，而后transformer解码器则将其解码为发动机故障类别，故能直接捕获声音序列中的长时间依赖关系。由于其并行度高，花费在对transformer神经网络进行训练时间大幅度降低，同时在实际应用中进行故障预测的速度也非常快捷。
[0148]
本领域内的技术人员应明白，本发明的实施例可提供为方法、装置、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、cd-rom、光学存储器等)上实施的计算机程序产品的形式。
[0149]
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0150]
以上所揭露的仅为本发明一种较佳实施例而已，当然不能以此来限定本发明之权利范围，因此依本发明权利要求所作的等同变化，仍属本发明所涵盖的范围。