一种基于深度神经网络的人工特征与卷积特征融合的特征提取方法与流程

1.本发明涉及非特定变量的测量或测试，具体而言，涉及一种用于飞机的电动液压舵机的数据集特征的提取方法


背景技术：

2.电动液压舵机系统是一种复杂的机电一体化系统，同时也是一种高精度的位置伺服系统，对飞行器的姿态控制具有重要影响。随着科学技术的不断发展，先进航空器广泛采用速度快、精度高、功率重量比大的全数字化伺服舵机系统。当代工程应用对舵机的可靠性提出了更高的要求。舵机关键参数退化过程预测是舵机可靠性研究的一个重要方面。精准预测舵机关键参数未来时间序列，把握参数变化趋势规律，对于合理安排维修计划、提高飞行品质、保障飞行安全、降低全寿命周期费用等具有重要意义。传统的时序外推预测方法通常采用时间序列分解的策略，通过将时间序列分解为趋势项、季节项、残差项等分别进行预测，最后融合各项预测结果得到参数的时序外推预测序列。然而，对于电动液压舵机这样的复杂机电系统，其退化过程往往表现出非线性，导致其退化参数的时间序列往往难以依照传统方法进行有效分解，给舵机关键参数未来时序预测问题带来了很大困难。
3.为了解决该问题，提出了一种基于神经网络的人工特征与卷积特征融合的特征提取方法。该方法结合人工时域特征与卷积深度特征，通过二次自编码机制实现特征融合，可以将原始参数的时序依赖关系与变化趋势直接映射到隐层深度特点当中，避免了传统方法中序列分解的问题，为电动液压舵机关键参数退化时序的外推预测问题提供了更实用的方法。


技术实现要素：

4.为了解决现有技术所存在的问题，本发明提出一种基于深度神经网络的人工特征与卷积特征融合的特征提取方法。
5.根据本发明的一个方面，提供一种基于深度神经网络的人工特征与卷积特征融合的特征提取方法，所述方法包括：获取电动液压舵机的故障预测数据；对所述故障数据进行综合预处理，以得到训练数据集和测试数据集；将所述训练数据集分别送入卷积神经网络一次自编码器和基于专家知识的人工时域特征提取模块；在所述卷积神经网络一次自编码器中进行基于卷积神经网络的特征提取，获得卷积特征集；在所述人工时域特征提取模块进行基于专家知识的时域特征提取，获得人工时域特征集；对所述卷积特征集和所述人工时域特征集进行特征拼接，得到融合特征；将所述融合特征送入二次自编码器和解码器，进行基于堆叠自编码器的深度特征融合。
6.优选地是，所述获取故障预测数据的步骤，包括针对电动液压舵机系统的故障预测要求，使用simulink软件对所述电动液压舵机系统进行结构化建模并进行故障模拟。
7.优选地是，所述结构化建模包括确定故障注入点，所述故障注入点为输入反馈电
位器的反馈放大系数。
8.优选地是，所述综合预处理步骤包括：对关键参数时序数据进行滑窗切割，构造样本数据集；对训练数据集进行极大极小值归一化处理；以及构造训练数据集和测试数据集。
9.优选地是，所述基于卷积神经网络的特征提取包括：基于卷积神经网络的一次自编码模型构建；以卷积一次自编码器模型的预训练；以及使用卷积编码器进行卷积特征提取。
10.优选地是，所述一次自编码模型构建步骤包括基于所述训练数据集s
train
＝{s
1，nor
，s
2，nor
，...s
n，nor
}，将其数据格式转化为三维数据格式(sn，w，1)，将所构建好的三维训练数据集输入特征提取模型反复执行前向传播和反向传播迭代计算过程，以对所构建的一次自编码模型的卷积层、池化层、全连接层的模型参数不断进行调整，以完成模型的预训练，其中{s
1，nor
，s
2，nor
，...s
sn，nor
}为经过归一化处理的样本数据集，sn为样本数量，w为每个样本的数据长度，1为通道数。
11.优选地是，所述一次自编码模型包括多个卷积层、多个池化层和一个flatten全连接层，所述全连接层利用多层堆叠的卷积层和池化提取的特征进行特征识别，在所述全连接层上使用softmax回归，所述softmax函数的输出为
[0012][0013]
其中k表示输出层网络节点数。
[0014]
优选地是，基于完成预训练的所述一次自编码模型对训练数据集{s
1，nor
，s
2，nor
，...s
sn，nor
}进行卷积特征提取，从而得到卷积特征集{f
1，cnn
，f
2，cnn
，...，f
sn，cnn
}。
[0015]
优选地是，所述人工时域特征提取步骤包括：对归一化的所述训练数据进行滑窗切割；对切割出的每个样本提取不同的时域数据；以及对时域数据特征的归一化处理。
[0016]
优选地是，进过所述特征拼接得到的融合特征尺寸为：
[0017][0018]
其中，n
f
为卷积核个数，s
f
为卷积核步长，f为卷积核尺寸，窗口宽度为w，每个样本的长度为w
′
；
[0019]
对训练数据集s
train
＝{s
1，nor
，s
2，nor
，...s
n，nor
}中每个样本s
i，nor
进行cnn特征提取和人工特征提取并进行特征融合，可将训练数据集重新组织为(n，n
merge
)的二维融合特征矩阵，并把所述融合特征矩阵作为后续sae编码模型的输入。
[0020]
优选地是，所述基于堆叠自编码器(sae)的深度特征融合包括：构建二次自编码器和解码器，训练所述二次编码器和解码器；以及使用堆叠的二次自编码器进行深度特征融合。
[0021]
本发明内容仅作为在具体实施方式和附图中完全描述的主题的介绍。不应将发明内容认定为描述了必要技术特征，也不应当用来确定权利要求的范围。此外，应该理解的
是，上述发明内容和以下具体实施方式仅仅是示例性的和解释性的，并且不作为所要求保护的主题的必要限制。
附图说明
[0022]
本公开的各种实施例或样例(“示例”)在以下的具体实施方式和附图中得以公开。没必要将附图按比例绘制。一般而言，除非在权利要求中另有规定，否则可以任意顺序执行所公开方法的操作。附图中：
[0023]
图1示出了根据本发明的基于深度神经网络的人工特征与卷积特征融合的特征提取方法流程图；
[0024]
图2示出了根据本发明的获取电动液压舵机故障预测数据的方法示意图；
[0025]
图3示出了根据本发明的基于卷积神经网络的一次自编码模型结构图；
[0026]
图4示出了图1所示的一次自编码和人工时域特征提取的的操作流程图；
[0027]
图5示出了图1所示的基于sae的二次自编码器的结构示意图；
[0028]
图6示出了反馈角度原始数据示意图；
[0029]
图7a示出了基于图4所示流程图获取的人工时域特征的最大值；
[0030]
图7b示出了基于图4所示流程图获取的人工时域特征的标准差。
具体实施方式
[0031]
在详细解释本公开的一个或多个实施例之前，应当理解，实施例不限于它们具体应用中的构造细节，以及下文实施方式或附图所提出步骤或方法。
[0032]
现在参考图1，图1示出了根据本发明的基于深度神经网络的人工特征与卷积特征融合的特征提取方法流程图。如图1所示的特征提取方法，其包括多个步骤：步骤1：获取电动液压舵机的故障预测数据；步骤2：对故障数据进行综合预处理；步骤3：进行基于卷积神经网络的特征提取；步骤4：对训练数据集进行基于专家知识的人工时域特征提取；步骤5：对基于经验知识提取的人工特征和基于cnn特征提取模型提取的高维隐含层特征进行特征拼接；步骤6：进行基于堆叠自编码器的深度特征融合。下面结合图1对本发明的特征提取方法进行详细的说明。
[0033]
一、获取电动液压舵机的故障预测数据
[0034]
受限于现实试验条件与实际使用环境，产品真实故障数据获取困难这一情况广泛存在。仿真分析是国内外解决数据匮乏问题的主要手段之一，广泛的研究结果都是基于仿真模型进行故障注入、获取相应的故障数据。因此，本发明为了获取电动液压舵机的故障预测数据，需要使用simulink软件对电动液压舵机进行结构化建模并进行故障模拟。在操作中，使用该simulink模型进行故障注入，可以最大限度获取接近真实故障情况的数据，实现故障预测模型验证。
[0035]
针对舵机系统故障预测要求，首先对舵机系统结构进行了模型化处理，然后利用simulink仿真软件搭建舵机控制系统仿真模型，用于生成仿真数据。在舵机控制系统仿真模型的基础上，选取适当的舵机系统仿真模型故障注入点进行故障注入并采集仿真信号，用于舵机控制系统故障预测模型的开发和验证。获取电动液压舵机故障预测数据的方法如图2所示。
[0036]
首先，针对舵机系统故障预测要求，对舵机控制系统模型进行结构化处理。结构化处理的舵机系统主要包含能源系统和位置伺服系统，如图2中的舵机系统结构分析模块所示，其关键组成部件主要包括：功放组合、直流电机、电液伺服阀、液压变量泵、作动筒、操纵机构、反馈电位器、高压安全阀、低压安全阀、油滤、邮箱等部件。
[0037]
在对舵机控制系统模型进行结构化处理的基础上，利用simulink模拟软件，搭建舵机控制系统仿真模型，在此仿真模型的基础上确定故障注入点。故障注入点可根据故障预测需要和历史故障数据来选取，其通常在舵机的各个组成部件上注入。在本技术中，例如可以选取反馈放大系数作为故障注入点，并在反馈电位器上进行故障注入。最后，进行故障仿真模拟与信号采集。信号采集的数据可以是舵机控制系统的各种控制指令和状态信号，其是本技术的电动舵机关键参数时序数据，例如包括：控制指令、统一时钟、位移信号、反馈角度。这些选取的关键参数时序数据就构成了待预测参数的历史时序数据。其中反馈角度可以有效地表征舵机系统的健康状态，因此，可以选择反馈角度作为后续的被预测参数。
[0038]
二、对故障数据进行综合预处理
[0039]
舵机故障预测数据获取单元获得的数据，例如是反馈角度信号，送入故障数据预处理单元进行综合处理，以得到训练数据集和测试数据集，具体参照图1所示的综合数据预处理模块，其包括：
[0040]
步骤1、对关键参数时序数据进行滑窗切割，构造样本数据集；
[0041]
对传感器采集到的任一电动舵机关键参数时序数据为x，x＝{x1，x2，...x
n
}，对x进行滑窗切割从而生成相应的样本数据集。当窗口宽度为w步长为s时，切割生成的样本数量为：
[0042][0043]
则生成相应的数据集为{s1，s2，...s
sn
)，对{s
1，nor
，s
2，nor
，...s
sn，nor
}中的每个样本s
i，nor
取长度为w的数据作为训练数据，取w
‑
w长度的数据作为这段训练数据对应的预测数据。
[0044]
步骤2、对训练数据集进行极大极小值归一化处理；
[0045]
为了提高数据表达能力，加快后续模型的训练的收敛速度，需要对训练数据集进行归一化处理，主要是通过极大极小值归一法对原始参数的幅值进行缩放，完成数据的线性变换。对于单个样本数据s
i
＝{x1，x2，...x
w
}，通过公式：
[0046][0047]
实现归一化处理，从而得到归一化的样本数据集(s
1，nor
，s
2，nor，
s
sn，nor
}。
[0048]
步骤3、构造训练数据集和测试数据集；
[0049]
从所有数据中选取前r％的数据作为训练数据集，剩下的数据作为测试数据集，用于验证模型预测性能。通常而言，r一般取60
‑
80，优选地取70。
[0050]
三、进行基于卷积神经网络的特征提取
[0051]
经过综合数据预处理模块处理后得到的训练数据集，分别送入卷积神经网络一次自编码器和基于专家知识的人工时域特征提取模块，以得到卷积特征和人工特时域征。该特征提取步骤具体包括：基于卷积神经网络的一次自编码模型构建，如图3所示；以及如图4
所示的卷积一次自编码器模型的预训练和使用卷积编码器进行卷积特征提取。
[0052]
首先，利用训练数据集，构建基于卷积神经网络(cnn)的一次自编码模型，并利用训练数据集进行模型的预训练。由于二维卷积神经网络对输入数据的格式要求为三维数据，因此需要构造训练数据集。构造训练集是为了满足二维的一次自编码模型的输入要求，其方法是将训练数据集s
train
＝{s
1，nor
，s
2，nor
，...s
n，nor
}的数据格式转化为(sn，w，1)，其中sn为样本数量，w为每个样本的数据长度，1为通道数。将构建好的训练样本数据集输入图3所示的基于卷积神经网络(cnn)的一次自编码模型。
[0053]
卷积神经网络(convolutional neural network)是一种多层的监督学习神经网络，隐含层的卷积层和池采样层是实现卷积神经网络特征提取功能的核心部分。cnn是一种专门用来处理具有类似网络结构数据的神经网络，通过模仿生物视觉运行机制对原始数据进行特征提取，不同cnn层之间具有权值共享的特点，有效降低了网络的复杂度，避免因数据量过少而引起的过拟合问题和避免多维数据特征提取时数据重建的复杂度。如图3所示，本发明的深度卷积神经网络包括多个卷积层、多个池化层和一个flatten全连接层。
[0054]
卷积层：具有非线性激活的卷积过程可描述为：
[0055][0056]
其中，是第r个卷积层中第n个卷积核的输出，是第r
‑
1个卷积层中第m个输出特征向量，*代表卷积操作，分别表示第r个卷积层中第n个卷积核的权重和偏置，relu表示非线性激活函数。
[0057]
池化层：通过加入池化层能够减少卷积特征的空间维数，避免过拟合。最大池化层是最常用的池化层，它只取输入中最重要的部分(最高的值)，可以表示为
[0058][0059]
其中是卷积层得到的特征，是池化层的输出，l表示池化操作区域的长度。
[0060]
全连接层：利用多层堆叠的卷积层和池化提取的特征，最终输入全连接层进行特征识别，通常在顶层全连接层上使用softmax回归。定义softmax函数的输出为
[0061][0062]
其中k表示输出层网络节点数。
[0063]
其中卷积层通过使用一定数量的卷积核来提取输入数据在时域上的不同特征，通过池化层可以有效的缩小参数矩阵的尺寸，从而减少最后连接层的中的参数数量，加入池化层可以加快计算速度以及防止模型过拟合，最后利用全连接层将高维隐含层中的特征参数映射至原始的输入数据，从而训练模型的特征提取能力。
[0064]
其次，选择合适的迭代次数和损失函数，将所构建好的三维训练数据集输入特征提取模型反复执行前向传播和反向传播迭代计算过程；在此过程中，对卷积层、池化层、全
连接层的模型参数不断进行调整，以完成模型的预训练。
[0065]
再次，取出预训练模型的两层卷积层和两层池化层以及一层全连接层，并保留其权重参数，将其构建为训练后的深度卷积神经网络一次自编码模型。
[0066]
最后，基于完成预训练的卷积神经网络一次自编码模型对训练数据集(s
1，nor
，s
2，nor
，...s
sn，nor
}进行卷积特征提取，从而得到卷积特征集{f
1，cnn
，f
2，cnn
，...，f
sn，cnn
}。
[0067]
四、对训练数据集进行基于专家知识的人工时域特征提取
[0068]
如图4的右侧图所示，对切割出的训练数据集s
train
＝{s
1，nor
，s
2，nor
，...s
n，nor
}进行基于专家知识的时域特征提取。具体包括对归一化训练数据进行滑窗切割，对切割出的每个样本提取不同的时域数据以及时域特征的归一化处理。
[0069]
对归一化的样本数据进行滑窗切割：窗口长度为w
′
，步长为1，对于样本s
i
＝{x1，x2，...x
w
}可切割出w
‑
w
′
1个样本，每个样本长度为w
′
，即得到{s
′1，s
′2，...s
′
w
‑
w
′
1
}。
[0070]
对每个样本s
′
i
分别提取最大值、标准差、方差、波形因子、均方根、脉冲指数、裕度因子、峰值因子八个时域特征：对于窗口数据s
′
i
提取的时域特征为f
i
＝{f1，f2，...，f8}，因此对于样本s
i
提取的人工特征为{f1，f2，...f
w
‑
w
′
1
}，利用极大极小值归一方法对人工特征进行归一化处理，具体可参考综合数据预处理中的步骤2。
[0071]
五、对基于专家知识提取的人工特征和基于cnn特征提取模型提取的高维隐含层特征进行特征拼接
[0072]
继续参考图1和图4，在cnn特征提取模型提取高维隐含层特征和人工特征提取模块提取人工时域特征之后，对所述高维隐含层特征和人工时域特征进行特征拼接。cnn特征提取模型提取的特征矩阵为m
cnn
，其形状尺寸为其中n
f
为卷积核个数，s
f
为卷积核步长，f为卷积核尺寸。人工特征提取模块提取的人工时域特征矩阵为m
manual
，其形状尺寸为(w
‑
w
′
1，8)。分别将两个特征尺寸m
cnn
，m
manual
进行flatten展平，并沿列方向进行拼接，得到的融合特征的尺寸为：
[0073][0074]
对训练数据集s
train
＝{s
1，nor
，s
2，nor
，...s
n，nor
}中每个样本s
i，nor
进行cnn特征提取和人工特征提取并进行特征融合。令融合特征的维度为n
merge
，则可将训练数据集重新组织为(n，n
merge
)的二维融合特征矩阵，并把此融合特征矩阵作为后续sae编码模型的输入。
[0075]
六、进行基于堆叠自编码器(sae)的深度特征融合
[0076]
参考图5，图5为图1所示的基于sae的二次自编码器的结构示意图。在此二次自编码器种，进行基于堆叠自编码器的深度特征融合，具体包括构建二次自编码器和解码器，训练二次编码器和解码器以及使用堆叠的二次自编码器进行深度特征融合。
[0077]
首先，构建堆叠二次自编码器和解码器模型，其模型结构如图5所示，编码层数与解码层数相同，能够使得模型对深度特征具有更好的二次编码能力。
[0078]
其次，利用步骤(五)中得到的二维融合特征矩阵进行二次自编码器模型的预训练，以二维融合特征矩阵作为堆叠二次自编码模型的输入和输出，选择合适的损失函数和迭代次数，完成前向传播和反向传播迭代计算过程，使模型不断重构自身输入，最终从完成预训练的堆叠二次自编码器模型中提取其中的编码层作为可用的二次自编码模型。
[0079]
最后，基于预训练得到的二次自编码器模型对深度融合特征进行二次自编码，从而得到二次编码特征集{f
′1，f
′2，..，f
′
sn
}。
[0080]
【基于特征融合的特征提取示例】
[0081]
本发明的一个重要工作在于创新地设计了基于深度神经网络的人工特征与卷积特征融合的特征提取方法，该方法直接影响外推预测模型的液压作动系统退化趋势预测及健康评估。基于此，我们以舵机系统“作动筒内漏”故障，选取“流量注入点”测点采集的反馈角度数据进行示例说明。
[0082]
电动液压舵机的结构化模型如图2所示，其故障预测设定为“作动筒内漏”故障，其数据为反馈角度时域数据。在获取反馈角度数据后，对此数据进行预处理。在本案例中，选择窗口长度为9000，步长为1，对于每个窗口的数据，前6000长度的数据作为基于卷积神经网络序列外推预测模型的输入，后3000长度的数据作为该窗口的标签数据，即为预测数据。对于全部归一化的反馈角度数据，选取前70％的数据作为训练数据集，剩下的30％数据作为验证数据集，用于验证模型预测性能。
[0083]
1、得到训练数据后，进行基于卷积神经网络的特征提取
[0084]
考虑舵机反馈角度数据的参数特性，利用卷积神经网络对归一化样本数据进行样本特征提取。继续参考图1、图3和图4，卷积层通过使用一定数量的卷积核来提取输入数据在时域上的不同特征，通过池化层可以有效的缩小参数矩阵的尺寸，从而减少最后连接层的中的参数数量，加入池化层可以加快计算速度以及防止模型过拟合，利用两层卷积层将原式数据映射至高维隐含空间以此学习数据的非线性特征，再结合展平层和全连接层将高维样本特征重映射至原始的输入数据从而学习原始样本的关键特征，选取将原始数据样本映射到低维特征空间的模块作为模型的编码器，选取提取筛选后的特征重构样本的模块作为模型的解码器。本发明选择的模型结构参数如表1所示
[0085]
表1基于卷积神经网络的一次自编码器模型参数
[0086]
[0087]
选择合适的迭代次数和损失函数，将所构建好的三维训练数据集输入特征提取模型反复执行前向传播和反向传播迭代计算过程，对卷积层、池化层、全连接层的模型参数不断进行调整完成模型的预训练，取出预训练模型的两层卷积层和两层池化层以及一层全连接层，并保留其权重参数，将其构建为cnn特征提取模型。
[0088]
2、对切割出的训练数据集进行基于专家知识的时域特征提取
[0089]
具体地，以窗口长度为3000，步长为3000再对每个窗口的训练数据进行切割并对每个子窗口的数据进行人工特征提取，特征提取结果如图7a和图7b所示。
[0090]
3、对基于专家知识提取的人工特征和基于cnn特征提取模型提取的高维隐含层特征进行特征拼接
[0091]
4、进行基于堆叠自编码器的深度特征融合
[0092]
利用二维融合特征矩阵进行二次自编码器模型的预训练，以二维融合特征矩阵作为堆叠二次自编码模型的输入和输出，选择合适的损失函数和迭代次数，完成前向传播和反向传播迭代计算过程，使模型不断重构自身输入，最终从完成预训练的堆叠二次自编码器模型中提取其中的编码层作为可用的二次自编码模型。
[0093]
尽管已经参考附图所示的实施例描述了本发明，但是可在不脱离权利要求范围的情况下使用等同或替代手段。本发明所描述和图示的组件仅仅是可以用于实现本公开的实施例的系统/设备和方法的示例，并且可以在不脱离权利要求范围的情况下用其他设备和组件进行替换。