一种基于Attention-MGRU的回转支承寿命预测方法与流程

一种基于attention-mgru的回转支承寿命预测方法
技术领域
1.本发明涉及回转支承寿命预测领域，具体涉及一种基于attention-mgru的回转支承 寿命预测方法，是一种高精度剩余使用寿命预测方法。具体的说是对回转支承的振动、温 度和扭矩信号利用attention-mgru建立回转支承寿命预测模型。有效地解决了基于单一 振动信号无法全面获取回转支承退化信息的问题，为回转支承的寿命评估提供了新的思路。


背景技术：

2.随着经济的快速发展，社会对于新能源开发及基建工程建设愈发重视，得益于政府的 扶持以及开放的市场，风力发电、建筑机械、能源开采等领域稳步发展，风力发电机、挖 掘机、盾构机等大型机械设备的需求不断增加。回转支承作为机械整机的关键传动部件， 广泛应用于各大工程实践领域。据统计，旋转机械设备的故障中约有70％由轴承损伤引起， 机械设备的平稳运行一定程度依赖于回转支承的运行可靠性。回转支承在机械整机中用于 连接上下回转体，类似于机械的关节，一旦发生故障或失效现象，将加大设备安全风险系 数，造成安全隐患，特别是对于大型机械整机来说，若因回转支承失效造成停机，将会带 来较大的经济损失。因此，为保证生产工作的安全平稳运行，有效提高回转支承运行可靠 性尤为重要。
3.后天的主动运维是提高回转支承运行可靠性的有效途径，但前提是对回转支承的寿命 状态进行较准确地评估。对rul进行准确预测，及时失效预警，提前备件并主动更换， 以减少安全隐患，避免不必要的经济损失。鉴于此，对回转支承进行有效的rul预测具 有重要意义，为机械设备的定期保养维护及后期主动更换备件提供了依据，是保证设备良 好运行的基础。
4.对设备进行有效的状态评估、rul预测可以提前预知潜在风险，为机械设备的定期保 养维护以及后期主动更换备件提供依据，是保证生产工作的安全平稳运行的基础，因此设 备的寿命状态评估一直都是国内外学者研究的热点问题。回转支承相较于普通轴承来说， 尺寸较大、转速低且受力复杂，常作业于环境恶劣的工况下，加大了寿命状态评估难度， 故不少学者对其展开了针对性的研究。通过研究者们前赴后继的努力，回转支承的寿命状 态评估工作已取得不错的进展，但从现有文献来看，仍存在以下几点需进一步探讨：
5.(1)仅从单一的振动信号出发难以全面获取回转支承的损伤信息，损伤类型的不同 所激发的征兆信号敏感性也会存在差异。
6.(2)回转支承试验数据通过间隔方式采集，时间序列数据存在稀疏性，影响预测模 型性能。


技术实现要素：

7.本发明的目的在于提出基于attention-mgru的回转支承寿命预测方法。本发明提出 的rul预测模型评估系统，与基于单一振动信号gru、多变量mgru预测模型对比，该 预测
模型在准确性、稳定性、合理性方面均具有优胜性，具有一定应用价值。
8.为实现上述目的，本发明采用了如下技术方案：
9.一种基于attention-mgru的回转支承寿命预测方法，其特征在于，包括以下步骤：
10.步骤1、构建回转支承的多变量门控循环单元预测模型：利用经过预处理的振动、温 度、扭矩信号建模，引入门控循环单元(gated recurrent unit,gru)；
11.步骤2、引入注意力机制：在步骤1的基础上引入注意力机制，分析各要素对剩余使 用寿命(remaining useful life,rul)预测的重要程度，挖掘多要素间的关联性，实现关键 要素的强化；
12.步骤3、建立基于注意力机制的多变量门控循环单元(multivariable gru based onattention mechanism,attention-mgru)模型：在多变量gru模型中引入注意力机制，通 过搭建注意力机制可以探寻多物理信号健康指标与回转支承rul之间的内在联系，在量 化不同健康指标对于rul的影响力的同时，强化相关性高的健康指标，建立起完备健全 的寿命预测模型。
13.所述步骤2中的注意力机制，其实质是通过获取key的权重系数，从而对value加权 求和；计算过程主要分为三个步骤：计算权重系数、对权重数值进行归一化、加权求取 attention的值；将注意力机制引入回转支承的rul预测任务中，分析各要素对rul预测 的重要程度，挖掘多要素间的关联性，实现关键要素的强化；
14.权重计算通过多层感知机实现，以gru网络前一时刻的隐含层输出h
t-1
及当前时刻的 要素作为多层感知机的输入，输出即为当前时刻第n个要素的注意力权重，计算式为为量化当前时刻不同要素对于rul的影响程度，对进行 归一化处理，即为注意力机制最终的输出权重，其大小直接反映了当前各输入要素对于 预测信息的影响力，计算式为：
15.式中，we、ue为多层感知机训练得到的神经元权重，be为偏置参数；将注意力 权重赋予原始输入序列，依据权重对各要素信息的表达进行增强或削弱，加权计算后获得 新的序列x
t
，计算式为：x
t
对各要素进行了关联，实现 了关键要素的强化，将x
t
作为gru网络的输入序列，多角度全方位的考虑剩余寿命的关 联要素，自适应优化各要素的影响力，构建更加全面合理的预测模型。
16.所述步骤3中所述基于attention-mgru预测模型具体功能如下：
17.attention-mgru预测模型主要包括六个功能模块：网络预测模块、输出层模块、隐含 层模块、注意力层模块、输入层模块、网络训练模块；其中输入层模块的主要目的是对时 序序列进行初步处理，以达到网络输入的要求；注意力层模块用于计算不同健康指标对当 前时刻预测情况的影响权重，其输入为原始时序序列及gru网络前一时刻的隐含层输出， 输出为加权修正后的时序序列；隐含层模块用来搭建gru网络结构，输出层输出最后的 预测结果。
18.步骤1中所述构建回转支承的多变量门控循环单元预测模型优势如下：
19.1)相较于其他深度学习模型来说，由于将时序概念嵌入网络结构设计中，增加了循 环模块，故在时序预测问题上具有更强的适用性。
20.2)将隐含节点改进为记忆块，记忆块由记忆细胞和多个“门”结构组成，通过输入、 输出及遗忘门选择性增强信息，保证了有效信息的流通，提高了网络长期记忆性能力，可 应用于长时间序列预测中。
21.3)将输入门和遗忘门结合成更新门z，增添重置门r，删除输出门，使记忆块结构变 得更精简。由于模型结构及计算过程更加简洁，能更准确地学习时间序列长期依赖性关系， 提升了网络的计算效率及预测精度。
22.本发明的有益效果是：
23.1、本发明公布的attention-mgru模型有效提高了预测的准确性与稳定性。
24.2、通过搭建注意力机制可以探寻多物理信号健康指标与回转支承rul之间的内在联 系，在量化不同健康指标对于rul的影响力的同时，强化相关性高的健康指标，建立起 完备健全的寿命预测模型。
附图说明
25.图1为本发明中gru网络记忆块示意图；
26.图2为本发明中要素注意力机制图；
27.图3为本发明中attention-mgru的预测流程图；
28.图4为本发明中attention-mgru预测结果示意图；
29.图5为本发明中attention-mgru模型预测误差值示意图；
30.图6为本发明中gru模型rul预测结果示意图；
31.图7为本发明中gru模型预测误差值示意图；
32.图8为本发明中mgru模型rul预测结果示意图；
33.图9为本发明中mgru模型预测误差值示意图；
34.图10为本发明中多物理信号健康指标权重图。
具体实施方式
35.下面将结合本发明的附图，对本发明的技术方案进行清楚、完整地描述，显然，所描 述的实施例仅仅是本发明的一部分实施例，而不是全部的实施例，基于本发明中的实施例， 本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发 明的保护范围。
36.如图1至图10所示，本实施例表述一种基于attention-mgru的回转支承寿命预测方 法，包括如下步骤：
37.步骤1、构建回转支承的多变量门控循环单元预测模型：利用经过预处理的振动、温 度、扭矩信号建模，引入门控循环单元。
38.步骤2、引入注意力机制：在步骤1的基础上引入注意力机制，分析各要素对rul预 测的重要程度，挖掘多要素间的关联性，实现关键要素的强化。
39.步骤3、建立基于attention-mgru的寿命预测模型：在多变量gru模型中引入注意 力机制，通过搭建注意力机制可以探寻多物理信号健康指标与回转支承rul之间的内在 联
系，在量化不同健康指标对于rul的影响力的同时，强化相关性高的健康指标，建立 起完备健全的寿命预测模型。
40.所述步骤1中构建回转支承的多变量门控循环单元预测模型优势如下：
41.1)相较于其他深度学习模型来说，由于将时序概念嵌入网络结构设计中，增加了循 环模块，故在时序预测问题上具有更强的适用性。
42.2)将隐含节点改进为记忆块，记忆块由记忆细胞和多个“门”结构组成，通过输入、 输出及遗忘门选择性增强信息，保证了有效信息的流通，提高了网络长期记忆性能力，可 应用于长时间序列预测中。
43.3)将输入门和遗忘门结合成更新门z，增添重置门r，删除输出门，使记忆块结构变 得更精简。由于模型结构及计算过程更加简洁，能更准确地学习时间序列长期依赖性关系， 提升了网络的计算效率及预测精度。
44.图1中，x
t
为当前输入，隐含层输出h
t
，σ为sigmoid函数，有如下计算公式：z
t
＝σ(wz·
[h
t-1
,x
t
])、r
t
＝σ(wr·
[h
t-1
,x
t
])、
[0045]
式中，w代表权值，下标代表对应的部分，例如wz表示更新门z的权值，汇总输 入及历史隐含层。
[0046]
由此可以看出，在前向训练过程中，重置门r
t
控制着输入值x
t
和上一时刻状态h
t-1
的 结合；更新门x
t
决定着当前阶段对上一阶段信息的利用。后向训练采用bptt算法，以均 方误差(mse)为目标函数进行反向调节并优化网络层中的权重，选用adam优化函数对 梯度进行优化。adam兼具adagrad和rmsprop算法优点，能实现不同参数的自适应学习 率的设置，鲁棒性、运行效率高，有助于提高模型的学习能力。
[0047]
所述步骤2中的注意力机制，其实质是通过获取key的权重系数，从而对value加权 求和。计算过程主要分为三个步骤：计算权重系数、对权重数值进行归一化、加权求取 attention的值。鉴于注意力机制可对预测模型的多要素输入赋予不同权重，本发明将注意 力机制引入回转支承的rul预测任务中，分析各要素对rul预测的重要程度，挖掘多要 素间的关联性，实现关键要素的强化。
[0048]
本实施例引入的要素注意力机制如图2所示，权重计算通过多层感知机实现，以gru 网络前一时刻的隐含层输出h
t-1
及当前时刻的要素作为多层感知机的输入，输出即为 当前时刻第n个要素的注意力权重，计算式为为量化当前 时刻不同要素对于rul的影响程度，对进行归一化处理，即为注意力机制最终的输 出权重，其大小直接反映了当前各输入要素对于预测信息的影响力，计算式为：
[0049]
式中，we、ue为多层感知机训练得到的神经元权重，be为偏置参数。将注意力 权重赋予原始输入序列，依据权重对各要素信息的表达进行增强或削弱，加权计算后获得 新的序列x
t
，计算式为：x
t
对各要素进行了关联，实现 了
关键要素的强化，将x
t
作为gru网络的输入序列，多角度全方位的考虑剩余寿命的关 联要素，自适应优化各要素的影响力，构建更加全面合理的预测模型。
[0050]
所述步骤3中基于attention-mgru预测模型具体功能如下：
[0051]
attention-mgru预测模型主要包括六个功能模块：网络预测、输出层、隐含层、注意 力层、输入层、网络训练，如图3所示。其中输入层的主要目的是对时序序列进行初步处 理，以达到网络输入的要求。注意力层用于计算不同健康指标对当前时刻预测情况的影响 权重，其输入为原始时序序列及gru网络前一时刻的隐含层输出，输出为加权修正后的 时序序列。隐含层用来搭建gru网络结构，输出层输出最后的预测结果。
[0052]
从图4可看出，基于attention-mgru模型输出的rul预测值与实际值相差较小，图 5也能直观体现该模型较优的预测性能。在整个预测周期内，模型预测误差值均较小，且 没有明显的振荡情况。由于引入注意力机制，探寻多物理信号健康指标与回转支承rul 之间的内在联系，量化了不同健康指标对于rul的影响力，如图10所示。其中，温度健 康指标的注意力权重最大，说明其对回转支承rul的影响力最大。通过强化温度信号健 康指标作用，振动信号健康指标的不利影响得以抑制，从220点、380点处的预测误差的 降低可充分说明。该模型多角度考虑剩余寿命的关联要素，有效提高了模型精度以及稳定 性，说明所提出的建模策略是有效的，也侧面说明采用多物理信号进行rul评估的重要 性。
[0053]
从图6-图7中可以看出，在预测前期，基于单一振动信号健康指标的gru预测模型 具有良好的预测性能，预测结果与真实寿命状态差距较小。因模型只依赖于单一健康指标 的分布状态，故在振动信号健康指标发生较大梯度变化前，能实现理想的拟合效果。但在 220点附近，由于回转支承快速失效，振动信号健康指标值突增，出现训练数据与测试样 本分布规律不一致的情况，模型预测短板凸显。此后模型输出值与实际值偏离较大，特别 是预测后期，模型预测的结果可信度急剧下降，无法真实有效地评估回转支承实际的rul。
[0054]
从图8-图9可以看出，rul预测结果偏差程度相较于gru来说较小，虽同样在220 点、380点附近产生较大波动，但均低于gru模型预测误差。产生较大波动的原因在于， 振动信号健康指标发生较大梯度变化，影响测试样本分布。因样本还包括温度、扭矩健康 指标，振动健康指标对于分布的影响有所降低。从后期预测结果可以明显看出，mgru改 善了单一gru模型的不足之处，体现了基于多物理信号评估的优越性。但同时也可以看 出，因影响回转支承rul的因素较多，所以mgru模型预测过程中rul输出值偏差程 度波动频繁，模型稳定性有待提升。
[0055]
为更加直观地对比各模型的预测性能，分别使用mae、rmse、mape进行对比衡量， 公式分别为：公式分别为：公式分别为：式中，n为预测点总数，yi为实际rul，为预测的rul值。其中，mae用来反映预测 结果误差大小，rmse表征预测结果离散度，mape反映预测结果与实际rul的偏离程 度。
[0056]
表1每个模型的预测误差
[0057][0058]
从表1可以看出，与基于单一振动信号gru、基于多特征信号mgru预测模型相比， 本发明提出的attention-mgru模型的三种预测误差均明显降低，验证了该模型在回转支 承rul预测任务中的明显优势，有效地解决了基于单一振动信号无法全面获取回转支承 退化信息的问题，为回转支承的寿命评估提供了新的思路。
[0059]
以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员 应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的仅为发明的优选 例，并不用来限制本发明，在不脱离本发明新型精神和范围的前提下，本发明还会有各种 变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所 附的权利要求书及其等效物界定。