一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法[发明专利]

(12)发明专利申请

(10)申请公布号 CN 109472110 A(43)申请公布日 2019.03.15

(21)申请号 201811441584.0(22)申请日 2018.11.29

(71)申请人 南京航空航天大学

地址 210016 江苏省南京市秦淮区御道街

29号(72)发明人 鲁峰　吴金栋　黄金泉　仇小杰　

丁华阳　金鹏　(74)专利代理机构 南京瑞弘专利商标事务所

(普通合伙) 32249

代理人 秦秋星(51)Int.Cl.

G06F 17/50(2006.01)G06N 3/08(2006.01)G06Q 10/04(2012.01)

权利要求书2页 说明书6页 附图5页

CN 109472110 A(54)发明名称

一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法(57)摘要

本发明公开了一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，该方法包括：根据发动机历史退化数据，建立n个基于LSTM深度神经网络的发动机健康指标(LSTM-HI)模型；根据发动机过往传感器数据，训练ARIMA模型并向后多步预测发动机传感器参数；由预测的传感器参数，根据LSTM-HI指标评价发动机是否退化至失效，得到发动机剩余使用寿命及其概率分布。本发明提出了一种新颖的航空发动机剩余使用寿命预测方法，具有较高的准确率和可行性，对于航空发动机实时健康管理、降低维修成本有着积极促进的作用。

CN 109472110 A

权　利　要　求　书

1/2页

1.一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，其特征在于：包括以下步骤：

步骤1)，根据发动机历史退化数据，建立n个基于LSTM深度神经网络的发动机健康指标(LSTM-HI)模型，构建反映剩余使用寿命的健康指标模型库；

步骤2)，根据待测试发动机过往传感器数据集，训练ARIMA模型，设计预测窗口长度l，并向后预测窗口长度l的发动机传感器参数；

步骤3)，根据预测的传感器参数以及LSTM网络健康指标模型库，解算LSTM-HI指标，评价发动机是否退化至失效，若超过失效阈值，则拟合概率分布特征参数，获得发动机剩余使用寿命；否则，转至步骤2)，再增加预测窗口长度l，依次进行计算。

2.根据权利要求1所述的一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，其特征在于：所述步骤1)中根据发动机历史退化数据，建立n个基于LSTM深度神经网络的发动机健康指标(LSTM-HI)模型具体步骤如下：

步骤1.1)，根据航空发动机由健康退化至失效的历史数据，选择合适的传感器参数，并进行降噪、平滑处理，组成n个训练数据集；

步骤1.2)，基于深度学习网络LSTM和训练数据集构建航空发动机健康状态评价指标LSTM-HI，具体表达式如下：

其中，表示选择的传感器参数，k表示选择的传感器参数的数量，t表示时刻；步骤1.3)，训练深度学习网络LSTM，得到n个LSTM-HI模型，建立航空发动机健康状态评价指标模型库。

3.根据权利要求2所述的一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，其特征在于：所述步骤1.3)中训练深度学习网络LSTM，得到n个LSTM-HI模型，建立航空发动机健康状态评价指标模型库具体步骤如下：

步骤1.3.1)，对于一组发动机全寿命观测数据

其中，xt表

示选择的传感器参数，表示发动机的失效循环数即其使用寿命，HIt是人为构造的健康指标

假设当前时刻的输入数据为xt，上一时刻LSTM网络的输出ht-1，则当前时刻

LSTM网络的输出计算如下：ft＝σ(wf·[ht-1,xt]+bf)it＝σ(wi·[ht-1,xt]+bi)

ot＝σ(wo·[ht-1,xt]+bo)ht＝ot·Φ(St)其中，σ(·)，g(·)表示激活函数，w表示权重，b表示偏置，St表示LSTM网络的记忆状态量，it表示输入门的输出，ft表示遗忘门的输出，ot表示输出门的输出；

步骤1.3.2)，由步骤1.3.1前向计算所有输入样本对应的LSTM网络的输出，并记录各个训练样本的误差；

2

CN 109472110 A

权　利　要　求　书

2/2页

步骤1.3.3)，根据前向计算得到的误差，通过误差梯度下降法训练LSTM网络直到精度满足要求；

步骤1.3.4)，将n组发动机全寿命观测数据分别训练n个LSTM网络，得到n个LSTM-HI模型，建立模型库。

4.根据权利要求1所述的一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，其特征在于：步骤2)中所述根据发动机过往传感器数据，训练ARIMA模型并向后多步预测发动机传感器参数具体步骤如下：

步骤2.1)，若已知发动机过往退化的传感器数据为

其中，xt表示

选择的传感器测量参数，r表示发动机当前循环数；针对每一维选择的传感器参数，建立其ARIMA预测模型，其表达式如下：

wt＝φ1·wt-1+φ2·wt-2+…+φp·wp-2+δ+μθμθμθμt+1·t-1+2·t-2+…+q·q-2其中，μδ是表示序列数据没有0均值化的常数，φ和分别θ表示差分项和t是白噪声序列，移动平均项的系数，wt表示数据在t时刻的差分项，其表示为：

其中，d表示进行差分的阶数，L是延迟因子；

步骤2.2)，在确定ARIMA模型的阶数之后，根据过往数据，由最小二乘法估计ARIMA模型的参数；

步骤2.3)，根据得到的ARIMA模型，分别对各个传感器参数进行多步预测，得到各个传感器的预测数据。

5.根据权利要求1所述的一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，其特征在于：步骤3)中所述由预测的传感器参数，根据LSTM-HI指标评价发动机是否退化至失效，得到发动机剩余使用寿命及其概率分布具体步骤如下：

步骤3.1)，计算传感器预测数据对应的健康指标HI序列，定义失效阈值为θ当HI超过f，阈值时判断发动机退化至失效，其对应的循环数减去当前循环数即为发动机剩余使用寿命RUL；

步骤3.2)，由LSTM-HI模型库和步骤2)得到的传感器参数预测数据，分别计算出n个HI序列，根据步骤3.1)得到n个发动机RUL预测值；

步骤3.3)，采用高斯分布函数对n个发动机RUL预测值进行拟合，得到发动机RUL的概率分布。

3

CN 109472110 A

说　明　书

1/6页

一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命

预测方法

技术领域

[0001]本发明属于航空发动机剩余使用寿命技术领域，尤其涉及一种基于LSTM(Long Short-Term Memory)网络和ARIMA(Autoregressive Integrated Moving Average Model) 模型的航空发动机剩余使用寿命预测方法。

背景技术

[0002]航空发动机常年工作在高温、高压、高负载的苛刻条件下，并且其工作状态经常改 变，这就导致了发动机故障频发。航空发动机作为飞行器的“心脏”，其健康状况直接决 定着旅客的人身安全以及民航飞行的安全。为保证其安全性，发动机必须及时地进行维 修。然而过早的维修势必会引起航空公司运营成本的增加，因此，必须适时掌握维修时 间，从而最大限度的实现发动机的使用价值。准确地预测航空发动机剩余使用寿命(RUL) 是保障飞行安全与降低维修成本的重要措施。[0003]随着人工智能技术的发展，基于数据的故障诊断方法为解决非线性复杂系统的健康 预测问题提供了一种新的解决途径。对如今的智能发动机控制来说，数据驱动的传感器 故障诊断及解析余度技术也备受重视。深度学习网络因其强大的非线性映射能力得到了 广泛的关注与研究。递归神经网络(RNN)可以对数据在时间序列上的变化进行建模，在 自然语言处理、语音识别等领域取得了成功。长短期记忆网络(LSTM)是在RNN的基础 之上发展而来的专门解决数据的长期依赖性问题的一种深度学习网络。其优点是不需要 复杂的调参，默认就可以记住数据长期的信息，从而解决长期依赖问题。[0004]此外，传感器技术与在线监测技术的迅速发展，使得在飞机运行过程中对发动机性 能与状态数据进行集成、传递、分析与平局成为了可能，这为发动机剩余使用寿命预测 提供了有利的技术支持与充分的数据准备。

发明内容

[0005]针对上述技术问题，本发明提供一种基于LSTM网络和ARIMA模型的航空发动机 剩余使用寿命预测方法，该方法可具有较高的准确率和可行性，对于航空发动机实时健 康管理、降低维修成本有着积极促进的作用。[0006]技术方案：为实现上述目的，本发明采用的技术方案为：

[0007]一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测方法，包括以 下步骤：

[0008]步骤1)，根据发动机历史退化数据，建立n个基于LSTM深度神经网络的发动机 健康指标(LSTM-HI)模型，构建反映剩余使用寿命的健康指标模型库；[0009]步骤2)，根据待测试发动机过往传感器数据集，训练ARIMA模型，设计预测窗口 长度l，并向后预测窗口长度l的发动机传感器参数；[0010]步骤3)，根据预测的传感器参数以及LSTM网络健康指标模型库，解算LSTM-HI 指

4

CN 109472110 A

说　明　书

2/6页

标，评价发动机是否退化至失效，若超过失效阈值，则拟合概率分布特征参数，获得 发动机剩余使用寿命；否则，转至步骤2)，再增加预测窗口长度l，依次进行计算。[0011]优选的：所述步骤1)中根据发动机历史退化数据，建立n个基于LSTM深度神经 网络的发动机健康指标(LSTM-HI)模型具体步骤如下：[0012]步骤1.1)，根据航空发动机由健康退化至失效的历史数据，选择合适的传感器参数， 并进行降噪、平滑处理，组成n个训练数据集；[0013]步骤1.2)，基于深度学习网络LSTM和训练数据集构建航空发动机健康状态评价指 标LSTM-HI，具体表达式如下：

[0014][0015][0016]

其中，表示选择的传感器参数，k表示选择的传感器参数的数量，t表示时刻；

步骤1.3)，训练深度学习网络LSTM，得到n个LSTM-HI模型，建立航空发动机 健康状态评价指标模型库。[0017]优选的：所述步骤1.3)中训练深度学习网络LSTM，得到n个LSTM-HI模型，建 立航空发动机健康状态评价指标模型库具体步骤如下：

[0018]

步骤1.3.1)，对于一组发动机全寿命观测数据其中， 

xt表示选择的传感器参数，表示发动机的失效循环数即其使用寿命，HIt是人为构造 的健康指标

假设当前时刻的输入数据为xt，上一时刻LSTM网络的输出ht-1， 则当前时

刻LSTM网络的输出计算如下：

[0019]ft＝σ(wf·[ht-1,xt]+bf)[0020]it＝σ(wi·[ht-1,xt]+bi)

[0021][0022]

ot＝σ(wo·[ht-1,xt]+bo)[0024]ht＝ot·Φ(St)[0025]其中，σ(·)，g(·)表示激活函数，w表示权重，b表示偏置，St表示LSTM网络的记忆 状态量，it表示输入门的输出，ft表示遗忘门的输出，ot表示输出门的输出；[0026]步骤1.3.2)，由步骤1.3.1前向计算所有输入样本对应的LSTM网络的输出，并记 录各个训练样本的误差；[0027]步骤1.3.3)，根据前向计算得到的误差，通过误差梯度下降法训练LSTM网络直到 精度满足要求；

[0028]步骤1.3.4)，将n组发动机全寿命观测数据分别训练n个LSTM网络，得到n个 LSTM-HI模型，建立模型库。[0029]优选的：步骤2)中所述根据发动机过往传感器数据，训练ARIMA模型并向后多 步预测发动机传感器参数具体步骤如下：

[0023][0030]

步骤2.1)，若已知发动机过往退化的传感器数据为其中，

xt表示选择的传感器测量参数，r表示发动机当前循环数；针对每一维选择的传感器参数， 

建立其ARIMA预测模型，其表达式如下：

5

CN 109472110 A[0031]

说　明　书

3/6页

wt＝φ1·wt-1+φ2·wt-2+…+φp·wp-2

[0032]+δ+μθμθμθμt+1·t-1+2·t-2+…+q·q-2[0033]其中，μδ是表示序列数据没有0均值化的常数，φ和分别θ表示差t是白噪声序列，分 项和移动平均项的系数，wt表示数据在t时刻的差分项，其表示为：

[0034]

其中，d表示进行差分的阶数，L是延迟因子；[0036]步骤2.2)，在确定ARIMA模型的阶数之后，根据过往数据，由最小二乘法估计 ARIMA模型的参数；[0037]步骤2.3)，根据得到的ARIMA模型，分别对各个传感器参数进行多步预测，得到 各个传感器的预测数据。[0038]优选的：步骤3)中所述由预测的传感器参数，根据LSTM-HI指标评价发动机是 否退化至失效，得到发动机剩余使用寿命及其概率分布具体步骤如下：[0039]步骤3.1)，计算传感器预测数据对应的健康指标HI序列，定义失效阈值为θ当 f，HI超过阈值时判断发动机退化至失效，其对应的循环数减去当前循环数即为发动机剩 余使用寿命RUL；

[0040]步骤3.2)，由LSTM-HI模型库和步骤2)得到的传感器参数预测数据，分别计算 出n个HI序列，根据步骤3.1)得到n个发动机RUL预测值；[0041]步骤3.3)，采用高斯分布函数对n个发动机RUL预测值进行拟合，得到发动机RUL 的概率分布。

[0042]有益效果：本发明提出了一种新颖的航空发动机剩余使用寿命预测方法，具有较高 的准确率和可行性，对于航空发动机实时健康管理、降低维修成本有着积极促进的作用。

附图说明

[0043]图1是航空发动机剩余使用寿命预测方法示意图。[0044]图2是C-MAPSS系统结构示意图。

[0045]图3是特征参数真实变化曲线与平滑处理后的曲线。[0046]图4是特征参数经一个窗口预测后的变化趋势图。[0047]图5是#1测试发动机剩余使用寿命预测结果。[0048]图6是#2测试发动机剩余使用寿命预测结果。[0049]图7是#3测试发动机剩余使用寿命预测结果。[0050]图8是测试集20台发动机剩余寿命预测结果。

[0051]

[0035]

具体实施方式

6

CN 109472110 A[0052]

说　明　书

4/6页

下面结合附图对本发明的具体实施方式作更进一步的说明。

[0053]本发明说明的一种基于LSTM网络和ARIMA模型的航空发动机剩余使用寿命预测 方法，具体包括以下步骤：[0054]步骤1)，根据发动机历史退化数据，建立n个基于LSTM深度神经网络的发动机 健康指标(LSTM-HI)模型，构建反映剩余使用寿命的健康指标模型库；[0055]步骤1.1)，根据航空发动机由健康退化至失效的历史数据，选择合适的传感器参数， 并进行降噪、平滑处理，组成n个训练数据集；[0056]步骤1.2)，针基于深度学习网络LSTM和训练数据集构建航空发动机健康状态评价 指标LSTM-HI，具体表达式如下：

[0057][0058][0059]

其中，表示选择的传感器参数，k表示选择的传感器参数的数量，t表示时刻。

步骤1.3)，训练深度学习网络LSTM，得到n个LSTM-HI模型，建立航空发动机 健康状态评价指标模型库。

步骤1.3.1)，对于一组发动机全寿命观测数据

其中， 

[0060]

HIt是人为构造 的健xt表示选择的传感器参数，表示发动机的失效循环数即其使用寿命，康指标

假设当前时刻的输入数据为xt，上一时刻LSTM网络的输出ht-1， 则当前

时刻LSTM网络的输出计算如下：

[0061]ft＝σ(wf·[ht-1,xt]+bf)[0062]it＝σ(wi·[ht-1,xt]+bi)

[0063][00]

ot＝σ(wo·[ht-1,xt]+bo)[0066]ht＝ot·Φ(St)[0067]其中，σ(·)，g(·)表示激活函数，w表示权重，b表示偏置，St表示LSTM网络的记忆 状态量，it表示输入门的输出，ft表示遗忘门的输出，ot表示输出门的输出。[0068]步骤1.3.2)，由步骤1.3.1前向计算所有输入样本对应的LSTM网络的输出，并记 录各个训练样本的误差；[0069]步骤1.3.3)，根据前向计算得到的误差，通过误差梯度下降法训练LSTM网络直到 精度满足要求；

[0070]步骤1.3.4)，将n组发动机全寿命观测数据分别训练n个LSTM网络，得到n个 LSTM-HI模型，建立模型库。[0071]步骤2)，根据待测试发动机过往传感器数据集，训练ARIMA模型，设计预测窗口 长度l，并向后预测窗口长度l的发动机传感器参数；

[0065][0072]

步骤2.1)，若已知发动机过往退化的传感器数据为其中，

xt表示选择的传感器测量参数，r表示发动机当前循环数。针对每一维选择的传感器参数， 建立其ARIMA预测模型，其表达式如下：

[0073]wt＝φ1·wt-1+φ2·wt-2+…+φp·wp-2

7

CN 109472110 A[0074]

说　明　书

5/6页

+δ+μθμθμθμt+1·t-1+2·t-2+…+q·q-2

[0075]其中，μδ是表示序列数据没有0均值化的常数，φ和分别θ表示差t是白噪声序列，分 项和移动平均项的系数，wt表示数据在t时刻的差分项，其表示为：

[0076]

其中，d表示进行差分的阶数，L是延迟因子。[0078]步骤2.2)，在确定ARIMA模型的阶数之后，根据过往数据，由最小二乘法估计 ARIMA模型的参数；[0079]步骤2.3)，根据得到的ARIMA模型，分别对各个传感器参数进行多步预测，得到 各个传感器的预测数据。[0080]步骤3)，根据预测的传感器参数以及LSTM网络健康指标模型库，解算LSTM-HI 指标，评价发动机是否退化至失效，若超过失效阈值，则拟合概率分布特征参数，获得 发动机剩余使用寿命；否则，转至步骤2)，再增加预测窗口长度l，依次进行计算；[0081]步骤3.1)，计算传感器预测数据对应的健康指标HI序列。定义失效阈值为θ当HIf，超过阈值时判断发动机退化至失效，其对应的循环数减去当前循环数即为发动机剩 余使用寿命RUL；

[0082]步骤3.2)，由LSTM-HI模型库和步骤2)得到的传感器参数预测数据，分别计算 出n个HI序列，根据步骤3.1)得到n个发动机RUL预测值；[0083]步骤3.3)，采用高斯分布函数对n个发动机RUL预测值进行拟合，得到发动机RUL 的概率分布。

[0084]为了验证本发明所设计的基于KEOS-ELM算法的航空发动机传感器智能解析余度 设计方法的有效性，在MATLAB环境下进行了相关的数字仿真。在本次仿真中，使用 C-MAPSS数据集中“train_FD001.txt”和“test_FD001.txt”这两个文件中的数据作为训练数 据和测试数据，C-MAPSS的各个模块的链接和布局如图2所示。其中，训练数据集中 共包含100组不同发动机从健康状态退化至失效的全寿命观测数据，因此，本发明共训 练100个LSTM-HI模型，并建立LSTM-HI模型库。测试集中包含100组不同发动机退 化至不同程度的观测数据，为了验证本发明所提方法的性能，从中随机取20组进行剩 余使用寿命的预测。通过对21个传感器数据的分析，选取其中有效的5个参数包含T24， Nf，Ps30，NRf和BPR进行发动机性能参数预测，各参数的说明如表1所示。[0085]表1发动机传感器测量参数

[0077]

[0086]

8

CN 109472110 A[0087]

说　明　书

6/6页

由于原始的数据存在较大的噪声，因此先对其进行了标准化和平滑处理得到更为

真 实的发动机数据。图3是某一组训练数据经过降噪与平滑处理后的各个传感器参数曲线。 图4是以第一组发动机测试数据(#1)经过ARIMA模型进行参数多步预测的结果。图5、 图6和图7是选取1-3组发动机测试数据(#1、#2和#3)，其HI变化曲线和得到的剩余 使用寿命预测结果及其概率分布。表2是全部20组发动机测试数据所得到的预测结果。[0088]表2全部20组发动机测试数据剩余使用寿命预测结果

[00]

[0090]

结合图5、图6和图7以及表2可以看出，本发明提出的发动机剩余使用寿命预测 方

法有着较高的预测精度，其预测相对误差在10％左右，而绝对误差大部分都位于10 个循环以内。图8是全部20组发动机测试数据预测的结果曲线。但是，对于个别发动 机如#4、#10和#16发动机的预测误差较大，这可能是由于其当前退化循环数较小，过 往传感器数据较少，ARIMA模型不能有效地对其退化过程进行建模，因此导致预测误 差较大。但总的来说，本发明提出的一种基于LSTM网络和ARIMA模型的航空发动机剩 余使用寿命预测方法可以有效地预测航空发动机的剩余使用寿命，具有较高的准确率和可行 性。[0092]需要指出的是，以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不 局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的 变化和替换，都应涵盖在本发明的保护范围内。因此，本发明的保护范围应以所述权利 要求的保护范围为准。

[0091]

9

CN 109472110 A

说　明　书　附　图

1/5页

图1

图2

10

CN 109472110 A

说　明　书　附　图

图3

11

2/5页

CN 109472110 A

说　明　书　附　图

3/5页

图4

12

CN 109472110 A

说　明　书　附　图

4/5页

图5

图6

13

CN 109472110 A

说　明　书　附　图

5/5页

图7

图8

14