[go: up one dir, main page]

CN113642779A - 基于特征融合的ResNet50网络关键设备剩余寿命预测方法 - Google Patents

基于特征融合的ResNet50网络关键设备剩余寿命预测方法 Download PDF

Info

Publication number
CN113642779A
CN113642779A CN202110829782.XA CN202110829782A CN113642779A CN 113642779 A CN113642779 A CN 113642779A CN 202110829782 A CN202110829782 A CN 202110829782A CN 113642779 A CN113642779 A CN 113642779A
Authority
CN
China
Prior art keywords
sample
residual
matrix
space
dimension
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110829782.XA
Other languages
English (en)
Inventor
谢国
杨婧
李艳恺
穆凌霞
梁莉莉
辛菁
刘涵
钱富才
李思雨
王承兰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian University of Technology
Original Assignee
Xian University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian University of Technology filed Critical Xian University of Technology
Priority to CN202110829782.XA priority Critical patent/CN113642779A/zh
Publication of CN113642779A publication Critical patent/CN113642779A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Business, Economics & Management (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Human Resources & Organizations (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Development Economics (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Marketing (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明公开了一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，首先对系统设备中各传感器采集的数据信息进行相关性分析，过滤与寿命关联程度较低的特征变量，确定影响系统寿命的高关联度特征变量；然后利用ISOMAP算法融合高关联度特征变量，得到融合特征变量，有效的集成传感器信息；针对融合特征变量，和系统对应时刻的剩余寿命构成剩余寿命预测总样本集，最后建立预测模型并预测剩余寿命，得到系统剩余寿命预测结果。本发明对工业领域中的设备寿命进行准确预测，及时提示工作人员对设备进行预防性维护。

Description

基于特征融合的ResNet50网络关键设备剩余寿命预测方法
技术领域
本发明属于智能制造系统的监测与维护技术领域，具体涉及一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法。
背景技术
预测与健康管理(Prognostic and Health Management,PHM)技术在现代工业中至关重要，并已广泛应用于民用航空、汽车和制造业。随着时间的累积，由于设备在受到内部因素和各种外部因素(如磨损、外部冲击、负载、运行环境)的影响下，其性能及健康状态将会呈现不同程度的退化趋势，不断累积最终导致设备发生故障，造成无法估量的经济损失与安全事故等。剩余使用寿命(RUL)预测是现代工业领域预测健康管理(PHM)技术中最重要的组成部分之一，它的定义是从当前时刻的使用寿命到该寿命结束的长度。为了提高系统的安全性与可靠性，降低维修成本，需要确保在最佳时期对设备进行维护，定期更换零件，防止故障的累积最终造成的设备失效。对设备各部件传感器数据进行监测，准确的预测设备处于某时刻的剩余使用寿命，便可找到适当的时机对设备进行预防性维护，减少设备的停机时间，节约成本。
由于对系统剩余使用寿命的预测主要基于多传感器收集到的大量监测数据，来评估系统整体的退化状态，及时对系统做出维护。单个传感器特征不足以准确判断系统的健康状态，因此需要多种特征。但特征过多会造成信息冗余，增大计算负担。于是过滤与寿命关联度低的特征并对其余多传感器特征进行融合，以获得更好的健康指标，提高预测方法的准确性，使预防性维护更加及时有效。针对剩余寿命预测研究中，特征过多导致维数爆炸从而使得计算效率低下的问题，提出一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，该方法不仅能够增强对剩余寿命预测研究的信心，对于该学科和行业的进步起着关键性的作用。
发明内容
本发明的目的是提供一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，对工业领域中的设备寿命进行准确预测，及时提示工作人员对设备进行预防性维护。
本发明所采用的技术方案是，一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，具体按照以下步骤实施：
步骤1、对系统设备中各传感器采集的数据信息进行相关性分析，过滤与寿命关联程度较低的特征变量，确定影响系统寿命的高关联度特征变量；
步骤2、对所述步骤1得到的高关联度特征变量进行特征融合：利用ISOMAP算法融合步骤1中的高关联度特征变量，得到融合特征变量，有效的集成传感器信息；
步骤3、构建数据集构造策略：针对步骤2中得到的融合特征变量，和系统对应时刻的剩余寿命构成剩余寿命预测总样本集，并将其分为训练集与测试集；
步骤4：建立预测模型并预测剩余寿命：将步骤3中得到的剩余寿命预测总样本集的训练集作为深度残差网络Resnet50的输入训练该预测网络，利用训练好的网络对测试样本进行预测，得到系统剩余寿命预测结果。
本发明的特点还在于，
步骤1具体如下：
步骤1.1、对系统设备中传感器采集的数据信息进行编号，n表示为传感器的序号，xn为第n个传感器的监测数据信息，监测数据X表示为
Figure BDA0003175054580000031
其中，
Figure BDA0003175054580000032
为系统中i时刻第n个传感器的监测数据信息，i＝1,2,...,t，该系统的剩余寿命Y表示为Y＝{yi}，其中，yi为系统对应i时刻的剩余寿命；
步骤1.2、利用相关性分析计算相关系数
Figure BDA0003175054580000033
Figure BDA0003175054580000034
其中，Cov(xn,Y)为监测数据信息xn和剩余寿命Y之间的协方差，
Figure BDA0003175054580000035
和
Figure BDA0003175054580000036
分别为监测数据信息xn和剩余寿命Y的标准差；
步骤1.3、计算监测数据信息xn和剩余寿命Y的Pearson相关系数
Figure BDA0003175054580000037
具体如下：
相关系数
Figure BDA0003175054580000039
范围：
Figure BDA0003175054580000038
保留结果超过0.8以上的高关联度特征变量。
步骤2具体如下：
步骤2.1、选取邻域，构造邻域图G：近邻参数设置为k，将步骤1.3保留的高关联度特征变量构造样本集D＝{x1,x2,...,xm}，m是原始d维空间的样本集D中样本点的个数，在样本集D＝{x1,x2,...,xm}中任意选取某两个数据点xh与xj，其中，h，j是样本集D中选取的两个数据点的编号，h，j∈1,2,3...m，第一个数据点xh与近邻参数k间距离设为欧氏距离，另一个数据点xj是xh最近的近邻参数k个点之一时，表示它们相近邻，邻域图G有边，即邻域图G构造完毕；
步骤2.2、计算最短路径距离矩阵：若邻域图G上两点xh、xj存在边连接时，定义样本点xh与xj之间的最短路径为dG(xh,xj)＝d(xh,xj)；否则dG(xh,xj)＝∞，其中，d(xh,xj)为数据点xh与xj的欧氏距离；
对l∈1,2,3...m，有：
dG(xh,xj)＝min{dG(xh,xj),dG(xh,xl)+dG(xl,xj)} (3)
其中，xl是样本集D中新的样本点，dG(xh,xl)表示样本点xh与xl之间的最短路径，dG(xl,xj)表示样本点xl与xj之间的最短路径，dG(xh,xj)表示样本点xh与xj之间的最短路径；
基于此，即可确定最短路径距离矩阵为
Figure BDA0003175054580000041
其中，m是d维原始空间的样本集D中样本点的个数，h，j，l是样本集D中选取的三个数据点的编号，h，j，l∈1,2,3...m；
步骤2.3、通过对d维原始空间降维，构造d'维新样本空间，并且使得d'维新样本空间与d维原始空间中的距离保持不变，求取降维后样本的内积矩阵B：令B＝ZTZ∈Rm×m，其中，d是原始空间的维数，d'是新样本空间的维数，Z为d维原始空间嵌入d'维新样本空间的矩阵表示，R为实数集；
构造新样本空间后，d'＜d，且任意两个样本在d'维新样本空间中的欧氏距离等于d维原始空间中的距离，即：
||zh-zj||＝disthj (4)
其中，zh,zj分别表示样本点xh,xj在d'维新样本空间中的欧氏距离，disthj表示样本点xh和xj在d维原始空间中的距离；
将式(4)展开并对等号两端求平方得：
Figure BDA0003175054580000051
Figure BDA0003175054580000052
bhh与bjj以此类推，则有：
Figure BDA0003175054580000053
Figure BDA0003175054580000054
其中，bhj为内积矩阵B中第h行j列的元素，bhh与bjj以此类推，disthj表示样本点xh和xj在d维原始空间的距离，disth·、dist·j及dist··以此类推；
通过求得bhj，bhh，bjj等内积矩阵B中的元素可得内积矩阵B；
步骤2.4、对最短路径距离矩阵DG构造d维嵌入，最终得到样本通过d维原始空间嵌入d'维新样本空间的矩阵表示Z∈Rd′×m；
由步骤2.3求得的内积矩阵B通过特征分解获得特征值矩阵和特征向量矩阵，即：
B＝VΛVT (8)
其中，Λ＝diag(λ1,λ2,...,λd)为特征值构成的对角矩阵，λ1≥λ2≥...≥λd，λ1,λ2,...,λd为分解获得的特征值，V为对应的特征向量矩阵。
则d维原始空间嵌入d'维新样本空间的矩阵表示Z的计算公式为：
Figure BDA0003175054580000055
计算Z的结果后可得到矩阵表示为：
Figure BDA0003175054580000056
此时的结果
Figure BDA0003175054580000057
便是融合后的特征变量；
其中，有d*个非零特征值，
Figure BDA0003175054580000058
为特征值构成的对角矩阵，特征值
Figure BDA0003175054580000059
V*为对应的特征向量矩阵；
Figure BDA00031750545800000510
为d'维新样本空间中i时刻第m'个样本点的融合特征变量，m'是d'维新样本空间中样本点的个数。
步骤3具体如下：
步骤3.1、构造样本集：将步骤2中得到的融合后的特征变量
Figure BDA0003175054580000061
和系统剩余寿命Y＝{yi}重构为剩余寿命预测样本集
Figure BDA0003175054580000062
Figure BDA0003175054580000063
分别为重构的剩余寿命预测样本集中的特征变量，并按照7:3的比例划分为训练集和验证集，其中，yi为系统对应i时刻的剩余寿命；
步骤3.2、构造子训练集和子测试集：将步骤3.1中划分好的训练集再次按照7:3的比例划分为子训练集和子测试集；
步骤3.3、构造总训练集和总测试集：将步骤3.2得到的子训练集中的特征变量按照列堆叠的形式合并为总训练集，同时，对应步骤3.2中子训练集的合并顺序，将子测试集中的特征变量以列堆叠的形式合并为总测试集，最终形成由总训练集、总测试集和步骤3.1得到的验证集构成的剩余寿命预测总样本集。
步骤4具体如下：
步骤4.1、构建50层深度残差网络ResNet50：深度残差网络ResNet50由3部分组成，分别为卷积池化部分、4个残差块部分、池化展平部分，残差块部分有两个基本的结构，分别为恒等残差块和卷积残差块；
步骤4.2、特征提取：将步骤3中得到的剩余寿命预测总样本集的训练集作为深度残差网络Resnet50的输入，采用一维卷积核对训练集进行特征提取，并对提取的卷积特征进行最大值池化，以获得池化特征；
步骤4.3、残差块的特征提取：将池化特征作为残差块的输入，深度残差网络Resnet50的残差块由以下四部分组成：一个卷积残差块和两个恒等残差块、一个卷积残差块和三个恒等残差块、一个卷积残差块和五个恒等残差块、一个卷积残差块和两个恒等残差块，上述四个残差块按照顺序连接组成为残差网络核心部分；
步骤4.4、建立预测模型：经平均池化层整合残差块的输出，再通过展平层获得预测模型；
步骤4.5、得到剩余寿命预测结果：将测试集输入预测模型中，得到剩余寿命预测结果，每进行一次预测得到输出的预测结果，将该预测结果和系统采集的剩余寿命真实数据之间的误差反向传播给深度残差网络Resnet50，并对网络中的各参数进行调优，当网络的误差小于0.05时，说明网络收敛，利用训练好的网络对测试样本进行预测，最终得到系统剩余寿命预测结果，实现系统的剩余寿命的准确预测。
本发明的有益效果是，一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，通过相关性分析的方法排除影响系统设备寿命的低关联度特征，利用ISOMAP算法对高关联度特征进行融合，有效的集成传感器信息，并且消除传感器之间的耦合性。将ISOMAP算法和深度残差网络Resnet50结合，使融合后的传感器特征信息作为深度残差网络Resnet50的输入训练该预测网络，学习各特征之间的隐层关系，构建剩余寿命预测模型，实现了剩余寿命的预测。通过实验仿真验证了所提方法在剩余寿命预测方面的准确性和高效性。
附图说明
图1为本发明基于特征融合的ResNet50网络关键设备剩余寿命预测方法总体流程图；
图2为本发明中传感器特征变量相关性分析结果图；
图3为本发明中采用ISOMAP算法进行特征融合流程图；
图4为本发明中深度残差网络ResNet50整体结构图；
图5为本发明中深度残差网络ResNet50预测过程流程图；
图6为本发明预测结果图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，流程图如图1所示，具体按照以下步骤实施：
步骤1、保留影响系统设备运行时长的高关联度特征变量：对系统设备中各传感器采集的数据信息进行相关性分析，过滤与寿命关联程度较低的特征变量，确定影响系统寿命的高关联度特征变量；
结合图2～图5，步骤1具体如下：
步骤1.1、对系统设备中传感器采集的数据信息进行编号，n表示为传感器的序号，xn为第n个传感器的监测数据信息，监测数据X表示为
Figure BDA0003175054580000081
其中，
Figure BDA0003175054580000082
为系统中i时刻第n个传感器的监测数据信息，i＝1,2,...,t，该系统的剩余寿命Y表示为Y＝{yi}，其中，yi为系统对应i时刻的剩余寿命；
步骤1.2、利用相关性分析计算相关系数
Figure BDA0003175054580000083
Figure BDA0003175054580000084
其中，Cov(xn,Y)为监测数据信息xn和剩余寿命Y之间的协方差，
Figure BDA0003175054580000085
和
Figure BDA0003175054580000086
分别为监测数据信息xn和剩余寿命Y的标准差；
步骤1.3、计算监测数据信息xn和剩余寿命Y的Pearson相关系数
Figure BDA0003175054580000087
具体如下：
相关系数
Figure BDA0003175054580000092
范围：
Figure BDA0003175054580000091
保留结果超过0.8以上的高关联度特征变量。
步骤2、对所述步骤1得到的高关联度特征变量进行特征融合：利用ISOMAP算法融合步骤1中的高关联度特征变量，得到融合特征变量，有效的集成传感器信息；
步骤2具体如下：
步骤2.1、选取邻域，构造邻域图G：近邻参数设置为k，将步骤1.3保留的高关联度特征变量构造样本集D＝{x1,x2,...,xm}，m是原始d维空间的样本集D中样本点的个数，在样本集D＝{x1,x2,...,xm}中任意选取某两个数据点xh与xj，其中，h，j是样本集D中选取的两个数据点的编号，h，j∈1,2,3...m，第一个数据点xh与近邻参数k间距离设为欧氏距离，另一个数据点xj是xh最近的近邻参数k个点之一时，表示它们相近邻，邻域图G有边，即邻域图G构造完毕；
步骤2.2、计算最短路径距离矩阵：若邻域图G上两点xh、xj存在边连接时，定义样本点xh与xj之间的最短路径为dG(xh,xj)＝d(xh,xj)；否则dG(xh,xj)＝∞，其中，d(xh,xj)为数据点xh与xj的欧氏距离；
对l∈1,2,3...m，有：
dG(xh,xj)＝min{dG(xh,xj),dG(xh,xl)+dG(xl,xj)} (3)
其中，xl是样本集D中新的样本点，dG(xh,xl)表示样本点xh与xl之间的最短路径，dG(xl,xj)表示样本点xl与xj之间的最短路径，dG(xh,xj)表示样本点xh与xj之间的最短路径；
基于此，即可确定最短路径距离矩阵为
Figure BDA0003175054580000101
其中，m是d维原始空间的样本集D中样本点的个数，h，j，l是样本集D中选取的三个数据点的编号，h，j，l∈1,2,3...m；
步骤2.3、通过对d维原始空间降维，构造d'维新样本空间，并且使得d'维新样本空间与d维原始空间中的距离保持不变，求取降维后样本的内积矩阵B：令B＝ZTZ∈Rm×m，其中，d是原始空间的维数，d'是新样本空间的维数，Z为d维原始空间嵌入d'维新样本空间的矩阵表示，R为实数集；
构造新样本空间后，d'＜d，且任意两个样本在d'维新样本空间中的欧氏距离等于d维原始空间中的距离，即：
||zh-zj||＝disthj (4)
其中，zh,zj分别表示样本点xh,xj在d'维新样本空间中的欧氏距离，disthj表示样本点xh和xj在d维原始空间中的距离；
将式(4)展开并对等号两端求平方得：
Figure BDA0003175054580000102
Figure BDA0003175054580000103
bhh与bjj以此类推，则有：
Figure BDA0003175054580000104
Figure BDA0003175054580000105
其中，bhj为内积矩阵B中第h行j列的元素，bhh与bjj以此类推，disthj表示样本点xh和xj在d维原始空间的距离，disth·、dist·j及dist··以此类推；
通过求得bhj，bhh，bjj等内积矩阵B中的元素可得内积矩阵B；
步骤2.4、对最短路径距离矩阵DG构造d维嵌入，最终得到样本通过d维原始空间嵌入d'维新样本空间的矩阵表示Z∈Rd′×m；
由步骤2.3求得的内积矩阵B通过特征分解获得特征值矩阵和特征向量矩阵，即：
B＝VΛVT (8)
其中，Λ＝diag(λ1,λ2,...,λd)为特征值构成的对角矩阵，λ1≥λ2≥...≥λd，λ1,λ2,...,λd为分解获得的特征值，V为对应的特征向量矩阵。
则d维原始空间嵌入d'维新样本空间的矩阵表示Z的计算公式为：
Figure BDA0003175054580000111
计算Z的结果后可得到矩阵表示为：
Figure BDA0003175054580000112
此时的结果
Figure BDA0003175054580000113
便是融合后的特征变量；
其中，有d*个非零特征值，
Figure BDA0003175054580000114
为特征值构成的对角矩阵，特征值
Figure BDA0003175054580000115
V*为对应的特征向量矩阵；
Figure BDA0003175054580000116
为d'维新样本空间中i时刻第m'个样本点的融合特征变量，m'是d'维新样本空间中样本点的个数。
步骤3、构建数据集构造策略：针对步骤2中得到的融合特征变量，和系统对应时刻的剩余寿命构成剩余寿命预测总样本集，并将其分为训练集与测试集；
步骤3具体如下：
步骤3.1、构造样本集：将步骤2中得到的融合后的特征变量
Figure BDA0003175054580000117
和系统剩余寿命Y＝{yi}重构为剩余寿命预测样本集
Figure BDA0003175054580000118
Figure BDA0003175054580000119
分别为重构的剩余寿命预测样本集中的特征变量，并按照7:3的比例划分为训练集和验证集，其中，yi为系统对应i时刻的剩余寿命；
步骤3.2、构造子训练集和子测试集：将步骤3.1中划分好的训练集再次按照7:3的比例划分为子训练集和子测试集；
步骤3.3、构造总训练集和总测试集：将步骤3.2得到的子训练集中的特征变量按照列堆叠的形式合并为总训练集，同时，对应步骤3.2中子训练集的合并顺序，将子测试集中的特征变量以列堆叠的形式合并为总测试集，最终形成由总训练集、总测试集和步骤3.1得到的验证集构成的剩余寿命预测总样本集。
步骤4：建立预测模型并预测剩余寿命：将步骤3中得到的剩余寿命预测总样本集的训练集作为深度残差网络Resnet50的输入训练该预测网络，利用训练好的网络对测试样本进行预测，得到系统剩余寿命预测结果,，及时提示工作人员对设备整体进行预防性维护。
步骤4具体如下：
步骤4.1、构建50层深度残差网络ResNet50：深度残差网络ResNet50由3部分组成，分别为卷积池化部分、4个残差块部分、池化展平部分，残差块部分有两个基本的结构，分别为恒等残差块和卷积残差块；整体结构如图4所示。两种残差块的不同点在于捷径连接处有无卷积层，作用是解决维度不匹配的问题。
步骤4.2、特征提取：将步骤3中得到的剩余寿命预测总样本集的训练集作为深度残差网络Resnet50的输入，采用一维卷积核对训练集进行特征提取，并对提取的卷积特征进行最大值池化，以获得池化特征；
步骤4.3、残差块的特征提取：将池化特征作为残差块的输入，深度残差网络Resnet50的残差块由以下四部分组成：一个卷积残差块和两个恒等残差块、一个卷积残差块和三个恒等残差块、一个卷积残差块和五个恒等残差块、一个卷积残差块和两个恒等残差块，上述四个残差块按照顺序连接组成为残差网络核心部分，随着网络层数的加深，经由残差块特有的捷径连接，将残差结果逼近于0，减少输入的损失；
步骤4.4、建立预测模型：经平均池化层整合残差块的输出，再通过展平层获得预测模型；
步骤4.5、得到剩余寿命预测结果：将测试集输入预测模型中，得到剩余寿命预测结果，具体的寿命预测流程见图5所示。每进行一次预测得到输出的预测结果，将该预测结果和系统采集的剩余寿命真实数据之间的误差反向传播给深度残差网络Resnet50，并对网络中的各参数进行调优，当网络的误差小于0.05时，说明网络收敛，利用训练好的网络对测试样本进行预测，最终得到系统剩余寿命预测结果，实现系统的剩余寿命的准确预测。
实施例
本次实验以涡轮发动机系统为研究对象，共收集了21个传感器在四种故障模式下的样本数据，以一种故障模式的数据集为例(100台发动机共20631个样本数据)，随机选取第17台发动机数据(共276个寿命周期数据)。经过相关性分析与ISOMAP特征融合后，保留相关系数
Figure BDA0003175054580000131
超过0.8的4个特征变量。将前200个寿命周期数据作为总训练集，将后76个寿命周期数据作为总测试集。基于以上数据，采用本发明的方法进行多变量剩余寿命预测，为了更加清晰地描述实验结果，将仿真结果可视化，结果见图6。通过观察图6可知，所提模型的预测结果与实际数据误差较小，效果较好。

Claims (5)

1.一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，其特征在于，具体按照以下步骤实施：
步骤1、对系统设备中各传感器采集的数据信息进行相关性分析，过滤与寿命关联程度较低的特征变量，确定影响系统寿命的高关联度特征变量；
步骤2、对所述步骤1得到的高关联度特征变量进行特征融合：利用ISOMAP算法融合步骤1中的高关联度特征变量，得到融合特征变量，有效的集成传感器信息；
步骤3、构建数据集构造策略：针对步骤2中得到的融合特征变量，和系统对应时刻的剩余寿命构成剩余寿命预测总样本集，并将其分为训练集与测试集；
步骤4：建立预测模型并预测剩余寿命：将步骤3中得到的剩余寿命预测总样本集的训练集作为深度残差网络Resnet50的输入训练该预测网络，利用训练好的网络对测试样本进行预测，得到系统剩余寿命预测结果。
2.根据权利要求1所述的一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，其特征在于，所述步骤1具体如下：
步骤1.1、对系统设备中传感器采集的数据信息进行编号，n表示为传感器的序号，xn为第n个传感器的监测数据信息，监测数据X表示为
Figure FDA0003175054570000011
其中，
Figure FDA0003175054570000012
为系统中i时刻第n个传感器的监测数据信息，i＝1,2,...,t，该系统的剩余寿命Y表示为Y＝{yi}，其中，yi为系统对应i时刻的剩余寿命；
步骤1.2、利用相关性分析计算相关系数
Figure FDA0003175054570000013
Figure FDA0003175054570000021
其中，Cov(xn,Y)为监测数据信息xn和剩余寿命Y之间的协方差，
Figure FDA0003175054570000022
和
Figure FDA0003175054570000023
分别为监测数据信息xn和剩余寿命Y的标准差；
步骤1.3、计算监测数据信息xn和剩余寿命Y的Pearson相关系数ρxnY，具体如下：
相关系数ρxnY范围：
Figure FDA0003175054570000024
保留结果超过0.8以上的高关联度特征变量。
3.根据权利要求2所述的一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，其特征在于，所述步骤2具体如下：
步骤2.1、选取邻域，构造邻域图G：近邻参数设置为k，将步骤1.3保留的高关联度特征变量构造样本集D＝{x1,x2,...,xm}，m是原始d维空间的样本集D中样本点的个数，在样本集D＝{x1,x2,...,xm}中任意选取某两个数据点xh与xj，其中，h，j是样本集D中选取的两个数据点的编号，h，j∈1,2,3...m，第一个数据点xh与近邻参数k间距离设为欧氏距离，另一个数据点xj是xh最近的近邻参数k个点之一时，表示它们相近邻，邻域图G有边，即邻域图G构造完毕；
步骤2.2、计算最短路径距离矩阵：若邻域图G上两点xh、xj存在边连接时，定义样本点xh与xj之间的最短路径为dG(xh,xj)＝d(xh,xj)；否则dG(xh,xj)＝∞，其中，d(xh,xj)为数据点xh与xj的欧氏距离；
对l∈1,2,3...m，有：
dG(xh,xj)＝min{dG(xh,xj),dG(xh,xl)+dG(xl,xj)} (3)
其中，xl是样本集D中新的样本点，dG(xh,xl)表示样本点xh与xl之间的最短路径，dG(xl,xj)表示样本点xl与xj之间的最短路径，dG(xh,xj)表示样本点xh与xj之间的最短路径；
基于此，即可确定最短路径距离矩阵为
Figure FDA0003175054570000031
其中，m是d维原始空间的样本集D中样本点的个数，h，j，l是样本集D中选取的三个数据点的编号，h，j，l∈1,2,3...m；
步骤2.3、通过对d维原始空间降维，构造d'维新样本空间，并且使得d'维新样本空间与d维原始空间中的距离保持不变，求取降维后样本的内积矩阵B：令B＝ZTZ∈Rm×m，其中，d是原始空间的维数，d'是新样本空间的维数，Z为d维原始空间嵌入d'维新样本空间的矩阵表示，R为实数集；
构造新样本空间后，d'＜d，且任意两个样本在d'维新样本空间中的欧氏距离等于d维原始空间中的距离，即：
||zh-zj||＝disthj (4)
其中，zh,zj分别表示样本点xh,xj在d'维新样本空间中的欧氏距离，disthj表示样本点xh和xj在d维原始空间中的距离；
将式(4)展开并对等号两端求平方得：
Figure FDA0003175054570000032
Figure FDA0003175054570000033
bhh与bjj以此类推，则有：
Figure FDA0003175054570000034
Figure FDA0003175054570000035
其中，bhj为内积矩阵B中第h行j列的元素，bhh与bjj以此类推，disthj表示样本点xh和xj在d维原始空间的距离，disth·、dist·j及dist··以此类推；
通过求得bhj，bhh，bjj等内积矩阵B中的元素可得内积矩阵B；
步骤2.4、对最短路径距离矩阵DG构造d维嵌入，最终得到样本通过d维原始空间嵌入d'维新样本空间的矩阵表示Z∈Rd′×m；
由步骤2.3求得的内积矩阵B通过特征分解获得特征值矩阵和特征向量矩阵，即：
B＝VΛVT (8)
其中，Λ＝diag(λ1,λ2,...,λd)为特征值构成的对角矩阵，λ1≥λ2≥...≥λd，λ1,λ2,...,λd为分解获得的特征值，V为对应的特征向量矩阵。
则d维原始空间嵌入d'维新样本空间的矩阵表示Z的计算公式为：
Figure FDA0003175054570000041
计算Z的结果后可得到矩阵表示为：
Figure FDA0003175054570000042
此时的结果
Figure FDA0003175054570000043
便是融合后的特征变量；
其中，有d*个非零特征值，Λ*＝diag(λ1,λ2,...,λd*)为特征值构成的对角矩阵，特征值λ1≥λ2≥...≥λd*，V*为对应的特征向量矩阵；
Figure FDA0003175054570000044
为d'维新样本空间中i时刻第m'个样本点的融合特征变量，m'是d'维新样本空间中样本点的个数。
4.根据权利要求3所述的一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，其特征在于，所述步骤3具体如下：
步骤3.1、构造样本集：将步骤2中得到的融合后的特征变量
Figure FDA0003175054570000045
和系统剩余寿命Y＝{yi}重构为剩余寿命预测样本集
Figure FDA0003175054570000046
yi,
Figure FDA0003175054570000047
分别为重构的剩余寿命预测样本集中的特征变量，并按照7:3的比例划分为训练集和验证集，其中，yi为系统对应i时刻的剩余寿命；
步骤3.2、构造子训练集和子测试集：将步骤3.1中划分好的训练集再次按照7:3的比例划分为子训练集和子测试集；
步骤3.3、构造总训练集和总测试集：将步骤3.2得到的子训练集中的特征变量按照列堆叠的形式合并为总训练集，同时，对应步骤3.2中子训练集的合并顺序，将子测试集中的特征变量以列堆叠的形式合并为总测试集，最终形成由总训练集、总测试集和步骤3.1得到的验证集构成的剩余寿命预测总样本集。
5.根据权利要求4所述的一种基于特征融合的ResNet50网络关键设备剩余寿命预测方法，其特征在于，所述步骤4具体如下：
步骤4.1、构建50层深度残差网络ResNet50：深度残差网络ResNet50由3部分组成，分别为卷积池化部分、4个残差块部分、池化展平部分，残差块部分有两个基本的结构，分别为恒等残差块和卷积残差块；
步骤4.2、特征提取：将步骤3中得到的剩余寿命预测总样本集的训练集作为深度残差网络Resnet50的输入，采用一维卷积核对训练集进行特征提取，并对提取的卷积特征进行最大值池化，以获得池化特征；
步骤4.3、残差块的特征提取：将池化特征作为残差块的输入，深度残差网络Resnet50的残差块由以下四部分组成：一个卷积残差块和两个恒等残差块、一个卷积残差块和三个恒等残差块、一个卷积残差块和五个恒等残差块、一个卷积残差块和两个恒等残差块，上述四个残差块按照顺序连接组成为残差网络核心部分；
步骤4.4、建立预测模型：经平均池化层整合残差块的输出，再通过展平层获得预测模型；
步骤4.5、得到剩余寿命预测结果：将测试集输入预测模型中，得到剩余寿命预测结果，每进行一次预测得到输出的预测结果，将该预测结果和系统采集的剩余寿命真实数据之间的误差反向传播给深度残差网络Resnet50，并对网络中的各参数进行调优，当网络的误差小于0.05时，说明网络收敛，利用训练好的网络对测试样本进行预测，最终得到系统剩余寿命预测结果，实现系统的剩余寿命的准确预测。
CN202110829782.XA 2021-07-22 2021-07-22 基于特征融合的ResNet50网络关键设备剩余寿命预测方法 Pending CN113642779A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110829782.XA CN113642779A (zh) 2021-07-22 2021-07-22 基于特征融合的ResNet50网络关键设备剩余寿命预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110829782.XA CN113642779A (zh) 2021-07-22 2021-07-22 基于特征融合的ResNet50网络关键设备剩余寿命预测方法

Publications (1)

Publication Number Publication Date
CN113642779A true CN113642779A (zh) 2021-11-12

Family

ID=78418030

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110829782.XA Pending CN113642779A (zh) 2021-07-22 2021-07-22 基于特征融合的ResNet50网络关键设备剩余寿命预测方法

Country Status (1)

Country Link
CN (1) CN113642779A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114398825A (zh) * 2021-12-30 2022-04-26 燕山大学 预测面向复杂多变工况的切削刀具剩余寿命的方法
CN114399440A (zh) * 2022-01-13 2022-04-26 马上消费金融股份有限公司 图像处理方法、图像处理网络训练方法、装置及电子设备
CN116778311A (zh) * 2023-05-26 2023-09-19 江苏科技大学 一种基于改进的Faster R-CNN的水下目标检测方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190114511A1 (en) * 2017-10-16 2019-04-18 Illumina, Inc. Deep Learning-Based Techniques for Training Deep Convolutional Neural Networks
CN109726517A (zh) * 2019-01-31 2019-05-07 西安理工大学 一种基于多变量关联数据的设备剩余寿命预测方法
CN109855875A (zh) * 2019-01-15 2019-06-07 沈阳化工大学 一种滚动轴承运行可靠度预测方法
CN110046409A (zh) * 2019-03-29 2019-07-23 西安交通大学 一种基于ResNet的汽轮机部件健康状态评估方法
CN110096500A (zh) * 2019-05-07 2019-08-06 上海海洋大学 一种面向海洋多维数据的可视分析方法及系统
CN110378870A (zh) * 2019-06-06 2019-10-25 西安交通大学 一种基于ResNet-GRU网络的汽轮机叶片水蚀程度判别方法
US20200210826A1 (en) * 2018-12-29 2020-07-02 Northeastern University Intelligent analysis system using magnetic flux leakage data in pipeline inner inspection
WO2020191800A1 (zh) * 2019-03-27 2020-10-01 东北大学 基于wde优化lstm网络的锂离子电池剩余寿命预测方法
CN112598144A (zh) * 2020-12-31 2021-04-02 西安理工大学 基于相关性分析的cnn-lstm突发故障预警方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190114511A1 (en) * 2017-10-16 2019-04-18 Illumina, Inc. Deep Learning-Based Techniques for Training Deep Convolutional Neural Networks
US20200210826A1 (en) * 2018-12-29 2020-07-02 Northeastern University Intelligent analysis system using magnetic flux leakage data in pipeline inner inspection
CN109855875A (zh) * 2019-01-15 2019-06-07 沈阳化工大学 一种滚动轴承运行可靠度预测方法
CN109726517A (zh) * 2019-01-31 2019-05-07 西安理工大学 一种基于多变量关联数据的设备剩余寿命预测方法
WO2020191800A1 (zh) * 2019-03-27 2020-10-01 东北大学 基于wde优化lstm网络的锂离子电池剩余寿命预测方法
CN110046409A (zh) * 2019-03-29 2019-07-23 西安交通大学 一种基于ResNet的汽轮机部件健康状态评估方法
CN110096500A (zh) * 2019-05-07 2019-08-06 上海海洋大学 一种面向海洋多维数据的可视分析方法及系统
CN110378870A (zh) * 2019-06-06 2019-10-25 西安交通大学 一种基于ResNet-GRU网络的汽轮机叶片水蚀程度判别方法
CN112598144A (zh) * 2020-12-31 2021-04-02 西安理工大学 基于相关性分析的cnn-lstm突发故障预警方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
彭鸿博;蒋雄伟;: "基于相关向量机的发动机剩余寿命预测", 科学技术与工程 *
胡伟健;樊杰;杜永兴;李宝山;李灵芳;杨颜博;: "基于深度残差网络的番茄细粒度病症识别", 内蒙古科技大学学报 *
邓玲;陕振;马连志;: "基于数据筛选的硬盘剩余使用寿命预测方法", 计算机工程与设计 *
闵宇航: "基于深度残差网络ResNet-50的绿萝状态识别系统", 科学技术创新 *
魏永合;刘炜;杨艳君;苏君金;: "基于LLE及其改进距离算法的轴承故障诊断模型", 组合机床与自动化加工技术 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114398825A (zh) * 2021-12-30 2022-04-26 燕山大学 预测面向复杂多变工况的切削刀具剩余寿命的方法
CN114398825B (zh) * 2021-12-30 2024-08-02 燕山大学 预测面向复杂多变工况的切削刀具剩余寿命的方法
CN114399440A (zh) * 2022-01-13 2022-04-26 马上消费金融股份有限公司 图像处理方法、图像处理网络训练方法、装置及电子设备
CN114399440B (zh) * 2022-01-13 2022-12-13 马上消费金融股份有限公司 图像处理方法、图像处理网络训练方法、装置及电子设备
CN116778311A (zh) * 2023-05-26 2023-09-19 江苏科技大学 一种基于改进的Faster R-CNN的水下目标检测方法

Similar Documents

Publication Publication Date Title
CN109522600B (zh) 基于组合深度神经网络的复杂装备剩余使用寿命预测方法
CN114169091B (zh) 工程机械部件剩余寿命的预测模型建立方法及预测方法
CN102175282B (zh) 一种基于信息融合的离心式空气压缩机故障诊断方法
CN113642779A (zh) 基于特征融合的ResNet50网络关键设备剩余寿命预测方法
CN114925536B (zh) 机载系统phm测试性建模与诊断策略优化方法和装置
CN114297909B (zh) 基于神经网络的水泵故障诊断方法及系统
CN110895814B (zh) 基于上下文编码网络的航空发动机孔探图像损伤分割方法
CN111860775B (zh) 基于cnn和rnn融合的船舶故障实时诊断方法
CN109213753B (zh) 一种基于在线pca的工业系统监测数据恢复方法
CN108153982B (zh) 基于堆叠自编码深度学习网络的航空发动机修后性能预测方法
CN106447039A (zh) 基于自编码神经网络的无监督特征提取方法
CN102789545A (zh) 基于退化模型匹配的涡轮发动机剩余寿命的预测方法
CN112598144A (zh) 基于相关性分析的cnn-lstm突发故障预警方法
CN112613227B (zh) 基于混合机器学习的航空发动机剩余使用寿命预测模型
CN101446283A (zh) 一种基于进化计算诊断压缩机故障的方法
CN118705061A (zh) 基于cnn-lstm的航空发动机预测与健康管理解决方法及系统
CN115458069B (zh) 一种基于拓扑引导时间卷积网络的发酵过程软测量方法
CN115659808B (zh) 一种设备剩余使用寿命预测方法及装置
CN115901232A (zh) 基于流量信号的电磁换向阀寿命预测方法
CN120804558A (zh) 一种基于边缘计算的设备运行状态异常检测方法
CN119599998B (zh) 一种基于SCFlow的工业零件异常检测方法
CN120386327A (zh) 一种核电厂设备故障的诊断方法
CN119357887A (zh) 电机多源异构数据的自适应特征加权融合故障诊断方法
CN119416107A (zh) 一种基于分层拓扑图同构对比学习的异常检测方法
CN119226735A (zh) 一种基于深度学习的滚动轴承剩余寿命预测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20211112

RJ01 Rejection of invention patent application after publication