联合残差域自适应的变工况轴承故障诊断方法

2024-04-27 10:07骆世龙段礼祥张俊玲
石油机械 2024年4期
关键词:源域特征提取残差

骆世龙 段礼祥 张俊玲

滚动轴承由于实际工况变化造成故障数据特征分布不同,出现跨领域问题,传统以数据独立同分布为前提的故障诊断方法难以解决该问题。为此,设计并搭建了聚合残差网络,以残差连接和分组卷积式的独特网络结构实现故障敏感特征深度挖掘。提出一种联合残差域自适应的故障诊断方法,该方法通过最优广义S变换构建聚合残差网络提取图像的可迁移特征,最后以联合最大均值差异自适应地减小数据间的联合分布差异,实现变工况轴承的故障诊断。对3种工況下的滚动轴承进行了6组迁移试验,试验结果表明:联合残差域自适应方法故障诊断准确率达到了98.29%,相比于联合分布自适应法JDA和联合分布自适应+卷积神经网络法JDA+CNN,分别提升了21.0和5.1个百分点。研究结果可为变工况滚动轴承的故障诊断提供技术参考。

滚动轴承;故障诊断;聚合残差网络;联合残差域自适应;故障诊断准确率

Joint ResNeXt Domain Adaptation Diagnosis Method for

BearingFault Under Variable Working Conditions

Rolling bearing has cross-domain problem due to different distribution of fault data features caused by changes in actual working conditions,which is difficult to be solved by the conventional fault diagnosis method that takes the independent co-distribution of data as the prerequisite.Therefore,a ResNeXt was designed and built to achieve deep mining of fault sensitive features through a unique network structure of residual connection and grouped convolution.Then,a Joint ResNeXt Domain Adaptation fault diagnosis method was proposed,which uses the Optimal Generalized S-Transform to build a ResNeXt to extract the transferable features of images.Finally,the Joint Maximum Mean Discrepancy was used to adaptively reduce the joint distribution difference among data,and achieve fault diagnosis of bearing under variable operating conditions.Moreover,6 sets of migration tests were carried out on rolling bearing under 3 kinds of working conditions.The test results show that the fault diagnosis accuracy of the Joint ResNeXt Domain Adaptation method reaches 98.29%,which is improved by 21.0% and 5.1% compared to the joint distribution adaptation method (JDA) and the joint distribution adaptation + convolutional neural network method (JDA+CNN) respectively.The study results provide technical reference for the fault diagnosis of rolling bearing under variable working conditions.

rolling bearing;fault diagnosis;ResNeXt;joint ResNeXt domain adaptation;fault diagnosis accuracy

0 引 言

在实际工程中,滚动轴承广泛应用于各种旋转机械中,旋转机械设备常在变工况下运行,工况变化导致滚动轴承的故障数据分布存在明显差异。变工况下的数据可视作不同领域的样本,不同领域的样本之间特征空间和类别空间相同,但特征分布不同,正符合跨领域问题的假设[1],即变工况轴承故障诊断中存在跨领域问题。在解决跨领域问题时,传统故障诊断方法以数据独立同分布为前提,导致故障诊断准确率不高。因此,开展跨领域问题研究对于解决变工况轴承的故障诊断问题具有重要意义。

如何有效地进行变工况滚动轴承的故障诊断已经成为近几年诸多专家和学者关注的问题。一些学者通过信号解调和信号处理技术,如同步平均[2]、阶次跟踪[3]、时频分析[4]等,消除信号中对工况敏感的信息,再将人工提取的特征输入到支持向量机、K-近邻算法等机器学习模型中进行故障分类,一定程度上提高了变工况轴承故障诊断准确率。但上述方法需要丰富的信号处理的先验知识,信号处理过程复杂且限制众多,难以真正消除工况对数据分布的影响,在解决跨领域问题时局限性较大。迁移学习作为机器学习一个新分支,打破了数据独立同分布的局限,为变工况轴承故障诊断提供了新思路。其中,领域自适应(Domain Adaptation,DA)作为一种特定设置下的迁移学习方法,通过寻找一种映射缩小源域和目标域的分布差异,主要用来解决跨领域问题[5]。文献[6]提出了一种联合分布自适应(Joint Distrbution Adaptation,JDA)迁移诊断方法,通过联合分布自适应方法进行联合分布适配,减小源域和目标域样本的联合分布差异,实现变工况轴承的故障诊断。但联合分布自适应方法作为一种浅层迁移方法,特征提取能力不足,难以提取深层故障敏感特征。与浅层模型不同,卷积神经网络作为一种深度学习方法结构更为复杂,可自适应地提取包含更多故障敏感信息的特征[7]。一些学者将联合分布自适应与卷积神经网络(Convdaltional Neural Network,CNN)结合,以提高模型的特征提取能力。文献[8]将神经网络与联合分布自适应方法结合,通过深度网络提取故障特征,有效改善了变工况轴承的特征提取效果。但该类研究所使用的深度网络层数较少,特征提取效果仍有待提升,若改用更深层的网络则会随层数加深出现梯度弥散及性能下降问题。残差网络(ResNet)为解决该类问题提供了方案,残差网络以残差连接的方式缓解了网络深度增加带来的梯度弥散问题,可最大程度地加深网络,提高网络的特征提取能力[9]。而聚合残差网络[10](ResNeXt)是残差网络的继承和发展,相比于ResNet,其在残差连接的基础上又以分组卷积式结构代替原有的卷积模块,在保持或降低模型参数量的同时可进一步提高特征提取能力。

为此,本文结合联合分布自适应方法可适配领域间的联合分布和ResNeXt具有强大特征提取能力的优点,提出一种联合残差域自适应(Joint ResNeXt Domain Adaptation,JRDAN)的故障诊断方法来解决变工况滚动轴承的故障诊断问题。该方法构建ResNeXt50作为特征提取器以提取深层故障敏感特征,通过联合最大均值差异(Joint Maximum Mean Discrepancy,JMMD)在网络全连接层进行联合自适应,以最小化源域和目标域间的联合分布差异,从而实现变工况滚动轴承的故障诊断。

1 理论分析

1.1 广义S变换

为了进行时频局部化分析,R.G.STOCKWELL等[11]于1996年提出了S变换(S-Transform,ST)时频分析方法,其定义为。

式中:S(τ,f,σ)为信号的S变换结果;h(t)为时间序列信号;t为时间;f为频率;τ为时移因子;σ为窗口尺度因子。

S变换的窗函数为高斯窗函数,其定义为:

式中:w(t,f)为高斯窗函数;σ(f)为标准差,σ(f)=1/f。

虽然S变换的窗宽随着频率的变化而变化,但是也存在一种缺陷,即在频率一定时,窗宽也随之被确定。在信号分析中,固定为频率倒数的窗宽并不是最优的,導致S变换在处理非平稳信号时效果并不理想。因而对S变换做出改进[12],即在频率固定时,通过改变在窗函数中引入的调节因子的值也能调节窗宽,以此得到广义S变换(Generalized S-Transform,GST)。广义S变换的表达式为:

式中:STG(τ,f)为信号的广义S变换结果;p为调节因子,p=1时即为标准S变换,在信号分析中,p一般在(0,1]内取值。

为了得到效果更好的时频表示,需要选择一个合适的p值。根据时频分布集中程度引入一个时频聚集性度量,度量准则[13]为:

1.2 聚合残差网络

加深或加宽网络是提高模型准确率的常规方法,随着网络的加深或加宽,参数量也会迅速增加,同时网络训练速度也会变慢。随着网络层数进一步的增加,不仅模型训练准确率不升反降,而且网络性能也出现退化问题。为了进一步提高网络性能,XIE S.N.等[10]在ResNet基础上引入Inception网络的“分割-变换-聚合”(split-transform-merge)的思想,提出了ResNeXt网络。以残差学习中的跨层连接方式缓解了由于深度增加带来的梯度弥散以及网络退化问题;另外,相比于传统以增加网络深度和宽度来提高模型准确率的方法,它增加了一个新的维度,该维度称为基数(Cardinality)(聚合后转换的集合大小),通过控制基数的数量,在不增加甚至减少模型参数量的前提下提高了模型分类的准确率[14]。

在Inception系列网络[15]的“分割-变换-聚合”结构中,假定一个D维的输入数据x=[x1,x2,…,xD],输入权值为w=[w1,w2,…,wD],输出为Hx,可得:

“分割-变换-聚合”结构图如图1所示。

ResNeXt网络本质是分组卷积,其聚合变换的公式为:

Hx=x+∑Ci=1Tix(6)

式中:C为基数;Tix为第i点的映射,可以为任意形式。

在ResNet网络基础上引入上述结构多分支的思想,以平行堆叠且完全一致的拓扑结构来代替ResNet中的3层卷积模块,即得到ResNeXt网络。ResNeXt和ResNet的模块对比如图2所示。ResNeXt的可扩展性相比于ResNet更强,可以理解为在增加准确率的同时保持或减小模型复杂度。目前,常用的ResNeXt结构有ResNeXt-50、ResNeXt-101、ResNeXt-152等。

1.3 联合分布自适应方法

别空间一致,但存在如下2种分布差异:①源域和目标域的边缘分布差异,即P(XS)≠P(XT),其中P(XS)和P(XT)分别为源域和目标域的边缘概率分布;②两域类别内的条件分布差异,即Q(YSXS)≠Q(YTXT),其中Q(YSXS)和QYTXT分别为源域和目标域的条件概率分布。联合分布自适应的目标就是寻找一种映射同时缩小源域和目标域的边缘分布差异和条件分布差异,即在对齐全局域时进一步对齐各类别子域[17]。联合分布自适应示意图如图3所示。

式中:φ·是再生希尔伯特空间的映射;H是再生希尔伯特空间(RKHS)。

目标域数据没有真实标签或有少量标签,而源域数据带有标签,通过训练源域标记数据,得到预训练模型,将目标域数据输入该模型得到伪标签。故障类别B的MMD条件分布[19]表达式为:

式中:nBS为源域中故障类别B的样本数量;nBT为目标域中故障类别B的样本数量。

在联合分布自适应方法中,源域和目标域的联合分布差异(DJMMD)度量可以视作两域边缘分布和类内条件分布之和,表达式为:

式中:b为故障类别数量,nB为最大故障类别数量。

2 联合残差域自适应的故障诊断方法

2.1 联合残差域自适应模型构建

通过构建联合残差域自适应模型来对最优广义S变换生成的二维时频图像提取可迁移特征并进行故障分类,结构如图4所示。

ResNeXt作为一种骨干网络,可以其独特的残差连接和分组卷积式结构最大程度地加深网络,以提高模型性能。本文以ResNeXt50作为特征提取网络。为进一步提高计算效率,对ResNeXt50做出如下改进,将第1层的卷积核由1个7×7改为3个3×3,具体网络结构参数见表1。conv为网络层,其中,conv1为第1层,由3个3×3卷积核构成,conv2至conv5为第2至5层,分别由不同数量残差块构成。以conv2为例,表1中“3×3”为卷积核规格,“128”为卷积核个数,“×3”为残差块的个数。

联合分布自适应模块即在聚合残差网络的全连接层引入联合分布度量,将域适应损失加入到网络损失函数中,得到最终的损失函数:

L=LC+λLJMMDDS,DT(10)

式中:LC为分类损失函数,一般选择交叉熵损失;LJMMDDS,DT为域适应损失,可近似为联合分布差异度量,即LJMMD(DS,DT)≈DJMMD(DS,DT);λ为2种损失的平衡因子。

2.2 联合残差域自适应的故障诊断方法步骤

采用最优广义S变换将轴承原始振动信号转换为二维时频图像,并构建联合残差域自适应模块进行变工况轴承的故障诊断。主要步骤如下:

(1)采集设备振动信号,并采用滑窗取样策略从原始振动信号中截取故障样本。

(2)利用最优广义S变换将截取的一维故障信号转换为时频聚集性较高的二维时频图像。

(3)按照4∶1的比例随机划分训练样本和测试样本,用于模型的训练和测试。

(4)构建ResNeXt50网络提取源域和目标域图像的可迁移特征,形成共享特征集。

(5)在全连接层加入联合分布距离度量,通过JMMD计算并减小两域分布差异,实现领域自适应。

(6)时频图将训练样本以批量方式输入模型,通过全连接层进行故障分类并计算损失。

(7)利用反向传播算法优化目标函数,直到将训练样本全部训练完毕且网络达到收敛,此时得到训练好的模型。

(8)输入测试样本,输出诊断结果。

故障诊断流程如图5所示。

3 试验验证

3.1 数据来源

采用实验室行星齿轮箱试验台的滚动轴承故障数据集进行试验验证。试验平台结构如图6所示。齿轮箱型号为HD-CL-012X,配备控制系统型号LY-CS0、冷却水箱型号LY-LC00、传感器型号HD-YD-232的三向加速度传感器。试验对象为滚动轴承,位于行星齿轮箱内部。

采集加速度传感器监测的滚动轴承故障信号,采样频率为12 288 Hz。将滚动轴承故障类型设置为内圈点蚀、外圈点蚀、滚动体点蚀3种故障类型,并采集没有故障的滚动轴承运行时的数据作为正常样本,共4种状态。4种状态下的时域信号如图7所示。本文以转速变化为例,试验构建了3种不同转速下的数据集,如表2所示。

3.2 数据预处理

为得到性能好的预训练模型,需要足够的故障样本参与联合残差域自适应方法的训练,因此选择滑窗取样策略从原始振动信号中截取故障样本。取采样信号128 000点,以4 096个点为采样点数,256个点为步长进行滑动窗口采样,如图8所示。之后经最优广义S变换将一维信号转为二维图像,如图9所示。每类样本生成500张图片,随机选取80%作为训练集,剩下20%作为测试集。

3.3 试验结果分析

为验证联合残差域自适应方法在不同工况下的迁移诊断能力,将最优广义S变换得到的时频图像作为网络输入,设置6组迁移任务进行试验。为避免试验结果具有偶然性,迭代次数设为50次,每组试验均重复10次,取其平均值。诊断结果如表3所示。

从表3可以看出,在不同工况的迁移任务下,联合残差域自适应方法均表现出上佳的诊断性能,在源域和目标域上的故障诊断平均准确率分别为96.96%和98.29%,表明本文方法能有效消除领域间的分布差异,解决跨领域问题,实现变工况轴承的故障精确诊断。

为了分析联合残差域自适应方法在测试集上的表现,将试验结果绘制成混淆矩阵,展示4类故障状态在测试集上分类的准确率。以A→B、A→C下的迁移诊断结果为例,其混淆矩阵如图10所示。其中,横坐标为预测标签,纵坐标为真实标签,对角线数据则表示分类的正确率。由图10可以看出,本文方法对各类故障识别的准确率均在98%以上,可以有效地识别滚动轴承正常、内圈点蚀、外圈点蚀和滚动体点蚀4种故障,从而提高变工况轴承的故障诊断准确率。

t分布式随机近邻嵌入(t-distribution Stochastic Neighbor Embedding,t-SNE)[20]是一种用于数据降维的机器学习算法,可以将高维数据降至2维或3维并将聚类结果展示出来。为了更加直观地观察联合残差域自适应方法对各种故障的分类效果,采用t-SNE将原始数据和故障分类输出层提取的特征进行降维和聚类。以A→B、A→C下的迁移诊断结果为例,特征可视化如图11所示,其中横、纵坐标为降维后样本点在低维空间中的位置。由图11a可以看出,原始数据的特征混乱、重叠较多、可分性差,源域和目标域数据分布存在明显差异。经过联合残差域自适应方法训练后的特征图如图11b和图11c所示。从图11b和图11c可见,不同类别的故障特征之间界限分明,不同领域的同类故障基本重合在一起,聚类效果良好。分析结果表明,联合残差域自适应方法能有效地拉近来自不同工况的数据之间的分布距离,消除数据分布差异。

3.4 不同方法对比

为进一步验证联合残差域自适应方法的优越性,将其与JDA、JDA+CNN进行对比分析。其中,JDA+CNN方法的特征提取模块结构参数如表4所示。网络深度为3层,每层由1个卷积层后跟1个最大池化层组成。卷积核规格为5×5,步长为2;池化规格为3×3,步長为2。

对比分析结果如图12所示。由图12可知:在各个迁移任务中,联合残差域自适应方法的故障诊断准确率最高,为98.29%;其次为JDA+CNN,故障诊断准确率为93.20%;JDA的故障诊断准确率最低,为77.25%。结果表明,本文方法相比于JDA等浅层迁移学习方法在诊断准确率上具有明显的优势,故障诊断准确率提高了约21.0个百分点。而在2种深度迁移学习方法中,本文方法以ResNeXt50作为特征提取器,可通过加深网络层数来提高网络性能,且其分组卷积式的结构使其相比其他网络在同等深度下参数量更少,可有效地提取深层故障敏感特征。相对于JDA+CNN,准确率提高了约5.1个百分点。因此,本文方法在变工况轴承故障诊断中具有更优的诊断性能。

4 结 论

提出一种联合残差域自适应的故障诊断方法。通过变工况滚动轴承的迁移诊断试验验证了该方法的有效性和可行性。

(1)针对跨领域问题,引入联合分布自适应(JDA)方法同时适配领域间联合分布的思想,实现了领域自适应诊断;针对JDA结构简单、特征提取困难的问题,设计并搭建了具有残差连接和分组卷积式结构的聚合残差网络,以提高特征提取能力。本文方法结合两者的优势,实现了深度网络领域自适应,为变工况故障诊断提供了新思路。

(2)经过试验验证,联合残差域自适应方法将不同工况的数据特征同步映射到一个网络隐藏层中,自适应地消除数据间的联合分布差异,有效地解决了跨领域问题,故障诊断平均准确率达到了98.29%。

(3)联合残差域自适应方法以ResNeXt50作为特征提取器可自动挖掘对工况信息敏感度低的域不变特征,有效地提升了故障诊断效果,相比于JDA和JDA+CNN方法,故障诊断准确率分别提升了约21.0和5.1个百分点。

[1]  洪晓翠,段礼祥,徐继威,等.变工况下轴承故障的残差对抗网络诊断方法[J].石油机械,2022,50(5):32-42.

HONG X C,DUAN L X,XU J W,et al.Residual adversarial neural network diagnosis method for bearing faults under variable working conditions[J].China Petroleum Machinery,2022,50(5):32-42.

[2] HA J M,YOUN B D.Fault diagnosis of a planetary gearbox by D norm-based time synchronous averaging (DTSA)with roughly estimated phase information under an encoder-less operating condition[J].Journal of Sound and Vibration,2022,520:116546.

[3] 王博,王斌,赵东平.阶次跟踪在行星齿轮箱非平稳信号故障诊断中的应用[J].重庆理工大学学报:自然科学,2021,35(2):105-111.

WANG B,WANG B,ZHAO D P.Application of fault diagnosis of a planetary gearbox with non-stationary signal base on order tracking[J].Journal of Chongqing University of Technology (Natural Science),2021,35(2):105-111.

[4] 张燕霞,户文刚.基于VMD-SVD和SVM的旋转机械故障诊断研究[J].机电工程,2022,39(3):324-329.

ZHANG Y X,HU W G.Fault diagnosis of rotating machinery based on VMD-SVD and SVM[J].Journal of Mechanical & Electrical Engineering,2022,39(3):324-329.

[5] 袁壮,董瑞,张来斌,等.深度领域自适应及其在跨工况故障诊断中的应用[J].振动与冲击,2020,39(12):281-288.

YUAN Z,DONG R,ZHANG L B,et al.Deep domain adaptation and Its application in fault diagnosis across working conditions[J].Journal of Vibration and Shock,2020,39(12):281-288.

[6] 刘应东,刘韬,李华,等.变工况轴承的联合分布适应迁移故障诊断[J].电子测量与仪器学报,2021,35(5):69-75.

LIU Y D,LIU T,LI H,et al.Transfer fault diagnosis of bearings under variable working conditions based on joint distribution adaptation[J].Journal of Electronic Measurement and Instrumentation,2021,35(5):69-75.

[7] 段礼祥,李涛,唐瑜,等.基于多源异构信息融合的机械故障诊断方法[J].石油机械,2021,49(2):60-67,80.

DUAN L X,LI T,TANG Y,et al.Mechanical fault diagnosis method based on multi-source heterogeneous information fusion[J].China Petroleum Machinery,2021,49(2):60-67,80.

[8] 張钊,李新宇,高亮.基于域适应神经网络与联合分布自适应的无监督故障诊断方法[J].计算机集成制造系统,2022,28(8):2365-2374.

ZHANG Z,LI X Y,GAO L.Unsupervised fault diagnosis method based on domain adaptive neural network and joint distributed adaptive[J].Computer Integrated Manufacturing Systems,2022,28(8):2365-2374.

[9] 李炳臻,刘克,顾佼佼,等.卷积神经网络研究综述[J].计算机时代,2021(4):8-12,17.

LI B Z,LIU K,GU J J,et al.Review of the researches on convolutional neural networks[J].Computer Era,2021(4):8-12,17.

[10] XIE S N,GIRSHICK R,DOLLáR P,et al.Aggregated residual transformations for deep neural networks[C]∥2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR).Honolulu,HI,USA,2017:5987-5995.

[11] STOCKWELL R G,MANSINHA L,LOWE R P.Localization of the complex spectrum:the S transform[J].IEEE Transactions on Signal Processing,1996,44(4):998-1001.

[12] WANG S D,HE Y G,YIN B Q,et al.Multi-Resolution generalized S-Transform denoising for precise localization of partial discharge in substations[J].IEEE Sensors Journal,2021,21(4):4966-4980.

[13] 罗继辉,黄国勇.基于广义S变换和深度置信网络的单向阀故障诊断[J].电子测量与仪器学报,2019,33(9):192-198.

LUO J H,HUANG G Y.Check valve fault diagnosis based on generalized S-transform and deep belief network[J].Journal of Electronic Measurement and Instrumentation,2019,33(9):192-198.

[14] 王哲,刘学平,李玙乾,等.基于ResNeXt网络的滚动轴承剩余使用寿命预测[J].制造业自动化,2022,44(6):17-19.

WANG Z,LIU X P,LI Y Q,et al.Prediction of remaining useful life of rolling bearing based on ResNeXt[J].Manufacturing Automation,2022,44(6):17-19.

[15] SZEGEDYC,LIU W,JIA Y Q,et al.Going deeper with convolutions[C]∥2015 IEEE Conference on Computer Vision and Pattern Recognition (CVPR).Boston,MA,USA,2015:1-9.

[16] LONG M S,WANG J M,DING G G,et al.Transfer feature learning with joint distribution adaptation[C]∥Proceedings of the 2013 IEEE International Conference on Computer Vision.Sydney,NSW,Australia,2013:2200-2207.

[17] 錢思宇,秦东晨,陈江义,等.基于卷积神经网络的领域适配模型的多工况迁移的轴承故障诊断[J].振动与冲击,2022,41(24):192-200.

QIAN S Y,QIN D C,CHEN J Y,et al.Bearing fault diagnosis based on a domain adaptation model of convolutional neural network under multiple working conditions[J].Journal of Vibration and Shock,2022,41(24):192-200.

[18] TZENG E,HOFFMAN J,ZHANG N,et al.Deep domain confusion:maximizing for domain invariance[EB/OL].(2021-12-10)[2023-09-02].https:∥arxiv.org/abs/1412.3474.

[19] 高丽鹏,雷文平,张润,等.无监督深度迁移学习的齿轮箱故障诊断[J].组合机床与自动化加工技术,2022(9):68-71.

GAO L P,LEI W P,ZHANG R,et al.Research on gearbox fault diagnosis based on unsupervised deep transfer learning[J].Modular Machine Tool & Automatic Manufacturing Technique,2022(9):68-71.

[20] LAURENS V D M,HINTON G.Visualizing data using t-SNE[J].Journal of Machine Learning Research,2008,9(86):2579-2605.

猜你喜欢
源域特征提取残差
基于双向GRU与残差拟合的车辆跟驰建模
基于参数字典的多源域自适应学习算法
基于残差学习的自适应无人机目标跟踪算法
基于递归残差网络的图像超分辨率重建
基于Daubechies(dbN)的飞行器音频特征提取
Bagging RCSP脑电特征提取算法
可迁移测度准则下的协变量偏移修正多源集成方法
平稳自相关过程的残差累积和控制图
基于MED和循环域解调的多故障特征提取
Walsh变换在滚动轴承早期故障特征提取中的应用