DOI: 10.11817/j.issn.1672-7207.2021.04.019
基于新息矩阵的独立成分分析故障检测方法
孔祥玉,杨治艳,罗家宇,王晓兵
(火箭军工程大学 导弹工程学院,陕西 西安,710025)
摘 要:
(kernel density estimation,KDE)方法获取的静态控制限可能不合理以及静态控制限无法跟踪信号动态特性的问题,提出一种基于新息矩阵的独立成分分析故障检测方法(innovation matrix-independent component analysis,IM-ICA)。首先采用正常样本数据建立ICA模型,然后在ICA的基础上引入基于移动窗口协方差矩阵的新息矩阵,最后考虑连续样本的相互影响,将静态控制限改进为局部动态阈值进行故障检测。研究结果表明:IM-ICA故障检测方法通过实时更新控制限能有效反映数据的动态特性;IM-ICA故障检测方法在受极小误报影响下,能有效提高故障检测率,在过程监控中具有较好的故障检测效果。
关键词:
故障检测;独立成分分析;新息矩阵;局部动态阈值;故障检测率;
中图分类号:TP273 文献标志码:A 开放科学(资源服务)标识码(OSID)
文章编号:1672-7207(2021)04-1232-10
Fault detection method with independent component analysis based on innovation matrix
KONG Xiangyu, YANG Zhiyan, LUO Jiayu, WANG Xiaobing
(School of Missile Engineering, Rocket Force University of Engineering, Xi'an 710025, China)
Abstract: Aiming at the problems that the static control limits obtained by the kernel density estimation (KDE) method may be unreasonable and the static control limits cannot track the dynamic characteristics of the signal, a fault detection method with independent component analysis based on the innovation matrix(IM-ICA) was proposed. First, the proposed method used normal sample data to establish an ICA model. Then, an innovation matrix based on the moving window covariance matrix was introduced on the basis of ICA. Finally, the mutual influence of continuous samples was considered to improve the static control limits to a local dynamic threshold for fault detection. The results show that the IM-ICA fault detection method can effectively reflect the dynamic characteristics of data by updating the control limit in real time. The IM-ICA fault detection method can effectively improve the fault detection rate under the influence of minimal wrong alarms. It has a good fault detection effect in process monitoring.
Key words: fault detection; independent component analysis; innovation matrix; local dynamic threshold; rates of fault detection
偏最小二乘(partial least squares, PLS)、主成分分析(principal component analysis, PCA)、规范变量分析(canonical variable analysis, CVA)和独立成分分析(independent component analysis, ICA)[1-3]等是经典的基于数据驱动的多元统计过程监控(multivariate statistical process monitoring, MSPM)方法[4-6],在钢铁、化工、生物等复杂工业过程和复杂装备测试中不断发展。工业过程和复杂装备测试通常具有非高斯特性,但PLS和PCA均在多变量服从高斯分布的前提下,利用信号的低阶统计信息(均值和方差)进行故障检测和诊断。当实际的工业过程和复杂装备测试不满足高斯性时,PLS和PCA的故障检测效果和故障诊断效果均不理想。相比于PLS和PCA,ICA从主元分析、因子分析上发展而来,能有效利用信号的高阶统计信息(3阶以上)提取相互独立的成分,在非高斯过程监控中具有很大优势,因此,ICA是非高斯工业过程和复杂装备测试中常用的故障检测技术。JUTTEN等[7]进行了盲信号的分离研究;COMON[1]阐述了ICA的基本概念并给出了严格的数学定义,使ICA成为盲信号分离的重要手段;BELL等[8]不仅提出了信息最大化准则,而且运用ICA真正实现了盲信号分离,加速了ICA的发展;YANG等[9-10]提出了自然梯度搜索算法,不仅提升了梯度ICA算法的速度,而且使自然梯度搜索算法成为ICA中广泛应用的搜索算法;HYVARINEN等[11]提出了不同于文献[8-10]的定点迭代算法及固定点快速ICA算法(FastICA)[2];KANO等[12]将ICA引入简单流程工业的过程监控,第一次实现了基于ICA的故障检测;LEE等[13]将ICA用于故障检测和诊断,给出了较完整的故障检测和诊断策略,与PCA和PLS的故障检测指标
1 ICA
1.1 经典ICA算法
经典ICA算法的原理图如图1所示。ICA通过将观测到的数据矩阵分解成独立成分的线性组合来寻求ICs,ICs为统计独立变量并且它们是非高斯性的潜变量。经典ICA算法的数学模型如下:
式中:
除了测量变量矩阵
式中:
图1 ICA原理图
Fig. 1 Schematic diagram of ICA
在运用ICA算法前,首先要对矩阵
预处理后,进行
式中:
式中:
令
经典ICA算法的实质是根据判别独立性最优的判据寻求解混矩阵
式中:
ICA选取ICs的方法至今没有通用标准,本文根据文献[17]先将解混矩阵
通过
经典ICA算法采用3个指标(
式中:
1.2 ICA的联合指标
为了与本文提出的基于新息矩阵的独立成分分析故障检测方法进行比较,引入樊继聪等[17]提出的联合指标:
式中:
2 基于移动窗口协方差矩阵的新息矩阵故障检测方法
YANG[23]提出基于全局协方差矩阵的新息矩阵故障检测方法,文成林等[24]在该基础上优化改进得到基于移动窗口协方差矩阵的新息矩阵故障检测方法。该方法引入固定长度的移动窗口,首先将全局的协方差矩阵改为移动窗口长度的协方差矩阵,然后求出对应的新息矩阵和新息矩阵的新息均值及动态阈值,最后进行故障检测。该方法不仅可降低更新协方差矩阵的计算复杂度,而且可得到更具代表性的阈值,所以有效地提高了故障检测率。该方法的整体思想如下。
给定1组多变量的在线观测矩阵
式中:
获得
式中:
公共部分的局部数据矩阵通过观察对比式(14)和式(15)获得
由式(16)可以获得局部数据矩阵
式中:
为方便计算,需定义
这时,可以获得
式中:
类似地,定义
这时,可以获得
对比式(19)和式(22),获取新息矩阵
计算局部数据矩阵的新息均值
式中:采样数需满足
最后,进行故障检测,判断依据如下:
1) 当
2) 当
3 基于IM-ICA的故障检测方法
基于IM-ICA的故障检测方法总体思路:首先,采用ICA算法离线建模,将离线建模获取的解混矩阵
基于IM-ICA的故障检测方法的具体步骤如下。
步骤1:对正常训练样本的数据矩阵
式中:
步骤2:白化处理最先要对标准化
获得白化矩阵:
步骤3:运用式(3)对去均值的
步骤4:运用
步骤5:将预处理过的正常训练样本的数据矩阵
步骤6:去均值一步预处理待检测数据矩阵
步骤7:将去均值的待检测数据矩阵
步骤8:将式(31)获得的
步骤9:计算新的故障判断机制的动态阈值:
式中:
步骤10:利用新的故障判断机制进行故障检测。判断依据如下:
若前一样本为故障状态,则设置当前控制限为
若前一样本为正常状态,则设置当前控制限为
故障判断机制是基于移动窗口协方差矩阵的新息矩阵故障检测方法的核心问题,文成林等[24]运用传统的故障判断机制直接比较统计量与控制限,本文在考虑连续样本相互影响的基础上提出一种故障判断机制。该故障判断机制首先计算当前样本的统计量,若前一样本为故障状态,则设置当前控制限为
最后,给出如图2所示的基于IM-ICA的故障检测方法的实施流程图。
图2 基于IM-ICA的故障检测方法的实施流程图
Fig. 2 Implementation flowchart of fault detection method based on IM-ICA
4 TE实验
为了验证IM-ICA算法进行故障检测的可行性和有效性,故障检测过程选用TE过程。VOGEL等提出实际工业过程中的全厂过程控制过程即田纳西-伊斯曼(Tennessee Eastman, TE)过程。TE过程被广泛地用于故障检测和诊断、预测控制与优化等研究领域[25-26]。张展博等[27]详细描述了TE过程的实验数据,它具有6个工况,由41个测量变量和12个操控变量组成检测变量。500个无故障的样本数据组成故障0的训练集,960个带波动的无故障样本数据组成故障0的测试集。故障1至故障21的测试集由160个无故障的样本数据和800个故障样本数据组成。TE过程中的故障类型如表1所示。
表1 TE过程中的故障类型
Table 1 Fault description in TE process
本文实验选取故障0的测试集作为正常训练样本,故障1~21的测试集作为在线待检测样本。在TE过程中,运用IM-ICA算法进行故障检测,并与经典ICA算法和ICA联合指标算法的实验结果对比分析。主导ICs、窗口长度
为了直观地比较经典ICA算法、ICA的联合指标算法和IM-ICA算法这3种算法的故障检测效果,表2和表3分别列出了3种算法在TE过程中的故障检测率和平均误报率。
TE过程的各个故障测试集有960个样本,其中前160个为正常样本,后800个为故障样本。因为选取前18个正常样本为IM-ICA故障检测方法的启动数据,所以,有142个正常样本和800个故障样本。在IM-ICA故障检测方法中,误报率提升2.35%,仅有3个正常样本被误报为故障,几乎不影响过程监控效果。同时,所提方法明显提高了故障的有效检测率(故障检测率提升1%,能多检测8个故障样本)。综合分析,IM-ICA故障检测方法在受极小误报影响下,能够有效地提高故障检测率。
表2 3种算法在TE过程中的故障监测率
Table 2 Fault monitoring rates of three algorithms in TE process %
表3 3种算法在TE过程中的平均误报率
Table 3 Average wrong alarm rates of three algorithms in TE process %
为充分说明IM-ICA算法在故障检测中的优良特性,分别给出故障检测率提升4%的微小故障3和故障检测率提升13.86%的故障19的实验结果。TE过程中的故障3是代表D的进料温度发生阶跃类型的故障,经典ICA算法、ICA的联合指标算法和IM-ICA算法对故障3的故障检测结果分别如图3~5所示。由图3~5可知:采用经典ICA算法和ICA的联合指标算法完全检测不到故障,具有100%的故障漏报率;当采用IM-ICA算法时,第640个样本到第810个样本(故障3测试集的第658个故障样本到第828个故障样本)的部分故障统计量高于控制限,相较经典ICA算法和ICA的联合指标算法,IM-ICA算法有效地降低了故障检测的漏报率。
图3 经典ICA对故障3的监测结果
Fig. 3 Monitoring results of fault 3 by classic ICA
图4 ICA的联合指标对故障3的检测结果
Fig. 4 Monitoring results of fault 3 by ICA joint indicators
图5 IM-ICA算法对故障3的检测结果
Fig. 5 Detection results of fault 3 by IM-ICA algorithm
经典ICA算法和ICA的联合指标算法均采用KDE法获取的静态控制限进行故障检测,而静态控制限无法克服系统存在的细微变化,不能在故障发生的早期实现预警。IM-ICA算法通过引入新息矩阵获取新息均值和动态阈值,从而获取动态控制限。通过对比图3~5的故障检测结果可以发现,IM-ICA算法对故障3的故障检测效果明显比经典ICA算法和ICA的联合指标算法的检测效果好,验证了IM-ICA算法的可行性。
TE过程中的故障19是未知的随机变量类型故障,对比分析经典ICA算法、ICA的联合指标算法和IM-ICA算法对故障19的故障检测结果,如图6~8所示。由图6~8可知:当采用经典ICA算法对故障19进行检测时,3个检测指标的故障检测结果各不相同;由于ICA的联合指标
图6 经典ICA对故障19的监测结果
Fig. 6 Monitoring results of fault 19 by classic ICA
图7 ICA的联合指标对故障19的监测结果
Fig. 7 Monitoring results of fault 19 by ICA joint indicators
图8 IM-ICA算法对故障19的检测结果
Fig. 8 Detection results of fault 19 by IM-ICA algorithm
由此可见,当采用IM-ICA算法进行故障检测时,若无故障数据,则可以实时更新控制限,实时跟随系统存在的细微变化;若有故障数据出现,则动态阈值为上一时刻的阈值,剔除该故障数据不影响实际控制限,从而有效提高故障检测率。因此,该算法可行且有效。
5 结论
1) 针对KDE方法获取的静态控制限可能不合理以及静态控制限无法跟踪信号动态特性的问题,本文提出了基于新息矩阵的独立成分分析故障检测方法。
2) 提出的方法考虑了连续样本的相互影响,结合基于移动窗口协方差矩阵的新息矩阵将ICA故障检测的静态控制限改进为一实时动态控制限,有效提高了故障检测率。
3) 通过与经典ICA算法和ICA联合指标算法的实验结果对比分析,验证了所提算法的优越性。
4) 在基于新息矩阵独立成分分析故障检测方法的基础上,如何进行故障诊断是所提算法需改进的重要方向。
参考文献:
[1] COMON P. Independent component analysis, a new concept[J]. Signal Processing, 1994, 36(3): 287-314.
[2] HYVARINEN A. Fast and robust fixed-point algorithms for independent component analysis[J]. IEEE Transactions on Neural Networks, 1999, 10(3): 626-634.
[3] HYVARINEN A, OJA E. Independent component analysis: algorithms and applications[J]. Neural Networks, 2000, 13 (4/5): 411-430.
[4] 刘强, 柴天佑, 秦泗钊, 等. 基于数据和知识的工业过程监视及故障诊断综述[J]. 控制与决策, 2010, 25(6): 801-807, 813.
LIU Qiang, CHAI Tianyou, QIN Sizhao, et al. Progress of data-driven and knowledge-driven process detection and fault diagnosis for industry process[J]. Control and Decision, 2010, 25(6): 801-807, 813.
[5] 周东华, 李钢, 李元. 数据驱动的工业过程故障诊断技术: 基于主元分析与偏最小二乘的方法[M]. 北京: 科学出版社, 2011: 1-10.
ZHOU Donghua, LI Gang, LI Yuan. Data-driven industrial process fault diagnosis technology: a method based on principal component analysis and partial least squares[M]. Beijing: Science Press, 2011: 1-10.
[6] 纪洪泉, 何潇, 周东华. 基于多元统计分析的故障检测方 法[J]. 上海交通大学学报, 2015, 49(6): 842-848.
JI Hongquan, HE Xiao, ZHOU Donghua. Fault detection techniques based on multivariate statistical analysis[J]. Journal of Shanghai Jiaotong University, 2015, 49(6): 842-848.
[7] JUTTEN C, HERAULT J. Blind separation of sources, part I: an adaptive algorithm based on neuromimetic architecture[J]. Signal Processing, 1991, 24(1): 1-10.
[8] BELL A J, SEJNOWSKI T J. An information-maximization approach to blind separation and blind deconvolution[J]. Neural Computation, 1995, 7(6): 1129-1159.
[9] YANG H H, AMARI S I. Adaptive online learning algorithms for blind separation: maximum entropy and minimum mutual information[J]. Neural Computation, 1997, 9(7): 1457-1482.
[10] YANG H H, AMARI S I, CICHOCKI A. Information-theoretic approach to blind separation of sources in non-linear mixture[J]. Signal Processing, 1998, 64(3): 291-300.
[11] HYVARINEN A, OJA E. A fast fixed-point algorithm for independent component analysis[J]. Neural Computation, 1997, 9(7): 1483-1492.
[12] KANO M, TANAKA S, HASEBE S, et al. Monitoring independent components for fault detection[J]. AIChE Journal, 2003, 49(4): 969-976.
[13] LEE J M, YOO C, LEE I B. Statistical detection of dynamic processes based on dynamic independent component analysis[J]. Chemical Engineering Science, 2004, 59(14): 2995-3006.
[14] LI Shuai, ZHOU Xiaofeng, PAN Fucheng, et al. Correlated and weakly correlated fault detection based on variable division and ICA[J]. Computers & Industrial Engineering, 2017, 112: 320-335.
[15] LEE J M, QIN Sizhao, LEE I B. Fault detection and diagnosis based on modified independent component analysis[J]. AIChE Journal, 2006, 52(10): 3501-3514.
[16] YANG Yinghua, CHEN Yonglu, CHEN Xiaobo, et al. Multivariate industrial process detection based on the integration method of canonical variate analysis and independent component analysis[J]. Chemometrics and Intelligent Laboratory Systems, 2012, 116: 94-101.
[17] 樊继聪, 王友清, 秦泗钊. 联合指标独立成分分析在多变量过程故障诊断中的应用[J]. 自动化学报, 2013, 39(5): 494-501.
FAN Jicong, WANG Youqing, QIN Sizhao. Combined indices for ICA and their applications to multivariate process fault diagnosis[J]. Acta Automatica Sinica, 2013, 39(5): 494-501.
[18] FAN Jicong, WANG Youqing. Fault detection and diagnosis of non-linear non-Gaussian dynamic processes using kernel dynamic independent component analysis[J]. Information Sciences, 2014, 259: 369-379.
[19] CHEN Muchen, HSU Chunchin, MALHOTRA B, et al. An efficient ICA-DW-SVDD fault detection and diagnosis method for non-Gaussian processes[J]. International Journal of Production Research, 2016, 54(17): 5208-5218.
[20] 杨泽宇, 王培良. 基于核独立成分分析和支持向量数据描述的非线性系统故障检测方法[J]. 信息与控制, 2017, 46(2): 153-158.
YANG Zeyu, WANG Peiliang. Fault detection method for non-linear systems based on kernel independent component analysis and support vector data description[J]. Information and Control, 2017, 46(2): 153-158.
[21] TAN Ruomu, CAO Yi. Multi-layer contribution propagation analysis for fault diagnosis[J]. International Journal of Automation and Computing, 2019, 16(1): 40-51.
[22] SUN Dongdong, GONG Xiaofeng, CHEN Yonglu. Integrating canonical variate analysis and kernel independent component analysis for Tennessee Eastman process detection[J]. Journal of Chemical Engineering of Japan, 2020, 53(3): 126-133.
[23] YANG H Y. Advanced prognosis and health management of aircraft and spacecraft subsystems[D]. Cambridge, Massachusetts: Massachusetts Institute of Technology. Department. of Electrical Engineering and Computer Science, 2000: 6-35.
[24] 文成林, 胡玉成. 基于信息增量矩阵的故障诊断方法[J]. 自动化学报, 2012, 38(5): 832-840.
WEN Chenglin, HU Yucheng. Fault diagnosis based on information incremental matrix[J]. Acta Automatica Sinica, 2012, 38(5): 832-840.
[25] JIANG Qingchao, YAN Xuefeng, LI Juan. PCA-ICA integrated with Bayesian method for non-Gaussian fault diagnosis[J]. Industrial & Engineering Chemistry Research, 2016, 55(17): 4979-4986.
[26] 徐圆, 刘莹, 朱群雄. 基于多元时滞序列驱动的复杂过程故障预测方法应用研究[J]. 化工学报, 2013, 64(12): 4290-4295.
XU Yuan, LIU Ying, ZHU Qunxiong. A complex process fault prognosis approach based on multivariate delayed sequences[J]. CIESC Journal, 2013, 64(12): 4290-4295.
[27] 张展博, 王振雷, 王昕. 基于正交局部慢性特征的故障检测方法[J]. 清华大学学报(自然科学版), 2020, 60(8): 693-700.
ZHANG Zhanbo, WANG Zhenlei, WANG Xin. Fault detection based on orthogonal local slow features[J]. Journal of Tsinghua University(Science and Technology), 2020, 60(8): 693-700.
(编辑 刘锦伟)
收稿日期: 2020 -08 -19; 修回日期: 2020 -10 -28
基金项目(Foundation item):国家自然科学基金资助项目(61673387,61833016);陕西省自然科学基金资助项目(2020JM-356) (Projects(61673387, 61833016) supported by the National Natural Science Foundation of China; Project(2020JM-356) supported by the Natural Science Foundation of Shaanxi Province)
通信作者:孔祥玉,博士,教授,从事系统特征提取、自适应信号处理等研究;E-mail: xiangyukong01@163.com
引用格式: 孔祥玉, 杨治艳, 罗家宇, 等. 基于新息矩阵的独立成分分析故障检测方法[J]. 中南大学学报(自然科学版), 2021,52(4): 1232-1241.
Citation: KONG Xiangyu, YANG Zhiyan, LUO Jiayu, et al. Fault detection method with independent component analysis based on innovation matrix[J]. Journal of Central South University(Science and Technology), 2021, 52(4): 1232-1241.
摘要:针对核密度估计(kernel density estimation,KDE)方法获取的静态控制限可能不合理以及静态控制限无法跟踪信号动态特性的问题,提出一种基于新息矩阵的独立成分分析故障检测方法(innovation matrix-independent component analysis,IM-ICA)。首先采用正常样本数据建立ICA模型,然后在ICA的基础上引入基于移动窗口协方差矩阵的新息矩阵,最后考虑连续样本的相互影响,将静态控制限改进为局部动态阈值进行故障检测。研究结果表明:IM-ICA故障检测方法通过实时更新控制限能有效反映数据的动态特性;IM-ICA故障检测方法在受极小误报影响下,能有效提高故障检测率,在过程监控中具有较好的故障检测效果。
[4] 刘强, 柴天佑, 秦泗钊, 等. 基于数据和知识的工业过程监视及故障诊断综述[J]. 控制与决策, 2010, 25(6): 801-807, 813.
[5] 周东华, 李钢, 李元. 数据驱动的工业过程故障诊断技术: 基于主元分析与偏最小二乘的方法[M]. 北京: 科学出版社, 2011: 1-10.
[6] 纪洪泉, 何潇, 周东华. 基于多元统计分析的故障检测方 法[J]. 上海交通大学学报, 2015, 49(6): 842-848.
[17] 樊继聪, 王友清, 秦泗钊. 联合指标独立成分分析在多变量过程故障诊断中的应用[J]. 自动化学报, 2013, 39(5): 494-501.
[20] 杨泽宇, 王培良. 基于核独立成分分析和支持向量数据描述的非线性系统故障检测方法[J]. 信息与控制, 2017, 46(2): 153-158.
[24] 文成林, 胡玉成. 基于信息增量矩阵的故障诊断方法[J]. 自动化学报, 2012, 38(5): 832-840.
[26] 徐圆, 刘莹, 朱群雄. 基于多元时滞序列驱动的复杂过程故障预测方法应用研究[J]. 化工学报, 2013, 64(12): 4290-4295.
[27] 张展博, 王振雷, 王昕. 基于正交局部慢性特征的故障检测方法[J]. 清华大学学报(自然科学版), 2020, 60(8): 693-700.