DOI:10.19476/j.ysxb.1004.0609.2004.s1.015
人工神经网络在过程工业中的应用
陈丙珍
清华大学化学工程系 北京100084
摘 要:
当前, 集过程实时监测、故障诊断、模拟、优化、控制以及调度等各层次功能于一体的过程工业生产过程综合自动化成了过程工业界和学术界共同关注的热点之一。与离散产品的制造业相比, 由于流程型工业过程具有强非线性的特点, 给实现流程工业综合自动化造成很大的困难, 因此必须引入新的思路, 开发新的方法。人工神经网络是一种模拟人类思维活动的并行分布式的信息处理系统, 可用于映射任何连续函数及进行模式识别, 同时还具有自学习功能, 实现知识的自动获取, 自20世纪90年代以来已在过程系统工程领域内受到广泛的瞩目。重点讨论了人工神经网络在过程系统建模、故障诊断以及在线优化等方面的应用, 以展示这种方法在流程工业综合自动化中的良好应用前景。
关键词:
人工神经网络 ;过程系统建模 ;过程系统故障诊断 ;遗传算法 ;
中图分类号: TP183
Applications of artificial neural networks in process industry
Abstract:
Recently, the computer integrated process systems which integrate the real-time detection, fault diagnosis, modeling, optimization, control, planning and other information techniques at different levels have become a topic of common interests in both industry and academy. Compared with the manufacturing industry for discrete products, the continuous process industry possesses the characteristics of strong non-linearity, which makes the computer integrated process systems very difficult to be realized. Therefore, there is an urgent need to introduce new ideas and new methodologies. Artificial neural network is a kind of parallel information handling system for emulating human's thought. It could be used for mapping any continuous functions and carrying out pattern recognition, meanwhile, it could realize the acquaintance of knowledge automatically. Since 1990s ANN has attracted wide attention in the field of process systems engineering. The emphasis will be put on illustration of the applications of ANN in the process modeling, process fault diagnosis, on-line optimization and other aspects so that to fully demonstrate the good potential of applying ANN in developing the computer integrated process systems.
Keyword:
artificial neural network; process modeling; process fault diagnosis; genetic algorithm;
人工神经网络系统理论与应用研究是近年来得到迅速发展的一个国际前沿研究领域。 它的发展涉及到计算机科学、 人工智能、 信息科学、 自动控制、 系统工程等众多的领域, 并对这些领域产生了重要的影响。 自从20世纪90年代末以来, 神经网络在过程工业领域, 特别是在过程预测
[1 ]
、 过程控制
[2 ,3 ]
、 过程故障诊断
[4 ,5 ,6 ]
、 过程设计
[7 ]
、 过程模拟
[8 ]
及过失误差侦破
[9 ]
等方面都有报道。 本文作者重点论述人工神经网络在过程系统建模、 故障诊断以及在线优化等方面的应用, 以展示这种方法在过程工业综合自动化中的良好应用前景。
1 神经网络的定义及特点
1.1 定义
Hecht-Nielsen给出了一个关于人工神经网络的严格定义
[10 ]
:
神经网络是一个并行分布式的信息处理系统, 它是由单向信号通道将大量的处理单元连接而成的一个网络结构 (每一处理单元可以有局部存贮器, 存贮某些关于局部计算操作的信息) 。 每一个处理单元只有一个输出, 但将根据需要连向任意个其他处理单元 (此单元送往其他单元的信号是相同的) , 处理单元的输出信号可以是任意数学模型。 每一处理单元中进行的操作必须是完全局部化的, 即它的活动只决定于目前通过连接通道引向它的输入信息及处理单元局部存贮的信息。
这是关于神经网络的综合定义。 所有关于神经网络的研究都应该以此为基准进行, 否则将失去应有的意义, 而只是一种传统技术的变形或其他方法的发展。
1.2 特点
神经元网络与传统的信息处理方法相比, 具有如下特点:
1) 并行结构和并行处理。 根据人工神经元网络的定义, 我们可以看出, 它不但在结构上是并行的, 在信息处理的顺序上也是并行和同时的。 在同一层内的处理单元都是同时操作的, 它的计算功能分布在多个处理单元上。 这种特点决定了神经网络具有快递的信息处理能力。
2) 信息分布存贮。 在神经网络中, 信息不是存贮于特定的单元中, 而是分布在整个系统中。 这种分布式的优点是, 即使系统的一部分受到损坏, 仍能恢复出原来的信息, 系统仍能运行; 用一个不完整或模糊的信息, 神经网络可联想出存贮在记忆中的某个完整清晰的图像来。
3) 具有很强的容错性和鲁棒性。 神经网络的这种性能是由它的上述两个特点所决定的。 系统任何局部的损伤不会影响整体的效果, 对于外界的干扰和噪声的抵抗能力也很强。
4) 具有自适应性。 系统具有学习性、 自组织能力、 推理能力和可训练性, 可在实践过程中不断完善自己并有所创新。
神经网络的这些特点, 正是我们目前拥有的技术中所欠缺的。 它们的合理利用和发展, 将能极大地提高我们解决实际问题的能力。
2 神经网络在过程工业中的应用
2.1 过程系统建模与在线优化
建立过程的各种数学模型是一个重要但又困难的问题。 过程的模拟、 优化、 仿真、 控制、 管理等一系列先进技术的实施, 均需以一定精度的数学模型为基础。 但是由于过程本身的高度非线性、 复杂性以及对过程机理认识的局限性, 给数学模型的建立造成极大的困难, 形成了信息技术在工程中实施、 应用的瓶颈问题。 人们只能用传统的数学方法, 以经验的、 半经验的方式建立过程的模型。 应用较多的是用统计回归方法建立过程的数学模型。 这种方法需要对过程机理有一定的认识, 并要事先给定模型的解析表达式。 在具体建模过程中, 依据情况还要人为地不断调整这种解析表达式, 过程较长。 而且有时很难给出模型的表达形式, 表现出采用统计回归方法建模具有一定程度的困难。 因此, 有必要寻求新的方法予以解决。
迄今为止已开发出数十种各具特点的神经网络模型
[11 ,12 ]
, 它们都是分别针对某种特殊用途的, 对特定的问题有较强的处理能力。 各种网络都是由许多神经元相互连接而成, 而连接方式不外乎以下4种
[13 ]
不含反馈的前向阶层型网络; 从输出层到输入层有反馈的前向阶层型网络; 层内有相互结合的网络; 相互结合型网络。 理论上已证明
[14 ,15 ,16 ]
, 以S形 (Sigmoid) 函数 (图1) 为作用函数的前向阶层型网络, 如图2所示, 具有映射任何连续函数的能力, 故在过程工业领域的建模及优化中, 一般都采用这类网络。
图1 Sigmoid函数
图2 前向阶层型网络
另外, 神经网络的信息并行分布处理、 自学习能力、 鲁棒等特点也非常适合于处理建模问题。 许多学者都致力于这方面的研究。 其中McAvoy等
[17 ,18 ,19 ]
重点开展了用神经网络进行化工过程系统的建模和控制的研究。 他们采用以Sigmoid为传递函数的前向阶层型网络, 用动态数据窗方法, 以时序数据作为神经网络的训练样本, 建立了用于控制反应器pH值的动态模型, 同时他们还对前向阶层型网络用于建立化学反应静态模型的能力进行了考察。 Schenker等
[20 ,21 ,22 ]
在前人研究工作的基础上, 提出了用于动态过程建模的反馈网络, 这是一种以前向阶层型网络为基础, 引入状态变量的反馈信息的网络结构。 这种网络具有表达能力强、 范围广, 可以充分利用对于过程的先验知识 (完全或不完全均可) 以及状态空间表达的优势, 使前向阶层型网络用于动态过程建模的研究向前发展了一步。 这些研究结果表明, 神经网络在理论上映射任何连续函数的能力在实践中得到了一定的体现与利用, 它能通过对样本的学习建立过程的静态、 动态数学模型。 同时表明, 这样建立的模型具有较强的抗干扰和抗噪声的能力, 与其他建模方法相比也有一定的优势
[23 ]
。
在应用研究方面, 日本京都大学开发了一个油脂水解反应的操作支持系统
[24 ]
, 该系统中的神经网络经训练后, 可根据在线取得的数据预测反应器中乳化层的状态、 厚度及沿反应器高度的变化情况, 为稳定产品质量提供了可靠的依据。 CHEN等
[25 ]
提出了一种基于神经网络的在线优化策略, 开发了以提高轻油收率为目标的催化裂化分馏塔的神经网络操作优化系统, 该系统能根据不同的输入条件预估实现油品质量卡边生产的优化操作条件。 蒋益虹等
[26 ]
将人工神经网络方法用于红曲梅果酒糖化的工艺优化, 取得了很好的结果。 吴建锋等
[27 ]
根据炼油厂分馏装置的生产数据建立了一种基于时间序列的、 适合油品质量指标监测的前馈神经网络模型, 该模型能正确反映动态过程的特性, 并具有较高的可靠性和适应性。
2.2 过程系统故障诊断
故障识别和诊断的传统方法是利用过程的静态、 动态模型进行判断。 这种方法需要以精确的过程模型为基础, 其基本要求较难实现。 随着人工智能技术的发展, 专家系统方法也被用来解决故障诊断问题。 但专家系统的建造需要大量的知识, 诊断准确率的高低也取决于这些知识的准确度, 而产生详尽准确的相关知识是一件十分耗时的工作, 并要大量的过程专家参加。 而且当涉及大的工业系统时, 规则的修改和维持知识的一致性也是比较难以解决的问题。
近年来, 人工神经元网络被成功地用于解决模式识别问题, 形成了模式识别的另一个重要分支—智能模式识别
[28 ]
, 同时也为过程故障诊断提供了可行的技术手段。 神经网络不要求对过程的模型有所了解, 它可通过培训样本获得信息, 来处理复杂非线性和不确定性过程。 同时它具有抗干扰和噪声、 知识推广及使用过程中的自学习能力。 这些性质都是处理故障诊断问题所需求的。
从20世纪90年代以来, 人工神经网络在过程故障诊断应用中的研究非常活跃。 Hoskins和Himmelblau
[29 ]
研究了一个由3台串联的连续搅拌釜反应器组成, 具有6种故障模式的过程诊断问题。 Venkatasubramanian等
[30 ]
还针对一个比较复杂的化工过程, 分析了前向阶层型网络用于故障诊断的一些基本问题。 Hoskins等
[31 ]
用神经网络开发了一个具有19种故障、 418个传感测量信号的复杂化工过程的故障诊断系统, 这是迄今为止神经网络方法用于过程故障诊断的较为成功的报导。 Kramer和Leonard等
[32 ,33 ]
对前向阶层型网络在故障诊断方面的能力进行了分析和评价, 指出其在广义化能力和决策界面的形成方式等方面存在的缺陷, 并提出将基于距离概念的RBFN (radial basis function network) 网络用于故障诊断。 Kavuri和Venkatasubramanian等
[5 ,34 ]
根据实际问题的要求和特点, 在对前向阶层型网络进行分析的基础上, 提出了一种带有椭圆作用函数的前向阶层型网络结构—BPE (back propagation network with ellipsoidal activation function) 。 这种网络用于处理故障诊断问题时, 间接引进了距离的概念, 可形成封闭的定界空间, 避免了对故障空间的随意划分, 使初始权重的选择、 网络结构的确定具有一定的物理意义。 这是对BP网络用于故障诊断研究的一个发展。 随后, 他们又将模糊模式识别的概念和方法引入神经网络, 对上述理论做了进一步的完善。 Becraft等
[35 ]
将神经网络和专家系统技术相结合, 对大规模化工过程的故障诊断进行了研究。 NIE等
[6 ]
分析了换热网络的诊断问题, 提出采用灵敏度分析的技术以缩小故障空间, 避免组合爆炸现象的出现。 另外, 用神经网络进行动态过程故障诊断的研究也开始兴起
[36 ,37 ,38 ]
, 因为从安全生产和降低成本的角度来看, 工业生产过程中故障的早期识别和诊断是至关重要的。 ZHAO等
[39 ]
将子波理论引入神经网络, 提出了一种新的子波——S型神经网络模型, 并将其成功地应用于加氢裂化反应器的动态过程故障诊断, 该网络能在故障刚刚发生的时候有效地对故障进行诊断, 给排除故障以足够的时间, 避免事故的发生, 提高了过程的安全性和可靠性。
人工神经网络在过程工业中的应用除上述两个主要领域外, 还用于过程控制
[2 ,40 ]
及数据分析
[41 ,42 ]
等方面。
3 网络训练算法的研究进展
人工神经网络的运行过程由两个阶段组成。 一个是训练学习期, 网络通过样本学习不断修改各连接权值, 使得网络的输出达到预期的结果。 另一阶段为工作期, 此时各连接权值固定, 网络将根据输入值预测输出值。
前向阶层型网络一般借助于以局部梯度为基础的反向传播算法 (GDR) 进行学习。 前向阶层型网络在训练时需要解一个多变量强非线性优化问题
[43 ]
。 采用传统的梯度法GDR (gradient descend re-search) 迭代时, 当梯度趋于零, 则出现所谓的平台, 迭代点就会陷入局部最优点, 因而目标函数下降不到期望值。 为了克服这种局部最优问题, 文献中曾报道过许多新的优化方法。 何小荣等
[44 ]
将模拟退火法 (SA) 与GDR相结合, 取得了比较满意的效果。 陈方泽等
[45 ]
在研究扩展的遗传算法 (EGA) 的基础上, 提出了EGA-GDR算法, 计算结果表明采用这种方法训练网络时, 目标函数不会陷于局部极值, 而且其收敛速度达到与GDR可比的水平, 是一种比SA-GDR更有效的新的前向阶层型网络训练方法。 葛红
[46 ]
用遗传算法训练基于神经网络结构的控制器, 同样收到了很好的结果。 文绍纯等
[47 ]
对遗传算法在人工神经网络中的应用进行了较全面的综述, 充分展示了这种新的随机搜索算法在训练人工神经网络中的优越性。
4 结语
神经网络在过程工业领域已显示出十分广阔的应用前景, 这对于推动过程工业信息技术的发展具有十分重要的意义。 但是在研究过程中发现无论在理论上及应用上都还存在许多问题有待解决, 如网络节点数的优化选择、 网络的过拟合以及无法对预测结果进行解释等。 今后随着这些研究的不断深入, 人工神经网络在过程工业领域中将得到更广泛的应用, 其前景广阔。
参考文献
[1] ZHAOXiao guang, CHENBing zhen, HEXiao rong.Anovelneuralnetworkforthepredictionofprocessvariables[J].ScienceinChina (SeriesA) , 1995, 38 (3) :355367.
[2] 许 力, 蒋静坪.CSTR系统的基于CMAC神经元网络的学习控制研究[J].控制与决策, 1992, 7 (2) :131136.XULi, JIANGJing ping.TheCMACneuralnetworkbasedlearningcontroloftheCSTRsystem[J].ControlandDecision, 1992, 7 (2) :131136.
[3] LevinAU, MarendaKS.Controlofnonlineardynamicalsystemsusingneuralnetworks—controbilityandstabilization[J].IEEETransNeuralNetworks, 1993, 4 (2) :192206.
[4] VenkatasubramanianV, KingC.Aneuralnetworkmethodologyforprocessfaultdiagnosis[J].AIChEJournal, 1989, 35 (12) :19932002.
[5] KavuriSN, VenkatasubramanianV.Usingfuzzyclusteringwithellipsoidalunitsinneuralnetworksforrobustfaultclassification[J].ComputersChemEng, 1993, 17 (8) :765784.
[6] NIEXiu rong, CHENBing zhen, LIYou run.Studyonthemultiplefaultdiagnosisofcomplicatedheatexchangenetworksusingartificialneuralnetworks[A].ProceedingsofthePSE 94[C].Korea, 1994.11021107.
[7] CarstenA, CHENBing zhen.Temperatureprofileandcompositionestimationinacoaltardistillationcolumnusingnetworks[J].ComputerChemistryMonographSeries4, ComputersandAppliedChemistry, 19941995:7382.
[8] PsichogiosDC, UngarLH.Ahybridneuralnetworkfirstprinciplesapproachtoprocessmodeling[J].AIChEJournal, 1992, 38 (10) :14991511.
[9] GuptaG, NarasimhanS.Applicationofneuralnetworksforgrosserrordetection[J].IndEngChemRes, 1993, 32 (8) :16511657.
[10] Hecht NielsenR.Applicationofcounterpropagationnetworks[J].NeuralNetworks, 1988, 1:131.
[11] 焦李成.神经网络系统理论[M].陕西:西安电子科技大学出版社, 1990.
[12] LippmannRP .Anintroductiontocomputingwithneu ralnets[J].IEEEASSPMagazine, 1987, 4 (2) :422.
[13] 阎平凡.人工神经网络[M ].北京:清华大学出版社, 1989.
[14] CybenkoG .Approximationbysuperpositionsofasig moidedfunctionmath[J].ControlSignalSystems, 1989, 2:303.
[15] StinchcombeM , WhiteH .Universalapproximationus ingfeedforwardnetworkswithnon sigmoidhiddenlayeractivationfunctions[A ].ProcIJCNN 89[C ], SanDiego, 1989, 1:613617.
[16] GallantAR , WhiteH .Thereexistsaneuralnetworkthatdoesnotmakeavoidablemistakes[A].IEEEInter nationalConferenceonNeuralNetworks[C ].SanDiego, 1988, 1.657.
[17] BhatNV , MindermanPA , McAvoyTJ, etal.Mod elingchemicalprocesssystemsvianeuralcomputation[J].IEEEControlSystemsMagazine, 1990, 10 (3) :2430.
[18] BhatNV , McAvoyTJ .Useofneuralnetsfordynamicmodelingandcontrolofchemicalprocesssystems[A].Proc1989AmerAutomatContrConf[C].1989.1342.
[19] SuH , McAvoyTJ.Identificationofchemicalprocessesusingrecurrentnetworks[A].AmerControlConf[C].1991.2314.
[20] SchenkerB , AgarwalM .Usingapriorinformationinnetworks[A].ProcoftheIEEESecondInternationalConferenceonArtificialNeuralNetworks[C ].Bournemouth, UK , 1991.
[21] SchenkerB , AgarwalM .Statepredictioninchemicalreactorsusingfeedbackneuralnetworks[M ].DYCORD+92, CollegePark, MD , 1992.
[22] SchenkerB , AgarwalM .Feedbackneuralnetsforsu pervisionofdynamicprocesses[A].IFACConference[C], USA , 1992.
[23] McAvoyTJ , SuHT , WangNS , etal.Acomparisonofneuralnetworksandpartialleastsquaresfordeconvo lutingfluorescencespectra[J].BiotechnologyBioengi neering, 1992, 40 (1) :5362.
[24] 徐用懋, 冯恩波.人工神经网络的发展及其在控制中的应用[J].化工进展, 1993, 5:812.
[25] CHENBing zhen, HEXiao rong.Neuralnetworkin telligencesystemfortheon lineoptimizationinchemicalplants[J].ChineseJournalofChemicalEngineering, 1997, 5 (1) :5762.
[26] 蒋益虹, 郑晓东, 冯 雷.人工神经网络方法在红曲梅果酒糖化工艺优化中的应用[J].系统工程理论与实践, 2003, 23 (5) :136140.
[27] 吴建锋, 何小荣, 陈丙珍.一种用于动态化工过程建模的反馈神经网络新结构[J].化工学报, 2002, 53 (2) :156160.
[28] 沈 清, 汤 霖.模式识别导论[M ].北京:国防科技大学出版社, 1991.
[29] HoskinsJC , HimmelblauDM .Artificialneuralnet workmodelsofknowledgerepresentationinchemicalengineering[J].CompChemEng, 1988, 12 (9/10) :881890.
[30] VenkatasubramanianV , VaidyanathanR , YamamotoY .Processfaultdetectionanddiagnosisusingneuralnetwork—Ⅰsteady state processes[J].CompChemEng, 1990, 14 (7) :699712.
[31] HoskinsJC , KaliyunKM , HimmelblauDM .Faultdiagnosisincomplexchemicalplantsusingartificialneu ralnetworks[J].AIChEJournal, 1991, 37 (1) :137141.
[32] KramerMA , LeonardJA .Diagnosisusingbackpropa gationneuralnetwork—analysisandcriticism[J].CompChemEng, 1990, 14 (12) :13231338.
[33] LeonardJA , KramerMA .Radialbasisfunctionnet worksforclassifyingprocessfaults[J].IEEEControlSystemsMagazine, 1991, 11 (3) :3138.
[34] KavuriSN , VenkatasubramanianV .Representingboundedfaultclassesusingneuralnetworkswithellip soidalactivationfunctions[J].CompChemEng, 1993, 17 (2) :139163.
[35] BecraftWR , LeePL .Anintegratedneuralnetwork/expertsystemapproachforfaultdiagnosis[J].CompChemEng, 1993, 17 (10) :10011014.
[36] SuontaustaJ, SorsaT , KoivoHN .Radialbasenet workfordynamicfaultdetection[A].ProcICANN 92[C].Brighton, 1992.1495.
[37] SorsaT , SuontaustaJ, KoivoHN .Dynamicfaultdiag nosisusingradialbasisfunctionnetworks[A].Interna tionalConferenceonFaultDiagnosis[C].Toulouse, 1993.160.
[38] LeonardJA , KramerMA .Diagnosingdynamicfaultsusingmodularneuralnets[J].IEEEExpert, 1993, 8 (2) :4453.
[39] ZHAOJin song, CHENBing zhen, SHENJing zhu.Multidimensionalnon orthogonalwavelet sigmoidbasisfunctionneuralnetworkfordynamicprocessfaultdiag nosis[J].Computers&ChemEng, 1998, 23 (1) :8392.
[40] ChenFC .Back propagationneuralnetworkfornonlin earself tuningadaptivecontrol[J].IEEEControlSys temsMagazine, 1990, 10 (3) :4448.
[41] 侯 晋, 陈国松, 王镇浦.人工神经网络的发展及其在多元校正中的应用[J].分析科学学报, 2001, 17 (1) :6874.
[42] KramerMA .Nonlinearprinciplecomponentanalysisusingautoassociativeneuralnetworks[J].AIChEJour nal, 1991, 37 (2) :233243.
[43] PierreB .Gradientdescentlearningalgorithmoverview—ageneraldynamicalsystems perspective[J].IEEETransactiononNeuralNetworks, 1995, 6 (1) :182195.
[44] 何小荣, 陈丙珍, 胡山鹰, 等.一种新的BP神经网络训练方法[J].化工学报, 1994, 45 (5) :573579.
[45] 陈方泽, 陈丙珍, 何小荣.遗传算法与神经网络 (Ⅱ) —用EGA GDR训练神经网络[J].化工学报, 1996, 47 (4) :421426.
[46] 葛 红.用遗传算法训练基于神经网络结构的控制器[J].华南师范大学学报 (自然科学版) , 2000, 1:3338.
[47] 文绍纯, 罗 飞, 付连续.遗传算法在人工神经网络中的应用综述[J].计算技术与自动化, 2001, 20 (2) :15.