基于巴克豪森噪讯的曲轴残余应力测试仪系统毕业设计.doc

摘要本文主要内容为矿山排水在线监控系统中传感器故障诊断系统研究。应用了模糊神经网络的故障诊断方法，具体包括模糊理论、神经网络和传感器有关理论及他们的在故障诊断中的应用。本文详细介绍了模糊神经网络的结构和学习算法，并将此应用于故障诊断中，并分析了它在故障诊断过程中存在的优势和不足。该诊断方法是应用MATLAB提供的模逻辑工具箱实现的。将模糊技术融合到神经网络中，应用模糊理论把故障特征参数分级模糊化，再结合神经网络进行故障诊断，结果证明了基于模糊神经网络的故障诊断方法是有效的，具有一定的学术和工程应用价值。关键词: 传感器；神经网络； 模糊理论； 故障诊断AbstractThe main contents of this thesis are mine discharge online monitoring system of sensor fault diagnosis system research. Application of the fuzzy neural network fault diagnosis method, including fuzzy theory, neural network and sensor related theories and their application in fault diagnosis. This paper introduces the fuzzy neural network structure and learning algorithm, which is applied to the fault diagnosis, and analyzes it in the process of fault diagnosis in the presence of the advantages and disadvantages of. This fuzzy method is realized by the Fuzzy Inference System Toolbox of MATLAB. The fuzzy technology integration into the neural network, the application of fuzzy theory to fault characteristic parameters of grading fuzzy, combined with the neural network fault diagnosis, results show that the fault diagnosis based on fuzzy neural network method is effective, has certain academic and engineering application value.Keywords: Sensor; neural network; fuzzy theory; fault diagnosis目 录摘要IAbstractII第1章 绪论11.1 课题研究背景与意义11.1.1 课题的研究背景11.1.2 课题研究的意义11.2 故障诊断技术综述21.2.1 故障诊断概念与内容21.2.2 故障诊断技术的发展概况41.3 模糊技术与神经网络技术的发展概况41.3.1 模糊技术的发展概况41.3.2 神经网络技术的发展概况51.4 论文的主要内容51.5 本章小结5第2章 模糊理论及其应用62.1 模糊理论62.1.1 模糊理论的基本概念62.1.2 模糊集合的表示方法62.1.3 模糊集合的运算72.1.4 隶属函数的建立与模糊分布82.2 模糊推理112.2.1 模糊推理的方法112.2.2 模糊推理举例122.3 模糊推理的实现132.4 本章小结13第3章 神经网络及其应用143.1 神经网络的基本原理143.1.1 神经网络的基本概念143.1.2 神经网络的拓扑结构153.1.3 神经网络的学习方式163.2 BP神经网络163.2.1 BP神经网络的结构163.2.2 BP网络的算法步骤173.2.3 BP网络的算法改进183.3 模糊神经网络故障诊断193.3.1 模糊理论与神经网络的结合203.3.2 基于模糊神经网络的故障诊断模型203.4 本章小结22第4章 模糊神经网络故障诊断方法234.1 模糊逻辑和神经网络的比较234.2 模糊神经网络的结构234.3 改进的模糊神经网络的结构244.3.1 对模糊神经网络进行改进244.3.2 模糊规则数的确定264.3.3 学习算法274.4 基于信息融合的模糊神经网络故障诊断方法294.5 模糊神经网络故障诊断方法的Matlab实现304.5.1 传感器实时数据处理304.5.2 模糊化处理314.5.3 神经模糊系统在Matlab上的实现32第5章 系统整体设计及实现365.1 虚拟仪器简介365.2 虚拟测量系统的组成365.3 虚拟仪器程序365.3.1 虚拟仪器人机界面375.3.2 虚拟仪器的算法程序385.4 虚拟仪器与Matlab通信405.5 系统整体设计41第6章 小结44参考文献45致谢46第1章 绪论1.1 课题研究背景与意义1.1.1 课题的研究背景现代化的工程技术系统正朝着大规模、复杂化的方向发展，这类系统一旦发生事故就可能造成人员和财产的巨大损失。如: 1982年江苏化肥厂合成氨压缩机组发生强烈振动，三次停机，损失达千万元以上。大量事实表明，对机械设备，特别是关键设备实行工况监控和故障诊断的必要性与迫切性。开发矿藏时,由大气降水、地表水、地下水和生产用水等涌入矿井的水量，称矿井涌水量，通常为采掘量的数倍到数十倍。矿井涌水量呈季节性周期变化，雨季（或溶雪期）达高峰，最大涌水量可为正常涌水量的1.53倍或更多。排水方法有自流排水和机械排水两种。为防止矿山水灾，露天和地下开采均须有良好的排水系统和设备。因此，切实保障现代复杂系统的可靠性与安全性，具有十分重要的意义，得到了广泛的高度重视。任何一个系统都不可避免会出现故障，如何将故障即时诊断出来，并将故障造成的损失降低到最小限度，就产生了一门十分有意义的学科控制系统的故障诊断。故障诊断技术的出现，为提高复杂系统的可靠性开辟了一条新的途径。所谓故障检测是指校核可测变量或不可测估计变量是否在正常的运行范围内。从设备故障诊断技术的起源和发展来看，故障诊断技术的目的是保证可靠地、高效地发挥设备应有的功能。这包含了三点:一是保证设备无故障，工作可靠;二是保证物尽其用，设备要发挥最大的效益;三是保证设备在将有故障或已有故障时，能及时诊断出来，正确地加以维修，以减少维修时间，提高维修质量，节约维修费用，应使重要的设备能按其状态进行维修，改革目前按时维修的体制。1.1.2 课题研究的意义基于模糊神经网络的传感器故障诊断方法是解决以上难题的有效途径。将模糊技术与神经网络技术结合在一起，既拥有模糊技术的优点(如易于置入专家知识等)，又有神经网络的优点(如并行分布处理的连接结构、自学习和较好的容错能力等)为解决充满了复杂性与模糊性的传感器故障诊断，提供了一种有效的思维方法.因此，论文在研究了传感器系统常见故障的基础上，通过有关数据信息，并选取合理的隶属度函数进行模糊化处理，建立了相应的故障诊断模糊规则库和利用模糊神经网络使得神经网络这一“黑箱”问题走向透明化，即可以将许多能够用规则描述的因果关系用模糊神经网络的输入输出关系实现，从而进行训练与仿真。1.2 故障诊断技术综述1.2.1 故障诊断概念与内容1.故障诊断的概念故障诊断是指在一定工作环境下查明导致系统某种功能失调的原因或性质，判断劣化状态发生的部位或部件，以及预测状态劣化的发展趋势等1。故障诊断的基本思想可以表述为:设备检测对象全部可能发生的状态，包括正常和故障状态，组成状态空间，它的观测量的取值全体构成特征空间，当系统处于某一状时，系统具有确定的特即 :反之，一定的特征也对应确定的状态，即存在映射:状态空间与特征空间的关系可用图1.1表示。特征空间状态空间图1.1 故障诊断表述若系统可能发生的状态是有限的，例如可能发生种故障，这时把正常系统所处的状态称为，把存在不同故障的系统所处的不同状态称为。当系统处于状态时，对应的可测量特征向量为。故障诊断是由特征向量表征，求出它所对应的状态的过程。因为一般故障状态并非绝对清晰的，有一定模糊性，因此它所对应的特征值也在一定范围内变动，在这种情况下，故障诊断就成为按特征向量对被测系统进行分类的问题或对特征向量进行状态的模式识别问题。因此，故障诊断实质上是一类模式分类问题。2.故障诊断的内容对于设备的故障诊断，一是防患于未然，早期诊断;二是诊断故障，采取措施。具体讲，故障诊断技术应包括以下5个方面内容2。正确地从特征信号中提取设备有关状态的有用信息一般来讲，从特征信号来直接判明设备状态的有关情况，查明故障的有无是比较难的。正确选择与测取设备有关状态的特征信号所测取的信号应该包含设备有关状态的信息，这种信号称为特征信号或特征参数。根据征兆正确地进行设备的状态诊断一般地，不能直接采用征兆来进行设备的故障诊断、识别设备的状态。可以采用多种的模式识别理论与方法，对征兆加以处理，构成判别准则，进行状态的识别与分类。根据征兆与状态正确地进行设备的状态分析当状态为有故障时，则应采用有关方法进一步分析故障位置、类型、性质、原因与趋势等。例如，故障树分析是分析故障原因的一种有效方法，也可以应用神经网络如有导师学习的BP网络等。根据状态分析正确地做出决策状态分析结束后，应干预设备及其工作进程，以保证设备可靠、高效地发挥其应有功能，达到故障诊断的目的。所谓干预包括人为干预和自动干预，即包括调整、修理、控制、自诊断等。设备诊断过程框图如图1.2。检测对象特征信号征兆状态故障情况决策状态趋势信号测取信号提取状态监控设备干预决策形成图1.2 设备诊断过程图1.2.2 故障诊断技术的发展概况设备的故障诊断，实际上自有工业生产以来就存在，早期人们根据对设备的触摸，对声音、振动等状态特征的感受，凭借工匠的经验，可以判断某些故障的存在，并提出修复的措施。故障诊断技术是现代化生产发展的产物，故障诊断技术作为一门学科，是20世纪60年代以后才发展起来的。我国故障诊断技术的发展始于20世纪70年代末。1985年以来，由中国设备管理协会设备诊断技术委员会、中国振动工程学会机械故障诊断分会和中国机械工程学会设备维修分会分别组织的全国性故障诊断学术会议先后召开十余次，极大推动了我国故障诊断技术的发展。1987年国务院正式颁布了全民所有制工业交通企业设备管理条例，规定:“企业应当积极采用先进的设备管理方法和维修技术，采用以设备状态监测为基础的设备维修方法”，其后冶金、机械、核工业等部门还分别提出了具体的实施要求，使我国故障诊断技术的研究和应用在全国普遍展开。现在全国已有很多单位开展设备诊断技术的研究工作，全国各行业都很重视在关键设备上装备故障诊断系统，特别是智能化的故障诊断系统。在一些特定设备的诊断研究方面很有特色，形成了一批自己的监诊断产品。目前，全国性的设备故障诊断会议经常举办，各种国际会议也举办过数次。1.3模糊技术与神经网络技术的发展概况1.3.1 模糊技术的发展概况 1965年美国加利福尼亚大学教授扎德（L.A.Zadeh）第一次提出了研究事物模糊性的问题，并且提出了模糊集合这一新概念，作为表示模糊事物的基本数学模型，为模糊数学奠定了基础。模糊数学从二值逻辑基础上转移到连续值逻辑上来，把绝对的“是”和“非”变为更加灵活的东西，在适当的限域上相对的划分“是”与“非”。利用隶属度函数和最大隶属原则可以进行模式识别，利用模糊矩阵可以进行模糊关系合成运算及模糊聚类，另外还可以进行模糊综合评判。从某种意义上讲，模糊数学是架在形式化思维和复杂系统之间的一座桥梁。通过它可以把形式化思维的数学成果应用到复杂系统，可以通过少量的信息而获得大量的成果。模糊理论在车用发动机故障诊断中的应用，其特点主要表现在：诊断的多参数性单靠某一个参数很难判断出传感器的故障，通常通过几个参数的结合来描述其故障。诊断参数是非模糊的诊断参数即为故障的特征参数，是针对某一具体故障、能够突出反映该故障的参数集合。这些参数都是实际测得的数据，不具有模糊性。故障类群具有模糊性在发动机的故障状态与正常状态之间无法找到一个明确的界限。对发动机运行故障的判断，不同的人在不同的标准下会有不同的结论。由于存在上述特点，所以通常结合模糊理论来进行传感器故障的识别。1.3.2神经网络技术的发展概况人工神经网络（ANN）是人工智能领域中的一个重要分支，它是由大量的神经元互连而成的网络。它反映了人脑智能的许多基本特征，但并不是人脑神经元联系网的真实写照，而只是对其作某种简化、抽象和模拟3。神经网络在模仿生物神经计算方面有一定优势，它具有自学习、自组织、自适应、联想和模糊推理等方面的能力。因此，将神经网络用于发动机故障的学习推理能够取得较理想的效果。1.4 论文的主要内容 本文在首先论述了模糊逻辑与神经网络的结合，包括网络结构，算法步骤，参数学习中应注意的问题。研究建立多传感器的故障诊断模型，依据模糊集理论数据融合方法，采用多级模糊综合评判方法对传感器各个时序点的测量数据进行融合，经过模糊综合评判融合得到传感器工作状态模糊集合的隶属度，通过隶属度评价传感器的故障情况。建立传感器的故障预测模型，根据传感器多次测量的历史数据，对传感器的故障趋势进行预测。接下来，将模糊与神经网络结合起来，对系统加以研究。其中研究了以BP算法的理论基础、算法的具体实现(如何结合)以及算法改进。最后对全文进行了总结，同时对BP今后的发展方向进行了展望，这也是作者有待进一步研究的内容。借助MATLAB模糊逻辑工具箱用Mamdani推理法实现模糊故障诊断;模糊化后的参数亦可以作为神经网络的输入样本，然后用神经网络直接进行故障分类诊断，最后结合MATLAB神经网络工具箱举例介绍了BP算法的实现。1.5 本章小结本章概述了故障诊断研究的意义与目的，给出了清晰的故障诊断的概念和内容;接下来对故障诊断技术的发展概况做了较详细的介绍，给出了诊断技术具体方法应用及其特点;最后对本文研究内容作以综述。第2章 模糊理论及其应用2.1 模糊理论2.1.1 模糊理论的基本概念模糊理论是在美国柏克莱加州大学的L.A.Zadeh教授于1965年创立的模糊集合理论的数学基础上发展起来的，主要包括模糊集合理论、模糊逻辑、模糊推理和模糊控制等方面的内容4。在经典集合中，假设u为论域U中的一个元素，A为U的子集，那么u与A的关系可以用特征函数CA（u）来表示： (2.1)在经典集合中，特征函数只允许取O，l ，与二值逻辑对应，“非此即彼”，很难表达客观世界“亦此亦彼”的现象，隶属函数的应用使之成为可能 4。论域U中的模糊子集A是以隶属函数热为表征的集合，即由映射 (2.2)确定论域U的一个模糊子集A。A称为模糊子集的隶属函数，A(u)称为u对A的隶属度，它表示论域U中的元素u属于模糊子集A的程度。它在0，1闭区间内可连续取值。2.1.2模糊集合的表示方法模糊集合的表示方法通常有四种:Zadeh表示法、矢量表示法、序偶表示法和函数表示法。对于论域U上的模糊集合A，这几种表示方法介绍如下:1.Zadeh表示法当U为离散有限域时，按照Zadeh表示法，有 (2.3)式中：表示元素对于集合A的隶属度和元素本身的对应关系，而不是分式;“+”不表示加法运算，而是表示在论域U上，组成模糊集合A的全体元素间排序与整体间的关系。当U是连续有限域时，按Zadeh给出的表示为 (2.4)式中不表示求积分运算，而是表示连续论域U上的元素与隶属度一一对应关系的总体集合。 2.序偶表示法若将论域U中的元素与其对应的隶属度值组成序偶，也可以将A表示成 (2.5)3.矢量表示法如果单独地将论域U中的元素所对应的隶属度值按顺序写成矢量形式来表示模糊子集，则 (2.6) 应该注意的是，在矢量表示法中隶属度为O的项不能省略，必须依次列入。 4.函数描述法根据模糊集合的定义，论语U上的模糊子集A完全可以由隶属函数来表征，而隶属函数表示元素对A的从属程度大小。这和清晰集合中的特征函数表示方法一样，可以用隶属函数曲线来表示一个模糊子集A。例如，以年龄做论域，取=U0，200。Zadeh给出了“年老”O和“年轻”Y两个模糊集合的隶属函数式，分别为2.1.3模糊集合的运算模糊集合中，虽然集合间不存在属于或不属于的明确关系，但集合间还是存在和经典集合论一样的相等、包含、并、交、补等。设A，B是论域U的模糊集，若对任一都有，则;若，则。对AB的隶属函数，“”为取极大值运算。对AB的隶属函数，“”为取极小值运算。对A的补隶属函数，。模糊集合的基本定律如幂等律、结合律、交换律、分配律、吸收律、同一律、德·摩根律等与经典集合一致。唯一不同在于模糊集合不满足互补律:AA¯，AA¯=U这是因为模糊集合A没有明确的外延，他的补集A¯也没有明确的外延，他们存在重叠区域。上述定义的模糊集合运算均采用了Zadeh算子，。Zdahe算子的优点是计算简单，除不满足互补律外，与经典集合的运算性质十分相似。但它存在的缺点是计算的结果往往会与实际情况不完全相符合，不能满足实际的需要。2.1.4隶属函数的建立与模糊分布1.隶属函数的建立在经典集合中，特征函数只能取O和1两个值，而在模糊集合中，其特征函数的取值范围从两个元素的集合扩大到0，1区间连续取值。为了把两者区分开来，就把模糊集合的特征函数称作隶属函数。隶属函数是模糊集合论的基础，因而如何确定隶属函数就是一个关键问题。隶属函数实质上反映的是事物的渐变性，它遵循下面一些基本原则5。表示隶属函数的模糊集合必须是凸模糊集合一般说来，某一模糊概念的隶属函数的确定应首先从最适合这一模糊概念的点下手，也即确定该模糊概念的最大隶属函数点，然后向两边延伸。隶属函数的确定形象地说要求呈单峰馒头形，用数学语言表示就要求是凸模糊集合。实际应用中为了简化计算常选用三角形、梯形或高斯形作为隶属函数曲线。变量所取隶属函数通常是对称和平衡的一般情况下，描述变量的标称值安排得越多，即在论域中的隶属函数的密度越大，模糊应用系统的分辨率就越高，其系统响应的结果就越平滑，但带来的不足之处是模糊规则会明显增多，系统设计难度加大。但如果标称值安排太少，则其系统的响应可能会不敏感。模糊变量的标称值选择既不能过多也不宜太少，一般取3-9个为宜。隶属函数要符合人们的语言顺序，避免不恰当的重叠隶属函数的确定目前没有一套成熟有效的方法。通常的方法是初步确定粗略的隶属函数，然后再通过“学习”和不断实践来修整和完善，从而达到主观和客观的统一。确定隶属函数的方法大致有下述几种。主观经验法。 分析推理法。 调查统计法。2.常用的模糊分布(l)偏小型模糊分布这类模糊集适合描述“小”、“淡”、“低”等偏小的一方的模糊现象。隶属函数一般可表示成: 其中a为常数 (2.7)其中f (·)是不增函数，以下列出常见的几种。 降半分布， (k>0为常数) 降半正态分布， (k>0为常数) 降半Cauchy分布， (>0,>0为常数) 图2-1降半分布 图2-2降半正态分布图2-3降半Cauchy分布(2)偏大型模糊分布这类模糊集适合描述“大”、“浓”、“高”等偏大的一方的模糊现象。隶属函数一般可表示成: 其中a为常数 （2.8）其中f(·)是不减函数，以下列出常见的几种。升半分布， （k>0为常数）升半正态分布，（k>0为常数）升半Cauchy分布，（0，0为常数）图2-4 升半分布 图2-5升半正态分布图2-6升半Cauchy分布(3)中间型模糊分布这类模糊集适合描述“适中”、“温和”、“正常”等中间状态的模糊现象，隶属函数可表示为:点型模糊分布，（k>0为常数）正态模糊分布，（k>0为常数）Cauchy模糊分布，（0，为正偶数）图2-7点型模糊分布 图2-8正态模糊分布图2-9 Cauchy模糊分布2.2模糊推理2.2.1模糊推理的方法在现实生活中我们获得的信息往往是不精确的、不完全的;或者事实本身就是模糊而不完全确定的，但又必须利用且只能利用这些信息进行判断和决策。此时，传统的形式逻辑和近代的数理逻辑均无法解决这类问题6。模糊逻辑推理是一种不确定性的推理方法，它是在二值逻辑三段论的基础上发展起来的。这种推理方法所得到的结论与人的思维一致或相近，在应用实践中证明是有用的。模糊推理的方法有Zadeh法，Mamdani法等。1.Mamdani法。Mamdani推理法是一种在模糊控制中普遍使用的方法，它本质上仍然是一种合成推理方法，只不过对模糊蕴含关系取不同的形式而已。Mamdani模糊蕴含关系AB用A和B的直积表示，即即 （2.9）2.Zadeh法。Zadeh在1973年对于模糊命题“若A则B”，利用模糊关系的合成运算提出了一种近似推理的方法，并称为推理的合成法则。设模糊蕴含关系“若A则B”用AB来表示，且，则AB是上的模糊关系，即 (2.10)式中：确定了上述模糊关系后，有如下模糊推理方法。 模糊拒式推理己知模糊蕴含关系AB的关系矩阵，对给定的，则可推得结论，且为 (2.11)模糊取式推理已知模糊蕴含关系AB的关系矩阵R，对于给定的，则可推得结论，且为 （2.12）其中“°”表示合成运算，即模糊关系的sup-运算。2.2.2模糊推理举例下面列举IF A THEN B的推理例子。对于一个系统，蕴含含系为AB，己知: 求在输入为 时的输出。根据Mamdani推理法则，有而故有即 2.3模糊推理的实现MATLAB软件提供了一个模糊逻辑工具箱(Fuzzy Logic Toolbox)来方便用户建立模糊系统。该工具箱可以用图形用户界面(GUI)或命令行方式建立系统。它提供5个基本GUI工具用于建立、编辑和观察模糊推理系统(FIS)，分别是模糊推理系统编辑器、隶属度函数编辑器、规则编辑器、规则观察器和曲面观察器7。FIS编辑器用于系统处理高层属性，如输入和输出变量个数，选用的推理方式等。隶属度函数编辑器用于定义对应于每个变量的隶属度函数的形状。规则编辑器用于定义系统行为的一系列规则。规则观察器和曲面观察器是不同于编辑器的用于查看FIS的工具。规则观察器是一个基于MATLAB的用于显示模糊推理方框图的工具。2.4本章小结本章对模糊理论作了较为详细的阐述，如模糊理论的基本概念、模糊集合的表示方法和模糊集合的基本运算;隶属函数是模糊理论的重要内容，所以较详尽地阐述了隶属函数的建立原则和方法，及常用的隶属函数的分布;接着介绍了模糊推理的方法，以Zadeh法和Mamdani法为主，给出了模糊推理的实例;最后提及了用MATLAB提供的模糊逻辑工具箱来实现故障的模糊推理。第3章 神经网络及其应用神经网络是人们在模仿人脑处理问题的过程中发展起来的一种智能信息处理理论，它通过大量神经元构成非线性动力学系统，对人脑的形象思维、联想记忆等进行模拟和抽象，实现与人脑相似的学习、识别、记忆等信息处理能力。由于神经网络具有处理复杂多模式和进行联想、推测和记忆等功能，因而，它非常适合应用于各种系统的故障诊断。3.1神经网络的基本原理3.1.1神经网络的基本概念神经网络（NN）是由大量神经元相互连接而成的非线性复杂系统，是对人脑部分基本特征的抽象和模拟，每个节点向邻近的其它节点发出激活或抑制信号，整个网络的信息处理是通过所有节点间的相互作用来完成的8-10。神经元是神经网络的基本单元。如图3.1所示，设每个单元具有一个与时间有关的活动状态和阈值，分别用和表示，神经元间的连接强度用权值来表示。每个神经元有一个输入集合和一个输出值，上述假设可描述为： （3.1） （3.2） （3.3）图3.1 神经元模型其中，f、g为某一函数，当神经元没有内部状态，即时， （3.4）由式3.4可以看出，连接权w>0的输入对求和起激发作用，因而这种连接权值称为激发连接；w<0的输入对求和起抑制作用，这种连接称为抑制连接。f为神经元上的传递函数，常用的传递函数有以下几种：线性函数 （3.5）阈值型函数 （3.6）S型函数对数型 （3.7）正切型 （3.8）3.1.2神经网络的拓扑结构神经网络的连接可以是任意形式，以下是四种常见的神经网络拓扑结构。1.从输出层到输入层有反馈的前向网络除各层的顺次连接外，还有从输出层到输入层的反馈，它可用来存贮某种模式序列，如神经认知机。2.不含反馈的前向网络神经元分层排列，组成输入层、隐含层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前一层神经元的输入，输入模式经过各层的顺次变换后，得到输出层输出，感知器和误差反向传播算法中使用的网络都属于这种类型。3.层内有反馈的前向网络通过层内神经元间的相互结合，可以实现同一层内神经元之间的横向抑制或兴奋机制，这样可以限制每层内能同时动作的神经元数，或者把每层内的神经元分成若干组，让每组作为一个整体来动作。例如，可以利用横向抑制机制把某层内具有最大输出的神经元挑选出来，而抑制其他神经元处于无输出状态。4.相互结合型网络这种网络在任意两个神经元之间都可能有连接，HNN和Boltzman机都属于这一类。在无反馈的前向网络中，信号一旦通过某个神经元过程就结束了。而在相互结合网络中，信号要在神经元之间反复往返传递，网络处在一种不断改变状态的动态之中，从某个初态开始，经过若干次变化，才会达到某种平衡态。3.1.3神经网络的学习方式生物之所以能适应环境，是因为生物神经网络具有从周围环境学习的能力。对于人工神经网络，学习能力也是其重要的特点。神经网络的学习方式包括有导师学习和无导师学习两种形式。有导师学习也称为监督学习。一般情况下，有导师的训练样本是输入输出对其中为输入样本，为输出样本（教师信号）。神经网络训练的目的是：通过调节神经元的参数，使网络产生期望的行为，即当输入样本为时，网络输出尽可能接近。无导师学习也称为无监督学习或自组织学习。无导师学习不提供教师信号，而是只规定学习方式或某些规则，具体的学习内容随输入信号而异，系统可以自动发现学习规律。不管是有导师学习还是无导师学习，都要通过调整神经元的参数（权值或阈值）来实现。对单个神经元，将阈值并到权向量中，若令权向量，输入样本，对于有导师学习，假定输入x对应的期望输出值为d，神经元学习算法的内容就是确定神经元的权值调整量，并得到权值调节公式，即 (3.9)式中，为学习率，一般取之间；(t)的取值一般与x、d及当前权值w(t)有关11。3.2 BP神经网络误差逆传播网络，简称为BP（Back Propagation）网络，是目前发展最成熟、应用最广泛的神经网络技术。3.2.1 BP神经网络的结构BP网络是利用非线性可微分函数进行权值训练的多层网络，通常有三层或者三层以上，包括输入层、隐含层和输出层。上下层之间实现全连接，而每层神经元之间无连接。当一对学习样本提供给网络后，神经元的激活值从输入层经各隐含层向输出层传播，在输出层的各神经元获得网络的输入响应。如图3.1描述了具有一个隐含层的BP网络。其中，和分别为输入层到隐含层之间的权值和阈值；和分别为隐含层到输出层之间的权值和阈值，X为r维输入向量样本，和分别为和的维数。其主要思想为：对于q个输入学习样本：，已知与其对应的输出样本为：。学习的目的是用网络的实际输出与目标矢量之间的误差来修改其权值，使与期望的尽可能的接近，即使网络输出层的误差平方和达到最小。图3.1 具有一个隐含层的BP网络模型结构图3.2.2 BP网络的算法步骤设有P个训练样本，即P个输入输出对,其中为第k个输入样本：,m为输入向量维数；为第k个输出样本(目标输出)：,n为输出向量维数；网络的实际输出为：;为第i个神经元与第j个神经元的连接权值。该算法的训练过程如下12：置各层的初始权值和阈值：为小的随机数。输入训练样本集：，对每个样本进行（3）（5）的迭代。计算网络的实际输出和隐含层单元的状态： (3.10)式中，传递函数f为Sigmoid函数，即计算训练误差：输出层： (3.11)隐含层： (3.12)式中表示各输出节点的期望输出值；k是j节点所在层的上一层的节点号。修改权值和阈值： (3.13) (3.14)式中，为学习步长， 为势态项。当P经过训练后，判断样本集的均方误差是否满足给定精度要求： (3.15)式中，为预先给定精度； (3.16)为第k个样本的误差。若满足精度要求则转到（7），否则转到（3）。结束。对训练样本，使用上述算法，通过误差反传，调整各层网络单元的权值，输入所有训练样本，重复以上步骤，使输出误差限制在给定的范围内，此时权值不再改变。利用这组网络权值，可以进行实际过程的诊断推理。3.2.3 BP网络的算法改进传统的BP网络算法存在着一些不足，如在学习训练时收敛速度慢、存在局部极值现象和难以确定隐含层节点个数等问题。为此，实际应用中出现了许多改进方法。以下对最常用的两种改进方法：自适应调整学习速率法和弹性BP方法进行了分析。1.自适应调整学习速率标准BP算法收敛速度慢的一个主要原因就是学习率选择不当。学习率选取过小，收敛太慢；学习率选取过大，有可能修正过量，导致振荡甚至发散。因此出现了自适应调整学习速率的改进算法: （3.17） （3.18） （3.19）式中：w(k+1)为第k+l次迭代时的权值；w(k)为第k次迭代时的权值；a(k)为第k次迭代时的步长；a(k-1)为第k-1次迭代时的步长；D(k)为第k次迭代时的负梯度；D(k-1)为第k-1次迭代时的负梯度；y为步长调整系数。2.弹性BP方法BP网络的隐含层传递函数一般采用S型函数，该函数可将一个无限的输入范围压缩到一个有限的输出范围(0,l)。当输入变量很大时，斜率接近于零，这些因素会导致在BP网络中出现下降梯度幅值变化很小的情况，使得网络权值的修正过程变得停顿下来。因此出现了有弹性的BP网络计算方法。这种方法的原理是消除对偏导数大小有害的权值，确定唯有导数符号被认为表示权值更新的方向，权值改变的大小由其专门的更新值来确定： （3.20）式中：表示所有模式求和的梯度信息，(t)表示t时刻。对每个权值和阈值的更新值修改规则为：若导数是正，权值和阈值的更新值为： （3.21）若导数为负，更新值为： （3.22）即偏导数的符号决定权值更新的方向，而权值改变的大小由更新值确定。若在两次连续的迭代中，目标函数对某个权值的偏导数的符号相同，则增大相应更新值；若相反，则减小相应的更新值。3.3