付冬梅信息工程学院自动化系115.ppt

《付冬梅信息工程学院自动化系115.ppt》由会员分享，可在线阅读，更多相关《付冬梅信息工程学院自动化系115.ppt（38页珍藏版）》请在三一办公上搜索。

1、付冬梅信息工程学院 自动化系2008-11-5,第十章 模糊神经网络,11.1 模糊神经网络理论概述11.2 模糊系统简介11.3 RBF网络及其与模糊系统的功能等价 11.4 模糊神经元的一般构造方法 11.5 模糊神经网络 11.6 标准模糊神经控制器结构11.7 模糊RBF型神经控制器结构,第十一章 模糊神经网络的讲述内容,11.1 模糊神经网络理论概述,模糊逻辑系统易于理解,而神经网络则有极强的自适应学习能力.随着模糊信息处理技术和神经网络技术研究的不断深入,如何将模糊技术与神经网络技术进行有机结合,利用两者的长处,提高整个系统的学习能力和表达能力,是目前最受人注目的课题之一。模糊神经

2、网络就是在这种背景下诞生的一门新生技术。,将模糊逻辑与神经网络相结合就构成了模糊神经网络.虽然这是两个截然不同的领域,但是均是对人类智能的研究.目前,将模糊逻辑和神经网络相结合的研究主要有以下几种形式:,1)将模糊逻辑用于神经网络将模糊集合的概念应用于 神经网络的计算和学习,用模糊技术提高神经网络的学习 性能。2)将神经网络用于模糊系统有两个方面(1)用神经网络的学习能力实时调整知识库,在线提取 或调整模糊规则或其参数.(2)用神经网络完成模糊推理过程.3)模糊系统和神经网络全面结合,构造完整意义上的模糊神 经网络和算法.近些年来有关模糊神经网络的主要研 究都集中在这方面。4)将模糊神经网络和

3、其它理论相结合,如遗传,聚夹,蚁群,自适应等.,11.1 模糊神经网络理论概述,神经网络具有并行计算,全分布式信息存储,容错能力强以及具有自适应学习等优点.但神经网络不适合表达基于规则的知识。由于神经网络不能很好的利用先验知识,常常只能将初始权值取为零或随机数从而增加了网络的训练时间和陷入局部极值。另一方面,模糊逻辑是一种处理不确定性,它比较适合表达模糊或定性知识,其推理方式比较适合于人的思维模式,但模糊逻辑系统缺乏学习和自适应能力。故二者将综合或许可以得到更好的系统模糊神经网络系统。与传统的神经网络不同,模糊神经网络的结构和权值都有一定的物理含义,在设计模糊神经网络结构时,可以根据问题的复杂

4、程度以及精度要求,结合先验知识来构造相应的模糊神经网络模型。,11.1 模糊神经网络理论概述,11.2 模糊系统简介,模糊集是传统的集合论的推广.该集合中包含隶属于不精确的元素.把隶属的程度定义为隶属函数.这个函数是一个位于0到1之间的值.这种方法明确地提供了一种用数学模型表达不确定性的方式.最常用的隶属函数有两个:,(1).三角隶属函数:,其中，m和分别为该模糊集的中心和宽度.,(2).高斯隶属函数,其中c和分别为高斯模糊集的中心和宽度.,11.2 模糊系统简介,模糊规则最常见的是IFTHEN和TSK模型（1）IFTHEN规则 模糊IFTHEN规则通常用于表达不精确的推理方式如：,11.2

5、模糊系统简介,(11.3),11.2 模糊系统简介,（2）TSK模型（TakagiSugenoKang模型）为了取代形如（2.3）的模糊IFTHEN规则，Takagi和Sugeno提出了如下形式的IFTHEN规则:,(11.4),TSK模型考虑的规则的IF部分是模糊的，而THEN部分是清晰的。它的输出是所有输入变量的线性组合。,其中（j=1,2r）是一个模糊集，（j=1,2r，i=1,2u）是实值参数。而 是第i个规则的系统的输出。,11.2 模糊系统简介,以往的试验表明TSK模型具有如下优点：（1）计算效率高（2）用线性方法能够较好地处理（3）用优化和自适应方法能够较好地处理（4）能确保输出

6、平面的连续性（5）更适合于用数学方法分析,11.2 模糊系统简介,输入 输出,（3）模糊推理系统 一个模糊推理系统基本上包括5个功能模块：,模糊推理过程大致如下：比较输入变量和隶属函数从而获得每个语言标识的隶属值模糊化。对初始部分的隶属函数作并运算（通常是乘或最小化），得到每个规则的激活权。依赖于激活权产生每一个规则的有效结果（模糊或清晰）。叠加所有有效的结果产生一个明确的输出去模糊化。,11.2 模糊系统简介,11.2 模糊系统简介,下面是实际中常用的三种推理类型：类型（Tsukamoto模糊类型）系统输出y是每个规则输出的加权平均：,（11.5）,其中，u表示总的规则数，由T范数算子得到：

7、如交集：,（11.6）,11.2 模糊系统简介,11.2 模糊系统简介,类型（TSK模糊模型）,每个规则的输出是输入变量加一个常数项的线性组合。输出是清晰量。最终输出是每个规则输出的加权平均：,（11.9）,现已证明有如下主要结论：一个模糊系统可以任意精度逼近一个连续或离散函数（在 范数意义下)这一点在某种程度上看很像神经网络。,11.2 模糊系统简介,模糊系统作为非线性逼近器,11.2 模糊系统简介,传统的建模方法是：对于一个非线性系统，在整体范围内寻找一个全局函数或解析解。模糊系统是基于规则库的系统，每条规则实际上是对应于被讨论系统的某个局部，如左图，这正是模糊系统的核心所在把一个复杂的系

8、统分解，每个部分用简单的关系逼近。与神经网络一样，“模糊系统的万能逼近”的结论也只解决了存在性问题，并没有给出怎样去找这样的模糊系统。,11.3 RBF网络及其与模糊系统的功能等价,一个具有r个输入和一个输出的RBF神经网络如图所示：,如果隐层节点采用高斯函数，则网络输出与输入关系可以表示为：,（11.11）,RBF网络：,如把高斯函数的输出归一化，并令：,11.3 RBF网络及其与模糊系统的功能等价,（11.12）,11.3 RBF网络及其与模糊系统的功能等价,2）模糊系统与神经网络功能等价：比较（11.5）（11.9）（11.12）式可以发现，如果以下条件成立，就可以建立RBF神经网络和模

9、糊推理系统间的功能等价性：RBF隐层单元的个数等于模糊IF-THEN规则数。每个模糊IF-THEN规则的输出由一个常数组成（确定清 晰的输出）。每个规则的隶属函数被选为带有相同宽度的高斯函数。所有的模糊推理采用乘法算子。RBF神经网络和模糊推理系统都基于加权平均产生输出。,11.3 RBF网络及其与模糊系统的功能等价,由上面的注释可知PBF网络可以看作是一个表达基于规则的模糊知识的神经网络。正是由于RBF单元的局部特性，才使得这种表达是一致的。从知识表示的观点来看，RBF网络本质上是一个IF-THEN规则的网络表达，它的每一个隐含单元表示一个规则，基函数等价于模糊系统中的隶属函数。,11.4

10、模糊神经元的一般构造方法,模糊神经元除具有普通神经元的功能外，还具有处理模糊信息的能力。按功能可分为以下三种：由IF-THEN规则构造的模糊神经元（对应类型I）该规则常用于表示专家知识。设 是某规则的输出。表示对应规则输出的推理隶属函数值（如式（11.6）和式（11.7）。则我们可以构造如下的神经元：,11.4 模糊神经元的一般构造方法,具有清晰输入的模糊化模糊神经元（对应类型）假设有u个非模糊输入，加权操作由隶属度函数代替。其神经元为：,其中 表示T范数算子（见式11.6）和（11.7）)。,11.4 模糊神经元的一般构造方法,具有模糊输入的模糊化模糊神经元（对应于类型）这里的加权操作不是隶

11、属度函数，而是对每个模糊输入进行修正的操作：,11.5 模糊神经网络,模糊神经元网络是全部或部分采用模糊神经元构成的一类可处理模糊信息的神经网络系统。这里我们只能给出一种基本的和常见的一种模糊神经网络结构和形式。其结构如下图所示：,11.5 模糊神经网络,这个网络在本质上代表的是一个基于TSK模型的模糊系统。其中X1.Xr 是输入的语言变量，y是输出。MFij是第i个输入变量的第j个隶属函数（i=1,2.r;j=1,2.u）。Rj表示第j条模糊规则（j=1，2，.u）.Nj是第j 个归一化节点，Wj是第j个规则的结果参数或连接权。u指系统总的规则数。下面再详细说明：1）第1层：输入层 语言变量

12、。2）第2层：隶属度层，每个节点代表一个隶属度。,i=1,2r;j=1,2u(11.14),11.5 模糊神经网络,11.5 模糊神经网络,5)第5层：输出层,(11.17),对于TSK模型，通常取：,k=1,2u(11.18),将（11.15）、（11.18）代入到（11.17）式中可得到：,（11.19）,11.5 模糊神经网络,这个模糊神经网络与标准的RBF神经网络相比有如下不同点：超过3层的网络结构，但是要注意到除最后一层其他各 层权值均为1）；权值可以是输入的函数而不是实常数；学习算法不同。所依据的机理和构造原理不同；工作方式和网络功能不同。关于这个网络的学习算法由于比较复杂和时间的

13、限制这里不讲了，请同学们参照有关文献。（矩阵分解、奇异值分解、特征值分解、修剪技术等）,11.6 标准模糊神经控制器结构,双入单出控制器结构如下图4所示，网络由六层组成。,11.6 标准模糊神经控制器结构,下面对网络的各层进行分析说明：,第一层为网络的输入层，网络输入变量为 和。,T为神经网络输入变量采样周期。,第二层为网络模糊化层，输入量、，分别划分为n和m个模糊子集，隶属函数都为高斯径向基函数，则节点输出表达式为:,i=1，2，n,i=1，2，m,11.6 标准模糊神经控制器结构,第三层为网络释放强度层，层中的每个节点完成模糊推理的AND运算，输出 代表了模糊推理规则的释放强度，也即两个输

14、入隶属函数的乘积。,式中 i=1，2，n；j=1，2，m；k=1，2，s。,第四层为网络归一化层，层中的每个节点完成模糊推论的OR运算，其输出 表示每条规则的释放强度在所有s条规则的释放强度总和中所占比例。,11.6 标准模糊神经控制器结构,第五层为网络模糊推理结论层，对应于一条规则的结论部分，分别可以是模糊单点、模糊集合、函数。当输出采用高木-关野推理规则时：,为可调参数集，节点输出 为：,第六层为模糊神经网络反模糊化输出层，控制器输出为：,11.6 标准模糊神经控制器结构,网络的第二、三层的节点数会随输入变量个数的增加而急剧膨胀，第三层通常以指数形式增加，所以特别是第三层。如果网络的输入输

15、出数量增加，节点数、要调整的输出权值等数字将会增长的更快。这样的网络会使系统前向计算和网络反传修正的运算量都很大，严重影响网络的运算速度。另外，对于这种网络，由于结构复杂，需要优化调整的参数太多，很难进行网络的初始化和结构设计工作，不仅因设计性能不佳的网络很难在应用中达到理想的控制效果而且网络初始化不合理直接影响到网络的学习速度和收敛性。,11.7 模糊RBF型神经控制器结构,模糊神经控制器结构等价于下图所示RBF型的模糊神经控制器，下面对网络各层的功能分析说明。,11.7 模糊RBF型神经控制器结构,第一层为网络的输入层，网络输入变量为 和。,T为神经网络输入变量采样周期。这同标准模糊神经网

16、络的第一层相同。,第二层为网络模糊运算层。这一层完成了模糊化、释放强度、归一化三个过程，计算推理如下:,11.7 模糊RBF型神经控制器结构,第三层为网络输出层。这一层完成网络模糊推理结论和反模糊化的输出过程，节点输出为网络输出y。其中 的意义同模糊神经网络，表示网络的模糊推理结论部分，从结构上相当于RBF神经网的输出层权值，网络性能最佳的权值组合可以采用BP算法等权值调整算法进行调整来获得。,隶属度函数在网络的第二层得到，并且也实现了模糊隶属度的合成，使模糊控制的前件在同一个神经元中完成。根据系统的控制要求可在线调整第二层的节点数。这种结构的模糊神经网络除了能很好的映射模糊控制规则外，还有利于网络的初始化和网络结构的设计，这主要是当根据控制要求需要增加(或减少)模糊控制规则时，只需在第二层中增加(或减少)节点即可，而且，第二层网络的节点变化对整个网络的影响不大。,本章结束，谢谢关注！,