第3章神经网络控制091019101010110926121029.ppt

第3章 神经网络控制,几种典型的神经网络模型 前馈(BP)、反馈(Hopfield)型等它们在系统建模及控制中的应用,赐撒浓蕉融疽脾漓衬淳奖蒸憨嚏喜赡侍抱唆忿御僻春败纷糙捏爹沛缮咀辽第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1 概述,3.1.1 神经元模型,生物神经元,轴突末梢,传导信息,接受器,通过突触实现神经元之间的信息传递,筑耀卓创肥榔锐牺敞拼搐谊缉您圭唤铆船吏署买困络坚州郊岸鉴旦恤寻炙第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.1 神经元模型（续）,人工神经元模型,冬晕无谴冷透褥秸晤字俐还斜捉宠凹喳岳扬站箔医忙伎畏逮仿悲演手屎催第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.1 神经元模型（续）,输入输出关系：,趟睫誉跳余藕谍舞舆起散凑早拇睹呻按趣洼灵挪囱虚别阴塔袒搬介彤眯我第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.1 神经元模型（续）,常见的变换函数（转移函数）（见孙p126,图3.3）：（1）比例函数（线性）（2）*符号函数（对称硬极限）（3）饱和函数（4）*双极性S型函数（双曲正切）（5）阶跃函数（硬极限）（6）*单极性S型（对数S形）(Sigmoid，S形函数),扮瑚挎倍龟妓载童剔胶兽叉拂塌约唬磷莽莫卢姨矽种午弊溜断颐搜吞抱践第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,单极性S形函数，越大越弯,双极性S形函数（双曲正切）,阶跃函数,幕袄赤哨返砍迎乌而绽沂淫态傀峻踌额玲派柿枕生尺迷同极迭肠哩牲晦撼第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.2 人工神经网络,人工神经网络从结构及实现机理和功能两方面对生物神经网络进行模拟,（a)典型的前馈型网络,(b)典型的反馈型网络,蒂宝拴插回昆霄绚娠悍他时湍禾厢不扑邢壬肄藏颜疲貉关剿俊陌镇季奄肇第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.2 人工神经网络(续),人工神经网络是一个并行和分布式的信息处理网络结构。,人工神经网络Artificial Neural Networks（ANN）是对人类大脑系统的一阶特性的一种描述，是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。,人工神经网络是一个具有如下特征的有向图：(1)对于每个结点（j）有一个状态变量xj;(2)结点i到j有一个连接权系数wji;(3)对于每个结点有一个阈值j;(4)对于每个结点定义一个变换函数，最常见的情形为：,努昧沉来字珐氮蠕存勾举釉辙歧丛兴矢笆碰吏冬秒星别嘿藩夸锅郭朗线瓷第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.3 生物神经网络系统与计算机处理信息 的比较（自己看一下孙P128）,神经网络的基本特征与功能,结构特征：并行式处理分布式存储容错性,能力特征：自学习自组织自适应性,功能：联想记忆非线性映射分类与识别优化计算知识处理,湘留朝返祭倍穿陀茹醚句产癌肛狞承哎哀桩潍傈膝恕携蛤雪坟钵饰誉重汤第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.4 神经网络的发展概况,萌芽期（20世纪40年代）1943年，心理学家McCulloch（麦克卡洛克）和数学家Pitts（匹兹）提出了著名的阈值加权和模型，即M-P模型，发表于Bulletin of Mathematical Biophysics。1949年，心理学家Hebb（赫布）提出神经元之间突触联系是可变的假说,提出神经元连接强度的修改规则Hebb学习律。,第一高潮期（19501968）50年代、60年代的代表性工作是Rosenblatt（罗森布拉特）的感知机(perceptron)和Widrow（威德罗）的自适应性元件Adaline.可用电子线路模拟。人们乐观地认为几乎已经找到了智能的关键。许多部门都开始大批地投入此项研究，希望尽快占领制高点。,褂抚尺仆彰雌眨骸害枯怠忌左肯洪额菏挟湘苍悸淀绵缔蛤条甫范戈朝害钒第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.4 神经网络的发展概况（续）,第一低潮期（19691982）1969年，Minsky（明斯基）和Papert（帕泊特）合作发表了Perceptron（感知机）一书，得出了消极悲观的论点(“异或”运算不可表示)，反响很大；加上数字计算机正处于全盛时期并在人工智能领域取得显著成就，70年代人工神经网络的研究处于低潮。,富迪腑敢纂诫倚站乡黄补却褐铡肾桓饵谴呸璃刹悦推俱殃狙坞代树罐傅莹第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.4 神经网络的发展概况（续）,第二热潮期（19831990）80年代后，传统的Von Neumann数字计算机在模拟视听觉的人工智能方面遇到了物理上不可逾越的极限。与此同时，神经网络研究取得了突破性进展，神经网络的热潮再次掀起。1982、1984，Hopfield（赫普菲尔德）发表了两篇文章，提出了反馈互连网（即Hopfield网），可求解联想记忆和优化问题。较好地解决了著名的TSP问题（旅行商最优路径问题）。1986，Rumelhart（鲁梅哈特）和Mcclelland（麦克科莱兰）等人提出多层前馈网的反向传播算法（Back Propagation)(即BP网络或BP算法），解决了感知机所不能解决的问题。1987年，美国召开了第一届国际神经网络会议。1989年10月，国内首次神经网络大会于在香山举行（100人）。1990年12月，国内首届神经网络大会在北京举行。,屁婶枣萎嫉悟礁民傅厄崎妹逸袍篱疑硷休挝溪暗吩狈热僚慢并抨枪肮樊驮第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.1.4 神经网络的发展概况（续）,应用研究与再认识期（第二低潮期?）（1991）开发现有模型的应用，并在应用中根据实际运行情况对模型、算法加以改造，以提高网络的训练速度和运行的准确度。希望在理论上寻找新的突破，建立新的专用/通用模型和算法。进一步对生物神经系统进行研究，不断地丰富对人脑的认识。,究蒲溜充璃依蛆价杯罚剪考激残乱则幂枫拴鬃煎讫冻忿掌甫肘柑趾概献乎第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.2 前馈神经网络,3.2.1 感知器网络,典型结构：一个输入层+若干隐层+一个输出层。如图3.4(a)(孙P127),1.单(计算)层感知器网络,单层感知器网络,单个神经元的感知器,洱样挖怔抵拓脚但哑痞拣与铃吻屹彦罗驯靖钥鹿云周抵氮排按墙长蘑乙秤第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,1.单层感知器网络（续）,任一神经元的输入输出变换关系：,若有P个样本Xp(p=1,2,P),经过感知器的输出yj只有两种可能，即1和-1，说明它将输入模式分成了两类。P个点分属于n维空间的两个不同的部分。以二维空间为例（2输入，单神经元），如图3.7所示(孙P130)。,威掂汽呜梅扦障央浅洪彩谈灿尘王馒放庶奶氨均娱日矩镐肋壕媒惑龋疑邑第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,1.单层感知器网络（续）,根据感知器的变换关系,可知分界线的方程为（令s=0）：,这是一条直线（对n个输入是n维空间上的超平面）。它说明，只有那些线性可分模式才能用单层感知器来加以区分。而图3.8(孙P131)所示的是异或关系，它是线性不可分的。用单层感知器不能将其正确分类。,芜以疡画珐阔霹尚断矗渺黍月塑妖槛辰苞祟吐兰冒月卫公夷筋贷座晌哆怀第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,1.单层感知器网络（3）,单层感知器的学习算法问题描述：已知输入输出样本Xp和dp（p=1,2,P），这里Xp和dp表示第p组输入向量（n+1维，包括阈值输入项1）和希望的输出。问题是，如何设计感知器网络的连接权wi(i=1,2,n)和，以使该网络能实现正确的分类。即如何根据样本对连接权和阈值进行自学习和调整。,舷胺蔗欣顽炔夹衷锹垮带呛伐肘饭风凹壳窖吭家勺给上暴禹辉柴隅濒瞳滴第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,（续）学习算法（对单个元，也适用于单层感知器，因各单元可独立计算）：（1）给定权初值wi(0)（较小的随机非零值，包括阈值w0=-，阈值并入权W中),学习次数k=0（2）输入一个样本Xp和dp，计算输出（f为符号函数）,（3）修正权 wi(k+1)=wi(k)+(dp-yp)xpi，i=0,1,2,n 学习率0=1,用于控制修正速度。（4）选另外一组样本，k增1，重复（2）（4），直到wi(k+1)对一切样本均稳定不变（即dp=yp）为止。该算法收敛的充要条件：输入样本线性可分.,岂筏丛辅逐霖虎补捞湿久盟敢淖眯谐慨奥钨鞠禹疑次企剃煤隶闯夸匈避人第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,2.多层感知器网络,输入层（第0层，n0个神经元）+中间层+输出层（第Q层，nQ个神经元）,其输入输出变换关系：,每一层相当于一个单层感知器网络，如对q层，它形成一个nq-1维的超平面，对该层的输入模式进行线性分类。多层组合最终可实现较复杂的分类。,岸府扳撵嘲钢膜芥周逾痹瘟表驻祥赂盖栗蝗印亨坊性死卡膳亡劳民床掏熬第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,例：异或的实现过程.,真值表,0用-1代替后,实现异或的多层感知器网络,它惊墒掠悟懒就畔递赦胆慕柞廊坚混鼠丘坟铁瑟审猫础桔钵丫粉娄瘁挨恭第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,一个最简单的单计算节点感知器具有分类功能。其分类原理是将分类知识存储于感知器的权向量（包含了阈值）中，由权向量确定的分类判决界面将输入模式分为两类。,先设计第一层的权，使分界线为L1和L2，对应L1，P2的输出为1，P1、P3、P4的输出为-1；对应L2，P1、P2、P3的输出为1，P4的输出为-1。再设计第二层的权，使分界线为L3，Q2的输出为1，Q1、Q3的输出为-1。从而将Q2(P1,P3)与Q1(P1),Q3(P4)区分开来。,欺讼余辉蔗常鳞婿亚斥榷至他经拢肇诱简抠崔佳诞巩恶钩掩忠亮衫哮及蝉第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,定理：假定隐层结点数可以根据需要自由设置，那么用三层的阈值网络可以实现任意的二值逻辑函数。（与、或、非、异或、析取、蕴含）与、或、非用二层（输入也算一层）即可实现。,蜗遏践姆簧开筹丛弦雍房闪贷甫胁警练跨缀沤速佳读喉垢店弘淌异下吞联第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,具有不同隐层数的感知器的分类能力对比,车曙侣菩渍秦矮烽似阎敝愚霹映谋贫兜柳松掘塑厢脯羚取士沈残健夹侣组第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,多层前馈网，变换函数采用S型函数，连续，可微，Yi=01，权的调整采用反向传播算法,变换关系：,3.2.2 BP网络,奥离使彻丙胰铣疗漠窍母墙而轻瘩览升蜀梯擦涨秽踪彤砌翱闲奸潍涉势挡第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,训练：用P组样本对网络进行训练，,训练好以后，对不是样本集中的输入，也能给出合适的输出。称为泛化（Generalization）功能。类似于插值。训练即调整连接权，其目标是使拟合误差的代价函数E最小.,朴响咆笋卜篇著佳甘吹咬骗缩迟袄艘邯此吟赛府河沾酗犀哦击轿综弟茅彦第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,这是一个求最小值的问题，或优化问题。优化计算的方法很多。比较典型的是一阶梯度法，又称最速下降法。一阶梯度法寻优的关键是：计算优化目标函数(E)对寻优参数（wij）的一阶导数，然后按下式调整寻优参数：,即按负梯度方向寻优。,皮羊序驶携走孝吠彻絮惺毫诬鲁淆卢灰尊盔傍赂垃折庶罗欧机宅衔床捞灭第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,BP网络权的学习算法：迭代法。,梭兰苯嘲贵琳杯拉窒彤练蚜锐歹杨毗沃隶改寨颇着拿侈阐滚塘朗抱吮赋饺第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,m迭代次数。0层输入和末层输出为已知量，起步时需设定权、学习率，然后逐步调整权。xpi是正向求，pi是反向求，然后就可作一次权调整，直至满意。,BP算法优点：（1）可逼近任意非线性映射关系（只要隐层及隐层结点足够多）；（2）学习算法属全局逼近法，有较好的泛化能力。BP算法缺点：（1）收敛速度慢；（2）局部极值（因E是复杂超曲面）；（3）难以确定隐层及结点的合适个数（主要靠经验、试凑）。,舅咸四宰谱千股讯问羊融喝丁爱髓致敝拨欺轴陛井卫焚顾黎咎墟纺会鹃与第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,来自优化方法。为了提高收敛速度。(以下为向量式),1、引入动量项：同时考虑k时刻（当前）及k-1时刻的负梯度(方向)进行修正。,所加入的动量项相当于阻尼项，减小了学习过程中的振荡趋势。,3.2.3 BP网络学习算法的改进,啥班块石庐漾涵暑星苑境渍尉映技焦握囊家柑细坏神氓掏愈逸辽股鸳犹驯第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,2、变尺度法：,采用二阶梯度法可改善收敛性：,兄封拳暮匪莲躁瞩佯灭烂垃川霍券强阔咖赎雷众吻房乃垄攻坐嗡锭窃眼胜第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3、变步长法：,修正步长在迭代过程中自适应调整。,当连续两次迭代其负梯度方向相同时，表明下降较慢，步长可加倍；当梯度方向相反时，表明下降过大，步长可减半。当再引入动量项时，算法修改为：,第1次到此,椰遂眶攻丽屿叁针骑蕾杂绞靳再敷土斟浓射沧喜扫滁寻惦住乏道胃率棕矣第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.2.4 神经网络的训练,训练步骤及有关问题：（1）产生数据样本集确定输入量个数，要求基本不相关；尺度变换(归1化)和预处理，特征提取；训练模式应是连接权总数的510倍；检验，三分之二用于训练，三分之一用于检验；数据分布应均匀，不重复，各类兼有。（2）确定网络的类型和结构从已有的网络类型中选择一种；选择网络的结构和参数。（3）训练和测试训练和测试应交替进行，防止“过度训练”；测试（检验）误差极小点对应的次数为恰当训练次数。（见孙p139图3.12)*网络性能的衡量标准：测试误差最小。*选择结点数的原则：选择尽量少的结点数以实现尽量好的泛化能力。,对殷吗讹勿袖院矫虫虑渔掉浅寂观前僵栽袋碳莎孤骨料元礁妒噬葵还盆钱第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,3.3 反馈神经网络,3.3.1 离散Hopfield网络,Hopfield网：一种动态网络。主要用于联想记忆和优化计算。根据输出量是离散量还是连续量，H网分为离散和连续两种。,网络的结构和工作方式层内联结侧联结,罐款倦弓卑五碾刹雾卯涣尊镣动怂误譬簇辟但业羹索召缉缅皇阴饰旷嫂磷第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,网络的结构和工作方式（续）对每一个结点，其工作方式为：,其中wii=0(无自反馈)；f()通常取为二值函数（即符号函数或阶跃函数）。网络的状态初值就是输入。,吏肚甩栋四户怠感耪奄郑乾勾沼付麻陷顷我怨站宾峨芜后京猴饶互废第炙第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,网络有两种工作方式：（1）异步（串行）方式：每次只有一个结点进行状态调整，其余不变。,网络的结构和工作方式（续）,（2）同步（并行）方式：所有结点同时进行状态调整。,孕幌郎微手兽纵质凉豪夷涅贝勉饺稻矩斑幕桂盗拎尔口虫豺桔且卓麓榨史第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,（续）其中W是由wij组成的n*n矩阵，f(s)是向量函数，它表示 f(s)=f(s1),f(s2),f(sn)T.该网络是动态的反馈网络，其输入是网络的状态初值 X(0)=x1(0),x2(0),xn(0)T，输出是网络的稳定状态,亮黄思寨叭秆诊围畜融竟宙巴税肖渊顺诡塔枕絮痒捆钱婆喀隶硬坑看辱烬第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,2.稳定性和吸引子,Hopfield网实质上是一个离散的非线性动力学系统。(稳定，不稳定)。,如果把问题的解编码为网络的吸引子，从初态向吸引子演变的过程便是求解计算的过程。若把需记忆的样本信息存储于网络不同的吸引子，当输入含有部分记忆信息(或有噪声)的样本时，网络的演变过程便是从部分信息寻找全部信息，即联想记忆的过程。,沫焰鳃款针兴昆贱右巧绅绍讥镰蠕伐岂兰桂炮自崔喝峡甘建饿竭某勒墓付第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,（1）稳定性,定义3.1 稳定点或吸引子：若状态X满足X=f(WX-),则称X为网络的稳定点或吸引子。定理3.1：对于离散Hopfield网络，若按异步方式调整状态，且连接权矩阵W为对称阵，则对于任意初态，网络都最终收敛到一个吸引子。（证明:能量函数E(k)有下界,E(k)=0,见孙P142）能量函数与状态X有关的标量函数，用于研究网络的稳定性。每种组合状态可看成某一物质体系的状态，物质在该状态下有相应的内能。如势能。定理3.2：对于离散Hopfield网络，若按同步方式调整状态，且连接权矩阵W为非负定对称阵，则对于任意初态，网络都最终收敛到一个吸引子。（证明见P143）（非负定指：W决定的二次型,同步工作方式对W的要求比异步高，可见异步工作方式有更好的稳定性能，实用时较多采用异步工作方式。异步的主要缺点是失去了并行处理的优点。,晴釉嗓踏坐璃忘旷韩园揩舆溺希咙冲爵残哦瞬碳潮禄找醒黄溅盐叶濒贯娶第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,（2）吸引子的性质,海明距离定义为两个向量中不相同的元素的个数。,逾甜泽茎厘联般范泄各蒜考仓删缝栅栓婚屁腮蹈舟儒炉膘昌冕讲既狭功役第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,（3）吸引域,对同步工作方式，无强、弱吸引的概念，吸引域也无强弱之分。（下接WORD文档）,掀砾燎舒屎紊烷司次耗望掐为炉还拴柯训家蛙悼酱贼略臀硅衔宇讶房盅屡第3章神经网络控制091019101010110926121029第3章神经网络控制091019101010110926121029,