【教学课件】第二章Matlab中的NN工具箱.ppt

第二章Matlab中的NN工具箱,2,感知器的函数应用,绘制样本点函数 plotpv 可以在坐标图中绘出已知给定的样本点与类别，调用格式 plotpv(X,T)X、T分别为输入输出向量 如：X=0 0 1 1;0 1 0 1;T=0 1 1 1;plotpv(X,T);,3,感知器的函数应用,4,感知器的函数应用,画出感知器分类线函数 plotpc 在输入空间中用一个平面或者直线画出分类的样本区域，调用格式 plotpc(w,b)初始化函数 initp 可建立一个单层的感知器模型，调用格式 W,b=initp(R,S)R为输入个数，S为输出个数 W,b=initp(X,T)X、T分别为输入输出向量 如：X=0 0 1 1;0 1 0 1;T=0 1 1 1;W,b=initp(X,T);plotpv(X,T);plotpc(W,b);,5,感知器的函数应用,感知器训练函数 trainp 训练感知器模型，调用格式 W,B,epochs,errors=trainp(w,b,X,T,tp)w为权值，b为网络的阈值，X为初始输入向量，T为目标向量tpdisp_freq,max_epoch为训练控制参数，W与B为训练后权值与阈值 如：X=0 0 1 1;0 1 0 1;T=0 1 1 1;W,b=initp(X,T);tp=1 20;W,b,epochs,errors=trainp(W,b,X,T,tp)plotpv(X,T);plotpc(W,b);,6,感知器的函数应用,感知器仿真函数 simup 训练感知器模型，调用格式 Y=simup(X,w,b);w为权值，b为网络的阈值，X为初始输入向量，Y为网络的实际输出向量,7,感知器的函数应用,X=0 0 1 1;0 1 0 1;T=0 1 1 1;plotpv(X,T);W,b=initp(X,T);figure;plotpv(X,T);plotpc(W,b);figure;W,b,epochs,errors=trainp(W,b,X,T,-1);figure;ploterr(errors);X1=X;y=simup(X1,W,b);,8,建立感知器函数net=newp(Xr,S,Tf,Lf)Xr为输入向量矩阵，S表示神经元个数，Tf表示激活函数，Lf为学习函数，net为生成的新感知器神经网络。net=newp(-1 1;-1 1,1);Handle=plotpc(net.iw1,net.b1);,9,神经网络的函数应用,初始化神经网络函数利用该函数可以对一个已经存在的神经网络进行初始值修正，网络的权值与阈值是按照网络的初始化函数进行修正的，格式net=init(NET);NET为初始化前的网络，net为初始化后的网络。,10,神经网络的函数应用,神经网络训练函数这是一个通用的网络训练函数，训练函数重复的把一组输入向量应用到一个网络上，每次都更新网络，知道达到一个准则，停止训练的规则可能是最大学习步数，最小误差等，格式net，tr=train(NET,X,T,Pi,Ai);NET为要训练的网络，X，T分别为输入向量与教师信号，Pi为初始输入延时，Ai表示层延时，net为训练后网络，tr表示训练步数和性能。,11,神经网络的函数应用,X=-0.5-0.5 0.3-0.1 0.2 0 0.6 0.8;-0.5 0.5-0.5 1 0.5-0.9 0.8-0.6;T=1 1 0 1 1 0 1 0;net=newp(-1 1;-1 1,1);net.performFcn=mae;=0.01;=50;=1;=0.95;net1,tr=train(net,X,T);,12,神经网络的函数应用,网络的仿真函数sim 神经网络训练完成后，网络的权值与阈值就确定下来了，就可以用来解决实际问题了。Sim函数就是在实际训练完成后来解决实际问题的。Y，Xf，Afsim(net,X,Xi,Ai);net为训练好的网络，X为输入矩阵，Xi输入延时，Ai为层延时。Y表示网络的实际输出向量矩阵。,13,神经网络的函数应用,例如testX=-0.5 0.3-0.9 0.4-0.1 0.2-0.6 0.8 0.1 0.4;-0.3-0.8-0.4-0.7 0.4-0.6 0.1-0.5-0.5 0.3;y=sim(net1,testX);figure;plotpv(testX,y);plotpc(net1.iw1,net1.b1);,14,神经网络的函数应用,例：能对三个输入进行分类的感知器网络X=-1 1-1 1-1 1-1 1;-1-1 1 1-1-1 1 1;-1-1-1-1 1 1 1 1;T=0 1 0 0 1 1 0 1;plotpv(X,T);W,b=initp(X,T);figure;plotpv(X,T);plotpc(W,b);figure;W,b,epochs,errors=trainp(W,b,X,T,-1);figure;ploterr(errors);X1=X;y=sim(X1,W,b);,15,神经网络的函数应用,例：能对四个输入进行分类的感知器网络X=0.1 0.7 0.8 0.8 1 0.3 0-0.3-0.5-1.5;1.2 1.8 1.6 0.6 0.8 0.5 0.2 0.5-1.5-1.3;T=1 1 1 0 0 1 1 1 0 0;0 0 0 0 0 1 1 1 1 1;W,b=initp(X,T);W,b,epochs,errors=trainp(W,b,X,T,-1);figure;ploterr(errors);X1=X;y=simup(X1,W,b);,16,BP网络的函数应用,bp网络的初始化函数W,B=initff(Xr,S,Tf);W1,B1,W2,B2=initff(Xr,S1,Tf1,S2,Tf2);例子：X=sin(0:100);cos(0:100*2);W1,B1,W2,B2=initff(X,8,tansig,5,purelin);,17,BP网络的函数应用,bp网络的训练函数W,B,te,tr=trainbp(w,b,Tf,X,T,tp);bp网络的仿真函数Y=simuff(X,w,b,Tf);,18,基于simulink的神经网络控制系统,模块的生成函数gensim gensim（net，st）X=1 2 3 4 5;T=1 3 5 7 9;net=newlind(X,T);y=sim(net,X);gensim(net,-1),19,基于simulink的神经网络控制系统,例子：建立一个感知器网络，使其能够完成“与”的功能 X=0 0 1 1;0 1 0 1;T=0 0 0 1;net1=newp(-1 1;-1 1,1);net1=train(net1,X,T);y=sim(net1,X);gensim(net1,-1),20,基于simulink的典型神经网络控制系统,神经网络模型预测控制反馈线性化控制模型参考控制,21,基于simulink的典型神经网络控制系统,神经网络模型预测控制搅拌器控制系统例子 predcstr,22,基于simulink的典型神经网络控制系统,反馈线性化控制磁悬浮控制系统例子 narmamaglev,23,基于simulink的典型神经网络控制系统,模型参考控制机械臂控制 mrefrobotarm,24,1.1 智能控制的发展与定义,25,智能控制的定义,1.1 智能控制的发展与定义,智能控制系统,能够在定形或不定形、熟悉或不熟悉的环境中自主地或与操作人员交互作用以执行各种拟人任务的机器。,能按规定程序对机器或装置进行自动操作或控制的过程。,驱动智能机器自主实现其目标的过程。,用于驱动自主智能机器以实现其目标而无需人员干预的系统叫智能控制系统。,智能机器,自动控制,智能控制,26,Astrom对智能控制系统的定义,在传统的控制理论中融入诸如逻辑、推理和启发式机制等非常规的数学手段而构成的一种更为灵活的控制系统。,27,IEEE 对ICS 的规定,目前对ICS还没有一个完整的定义.IEEE Control System Society 的Technical Committee on Intelligent Control 对ICS的general characteristics作了如下规定:An ability to emulate human capabilities,such as planning,learning and adaptation.,28,1.2 智能控制的结构理论与特点(Structural Theories and Feature of Intelligent Control)智能控制的结构理论,二元结构 傅京孙(K.S.Fu)首先论述了人工智能与自动控制的交接关系，指出“智能控制系统描述自动控制系统与人工智能的交接作用”。,29,2.三元结构,萨里迪斯(Saridis)认为，二元交集的两元互相支配无助于智能控制的有效和成功应用，必须把远筹学的概念引入智能控制，使它成为三元交集中的一个子集。萨里迪斯提出分级智能控制系统，由3个智能(感知)级组成：组织级、协调级、执行级。,1.2 智能控制的结构理论与特点,30,组织器,分配器,图1-4 分级智能控制系统,组织级,协调级,执行级,1.2 智能控制的结构理论与特点,31,3.四元结构,蔡自兴提出四元智能控制结构，把智能控制看做自动控制、人工智能、信息论和运筹学四个学科的交集。,1.2 智能控制的结构理论与特点,32,信息论作为智能控制结构一个子集的理由：信息论是解释知识和智能的一种手段；控制论、系统论和信息论是紧密相互作用的；信息论已成为控制智能机器的工具；信息熵成为智能控制的测度；信息论参与智能控制的全过程，并对执行级起到核心作用。,33,智能控制器的一般结构,1.2 智能控制的结构理论与特点,34,智能控制的特点,智能控制以知识进行推理，以启发引导求解过程。智能控制的核心在高层控制，即组织级。智能控制是一门边缘交叉学科。智能控制是一个新兴的研究领域。,1.2 智能控制的结构理论与特点,35,1.3 智能控制的研究领域(Research Fields of Intelligent Control),智能机器人 随着机器人技术的发展和自动化程度的提高，对机器人的功能提出更高的要求，特别是各种具有不同程度智能的机器人，包括空间智能机器人。智能过程控制与规划 差异过程规划；生成过程规划；基于知识的过程规划。,36,专家控制系统智能调度语音控制机器人控制智能仪器,1.3 智能控制的研究领域,37,1.4 智能控制系统(Intelligent Control Systems)1.4.1 递阶控制系统,递阶智能控制(hierarchically intelligent control)是从工程控制论的角度总结人工智能与自适应、自学习和自组织控制的关系之后而逐渐地形成的，是智能控制的最早理论之一。两种分级递阶控制理论:基于知识/解析混合多层智能控制理论以及递阶智能控制理论。,38,1.定义与假设,智能控制系统各级的共同要素涉及机器各种作用的不确定性，采用概率模型来描述这些具有共同度量的作用，即它们各自的熵(entropies)。组织级：以知识为主体，用香农熵来衡量所需知识。协调级：以概率描述的决策方式来表示，这些方案的熵用于度量协调的不确定性。执行级：执行代价等价于系统所消耗的能量，并由Boltzman的熵来表示。,1.4 智能控制系统,39,2.组织级与知识基系统,组织器(organizer)是智能控制的最高级，它的功能是建立在几个人工智能(基于知识)概念基础上的。这些概念转换为概率模型，表示推理、规划、决策、长时记忆交换和反馈学习等功能，以规定一个响应外部指令的任务。,1.4 智能控制系统,40,3.协调级与嵌套树,协调级的目标是把控制问题的实际公式与最有希望的完全的协调规划联系起来，包括在可供选择的原本中挑选一个规划。协调级由一定数目的协调器组成，每个协调器与执行级的具体硬件(执行装置)连接。当某个指令由相应的协调器发送至执行装置时，这些装置就执行规定好的任务。这种结构意味着：协调级不具有推理能力。,1.4 智能控制系统,41,4.具有熵函数的执行级,执行级是递阶智能控制的最底层，要求具有较高的精度和较低的智能；按控制论进行控制。执行级的性能也可由熵来表示，因而统一了智能机器的功用。此熵的量度选择一适当的控制，以执行某任务的不确定性。我们能够选择某个最优控制使此熵(即执行的不确定性)为最小。,1.4 智能控制系统,42,1.4.2 专家控制系统(Expert Control System),对专家控制器的控制要求运行可靠性高决策能力强应用通用性好控制与处理的灵活性拟人能力,专家控制器的特点与设计原则模型描述的多样性决策机构的递阶性在线处理的灵巧性推理与决策的实时性控制策略的灵活性,1.4 智能控制系统,43,3.专家控制器的结构,知识库由经验数据库和学习与适应装置组成。经验数据库存储经验和事实；学习与适应装置在线获取信息，补充或修改知识库内容，改进系统性能，提高问题求解能力。,1.4 智能控制系统,44,控制规则集是对被控过程的各种控制模式和经验的归纳和总结，采用向前推理方法逐次判别各种规则。特征识别与信息处理实现信息的提取与加工，为控制决策和学习适应提供依据。专家控制器的输入集为：E=(R,e,Y,U)，e=R Y 式中，为参考控制输入，为误差信号，为受控输出，为控制器的输出集。专家控制器的模型可用式U=f(E,K,I)表示，智能算子f为几个算子的复合运算：f=ghp，其中：g:ES；h:SKI；p:IU,1.4 智能控制系统,45,智能控制的几个重要分支 模糊控制 传统控制方法均是建立在被控对象精确数学模型基础上的，然而，随着系统复杂程度的提高，将难以建立系统的精确数学模型。在工程实践中，人们发现，一个复杂的控制系统可由一个操作人员凭着丰富的实践经验得到满意的控制效果。这说明，如果通过模拟人脑的思维方法设计控制器，可实现复杂系统的控制，由此产生了模糊控制。,46,1965年美国加州大学自动控制系提出模糊集合理论，奠定了模糊控制的基础；1974年伦敦大学的Mamdani博士利用模糊逻辑，开发了世界上第一台模糊控制的蒸汽机，从而开创了模糊控制的历史；,47,1983年日本富士电机开创了模糊控制在日本的第一项应用水净化处理，之后，富士电机致力于模糊逻辑元件的开发与研究，并于1987年在仙台地铁线上采用了模糊控制技术，1989年将模糊控制消费品推向高潮，使日本成为模糊控制技术的主导国家。模糊控制的发展可分为三个阶段：,48,（1）1965年-1974年为模糊控制发展的第一阶段，即模糊数学发展和形成阶段；（2）1974年-1979年为模糊控制发展的第二阶段，产生了简单的模糊控制器；（3）1979年现在为模糊控制发展的第三阶段，即高性能模糊控制阶段。,49,1.4.3 模糊控制系统 1.模糊控制器的结构,模糊控制器由N维关系R表示，R可视为0，1区间的几个N维关系Ri的组合，每个Ri代表一条规则ri。控制器的输入x被模糊化为关系X；模糊输出Y可应用合成推理规则进行计算；对模糊输出Y进行非模糊化(模糊判决)，可得精确的数值输出y。,1.4 智能控制系统,50,1.4 智能控制系统,51,2.模糊控制器的控制规则,现有FLC中，控制规则一般为如下形式：IF THEN,3.模糊控制器的设计方法 语言相平面法；专家系统法 CAD环境工具；遗传优化算法,1.4 智能控制系统,52,1.4.4 学习控制系统 1.学习控制的发展及研究课题,学习控制的发展 学习控制的研究课题 在非稳定环境中的学习 提高学习效率 学习系统的多级结构 结束规则 把模糊数学用于学习系统直觉推理的应用 文法推理,1.4 智能控制系统,53,2.学习控制的设计原则,控制系统应具有分层信息处理和决策能力 控制器应具有在线特征辨识和特征记忆的功能 控制器应具有多模态控制 应用直觉推理逻辑，使控制器的决策更灵活和迅速，以提高自学习效率。,1.4 智能控制系统,54,神经网络控制神经网络的研究已经有几十年的历史。1943年McCulloch和Pitts提出了神经元数学模型；1950年-1980年为神经网络的形成期，有少量成果，如1975年Albus提出了人脑记忆模型CMAC网络，1976年Grossberg提出了用于无导师指导下模式分类的自组织网络；,55,1980年以后为神经网络的发展期，1982年Hopfield提出了Hopfield网络，解决了回归网络的学习问题，1986年美国的PDP研究小组提出了BP网络，实现了有导师指导下的网络学习，为神经网络的应用开辟了广阔的发展前景。将神经网络引入控制领域就形成了神经网络控制。,56,神经网络控制是从机理上对人脑生理系统进行简单结构模拟的一种新兴智能控制方法。神经网络具有并行机制、模式识别、记忆和自学习能力的特点，它能充分逼近任意复杂的非线性系统，能够学习与适应不确定系统的动态特性，有很强的鲁棒性和容错性等，因此，神经网络控制在控制领域有广泛的应用。,57,1.4.5 神经控制系统 1.神经控制研究的发展及特性,发展1960年，威德罗(Widrow)和霍夫(Hoff)率先把神经网络用于自动控制研究。60年代末期至80年代中期，神经网络控制与整个神经网络研究一样，处于低潮。80年代后期以来，神经网络控制的研究日趋活跃。,1.4 智能控制系统,58,神经网络的特性,并行处理和快速性，适于实时控制和动力学控制。本质非线性特性，为非线性控制带来新的希望。可通过训练获得学习能力，能解决用数学模型或规则描述难以处理或无法处理的控制过程。很强的自适应能力和信息综合能力，能同时处理大量的不同类型的控制输入，解决输入信息的互补性和冗余性问题。,1.4 智能控制系统,59,2.神经网络学习控制,1.4 智能控制系统,图1.11 监督式学习NN控制器的结构,60,实现SNC包括下列步骤：通过传感器及传感信息处理获取必要的控制信息。构造神经网络，包括选择合适的神经网络类型、结 构参数和学习算法等。训练SNC，实现从输入到输出的映射，产生正确控制。,1.4 智能控制系统,61,3.神经网络非线性控制,1.4 智能控制系统,图1.12 神经元预测控制器结构图,62,预测控制算法的本质是预测模型、滚动优化和反馈校正。预测模型用于描述控制对象的动态行为，根据系统当前输入和输出信息以及未来输出信息，预测未来的输出值。,1.4 智能控制系统,63,4.神经网络自适应控制,模型参考自适应控制(MRAC)多采用间接控制方式。训练时，随意产生控制器输出传送至对象，由该输出信号和对象的实际输出来训练控制器，使控制器最终能够产生正确的控制信号，以求对象输出尽可能地接近期望轨迹。,5.其它神经网络控制 神经网络鲁棒自适应控制、模糊神经网络控制、神经网络变结构控制、神经网络自寻优控制、神经网络自校正控制,1.4 智能控制系统,64,1.5 智能控制应用示例(Intelligent Control Application),1.智能机器人规划与控制,65,2.智能机器人规划与控制3.自动加工系统的智能控制4.智能故障检测与诊断5.飞行器的智能控制6.医用智能控制7.智能仪器,66,1.6 小结(Summary),本章着重讨论了智能控制的结构理论和特点，现存的智能控制结构理论有二元、三元和四元交集等理论。本章另一重点是各种智能控制系统的原理与构成，分别介绍了分级递阶智能控制、专家控制、模糊控制、学习控制和神经控制等系统。本章还阐述了智能控制的研究领域及应用实例。智能控制的研究领域是十分广泛和高度交叉的，它的应用也日益广泛。,