人工智能及其应用蔡自兴第四版.ppt
人 工 智 能,神经计算模糊计算,第四章 计算智能(1)Computational Intelligence,3,4.1概述,信息科学与生命科学的相互交叉、相互渗透和相互促进是现代科学技术发展的一个显著特点。计算智能涉及神经网络、模糊逻辑、进化计算和人工生命等领域，它的研究和发展正反映了当代科学技术多学科交叉与集成的重要发展趋势。,4,什么是计算智能,把神经网络（NN）归类于人工智能（AI）可能不大合适，而归类于计算智能（CI）更能说明问题实质。进化计算、人工生命和模糊逻辑系统的某些课题，也都归类于计算智能。计算智能取决于制造者（manufacturers）提供的数值数据，不依赖于知识；另一方面，人工智能应用知识精品（knowledge tidbits）。人工神经网络应当称为计算神经网络。,4.1 概述,5,计算智能与人工智能的区别和关系,输入,人类知识()传感输入,知识()传感数据,计算()传感器,C数值的,A符号的,B生物的,层次,复杂性,复杂性,BNN,BPR,BI,ANN,APR,AI,CNN,CPR,CI,4.1 概述,6,上图由贝兹德克于1994年提出，表示ABC与神经网络（NN）、模式识别（PR）和智能（I）之间的关系AArtificial，表示人工的（非生物的）；BBiological，表示物理的化学的（？）生物的；CComputational，表示数学计算机 计算智能是一种智力方式的低层认知，它与人工智能的区别只是认知层次从中层下降至低层而已。中层系统含有知识（精品），低层系统则没有。,4.1 概述,7,定义1：当一个系统只涉及数值（低层）数据，含有模式识别部分，不应用人工智能意义上的知识，而且能够呈现出：（1）计算适应性；（2）计算容错性；（3）接近人的速度；（4）误差率与人相近，则该系统就是计算智能系统。定义2：当一个智能计算系统以非数值方式加上知识（精品）值，即成为人工智能系统。,4.1 概述,8,1943年麦卡洛克和皮茨提出神经网络模型（称为MP模型）的概念。20世纪60年代威德罗和霍夫提出自适应线性元件。60年代末期至80年代中期，整个神经网络研究处于低潮。80年代后期以来，人工神经网络研究得到复苏和发展，在模式识别、图象处理、自动控制等领域得到广泛应用。,4.2 神经计算4.2.1 人工神经网络研究的进展,9,人工神经网络的特性,并行分布处理非线性映射通过训练进行学习适应与集成硬件实现,4.2 神经计算,10,4.2.2 人工神经网络的结构,4.2 神经计算,图4.2 神经元模型,1.神经元及 其特性,11,图4.2中的神经元单元由多个输入xi，i=1,2,.,n和一个输出y组成。中间状态由输入信号的权和表示，而输出为（4.1）式中，j为神经元单元的偏置（阈值），wji为连接权系数。n为输入信号数目，yj为神经元输出，t为时间，f()为输出变换函数，如图4.3。,4.2 神经计算,12,图4.3 神经元中的某些变换（激发）函数,(a)二值函数(b)S形函数(c)双曲正切函数,4.2 神经计算,13,2.人工神经网络的基本特性和结构,人工神经网络是具有下列特性的有向图：对于每个节点 i 存在一个状态变量xi；从节点 j 至节点 i，存在一个连接权系统数wji；对于每个节点 i，存在一个阈值 i；对于每个节点 i，定义一个变换函数fi；对于最一般的情况，此函数取 形式。,4.2 神经计算,14,递归（反馈）网络:在递归网络中，多个神经元互连以组织一个互连神经网络，如图4.4。,4.2 神经计算,15,前馈（多层）网络:前馈网络具有递阶分层结构，由同层神经元间不存在互连的层级组成，如图4.5。,4.2 神经计算,16,3.人工神经网络的主要学习算法,有师学习算法：能够根据期望输出和实际网络输出（对应于给定输入）间的差别来调整神经元间连接的强度（权）。无师学习算法：不需要知道期望输出。强化学习算法：采用一个“评论员”来评价与给定输入相对应的神经网络输出的优度（质量因数）。强化学习算法的一个例子是遗传算法（GA）。,4.2 神经计算,17,BP算法,BP算法的权值调整方法：令输出结点家j的误差为 则k个训练样本的误差平方和为性能指标隐层到输出层的权值调整（梯度法）：输入层到隐层的权值调整（梯度法）：BP网络的训练步骤：用小随机数初始化网络各层权值；样本数据输入；误差计算；权值变化量计算；权值调整,4.2 神经计算,18,4.2.3 人工神经网络的典型模型,4.2 神经计算,19,续前表：,4.2 神经计算,20,4.2.4 基于神经网络的知识表示与推理,1.基于神经网络的知识表示 在这里，知识并不像在产生式系统中那样独立地表示为每一条规则，而是将某一问题的若干知识在同一网络中表示。例如，在有些神经网络系统中，知识是用神经网络所对应的有向权图的邻接矩阵及阈值向量表示的。,4.2 神经计算,21,“异或”逻辑问题真值表,例1：表示“异或”问题的两层感知器模型,22,例2：基于B-P网络的医疗诊断系统该医疗诊断系统只考虑 6 种症状、2 种疾病、3种治疗方案症状：对每一症状采集三种信息 有（1）、无（-1）、没有记录（0）疾病：对每一疾病采集三种信息 有（1）、无（-1）、没有记录（0）治疗方案：对每一治疗方案采集两种信息 是、否每个病人的信息构成一个训练样例，用一批训练样例对网络进行训练（B-P算法），假设得到的是如图所示的神经网络x1-x6 为症状（输入）x7,x8 为疾病名x9,x10,x11 为治疗方案（输出）,23,24,2.基于神经网络的推理,基于神经网络的推理是通过网络计算实现的。把用户提供的初始证据用作网络的输入，通过网络计算最终得到输出结果。一般来说，正向网络推理的步骤如下：把已知数据输入网络输入层的各个节点。利用特性函数分别计算网络中各层的输出。用阈值函数对输出层的输出进行判定，从而得到输出结果。,4.2 神经计算,25,定义4.1 模糊集合(Fuzzy Sets),论域U到0,1区间的任一映射，即，都确定U的一个模糊子集F；称为F的隶属函数或隶属度。在论域U中，可把模糊子集表示为元素u与其隶属函数 的序偶集合，记为：(4.7),4.3 模糊计算4.3.1 模糊集合、模糊逻辑及其运算,26,若某模糊集是论域U中所有满足 的元素u构成的集合，则称该集合为模糊集F的支集。当u满足，称为模糊单点。,定义4.2 模糊支集模糊单点,4.3 模糊计算,27,设A和B为论域U中的两个模糊集，其隶属函数分别为 和，则对于所有，存在下列运算：A与B的并（逻辑或）记为，其隶属函数定义为：(4.10)A与B的交（逻辑与）记为，其隶属函数定义为：(4.11)A的补（逻辑非）记为，其传递函数定义为：(4.12),定义4.3 模糊集的运算,4.3 模糊计算,28,定义4.4 直积（笛卡儿乘积，代数积）,若 分别为论域 中的模糊集合，则这些集合的直积是乘积空间 中一个模糊集合，其隶属函数为：(4.13),定义4.5 模糊关系,若U，V是两个非空模糊集合，则其直积UV中的模糊子集R称为从U到V的模糊关系，表示为：(4.14),4.3 模糊计算,29,式(4.9)中的*号可为三角范式内的任意一种算子，包括模糊交、代数积、有界积和直积等。,其隶属函数为：，(4.16),定义4.6 复合关系,若R和S分别为UV和VW中的模糊关系，则R和S的复合是一个从U到W的模糊关系，记为：(4.15),4.3 模糊计算,30,定义4.7 正态模糊集、凸模糊集和模糊数,以实数R为论域的模糊集F，若其隶属函数满足 则F为正态模糊集；若对于任意实数x，axb，有 则F为凸模糊集；若F既是正态的又是凸的，则称F为模糊数。,定义4.8 语言变量,一个语言变量可定义为多组。其中，x为变量名；为x的词集，即语言值名称的集合；U为论域；G是产生语言值名称的语法规则；M是与各语言值含义有关的语义规则。语言变量的每个语言值对应于U中的一个模糊数。,4.3 模糊计算,31,4.3.2 模糊逻辑推理,模糊逻辑推理是建立在模糊逻辑基础上的不确定性推理方法，是在二值逻辑三段论基础上发展起来的。这种推理方法以模糊判断为前提，动用模糊语言规则，推导出一个近似的模糊判断结论。已经提出了Zadeh法，Baldwin法、Tsukamoto法、Yager法和Mizumoto法等方法。广义取式假言推理法(GMP)推理规则可表示为：前提1：x为A 前提2：若x为A，则y为B 结 论：y为B,4.3 模糊计算,32,广义拒式假言推理法(GMT,Generalized Modus Tollens)的推理规则可表示为：前提1：y为B 前提2：若x为A，则y为B 结 论：x为A模糊变量的隐含函数基本上可分为三类，即模糊合取、模糊析取和模糊蕴涵。,4.3 模糊计算,33,例题：设 X(火力)=a1,a2,a3,a4,a5,Y(阀门开度)=b1,b2,b3,b4,b5，有模糊集与规则如下：A1(小)(a1,1),(a2,0.5),B1(大)(b5,1),(b4,0.5)IF A1 THEN B1问题：A2(较小)(a1,0.5),(a2,1),(a3,0.5)？解：,4.3 模糊计算,模糊规则转换为模糊关系矩阵如下：,模糊事实与规则的合成推理：,34,4.3.3 模糊判决方法,在推理得到的模糊集合中取一个相对最能代表这个模糊集合的单值的过程就称作解模糊或模糊判决（Defuzzification）。模糊判决可以采用不同的方法：重心法、最大隶属度方法、加权平均法、隶属度限幅元素平均法。下面介绍各种模糊判决方法，并以“水温适中”为例，说明不同方法的计算过程。这里假设“水温适中”的隶属函数为：=X:0.0/0+0.0/10+0.33/20+0.67/30+1.0/40+1.0/50+0.75/60+0.5/70+0.25/80+0.0/90+0.0/100,4.3 模糊计算,35,重心法就是取模糊隶属函数曲线与横坐标轴围成面积的重心作为代表点。理论上应该计算输出范围内一系列连续点的重心，即(4.35)但实际上是计算输出范围内整个采样点的重心，用足够小的取样间隔来提供所需要的精度，即：,=48.2,4.3 模糊计算,1.重心法,36,这种方法最简单，只要在推理结论的模糊集合中取隶属度最大的那个元素作为输出量即可。要求这种情况下其隶属函数曲线一定是正规凸模糊集合（即其曲线只能是单峰曲线）。,例如，对于“水温适中”，按最大隶属度原则，有两个元素40和50具有最大隶属度1.0，那就对所有取最大隶属度的元素40和50求平均值，执行量应取：,4.3 模糊计算,2.最大隶属度法,37,3.系数加权平均法,系数加权平均法的输出执行量由下式决定：(4.36)式中，系数 的选择要根据实际情况而定，不同的系统就决定系统有不同的响应特性。,4.3 模糊计算,38,用所确定的隶属度值对隶属度函数曲线进行切割，再对切割后等于该隶属度的所有元素进行平均，用这个平均值作为输出执行量，这种方法就称为隶属度限幅元素平均法。,例如，当取为最大隶属度值时，表示“完全隶属”关系，这时1.0。在“水温适中”的情况下，40和50的隶属度是1.0，求其平均值得到输出代表量：,4.3 模糊计算,4.隶属度限幅元素平均法,39,4.4 小结,计算智能神经计算模糊计算进化计算人工生命神经计算：人工神经网络模糊计算：模糊逻辑,
