群体智能及其应用.ppt
《群体智能及其应用.ppt》由会员分享,可在线阅读,更多相关《群体智能及其应用.ppt(68页珍藏版)》请在三一办公上搜索。
1、1,2023/10/18,群体智能及其应用,张勇中国矿业大学信电学院,2,2023/10/18,目录,群体智能基本微粒群优化算法微粒群优化算法的收敛性微粒群拓扑结构并行微粒群优化算法二进制微粒群优化算法基于微粒群优化的多机器人协同搜索基于PSO的PID参数自整定方法用于多项目选址问题的微粒群优化算法我们的工作研究展望,3,2023/10/18,1.群体智能,群体智能(Swarm intelligence,SI)这个概念来自对自然界中昆虫群体的观察和模拟。一般群居性生物通过协作表现出的宏观智能行为特征被称为群体智能。,一个群体智能系统通常包含多个简单的智能个体(智能体),每个智能体与其它智能体以
2、及环境之间存在相互作用。所有智能体遵守着非常简单的规则,尽管没有中心控制结构指导单个智能体的行为,但是,各智能体之间直接或间接的局部通信催生了系统复杂全局行为的产生。(来自 Wikipedia),1.1 群体智能的概念,4,2023/10/18,5,2023/10/18,大自然中的智能群体:蚂蚁群、鸟类群体、细菌繁衍和鱼群等等。,典型的群体智能优化算法包括:蚁群优化算法、微粒群优化算法、鱼群算法和蛙跳算法等。,6,2023/10/18,1.2 蚁群优化,蚁群优化(Ant colony optimization,ACO)是Dorigo在1992年提出的一种快速随机优化技术,被用于处理那些可以归纳
3、为发现图中最短路径的计算问题。(Dorigo and Sttzle,2004),现实世界中,(初始状态)每个蚂蚁将在一定范围内随机游走,并通过在所经过路径上遗留信息素的方式,不断把相关的食物信息反馈给蚁群。如果其他蚂蚁发现了那条路径,那么这些蚂蚁很可能不再保持原来的随机游走,而跟随这条路径(一条路径上的信息素越多,其他蚂蚁选择这条路径的可能性越大)。如果由该路径他们最终发现了食物,那么他们将在这条路径上继续增加信息素。由于这条路径上信息素的不断增加,最终所有蚂蚁将找到食物。,7,2023/10/18,有兴趣的同学可以参考Marco Dorigo的 Ant Colony Optimization
4、 个人网址,或者他的专著“Ant Colony Optimization”。,(该图来自 Theresa Meggie et al.),(a),(b),(c),(d),8,2023/10/18,微粒群优化算法(Particle swarm optimization,PSO)是Kennedy和Eberhart在1995年提出的。它的提出既有人工智能和社会心理学的背景,又有工程和计算机科学的背景。,1.3 微粒群优化算法,正如提出者所说“微粒群优化算法模拟了昆虫(或人类)的社会行为。个体在学习自身经验的同时相互交换信息,由此,种群成员将逐渐移到问题空间中较好的区域。”,为什么取名“微粒”而不是“点
5、“呢?Kennedy和Eberhart都认为速度和加速度比较适合应用于微粒。(X.Li and A.P.Engelbrecht),9,2023/10/18,在某些方面PSO与细胞自动机(Cellular Automata,CA)是紧密联系的 每一个细胞个体同时被更新;细胞状态的变化只受细胞自身和周遭细胞的影响;所有细胞均遵循同样的更新规则。(Rucker,1999),细胞自动机由一些特定规则的格子所组成,每个格子看做是一个细胞;每一个细胞可以具有一些状态,但是在某一时刻只能处一种状态之中。随着时间的变化,格子上的每一个细胞根据周围细胞的情形,按照相同的法则而改变状态。换句话说,一个细胞的状态由
6、上一时刻所围绕细胞的状态所决定。,微粒群中的个体(微粒)可理解为CA中的细胞,这些细胞在不同维上可以同时改变它的状态。,10,2023/10/18,闪光灯(blinker),滑翔机(glider),两维细胞自动机生命游戏(J.H.Conway),闪光灯:在叠代过程中,细胞群会在有限的叠代次数内周期循环其形状滑翔机:在有限的叠代次数内稳定地移动其形状,11,2023/10/18,PSO与遗传算法(Genetic Algorithm,GA)之间联系:PSO和GA都是基于种群进行搜素的,具有本质并行性;两种算法都是以目标函数值为搜索信息,适用于各类优化问题;“适者生存”规则不适用于PSO。尽管PSO
7、也利用适应值概念,但是适应值小的微粒不会灭亡;没有交叉和变异等遗传操作算子;每个微粒利用自身经验和邻域中其它微粒的经验更新位置。,PSO自身具有的特点(Rui Mendes,2004).易于理解和描述;易于实现;可调参数较少;所需种群或微粒群规模较小;计算效率高,收敛速度快。,12,2023/10/18,微粒群优化算法的发展,1997年,Eberhart首次提出了微粒群优化算法的离散二进制版,揭 开了离散变量微粒群优化算法研究的序幕。1998年和1999年,Shi和Clerc等分别提出了基于惯性模型和压缩因 子的算法模型。2002年,Clerc等给出了PSO的稳定性和收敛性分析。2002年,C
8、oello等把PSO算法用于多目标优化问题,为算法研究注 入了新的动力。2004年,Kennedy和Mendes研究微粒间拓扑结构,给出了一种全息微 粒群优化算法。2006年,Parrott 和 Li 提出了用于动态多峰优化问题的PSO。,13,2023/10/18,微粒群优化算法的应用,函数优化数值函数优化,动态、多峰值、多目标 组合优化旅行商问题、布局优化等问题生产调度工件加工问题自动控制智能控制器优化、最优控制器设计机器人学路径规划、协调控制机器学习分类、数据挖掘图像处理多边形近似问题机械设计碳纤维强化塑料神经网络训练参数辨识等等,14,2023/10/18,相关资源,2001年,Ken
9、nedy等出版优秀著作Swarm Intelligence,对微粒群优化及其应用作了全面而系统的论述。,专著,1999年首届进化计算会议上微粒群优化算法即被定为会议讨论议题。IEEE 群体智能研讨会 Genetic and Evolutionary Computation 国际会议,会议及其杂志,网址,,http:/icdweb.cc.purdue.edu/hux/pso.shtml.,Evolutionary Computation(MIT press)IEEE Transactions on Evolutionary ComputationIEEE Transactions on Neur
10、al NetworkIEEE Transactions on Systems,Man,and Cybernetics Part:A,BSwarm Intelligence,15,2023/10/18,2.1 算法原理,1)一个鸟群正在某一区域内随机寻找食物,在这一区域只有一份食物。2)鸟群不知道这份食物究竟在哪里,但是它们知道食物距离它们有多远以及它们同伴的位置,首先给出两个假设:,鸟群怎样尽量快的找到食物?,一个最有效的方法就是跟随或学习目前离食物最近同伴的位置。,2.基本微粒群优化算法,16,2023/10/18,单个鸟整个鸟群鸟群寻找食物的飞行策略,鸟群行为,PSO就是对鸟群或鱼群寻找食
11、物这种群体行为的模拟。,17,2023/10/18,基本PSO,:t次迭代后第i个微粒的位置;:微粒 从初始到目前迭代次数所得到的最好位置,通 常称为微粒个体最优点;:微粒 邻域内所有微粒从开始到目前迭代次数所得 到的最优位置,通常称为微粒全局最优点;,18,2023/10/18,基本PSO,速度冲量,认知项,社会项,微粒速度更新公式(1a)包括三项:,速度冲量:指引微粒继续飞行的先前微粒速度;认知项:当前微粒重新返回所经最好位置的趋势;社会项:当前微粒被其邻域所找到的最好位置吸引的趋势。,邻域拓扑结构可以用来控制微粒之间信息的传播,即社会项的影响,部分典型结构如全连接形、环形或星形等。全局版
12、PSO(gbest PSO)和局部版PSO(lbest PSO)。,19,2023/10/18,微粒速度限制,由式(1a)可知,微粒速度具有突增到一个大值的趋势。,为防止发生上述现象,避免微粒进一步发散,利用参数 限制微粒的飞行速度。如果微粒的速度超过,则取相应微粒速度为。,20,2023/10/18,PSO程序(最大化问题),1.在搜索空间中随机生成N个微粒,组成微粒群;2.重复下列步骤:for(i=1 to N)评价微粒适应值;if for(j=1 to D)/*D为决策变量维数*/由式(1)更新当前微粒的第j个分量;end end3.如果满足终止条件,那么终止算法,并输出结果.,/*更新
13、微粒全局最优点*/,21,2023/10/18,惯性权重,由于速度冲量容易导致微粒按照先前速度方向继续移动,因而,Shi提出个惯性权重 w,用来控制先前微粒速度所产生的影响。,惯性权重,在没有 的特定情况下,基于惯性权重的PSO也能收敛。,2.2 控制参数分析,22,2023/10/18,惯性权重(续),通过调节w值,可以控制PSO的全局探索和局部开发能力:,w1:微粒速度随迭代次数的增加而增加,微粒发散。0w1:微粒减速,算法的收敛性依靠惯性权重 和。w0:微粒速度随迭代次数的增加而减小,最后趋近0,算法收敛。,实验表明,w=0.7298和 时算法具有较好的收敛性能。,23,2023/10/
14、18,加速度系数(Acceleration coefficients),:两个加速度系数,又称学习因子,用来控制 和 对微粒 飞行方向的影响。,24,2023/10/18,自适应或动态加速度系数:,实验建议:,Ratnaweera等:基于迭代次数对两个加速度系数进行动态调节,其中,随进化代数增加而减小;相反,随进化代数增加而增大。,25,2023/10/18,压缩因子(Constriction factor),Clerc和Kennedy建议把一个压缩因子引入到微粒速度更新公式(1a):,压缩因子,其中,,通常,k取1,压缩因子。(Clerc and Kennedy,2002),26,2023/
15、10/18,3.PSO算法的收敛性,Van den Bergh(2002)、Trelea(2003)以及Bergh和Engelbrecht(2006)已经证明PSO能够收敛到一个平衡状态。,那么,,对于全局版PSO 算法,如果,这意味着随着迭代次数的增加所有微粒将收敛到一个点。但是,这不意味着微粒个体最优点和全局最优点的加权和就是问 题的最优解。,27,2023/10/18,如何防止上述问题的发生呢?,如果式(2)中,那么,微粒仅依靠 更新其位置。,进一步,如果上述状态持续足够代数后,那么,因此,有,进一步解释:,事实上,存在微粒群收敛到局部稳定点的可能。该局部稳定 点不是问题的全局最优点,甚
16、至不是问题的局部最优点。,28,2023/10/18,部分典型方法:Dissipative PSO(Xie,et al.,2002)-增加微粒群的多样性;PSO with mutation(Stacey,et al.,2004)-重新初始化已经收敛的微粒;PSO with passive congregation(He et al.,2004)-提高微粒群的多样性;Speciation-based PSO(Li et al.,2006)-根据微粒之间相似程度,把整个微 粒群划分为若干类。Self-organizing PSO(Ratnaweera,et al.2004)-改进算法的控制参数;M
17、ulti-swarm parallel PSO,MPPSO(Belal M et al.,2004)-利用多种群思想。,方法一:,防止所有或者部分微粒长期接近微粒的全局最优点,即,满足,29,2023/10/18,部分典型方法:差分算法(Differential Evolution,DE)(Zhang and Xie,2003)遗传算法(Genetic algorithm,GA)(Matthew et al.,2005);爬山法;模拟退火(Simulated annealing,SA)(Nasser Sadati et al.,2006);单纯形法(Simplex method,SM)(Fan
18、 S K et al.,2007).,方法二:,利用具有较强局部搜索能力的算法进一步细化/开发PSO所得结果。,30,2023/10/18,4.微粒群拓扑结构,每个微粒的行为受到邻域微粒的影响,该邻域可以看做微粒群拓扑中的一个子区域。微粒群拓扑中所有子区域通过一定方式相互关联,共同对问题空间进行协同搜索。,全局版PSO:每个微粒受整个微粒群所发现最好位置的影响,即每个微粒的邻域是整个微粒群;局部版PSO:每个微粒受所定义的局部邻域中微粒的影响,而 微粒的邻域由拓扑图中每条边上距离它最近的微粒组成。,常用的两类PSO算法:,31,2023/10/18,几种拓扑结构:,全连接拓扑(all),环形拓
19、扑(ring),Von Neumann 拓扑,星状拓扑(star),锥形拓扑(pyramid),四聚类拓扑(clusters),全连接拓扑为全局拓扑,其余都为邻域规模不同的局部拓扑。部分图来自 Mendes 和Kennedy(2004).,32,2023/10/18,我们应该选择那种拓扑结构?,全连接拓扑信息传输速度快,相应地,PSO算法收敛速度快,但是易于早熟收敛;环形拓扑信息传输速度最慢,相应地,PSO算法收敛速度慢,但是微粒有更多的机会发现最优解。,Kennedy(1999)指出:在处理复杂问题时,采用较小邻域的PSO 算法性能较好;在处理简单问题时,采用较大邻域的PSO算法性 能较好。
20、,Mendes和Kennedy(2002)在对比不同拓扑结构时发现:Von Neumann拓扑优于其它拓扑。,Suganthan(1999),在PSO算法初期采用局部版PSO,后期采用 全局版PSO;Hu和Eberhart(2002),提出了动态拓扑结构的概念。每次迭代时 选择与当前微粒最近的m个微粒作为它的新邻域。,33,2023/10/18,5.并行微粒群优化算法,面对复杂优化问题,PSO在优化速度上显得“力不从心”。,为求得满意的优化结果,常需要计算相当多次的函数值;对于一些实际问题,计算单个函数值就可能需要付出昂贵代价。,34,2023/10/18,主从式模式,又称全局式PSO,主处理
21、器:执行微粒全局最优点的选择、微粒位置更新等算子;从处理器:并行计算多个微粒的函数值。,算法每次迭代时,主处理器分配新生微粒到各从处理器;从处理器计算所接受微粒的函数值,并将其返回给主处理器;主处理器利用从处理器返回的微粒 函数值,首先更新微粒的个体最优 点和全局最优点,接着,更新微粒 的速度和位置。返回。,缺点:由于未对PSO算法框架进行改动,所以该模式存在主从节点负荷忙闲 不均衡的问题,35,2023/10/18,细粒度模式,又称扩散式PSO,赋予每个微粒一个处理器。对每个微粒,微粒全局最优点的选择和微粒位置更新皆在其所处处理器及其邻域(红色图标)中进行。,该模型可以最大限度的发挥算法的并
22、行潜力但算法的实现对处理器数量要求很高,其应用范围受到了很大限制。,优缺点:,36,2023/10/18,粗粒度模式,又称迁移式PSO,将随机生成的初始种群依处理器个数分割成若干个子种群,各 个子种群在不同的处理器上并行进化。每经过一定进化代数,各子群间交换若干最优信息。,该模型不仅通信代价较小,而且非常适合在通信带宽较低的集群上运行,是适应性强且应用范围广的并行模型.可以提高种群多样性,防止未成熟收敛的发生,优点:,37,2023/10/18,6.二进制微粒群优化算法,最初的PSO算法是从处理连续优化问题中发展起来的。Kennedy和Eberhart首次将实数版PSO扩展为二进制 PSO。微
23、粒位置为二进制向量,微粒速度仍为浮点向量;微粒速度将被逻辑函数s(v)转化为判断位置项 选择0还是1的概率。,38,2023/10/18,为了防止s(v)饱和,Kennedy等还建议将 限制在-4,4之间。,其中,,具体更新公式如下:,39,2023/10/18,测试函数,Schaffer,Griewank,Ackley,Rastrigin,40,2023/10/18,7.基于微粒群优化的多机器人协同搜索,41,2023/10/18,7.1 研究背景,机器人能够代替人从事恶劣、危险环境下的工作。,对于一个包含诸多危险或者人根本无法到达的区域,利用机器人进行搜索是行之有效的。,设计一个带有若干传
24、感器的智能机器人是非常昂贵的;利用一个简单机器人群进行搜索不仅代价小,而且鲁棒性好。,受害者救援 行星探测 有害气体或放射物寻源 排雷、救火等,42,2023/10/18,7.2 问题描述,不失一般性,考虑如下问题:,环境:一个位置未知的危险源(如放射源),M个障碍物和N个机器人。目标:尽快找到危险源的位置。,:机器人:放射源,43,2023/10/18,7.3 基于PSO的多机器人搜索算法-Pugh and Martinoli,2007,建立PSO中微粒和多机器人系统中机器人之间1-1匹配关系。机器人之间可以相互通信,并且,通过GPS或者一些全局定 位装置机器人知道自己的全局坐标;那么,机器
25、人可由基本PSO公式来确定他们所需的移动速度。,思想:,然而,PSO和多机器人搜索之间仍存在一些关键差异,需要对算法进行修改:,离散对连续时间 移动限制 函数评价 机器人相互碰撞 机器人的邻域,44,2023/10/18,A.离散对连续时间,问题:PSO中每个微粒位置的更新过程是离散的;而现实中机器人 的移动过程是连续的。,方案:在适当速度下让机器人朝着希望位置连续移动固定时间段;上述步骤完成后,算法再进行下一次迭代。,为达到微粒之间的同步迭代,该方法需要各机器人并行移动。,B.机器人相互碰撞,为防止机器人之间发生碰撞,采用Braitenberg 避障法,使机器人转向并远离可能的碰撞。,问题:
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 群体 智能 及其 应用
![提示](https://www.31ppt.com/images/bang_tan.gif)
链接地址:https://www.31ppt.com/p-6337180.html