《并行处理技术》PPT课件.ppt
《《并行处理技术》PPT课件.ppt》由会员分享,可在线阅读,更多相关《《并行处理技术》PPT课件.ppt(87页珍藏版)》请在三一办公上搜索。
1、计算机系统结构,第6章 并行处理技术,本章学习要求,理解并行处理机的结构和工作原理;了解并行处理机与流水处理机的差别;熟练掌握基本的单级互连网络及其互连函数表示;理解循环互连网络的实现;熟练掌握多级网络、全排列网络的画法;,本章学习要求,了解多处理机的特点及主要技术;掌握并行算法研究思路,程序并行性分析结论,任务的派生和汇合;理解多处理机任务粒度、通信开销对性能的影响;了解多处理机操作系统,并行处理技术,是获取高性能计算的重要手段通过资源的重复设置以实现性能的改善,其发展是没有极限的有双重含义:同时性(Simultaneity)和并发性(Concurrency),6.1 并行处理技术的基本概念
2、,并行处理的目的提高速度对于一个固定规模的问题,采用并行计算技术可以使求解时间更少现在的微型机也开始借助于流水线技术、多核技术等并行计算技术来提高系统的速度扩大问题求解规模由于器件本身的限制,任何单处理器的速度不能超过某个上限要突破这个上限,必须采用并行计算技术,6.1 并行处理技术的基本概念,数据处理过程中可能存在若干个可以同时进行处理的部分。用一个处理部件按时间顺序先后处理它们,称串行处理用若干个处理部件同时处理这些部分,称并行处理 并行性概念同时性并发性,6.1 并行处理技术的基本概念,并行处理相对于串行处理而言,着重开发计算过程中的并发事件,用并行性粒度 G 来描述;,所有处理器处理时
3、间的总和,所有处理器通信时间的总和,6.1 并行处理技术的基本概念,粒度细,表明处理器间通信时间长;粒度粗,表明处理器之间通信量小,性能较好。程序执行过程分个 5 级别:作业级,任务级,程序级,指令级,指令内操作级,粗粒度级别,细粒度级别,主要由多处理机或多计算机系统实现。开发手段:软件,在单处理机实现,开发手段:硬件.如流水技术,6.1 并行处理技术的基本概念,并发性开发的途径有:时间重叠:多个处理过程在时间上错开,重叠使用同一部件,以赢得速度,如指令流水执行方式。资源重复:通过设置多套功能部件,利用空间上的并行性提高指令执行速度资源共享:利用软件的方法,让多个任务在时间上轮流使用一套资源,
4、以提高资源的利用率。,6.2 SIMD并行计算机(阵列处理机),并行处理机(Parallel Processor)的一个重要特点是处理机有并列的多个处理单元,每个单元的组成都相同或相似。并行处理机内部有数十、数百甚至更多个处理单元,每个单元可以有自己的运算器、存储器、寄存器组或别的硬件设备。阵列机(Array Processor)作为并行处理机,在差分、乘法、矩阵和向量运算等领域用之甚多。,6.2 SIMD并行计算机(阵列处理机),阵列机的处理单元被画成“阵列”的样子,处理单元作为这个这个阵列的节点,通过一个环形的网络把节点连接起来了,网络同时也把控制器CU 和各节点连接起来。CU 通过网络向
5、各个处理单元“广播”,共享资源。阵列机属于SIMD,6.2 SIMD并行计算机(阵列处理机),阵列处理机由一个控制器(CU)、N个处理单元(PE)、M个存储器模块(M)和一个互连网络(IN)组成。由CU控制将指令广播给系统中的各个PE,所有活跃的PE将以同步方式执行相同的指令(单指令流),它们从相应的存储模块中取得自己所需的数据对象(多数据流),I LLIAC-IV 阵列机处理单元内部方块图,RGA,RGB,RGR,RGS,RGX,RGM,AU,LU,SU,ADA,PEM,累加寄存器64b存放第1操作数,操作数寄存器 64b 存放第2操作数,被乘数寄存器 64b兼互连寄存器,通用寄存器 64b
6、中间寄存器,PE单元存储器:容量204864 b访问时间 350ns,变址寄存器 64bADA的地址修改,MAR,MLU,存储器逻辑控制器,模式寄存器 8b指示标志位,PEM地址寄存器 11b,算术运算器,逻辑运算器,移位运算器,地址加法器,PE,DFS,ILLIAC说明,ILLIAC-IV 阵列机,RGA,RGB,RGR,RGS,RGX,RGM,AU,LU,SU,ADA,CDC,B6700,PEM,IOS,标量ALU,CUB,CDB(64),MBL(64),CU(64),ICL(200),1024总线,2048 X 64 b,13,管理系统资源完成编译汇编进行作业调度,BIOM,阵列控制计算
7、机CU,输入输出系统,阵列 PE 共 64个,PE,变址(16b),模式(8b),acc,gr,dr,nr,buffer,6.2 SIMD并行计算机(阵列处理机),图 6.1 阵列处理机两种结构,a.分布存储器的阵列机,b.共享存储器的阵列机,6.2 SIMD并行计算机(阵列处理机),阵列机的主要特点它采用资源重复方法它是以某一类算法为背景的专用机器阵列机的研究必须以并行算法的研究密切结合从处理单元来看,由于都是相同的,故阵列机是同构的并行处理机,6.4 SIMD计算机的互联网络,互连网络是一种由开关元件按照一定的拓扑结构和控制方式构成的网络,用来实现计算机系统中结点之间的相互连接。节点:处理
8、器、存储模块或其他设备。互连网络在系统中的位置,如图所示。在拓扑上,互连网络为输入结点到输出结点之间的一组互连或映象。,6.4 SIMD计算机的互联网络,互连网络在系统中的位置,6.4 SIMD计算机的互联网络,可以从4个不同的方面来描述互连网络通信工作方式:有同步和异步两种。同步系统:使用一个统一的时钟。SIMD阵列处理机就属于这一种类型。异步系统:没有统一的时钟,系统中的各个处理机都是独立地工作。控制策略:有集中式和分散式两种集中控制方式:有一个全局的控制器接收所有的通信请求,并由它设置互连网络的开关连接。分散控制方式:不存在全局的控制器,通信请求的处理和开关的设置由互连网络分散地进行。,
9、6.4 SIMD计算机的互联网络,交换方法:有线路交换和分组交换两种。线路交换:源结点和目的结点之间的物理通路在整个数据传送期间一直保持连接。分组交换:把信息分割成许多组(又称为包),将它们分别送入互连网络。这些数据包可以通过不同的路径传送,到达目的结点后再拼合成原来的数据。结点之间不存在固定连接的物理通路。,7.1 互连网络的基本概念,拓扑结构:有静态和动态两种。静态拓扑结构:在各结点之间有专用的连接通路,且在运行过程中不能改变。动态拓扑结构:可根据需要设置互连网络中的开关,从而对结点之间的连接通路进行重新组合,实现所要求的通信模式。,6.4 SIMD计算机的互联网络,SIMD系统互连网络的
10、设计目标(1)结构不要过分复杂,以降低成本;(2)互连要灵活,以满足算法和应用的需要;(3)处理单元间信息交换所需传送步数要尽可能少,以提高速度性能;(4)能用规整单一的基本构件组合而成,或经多次通过或多级连接来实现复杂的互连,使模块性好,以便于VLSI实现并满足系统的可扩展性。,6.4 SIMD计算机的互联网络,三、互连网络的分类,互联函数,互连函数互连函数是反映互连网络连接特性的一组定义。如果把互连网络的N个入端和N个出端(N=2n)各自用0,1,N-1的整数编号表示,则互连函数就是表示互连网络的出端号和入端号的一一对应关系。如入端号的二进制表示为xn-1xn-2x2x1,则与此入端相连接
11、的出端可用互连函数f(xn-1xn-2x2x1)表示。恒等置换函数,6.4.2 互联函数,2.方体(Cube)N个节点的立方体单级网络共有n=log2N种互连函数,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(
12、000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,K=0,K=1,K=2,6.4.2 互联函数,3.全混洗单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,6.4.2 互联函数,4.交换单级网络,(001)1,(010)2,(01
13、1)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,6.4.2 互联函数,5.蝶式单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,6.4.2 互联函数,6.子蝶式单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(00
14、0)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,K=0,K=1,K=2,6.4.
15、2 互联函数,*7.移位单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,6.4.2 互联函数,8.PM2I单级网络,PM2+0,(001)1,(010)2,(011)3,(100)4,(10
16、1)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,6.4.2 互联函数,8.PM2I单级网络,PM2+0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,0,1,2,3,4,5,6,7,6.4.2 互联函数,8.PM2I单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6
17、,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,PM2-0,0,1,2,3,4,5,6,7,6.4.2 互联函数,8.PM2I单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,PM2+1,0,1,2,3,4,5,6,7,6.4.2 互联函数,8.PM2I单级网络,(001)1,(010)2,(011)3,(100)4,(
18、101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,0,1,2,3,4,5,6,7,PM2-1,6.4.2 互联函数,8.PM2I单级网络,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,(001)1,(010)2,(011)3,(100)4,(101)5,(110)6,(111)7,(000)0,PM22,0,1,2,3,4,5,6,7,阵列计算机ILLIAC,采用PM20和PM2n/2构成ILLIAC 阵列机的互连
19、网络,互联网络分类与结构参数,Fig.6.17 互连网络的分类,互连网络通常可以分为两大类:静态互连网络 各结点之间有固定的连接通路且在运行中不能改变的网络。动态互连网络 由交换开关构成、可按运行程序的要求动态地改变连接状态的网络。下面介绍几种静态互连网络。(其中:N表示结点的个数),静态互连网络,6.4.4 静态互连网络,静态互联网络的参数,(1)结点度:与结点相连接的边(链路或通道)数,表示节点所需要的I/O端口数。一个网络的度是这个网络中各结点的度的最大值。结点度反映了网络中结点之间的连接能力。结点度=入度+出度其中入度是进入结点的通道数,出度是从结点出来的通道数。(2)距离:网络中两个
20、结点之间的拓扑距离用这两个结点之间相连的最少边数表示。,(3)网络直径:网络中任意两个结点间距离的最大值,即最远两个结点之间的距离。(4)网络规模:指网络中的结点数,表示该网络功能连结部件的多少。(5)带宽总和:指网络中各链路的传输带宽的总和,它代表了网络在理想状况下的传输能力,即每个结点的处理器同时与其它直接连接的结点进行通信时的网络传输能力。(6)等分(bisection)带宽:当某一网络被切成相等的两半时,沿切口的边数(通道数)的最小值称为通道等分宽度,用b表示。,静态互联网络的参数,6.4.4 静态互连网络,1、线性阵列 一种一维的线性网络,其中N个结点用N-1个链路连成一行。,端结点
21、的度:1其余结点的度:2直径:N1等分宽度b=1,6.4.4 静态互连网络,对称结点的度:2双向环的直径:N/2单向环的直径:N,2、环和带弦环 环用一条附加链路将线性阵列的两个端点连接起来而构成。可以单向工作,也可以双向工作。,6.4.4 静态互连网络,带弦环增加的链路愈多,结点度愈高,网络直径就愈小。,3、循环移数网络通过在环上每个结点到所有与其距离为2的整数幂的结点之间都增加一条附加链而构成。,N=16结点度:7直径:2,6.4.4 静态互连网络,全连接网络 结点度:15直径最短,为1,6.4.4 静态互连网络,树形和星形 一棵5层31个结点的二叉树 一般说来,一棵k层完全平衡的二叉树有
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 并行处理技术 并行 处理 技术 PPT 课件
链接地址:https://www.31ppt.com/p-5504593.html