SMP、NUMA、MPP体系结构介绍.docx

《SMP、NUMA、MPP体系结构介绍.docx》由会员分享，可在线阅读，更多相关《SMP、NUMA、MPP体系结构介绍.docx（5页珍藏版）》请在三一办公上搜索。

1、SMP、NUMA、MPP体系结构介绍从系统架构来看，目前的商用服务器大体可以分为三类，即对称多处理器结构(SMP : Symmetric Multi-Processor)，非一致存储访问结构(NUMA : Non-Uniform Memory Access)，以及海量并行处理 结构(MPP : Massive Parallel Processing)。它们的特征分别描述如下：1. SMP(Symmetric Multi-Processor)SMP (Symmetric Multi Processing)，对称多处理系统内有许多紧耦合多处理器，在这样的系统中，所有的CPU共享全部资源，如总线，内

2、存和I/O系统等，操作系统或管理数据库的复本只有一个，这种系统有一 个最大的特点就是共享所有资源。多个CPU之间没有区别，平等地访问内存、外设、一个操作系统。操作 系统管理着一个队列，每个处理器依次处理队列中的进程。如果两个处理器同时请求访问一个资源(例如 同一段内存地址)，由硬件、软件的锁机制去解决资源争用问题。所谓对称多处理器结构，是指服务器中多个CPU对称工作，无主次或从属关系。各CPU共享相同的物 理内存，每个CPU访问内存中的任何地址所需时间是相同的，因此SMP也被称为一致存储器访问结构 (UMA : Uniform Memory Access)。对SMP服务器进行扩展的方式包括增加

3、内存、使用更快的CPU、 增加CPU、扩充I/O(槽口数与总线数)以及添加更多的外部设备(通常是磁盘存储)。SMP服务器的主要特征是共享，系统中所有资源(CPU、内存、I/O等)都是共享的。也正是由于这 种特征，导致了 SMP服务器的主要问题，那就是它的扩展能力非常有限。对于SMP服务器而言，每一 个共享的环节都可能造成SMP服务器扩展时的瓶颈，而最受限制的则是内存。由于每个CPU必须通过 相同的内存总线访问相同的内存资源，因此随着CPU数量的增加，内存访问冲突将迅速增加，最终会造 成CPU资源的浪费，使CPU性能的有效性大大降低。实验证明，SMP服务器CPU利用率最好的情 况是2至4个CPU

4、。F -，.牌辜廉町的W3iS24CPU%：g图1.SMP服务器CPU利用率状态2. NUMA（Non-Uniform Memory Access）由于SMP在扩展能力上的限制，人们开始探究如何进行有效地扩展从而构建大型系统的技术，NUMA就是这种努力下的结果之一。利用NUMA技术，可以把几十个CPU（甚至上百个CPU）组合在 一个服务器内。其CPU模块结构如图2所示：I.1T一段境图2.NUMA服务器CPU模块结构NUMA服务器的基本特征是具有多个CPU模块，每个CPU模块由多个CPU（如4个）组成，并且 具有独立的本地内存、I/O槽口等。由于其节点之间可以通过互联模块（如称为Crossba

5、r Switch）进行 连接和信息交互，因此每个CPU可以访问整个系统的内存（这是NUMA系统与MPP系统的重要差 别）。显然，访问本地内存的速度将远远高于访问远地内存（系统内其它节点的内存）的速度，这也是 非一致存储访问NUMA的由来。由于这个特点，为了更好地发挥系统性能，开发应用程序时需要尽量减 少不同CPU模块之间的信息交互。利用NUMA技术，可以较好地解决原来SMP系统的扩展问题，在一个物理服务器内可以支持上百个 CPU。比较典型的NUMA服务器的例子包括HP的Superdome、SUN15K、旧Mp690等。但NUMA技术同样有一定缺陷，由于访问远地内存的延时远远超过本地内存，因此当

6、CPU数量增 加时，系统性能无法线性增加。如HP公司发布Superdome服务器时，曾公布了它与HP其它UNIX服 务器的相对性能值，结果发现，64路CPU的Superdome （NUMA结构）的相对性能值是20，而8 路N4000（共享的SMP结构）的相对性能值是6.3。从这个结果可以看到，8倍数量的CPU换来 的只是3倍性能的提升。3. MPP（Massive Parallel Processing）和NUMA不同，MPP提供了另外一种进行系统扩展的方式，它由多个SMP服务器通过一定的节 点互联网络进行连接，协同工作，完成相同的任务，从用户的角度来看是一个服务器系统。其基本特征是 由多个S

7、MP服务器（每个SMP服务器称节点）通过节点互联网络连接而成，每个节点只访问自己的 本地资源（内存、存储等），是一种完全无共享（Share Nothing）结构，因而扩展能力最好，理论上其 扩展无限制，目前的技术可实现512个节点互联，数千个CPU。目前业界对节点互联网络暂无标准， 如NCR的Bynet，RM的SPSwitch，它们都采用了不同的内部实现机制。但节点互联网仅供MPP 服务器内部使用，对用户而言是透明的。在MPP系统中，每个SMP节点也可以运行自己的操作系统、数据库等。但和NUMA不同的是， 它不存在异地内存访问的问题。换言之，每个节点内的CPU不能访问另一个节点的内存。节点之间

8、的信 息交互是通过节点互联网络实现的，这个过程一般称为数据重分配（Data Redistribution）。但是MPP服务器需要一种复杂的机制来调度和平衡各个节点的负载和并行处理过程。目前一些基于 MPP技术的服务器往往通过系统级软件（如数据库）来屏蔽这种复杂性。举例来说，NCR的Teradata 就是基于MPP技术的一个关系数据库软件，基于此数据库来开发应用时，不管后台服务器由多少个节点 组成，开发人员所面对的都是同一个数据库系统，而不需要考虑如何调度其中某几个节点的负载。MPP (Massively Parallel Processing),大规模并行处理系统，这样的系统是由许多松耦合的处

9、理单元组成 的，要注意的是这里指的是处理单元而不是处理器。每个单元内的CPU都有自己私有的资源，如总线，内 存，硬盘等。在每个单元内都有操作系统和管理数据库的实例复本。这种结构最大的特点在于不共享资源。4.三种体系架构之间的差异4.1 SMP系统与MPP系统比较既然有两种结构，那它们各有什么特点呢？采用什么结构比较合适呢？通常情况下，MPP系统因为要在不 同处理单元之间传送信息(请注意上图)，所以它的效率要比SMP要差一点，但是这也不是绝对的，因 为MPP系统不共享资源，因此对它而言，资源比SMP要多，当需要处理的事务达到一定规模时，MPP 的效率要比SMP好。这就是看通信时间占用计算时间的比

10、例而定，如果通信时间比较多，那MPP系统就 不占优势了，相反，如果通信时间比较少，那MPP系统可以充分发挥资源的优势，达到高效率。当前使 用的OTLP程序中，用户访问一个中心数据库，如果采用SMP系统结构，它的效率要比采用MPP结构要 快得多。而MPP系统在决策支持和数据挖掘方面显示了优势，可以这样说，如果操作相互之间没有什么 关系，处理单元之间需要进行的通信比较少，那采用MPP系统就要好，相反就不合适了。通过上面两个图我们可以看到，对于SMP来说，制约它速度的一个关键因素就是那个共享的总线，因此 对于DSS程序来说，只能选择MPP，而不能选择SMP，当大型程序的处理要求大于共享总线时，总线就

11、 没有能力进行处理了，这时SMP系统就不行了。当然了，两个结构互有优缺点，如果能够将两种结合起 来取长补短，当然最好了。从架构来看，NUMA与MPP具有许多相似之处：它们都由多个节点组成，每个节点都具有自己的 CPU、内存、I/O，节点之间都可以通过节点互联机制进行信息交互。那么它们的区别在哪里？通过分 析下面NUMA和MPP服务器的内部架构和工作原理不难发现其差异所在。首先是节点互联机制不同，NUMA的节点互联机制是在同一个物理服务器内部实现的，当某个CPU 需要进行远地内存访问时，它必须等待，这也是NUMA服务器无法实现CPU增加时性能线性扩展的主 要原因。而MPP的节点互联机制是在不同的

12、SMP服务器外部通过I/O实现的，每个节点只访问本地 内存和存储，节点之间的信息交互与节点本身的处理是并行进行的。因此MPP在增加节点时性能基本上 可以实现线性扩展。其次是内存访问机制不同。在NUMA服务器内部，任何一个CPU可以访问整个系统的内存，但远地访 问的性能远远低于本地内存访问，因此在开发应用程序时应该尽量避免远地内存访问。在MPP服务器中， 每个节点只访问本地内存，不存在远地内存访问的问题。图3.MPP服务器架构图数据仓库的选择哪种服务器更加适应数据仓库环境？这需要从数据仓库环境本身的负载特征入手。众所周知，典型的 数据仓库环境具有大量复杂的数据处理和综合分析，要求系统具有很高的I

13、/O处理能力，并且存储系统需 要提供足够的I/O带宽与之匹配。而一个典型的OLTP系统则以联机事务处理为主，每个交易所涉及的 数据不多，要求系统具有很高的事务处理能力，能够在单位时间里处理尽量多的交易。显然这两种应用环 境的负载特征完全不同。从NUMA架构来看，它可以在一个物理服务器内集成许多CPU，使系统具有较高的事务处理能力， 由于远地内存访问时延远长于本地内存访问，因此需要尽量减少不同CPU模块之间的数据交互。显然， NUMA架构更适用于OLTP事务处理环境，当用于数据仓库环境时，由于大量复杂的数据处理必然导致 大量的数据交互，将使CPU的利用率大大降低。相对而言，MPP服务器架构的并行

14、处理能力更优越，更适合于复杂的数据综合分析与处理环境。当然， 它需要借助于支持MPP技术的关系数据库系统来屏蔽节点之间负载平衡与调度的复杂性。另外，这种并 行处理能力也与节点互联网络有很大的关系。显然，适应于数据仓库环境的MPP服务器，其节点互联网 络的I/O性能应该非常突出，才能充分发挥整个系统的性能。NUMA的节点互联机制是在同一个物理服务器内部实现的，当某个CPU需要进行远地内存访问时，它必 须等待，这也是NUMA服务器无法实现CPU增加时性能线性扩展。MPP的节点互联机制是在不同的SMP服务器外部通过I/O实现的，每个节点只访问本地内存和存储，节 点之间的信息交互与节点本身的处理是并行

15、进行的。因此MPP在增加节点时性能基本上可以实现线性扩 展。SMP所有的CPU资源是共享的，因此完全实现线性扩展。4.4 NUMA、MPP、SMP之间扩展的区别NUMA理论上可以无限扩展，目前技术比较成熟的能够支持上百个CPU进行扩展。如HP的SUPERDOME。MPP理论上也可以实现无限扩展，目前技术比较成熟的能够支持512个节点，数千个CPU进行扩展。SMP扩展能力很差，目前2个到4个CPU的利用率最好，但是旧M的BOOK技术，能够将CPU扩展到 8个。MPP是由多个SMP构成，多个SMP服务器通过一定的节点互联网络进行连接，协同工作，完成相同的 任务。4.5 MPP和SMP、NUMA应用

16、之间的区别MPP的优势：MPP系统不共享资源，因此对它而言，资源比SMP要多，当需要处理的事务达到一定规模时，MPP的效 率要比SMP好。由于MPP系统因为要在不同处理单元之间传送信息，在通讯时间少的时候，那MPP系 统可以充分发挥资源的优势，达到高效率。也就是说：操作相互之间没有什么关系，处理单元之间需要进 行的通信比较少，那采用MPP系统就要好。因此，MPP系统在决策支持和数据挖掘方面显示了优势。SMP的优势：MPP系统因为要在不同处理单元之间传送信息，所以它的效率要比SMP要差一点。在通讯时间多的时候， 那MPP系统可以充分发挥资源的优势。因此当前使用的OTLP程序中，用户访问一个中心数据库，如果 采用SMP系统结构，它的效率要比采用MPP结构要快得多。NUMA架构的优势：NUMA架构来看，它可以在一个物理服务器内集成许多CPU，使系统具有较高的事务处理能力，由于远地 内存访问时延远长于本地内存访问，因此需要尽量减少不同CPU模块之间的数据交互。显然，NUMA架 构更适用于OLTP事务处理环境，当用于数据仓库环境时，由于大量复杂的数据处理必然导致大量的数据 交互，将使CPU的利用率大大降低。