《展示云平台建设方案.docx》由会员分享,可在线阅读,更多相关《展示云平台建设方案.docx(97页珍藏版)》请在三一办公上搜索。
1、展示云平台信息中心建设方案2015年7月目录1. 需求分析- 1 -2. 信息中心总体设计- 3 -2.1 总体设计方案- 3 -2.1.1 设计原则- 3 -2.1.2 云计算基础资源池总体设计拓扑- 4 -2.1.3 云计算基础资源池技术架构- 6 -2.2 项目技术路线- 7 -2.2.1 X86系统架构- 7 -2.2.2 资源池化- 9 -2.2.3 弹性扩展- 12 -2.2.4 充分考虑利旧- 13 -3. 云计算中心详细建设方案- 14 -3.1 网络子系统建设- 14 -3.2 计算资源池建设- 15 -3.2.1 计算资源池定位- 15 -3.2.2 X86虚拟化实现- 1
2、9 -3.2.3 计算资源池总体设计- 24 -3.3 存储系统建设- 29 -3.3.1 数据与存储类型分析- 29 -3.3.2 存储网络设计- 30 -3.3.3 结构化数据存储资源池建设- 33 -3.3.4 非结构化数据存储资源池建设- 35 -3.4 数据库及关键业务系统建设- 37 -3.4.1 集群数据库建设- 37 -3.4.2 关键应用系统建设方案- 39 -3.5 备份系统建设- 42 -3.5.1 备份系统概述- 42 -3.5.2 文件数据备份技术- 43 -3.5.3 数据库备份技术- 43 -3.5.4 备份方案设计- 44 -3.6 云运维管理系统- 45 -3
3、.6.1 云资源监控- 62 -3.6.2 网络监控和管理- 63 -3.6.3 远程带外控制- 63 -3.6.4 统一监控策略管理- 64 -3.6.5 多元化报表统计- 64 -3.6.6 统一权限管理- 64 -3.6.7 系统部署与恢复- 64 -3.7 云运营管理系统- 64 -3.7.1 用户管理- 65 -3.7.2 云资源管理- 66 -3.7.3 云资源调度- 67 -3.7.4 服务目录管理- 68 -3.7.5 申请/审批管理- 69 -3.7.6 项目管理- 70 -3.7.7 计费系统- 71 -3.7.8 报表管理- 72 -3.8 中小企业平台-O2O行业增值服
4、务- 72 -3.8.1 优势- 73 -3.8.2 O2O系统构成- 73 -3.8.3 O2O系统与传统的电子商务营销模式的搭建比较- 74 -3.8.4 中小企业成本分析- 75 -3.9 海量数据存储分析平台- 75 -3.9.1 平台总体架构- 75 -3.9.2 结构化数据处理子系统- 77 -3.9.3 非结构化数据处理子系统- 89 -4. 项目设备清单- 90 -1. 需求分析基于项目建设内容,建议建设遵从以下原则开展:(1)分步实施,循序渐进从原有信息化平台向云平台的过渡不是一蹴而就的过程,在实施过程中需要统筹兼顾,分步进行,按照业务的重要程度制定详细的迁移计划以及试运行步
5、骤。(2)架构上应用与数据库分离参考大型网站以及企业关键应用的部署经验,关键数据库应用与上层的业务应用应该是一个物理上分离的架构,前端的业务应用通过网络连接后端的数据库系统。这种架构的好处是前端业务应用不涉及业务数据,能够方便快速的部署,而且可以进一步通过应用集群实现高可用与负载均衡。后端的数据库系统也可以通过物理机组建数据库集群来保护数据,同时提升后端的业务支撑能力。此外,未来的发展中,可以将很多个数据库应用进行整合,数据库应用与具体的数据库物理机呈多对一的结构。总的来说,应用与数据库分离的结构提升了业务的敏捷性,符合未来业务的发展需要,但是具体实施中还需要考虑业务应用的适应性。(3)利用云
6、管理平台实现自动化运维云管理平台可以通过一系列的自动化运维和管理流程,提升业务的高可用性和敏捷性,简化管理员工作,实现自动化运维管理。(4)利用云管理平台实现异构平台的统一管理云管理平台可以兼容诸如vmware的其他虚拟化平台,在云计算基础资源池中可以包含不同的业务分区。云管理平台可以将其它虚拟化软件平台整个作为一个分区加入到云管理平台中,统一运维和管理。2. 信息中心总体设计2.1 总体设计方案2.1.1 设计原则n 先进性福建公司展示云平台信息中心的建设采用业界主流的云计算理念,广泛采用虚拟化、分布式存储、分布式计算等先进技术与应用模式,并与电子政务业务相结合,确保先进技术与模式应用的有效
7、与适用。n 可扩展性福建公司展示云平台信息中心的计算、存储、网络等基础资源需要根据业务应用工作负荷的需求进行伸缩。在系统进行容量扩展时,只需增加相应数量的硬件设备,并在其上部署、配置相应的资源调度管理软件和业务应用软件,即可实现系统扩展。n 成熟性福建公司展示云平台信息中心建设,要考虑采用成熟各种技术手段,实现各种功能,保证云计算中心的良好运行,满足业务需要。n 开放性与兼容性福建公司展示云平台信息中心采用开放性架构体系,能够兼容业界通用的设备及主流的操作系统、虚拟化软件、应用程序,从而使得云计算中心大大降低开发、运营、维护等成本。n 可靠性福建公司展示云平台信息中心需提供可靠的计算、存储、网
8、络等资源。系统需要在硬件、网络、软件等方面考虑适当冗余,避免单点故障,保证云计算中心可靠运行。n 安全性福建公司展示云平台信息中心与互联网连接,必须防范网络入侵攻击、病毒感染;同时,计算中心的资源共享给不同的系统使用,必须保证它们之间不会发生数据泄漏。因此,云计算中心应该在各个层面进行完善的安全防护,确保信息的安全和私密性。n 多业务性福建公司展示云平台信息中心的规划设计中,充分考虑了需要支撑多用户、多业务的特征,保证基础资源在不同的应用和用户间根据需求自动动态调度的同时,使得不同的业务能够彼此隔离,保证多种业务的同时良好运行。n 自主可控福建公司展示云平台信息中心的建设在产品选型中,优先选择
9、自主可控的软硬件产品,一方面保证整个云计算中心的安全,另一方面也能够促进本地信息化产业链的发展。2.1.2 云计算基础资源池总体设计拓扑图云平台部署架构图依据福建公司展示云平台项目建设的总体要求,为满足福建公司展示云平台平台系统应用和数据系统建设需求,对数据中心的云平台采用上图的部署模式。福建公司展示云平台信息中心部署主要包括几个层面:计算资源池的构建、数据库业务分区规划、共享存储的设计等,整个部署架构如下:n 计算资源池设计计算资源池的构建主要采用2路高性能、多核心的X86服务器作为服务器基础支撑,通过虚拟化技术实现底层物理资源的虚拟化,通过云资源管理平台进行虚拟机的创建、动态分配、迁移及管
10、理,形成统一的计算资源池。n 数据库业务分设计考虑到云计算的安全性、可靠性及重要性,在本方案中数据库分区采用物理机支撑,以够保证整个数据库的稳定、高I/O吞吐和访问,主要通过高端4路X86高性能服务器通过集群技术进行部署,支撑相关业务数据的存储和管理。本次配置台八路高性能服务器,通过搭建Oracle RAC服务器集群,并采用负载均衡的模式对上层应用提供数据存储和数据检索服务;数据库服务器通过光模块与后端动态存储进行连接,保证数据的安全和稳定。n 共享存储区设计共享存储设计的存储数据主要包括重要业务数据和虚拟机镜像数据,其中:重要业务数据主要通过Oracle/DB2/SQL Server/MyS
11、QL等数据库进行数据管理,结构化数据存储利用高端私有云存储设备来支撑,在未来需要对存储容量进行扩展时可方便的横向纵向扩展;虚拟机镜像数据主要存放在共享存储部分,通过共享存储设备来支撑虚拟机镜像数据的存放,共享存储建议使用并行存储系统来支撑。2.1.3 云计算基础资源池技术架构图支撑平台技术架构支撑平台总体技术架构设计如上,整个架构从下往上包括云计算基础设施层、云计算平台资源层、云计算业务数据层、云计算管理层和云计算服务层。其中此次云计算基础资源池主要涉及以下三个方面:n 云计算基础设施层:主要包括云计算中心的物理机房环境;n 云计算平台资源层:在云计算中心安全的物理环境基础上,采用虚拟化、分布
12、式存储等云计算技术,实现服务器、网络、存储的虚拟化,构建计算资源池、存储资源池和网络资源池,实现基础设施即服务。n 云计算业务数据层:主要为实现业务数据的安全存储,同时针对云平台的各个虚拟机镜像数据和模板数据进行共享存储,支持虚拟机的动态迁移和数据的迁移;实现部门间数据共享与交换;实现业务应用接入。2.2 项目技术路线本项目建设福建公司展示云平台云计算中心的基本技术路线主要包括: X86系统架构、资源池化、弹性扩展、智能化云管理以及充分考虑利旧。2.2.1 X86系统架构基于X86平台的服务器使用Intel Xeon或者AMD Opteron作为处理器,也就是通常所说的PC服务器。近年来,In
13、tel Xeon和AMD Opteron的性能获得巨大的提高,大量的先进技术和工艺先后被Intel/AMD引人其处理器的设计和制造中,比如,64位计算、直连结构、内嵌内存控制器、多核(目前,Intel Xeon最多可以做到18核;AMD Opteron可以做到16核)、硬件辅助虚拟化技术(Intel VT、AMD-V)、32nm等等。在国际权威测试机构TPC组织发布的结果中,采用X86架构服务器价格/性能比最佳。X86服务器主要优势表现在界面友好,系统安装、网络装置、客户机设置简易,设置、管理系统直观、方便,系统扩展灵活等优点,对构建大型应用集群具有较好的优势。同时,基于X86架构的服务器因为
14、其开放的架构,开放的生态系统,使其具有较低的运维成本,这也是传统小型机等封闭系统所不能比拟的。此外,从可靠性的角度,在云计算环境下,通常大量采用虚拟化、分布式、并行计算等模式,有力的保证了计算系统的可靠性。同时,基于X86架构的服务器因为其开放的架构,开放的生态系统,使其具有较低的运维成本,这也是传统小型机等封闭系统所不能比拟的。此外,从可靠性的角度,在云计算环境下,通常大量采用虚拟化、分布式、并行计算等模式,有力的保证了计算系统的可靠性。国内外几大互联网巨头,Google、Amazon、百度、阿里巴巴等,无不大量采用X86架构的设备,支撑海量的互联网检索和访问。X86架构的服务器已经成为构建
15、云计算中心虚拟化平台的最佳选择。X86服务器相对于小型机的优势如下表所示:表X86服务器与RISC架构小型机的区别特性小型机X86服务器软件层操作系统Unix为主Unix、Linux、windows全部支持支持应用的数量较少很多操作数大小64位32位、64位全部支持可管理性管理成本很高较低是否支持易购买的零部件否是故障排除难度高低是否有国产厂商提供很少很多可靠性是否能够提供冗余是是性能价格比和可扩展性性能高高价格很高较低可扩展性低高top500中的数量很少绝大多数总之,X86服务器相对于RISC架构的小型机其优势如下:n 性能价格比高X86服务器目前已经成为高性能计算机的发展方向,世界上top
16、500排行榜的高性能计算机系统绝大多数是由性价比更好的X86服务器组成的集群系统,小型机系统则很少。n 可扩展性好X86服务器可以通过原有预留的扩展接口进行无缝的扩展,且相关扩展接口都是业界通用的,非专用接口,这是小型机系统所无法做到的。X86服务器组成的集群系统扩展成本更低,可以实现按需扩展。n 可管理性好X86服务器复杂度小于小型机,通常管理一个X86服务器组成的集群系统要比管理一个小型机系统要简单得多,这也同时意味着培养一个小型机的管理人才将耗费大量的费用和支出。n 维护与升级更容易X86服务器都是采用了标准的硬件设备,那就意味着这些设备可以轻松地拿到,在关键时候客户即使没有硬件厂商的提
17、供也可以自行配置出临时的解决办法,使用通用的X86架构服务器不会轻易受制于服务器制造商;然而,小型机的每个配件都是专用的,那就意味着用户在一些关键的业务上需要等待小型机厂商的服务响应时间,受制于小型机设备制造商,将自己的工作带向了被动。n 对应用系统的更多的支持小型机系统只能支持相对较少的操作系统和64位软件,而X86服务器可以支持大部分主流操作系统并且可以支持同时存在多种操作系统,也支持32位和64位的软件系统,在X86服务器上可运行的软件是小型机系统的成百上千倍。2.2.2 资源池化资源池化就是将计算资源、存储资源、网络资源通过虚拟化技术,将构成相应资源的众多物理设备组合成一个整体,形成相
18、应的计算资源池、存储资源池、网络资源池,提供给上层应用软件。资源虚拟化是对上层应用屏蔽底层设备或架构的资源封装手段,是实现云计算资源池化的重要技术基础。虚拟化技术由来已久,所谓虚拟化是相对于物理实体而言的,即将真实存在的物理实体,通过切分或(和)聚合的封装手段形成新的表现形态。聚合封装是将多个物理实体通过技术手段封装为单一虚拟映像/实例,可用于完成某个业务。例如SMP、计算集群(Cluster)、负载均衡集群(Load Balance)、RAID技术、虚拟存储、端口汇聚(port trunk)、交换机堆叠()等。切分封装是将单个物理实体通过技术手段封装为多个虚拟映像/实例,可用于执行不同业务。
19、例如主机虚拟化、存储分区、虚拟局域网(VLAN)等。其中:n SMP、计算集群、负载均衡、主机虚拟化等属于计算虚拟化的范畴;n 存储分区、RAID技术、虚拟存储等属于存储虚拟化的范畴;n 虚拟局域网(VLAN)、交换机堆叠、端口汇聚等则属于网络虚拟化的范畴。对于虚拟化技术也可以组合使用,以灵活地满足各种应用环境。例如:n 存储分区可以是对单个磁盘,也可以是针对RAID磁盘组;n 虚拟化主机通过负载均衡又可以实现应用单一映像。虚拟化技术的一个重要结果是降低IT架构中部件之间的依赖关系,以计算虚拟化为例,集群、主机虚拟化等计算虚拟化技术实现了应用软件与物理基础设施解耦合,这个过程类似与从C/S架构
20、到B/S架构,继而发展为多层体系结构的发展,都是由于原有的体系发展出现瓶颈或问题而出现的。C/S架构到B/S架构是通过应用计算与客户端的解耦合,在客户端与数据库之间增加了web server这样的中间层,减少了客户端和数据库的处理压力。图C/S架构到B/S架构转化图B/S结构到多层体系结构是通过数据处理与web server的解耦,在web server之间增加application server,减少了web server的处理压力。图B/S结构到多层体系结构转化图C/S结构到B/S多层体系结构的发展,优化了应用处理的过程,提高了应用系统的处理能力,而且也解决了应用系统的扩展能力,使大规模应
21、用处理成为可能。云计算平台的计算虚拟化技术形式众多,所要解决的问题也各不相同。例如:n 集群技术使得应用处理获得了更大的处理能力;n 主机虚拟化技术则是提高服务器处理能力的利用率。图集群技术及主机虚拟技术优势图但是从最终的效果而言都是分离了应用软件与物理基础设施,解除或弱化了它们之间的耦合,从而也就削弱了各自的技术发展所受到的相互限制,拓展了技术发展的空间和灵活性。图传统数据中心向云计算中心迁移示意图2.2.3 弹性扩展云计算中心要实现所提供服务的质量,动态的资源调度是必不可少的。现有数据中心的IT基础架构采用固态配置,灵活性很差,当业务发展超出预期时,无法及时根据业务需求调整资源供给,难以满
22、足业务快速增长的需求。而且系统资源扩展需要一定的周期,在此过程中,业务系统将处于高危运行状态,造成服务质量下降。而为了应用峰值而扩展的资源在正常情况下,将处于低负荷状态,造成资源浪费。而云计算中心要避免这样的情况出现,就必须要实现动态的资源调度,实现业务系统资源配备的按需调整,结合管理系统的资源监控,根据业务负载等情况,调整业务资源配给,保障业务系统的资源供给,满足其运行需要,也就保障了业务的服务质量。云计算中心弱化了应用软件与底层物理资源依赖关系,使得物理资源能够更加灵活地向优化系统性能、提高可靠性、提高易用性、提高运维效率等方面发展,使得动态资源调度成为可能,从而为上层的应用软件提供更好的
23、服务质量。而提高底层的计算、存储、网络等物理资源的耦合性,对于解决上述问题具有关键作用。首先通过对计算资源、存储资源、网络资源进行优化配给,提高资源能力的耦合性,则可以更好地提高云计算平台的整体性能。然后智能化地根据用户需要封装、分配资源,形成虚拟应用平台,用户在简单地部署自己的应用或数据后,应用系统即可投入使用。利用整合了计算、存储、网络等方面资源的运维专家系统,只需基于虚拟应用平台对物理资源的使用分析,即可动态地对其所用物理资源进行优化调整,以提高用户应用的运行效率和服务质量。在云计算中心,运维人员无需过分关心上层应用的情况,只需基于虚拟应用平台对物理资源的使用分析,进行资源优化调整,保证
24、云计算中心的稳定高效即可。图云计算中心弹性扩展示例图2.2.4 充分考虑利旧项目建设应充分考虑利旧,建设新系统并将业务系统迁移至新系统之后,先前采购的设备应继续利用,避免浪费已有投资。主要包括以下几个方面:n 服务器设备:经过性能和稳定性衡量之后,可以用来做对性能要求较低的前置机或者在云计算分区中添加一个利旧服务器组成的云区域,承担重要性稍差的业务系统;n 存储设备:可以用来做业务测试环境使用或备份数据存放,以充实存储空间;n 网络设备:经过性能和稳定性衡量之后,可以用来和新购网络设备一起组成云计算中心的网络体系。3. 云计算中心详细建设方案3.1 网络子系统建设网络拓扑方案一般有三层组网方案
25、和二层组网方案。传统的网络设计方案中,通常采用三层方案。三层方案将云计算中心基础网络分成核心、汇聚和接入三层架构。通常情况下,核心与汇聚之间通过路由技术进行流量的控制,汇聚层设备可以部署安全模块作为业务分区的边界网关,汇聚层以下普遍采用二层接入,运行STP/MSTP等协议来降低二层环路带来的隐患。三层结构的优点在于:n 网络分区清晰,以汇聚层设备区分业务部署,易于扩展、管理和维护;n 汇聚层可以灵活控制纵向网络的收敛比,不同性能要求的区域按照不同的规划进行设计,降低核心设备的端口压力;n 布线方式清晰、灵活,不会出现集中布线带来的散热、维护等问题;n 因接入层设备采用低端产品,汇聚层设备可按照
26、收敛比灵活控制成本,整体组网成本相对较低。三层结构的缺点在于:n 组网结构复杂,需要部署MSTP和VRRP等冗余协议;n 在汇聚层收敛比较大,性能容易出现瓶颈;n 三层结构在部署时,网关部署在汇聚层,汇聚层以上采用路由协议进行流量控制,而路由收敛较慢,路由路径及节点增多,管理难度加大;汇聚层以下使用二层,仍然存在出现环路的风险;从整体规划上,三层结构较复杂。随着信息技术的不断发展,高端交换机的转发性能和接入密度都在不断的提高,因此汇聚层高端交换机设备具备足够的能力直接提供高密度的千兆接入和万兆上行能力,从而精简大量的接入层设备,使网络架构趋向于扁平化。在核心与汇聚接入层设备之间运行二层交换,v
27、lan配置灵活,并可通过新一代交换机虚拟化功能替代传统的STP/MSTP,通过vlan映射业务分区,网络结构简洁、清晰。二层结构的优点在于:n 扁平化组网,简化网络拓扑,减少了单点故障和性能瓶颈,易于管理、维护;n 二层组网均采用高端设备,能够搭建一套具备极高转发性能的云计算中心高端网络,同时高端设备的可靠性更高,能够为云计算中心应用保驾护航;n 新一代高端交换机设备支持虚拟化技术,能够消除大量的环路设计,消除STP/MSTP等协议带来的运维、管理的复杂性;n 适合于大规模、集中部署,且高性能需求较高的云计算中心。根据云计算服务器数量多、扩展速度快、可靠性要求较低、网络结构独立的几个特点,将服
28、务器群接入网络物理采用二层网络设计,在逻辑上虚拟成一层考虑。根据二层组网原则,本项目组网逻辑架构拓扑如下图所示。图组网逻辑架构拓扑3.2 计算资源池建设3.2.1 计算资源池定位3.2.1.1 计算资源池特性由于福建公司展示云平台计算中心需要处理前端进来的海量数据,因此需要大量的计算机节点。传统的超级计算中心强调整体的计算能力,当前的互联网数据中心强调密度、带宽等因素。而云计算中心,特别是作为物联网后端处理中心的物理网云计算中心需要的是强大的“处理能力”,这个“处理能力”包含了计算能力、传输能力,甚至存储能力。毕竟云计算中心不同于传统的超级计算中心,不是长时间运行同一个计算程序,而是要同时处理
29、成千上万个服务请求,要求响应时间很短、对通信带宽和存储容量有巨大的需求。因此,云计算中心需要具有高通量特征的计算机系统。其次,对云计算运营者来讲,在提供可靠服务的前提下,通过大量先进技术降低总体拥有成本是云计算中心基础架构建设的核心目标。因此,构建云计算中心的一个重要标准就是利用标准化的、性价比高的通用部件或者产品。因为,只有标准化、商品化的部件才有众多的采购来源,并因为其开放性,从而具有较低的运营成本。再次,云计算平台的重要特征之一是实现资源的抽象和封装、构建动态化、弹性化的计算资源池,而虚拟化技术和分布式数据存储、分析技术是实现达到这一目标的重要手段。因此,计算子系统应该在虚拟化和分布式数
30、据存储模型两个方面有较好的解决方案。最后,除了具有通用性、标准化、资源池化等特征之外,计算子系统还应该具有易管理、低能耗的特征,从而大大降低云计算中心的能耗、降低运维成本。3.2.1.2 主要技术路线1) 计算虚拟化技术计算虚拟化技术是实现云计算中心资源池化的关键技术之一,是实现高可用、弹性扩展云计算平台的技术基础。计算虚拟化是一个抽象层,是对上层应用屏蔽底层计算设备的资源封装手段,将构成计算资源的众多物理设备组合成一个整体,形成计算资源池,提供给上层应用软件,从而提供更高的IT资源利用率和灵活性。计算虚拟化技术将真实存在的物理计算资源,通过切分或(和)聚合的封装手段形成新的表现形态。l 聚合
31、封装是将多个物理实体通过技术手段封装为单一虚拟映像/实例,可用于完成某个业务。就计算资源而言,通常采用计算集群(Cluster)、负载均衡集群(Load Balance)等。l 切分封装是将单个物理实体通过技术手段封装为多个虚拟映像/实例,可用于执行不同业务。通常采用主机虚拟化,如Vmware ESX、Xen、MS Hyper-V等产品。l 无论是计算集群(Cluster)、负载均衡集群(Load Balance),还是主机虚拟化,都属于计算资源虚拟化技术,多种虚拟化技术也可以组合使用,使得计算资源池的使用更加灵活。2) 基于X86架构的计算平台云计算中心采用标准的X86架构服务器作为“云”的
32、节点机。基于X86平台的服务器使用Intel Xeon或者AMD Opteron作为处理器,也就是通常所说的PC服务器。X86架构的服务器使用标准化、商业化的部件,从而成为构建大型云计算中心的最佳选择。近年来,Intel Xeon和AMD Opteron的性能获得巨大的提高,大量的先进技术和工艺先后被Intel/AMD引人其处理器的设计和制造中,比如,64位计算、直连结构、内嵌内存控制器、多核(目前,Intel Xeon最多可以做到10核;AMD Opteron可以做到16核)、硬件辅助虚拟化技术(Intel VT、AMD-V)、32nm制程等等。在国际权威的测试机构TPC组织发布的结果中,采
33、用X86架构的服务器价格/性能比最佳。从性能角度,4颗 Intel Xeon 7560的tpmC值就可达到24颗POWER 7的23%。最后,基于X86架构的服务器因为其开放的架构,开放的生态系统,使其具有较低的运维成本,这也是小型机等封闭系统所不能比拟的。从可靠性的角度,在云计算环境下,通常大量采用虚拟化、分布式、并行计算等模式,有力的保证了计算系统的可靠性。全球几大互联网巨头,Google、Amazon、百度、阿里巴巴等,无不大量采用X86架构的设备,支撑海量的互联网检索和访问。3) 并行计算技术高性能并行处理技术主要包括基于共享内存的OpenMP和多线程以及基于分布式消息传递的MPI,其
34、中MPI技术可扩展性强、计算效率高,是目前业界最流行的高性能并行处理技术。MPI和OpenMP等并行处理技术的能力可以很好的满足物联网计算密集类应用的高性能处理需求。图:并行计算思想:分而治之4) 可重构计算技术根据摩尔定律,CPU处理能力每18个月翻一倍,过去30年都是按照这个速度在不断提高。在此过程中解决了一个又一个的技术难题,如时钟频率、超标量架构、流水线技术等,使处理能力得到了极大地提高。然而根据吉尔德定律,在未来25年,主干网的带宽每6个月增长一倍,换句话说,也可以理解为需要处理的内容的增长速度是CPU处理能力的3倍,也就是说在信息处理系统的建设中,系统规模将会呈现持续上升,而不会因
35、为CPU的发展而有所缓解。基于可重构计算技术来实现特殊应用的加速是目前主流的方案。云计算技术在提供传统计算手段之外,还应该针对具体应用需求,提供众核协处理器、GPU计算和FPGA三种可重构计算模式,适应不同类型应用的需求。例如在网络数据处理、音视频信息处理等方面,即可针对应用处理要求,选用相应的可重构计算模式,以提高处理能力,降低系统规模的过快增长。5) 主机虚拟化技术主机虚拟化技术是实现资源池化的重要手段之一。近年来,X86架构上的主机虚拟化技术逐渐成熟,涌现出不少技术和产品,VMware ESX、Xen、微软Hyper-V就是其中的代表。作为第一个(1998年)将主机虚拟化技术引入X86平
36、台的厂商,VMware目前在X86平台的虚拟化市场上处于领先地位,ESX的最新版本是6.0。作为与ESX相类似(同属裸金属架构)的Hypervisor和ESX的竞争者,Xen和Hyper-V也越来越强大。Xen是剑桥大学于2005年发布的一个开源的Hypervisor,已被吸收到Redhat、SuSE、Oracle VM中。Xen已经于2007年被Citrix收购,但目前仍然作为一个开源项目由Citrix维护,代表着开源社区的力量。目前,Xen的最新版本是4.0.1,而Citrix XenServer的最新版本是5.6。微软于2008年发布了自己的HypervisorHyper-V,目前已经更
37、新到Hyper-V r2版本。3.2.2 X86虚拟化实现X86服务器虚拟化,就是在硬件和操作系统之间引入虚拟化层,如下图。虚拟化层允许多个操作系统实例同时运行在一台物理服务器上,动态分区和共享所有可用的物理资源,包括:CPU、内存、存储和I/O设备。随着服务器和台式机的计算能力急剧增加,虚拟化技术应用广泛普及,很多用户已经在开发/测试、服务器整合、数据中心优化和业务连续性方面证实了虚拟化的效用。虚拟架构已经可以将操作系统和应用从硬件上分离出来,打包成独立的、可移动的虚拟机,从来带来极大的灵活性。例如:可以通过虚拟架构,让服务器24小时*365天运行,避免因为备份或服务器维护而带来的停机。对于
38、X86虚拟化,有两种常见的架构:寄居架构和裸金属架构。l 寄居架构:将虚拟化层运行在操作系统之上,当作一个应用来运行,对硬件的支持很广泛。l 裸金属架构:直接将虚拟化层运行在X86的硬件系统上,可以直接访问硬件资源,无需通过操作系统实现硬件访问,因此效率更高。3.2.2.1 虚拟化层虚拟化层是运行在虚拟机监控器(VMM,Virtual Machine Monitor)上面、负责管理所有虚拟机的软件。如下图所示,虚拟化层就是Hypervisor(管理程序)直接运行在硬件上,因此,Hypervisor的功能极大地取决于虚拟化架构和实现。运行在Hypervisor(管理程序)上的每个VMM进行了硬件
39、抽取,负责运行传统的操作系统。每个VMM必须进行分区和CPU、内存和I/O设备的共享,从而实现系统的虚拟化。图:Hypervisor通过VMM管理虚拟机3.2.2.2 CPU虚拟化根据最初设计,X86上的操作系统需要直接运行在裸机上,因此默认拥有和控制所有的硬件。如下图所示,X86架构提供了四种特权级别Ring 0、1、2和3,通过这四种级别来控制和管理对硬件的访问。通常,用户级的应用一般运行在Ring 3级别,操作系统需要直接访问内存和硬件,需要在Ring 0执行它的特权指令。为了虚拟X86架构,需要在操作系统下面运行虚拟化层,由虚拟化层来创建和管理虚拟机,进行共享资源分配。而有些敏感指令不
40、能很好的进行虚拟化,它们在Ring 0以外级别执行时,会出现不同的结果。如何在运行时捕获和翻译这些敏感指令成为X86虚拟化的一大挑战,使得X86架构虚拟化最初难以实现。图:X86架构虚拟化前的特权级别到目前为止,有三种典型的技术来解决X86虚拟化的难题:l 完全虚拟化;l 操作系统帮助下的虚拟化,即半虚拟化;l 硬件帮助的虚拟化。一、 完全虚拟化完全虚拟化技术翻译核心指令来代替那些不能虚拟化的指令,通过翻译后的指令直接访问虚拟硬件。同时,所有用户级指令还是可以直接在CPU上执行来确保虚拟化的性能。每个VMM为每个虚拟机提供完整的硬件支持服务,包括虚拟BIOS、虚拟设备和虚拟内存管理。完全虚拟化
41、实现后,客户操作系统可以通过虚拟化层从物理硬件上完全抽取出来,客户操作系统感知不到是否发生虚拟化,完全不需进行修改。完全虚拟化是迄今为止唯一不需硬件或操作系统协助来进行敏感和特权指令虚拟化的技术,Hypervisor(管理程序)可以翻译所有的操作系统特权指令,并保存在缓存里备用,而用户级指令完全可以全速直接执行。完全虚拟化提供了最好的虚拟机隔离和安全性,简化了客户操作系统迁移和移植能力。二、 半虚拟化半虚拟化需要修改操作系统内核,替换掉不能虚拟化的指令,通过超级调用(Hypercall)直接和底层的虚拟化层Hypervisor来通讯,Hypervisor同时也提供了超级调用接口来满足其他关键内
42、核操作,比如内存管理、中断和时间保持,如下图所示:图:操作系统协助的X86架构虚拟化半虚拟化和全虚拟化不同,全虚拟化不需要修改上面的操作系统,敏感的操作系统指令可直接处理。半虚拟化的价值在于降低了虚拟化的损耗,基于Xen的虚拟化是半虚拟化的代表,可通过修改Linux的内核来实现CPU和内存的虚拟化,通过定制的操作系统驱动来实现I/O的虚拟化。三、 硬件辅助虚拟化硬件厂商面对虚拟化投入了大量的精力来开发新的特性用以简化虚拟化技术应用。第一代的虚拟化增强包括Intel VirtualizationTechnology(VT-x)和AMD的AMD-V,这两种技术都为CPU增加了新的执行模式root模
43、式,可以让VMM运行在root模式下,而root模式位于Ring 0的下面。如下图所示,特权和敏感指令自动在Hypervisor上执行。客户操作系统的状态保存在VT-x(Virtual Machine Control Structure,虚拟机控制结构)中或AMD-v(Virtual Machine Control Block,虚拟机控制块)。支持Intel VT和AMD-V的CPU从2006年开始推向市场。图:硬件辅助的X86架构虚拟化3.2.2.3 内存虚拟化除了CPU虚拟化,下一个关键是内存虚拟化,通过内存虚拟化共享物理系统内存,动态分配给虚拟机。虚拟机的内存虚拟化很像现在的操作系统支持
44、的虚拟内存方式,应用程序看到邻近的内存地址空间,这个地址空间无需和下面的物理机器内存直接对应,操作系统保持着虚拟页到物理页的映射。现在所有的X86 CPU都包括了一个称为内存管理的模块MMU(Memory Management Unit)和TLB(Translation Lookaside Buffer),通过MMU和TLB来优化虚拟内存的性能。图:内存虚拟化为了在一台机器上运行多个虚拟机,需要增加一个新的内存虚拟化层,也就是说,必须虚拟MMU来支持客户操作系统。客户操作系统继续控制虚拟地址到客户内存物理地址的映射,但是客户操作系统不能直接访问实际机器内存。VMM负责映射客户物理内存到实际机器
45、内存,它通过影子页表来加速映射。VMM使用TLB硬件来映射虚拟内存直接到机器内存,从而避免了每次访问进行两次翻译。当客户操作系统更改了虚拟内存到物理内存的映射表,VMM也会更新影子页表来启动直接查询。MMU虚拟化引入了虚拟化损耗,第二代的硬件辅助虚拟化将支持内存的虚拟化辅助,从而大大降低因此而带来的虚拟化损耗,让内存虚拟化更高效。3.2.2.4 设备和I/O虚拟化最后一个模块是设备和I/O虚拟化,也就是如何管理和路由物理设备和虚拟设备之间的I/O请求。图:设备和I/O虚拟化基于软件的I/O虚拟化和管理为设备管理带来了新的特性和功能,让设备的管理更容易。就拿网络为例,通过虚拟网卡和交换机可以在一
46、台物理机上不同虚拟机之间建立虚拟网络,而这不会在物理网络上产生任何的流量;允许多个物理网卡绑定成一个虚拟机网卡,提供了很好的容错能力,同时保持了同一MAC地址。I/O虚拟化的关键是保持虚拟化优势的同时,尽量降低虚拟化给CPU造成的负担。Hypervisor虚拟化物理硬件,为每台虚拟机提供一套标准的虚拟设备,如上图所示。这些虚拟设备高效模拟常见的物理硬件,将虚拟机的请求发送到物理硬件。该硬件标准化的过程也让虚拟机标准化,让虚拟机更容易在各种平台上自由移动,而无需关心下面实际的物理硬件类型。3.2.3 计算资源池总体设计3.2.3.1 设计原则1) 可靠性云计算中心作为一种公共IT基础设施,就如同
47、水和电一样,成为人们生活的必须,因此,云计算中心能否可靠运转成为云计算中心设计方案最重要的目标。2) 高性能为了满足高并发、高吞吐率的访问,云计算中心的基础平台必须有足够的处理能力。3) 动态化云计算中心需要负载多种业务,而各种业务的压力峰值出现的时机可能不同,因此,云计算中心基础平台就需要做到动态可伸缩,从而保证按需平衡资源供给。4) 可扩展必须保证计算子系统具有高可扩展的能力,从而保护投资,作为分期建设。5) 自动化实际上,自动化是数据中心永恒的追求目标,更高的自动化意味着更低的运维成本。6) 节能降耗大型数据中心需要大量的电力,计算子系统作为电力消耗的大头,需要有切实的措施保证节能。3.2.3.2 整体架构福建公司展示云平台信息平台通过虚拟化技术,将物理的计算资源虚拟成计算资源池,以支撑上层业务应用。计算资源池主要由基于X86架构的服务器设备组成。根据基础平台总体架构以及网络架构设计中对功能区的划分原则,将计算设备按照需要实现的功能划分为多个功能分区,支撑不同的
链接地址:https://www.31ppt.com/p-3840603.html