互联网业务质量指标体系及测试评估系统.docx

互联网业务质量指标体系及测试评估系统互联网业务质量指标体系及测试评估系统一、项目背景互联网作为全业务发展的重要基础，业务质量直接影响3G、WLAN和有线宽带 业务的发展。然而当前网络指标无法反映业务质量、用户业务感知无法量化评估、 优化工作只能围绕网络指标分段分层开展的问题，凸显出互联网业务质量指标不完 善、监控手段的匮乏。网络性能指标 实际业务质量ffl网络指标与用户感知不对应:尽管网内时延、抖动等各项指标优秀，但是用户 实际上网感知网速慢的问题突出；业务感知无法定量评估:用户业务质量感知、和竞争对手的业务质量对比、各 种优化手段对业务质量的提升效果无法定量评估；业务质量劣化无法预警：日常维护优化工作主要围绕网络指标分段分层开展， 无法通过数据统计分析对业务质量劣化进行预警。各种问题说明互联网业务质量指标体系不完善，不能反映真实的业务质量状态 和用户感知。指标体系不够全面:现有监控指标体系侧重于网络性能指标监控，无法反映现 网业务的真实情况，单靠网络性能指标无法准确反应用户的真实感知。故障发现速度慢:现有指标监控体系不完善，不能快速发现业务质量故障和性 能劣化情况，不能根据指标波动对业务质量进行预警。本课题从互联网业务感知角度出发，对主流互联网业务流程深入分析提炼，建 立了互联网业务质量指标体系，对主要业务指标、采集方法、评估标准进行了规 范。同时为使指标落地，自主开发了互联网业务质量测试评估系统，通过软探针采 集数据，在服务端呈现报表，构建了完整的互联网业务质量监控系统，通过全网各 种业务质量数据自动采集和监控，实现分业务、分地区、分时段业务质量评估，解 决了监控手段不足的问题。二、技术方案（一）概述本项目研究的目标在于量化互联网用户体验感知，形成可采集、可监控、可提 升的业务质量指标体系，并通过开发业务质量测试评估系统，达到持续监控优化互 联网业务质量、提高用户感知的目的。V（1融缗性能指标."时业务朝吹项目从网络、业务、用户感知等层面现状分析，梳理出影响用户业务感知各项 主要因素，并且在对各项目主要业务应用协议流程深入分析的基础上，总结对用户 感知关联密切的项目，整理制订了互联网业务质量指标集。为了实现指标的落地， 本课题开发了业务质量监控系统，通过业务测试探针和集中管理系统，实现对业务 质量指标的采集和监控。后续围绕业务质量监控系统，以质量指标的提升为目标， 将逐步优化互联网运维管理流程，建立业务质量预警机制，实现由被动维护向主动 维护的转变。（二）方案介绍本项目的总体研究思路和步骤为：第一步，用户感知分析:从投诉分析、用户回访等渠道，分析用户对网络的感 知以及影响用户业务感知的各种因素。第二步，建立指标体系:全面分析互联网业务类型，总结主要业务，从应用协 议流程分析入手，总结对用户感知关联密切的项目。第三步，开发应用系统:开发互联网业务质量采集与测试评估系统，实现业务 质量指标自动采集，以自主开发软件方式为主，在全网分级、分层部署软探针，实 现覆盖范围广、成本低的业务质量监控体系。第四步，形成一体化运维体系:将监控系统融合到已有网络优化运维流程中，形成质量监控、质量优化、质量评估与提升的互联网业务质量运维管理体系。以下重点介绍两部分内容:0互联网业务质量指标体系;中互联网业务质量测试评估系统的研究情况。1、建立标准:互联网业务质量指标体系为了衡量用户感知，量化互联网业务质量，我们对互联网业务类型进行了深入 分析，从信令协议过程入手，制订了完整的互联网业务质量指标体系;另一方面为 了将互联网业务质量指标落地，与现实网络维护工作相结合，从网络的实际拓扑和 维护分工，互联网质量指标体系从管理上同样采取分层结构。(1)、业务质量指标体系通过对当前互联网主要业务的梳理，对各项主要业务协议流程、网络层次建立 了评估模型，并且按照不同的业务类型，分别定义了各环节的指标及指标分层组合 关系，随后通过现网模拟，确定了各项指标的测试获取方法;最后为了使评估结果 更加直观，通过各项KPI指标的加权组合，为各项业务制订了综合评分的规则，并 且对测试结果对应的业务质量等级确定了取值范围。fltau 1KL TTH * fVa* J_&_u上H-BAK.i niU 祁 , lTar i -» i twi e!* Rrw- £ /通过模型描述评估对象SAP_ASAP_ZService Link,网络/业务,，明确评估范围,Service定义指标及层次关系，约定网络及业务存量对定义指标 计算规则，象命名规则及权重设置规则等Layered Networks规范测量方法及参数，以及测量结果处理规则，0 <= SLA符合度SLA符合度SLA 良好控制线SLA中控制线<=< SLA中控制线二100,即没有<=SLA符合度SLA符合度 <规范测量设备或，即有Critical 一项Critical. < 100,即没有SLA良好控制线 软件部署方案，条款突破,SLAMajor不符合条Critical条款突，即没有Critical符合度为0,款，或只有破，有少量条款突破，有或者有Major条Minor条款不满Major 条款突破Major条款突破款突破足,，定义一致的评价标准,SLA/SLO/指标阈值/指标权重，结合目前业务开展情况和中长期的业务规划，业务质量指标体系现阶段重点考虑了 WEB浏览、文件下载、在线游戏、自有业务、IPTV内容:请点击下方文件查看中国移动CMNET网络及业务指标体系技术规范（建议稿）。J:创新申报中国移动CMNET网络及业务指标体系技术规范（讨论稿）V1.1.doc（2）、CMNET分层指标体系为了将互联网业务质量指标落地，集团公司、省公司、地市公司有明确的运维 范围与职责的划分，在CMNET网络及业务指标体系时，需要与目前的运维体系相一 致。CMNET质量指标体系宏观分级结构分级指标体系的实施建议按照“整体规划，分步实施，逐级衔接关联，持续优 化”的过程实施。整体规划整体规划可以保证指标体系的一致性，保证同级运维实体间指标的 可对比性。制订统一的技术规范是整体规划得以落实的关键，技术规范的定义的主 导权与解释权归属于集团公司，技术规范定义后，各级省、地市分公司需要对技术 规范进行理解，提出意见与建议，以保证技术规范的有效性。分步实施在统一的技术规范指导约束下，集团、省、地市可分别独立实施， 条件成熟的省公司、地市公司可以先行。同一公司在实施过程中，可以分业务逐步 实施，比如先实施IP网络及HSI业务，再逐步补充其他业务如VoIP业务或IPTV 业务。逐级衔接关联地市公司指标体系可以向上与省级指标体系衔接，省级公司指 标体系可以向上与集团公司指标体系衔接。衔接的过程可以是逐步进行的。持续优化整个指标体系（包括技术规范与运行系统）应被视为一种宝贵的“智 力资产”，提升运营能力的核心竞争力，需要持续经营，持续优化。技术规范需要 长期维护，并及时修订，以满足网络及业务质量提升的要求，新的网络技术、新业 务要求指标体系及时跟进。2、指标落地:互联网业务质量测试评估系统为实现互联网业务质量指标体系的落地，项目组开发了 “互联网业务质量采集 与测试评估系统”，以自主开发软探针方式为主，在全网部署，将IP网络网格 化，从用户侧、城域网、省网、骨干网各层各级，采集网络质量、业务质量，从而 实现“点-线-面”结合，既能查看整体业务质量，同时也能按时间、按地区进行统 计和分析。互联网业务质量测试评估系统架构包括三个部分：粉服务端:运行在服务器上，实现集中控制功能，探针管理、任务配置、指标采 集与分析、告警监控等功能。探针/客户端（Probe）:自主开发软件，安装在PC终端上，接收服务端指令， 进行质量测试（网络质量、业务质量），上传至服务端。网管系统:即IP综合网管，从服务端获取告警和报表数据，实现业务质量告 警、报表的集中输出和呈现。互联网业务质量测试评估系统包括质量指标体系设置、业务路径与网络链路自 动关联、探针关联关系及故障定位、业务质量告警、业务质量评估等五个主要的功 能模块。质量指标体系设置指标体系主要完成各种典型业务与KPI指标的定义、各指标的权重等，并且根 据接入方式、用户体验，定义指标评价范围:优、良、中、差。业务路径与网络路径自动关联系统在进行业务测试时，自动跟踪业务路径，与网络设备和链路进行关联，完 整记录业务运行情况，可协助维护人员快速进行故障定位和处理。H-H ft*.n.J J liMi JJ1UWMAm 蹈 £«HF1KU211 z 扃i+血工酷宜WiMfl11 f-a1 "祖,Ml JriJLJMJM-fajrt -JU L3T*KR：H14i it I ：4 HMM#Cg.Mf.4f rli hfU/' .酷msIK |FH*泅fl*J3 L3d.J jl十市IBJI 11 KItJ I-UlA .ft!»H：rLP-rtP*lr-lw fXl* MBu的»皤如IW.m T1J DBRUB图:业务路径与设备关联关系探针关联关系设置及故障定位探针关联是为了进行故障定位使用，在实际网络中，探针与探针、探针与业务 目标之间存在关联和归属关系，明确探针关系，可以进行更精确的网络质量评估和 故障定位。,归属地的关联:如省、市、县、小区等；,运营商、网络层次的关联；,探针之间的归属关联:在接入网络层次中，探针有属于它的上级和下级，这 样可以更加精确地进行故障定位。S探针关联设置详细功能参加以下文档。探针关联设置及故障定位.doc业务质量告警业务质量告警主要报告告警条件设置和告警类别两部分功能。告警条件主要包 括单项KPI指标告警、指定用例告警、专项任务告警三种类型;告警类别主要包括 基线告警、门限告警、可用性告警、系统状态告警等四种：,基线告警:当前指标与前一段（7天）周期同时段（小时）指标值进行比较超过一定的百分比，优先级（严重50、一般20、次要10）实现:配置页面，配置内容为:告警时间段（默认7天）、告警等级阀值：（严重50%、一般20%、次要10%）。查询纬度:时间段、告警等级、下降比率，门限 告警:按照用例类型、源一目（归属运营商、地理区域归属省是否一致）指标、进行设置。（一般告警）实现：门限配置页面，按照用例类型进行配置，每个用例按照，探针与目的地 址的运营商和地理区域是否一致和指标进行设置。,可用性告警:用例执行情况、对失败原因的区分告警（一般告警）实现:根据客户端实际情况输出告警原因，进行告警。,系统状态告警:探针掉线，系统关键进程（严重告警）业务质量评估根据指标体系定义，可以根据自定义条件，实现特定区域、时间、业务类型、 目标网站所属区域（如运营商、地理区域等）的质量评估，从而实现业务质量变化的 预警。业务质量评估指标定义方向详见以下文档。质量评估得分计算方法.doc三、主要创新点本项目主要创新点体现在三个方面:制订了互联网业务质量指标规范、自主开 发了业务质量测试探针和监控系统产品、创新性解决了业务质量和网络质量的自动 关联问题。1、制订了互联网业务质量指标规范:量化用户互联网业务体验指标，将互联网 业务质量评估和测试、监控工作规范化、标准化、自动化，全面解决了目前用户感知 评估和监控的问题。目前该规范已经通过集团公司在5个省份的试点验证，正在申请中 国移动企业标准。2、自主开发了业务质量测试探针和监控系统：自主开发软探针和管理系统，软 探针基于通用PC平台，不依赖于厂家硬件设备，不仅提高了测试工作效率，彻底排 除了由于人为因素干扰测试结果准确性的问题，同时实现了自主知识产权。3、创新性地提出了业务质量监控与网络质量自动关联的方法:实现了业务故障 快速定位功能，领先于业务同行业水平。四、效果分析1、互联网业务质量测试评估系统主要应用场景互联网业务质量测试评估系统主要解决目前业务质量分析手段不足的问题，主 要用在统计产生互联网业务质量报表，实现业务质量的监控，并且能够实现互联网 业务质量的评估和测试。典型的业务质量监控告警输出示例如下：±&JtUh*V对|皿山闩e jg znu-u him蛙 imii i咨W 1 1fllAlG.nE ； ir 日vius-B5TI& MMfLW .JHll.i KI « i t-4 AU ,5 "hvfr n ndHilHirirfcAiUHl JuMlJWiluMTrltA4UZ3LI4»ll.n.l七*Wlawarn_rl._nLJIH土4EM岫JidlLmtnisi:MfiFPf*!中LH-W i. iH-Hil*Mg.qff-imi iumhij"B JHaHPH 1 mi匕呷aTJHra mXEMt4Z-13 J1=TLEi nn rT.Ha al七JJI*虹S*ABvTh堂HlhU ll -JLIJ>< IH1 -mf-I 1 rmk.-1-IJJMMC>-JI.4A业务质量评估和报表主要包括业务质量指标变化趋势、竞争对手质量评估对比、网内不同区域业务质量横向对比，典型示例如下:例1:江苏移动，中国移动的HTTP业务质量评估例2:江苏移动，中国电信的HTTP业务质量评估孙1右如上，.寸对花邪*中厦wj u *：叩 mepuii i julbi曲m g.Y ift ；二 Ki =姓：宣4里时0笔 "n耶眼二此吓m s w 京抽柯呻口MTTFV>®i心点3B11raw利X顷町必心行爬fV.Lfies.iSTSJfl祯W用-TWUBbCTAD例3:常州各区域探针的质量比较MiCMEfrfftUiUStr irtit.ftti E0J> ，IV.k4dE-VB ilAH MW r«Jli* f 日HB：:奶土Mil 里超以娉ii* (J; irilff * 3H： |IAH .D Tmm. j n四凹5 心的甜3： LB V Mn -ur »点HH神M衲际心4b10LB1K-JJTOW心Sflira-i )阻油U73bMKliPU叛卜*回iknr就硝H.1I2、互联网业务质量测试评估系统试点应用情况在互联网业务质量测试评估系统开发测试阶段，对系统功能逐步验证的同时， 进行与竞争对手质量专项对比评估，并且对产生质量差异的原因进行了初步分析;此外，针对内容引入、缓存加速、第三方出口三种典型的优化加速手段的实际效果 进行了评估，获取了大量测试数据。按照质量评估办法，对网站进行业务质量评 分，按优、良、中、差分级，对业务体验差网站进行分析。请点击下方文件查看四份分析报告。网络竞争性评估根内容引入完整性评缓存加速效果评估第三方出口效果评因分 析.doc估分析.doc分析.doc估分析.doc五、应用推广情况本项目中制定了互联网网络与业务质量指标集和互联网业务质量指标体 系，已经由集团公司组织在天津、黑龙江、上海、江苏、福建等5个省公司进行了 试点验证。目前在申请中国移动企业标准，并在2010年中国移动网络年中工作会 上进行了介绍。本系统7月份开始由常州开发实施，实现互联网业务质量自动测试和监控，并 利用探针实施了互联网业务质量专项评估（如TOP5000网站质量评估、运营商对比 分析、视频引入完整性评估等），9月份开始试点推广，目前已完成在全省12个地 市的推广，共部署探针43个。在推广简易性上，该系统推广简单，需引进的单位只需准备一台可部署探针的 电脑（可利旧）进行相应配置后，即可使用该系统进行网络质量监控，适合于在全集 团内进行推广。六、经济和社会效益1、经济效益分析本课题制订了一套互联网业务质量指标体系，并在此基础上开发了质量测试软 探针和监控系统。课题经济效益从产品的省内推广价值测算。中目前市场没有业务质量监测产品，参考华为公司网络质量测试系统集及探针报价。全省探针数量按照市场部2010年宽带小区覆盖1万个，探针配置覆盖30%，需 要3000台探针;高校WLAN按照每热点部署1台，全省约需要1000台;3G网络覆盖 热点区域全省约需要监控1000点测算。争产品全部独立设计开发，整体开发成本约100万互联网业务质量监控系统按照全省推广的经济效益约为2000万。随着后续产 品在集团范围内推广，产品实际经济效益将会进一步提升。2、社会效益分析本课题社会效益主要体现在三个方面：第一，完善了目前互联网网络和业务维护优化的支撑手段，弥补对互联网业务 质量监控手段的不足，为维护优化工作目标和效果评估提供了量化依据。第二，围绕质量指标监控系统优化互联网运维流程，建立客服、市场、网络联 动机制，通过对业务质量数据的波动分析实现业务质量的预警，由被动维护向主动 维护过渡，提高维护优化的整体工作效率。第三，提升中国移动互联网业务品牌口碑:互联网业务感知的提升，有助于维 系中国移动网络质量优于竞争对手的口碑，开创全业务竞争的新局面。