非参数统计第1章绪论课件.ppt
第一章 绪 论,主要内容,1. 统计的实践2. 非参数统计方法简介 3. 参数统计过程与非参数统计的比较4. 非参数统计的历史5. 必要的准备知识,1. 统计的实践,我们周围的世界,符号和数据就是整个世界。数据繁衍，信息匮乏：观察数据激增，设计数据细分。数据的复杂性和不确定性的特点更为突出。数据分析方法和手段不足。,统计的方法论,就方法论而言，统计分析主要解决两方面的问题： 寻找数据内部差异中共同的特征。 寻找数据之间本质的差异。统计分析的目标是从数据中发现比数据本身更为有用的知识,2. 非参数统计方法简介,参数方法,定义：样本被视为从分布族的某个参数族抽取出来的总体的代表，而未知的仅仅是总体分布具体的参数值，推断问题就转化为对分布族的若干个未知参数的估计问题，用样本对这些参数做出估计或者进行某种形式的假设检验，这类推断方法称为参数方法。比如：（1）研究保险公司的索赔请求数时，可能假定索赔请求数来自泊松分布P(a);（2）研究化肥对农作物产量的影响效果时，平均意义之下，每测量单元（可能是）产量服从正态分布N(a,b).,一个典型的参数检验过程,1. 总体参数Example: Population Mean2. 假定数据的形态为 Whole Numbers or Fractions Example: Height in Inches (72, 60.5, 54.7)3. 有很强的假定Example: 正态分布4. 例子: Z Test, t Test, 2 Test,一个例子：,对两组学生进行语法测试，如何比较两组学生的成绩是否存在差异？,非参数检验过程,1.不涉及总体的分布Example: Probability Distributions, Independence2. 数据的形态各异定量数据定序数据Example: Good-Better-Best名义数据Example: Male-Female3.例子: Wilcoxon Rank Sum Test/Run Test,F, F, F, F, F, F, F, F, M, M, M, M, M, M, MF, M, F, M, F, M, F, M, F, M, F, M, F, M, F,3. 参数统计与非参数统计比较,对总体假定较少，有广泛的适用性，结果稳定性较好。1. 假定较少2. 不需要对总体参数的假定3. 与参数结果接近针对几乎所有类型的数据形态。容易计算在计算机盛行之前就已经发展起来。,非参数检验的优点,1.可能会浪费一些信息特别当数据可以使用参数模型的时候。Example: Converting Data From Ratio to Ordinal Scale2.大样本手算相当麻烦3.一些表不易得到,非参数检验的弱点,本学期内容结构体系,非参数统计的主要内容,4. 非参数统计的历史,非参数统计的历史,非参数统计的形成主要归功于20世纪40年代50年代化学家F.Wilcoxon等人的工作。Wilcoxon于1945年提出两样本秩和检验，1947年Mann和Whitney二人将结果推广到两组样本量不等的一般情况；Pitman于1948年回答了非参数统计方法相对于参数方法来说的相对效率方面的问题；,非参数统计的历史（续）,60年代中后期，Cox和Ferguson最早将非参数方法应用于生存分析。70年代到80年代，非参数统计借助计算机技术和大量计算获得更稳健的估计和预测，以P.J.Huber以及 F.Hampel为代表的统计学家从计算技术的实现角度，为衡量估计量的稳定性提出了新准则。90年代有关非参数统计的研究和应用主要集中在非参数回归和非参数密度估计领域，其中较有代表性的人物是Silverman和J. Fan。,5.必要的准备知识,（1）假设检验（2）渐进相对效率（3）秩检验统计量（4）U统计量,(1) 假设检验回顾,问题： ( a ) 新引进的生产过程是否优于旧过程？ （b）几种不同的肥料哪一种更有效？ （c）大学生的就业率与城市失业率之间是否存在关系？,内容,（a）假设的真正涵义和作用 （b）如何选择零假设和备择假设 （c）检验的p-值和显著性水平的作用 （d）两类错误 （e）置信区间和假设检验之间的关系,单边检验和双边检验的p值?,例2：,Poisson分布 H0: 1 H1:按照假设检验的步骤，可以选取统计量 为检验统计量，检验的目的是使得,C=5,C=7,同样显著性水平之下的检验在不同样本量下的势函数,0.9901263,0.9997043,（2）检验的相对效率,渐进效率的概念,分位数和非参数置信区间,秩检验统计量,无结点秩的定义,例题：某学院本科三年级有9个专业组成，统计每个专业学生每月消费数据如下，用S-Plus求消费数据的秩和顺序统计量的现值： 300 230 208 580 690 200 263 215 520,2.有结数据的秩,设样本 取自总体X的简单随机抽样，将数据排序后,相同的数据点组成一个“结”，称重复数据的个数为结长。例1：3.8 3.2 1.2 1.2 3.4 3.2 3.2解：结长为3。,U统计量,核的概念,例：总体期望有无偏估计X1，总体期望是1可估的， X1是总体期望的核。,对称核和U统计量的概念,U统计量的特征计算,U统计量的大样本性质,U统计量举例,本章内容回顾,1. 统计的实践2. 非参数统计方法简介 3. 参数统计过程与非参数统计的比较4. 非参数统计的历史5. 必要的准备知识,
