生物统计学第七章直线相关与回归分析.ppt

《生物统计学第七章直线相关与回归分析.ppt》由会员分享，可在线阅读，更多相关《生物统计学第七章直线相关与回归分析.ppt（138页珍藏版）》请在三一办公上搜索。

1、直线相关与回归分析,第七章,平均数,标准差,方差分析,多重比较,集中点,离散程度,差异显著性,一个变量（产量）,施肥量,播种密度,品种,在实际研究中，事物之间的相互关系涉及两个或两个以上的变量，只要其中的一个变量变动了，另一个变量也会跟着发生变动，这种关系称为协变关系，具有协变关系的变量称为协变量。,确定的函数关系,PV=RT 气体压强,S=r2 圆的面积,协变量,S=a b 长方形面积,身高与胸围、体重,施肥量与产量,溶液的浓度与OD值,人类的年龄与血压,温度与幼虫孵化,不完全确定的函数关系(相关关系),协变量,相关变量,一个变量的变化受另一个变量或几个变量的制约,因果关系,平行关系,两个以

2、上变量之间共同受到另外因素的影响,动物的生长速度受遗传、营养等影响,子女的身高受父母身高的影响,人的身高和体重之间的关系,兄弟身高之间的关系,为了确定相关变量之间的关系，首先应该收集一些数据，这些数据应该是成对的，然后在直角坐标系上描述这些点，这一组点集称为散点图。,散点图(scatter diagram),为了研究父亲与成年儿子身高之间的关系，卡尔.皮尔逊测量了1078对父子的身高。把1078对数字表示在坐标上，如图。用水平轴X上的数代表父亲身高，垂直轴Y上的数代表儿子的身高，1078个点所形成的图形是一个散点图。它的形状象一块橄榄状的云，中间的点密集，边沿的点稀少，其主要部分是一个椭圆。,

3、散点图(scatter diagram),两个变量间关系的性质（正向协同变化或负向协同变化）和程度（关系是否密切）,两个变量间关系的类型（直线型或曲线型）,是否有异常观测值的干扰,正向直线关系,负向直线关系,曲线关系,散点图直观地、定性地表示了两个变量之间的关系。为了探讨它们之间的规律性，还必须根据观测值将其内在关系定量地表达出来。,回归(regerssion),相关(correlation),定量研究,在生物学中，研究两个变量间的关系，主要是为了探求两变量的内在联系，或从一个变量X（可以是随机变量，也可以是一般的变量），去推测另一个随机变量Y。,x,y,施肥量(可以严格地人为控制),产量,如

4、果对x（非随机变量或随机变量）的每一个可能的值，都有随机变量y的一个分布相对应，则称随机变量y对变量x存在回归(regression)关系。,自变量(independent variable),因变量(dependent variable),一个变量的变化受另一个变量或几个变量的制约,因果关系,研究“一因一果”，即一个自变量与一个依变量的回归分析称为一元回归分析,研究“多因一果”，即多个自变量与一个依变量的回归分析称为多元回归分析。,直线回归分析,曲线回归分析,多元线性回归分析,多元非线性回归分析,在大量测量各种身高人群的体重时会发现，虽然在同样身高下，体重并不完全一样。但在每一身高下，都有一

5、个确定的体重分布与之相对应;,在大量测量各种体重人群的身高时会发现，虽然在同样体重下，身高并不完全一样。但在每一体重下，都有一个确定的身高分布与之相对应;,身高与体重之间存在相关关系。,X身高,Y体重,X体重,Y身高,相关关系,两变量x、y均为随机变量，任一变量的每一可能值都有另一变量的一个确定分布与之对应，则称这两个变量存在相关（correlation）关系。,对两个变量间的直线关系进行相关分析称为简单相关分析（也叫直线相关分析）；,对多个变量进行相关分析时，研究一个变量与多个变量间的线性相关称为复相关分析；研究其余变量保持不变的情况下两个变量间的线性相关称为偏相关分析。,第二节：直线回归

6、Linear Regression,一、直线回归方程的建立,二、直线回归的数学模型和基本假定,三、直线回归的假设检验,四、直线回归的区间估计,简单回归(Simple Regression),一、直线回归方程的建立,直线回归就是用来描述一个变量如何依赖于另一个变量,温度,天数,直线回归方程(linear regression equation),截距(intercept)回归截距,斜率(slope)回归系数(regerssion coefficient),自变量,与x值相对应的依变量y的点估计值,a0,b0,a0,a0,b0,a=0,b=0,变量1,变量2,收集数据,散点图,温度,天数,黏虫孵化

7、历期平均温度与历期天数关系图,回归直线在平面坐标系中的位置取决于a,b的取值。,y,最小,最小二乘法(method of least square),根据微积分学中的求极值的方法，令Q对a、b的一阶偏导数等于0，即：,为最小值,基本性质,回归方程的中心化形式,SUMPRODUCT：返回若干数组中彼此对应元素的乘积的和,用x估计y，存在随机误差，必须根据回归的数学模型对随机误差进行估计，并对回归方程进行检验。,y,误差,二、数学模型和基本假定,yi,y的总体平均数,因x引起y的变异,y的随机误差,总体回归截踞,总体回归系数,随机误差,直线回归的数学模型(model of linear regre

8、ssion),基本假定,x是没有误差的固定变量，或其误差可以忽略，而y是随机变量，且有随机误差。,x的任一值对应着一个y总体，且作正态分布，其平均数+x，方差受偶然因素的影响，不因x的变化而改变。,随机误差是相互独立的，呈正态分布。,y,若x和y变量间并不存在直线关系，但由n对观测值（xi，yi）也可以根据上面介绍的方法求得一个回归方程,显然，这样的回归方程所反应的两个变量间 的直线关系是不真实的。如何判断直线回归方程所反应的两个变量间的直线关系的真实性呢？这取决于变量x与y间是否存在直线关系。,三、直线回归的假设检验,有意义,指导实践,？,是否真正存在线性关系回归关系是否显著,一、直线回归的

9、变异来源,(x,y),实际值与估计值之差，剩余或残差。,估计值与均值之差，它与回归系数的大小有关。,一、直线回归的变异来源,(x,y),实际值与估计值之差，剩余或残差。,估计值与均值之差，它与回归系数的大小有关。,依变量 y的平方和，总平方和，SSy,SS总,回归平方和 U,离回归平方和 Q,y的离均差，反映了y的总变异程度，称为y的总平方和。,说明未考虑x与y的回归关系时y的变异。,反映了由于y与x间存在直线关系所引起的y的变异程度，因x的变异引起y变异的平方和，称为回归平方和。,它反映在y的总变异中由于x与y的直线关系，而使y变异减小的部分，在总平方和中可以用x解释的部分。,U值大，说明回

10、归效果好。,回归平方和(regression sum of squares)U,误差因素引起的平方和，反映了除去x与y的直线回归关系以外的其余因素使y引起变化的大小。,反映x对y的线性影响之外的一切因素对y的变异的作用，也就是在总平方和中无法用x解释的部分。,离回归平方和误差平方和，剩余平方和(residual sum of squares)Q,在散点图上，各实测点离回归直线越近，Q值越小，说明直线回归的估计误差越小。,依变量 y的平方和，总平方和，SSy,SS总,回归平方和 U,离回归平方和 Q,直线回归分析中，回归自由度等于自变量的个数，只涉及到1个自变量,df回归1,df总n-1,df离

11、回归n-2,Q/n-2,离回归标准差回归估计标准误剩余标准差,离回归方差,假 设,H0:两变量间无线性关系HA:两变量间有线性关系,在无效假设存在下，回归方差与离回归方差的比值服从F分布。,df1=1df2=n-2,(二）F检验,H0:黏虫孵化历期平均温度x与历期天数y之间 不存在线性关系HA:两变量间有线性关系,检验线性回归系数的显著性，采用t检验法进行。,假 设,H0:=0HA:0,检验样本回归系数b是否来自=0的双变量总体，以推断线性回归的显著性。,(三）t检验,样本统计量 的分布,是根据最小二乘法求出的样本统计量，它有自己的分布 的分布具有如下性质分布形式：正态分布数学期望：标准差：由

12、于 未知，需用其估计量sy来代替得到 的估计的标准差,df=n-2,回归系数的标准误,否定H0:=0，接受HA:0，认为黏虫孵化历期平均温度与历期天数间有真实直线回归关系。,同一概率值,F（一尾）值（df1=1,df2=n-2）,t值（两尾）（df=n-2）,四、直线回归的区间估计,(一）a和b的置信区间,df=n-2,(一）a和b的置信区间,总体回归截距的置信区间,(一）a和b的置信区间,总体回归系数 的置信区间,95%的样本回归截距落在该区间内,95%的样本回归系数落在该区间内,(二）y/x 的置信区间和单个y的预测区间,不包含随机误差,y总体的平均数,单个y值所在的区间,x,点估计,(二

13、）y/x 的置信区间和单个y的预测区间,df=n-2,y总体的平均数,单个y值所在的区间,x,y总体的平均数,黏虫孵化历期平均温度为15时，历期天数为多少天（取95置信概率）？,df=n-2,y总体的平均数,x,单个y值所在的区间,单个y值所在的区间,某年的历期平均温度为15时，该年的历期天数为多少天（取95置信概率）？,(二）y/x的置信区间和单个y的预测区间,(三）y/x 和单个y观测值置信区间图示,正比,反比,作回归分析时要有实际意义。,直线回归注意问题,不能把毫无关联的两种现象勉强作回归分析，即便有回归关系也不一定是因果关系，还必须对两种现象的内在联系有所认识，即能从专业理论上作出合理

14、解释或有所依据。,进行直线回归分析之前，绘制散点图。,当观察点的分布有直线趋势时，才适宜作直线回归分析。,散点图还能提示资料有无异常值，即对应于残差绝对值特别大的观测数据。异常点的存在往往对回归方程中的a和b的估计产生较大的影响。因此，需要复查此异常点的值。,直线回归注意问题,直线回归的适应范围一般以自变量的取值为限。,在自变量范围内求出的估计值，一般称为内插(interpolation);超过自变量取值范围所计算出的估计值，称为外延(extrapolation)。,若无充分理由证明超过自变量取值范围还是直线，应该避免外延。,直线回归注意问题,描述两变量间的依存关系。,直线回归的应用,利用回归

15、关系进行预测(forecast)。,将自变量作为预报回子，代入方程对预报量进行估计，其波动范围可按个体y值容许区间方法计算。,回归方程进行统计控制(statistical control).,NO2浓度,直线回归的应用,第三节：直线相关 Linear Correlation,一、相关系数和决定系数,二、相关系数的假设检验,三、相关系数的区间估计,一、相关系数和决定系数,x,y,线性关系,了解x和y相关以及相关的性质,相关系数,相关类型,正相关,负相关,零相关,正相关,正相关,负相关,零相关,直线相关的两个变量的相关程度和性质,乘积和,互变量,（1)单位问题,（2)x与y本身的变异不影响x与y之

16、间的相关性,？,r,两个变量的变异程度,两个变量的度量单位,两个变量的个数,r可以用来比较不同双变量的相关程度和性质。,样本,总体,两个变量在相关系数计算中的地位是平等的，没有自变量和依变量之分,区别,联系,决定系数coefficient of determination,变量x引起y变异的回归平方和占y总变异平方和的比率,当SSy固定时，回归平方和U的大小取决于r2。,回归平方和U是由于引入了相关变量而使总平方和SSy减少的部分。,说明引入相关的效果好,x与y完全相关。,完全正相关,完全负相关,散点图上所有点必在一条直线上。,回归一点作用也没有，即用x的线性函数完全不能预测y值的变化。,x与

17、y之间不存在直线相关关系，这时散点图分布紊乱，没有直线的趋势，但可能存在非线性关系。,x的线性函数对预测y值的变化有一定作用，但不能准确预测，说明y还受其他因素（包括随机误差）的影响。,相关系数(r)和决定系数(r2)的区别,（2）r可正可负，r2取正，r2一般只用于表示相关程度而不表示相关性质。,温度,天数,黏虫孵化历期平均温度与历期天数成负相关。,x和y的变异有93.74可用二者之间的线性关系来解释。,=0,x,y,(x1,y1),(x2,y2),(x3,y3),(xn,yn),P?,二、相关系数的假设检验,r是线性关系强弱的指标,H0:=0HA:0,检验样本回归系数b是否来自=0的双变量

18、总体，以推断线性回归的显著性。,对于相关系数r作显著性检验的无效假设为=0，即测定r来自=0 总体的概率，也就是判断r所代表的总体是否存在直线相关。,总体相关系数=0,相关系数r的标准误,（）假设,（2）水平,（3）检验,（4）推断,H0:=0；HA:0,选取显著水平,在显著水平上，否定H0，接受HA；推断r显著。,在显著水平上，接受H0，否定HA；推断r不显著。,r经显著性检验的结果呈不显著时，便推断两变数间不存在相关关系，这时不能用r代表其相关密切程度。,（）假设,（2）水平,（3）检验,（4）推断,H0:=0；HA:0,选取显著水平0.01,否定H0，接受HA；推断r极显著，黏虫孵化历期

19、温度与历期天数之间存在着极显著的直线相关关系。,必然结果,r与t符号相同。,相关系数的假设检验可不计算t值，直接从附表12查出df=n-2时r的临界值。,椰子树的产量数X(个),椰子树的高度Y(尺),X(个)120 121 123 126 128Y(尺)21 23 22 25 24,椰子树的产果树与树高之间无直线相关关系。,当样本太小时，即使r值达到0.7996，样本也可能来自总体相关系数=0的总体。,不能直观地由r值判断两变数间的相关密切程度。,试验或抽样时，所取的样本容量n大一些，由此计算出来的r值才能参考价值。,1,2,三、相关系数的区间估计,r值经假设检验达到显著水平，需要由r估计总体

20、相关系数所在的区间。,y,(x1,y1),(x2,y2),(x3,y3),(xn,yn),X,0,两变量无直线相关关系,0,两变量有直线相关关系,正态分布,黏虫孵化历期温度与历期天数的总体相关系数的95的置信区间为（-0.9944，-0.8294）。,回归方程的显著性,回归系数的显著性,相关系数的显著性,x,y,相关与回归的联系,一致,三者同时显著或不显著。,r与b的符号一致，由两变量离均差乘积之和的符号决定。,相关与回归的联系,r：+,两变量间的相互关系是同向变化的。,b：+,x增（减）一个单位，y平均值增（减）b个单位。,相关与回归的联系,用回归解释相关:,相关与回归的联系,y关于x的直线

21、回归系数,x 关于y的直线回归系数,x,y,回归,相关,x是可以精确测量和严格控制的变量。,y服从正态分布。,x服从正态分布。,y服从正态分布。,I型回归,II型回归,资料要求,x,y,相关与回归的联系,两变量间依存变化的数量关系,两变量间相关关系,回归,相关,应用,x,y,相关与回归的联系,回归系数与相关系数的正负号都由两变量离均差积之和的符号决定，所以同一资料的b与其r的符号相同。,回归系数有单位，形式为（应变量单位/自变量单位），相关系数没有单位。,相关系数的范围在-1+1之间，而回归系数没有这种限制。,有些资料用相关表示较适宜，比如兄弟与姐妹间的身长关系、人的身长与前臂长之间的关系等资

22、料。,有些资料用相关和回归都适宜，此时须视研究需要而定。,就一般计算程序来说，是先求出相关系数r并对其进行假设检验，如果r显著并有进行回归分析之必要，再建立回归方程。,注意问题,作相关与回归分析要有实际意义。,不要把毫无关联的两个事物或现象用来作相关或回归分析。,如儿童身高的增长与小树的增长，作相关分析是没有实际意义的，如果计算由儿童身高推算小树高的回归方程则更无实际意义。也许算得的r、b是显著的，也是没有意义的。,相关分析只是以相关系数来描述两个变量间相互关系的密切程度和方向，并不能阐明两事物或现象间存在联系的本质。,对相关分析的作用要正确理解。,注意问题,相关并不一定就是因果关系，切不可单

23、纯依靠相关系数或回归系数的显著性“证明”因果关系之存在。,要证明两事物间的因果关系，必须凭籍专业知识从理论上加以阐明。但是，当事物间的因果关系未被认识前，相关分析可为理论研究提供线索。,适合相关和回归分析的资料通常有两种,一个变量X是选定的，另一个变Y是从正态分布的总体中随机抽取的。,1,回归分析,注意问题,由一个变量推算另一个变量,说明两变量间的相互关系,两变量X、Y（或X1、X2）都是从正态分布的总体中随机抽取的，即是正态双变量中的随机样本。,2,回归分析,相关分析,注意问题,在回归分析中，由X推算Y与由Y推算X的回归方程是不同的，不可混淆。,必须正确选定自变量与应变量。,一般说，事物的原因作自变量X，当事物的因果关系不很明确时，选误差较小的即个体变异小的变量作自变量X，以推算应变量Y。,注意问题,回归方程的适用范围有其限度，一般仅适用于自变量X的原数据范围内，而不能任意外推。因为我们并不知道在这些观察值的范围之外，两变量间是否也呈同样的直线关系。,注意问题,