第八章方差分析与回归分析1课件.ppt
勤学好问必有所获,第八章 方差分析与回归分析,勤学好问必有所获第八章 方差分析与回归分析单因素方差分析回,例8.1 为了对几个行业的服务质量进行评价,消费者协会在四个行业分别抽取了不同的企业作为样本。最近一年中消费者对总共16家企业投诉的次数如下表,四个行业之间的服务质量是否有显著差异?,一、方差分析的概念与基本思想 1.问题的提出,消费者对四个行业的投诉次数 观测值零售业旅游业航空公司家电制,服务质量没有显著差异,服务质量有显著差异,分析四个行业之间的服务质量是否有显著差异作出这种判断最终被归,例题8.2 在饲料养鸡增肥研究中,某饲料研究所提出三种配方:A1以鱼粉为添加料,A2以槐树粉为添加料,A3以苜蓿粉添加料。为比较三种饲料的效果,特选24只相似的雏鸡随机分为三组,每组用一种饲料喂养,60天后测其体重,获得数据如下表,比较三种饲料的增重效果是否一致,利用样本比较三个总体均值是否相等,例题8.2 在饲料养鸡增肥研究中,某饲料研究所提出三种配,直观上看该问题可以用两个总体均值差异显著性检验解决,但细想想还是存在一定问题,因为这样的比较能增大犯错误的概率。为解决这类问题,英国统计学家R.A.Fisher于1924年提出了解决此类问题的通用方法-方差分析法。,2.方差分析的概念,试验指标:试验结果。,可控因素:在影响试验结果的众多因素中,可人为控制 的因素。,单因素试验:如果在一项试验中只有一个因素改变,其 它的可控因素不变,则该类试验称为单因 素试验。,直观上看该问题可以用两个总体均值差异显著性检验解决,,水平可控因素所处的各种各种不同的状态。每个 水平又称为试验的一个处理。,随机误差因素的同一水平(总体)下,样本各观察值之间的差异这种差异可以看成是随机因素的影响,称为随机误差 系统误差因素的不同水平(不同总体)下,各观察值之间的差异这种差异可能是由于抽样的随机性所造成的,也可能是由于行业本身所造成的,后者所形成的误差是由系统性因素造成的,称为系统误差,水平可控因素所处的各种各种不同的状态。每个随机误差因,数据的误差用平方和(sum of squares)表示,称为方差组内方差(within groups)因素的同一水平(同一个总体)下样本数据的方差比如,零售业被投诉次数的方差组间方差(between groups)因素的不同水平(不同总体)下各样本之间的方差比如,四个行业被投诉次数之间的方差,数据的误差用平方和(sum of squares)表示,称为,若不同行业对投诉次数没有影响,则组间误差中只包含随机误差,没有系统误差。这时,组间误差与组内误差经过平均后的数值就应该很接近,它们的比值就会接近1若不同行业对投诉次数有影响,在组间误差中除了包含随机误差外,还会包含有系统误差,这时组间误差平均后的数值就会大于组内误差平均后的数值,它们之间的比值就会大于1当这个比值大到某种程度时,就可以说不同水平之间存在着显著差异,也就是自变量对因变量有影响 判断行业对投诉次数是否有显著影响,实际上也就是检验被投诉次数的差异主要是由于什么原因所引起的。如果这种差异主要是系统误差,说明不同行业对投诉次数有显著影响,3.方差分析的思路,若不同行业对投诉次数没有影响,则组间误差中只包含随机误差,没,4.方差分析的基本思想 试验指标的变化可以用指标值的方差反映,导致指标值发生变化的原因有两方面:一是可控因素,二是不可控因素。方差分析就是将指标值的方差分解成组间方差与组内方差,然后依据概率比较组间方差与组内方差的大小关系,从而决定引起指标值的变化的主要原因。5.方差分析的基本假定不同因素对试验指标值的影响作用是加性效应,即试验指标值的变化是各种因素所起作用的累加;试验指标服从正态分布;试验数据是随机的,并且可控因素不同水平的试验数据具有方差齐性。,4.方差分析的基本思想,二:单因素方差分析的统计模型,1.单因素方差分析的数据结构,二:单因素方差分析的统计模型 1.单因素方差分析的数据结构因,2.单因素方差分析的统计模型,在方差分析统计模型下,方差分析要解决的问题转化为下列假设检验问题:,2.单因素方差分析的统计模型 在方差分析统计模型下,三、单因素方差分析的原理,1.试验数据离差平方和分解,离差平方和分解式,三、单因素方差分析的原理 1.试验数据离差平方和分解离差,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,2.方差分析原理,2.方差分析原理,记号及其含义,记号及其含义,在实际应用中,方差分析结果以方差分析表形式给出。,单因素方差分析表,在实际应用中,方差分析结果以方差分析表形式给出。单因素方差分,例题8.2 在饲料养鸡增肥研究中,某饲料研究所提出三种配方:A1以鱼粉为添加料,A2以槐树粉为添加料,A3以苜蓿粉添加料。为比较三种饲料的效果,特选24只相似的雏鸡随机分为三组,每组用一种饲料喂养,60天后测其体重,获数据如下表,试以此数据判定不同饲料是否有差异?,例题8.2 在饲料养鸡增肥研究中,某饲料研究所提出三种配饲,方差分析表,方差分析表方差来源平方和自由度均方F临界值组间9660.08,四、单因素方差分析模型参数的估计,当方差分析结果为否定原假设时,就需要估计模型的有关参数,下面就讨论方差分析模型参数的估计。,四、单因素方差分析模型参数的估计 当方差分析结果为,五、多重比较法,拒绝H0,接受H1,表示总体均数不全相等哪两个平均数之间相等?哪两个平均数之间不等?需要进一步作多重比较。,方差分析结果 不拒绝H0,表示拒绝总体均数相等的证据不足,分析终止。,常用多重比较法,最小显著差数法(Least significant difference,简称LSD法),五、多重比较法拒绝H0,接受H1,表示总体均数不全相等方差,q法(又称SNK(student-Newman-Keuls)检验法),q测验方法是将r个平均数由大到小排列后,根据所比较的两个处理平均数的差数是几个平均数间的极差分别确定最小显著极差LSR值的。,q法(又称SNK(student-Newman-Keul,Tukey法(又称honestly significant difference,简称HSD),Tukey法(又称honestly significant,Bonferroni法,Bonferroni法是根据所比较的两个处理平均数的个数k,将检验水平 缩小k倍做为真实比较水平,确定是几个平均数间的极差分别确定最小显著差数LSD值的。,Bonferroni法Bonferroni法是根据所比较的,多重比较法选择,1.试验事先确定比较的标准,凡是与对照相比较,或与预定要比较的对象比较,一般可选用最小显著差数法LSDa法;2.根据否定一个正确的H0和接受一个不正确的H0的相对重要性来决定。参考以下观点:根据试验的侧重点选择。三种方法的显著尺度不相同,LSD法最低,HSD法次之,SNK法最高。故对于试验结论事关重大或有严格要求时,用SNK法,一般试验可采用HSD法。当比较次数不多时,Bonferroni法的效果较好;但当比较次数较多(例如在10次以上)时,则由于其检验水准选择得过低,结论偏于保守。,多重比较法选择1.试验事先确定比较的标准,凡是与对照相比较,例题8.3试以LSD法测验各种药剂处理的苗高平均数之间的差异显著性。,r(m-1)=12时,t0.05(12)=2.179,t0.01(12)=3.055故 LSD0.05=2.1792.02=4.40 LSD0.01=3.0552.02=6.17,例题8.3试以LSD法测验各种药剂处理的苗高平均数之间的差异,双因素方差分析背景,双因素方差分析的类型,若把品种看成影响产量的因素A,肥料则是影响产量的因素B。对因素A、因素B和二者互作同时进行分析,就属于双因素方差分析。,在实际问题的研究中,有时需要考虑两个因素对实验结果的影响。如研究小麦产量问题,除了关心品种对产量的作用之外,我们还想了解化肥的使用对产量的作用,有时甚至要考虑品种与肥料的相互促进作用。如果不同品种、不同施肥量对产量作用存在显著的差异,就需要分析原因。选择合适的品种,决定恰当的施肥量,以达到增产的目的。,双因素方差分析,双因素方差分析背景双因素方差分析的类型若把品种看成影响产,双因素方差分析的类型,无交互作用的双因素方差分析,有交互作用的双因素方差分析,假定因素A和因素B的效应之间是相互独立的,不存在相互关系,假定因素A和因素B的结合会产生出一种新的效应(交互效应),交互作用的概念,有人在研究油菜产量受氮肥与磷肥影响问题时,获得如下试验数据。显然512-470-2-10=30既不是单纯氮肥引起的产量变化,也不是单纯磷肥引起的产量变化,这就是交互作用。,双因素方差分析的类型 无交互作用的双有交互作用的双假定因素A,不考虑交互作用的双因素方差分析,双因素不考虑交互作用方差分析的数据结构 双因素不考虑互作方差分析试验数据具有下列结构模式。,不考虑交互作用的双因素方差分析 因素B双因素,双因素不考虑交互作用方差分析的统计模型,双因素不考虑交互作用方差分析的统计模型,该形式称为双因素不考虑交互作用方差分析的统计模型。在方差分析统计模型下,方差分析要解决的问题转化为下列假设检验问题:,双因素不考虑交互作用方差分析原理,试验数据离差平方和分解,该形式称为双因素不考虑交互作用方差分析的统计模型。双因素不,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,双因素不考虑交互作用方差分析表,双因素不考虑交互作用方差分析表临界值因素ASSAa-1SSA,例8.4 对于四种不同种源的油松种子,在三种不同土质的土壤上进行育苗试验,两年后测定苗木高度,所得试验数据如表所示。假定试验数据满足正态、等方差条件试在检验水平0.05下,分析种源、土质对油松苗木高度的影响?,例8.4 对于四种不同种源的油松种子,在三种不同土质的土壤,第八章方差分析与回归分析1课件,双因素方差分析的模型,双因素方差分析的模型,数据结构,数据结构B因素总和平均B1B2Bbx111x121x1,离差平方和的分解,离差平方和的分解,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,例8.5 用3种深翻,4种施肥方案组成12种育苗作业方式试验,所得试验数据如表所示。假定试验数据满足正态、等方差条件试在检验水平0.05下,分析深翻、施肥及其它们之间的交互作用对苗木高度的影响?,例8.5 用3种深翻,4种施肥方案组成12种育苗作业方式试验,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,在现实问题中,处于同一个过程中的一些变量,往往是相互依赖和相互制约的,它们之间的相互关系大致可分为两种:,相关关系表现为这些变量之间有一定的依赖关,但这种关系并不完全确定,它们之间的关系不能精确地用函数表示出来,这些变量其实是随机变量,或至少有一个是随机变量。他们之间相互依赖但又不能有一个确定另一个。因此,相关关系的分析根据研究的目的不同分为相关分析(平行分析)和回归分析(因果分析)。,相关关系与回归关系,(1)确定性关系函数关系;,(2)非确定性关系相关关系。,在现实问题中,处于同一个过程中的一些变量,往往是相互依,相关关系举例,例如:在气候、土壤、水利、种子和耕作技术等条件基本相同时,某农作物的亩产量Y与施肥量X之间有一定的关系,但施肥量相同,亩产量却不一定相同。亩产量是一个随机变量。,又如:人的身高Y与人的腿长X之间具有一定的依赖关系,一般来说,身高越高,其腿越长,但身高相同的两个人的腿长不一定相等;同样腿长一样的两个人的身高也未必一样,X与Y是一个随机变量。,农作物的亩产量与施肥量、身高与腿长之间的这种关系称为相关关系。在这些变量中,施肥量、年龄是可控变量,亩产量、血压是不可控变量。一般在讨论相关关系问题中,可控变量称为自变量,不可控变量称为因变量。,相关关系举例 例如:在气候、土壤、水利、种子和耕作技,相关关系的检验,在概率论中,我们已经学过两个随机变量线性相关性强弱可利用相关系数来衡量。在已知随机变量二阶矩的情况下,两个随机变量间的相关系数为,样本相关系数,相关关系的检验在概率论中,我们已经学过两个随机变量线性相关,第八章方差分析与回归分析1课件,利用样本相关系数检验线性相关性,利用样本相关系数检验线性相关性,例8.5 某项研究需了解水稻品种播种至齐穗的天数x与播种至齐穗的总积温y之间是否有关系,实测如下数据,试以此数据检验x与y的线性相关性强弱。,例8.5 某项研究需了解水稻品种播种至齐穗的天数x与播种xi,某社区家庭每月可支配收入和消费统计表,引例8.6,回归分析,每月家庭可支配收入X800 1100 1400 1700 2,回归关系与回归分析回归关系在相关关系中,如果关心的是容易测定或控制变量X对变量Y的决定作用大小,将X看成一个普通变量,这时变量X与Y之间就成为回归关系。,回归模型如果普通变量x与随机变量Y具有回归关系,则Y除过受变量x的作用以外,还受到控制不严格和未知因素的作用。所以,x与Y应满足关系式,回归关系与回归分析回归模型,对于回归模型,显然有,对于回归模型,显然有回归方程反映了因变量 随自变量 的变,回归模型分类,回归分析,研究一个随机变量与一个或几个可控变量之间回归关系,从而找出回归关系的模型,用于预测、优化和控制,这种统计方法称为回归分析。回归分析主要解决三个问题:提供建立具有回归关系的变量之间的数学关系式(称为经验公式)的一般方法;判别所建立的经验公式是否有效,并从影响随机变量的诸变量中判别哪些变量的影响是显著的,哪些是不显著;利用所得到的经验公式进行预测和控制。,回归模型分类回归分析研究一个随机变量与一个或几个可控变量,一元线性回归,一元线性回归模型,一元线性回归一元线性回归模型,一元线性经验回归方程及其建立,最小二乘法(The least square method),一元线性经验回归方程及其建立最小二乘法(The leas,yxoyxo,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,某企业对车间9名学徒工进行调查,得到学徒工与每天产量情况如下表,要求建立以日产量为因变量的回归方程。,引例8.7,回归分析,某企业对车间9名学徒工进行调查,得到学徒工与每天产量引,建立经验回归方程,确定回归系数 和:,建立经验回归方程 确定回归系数 和:编号1234,所以,所求的经验回归方程为,所以,所求的经验回归方程为,一元线性回归有关检验,离差平和分解,一元线性回归有关检验离差平和分解,离差平方和的分解,离差平方和的分解,第八章方差分析与回归分析1课件,第八章方差分析与回归分析1课件,回归显著性检验,F检验,T检验,回归显著性检验F检验T检验,相关系数检验,相关系数检验,试求出 与 的关系,并判断是否有统计学意义。,例题8.7 为了研究大豆脂肪含量 和蛋白质含量 的关系,测定了九种大豆品种籽粒内的脂肪含量和蛋白质含量,得到如下数据,编号123456789脂肪15.417.518.920.02,解(1)作散点图,确定回归模型,解(1)作散点图,确定回归模型,(2)建立经验回归方程,由散点图,设变量 与 为线性相关关系:,确定回归系数 和:,(2)建立经验回归方程 由散点图,设变量 与 为线性相,所以,所求的经验回归方程为,所以,所求的经验回归方程为,(3)检验回归方程的有效性,查相关系数临界值表,水平下有统计意义,即可以认为大豆的蛋白质含量与脂肪含量有线性相关性。,(3)检验回归方程的有效性 查相关系数临界值表 水平下,利用回归方程进行预测,1.点预测,时,即为 的点预测值。,2.区间预测,统计量,对给定的置信水平,的预测区间为,利用回归方程进行预测1.点预测 时,,续例题8.7 求大豆脂肪含量为18.6%的条件下蛋白质95%的预测区间。,解 由已求得的回归方程,得蛋白质的均值预测值为,所以,脂肪含量为18.6%时,蛋白质的95%的预测区间为,续例题8.7 求大豆脂肪含量为18.6%的条件下蛋白质95%,控制则为预测的反问题:已知因变量的取值区间为,确定自变量的取值区间,使得,利用回归方程进行控制,一般地,要解出 和 很复杂,可作简化求解:,控制则为预测的反问题:已知因变量的取值区间为 确定自变量的,最小二乘法估计量的统计性质,最小二乘法估计量的统计性质由于样本满足回归模型,从而一定有,所以,又正态分布的性质有:,进而有,所以,又正态分布的性质有:进而有,