方差分析和一般线性模型.ppt

《方差分析和一般线性模型.ppt》由会员分享，可在线阅读，更多相关《方差分析和一般线性模型.ppt（32页珍藏版）》请在三一办公上搜索。

1、1,试验设计数据的方差分析 和一般线性模型,吴喜之,2,试验设计,在几乎所有领域都有各种试验。比如如何对不同的土壤、气候等各种条件找出最合适的作物，使得收益最大如何使得工业产品优质、价廉什么环境下，儿童才能在心理上健康成长企业采取的什么主动措施能够增加收益,3,试验设计模型就是回归模型,在水产养殖业中，比如养蟹，因变量是产量，自变量是水温，饲料，疾病等。描述试验设计的模型就是回归模型的一种但试验设计问题本身有很大一部分是如何设计试验，使得人们有可能用最少的资源得到最好的结果。当然，我们不打算详细讨论如何设计试验，而把主要精力放在试验设计数据的方差分析上。,4,方差分析,方差分析（analysi

2、s of variance，ANOVA）是分析各个自变量对因变量影响的一种方法。这里的自变量就是定性变量的因子及可能出现的称为协变量（covariate）的定量变量。分析结果是由一个方差分析表给出的。,5,方差分析分解因素贡献的机理,原理为：因变量的值随着自变量的不同取值而变化。我们把总变化(差的平方和)按照自变量(因素)进行分解，显示每一个自变量的贡献；最后剩下无法用已知的因素解释的则看成随机误差的贡献。然后用各自变量的贡献和随机误差的贡献进行比较（F检验），以判断该自变量的不同水平是否对因变量的变化有显著贡献。输出就是F-值和检验的一些p-值。下面看一个例子。,6,单因素方差分析回顾(da

3、ta12.01)饲料比较数据,n=19头猪,用p=4种饲料喂养一段时间后的重量增加问题:四种饲料是否不同?,7,饲料例子(继续):饲料(fodder)为自变量(单因子),重量增加(weight)为因变量(一个数量变量)(SPSS计算机数据形式有所不同),均值A=133.36 均值B=152.04 均值C=189.72 均值D=220.78,8,四种饲料的箱图,四种饲料的均值图,9,假设:,检验:H0:m1=mp,线性模型:,10,公式:总平方和=组间平方和+组内平方和,其中,SST 有自由度 n-1,SSB有自由度 p-1,SSE 有自由度 n-p,在正态分布的假设下,如果各组增重均值相等(零

4、假设),则,有自由度为 p-1 和n-p 的F 分布.,11,(比较一元总体的)ANOVAWEIGHT(重量),由SPSS可以得到方差分析表:,这里n 为观测值数目p 为水平数,Fa满足P(FFa)=a.这是自由度为p-1和n-p的F-分布的概率,12,F0.05(3,15),面积=0.05,F(3,15)分布密度图,13,ANOVAWEIGHT,由SPSS可以得到方差分析表:,该表说明各饲料之间有显著不同.,14,Test of Homogeneity of Variances(A robust test),这是SPSS输出之一,明白即可,不用记住,15,销售数据(sales.sav),研究

5、这个数目的主要目的是看销售额（因变量）是否受到促销方式、售后服务和奖金这三个自变量的影响（头两个是定性变量，亦称为因子，分别有3个和2个水平；而定量变量奖金是协变量）以及怎样的影响。,16,Excel 数据,17,18,多因素方差分析(只考虑主效应,不考虑交互效应及协变量),首先假定自变量受到的仅仅有不同因素的主效应（main effect）而没有交互效应(interaction)和协变量(covariate)的影响。主效应就是每个自变量对因变量的单独影响，而交互效应是当两个或更多的自变量的某些水平同时出现时除了主效应之外的附加影响(“正面”或者“负面”的影响)。,19,多因素方差分析(只考虑

6、主效应,不考虑交互效应及协变量),拿我们例子来说，当单独考虑时，假定主动促销比被动促销可以多产生8万元效益，而有售后服务比没有售后服务多产生9万元效益。那么在没有交互作用时，同时采取主动促销和售后服务会产生8917万元的效益（称为可加的）。如存在交互效应，那么同时采取主动促销和售后服务会产生一个附加的效应即交互效应(可正可负)，这时的总效应就不是17万元了。,20,方差分析(只考虑主效应,不考虑交互效应及协变量),如要分析的只是因变量销售额和自变量促销和售后服务的主效应。用y表示销售额，ai表示促销（下标表示不同水平），bj表示售后服务；则相应的只有主效应的线性模型为：,这里的下标i代表促销的

7、水平，下标j代表是否有售后服务，下标k代表每种ij组合中的第几个观测值。这里的最后一项eijk为随机误差项。,21,公式:总平方和=组间平方和+组内平方和,其中,SSA 有自由度 p-1,SSB有自由度 q-1,SSE 有自由度(p-1)(q-1),在正态分布的假设下,如果各组增重均值相等(零假设),则,分别有自由度为 p-1 和(p-1)(q-1)及自由度为q-1 和(p-1)(q-1)的F 分布.,22,Tests of Between-Subjects EffectsDependent Variable:XXX,SPSS:GLM-General Factorial-Model,custo

8、m(main effect),Note:SS.c=SSA+SSB,23,对于这个模型，SPSS输出为,促销(promot)的F检验统计量(其自由度来自promot和error的自由度:2,20)取值为13.880,p-值为0.000(更精确些是0.0001658).而售后服务的F检验统计量为25.497，p-值为0.000(更精确些是0.00006135).R2为0.981.,24,这里的估计只有相对意义。一定要放在模型中，或者考虑同一因子水平之间的差，比如a1-a3、a2-a3、b1-b2等等。上面的模型还可以有截距有截距时的SPSS默认约束是固定a3=b2=0；而目前的没有截距的a1，a2

9、，a3的估计实际上等于截距的估计加上有截距时的a1，a2，a3的估计。由于约束条件不一样，所以各种软件的各种选项的估计不尽相同，但相对大小是不会变的。,对于这个模型，参数估计为,25,根据上面估计，我们的模型为（各个参数仅有相对意义，常数项混合在其中）,26,没有交互作用的模型可以从下面点图中直观看出。图10.1中下面一条折线连接了没有售后服务时三种促销状况的销售均值，而上面一条连接了有售后服务时三种促销状况的销售均值。由于模型选择为无交互作用，所以这两条线是平行的。从该图可以看出，两个因子效应综合效应是简单的加法。,27,SPSS实现(只有因子主效应的方差分析),拿sales.sav为例，在

10、SPSS中选AnalyzeGeneral Linear ModelUnivariate进入主对话框；然后把sales选入Dependent Variable，把promot和service选入Fixed Factors；然后点击Model，选择Custom，在Build Terms中选择Main effects,再把promot(F)和service(F)选入Model；选择或不选择Include intercept in model则确定是否在模型中包含常数项；回到主对话框（Continue），这时点OK即可；如果要输出参数估计可以在Options选诸如Parameter Estimates

11、等。,28,方差分析,如再加上作为协变量的定量变量奖金，看它对销售有没有影响；模型就又多了一个代表自变量奖金x的一项（加上系数g）g x：,而计算机的方差分析表的输出(主要部分)为：,29,该模型的交互作用可以用下面的来描述：,30,还要说明的是，如果每一种因子水平的组合只有一个观测值（这里例中每个组合有四个观测值），那么，无法对是否有交互作用进行判断；这是由于数据量不够，交互作用即使有也混在误差项中，无法剥离出来进行分析。,31,方差分析表的意义,而计算机的方差分析表的输出的意义为(这里包含在SSM中还有一个SS和1个自由度属于截距的（没有用处）没有列出）：,32,方差分析表的意义,而计算机的方差分析表公式的意义为：,其中,