加权最小二乘法.ppt

《加权最小二乘法.ppt》由会员分享，可在线阅读，更多相关《加权最小二乘法.ppt（76页珍藏版）》请在三一办公上搜索。

1、1,加权最小二乘法,1、参数OLS估计的方差增大2、t检验失效，不能拒绝H0的可能性增大，常常犯纳伪错误3、降低预测精度,2,1、异方差参数OLS估计的方差增大,3,4,2、t检验失效,5,3、降低预测精度,由于异方差存在，参数的OLS估计的方差增大，参数OLS估计值的变异程度增大，从而造成Y的预测误差增大，降低了预测的精度。,6,第四节异方差的解决方法,1。补救异方差的基本思路2。模型变换法3。加权最小二乘法4。“一般解决法数据变换”,7,1。补救异方差的基本思路,（1）变异方差为同方差（2）尽量缓解方差变异的程度以补救异方差造成的严重后果严重后果：（A）不再具有最小方差（B）参数的显著性检

2、验失效（C）预测精度降低,8,2。模型变换法,（1）模型变换法的定义（2）模型变换法的关键（3）模型变换法的变换过程（4）实际处理异方差时，f(xi)的常用形式（5）常用变换举例（6）利用EViews作模型变换,9,（1）模型变换法的定义,模型变换法是对存在异方差的总体回归模型作适当的代数变换，使之成为满足同方差假定的模型，然后就可以运用OLS方法估计参数了。,10,（2）模型变换法的关键,模型变换法的关键是事先对异方差 2i=2 f(xi)的形式有一个合理的假设。怎样才能提出合理的假设呢？（1）通过对具体经济问题的经验分析（2）通过上述格里奇检验、帕克检验结果所提供的信息加以确定,11,（3

3、）模型变换法的变换过程,12,（4）实际处理异方差，f(xi)的常用形式,13,（5）常用变换举例1,14,（5）常用变换举例2,15,（5）常用变换举例3,16,（6）利用EViews作模型变换,以模型变换2为例GENR Y1=Y/SQR（X）GENR X1=1/SQR（X）GENR X2=X/SQR（X）LS Y1 C X1 X2,17,3。加权最小二乘法,（1）加权最小二乘法的思路（2）加权最小二乘法的机理（3）加权最小二乘法的定义（4）OLS是加权最小二乘法的特例（5）加权最小二乘法与模型变换法所得结果是一致（6）在EViews中实现加权最小二乘法,18,（1）加权最小二乘法的思路,根

4、据误差最小建立起来的OLS法，同方差下，将各个样本点提供的残差一视同仁是符合情理的。各个ei提供信息的重要程度是一致的。但在异方差下，离散程度大的ei对应的回归直线的位置很不精确，拟合直线时理应不太重视它们提供的信息。即Xi对应的ei偏离大的所提供的信息贡献应打折扣，而偏离小的所提供的信息贡献则应于重视。因此采用权数对残差提供的信息的重要程度作一番校正，以提高估计精度。这就是WLS（加权最小二乘法）的思路。,19,（2）加权最小二乘法的机理,以递增型为例。设权术WI与异方差的变异趋势相反。Wi=1/2i。Wi使异方差经受了“压缩”和“扩张”变为同方差。,20,（3）加权最小二乘法的定义,21,

5、（4）OLS是加权最小二乘法的特例,显然，当满足同方差假定时，w1=w2=wn=1/2=常数即权数相等且等于常数，加权最小二乘法，就是OLS法。,22,（5）加权最小二乘法与模型变换法所得结果是一致,1、请同学们利用案例1的材料自行验证2、请同学们从数学解析上给予推证,23,（6）在EViews中实现加权最小二乘法,假定以序列XH为权术，在EViews中，可以在LS命令中使用加权处理方式来完成加权的最小二乘法估计：LS（W=XH）Y C X,24,25,26,4。“一般解决法”,在计量经济学实践中，计量经济学家偏爱使用对数变换解决问题，往往一开始就把数据化为对数形式，再用对数形式数据来构成模型

6、，进行回归估计与分析。这主要是因为对数形式可以减少异方差和自相关的程度。,27,对数变换的效果减少差异,28,案例1居民储蓄模型估计,1。问题的提出2。原始数据3。异方差检验4。异方差模型的估计加权LS法和模型变换法,29,1。问题的提出,储蓄是居民的金融消费，也是满足相应收入水平的“基本生活”以后的扩展消费，从具体问题的经验分析，储蓄具有异方差特性。因此建立储蓄模型就不能使用最小二乘法。对于这类典型的异方差问题（提问：为什么是典型的？），我们应当怎样处理呢？（lx5yfch),30,2。原始数据,31,32,33,实际值、拟和值和残差,34,残差与收入x的散点图,35,3。异方差检验,（1）

7、图示法检验（2）G-Q检验,36,（1）图示法检验,LS Y C XGENR E1=residGENR E2=E1*E1SCAT E2 X残差平方和呈比较典型的喇叭型,37,异方差图示法的程序load c:lx5yfch.wf1scat y x计算储蓄函数chxeqequation chxeq.ls y c xgenr e1=residgenr e2=e1*e1scat e2 x,LX5YFCH.PRG的程序清单,38,残差平方与自变量呈比较典型的喇叭型,先请同学们看老师的演示。请同学们亲手验证。,39,残差平方与自变量X的散点图,40,储蓄与收入的散点图,41,42,43,异方差：残差随收入

8、增大而增大,44,（2）G-Q检验,1。求两个子样回归方程残差平方和加载(lx4下)yfch.wf工作文件到内存SORT X 按居民收入排序SMPL 1 12LS Y C X 得ESS1SMPL 20 31LS Y C X 得ESS2,45,加权最小二乘法估计结果,46,加权最小二乘法残差与X的散点图,47,load c:lx5yfch.wf1vector(10)m 存放自由度、小样残差平方和、大样残差平方和、F检验值和F检验的概率值SORT X 按居民收入排序SMPL 1 12 小数据样本m(1)=10equation smleq.LS Y C X 得ESS1m(2)=ssrSMPL 20

9、31 大数据样本equation lrgeq.LS Y C X 得ESS2m(3)=ssrm(4)=m(3)/m(2)m(5)=fdist(m(4),m(1),m(1)show m,48,C1Last updated:05/12/99-17:22R1 10.00000R2 162899.2R3 769899.2R4 4.726231R5 0.010965R6 0.000000R7 0.000000R8 0.000000R9 0.000000R10 0.000000,49,小数据组OLS处理结果,Sample:1 12Included observations:12VariableCoeffic

10、ientStd.ErrorT-StatisticProb.C-823.5754 169.3227-4.8639400.0007X 0.095394 0.013067 7.3003280.0000R-squared 0.842009 Mean dependent var 382.9167Adjusted R-squared 0.826210 S.D.dependent var 306.1590S.E.of regression 127.6320 Akaike info criterion 9.849314Sum squared resid 162899.2 Schwartz criterion

11、9.930131Log likelihood-74.12314 F-statistic 53.29478Durbin-Watson stat 1.055825 Prob(F-statistic)0.000026,50,大数据组OLS处理结果,Sample:20 31Included observations:12VariableCoefficientStd.ErrorT-StatisticProb.C 1141.066 709.8428 1.6074910.1390X 0.029409 0.021992 1.3372640.2108R-squared 0.151699 Mean depende

12、nt var 2084.250Adjusted R-squared 0.066869 S.D.dependent var 287.2405S.E.of regression 277.4706 Akaike info criterion 11.40244Sum squared resid 769899.2 Schwartz criterion 11.48326Log likelihood-83.44191 F-statistic 1.788274Durbin-Watson stat 2.864726 Prob(F-statistic)0.210758,51,（2）G-Q检验,H0:21=22 H

13、A:21 22 2。计算F统计量ESS1=162899.2 ESS2=769899.2 df=(31-7)/2-2=12-2=10F=(ESS2/df)/(ESS1/df)=4.726231F Fo.o1(10,10)则随机扰动项存在异方差,52,53,load d:eviewslxlx5yfch.wf1按变量x排序sort x生成递增序列t，用以划分小样本和大样本genr t=1genr t=t(-1)+1定义存放计算结果的向量m，m具有10个元素vector(10)m存放全部样本观察值个数nm(1)=obs(x)按照G-Q戈德菲尔德-跨特法对于递增或递减型异方差抽去中间1/4的样本余下的划

14、分为小样本和大样本计算小样本包含的最后一个样品m(2)=FLOOR(3*m(1)/8)+1计算大样本起始的第一个样品m(3)=FLOOR(5*m(1)/8)+1指定小样本的范围smpl if t=m(2)对小样本进行最小二乘估计equation mineqn.ls y x c将小样本残差平方和置入m(4)m(4)=ssr,54,指定大样本的范围smpl if t=m(3)对大样本进行最小二乘估计equation maxeqn.ls y x c将打大样本残差平方和置入m(5)m(5)=ssr计算F统计量m(6)=m(5)/m(4)查F分布表，求出大于等于该F的概率，若概率为小概率，拒绝H0存在异

15、方差，否则，为同方差m(7)=fdist(m(6),m(2)-1,m(2)-1)显示计算结果show m,55,4。异方差模型的估计,（1）加权最小二乘法（2）模型变换法,56,（1）加权最小二乘法,EViews中有加权最小二乘法的命令LS（W=权数名）CHX C SHR本例使用命令：GENR SHRH=1/SHRLS（W=SHRH）CHX C SHR 所得结果见操作,57,权数序列名,Proce=Equation=Option=选定同方差、给出权数名=OK,同质性,58,WLS处理结果,LS/Dependent Variable is CHXWeighting series:SHRWSamp

16、le:1 31Included observations:31VariableCoefficientStd.ErrorT-StatisticProb.C-571.8496 105.8066-5.4046670.0000SHR 0.076623 0.006294 12.173890.0000 Weighted StatisticsR-squared 0.501807 Mean dependent var 877.7359Adjusted R-squared 0.484628 S.D.dependent var 423.6204S.E.of regression 304.1144 Akaike i

17、nfo criterion 11.49715Sum squared resid 2682082.Schwartz criterion 11.58966Log likelihood-220.1929 F-statistic 29.21043Durbin-Watson stat 1.149682 Prob(F-statistic)0.000008,59,WLS处理后的残差图,60,（2）模型变换法,GENR Y1=CH/SHRGENR X1=1/SHRLS Y1 C X1思考题异方差的函数形式是怎样假定的？比较加权最小二乘法与模型变换法结果解释所得模型的经济意义？,61,关于异方差的思考题,1。举

18、例说明经济现象中的异方差性2。阐述G-Q检验的步骤，并说明构造F检验统计量的道理3。说明加权最小二乘法的基本思想4。如何事先假定异方差2i=2 f(xi)的具体形式,62,案例2人均消费函数,某地年人均收入X和年人均消费Y的资料在LX4目录下名为Lchf106中。要求（1）用PARK检验是否存在异方差（2）用OLS估计消费函数（3）用WLS估计消费函数（4）比较两种方法得到的结果,63,残差自变量散点图纺锤型,64,案例3分组资料lx4yfch2.wf1,9组不同就业规模雇员的平均劳动生产率Y及其标准差X的资料在LX4目录下名为Lchf107_1中。要求（提示：以1/x/x为权数）（1）绘制散

19、点图，并判断Y关于X的线性模型拟的优劣？（2）检验是否存在异方差？（3）若存在异方差，从经济意义上分析产生异方差的原因？如何采取补救措施？,65,Lx4Yfch2.wf1原始数据,66,67,68,平方项极显著，所以用平方项的倒数作权数,69,残差与自变量散点图,70,权数QSH=1/GRSH2,71,分组资料，N每组户数，Y平均支出，X平均收入请用LS和加权LS拟合模型，并作对比。,72,73,74,75,76,案例4我国北方农业产出模型,85年我国北方12个省市的农业总产值Y、农业劳动力X1、灌溉面积X2、化肥X3、户均固定资产原值X4、农机动力X5的资料在LX4目录下名为Lchf107_2中。要求（1）建立我国北方农业产出模型（2）用解析法判断是否存在异方差（3）若存在异方差，采用适当方法估计模型参数,