古典回归模型下.ppt

《古典回归模型下.ppt》由会员分享，可在线阅读，更多相关《古典回归模型下.ppt（39页珍藏版）》请在三一办公上搜索。

1、合肥师范学院经济系,第二章 回归模型,第一节 古典回归模型 第二节 回归模型的参数估计 第三节 回归模型的统计检验 第四节 非线性回归模型,合肥师范学院经济系,第三节 回归模型的统计检验,回归分析中主要是通过一些统计检验方法来保证模型在统计意义上（即以样本推断总体）的可靠性。,一、模型的拟合优度检验 所谓“拟合优度”，即模型对样本数据的近似程度（回归直线与样本数据趋势的吻合程度)，常用判定系数反映。,合肥师范学院经济系,1总平方和分解公式,（2-6）,上式记成 TSS=ESS+RSS其中，TSS称为总平方和（或总离差平方和），ESS称为回归平方和（或可解释的平方和），RSS称为残差平方和（或剩

2、余平方和）。（2-6）式称为总平方和分解公式,合肥师范学院经济系,合肥师范学院经济系,如果Yi=i 即实际观测值落在样本回归“线”上，则拟合最好。可认为，“离差”全部来自回归线，而与“残差”无关。,合肥师范学院经济系,2判定系数R2：,用回归平方和(ESS)占总平方和(TSS)的比重作为衡量模型对样本拟合优度的指标，该指标称为判定系数（或可决系数），用符号R2表示，即,（2-7）,显然，0 R21,R2的值越接近于1，则表明模型对样本数据的拟合优度越高。判定系数不仅反映了拟合程度的优劣，而且有直观的经济含义：它定量地描述了y 的变化中可以用解释变量的变化来说明的部分，即模型的可解释程度。,判定

3、系数是一个非负的统计量,随着抽样的不同而不同。,合肥师范学院经济系,调整判定系数:判定系数受解释变量X的个数k的影响，在k的个数不同的模型之间进行比较时，判定系数必须进行调整。调整的思路是:将残差平方和与总离差平方和分别除以各自的自由度，以剔除变量个数对拟合优度的影响。在一定程度上避免将影响微弱的变量错误地加入到模型中。）,除了调整的判定系数 之外，人们还使用另外两个指标SC（Schwarz Criterion，施瓦兹准则）和AIC(Akaike Information Criterion，赤池信息准则)来比较含有不同解释变量个数模型的拟合优度：,其值越小表明模型的拟合优度越高。,合肥师范学院

4、经济系,二、模型的显著性检验,模型的显著性检验，就是检验模型对总体的近似程度。最常用的检验方法是F检验。1F检验 对于多元线性回归模型,假设H0：b1=b2=bk=0 在原假设成立的情况下，可以证明：,对于给定的显著水平，可由F分布表查得临界值F（注意是单侧检验）：,合肥师范学院经济系,若F F，则拒绝H0，可以认为模型的线性关系是显著的；（一般在软件回归结果里用P值决策）若F F，则接受H0，认为模型的线性关系不显著，回归模型无效。,合肥师范学院经济系,2R2检验与F检验的关系,因此，F统计量是判定系数R2的单调增函数，从图中可以直观看出；对于每一个临界值F，都可以找到一个 与之对应，当R2

5、 时，便有F F。注意：F检验是一个联合检验，即使所有的t统计量都是不显著的，F统计量也可能是显著的。,图2-7 F统计量与R2的关系,合肥师范学院经济系,三、解释变量的显著性检验(偏回归系数检验),由高斯马尔可夫定理的证明可以得到：,由于正态分布的线性组合仍然服从正态分布，而且分布形式由其均值和方差唯一确定，所以，,而且,假定,合肥师范学院经济系,系数的估计误差,平均误差（平方）=（由无偏性）,其中涉及到随机误差项i的方差2，这个值通常并不知道，实际计算中一般采用2的无偏估计量：,即等于估计量的方差；所以估计量关于均值的平均偏差方差也就了反映估计量与参数真值的平均偏差。,参数估计量的平均误差

6、为：,来估计2,合肥师范学院经济系,并且用符号 表示系数b的估计误差：,EViews软件在估计回归模型时，将同时输出系数的估计值和标准差。需要指出的是，系数的标准误差只是反映了估计量与真值的相对偏离程度。,同理a的估计误差为：,又称为系数的标准误差（或标准差）。,合肥师范学院经济系,利用OLS估计式(2-1)得到的只是系数的点估计，为了对系数的取值情况有更多的了解，可以按一定的可靠性确定系数的取值范围：用统计术语来说，就是在一定的置信度下，求得系数的置信区间。可以证明，统计量,对于多元线性回归模型，统计量 为：,合肥师范学院经济系,三、解释变量的显著性检验(偏回归系数检验),对于多元线性回归模

7、型，为了检验某个解释变量xi对y是否有显著影响，可以建立原假设：H0：bi=0 即假设xi对y没有显著影响。构造统计量,对于给定的显著水平，可由t分布表查得临界值t/2,若|t|t/2，拒绝H0，xi 对y有显著影响；若|t|t/2，接受H0，认为xi 对y影响不显著，应考虑将xi 从模型中剔除，重新建立模型。,合肥师范学院经济系,解释变量显著性检验通不过的原因可能在于:,(1)xi与y不存在线性相关关系；(2)xi与y不存在任何关系;(3)xi与xj(ij)存在线性相关关系。在EViews软件输出的回归分析结果中，在每个t统计量值ti的右端还列出了一个概率值p（又称为p值），它表示:P（|t

8、|ti）=p 即给出了所谓“精确的显著水平”。,合肥师范学院经济系,参数的置信区间,利用OLS估计式得到的只是系数的点估计，为了对系数的取值情况有更多的了解，可以按一定的可靠性确定系数的取值范围：用统计术语来说，就是在一定的置信度下，求得系数的置信区间。,对于给定的置信度1-，由t分布表可以查得临界值t/2，,合肥师范学院经济系,所以系数b的100(1-)%置信区间为:,即以100(1-)%的概率保证回归系数属于该区间内。显然，置信区间越小，对回归系数的估计精度就越高。所以置信区间的长度主要取决于系数的标准差,对于多元线性回归模型，因为统计量,合肥师范学院经济系,所以，对于给定的置信度1-，回

9、归系数bi的100(1-)%置信区间为:,合肥师范学院经济系,第四节 非线性回归模型,一、可线性化模型 二、不可线性化模型 三、回归模型的比较 练习题,合肥师范学院经济系,第四节 非线性回归模型,对于非线性模型，通常是将其转化成线性模型进行估计。,一、可线性化模型 模型经过适当的变量变换或函数变换就可以转化成线性回归模型，称这类模型为可线性化模型。1倒数变换模型（双曲函数模型）对于模型,设:,则上式变换为:,合肥师范学院经济系,设:,上面二个模型进行变量的倒数变换，就可以将其转化成线性回归模型，所以称该模型为倒数变换模型。2双对数模型（幂函数模型）对于模型,则上式变换为:,则将其转换成线性回归

10、模型：,设:,对于模型,合肥师范学院经济系,对于双对数模型，因为:,回归系数b是被解释变量y关于解释变量x的弹性（即x的一个（微小）变动引起y变动的百分比）。如果所研究的经济关系可以用双对数模型描述，则估计模型之后就可以直接利用系数b进行弹性分析。双对数函数模型是人们经常采用的一类非线性回归模型。3半对数模型 对于模型 y=a+blnx+(对数函数模型)lny=a+bx+(指数函数模型)模型中只有某一侧的变量为对数形式，称为半对数模型。,合肥师范学院经济系,半对数模型中的回归系数b的含义：对数函数模型中，,即x增加1个单位时，y 将增长100b%。特别地，若x为时间变量（如年份），则系数b 衡

11、量了y 的年均增长速度。所以模型又称为增长模型。,即x增加1%时，y 将增长0.01b个单位。指数函数模型中，,合肥师范学院经济系,4多项式模型,对于模型,设:,则模型变换为:,模型转化成多元线性回归模型。,合肥师范学院经济系,二、不可线性化模型,一般采用高斯牛顿迭代法进行估计，即将其展开成泰勒级数之后，再利用迭代估计方法进行估计。1迭代估计法 模型,是一个不可线性化模型，现以该模型为例说明迭代估计法的原理和具体步骤。模型的估计过程如下：（1）根据经济理论和所掌握的资料，先确定一组数a0,b0,c0作为参数a,b,c的初始估计值；,合肥师范学院经济系,（2）将模型在点（a0,b0,c0）处展开

12、成泰勒级数，并取一阶近似值；,（3）作变量变换，转化成线性回归模型,以利用最小二乘法估计模型，得到参数的第一组估计值,（4）将 代入线性回归模型取代参数的上一组估计值，计算出一组新观察值，进而得到a、b、c的第二组估计值。（5）重复第（4）步，逐次估计下去，直到第t+1次估计值的估计误差小于事先取定的误差精度 时为止。并以第t+1次的计算结果作为参数a、b、c的估计值。,合肥师范学院经济系,2迭代估计法的EViews软件实现,(1)设定待估参数的初始值。两种方式：方式1：使用PARAM命令，格式为：PARAM 1 初始值1 2 初始值2 方式2：在工作文件窗口中双击序列C，并在序列窗口中直接输

13、入参数的初始值(2)估计非线性模型【命令方式】在命令窗口可以直接键入非线性模型的迭代估计命令NLS。格式为：NLS 被解释变量=非线性函数表达式,合肥师范学院经济系,如，对于非线性回归模型y=a(x-b)/(x-c)+，则,NLS Y=C(1)*(X-C(2)/(X-C(3)其中，C(1)、C(2)、C(3)表示待估计的回归系数a、b、c。系统将采用迭代估计法求解参数估计值。【菜单方式】（1）在数组窗口中点击Procs MakeEquation；（2）在弹出的方程描述对话框中输入非线性回归模型的具体形式：Y=C(1)*(X-C(2)/(X-C(3)（3）选择估计方法为最小二乘法后点击OK。,合

14、肥师范学院经济系,例（选学）现建立C-D（Cobb-Dauglas）生产函数：,（1）转化成线性模型进行估计：在模型两端同时取对数，得：lny=lnA+lnL+lnK+因此，在Eviews软件的命令窗口中依次键入以下命令：GENRLNY=log(Y)GENRLNL=log(L)GENRLNK=log(K)LS LNY C LNL LNK,合肥师范学院经济系,得到C-D生产函数的估计式为：操作演示,即:,对应的t统计量,对应的R2值,（2）利用迭代法直接估计非线性模型：在命令窗口上输入命令：Param 1 1 2 1 3 1 在主窗口中点击ObjectsNew Object，并选择Equatio

15、n；,合肥师范学院经济系,在弹出的方程描述对话框（Equation specification）中输入非线性模型的方程表达式：,Y=C(1)*LC(2)*KC(3)如果要修改求解过程中的迭代次数或收敛的误差精度,可点击Options按钮进行设置，。点击OK后，系统将自动进行迭代运算并输出估计结果：,报告迭代了13次后收敛,对应的t统计量值,对应的R2值,对应A,合肥师范学院经济系,三、回归模型的比较,如何比较这些模型的优劣、并从中选择一个较为适宜的模型？1图形观察分析（1）观察被解释变量和解释变量的趋势图。变量的发展趋势是否一致？解释变量能否反映被解释变量的波动变化情况？变量发展过程中是否有异

16、常点等问题。（2）观察被解释变量与解释变量的相关图。直观地判断两者的相关程度和相关类型，即变量之间是线性关系还是非线性关系？,合肥师范学院经济系,2模型估计结果观察分析,（1）回归系数的符号和值的大小是否符合经济意义，这是对所估计模型的最基本要求。（2）改变模型形式之后是否使判定系数的值明显提高。（3）各个解释变量t检验的显著性。（4）系数的估计误差较小。（5）自相关检验DW3残差分布观察分析 模型的残差反映了模型未能解释部分的变化情况，因此，这可以从另一个角度（即模型系统之外因素的影响）来分析模型的优劣。,合肥师范学院经济系,在方程窗口点击View Actual,Fitted,Residua

17、l Tabe（或Graph），可以观察分析以下内容：,（1）各期残差是否大都落在 的虚线框内，（2）残差分布是否具有某种规律性，即是否存在着系统误差。（3）近期残差的分布情况。通过残差分析表（Tabel）和残差分布图（Graph）进行观察，也可以在方程窗口中直接点击Resids按钮，观察模型的拟合曲线图和残差分布图。注意：当模型侧重于预测，则应关注F检验,R2,当模型侧重于因素分析，则应关注t检验。,合肥师范学院经济系,例（选学）我国税收预测模型的比较分析（例1续）。,（1）相关图分析：键入 SCAT X Y(3.1版)操作演示 结果如图,（2）估计模型：首先生成新的序列（即进行变量变换），G

18、ENR LNY=Log(Y)GENR LNX=Log(X)GENR X2=X2,合肥师范学院经济系,再估计各个非线性回归模型：,LS LNY C X（指数函数模型）,模型的估计结果如下：,LS Y C X X2（二次函数模型）,模型的估计结果如下：,R2值,调整的R2值,F统计量的值,R2值,调整的R2值,F统计量的值,合肥师范学院经济系,LS LNY C LNX（双对数模型）,模型的估计结果如下：,三个模型的经济意义都比较合理，解释变量也都通过了t检验（一元模型的t检验等价于F检验）。（3）残差分布分析 在各自的方程窗口可以得到相应的残差分布表，点击View Actual，Fitted，ResidualTabe（或Graph），,R2值,调整的R2值,F统计量的值,合肥师范学院经济系,指数函数模型残差分布表,二次函数模型残差分布表：,