《异方差性》PPT课件.ppt

《《异方差性》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《异方差性》PPT课件.ppt（101页珍藏版）》请在三一办公上搜索。

1、第六章 异方差性,学习目的,通过本章的学习，了解什么是异方差性，异方差性是如何形成的，异方差性导致什么样的后果，怎样检验和处理具有异方差性的模型。,基本要求,1)掌握异方差性的概念、异方差性的后果和几种常见的检验方法。2)了解加权最小二乘法原理，并能运用加权最小二乘法估计线性回归模型。3)了解异方差稳健推断原理。,引子：更为接近真实的结论是什么？,根据四川省2000年21个地市州医疗机构数与人口数资料，分析医疗机构与人口数量的关系，建立卫生医疗机构数与人口数的回归模型。对模型估计的结果如下：式中 表示卫生医疗机构数（个），表示人口数量（万人）。,参数标准误差,模型显示的结果和问题,人口数量对应

2、参数的标准误差较小；t 统计量远大于临界值，可决系数和修正的可决系数结果 较好，F检验结果明显显著；表明该模型的估计效果不错，可以认为人口数量 每增加1万人，平均说来医疗机构将增加5.3735个。然而，这里得出的结论可能是不可靠的，平均说来每增加1万人口可能并不需要增加这样多的医疗机构，所得结论并不符合真实情况。有什么充分的理由说明这一回归结果不可靠呢？更为接近真实的结论又是什么呢？,异方差性及其产生原因,异方差性的影响,异方差性的检验,异方差性的的修正,第六章 异方差性,第一节 异方差性及其产生原因,同方差的含义 同方差性：对所有的 有：（6.1）因为方差是度量被解释变量 的观测值围绕回归线

3、（6.2）的分散程度，因此同方差性指的是所有观测值的 分散程度相同。,图形表示,设模型为 如果对于模型中随机误差项 有：,第一节 异方差性及其产生原因,(6.4),(6.3),、异方差性的含义,即对于不同的样本点，随机干扰项的方差不再是常数，而是互不相同，则认为出现了异方差（Heteroskedasticity）。进一步，把异方差看成是由于某个解释变量的变化而引起的，则,(6.4),图形表示,异方差性是指模型违反古典假定中的同方差性，即各残差项的方差并非相等。一般地，由于数据观测质量、数据异常值、某些经济变化的特性、模型设定形式的偏误等原因，导致了异方差的出现。主要原因往往是重要变量的遗漏，所

4、以很多情况下，异方差表现为残差方差随着某个（未纳入模型的）解释变量的变化而变化。,二、异方差的类型,（1）单调递增型：,随X的增大而增大；,（2）单调递减型：,（3）复杂型：,随X的增大而减小；,随X的变化呈复杂形式。,三、异方差产生的原因,例6-1,居民储蓄模型,析：,（一）截面数据中总体各单位的差异 通常认为，截面数据较时间序列数据更容易产生异方差。这是因为同一时点不同对象的差异，一般说来会大于同一对象不同时间的差异。不过，在时间序列数据发生较大变化的情况下，也可能出现比截面数据更严重的异方差。,三、异方差产生的原因,例6-2,干中学模型,例如，考虑一次打字测验，在给定的一段时间里，打字出

5、错个数与用于打字练习的小时数有关系。随着打字练习小时数增加，不仅平均打错字个数下降，而且打错字个数的方差也下降，这属于递减型的异方差。,例如，相较于没有先进设备的银行，那些拥有先进数据处理设备的银行，在他们对帐户的每月或每季财务报告中，会出现更少的差错。,（二）数据的测量误差 样本数据的观测误差有可能随研究范围的扩大 而增加，或随时间的推移逐步积累，也可能随 着观测技术的提高而逐步减小。,以某一行业的企业为样本建立企业生产函数模型 Yi=Ai1 Ki2 Li3ei,被解释变量：产出量Y 解释变量：资本K、劳动L、技术A，那么：每个企业所处的外部环境对产出量的影响被包含在随机误差项中。每个企业所

6、处的外部环境对产出量的影响程度不同，造成了随机误差项的异方差性。这时，随机误差项的方差并不随某一个解释变量观测值的变化而呈规律性变化，呈现复杂型。,三、异方差产生的原因,（三）模型中省略了某些重要的解释变量假设正确的计量模型是：假如略去，而采用 当被略去的 与 有呈同方向或反方向变 化的趋势时,随 的有规律变化会体现在（6.5）式的 中。,（6.5）,例6-3,股票价格和消费者价格,考虑如下20个国家在第二次世界大战后直至1969年间的股票价格（Y）和消费者价格(X)的百分比变化的散点图。,图中，对智利的观测值Y和X远大于对其他国家的观测值，故可视为一个异常值，在这种情况下，同方差性的假定就难

7、以维持了。,三、异方差产生的原因,例6-4,假性异方差,如果我们误以为Y和X之间的关系为：,（四）模型的设定误差 模型的设定主要包括变量的选择和模型数学形式的确定。模型中略去了重要解释变量常常导致异方差，实际就是模型设定问题。除此而外，模型的函数形式不正确，如把变量间本来为非线性的关系设定为线性，也可能导致异方差。,第二节 异方差性的影响,1参数估计量非有效,计量经济学模型一旦出现异方差，如果仍然用普通最小二乘法估计模型参数，会产生一系列不良后果。,2OLS估计的随机干扰项的方差不再是无偏的,3基于OLS估计的各种统计检验非有效,4模型的预测失效,1参数估计量非有效,根据前面有关OLS参数估计

8、量的无偏性和有效性的证明过程，可以看到，当计量经济学模型出现异方差时，其普通最小二乘法参数估计量仍然具有无偏性和一致性，因为同方差假设在证明无偏性和一致性时并没有起作用。但在异方差情况下OLS估计量不再具有有效性，因为在有效性证明中利用了,而且在大样本情况下，OLS估计量也不具有渐进有效性。,为详细说明异方差使OLS参数估计量的无效性，我们考虑一元回归模型：,（6-2）,该模型参数的OLS估计量可以写为,对于该模型，我们假定除同方差假设外，其他的高斯马尔科夫假设都成立。如果模型随机误差项包含异方差，那么有,（6-3）,（6-4）,显然（6-3）式与（6-4）式不同，只有在,时两者才是相同的。,

9、2OLS估计的随机干扰项的方差不再是无偏的,异方差时OLS估计的随机误差项的方差不再是真实随机干扰项方差的无偏估计，正是因为这一点才使得OLS估计的参数不再是有效的，这可从（6-3）式中直接看出来。,3基于OLS估计的各种统计检验非有效,1）t统计量 不再服从t分布；,3）F 统计量也不再服从F分布；,4）LM（拉格朗日乘数检验）统计量也不再有渐近,分布。,总而言之，在异方差情况下，我们建立在高斯马尔科夫定理基础上的用来检验各种假设的统计量都不再是有效的，OLS估计量不再是最佳线性无偏估计量。,变量的显著性检验中，构造了t统计量,由于方差不是常数而是变数，这时一般意义上t 比值的分布是未知的，

10、不再遵从t-分布，使得t检验失效；同理，在异方差条件下，F比值也不再是遵从F-分布，F检验也失效。,4模型的预测失效,当模型出现异方差时，,一方面，由于上述后果，使得OLS估计不再具有良好的统计性质；另一方面，由于在被解释变量预测值的置信区间中也包含有参数估计量的标准差，所以，如果仍然使用OLS估计量，将导致预测区间偏大或偏小，预测功能失效。,判断下列说法是否正确，并简要说明为什么。（1）当异方差出现时，最小二乘估计是有偏的和不具有最小方差特性有效性；（2）当异方差出现时，常用的t和F检验失效；（3）如果回归模型中遗漏一个重要变量，则OLS残差必定表现出明显的趋势。,第三节 异方差性检验,用什

11、么来表示随机干扰项的方差？,问题：,一般的处理方法是首先采用普通最小二乘法估计模型，以求得随机干扰项的估计量，用,表示。这样我们有,即用,来表示随机干扰项的方差。,检验思路：由于异方差性就是相对于不同的解释变量观测值，随机误差项具有不同的方差。那么：检验异方差性，也就是检验随机误差项的方差与解释变量观测值之间的相关性及其相关的“形式”。,对于解释变量引起的异方差，我们可以用如下几种方法来检验异方差。,一、图示检验法,二、帕克(Park)检验与戈里瑟(Gleiser)检验,三、G-Q（Goldfeld-Quandt）检验,四、F检验,五、拉格朗日乘子检验,六、怀特检验,一、图示检验法,（一）相关

12、图形分析 方差描述的是随机变量取值的（与其均值的）离散程度。因为被解释变量 与随机误差项 有相同的方差，所以利用分析 与 的相关图形，可以初略地看到 的离散程度与 之间是否有相关关系。如果随着 的增加，的离散程度为逐渐增大（或减小）的变化趋势，则认为存在递增型（或递减型）的异方差。,用1998年四川省各地市州农村居民家庭消费支出与家庭纯收入的数据，绘制出消费支出对纯收入的散点图,其中用 表示农村家庭消费支出，表示家庭纯收入。,图形举例,设一元线性回归模型为：运用OLS法估计,得样本回归模型为：由上两式得残差：绘制出 对 的散点图如果 不随 而变化，则表明不存在异方差；如果 随 而变化，则表明存

13、在异方差。,（二）残差图形分析,一、图示检验法,图6-2 不同异方差类型,（图示检验法只能进行大概的判断）,二、帕克(Park)检验与戈里瑟(Gleiser)检验,基本思想：,或,选择关于变量Xj 的不同函数形式，对方程进行估计并进行显著性检验。如果存在某一种函数形式，使得方程显著成立，则说明原模型存在异方差性。该检验要求变量的观测值为大样本。,检验的步骤 1.建立模型并求 根据样本数据建立回归模型，并求残差序列 2.寻找 与 的最佳函数形式 用残差绝对值 对 进行回归，用各种函数 形式去试，寻找最佳的函数形式。,3.判断 根据选择的函数形式作 对 的回归，作为 的替代变量，对所选函数形式回归

14、。用回归所得到的、等信息判断，若参数 显著不为零，即认为存在异方差性。,三、G-Q（Goldfeld-Quandt）检验,基础,基本思想,F检验,按某一个解释变量对样本排序，再将排序后的样本一分为二，对子样本和子样本分别作OLS回归，然后利用两个子样本的残差平方和之比构造 F 统计量进行异方差检验。,作用：检验递增性(或递减性)异方差。,检验的前提条件：1、要求检验使用的为大样本容量。2、除了同方差假定不成立外，其它假定均满足。,步骤,1.排序将n组样本观察值按某一被认为可能引起异方差的解释变量的观察值大小排序。,2.数据分组将序列中间的c个观察值除去，并将剩下的观察值划分为较小与较大的相同的

15、两个子样本，每个子样样本容量均为,这样做主要是为了突出小方差样本和大方差样本之间的差异。,3.提出假设,步骤,对每个子样分别进行OLS回归，并计算各自的残差平方和。分别用,表示较小的与较大的残差平方和（自由度均为,）。,4.构造F统计量,在同方差性假定下，构造如下满足F分布的统计量：,5.判断,给定显著性水平,，确定临界值,。若,则拒绝同方差性假设，表明原模型随机干扰项存在异方差性。当然，还可根据两个残差平方和对应的子样的顺序判断是递增型异方差还是递减异型方差。,，,注意：,1）G-Q检验结果有时要依赖于省略的样本个数c的大小。,根据蒙特卡洛试验结果和实际经验，Judge等人建议若n 为30

16、左右，c 取4；若n 为60 左右，c 取10。,2）G-Q检验需要按照某一被认为有可能引起异方差的解释变量 观察值的大小排序，因此，可能需要对各个解释变量进行轮 流试验，而且它只适合检验单调递增或递减型异方差。,Goldfeld-Quanadt检验具体操作,1.EViews软件操作（1）对变量取值排序（按递增或递减）。在Procs菜单里选Sort Current Page/Sort Workfile Series命令，出现排序对话框，键入，如果以递增型排序，选“Ascenging”，如果以递减型排序，则应选“Descending”，点ok。本例选递增型排序，这时变量 与 将以 按递增型排序。

17、（2）构造子样本区间，建立回归模型。在本例中，样本容量，删除中间1/4的观测值，即大约5个观测值，余下部分平分得两个样本区间：1-8和14-21，它们的样本个数均是8个，即,在Sample菜单里，将区间定义为1-8，然后用OLS方法 求得如下结果(表1),在Sample菜单里,将区间定义为14-21，再用OLS方法求得如下结果(表2),（3）求F统计量值。基于表1和表2中残差平方和的数据，即Sum squared resid的值。由表1计算得到的残差平方和为，由表2计算得到的残差平方和为。根据Goldfeld-Quanadt检验，F统计量为,（4）判断 在 下，式中分子、分母的自由度均为6，查

18、F分布表得临界值为：因为，所以拒绝原假设，表明模型确实存在异方差。,四、F 检验,考虑我们常用的多元线性回归模型,假定该模型满足高斯马尔科夫假设，特别地我们假设,OLS估计依然是无偏、一致估计,同方差假设意味着等价于只需检验 是否与一个或多个解释变量相关，可估计如下方程然后检验该方程的总体显著性，统计量为,五、拉格朗日乘子检验,步骤,（1）用OLS估计模型，得到OLS回归残差平方,序列。,（2）对（6-9）进行回归，记下回归得到的拟合优度。,（4）如果BP检验的P值很小，那就应该采取一些纠正的措施，一个可能的 措施就是用异方差稳健标准差和前面讨论过的检验统计量。,（3）计算LM统计量相应的P值

19、（查,分布表得到的概率），如果P值足够,小，即小于给定的显著性水平的话，那么我们就拒绝同方差的零假设。,六、怀特检验,与多个解释变量可能存在非线性关系,范围：,基本思想：不需要关于异方差的任何先验信息，只需要在大样本的情况下，将OLS估计后的残差平方对常数、解释变量、解释变量的平方及其交叉乘积等所构成一个辅助回归，利用辅助回归建立相应的检验统计量来判断异方差性。,下面以两个解释变量的回归模型为例来说明怀特检验的基本思想与步骤。,例：,对于二元回归模型,（6-12）,先做OLS回归，再做如下辅助回归,相应的LM统计量为,可在大样本情况下进行 检验，也可用F统计量进行检验当辅助回归中的解释变量较多

20、时，可去掉交叉项或用被解释变量的预测估计值做解释变量,White检验的基本步骤：以一个二元线性回归模型为例，设模型为：（6.7)并且，设异方差与 的一般关系为(6.8)其中 为随机误差项。,1.求回归估计式并计算用OLS估计式（6.7），计算残差，并求残差的平方。2.求辅助函数用残差平方 作为异方差 的估计，并建立 的辅助回归，即,（6.9）,3.计算 利用求回归估计式（6.8）得到辅助回归函数的可决系数，为样本容量。4.提出假设,5.检验 在零假设成立下，有 渐进服从自由度为5的 分布。给定显著性水平,查 分布表得临界值，如果,则拒绝原假设，表明模型中随机误差存在异方差。,White检验具体

21、操作,由表6.2估计结果，按路径view/residual tests/white heteroskedasticity（no cross terms or cross terms），进入White检验。根据White检验中辅助函数的构造，最后一项为变 量的交叉乘积项，因为本例为一元函数，故无交叉 乘积项，因此应选no cross terms，则辅助函数 为：经估计出现White检验结果，见表6.3。,从表6.3可以看出由White检验知，在 下，查 分布表得临界值 因为 所以拒绝原假设，不拒绝备择假设，表明模型存在异方差。,表6.3,例6-5,一个异方差检验的说明性例子,相关数据如表6-1。

22、,表6-1 中国2001年各地区农村居民家庭人均纯收入与消费支出 单位：元,例6-5,一个异方差检验的说明性例子,给定如下农村居民人均消费函数回归模型：,（6-14）,相关数据如表6-1。,下面利用表6-1中中国2001年各地区农村居民家庭人均纯收入及消费支出的相关数据对（6-14）式进行OLS估计，然后再进行异方差性检验。,OLS估计结果如下：,估计结果表明，其他收入的增长对人均消费支出增长的影响大于农业收入增长对人均消费支出的增长。接下来我们进行异方差性检验。,可以认为不同地区农村人均消费支出的差别主要来源于非农经营收入及其他收入的差别，因此如果存在异方差，则可能是X2引起的。观察残差平方

23、项e2与 lnX2的散点图:,G-Q检验:,1、将原始数据按X2排成升序，去掉中间的5个数据，得到两个容量各为13的子样本。,、对两个子样本分别做OLS回归，得到各自的残差平方和RSS1和RSS2。,子样本：,子样本：,、计算 F 统计量。,在5%的显著性水平下，自由度为（10,10）的F分布的临界值为F0.05(10,10)=2.97，因此G-Q检验在5%的显著性水平下拒绝两组样本存在同方差的假定，原模型中lnX2可能带来递增型的异方差。,检验结果：,F检验、LM检验、怀特检验,第四节 异方差性的修正,一、异方差稳健推断,二、加权最小二乘法,一、异方差稳健推断,调整标准差、t 统计量、F 统

24、计量、LM 统计量以使得他们在存在未知形式的异方差时仍然有用。这就意味着可以报告新的有用统计量，这种方法就是异方差稳健推断（Heteroskedasticity-Robust Inference）。,定义：,我们先看看在异方差情况下，怎样推断参数估计量的方差,。,对于该模型，我们假定除同方差假设外，其他的基本假设都成立。如果模型随机误差项包含异方差，那么有,（6-17）,（6-18）,（6-19）,（6-20）,用,表示初始的Y对X进行OLS回归后得到的残差，那么对于任何形式的,的恰当估计量为,异方差（包括同方差）而言，,（6-22）,这里,为来自用,对所有其他的解释变量进行回归得到的第i个残

25、差，,是该回归的残差平方和。,据式（6-20）、（6-22）可求得异方差稳健标准差,有了异方差稳健标准差，可以很方便的求得异方差稳健t统计量，还可以计算相应的F、LM统计量。异方差稳健LM统计量的计算步骤概括如下：,二、加权最小二乘法,加权最小二乘法是对原模型加权，使之变成一个新的不存在异方差性的模型，然后采用OLS法估计其参数。,定义：,基本思想：,不同形式的异方差要求用不同的加权方法来处理。,（一）异方差为已知的解释变量的某一函数形式时 的加权最小二乘估计,（二）异方差形式未知时的估计可行的加权最小 二乘法,（一）异方差为已知的解释变量的某一函数形式时的加权最小二乘估计,用,代表所有的解释

26、变量，我们假定第i个随机误差,的方差为如下形式,其中,是某些导致异方差的解释变量观察值的函数。该式表明,去除原模型，使之变成如下形式的新模型：,随机干扰项的方差与某些解释变量之间存在相关性，那么我们可以用,进一步改写为：,(6-24),上面的加权最小二乘例子实际上就是对加了权的残差平方和实施OLS估计，即求解,如果我们确实知道回归模型随机干扰项是异方差的，而且我们知道异方差形式，那么我们应该用加权最小二乘法。但是有时候即使模型随机干扰项满足同方差假设，我们可能仍然需要用加权最小二乘来估计模型。例如:当我们估计个体水平模型中的参数时，尽管个体水平模型中的干扰项满足基本假设，但如果个体水平的资料不

27、能得到，而只能得到某些组或某些地理区域中的个体的平均水平资料，这时估计模型就必须用加权最小二乘法（权重为个体规模数），因为用平均水平的资料来估计个体 水平的模型，必然会出现异方差性的问题。,用个体规模作为权重进行加权最小二乘估计的前提是个体水平的回归模型的随机误差项满足同方差假设。如果个体水平模型随机误差项是异方差的，那么正确的权重应取决于异方差的形式。这就是为什么越来越多的研究者在用人均资料估计模型时只简单计算稳健标准差和相应的统计量。另一个变通的方法是根据个体规模来加权，但只报告WLS估计中异方差稳健统计量。这样可以确保在个体水平资料满足基本假设时，估计结果有效；在个体水平资料存在异方差时

28、，通过稳健推断来描述，估计是有用的。,（二）异方差形式未知时的估计可行的加权最小二乘法,定义：,案例分析,一、问题的提出和模型设定 为了给制定医疗机构的规划提供依据，分析比较医疗机构与人口数量的关系，建立卫生医疗机构数与人口数的回归模型。假定医疗机构数与人口数之间满足线性约束，则理论模型设定为：其中 表示卫生医疗机构数，表示人口数。,四川省2000年各地区医疗机构数与人口数,二、参数估计,估计结果为:,检验模型的异方差,（一）图形法 1.EViews软件操作 由路径：Quick/Qstimate Equation，进入 Equation Specification窗口，键入，点“ok”，得样本

29、回归估计结果。,（1）生成残差平方序列。在得到表5.2估计结果后，用生成命令生成序列，记为。生成过程如下，先按路径：Procs/Generate Series，进入Generate Series by Equation对话框，键入下式并点“OK”即可：,生成序列图示,（2）绘制 对 的散点图。选择变量名 与。（注意选择变量的顺序，先选的变量将在图形中表示横轴，后选的变量表示纵轴），进入数据列表，再按路径view/graph/scatter，可得散点图，见右图：,2.判断由图可以看出，残差平方 对解释变量 的散点图主要分布在图形中的下三角部分，大致看出残差平方 随 的变动呈增大的趋势，因此，模型

30、很可能存在异方差。但是否确实存在异方差还应通过更进一步的检验。,异方差的修正,加权最小二乘法（WLS）分别选用权数:生成权数：在Genr/Enter equation中分别键入：经估计检验发现用权数 较好，下面只给出用权 数 的结果。,方法:在Estimate equation 中输入“”,点option,在对话框中点 weighted LS,在weighted 中输入“”再点ok,即出现加权最小二乘结果。,表 5.7,估计结果：结论:运用加权小二乘法消除了异方差性后，参数的t检验均显著，可决系数大幅提高，F检验也显著，并说明人口数量每增加1万人，平均说来将增加2.953个卫生医疗机构，而不是引子中得出的增加5.3735个医疗机构。,