一元线性回归模型的参数检验.ppt
2.3一元线性回归模型的统计检验,一、上节课内容的回顾 1、总体回归函数与样本回归函数 2、一元线性回归模型的参数估 最小二乘估计 3、正规方程组 4、一元线性回归模型参数最 小二乘估计的性质,模型,性质,总体回归模型,样本回归模型,回归对象,总体回归函数回归对象是 总体数据,样本回归函数回归对象是样本数据,参数估计的内涵,总体回归函数的内涵是总体中解释与被解释变量之间的结构关系,样本回归函数的内涵是样本中解释与被解释变量之间的结构关系,计算方法与估计特点,总体回归模型是用求条件期望E(Y|X)方法求出参数估计值，参数估计值是不变的。,样本回归模型是用最小二乘方法求出参数估计值，参数估计值是随样本变化而变化的。,两者之间的内在联系,样本回归模型是总体回归函数的估计。有确定形式和随机形式。,总体回归模型是反映社会经济现象的内在规律，通常是未知的，样本回归函数反映的正是总体回归函数。有确定形式和随机形式两者形式。,红线表示总体回归函数，黑线表示样本回归函数,一元线性回归模型的估计：最小二乘估计,1、最小二乘估计的思想：样本回归线上的点 与真实观测值 的总体误差为最小，即样本点到回归直线的距离平方和为最小。2、记住正规方程组,3、一元线性回归模型最小二乘估计的性质：线性性、无偏性和有效性,一元线性回归模型的检验,一、假设检验的回顾 假设检验是根据研究的需要，对社会经济现象提出一个参数假设，然后利用样本数据构造统计量，判断这个假设是否成立的统计过程。例如：某企业的人力资源部门估计该企业 80%的员工是有潜力可挖的，为了检验这一说法是否可靠，随机抽取150名员工，经过严格的考评，结果显示70%的员工存在不同程度的潜力，问当 时，“80%的员工尚存在潜力”是否成立。,问题的分析,该企业人力资源部门根据自身管理的需要提出了一个假设“80%的员工存在可挖的潜力”，我们把这个假设称为原假设，计为，它的对立面“没有80%的员工存在可挖的潜力”称为原假设的备择假设，计为，称为显著水平。现在我们来检验原假设对不对。解：构造并计算检验统计量，得：,问题分析,上式中z是服从标准正态分布的，其分布密度函数图像是,Z=-3.0581,在原假设成立下，z服从标准 正态分布，或 的概率是0.05是小概率事件，根据小概率事件在一次试验不发生的原理，事件 不应该发生，现在发生了，故认为原假设不成立，因此我们拒绝原假设 故认为“80%的员工尚存在潜力”的说法不成立。在上述检验中，称为拒绝域，由于拒绝域在密度函数的两侧，故称上述检验为双侧检验。同样，若拒绝域在一边，这样的检验称为单侧检验。,二、拟合优度检验,在上一节课中，讲了例，得到样本回归函数是，表示居住这个社区的人，收入每增加一元钱，其消费将平均增加0.777元。但是现在这个模型还不能用，需要进行检验。对回归模型的检验主要有两个方面的检验：拟合优度检验和回归系数检验。拟合优度检验是检验模型总体上拟合的好坏。检验方法：（1）可决系数法（2）F 检验首先定义 总平方和 SST（1）,总平方和表示样本数据离它的重心的距离平方和，代表着样本全体信息，（1）表示样本信息可以分解为两个部分：回归平方和 与 残差平方和。称为残差平方和，计作SSE而 称为回归平方和，计作SSR。回归平方和表示用回归函数值代替样本值后，距离样本重心的距离平方和，该值愈大表明回归效果愈好，反之，有相反的结论。残差平方和表示回归值与样本真实值之间差的平方和，该值愈小，表明回归效果愈好，反之，有相反的结论成立。根据上述，定义可决系数如下：通常 大于0且小于1，可决系数越大，表明回归方程总体上拟合的越好，反之，有相反的结论。通常，认为模型总体上拟合得较好。,F检验,对于回归方程拟合优度检验，除了用判决系数外，还可以用F检验方法来检验模型拟合得好不好，检验的方法和步骤是：Y与X没有线性关系 Y与X有线性关系 构造检验统计量,在原假设成立时，F统计量服从第一自由度是1，第二自由度是n-2的F分布，这时，的概率是（通常是0.05）是小概率事件，根据假设检验原理，应该拒绝原假设，接受备择假设，即认为Y与X之间存在线性关系。也就是回归方程成立。（如图所示）,例讲解,从例知，F=28559.235 大于显著性水平为0.05时的F统计量的值3.94。故我们拒绝原假设，认为Y与X之间有线性关系成立。即回归方程显著。,三、变量显著性检验,在回归分析中，我们不但要对模型总体显著性检验（拟合优度检验），还要对模型的回归系数进行检验，对于一元线性回归分析模型来说，其检验的原假设和备择假设分别是 构造的检验统计量是,在原假设成立的条件下，t 统计量服从自由度为n-2的t分布，当 时，拒绝原假设，认为备择假设成立，即 检验情况如下图所示。,例讲解,在例中,的t统计量值是53.471大于临界值1.98。故拒绝原假设，接受备择假设，认为回归系数显著，即 注：在一元线性回归分析中，回归系数检验与回归方程检验是等价的，即回归方程显著，在同一显著性水平下，回归系数也显著，反之，有相同的结论成立。,Dependent Variable:YMethod:Least SquaresDate:09/28/10 Time:11:08Sample:1 31Included observations:31Variable Coefficient Std.Error t-Statistic Prob.C-47.03933525.7858-0.0894650.9293X1.3473200.05984122.515000.0000R-squared0.945888 Mean dependent var11363.69Adjusted R-squared 0.944022 S.D.dependent var3294.469S.E.of regression 779.4603 Akaike info criterion 16.21742Sum squared resid17619190 Schwarz criterion16.30994Log likelihood-249.3700 F-statistic 506.9253Durbin-Watson stat1.502424 Prob(F-statistic)0.000000,
