回归模型的参数估计与假设检验.ppt
高等测量平差孙海燕武汉大学测绘学院,第三章 回归模型的参数估计与假设检验,第一节 概述,武汉大学测绘学院 孙海燕,一、变量与变量之间的关系 1.函数相关-确定性关系 2.统计相关-不存在确定的关系,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,一、变量与变量之间的关系,1、函数相关-确定性关系例1：矩形面积 与其两边 之间存在确定性关系为；例2：一个平面三角形的一个内角 与其它两个内角、的关系为为；两点间的纵坐标增量边长及方位角的关系为：,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,2、统计相关-不存在确定的关系例1：每年春季气温与降雨量；例2：人的高度与体重之间；例3：测距结果与仪器中电子线路受固定的干扰信号引 起误差之间；例4：重力测量结果与气压、温度、地下水等因素之间；例5：海平面变化与气象、海洋天文因素之间；例6：断层位移与断层活动趋势、气温、地温、蒸发、降雨量之间；,统计相关的特点:它们之间既存在着一定的制约关系，又不能由一个（或几个）变量数值精确地求出另一个变量的值来。,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,回归分析主要研究的问题：,1、如何根据样本，建立回归模型；2、如何估计回归模型参数；3、如何检验模型参数的显著性；4、如何利用回归方程进行预报和控制。,二、回归分析方法 是研究相关关系的一种有力的数学工具。它是建立在对客观事物进行大量实验和观测的基础上，寻找隐藏在不确定性关系后面的统计性规律的数理统计方法。,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第二节 线性回归模型,线性回归理论模型,回归方程的系数,n组观测数据,n个观测方程,矩阵形式,线性回归模型,随机模型,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第三节 回归参数的最小二乘估计,一、一元线性回归的参数估计,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,例：,编号 库水位 X（m）沉陷量Y（mm）1 102.714-1.962 95.154-1.883 114.364-3.964 120.170-3.315 126.630-4.946 129.393-5.697 135.046-5.468 140.373-5.699 144.958-3.9410 141.011-5.8211 130.308-4.1812 121.234-2.90,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,二、多元线性回归的最小二乘估计,多元线性回归模型为,多元线性回归方程为,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第四节 线性回归统计的分布和统计性质,1、,均为正态变量；,是,最优线性无偏估计；,是,的无偏估计。,2、,3、,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第五节 回归模型和回归系数的显著性检验,一、相关系数及其检验,一元线性回归方程的前提是变量y与x应存在线性的统计相关，因此，必须有一个数量性指标来描述两个变量间线性相关的程度，这一指标通常采用相关系数。,1、相关系数,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,2、相关系数检验在原假设 成立时，的密度函数为,对相关系数的假设检验,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,相关系数假设检验临界值,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,二、方差分析法 目的：检验回归方程总体显著性 设：的 个观测值之间的差异，用观测值与其平均值的偏差 平方和来表示，称为总偏差平方和，记为,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,总偏差平方和的分解公式：,回归平方和:变量 的变化而引起的 对 的偏离平方和,残差平方和:各种偶然因素干扰所引起的 与 偏离的平方和,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,三、参数显著性检验逐一对参数的显著性进行检验,统计量为,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,应用方差分析法和 检验法检验回归效果的显著性。,例2，在例1中，求得回归方程为,方差分析：,以,，分子自由度为1，分母自由度为10，查,分布表得,，因,，所以拒绝,，分子自由度为1，分母自由度为10，查 分布表得，所以拒绝,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,检验,以,，分子自由度为1，分母自由度为10，查,分布表得,，所以拒绝,，自由度为10，查 分布表，因,，所以拒绝,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,以,，分子自由度为1，分母自由度为10，查,分布表得,，所以拒绝,（1）估计回归方程（2）计算方差的估值 及 的方差（3）回归方程显著性检验（F检验）（4）回归参数显著性检验（t检验）,例：（P37）,检验结果：拒绝，接受。,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第六节 预报值的标准差和区间估计,回归分析的一个主要目的是根据给定的x值对y进行预报，预报值,观测值,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,统计量,预报值的区间估计,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,例:在不同温度 下，测定某铟钢尺的尺长改正数，得9个观测值如下：,12.1 15.2 14.8 13.9 15.9 16.4 18.5 17.3 19.6 1.6 1.9 1.7 1.8 2.1 2.0 2.3 2.0 2.2,（1）求回归方程；（2）求方差的估值；（3）检验回归方程的显著性；（4）求温度在 时的尺长改正数及预测区间。,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第七节 自回归模型,一、自回归模型定义 自回归模型是根据该变量自身过去的规律来建立预测模型,一阶自回归模型,高阶自回归模型,为自回归模型的阶数,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,二、自回归模型参数的最小二乘估计,自回归模型阶数的确定，自回归模型的预报,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第八节 多项式拟合模型,设在区域中有 个数据，点，自变量为点的平面坐标，为非随机量，因变量为在该点上的观测量，视为随机变量。自变量 和因变量 之间虽然没有确定的函数关系，但对于实测数据可以用其趋势性变化 和随机误差 来表示：,当趋势性变化取为自变量的多项式时,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,误差方程,一阶多项式,二阶多项式,最小二乘解,通过假设检验确定多项式的阶数,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第九节 三角多项式模型,所处理的数据呈周期性变化，例如，观测结果受温度、潮汐、地下水等影响，往往呈现年周期变化，对这样的数据进行分析，可采用三角多项式曲线拟合。,付里叶级数模型，也称为谐波分析,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,观测方程,考虑的三角函数系的正交性，法方程为,误差方程,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,第十节 多面函数模型,核函数：选取的比较规则、简单的数学曲面。如二次曲面（球面、抛物面、正双曲面、倒双球面，三次曲面等如:,多面函数：一系列核函数的线性组合。,其中 为观测点的坐标，为对应的观测值。,其中 为所选曲面的结点，为光滑因子。,目的：用简单函数的组合逼近一个光滑的复杂曲面,第三章 回归模型的参数估计与假设检验,武汉大学测绘学院 孙海燕,
