数理统计基础.ppt

第一章 计量经济学的统计学基础,复习数理统计学,问题的提出,首先，假定现在开始选学计量经济学课程的同学们都已经学习过数理统计学了。即便通过了数理统计的学分考试，也意识到数理统计学在大学的数学基础课教学中，属于比较困难的一部分。况且，同学们对数理统计的掌握可能不是很完备的。其次，大多数人对数学公式、数学符号的健忘，也提醒我们在进一步讨论计量经济学内容之前，必须对数理统计学的基本内容进行一些温习与回顾。,解决问题的思路,1恳请同学们将概率论与数理统计学的书籍拿出来进行复习。2在老师讲授的内容的同时，加强回顾，多思考，多提问。3同学们可以到图书馆借阅计量经济学的参考书。计量经济学的分类号是“F224”，计量经济学理论基础统计学的分类号是“O212”。4熟悉网上资源的使用，逐步养成通过网络了解课程知识的应用。一个很好的经济学网站，人大经济论坛：,主要内容,第一节 总体、样本和随机函数第二节 对总体的描述随机变量的数字特征第三节 对样本的描述样本分布的数字特征第四节 随机变量的分布总体和样本的连接点第五节 通过样本，估计总体（一）估计量的特征第六节 通过样本，估计总体（二）估计方法第七节 通过样本，估计总体（三）假设检验,为什么要复习数理统计学,有部分同学没有学过数理统计，即便学过的同学也知道，数理统计在大学数学中，属于比较难的部分，而且是研修高级课程必不可少的准备。而且许多同学或许对于大部分同学，他们对于数学公式与数学符号的健忘，也提醒我们有必要在展开计量经济学讨论之前，对本课程中经常使用到的数理统计学基本内容事先进行一些温习和回顾。,数理统计学在计量经济学中的地位,事实上不懂得数理统计学就不可能学习和研究计量经济学。数理统计学是计量经济学的基础，它为计量经济学提供了唯一而有效的方法。此外，从某种意义上来说，计量经济学就是使数理统计学在建立经济模型中得以应用的一门科学。,复习数理统计学必须注意,建议同学们将已经学过的西方经济学、数理统计学、线性代数进行一次认真地复习。复习时，注重西方经济学的宏观部分，注重数理统计学科体系的逻辑结构分析、注重数理统计方法的阐述、注重数理统计公式、定义和定理的内在涵义及其相互关系，注重线性代数的求逆和相似形部分。在今后的学习中，注意经济学基本理论及其应用，注意数理统计学基础与计量经济学的联系与活用，注意线性代数与统计量的计量与检验。,第一节 总体、样本和随机函数,四个基本定义与数理统计学的逻辑结构一、随机变量的分布二、二元随机变量三、独立性四、随机变量函数和分布,四个基本定义与数理统计学的逻辑结构,总体和个体样本和样本容量随机变量统计量数理统计学的逻辑结构,总体（集合）和个体（构成集合的元素）,研究对象的全体称为总体或母体，组成总体的每个基本单位称为个体。注意：（1）按组成总体个体的多寡分为：有限总体和无限总体；（2）总体具有同质性：每个个体具有共同的观察特征，而与其它总体相区别；（3）度量同一对象得到的数据也构成总体，数据之间的差异是绝对的，因为存在不可消除的随机测量误差；（4）个体表现为某个数值是随机的，但是，它们取得某个数值的机会是不同的，即它们按一定的规律取值，即它们的取值与确定的概率相对应。,样本和样本容量,总体中抽出若干个个体组成的集体称为样本。样本中包含的个体的个数称为样本的容量，又称为样本的大小。注意：抽样是按随机原则选取的，即总体中每个个体有同样的机会被选入样本。,随机变量,根据概率不同而取不同数值的变量称为随机变量（Random Variable）。注意：（1）一个随机变量具有下列特性：RV可以取许多不同的数值，取这些数值的概率为p，p满足：0=p=1。（2）随机变量以一定的概率取到各种可能值，按其取值情况随机变量可分为两类：离散型随机变量和连续型随机变量。离散型随机变量的取值最多可列多个；连续型随机变量的取值充满整个数轴或者某个区间。,离散型随机变量与连续型随机变量,10 20 30 40 50,1.0,概率,概率,x,x,1.0,离散型随机变量,连续型随机变量,总体与随机变量的关系,表示总体状况的数量特征，在总体中是参差不齐的，往往以一定的概率取不同的数值，显然对于这样的数值我们采用一般的变量是无法加以描述的。但是。可以采用一种特殊的变量来表示它们。这个特殊变量就是随机变量。因为，根据随机变量的定义，随机变量以一定的概率取许多不同的值，而且概率p满足：0=p=1。例如，一批灯泡的寿命可以取许多不同的数值，每个灯泡的取值不一定完全相同，但它们是按一定概率进行分布的，但它们却是以一定的概率取某个寿命值。由此看来，随机变量并不是一个随便变的量。由于我们主要研究总体的数量特征，可以直接用随机变量来表示所研究的总体。,总体、随机变量、样本间的联系,总体就是一个随机变量所有可能的取值，所谓样本就是n个（样本容量n）相互独立且与总体有相同分布的随机变量x1，xn。每一次具体抽样所得的数据，就是n元随机变量的一个观察值，记为（X1，Xn）。通过总体的分布可以把总体和样本连接起来。,从两个角度来描述总体（随机变量）中个体的取值,（1）动态概率随机地选取一个个体取某个具体数值的可能性；（2）静态分布个体取某个数值，从全局来看这个具体的数值（可能不只一个个体取这同一个数值）出现的次数占全体个体个数的比例，形象地说就是这个具体的数值在数轴的这个位置上分布了多少。分布也好、概率也好它们在度量上是一致的。这只是就离散型随机变量的通俗示意。,总体分布是总体和样本的连接点,所谓分布，它是从全局而言的。通俗地说，分布就是某个对象在什么地方，堆积了多少。任何一个随机变量都有自己的分布，这个什么地方就是在数轴上取什么值，堆积多少就是在那里占有的比例是多少或者概率有多大。总体可以表示为随机变量，并具有自身的分布。样本则是相互独立与总体具有相同分布的n元随机变量。因此，总体分布是总体和样本的连接点。从而，可以通过对样本特征的研究达到对总体进行研究的目的。因为它们具有相同的分布。须知，如果对于一个随机变量完全掌握了它的分布规律，就完全明白无误了。,为什么样本是与所来自的总体具有相同的分布的随机变量,因为样本具有二重性：一是指某一次具体的抽样的具体的数值（X1，Xn）；二是指一次抽样的可能结果，它的每一次观察都是随机地从总体中（每一个个体有同样的机会被选入）抽取一个，所以它是一组随机变量（x1，x2，xn）而且，每一次抽样都来自同一总体（分布），也就是每一次抽样都带来了与总体一样的分布信息。所以，样本与所来自的总体分布相同。由于总体分布完整的描述了总体的信息，有时我们也直呼总体为分布，不加区别地使用总体或分布。,统计量,设（x1，x2，xn）为一组样本观察值，函数f（x1，x2，xn）若不含有未知参数，则称为统计量。统计量一般是连续函数。由于样本是随机变量，因而它的函数也是随机变量，所以，统计量也是随机变量。统计量一般用它来提取或压榨由样本带来的总体信息。,样本与总体之间的关系,样本是总体的一部分，是对总体随机抽样后得到的集合。对观察者而言，总体是不了解的，了解的只是样本的具体情况。我们所要做的就是通过对这些具体样本的情况的研究，来推知整个总体的情况。,Xn+1,Xn,X1,样本,总体,数理统计学的逻辑结构,（1）总体和样本引入一个随机变量来描述总体（2）对总体的描述：随机变量的数字特征（3）对样本的描述：样本分布的数字特征（4）总体与样本的连接点：随机变量的分布（5）如何用样本的数字特征估计总体的数字特征及数据生成过程中的各种参数 a 估计量的优良性 b 估计方法 c 对估计量的检验假设检验,a 估计量的优良性,1、无偏性2、有效性3、均方误最小4、一致性,b 估计方法,c 对估计量的检验假设检验,1.对总体分布特征的假设检验（1）一个正态总体的假设检验a 检验均值：已知方差和未知方差b 检验方差：未知均值（双尾和单尾）（2）两个正态总体的假设检验a 检验均值：未知方差但可假设其相等b 检验方差：未知均值（双尾和单尾）（3）总体分布的假设检验a 总体为离散型分布b 总体为连续型分布2.对各种系数、参数估计值的假设检验,一、随机变量的分布,（一）离散型随机变量的分布,定义：如果随机变量只取有限个或可列多个可能值，而且以确定的概率取这些值，则称为离散型随机变量。通常用分布列表示离散型随机变量：的概率分布也可用一系列等式表示：P（=xi）=pi（i=1,2,）称为的概率函数。注意这里xi只出现一次。显然满足概率的定义：离散型随机变量的分布就是指它的分布列或概率函数。,离散型随机变量举例1,例1 一批产品的废品率为5%，从中任取一个进行检验，以随机变量来描述这一试验并写出的分布。以X=0表示“产品为合格产品”，X=1表示“产品为废品”，那么分布列如下：其概率函数p（X=0）=0.95，p（X=1）=0.05，或p（X=i）=（0.05）i（0.95）1-i（i=0,1）,离散型随机变量举例2,用随机变量X描述掷一颗骰子的试验。分布的概率函数为：P（X=i）=1/6（i=1，2，3，4，5，6）,（二）随机变量的分布函数,定义：若X是一个随机变量（可以是离散的，也可以是非离散的），对任何实数x，令F（x）=P（X=x），称F（x）为随机变量X的分布函数。F（x），即事件“X=x”的概率，是一个实函数。对任意实数x1x2，有P（x1Xx2）=P（X=x2）-P（X=x1）=F（x2）-F（x1）由此可知，若已知X的分布函数，就知道X在任何区间上取值的概率。所以，分布函数完整的描述了随机变量的变化情况。,分布函数F（x）的性质,分布函数举例,例3 求例1中的分布函数例4 求例2中的分布函数,（三）连续型随机变量的分布,定义：对于任何实数x，如果随机变量X的分布函数F（x）可以写成概率分布密度函数的性质：,为什么(x)称为概率分布密度函数,连续型随机变量分布函数举例,（四）分布函数、概率函数、密度函数三者的关系,分布函数既适用于离散型也适用于连续型，是描述各种类型随机变量最一般的共同形式。但是，它不够直观。概率函数对于离散型的描述很直观。概率密度函数的大小能够反映X在x附近取值的概率的大小，从而比分布函数更直观。所以，在实际应用中我们分别用概率函数和密度函数对离散型和连续型随机变量进行描述。,二、二元随机变量,n元随机变量的定义：每次试验同时处理n个随机变量（X1，X2，Xn），它们的取值随试验的进行而变化。如果对任何一组实数（x1，x2，xn），事件“X1x1，X2x2，Xnxn”有着确定的概率，则称n个随机变量（X1，X2，Xn）总体为一个n元随机变量。n元随机变量分布函数的定义：n元函数F（x1，x2，xn）=P(X1x1，X2x2，Xnxn)（x1，x2，xn）属Rn，为n元随机变量分布函数。离散二元随机变量的定义：如果二元随机变量（X,Y）所有可能取值为有限或可列多个，并且以确定的概率取各个不同数值，则称（X,Y）为二元随机变量。,(X，Y)的联合分布表和联合分布函数,(X，Y)为离散型的二元随机变量，通常用联合分布函数与联合分布表表示。,离散二元分布函数的示例,例6 同一品种的5个产品中，有2个正品，3个次品，每次从中抽取一个进行质量检查，不放回的抽取，连续两次。令“Xi=0”表示第i次抽取到正品，而“Xi=1”表示第i次抽取到次品，写出(X1,X2)的分布。解 p(X1=0,X2=0)=p(X1=0)P(X2=0)=(2/5)(1/4)=1/10 p(X1=0,X2=1)=p(X1=0)P(X2=1)=(2/5)(3/4)=3/10 p(X1=1,X2=0)=p(X1=1)P(X2=0)=(3/5)(2/4)=3/10 p(X1=1,X2=1)=p(X1=1)P(X2=1)=(3/5)(2/4)=3/10,连续二元随机变量的定义,三、独立性,（一）事件的独立性（二）随机变量的独立性,（一）事件的独立性,定义1.12事件的独立性的定义如果事件A发生的可能性不受事件B发生与否的的影响，即P(A/B)=P(A)，则称事件A对于事件B独立。显然，若事件A对于事件B独立，事件B对于事件A也一定独立，我们称事件A与事件B相互独立。A与B独立的充分必要条件是：P（AB）=P（A）P（B）,（二）随机变量的独立性,定义1.13随机变量相互独立的定义 对于任何实数x,y，如果二元随机变量(X,Y)的联合分布函数F(x,y)等于X和Y的边际分布的乘积，即 F(x,y)=FX(x).FY(y)则称X与Y相互独立。定义1.14边际分布的定义离散型二元随机变量(X,Y)中，分量X（或Y）的概率分布称为(X,Y)的关于X（或Y）的边际分布，边际分布又称边缘分布。,四、随机变量函数的概念和分布,定义1.15 随机变量函数的定义 设f(x)是定义在随机变量X的一切可能取值集合上的函数。如果对于X的每一个可能值x，都有另一个随机变量Y的取值y=f(x)与之相对应，则称Y为X的函数，记作Y=f(X)。我们常常遇到一些随机变量，它们的分布往往难于直接得到（例如滚珠体积的测量值等），但与它们有关系的另一个随机变量的分布却是容易知道的（如滚珠直径的测量值）。因此，就要研究两个随机变量之间的关系，然后通过它们之间的关系，由已知随机变量的分布求出与之有关的其它随机变量的分布。其间的关系通常用函数关系表示。,第二节 对总体的描述随机变量的数字特征,一、数学期望二、方差三、数学期望与方差的图示,一、数学期望,研究数字特征的必要性两个最重要的数字特征（1）数学期望（2）方差,研究数字特征的必要性,总体就是一个随机变量。对总体的描述就是对随机变量的描述。随机变量的分布就是对随机变量最完整的描述。但是，（1）求出总体的分布往往不是一件容易的事情；（2）而且，在很多情况下，我们并不需要全面考察随机变量的变化情况，只需要了解总体的一些综合指标。一般说来，常常需要了解总体的一般水平和它的离散程度；（3）如果了解总体的一般水平和离散程度，就已经对总体有了粗略的了解了；（4）在很多情况下，了解这两个数字特征还是深入求出总体分布的基础和关键。由此看来，研究随机变量的数字特征是十分必要的。,数学期望的定义,定义2.1离散型随机变量数学期望的定义假定有一个离散型随机变量X有n个不同的可能取值x1,x2,xn，而p1,p2,pn是X取这些值相应的概率，则这个随机变量X的数学期望定义如下：数学期望描述的是随机变量（总体）的一般水平。定义2.2连续型随机变量数学期望的定义,女儿期待父亲钓多少鱼回家？,数学期望是最容易发生的，因而是可以期待的。它反映数据集中的趋势。,数学期望的性质,（1）如果a、b为常数，则 E(aX+b)=aE(X)+b（2）如果X、Y为两个随机变量，则 E(X+Y)=E(X)+E(Y)（3）如果g(x)和f(x)分别为X的两个函数，则 Eg(X)+f(X)=Eg(X)+Ef(X)（4）如果X、Y是两个独立的随机变量，则 E(X.Y)=E(X).E(Y),求离散型随机变量数学期望举例,例1 甲、乙两射手在一次射击中的得分（分别用X、Y表示）的分布率如下：试比较两射手的射击技术水平，并计算如果二人各发一弹，他们得分和的估计值。解 EX=1 0.4+2 0.1+3 0.5=2.1 EY=1 0.1+2 0.6+3 0.3=2.2 E(X+Y)=2.1+2.2=4.3 EXEY 乙射手射击水平比较高 二人各发一弹，得分总和最可能在4.3分左右（即4分或5分）,二、方差,定义2.4 离均差的定义 如果随机变量X的数学期望E(X)存在，称X-E(X)为随机变量X的离均差。显然，随机变量离均差的数学期望是0，即 E X-E(X)=0定义2.3 连续型随机变量的方差定义2.5 随机变量离均差平方的数学期望，叫随机变量的方差，记作Var(x),或D(x)。方差的算术平方根叫标准差。,方差的意义,（1）离均差和方差都是用来描述离散程度的，即描述X对于它的期望的偏离程度，这种偏差越大，表明变量的取值越分散。（2）一般情况下，我们采用方差来描述离散程度。因为离均差的和为0，无法体现随机变量的总离散程度。事实上正偏差大亦或负偏差大，同样是离散程度大。方差中由于有平方，从而消除了正负号的影响，并易于加总，也易于强调大的偏离程度的突出作用。,方差的性质,（1）Var(c)=0（2）Var(c+x)=Var(x)（3）Var(cx)=c2Var(x)（4）x,y为相互独立的随机变量，则Var(x+y)=Var(x)+Var(y)=Var(x-y)（5）Var(a+bx)=b2Var(x)（6）a,b为常数，x,y为两个相互独立的随机变量，则(ax+by)=a2Var(x)+b2Var(y)（7）Var(x)=E(x2)-(E(x)2,例2 计算本节例1中甲射手的方差,例1 甲、乙两射手在一次射击中的得分（分别用X、Y表示）的分布率如下：E(X)=2.1Var(X)=（-1.1）2 0.4+（-0.1）2 0.1+0.92 0.5=0.89,三、数学期望与方差的图示,数学期望描述随机变量的集中程度，方差描述随机变量的分散程度。1方差同、期望变大 2期望同、方差变小,第三节 对样本的描述样本分布的数字特征,一、样本分布函数二、样本平均数三、样本方差,一、样本分布函数,样本分布函数举例,二、样本平均数,总体的数字特征是一个固定不变的数，称为参数；样本的数字特征是随抽样而变化的数，是一个随机变量，称为统计量。定义3.1样本平均数的定义样本平均数用来描述样本的平均水平（一般Common）水平。,三、样本方差和标准差,定义3.2 样本方差和标准差的定义,第四节 随机变量的分布总体和样本的连接点,一、几种重要的分布二、各种分布之间的联系三、分布是总体和样本之间的连接点学习的重点应放在确定X服从什么分布，和各种分布的联系上。,一、几种重要的分布,如果一个随机变量的分布已经确定，那么这个随机变量的一切性质对于我们便都是已知的。因为随机变量的分布是对随机变量最完整的描述。例如X是广西十万大山中树木的高度，它的分布函数为F(x)=P(X=x)。此时，你对任意给定的高度x，都确知不超过这个高度的树木在整个十万大山中所占的比例，你还会说整个十万大山树木高度的情况不清楚吗？再如，已知X服从数学期望和方差已知的正态分布，那么你便了解这个X自身的一切性质。可以通过查正态分布表确定研究中所需的一切数据。分布的数学形式和图形属“技术问题”，精力应集中于X究竟属于何种分布上。,1.分布,（1）分布的定义（2）定理4.1 分布的数学期望和方差,2.指数分布,（1）指数分布的定义（2）定理4.2 指数分布的数学期望和方差,3.2 分布,（1）定义4.3 2 分布的定义（2）定理4.3分布的和仍然服从分布,定理4.3推论：2 分布的和仍然服从 2 分布,若X1,X2,Xn相互独立，且Xi服从具有ni（i=1,2,，n）个自由度的 2 分布，则它们的和X1+X2+Xn 服从具有 ni 个自由度的 2 分布。,4.正态分布,定义4.4正态分布的定义定理4.4 正态分布的数学期望和方差定义4.5 标准正态分布,正态分布的标准化,定理4.5 正态分布标准化,5.t分布,定义4.6 t分布的定义,6.F分布,定义4.7 F分布的定义,2 分布的图象,t分布和正态分布,F分布的图象,二、各种分布之间的联系,1.一般正态分布与标准正态分布的关系定理4.6 如果XN（，2），则（X-）/N（0，1）2.标准正态分布与X2分布之间的关系定理4.7 如果XN（0，1），则X2 X2（1），即服从具有1个自由度的分布。3.标准正态分布与t分布之间的关系其密度函数见定义4.6。,二、各种分布之间的联系,4.卡方分布与F分布之间的关系5.关于正态分布的和,二、各种分布之间的联系,6.关于X2分布（参阅定理4.3推论）,怎样记忆上述7个定理,三、分布是总体和样本之间的连接点,三、分布是总体和样本之间的连接点,三、分布是总体和样本之间的连接点,这是两个相互独立总体的样本平均数差数与总体数学期望差数之间的联系的定理。,三、分布是总体和样本之间的连接点,相互独立两个总体样本方差与总体方差间联系的定理。,相互独立两个总体样本方差与总体方差间联系的定理的证明,总体与样本间的联系在于具有相同的分布,总体就是一个随机变量，所谓样本就是n个相互独立的与总体具有相同分布的随机变量x1,xn，即n元随机变量。以上的定理就是将总体与样本间的这种联系具体化，从而为达到通过样本的特征估计和代替总体的特征铺平道路。例如，已知一个研究对象的数量特征服从N(,2)，那么依据定理4.6，首先将其标准化，然后查标准正态分布表，就可以获得所需的信息。如果，对研究对象了解的信息并不完备，只知其属于正态分布均值为，但未知方差，则可利用定理4.15通过s2代替2，用t分布来估计未知总体的数字特征。在区间估计和假设检验中将会广泛地利用这些定理，通过样本估计总体和检验对总体的假设。,第五节 通过样本，估计总体（一）估计量的特征,对总体的数量特征可以提出若干估计量。所谓估计量的特性指的是衡量一个统计量用以估计总体参数的好坏标准。我们构造一个统计量时，它们就应当具有这些优良性，否则就不采用他来估计总体参数。估计量的优良性可从四个方面进行衡量：一、无偏性二、有效性三、均方误最小性四、一致性,一、无偏性,无偏性的直观意义：根据样本推得的估计值和真值可能不同，然而如果有一系列抽样依据同一估计方法就可以得到一系列估计值，很自然会要求这些估计的期望值与未知参数的真值相等。这就是无偏性的概念，无偏性的直观意义是：样本估计量的数值在真值周围摆动，即无系统误差。,定义5.1 无偏性的定义,的真值,的真值,有偏,无偏,例1,两个相互独立样本的合并均值与合并方差分别是总体均值和方差的无偏估计,如果从总体中抽取两个相互独立的样本，一个的容量n1，另一个容量为n2，可以证明合并均值与合并方差是总体均值与方差的无偏估计。,无偏性是估计量最重要的优良性，且参数的无偏估计量不只一个,无偏性是对估计量最重要的要求之一，它只能保证估计量的期望等于真值。而且，对于总体某个待定参数，其无偏估计量不只一个。例如，可以验证都是总体数学期望的无偏估计量。必须指出根据计算总体方差的公式计算的样本方差不是总体方差的无偏估计量。,二、有效性,总体某个参数的无偏估计量往往不只一个，而且无偏性仅仅表明的所有可能的取值按概率平均等于，它的可能取值可能大部分与相差很大。为保证的取值能集中于附近，必须要求的方差越小越好。所以，提出有效性标准。,有效性的定义,比较总体均值两个无偏估计的有效性,无偏有效估计量的意义,（1）一个无偏有效估计量的取值在可能范围内最密集于附近。换言之，它以最大的概率保证估计量的取值在真值附近摆动。（2）可以证明，样本均值是总体数学期望的有效估计量。,三、均方误（Mean Square Error）最小性,在很多情况下，我们被迫在偏差的大小与方差的大小（即无偏与有效性）之间作出抉择。有时，一个方差极小的有偏估计比一个方差极大的无偏估计可能更为我们所追求。此时，估计量的均方误为我们在两者之间的权衡提供了一个有效的尺度。,均方误和均方误最小性的定义,均方误最小的意义,（1）MSE（误差）分解为精确度与准确度之和。MSE最小就是使估计量方差与估计量偏误之和最小，给出了进行权衡的方法（见下图）（2）如果估计量为无偏估计量Bias=0，那么 MSE()=Var()即误差由精确度确定。此时，一个具有最小MSE的估计量一定具有无偏性和有效性，即 MinMSE()=MinVar()。,运用MSE权衡偏差与方差,重庆长安厂4支比赛用枪的抽样结果,一次射击就是一次抽样。试问：哪些是无偏估计？哪些是有偏估计？哪些是有效估计？哪些是无偏有效估计？,四、一致性,（1）“依概率收敛”的定义（2）一致性（3）一致性的意义,（1）“依概率收敛”的定义,（2）一致性,一致性既是从概率又是从极限性质来定义的，因此只有样本容量较大时才起作用。一致性作为评价估计量好坏的一个标准，计量经济学家在无偏性和一致性之间更偏重选择一致性。虽然一个一致估计量可能在平均意义上与真值不同，但是当样本容量加大时，它会变得与真值十分接近，即有偏的一致估计量具有大样本下的无偏性。同时，根据大数定律，当n增大时，方差会变得很小，所以一致估计量具有大样本下的“无偏性”和“有效性”。,（3）一致性的意义,显然，一个一致估计量比一个方差很大的无偏估计量优越得多。由于MSE()=Var()+Bias()2，所以估计量的一致性，实际上等价于当n=时，MSE()=0，亦即Var()=0和Bias()2=0，也就是随着样本加大，的方差变小；的偏差接近于0，这就是一致性描述的情况。事实上一致性和MSE（）=0（当n=）这两条标准在计量经济学中往往是通用的。,第六节 通过样本，估计总体（二）估计方法,一、点估计（1）矩法（2）最大似然法（3）最小二乘法二、区间估计（一）对总体期望值的估计（二）对总体方差的估计（三）关于区间估计的几点说明,一、点估计,所谓点估计就是给出被估计参数的一个特定的估计值。常用的点估计方法有四种：矩法、最大似然法、最小二乘法和X2法。这四种方法分别建立在不同的原则上。对同一样本根据四种方法估计同一参数，所获得的估计结果可能互不相同。然而由于各种建立原则的合理性，所以四种方法在研究中都经常使用。,（1）矩法,矩法是求估计量最古老的方法。具体作法是：以样本矩作为相应总体矩的估计量；以样本矩的函数作为相应的总体矩同样函数的估计量。这种方法最常见的应用是用样本平均数估计总体数学期望。矩法比较直观，求估计量时有时也比较直接，但它求出的估计量往往不够理想。,矩法点估计的例题,例1某灯泡厂某天生产了一大批灯泡，从中抽取了10个进行寿命试验，获得数据如下（单位：小时），问该天生产的灯泡的平均寿命是多少？,（2）最大似然法(Maximum Likelihood Estimation),1、一个重要的事实2、最大似然法的概念3、似然法函数4、最大似然法的定义5、最大似然法的三个示例,1、请注意如下事实,不同的总体会产生不同的样本，对于某一特定的样本，在我等不了解产生它的母体究竟为何物的观察者眼中，它来自一些母体的可能性要比来自另一些母体的可能性大，即一些母体更容易产生出我们所观察到的样本。举例说，假定我们抽取到（x1,x2,x8）我们知道它来自正态总体，且总体的方差是了解的，但是总体的均值未知。如下图所示。,2、最大似然法的概念,上述事实诱导我们宁愿作出这样的抉择：将样本最容易来自的总体当作产生样本的总体。现在要根据从总体中抽取得到的样本(x1,xn)对总体中的未知数进行估计。最大似然法是选择这样的估计量作为的估计值，以便使观察结果(x1,xn)出现的可能性（概率）最大。对于离散型变量，就是要选择使p(x1)p(x2)p(xn)最大。（连乘表示一次独立地抽取各个样本观察值）对于连续型变量，就是要选择使(x1)(x2).(xn)最大。注意(xi)是随机变量在xi附近取值的概率，相当于离散型的p(xi)。,3、似然法函数,4、最大似然法的定义,5、最大似然法的估计方法,为了取得的最大似然估计，必须使似然函数L达到最大值，并且把此时的作为的估计量。由于对数函数是单增的，L达到最大亦即LnL达到最大。这样使LnL达到最大来估计为计算带来了许多方便。根据微分中的拉格朗日定理，对未知参数求条件极值，令LnL对 的一阶导数等于0，即dLnL/d=0=得到似然方程，我们所求的就是似然方程中的解。,5、最大似然法示例之一,5、最大似然法示例之二,例4 某电子管的寿命服从例3中的分布（实际上多为指数分布）抽取一组样本，其具体数值如下：根据例3的结果，在最大似然法下，指数分布中的，应用样本平均数估计。=(16+29+800+110)=318（小时）,5、最大似然法示例之三已知N(,2)，以一组样本观察值估计的参数,（3）最小二乘法(Least Square Estimation Method),最小二乘法是计量经济学中应用最广泛的一种估计方法。这是本课研究的重点问题，在以后各章中将详尽地阐述它的原理、步骤、特性和优越处。这里暂时不加以讨论。,二、区间估计,（一）对总体期望值的估计1、已知方差，对数学期望E进行区间估计（1）方差已知，估计总体数学期望（2）正态总体（3）一般总体大样本下数学期望的区间估计2、方差未知，对对数学期望E进行区间估计（二）对总体方差的估计（三）关于区间估计的几点说明,区间估计的概念,所谓区间估计就是以一定的可靠性给出被估计参数的一个可能的取值范围。用点估计估计参数，即使是无偏有效的估计量，也会由于样本的随机性，使得由样本计算出的估计值并不恰恰是真值。而且即使等于真值，由于真值未知，我们也不能肯定这种相等。那么，究竟相差多少？于是问题等价为：在给定可靠程度下，指出被估计参数所在的可能值的范围，就是参数的区间估计问题。具体作法是找出两个统计量1(x1,xn)与2(x1,xn)，使 P(2 2)=1-(1,2)称为置信区间，1-称为置信系数（置信度），称为冒险率（测不准的概率），一般等于5%或1%。,对区间估计的形象比喻,我们经常说某甲的成绩“大概80分左右”，可以看成一个区间估计问题。（某甲的成绩为被估计的参数）P(1 2)=大概的准确程度（1-）如：P(75 85)=95%=1-5%,“大概80分左右”,冒险率（假设检验中叫显著水平）,下限,上限,（一）对总体期望值的估计,1、已知方差，对总体数学期望E=进行区间估计,（1）方差已知分布未知，估计总体数学期望,对这种情况的处理，需要用到切比雪夫不等式。,下限,上限,电子管寿命的置信区间,例6 在本节例1中，如果已知当天生产的电子管寿命的方差为8，试找出电子管寿命的置信区间（=5%）。,（2）正态总体,假设总体服从正态分布N(,8)求的置信区间,例7 本节例1中再假设总体服从正态分布，求电子管寿命的置信区间（=5%）。,（3）一般总体大样本下数学期望E的区间估计,中心极限定理指出，在很宽的条件下，无论是否为正态总体（，2），当样本容量相当大时，也有样本平均数渐进地服从正态分布。一般说来，在n=30时，就可以把样本平均数近似地看作服从正态分布N(，2/n)。所以，对于大样本仍可以按正态总体进行均值的区间估计。,2、方差未知，对对数学期望E进行区间估计,（1）大样本下根据中心极限定理，V 可以用s2代替，所以仍按已知方差正态分布的方法进行的置信区间估计。（2）小样本下,例8 新生儿体重的置信区间,假设新生儿（男）的体重服从正态分布。随机抽取12名新生儿，测得体重如下表，试以95%的置信度估计新生儿（男）的平均体重。,对总体方差的区间估计,