参数的最大似然估计与矩估计.ppt

5.2 参数的最大似然估计与矩估计,是在总体类型已知条件下使用的一种参数估计方法.,1.了解最大似然估计法的基本思想；,2.熟练使用最大似然法估计未知参数.,先看一个简单例子：,一位同学与一位猎人一起外出打猎.,一只野兔从前方窜过.,只听一声枪响，野兔应声倒下.,是谁打中的呢？,如果要你推测，,只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的.,一、最大似然估计的基本思想,一次试验就出现的事件有较大的概率,似然函数：,最大似然法的思想,选择适当的=,使 取最大值,即,二、求最大似然估计量的步骤,对数似然方程,例1 设总统X的概率分布为,(1)似然函数为,估计量的评选的三个标准,无偏性,有效性,相合性,常用构造估计量的方法:,3.最小二乘法,4.贝叶斯方法,1.最大似然估计法,2.矩估计,(1)似然函数为,(1)似然函数为,例4 设X1,X2,Xn是取自总体X的一个样本,(1)似然函数为,三、最大似然估计的性质,不变性,1.待估参数的最大似然估计值可能不存在,也可能不惟一.,无驻点,考察边界上的点.,最大似然估计法也适用于分布中含有多个未知参数的 情况：,对数似然方程组,(1)似然函数为,易见 a 越大,b 越小,L 越大.,(1)似然函数为,矩估计法的方法要点：,假设总体X中的待估参数有l个：另设总体X的k阶原点矩EXk存在,记为,矩是描述随机变量的最简单的数字特征。样本矩一定程度上也反映了总体的特征，用样本矩来估计与之相应的总体矩的方法，称为矩估计法。,便是待估参数 的矩估计量。,矩估计法,例1 设总体X有分布律,其中(0,1)为待估参数。又设(X1,X2,Xn)为总体X的样本,试求的矩估计量，并就样本值(3,1,2,2,3,2),求的估计值。,解 由于,于是，待估参数的矩估计量为,对给定样本值可得的矩估计值为,.,本例说明，总体均值和总体方差的矩估计与总体的分布无关。,例4 设总体X服从(a,b)上的均匀分布,其中a,b 未知.试求a,b的矩估计。,解：由于,故,于是，由,解之，得,分别为a，b的矩估计。,思考题,作业：192 1/(1)4,用最大似然法估计湖中的鱼数：,第二次捕出的有记号的鱼数X是r.v,X具有超几何分布：,为了估计湖中的鱼数N，第一次捕上r条鱼，做上记号后放回.隔一段时间后,再捕出S条鱼,结果发现这S条鱼中有k条标有记号.根据这个信息，如何估计湖中的鱼数呢？,=L(N;k).,需求使L(N;k)达到最大的N，,但用对N求导相当困难,故考虑比值：,=L(N;k).,经过简单的计算知，这个比值大于或小于1，,需求使L(N;k)达到最大的N，,但用对N求导相当困难,故考虑比值：,当N增大时，序列PX=k;N先是上升而后下降;,故N的最大似然估计为,