概率统计总复习.docx

概率统计总复习第一章 随机事件及其概率 一、事件的关系与运算 AB=A-B=A-AB AÈB=AB,AB=AÈB 二、概率的统计定义，古典概型概率的性质 频率kN®p(A)=p N古典概型的特征：有限性；等可能性 概率的性质：0£P(A)£1 P(W)=1，P(F)=0，反之不成立 P(AÈB)=P(A)+P(B)-P(AB) 特殊情况是什么？ P(AÈA)=P(A)+P(A)=1, P(A)=1-P(A) (4) P(A-B)=P(A)-P(AB) 有什么特例？ 三、条件概率、乘法公式、事件的独立性 P(A|B)=P(AB)P(AB) P(B|A)= P(B)P(A)P(AB)=P(A)P(B|A)=P(B)P(A|B) P(ABC)=P(A)P(B|A)P(C|AB) 若A与B互相不产生影响，则称A与B相互独立。 A与B独立ÛP(AB)=P(A)P(B) 条件概率等于无条件概率。 三个事件独立的公式 n个事件独立的公式 独立的条件下： P(AAn=)PA(1P)A(An (1A2.2P). P(A1A2.An)=P(A1)P(A2).P(An) )P(A1A2.An)=1-P(A1A2.An)=1-P(A1)P(A2).P(An)独立试验序列概型 Cnp(1-p)四、全概率公式与贝叶斯公式 kkn-k，k=0,1,2,.,n称为贝努里公式 B1,B2,.,Bn是完备事件组，且均有正概率，则对任一事件A，有 P(A)=åP(Bi)P(A|Bi)全概率公式 i=1nP(Bj|A)=P(Bj)P(A|Bj)åP(B)P(A|B)iii=1n贝叶斯公式 又称为逆概公式 第二章 随机变量及其概率分布 ì离散型ï一、随机变量íì连续型 非离散型íïî非连续型îì(1)0£F(x)£1ï(2)F(x)是x得单调不减函数ï分布函数 F(x)=P(X£x)的性质í ï(3)F(-¥)=0,F(+¥)=1ïî(4)F(x)关于x右连续二、离散型随机变量 如果随机变量的所有可能取值为有限个或至多可列个，则称X为离散型随机变量。常见的离散型随机变量有 P(X=xi)=pi,i=1,2,.pi³0åp=1 F(x)=åpixk£xk01分布 Xb(1,p) E(X)=p Var(X)=p(1-p)£xx二项分布 Xb(n,p) P(X=x)=Cp(1-n1 4-nxp) E(X)=np Var(X)=npq Poission分布 XP(l) P(X=x)=lxx!e-l x=0,1,2,. E(X)=l Var(X)=l 当n充分大，p又很小时，二项分布以Poission分布为极限 P(X=x)=Cp(1-p)三、连续型随机变量 xnxn-x(np)x-(np)»e x=0,1,2, .x!Xp(x) p(x)³0 åp(x)dx=1 -¥+¥F(x)=òp(t)dt p(x)=F'(x) -¥xì1ïXUa,b p(x)=íb-aïî0ì0ïx-aa£x£bï F(x)=íïb-a其它ïî1xaa£xb 其它a+b(b-a)2 E(X)= Var(X)= 212ìle-lxXExp(l) p(x)=íî0 E(X)=ì1-e-lx F(x)=íx£0î0x0x0x£01l Var(X)=1l2XN(m,s2) p(x)=1e2ps-(x-m)22s2 E(X)=m Var(X)=s2 x1-x21-t2XN(0,1) p(x)=e F(x)=òedt -¥2p2p22满足F(x)+F(-x)=1 或 F(x)=1-F(-x) XN(m,s2) 那么 Y=ìlaa-1-lxxeïXGa(a,l) p(x)=íG(a)ï0î E(X)=X-msx0x£0N(0,1) aa Var(X)=2 llìG(a+b)a-1x(1-x)b-10x1aï E(X)= XBe(a,b) p(x)=íG(a)G(b)a+bï0其它î四、随机变量的函数的分布 X是随机变量，Y=g(X)是随机变量的函数，它的分布称为随机变量函数的分布。 离散型比较容易；连续型主要掌握分布函数法。 特别是：F(X)是某个连续型随机变量的分布函数，Y=F(X)一定服从上的均匀分布。 五、随机变量的数字特征 2ìåxkìåxkpkpkïïk2E(X)=ík+¥ E(X)=í +¥ïòxp(x)dxïòx2p(x)dxî-¥î-¥数学期望 E(X) 方差 Var(X)或D(X) 标准差sX或s(X) 原点矩 mk=E(Xk) 中心矩 vk=E(X-EX)k 变异系数 Cv=v2m1=Var(X)EXv3E(X-EX)3偏度 b1= =3/23/2(v2)Var(X)v4E(X-EX)4峰度 b2=2-3=-3 v2Var(X)2中位数、分位数 以上数字特征的概率意义！ Chebyshev不等式： PX-EX³e£ Var(X)e2PX-EXe³1-Var(X)e2第三章 多维随机变量 一、联合分布、边缘分布与独立性 P(X=xi,Y=yj)=pij,i=1,2,L;j=1,2,L pij³0 ååpij=1 ijpi=åpij,i=1,2,. pj=åpij,jij=1,2,. X与Y相互独立Ûpij=pipji,j=1,2,.对所有i,j都成立 分布函数 F(x,y)=P(X£x,Y£y) FX(x)=P(X£x)=P(X£x,Y£+¥)=F(x,+¥) FY(y)=P(Y£y)=P(X£+¥,Y£y)=F(+¥,y) X与Y相互独立ÛF(x,y)=FX(x)FY(y)对所有x,y都成立。 联合密度函数p(x,y) p(x,y)³0 xyòò-¥+¥+¥-¥p(x,y)dxdy=1 ¶2F(x,y) F(x,y) =òòpu(v,dudv) p(x,y)=-¥-¥¶x¶y pX(x)=ò+¥-¥f(x,y)dy pY(y)=ò+¥-¥f(x,y)dx X与Y相互独立Ûp(x,y)=pX(x)多项分布 二维均匀分布 pY(y)对所有x,y都成立。 a,b´c,d上的均匀分布üý它们的边缘分布、独立性 222x+y£r上的均匀分布þ2二维正态分布(X,Y)N(m1,m2,s12,s2,r) p(x,y)=12ps1s21-r2e-12(1-r)2(x-m1s1)2-2r(x-m1s1)(y-m2s2)+(y-m2s2)2pX(x)=1e2ps1-(x-m1)22s122，XN(m1,s1) E(X)=m1 Var(X)=s12 pY(y)=1e2ps2-(x-m2)22s222，YN(m2,s2 E(Y)=m)Var(Y)=s222 Cov(X,Y)=rs1s2 rXY=r 二、随机向量函数的分布 最大值与最小值的分布：X1,X2,.,Xn独立同分布，分布函数为FX(x)，密度函数为pX(x)。求max(X1,X2,.,Xn) min(X1,X2,.,Xn)的分布。 令Y=max(X1,X2,.,Xn) Z=min(X1,X2,.,Xn) FY(y)=FX(y)n FZ(z)=1-1-FXz(n )pY(y)=nFX(y)n-1pX(y) pZ(z)=n1-FX(z)n-1pX(z) 用在具体分布之上，特别是U0,1之上，应该如何处理？ 卷积公式： XP(l1)，YP(l2)且X,Y相互独立，则 X+YP(l1+l2) Xb(m,p)，Yb(n,p)且X,Y相互独立，则 X+Yb(m+n,p) XpX(x)，YpY(y)且X,Y相互独立，则 ì+¥p(x)p(z-x)dxYïò-¥X 卷积公式 Z=X+YpZ(z)=í+¥ïòpX(z-y)pY(y)dyî-¥XN(m1,s12)，YN(m2,s22)且X,Y相互独立，则 2X+YN(m1+m2,s12+s2) 三、多维随机变量的特征数 E(X)，E(X2)，E(Y)，E(Y2)，E(XY) ìååg(xi,yj)pijïijEg(X,Y)=í +¥+¥ïg(x,y)p(x,y)dxdyîò-¥ò-¥协方差： Cov(X,Y)=E(XY)-E(X)E(Y) 相关系数： rXY=Cov(X,Y)； 相关系数的概率意义 =Corr(X,Y)D(X)DYD(X±Y)=D(X)+D(Y)±2Cov(X,Y) 几个等价的关系式：Var(X±Y)=Var(X)+Var(Y)ÛCov(X,Y)=0 ÛE(XY)=E(X)E(Y)ÛrXY=0ÛX与Y不相关 四、中心极限定理 X1,X2,.,Xn独立同分布，EXk=m,DXk=s2,k=1,2,L，当n充分大时， åXk=1nkN(nm,ns2)ÞåXk=1nk-nmnsN(0,1) XB(n,p)，当n充分大时，那么 X N(np,npq)ÞX-npnpqN(0,1) 应用中心极限定理的关键是构造独立和。 第四章 统计量及其分布 一、总体、样本、统计量 研究对象的全体称为总体，总体就是一个随机变量X。 X1,X2,.,Xn是取自总体X的样本，它满足两个条件：X1,X2,.,Xn相互独立；X1,X2,.,Xn均与X具有相同的分布。 样本的联合分布与经验分布函数 统计量是样本的函数，它不含任何未知参数 T=T(X1,X2,.,Xn) 1n常见的统计量：样本均值 X=åXi ni=11n 样本方差 S=(Xi-X)2 ån-1i=121n 样本标准差 S=(Xi-X)2 ån-1i=11nk 样本的k阶原点矩 Ak=åXi ni=1 样本的k阶中心矩 1nBk=å(Xi-X)k ni=1 次序统计量 X(1=)minX1,X2,.,Xn X(m)=maxX1,X2,.,Xn 样本极差 R=X(n)-X(1) n为奇数ìXn+1ï2ï 样本中位数md=í 1ïXn+Xnn为偶数(+1)ïî2(2)2 上、下四分位数 Q1，Q3 X(1)，Q1，Q3，md，X(n)之间的关系，箱线图 二、统计学中的几个重要的分布及其构造 1，正态分布与标准正态分布 N(m,，N(0,1) s2)大样本 X1,X2,.,Xn独立同分布， 2，c2分布 若X1,X2,.,Xn相互独立，且均服从标准正态分布N(0,1)，则 222服从自由度为n的c分布。 X=X12+X2+.+Xn22特例：XN(0,1)，YN(0,1)，且X,Y相互独立，那么X+Y服从自由度为2的åXk=1nkN(nm,ns2) c2分布c2(2)，也就是l=3，t分布 1的指数分布。 2XN(0,1)，Yc2(n)，且X,Y相互独立，则t= 4，F分布 Xt(n)。 Y/nX/n1F(n,m)，F(m,n)。 Y/mFXc2(n)，Yc2(m)，且X,Y相互独立，则F=三、抽样分布 X1,X2,.,Xn是来自正态总体N(m,s2)的样本，X，S2分别为样本均值与样本方差，则： XN(m,s2n) X-mN(0,1) s/nX-mt(n-1) s/nc2(n-1) (n-1)S2s2 X1,X2,.,Xn是来自正态总体XN(m1,s12)的样本，X，S12分别为样本均值与样本方差；22分别为样本均值与样本方差。 Y1,Y2,.,Ym是来自正态总体YN(m2,s2)的样本，Y，S2则： X-YN(m1-m2,s12n+2s2m) X-Y-(m1-m2)s12n+2s2N(0,1)； mX-Y-(m1-m2)t(n+m-2) 11Sw+nm2(n-1)S12+(m-1)S2S12/s12Sw=； F=2F(n-1,m-1) 2n+m-2S2/s2第五章 参数估计 估计量、估计值、点估计、区间估计 一、点估计的方法与评价估计量的标准 1，矩估计 用样本矩代替总体矩，用样本矩的函数代替总体矩的同一个函数，从而达到对总体参数估计的目的，这种方法称为矩估计法。 1nE(X)的矩估计为X；Var(X)的矩估计为S=å(Xi-X)2 ni=12n2，极大似然估计法 似然函数L(x1,x2,.,xn;q1,q2,.,qm)，取对数lnL，构造对数似然方程并求解 ì¶lnLï¶q=0ï1ï¶lnL=0ï,q¶q 得出极大似然估计qí212,.,qm。 ï.ïï¶lnLï¶q=0îm 不能通过求导得出的极大似然估计的方法 3、估计量的评价标准 无偏性、有效性、相合性、均方误差最小 样本均值X是总体均值EX的无偏估计量 E(X)=E(X) Var(X)=样本方差S是总体方差Var(X)的无偏估计量 E(S)=Var(X) 这些性能都是特别好的。 二、区间估计 区间估计的基本概念，置信区间，置信上、下限，置信度，置信区间的概率意义，枢轴量 在什么条件下，求正态总体参数的估计？重要的是选择枢轴量。 2Var(X) n21， 正态总体XN(m,s2)， 方差s已知的条件下，m的1-a置信区间为X±u1-a/22sn； 方差s未知的条件下，m的1-a置信区间为 X±t-1)1-a/(2n2s næ(n-1)S2(n-1)S2ö均值m未知的条件下，s的1-a置信区间为ç2,2÷ èc1-a/2(n-1)ca/2(n-1)ø222， 两个正态总体XN(m1,s12)，YN(m2,s2)， 2方差s12，s2已知的条件下，m1-m2的1-a置信区间为 (X-Y)±u1-a/2s12n+2s2m2方差s12，s2未知但相等的条件下，m1-m2的1-a置信区间为 211(n-1)S12+(m-1)S2 + Sw=nmn+m-2(X-Y)±t1-a/2(n+m-2)Sws12均值m1,m2未知的条件下，2的1-a置信区间为 s2æS12öS1211,ç2÷2SF(n-1,m-1)SF(n-1,m-1)2a/2è21-a/2ø22æS1öS11=ç2,2F1-a/2(m-1,n-1)÷SF(n-1,m-1)S2è21-a/2ø3， 单侧置信区间要注意区分 4， 比率的区间估计，大样本场合下p近似置信区间 a=n+u12-a/2，b=-(2nX+u12-a/2)，c=nX2 -b-b2-4ac-b+b2-4ac pL=；pU= 2a2ap的置信水平为1-a的置信区间为pL,pU。 第六章 假设检验 一、假设检验的基本原理与步骤 小概率原理，原假设与备择假设，检验统计量，显著性水平，拒绝域，两类错误 1， 提出原假设与备择假设； 2， 选择检验统计量，并提出当原假设成立的条件下，检验统计量所服从的分布； 3， 根据给定的显著性水平，确定拒绝域； 4， 将样本数据代入统计量的值，作出结论。 二，正态总体参数的假设检验 1，U检验单总体 检验均值 方差已知 两总体 检验均值 方差已知 2，t检验 单总体 检验均值 方差未知 两总体 检验均值 方差未知但相等 3，c2检验 单总体 检验方差 一般来说均值未知 4，F检验 两总体 检验方差 一般来说均值未知。其中包括单边检验和双边检验 5， 初步了解比率的检验。 三、假设检验的p值 假设检验的p值是以样本观测值为边界设定拒绝域，检验统计量在拒绝域内取值的概率。 四、c2拟合优度检验 非参数检验 总体为离散型的包括不含未知参数和含有未知参数两种 总体为连续性的 ，带有未知参数的 列联表的独立性检验 第七章 方差分析与回归分析 一、单因子方差分析 方差分析是用来检验多个正态总体在具有方差齐性的条件下，均值是否全部相等的一种方法。 统计模型íìyij=mi+eij,i=1,2,.,r;j=1,2,.,mi2 î各eij相互独立，且均值服从正态分布N(0,s)H1:m1,m2,.,mr不全相等 H0:m1=m2=.=mrìyij=m+ai+eiji=1,2,.,r;j=1,2,.,mi数据结构式ïrï效应约束条件 íåmiai=0ïi=1ïeijN(0,s2)且各eij相互独立误差的假定îH0:a1=a2=.=ar=0 H1:a1,a2,.,ar不全为0 ST=åå(yij-y)=åå(yij-yi×+yi×-y)2 2i=1j=1rmii=1j=1rrmirmi =åå(yi=1j=1rmiij-yi×)+åmi(yi-y)2 2i=1Se=åå(yij-yi×)2 i=1j=1ryi2y2SA=åmi(yi-y)=å- ni=1i=1mi2r方差分析表 误差来源 组间平方和A 组内平方和e 总合T 平方和 自由度df 均方和 F比 SA fA=r-1 VA=SA/fA Se fe=n-r Ve=Se/fe F=VA VeST fT=n-1 拒绝域W=F³F,n-r) 1-a(r-1二、一元线性回归分析 给定数据(x1,y1)，(x2,y2)，(xn,yn),散点图，呈线性相关关系， ìyi=b0+b1xi+ei,i=1,2,.,n í2各e相互独立,且都服从正态分布N(0,s)îi计算： n x y 1n lxx=å(xi-x)=åx-nx=åx-(åxi)2 ni=1i=1i=1i=122i22innn1nlyy=å(yi-y)=åy-ny=åy-(åyi)2 ni=1i=1i=1i=122i22in1nlxy=å(xi-x)(yi-y)=åxiyi-nxy=åxiyi-(åxi)(åyi) ni=1i=1i=1i=1i=1nnnnnn=b1lxylxx=y-bx 线性回归方程：y+bx =b b0101平方和分解ST=lyy=å(y-y)ii=1n2l+S =SA+Se=b1xye检验： F检验 F=SR/1F(1,n-2) SE/(n-2)t(n-2) lxylxxlyyt检验 t=b1/lxxs相关系数检验 r=+bx 0=b预测：点预测 x=x0时， y010+bx±t一般的区间预测 b010-a11(x0-x)2SE/1+=(/n2-2)s，其中s nlxxn-2