概率论与数理统计知识点总结(2).docx

概率论与数理统计知识点总结概率论与数理统计 第一章 概率论的基本概念 §2样本空间、随机事件 1事件间的关系 AÌB 则称事件B包含事件A，指事件A发生必然导致事件B发生 AÈB =xxÎA或xÎB称为事件A与事件B的和事件，指当且仅当A，B中至少有一个发生时，事件 时，事件AÈB发生 AÇB =xxÎA且xÎB称为事件A与事件B的积事件，指当A，B同时发生AÇB发生 AB =xxÎA且xÏB称为事件A与事件B的差事件，指当且仅当A发生、B不发生时，事件 AB发生 AÇB=f，则称事件A与B是互不相容的，或互斥的，指事件A与事件B不能同时发生，基本事件是两两互不相容的 互为对立事件 2运算规则 交换律 AÈB =S且AÇB=f，则称事件A与事件B互为逆事件，又称事件A与事件BAÈB=BÈA AÇB=BÇA =AÈ(BÈC) (AÇB)C=A(BÇC) 结合律(AÈB)ÈC分配律 AÈ=(AÈB)Ç(AÈC) AÇ(BÈC)=(AÇB)(AÇC) AÈB=AÇ B AÇB=AÈB 徳摩根律§3频率与概率 定义 在相同的条件下，进行了n次试验，在这n次试验中，事件A发生的次数nA称为事件A发生的频数，比值nAn称为事件A发生的频率 概率：设E是随机试验，S是它的样本空间，对于E的每一事件A赋予一个实数，记为P，称为事件的概率 1概率P(A)满足下列条件： 非负性：对于每一个事件A 规范性：对于必然事件S 0£P(A)£1 P(S)=1 可列可加性：设A1,A2,L,An是两两互不相容的事件，有P(UA)=åP(A) kkk=1k=1nn 1 2概率的一些重要性质： P(f)=0 nn若A1,A2,L,An是两两互不相容的事件，则有P(UAk)=åP(Ak) k=1k=1设A，B是两个事件若AÌB，则P(B-A)=P(B)-P(A)，P(B)³P(A) £1 对于任意事件A，P(A)P(A)=1-P(A) 对于任意事件A，B有P(AÈB)§4等可能概型 =P(A)+P(B)-P(AB) 等可能概型：试验的样本空间只包含有限个元素，试验中每个事件发生的可能性相同 若事件A包含k个基本事件，即A=ei1Uei2ULUeik，里i1，i2,L，ik是1,2，Ln中某k个不同的数，则有P(A)=åPeij=j=1k()kA包含的基本事件数= nS中基本事件的总数§5条件概率 定义：设A,B是两个事件，且P(A)件B发生的条件概率 条件概率符合概率定义中的三个条件 1非负性：对于某一事件B，有P(B|。>0，称P(B|A)=P(AB)为事件A发生的条件下事P(A)A)³0 2规范性：对于必然事件S，P(S。|A)=1 3可列可加性：设B1,B2,L是两两互不相容的事件，则有P(UBi=1¥iA)=åP(BiA) i=1¥ 乘法定理 设P(A) 全概率公式： >0，则有P(AB)=P(B)P(A|B)称为乘法公式 P(A)=åP(Bi)P(A|Bi) i=1n 2 贝叶斯公式： P(Bk|A)=P(Bk)P(A|Bk)åP(B)P(A|B)iii=1n§6独立性 定义 设A，B是两事件，如果满足等式P(AB)定理一 设A，B是两事件，且P(A)=P(A)P(B)，则称事件A,B相互独立 >0，若A，B相互独立，则P(B|A)=P(B) 定理二 若事件A和B相互独立，则下列各对事件也相互独立：A与B，A与B，A与B 第二章 随机变量及其分布 §1随机变量 定义 设随机试验的样本空间为S=e. X=X(e)是定义在样本空间S上的实值单值函数，称X=X(e)为随机变量 §2离散性随机变量及其分布律 1 离散随机变量：有些随机变量，它全部可能取到的值是有限个或可列无限多个，这种随机变量称为离散型随机变量 P(X=xk)=pk满足如下两个条件pk³0，åPkk=1¥=1 2 三种重要的离散型随机变量 分布 设随机变量X只能取0与1两个值，它的分布律是k1-kP(X=k)=p，k=0,1伯努利实验、二项分布 设实验E只有两个可能结果：A与A，则称E为伯努利实验.设P(A)=påPkP(X=k)=çLn满足条件pk³0，çk÷÷pq，k=0,1,2，k=1èø=1注意到ænökn-knk是二项式的展开式中出现p的那一项，我们称随机变量X服从参数为n，p的二ç÷pqçk÷èø项分布。 泊松分布 设随机变量X所有可能取的值为0,1,2，而取各个值的概率为 3 P(X=k)=lke-lk!,k=0,1,2L,其中l>0是常数，则称X服从参数为l的泊松分布记为 Xp§3随机变量的分布函数 定义 设X是一个随机变量，x是任意实数，函数F(x)称为X的分布函数 分布函数=PX£x,-¥<x<¥ F(x)=P(X£x)，具有以下性质(1) F(x)是一个不减函数 0£F(x)£1，且F(-¥)=0,F(¥)=1 F(x+0)=F(x),即F(x)是右连续的 §4连续性随机变量及其概率密度 连续随机变量：如果对于随机变量X的分布函数F，存在非负可积函数有F(x)=òfdt,-¥xf(x)，使对于任意函数x则称x 为连续性随机变量，其中函数f(x)称为X的概率密度函数，简称概率密度 1 概率密度f(x)具有以下性质，满足f(x)³0, (2) òx2x1+¥-¥f(x)dx=1； P(x1，若f(x)在点x处连续，则有F(x)=f(x) £X£x2)=òf(x)dx；2,三种重要的连续型随机变量 (1)均匀分布 若连续性随机变量X具有概率密度ì1ï，a<x<b，则成X在区间(a,b)上服从均匀分布.f(x)=íb-aïî0，其他记为X U (2)指数分布 若连续性随机变量X的概率密度为ì1-xqïef(x)=íqïî0，x.>0，其他 其中q则称X服从参数>0为常数，为q的指数分布。 正态分布 若连续型随机变量X的概率密度为f(x)=12pse-2(x-m）2s2，-¥<x<¥，的正态分布或高斯分布，记为其中m，s 4 特别，当m=0，s=1时称随机变量X服从标准正态分布 §5随机变量的函数的分布 定理 设随机变量X具有概率密度fx(x)，-¥<x<¥,又设函数g(x)处处可导且恒有g,(x)>0，则Y=g(X)是连续型随机变量，其概率密度为第三章 多维随机变量 §1二维随机变量 ìfXh(y)h,(y),a<y<b fY(y)=í0，其他î定义 设E是一个随机试验，它的样本空间是S=e. X量，称X=X(e)和 Y=Y(e)是定义在S上的随机变=X(e)为随机变量，由它们构成的一个向量叫做二维随机变量 x，y，二元函数设是二维随机变量，对于任意实数F=P(X£x)Ç(Y£y)记成PX£x，Y£y称为二维随机变量的分布函数 如果二维随机变量全部可能取到的值是有限对或可列无限多对，则称是离散型的随机变量。 我们称P(X=xi，Y=yj)=pij，i，j=1,2，L为二维离散型随机变量的分布律。 对于二维随机变量的分布函数F，如果存在非负可积函数f，使对于任=意x，y有F§2边缘分布 òòyx-¥-¥fdudv，则称是连续性的随机变量，函数f称为随机变量的概率密度，或称为随机变量X和Y的联合概率密度。 二维随机变量作为一个整体，具有分布函数F.而X和Y都是随机变量，各自也有分布函数，将他们分别记为F关于X和关于Y的边缘分布函数。 ，j=1,2，L 分pi·=åpij=PX=xi，i=1,2，L p·j=åpij=PY=yij=1¥¥i=1别称pi·p·j为关于X和关于Y的边缘分布律。 fX(x)=òf(x,y）dy fY(y)=òf(x,y）dx分别称fX(x)，-¥-¥¥¥fY(y)为X，Y关于X和关于Y的边缘概率密度。 §3条件分布 定义 设是二维离散型随机变量，对于固定的j，若PY 5 =yj>0, 则称PX=xiY=yj=PX=xi,Y=yjPY=yj=pijp·j,i=1,2,L为在Y=yj条件下随机变量X的条件分布律，同样PY=yjX=Xi=PX=xi,Y=yjPX=xi=pijpi·,j=1,2,L为在X=xi条件下随机变量X的条件分布律。 设二维离散型随机变量的概率密度为f(x,y)，关于Y的边缘概率密度为fY(y)，若对于固定的y，fY(y)0，则称f(x,y)为在Y=y的条件下X的条件概率密度，记为fY(y)fXY(xy)=f(x,y)fY(y)§4相互独立的随机变量 定义 设F及FX布函数.若对于所有x,y有PX(x)，FY(y)分别是二维离散型随机变量的分布函数及边缘分=x,Y=y=PX£xPY£y，即Fx,y=FX(x)FY(y)，则称随机变量X和Y是相互独立的。 对于二维正态随机变量，X和Y相互独立的充要条件是参数r§5两个随机变量的函数的分布 1，Z=X+Y的分布 设(X,Y)是二维连续型随机变量，它具有概率密度¥=0 f(x,y).则Z=X+Y仍为连续性随机变量，其¥-¥概率密度为fX+Y(z)=òf(z-y,y）dy或fX+Y(z)=òf(x,z-x）dx -¥又若X和Y相互独立，设关于X，Y的边缘密度分别为¥¥fX(x),fY(y)则fX+Y(z)=òfX(z-y）ffY(z-x)dx这两个公式称为Yy)dy 和fX+Y(z)=ò-¥-¥fX,fY的卷积公式 有限个相互独立的正态随机变量的线性组合仍然服从正态分布 2，Z=Y的分布、Z=XY的分布 Xf(x,y)，则Z=设(X,Y)是二维连续型随机变量，它具有概率密度Y，Z=XY X 6 仍为连续性随机变量其概率密度分别为fYX(z)=òxf(x,xz)dxfXY(z)=ò-¥¥¥-¥1zf(x,)dx又xx若X和Y相互独立，设关于X，Y的边缘密度分别为¥¥fX(x),fY(y)则可化为fYX(z)=òfX(x)fY(xz)dx fXY(z)=ò-¥-¥1zfX(x)fYdx xx3M=maxX，Y及N=minX,Y的分布 (x),FY(y)由于M=maxX，Y设X，Y是两个相互独立的随机变量，它们的分布函数分别为FX不大于z等价于X和Y都不大于z故有PM£z=PX£z,Y£z又由于X和Y相互独立，得到M=maxX，Y的分布函数为Fmax(z)=FX(z)FY(z) N=minX,Y的分布函数为Fmin(z)=1-1-FX(z)1-FY(z) 第四章 随机变量的数字特征 §1数学期望 定义 设离散型随机变量X的分布律为PX=xk=pk，k=1,2，若级数åxkpkk=1¥绝对收敛，则称级数åxk=1¥kpk的和为随机变量X的数学期望，记为E(X)，即E(X)¥=åxkpki 设连续型随机变量X的概率密度为若积分òxf(x)dx绝对收敛，则称积分òxf(x)dxf(x)，-¥-¥¥的值为随机变量X的数学期望，记为E(X)，即E(X)=òxf(x)dx -¥+¥定理 设Y是随机变量X的函数Y=g(X)(g是连续函数) ¥如果X是离散型随机变量，它的分布律为PXpk绝对收敛=xk=pk，k=1,2，若åg(xk）k=1则有E(Y)pk =E(g(X)=åg(xk）k=1¥如果X是连续型随机变量，它的分概率密度为f(x)，若òg(x)f(x)dx绝对收敛则有-¥¥E(Y)=E(g(X)=ò¥-¥g(x)f(x)dx 数学期望的几个重要性质 1设C是常数，则有E(C) =C 7 2设X是随机变量，C是常数，则有E(CX)3设X,Y是两个随机变量，则有E(X=CE(X) +Y)=E(X)+E(Y)； =E(X)E(Y) 4设X，Y是相互独立的随机变量，则有E(XY)§2方差 定义 设X是一个随机变量，若ED即D=EX-E(X)2存在，则称EX-E(X)2为X的方差，记为D(x)，记为s(x)，称为标准差或均方差。 X-E(X)2，在应用上还引入量D(X)=E(X-E(X)2=E(X2)-(EX)2 方差的几个重要性质 1设C是常数，则有D(C)=0, 2设X是随机变量，C是常数，则有D(CX)3设X,Y是两个随机变量，则有D(X若X,Y相互独立，则有D(X4D(X)=C2D(X)，D(X+C)=D(X) +Y)=D(X)+D(Y)+2E(X-E(X)(Y-E(Y)特别，+Y)=D(X)+D(Y) =0的充要条件是X以概率1取常数E(X)，即PX=E(X)=1 切比雪夫不等式：设随机变量X具有数学期望E(X)=s2，则对于任意正数e，不等式s2PX-m³e£2e§3协方差及相关系数 定义 量成立 EX-E(X)Y-E(Y)称为随机变量X与Y的协方差为Cov(X,Y)，即Cov(X,Y)=E(X-E(X)Y(-E(Y)=E(XY)-E(X)E(Y) 而rXY=Cov(X，Y）D(X)D(Y)称为随机变量X和Y的相关系数 对于任意两个随机变量X 和Y，D(X协方差具有下述性质 1Cov(X,Y)2Cov(X1 +Y)=D(X)+D(Y)2Cov(X,Y) _-=Cov(Y,X), Cov(aX,bY)=abCov(X,Y) +X2,Y)=Cov(X1,Y)+Cov(X2,Y) 8 定理 1 2 当rXY£1 rXY=1的充要条件是，存在常数a,b使PY=a+bx=1 rXY=0时，称X和Y不相关 附：几种常用的概率分布表 分布 参数 分布律或概率密度 数学期望 方差 两点分布 0<p<1 n³1PX=k)=pk(1-p)1-k,k=0,1， kP(X=k)=Cnpk(1-p)n-k,k=0,1,Ln， p np p(1-p) 二项式分布 0<p<1 np(1-p) 泊松分布 l>0 P(X=k)=lke-lk!,k=0,1,2,L l 1pl 1-pp2几何分布 0<p<1 P(X=k)=(1-p)k-1p, k=1,2,L ì1ï,a<x<b， f(x)=íb-aïî0，其他均匀分布 a<b a+b 2(b-a)212指数分布 q>0 ì1-xqïef(x)=íqïî0,x>0,其他- (x-m)22s2q q2 正态分布 m s>0 f(x)=12psem s2 第五章 大数定律与中心极限定理 §1 大数定律 弱大数定理 设X1，X2是相互独立，服从统一分布的随机变量序列，并具有数学期望E(Xk)=m(k=1,2,L).作前n个变量的算术平均1nåXknk=1，则对于任意e>0，有1nlimPåXk-m<e=1 n®¥nk=1定义 设Y1,Y2,LYnL是一个随机变量序列，a是一个常数，若对于任意正数e，有 9 p¾®a limPYn-a<e=1，则称序列Y1,Y2,LYnL依概率收敛于a，记为Yn¾n®¥伯努利大数定理 设fA是n次独立重复试验中事件A发生的次数，p是事件A在每次试验中发生的概率，Pfnf-p<e=1或limPn-p³e=0 n®¥nn则对于任意正数e0，有lim§2中心极限定理 n®¥定理一 设随机变量X1,X2,L,Xn相互独立，服从同一分布，且具有数学期望和方差E(Xi)nn=m, D(Xk)=s2，则随机变量之和åXi=1nk标准化变量， Yn=åXk=1k-E(åXk)k=1n=åXi=1nk -nm， D(åXk)k=1ns定理二 设随机变量X1,X2,L,Xn2n相互独立，它们具有数学期望和方差E(Xk)=mk, D(Xk)=sk>0,k=1,2L记Bn=åek2k=12定理三设随机变量hn(n=1,2,L)服从参数为n,p(0<p<1）的二项分x布，则对任意x，有lim n®¥Phn-npnp(1-p)£x=ò12p-¥e-t2dt=F(x) 2 10