《应用随机过程》PPT课件.ppt
《《应用随机过程》PPT课件.ppt》由会员分享,可在线阅读,更多相关《《应用随机过程》PPT课件.ppt(205页珍藏版)》请在三一办公上搜索。
1、应用随机过程,主讲教师 段禅伦2011年秋季学期,计算机学院研究生专业基础课程应用数学基础,(Applied Stochastic processes),天道酬勤-刻苦钻研,滴水穿石,形而上(思考和应用)谓之道,形而下(基础与理论)谓之器(周易系辞)。提其要,钩其玄(韩愈劝学解);悠然心会,妙处难与君说(张孝祥,南宋)。昨夜西风凋碧树,独上高楼,望尽天涯路(晏殊蝶恋花:槛菊愁烟兰泣露,罗幕轻寒,燕子双飞去。明月不谙离恨苦,斜光到晓穿朱户。昨夜西风凋碧树,独上高楼,望尽天涯路。欲寄彩笺兼尺素,山长水阔知何处)。,衣带渐宽终不悔,为伊消得人憔悴(柳咏蝶恋花:伫依危楼风细细,望极春愁,暗暗生天际。草
2、色烟光残照里,无言谁会凭阑意。拟把疏狂图一醉,对酒当歌,强乐还无味。衣带渐宽终不悔,为伊消得人憔悴)。众里寻他千百度,蓦然回首,那人却在,灯火阑珊处(辛弃疾青玉案:东风夜放花千树。更吹落,星如雨。宝马雕车香满路。风箫声动,玉壶光转,一夜鱼龙舞。蛾儿雪柳黄金缕,笑雨盈盈暗香去。众里寻他千百度,蓦然回首,那人却在,灯火阑珊处)。,课程内容,研究生学位课程应用数学基础内容主要包括:预备知识:概率空间,随机变量及其分布,随机变量的数字特征,特征函数、母函数和拉氏变换,n维正态分布,条件期望。随机过程的概念与基本类型。Poisson过程。Markov链及连续时间的Markov链。平稳过程。,主要参考书目
3、,1刘次华.随机过程,华中科技大学出版社,2001;2陆大铨.随机过程及其应用,清华大学出版社,1986;3毛用才,胡奇英.随机过程,西安电子科技出版社,1998;4张波,张景肖.应用随机过程,清华大学出版社,2004;5Shedon M.Ross著,龚光鲁译.应用随机过程-概率 模型导论(第九版),人民邮电出版社,2007.,第1章 预备知识,1.1 概率空间 现实世界现象的任何实际模型,必须考虑到随机性的可能.也就是说所关心的量往往并不是事先可料的,这种量所展示的内在变化必须考虑在模型之中.可见通常使用的模型实质上是概率性的.课程将涉及自然现象中一些不同的概率性模型.为了既能掌握如何建立模
4、型,又能掌握随后对于这些模型的分析,我们必须具有坚实的概率论的基本知识.随机试验 随机试验是概率论的基本概念,试验的结果事先不能准确地预言,但具有如下三个特性:,(1)可以在相同的条件下重复进行;(2)每次试验的结果不止一个,但预先知道试验的所有 可能的结果;(3)每次试验前不能确定哪个结果会出现.样本空间 由(某)随机试验所有可能结果组成的集合.样本点或基本事件 随机试验的基本结果或的元素.必然事件与不可能事件:称必然事件;空集称不可能事件.的子集A由基本事件组成,通常称为事件.两个事件E与F的并EF、交EF(EF)和差E-F.称事件E与F互不相容,如果EF=.事件E的对立事件:EC=-E.
5、显然C=;EEC=,EEC=.,例1.1 设随机试验由投掷两颗骰子所组成,那么(1,1),(1,2),(1,3),(1,4),(1,5),(1,6)(2,1),(2,2),(2,3),(2,4),(2,5),(2,6)(3,1),(3,2),(3,3),(3,4),(3,5),(3,6)(4,1),(4,2),(4,3),(4,4),(4,5),(4,6)(5,1),(5,2),(5,3),(5,4),(5,5),(5,6)(6,1),(6,2),(6,3),(6,4),(6,5),(6,6)此处结果(i,j)称为发生,如果第一颗骰子掷出i且第二颗骰子掷出j.若E=(1,6),(2,5),(3
6、,4),(4,3),(5,2),(6,1),则E是两颗骰子点数和为7的事件.若A=(3,1),(3,2),B=(3,2),(3,3),则AB=(3,1),(3,2),(3,3),AB=(3,2).若C=(1,1),则A,C;B,C分别互不相容.E的对立事件EC=-E,含有30个基本事件.,=,由于事件是集合,所以不仅具有并、交、差、取对立等运算;而且自然也适用于做上极限、下极限、极限等运算.在实际问题中,人们并不对样本空间的全部子集即所有的事件都有兴趣,只是更多的注意的某些子集、关心它们发生的可能性的大小即概率.将此述做数学抽象,便有以下概念:定义1.1 设是一个集合,F 是的某些子集组成的集
7、 合族,若(1)F;(2)如果AF,那么=-AF;(3)对n=1,2,AnF 时,必有 AnF,则称F为-代数(或Borel域).称(,F)为可测空间.,称F 中的元素为事件.由定义1.1,还可得到:(4)F;(5)若A,BF,则A-BF;(6)若AiF,i=1,2,则 F.定义1.2 设(,F)是可测空间,P()是定义在F上的实值 函数,如果(1)任意AF,0P(A)1;(2)P()=1;(3)若A1,A2,是两两互不相容(ijAi Aj=)事 件,则P()P(Ai),那么称P是可测空间(,F)上的概率.称(,F,P)为概率空间.称P(A)为事件A的概率.由定义1.2易知:(4)P()=0;
8、(5)若A,BF 且A B,则P(B-A)=P(B)-P(A)(单调性);(6)设An,n=1,2,则定义1.3 设(,F,P)为概率空间,G F,如果对任意的A1,A2,AnG,n=1,2,都有,则称G 为独立事件族。注意:概率是定义在可测空间事件上的函数,它的一个 直观性质是:若我们的试验不断地重复n次,则以概率1 地,事件A在总发生次数中的比率是P(A).P(AC)=1-P(A).因为A与AC互不相容,且AAC=,由概率定义(2)和(3)有:1=P()=P(AAC)=P(A)+P(AC)或P(AC)=1-P(A).即一个事件不发生的概率是1与它发 生概率的差.P(AB)=P(A)+P(B
9、)-P(AB).这是在A中或在B中的所有结果的概率,称之为加法公式.考虑P(A)+P(B).它是A中所有结果的概率加上B中所有,结果的概率.由于所有既在A中也在B中的结果在P(A)+P(B)中都算了两次,而在P(AB)中只算一次,所以必须有:P(A)+P(B)=P(AB)+P(AB)或P(AB)=P(A)+P(B)-P(AB).对概率单调性(定义1.2下的(5):若A,BF 且A B,则P(B-A)=P(B)-P(A)的一般考虑:P(B-A)=P(B-AB)=P(B(AB)=P(B)+P(AB)-P(AAB)=P(B)+(1-P(AB)-P()=P(A)+(1-P(AB)-1=P(A)-P(A
10、B);于是,若AB,则由P(B)-P(A)=P(B)-P(AB)=P(B-A)0,又可推得P(B)P(A).古典概型(基本事件有限,每个基本事件的发生都是等 可能的)下的概念与应用举例:,例1.2 设某人做反复投掷两枚硬币的试验,则该试验的样 本空间=(H,H),(H,T),(T,H),(T,T)中的4个结果 都是等可能的,因而都有概率1/4.设A=(H,H),(H,T),B=(H,H),(T,H),即A是第一 枚硬币出现Head的事件,B是第二枚硬币出现Head的事 件.由加法公式,得到第一枚硬币出现Head或第二枚硬 币出现Head事件的概率:P(AB)=P(A)+P(B)-P(AB)=1
11、/2+1/2-P(H,H)=1-1/4=3/4.直接计算,也有P(AB)=P(H,H),(H,T),(T,H)=3/4.事件E或F或G中任意一个发生的概率:P(EFG)=P(EF)G)=P(EF)+P(G)-P(EF)G),=P(E)+P(F)-P(EF)+P(G)-P(EGFG)=P(E)+P(F)-P(EF)+P(G)-P(EG)-P(FG)+P(EGFG)=P(E)+P(F)+P(G)-P(EF)-P(EG)-P(FG)+P(EFG).对n个事件E1,E2,E3,En,用运归纳法可以证明:P(E1E2E3En)=即n个事件的并的概率,等于这些事件一次取一个的概率的和减去这些事件一次取两个
12、的概率的和,再加上这些事件一次取三个的概率的和,如此等等.,条件概率 假定我们投掷两颗骰子得到的36个结果是等可能的,其概率均为1/36.如果我们知到第一颗骰子是4,那么在已知这个信息时,两颗骰子的点数和为6的概率是什么?为计算此概率,我们做推理:已知第一颗骰子是4,我们的试验至多能出现6个结果:(4,1),(4,2),(4,3),(4,4),(4,5),(4,6).由于这些结果中的每一个本来就是以相同的概率发生的,它们应该仍旧有相等的概率.这就是说,已知第一颗骰子是4,则出现(4,1),(4,2),(4,3),(4,4),(4,5),(4,6)中的每一个结果的(条件)概率是1/6,而同时在样
13、本空间中的其他30个点的(条件)概率是0.因此要求的概率是1/6.,如果以B和A分别记骰子的点数和为6的事件及第一颗骰子是4的事件,那么上述概率即已知A发生的条件下B发生的条件概率:P(B|A).对于一切事件E和F,当已知事件F发生,那么为了E发生,实际出现的结果必须是一个既在E中又在F中的结果,也就是必须在EF中的结果.现在,因为我们已知F已经发生,进而F就成为我们新的样本空间,因此,事件EF发生的概率就等于EF的概率相对于F的概率,即:P(E|F)=P(EF)/P(F).(P(F)0)例1.3 假定在帽子中混杂地放了写有1到10的10张卡片,然后抽取了其中的一张.如果我们被告知抽出的卡片上
14、 的数字至少是5,那么它是10 的条件概率是多少?,解:以E记抽出的卡片上的数字为10的事件,以F记抽出的 卡片上的数字至少为5的事件,要求的概率是P(E|F).由于卡片上的数字既是10又要至少为5当且仅当它是 10,所以EF=E.故 P(E|F)=P(EF)/P(F)=1/6或P(E|F)=P(E)/P(F)=1/6.例1.4 某家庭有两个孩子.已知两个孩子中至少有一个男 孩,问两个都是男孩的条件概率是多少?假设给定的样 本空间=(b,b),(b,g),(g,b),(g,g)且四种结果都 是等可能的.解:以B记两个孩子都是男孩的事件,A记两个孩子中至少,有一个男孩的事件,则所求的条件概率 P
15、(B|A)=P(BA)/P(A)=P(b,b)/P(b,b),(b,g),(g,b)=(1/4)/(3/4)=1/3.例1.5 薛云可以选修计算机基础课,也可以选修大学语文 课.如果他选修计算机基础课,那么得到A的概率为1/2.如果他选修大学语文课,那么得到A的概率为1/3.薛云 用投掷硬币来决定.此时,薛云在大学语文课上能得A的 概率是多少?解:令E为薛云选修大学语文课的事件,F为不管他选修哪 一课程都得A的事件,则所要求的概率是P(FE).由条件,概率公式并计算得:P(FE)=P(E)P(F|E)=(1/2)(1/3)=1/6.例1.6 假定在一个坛子中放有7个黑球,5个白球.我们不 放回
16、地从中摸取两个球.假设从坛中摸到哪一个球都是 等可能的,求摸取的两个球都是黑色球的概率.解:以F和E分别记摸取的第一个球是黑球的事件和摸取 的第二个球是黑球的事件.当已知摸到的第一个球是黑 球时,坛中还有6个黑球和5个白球,故P(E|F)=6/11.而 P(F)=7/12.所以要求的概率是 P(EF)=P(F)P(E|F)=(7/12)(6/11)=7/22.,例1.7 假定参加聚会的三个人都将他们的帽子扔到了房 间的中央.这些帽子先被弄混了,随后每个人在其中随 机地选取一个.问三人中没有人选到自己帽子的概率是 多少?解:为计算简单,我们首先计算问题的对立概率即至少有 一人选到他自己帽子的概率
17、.当以Ei(i=1,2,3)记第i个 人选到自己帽子的事件时,即要求P(E1E2E3).注意到P(Ei)=1/3,i=1,2,3;P(EiEj)=P(Ei)P(Ej|Ei)=(1/3)(1/2)=1/6,ij;P(E1E2E3)=P(E1E2)P(E3|E1E2)=(1/6)1=1/6.即知 P(E1E2E3)=3(1/3)-3(1/6)+1/6=2/3.从而知 P()=1-P(E1E2E3)=1/3.,对独立事件概念的进一步理解 独立事件E,F满足P(EF)=P(E)P(F).由条件概率公式 P(E|F)=P(EF)/P(F)知,这蕴涵了P(E|F)=P(E)(也蕴涵了P(F|E)=P(F)
18、.它说明,如果F已经发生这个事实并不影响E发生的概率,那么E和F就是独立的,即E的发生独立于F是否发生.不独立的两个事件E和F称为相依的.例1.8 假定我们扔两颗均匀的骰子.令E1表示两颗骰子的 点数和等于6的事件,F表示第一颗骰子的点数是4的事 件.那么 P(E1F)=P(4,2)=1/36;P(E1)P(F)=(5/36)(1/6)=5/216.可见E1和F不是独立的,即是相依的.,其原因是显然的:因为如果我们关心的是扔出和为6的可能性,那么当第一颗骰子停在4(或1,2,3,4,5)时,我们将高兴,那是我们还有机会得到总和为6;另一方面,当第一颗骰子停在6时,我们并不高兴,因为不再有机会得
19、到总和为6了.换言之,我们得到总和为6的机会依赖于第一颗骰子的结果,因此,E1和F不独立而是相依的.如果令E2表示两颗骰子的和等于7的事件,则E2和F独立.因为:P(E2F)=(4,3)=1/36;且 P(E2)P(F)=(1/6)(1/6)=1/36.n个事件的独立性.n个事件E1,E2,E3,En称为独立的,如果对于这些事件,的每个子集,rn,有 直观地看,事件E1,E2,En是独立的,如果其中任意一些事件发生的事实并不影响其他任何事件的概率.例1.9(不独立的两两独立事件)假定从装有号码分别为 1,2,3,4的四个球的瓮中抽取一个球.设E=1,2,F=1,3,G=1,4.如果取到每个球的
20、概率是等可能的,那么 P(EF)=1/4=(1/2)(1/2)=P(E)P(F);P(EG)=1/4=(1/2)(1/2)=P(E)P(G);P(FG)=1/4=(1/2)(1/2)=P(F)P(G).但 1/4=P(EFG)(1/2)(1/2)(1/2)=P(E)P(F)P(G).可见,即使E,F,G是两两独立的,也并非三个事件独立的.,贝叶斯公式 设E和F是事件,我们可以将E表示为 E=EFEFC.因为为了使一个试验结果点在E中,那么它或者既在E中也在F中,或者只E中而不在F中.考虑到EF和EFC是互不相容的,我们有 P(E)=P(EF)+P(EFC)=P(E|F)P(F)+P(E|FC)
21、P(FC)=P(E|F)P(F)+P(E|FC)(1-P(F).此式说明,事件E的概率是已知F发生时E的条件概率与已知F未发生时E的条件概率的加权平均,权重为各个条件事件发生的概率.,(),例1.11 考虑两个瓮.第一个瓮中有2个白球7个黑球,第二 个瓮中有5个白球6个黑球.我们抛掷一枚均匀的硬币,由其结果是正面还是反面,决定是从第一个瓮中还是从 第二个瓮中抽取一个球.已知取到的球是白球,问抛掷 的结果是正面的条件概率是多少?解:以W记取到的球是白球的事件,以H记抛掷的硬币是正 面向上的事件.要求的概率为P(H|W).P(H|W)=,例1.12 学生在回答多项选择题时,或者知道答案或者猜 测答
22、案.假定她知道答案的概率是p,而猜测的概率是1-p.假设她猜对的概率是1/m,这里m是多项选题可选的项 数.问在已知学生答题正确时,她确实知道答案的概率 是多少?解:以C和K分别记学生回答正确和她确实知道答案这两 个事件.于是 P(K|C)=如果m=5,p=1/2,那么学生对于她答得正确的题确实知 道答案的概率等于5/6.,例1.13 某化验室检测某种疾病的血液检查,当确实有病 时的有效率是95%.可是,该检测也在1%的健康人中产生“假阳性”结果(即一个健康人去检查,检测结果为阳性 的概率是0.01).如果总体人群中有0.5%真有此病,问已 知某人检测结果为阳性时,他有病的概率是多少?解:以D
23、记被检测的人有病的事件,以E记他的测试结果是 阳性的事件.要求的概率 P(D|E)=因此测试结果是阳性的人中,只有约32%确实患上了病.,贝叶斯公式的一般形式 对公式()做推广:假定F1,F2,Fn是互不相容的事件,使得=即F1,F2,Fn中正好有一个事件发生.通过 E=并由事件EFi,i=1,2,n互不相容的事实,可得 P(E)=此式展示了:对于给定的有且只有一个发生的事件F1,F2,Fn,我们可以通过首先对Fi中发生的一个事件取条件计算P(E).也就是说,P(E)等于P(E|Fi)的加权平均,每项用被取条件的那个事件的概率加权.,.,假定现在E已经发生,而我们关心的是确定Fi中哪个也发生了
24、.为此,我们由上式和条件概率公式,可得 P(Fj|E)=此式即所谓贝叶斯公式(Bayesformula).例1.14 你知道某一封信等可能地夹在三个不同的文件夹 的任意一个之中.若此信实际上在文件夹i(i=1,2,3)中 而你对文件夹i的快速翻阅发现你的信的概率记为i(i1).假定你查看了文件夹1但没有发现此信.问信 在文件夹1中的概率是多少?解:以Fi(i=1,2,3)记此信在文件夹i中的事件,而E是通,过对文件夹1搜索但并未看到信的事件.我们要求P(F1|E).由贝叶斯公式,得 P(F1|E)=习题1.假定所有n个参加聚会的人将他们的帽子扔在房间 的中央.然后每个人随机地取一顶帽子.证明没
25、有人选 到自己的帽子的概率为 并证明n时,此值e-1.,1.2 随机变量及其分布,随机变量 在做随机试验时,考虑的是试验结果本身,但具有更为重要意义的还是在试验结果上建立的某些函数.定义在概率空间(,F,P)上的实值函数,称为随机变量,如果 对任意实数x,e:X(e)x,eF.并称X(e)为F上的随机变量,简记为X.例2.1 以X记随机变量,它定义为两颗均匀骰子的和,那么 PX=2=P(1,1)=1/36;PX=3=P(1,2),(2,1)=2/36;PX=4=(1,3),(2,2),(3,1)=3/36;PX=5=(1,4),(2,3),(3,2),(4,1)=4/36;PX=6=(1,5)
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 应用随机过程 应用 随机 过程 PPT 课件
链接地址:https://www.31ppt.com/p-5505749.html