第53 54节 贝叶斯网络和主观贝叶斯方法课件.ppt
《第53 54节 贝叶斯网络和主观贝叶斯方法课件.ppt》由会员分享,可在线阅读,更多相关《第53 54节 贝叶斯网络和主观贝叶斯方法课件.ppt(76页珍藏版)》请在三一办公上搜索。
1、第5.3节 贝叶斯网络,王庆江计算机科学与技术系,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,勘误,P173页关于图5.4的CPT有误。P175页倒数第3行,“对于S、L和E”应为“对于S,L和E”。P178页第1行,“具有以上3个属性之一”应为“同时具有以上3个属性”。P178页14行,“结点E阻塞了结点C和”应为“结点S阻塞了结点C和”。P178页16行,“而对于给定结点E、S和L之间”应为“而对于给定结点E,S和L之间” 。P180页15行,“P(S|C)”应为“P(S|C)”。,注:新印刷的可能已纠正。,2008-2009学年第1学期,第5.1-5.
2、2节 贝叶斯网络和主观贝叶斯方法,贝叶斯网络(Bayesian Network)有坚实的数学理论基础;采用概率形式的不确定性表示和推理;20世纪80年代,成功应用于专家系统。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,5.3.1 贝叶斯网络的基本概念,有向无环图Directed Acyclic Graph,缩写DAG;可用于表示因果关系网。结点代表证据或结论,权代表证据或结论的不确定度;弧代表规则(即因果关系),权代表规则的不确定度。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,Condition Probability
3、 Table,缩写CPT;对于所有父结点的每种指派,确定子结点的发生概率。例:CPT包括P(C|A,B), P(C|A, B), P(C|A,B), P(C|A, B)P(A), P(B),条件概率表,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,贝叶斯网络的构造方法确定包含哪些结点;建立反映条件独立的有向无环图;指派局部概率分布,即CPT。如果CPT包含了足够的条件概率,可以计算出任何联合概率,则称此网络是可计算的(即可推理的)。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,因果关系网的示例,结点及其解释S (Smoker
4、):该患者为吸烟者C (Coal miner):该患者是煤矿工人L (Lung cancer):他患了肺癌E (Emphysema):他患了肺气肿因果关系S可能导致L和EC可能导致E 。,因果关系从哪里得来呢?,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,贝叶斯网络,是结点间增加连接强度的因果关系网。连接强度用条件概率表示;例:P(B|A)为A到B的连接强度;例:P(B|AC)表示A、C对B的联合作用。CPT除了包含上述条件概率,还包括顶点(即无父结点的结点)的无条件概率(即先验概率)。贝叶斯网络 = 网络结构 + CPT,注:贝叶斯网络不允许包含循环因果关
5、系!,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,一般,父结点发生或不发生的所有组合都要给出。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,条件独立,有结点A、B和C,若 P(A|BC) = P(A|B),则称A和C在B条件下独立、A在B条件下独立于C,或A和C关于B独立。所谓“关于B”,有时是给定B的不确定度,有时是完全不知道B的不确定度。“条件独立” 是贝叶斯网络中隐含的断言(assertion)、假设(assumption),贝叶斯网络就
6、是一个表示条件独立关系的图模型。实际中,若已知A在B条件下独立于C,则P(A|BC) = P(A|B)。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,事件独立与贝叶斯网络中的条件独立,事件独立若P(AB)=P(A)P(B),则A与B相互独立。性质2:若A与B独立,且P(B)0,则P(A|B)=P(A)。 P(A|B)=P(AB)/P(B)=P(A)P(B)/P(B)独立和互斥不一会儿事!若AB=,则A与B互斥,有P(AB) = P(A) + P(B)P(A)0,P(B)0,若AB=,则P(AB)=0,A与B互斥但不相互独立;与任何事件独立,但与任何事件不互斥
7、。贝叶斯网络中的条件独立若 P(A|BC) = P(A|B),则A和C关于B条件独立。,一个事件的概率与另一事件的概率没关系,两个事件不可能同时发生,给定某条件时,一个事件的概率与另一个事件的概率没关系,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,条件独立断言有什么用呢?,例:P(S,C,L,E)= P(E|S,C,L) P(L|S,C) P(C|S) P(S)= P(E|S,C) P(L|S,C) P(C|S) P(S)= P(E|S,C) P(L|S) P(C|S) P(S)= P(E|S,C) P(L|S) P(C) P(S),CPT给出这些概率,20
8、08-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,贝叶斯网络隐含着哪些条件独立断言?,串行连接A通过B影响C;C通过B影响A;如果给定B,则A和C互不影响,这时称A和C关于B条件独立。,注:所谓“影响”与箭头方向无关。,条件独立断言是合理的,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,分叉连接如果给定A,没有信息可经由A传递给A的子结点,即给定A时,A的子结点之间相互独立,称子结点B、C、F关于A条件独立。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,汇集连接多个原因(causes)有一个共同结果
9、(effect)。对结果一无所知时,原因之间条件独立。当结果或其某个子孙已知,父结点之间就不再独立了。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,汇集连接的解释,A和B有共同的结果C;在有向图中,结点C称为冲突子(collider);不给定C时,A和B之间是相互独立的;给定C时, A和B之间就不再独立了。,David Papineau于1985年发现了给定冲突子时父结点之间的因果联系。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,摘自http:/www.cs.mcgill.ca/mgendr12/COMP526/docs
10、/lecture3.pdf,Head-to-tailTail-to-tailHead-to-head,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,定义:Vi 和Vj被Vb 阻塞,给定结点集,Vi 和Vj 的每个无向路经都有结点Vb,如果 Vb ,且路径上两条弧都以Vb为尾; Vb,且路径上一条弧以Vb 为尾,一条以Vb为头; Vb及其后继都不属于,且路径上两条弧都以Vb为头。称Vi 和Vj 被Vb 阻塞。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,定义:一条路径的阻塞,给定证据集,当上述任一条件满足时,Vb 阻塞相应的那
11、条路径。,定义:D分离(Dependence separation),给定证据集,如果Vi和Vj之间的所有路径被阻塞,则结点集可以D分离Vi和Vj 。,定义:条件独立,如果证据集可以D分离Vi和Vj,则Vi和Vj条件独立于证据集。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,当Vi 和Vj条件独立于证据集时,记为I(Vj,Vi |)或I(Vi,Vj |),且有P(Vi |Vj,) = P(Vi |)和P(Vj |Vi,) = P(Vj |),2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,D-分离的示例,I (L, E | S
12、)或I (L, E | S)应用示例:P(L|E,S)=P(L|S)I (L, C | S)或I (L, C | S)应用示例:P(L|C, S)=P(L|S)I (L, C, E | S)I (S, C)、 I (S, C) 、 I (S, C)或I (S, C)应用示例:P(S|C)=P(S),CPT不含P(E),2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,5.3.2 贝叶斯网络的推理模式,因果推理:已知父结点,计算子结点的条件概率例:给定S,计算P(E|S)。S称为推理的证据,E称为询问结点。,已知: P(S)= 0.4,P(C)= 0.3,P(E|S
13、, C)= 0.9,P(E|S, C)= 0.3,P(E|S, C)=0.5,P(E|S, C)=0.1,不完整的CPT,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,例(续),P(E|S) = P(E,C|S) + P(E,C|S)P(E,C|S) = P(E,C,S) / P(S)= P(E|C,S)P(C|S)P(S) / P(S) = P(E|C,S) P(C|S) = P(E|C,S) P(C) P(E,C|S) = P(E|C,S) P(C) P(E|S) = P(E|C,S) P(C) + P(E|C,S) P(C) = 0.48,要点:利用条件
14、概率性质3引入所有父结点,利用条件概率定义将父结点移到“|”右侧,利用条件独立简化公式,代入CPT中的值求解。,条件概率性质3,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,条件概率性质3,若B1B2=,则P(B1B2|A)=P(B1|A)+P(B2|A)证明:P(B1B2|A) = P(B1B2)A) / P(A) = P(B1AB2A) / P(A) = P(B1A) + P(B2A) / P(A) = P(B1A)/P(A) + P(B2A)/P(A) = P(B1|A) + P(B2|A),条件概率定义,事件运算分配率,概率定义性质3,条件概率定义,2
15、008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,诊断推理,已知一个子结点,计算父结点的条件概率。例:计算P(C|E)。,要点:将诊断推理转化为因果推理。,已知:P(S)= 0.4,P(C)= 0.3,P(E|S, C)= 0.9,P(E|S, C)= 0.3,P(E|S, C)=0.5,P(E|S, C)=0.1,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,例(续),P(C|E) = P(E|C)P(C) / P(E) P(E|C)=P(E, S|C) + P(E,S|C) = P(E|S, C)P(S|C) +P(E|S, C
16、)P(S|C) = P(E|S, C)P(S) +P(E|S, C)P(S) = 0.82 P(C|E) = 0.82P(C) / P(E) = 0.574 / P(E) 同理,P(C|E) = P(E |C) P(C) / P(E) = 0.102 / P(E) 由P(C|E) + P(C|E) = 1,得P(E) = 0.676 P(C|E) = 0.849,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,辩解推理,已知的既有父结点又有子结点,询问其他父结点。例:计算P(C|E, S)。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝
17、叶斯方法,P(C|E, S)= P(E, S| C) P(C) / P(E, S)= P(E| S, C) P(S |C) P(C) / P(E, S)= P(E| S, C) P(S) P(C) / P(E, S)= P(E| S, C) P(S) P(C) / (P(E |S) P(S)= 0.807,要点:先用贝叶斯公式,把要询问的父结点移至“|”右侧;再利用条件概率定义将“|”左侧的父结点移至“|”右侧;条件独立随时可用于简化公式。,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,例(摘自http:/en.wikipedia.org/wiki/Bayes
18、ian_network)CPT如下:P(R) = 0.2P(S|R) = 0.01P(S|R) = 0.4P(G|S, R) = 0.99P(G|S,R) = 0.8P(G|S,R) = 0.9P(G|S,R) = 0.0求:P(R|G),Sprinkler:洒水车洒水了Rain:下雨了Grass wet:草湿了,2008-2009学年第1学期,第5.1-5.2节 贝叶斯网络和主观贝叶斯方法,解:P(R|G)= P(G|R)P(R) / P(G)= P(G,S|R) + P(G,S|R)P(R)/P(G)= P(G|S,R)P(S|R) + P(G|S,R)P(S|R)P(R)/P(G)= 0
19、.990.01 + 0.80.99 0.2 / P(G)= 0.16038 / P(G)P(G) = P(G,S,R) + P(G,S,R) + P(G,S,R) + P(G,S,R)= P(G|S,R)P(S|R)P(R) + P(G|S,R)P(S|R)P(R) + P(G|S,R)P(S|R)P(R) + P(G|S,R)P(S|R)P(R)= 0.99*0.01*0.2 + 0.8*0.99*0.2 + 0.9*0.4*0.8 + 0.0 = 0.44838 P(R|G) = 0.16038 / 0.44838 = 0.35769,诊断推理,贝叶斯公式,条件概率性质3,概率定义性质3,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第53 54节 贝叶斯网络和主观贝叶斯方法课件 53 54 贝叶斯 网络 主观 方法 课件

链接地址:https://www.31ppt.com/p-1624818.html