第4章非经典推理ppt课件.pptx

《第4章非经典推理ppt课件.pptx》由会员分享，可在线阅读，更多相关《第4章非经典推理ppt课件.pptx（68页珍藏版）》请在三一办公上搜索。

1、Ch.4 NonClassical Reasoning第四章 非经典推理,4.6 证据理论4.7 小结,4.1 经典推理和非经 4.5 可信度方法,典推理4.2 不确定性推理4.3 概率推理4.4 主观贝叶斯方法,C,4.1 经典推理和非经典推理（Classical&Nonclassical Reasoning）,传统的人工智能系统一般是建立在经典推理基础之上的。经典推理为推动人工智能的发展起到了很大的作用但是经典推理的表达和推理能力毕竟有限：信息只有非真即假这两种情况，无法表示不确定性的信息不能对新知识加入时进行知识库的修正不能进行看似合理，但有可能的演绎推理,C,4.1 经典推理和非经典推

2、理（Classical&Nonclassical Reasoning）,已知事实的集合,规则库,推理算法,现实世界中事物与事物之间的关系复杂客观上存在随机性、模糊性及某些事物或现象暴露的不充分性导致认识的不精确和不完全,认识的不确定性反应到人们所总结的知识（或规则）以及由观察所得到的证据上来就分别形成了不确定性的知识及不确定性的证据,4.1 经典推理和非经典推理的区别,4.1.1 不确定性及其类型,1.(狭义)不确定性 不确定性(uncertainty)就是一个命题(亦即所表示的事件)的真实性不能完全肯定,而只能对其为真的可能性给出某种估计。例如:,如果乌云密布并且电闪雷鸣,则很可能要下暴雨。

3、如果头痛发烧,则大概是患了感冒。,就是两个含有不确定性的命题。当然,它们描述的是人们的经验性知识。,2.不确切性(模糊性)不确切性(imprecision)就是一个命题中所出现的某些言词其涵义不够确切,从概念角度讲,也就是其代表的概念的内涵没有硬性的标准或条件,其外延没有硬性的边界,即边界是软的或者说是不明确的。例如,小王是个高个子。张三和李四是好朋友。如果向左转,则身体就向左稍倾。,4.1.1 不确定性及其类型,4.1.1 不确定性及其类型,3.不完全性 不完全性就是对某事物来说,关于它的信息或知识还不全面、不完整、不充分。例如,在破案的过程中,警方所掌握的关于罪犯的有关信息,往往就是不完全

4、的。但就是在这种情况下,办案人员仍能通过分析、推理等手段而最终破案。,4.1.1 不确定性及其类型,4.不一致性 不一致性就是在推理过程中发生了前后不相容的结论;或者随着时间的推移或者范围的扩大,原来一些成立的命题变得不成立、不适合了。例如,牛顿定律对于宏观世界是正确的,但对于微观世界和宇观世界却是不适合的。,CISIC,C,4.2 不确定性推理（Reasoning with Uncertainty）,是一种建立在非经典逻辑基础上的基于不确定性知识的推理从不确定性的初始证据出发，通过运用不确定性知识推出具有一定程度的不确定性的和合理的或近乎合理的结论,4.2 不确定性推理基本问题,不确定性的表

5、示证据的不确定性表示知识的不确定性表示推理计算不确定性传递计算组会证据不确定性算法结论不确定性更新或合成算法不确定性度量,4.2 不确定性推理推理模型,推理模型：根据初始事实（证据）的不确定性和知识的不确定性，推导和计算结论不确定性的方法和过程常用推理模型：可信度方法主观Bayes方法证据理论模糊推理,4.2.1 不确定性的表示与度量（Representation andMeasurement of Uncertainty）不确定性推理中存在三种不确定性：关于知识的不确定性、关于证据的不确定性、关于结论的不确定性。知识的表示与推理密切相关，不同的推理方法要求有相应的知识表示模式与之对应。表示不

6、确定性知识应考虑：(1)要能根据领域问题特征把不确定性比较准确地描述出来以满足问题求解的需要；(2)要便于推理过程中推算不确定性。C,专家系统中通常用一个数值表示相应知识的不确定性程度，称为知识的表态强度。证据的不确定性也通常用一个数值代表相应证据的不确定性程度，称为动态强度。考虑不确定性的度量方法与度量范围时必须注意:量度应能充分表达相应知识和证据不确定性的程度；量度范围的指定应便于领域专家和用户对不确定性的估计；量度应便于对不确定性的传递进行计算；,量度的确定应是直观的并有相应的理论依据。C,C,4.2.2 不确定性的算法（Algorithm of Uncertainty）推理是一个不断运

7、用知识的过程。设计一个用来计算匹配双方相似程度的算法，给所有前提条件及已知证据指定一个相似限度(称为阈值)，用来衡量匹配双方相似的程度是否落在指定的限度内。如果落在指定的限度内，就称它们是可匹配的，相应的知识可被应用;否则称它们是不可匹配,的，相应的知识不可应用。,C,ISIC,4.3 概率推理（Probabilistic Reasoning）目前用得较多的不精确推理模型有：概率推理、贝叶斯推理、可信度方法、证据理论以及模糊推理等。假设有产生式规则：if E then H，证据(或前提条件)E 不确定性的概率为P(E)，概率方法不精确推理的目的就是求出在证据 E 下结论 H 发生的概率P(H|

8、E)。假设已知 H 的先验概率P(H)及条件概率P(E|H),则根据贝叶斯公式有：,P(H|E)=,P(H)P(E|H)P(E),=0.24+0.15=0.62,C,例：设H1，H2是两个结论，E是支持这些结论的证据，且已知：P(H1)=0.4，P(H2)=0.5，P(E|H1)=0.6，P(E|H2)=0.3。求：P(H1|E)，P(H2|E)。解：根据贝叶斯公式有,P(H1)*P(E|H1)P(H1|E)=P(H1)*P(E|H1)+P(H2)*P(E|H2)0.24同理可求得 P(H2|E)=0.38,4.4 主观贝叶斯方法（Subjective Bayes Method）实际上，先验概

9、率 P(Hi)及证据 E 的条件概率 P(E|Hi)是很难给出的。,R.O.Duda等人于1976年提出一种不确定性推理模型：主观贝叶斯方法,并成功地应用于地质勘探专家系统PROSPECTOR。主观贝叶斯方法是以概率统计理论为基础,将贝叶斯(Bayesian)公式与专家及用户的主观经验相结合而建立的一种不确定性推理模型。,4.4.1 知识不确定性的表示(Representationabout Knowledge Uncertainty）,表示知识。其中(LS,LN)表示该知识的静态强度，称LS为(4.16)式成立的充分性因子，LN为(4.16)式成立的必要性因子，分别衡量证据 E 对结论 H

10、的支持程度和 E 对H的支持程度。C,if E then(LS,LN)H（P(H),(4.16),1.不确定性度量主观贝叶斯方法的不确定性度量为概率P(x),另外还有三个辅助度量:LS,LN和O(x)。,主观贝叶斯方法采用产生式规则：,刻画E为真时对H的影响程度,充分性因子,必要性因子,概率函数,它反映了一个命题为真的概率(或假设的似然性(likelihood)与其否定命题为真的概率之比,其取值范围为0,+。,下面我们介绍LS,LN的来历并讨论其取值范围和意义。由概率论中的贝叶斯公式,有,两式相除得,即,亦即,O(H|E)=O(H)LS,从而,由此式不难看出：LS1 当且仅当O(H|E)O(H

11、),说明E以某种程度支持H;LS1 当且仅当O(H|E)O(H),说明E以某种程度不支持H;LS=1 当且仅当O(H|E)=O(H),说明E对H无影响。,将上面贝叶斯公式中E的换为E,用类似的过程即可得到,O(H|E)=O(H)LN,进而有,由此式不难看出：LN1当且仅当O(H|E)O(H),说明E以某种程度支持H;LN1当且仅当O(H|E)O(H),说明 E以某种程度不支持H;LN=1 当且仅当O(H|E)=O(H),说明 E对H无影响。,因为一个证据E及其否定E不可能同时既支持又反对一个假设H,因此任一条规则EH的LS、LN 只能是下列情况中的一种:LS1,且LN1;LSLN1。,C,IS

12、IC,(4.22)(4.23),根据概率函数公式可得:O(H|E)=LS*O(H)O(H|E)=LN*O(H),以上两式表明:当 E 为真时，可利用LS 将 H的先验几率 O(H)更新为其后验几率 O(H|E);当 E 为假时，可利用 LN 将 H的先验几率 O(H)更新为其后验几率 O(H|E)。,C,ISIC,由式(4.22)(4.23)可知：LS越大，则O(H|E)越大，且P(H|E)也越大，说明E对H的支持越强。当LS 时,O(H|E),P(H|E)1，这说明 E 的存在导致 H 为真。,同时也可看出：LN 反映了E的出现对 H 的支持程度。当LN=0 时，将使O(H|E)=0,这说明

13、 E 的不存在导致 H 为假。因此说 E 对 H是必要的。,C,ISIC,Advantages of Subjective Bayes Method(1)计算公式具有比较坚实的理论基础；(2)规则中的LS,LN来自领域专家的实践经验，且较全面地反映了证据与结论间的因果关系。(3)同时给出了证据确定与证据不确定情况下推理方法。,这是当证据E肯定存在即为真时,求假设H的后验概率的计算公式。其中的LS和P(H)由专家主观给出。,这是当证据E肯定不存在即为假时,求假设H的后验概率的计算公式。其中的LN和P(H)由专家主观给出。,当证据E不确定时，EH函数：,其中的S为与E有关的观察,即能够影响E的事件

14、。,例4.1 设有规则if E1 then(100,0.01)H1(P(H1)=0.6)，并已知证据E1肯定存在，求H1的后验概率P(H1|E1)。解 由于证据E1肯定存在，因此可用下列公式计算P(H1|E1)：,推理举例,例4.2 设有规则if E1 then(100,0.01)H1(P(H1)=0.6)，并已知证据E1肯定不存在，求H1的后验概率P(H1|E1)。解 由于证据E1肯定不存在，因此可用下面公式计算P(H1|E1)：,推理举例,推理举例,例4.3 设有规则if E1 then(100,0.01)H1(P(H1)=0.6)，并已知证据E1不确定，但P(E1|S1)=0.7，S1为

15、影响E1的观察或条件，而E1的先验概率P(E1)=0.5，求H1的后验概率P(H1|E1)。解 由于证据E1不确定，因此要用EH公式计算P(H1|E1)。又由于,P(E1|S1)=0.7 P(E1)=0.5,所以应采用公式,推理举例,即,其中P(H1)、P(E1)已知，还需要计算E1肯定存在的情况下的P(H1|E1)，我们直接采用前面例4.1的结果，于是有,4.5 可信度方法C-F(Certain Factor)Method,肖特里菲(Shortliffe)等在确定性理论基础上结合概率论等理论提出的一种不精确推理模型。根据经验对一个事物或现象为真(相信)的程度称为可信度。每条规则和每个证据都具

16、有一个可信度。推理规则的一般形式：,If E then H,(CF(H,E),(4.30)ISICC,C,ISIC,其中 CF(H,E)是该规则的可信度，称为可信度因子或规则强度。CF(H,E)0表示该证据增加了结论为真的程度，且CF(H,E)的值越大则结论 H 越真；若CF(H,E)=1，则表示该证据使结论为真。CF(H,E)0 表示该证据增加了结论为假的程度，且CF(H,E)的值越小则结论 H 越假；若CF(H,E)=1,则表示该证据使结论为假。CF(H,E)=0 表示证据 E 和结论 H 没有关系。,这个可信度如何计算呢？原来,CF是由称为信任增长度MB和不信任增长度MD相减而来的。即,

17、CF(H,E)MB(H,E)-MD(H,E),而,当P(H)=1,否则,当P(H)=0,否则,当MB(H,E)0,表示由于证据E的出现增加了对H的信任程度。当MD(H,E)0,表示由于证据E的出现增加了对H的不信任程度。由于对同一个证据E,它不可能既增加对H的信任程度又增加对H的不信任程度,因此,MB(H,E)与MD(H,E)是互斥的,即 当MB(H,E)0时,MD(H,E)0；当MD(H,E)0时,MB(H,E)0。,下面是MYCIN中的一条规则：,如果 细菌的染色斑呈革兰氏阳性,且 形状为球状,且 生长结构为链形,则 该细菌是链球菌(0.7)。,这里的0.7就是规则结论的CF值。最后需说明

18、的是,一个命题的信度可由有关统计规律、概率计算或由专家凭经验主观给出。,2.前提证据事实总CF值计算 CF(E1E2En)minCF(E1)，CF(E2)，CF(En)CF(E1E2En)maxCF(E1)，CF(E2)，CF(En)其中E1，E2，En是与规则前提各条件匹配的事实。,3.推理结论CF值计算 CF(H)CF(H，E)max0，CF(E)其中E是与规则前提对应的各事实，CF(H，E)是规则中结论的可信度，即规则强度。,4.重复结论的CF值计算 若同一结论H分别被不同的两条规则推出,而得到两个可信度CF(H)1和CF(H)2,则最终的CF(H)为,例4.4 设有如下一组产生式规则和

19、证据事实，试用确定性理论求出由每一个规则推出的结论及其可信度。规则:if A then B(0.9)if B and C then D(0.8)if A and C then D(0.7)if B or D then E(0.6)事实:A，CF(A)=0.8;C，CF(C)=0.9,解 规则得:CF(B)0.90.80.72 由规则得:CF(D)10.8min0.72，0.9)0.80.720.576 由规则得:CF(D)20.7min0.8，0.9)0.70.80.56 从而 CF(D)CF(D)1CF(D)2CF(D)1CF(D)2 0.5760.560.5760.560.32256 由规

20、则得:CF(E)0.6max0.72，0.322560.60.720.432,4.6 证据理论Evidence(D-S)Theory首先由德普斯特(Dempster)提出，由沙佛(Shafer)进一步发展。因此,证据理论又称为D-S理论。用集合表示命题，集合中各元素互斥。分别采用概率分配函数、信任函数和似然函数等来描述和处理知识的不确定性。信任函数 Bel(A)和似然函数 Pl(A)分别表示命题 A 信任度的上限和下限，也可用来表示知识强度的上限和下限。CISIC,1.基本概念1)识别框架 识别框架就是所考察判断的事物或对象的集合,记为。例如下面的集合都是识别框架：1晴天，多云，刮风，下雨 2

21、感冒，支气管炎，鼻炎 3红，黄，蓝 480，90，100,识别框架的子集就构成求解问题的各种解答。这些子集也都可以表示为命题。证据理论就是通过定义在这些子集上的几种信度函数,来计算识别框架中诸子集为真的可信度。例如,在医疗诊断中,病人的所有可能的疾病集合构成识别框架,证据理论就从该病人的种种症状出发,计算病人患某类疾病(含多种病症并发)的可信程度。,2)基本概率分配函数 定义4给定识别框架，A2，称m(A)：20，1是2上的一个基本概率分配函数(Function of Basic Probability Assignment)，若它满足(1)m()0;,例4.5 设a，b，c，其基本概率分配函

22、数为 m(a)0.4 m(a，b)0 m(a，c)0.4 m(a，b，c)0.2 m(b)0 m(b，c)0 m(c)0可以看出，基本概率分配函数之值并非概率。如 m(a)m(b)m(c)0.41,3.信任函数定义2 给定识别框架，,称为2上的信任函数(Function of Belief)。信任函数表示对A为真的信任程度。所以，它就是证据理论的信度函数。信任函数也称为下限函数。,可以证明，信任函数有如下性质：(1)Bel()0，Bel()1，且对于2中的任意元素A，有0Bel(A)1。(2)信任函数为递增函数。即若，则Bel(A1)Bel(A2)。(3)Bel(A)Bel(A)1(A为A的补

23、集)例4.6 由例4.5可知 Bel(a，b)m(a)m(b)m(a，b)0.4000.4,4）似真函数 定义3 Pl(A)1Bel(A)（A2，A为A的补集）称为A的似真函数(Plausible function)，函数值称为似真度。似真函数又称为上限函数，它表示对A非假的信任程度。,例4.7 由例4.5、例4.6可知,Pl(a，b)1-Bel(a，b)1-(c)1-01,5)信任区间定义4设Bel(A)和Pl(A)分别表示A的信任度和似真度,称二元组,Bel(A),Pl(A),为A的一个信任区间。,信任区间刻划了对A所持信任程度的上下限。如：(1)1,1表示A为真(Bel(A)Pl(A)1

24、)。(2)0,0表示A为假(Bel(A)Pl(A)0)。(3)0,1表示对A完全无知。因为Bel(A)0,说明对A不信任;而Bel(A)1-Pl(A)0,说明对A也不信任。(4)1/2,1/2表示A是否为真是完全不确定的。(5)0.25,0.85表示对A为真信任的程度为0.25;由Bel(A)=1-0.85=0.15表示对A也有一定程度的信任。由上面的讨论,Pl(A)-Bel(A)表示对A不知道的程度,即既非对A 信任又非不信任的那部分。,似真函数Pl具有下述性质：(1)Pl(A);(2)Pl(A)Pl(A)1;(3)Pl(A)Bel(A)。这里,性质(1)指出似真函数也可以由基本概率分配函数

25、构造,性质(2)指出A 的似真度与A的似真度之和不小于1,性质(3)指出A的似真度一定不小于A的信任度。,6）Dempster 组合规则 1)基本的组合规则。设m1(A)和m2(A)（A2）是识别框架基于不同证据的两个基本概率分配函数，则将二者可按下面的 Dempster组合规则合并：,该表达式一般称为m1与m2的正交和，并记为mm1+m2。不难证明，组合后的m(A)满足,例4.8 设识别框架a，b，c，若基于两组不同证据而导出的基本概率分配函数分别为：m1(a)0.4 m1(a，c)0.4 m1(a，b，c)0.2 m2(a)0.6 m2(a，b，c)0.4,将m1和m2合并,m1(a)m2

26、(a)m1(a)m2(a，b，c)m1(a，c)m2(a)m1(a，b，c)m2(a)0.76 m(a，c)m1(a，c)m2(a，b，c)0.16 m(a，b，c)m1(a，b，c)m2(a，b，c)0.08,2)含冲突修正的组合规则 上述组合规则在某些情况下会有问题。考察两个不同的基本概率分配函数m1和m2，若存在集合B、C，BC，且m1(A)0，m2(B)0，这时使用 Dempster组合规则将导出,这与概率分配函数的定义冲突。这时，需将Dempster 组合规则进行如下修正：,例4.9 设有规则:(1)如果流鼻涕则感冒但非过敏性鼻炎(0.9)或过敏性鼻炎但非感冒(0.1)(2)如果眼发

27、炎则感冒但非过敏性鼻炎(0.8)或过敏性鼻炎但非感冒(0.05)括号中的数字表示规则前提对结论的支持程度。又有事实:小王流鼻涕(0.9)小王眼发炎(0.4)括号中的数字表示事实的可信程度。,我们用证据理论求解这一医疗诊断问题。首先,取识别框架,h1，h2，h3,其中，h1表示“感冒但非过敏性鼻炎”，h2表示“过敏性鼻炎但非感冒”，h3表示“同时得了两种病”。,再取下面的基本概率分配函数:m1(h1)规则前提事实可信度规则结论可信度0.90.90.81m1(h2)0.90.10.09m1(h1，h2，h3)1-m1(h1)-m1(h2)1-0.81-0.090.1 m1(A)0(A为的其他子集)

28、m2(h1)0.40.80.32m2(h2)0.40.050.02m2(h1，h，h3)1-m2(h1)-m2(h2)1-0.32-0.020.66 m2(A)0(A为的其他子集),将两个概率分配函数合并 K1/1-m1(h1)m2(h2)m1(h2)m2(h1)1/1-0.810.02+0.090.32 1/1-0.045 1/0.955 1.05 m(h1)Km1(h1)m2(h1)m1(h1)m2(h1，h2，h3 m1(h1，h2，h3)m2(h1)1.050.82580.87,m(h2)Km1(h2)m2(h2)m1(h2)m2(h1，h2，h3m1(h1，h2，h3)m2(h2)1

29、.050.06320.066m(h1，h2，h3)1-m(h1)-m(h2)1-0.87-0.0660.064 由信任函数求信任度 Bel(h1)m(h1)0.87 Bel(h2)m(h2)0.066,由似真函数求似真度Pl(h1)1-Bel(h1)1-Bel(h2，h3)1-m(h2m(h3)1-0.06600.934Pl(h2)1-Bel(h2)1-Bel(h1，h3)1-m(h1)m(h3)1-0.8700.13,于是，最后得到：“感冒但非过敏性鼻炎”为真的信任度为0.87，非假的信任度为0.934；“过敏性鼻炎但非感冒”为真的信任度为0.066，非假的信任度为0.13。所以，看来该患者

30、是感冒了。证据理论是被推崇的处理随机性不确定性的好方法，受到人工智能特别是专家系统领域的广泛重视，并且已为许多专家系统所采用。,C,ISIC,4.7 小结（Summary）The theorem set of nonmonotonous reasoning is notincreased monotonously with the reasoning process,thenew inferred theorems may revised or even negate someoriginal theorems，and some explained phenomenabecome not explanatory.It is not based on logic,and eliminate limitation of the 1stlogic.It is used widely.reasoning with uncertainty begins from uncertain initialevidence，uses uncertain knowledge to infer a reasonableor almost reasonable conclusion with some uncertainty.,