人工智能-不确定性推理.ppt

《人工智能-不确定性推理.ppt》由会员分享，可在线阅读，更多相关《人工智能-不确定性推理.ppt（73页珍藏版）》请在三一办公上搜索。

1、1,人工智能 不确定性推理,4.1 不确定性推理基本理论4.2 可信度方法4.3 主观Bayes方法4.4 D-S证据理论4.5 模糊集理论,2,不确定性的产生与来源,来自人类的主观认识与客观实际之间存在的差异产生原因事物发生的随机性人类知识的不完全、不可靠、不精确和不一致自然语言中存在的模糊性和歧义性,3,不确定性（狭义）,不确定性(uncertainty)就是一个命题(亦即所表示的事件)的真实性不能完全肯定，而只能对其为真的可能性给出某种估计。例如果乌云密布电闪雷鸣，则可能要下暴雨。如果头痛发烧，则大概是患了感冒。,4,不确切性（模糊性）不确切性(imprecision)就是一个命题中所出

2、现的某些言词其涵义不够确切，从概念角度讲，也就是其代表的概念的内涵没有硬性的标准或条件，其外延没有硬性的边界，即边界是软的或者说是不明确的。例 小王是个高个子。张三和李四是好朋友。如果向左转，则身体就向左稍倾。,5,自然界中的不确定现象,随机模糊混沌分形复杂网络,6,随机性(偶然性)和随机数学以贝叶斯公式为基础的贝叶斯理论,在人工智能中一直是处理不确定性的重要工具带可信度的不确定推理证据理论引入信任函数和似然函数来描述命题的不确定性当先验概率已知时,证据理论就变成了概率论模糊性(非明晰性)和模糊数学模糊集合论,隶属度粗糙集理论Vague 集理论通过对模糊对象赋予真、假隶属函数,从正、反两个方面

3、来处理模糊性,随机性和模糊性是不确定性的基本内涵,7,混 沌,混沌是一种确定性系统中出现的类似随机的过程。因为很难对初值确定得非常精确，近似相同的初值产生很不相同的貌似随机的结果。初值敏感性导致过程的不确定性和不可预测性。蝴蝶效应：亚马逊河热带雨林中的一只蝴蝶扇动了两下翅膀，可能两周之后会引发美国德克萨斯州的一场龙卷风。“失之毫厘，差之千里”。初始条件的微小的差别能引起结果的巨大的差异。,8,复杂网络:Internet,具有小世界效应和无尺度特性,9,不确定性,人类认知过程的不确定性感知的不确定性记忆的不确定性思维的不确定性,自然语言的不确定性,10,视觉的不确定性,11,视觉的错觉,12,认

4、知的不确定性：,13,思维的不确定性,思维有精确的一面，更有不 确定的一面。人类习惯于用自然语言进行思维，思维的结果往往是可能如何、大概如何等定性的结论。人类还擅长通过联想的、直觉的、创造的形象思维来思考，很少象计算机一样做精确的数学运算或者逻辑推理，但是这并不妨碍人类具有发达的、灵活的智能，并不妨碍人类具有发达的、灵活的模式识别能力。,14,从感知到记忆到印象,感知,视觉,记忆,记忆随时间而淡忘形成的印象,=0.1,=0.8,=1.2,=1.5,=0.5,15,随着时间的推移，印象中的爱因斯坦只剩下一双深邃的眼睛，而印象中萨达姆也只剩下那浓密的胡子。,记忆的不确定性：记忆随时间而淡忘形成的印

5、象,16,4.1 不确定性推理基本理论,为什么要研究不确定性推理？现实世界的问题求解大部分是不良结构;对不良结构的知识描述具有不确定性:1)问题证据(初始事实,中间结论)的不确定性;2)专门知识(规则)的不确定性.,17,不确定性推理是指从不确定性的初始证据出发，通过运用不确定性的知识，最终推理出具有一定程度的不确定性，但又是合理或者似乎合理的结论的思维过程。,什么是不确定性推理,18,不确定性推理中的基本问题,在不确定性推理中,知识和证据都具有某种程度的不确定性,这就为推理机的设计与实现增加了复杂性和难度。除了要解决推理方向、推理方法、控制策略等基本问题外，还需要解决以下问题：不确定性的表示

6、和量度 不确定性匹配 不确定性的传递算法 不确定性的合成,19,不确定性的表示与量度,知识不确定性的表示在确立其表示方法时,有两个直接相关的因素需要考虑:1)要能根据领域问题的特征把其不确定性比较准确地描述出来,满足问题求解的需要;2)要便于推理过程中对不确定性的推算.证据不确定性的表示 在推理中,有两种来源不同的证据:1)一种是用户在求解问题时提供的初始证据;2)另一种是在推理中用前面推出的结论作为当前推理的证据.,20,确定度量方法和范围的原则,度量要充分表达相应知识及证据不确定性程度。度量范围的指定应便于领域专家及用户对不确定性的估计。度量要便于对不确定性的传递和计算，对结论算出的不确定

7、性度量不能超出度量规定范围。度量的确定是直观的，同时应有相应理论基础。,21,不确定性匹配,对于不确定性推理,由于知识和证据都具有不确定性,而且知识所要求的不确定性与证据实际具有的不确定性程度不一定相同，因而就出现“怎样才算匹配成功”的问题对于这个问题,目前常用的解决方法是：设计一个算法用来计算匹配双方相似的程度,另外再指定一个相似的限度,用来衡量匹配双方相似的程度是否落在指定的限度内.如果落在指定的限度内,就称它们是可匹配的,相应知识可被应用.用来计算匹配双方相似程度的算法称为不确定性匹配算法.用来指出相似的限度称为阈值.,22,不确定性推理的一般算法,根据规则前提E的不确定性C(E)和规则

8、强度f(H，E)求出假设H的不确定性C(H)，即定义一函数g1，使C(H)=g1C(E),f(H,E)根据分别由独立的证据E1和E2,求得的假设H的不确定性C1(H)和C2(H)，求得证据E1和E2的组合所导致的假设的不确定性C(H)，即定义一函数g2，使C(H)=g2C1(H),C2(H)根据两个证据E1和E2的不确定性C(E1)和C(E2)，求出证据E1和E2的合取E1E2的不确定性，即定义一函数g3，使C(E1E2)=g3C(E1),C(E2)根据两个证据E1和E2的不确定性C(E1)和C(E2)，求出证据E1和E2的析取的不确定性，即定义函数g4，使C(E1E2)=g4C(E1),C(

9、E2),23,不确定性推理与通常的确定性推理的差别：(1)不确定性推理中规则的前件能否与证据事实匹配成功，不但要求两者的符号模式能够匹配（合一），而且要求证据事实所含的信度必须达“标”，即必须达到一定的限度。这个限度一般称为“阈值”。(2)不确定性推理中一个规则的触发，不仅要求其前提能匹配成功，而且前提条件的总信度还必须至少达到阈值。(3)不确定性推理中所推得的结论是否有效，也取决于其信度是否达到阈值。(4)不确定性推理还要求有一套关于信度的计算方法，包括“与”关系的信度计算、“或”关系的信度计算、“非”关系的信度计算和推理结果信度的计算等等。,24,不确定性推理模型,不确定性推理模型没有一个

10、统一的模型，种类不计其数，其中比较著名的有：Shortliffe在1975年结合医疗专家系统MYCIN建立的确定性理论 Duda在1976年结合探矿专家系统PROSPECTOR建立的主观Bayes推理 Dempster Shafer在1976年提出的证据理论 Zadeh在1978年提出的可能性理论，1983年提出的模糊逻辑和逻辑推理 Nilsson在1986年提出的概率逻辑 Pearl在1986年提出的信任网络,25,确定因子法（可信度方法）主观Bayes方法 证据理论 可能性理论 粗集理论 批注理论,不确定性推理的方法,26,4.2 确定因子法可信度方法是由等人在确定性理论的基础上,结合概率

11、提出的一种不确定性推理方法,首先在Mycin系统中得到了成功的应用。其核心思想是：利用确定性因子CF(值).联系于具体的断言.联系于每条规则.通过CF的计算传播不确定性,27,可信度 根据经验对一个事物或现象为真的相信程度。C-F模型C-F 模型是基于可信度表示的不确定性推理的基本方法.,28,知识不确定性的表示,在C-F模型中,知识是用产生式规则表示的,其一般形式是:if E then H(CF(H,E)其中,E:是知识的前提条件,它既可以是一个单个条件,也可以是用 and 及 or 连接起来的复合条件;H:是结论，它可以是一个单一结论,也可以是多个结论.CF(H,E):是该条知识的可信度，

12、称为可信度因子或规则强度。（Certainty Factor）CH(H,E)在-1,1上取值,它指出当前提条件 E 所对应的证据为真时,它对结论为真的支持程度。,29,确定因子法 知识的不确定性表示 MYCIN系统称规则强度为规则确定性因子（Certainty Factor）CF(H,E)，它表示在已知证据的情况下，对假设的确信程度。CF(H,E)定义如下：,30,MB：称为信任增长度,它表示因与前提条件 E 匹配的证据的出现，使结论H为真的信任增长度.MD：称为不信任增长度,它表示因与前提条件E匹配的证据的出现,使结论H为真的不信任增长度.,规则的不确定性,31,在环境E 下，若两个证据的合

13、取或析取支持结论H，则可表示为 证据的不确定性组合定义为 CF(E1E2,E)=minCF(E1,E),CF(E2,E)CF(E1E2,E)=maxCF(E1,E),CF(E2,E)当两条规则支持同一结论H时，可表示为,不确定性的组合,32,不确定性的组合,当组合证据是多个单一证据的合取时,即:E=E1 and E2 and and En若已知 CF(E1),CF(E2),CF(En),则CF(E)=min CF(E1),CF(E2),CF(En)当组合证据是多个单一证据的析取时,即:E=E1 or E2 or or En若已知 CF(E1),CF(E2),CF(En),则CF(E)=max

14、CF(E1),CF(E2),CF(En),33,结论不确定性的合成算法,若由多条不同知识推出了相同的结论,但可信度不同,则可用合成算法求出综合可信度.设有如下知识:if E1 then H(CF(H,E1)if E2 then H(CF(H,E2)则结论 H 的综合可信度可分如下两步算出:,34,结论不确定性的合成,首先分别对每一条知识求出 CF(H):CF1(H)=CF(H,E1)max 0,CF(E1)CF2(H)=CF(H,E2)max 0,CF(E2)然后用下述公式求出 E1 与 E2 对 H 的综合影响所形成的可信度:CF1(H)+CF2(H)CF1(H)CF2(H)若 CF1(H)

15、0,CF2(H)0CF1(H)+CF2(H)+CF1(H)CF2(H)若 CF1(H)0,CF2(H)0 CF1(H)+CF2(H)1 min|CF1(H)|,|CF2(H)|若 CF1(H)CF2(H)0,35,实例,有下列一组知识:r1:if E1 then H(0.8)r2:if E2 then H(0.6)r3:if E3 then H(-0.5)r4:if E4 and(E5 or E6)then E1(0.7)r5:if E7 and E8 then E3(0.8)已知:CH(E2)=0.8,CH(E4)=0.5,CH(E5)=0.6,CH(E6)=0.7,CH(E7)=0.6,C

16、H(E8)=0.9,求:CF(H)=,36,确定因子法的缺点,（1）如何将人表示可信度的术语转变为数字化的CFs。例如，人的经验规则常涉及很可能、不大可能等术语，应对应到多大的CF值。（2）如何规范化人们对可信度的估计，不同人所作的估计往往相差较大。（3）为防止积累误差，需指定门槛值，但多大合适呢？太小固然不行，但太大也不好，因为可信度的传递需要累计较小的变化。（4）为改进可信度的精确性，需提供从系统的实际执行反馈的信息，并基于反馈信息调整可信度。这实际上是一种机器学习问题，尚未较好地加以解决。,37,4.3主观Bayes方法,在PROSPECTOR探矿专家系统中，采用了主观Bayes方法来度

17、量不确定性。引入两个数值（LS，LN）来作度量，LS表现规则A-B成立的充分性，LN表现规则A-B成立的必要性。也就是说LS表现规则A-B，A为真时对B为真的支持程度，LN表现了A不为真（A）对B为真的支持程度。,38,对规则的不确定性度量,对规则A-B的不确定性CF(B,A)以（LS，LN）来描述。,39,建立几率函数表示事实X为真的概率与X为假的概率之比，显然P(X)的越大O(X)也加大，而且：P(X)=0，O(X)=0P(X)=1，O(X)=,40,O(B|A)=LSO(B)O(B|A)=LNO(B）由这两个公式，对于规则A-B，LS表现A为真时对B为真的支持程度，LN表现了A为假（A）

18、时对B为真的支持程度。,41,42,根据LS、LN的定义可知，LS0，LN0，而且LS和LN不是独立取值，只能出现：LS1，LN1 或LS=LN=1但不能两者同时1或同时B，并且给出LS=20，LN=1则表示A真支持B真。LS=1，LN=300则表示A支持B真。,43,4.4 证据理论 证据理论是由Dempster和他的学生Shafer共同提出来的一种不确定性推理模型，所以也称为D-S证据理论。证据理论可以满足比概率更加弱的公里体系，当概率值已知的时候，证据理论就变成为概率论了。证据的不确定性 设U的幂集2U上定义了一个基本概率赋值函数m：2U 0,1，使满足，基本概率赋值函数m(A)表示了证

19、据对U的子集A成立的一种信任程度。,44,信任函数：信任函数定义为 似然函数：似然函数定义为 信任函数与似然函数的关系,45,命题的逻辑组合的情况 合取：析取：如果几种规则支持同一命题，总的概率赋值函数定义为各规则假设得到的基本概率赋值函数的正交和，即,46,4.5 可能性理论 Zadeh在1965年提出了模糊集合论，1978年又提出了可能性理论。模糊命题：含有模糊概念、模糊数据或带有确信程度的语句称为模糊命题。形式化为：x is A或者x is A(CF)其中，X是论域上的变量，用来代表所论对象的属性；A是模糊概念或模糊数；CF是该模糊命题的确信度，它可以是一个确定的数，也可以是模糊数，还可

20、以是模糊语言值。模糊知识的表示：模糊产生式规则的一般形式为 其中E是用模糊命题表示的模糊条件；H是用模糊命题表示的模糊结论；CF是该产生式规则所表示的知识可信度因子。,47,4.6 粗集理论 粗集理论是波兰华沙理工大学的Z.Pawlak教授1982年首先提出的处理不确定性信息的理论。该方法特别实用于观察和测量获得的不精确数据的分类问题。,48,加权的不确定性推理,IF 该论文有创见 AND 立论正确 AND 文字通顺 AND 格式规范 THEN 该论文可以发表,49,1、知识的不确定性表示 IF E1(1)AND E2(2)AND En(n)THEN H(CF(H,E),)其中，i是加权因子，

21、且,是阈值，01，只有当CF(E)时才可使用该条知识。,50,2、组合证据不确定性算法,E=E1(1)AND E2(2)AND En(n),51,3、不确定性的传递算法CF(H)=CF(H,E)CF(E),52,例、设有下列知识：IF 该动物有蹄（0.3）AND 该动物有长腿（0.2）AND 该动物有长颈（0.2）AND 该动物是黄褐色（0.13）AND 该动物身上有暗黑色斑点（0.13）AND 该动物的体重200kg（0.04）THEN 该动物是长颈鹿（0.95,0.8）,53,证据为：E1:该动物有蹄（1）E2:该动物有长腿（1）E3:该动物有长颈（1）E4:该动物是黄褐色（0.8）E5:

22、该动物身上有暗黑色斑点（0.6）试问该动物是什么动物？,54,解：CF(E)=0.31+0.21+0.21+0.130.8+0.130.6=0.882因=0.8，而CF(E)，所以知识可以使用，推出该动物是长颈鹿，其可信度为：CF(H)=CF(H,E)CF(E)=0.95 0.882=0.84,55,4、冲突消解设有下述知识r1:IF E1(1)THEN H1(CF(H1,E1),1)r2:IF E2(2)THEN H2(CF(H2,E2),2)且 CF(E1(1)1 CF(E2(2)2若CF(E1(1)CF(E2(2)，则优先使用r1进行推理。,56,例、设有下列知识：r1:IF E1(0.

23、6)AND E2(0.4)THEN E6(0.8,0.75)r2:IF E3(0.5)AND E4(0.3)AND E5(0.2)THEN E7(0.7,0.6)r3:IF E6(0.7)AND E7(0.3)THEN H(0.75,0.6)已知：CF(E1)=0.9,CF(E2)=0.8,CF(E3)=0.7 CF(E4)=0.6,CF(E5)=0.5求：CF(H),57,解：由r1 有：CF(E1(0.6)AND E2(0.4)=0.60.9+0.40.8=0.86因为1=0.75所以CF(E1 AND E2)1故r1可以使用。,58,由r2 有：CF(E3(0.5)AND E4(0.3)

24、AND E5(0.2)=0.50.7+0.30.6+0.20.5=0.63因为2=0.6所以CF(E3 AND E4 AND E5)2故r2可以使用,59,因为 CF(E1 AND E2)CF(E3 AND E4 AND E5)所以r1先被启用，然后才能启用r2,60,由r1 有：CF(E6)=0.80.86=0.694由r2 有：CF(E7)=0.70.63=0.441,61,由r3 有：CF(E6(0.7)AND E7(0.3)=0.70.694+0.30.441=0.6181因为CF(E6 AND E7)3所以r3被启用，得到：CF(H)=CF(H,E)CF(E)=0.750.6181=

25、0.463575,62,证据理论基本思想(1)用一个概率范围而不是简单的概率值来模拟不确定性。(2)引入信任函数Bel和似然函数Pl.(3)用区间(Bel(A),Pl(A)表示证据A的不确定度量,63,证据理论1、样本空间 设D是变量x的所有可能取值的集合，且D中的元素是互斥的，则称D为x的样本空间。D中的任意一个子集都对应于一个关于x的命题。若D有n个元素，则2D表示D的2n个子集。,64,2、概率分配函数 设D为样本空间，有映射函数 M(x):2D0,1，且满足 M()=0 M(A)=1 A D则称M(x)是2D上的概率分配函数。M(A)称为命题A的基本概率数。它是命题A的信任度。,65,

26、3、信任函数（1）定义 设D为样本空间，有映射函数 Bel(x):2D0,1，且满足 Bel(A)=M(B),对所有的A2D B A 则称Bel(x)为信任函数或下限函数。Bel(A)表示对命题A为真的信任程度（支持度）。,66,（2）性质 Bel()=M()=0 Bel(D)=M(B)=1 B D,67,例3、设D=红、黄、蓝，且M(红)=0.3，M(黄)=0，M(蓝)=0.1，M(红，黄)=0.2，M(红，蓝)=0.2，M(黄，蓝)=0.1，M(红，黄，蓝)=0.1求Bel(A),68,解：Bel(红)=M(红)=0.3Bel(红，黄)=M(红)+M(黄+M(红，黄)=0.3+0+0.2=

27、0.5,69,Bel(红，黄，蓝)=M(红)+M(黄)+M(蓝+M(红，黄)+M(红，蓝)+M(黄，蓝)+M(红，黄，蓝)=0.+.1+0.2+0.2+0.1+0.1=1,70,、似然函数Pl:2D0,1，且 Pl(A)=1-Bel(A)对所有的A2DBel(A)表示对A为非假的程度。Pl(A)：A的最大信任度（合情度）f(A)=Bel(A)+|A|/|U|(Pl(A)-Bel(A)f(A):A的不确定性,71,例、对于例，求Pl(A)Pl(红)=1-Bel(红)=1-Bel(黄，蓝)=1-M(黄)+M(蓝)+M(黄，蓝)=1-(0+0.1+0.1)=0.8,72,Pl(黄，蓝)=1-Bel(黄，蓝)=1-Bel(红)=1-0.3=0.7,73,Thanks.,