人工智能8-9章.ppt

,第8章 专家系统,8.1 专家系统的概念,8.1.1 什么是专家系统专家系统（Expert system)是一个智能计算机软件系统。人类专家的特点具有丰富的专业知识和实践经验。具有独特的分析问题和解决问题的方法和策略。专家系统应具备的要素应用于某专门领域,8.1 专家系统的概念,拥有专家级知识；能模拟专家的思维；能达到专家级水平。专家系统的特点专家系统善于解决不确定性的、非结构化的、没有算法解或虽有算法解但实现困难的问题。如：医疗诊断、地质勘探、天气预报、管理决策等。专家系统是基于知识的智能问题求解系统。不同于常规程序基于固定算法。专家系统=知识+推理，常规程序=数据结构+算法。,8.1 专家系统的概念,从系统结构看，专家系统的知识与推理是分离的，因而系统具有很好的灵活性和可扩充性。专家系统具有“自学习”能力，能不断地对自己的知识进行总结、扩充和完善。具有解释功能。在运行过程中能回答用户的提问，并具有透明性，能以用户所能理解的方式解释得到结论的推理过程。专家系统不像人类专家那样容易疲劳、遗忘和受环境影响。它的工作状态始终是稳定如一的。而且能够突破人类专家的时间和空间限制，永久保存，任意复制，在不同地区和部门使用。,8.1 专家系统的概念,专家系统的实用范围用专家系统来提高工作效率人类专家的知识很快就要失传，必须通过专家系统来收集、保存和应用人类专家太少，必须建造专家系统来使专家们的知识同时应用于不同的地点。一些危险的工作环境需要专家系统来代替人类专家。8.1.3 专家系统的类型1。按用途分类解释型。根据所得到的有关数据、经过分析、推理，从而给出解释的一类专家系统。,8.1 专家系统的概念,诊断型。根据输入信息推出相应对象存在的故障、找出产生故障的原因并给出排除故障方案的一类专家系统。如医疗诊断、机器故障诊断、产品质量鉴定等专家系统。预测型。根据相关对象的过去及当前状况来推测未来情况的一类专家系统。如天气预报、市场预测、地震预报等。决策型。利用已知信息通过推理帮助决策的专家系统。如智能决策支持系统。设计型。按给定要求进行相应设计的一类专家系统。如工程设计、电路设计、建筑及装潢设计、服装设计等领域。规划型。按给定目标拟定总体规划、行动计划、运筹优化等的一类专家系统。如机器人动作控制、工程规划、军事行动规划等。,专家系统的概念,控制型。用于对各种大型设备及系统实现控制的一类专家系统。监测型。用于完成实时监测任务的一类专家系统。如病人监护、网络监测、航空监管等。教育型。能用于辅助教学的专家系统。如制订教学计划、设计习题、水平测试等。按输出结果分类分析型。工作性质属于逻辑推理，输出结果是个“结论”。如诊断型、解释型、预测型、决策型都属于分析型专家系统。设计型。工作性质属于某种“操作”，输出结果是一个“方案”。,专家系统的概念,按知识表示分类产生式规则、一阶谓词逻辑、框架、语义网等。按知识分类精确推理专家系统和不精确推理专家系统。按技术分类符号推理专家系统和神经网络专家系统。,专家系统的概念,按规模分类大型协同式专家系统和微专家系统。按体系结构分集中式专家系统。对知识和推理进行集中管理的一类专家系统。分布式专家系统。知识库和推理机分布在计算机网上。,专家系统的概念,专家系统与知识系统专家系统与知识工程专家系统与人工智能,8.2 专家系统的结构,8.2.1 概念结构,人 机 界 面,推理机,解释模块,知识库,动态数据库,知 识 库 管 理 系 统,8.2 专家系统的结构,1。知识库知识库就是以某种表示形式存储于计算机中的知识的集合。知识库中的知识包括专家知识、领域知识和元知识。元知识是关于调度和管理知识的知识。2。推理机是专家系统实现推理的程序，专家系统的核心部分。推理机使用知识库中的知识进行推理。推理机模拟专家的思维机制。是专家分析问题、解决问题的机器实现。推理机的推理方法必须与知识的表示方法一致。,8.2 专家系统的结构,3。动态数据库类似于产生式系统中的动态数据库，是专家系统存放初始证据、事实、推理结果和控制信息的场所。只在系统运行期间产生、变化和撤消。4。人机界面专家系统与领域专家或知识工程师及一般用户间的接口，用于完成输入输出工作。领域专家或知识工程师通过人机界面输入知识，更新、完善知识库。,8.2 专家系统的结构,一般用户通过它输入欲求解的问题、已知事实以及向系统提出询问。系统通过它输出运行结果、回答用户的提问或向用户索取进一步的事实。解释模块负责向用户解释专家系统的行为和结果。回答用户提出的“为什么？”、“结论是如何得出的？”等问题。,8.2 专家系统的结构,知识库管理系统负责知识库的建立、删除。知识的获取、维护、查询、更新等。知识的检查，包括知识的一致性、冗余性和完整性检查。,8.2 专家系统的结构,8.2.1 具有“自学习”功能的专家系统,人 机 界 面,推理机,解释模块,知识库,动态数据库,知 识 库 管 理 系 统,自学习模块,8.2 专家系统的结构,8.2.2 实际结构实际问题的复杂性使得实际的专家系统机构变得复杂。专家系统模块只是整个系统中的一部分。也可能有多个专家系统模块。,专家模块1,专家模块m,处理模块1,处理模块n,总 控,8.2 专家系统的结构,8.2.1 地质图件绘制专家系统,多 媒 体 人 机 界 面,方法选择,参数确定,图件绘制,图形评价,IO接口,动 态 数 据 库,方法知识库,参数知识库,评价知识库,自学习模块,知 识 库 管 理 系 统,8.2 专家系统的结构,分布式结构Client/Server 结构,知识库,推理机,人-机界面,服务器,客户机,8.2 专家系统的结构,Browser/Server 结构,知识库,推理机,人-机界面,Web Server,Browser,Internet,8.2 专家系统的结构,8.2.4 黑板模型,层 次 n 层 次 2 层 次 1,知识源1知识源2知识源m,黑板,知识源,监督程序 调度程序,控 制机构,8.2 专家系统的结构,8.2.4 黑板模型有“黑板”、知识源，控制机构三部分组成。1。黑板一个分层的全局工作区（全局数据库）。用来存储初始数据、中间结果和最终结果。高层是下层的抽象；下层是上层的实例。2。知识源知识源也是分层的。每个知识源用来完成特定的解题功能。一个知识源可视为一个大规则。条件部分称为知识源先决条件，动作部分称为知识元体。,8.2 专家系统的结构,3。控制机构控制机构是求解问题的推理机构，包括监督程序和调度程序。监督程序监视着黑板状态，根据黑板状态采用一定的策略选择合适的知识源，将其条件部分防入调度队列，并与黑板状态匹配。调度程序通过“聚焦”来优先使用调度队列中最重要的知识源来执行。,8.3 专家系统的应用与发展概况,8.3.1 专家系统的意义8.3.2 专家系统的应用8.3.3 专家系统的发展概况产生发展趋势,8.4 专家系统实例,8.4.1 PROSPECTOR的功能与结构1。勘探评价对地质数据和信息进行分析和评价，预测成矿的可能性。并指导下一步应采集那些信息。2。区域资源评价评价某一较大区域的地质资源分布情况。3。井位选择当已知某一区域含有某种矿藏后，可以帮助选择最佳井位。,PROSPECTOR的总体结构,执行程序,解释系统,提问系统,推 理 网 络,知识获取系统,模型文件,模型文件,模型文件,分类学文件,网络编译程序,传播程序,匹配程序,英语分析程序,PARSEFILE程序,用户,PROSPECTOR的功能与结构,执行程序人机接口，负责接受用户输入的命令，解释命令的含义，并调用其他子系统。英语分析程序负责理解用户用自然语言输入的信息。匹配程序使用分类学词典比较各个语义空间的关系，把用户提供的信息加入推理网络中或检查推理网络的一致性,PROSPECTOR的功能与结构,传播程序负责在推理网络中进行概率传播，实现不确定性推理。提问系统负责向用户提问，要求用户输入数据。解释系统用于解答用户的询问。网络编译系统为在井位选择推理网络中传播图形信息，生成高效代码。知识获取系统在运行时生成、修改或保存推理网络。,8.5 专家系统设计与实现,8.5.1 一般步骤与方法,知识库管理系统设计,系统总体分析与设计,知 识 获 取,知识表示与知识描述语言设计,推理机设计,解释模块设计,总控与界面设计,其它功能模块设计,知识库设计,编 程 与 调 试,测 试 与 评 价,运 行 与 维 护,8.5 专家系统设计与实现,快速原型与增量式开发先建立一个小型的系统“模型”，再不断地扩充和完善。知识获取1。人工获取由知识工程师挖掘、搜集、分析、综合、整理知识，然后存入知识库。2。半自动获取利用知识获取系统，采取提示、指导或问答的方式，帮助专家提取、归纳有关知识，并自动存入知识库。3。自动获取机器学习。,8.5 专家系统设计与实现,知识表示与知识描述语言设计按照知识的特点，选择一种知识表示方式，并为这种表示方式设计知识描述语言。知识描述语言就是具体的语法结构形式。知识库与知识库管理系统设计1。知识库设计知识库结构的设计，即知识的组织形式。一般为层次结构或网状结构。分布式知识库。,8.5 专家系统设计与实现,2。知识库管理系统设计知识操作功能设计。知识的添加、删除、修改、查询和统计等。知识检查功能设计。知识的完整性、一致性、冗余性检查。知识库操作设计知识库的建立、删除、分解、合并等。,8.5 专家系统的设计与实现,推理机与解释功能设计推理机的设计在结构、层次上都应该与知识库相适应、相匹配。推理采用的方式、方法和控制策略。算法设计。解释机制的实现。对推理进行跟踪。,8.5 专家系统的设计与实现,人机界面的设计面向系统开发和维护者的人机界面。一般采用图形用户界面，已达到很高水平。面向一般用户的界面。一般采用受限的自然语言的“人机对话”形式。多媒体技术的采用,8.6 专家系统开发工具与环境,8.6.1 专家系统开发工具1。面向AI的程序设计语言。LISP,PROLOG,Smalltalk,C+等。2。知识工程语言。产生式语言系统OPS5(Official Production System),OPS83；框架知识表示语言FRL多知识表示语言LOOPS等。KEE(Knowledge Engineering Environment).1984年开发，基于框架、产生式规则、面向过程和面向对象的方法结合在一起。已用于建造卫星失灵诊断、金融保险分析、工厂控制模拟等领域的专家系统。,8.6 专家系统开发工具与环境,CLIPS(C Language Integrated Production System)是 20世纪80年代以来广泛使用的通用语言工具。具有产生式系统的特征，同时集成了C语言的基本成分。于1985年由NASA推出。3。外壳系统。专家系统外壳。提供了知识获取模块、推理机制、解释功能等。只须加上领域知识，建立起知识库就可构成一个如专家系统。如EMYCIN(Essential MYCIN),KAS(Knowledge Acquisition System),EXPERT等。开发效率高但灵活性较差。,8.6 专家系统开发工具与环境,组合式构造工具。提供多种知识表示方法和多个推理控制机构，使用户具有不同的选择余地。如AGE.8.6.2 专家系统开发环境多种知识表示方式；多种不精确推理模型；多种知识获取手段；多样的辅助工具：包括数据库访问、电子表格、作图工具等；,8.6 专家系统开发工具与环境,多样的友好用户界面。开发界面和用户界面，多媒体和自然语言接口；广泛的适用性。著名的一些开发环境。GURU,AGE(Attempt to Generalize),ART(Automatic Reasoning Tool),天马等。,8.7 新一代专家系统研究,深层知识专家系统；模糊专家系统；神经网络专家系统；分布式专家系统1.功能分布与知识分布把专家系统的功能合理分解为若干个任务，并把多个任务分配到多个处理机上并行执行。知识也合理划分并分配到多个处理机的本地存储器中。,8.7 新一代专家系统研究,2。驱动方式控制驱动。当某个任务模块工作时，直接将控制转到它，或将它作为一个过程直接调用。该方式最常用，实现方便。但并行性较差，推理效率不高。数据驱动。任何一个任务模块只要当它所需的所有输入数据已经具备后即可自行启动工作，然后把输出结果送到相应的模块。可以提高并行推理效率。目标驱动。当一个任务模块的输出被其它任务模块需要时才被启动执行。事件驱动。比数据驱动更广义。当且仅当模块的相应事件集合中的所有事件都已发生时，才驱动该模块开始工作。,8.7 新一代专家系统研究,协同式专家系统由多个称为智能体(Agent)的知识处理实体协同求解问题。1。协同方法多智能体规划(Multi-agent planning)方法设计一个规划智能体，由它进行整体规划，形成一个多智能体求解方案。功能化有效协同(Functionally effective cooperative approach)方法各智能体根据各自问题求解的功能需求与有关智能体交换部分结果，并最终生成一个全局解。谈判方法。智能体将自己的局部解公布出去，按照事先设计的一个谈判协议，对相关局部解经过裁决等综合处理求得全局解。,8.7 新一代专家系统研究,2。知识的组织与分布每个智能体可以有自己特殊的知识表示方法智能体之间通过通信交换信息和知识。3。裁决方法表决法加权平均法4。驱动方式5。系统结构主从式层次式同僚式广播式网络式,事物处理专家系统。,第9章 机器学习,什么是机器学习学习的概念。学习是系统改进其性能的过程。使系统在重复同样的工作时能完成的更好。学习是获取知识的过程。基于专家系统的观点。学习是技能的获取过程。心理学家的观点。通过大量实践和反复训练改进技能。学习是事物规律的发现过程。从感性知识到理性知识的认识过程，是发现规律、形成理论的过程。,第9章 机器学习,机器学习的概念使计算机能模拟人的学习行为，自动地通过学习获取知识和技能，不断改善性能，实现自我完善。人类学习与机器学习人类学习是一个漫长的过程。机器学习可以比人类学习快得多。机器的学习效率很高。人类学习不能复制。学习能力高度依赖于个体。而机器学习过程很容易复制。人类学习可能会遗忘。而机器学习的知识可以永久保留。人类学习是一个逐渐积累的过程，无论是单个个体还是整个人类都是这样，现在人类所积累的知识已经非常丰富。而机器学习水平还很低，获取知识的能力非常有限。,第9章 机器学习,机器学习系统如果一个系统能够从某个过程或环境的未知特征中学习到有关信息，并且能把学到的信息用于对未来的估计、分类决策或控制，以便改进系统的性能，那么它就是一个学习系统。学习系统应具有以下功能：具有适当的学习环境。环境是指学习系统进行学习时的信息来源。,第9章 机器学习,具有一定的学习能力。能用所学的知识解决问题。学习的目的在于应用。学习系统能把学到的信息用于对未来的估计、分类决策和控制。能提高系统的性能。通过学习，系统应该能增长知识、提高技能，改善系统的性能。一种机器学习系统模型,环境,学习,知识库,执行与评价,第9章 机器学习,机器学习的分类按学习方法分类机械式学习(Rote learning)；指导式学习(Learning from instruction)；示例学习(Learning from examples)；类比学习(Learning by analogy)；解释学习(Explanation-based learning).按推理方式分类基于演绎的学习。如解释学习。基于归纳的学习。如示例学习、发现学习。,第9章 机器学习,符号学习与连接学习有监督学习与无监督学习。知识发现与数据挖掘遗传算法,第9章 机器学习,机械学习（记忆学习、死记硬背学习）通过记忆与评价外部环境所提供的信息达到学习的目的。把经过评价所取得的知识存储到知识库中，求解问题时从知识库中直接检索出相应的知识。例如若输入为 时，计算得的输出是，则把联想对 存入知识库中。,第9章 机器学习,机械学习最初在Sameul的跳棋程序CHECKERS中提出，并获得成功应用,A,6,B,2,C,6,Q,A,第9章 机器学习,机械学习实质上是用存储空间来换取处理时间。机械式学习中需要注意的问题存储组织问题。只有当检索所耗时间小于重新计算所耗时间时，机械学习才有意义，所以要特别考虑信息的组织和存储问题。可 用一些信息综合方法来减少存储量。环境稳定性问题。环境会影响知识的有效性。存储与计算的权衡问题。,第9章 机器学习,传授学习（讲授学习、指导学习）由外部环境向系统提供一般性的指示或建议，系统把它们具体地转化为细节知识并送入知识库中。传授学习的步骤征询指导者的提示或建议。征询方式：简单的或复杂的；主动的或被动的。把征询意见转换为可执行的内部形式。知识检查后并入知识库。评价。对新知识进行经验测试，执行一些标准例子，然后检查执行情况是否与已知结果一致。,第9章 机器学习,演绎学习基于演绎推理的学习。从公理出发，经过逻辑变换，推导出结论。演绎学习包括知识改造、知识编译、产生宏操作、保持等价操作和其它一些保真变换。演绎学习是保真的，只要公理和前提为真，则结论总是真。,第9章 机器学习,类比学习类比是应用过去的经验来求解新问题的一种思维过程。类比学习就是把两个或两类事物进行比较，找出它们在某一抽象层次上的相似关系，并以这种关系为依据，把某一事物或情形的有关知识对应到另一事物或情况，从而求得另一事物或情形的知识。,第9章 机器学习,类比学习的过程回忆与联想。遇到新情况与新问题时，首先通过回忆与联想，找出与当前情况相似的已经解决的情况选择。找出与当前情况最相似的情况。建立对应关系。建立相似问题与求解问题之间的对应关系，以获得求解问题的知识。转换。把已经解决情况的知识转换到待求情况中来，从而建立起求解问题的知识。验证与归纳。检验所获知识的有效性，若有错，修正直到获得正确知识。对正确知识，经过推广、归纳获得一般性知识。,第9章 机器学习,属性类比学习属性类比学习根据两个相似事物的属性实现类比学习。源和目标都用框架表示，学习过程是把源框架中的某些槽值传递到目标框架的相应槽中去。传递的步骤1。从源框架中选择若干槽作为侯选槽。选择那些具有极端槽值的槽作为侯选槽。选择那些已经被确认为“重要槽”的槽作为侯选槽。选择那些与源框架相似的框架中不具有的槽作为侯选槽。选择那些相似框架中不具有这种槽值的槽作为侯选槽。源框架中的所有槽。,第9章 机器学习,2。根据目标框架对侯选槽进行筛选选择那些在目标框架中还未填值的槽。选择那些在目标框架中为典型事例的槽。选择那些与目标框架有紧密关系的槽，或者与目标框架的槽类似的槽。转换类比学习。,第9章 机器学习,示例学习（实例学习）从若干实例（包括正例和反例）中归纳出一般概念或规则的学习方法。示例学习的学习模型,验证,示例空间,搜索,解释,形成知识,知识库,第9章 机器学习,从示例空间（环境）中选择合适的训练示例，然后经解释归纳出一般性的知识，最后再从示例空间中选择更多的示例对它进行验证，直到得到可实用的知识为止。形成知识的方法（1）、变量代换常量例。示例1：花色（c1，梅花）花色（c2，梅花）花色（c3，梅花）花色（c4，梅花）同花（c1,c2,c3,c4）,第9章 机器学习,示例2：花色（c1，红桃）花色（c2，红桃）花色（c3，红桃）花色（c4，红桃）同花（c1,c2,c3,c4）只需把“梅花”，“红桃”用变量x替换，就可得到一般性的知识：花色（c1，x）花色（c2，x）花色（c3，x）花色（c4，x）同花（c1,c2,c3,c4）,第9章 机器学习,（2）、舍去条件；（3）、增加操作；（4）、合取变析取；（5）、归结归纳（6）、曲线拟合,第9章 机器学习,观察与发现学习观察学习。将已知事例进行分类，产生每一类的一般概念描述的学习方式。概念聚类。对已知事例分类，产生每一类概念的描述，然后再用该概念描述指导下一步的分类，反复循环直到得到满意结果。机器发现。从观察的事例或经验数据中进行归纳产生规律或规则。经验发现：从经验数据中发现规律和定律；知识发现：从已观察的事例中发现新的知识。,第9章 机器学习,解释学习只用一个实例，运用领域知识，经过对实例的详细分析，构造解释结构，然后对解释进行推广得到一般性描述。解释学习的框架描述。给定：领域知识 DT,目标概念 TC,训练实例 TE,操作性准则 OC.找出：满足OC的关于TC的充分条件。,第9章 机器学习,解释学习与示例学习的区别示例学习中要求输入一组实例；而解释学习只要求输入一个实例。示例学习的学习方法为归纳，不要求提供领域知识；而解释学习要求提供完善的领域知识，学习方法主要是演绎。示例学习侧重于概念的获取；而解释学习侧重于技能提高，通过学习把非操作性的知识转换为可操作的形式化知识。,第9章 机器学习,解释学习的过程构造解释证明提供给系统的训练实例为什么是满足目标概念的一个实例。证明的过程是通过运用领域知识进行演绎实现的，证明的结果得到一个解释结构。对解释按照操作性准则进行推广(泛化），从而得到关于目标概念的学习描述。也称为基于解释的泛化(EBG),第9章 机器学习,一个解释学习的例要学习的目标概念为：“一个物体（Obj1)可以安全地放置在另一个物体（Obj2)上”，即 Safe-To-Stack(Obj1,Obj2)训练实例为：On(Obj1,Obj2)Isa(Obj1,book-AI)Isa(Obj2,table-book)Volume(Obj1,1)Density(Obj1,0.1),第9章 机器学习,领域知识为,第9章 机器学习,Safe-To-Stack(Obj1,Obj2)的解释结构为,Safe-To-Stack(Obj1,Obj2),Lighter(Obj1,Obj2),Weight(Obj1,0.1),Weight(Obj2,15),Smaller(0.1,15),Isa(Obj2,table-book),Volume(Obj1,1),Density(Obj1,0.1),*(1,0.1,0.1),第9章 机器学习,Safe-To-Stack(O1,O2)解释的泛化,Safe-To-Stack(O1,O2),Lighter(O1,O2),Weight(O1,w1),Weight(O2,15),Smaller(w1,15),Isa(O2,table-book),Volume(O1,v1),Density(O1,d1),*(v1,d1,w1),第9章 机器学习,EBG通常是把常量替换为变量，并把某些不重要的信息去掉。,