模式识别概述[2014].ppt

《模式识别概述[2014].ppt》由会员分享，可在线阅读，更多相关《模式识别概述[2014].ppt（96页珍藏版）》请在三一办公上搜索。

1、,模式识别Pattern Classification,第一章:模式识别概述,以物联网、云计算、大数据、移动互联网、3S技术为代表的新一轮信息技术正改变着我们的工作和生活我们已深切感受到信息时代的到来信息分析与处理无处不在，交通、环境、信息安全作为信息分析和处理的重要内容，模式识别已由信息学科少数学者专家的研究领域，成为经济、金融、社会管理、工程等众多领域普遍关注和广泛应用的学科。,人类智慧的主要方面就是对外部事物的认知能力，人类每天的活动大部分都与事物的认别、分类和判断有关这种能力我们与生俱来，具随着年龄的增长而逐渐加强，许多动物也具有这种能力,简单的认别：心电图高级的认别：Q波、T波、R波

2、更复杂的认别：正常心电图或异常心电图,这是一幅江南水乡的照片!,这样一个看似简单的过程，实际上是一系列复杂的认别、分类的结果。是照片而不是绘画建筑是江南风格江南特色的游船江南特色的河道抽象类：江南水乡的照片能否让机器（计算机）也具有认别、分类的能力？,8,一个例子,通过光学感知手段，将传送带上的鱼进行自动分类鲈鱼鱼类鲑鱼,9,问题分析,架设一台摄影像机，拍摄若干样品的图像,提取用于区分两类鱼的有效特征(feature),长度光泽度宽度鳍的数目和形状嘴的位置，等等.,10,预处理（preprocessing）去除干扰，图像增强采用图像分割技术将不同的鱼分离开来，或将鱼同背景分开,特征提取（fea

3、ture extraction）将每条鱼的数据送入特征提取器，通过测量特定的“特征”或“属性”来简化原始数据将特征送入分类器，以便进行分类,11,分类（Classification）将待识别样本进行特征提取，并与存储于分类器中的特征进行比较，从而判断样本的类别,12,根据先验知识：鲈鱼长度一般要比鲑鱼大选择长度（length）作为可能的分类特征获取足够多的样本（训练样本）进行统计（直方图）,实现方法,确定合适的长度临界值 L*作为分类标准,13,鲑 鱼,鲈 鱼,分类标准,确定合适的长度临界值 L*作为分类标准,14,单一的特征判据（长度）不足以完全正确分类无论怎样确定临界值，都有无法仅凭长度就

4、把两类鱼截然分开,问题,15,选择光泽度（lightness）作为分类特征获取足够多的样本（训练样本）进行统计（直方图）确定合适的光泽度临界值x*作为分类标准,方法改进,16,鲑 鱼,鲈 鱼,分类标准,以光泽度为分类特征，两类鱼的分离性更好！,17,判别边界与判别代价 无论采用哪一种特征进行分类都有代价：误判上述判别边界假设将鲑鱼误判为鲈鱼和将鲈鱼误判为鲑鱼的代价相等（对称代价）非对称代价：调整判别边界的位置,结论特征选择对分类效果有较大的影响,18,调整判别边界，减小判别代价,19,为获取更好的分类效果，组合运用多个特征 选取光泽度（lightness）和宽度（width）作为分类特征鱼 x

5、T=x1,x2特征向量：xT=x1,x2,Lightness,Width,20,组合特征优于单一特征,21,需要考虑的问题特征越多分类性能越好吗？什么样的特征才是好的特征？特征的相关性与冗余？,22,需要考虑的问题如何获取判别边界：判别模型？什么样的判别边界才是最优的：模型优化？,23,复杂的模型,鲑 鱼,鲈 鱼,24,复杂的模型可保证对所有训练样本正确分类过于复杂的模型将导致复杂的判别界面新模式推广能力差,25,分类系统的目标是对未知的样本正确分类，而不仅仅是对训练样本分类必须在模型复杂度和推广能力之间进行折中考虑最优模型,26,鲑 鱼,鲈 鱼,优化的判别边界,27,什么是模式识别？,定义利

6、用机器（计算机）模仿人脑对现实世界各种事物进行描述、分类、判断和识别的过程。,周围物体的认知：桌子、椅子、门、窗户人的识别：张三、李四声音的辨别：火车、汽车、鸟鸣气味的分辨：红烧肉、炸带鱼,28,什么是模式识别？,目标用计算机实现具有感知、识别、理解、自学习和自适应能力的灵活和智能的计算机器。人和动物的模式识别能力是极其平常的，但对计算机来说是非常困难的。,29,模式识别的产生与发展,起源始于20世纪40年代研究初期，模式识别被看作动物所具有的自然生理现象，很多人认为不值得研究。当人们试图使计算机去具有人脑的识别能力后，模式识别的难度和重要性才得以重视。,30,模式识别的产生与发展,随着计算机

7、技术的发展，60年代后模式识别迅速发展为一门相对独立的新兴交叉学科明确的问题定义、严格的数学基础、坚实的理论框架、丰富的理论和应用成果、广阔的应用前景,31,模式识别的产生与发展,30年代 英国统计学家Fisher(费希尔)提出统计 分类理论，奠定了统计模式识别的基础。50年代 Noam Chemsky提出形式语言理论傅 京荪提出句法/结构模式识别。60年代 模糊模式识别方法得以发展和应用。,32,模式识别的产生与发展,80年代 以Hopfield网、BP网为代表的神经网络模 型导致人工神经元网络复活，并在模式 识别得到较广泛的应用。90年代 小样本学习理论，支持向量机受到了很 大的重视。,3

8、3,模式识别的相关学科,语音识别与理解语音是人类信息交流的基本手段之一让计算机能说会听是智能计算机系统的重要特征语音识别技术的应用将从根本上改变计算机的人机交互界面，从而对计算机的发展以及推广应用产生深远的影响,模式识别的应用,语音识别与理解语音中包含有多种有用的信息：语义信息、语言信息、说话人信息、情感信息等语音识别是研究如何采用数字信号处理技术自动提取以及决定语音信号中的上述信息的一门新兴的边缘学科是模式识别的重要应用领域之一,模式识别的应用,语音识别与理解基于电话的语音识别技术，使计算机直接为客户提供金融证券和旅游等方面的信息查询及服务成为可能，进而成为电子商务进展中的重要一环作为声控产

9、业，语音识别技术将对办公自动化、工业过程和机器操作的声控技术起到重大的推进作用可以预言，语音技术必将对工业、金融、商业、文化、教育等诸方面事业产生革命性的影响,模式识别的应用,37,模式识别的应用,语音识别与理解（Speech recognition）语音识别说话人识别语种识别语音情感识别,38,语音识别系统结构,39,模式识别的应用,字符识别（Character Recognition）手写体印刷体汉字、英文、阿拉伯数字,40,模式识别的应用,图像识别（Image Recognition）车牌识别人脸识别,41,模式识别的应用,车牌识别,42,模式识别的应用,生物特征识别（身份鉴别）指纹识别

10、掌纹识别人脸识别虹膜识别签名识别步态识别,43,模式识别的应用,生物医学信号识别心电图心音多普勒超声波生物信号染色体DNA序列,44,模式识别的应用,遥感图像自动识别根据遥感图像的光谱特征和纹理特征进行 自动分类和识别,45,模式识别的应用,遥感图像识别,46,研究模式识别的意义,通过模式识别的研究和应用，提高和扩展计算机的应用能力和领域，促进人工智能的应用与发展促进人们对人脑识别过程的理解和认识,47,模式识别的理论基础,概率论与数理统计随机过程线性代数优化方法形式语言学,48,模式识别的基本方法,49,模式识别的基本方法,统计决策法基于模式的定量描述与统计规律的识别方法，是模式识别最经典、

11、最成熟的方法，目前广泛应用于模式识别的各个领域原理：,50,模式识别的基本方法,统计方法,51,模式识别的基本方法,模式描述方法特征向量 模式判定模式类用条件概率分布P(X/i)表示,m类就有m个分布，然后判定未知模式属于哪一个分布,特征向量,特征值,52,模式识别的基本方法,理论基础概率论数理统计主要方法概率方法（Bayes决策）几何方法（线性、非线性分类）聚类分析（无监督模式识别）,53,模式识别的基本方法,优点比较成熟，理论体系较为完善，应用广泛能考虑干扰噪声等影响识别模式能力强缺点对结构复杂的模式抽取特征困难不能反映模式的结构特征，难以描述模式的性质,54,模式识别的基本方法,句法方法

12、基于模式的空间结构特征的定性描述与形式语言学的方法，广泛应用于字符识别、图像识别等领域原理：,55,模式识别的基本方法,模式描述方法符号串树图模式判定是一种语言，用一个文法表示一个类，m类就有m个文法，然后判定未知模式遵循哪一个文法,56,模式识别的基本方法,句法方法定义基元：,57,模式识别的基本方法,理论基础形式语言自动机技术主要方法CYK剖析算法Early算法状态图法,58,模式识别的基本方法,优点能有效反映模式的结构特征特别适合于文字、图象等具有结构特征的模式分类问题缺点当存在干扰及噪声时，基元提取较为困难分类器的设计比统计方法困难和复杂,59,模式识别的基本方法,模糊模式识别基于模糊

13、数学和统计分析的识别方法，在不能明确描述模式特征和结构的复杂模式识别问题中得到了成功应用根据隶属度和模糊文法进行分类,60,模式识别的基本方法,模式描述方法模糊集合 模式判定用隶属度将模糊集合划分为若干子集，m类就有m个子集，然后根据择近原则进行分类,61,模式识别的基本方法,理论基础模糊数学主要方法模糊统计法二元对比排序法推理法模糊矩阵,62,模式识别的基本方法,优点以隶属度作为样本间相似程度的度量，具有较强的抗干扰与畸变能力缺点准确合理的隶属度函数往往难以建立，限制了其应用,63,模式识别的基本方法,神经网络方法基于现代生物学和认识科学对人类信息处理的研究成果采用人工神经网络模型，使识别和

14、处理过程更接近人类的思维过程,64,模式识别的基本方法,模式描述方法神经元：不同活跃度表示的输入节点集模式判定通过对样本的学习建立起记忆，将未知模式判决为其最接近的记忆,65,模式识别的基本方法,66,模式识别的基本方法,神经网络方法人工神经网络由相互广泛连接的神经元组成，信息分布于神经网络中每一节点的输入为前一层所有节点输出的加权和通过已知类别样本的学习，调整各节点之间的加权系数,67,模式识别的基本方法,理论基础神经生理学心理学主要方法BP模型HOP模型高阶网,68,模式识别的基本方法,优点具有自适应学习能力，适用于并行计算与处理缺点模型在不断丰富与完善中目前能识别的模式类还不够多,69,

15、模式识别的一般过程,无论采用何种方法，模式识别一般都要包括下列两个基本过程,70,模式识别的一般过程,学习过程通过一批已知类别的学习样本进行分析，推出分类准则。识别过程 对末知类别的单个待识样本，根据分类准则进行识 别分类。,71,模式识别的一般过程,统计模式识别的过程,72,模式识别的一般过程,73,模式识别的一般过程,数据获取采用传感器(摄像机或麦克风)，通过测量、采样和量化，得到反映样本信息的原始数据（一维波形、二维图像等）数据质量依赖于传感器的特性和局限性（如带宽、分辩率、灵敏度、信噪比等）预处理采用特定方法，对样本数据进行分割、噪声滤除、边缘增强等处理预处理的方法与样本对象所属领域密

16、切相关（如语音、图像），即预处理的面向问题的,74,被干扰的心电信号,预处理（滤波）后的心电信号,75,模式识别的一般过程,特征提取采用特定的方法提取反映样本本质特性的特征（Feature），压缩原始数据例如，语音信号的常用特征为短时能量、短时过零率、基音周期、共振峰等,76,电话拨号音,77,特征表达用反映事物本质特性的特征向量表达模式,模式识别的一般过程,78,统计分析采用一定的统计方法，通过学习样本的分布规律，建立识别模型，推断出分类准则。,模式识别的一般过程,鲑 鱼,鲈 鱼,79,模式识别的一般过程,识别分类根据分类准则，对待识样本进行分类。,鲑 鱼,鲈 鱼,判别标准：判别边界,待识样

17、本为鲑鱼,80,模式识别的一般过程,句法模式识别的过程,81,模式识别系统,实现学习过程和识别过程的计算机系统称为模式识别系统，亦称为分类器。学习过程即是分类器的设计过程识别过程即是分类器的实现过程,82,分类器设计,采集数据（Data collection）选择特征（Feature Choice）选择方法和模型（Model Choice）训练分类器（Training）评价分类器（Evaluation）,83,84,采集数据（Data Collection）在开发模式识别系统费用中，数据据采集占到令人吃惊的比重为保证分类器的性能，必须有足够多的训练样本怎样才能知道已经采集到足够多有代表性的供训

18、练和测试用的数据了呢？,分类器设计,85,选择特征（Feature choice）怎么做才能把先验知识和训练数据有机结合起来，以发现有用的和有效的特征呢？,分类器设计,86,分类器设计,特征选择（Feature choice）依赖于具体的问题（语音识别、图像识别）选择反映模式本质特性的参数作为特征使样本类间距离较大、类内距离较小与类别信息不相关的变换（平移、旋转、尺度变换）具有不变性尽量选择相关性小的特征尽可能不受噪声的干扰,87,模型选择（Model Choice）怎样选择合适的模型，得到识别分类的标准？模型是唯一的吗？什么样的模型更优呢？,分类器设计,88,训练或学习（Training）利

19、用样本数据来确定分类器的过程“基于样本的学习”的方法是设计分类器的最有效的方法。,分类器设计,89,评价分类器（Evaluation）识别率误识率实时性计算复杂度,分类器设计,90,模式识别的研究机构,中科院自动化所模式识别国家重点实验室模式识别基础理论研究图像处理与计算机视觉语音语言信息处理,91,模式识别的研究机构,微软亚洲研究院 是微软公司在海外开设的第二家基础科研机构，也是亚洲地区唯一的基础研究机构。“新一代用户界面”和“互联网搜索与数据挖掘”是其主要的研究方向。目标是：开创新的技术，让人们能够用更自然，更多元的方式和机器交谈。,92,模式识别的研究机构,微软亚洲研究院交互设计：人机交

20、互的用户体验和软硬件技术机器学习：从海量数据中发现知识数据智能：数据驱动与互联网驱动的软件和服务自然语言：语言文本分析、机器翻译、跨语言信息检索和自动问答系统等语音：口语识别与合成技术、人机语音交互作用,93,模式识别的研究机构,科大讯飞股份有限公司中文语音产业领导者 专业从事智能语音及语言技术、人工智能技术研究、语音信息服务的国家级骨干软件企业，其智能语音核心技术代表了世界的最高水平。在语音合成、语音识别、口语评测、自然语言处理等多项技术上拥有国际领先的成果。,94,模式识别的研究机构,清华大学北京大学视觉与听觉信息处理国家重点实验室中国科学技术大学视听觉信息处理与模式识别实验室,95,模式识别存在的问题,模式识别是一门快速发展的新兴学科，涉及到多学科、多领域的复杂问题和生物认知系统相比，现有人工模式识别系统的适应和识别能力还远远不能令人满意模式识别的许多理论和基本方法方面的问题还远没有得到解决新问题层出不穷，传统方法均存在一定的局限性,96,模式识别的研究前沿,多模态生物特征识别生物信息学三维视觉信息处理智能机器人智能语音信息系统,