模式识别原理方法及应用(可编辑).doc

《模式识别原理方法及应用(可编辑).doc》由会员分享，可在线阅读，更多相关《模式识别原理方法及应用(可编辑).doc（86页珍藏版）》请在三一办公上搜索。

1、模式识别原理方法及应用 模式识别原理 方法及应用 J .P.Marques de sa 著 吴逸飞 译 提示提示： 提示提示： 无该网站帐号的，可到 下载。 京 新登字158 号 北京市版权局著作权合同登记号 01-2001-4318 内 容 简 介 Fred Barwell,Richard Blair:Professional VB.NET EISBN 1-861004-97-4 Copyright?2001 by Wrox Press Ltd. Authorized translation from the English language edition published by Wro

2、x Press Ltd. All rights reserved.For sale in the Peoples Republic of China only. Chinese simplified language edition published by Tsinghua University Press. 本书中文简体字版由清华大学出版社和英国乐思出版公司合作出版 未经出版者书面许可 不得以任何方 式复制或抄袭本书内容 版权所有 翻印必究 本书封面贴有清华大学出版社激光防伪标签 无标签者不得销售 书 名: 模式识别原理 方法及应用 作 者 J .P.Marques de sa 著 吴逸飞

3、 译 出 版 者: 清华大学出版社 北京清华大学学研大厦 邮政编码 100084 责任编辑: 印 刷 者: 发 行 者: 新华书店总店北京发行所 开 本: 787 1092 1/16 印张: 字数 千字 版 次: 2002 年 月第1 版 2002 年 月第1 次印刷 书 号: ISBN 7-302-05236-0/TP ? 3081 印 数: 0001 0000 定 价 00.00 元 模式识别中包含大量的方法 这些方法正在推动着不同领域内众多应用的发展 一般认为 模式识别方法最大的实用性在于 “智能”仿真 它在我们的日常生活中随处可见 例如 机器人 辅助生产线 医疗诊断系统 经济发展预测系

4、统 地球资源探测系统 卫星数据分析系统等都 是它在各个领域中的一些应用 模式识别的普及促进了很多特定领域方法学的发展 丰富了与 其他学科的联系 但由于理论分支太多 现在新的理论发展方向是把众多传统的模式识别方法 结合在一起 这样 各种方法本身以及结合后的新方法都将得到更大的发展 本书源于波尔图大学电子和计算机工程系的一门关于模式识别的介绍性课程 基于这门课 的核心内容 本书给出了个关于模式识别方法的一些通俗易懂 清晰连贯的讲解 并结合了现 实生活中的一些例子和应用 本书的主要面向对象为工程和计算机科学领域学习模式识别课程 的本科生和研究生 除了工程师和应用数学家外 本书也同样适用于其他领域的专

5、业人员和研 究者 例如医师 生物学者 地质学者和经济学者 帮助他们学习和应用模式识别方法 本书 给出了一些实际应用的示例 并在一定程度上提供了很多读者感兴趣的素材 尤其对于那些并 非专业技术人员的读者 当他们或者需要在自己的工作中应用模式识别方法 或者碰巧遇到涉 及这个学科的项目时 本书可以给在他们具体应用时提供一些帮助 模式识别包含由特征和属性所描述的对象的数学模型 也涉及到一般意义上对象间的相似 性的抽象概念 具体采用何种数学形式 模型和处理方法取决于我们要解决问题的类型 从这 个意义上讲 模式识别其实就是将数学用于解决实际问题 讲解模式识别时 如果得不到实际 例子和应用的反馈和直观认识

6、其效果将是十分有限的 因此 我们随书附带了一个CD 盘 其中包含了一些实际数据 读者可以通过这些数据练习书中介绍过的方法 或者简单验证一下 讲解的实例 在学校及其他学术场所 书中的软件工具使用十分普遍 所以 理解实例的讲解 和核对结果应该不会有太大困难 CD 盘中还包括一套补充的软件工具 对这些工具的使用方 法也做了讲解 因此 从学习本书开始 读者就应该通过实际应用的指导来学习书中教授的方 法 不需要做任何程序设计工作 而应集中精力学会如何才能正确应用所学到的概念 本书的结构组织十分经典 第一章讲述模式识别的基本概念 包括三种主要方法 统计模 式识别方法 神经网络方法 结构模式识别方法 和一些

7、重要的实际问题 第二章通过特征空 间的表述问题以及决策函数的概念来讨论模式识别 第三章讲述了一些数据聚类理论以及降维 技巧 第四章讲解基于统计的模式识别方法 包括使用和不使用样本分布模型两种情况 第五 章讲解神经网络方法并给出了一些典型范例 在研究分类和回归问题时 都应特别注意网络的 性能评价和复杂度问题 第六章讲述结构分析方法 包括句法和非句法的方法 本书附录A B 分别是对于CD 盘中数据集和软件工具的说明 每一章中或几章之间出现的多个论题间的联系 都会在适当的时候加以说明 包括近期的 一些论题 如支持向量机 数据挖掘和在结构匹配中神经网络的用法等 同时 如果论题有很 大的实际意义 例如维

8、度比率问题 则有一个详细的说明 并附上近期研究成果作为参考 ? IV ? 模式识别原理 方法及应用 本书讲述每一种模式识别方法时 首先都是解释所涉及到的概念 并配有简单的例子和适 当的图解 在讲述概念和方法中涉及到的数学问题时 为了不引起混乱 自始至终都使用统一 的符号 一旦方法已经被充分 详细地描述过 就将它们应用于实际数据中 以便读者能在重 要的实际问题中掌握它 从第二章起 每一章的最后都配有一套练习题 大部分练习需要使用本书提供的数据 这 些练习作为了模式识别设计工作中典型的计算机实践 其余的练习用来拓宽读者对书中例子的 认识 测试读者的对于它们的理解水平 为了能够充分理解所讲述的知识

9、读者需要一定的概率论 统计学 线性代数和离散数学 的背景知识 特别是统计学 读者需要熟悉统计推论中的主要概念和方法 每一章后都有一个参考书目的列表 包括对于书中全部内容的理论支持 在某些情况下还 可以指导读者作进一步的阅读 同时还包括对于一些背景知识的介绍 例如统计学邻域的一些 原理等 CD 盘内的数据集和软件工具需要在Windows 95 或更高 环境中运行 这些数据集和软 件工具中许多都是通过Microsoft Excel 生成的 应该可以在任何一种Windows 版本中运行 其 他一些软件工具需要通过正常程序进行安装 对于这些软件工具的说明在书的附录B 中可以找 到 根据这些说明书以及书

10、中包含的示例 读者在使用他们时 应该不会遇到太大的困难 在本书的准备过程中 我得到了一些人的支持和鼓励 这里表示深深的感激 首先我要感 谢Willem 教授 他是波尔图大学生物医学工程研究中心的专家和应用数学系的教授 他阅读了 文稿 对一些测试做了校对并提出了许多有价值的见解和评论 书中的数据表由以下几位提供 C. Abreu Lima 教授 Aurelio Campilho 教授 Joao Bernardes 教授 Jacques Jossinet 博士 Diogo A 博士 Campos 博士等 CD 盘中的软件工具由 ido Carlos Felgueiras 博士及 a 等提供 在附录

11、A 和B 中 对数据集和软件工具的提供者都分别做了致谢 Pimenta Monteiro 教授在对于结构模式识别问题的讨论中给予了很大的帮助 Eng. Fernando Sereno 帮助 做了支持向量机实验并对神经网络章节提出了有价值的评论 Joao Ribeiro 帮助我收集了经济类 的数据并对其做了解释说明 对以上各位 我报以最诚挚的感谢 最后 还要感谢 Jacqueline Wilson 他对本书做了正式 全面的审对 Joaquim P. Marques de S 2001 年五月 葡萄牙波尔图大学 第1 章 基本概念. 1 1.1 对象识别. 1 1.2 模式相似度和模式识别任务.2

12、 分类决策. 2 回归问题. 5 描述. 6 1.3 类别 模式和特征.7 1.4 模式识别方法.10 数据聚类. 11 统计分类. 11 神经网络. 11 结构模式识别. 12 1.5 模式识别工程.12 工程任务. 12 训练和测试. 13 模式识别软件. 14 第2 章 模式判别. 17 2.1 决策区域和决策函数.17 广义决策函数. 18 分类超平面. 21 2.2 特征空间尺度.23 2.3 协方差矩阵.27 2. 4 主成分.33 2.5 特征评价.34 图形考察. 35 分布模型评价. 36 统计推论检测. 37 2.6 维数比率问题.38 第3 章 数据聚类. 43 3.1

13、非监督学习分类.43 3.2 标准化问题.44 ? VIII ? 模式识别原理 方法及应用 3.3 树聚类.47 联接规则. 49 树聚类实例. 52 3.4 降维问题.53 3.5 K 均值聚类.56 3.6 聚类有效性.60 第4 章 统计分类. 64 4.1 线性判别.64 最小距离分类器. 64 欧几里德线性判别. 66 马氏距离线性判别. 68 Fisher 线性判别. 72 4.2 贝叶斯分类.73 基于最小风险的贝叶斯准则. 73 正态形式贝叶斯分类. 80 拒绝区域. 84 维数比率以及错误率估计. 86 4.3 模型-无关 技巧.89 Parzen 窗函数法. 90 k-近邻法. 93 ROC 曲线法. 95 4.4 特征选择.99 4.5 分类器评价.103 4.6 树分类器.107 决策树以及决策表. 107 决策树的自动推广. 112 4.7 数据提炼中的统计分类.113 第5 章 神经网络. 120 5.1 最小平方误差 LMS 调整判别.120 5.2 活化函数.126 5.3 感知器原理.129 5.4 神经网络的类型.135 5.5 多层感知器.138 反向传播 Back-Propagation 算法. 140 实际应用中的有关问题. 142 时间序列. 147 5.6 神经网络的性能.149 目 录 ? IX ?