聚类分析与判别分析.ppt

SPSS 16实用教程,第8章 聚类分析与判别分析,本章介绍统计学中经常使用的分类统计分析方法聚类分析与判别分析。主要内容有层次聚类分析、快速聚类分析和判别分析。其中层次聚类分析根据聚类的对象不同分成Q型聚类和R型聚类。,8.1 聚类分析与判别分析的基本概念,统计学研究这类问题的常用分类统计方法主要有聚类分析（cluster analysis）与判别分析（discriminant analysis）。其中聚类分析是统计学中研究这种“物以类聚”问题的一种有效方法，它属于统计分析的范畴。聚类分析的实质是建立一种分类方法，它能够将一批样本数据按照他们在性质上的亲密程度在没有先验知识的情况下自动进行分类。这里所说的类就是一个具有相似性的个体的集合，不同类之间具有明显的区别。,聚类分析是一种探索性的分析，在分类的过程中，人们不必事先给出一个分类的标准，聚类分析能够从样本数据出发，自动进行分类。聚类分析所使用方法的不同，常常会得到不同的结论。不同研究者对于同一组数据进行聚类分析，所得到的聚类数未必一致。因此我们说聚类分析是一种探索性的分析方法。,对个案的聚类分析类似于判别分析，都是将一些观察个案进行分类。聚类分析时，个案所属的群组特点还未知。也就是说，在聚类分析之前，研究者还不知道独立观察组可以分成多少个类，类的特点也无所得知。,变量的聚类分析类似于因素分析。两者都可用于辨别变量的相关组别。不同在于，因素分析在合并变量的时候，是同时考虑所有变量之间的关系；而变量的聚类分析，则采用层次式的判别方式，根据个别变量之间的亲疏程度逐次进行聚类。,聚类分析的方法，主要有两种，一种是“快速聚类分析方法”（KMeans Cluster Analy-sis），另一种是“层次聚类分析方法”（Hierarchical Cluster Analysis）。如果观察值的个数多或文件非常庞大（通常观察值在200个以上），则宜采用快速聚类分析方法。因为观察值数目巨大，层次聚类分析的两种判别图形会过于分散，不易解释。,判别分析是一种有效的对个案进行分类分析的方法。和聚类分析不同的是，判别分析时，组别的特征已知。如银行为了对贷款进行管理，需要预测哪些类型的客户可能不会按时归还贷款。已知过去几年中，900个客户的贷款归还信誉度，据此可以将客户分成两组：可靠客户和不可靠客户。,再通过收集客户的一些资料，如年龄、工资收入、教育程度、存款等，将这些资料作为自变量。通过判别分析，建立判别函数。那么，如果有150个新的客户提交贷款请求，就可以利用创建好的判别函数，对新的客户进行分析，从而判断新的客户是属于可靠客户类，还是不可靠客户类。,8.2 层次聚类分析中的Q型聚类,层次聚类分析是根据观察值或变量之间的亲疏程度，将最相似的对象结合在一起，以逐次聚合的方式（Agglomerative Clustering），它将观察值分类，直到最后所有样本都聚成一类。,层次聚类分析有两种形式，一种是对样本（个案）进行分类，称为Q型聚类，它使具有共同特点的样本聚齐在一起，以便对不同类的样本进行分析；另一种是对研究对象的观察变量进行分类，称为R型聚类。它使具有共同特征的变量聚在一起，以便从不同类中分别选出具有代表性的变量作分析，从而减少分析变量的个数。,本节讲述Q型聚类的原理和SPSS的实现过程，下一节将讲述R型聚类的实现过程。,定义：层次聚类分析中的Q型聚类，它使具有共同特点的样本聚齐在一起，以便对不同类的样本进行分析。,8.2.1 统计学上的定义和计算公式,层次聚类分析中，测量样本之间的亲疏程度是关键。聚类的时候会涉及到两种类型亲疏程度的计算：一种是样本数据之间的亲疏程度，一种是样本数据与小类、小类与小类之间的亲疏程度。下面讲述这两种类型亲疏程度的计算方法和公式。,计算公式如下。样本数据之间的亲疏程度主要通过样本之间的距离、样本间的相关系数来度量。SPSS根据变量数据类型的不同，采用不同的测定亲疏程度的方法。,样本若有k个变量，则可以将样本看成是一个k维的空间的一个点，样本和样本之间的距离就是k维空间点和点之间的距离，这反映了样本之间的亲疏程度。聚类时，距离相近的样本属于一个类，距离远的样本属于不同类。,1连续变量的样本距离测量方法,（1）欧氏距离（Euclidean Distance）两个样本之间的欧氏距离是样本各个变量值之差的平方和的平方根，计算公式为,（2）欧氏距离平方（Squared Euclidean Distance）两个样本之间的欧氏距离平方是各样本每个变量值之差的平方和，计算公式为,（3）Chebychev距离 两个样本之间的Chebychev距离是各样本所有变量值之差绝对值中的最大值，计算公式为,（4）Block距离 两个样本之间的Block距离是各样本所有变量值之差绝对值的总和，计算公式为,（5）Minkowski距离 两个样本之间的Minkowski距离是各样本所有变量值之差绝对值的p次方的总和，再求p次方根。计算公式为,（6）Customized距离（用户自定义距离）两个样本之间的Customized距离是各样本所有变量值之差绝对值的p次方的总和，再求q次方根。计算公式为,连续变量亲疏程度的度量，除了上面的各种距离外，还可以计算其他统计指标。如Pearson相关系数、Sosine相似度等。,2连续变量的样本亲疏程度的其他测量方法,3顺序或名义变量的样本亲疏程度测量方法,对于此类变量，可以计算一些有关相似性的统计指标来测定样本间的亲疏程度。也可以通过下面两个计算公式来得到。,4样本数据与小类、小类与小类之间的亲疏程度测量方法,SPSS默认的变量为Var00001、Var00002等，用户也可以根据自己的需要来命名变量。SPSS变量的命名和一般的编程语言一样，有一定的命名规则，具体内容如下。,所谓小类，是在聚类过程中根据样本之间亲疏程度形成的中间类，小类和样本、小类与小类继续聚合，最终将所有样本都包括在一个大类中。在SPSS聚类运算过程中，需要计算样本与小类、小类与小类之间的亲疏程度。SPSS提供了多种计算方法（计算规则）。,（1）最短距离法（Nearest Neighbor）以当前某个样本与已经形成小类中的各样本距离的最小值作为当前样本与该小类之间的距离。,（2）最长距离法（Furthest Neighbor）以当前某个样本与已经形成小类中的各样本距离的最大值作为当前样本与该小类之间的距离。,（3）类间平均链锁法（Between-groups Linkage）两个小类之间的距离为两个小类内所有样本间的平均距离。,（4）类内平均链锁法（Within-groups Linkage）与小类间平均链锁法类似，这里的平均距离是对所有样本对的距离求平均值，包括小类之间的样本对、小类内的样本对。,（5）重心法（Centroid Clustering）将两小类间的距离定义成两小类重心间的距离。每一小类的重心就是该类中所有样本在各个变量上的均值代表点。,（6）离差平方和法（Wards Method）小类合并的方法：在聚类过程中，使小类内各个样本的欧氏距离总平方和增加最小的两小类合并成一类。,研究问题 对一个班同学的数学水平进行聚类。聚类的依据是第一次数学考试的成绩和入学考试的成绩。数据如表8-1所示。,8.2.2 SPSS中实现过程,表8-1学生的数学成绩,实现步骤,图8-1 在菜单中选择“Hierarchical Cluster”命令,图8-2“Hierarchical Cluster Analysis”对话框（一）,图8-3“Hierarchical Cluster Analysis：Method”对话框（一）,图8-4“Hierarchical Cluster Analysis：Plots”对话框（一）,图8-5“Hierarchical Cluster Analysis：Statistics”对话框（一）,图8-6“Hierarchical Cluster Analysis：Save New Var”对话框,由于本例中选中的选项较多，这里按照各个结果分别解释。（1）首先是层次聚类分析的概要结果，该结果是SPSS输出结果文件中的第一个表格，如下表所示。,8.2.3 结果和讨论,（2）输出的结果文件中第二个表格如下表所示。,（3）输出的结果文件中第三个表格为层次聚类分析的凝聚状态表，包括：,（4）输出的结果文件中第四个表格如下表所示。,（5）输出的结果文件中第五个表格如下表所示。,（6）输出的结果文件中第六部分如图8-7所示。,（7）由于对图8-6“Hierarchical Cluster Analysis:Save New Var”对话框进行了设置，将聚类成三类时，各个样本的类归属情况保存为一个变量，因此在SPSS数据编辑窗口中就新增了一个变量的值，如图8-8所示。,图8-8 层次聚类分析结果保存,8.3 层次聚类分析中的R型聚类,8.3.1 统计学上的定义和计算公式,定义：层次聚类分析中的R型聚类是对研究对象的观察变量进行分类，它使具有共同特征的变量聚在一起。以便可以从不同类中分别选出具有代表性的变量作分析，从而减少分析变量的个数。,计算公式：R型聚类的计算公式和Q型聚类的计算公式是类似的，不同的是R型聚类是对变量间进行距离的计算，Q型聚类则是对样本间进行距离的计算。,研究问题 对一个班同学的各科成绩进行聚类，分析哪些课程是属于一个类的。聚类的依据是4门功课的考试成绩，数据如表8-2所示。,8.3.2 SPSS中实现过程,表8-2学生的四门课程的成绩,实现步骤,图8-9 在菜单中选择“Hierarchical Cluster”命令,图8-10“Hierarchical Cluster Analysis”对话框（二）,图8-11“Hierarchical Cluster Analysis：Method”对话框（二）,图8-12“Hierarchical Cluster Analysis：Plots”对话框（二）,图8-13“Hierarchical Cluster Analysis：Statistics”对话框（二）,（1）首先是层次R型聚类分析的结果，该结果是SPSS输出结果文件中的第一个表格。,8.3.3 结果和讨论,（2）输出的结果文件中第二个表格如下表所示。,（3）输出的结果文件中第三个表格如下表所示。,（4）输出的结果文件中第四个表格如下表所示。,（5）输出的结果文件中第五个表格如下表所示。,（6）输出的结果文件中第六部分如下：,8.4 快速聚类分析,SPSS层次聚类分析对计算机的要求比较高，在大样本的情况下，可以采用快速聚类分析的方法。采用快速聚类分析，得到的结果比较简单易懂，对计算机的性能要求也不高，因此应用也比较广。,定义：快速聚类分析是由用户指定类别数的大样本资料的逐步聚类分析。它先对数据进行初始分类，然后逐步调整，得到最终分类。快速聚类分析的实质是K-Mean聚类。,8.4.1 统计学上的定义和计算公式,和层次聚类分析一致，快速聚类分析也以距离为样本间亲疏程度的标志。但两者的不同在于：层次聚类可以对不同的聚类类数产生一系列的聚类解，而快速聚类只能产生固定类数的聚类解，类数需要用户事先指定。,另外，在快速聚类分析中，用户可以自己指定初始的类中心点。如果用户的经验比较丰富，则可以指定比较合理的初始类中心点，否则，需要增加迭代的次数，以保证最终聚类结果的准确性。,计算公式如下。快速聚类分析计算过程如下。首先需要用户指定聚类成多少类（比如k类）。然后SPSS确定k个类的初始类中心点。SPSS会根据样本数据的实际情况，选择k个由代表性的样本数据作为初始类中心。初始类中心也可以由用户自行指定，需要指定K组样本数据作为初始类中心点。,计算所有样本数据点到k个类中心点的欧氏距离，SPSS按照距k个类中心点距离最短原则，把所有样本分派到各中心点所在的类中，形成一个新的k类，完成一次迭代过程。其中欧氏距离（Euclidean Distance）的计算公式为,SPSS重新确定k个类的中心点。SPSS计算每个类中各个变量的变量值均值，并以均值点作为新的类中心点。重复上面的两步计算过程，直到达到指定的迭代次数或终止迭代的判断要求为止。,研究问题 为研究不同公司的运营特点，调查了15个公司的组织文化、组织氛围、领导角色和员工发展4方面的内容。现要将这15个公司按照其各自的特点分成4种类型，数据如表8-3所示。,8.4.2 SPSS中实现过程,表8-3不同公司的特点,实现步骤,图8-15 在菜单中选择“K-Means Cluster”命令,图8-16“K-Means Cluster Analysis”对话框,图8-17“K-Means Cluster Analysis：Options”对话框,图8-18“K-Means Cluster Analysis：Iterate”对话框,图8-19“K-Means Cluster:Save New Variable”对话框,图8-20 指定初始类中心点,本例中选中的选项较多，这里按照各个结果分别解释。（1）SPSS输出结果文件中的第一部分如下表所示。,8.4.3 结果和讨论,（2）输出的结果文件中第二部分如下表所示。,（3）输出的结果文件中第三部分是快速聚类分析后的各个类包含样本的情况。,（4）输出的结果文件中第四部分如下表所示。,（5）输出的结果文件中第五个部分如下表所示。,（6）输出的结果文件中第六个部分如下表所示。,（7）输出结果的最后一个表格列出了4个类中分别包括的样本数，如下表所示。,（8）在步骤5中曾指定了将样本所属类以及样本和类中心点的距离，作为样本的2个新变量保存到SPSS的数据编辑窗口中。SPSS运行后，数据编辑窗口如图8-21所示，其中我们可以看到新增加了两个变量（图中加深的两列），分别表示样本所属类以及样本和类中心点的距离。,8.5 判 别 分 析,前面3节讲述了不同种聚类分析的方法，不论是哪种方法，聚类分析都是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类。,本节讲述的判别分析，也是一种比较常用的分类分析方法。判别分析先根据已知类别的事物的性质，利用某种技术建立函数式，然后对未知类别的新事物进行判断以将之归入已知的类别中。,有学者在研究中提出，可以利用判别分析来对聚类分析结果的准确性进行检验。聚类分析分成几类后，即可以作为判别分析的类别输入，进行判断。,定义：判别分析先根据已知类别的事物的性质（自变量），建立函数式（自变量的线性组合，即判别函数），然后对未知类别的新事物进行判断以将之归入已知的类别中。,8.5.1 统计学上的定义和计算公式,判别分析有如下的假定：预测变量服从正态分布。预测变量之间没有显著的相关。预测变量的平均值和方差不相关。预测变量应是连续变量，因变量（类别或组别）是间断变量。两个预测变量之间的相关性在不同类中是一样的。,在分析的各个阶段应把握如下的原则：事前组别（类）的分类标准（作为判别分析的因变量）要尽可能准确和可靠，否则会影响判别函数的准确性，从而影响判别分析的效果。所分析的自变量应是因变量的重要影响因素，应该挑选既有重要特性又有区别能力的变量，达到以最少变量而有高辨别能力的目标。初始分析的数目不能太少。,这些判别函数是各个独立预测变量的线性组合。程序自动选择第一个判别函数，以尽可能多地区别各个类，然后再选择和第一个判别函数独立的第二个判别函数，尽可能多地提供判别能力。程序将按照这种方式，提供剩下的判别函数。判别函数的个数为k。,图8-22 判别分析的示意图,研究问题 调查了15个公司的组织文化、领导角色和员工发展3个方面内容作为预测变量，因变量为公司对员工的吸引力。为符合研究问题，将公司对员工的吸引力根据被测的实际填答情形，划分为高吸引力组（group=1）、中吸引力组（group=2）和低吸引力组（group=3）。数据如表8-4所示。,8.5.2 SPSS中实现过程,表8-4不同类的不同公司特点,实现步骤,图8-23 在菜单中选择“Discriminant”命令,图8-24“Discriminant Analysis”对话框,图8-25“Discriminant Analysis：Define”对话框,图8-26“Discriminant Analysis：Stepwise Method”对话框,图8-27“Discriminant Analysis：Statistics”对话框,图8-28“Discriminant Analysis：Classification”对话框,图8-29“Discriminant Analysis：Save”对话框,（1）SPSS输出结果文件中的第一部分如下表所示。,8.5.3 结果和讨论,（2）输出的结果文件中第二部分如下表所示。,（3）输出的结果文件中第三部分如下表所示。,（4）输出的结果文件中第四部分如下表所示。,（5）输出的结果文件中第五个部分为组间的协方差矩阵，如下表所示。,（6）输出的结果文件中第六个部分如下两个表格所示。,（7）输出的结果文件中第七个部分如下表所示。,（8）输出的结果文件中第八个部分如下表所示。,（9）输出的结果文件中第九个部分如下表所示。,（10）输出的结果文件中第十个部分如下表所示。,（11）输出的结果文件中第十一个部分如下表所示。,（12）输出的结果文件中第十二个部分包括3个分类统计信息表格,（13）输出的结果文件中第十三个部分为每一个个案的实际分组摘要表。如下表所示。,（14）输出的结果文件中第十四个部分如图8-30所示。,（15）输出的结果文件中第十五个部分如下：,（16）在实现过程中曾指定了将判别分析的结果作为样本的变量保存到SPSS的数据编辑窗口中。SPSS运行后，数据编辑窗口如图8-31所示。,小 结,聚类分析的实质是建立一种分类方法，将一批样本数据按照他们在性质上的密切程度在没有先验知识的情况下自动进行分类。聚类方法主要分为层析聚类分析方法和快速聚类分析方法，其中层次聚类分析方法又有两种形式：一种是对样本进行分类，称为Q型聚类；一种是对研究变量进行分类，称为R型聚类。,小 结,判别分析是指先根据已知类别的事物的性质，建立函数式，然后对未知类别的新事物进行判断以将之归入已知的类别中。判别分析的模型按照判别的不同准则可以分为典型判别分析、贝叶斯判别分析、非参数判别分析等不同模型。,小 结,SPSS中“Analyze”/“Classify”菜单专门用于聚类分析和判别分析。其中，“K-Means Cluster”适用于快速聚类分析方法，“Hierarchical Cluster”适用于层次聚类分析方法，“Discriminant”主要用于判别分析。,