主成分分析××ppt课件.pptx
,同时由于各指标均是对同一事物的反映，不可避免地造成信息的大量重叠，这种信息的重叠有时甚至会抹杀事物的真正特征和内在规律。,前 言,问题的引入,如何解决,主成分特点,意义,问题的引入,?,何,如,解决呢,前 言,研究同一问题涉及的众多变量之间有一定的相关性，就必然存在着起支配作用的共同因素,基于此，通过对原始变量相关矩阵或协方差矩阵内部结构关系的研究，利用原始变量的线性组合形成几个综合指标(主成分)，在保留原始变量主要信息的前提下起到降维和简化问题的作用，使得在研究复杂问题时更容易抓住主要矛盾。,前 言,问题的引入,如何解决,主成分特点,意义,如何解决,每一个主成分都是各原始变量的线性组合,主成分的数目大大少于原始变量的数目,各主成分之间互不相关,主成分保留了原始变量绝大多数信息,前 言,问题的引入,如何解决,主成分特点,意义,主成分特点,通过主成分分析，可以从事物之间错综复杂的关系中找出一些主要成分，从而能有效利用大量统计数据进行定量分析，解释变量之间的内在关系，得到对事物特征及其发展规律的一些深层次的启发，把研究工作引向深入。,前 言,问题的引入,如何解决,主成分特点,意义,意义,那么，到底什么是,主成分分析呢？,目 录,目 录,主成分分析的计算步骤,主成分分析在SPSS上实现,利用降维的思想,在损失很少信息的前提下,把多个指标转化为几个综合指标(主成分),每个主成分都是原始变量的线性组合,且各个主成分之间互不相关,主成分分析(PCA),主成分分析(principal components analysis, PCA)也称主分量分析，是由霍特林于1933年首先提出的.,主成分分析的原理及数学模型,主成分分析的原理及数学模型,主成分分析(PCA),较原始变量有更多的优越性能!,更容易抓住事物的主要矛盾,揭示事物内部变量之间的规律性,使问题得到简化，提高分析效率,主成分分析是一种对多元数据的变量数目进行有效减维压缩的方法。,它提供了一种能在保持原事物大部分信息的基础上，将变量数较多而且变量间有不同程度相关关系的数据转换成一组变量数较少而且变量间相互独立的新数据的方法。,主成分分析的原理及数学模型,原理,先讨论只有两个变量的情况。,事物结构不变，只是坐标轴旋转了，所以总方差不变，即S2x1 + S2x2 = S2y1 + S2y2，而右图中，y1的变异比y2的变异大得多。如果y2的变异小到可以认为是由于误差造成的，则只需y1就足以说明问题。,主成分分析的原理及数学模型,方差是事物信息量的度量,是为了使得样品点在y1轴方向离散程度最大,转换公式,主成分分析的原理及数学模型,主成分分析的原理及数学模型,主成分分析,推广到p维情形,我们希望寻找一组新的变量(Z1,Z2,Zm)(mp)，这组新的变量要求充分地反映原变量(X1,X2,Xp)的信息，而且相互独立。,主成分分析的原理及数学模型,用Z1=a1X来代替原来p个变量X1，X2，Xp，显然，当var(Z1) 越大，表示Z1包含的信息越多。,主成分分析的原理及数学模型,类似地，可求第三主成分，第四主成分等等。,主成分分析的原理及数学模型,主成分分析的基本思想与数学模型,主成分分析的原理及数学模型,使得z=aTx方差最大,var(z)=var(aTx)= aTa,拉格朗日极值法,化简,F(a)= aTa-(aTa -1),可见a是的长度为1的特征向量，此时max(var(z)=aTa=aTa=,数学推导过程,目 录,主成分分析的原理及模型,主成分分析在SPSS上实现,协方差矩阵,贡献率累计贡献率,特征值特征向量,协方差矩阵,特征值特征向量,贡献率累计贡献率,协方差矩阵,主成分分析的解法,在sij(i, j=1,2,p)为原来变量zxi与zxj的协方差cov(zxi, zxj)，其计算公式为： 其中：,由于协方差矩阵易受指量纲的影响, 通常需要对数据进行消除量纲影响的处理，也就是标准化。不过这些SPSS会自动完成。,主成分分析的解法,协方差矩阵,特征值特征向量,贡献率累积贡献率,特征值特征向量,首先解特征方程|E-|=0求出特征值i(i=1,2,p)，并使其按大小顺序排列，即12.p0；然后分别求出对应特征值i的特征向量ai(i=1,2,p)，然后，单位化，正交化。,协方差矩阵,特征值特征向量,贡献率累积贡献率,贡献率累积贡献率,发展个人学习网络,培养终身学习意识,主成分分析的解法,协方差矩阵,特征值特征向量,贡献率累积贡献率,. 一般取累积贡献率达85%95%的特征值1, 2, , m所对应的第一，第二，,第m(mp)个主成分.,主成分分析的解法,贡献率累积贡献率,目 录,主成分分析的计算步骤,主成分分析的原理及模型,主成分分析在 上实现,原始数据,用SPSS进行主成分分析,分析结果,SPSS,SPSS(Statistical Product and Service Solutions)，”统计产品与服务解决方案”软件,主成分分析在SPSS上实现,从上表(相关系数矩阵)可知，土壤水分与Mclntosh指数、幸普森指数、Pielou指数存在着显著关系。可见许多变量之间直接的相关性比较强，证明他们存在信息上的重叠。主成分个数提取原则为主成分对应的特征值大于1的前m个主成分。特征值在某种程度上可以看成是表示主成分影响力大小的指标。如果特征值小于1，说明该主成分的解释力度还不如直接引入一个原变量的平均值解释力度大。因此可以用特征值大于1作为判断主成分的标准。此外还要考虑累积贡献率大于85%。,相关系数矩阵,主成分分析在SPSS上实现,从左表(方差分解主成分提取分析)可知，一共提取四个主成分；从右表(初始因子载荷矩阵)可知，Shannon指数、种间相遇率、Mclntosh指数、幸普森指数、Pielou指数在第一主成分有较高载荷，说明第一主成分基本反映了这些指标的信息，全N质量分数在第二主成分中有较高的载荷，说明第二主成分基本反映了全N质量分数指标的基本信息等等。所以提取四个主成分是可以基本反映全部指标的信息，也就可以仅用四个新变量来代替原来11个变量，在理论上是行得通的。,主成分分析在SPSS上实现,对原始变量提取的百分比！,主成分分析在SPSS上实现,数据的标准化,主成分分析在SPSS上实现,F1=0.3ZX1+0.03ZX2-0.08ZX3+0.07ZX4+0.4ZX5+0.39ZX6-0.41ZX7+0.12ZX8-0.41ZX9+0.41ZX10-0.27ZX11F20.22ZX10.34ZX20.43ZX30.61ZX40.15ZX50.15ZX60.02ZX70.47ZX80.02ZX90.05ZX10.0.04ZX11F30.22ZX10.56ZX20.4ZX30.02ZX40.04ZX50.02ZX60.15ZX70.06ZX80.15ZX90.04ZX10.0.65ZX11F40.15ZX10.55ZX20.52ZX30.13ZX40.05ZX50.05ZX60.06ZX70.58ZX80.06ZX90.16ZX10.0.12ZX11,用主成分载荷矩阵中的数据除以主成分相对应的特征值开平方便得到每个主成分中每个指标所对应的系数，运行SPSS，可得到特征向量，将得到的特征向量与标准化后的数据相乘，就可以得到主成分表达式。,求主成分表达式,在SPSS中企业主成分表达式中每个指标所对应的系数,在SPSS中企业主成分表达式中每个指标所对应的系数,主成分分析在SPSS上实现,综合主成分值及排名,求主成分综合模型,三周时间准备，两周时间制作。希望能实际应用中用好 ！,主成分分析,
