多元统计分析(数学建模).ppt
《多元统计分析(数学建模).ppt》由会员分享,可在线阅读,更多相关《多元统计分析(数学建模).ppt(186页珍藏版)》请在三一办公上搜索。
1、,数学建模讲座,多元统计分析,为振兴中华而读书!,第一部分 理论分析,1.1 相关分析1.2 路径分析1.3 结构方程模型1.4 聚类分析1.5 因子分析,相关分析,(一)相关关系(1)函数关系:(如:销售额与销售量;圆面积和圆半径.)是事物间的一种一一对应的确定性关系.即:当一个变量x取一定值时,另一变量y可以依确定的关系取一个确定的值(2)统计关系:(如:收入和消费;身高的遗传.)事物间的关系不是确定性的.即:当一个变量x取一定值时,另一变量y的取值可能有几个.一个变量的值不能由另一个变量唯一确定,概述,统计关系的常见类型:线性相关:正线性相关、负线性相关非线性相关 统计关系不象函数关系那
2、样直接,但却普遍存在,且有强有弱.如何测度?,概述,(二)相关分析的任务研究对象:统计关系相关分析旨在测度变量间线性关系的强弱程度,相关分析,(一)目的 通过样本数据,研究两变量间线性相关程度的强弱.(二)基本方法 绘制散点图、计算相关系数,绘制散点图,(一)散点图 将数据以点的形式绘制在直角平面上.比较直观,可以用来发现变量间的关系和可能的趋势.,体现了正相关趋势,绘制散点图,(二)基本操作步骤(1)菜单选项:graphs-scatter(2)选择散点图类型:simple:简单散点图(显示一对变量的散点图)overlay:重叠散点图(显示多对变量的散点图)(3)选择x轴和y轴的变量(4)选择
3、分组变量(set markers by):分别以不同颜色点的表示(5)选择标记变量(label case by):散点图上可带有标记变量的值(如:职工号),计算相关系数,(一)相关系数(1)作用:以精确的相关系数(r)体现两个变量间的线性关系程度.r:-1,+1;r=1:完全正相关;r=-1:完全负相关;r=0:无线性相关;|r|0.8:强相关;|r|0.3:弱相关,计算相关系数,(一)相关系数(2)说明:相关系数只是较好地度量了两变量间的线性相关程度,不能描述非线性关系.如:x和y的取值为:(-1,-1)(-1,1)(1,-1)(1,1)r=0 但 xi2+yi2=2数据中存在极端值时不好如
4、:(1,1)(2,2)(3,3),(4,4),(5,5),(6,1)r=0.33 但总体上表现出:x=y 应结合散点图分析,计算相关系数,(一)相关系数(3)种类:简单线性相关系数(Pearson):针对定距数据.(如:身高和体重),计算相关系数,(一)相关系数(3)种类:Spearman相关系数:用来度量定序或定类变量间的线性相关关系(如:不同年龄段与不同收入段,职称和受教育年份)利用秩(数据的排序次序).认为:如果x与y相关,则相应的秩Ui、Vi也具有同步性.首先得到两变量中各数据的秩(Ui、Vi),并计算Di2统计量.计算Spearman秩相关系数,与简单相关系数形式完全相同.若两变量存
5、在强正相关性,则Di2应较小,秩序相关系数较大.若两变量存在强负相关性,则Di2应较大,秩序相关系数为负,绝对值较大,计算相关系数,(一)相关系数(3)种类:Kendall相关系数:度量定序定类变量间的线性相关关系首先计算一致对数目(U)和非一致对数目(V)如:对x和y求秩后为:x:2 4 3 5 1 y:3 4 1 5 2x的秩按自然顺序排序后:x:1 2 3 4 5 y:2 3 1 4 5 一致对:(2,3)(2,4)(2,5)(3,4)(3,5)(1,4)(1,5)(4,5)非一致对:(2,1)(3,1)然后计算Kendall相关系数.若两变量存在强相关性,则V较小,秩序相关系数较大;若
6、两变量存在强负关性,则V较大,秩序相关系数为负,绝对值较大,计算相关系数,(二)相关系数检验应对两变量来自的总体是否相关进行统计推断.原因:抽样的随机性、样本容量小等(1)H0:两总体零相关(2)构造统计量,简单相关系数,Spearman系数,大样本 下,近似正态分布,kendall系数,大样本 下,近似正态分布,计算相关系数,(二)相关系数检验(3)计算统计量的值,并得到对应的相伴概率p(4)结论:如果pa,不能拒绝H0.,计算相关系数,(三)基本操作步骤(1)菜单选项:analyze-correlate-bivariate.(2)选择计算相关系数的变量到variables框.(3)选择相关
7、系数(correlation coefficients).(4)显著性检验(test of significance)tow-tailed:输出双尾概率P.one-tailed:输出单尾概率P,计算相关系数,(四)其他选项statistics选项:仅当计算简单相关系数时,选择输出哪些统计量.means and standard deviations:均值、标准差;cross-product deviations and covariances:分别输出两变量的离差平方和(sum of square 分母)、两变量的差积和(cross-products分子)、协方差(covariance 以上各
8、个数据除以n-1),偏相关分析,(一)偏相关系数(1)含义:在控制了其他变量的影响下计算两变量的相关系数。虚假相关.研究商品的需求量和价格、消费者收入之间的关系.因为:需求量和价格之间的相关关系包含了消费者收入对商品需求量的影响;收入对价格也产生影响,并通过价格变动传递到对商品需求量的影响中。又如:粮食产量与平均气温、月降水量、平均日照时间、温度之间的关系的研究。,偏相关分析,(2)计算方法:,偏相关分析,(二)基本操作步骤(1).菜单选项:analyze-correlate-partial(2).选择将参加计算的变量到variable框.(3).选择控制变量到controlling for
9、框。(4)option选项:zero-order correlations:输出简单相关系数矩阵,路径分析,2023/9/25,23,第十章 路径分析,目录 上页 下页 返回 结束,20世纪初,“Pearson原理”占着生物遗传学(在过去几乎就是我们现在所称作的统计学)的统治地位。Pearson原理的一个基本内容就是相关关系是现实生活中最基本的关系,而因果关系仅仅是完全相关的(理论)极限。这种理论认为没必要寻找变量之间的因果关系,只需计算相关系数。然而相关分析逐渐暴露出自身的很多局限:一是相关分析仅仅反应变量之间的线性关系;二是相关分析反应变量之间的关系是对称的,而很多变量之间的关系是非对称的
10、;三是只有在正态假设下,相关思想才是有效的。,2023/9/25,24,第十章 路径分析,目录 上页 下页 返回 结束,在遗传学中,很多现象具有明显的因果关系,如父代与子代的基因关系,父代在前,子代在后,二者的关系只能是单向的,而非对称的。对这种变量结构进行思考,遗传学家Sewall Wright于1918-1921年提出路径分析(path analysis),用来分析变量间的因果关系。现代的路径分析由生物遗传学家、心理测验学家、计量经济学家以及社会学家的推进,引入隐变量(latent variable,又称unmeasured variable,不可观测变量),并允许变量间具有测量误差,并且
11、极大似然估计代替了最小二乘法,成为路径系数主流的估计方法。,2023/9/25,25,第十章 路径分析,目录 上页 下页 返回 结束,路径分析现在成为多元分析的一种重要方法,广泛应用于遗传学、社会学、心理学、经济问题和市场调研领域。然而习惯上把基于最小二乘的传统的路径分析称作路径分析,而把基于极大似然的路径分析称作结构方程式模型(Structural Equation Modeling,SEM)。本节主要介绍传统的路径分析,不进行特别说明,本节所提到的路径分析均指基于最小二乘的路径分析,结构方程式模型方在下节介绍。,2023/9/25,26,目录 上页 下页 返回 结束,一、路径图,路径分析的
12、主要工具是路径图,它采用一条带箭头的线(单箭头表示变量间的因果关系,双箭头表示变量间的相关关系)表示变量间预先设定的关系,箭头表明变量间的关系是线性的,很明显,箭头表示着一种因果关系发生的方向。在路径图中,观测变量一般写在矩形框内,不可观测变量一般写在椭圆框内,对于简单的路径模型,可以直接用字母表示变量,绘出路径图。,2023/9/25,27,目录 上页 下页 返回 结束,图10-1是一个简单的路径路,A是父亲智商,B是母亲智商,C1、C2是两个成年子女的智商,是与A,B不相关的另外原因变量。一般来说,父母亲的智商之间不存在关系;父母亲的智商对子女的智商存在因果关系,用单箭头表示,子女的之间,
13、存在相关关关系,用双箭头表示。箭头上的字母表示路径系数,路径系数反应原因变量对结果变量的相对影响大小。在路径分析中一般采用经过标准化后的变量,没有特别说明,均指经过标准化后的变量。可以把图10-1写为方程式的形式:,(10.1),2023/9/25,28,目录 上页 下页 返回 结束,式(10.1)实际上是普通的多元回归方程,多元回归分析是因果关系模型的一种,但它是一种比较简单的因果关系模型,各个自变量对因变量的作用并列存在,它仅包含一个环节的因果结构。路径分析的优势在于它可以容纳多环节的因果结构,通过路径图把这些因果关系很清楚地表示出来,据此进行更深层次的分析,如比较各种因素之间的相对重要程
14、度,计算变量与变量之间的直接与间接影响,这在后面会涉及到。,图10-2是有关一种消费性电子产品(如手机)路径分析的例子(这里省略了路径系数),四个变量耐用性、操作的简单性、通话效果和价格两两相关,决定感知价值,同时通过感知价值决定忠诚度。相对于图10-1,它具有两层的因果关系。接下来主要以图10-2为例,说明路径图中的一些基本概念。,2023/9/25,29,目录 上页 下页 返回 结束,路径图,2023/9/25,30,目录 上页 下页 返回 结束,路径图上的变量分为两大类:一类是外生变量(exogenous variable,又称独立变量,源变量),它不受模型中其他变量的影响,如图10-2
15、中的耐用性、操作的简单性、通话效果和价格。与此相反,另一类是内生变量(endogenous variable,又称因变量或下游变量),在路径图上至少有一个箭头指向它,它被模型中的其它一些变量所决定,如图10-2中的感知价值由耐用性、操作的简单性、通话效果和价格四个变量和随机误差e5决定,忠诚度取决于四个外生变量、感知价值和随机误差e6。此外,我们可以将路径图中不影响其它变量的内生变量称为最终结果变量(ultimate response variable),最终结果变量不一定只有一个。图10-2中忠诚度是最终结果变量。,2023/9/25,31,目录 上页 下页 返回 结束,其他变量(A)对内生
16、变量(B)的影响有两种情况:若A直接通过单向箭头对B具有因果影响,称A 对B有直接作用(direct effect);若A 对B的作用是间接地通过其他变量(C)起作用,称A 对B有间接作用(indirect effect),称C为中间变量(mediator variable)。变量间的间接作用常常由多种路径最终总合而成。图10-2中,四个外生变量耐用性、操作的简单性、通话效果和价格既对忠诚度有直接作用,同时通过感知价值对忠诚度具有间接作用。,2023/9/25,32,目录 上页 下页 返回 结束,如果模型中包含中间变量,首先从理论角度考虑,这个中间作用是否有理论依据,其次实际工作者会提出这样的
17、问题:“模型中中间变量的中间影响显著吗?”,这些问题涉及到对中间变量的间接作用进行检验。Barron,R.M.&Kenny D.(1986)提出了检验中间变量间接作用是否统计显著的一种做法。他们利用基于普通最小二乘的多元回归进行,以图10-2为例说明这种做法:,第一步:用中间变量(感知价值)对外生变量耐用性、操作的简单性、通话效果和价格四个变量进行回归;第二步:用内生变量(忠诚度)对第一步中的四个变量进行回归;第三步:用忠诚度对第一步中的四个变量以及中间变量感知价值进行回归。,2023/9/25,33,目录 上页 下页 返回 结束,Agarwal,S.&Teas,R.K.(1997)的工作表明
18、“如果(a)在第一步的估计中解释变量统计显著;(b)在第二步的估计中解释变量统计显著;(c)在第三步的估计中中间变量统计显著,则说明中间变量的间接作用显著”.,假设对图10-2进行间接作用检验,得到表10-1。,2023/9/25,34,目录 上页 下页 返回 结束,对每一外生变量,存在三种可能的中间结果:没有间接作用(no mediation),部分间接作用(partial mediation)和完全间接作用(full mediation)。如果第一步中外生变量的回归系数不是统计显著或者第三步中(中间变量)感知价值的回归系数不显著,说明该外生变量不存在间接作用;如果某一外生变量(如耐用性、操
19、作的简单性和通话效果)在第一步和第三步中的回归系数都是统计显著的,说明该外生变量存在部分间接作用;如果某外生变量(价格)的回归系数在第一步显著,而在第三步不显著,说明该外生变量存在完全的间接作用。,2023/9/25,35,目录 上页 下页 返回 结束,广义的路径模型有两种基本类型:递归模型和非递归模型。两种模型在分析时有所不同,递归模型可以直接通过最小二乘求解,而非递归模型的求解比较复杂。尽管本章主要介绍基于最小二乘的路径分析(即递归路径模型),但同时也要求读者能够预先正确判断一个模型的所属类型,才能保证应用路径分析不会出错。,因果关系结构中全部为单向链条关系、无反馈作用的模型称为递归模型(
20、recursive model)。无反馈作用意味着,各内生变量与其原因变量的误差项之间或各两个内生变量的误差项之间必须相互独立。与递归模型相对的另一类模型称作非递归模型(nonrecursive model)。一般来说,非递归模型相对来说容易判断,如果一个模型不包括非递规模型的特征,它便是递归模型。,2023/9/25,36,目录 上页 下页 返回 结束,如果一个路径模型包括以下四种情况,便是非递归模型。,情况一:模型中任何两个变量之间存在直接反馈作用,在路径图上表示为双向因果关系。如图10-3(a)所示。,情况二:某变量存在自身反馈作用,即该变量存在自相关,如图10-3(b)所示。,2023
21、/9/25,37,目录 上页 下页 返回 结束,情况三:变量之间虽然没有直接反馈,但是存在间接反馈作用,即顺着某一变量及随后变量的路径方向循序前进,经过若干变量后,又能返回这一起始变量,如图10-3(c)所示。,2023/9/25,38,目录 上页 下页 返回 结束,情况四:内生变量的误差项与其他有关项相关,如结果变量的误差项与其原因项相关(图10-3(d)),或者不同变量之间的误差项之间存在相关(图10-3(e))。,2023/9/25,39,目录 上页 下页 返回 结束,使用最小二乘的估计方法要求路径模型具有一些假设要求和限制,现在总结如下:,(1)首先要求模型中各变量的函数关系为线性、可
22、加;否则不能采用回归方法估计路径系数。如果处理变量之间的交互作用,把交互项看作一个单独的变量,此时它与其它变量的函数关系同样满足线性、可加。,(2)模型中各变量均为等间距测度。尽管路径分析中通常会使用二分数据(dichotomies data)或者顺序数据(ordinal data),然而不能使用超过一个值的虚拟变量,因为这会违反递归性要求。,2023/9/25,40,目录 上页 下页 返回 结束,(3)每一内生变量的误差项不得与其前置变量相关,同时也不得与其它内生变量及其误差项相关。这是对模型递归性的要求。另外,模型不考虑外生变量的相关性,即不对外生变量的相关进行分析。,(4)模型中的因果关
23、系必须为单向,不得包括各种形式的反馈作用。这同样是对模型递归性的要求。,(5)各变量均为可观测变量,并且各变量的测量不能存在误差。这两个弱点在SEM技术中得到了克服,已经发展了一套成熟的处理隐变量和测量误差的技术。,(6)变量间的多重共线性程度不能太高,否则路径系数估计值的误差将会很大。,(7)需要有足够的样本量。Kline(1998)建议样本量的个数应该是需要估计的参数个数的10倍(20倍更加理想)。,2023/9/25,41,目录 上页 下页 返回 结束,在上述假设下,采用最小二乘法可以很容易求解各个参数值,见文献3,并且可以单独对其中一个方程求解。,2023/9/25,42,目录 上页
24、下页 返回 结束,作为本节结束,我们需要提醒读者:一个好的路径图并不意味着一定包含有尽可能多的箭头;相反,统计学上最感兴趣的情形是:应该寻找尽可能少的箭头去联结尽可能少的变量,而这时的路径图又能对所代表的样本拟合得好,即所谓模型简约性(parsimony),在后面有关模型拟合度的检验中我们对这段话会有更深的体会。,2023/9/25,43,目录 上页 下页 返回 结束,路径分析技术是从分解相关系数发展出来的,因此分解相关系数在路径分析中带有一般性意义,并且是路径分析中很重要的一部分。通过对原因变量和结果变量的相关系数的分解,我们可以很清楚地看出造成相关关系的各种原因。有时也涉及到对回归系数的分
25、解,我们这里不进行介绍。,下面以一例子说明相关系数的分解过程。图10-4为一假想的六个变量的路径图:A,B,C为三个两两相关的外生变量,A,B和残差项e4共同决定D,B,C,D和残差项e5决定E,最后,D,E和残差项e6影响最终结果变量F,共具有三层的因果关系。对应于路径图,我们写出结构方程组:,2023/9/25,44,目录 上页 下页 返回 结束,2023/9/25,45,目录 上页 下页 返回 结束,外生变量的相关关系在图中体现,内生变量的误差项之间独立,内生变量的误差项与其前置变量之间独立。,在式(10.3)中,如果路径系数p14,p24已知,则D的方差,可以从上式计算出 的大小。很容
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 多元 统计分析 数学 建模
链接地址:https://www.31ppt.com/p-6109261.html