数据分析中数理统计方法的正确使用.ppt

《数据分析中数理统计方法的正确使用.ppt》由会员分享，可在线阅读，更多相关《数据分析中数理统计方法的正确使用.ppt（122页珍藏版）》请在三一办公上搜索。

1、数据分析中数理统计方法的正确使用,报告人：张利田环境科学学报编委会执行副主编、编辑部主任 2007-11-26,重要假定,作者所处理的数据属于随机变量的特定样本。作者已经掌握最基本的数理统计学常识，如概率、假设检验、均值、方差、标准差、正态分布、相关分析、回归分析、方差分析。,数理统计问题的重要性,在科学研究中，经常会涉及到对随机变量大小、离散及分布特征的描述以及对2个或多个随机变量之间的关系描述问题。地学、环境科学研究也不例外。对随机变量及随机变量之间的关系进行定量描述的数学工具就是数理统计学。在科学研究中，能否正确使用各种数理统计方法关系到所得出结论的客观性和可信性。所以，来稿中使用的数理

2、统计方法是否正确应是学术期刊编辑们极为重视的问题。目前，国内环境科学与技术类学术期刊对稿件中数理统计方法问题的重视程度存在差异。,1 统计软件的选择,统计分析通常涉及大量的数据，需要较大的计算工作量。在进行统计分析时，尽管作者可以自行编写计算程序，但在统计软件很普及的今天，这样做是毫无必要的。出于对工作效率以及对算法的通用性、可比性的考虑，一些学术期刊要求作者采用专门的数理统计软件进行统计分析。,1 统计软件的选择,环境科学学报的编辑们在处理稿件时经常发现的问题是：作者未使用专门的数理统计软件，而采用Excel这样的电子表格软件进行数据统计分析。由于电子表格软件提供的统计分析功能十分有限，只能

3、借助它进行较为简单的统计分析，故我们不主张作者采用这样的软件进行统计分析。,1 统计软件的选择,目前，国际上已开发出的专门用于统计分析的商业软件很多，比较著名有SPSS(Statistical Package for Social Sciences)和SAS(Statistical Analysis System)。此外，还有BMDP和STATISTICA等。SPSS是专门为社会科学领域的研究者设计的，但此软件在自然科学领域也得到广泛应用。BMDP是专门为生物学和医学领域研究者编制的统计软件。,1 统计软件的选择,目前，国际学术界有一条不成文的约定：凡是用SPSS和SAS软件进行统计分析所获得

4、的结果，在国际学术交流中不必说明具体算法。由此可见，SPSS和SAS软件已被各领域研究者普遍认可。我们建议作者们在进行统计分析时尽量使用这2个专门的统计软件。目前，有关这2个软件的使用教程在书店中可很容易地买到。,2 均值的计算：理论问题,均值（准确的称呼应为“样本均值”）的统计学意义：反映随机变量样本的大小特征。均值对应于随机变量总体的数学期望总体的数学期望客观上决定着样本的均值，反过来，通过计算样本的均值可以描述总体的数学期望。在处理实验数据或采样数据时，经常会遇到对相同采样或相同实验条件下同一随机变量的多个不同取值进行统计处理的问题。为找到代表这些观测值总体大小特征的代表值（统计量，该统

5、计量根据样本数据算出），多数作者会不假思索地直接给出算术平均值和标准差。显然，这种做法是不严谨的不一定总是正确的。,2 均值的计算：技术问题,在数理统计学中，作为描述随机变量样本的总体大小特征的统计量有算术平均值、几何平均值和中位数等多个。何时用算术平均值？何时用几何平均值？以及何时用中位数？这不能由研究者根据主观意愿随意确定，而要根据随机变量的分布特征确定。,2 均值的计算：技术问题,反映随机变量总体大小特征的统计量是数学期望，而在随机变量的分布服从正态分布时，其数学期望就可以用样本的算术平均值描述。此时，可用样本的算术平均值描述随机变量的大小特征。如果所研究的随机变量不服从正态分布，则算术

6、平均值不能准确反映该变量的大小特征。在这种情况下，可通过假设检验来判断随机变量是否服从对数正态分布。如果服从对数正态分布，则几何平均值就是数学期望的值。此时，就可以计算变量的几何平均值。如果随机变量既不服从正态分布也不服从对数正态分布，则按现有的数理统计学知识，尚无合适的统计量描述该变量的大小特征。此时，可用中位数来描述变量的大小特征。,3 相关分析：相关系数的选择,在相关分析中，作者们常犯的错误是：简单地计算Pearson 积矩相关系数，而且既不给出正态分布检验结果，也往往不明确指出所计算的相关系数就是Pearson 积矩相关系数。在数理统计学中，除有针对数值变量设计的Pearson 积矩相

7、关系数（对应于“参数方法”）外，还有针对顺序变量（即“秩变量”）设计的Spearman秩相关系数和Kendall秩相关系数（对应于“非参数方法”）等。Pearson 积矩相关系数可用于描述2个随机变量的线性相关程度，Spearman或Kendall秩相关系数用来判断两个随机变量在二维和多维空间中是否具有某种共变趋势。,3 相关分析：相关系数的选择,在相关分析中，计算各种相关系数是有前提条件的。在相关分析中，对于秩变量，一般别无选择，只能计算Spearman或Kendall秩相关系数。对于数值变量，只要条件许可，应尽量使用检验功效最高的参数方法，即计算用Pearson 积矩相关系数。只有计算Pe

8、arson 积矩相关系数的前提不存在时，才考虑退而求其次，计算专门为秩变量设计的Spearman或Kendall秩相关系数（尽管这样做会导致检验功效的降低）。,3 相关分析：相关系数的选择,对于数值变量，相关系数选择的依据是变量是否服从正态分布，或变换后的数据是否服从正态分布。对于二元相关分析，如果2个随机变量服从二元正态分布假设，则应该用Pearson 积矩相关系数描述这2个随机变量间的相关关系。如果样本数据不服从二元正态分布，则可尝试进行数据变换，看变换后的数据是否符合正态分布？如果是，则可以针对变换后的数据计算Pearson 积矩相关系数；否则，就不能计算Pearson 积矩相关系数，而

9、应改用检验功效较低的Spearman或Kendall秩相关系数（此时，如果强行计算Pearson 积矩相关系数有可能会得出完全错误的结论）。,4 相关分析与回归分析的区别,相关分析和回归分析是极为常用的2种数理统计方法，在环境科学及其它科学研究领域有着广泛的用途。然而，由于这2种数理统计方法在计算方面存在很多相似之处，且在一些数理统计教科书中没有系统阐明这2种数理统计方法的内在差别，从而使一些研究者不能严格区分相关分析与回归分析。,4 相关分析与回归分析的区别,最常见的错误是:用回归分析的结果解释相关性问题。例如，作者将“回归直线（曲线）图”称为“相关性图”或“相关关系图”；将回归直线的R2(

10、拟合度，或称“可决系数”)错误地称为“相关系数”或“相关系数的平方”；根据回归分析的结果宣称2个变量之间存在正的或负的相关关系。,4 相关分析与回归分析的区别,相关分析与回归分析均为研究2个或多个变量间关联性的方法，但2种数理统计方法存在本质的差别，即它们用于不同的研究目的。相关分析的目的在于检验两个随机变量的共变趋势（即共同变化的程度），回归分析的目的则在于试图用自变量来预测因变量的值。,4 相关分析与回归分析的区别,在相关分析中，两个变量必须同时都是随机变量，如果其中的一个变量不是随机变量，就不能进行相关分析。这是相关分析方法本身所决定的。,4 相关分析与回归分析的区别,对于回归分析，其中

11、的因变量肯定为随机变量（这是回归分析方法本身所决定的），而自变量则可以是普通变量（有确定的取值）也可以是随机变量。,4 相关分析与回归分析的区别,如果自变量是普通变量，即模型回归分析，采用的回归方法就是最为常用的最小二乘法。如果自变量是随机变量，即模型回归分析，所采用的回归方法与计算者的目的有关。在以预测为目的的情况下，仍采用“最小二乘法”（但精度下降最小二乘法是专为模型 设计的，未考虑自变量的随机误差）；在以估值为目的（如计算可决系数、回归系数等）的情况下，应使用相对严谨的方法（如“主轴法”、“约化主轴法”或“Bartlett法”）。,4 相关分析与回归分析的区别,显然，对于回归分析，如果是

12、模型回归分析，鉴于两个随机变量客观上存在“相关性”问题，只是由于回归分析方法本身不能提供针对自变量和因变量之间相关关系的准确的检验手段，因此，若以预测为目的，最好不提“相关性”问题；若以探索两者的“共变趋势”为目的，应该改用相关分析。如果是模型回归分析，就根本不可能回答变量的“相关性”问题，因为普通变量与随机变量之间不存在“相关性”这一概念（问题在于，大多数的回归分析都是模型回归分析！）。此时，即使作者想描述2个变量间的“共变趋势”而改用相关分析，也会因相关分析的前提不存在而使分析结果毫无意义。,4 相关分析与回归分析的区别,需要特别指出的是，回归分析中的R2在数学上恰好是Pearson积矩相

13、关系数r的平方。因此，这极易使作者们错误地理解R2的含义，认为R2就是“相关系数”或“相关系数的平方”。问题在于，对于自变量是普通变量（即其取值有确定性的变量）、因变量为随机变量的模型回归分析，2个变量之间的“相关性”概念根本不存在，又何谈“相关系数”呢？更值得注意的是，一些早期的教科书作者不是用R2来描述回归效果（拟合程度，拟合度）的，而是用Pearson积矩相关系数来描述。这就更容易误导读者。,5 重要的数理统计学常识,1）假设检验假设检验的基本思想统计推断：是根据样本数据推断总体特征的一种方法。假设检验：是进行统计推断的途径之一（另一种途径是参数估计，如点估计和区间估计）。假设检验的基本

14、思路是：首先，对总体参数值提出假设（原假设）；然后，利用样本数据提供的信息来验证所提出的假设是否成立（统计推断）-如果样本数据提供的信息不能证明上述假设成立，则应拒绝该假设；如果样本数据提供的信息不能证明上述假设不成立，则不应拒绝该假设。接受或拒绝原假设的依据：小概率事件不可能发生。显然，这样做是有风险的（小概率事件真的发生了）。假设检验中的关键问题：1）在原假设成立的情况下，如何计算样本值或某一极端值发生的概率？2）如何界定小概率事件？,5 重要的数理统计学常识,1）假设检验假设检验的基本步骤1）提出原假设（或称“零假设”，H0）；2）选择检验统计量；3）根据样本数据计算检验统计量观测值的发

15、生概率（相伴概率，p）；4）根据给定的小概率事件界定标准（显著性水平，如0.05，0.01）做出统计推断。,假设检验的基本步骤,为什么要设计并计算检验统计量？在假设检验中，样本值（或更极端的取值）发生的概率不能直接通过样本数据计算，而是通过计算检验统计量观测值的发生概率而间接得到的。所设计的检验统计量一般服从或近似服从某种已知的理论分布（如t-分布、F-分布、卡方分布），易于估算其取值概率。对于不同的假设检验和不同的总体，会有不同的选择检验统计量的理论和方法。,假设检验的基本步骤,计算检验统计量观测值的发生概率在假定原假设成立的前提下，利用样本数据计算检验统计量观测值发生的概率（即p值，又称“

16、相伴概率”指该检验统计量在某个特定的极端区域在原假设成立时的概率）。该概率值间接地给出了在原假设成立的条件下样本值（或更极端值）发生的概率。,假设检验的基本步骤,进行统计推断依据预先确定的“显著性水平”（即值），如0.01或0.05，决定是否拒绝原假设。如果p值小于值，即认为原假设成立时检验统计量观测值的发生是小概率事件，则拒绝原假设。否则，就接受原假设。,显著性水平：概念与意义,在假设检验中，显著性水平（Significant level，用表示）的确定是假设检验中至关重要的问题。显著性水平是在原假设成立时检验统计量的制落在某个极端区域的概率值。因此，如果取=0.05，如果计算出的p值小于，

17、则可认为原假设是一个不可能发生的小概率事件。当然，如果真的发生了，则犯错误的可能性为5%。显然，显著性水平反映了拒绝某一原假设时所犯错误的可能性，或者说，是指拒绝了事实上正确的原假设的概率。,显著性水平：通常的取值,值一般在进行假设检验前由研究者根据实际的需要确定。常用的取值是0.05或0.01。对于前者，相当于在原假设事实上正确的情况下，研究者接受这一假设的可能性为95%；对于后者，则研究者接受事实上正确的原假设的可能性为99%。显然，降低值可以减少拒绝原假设的可能性。因此，在报告统计分析结果时，必须给出值。,显著性水平：进行统计推断,在进行假设检验时，各种统计软件均会给出检验统计量观测值以

18、及原假设成立时该检验统计量取值的相伴概率（即检验统计量某特定取值及更极端可能值出现的概率，用p表示）。p值是否小于事先确定的值，是接受或拒绝原假设的依据。如果p值小于事先已确定的值，就意味着检验统计量取值的可能性很小，进而可推断原假设成立的可能性很小，因而可以拒绝原假设。相反，如果p值大于事先已确定的值，就不能拒绝原假设。,统计推断：过去的回忆,在计算机技术十分发达，以及专业统计软件功能十分强大的今天，计算检验统计量及其相伴概率是一件十分容易的事情。然而，在20世纪90年代以前，只有服从标准正态分布的检验统计量，人们可以直接查阅事先准备好的标准正态分布函数表，从中获得特定计算结果的相伴概率。而

19、对于的服从t-分布、F-分布、卡方分布或其它特殊的理论分布的检验统计量（大多数的假设检验是这样），人们无法直接计算相伴概率。人们通常查阅各类假设检验的临界值表进行统计推断。这些表格以自由度和很少的几个相伴概率（通常为0.1、0.05和0.01）为自变量，以检验统计量的临界值为函数排列。在进行统计推断时，人们使用上述临界值表根据事先确定的显著性水平，查阅对应于某一自由度和特定相伴概率的检验统计量的临界值，然后将所计算出的检验统计量与该临界值相比较。如果检验统计量的计算值大于临界值，即实际的相伴概率小于事先规定的显著性水平，便可拒绝原假设。否则，可接受原假设。,显著性水平：举例,在根据显著性水平进

20、行统计推断时，应注意原假设的性质。以二元相关分析为例，相关分析中的原假设是“相关系数为零”（即2个随机变量间不存在显著的相关关系）。如果计算出的检验统计量的相伴概率（p值）低于事先给定值（如0.05），就可以认为“相关系数为零”的可能性很低，既2个随机变量之间存在显著的相关关系。在正态分布检验时，原假设是“样本数据来自服从正态分布的总体”。此时，如果计算出的检验统计量的相伴概率（p值）低于事先给定值（如0.05），则表明数据不服从正态分布。只有p值高于值时，数据才服从正态分布。这与相关分析的假设检验不同。,显著性水平,作者在描述相关分析结果时常有的失误是：仅给出相关系数的值，而不给出显著性水平

21、。这就无法判断2个随机变量间的相关性是否显著。有时作者不是根据显著性水平判断相关关系是否显著，而是根据相关系数的大小来推断（相关系数越近1，则相关关系越显著）。问题是，相关系数本身是一个基于样本数据计算出的观测值，其本身的可靠性尚需检验。此外，作者在论文中常常用“显著相关”和“极显著相关”来描述相关分析结果，即认为p值小于0.05就是显著相关关系（或显著相关），小于0.01就是极显著相关关系（或极显著相关）。,统计推断的注意事项,在假设检验中，只有“显著”和“不显著”，没有“极显著”这样的断语。只要计算出的检验统计量的相伴概率（p值）低于事先确定的值，就可以认为检验结果“显著”（相关分析的原假

22、设是“相关系数为零”，故此处的“显著”实际意味着“相关系数不为零”，或说“2个随机变量间有显著的相关关系”）；同样，只要计算出的检验统计量的相伴概率（p值）高于事先确定的值，就可以认为检验结果“不显著”。,统计推断的注意事项,在进行相关分析时，不能同时使用0.05和0.01这2个显著性水平来决定是否拒绝原假设，只能使用其中的1个。,有关相关分析的断语,1）显著和不显著：描述相关关系是否存在。2）相关性强或不强：在存在相关关系的前提下，这种相关关系的强或弱。可以认为，相关系数越接近1，则相关性越强。声明：第1）条是公认的数理统计常识，但第2）条是个人理解，仅供参考。本文不对第2）条承担责任。,5

23、 重要的数理统计学常识,1）假设检验统计推断：单侧检验与双侧检验对于假设检验，其检验统计量的异常取值有2个方向，即概率分布曲线的左侧（对应于过小的值）和右侧（对应于过大的值）。,检验统计量的极端取值,检验统计量在左侧和右侧均有可能取值,单侧检验与双侧检验,一般情况下，概率分布函数曲线两侧尾端的小概率事件都要考虑（即双侧检验）。如果事先有把握确定其中的一侧不可能取值，则仅需对另一侧的小概率事件进行检验即可（单侧检验）。在用“查表法”进行统计推断时，基于单侧小概率事件检验的临界值表称“单尾表”，基于双侧小概率事件检验的临界值表称“双尾表”。除t-分布临界值表是双尾表外，大多数的检验临界值表均为单尾

24、表。在显著性水平一定的情况下（例如=0.05），对于单尾表，单侧检验时仍使用进行统计推断，双侧检验则用/2进行统计推断；对于双尾表，单侧检验时改用2进行统计推断，双侧检验则用 进行统计推断。在统计软件（如SPSS或SAS统计软件）给出的计算结果中，已标注出所计算的相伴概率是单侧还是双侧，对应于上述的单尾表和双尾表。,单侧检验与双侧检验,以下是SPSS 中的单样本t检验输出结果：One-Sample Test（原假设：储户1次平均存取的现金与2000元无显著差异）Test Value=2000（均值比较的参比值）t=1.240(检验统计量的观测值)df=312(自由度，样本量N=313)Sig.

25、(2-tailed)=0.216（双侧相伴概率p）Mean Difference=473.78（均值的标准误差）95%Confidence Interval of the Difference（总体均值与原假设值之差的95%的置信区间）:-278.131225.69（有95%的把握可认为：储户1次平均存取的金额为1721.873225.69元）上述检验属“均值比较”，是双侧检验（大于或小于2000元都算拒绝原假设），计算的相伴概率也是双侧的。因此，可直接用p与比较。取=0.05,则因p大于，故不能拒绝原假设（不是小概率事件）。统计推断结果：根据313个储户调查数据，每个储户一次平均存取金额大体

26、为2000元。,单侧检验与双侧检验,在统计软件中，可通过选择Test of Significance选项来控制所输出的相伴概率是单尾（1 tailed）概率还是双尾（2 tailed）概率。,5 重要的数理统计学常识,2）正态分布检验目的：检验样本是否来自正态分布的总体原假设：样本来自正态分布的总体分布检验只能使用非参数方法（只有分布形式已知时才能使用参数方法）。不同的统计软件给出了不同的检验方法。,正态分布检验,在SAS中，提供了Shapiro-Wilk(适用于样本量小于50的情形)检验法。此检验无单尾、双尾之分。在SPSS中提供了卡方检验（Chi-Square Test）和单样本的 Kol

27、mogorov-Smirnov(柯尔莫哥洛夫-斯米尔诺夫，简称K-S)检验。后者比前者精确一些，建议采用。,正态分布检验,单样本的 Kolmogorov-Smirnov(柯尔莫哥洛夫-斯米尔诺夫，简称K-S)检验属于双侧检验，计算检验统计量（Z）的双尾概率。,5 重要的数理统计学常识,3)均值比较a)将样本均值与某一特定值相比：t-检验（参数检验）原假设：总体均值与特定值无显著差异前提：样本来自正态分布的总体双侧检验：是否等于。单侧检验：已知不可能大于（或不可能小于），检验是否等于。b)比较2个独立样本均值：t-检验（参数检验）原假设：2个样本所代表的2个总体的均值无显著差异用于对2个来自正态

28、分布总体的样本的大小进行比较，且2个样本相互独立（无相关关系）。改检验有单侧和双侧之分。,5 重要的数理统计学常识,3)均值比较C)比较2个独立总体大小的非参数检验适用于对2个顺序变量的大小进行比较或对2个不服从正态分布的数值变量的大小进行比较“Mann-Whitney U”检验:适合样本量较大的样本。“Wilcoxon秩和”检验：与“Mann-Whitney U”检验在本质上完全等价。Kolmogorov单侧检验：适用于样本量较小的样本。,5 重要的数理统计学常识,3)均值比较d)比较多个来自正态分布总体的样本均值的检验方法：单因子方差分析（single-factor anova）。对于将因

29、子作为固定处理（而不是随机变量）的情形，即模型1单因子方差分析，实际上可以看作比较2个总体均值的t-检验的直接推广。该方法属于参数检验。有关假定：多个样本相互独立、样本均服从正态分布、方差同质性（各个样本的方差大小没有显著差异）等。原假设：各样本的均值间无显著差异，即某影响因子的不同取值（等级）对各样本的大小没有影响。,5 重要的数理统计学常识,3)均值比较d)比较多个来自非正态分布总体的样本均值的检验方法：Kruskal-Wallis检验：该方法基于顺序变量设计，用于检验3个以上独立样本是否来自大小相同的总体，是应用最广泛的非参数检验方法。推广的中位数检验：用于检验3个以上的独立样本是否来自

30、中位数无显著差异的样本。该方法检验功效低，不推荐采用。原假设：各独立样本所代表的总体的中位数无显著差异。Friedman秩方差分析：用于检验3个以上相关样本是否来自大小相同的总体。,案例1,2.4 Cd、Pb之间的交互作用如表4所示，三种花卉植物各部位对重金属Cd、Pb的积累量与培养溶液中所投加的Cd、Pb量之间，可以很恰当地被各多元回归方程表示出来，它们之间呈极显著相关关系（P0.01），并且各部位的Cd、Pb积累量与溶液中所投加的该种重金属浓度之间也呈极显著相关关系，各对应偏相关系数的差异性显著标准值P都小于0.01。对于凤仙花，其地上部积累Cd量与所投加的Pb量呈显著正相关，而根部却与所

31、投加的Pb量呈负相关，但这种作用是不显著的，因此可认为根部积累Cd量与所投加的Pb量无关，地上部和根部积累的Pb量与所投加的Cd量都呈负相关，只不过对于前者是极显著的，对于后者不显著，因此可认为，Pb对凤仙花地上部积累Cd有显著的促进作用，而Cd对凤仙花地上部积累Pb有极显著的抑制作用，两种情况下对于根部却都没有明显影响。对于金盏菊，其地上部和根部积累Cd量与所投加的Pb量呈负相关，但只对根部是显著的，而对于地上部Pb积累量与所投加的Cd量之间呈显著负相关，对于根部Pb积累量反而成显著正相关。总之，Pb对金盏菊根部积累Cd有抑制作用，而Cd对金盏菊地上部吸收Pb有抑制作用，对根部积累Pb有促进

32、作用。,案例1中隐含的相关性的判定标准,有相关性，但不显著（p0.05）;有相关性，显著（0.05p0.01）;有相关性，极显著（p0.01）.,案例2,3.3 BDE209与PBDEs的相关分析运用统计软件SPSS对各研究区域中BDE209与PBDEs进行相关分析.用K-S检验对变量（BDE209和PBDEs）进行正态分布检验发现，珠江（p0.200）、珠江口（p0.091）和澳门水域（p0.110）呈正态分布（=0.05）.因此对珠江、珠江口和澳门水域进行Pearson相关分析，对东江、西江和南海北部海域进行Kendall相关分析.从表2可以看出，除澳门水域外其它研究区域，BDE209与P

33、BDEs相关性不显著（r0.047）,这是由于BDE209与其它PBDEs同系物分别来自不同的溴代阻燃剂；但澳门水域沉积物中的BDE209与PBDEs相关性显著（r=0.955，p=0）（图5），表明澳门水域BDE209和其它其它PBDEs同系物具有相同的输入途径，正如上述，它们主要都是通过水体中颗粒物输入的，它们之间较高的相关性是PBDEs在水体颗粒物中再分配的结果，这也证实了澳门水域是珠三角水体环境中PBDEs的“汇”.,案例3,图2b表明，1/qN对1/D有很好的线性关系，相关系数R=0.9922（R2=0.9845）。,案例4,HA对有机农药甲基对硫磷、西维因、克百威的吸附等温线见图3

34、，用线性吸附方程拟合甲基对硫磷、西维因和克百威的吸附等温线，拟合结果见表3。线性吸附方程为：Q=KdCe+A（1）式中Q为吸附量（mg/kg）；Ce为平衡浓度（mg/l）；Kd为线性吸附平衡常数，A为线性方程待定常数。用HA总有机碳标化有机农药的吸附系数Kd得有机碳标化吸附系数Koc，有机农药在HA上的Koc值见表3。由图3、表3可知，甲基对硫磷、西维因和克百威在HA上的吸附等温线较好的符合线性吸附方程，相关系数在0.87480.9940之间，但是克百威的相关系数要小于甲基对硫磷和西维因；从整体上看有机农药在HA上的Kd大小顺序为：水解处理HA原始HA肟化处理HA氧化处理HA。,案例6,在下表

35、中，作者将回归方程的可决系数误称为“相关系数”。,案例7,早期的研究表明有机污染物通过分配作用吸附到土壤/沉积物有机质上，其吸附量与有机碳含量和有机污染物的辛醇-水分配系数成正比3。从甲基对硫磷、西维因和克百威分配系数Kd与改性HA有机碳含量的关系可知（见图4），Kd与HA的有机碳含量成正比，但相关性不高分别为：0.7429、0.8870和0.6900，这表明有机农药在HA上的吸附行为不是由HA的有机碳含量唯一确定，还受到其他因素的影响。图5为有机农药在处理前后HA上的有机碳标化吸附系数Koc对数（lgKoc）与三种有机农药辛醇-水分配系数Kow对数（lgKow）之间的关系曲线，lgKoc与l

36、gKow呈现较好的线性关系，相关系数分别为：0.8573、0.8367、0.8420和0.9408，可见用辛醇-水分配系数来预测有机污染物在土壤/沉积物上的吸附具有一定的合理性3。,案例8,图6 Kd与腐殖酸O元素含量和H/C比的相关性Fig 6 Correlation of Kd and O content and H/C rate of the humic acids,案例9,图4为取每天19：00的DO值与叶绿素值做的趋势图，通过分析它们数据得出它们的相关性为0.8899，在一定程度上能反映藻类的变化趋势。可以作为藻类增长趋势的预报指标。,案例10,作图得到一条直线见图6，二级动力学速率

37、方程可很好的描述Cu2、Cd2在生物膜上的吸附(RCu=0.9989，RCd0.9978)。,案例11,案例11（续）,由表1可知,05cm土壤层中,活动区土壤微生物生物量碳和缓冲区土壤微生物生物量碳分别比背景区土壤微生物生物量碳降低了65.96%和20.05%，而活动区土壤微生物生物量碳比缓冲区土壤微生物生物量碳降低了57.42%，并且3个试验区的差异均达到显著水平（P0.05）.515cm土壤层中,活动区土壤微生物生物量碳比缓冲区土壤微生物生物量碳降低了43.14%，而缓冲区土壤微生物生物量碳比背景区土壤微生物生物量碳降低了13.85%，3个试验区的差异也均达到显著水平（P0.05）.15

38、25cm土壤层中,活动区土壤微生物生物量碳比缓冲区土壤微生物生物量碳降低了18.58%，而缓冲区土壤微生物生物量碳只比背景区土壤微生物生物量碳降低了11.06%，但3个试验区的差异均达到显著水平（P0.05）.,案例11（续）,由表2可知，在05cm土壤层和515cm土壤层,旅游踩踏对土壤微生物生物量氮的影响与对土壤微生物生物量碳的影响是相似的.但在1525cm土壤层，活动区土壤微生物生物量氮比背景区土壤微生物生物量氮低，并且达到显著水平（P0.05）.,案例12,2.10 相关性分析所有相关数据分析，通过SPSS10.0软件分析完成,采用t测验法检验相关系数的显著性。,案例12（续）,表2：

39、喷洒菌株与TSNA与硝酸盐、亚硝酸盐的相关性及显著性分析Table2:The correlation and significant analysis of spraying WB5 with nitrate,nitrite,注:*极显著*显著,案例12（续）,从表2可知，晾制期间烟叶中WB5的菌量与硝酸盐含量几乎没有相关性，而与亚硝酸盐、NNN和总TSNA都存在着显著的负相关性，与NAT+NAB存在极显著的负相关性，而与NNK的负相关性则不显著。结果表明，喷洒WB5菌株可以明显降低烟叶中的TSNA含量，对烟草的安全性来说，最主要是降低用于卷烟烟叶中的有害物质，因此，该菌株对提高烟草安全性有积

40、极的意义。,案例12（续）,从表3可知，亚硝酸盐与硝酸盐存在一定的相关性，相关系数为0.4875，但不显著。而各种TSNA及其总量与亚硝酸盐都存在着显著的相关性，尤其是与NNN、NAT+NAB和TSNA之间有极显著的相关性。TSNA总量与NNN、NAT+NAB和NNK都具有极显著相关性，但与NNK的相关性稍低。而NNK与NNN、NAT+NAB也存在着显著的相关性，NNN与NAT+NAB之间的相关性极为显著。,案例13,案例14,案例15,案例16,案例：稿件20061113002初稿,2.1 苦草现存量增加百分比的变化由图1可知，在Hg2+、Cd2+和Hg2+Cd2+三种胁迫下，苦草的现存量增

41、加百分比均随着金属离子浓度的增加而下降，其中在Hg2+或Hg2+Cd2+5 mol/L时急剧下降，即快速致死，而在Cd2+胁迫下，现存量增加百分比随胁迫程度的增加呈逐步下降趋势，说明Hg2+和Hg2+Cd2+复合对苦草的毒性远大于Cd2+。经相关分析，苦草现存量增加百分比与金属离子浓度间显著负相关，其决定系数R2分别为0.893，0.87，0.886，P0.05。,稿件20061113002初稿（续）,2.2 对苦草光合与呼吸作用的影响苦草的Pg、Pn、R是随着金属离子浓度的增加而下降（图2）。Pg、Pn与金属离子浓度间在Cd2+、以及Hg2+Cd2+复合胁迫时呈明显负相关，其决定系数R2的范

42、围是0.7440.876（P0.05）。R与金属离子浓度间只有复合胁迫时明显负相关，其决定系数R2=0.726（P0.05）。,2.3 对苦草叶绿素含量的影响3种处理均导致叶绿素含量随着时间的延长和金属离子浓度的增加而降低，但略有波动（图3）。在低浓度胁迫时（2.5 mol/L，下同）叶绿素含量升高（Hg2+处理72h时降低），之后较明显地降低；叶绿素含量与金属离子的浓度除Hg2+、Cd2+单一胁迫6h时外，其他明显负相关；其决定系数R2的范围是0.6690.850（P0.05）。,2.4对苦草可溶性蛋白浓度的影响总体上看，3种处理均导致苦草可溶性蛋白含量随着时间的延长和金属离子浓度的增加而明

43、显降低，但略有波动（图4）。在单一Hg2+和复合处理时，可溶性蛋白含量在低浓度胁迫时，基本保持稳定或略有升高，之后，除单一Hg2+处理6h时蛋白质含量随金属离子浓度增加而缓慢下降外，其他均随着时间的延长和金属离子浓度的增加而较大幅度下降；在单一Cd2+处理时，可溶性蛋白含量在10 mol/L浓度时稳定或升高，之后相对较缓慢地降低。经回归分析，蛋白质含量与金属离子的浓度在Hg2+胁迫24h、Cd2+胁迫72h、以及复合胁迫24h和72h时呈明显负相关；其决定系数R2的范围是0.6840.763（P0.05）。,2.5对苦草POD活性的影响由图5可知，在Hg2+和Hg2+Cd2+复合胁迫时，6h时

44、POD活性稳定或随金属离子浓度的增加而缓慢上升，24h时先明显升高，在Hg2+=10 mol/L、Hg2+Cd2+=20 mol/L时达最高，之后下降，72h时金属离子浓度在5 mol/L前明显上升，之后下降至最低。两者间的变化趋势相似，即随着胁迫浓度和时间的增加，POD的活性逐步增大，超过一定限度后，开始降低。而在Cd2+单一胁迫下，POD活性除在最高浓度和最长时间胁迫（即最大胁迫）下略有降低外，均随胁迫强度的增加而增加。经相关分析，在Hg2+胁迫72h时，POD活性与金属离子浓度间显著负相关（决定系数R20.773，P0.05），在Cd2+胁迫6和24h，Hg2+Cd2+复合胁迫6h时，P

45、OD活性与金属离子浓度间显著正相关，决定系数R2分别为0.989，0.994（P0.01）和0.774（P0.05）。,2.6对苦草SOD活性的影响由图6可知，SOD活性与POD活性的变化趋势基本一致，但在40 mol/L 的Hg2+和Hg2+Cd2+复合胁迫6h时，SOD活性是降低的。经相关分析，在Cd2+胁迫6和24h时，SOD活性与金属离子浓度间显著正相关（决定系数R2分别为0.899，0.86，P0.01）。,预审修改意见,稿件编号：20061113002初审结果：修改后送审修改意见：5）第2.1节“经相关分析，现存量增加百分比与金属离子浓度间显著负相关，其决定系数R2（2是上角标）分

46、别为0.893，0.87，0.886，P0.05。”这段文字存在常识性错误。相关分析计算的是“相关系数”（其符号是r）而不是“决定系数”（符号是R2（2是上角标），决定系数是回归分析中应计算的统计参数。作者进行的是相关分析还是回归分析？此外，按照数理统计常识，关于相关系数，有Pearson 相关系数，还有Spearman或Kendall秩相关系数。如果没有特别指出，r就是Pearson 相关系数。但是，Pearson 相关系数仅在样本数据的分布服从正态分布时才有意义。如果样本数据不服从正态分布，则必须计算Spearman或Kendall秩相关系数。请作者确认，你计算的是否为Pearson 相关

47、系数？如果是，则请报告正态分布检验结果，以证明计算此相关系数是妥当的。按照本刊规定，还需要作者报告相关分析时使用的统计软件（如SPSS，SAS）。第2.2节至2.6也存在此类问题。关于数理统计问题，欢迎作者登陆本刊网站查阅最新的公告。,修改结果,2.2 测试指标与方法 实验结果为三次平均值。用Spss11.5软件进行相关分析，采用Kendall相关系数。,修改结果（续）,3 结果（Results）3.1 苦草现存量增加百分比的变化由图1可知，在Hg2+、Cd2+和Hg2+Cd2+三种胁迫下，苦草的现存量增加百分比均随着金属离子浓度的增加而下降，其中在Hg2+或Hg2+Cd2+5 molL1时急

48、剧下降，即快速致死，而在Cd2+胁迫下，现存量增加百分比随胁迫程度的增加呈逐步下降趋势，说明Hg2+和Hg2+Cd2+复合对苦草的毒性远大于Cd2+。经相关分析，现存量增加百分比与金属离子浓度间极显著负相关，其相关系数r分别为0.933，0.945，0.941（为显著，为极显著，下同）。,修改结果（续）,3.2 对苦草光合与呼吸作用的影响苦草的Pg、Pn、R是随着金属离子浓度的增加而下降（图2）。三者与金属离子浓度间显著或极显著负相关，其相关系数r的范围是0.6000.966。3.3 对苦草叶绿素含量的影响3种处理均导致叶绿素含量随着时间的延长和金属离子浓度的增加而降低，但略有波动（图3）。在

49、低浓度胁迫时（2.5 molL1，下同）叶绿素含量升高（Hg2+处理72h时降低），之后较明显地降低；叶绿素含量与金属离子的浓度除Hg2+胁迫6、24h和Cd2+胁迫6h外，其他显著或极显著负相关；其相关系数r的范围是0.690969。,修改结果（续）,3.4对苦草可溶性蛋白浓度的影响总体上看，3种处理均导致苦草可溶性蛋白含量随着时间的延长和金属离子浓度的增加而明显降低，但略有波动（图4）。在单一Hg2+和复合处理时，可溶性蛋白含量在低浓度胁迫时，基本保持稳定或略有升高，之后，除单一Hg2+处理6h时蛋白质含量随金属离子浓度增加而缓慢下降外，其他均随着时间的延长和金属离子浓度的增加而较大幅度下

50、降；在单一Cd2+处理时，可溶性蛋白含量在10 molL1浓度时稳定或升高，之后相对较缓慢地降低。经相关分析，蛋白质含量与金属离子的浓度在Hg2+胁迫24、72h，复合胁迫6、24和72h时极显著负相关，相关系数r的范围是0.8670.969；Cd2+胁迫72h时显著负相关，r0.600。,修改结果（续）,3.5对苦草POD活性的影响由图5可知，在Hg2+和Hg2+Cd2+复合胁迫时，6h时POD活性稳定或随金属离子浓度的增加而缓慢上升，24h时先明显升高，在Hg2+=10 molL1、Hg2+Cd2+=20 molL1时达最高，之后下降，72h时金属离子浓度在5 molL1前明显上升，之后下