数值修约规则与极限数值的表示.ppt

《数值修约规则与极限数值的表示.ppt》由会员分享，可在线阅读，更多相关《数值修约规则与极限数值的表示.ppt（43页珍藏版）》请在三一办公上搜索。

1、,几个问题,1、误差与偏差、绝对误差与相对误差、精密度与准确度分别有何区别？2、用万分之一天平称取物品的质量为0.0236g，该测量结果的有效数字位数为多少？准确的数字是那些？3、计算12.365+5.1+8.73.4525=？（结果不参与后续运算）4、在钢材物理性能拉伸试验中，测得的断后伸长为74.37mm，则该断后伸长的报出值为？,主要内容,一、误差理论的相关概念；二、有效数字的概念及运算规则；三、数值修约的规则及技巧；四、极限数值的表示与判定；,一、误差理论的相关概念,1、测量误差的定义：,客观真实值（未知）,测量误差=测得值-真值,-测量所得数据与其相应的真值之差,1）误差（绝对误差）

2、,x=x x0,2）相对误差,-测量的绝对误差与被测量的真值之比,绝对误差很小,表示：百分数（%）-分子分母量纲相同,例：质量G1=50g，误差1=2g；质量G2=2kg，误差2=50g,-G2的测量效果较好,确切反映测量效果：被测量的大小不同-允许的测量误差不同,被测量的量值小-允许的测量绝对误差也越小,1、测量误差的定义：,2、误差的分类：,按误差来源：装置误差、环境误差、方法误差、人员误差,系统误差（System error）,由特定原因引起、具有一定因果关系并按确定规律产生,按掌握程度：已知误差、未知误差,按特性规律：系统误差、随机误差、粗大误差,-有规律可循,理论分析/实验验证-原因

3、和规律-减少/消除,随机误差（Random error）,因许多不确定性因素而随机发生,偶然性（不明确、无规律）,概率和统计性处理（无法消除/修正）,粗大误差（Abnormal error）,检测系统各组成环节发生异常和故障等引起,按变化速度：静态误差、动态误差,3、精密度与准确度的区别与联系：,1）精密度,指多次重复测定同一量时各测定值之间彼此相符合的程度,精密度是指量具能区分出微量的程度，亦即量具能区分之最小距离，此精密度在量具制造时已决定。,精密度是表示测量的再现性，是保证准确度的先决条件，但是高的精密度不一定能保证高的准确度。,表征测定过程中随机误差的大小。,好的精密度是保证获得良好准

4、确度的先决条件，一般说来，测量精密度不好，就不可能有良好的准确度。反之，测量精密度好，准确度不一定好，这种情况表明测定中随机误差小，但系统误差较大。,3、精密度与准确度的区别与联系：,2）准确度,指在一定实验条件下多次测定的平均值与真值相符合的程度，以误差来表示。它用来表示系统误差的大小。,测量仪器的准确度指测量仪器给出接近于真值的响应能力。准确度只是一个定性概念而无定量表达。测量误差的绝对值大，其准确度低。,3）二者联系 任何测量都要求精确。精确性是评价观测成果优劣的准确度与精密度的总称。准确度是指在对某一个量的多次观测中，观测值对该量真值的偏离程度，观测值偏离真值愈小，则准确度愈高。精密度

5、简称精度，指在某一个量的多次观测中，各观测值之间的离散程度，若观测值非常集中则精度高；反之则低。一个观测列可能精度高而准确度低，也可能精度低而准确度高。,3、精密度与准确度的区别与联系：,4、偏差：,一个值减去其参考值，成为偏差。,这里的一个值是指测量得到的值，参考值是指设定值、应有值或标称值。,偏差=实际值标称值,尺寸偏差=实际尺寸应有参考尺寸,加工一个准确值为1kg的砝码，实际加工的为1.002kg，此时偏差为+0.002kg；如果砝码按1kg使用，则有-0.002kg的示值误差。,偏差与误差等值相反。,解决偏差问题，需要对砝码进行修正，修正值为+0.002kg，修正值对测量值而言，而偏差

6、是对标称值而言。,二、有效数字的概念及运算规律,1、有效数字：,把准确数字加上最后一位有实际意义的估计数字总称为有效数字。,2、有效位数：,测量结果用且只用它的有效数字表示，有效数字的个数叫作有效位数。,3、仪器读数规则,(1)刻度式仪表，在最小分度值后要估读一位(2)数字显示仪表，直接读取仪表的示值。(3)游标类量具，读到游标分度值的整数倍。,刻度式仪表,5.737mm,5.5000.237,数显仪表及有十进步式标度盘的仪表,游标类量具,49.000.8249.82mm,在科学实验中，为了得到准确的测量结果，不仅要准确地测定各种数据，而是还要正确地记录和计算。分析结果的数值不仅表示试样中被测

7、成分含量的多少，而且还反映了测定的准确程度。所以，记录实验数据和计算结果应保留几位数字是一件很重要的事，不能随便增加或减少位数。例如用重量法测定胶中TVOC含量时，若称取试样重为0.2187克，经过一系列处理后，得到固体重0.2132克，则其百分含量为：TVOC%=(0.0055/0.2187)100%2.1514860539%,上述分析结果共有11位数字，从运算来讲，并无错误，但实际上用这样多位数的数字来表示上述分析结果是错误的，它没有反映客观事实，因为所用的分析方法和测量仪器不可能准确到这种程度。那么在分析实验中记录和计算时，究竟要准确到什么程度，才符合客观事实呢？这就必须了解“有效数字”

8、的意义。,有效数字是指在分析工作中实际上能测量到的数字。记录数据和计算结果时究竟应该保留几位数字，须根据测定方法和使用仪器的准确程度来决定。在记录数据和计算结果时，所保留的有效数字中，只有最后一位是可疑的数字。,1、有效数字的意义及位数,例如：坩埚重18.5734克 六位有效数字 标准溶液体积24.41毫升 四位有效数字 由于万分之一的分析天平能称准至0.0001克，滴定管的读数能读准至0.01毫升，故上述坩埚重应是18.57340.0001克，标准溶液的体积应是24.410.01毫升，因此这些数值的最后一位都是可疑的，这一位数字称为“不定数字”。在分析工作中应当使测定的数值，只有最后一位是可

9、疑的。,1、有效数字的意义及位数,有效数字的位数，直接与测定的相对误差有关。例如称得某物重为0.5180克，它表示该物实际重量是0.51800.0001克，其相对误差为：(0.0001/0.5180)100%0.02%,1、有效数字的意义及位数,如果少取一位有效数字，则表示该物实际重量是0.5180.001克，其相对误差为：(0.001/0.518)100%0.2%,1、有效数字的意义及位数,表明测量的准确度后者比前者低10倍。所以在测量准确度的范围内，有效数字位数越多，测量也越准确。但超过测量准确度的范围，过多的位数是毫无意义的。必须指出，如果数据中有“0”时，应分析具体情况，然后才能肯定哪

10、些数据中的“0”是有效数字，哪些数据中的“0”不是有效数字。,1、有效数字的意义及位数,例如:1.0005 五位有效数字 0.5000；31.05%；6.023102 四位有效数字 0.0540；1.8610-5 三位有效数字 0.0054；0.40%两位有效数字 0.5；0.002%一位有效数字 在1.0005克中的三个“0”，0.5000克中的后三个“0”，都是有效数字；在0.0054克中的“0”只起定位作用，不是有效数；在0.0540克中，前面的“0”起定位作用，最后一位“0”是有效数字。同样，这些数值的最后一位数字，都是不定数字。,1、有效数字的意义及位数,因此，在记录测量数据和计算结

11、果时，应根据所使用的仪器的准确度，必须使所保留的有效数字中，只有最后一位数是“不定数字”。例如，用感量为百分之一克的台秤称物体的重量，由于仪器本身能准确称到0.0l克，所以物体的重量如果是10.4克，就应写成10.40克，不能写成10.4克。分析化学中还经常遇到pH、lgK等对数值，其有效数字的位数仅取决于小数部分数字的位数，因整数部分只说明该数的方次。例如，pH12.68，即H+2.1l0-13mol/L，其有效数字为两位，而不是四位。,2、有效数字的运算规则 加减法,例如0.0121+25.64+1.05782=?5.2727+0.075+3.7+2.12=?,2、有效数字的运算规则 加减

12、法,当几个数据相加或相减时、它们的和或差的有效数字的保留，应以小数点后位数最少，即绝对误差最大的数据为依据。,因此，0.0121应写成0.01；1.05782应写成1.06；三者之和为：0.01+25.64+1.0626.71 在大量数据的运算中。为使误差不迅速积累，对参加运算的所有数据，可以多保留一位可疑数字(多保留的这一位数字叫“安全数字”)。如计算5.2727、0.075、3.7及2.12的总和时，根据上述规则，只应保留一位小数。但在运算中可以多保留一位，故5.2727应写成5.27；0.075应写成0.08；2.12应写成2.12。因此其和为：5.27+0.08+3.7+2.1211.

13、17然后、再根据修约规则把11.17整化成11.2。,3、有效数字的运算规则 乘除法,求0.012125.641.05782=?0.345117.92.0786=?,3、有效数字的运算规则 乘除法,几个数据相乘除时，积或商的有效数字的保留，应以其中相对误差最大的那个数，即有效数字位数最少的那个数为依据。,3、有效数字的运算规则 乘除法,设此三数的最后一位数字为可疑数字，且最后一位数字都有1的绝对误差，则它们的相对误差分别为：0.0121：1/12110008 25.64：1/256410000.4 1.05782：1/10578210000.009 第一个数是三位有效数字，其相对误差最大，以此

14、数据为依据，确定其他数据的位数，即按规则将各数都保留三位有效数字然后相乘：0.012125.61.06=0.328 若是多保留一位可疑数字时，则 0.012125.641.058=0.3282 然后再按“四舍六入五留双”规则，将0.3282，改写成0.328。,4、有效数字的运算规则 乘方、开方运算,例如,6.54=?,进行数值乘方或开方时,结果有效数字位数不变。6.54=42.8,2,2,5、几点注意,1、计算公式中的常数如、等都是正确数，在运算中可以根据需要截取其有效位数,2、首位数字为8、9的数字，其有效数字可比实际的位数多一位，如8749可认为其为5为有效数字，923可认为其为4位有效

15、数字,3、为减少数字的舍入误差，对参与运算的各有效数字进行修约时，可比实际需要多保留一位,0.038659.41.327=？若是多保留一位可疑数字时，则 0.038659.41.327=,三、数值修约的规则及技巧,1、数值修约规则,（1）四舍六入五凑双 具体的做法是，1、拟舍弃数字最左一位数字4时将其舍去；2、拟舍弃数字最左一位数字6时就进一位；3、如果拟舍弃数字最左一位数字为5而后面的数为0时，如所保留的数字的末位数字为奇数则进一，如所保留的数字的末位数字为偶数则舍去；4、当“5”后面还有不是0的任何数时，都须向前进一位，无论前方是奇还是偶数，“0”则以偶数论。,1、数值修约规则,0.536

16、640.5366 0.583460.5835 10.275010.28 16.405016.40 27.185027.18 18.0650118.07（2）修约间隔 0.2、0.50.5单位修约，将拟修约数值乘以2后正常修约，得到的数再除以2。例：修约到个数位的0.5单位：60.25、60.38、60.75 60 60.5 61,1、数值修约规则,0.2单位修约，将拟修约数值乘以5后正常修约，得到的数再除以5。例：修约到百位数的0.2单位830、842、930 840 840 920（3）不可连续修约必须注意：进行数字修约时只能一次修约到指定的位数，不能数次修约，否则会得错误的结果。如：97.

17、46修约到1为97,1、数值修约规则,(4)、特殊数值的表示 报出的数值最右的非零数字为5时，应在数值右上角加“+”或“-”或不加符号，以分别表明已进行过舍，进或未舍未进。例：实测值 报出值 修约值-15.4546-15.5-15 16.5203 16.5 17,-,+,2、数值修约方法总结,（1）如果为修约间隔整数倍的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。例：将1.150001按0.1间隔进行修约。1210 例：将1.0151修约至十分位的0.2个单位。5.075 5.1 1.02 例：将1.2505按“5”间隔修约至十分位。（2）如果在修约间隔整数倍的一系列数中，有连续的

18、两个数同等地接近拟修约数，只有为修约间隔偶数倍的那个数才是修约数。例：将1150按100修约间隔修约。1200 例：将1.500按0.2修约间隔修约 到个数位 7.500 8.000 1.6 例：将1.025按“5”间隔修约到三位有效数字。,四、极限数值的表示和判定,1、极限数值的表示,带有极限偏差值的数值的表示,表示的含义：从79mm到82mm符合要求,2、极限数值的判定规则,1、全数值比较法：将检验所得的测定值或其计算值不经修约处理（或可做修约处理，但应表明它是经舍、进或未舍未进而得）而用数值的全部数字与标准规定的极限数值作比较，只要越出规定的极限数值，（不论越出大小），都判定为不符合标准要求。标准中各种极限数值（包括带有极限偏差值的数值）未加说明时，均指采用全数值比较法；如规定采用修约值比较法，应在标准中加以说明,2、极限数值的判定规则,2、修约值比较法：将修约后的数值与标准规定的极限数值进行比较，以判定实际指标或参数是否符合标准要求。将测定值或计算值进行修约，修约位数与标准规定的极限数值书写位数一致。,标准差,