有效数字及其运算规则.ppt

《有效数字及其运算规则.ppt》由会员分享，可在线阅读，更多相关《有效数字及其运算规则.ppt（10页珍藏版）》请在三一办公上搜索。

1、2.4 有效数字及其运算规则,2.4.1 有效数字 数据位数反映测量的精确程度的数字称为有效数字。,（分析工作中实际上能测量到的数字）,例如：读取滴定管上的体积，甲得到23.43mL；乙得到23.42mL；丙得到23.44mL，误差：E=0.01mL 以上读数中前三位是一致的，因它是由具体刻度读出的，是准确的。最后一位不一致，因是估计出来的。人眼的分辨能力不同，故估读数有小的差别。该数称为估计数据，也叫可疑数字。但它并不是臆造出来的，读数时应加以保留。,估计值（可疑值）,1.实验过程中遇到的两类数字（1）非测量值 如测定次数；倍数；系数；分数；常数()有效数字位数可看作无限多位。（2）测量值或

2、计算值 实际测量得到的数字和按照一定计量关系计算得到的数字（3）可疑数字：有效数字的最后一位数字，通常为估计值，不够准确，故称为可疑值。,2.有关有效数字的讨论,（1）正确记录实验数据 用分析天平与用托盘天平称取试样的不同。（2）实验记录的数字不仅表示数量的大小，而且要正确地反映测量的精确程度。（3）一般有效数字的最后一位数字有1个单位的误差。结果 绝对偏差 相对偏差 有效数字位数0.51800 0.00001 0.002%50.5180 0.0001 0.02%40.518 0.001 0.2%3,（4）数据中零的作用,数字零在数据中具有双重作用：a.作普通数字用，如 0.5180；5.18

3、0 101 4位有效数字 b.作定位用，如 0.0518；5.18 102 3位有效数字,（5）注意点 a.容量器皿:滴定管,移液管,容量瓶；4位有效数字 b.分析天平（万分之一）取4位有效数字 c.标准溶液的浓度，用4位有效数字表示:0.1000 mol/L d.pH=4.34，小数点后的数字位数为有效数字位数；对数值，lgX=2.38；lg(2.4 102),（6）运算数字中首位数字8，有效数字可多记一位。,2.4.2 修约规则,1.为什么要进行修约？数字位数能正确表达实验的准确度，舍去多余的数字。2.修约规则：“四舍六入五留双”（1）当多余尾数4时舍去尾数，6时进位。（2）尾数正好是5时

4、分两种情况：a.若5后数字不为0，一律进位，0.1067534 b.5后无数或为0，采用5前是奇数则将5进位，5前是偶数则把5舍弃，简称“奇进偶舍”。0.43715;0.43725 数据修约规则可参阅GB8170-87。,3.示例与讨论,（1）示例：保留四位有效数字，修约：14.2442 14.24 26.4863 26.49 15.0250 15.02 15.0150 15.02 15.0251 15.03（2）一次修约到位，不能连续多次的修约 如 2.3457修约到两位，应为2.3，如连续修约则为 2.3457 2.346 2.35 2.4 不对。,2.4.3 运算规则,1.加减法运算 结

5、果的位数取决于绝对误差最大的数据的位数 例：0.0121 绝对误差：0.0001 25.64 0.01 1.057 0.001,26.7091,2.乘除法运算,有效数字的位数取决于相对误差最大的数据的位数。例：(0.0325 5.103 60.0)/139.8=0.071179184=0.0712 0.0325 0.0001/0.0325 100%=0.3%5.103 0.001/5.103 100%=0.02%60.06 0.01/60.06 100%=0.02%139.8 0.1/139.8 100%=0.07%先修约再运算？先运算再修约？结果数值有时不一样。将参与运算的各数的有效数字位数修约到比该数应有的有效数字位数多一位(多取的数字称为安全数字)，再进行运算。,