有效数字和数值的修约运算及极限数值判定课件.ppt
《有效数字和数值的修约运算及极限数值判定课件.ppt》由会员分享,可在线阅读,更多相关《有效数字和数值的修约运算及极限数值判定课件.ppt(48页珍藏版)》请在三一办公上搜索。
1、有效数字和数值的修约运算及极限数值判定,部门:质量管理部姓名: 刘贵平日期: 2016.02,习题,请判断有效数位35103 盐酸氨溴索口服溶液规格100毫升0.6克称定12g,应选用精度为多少的天平,称量范围多少?RSD=1.42%,规定应2.0%,修约完是多少?,解决两问题,有效数位判断、数值结果修约、 运算及判定当标准提出“称g”时,应选用什么精度的天平,称样量是否符合规定(称量范围),有效位数的判断数值修约规则运算规则极限数值的判定注意事项,基本概念,有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字
2、。最后一位数字的欠准程度通常只能是上下差1单位。有效数字的定位(数位),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),;n也可以是负数,如n=-1、10-1=0.1(十分位),n=-2、 10-2=0.01(百分位),。,基本概念,在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。 例:35000中若有两个无效零,则为三位有效位数,应写作350102或3.50104;
3、若有三个无效零,则为两位有效位数,应写作35103或3.5104 。在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。 例:3.2、0.32、0.032和0.0032均为两位有效位数 0.320为三位有效位数 10.00为四位有效位数 12.490为五位有效位数,有效位数可视为无限多位的几种情况:一、非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位。例如分子式“H2SO4”中的“2”和“4”是个数。二、常数,e和系数2等数值。 三、含量测定项下“每lml的滴定液(0.1molL)” 中的“0.1”为名义浓度。四、规格项下的“0.3g”或“1ml25
4、mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位。 在计算中,其有效位数应根据其他数值的最少有效位数而定。,H值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。pH= -lg浓度值 pH= 11.26(H+=5.51012molL)。其有效位数只有两位。,有效数字的首位数字为8或9时,其有效位数可以多计一位。例:85 三位有效位数 115% 三位有效位数 99.0% 四位有效数字 101.0% 四位有效数字,基本定义,一、数值修约:通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。 经数值修约后的
5、数值称为(原数值的)修约值。二、修约间隔:指修约值的最小数值单位。 修约间隔的数值一经确定,修约值即为该数值 的整数倍 。例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。,确定修约间隔一、指定修约间隔为10n(n为正整数),或指明将数值修约到n位小数。 二、指定修约间隔为1,或指明将数值修约到“个”数位。三、指定修约间隔为10n (n为正整数),或指明将数值修约到10n数位,或指明将数值修约到十”、“百”、“千”数位。四、在相对标准偏差(RSD)的求算中,其有效
6、数位应为其1/3值的首位(非零数字),故通常为百分位或千分位。,进舍规则1、拟舍弃数字的最左一位数字小于5,则舍去,保 留其余各位数字不变。2、拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。3、拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。4、拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。,口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。,习题,
7、12.1498修约到一位小数 12.112.1498修约成两位有效位数 12将1268修约到百数位 13102,习题,将1268修约到三位有效位数 12710 将10.502修约到个数位 11 1.050修约间隔为0.1(或101) 1.0,习题,按照修约间隔为1000(或103) 2500 2103 3500 4103,习题,修约成两位有效位数 0.0325 0.032 32500 32103,RSD修约 只进不舍(只要后面有任何数值都往前进1位,除了0) 0.163% 修约成2位有效数位 0.17% 0.52% 修约成十分位 0.6%,不允许连续修约 拟修约数字应在确定修约间隔或指定修约数
8、位后一次修约获得结果,而不得多次连续修约。 例1:修约97.46,修约间隔为l 正确的做法:97.4697 不正确的做法:97.4697.598 例2:修约15.4546,修约间隔为l 正确的做法:15.454615 不正确的做法:15.454615.45515.4615.516,报出数值最右的非零数字为5时,应在数值右上角加“”或加“”或不加符号,分别表明已进行过舍,进或未舍未进。如:16.50表示实际值大于16.50,经修约舍弃为16.50;16.50表示实际值小于16.50,经修约进一为16.50。,如对报出值需进行修约,当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时,数值右上角



- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 有效 数字 数值 运算 极限 判定 课件

链接地址:https://www.31ppt.com/p-1520968.html