极限数值表示与数值修约规则.ppt

《极限数值表示与数值修约规则.ppt》由会员分享，可在线阅读，更多相关《极限数值表示与数值修约规则.ppt（43页珍藏版）》请在三一办公上搜索。

1、2023/6/1,1,数值修约规则与极限数值的表示和判定,GB/T 81702008,2,2023/6/1,1 范围适用于科学技术与生产活动中试验测定和计算得出的各种数值。当所得数值需要修约时，应按本标准给出的规则进行。适用于各种标准或其他技术规范的编写和对测试结果的判定。,3,2023/6/1,2 术语和定义2.1数值修约 rounding off for numerical values 通过省略原数值的最后若干数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。注：经数值修约后的数值称为（原数值的）修约值。,4,2023/6/1,2.2 修约间隔 rounding inter

2、val 修约值的最小数值单位。注:修约间隔的数值一经确定，修约值即应为该数值的整数倍。例l：如指定修约间隔为0.l，修约值应在0.1的整数倍中选取，相当于将数值修约到一位小数。例2：如指定修约间隔为100，修约值应在100的整数倍中选取，相当于将数值修约到“百”数位。,5,2023/6/1,3 数值修约规则3.1 确定修约间隔指定修约间隔为10-n（n为正整数），或指明将数值修约到n位小数；指定修约间隔为1，或指明将数值修约到“1”数位；指定修约间隔为10n（n为正整数），或指明将数值修约到10n数位，或指明将数值修约到“十”、“百”、“千”数位。,6,2023/6/1,3.2 进舍规则,四舍

3、六入五考虑,五后非零则进一,五后皆零视奇偶,五前为偶应舍去,五前为奇则进一,不论数字多少位,都要一次修约成,7,2023/6/1,进舍规则,3.2.1 拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变。例：将12.1498修约到个数位，得12；将12.1 498修约到一位小数，得12.1。,8,2023/6/1,3.2.2 拟舍弃数字的最左一位数字大于5；则进一，即保留数字的末位数字加1。例：将1 268修约到“百”数位，得13102（特定时可写为1 300）。注:本标准示例中,“特定场合”系指修约间隔明确时。,9,2023/6/1,3.2.3 拟舍弃数字的最后一位数字是5，且其后

4、有非0数字时进一，即保留数字的末位数字加1.例：将10.500 2修约到个数位，得11。,10,2023/6/1,3.2.4 拟舍弃数字的最左一位数字为5，且其后无数字或皆为0时，若所保留的末位数字为奇数(1,3,5,7,9）则进一，即保留数字的末位数字加1；若所保留的末位数字为偶数（2，4，6，8，0）则舍去。例l：修约间隔为0.1（或10-1)拟修约数值 修约值 1.050 1010-1（特定场合可写成为1.0）0.350 410-1（特定场合可写成为0.4）例2：修约间隔为1000（或103)拟修约数值 修约值 2500 2103（特定场合可写为2000)3500 4103（特定场合可写

5、为4000),11,2023/6/1,3.2.5 负数修约时，先将它的绝对值按规定进行修约，然后在修约值前面加上负号。例l：将下列数字修约到“十”数位：拟修约数值 修约值-355-3610（特定时可写为-360)-325-3210（特定时可写为-320)例2：将下列数字修约到三位小数,即修约间隔为10-3拟修约数值 修约值-0.0365-3610-3（特定时可写为-0.036),12,2023/6/1,3.3 不允许连续修约3.3.1 拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得多次按3.2规则连续修约。例1：修约97.46，修约间隔为1。正确的做法：97.4697;不正确

6、的做法：97.4697.598。例2：修约15.4546，修约间隔为1。正确的做法：15.454615；不正确的做法：15.454615.45515.4615.516。,13,2023/6/1,3.3.2 在具体实施中，有时测试与计算部门先将获得数值按指定的修约数位多一位或几位报出，而后由其他部门判定。为避免产生连续修约的错误，应按下述步骤进行。,14,2023/6/1,3.3.2.1 报出数值最右的非零数字为5时，应在数值右上角加“+”或“-”或不加符号，分别表明已进行过舍，进或未舍未进。例：16.50（+）表示实际值大于16.50，经修约舍弃成为16.50；16.50（-）表示实际值小于1

7、6.50，经修约进一成为16.50。,15,2023/6/1,3.3.2.2 如对报出值需要进行修约，当拟舍弃数字的最左一位数字为5,且其后无数字或皆为零时，数值右上角有“+”者进一，有“-”者舍去，其他仍按第3.2的规则进行。,16,2023/6/1,例：将下列数字修约到个数位（报出值多留一位至一位小数）。实测值 报出值 修约值 15.4546 15.5-15 16.5203 16.5+17 17.5000 17.5 18-15.4546-15.5-15-16.5203-16.5+-17,17,2023/6/1,3.4 0.5单位修约与0.2单位修约在对数值进标行修约时,若有必要,也可采用0

8、.5单位修约或0.2单位修约.,18,2023/6/1,3.4.1 0.5单位修约(半个单位修约)0.5单位修约是指定修约间隔对拟修约的数值0.5单位进行的修约.0.5单位修约方法如下:将拟修约数值X乘以2,按指定修约间隔对2X依3.2的规定修约,所得数值（2X修约值）再除以2.,19,2023/6/1,例：将下列数字修约到“个”数位的0.5单位修约。拟修约数值X X2 2X修约值 X修约值60.25 120.50 120 60.060.38 120.76 121 60.5-60.75-121.50-122-61.060.28 120.56 121 60.5,20,2023/6/1,3.4.2

9、 0.2单位修约0.2单位修约是指按指定修约间隔对拟修约的数值，0.2单位进行的修约。0.2单位修约方法如下：将拟修约数值X乘以5，按指定修约间隔对5X依第3章规则修约，所得数值（5X修约值）再除以5。,21,2023/6/1,例：将下列数字修约到“百”数位的0.2单位修约。拟修约数值X 5X 5X修约值 X修约值 830 4150 4200 840 842 4210 4200 840-930-4650-4600-920 832 4160 4200 840,22,2023/6/1,补充：近似数运算加、减运算 如果参与运算的数不超过10个，运算时以各数中末位的数量级最大的数为准，其余的数均比它多

10、保留一位，多余位数应舍去。计算结果的末位的数量级，应与参与运算的数中末位的数量级最大的那个数相同。若计算结果尚需参与下一步运算，则可多保留一位。例如：18.3+1.4546+0.87618.3+1.45+0.88=20.63 20.6计算结果为20.6。若尚需参与下一步运算，则取20.63。,23,2023/6/1,乘、除（或乘方、开方）运算 在进行数的乘除运算时，以有效数字位数最少的那个数为准，其余的数的有效数字均比它多保留一位。运算结果（积或商）的有效数字位数，应与参与运算的数中有效数字位数最少的那个数相同。若其计算结果尚需参与下一步运算，则有效数字可多取一位。例如：1.10.32680.

11、103001.10.3270.103=0.03700.037计算结果为0.037。若需参与下一步运算，则取0.0370。乘方、开方运算类同。,24,2023/6/1,综合运算例：2.0104+150002.5解：分析先乘除后加减 2.0104+150002.5=2.0104+1501022.5=2.0104+375102=2.0104+3.75104=5.75104 5.8104,25,2023/6/1,4 极限数值的表示和判定,4.1.2 标准中极限数值的表示形式及书写位数应适当，其有效数字应全部写出。位数应适当：在极限数值的右侧位数不应超过所用仪器读出的位数。例如：拉力仪的最小读数0.1N

12、，不得规定钢丝的抗拉强度应不小于600.00N，1、如果规定以测量结果的全数值与要求相比较，此时读不出全数值；2、如果规定以测量结果的修约值与要求相比较，此时已无法进行修约；只能是：此规定是错误的。可以规定钢丝的抗拉强度应不小于600N；,26,2023/6/1,有效数字应全部写出例：钢丝的抗拉强度不得低于600牛顿与不得低于600.0牛顿不同。第一个不同：对计量仪器的分辨力要求不同。第二个不同：设测得值为599.61牛顿，规定用修约值比较，若要求不得低于600牛顿，将实测值修约为600牛顿，判合格；若要求不得低于600.0牛顿，将实测值修约为599.6牛顿，判不合格；,27,2023/6/1

13、,4.2表示极限数值的用语,4.2.1.1 表达极限数值的基本用语及符号大于A A 多于A 高于A小于A A 少于A 低于A大于或等于A A 不小于A 不低于A 不少于A 小于或等于A A 不大于A 不多于A 不高于A年满18岁(包括18岁生日当天）应承担刑事责任。年满60岁(不包括生日当月）办理退休手续，不再发工资，领取退休金。,28,2023/6/1,4.2.1.2 基本用语组合大于或等于A且小于或等于B 从A到B AXB大于A且小于或等于B 超过A到B A XB大于或等于A且小于B 至少A 不足B A XB 大于A且小于B 超过A不足B AXB 顺序：单侧无限区间时，极限值写在右侧。双侧

14、有限区间时，先写小，后写大，例如：AXB,29,2023/6/1,4.2.2 带有极限偏差值的数值4.2.2.1 基本数值A带有绝对极限上偏差值 和绝对极限下偏差值 指从 到 符合要求,记为 例1：mm，指从79mm到82mm符合要求。对基本数值A，带有极限上偏差值 和（或）极限下偏差值 若观测值X等于 和（或）不符合要求，则应附加括号，写成（不含 和）或（不含）、（不含）。例2：（不含2）mm，指从79mm到接近但不足82mm符合要求。例3：（不含1）mm，指超过79mm到82mm符合要求。例4：（不含2和1）mm，指超过79mm到接近但不足82mm符合要求。,30,2023/6/1,例5：

15、（不含2和1）mm，指超过79mm到接近但不足82mm符合要求。不写成（不含1和2）mm注：mm，与指从79mm到82mm符合要求 mm，与指从79mm到82mm符合要求两者的区别1、对设计人员前者有目标值，而后者没有目标值。2、对检测人员（判断是否合格）两者没有区别。,31,2023/6/1,4.2.2.1 基本数值A带有绝对极限上偏差值和绝对极限下偏差值，指从到符合要求,记为。注：当b1=b2=b时，可简记为。正确表示 错误表示例1：mm，指从79mm到81mm符合要求。例2:（不含1）mm，指超过79mm到不足81mm符合要求。例3:（不含+1）mm，指从79mm到不足81mm符合要求。

16、例4:（不含-1）mm，指超过79mm到81mm符合要求。,32,2023/6/1,对于 可简写为，对于 可简写为，对于 可简写为，不要写为,33,2023/6/1,基本数值A带有相对极限上偏差值 和相对极限下偏差值，指实测值或其计算值X对于A的相对偏差值从 到 符合要求，记为。注：当 时，可记为。例1：指实测值或其计算值 x,对于80 的相对偏差值 从-1%到+2%符合要求。例2：（不含1）指实测值或其计算值 x,对于80 的相对偏差值 超过-1%到+2%符合要求。,34,2023/6/1,例3：（不含2）指实测值或其计算值 x,对于80 的相对偏差 值。从-1%到接近但不足+2%符合要求。

17、例4：（不含1和2）指实测值或其计算值 x,对于80 的相对偏差值 超过-1%到不足+2%符合要求。,35,2023/6/1,4.3 测定值或计算值与标准规定的极限数值作比较的方法,4.3.1.1 极限数值的判定方法 判断检验数值是否符合标准要求时，应将检验所得的测定值与与标准规定的极限数值相比较。比较的方法有两种:全数值比较法；修约值比较法。,36,2023/6/1,重要,4.3.1.2 当标准或文件中，若对极限数值（包括带有极限偏差的数值）无特殊规定时，均应适用全数值比较法。如规定采用修约值比较法，应在标准中加以说明。4.3.1.3 若标准或文件规定了使用其中一种比较法时，一经确定，不得改

18、动。,37,2023/6/1,4.3.2 全数值比较法,将检验所得的测定值不经修约，直接用于与标准定的极限数值做比较。只要越出规定的极限数值都判定为不符合标准要求。例1：规定牛奶中的三氯氰胺不得高于2.5mg/L，测得一牛奶试样中的三氯氰胺含量为2.502mg/L,应判定为该牛奶中的三氯氰胺含量不合格。例2：白卡纸的白度要求 85%，测定值为84.9%,应判定为该白卡纸白度不合格。,38,2023/6/1,4.3.3 修约值比较,将测定值进行修约后,修约数位应与规定的极限数值数位一致,然后进行比较,以判定实际测得值是否符合标准要求。只要精度允许，应先将获得的数值按指定的修约数位多一位或几位报出

19、，然后修约至规定的位数。例如：白卡纸的白度要求 85%，测定值为84.62%,经修约后（85%）应判定为该白卡纸白度合格。修约为84.6%（错误）,39,2023/6/1,4.3.4 两种判定方法的比较,对同样的极限数值，若它本身符合要求，则全数值比较法比修约值比较法相对较严格。,40,2023/6/1,补充：极限数值与仪器的分辨力的匹配,一、根据极限数值选配仪器1、规定全数值比较 测量仪器的分辨力等于或小于极限值的最小数值单位。例如：对于 所选测量仪器的分辨力不得大于0.1 对于 所选测量仪器的分辨力不得大于0.012、规定修约值比较测量仪器的分辨力应小于极限值的最小数值单位。,41,202

20、3/6/1,二、根据现在使用的仪器规定极限数值1、规定全数值比较极限值的最小数值单位等于或大于测量仪器的分辨力。2、规定修约值比较 极限值的最小数值单位大于测量仪器的分辨力。,42,2023/6/1,有效数字（有效数位）有效数字（有效数位）是根据实际需要指定（规定）出来的；它仅用于对极限(界限)的规定，这个规定应与计量仪器的分辨力相适应。例1：规定钢丝的抗拉强度不得低于600牛顿，三位有效数字（有效数位到个位）。例2：规定钢丝的抗拉强度不得低于600.0牛顿，四位有效数字（有效数位到小数点后一位）。例3：规定牛奶中的三氯氰胺不得高于0.03mg/L，一位有效数字（有效数位到小数点后两位）。,43,2023/6/1,谢谢,请进入下一专题,