检测数据修约处理.ppt

谢谢
9、春去春又回，新桃换旧符。在那桃花盛开的地方，在这醉人芬芳的季节，愿你生活像春天一样阳光，心情像桃花一样美丽，日子像桃子一样甜蜜。 2020/12/112020/12/11Friday, December 11, 2020
10、人的志向通常和他们的能力成正比例。2020/12/112020/12/112020/12/1112/11/2020 12:18:55 PM 11、夫学须志也，才须学也，非学无以广才，非志无以成学。2020/12/112020/12/112020/12/11Dec-2011-Dec-20 12、越是无能的人，越喜欢挑剔别人的错儿。2020/12/112020/12/112020/12/11Friday, December 11, 2020 13、志不立，天下无可成之事。2020/12/112020/12/112020/12/112020/12/1112/11/2020
例3：1.35cm =13.5 mm =0.0135m ，这三种表示法完全等效，均为三 位有效数字。
2200 √ 58600 √
2203 × 2210 × 58611× 58670 ×
确定修约位数的表达方式
确定修约位数的表达方式
指定数位(指定修约间隔)； 指定将数值修约成n位有效位数。
进舍规则
例2：将1268修约到“百”数位，得1300。 例3：将10.502修约到个数位，得11。
拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，
若所保留的末位数字为奇数（1，3，5，7，9）则进一，
若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。
（逢五取偶）
例1：1.050
1位小数，得1.0 。
拟修约数值X 60.25 60.38 60.28 -60.75
2X 120.50 120.76 120.56 -121.50
2X修约值 120 121 121 -122
X修约值 60.0 60.5 60.5 -61.0
0.2单位修约
指修约间隔为指定数位的0.2单位，即修约到指定数 位的0.2单位。
-930
-4650
-4600
-920
计算法则
——参考上海市计量检定人员 计量基础知识培训教材
加减运算
计算结果的末位数位，应与参加运算数据中的末位数位最大 的位数相同。 对带小数点的运算，计算结果小数点后保留的位数应与参加 运算数据里小数点后末位最左的位数相同。
例：1.5+0.42=1.92=1.9
四舍六入 逢五取偶
• 拟舍弃数字最左一位数字小于5，则舍去，保留其余各位 数字不变
例1：将12.1498修约到个位数（即 修约间隔为1），得12；将12.1498 修约到1位小数（即 修约间隔为0.1），得12.1 。
• 拟舍弃数字最左一位数字大于5 ，或者是5，而其后跟有 并非全部为0的数字时，则进一，即保留的末位数字加1。
2、在具体实施中，有时测试与计算部门先将获得数值按 指定的修约位数多一位或几位报出，而后由其他部门判 定。为避免产生连续修约的错误，应按下述步骤进行。
报出数值最右的非零数字为5时，应在数值后面加 “（＋）”或“（－）”或不加符号，以分别表明已进行 过舍、进或未舍未进。
例：16.50（＋）表示实际值大于16.50，经修约舍弃成为16.50； 16.50（－）表示实际值小于16.50，经修约进一成为16.50。
修约方法：将拟修约数值乘以5，按指定数位依数字修约规则修约，所 得数值再除以5。
例：将下列数字修约到 “百”数位的0.2单位（或修约间隔为20）
拟修约数值X
5X
5X修约值
X修约值
（修约间隔为100） （修约间隔为20 ）
830
4150
4200
840
842
4210
4200
840
832
4160
4200
840
例2：0.35 修约到1为小数，得0.4 。
负数修约时，先将它的绝对值按数字进舍规则（四舍六入 逢五取偶
例：将下列数字修约到三位小数
拟修约数值
-0.0365
-0.036
绝对值
0.0365
不连续修约
1、拟修约数字应在确定修约位数后一次修约获得结果，而 不得多次按进舍规则连续修约。
例如：修约15.4546，修约间隔为1 正确的做法： 15.4546→15 不正确的做法： 15.4546→15.455→15.46→15.5→16
乘除运算
计算结果的位数，应与参加运算数据里有效数字最小的位数 相同。
例：0.160*2.6=0.4160=0.42
平方或开方运算
运算结果与原来数据里有效位数相同。
例：1.42=1.96 =2.0 1.233=1.5129=1.51
对数运算
所取对数位数应与真数有效数字位数相等。
例：lg12.3=1.09
如果报出值需要进行修约，当拟舍弃数字的最左一位数字 为5而后面无数字或皆为零时，数值后面有(+)号者进一， 数值后面有(-)号者舍去，其他仍按数字修约规则进行。
例：将下列数字修约到个数位（报出值多留一位到一位小数）
。
实测值
报出值
15.4546 15.5（一）
15
-15.4546 -15.5(一)
混合运算
先开方或乘方，并修约，再乘除，进行修约，最后进行 加减，并对结果进行修约。
乘除 注：以有效数位数最少的数据为准，其他的数据比他多保留一位小 数，然后进行乘除，最后进行修约。
加减 注：以小数位数最少的数据为准，其他的数据比他多保留一位小数，然后 进行加减，最后进行修约。
例：2π÷0.16
=2*3.14÷0.16 =39.25 =39
注：经数值修约后的数值称为修约值。
10.41
10.4
10.5
原始数值
数值修约
修约值
×
有效数字
该数值从其第一个不是零的数字起到最末一位数的全部 数字即为有效数字。
例1：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有 效位数。
例2：12.490为五位有效位数；10.00为四位有效位数。
wk.baidu.com
-15
16.5203 16.5（＋）
17
-17.5000 -17.5
-18
0.5单位修约及0.2单位修约
0.5单位修约（半个单位修约）
指修约间隔为指定数位的0.5单位，即修约到指定数 位的0.5单位。
修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所 得数值再除以2。
例：将下列数字修约到个数位的0.5单位
检测数据修约处理
GB/T8170-2008 2015.04.14
目录
➢ 术语 ➢ 确定修约位数的表达方式 ➢ 进舍规则 ➢ 不连续修约 ➢ 0.5单位修约及0.2单位修约 ➢ 计算法则(参考上海市计量检定人员计量基础知识培训教材)
术语
数值修约
通过省略原数值的最后若干位数字，调整所保留的末位 数字，使最后所得到的值最接近原数值的过程。