测量结果的数据处理
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
约,所得数乘以2则为修约数,按“2”间隔修约结果均为2的
整数倍。
2.2.1、拟修约数介于上、下修约数之间,且大于两个修约数
Biblioteka Baidu
和的一半,则为上修约数。
2.2.2、拟修约数介于上、下修约数之间,且小于两个修约数
和的一半,则为下修约数。
2.2.3、拟修约数刚好介于上、下修约数中间时,则按“2”间
隔修约规则修约或修约成末两位被4整除的数。
培训题目:测量结果的数据处理
一、数据修约
1、有关术语 1.1、正确数:不带测量误差的数均为正确数。 1.2、近似数:接近但不等于某一数的数。 1.3、有效数字:从左起第一个非零的数字到最末一位数字 止的所有数字称为有效数字。 1.4、有效位数:从左边第一个非零数字算起所有有效数字的 个数,即为有效数字的位数。 1.5、修约间隔:数据修约首先要确定修约保留的位数。修约 保留数由修约间隔确定。修约间隔一经确定,修约值即为其 数值得整数倍。 1.6、末位单位:任何一个数字的最末一位数字所对应的量值 单位。
4、极限数值的判定方法与修约 经常用最大允许误差或允许误差限表示测量结果。 当进行检测工作时,只要其结果不超出规定范围,就可认为该 项指标合格。 4.1、修约值比较法 将修约后的数值与标准规定的迹象数值进行比较,以判定实际 指标或参数是否符合标准要求 4.2、全数值比较法 将检验所得的测量结果或其计算值不经修约处理,而用数值的 全部数字与标准规定的误差限比较。
二、近似运算
1、有关术语 近似计算:又称数字运算,如对测量结果作加、减、乘、除、 乘方、开方、三角函数运算等。 2、运算规则 2.1、近似数的加减运算 规则:近似数的加减,以小数点后位数最少的为准,其余各数 均修约成比该数多保留一位,计算结果的小数位数与小数位数 最少的那个近似数相同。 如:28.1+14.54+3.0007≈28.1+14.54+3.00=45.64≈45.6
2.2、近似数的乘除运算 规则:近似数的乘除,以有效数字最少的为准,其余各数均修 约成比该数多一个有效数字,计算结果有效数字位数,与有效 数字位数最少的那个数相同,而与小数点位置无关。 例: 2.3847×0.76÷41678≈2.38×0.76÷4.17×104=4.33764988 ×10-5≈4.3×10-5
2、数字修约规则 数字修约规则有:“1”间隔修约、“2”间隔修约、“5”间 隔修约。 2.1、 “1”间隔修约规则 拟修约数值按“1”间隔修约时的规则如下: 2.1.1、拟舍弃的数字的最左一位数字小于5时,则舍去,即保 留的各位数字不变。 2.1.2、拟舍弃的数字的最左一位数字大于5时,或是5且其后 跟有并非全部为0的数字时,即进1,即保留的末位数字加1。 2.1.3、拟舍弃的数字的最左一位数字为5而其后无数字或皆为 0时,若保留的末位数字为奇数(1、3、5、7、9),则进1; 为偶数(0、2、4、6、8)则舍去。这一规则即“4舍6入,遇
2.3、“5”间隔修约规则 “5”间隔修约规则是将拟修约数除以5,按“1”间隔规则修 约,所得数乘以5 则为修约数,按“5”间隔修约结果末位均 为0或5两数。 2.3.1、拟修约数介于上、下修约数之间,且大于两个修约数 和的一半,则为上修约数。 2.3.2、拟修约数介于上、下修约数之间,且小于两个修约数 和的一半,则为下修约数。 2.3.3、拟修约数刚好介于上、下修约数中间时,则按“5”间 隔修约规则修约或选取有“0”结尾的修约数。 例 按0.05间隔修约如下数: 17.42517.40(17.40,17.45)
3、修约误差 数值修约带来的误差服从均匀分布的随机误差(修约误差), 又称舍入误差,修约误差为修约间隔的一半。 由数据修约规则可知,对“1”间隔修约,修约误差等于修约 结果末位数的一半(修约位末位单位的0.5倍)。对“5”间隔 修约,修约误差等于修约结果末位数的2.5倍。(修约位末位 单位的2.5倍)。对“2”间隔修约,修约误差等于修约结果末 位数的1倍。(修约位末位单位的1倍)。
3、修约注意事项 3.1、不得连续进行修约;拟修约的数字应在确定修约位数后 一次修约获得结果,不得多次连续修约。 3.2、负数修约,先将它的绝对值按规定方法进行修约,然后 在修约值前面加上负号。即负号不影响修约。 3.3、有的时候要求提供数据部门按指定修约位数多一位或几 位,最后由其他部门判定,并作出最后修约。在这种情况下, 如果提供数据中右边的非零数字为5时,在数值5后面要分别注 以(+)、(-)符号或不注符号。注(+)者表示实际值比它 大;注(-)时,表示实际值比它小;若不注时,表示未舍或 未入,以防止连续修约。
5 偶数法则”。
例:将下列数修约到小数点后第3位(修约间隔为0.001或保留
4位有效数字)。
3.14150013.142; 3.14149993.141
3.14153.142
3.14253.142
3.1413293.141 3.14050000013.141
2.2、“2”间隔修约规则
“2”间隔修约规则是将拟修约数除以2,按“1”间隔规则修