测量中的数据处理

一、测量中的数据处理

⒈、有效数字的概念

人们在日常生活中接触到的数，有准确数和近似数。对于任何数，包括无限不循环小数和循环小数，截取一定位数后所得的即是近似数。同样，根据误差公理，测量总是存在误差，测量结果只能是一个接近于真值的估计值，其数字也是近似数。

近似数有效数字的概念是，当该近似数从左边的第一个非零数字算起，直到最末一位数字为止的所有数字都是有效数字。一个近似数有n个有效数字，也可称为有n位有效数字。

测量结果的数字，其有效位数代表结果的不确定度。例如：某长度测量值为19．8mm，有效位数为3位；若是19．80mm，有效位数为4位。在有效位数中除末位数字为可疑或不确定外，其余各位数都是准确可知的。

显而易见，有效位数不同，它们的测量不确定度也不同，测量结果19．80mm比19．8mm的不确定度要小。同时，在判断有效数字时，对“0”应加倍注意，它是否为有效数字，取决于它在近似数中的位置。在计量中，小数点右边第一个非“0”数后的“0”不能舍去，因为这些“0”都是有效数字。

⒉、数据修约

(一)数据修约的基本概念

在数字运算中，对某一拟修约数，根据保留数位的要求，按照一定的规则将其多余位数的数字进行取舍，留下需要位数的数字来代替

拟修约数，这一过程称为数据修约。为了简化计算，准确表达测量结果，必须对有关数据进行修约。

(二)数据修约规则

我国的国家标准《数值修约规则》GB 8170--87，对“1”、“2”、“5”间隔的修约方法分别作了规定。对建筑工程勘察单位的试验数据的修约，通常采用“1”间隔的修约方法。

下列规则是一些常用的基本法则：

1．汜录测量数值时，只保留一位可疑数字；

2．除非另有规定外，可疑数字表示末位上有±1个单位，或下一位有±5个单位的误差；

3．当有效数字位数确定后，其余数字应一律舍去。舍去办法：凡末位有效数字后边的

第一位数字大过5，在前一位上增加1，小于5则舍去。等于5时，如前一位为奇数，则增加1，如前一位为偶数则舍去不计。（即：有效数字后面4舍6入，等于5时，奇进偶不进）需要指出的是，数据修约导致的不确定度呈均匀分布，约为修约间隔的1／2。在进行修约时还应注意，不要多次连续修约(例如：12．251-+12．25→12．2)，因为多次连续修约会产生累积不确定度。此外，在有些特别规定的情况(如考虑安全需要等)下，最好只按一个方向修约。

⒊、近似数运算

(一)加、减运算

加减运算规则：近似数的加减中，其位数以小数位最少的数为准，其余各数均修约成比该数多保留一位，多余位数应舍去。计算结果的小数位数，应与参与运算的数中小数位数最少的那个数相同。若汁算结果尚需参与下一步运算，则可多保留一位。

例如：18．30+1．4546十O．876→18．3+1．45+0．88＝20．63≈20．6 计算结果为20．6。若尚需参与下一步运算，则取20，63。(二)乘、除(或乘方、开方)运算

乘除运算规则：在进行数的乘除运算时，以有效数字位数量少的那个数为准，其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数，应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算，则有效数字可多取一位。

例如：1．1m×0．3 268m×0.10

300m→1．1m×0．327m×0．103m=0．0370491m3≈0．037m3 计算结果为0．037m3。若需参与下一步运算，则取0．O 370m3。

乘方、开方运算类同。

二、测量误差

⒈、测量误差和相对误差

(一)测量误差

测量结果减去被测量的真值所得的差，称为测量误差，简称误差。

以公式可表示为：测量误差等于测量结果—真值

测量结果是巾测量所得到的赋予被测量的值，是客观存在的量的实际表现，仅是对测量所得被测量之值的近似或估计，显然它是人们

认识的结果，不仅与量的本身有关，而且与测量程序、测量仪器、测量环境以及测量人员等有关。真值，它是通过完善的或完美无缺的测量，才能获得的值。所以，真值反映了人们力求接近的理想目标或客观真理，本质上是不能确定的，它只是一个理想的概念。实际上用的是约定真值，须以测量不确定度来表征其所处的范围。也就是说，测量结果都具有误差，误差自始至终存在于一切测量过程中，这就是误差公理。

一个误差，若不是正值(正误差)就是负值(负误差)，它取决于这个结果是大于还是小于真值。所以测量值呈正态分布曲线。