有效数字及有效数字计算修约基础知识

有效数字及有效数字计算、修约基础知识

一、有效数字

1、末的概念

末：指任何一个数最末一位数字所对应的单位量值。

例：用分度值为0.1mm的卡尺测量物体的长度，结果为19.8mm，最末一位的量值0.8mm，即为最末一位数8与所对应的单位量0.1mm的乘积，故19.8mm的末为0.1mm。

2、有效数字的界定

1～9都为有效数字，数字之间的0、末尾的0也为。

二、近似数计算

1、“+-”以小数位数最少为准，修约比该数多一位，计算后修约以小数点最少数的位数为准。

如：18.3+1.4545+0.876

≈18.3+1.45+0.88=20.63≈20.6

2、“×÷”各数修约到有效数字最少多一位，最后结果以有效数字最少的那个为准。

如：3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈943

3、乘方、开方，参加运算有几位有效数字，结果就得保留几位数字。

81=9.000 9.002=81.0

.

00

如几级运算，乘方开方多保留一位。

0.

81+4.359=9.000=4.359

4、混合运算：

不管如何运算，结果必须以位数最少为准。

三、修约规则

1、舍去数第一位小于5则舍，大于5则进。

4.254→4.25 38.735→39

2、舍去数第一位为5，5后并非全为0则进。

9.55033→9.6

3、舍去数第一位为5，5后无数或全为0，奇进偶舍。

0.0415→0.042 0.0425→0.042

4、注意不得连续修约。

如：37.4546→37.455→37.46→37.5→38

5、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定，即k×10n（k=1、2、5，n为正、负整数）

另外，0.5、0.2修给采用分别乘以2与5，修约后再除以2与5来修约。

如：以0.5修约60.25

60.25×2得120.5修约为120,再除以2得60.0

练习题：

一、说出下列数值有几位有效数字？

1、60.000

2、0.6000

3、0.0600

4、6.001×107

二、近似数计算：

1、19.3+1.5837+0.976

2、3.780×47.5×6.5745

3、000

25

.

三、数值修约：

1、5.256、5.254、5.255、5.265保留三位有效数字？

2、60.25以0.2修约。

3、237.5、236.5、233.6、232.5、242.5、231.5分别以5修约。