有效数字的运算规则
有效数字的计算法则
有效数字的计算法则
有效数字是指在最后一个数字后面的数字都是不确定的数字。
有效数字的计算法则是指在进行数学计算时,应当根据有效数字的规则进行计算以保证结果的准确性。
以下是一些有效数字的计算法则: 1. 加减法:在进行加减法运算时,结果的有效数字应当与被加数或被减数中有效数字最少的那个数相同。
2. 乘法:在进行乘法运算时,结果的有效数字应当与被乘数和乘数中有效数字的总和相同。
3. 除法:在进行除法运算时,结果的有效数字应当与被除数中有效数字的总数相同。
4. 幂运算:在进行幂运算时,结果的有效数字应当与底数中有效数字的总数相同。
5. 对数运算:在进行对数运算时,结果的有效数字应当与真数中有效数字的总数相同。
在进行数学计算时,应当注意有效数字的规则,以保证计算结果的准确性。
同时,应当注意四舍五入的规则,以便得到正确的有效数字。
- 1 -。
有效数字及运算法则
有效数字及运算法则
一、有效数字的一般概念
定义:在测量结果的数字表示 中,由若干位可靠数字加一位 可疑数字,便组成了有效数字。
上述例子中的测量结果均为三 位有效数字
N
2 65
差(不确定度)决定有效数字,有:
N 0.96 0.03cm
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0 4.02=16 正确
49 = 7 4.02=16.0 错误
试确定N的有效数字。
解: (1)先计算N
N 3.21 6.5 0.957cm 21.8
(2)计算不确定度 N
N
A
2
B
2
C
2
0.01 2
0.2 2
0.004
2
2
N A B C 3.21 6.5 21.843 65
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00
有效数字及其运算规则
一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。
二、范围:适用于所有相关数据的计算。
三、责任者:生产部、质量管理部。
四、内容1.有效数字1.1定义有效数字就是实际能测到的数字。
有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。
我们可以把有效数字这样表示。
有效数字=所有的可靠的数字+ 一位可疑数字1.2有效数字位数从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。
例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。
B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。
C.5200000000,全部都是有效数字。
D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。
E.1.20 有3个有效数字。
F.1100.120 有7位有效数字。
G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。
H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。
1.3“0”的双重意义1.3.1作为定位的标志。
例:滴定管读数为20.30毫升。
两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。
1.3.2作为普通数字使用例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。
2.有效数字的运算规则2.1数字修约规则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。
有效数字及其运算规则
题目有效数字及其运算规则编码:页码:1/3修订审核批准修订日期审核日期批准日期颁发部门质量管理部颁发数量份生效日期分发单位生产部、质量管理部一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。
二、范围:适用于所有相关数据的计算。
三、责任者:生产部、质量管理部。
四、内容1.有效数字1.1定义有效数字就是实际能测到的数字。
有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。
我们可以把有效数字这样表示。
有效数字=所有的可靠的数字+ 一位可疑数字1.2有效数字位数从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。
例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。
B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。
C.5200000000,全部都是有效数字。
D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。
E.1.20 有3个有效数字。
F.1100.120 有7位有效数字。
G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。
H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。
1.3“0”的双重意义1.3.1作为定位的标志。
例:滴定管读数为20.30毫升。
两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。
1.3.2作为普通数字使用例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。
2.有效数字的运算规则2.1数字修约规则题目有效数字及其运算规则页码:2/3颁发部门质量管理部编码:测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。
总结:有效数字及运算法则详解
“0”
数学上: 数学上: .85 = 2.850 = 2.8500 2 物理上: 物理上: .85 ≠ 2.850 ≠ 2.8500 2
小数点前面的“ ②.小数点前面的“0”和紧接 小数点后面的“ 小数点后面的“0”不算作有效 如:0.0123dm、0.123cm、0.00123m 、 、 数字
例9
L=2πR 其中 π 其中R=2.35×10-2m × 就应取3.14(或3.142) π就应取 或 即L=2×3.142×2.35×10-2=0.148(m) × × ×
试用有效数字计算结果: 试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 3.9× (4)1.002 = 1.00 (5) 1.00= 1.00 (6)1002 = 1.00×104 1.00×
有效数字及运算法则
一、一般概念
有效数字 定义 : 在测量结果的数 定义:
字表示中, 字表示中 , 由若干位可靠数字 加一位可疑数字, 加一位可疑数字 , 便组成了有 效数字。 效数字。 上述例子中的测量结果均为三 位有效数字
二、有效数字位数的确定 1.关于“0”的有效问题 关于“ ①.当“0”在数字中间或末尾时有 2 12 效 如: .04cm 、20.50m 、1.000 A 等中的0均有效 均有效。 等中的 均有效。
100 × 0.1 1 式子的前一项 = _____。 17.3021− 7.3021
找出下列正确的数据记录: 找出下列正确的数据记录:
— — — — — —
有效数字及其运算规则
3 .乘方或开方: 结果有效数字位数不变。 例如, 6.542=42.8
4 .对数计算: 对数尾数的位数应 与真数的有效数字位数相同。 例如:
[H ] 6.3 10 pH 10.20
11
mol/L
11
注意
为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保
留适当的位数,不可将显示的全部
数字作为结果。
12
练习
0.015+1.3256+502.33= ? 0.02+1.33+502.33=503.68
(0.0177×35.81×302.5)/28.658= ? (0.0177×35.8×302)/28.7=6.67
13
某人用差示光度分析法分析药物含量,称取 此药物试样0.0520g,最后计算此药物的质量 分数为 96.24%。问该结果是否合理?为什么 ? 答:该结果不合理。因为试样质量只有三位 有效数字,而结果却报出四位有效数字,结 果不可能有那样高的精度。最后计算此药物 的质量分数应改为96.2%。
14
15
,e
二、有效数字的修约规则
1. “四舍六入五成双”
例:0.37456 , 0.3745 均修约至三位有效数字
0.375 0.374
2.只能对数字进行一次性修约 例:6.549, 2.451 一次修约至两位有效数字
6.5
2.5
7
注意 尾数为5时,若“5”后的数字为“0”则按“5”前 面为偶数者舍弃,为奇数者进1位;若“5”后面 的数字不为“0”的任何数,则不论“5”前面的 一个数为偶数或奇数均进1位
有效数字运算规则
00:58:31
5
有效数字及其运算规则
二、有效数字修约原则: 在取舍有效数字位数时,应注意以下几点)
(4)有关化学平衡计算中的浓度,一般保留二位或三位 有效数字。pH值的小数部分才为有效数字,一般保留一 位或 二位有效数字。 例如,[H+]=5.210 -3 mol·L-1 ,则pH = 2.28
00:58:31
2
有效数字及其运算规则
一.有效数字
2.数字零在数据中具有双重作用: (1)若作为普通数,是有效数字
如 0.3180 4位有效数字 3.18010 -1 (2)若只起定位作用,不是有效数字。
如 0.0318 3位有效数字 3.1810 -2 3.改变单位不改变有效数字的位数:
19.02 mL → 19.0210-3 L
(2)分析天平(万分之一)称取样品,质量小数点后取 45 位有效数字。
(3)标准溶液的浓度,用 4 位有效数字表示。
00:58:31
13
四.有效数字规则在分析化学中的应用
2.按有效数字的运算规则正确地计算数据—报出合理的 测试结果。 注意:算式中的相对分子质量取 4 位有效数字。
00:58:31
14
00:58:31
9
有效数字及其运算规则
三. 有效数字的运算规则 2. 乘除运算
几个数据的乘除运算中,所得结果的有效数字的位数 取决于有效数字位数最少的那个数,即相对误差最大 的那个数。
例:( 0.0325 5.103 )/ 139.8 = 0.00119
00:58:31
10
有效数字及其运算规则
(5)表示误差时,取一位有效数字已足够,最多取二位。
00:58:31
有效数字的运算法则
有效数字的运算法则
有效数字运算规则是:加减法:先按小数点后位数最少的数据,保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
乘除法:先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。
乘方和开方:对数据进行乘方或开方时,所得结果的有效数字位数保留应与原数据相同。
1、加减法:先按小数点后位数最少的数据,保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
2、乘除法:先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。
3、乘方和开方:对数据进行乘方或开方时,所得结果的有效数字位数保留应与原数据相同。
4、对数计算:所取对数的小数点后的位数(不包括整数部分)应与原数据的有效数字的位数相等。
5、在计算中常遇到分数、倍数等,可视为多位有效数字。
— 1 —
6、在乘除运算过程中,首位数为"8"或"9"的数据,有效数字位数可多取1位。
7、在混合计算中,有效数字的保留以最后一步计算的规则执行。
8、表示分析方法的精密度和准确度时,大多数取1~2位有效数字。
— 2 —。
有效数字及其运算规则
有效数字及其运算规则一、有效数字的含义及位数为了得到准确的分析结果,不仅要准确地测量,而且还要正确地记录和运算,即记录的数字不仅表示数量的大小,而且要正确的反映测量的精确程度。
如某物重0.5180g 、其中0.518 是准确的,“0 ”位可疑,即其有上下一个单位的误差,也就是说此物重的绝对误差为二.有效数字的运算规则:1 .和或差的有效数字:几个数相加减时,和或差的有效数字的保留,应以小数点后位数最少的数据为根据,即决定于绝对误差最大的那个数据。
例如:0.0121+25.64+1.05782 =26.70992应依25.64 为依据,即:原式=26.71小数点后位数的多少反映了测量绝对误差的大小,如小数后有1 位,它的绝对误差为±0.1 ,而小数点有 2 位时,绝对误差为±0.01 。
可见,小数点具有相同位数的数字,其绝对误差的大小也相同。
而且,绝对误差的大小仅与小数部分有关,而与有效数字位数无关。
所以,在加减运算中,原始数据的绝对误差,决定了计算结果的绝对误差大小,计算结果的绝对误差必然受到绝对误差最大的那个原始数据的制约而与之处在同一水平上。
2 .乘除法几个数相乘、除时,其积或商的有效数字应与参加运算的数字中,有效数字位数最少的那个数字相同。
即:所得结果的位数取决于相对误差最大的那个数字。
商应与0.0325 在同一水平上,即取3 位。
又如:3.001×2.1= 6.3有效数字的位数的多少反映了测量相对误差的大小。
如 2 位有效数字1.0 和9.9 它们的都是±0.1 ,相对误差分别为±10% 和±1%, 即:两位有效数字的相对误差总在±1% ~10%叁位有效数字的相对误差总在±0.1 ~1%肆位有效数字的相对误差总在±0.01 ~±0.1% 之间。
可见,相同有效数字位数的数字,其相对误差E r,处在同一水平上:而且E r的大小,仅与有效数字位数有关,而与小数点位数无关。
有效数字及运算法则
当读数正好为24㎜时读数为24.0㎜
三、直接测量有效数字的确定 ——如何读数
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度
(2)用0.1级量程为100mA电流表测电流
对于0.1级表:
△仪= 100mA×0.1% = 0.1mA
指针在82mA与83mA之间:读为82.* mA 指针正好在82mA上:读为82.0mA
————— – –
–
–
–
63.734
结果为 63.7
–
例2
2 A 62 . 5 0 . 1 cm N A B C 其中:
B 1.234 0.003cm 2 , C 5.43 0.06cm 2 试确定N的有效数字。 解: (1)求出N的不确定度 N
N
2 A 2 B
2 C
2 A
2 C
( 0.1 ) 2 ( 0.06 ) 2 0.1cm 2
(2) N 62.5 1.234 5.43 58.304( cm 2 ) (3)用误差(估计误差范围的不确定度)决定 结果的有效数字
N 58.3 0.1cm
2
四、间接测量量有效数字的确定 ——有效数字的运Fra bibliotek法则N
2 0.957 0.03cm 65
(3)根据误差(不确定度)决定有效数字,有:
N 0.98 0.03cm
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法
2.乘除法
运算规则:
乘除运算后结果的有效数字一般以参与运算 各数中有效数字位数最少的为准。
0.961 21843 210000 196587 134130 131058 30720
有效数字及运算规则
有效数字及运算规则一、有效数字为了取得准确的分析结果,不仅要准确测量,而且还要正确记录与计算。
所谓正确记录是指记录数字的位数。
因为数字的位数不仅表示数字的大小,也反映测量的准确程度。
所谓有效数字,就是实际能测得的数字。
有效数字保留的位数,应根据分析方法与仪器的准确度来决定,一般使测得的数值中只有最后一位是可疑的。
例如在分析天平上称取试样,这不仅表明试样的质量,还表明称量的误差在±以内。
如将其质量记录成,则表明该试样是在台称上称量的,其称量误差为,故记录数据的位数不能任意增加或减少。
如在上例中,在分析天平上,测得称量瓶的重量为,这个记录说明有6位有效数字,最后一位是可疑的。
因为分析天平只能称准到,即称量瓶的实际重量应为±,无论计量仪器如何精密,其最后一位数总是估计出来的。
因此所谓有效数字就是保留末一位不准确数字,其余数字均为准确数字。
同时从上面的例子也可以看出有效数字是和仪器的准确程度有关,即有效数字不仅表明数量的大小而且也反映测量的准确度.二、有效数字中"0"的意义"0"在有效数字中有两种意义:一种是作为数字定值,另一种是有效数字.例如在分析天平上称量物质,得到如下质量:物质称量瓶Na2CO3H2C2O4·2H2O称量纸质量10.14302.1045有效数字位数6位5位4位3位以上数据中“0”所起的作用是不同的。
在中两个“0”都是有效数字,所以它有6位有效数字。
在中的“0”也是有效数字,所以它有5位有效数字。
在中,小数前面的“0”是定值用的,不是有效数字,而在数据中的“0”是有效数字,所以它有4位有效数字。
在中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。
综上所述,数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。
以“0”结尾的正整数,有效数字的位数不确定。
例如4500这个数,就不会确定是几位有效数字,可能为2位或3位,也可能是4位。
有效数字及运算法则
例6
_ _ _ 21÷21.843=0.96 ÷ _
0.961 21843 210000 196587 134130 131058 30720 21843
8877
结果为 0.96
_
四、间接测量量有效数字的确定 ——有效数字的运算法则 ——有效数字的运算法则
1.加减法 1.加减法 2.乘除法 2.乘除法 3.乘方与开方 3.乘方与开方
三、直接测量有效数字的确定 ——如何读数 ——如何读数
读数的一般规则: 读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度 (2)用0.1级量程为100mA电流表测电流 0.1级量程为100mA电流表测电流 级量程为100mA
级表: 对于0.1级表:
100mA× △仪= 100mA×0.1% = 0.1mA
第四节
有效数字及运算法则
一、有效数字的一般概念 例:用米尺测量物体的长度
L1= 3.4 5 L2= 3.4 6
一、有效数字的一般概念
定义: 定义 : 在测量结果的数字表示 中 , 由若干位可靠数字加一位 可疑数字, 便组成了有效数字。 可疑数字 , 便组成了有效数字 。 上述例子中的测量结果均为三 位有效数字
例 10 L=2πR 其中 π 其中R=2.35×10-2m ×
π就应取3.14(或3.142) 就应取 或 即L=2×3.142×2.35×10-2=0.148(m) × × ×
综合运算举例
50.00 × ( 18.30 − 16.3 ) ( 103 − 3.0 ) × ( 1.00 + 0.001 ) 50.00 × 2.0 = 100 × 1.00 2 1.0×10− × = 100 = 1.0
2.数值的科学记数法
有效数字及其运算规则
1.3 有效数字及其运算规则1.3.1 有效数字1. 定义有效数字就是实际能测到的数字。
有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。
我们可以把有效数字这样表示。
有效数字=所有的可靠的数字+ 一位可疑数字表示含义:如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。
例:7.5克用的是粗天平7.52克用的是扭力天平7.5187克用的是分析天平2. “0”的双重意义作为普通数字使用或作为定位的标志。
例:滴定管读数为20.30毫升。
两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。
改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。
3. 规定(1).倍数、分数关系无限多位有效数字(2). pH、pM、lgc、lgK等对数值,有效数字由尾数决定。
例: pM=5.00 (二位)[M]=1.0×10-5 ;PH=10.34(二位);pH=0.03(二位)注意:首位数字是8,9时,有效数字可多计一位, 如9.83―四位。
1.3.2 数字修约规则(“四舍六入五成双”规则)规定:当尾数≤4时则舍,尾数≥6时则入;尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。
例:将下列数字修约为4位有效数字。
修约前修约后0.526647--------0.52660.36266112------0.362710.23500--------10.24250.65000-------250.618.085002--------18.093517.46--------3517注意:修约数字时只允许一次修约,不能分次修约。
如:13.4748-13.471.3.3 计算规则1. 加减法先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。
有效数字运算规则例题
有效数字运算规则例题
以下是一些有效数字运算的规则与例题:
1.加法和减法:
规则:结果应按照最小精度的有效数字个数进行四舍五入。
例题:计算:3.45+2.1+0.032
解答:3.45+2.1+0.032=5.582、由于最小精度为0.001,结果应四舍五入为5.58
2.乘法和除法:
规则:结果应按照最小精度的有效数字个数进行四舍五入。
例题:计算:2.3×1.021×0.03
3.乘方:
规则:结果应按照最小精度的有效数字个数进行四舍五入。
例题:计算:(1.235)²。
4.复合运算:
规则:应按照每一步运算的规则进行计算,并按照最终结果的有效数字个数进行四舍五入。
例题:计算:(2.4×1.7+3.12)÷2.5。
有效数字运算法则
1.3 有效数字及其运算法则物理实验中要记录数据并进行运算,记录的数据应取几位,运算后应保留几位,这些要由不确定度来决定,也涉及有效数字的问题。
1.3.1 有效数字的概念任何一个物理量,既然其测量结果都包含有误差,该物理量的数值就不应该无限制地写下去。
例如,cm应写成cm。
因为由不确定度0.02cm可知,该数值在百分位上已有误差,在它以后的数字便没有意义了。
因此,测量结果只写到有误差的那一位数,并且在位数以后按“四舍五入”的法则取舍。
最后一位虽然有误差,但在一定程度上也能反映出被测量的客观大小,也是有效的。
所以我们把能反映出被测量实际大小的全部数字,称为有效数字。
或者说,我们把测量结果中可靠的几位数字加上有误差的一位数字,统称为测量结果的有效数字。
有效数字数字的个数叫做有效数字的位数,如上述的1.37cm称为三位有效数字。
有效数字的位数与十进制单位的变换无关,即与小数点的位置无关。
因此,用以表示小数点位置的0不是有效数字。
当0不是用作表示小数点位置时,0和其它数字具有同等地位,都是有效数字。
显然,在有效数字的位数确定时,第一个不为零的数字左面的零不能算有效数字的位数,而第一个不为零的数字右面的零一定要算做有效数字的位数。
如0.0135m是三位有效数字,0.0135m 和1.35cm及13.5mm三者是等效的,只不过是分别采用了米、厘米和毫米作为长度的表示单位;1.030m是四位有效数字。
从有效数字的另一面也可以看出测量用具的最小刻度值,如0.0135m是用最小刻度为毫米的尺子测量的,而1.030m 是用最小刻度为厘米的尺子测量的。
因此,正确掌握有效数字的概念对物理实验来说是十分必要的。
有效数字的位数多少大致反映相对不确定度的大小。
有效数字位数越多,相对不确定度越小,测量结果的精确度越高。
1.3.2 如何确定有效数字当给出(或求出)不确定度时,测量结果的有效数字由不确定度来确定。
由于不确定度本身只是一个估计值,一般情况下,不确定度的有效数字只取一位(若首位为1、2时,不确定度可取二位)。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
化验分析中,试样的组分含量,由一系列测得的原始数据经一定计算公式的算求得的。
在数的运算中,一般地说,两数相加或相减,应该使它们有相同的确度;两数相乘或相除,应使它们有相同的准确度,即每一个数都保留同样位的有效数字,计算结果也是如此-
似运算中应注意以下几点。
(l)几个数相加或相减时,它们的和或差的有效数字保留的位数应以小数点位数最少的那个数字为依据。
如:O.0312十23. 34十2.50381,以23. 34为依据,将其他数字按数字修约到小数点后第二位,然后相加(2)在做乘除运算的时候,有效数字的位数取决于相对误【电镀设备厂】差最大的碘/<数字位数最小的那个数。
如:(0. 0234十4. 303 X 71. 07)/127. 5=0. 0561259
计算结果应取O.056 1,即与O.0234(有效数字位数最少的数的位数相同)。
在运算过程中,每步运算的结果可比有效数字位数最少的那个数多保留一位。
例如:O.0234 X 4.303 = O.1006702,这时可取O.1007,继续运算(比多一位有效数字)。
在使用电子计算器时,有人错误地认为取值位数越多据越精确,其实这会人为地制造假象而有害无益。
当然,也不可少取位数而丢了能够获得的准确度。