有效数字的运算法则

合集下载

有效数字的计算法则

有效数字的计算法则

有效数字的计算法则
有效数字是指在最后一个数字后面的数字都是不确定的数字。

有效数字的计算法则是指在进行数学计算时,应当根据有效数字的规则进行计算以保证结果的准确性。

以下是一些有效数字的计算法则: 1. 加减法:在进行加减法运算时,结果的有效数字应当与被加数或被减数中有效数字最少的那个数相同。

2. 乘法:在进行乘法运算时,结果的有效数字应当与被乘数和乘数中有效数字的总和相同。

3. 除法:在进行除法运算时,结果的有效数字应当与被除数中有效数字的总数相同。

4. 幂运算:在进行幂运算时,结果的有效数字应当与底数中有效数字的总数相同。

5. 对数运算:在进行对数运算时,结果的有效数字应当与真数中有效数字的总数相同。

在进行数学计算时,应当注意有效数字的规则,以保证计算结果的准确性。

同时,应当注意四舍五入的规则,以便得到正确的有效数字。

- 1 -。

有效数字

有效数字

电阻值只记录到“ 10”。
6、若测值恰为整数,必须补零,直补到可
疑位。
6
三.有效数字的运算规则
(1)记录测量数据时,一般只保留一位可疑数字. 如滴定管读数32.47ml.
(2) 在运算中舍去多余数字时采用四舍五入法.等 于5时,如前一位为奇数,则增加1;如前是偶数则 舍去.
(3)加减运算时,计算结果有效数字的末位的位置 应与各项中绝对误差最大的那项相同. 即保留 各小数点后的数字位数应与最小者相同. 13.75 +0.0084 +1.642应为13.75+0.01+1.64
四舍、六入、五凑偶
16
估计值只有一位,所以也叫欠准数位或 可疑数位。
3
有效数字的特点
(1)位数与单位变换或小数点位置无关 。 35.76cm = 0.3576m = (2)00.00的0地35位76km
0.0003576 3.005 3.000 都是四位
(3)特大或特小数用科学计数法
3.576 101
3.576 102
h 6.627 10 34 j s
4
二、有效数字的读取
进行直接测量时,由于仪器多种多样, 正确读取有效数字的方法大致归纳如下:
1、一般读数应读到最小分度以下再估一 位。例如,1/2,1/5,1/4,1/10等。
2、有时读数的估计位,就取在最小分度
位。例如,仪器的最小分度值为0.5,则
21 30 0 333
20 9673
20 967
可见,约简不影响计算结果。在加减法运 算中,各量可约简到其中位数最高者的下一 位,其结果的欠准数位与参与运算各量中位 数最高者对齐。
11
乘、除法

有效数字数值修约及运算法则

有效数字数值修约及运算法则

费休氏水分测定法(P225)
费休氏试液的标定应取3份以上,3次连续标 定结果应在±1%以内,以平均值作为费休 氏试液的滴定度
滴定液(P502)
标定工作应由初标者(配制者)和复标者在相同条 件下各作平行试验3份,除另有规定外,其相对平 均偏差应不得大于0.1%;
初标平均值与复标平均值的相对偏差也不得大于 0.1%;
注意事项
要根据取样的要求,选择相应的量具。 (1) “精密称定”系指称取重量应准确到所取
重量的0.1%,可根据称量选用分析天平或半微量 分析天平;“精密量取”应选用符合国家标准的移 液管;必要时应加校正值。 (2)“称定”(或“量取”)系指称取的重量 (或量取的容量)应准确至所取重量(或容量)的 百分之一。
比如5.28 报告中应该打印数据,应为5.3
有关物质结果的正确书写
超过1%,保留一位小数,比如1.2% 小于1%,保留小数点后两位,比如0.12%
最大杂质峰面积/对照溶液主峰面积 =0.20(0.20%)----百分之一对照
或者=0.20(0.10%)-----两百分之一对照
非水溶液滴定法(P176)
数值修约及其进舍规则
例1 修约间隔为0.1
拟修约数值
修约值
1.050
1.0
0.350
0.4
数值修约及其进舍规则
例2 修约间隔为1000(103)
拟修约数值
修约值
2500
2x103
5500
6x103
例3 将下列数字修约成两位有效位数
拟修约数值 修约值
0.0385
0.038
34500
偏差不得过0.5%,如提取洗涤等操作步骤繁复者, 相对偏差不得过1.0%。

有效数字及运算法则

有效数字及运算法则

★移液管:25.00mL(4);
☆ 量筒(量至1mL或0.1mL):26mL(2), 4.0mL(2)
a) 数字前0不计,数字后计入 : 0.02450
b) 数字后的0含义不清楚时,最好用指数形式表 示: 1000 ( 1.0×103,1.00×103 ,1.000 ×103 ) a) 自然数可看成具有无限多位数(如倍数关系、分
如,将下列数字修约成4位有效数字: 0.52666 10.2452 10.2350 10.2450 10.245001
→0.5267
→ 10.25 →10.24 →10.24 →10.25
.
有效数字运算规则
加减法: 结果的绝对误差应不小于各项中绝对误差 最大的数。(与末位数最大的数一致) 50.1 1.46 + 0.5812 52.1412 52.1 ±0.1 ±0.01 ±0.001 50.1 1.5 + 0.6 52.2
有效数字及运算法则
有效数字(significant figure)
1定义:是在分析工作中实际测量到的数字, 除最后一位是可疑的外,其余的数字都是确 定的。它一方面反映了数量的大小,同时也 反映了测量的精密程度。
2构成:全部准确数字+最后一位估计的可疑数 字
如滴定管读数23.45mL,23.4是准确的,而 第四位5可能是4也可能是6,虽然是可疑的, 但又是有效的。
,e
数关系);常数亦可看成具有无限多位数,如
有效数字位数的确定
• • • • 1.0008,43.181 0.1000,10.98% 0.0382,1.98×10- 10 54, 0.0040 5位 4位 3位 2位 1位 位数含糊不确定
• 0.05, 2×10-5 • 3600, 100

有效数字及运算法则

有效数字及运算法则
有效数字及运算法则有效数字的运算法则有效数字运算规则有效数字的运算规则有效数字的运算有效数字运算有效数字有效数字的定义什么是有效数字什么叫有效数字
有效数字及运算法则
一、有效数字的一般概念
定义:在测量结果的数字表示 中,由若干位可靠数字加一位 可疑数字,便组成了有效数字。
上述例子中的测量结果均为三 位有效数字
N

2 65
差(不确定度)决定有效数字,有:
N 0.96 0.03cm
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0 4.02=16 正确
49 = 7 4.02=16.0 错误
试确定N的有效数字。
解: (1)先计算N
N 3.21 6.5 0.957cm 21.8
(2)计算不确定度 N
N
A
2
B
2
C
2

0.01 2
0.2 2
0.004
2
2
N A B C 3.21 6.5 21.843 65
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00

有效数字及运算法则

有效数字及运算法则
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00
(5) 1.00 1.00
— 电流:80mA; 80.0mA; 80.00mA; — 电压:80V; 80.0V; 80.00V
注意:进行单位换算时, 有效数字的位数不变。
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为20000(欧姆),保留三位有 效数字时写成 2.00104
又 如 数 据 为 0.0000325m , 使 用 科 学 记 数 法写成3.2510-5m
3.有效数字与仪器的关系
有效数字及运算法则
一、有效数字的一般概念
定义:在测量结果的数字表示 中,由若干位可靠数字加一位 可疑数字,便组成了有效数字。
上述例子中的测量结果均为三 位有效数字
二、有效数字位数的确定
1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有 效 如:12.04cm 、20.50m 2 、1.000A
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减 “0”
数学上:2.85 2.850 2.8500 物理上:2.85 2.850 2.8500
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
5.相对误差的表达
E N 100% N
0.05 E1 1.20 100% 4.2%

3、有效数字及运算法则

3、有效数字及运算法则
结果为 63.7
+1.234 63.734
例2
19.68 - 5.848 = 13.83 – 19.68 – 5.848
————— ––



13.832结果为 13.83 Nhomakorabea–
2.乘除法
运算规则: 乘除运算后结果的有效数 字一般以参与运算各数中 有效数字位数最少的为准。
例3
————— –– –– 1605 – 1926 – ————— – ––– 结果为 21
而cos20o18’=0.937889…...
误差位在小数点后第四位
根据不确定度: cos20o18’=0.9379
5.自然数与常量
①自然数不是测量值,不存在误差,故有效数字是 无穷位。
如在D=2R中,2不是一位有效数字,而是无穷位
②常数 、e等的位数可与参加运算的量中有效数字 位数最少的位数相同 或多取一位。
(2)指数函数
10x 或 ex 的位数和 x 小数点后的 位数相同(包括紧接小数点后 面的0)
例6
6.25 10 =1778279.41 6 1.810 0.0035 10 =1.00809611.008
(3)三角函数 例 7 x=20 18’ x=1’ 0.0003 弧度
0
求 cos x 的有效数字 解:首先用传递公式计算 cosx 的不确定度 cosx= |sinx|x = sin(20018’) 0.0003 = 0.0001
方数的有效数字位数相同。
如: 1002=100102
49 = 7.0 49 = 7



100=10.0
2 4.0 =16 2 4.0 =16.0

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果得有效数字1.有效数字得定义及其基本性质测量结果中所有可靠数字加上末位得可疑数字统称为测量结果得有效数字。

有效数字具有以下基本特性:(1)有效数字得位数与仪器精度(最小分度值)有关,也与被测量得大小有关。

对于同一被测量量,如果使用不同精度得仪器进行测量,则测得得有效数字得位数就是不同得。

例如用千分尺(最小分度值,)测量某物体得长度读数为。

其中前三位数字“”就是最小分度值得整数部分,就是可靠数字;末位“"就是在最小分度值内估读得数字,为可疑数字;它与千分尺得在同一数位上,所以该测量值有四位数字、如果改用最小分度值(游标精度)为得游标卡尺来测量,其读数为,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“"为可疑数字,它与游标卡尺得也就是在同一数位上。

(2)有效数字得位数与小数点得位置无关,单位换算时有效数字得位数不应发生改变。

2、有效数字与不确定度得关系在我们规定不确定度得有效数字只取一位时,任何测量结果,其数值得最后一位应与不确定度所在得那一位对齐、如,测量值得末位“”刚好与不确定度得“"对齐。

由于有效数字得最后一位就是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值得不确定度(或误差限值)。

测量值得有效数字位数越多,测量得相对不确定度越小;有效位数越少,相对不确定度就越大。

3.数值得科学表示法二、有效数字得运算规则1.数值得舍入修约原则测量值得数字得舍入,首先要确定需要保留得有效数字与位数,保留数字得位数确定以后,后面多余得数字就应予以舍入修约,其规则如下:(1)拟舍弃数字得最左一位数字小于5时,则舍去,即保留得各位数字不变。

(2)拟舍弃数字得最左一位数字大于5,或者就是5而其后跟有并非0得数字时,则进1,即保留得末位数字加1。

(3)拟舍弃数字得最左一位数字为5,而5得右边无数字或皆为0时,若所保留得末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。

例如用千分尺(最小分度值00.011m m ,0.004m mD =仪)测量某物体的长度读数为84.8334m m 。

其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在最小分度值内估读的数字,为可疑数字;它与千分尺的D 仪在同一数位上,所以该测量值有四位数字。

如果改用最小分度值(游标精度)为00.022m m 的游标卡尺来测量,其读数为84.844m m ,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“4”为可疑数字,它与游标卡尺的0.02m m D 仪=也是在同一数位上。

也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。

如39(8.922700.0005)/g c m r =±,测量值的末位“7”刚好与不确定度00.0005的“5”对齐。

”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。

测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法二、有效数字的运算规则1.数值的舍入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以222()()()A B C D +D +D 2222()()0.300.088A C D +D +2222()()0.0402483.751.2R T RTD D æöæöæöæ+´=+´ç÷ç÷ç÷çèøèøèøè2。

有效数字及运算法则

有效数字及运算法则

对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法
62 . 5–+ 1. 234 =– 63 . 7 –
+
62.5– 1.234

——6—3.7—–3—4– 结果为 63.7–
(3)用误差(估计误差范围的不确定度)决定 结果的有效数字
N5.8 30.1cm 2
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法
运算规则:
加减法运算后的有效数字,取到参与运算各 数中 最靠前出现可疑数的那一位。

19.68–- 5.848 =– 13.83 – - 159.8.6488–– ——1—3.—83–—2– 结果为 13.8–3
(2)指数函数 10x或ex的位数和x小数点后的 位数相同(包括紧接小数点后 面的0)
例8
106.25=1778279.41 1.8106
100.0035=1.00809611.008
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法 2.乘除法 3.乘方与开方 4.函数运算
5.自然数与常量
综合运算举例
50.00 ( 18.30 16.3 ) ( 103 3.0 ) ( 1.00 + 0.001 )
=
50.00 2.0 100 1.00
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35

有效数字与运算法则

有效数字与运算法则
• 0.05, 2×10-5
• 3600, 100
5位 4位 3位 2位
1位 位数含糊不确定
说明(1)0的不同作用:是有效数字,如1.0008中0;不是有效 数字,如0.0382中0,起定位作用; (2)位数不定的,可科学计数,3600,可写为3.6×103, 3.60×103,3.600×103,有效数字分别为2,3,4位。
如,将下列数字修约成4位有效数字: 0.52666 →0.5. 267
10.2452 → 10.25 10.2350 →10.24 10.2450 →10.24 10.245001 →10.25
有效数字运算规则
加减法: 结果的绝对误差应不小于各项中绝对误差 最大的数。(与末位数最大的数一致)
50.1 1.46 + 0.5812 52.1412 52.1
±0.1 ±0.01 ±0.001
50.1 1.5 + 0.6 52.2
先修约至安全数字,再运算,后修约至应有的有效数。
乘除法: 结果的相对误差应与各因数中相对误差最大的 数相适应 (即与有效数字位数最少的一致)
例1 0.0121 × 25.66 × 1.0578 = 0.328432 (±0.8%) (±0.04%) (±0.01%) (±0.3%)
谢谢观看! 2020
注意(1)若数据进行乘除运算时, 第一位数字大于
或等于8, 其有效数字位数可多算一位。如9.46可 看做是四位有效数字。
(2)乘方或开方,结果有效数字位数不变。例如, 6.542=42.8
(3)对数计算:对数尾数的位数应与真数的有效 数字位数相同。
例如:[H ] 6.31011 mol/L
pH 10.20
a) 数字前0不计,数字后计入 : 0.02450

有效数字的运算法则

有效数字的运算法则

有效数字的运算法则
有效数字运算规则是:加减法:先按小数点后位数最少的数据,保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。

乘除法:先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。

乘方和开方:对数据进行乘方或开方时,所得结果的有效数字位数保留应与原数据相同。

1、加减法:先按小数点后位数最少的数据,保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。

2、乘除法:先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字。

3、乘方和开方:对数据进行乘方或开方时,所得结果的有效数字位数保留应与原数据相同。

4、对数计算:所取对数的小数点后的位数(不包括整数部分)应与原数据的有效数字的位数相等。

5、在计算中常遇到分数、倍数等,可视为多位有效数字。

— 1 —
6、在乘除运算过程中,首位数为"8"或"9"的数据,有效数字位数可多取1位。

7、在混合计算中,有效数字的保留以最后一步计算的规则执行。

8、表示分析方法的精密度和准确度时,大多数取1~2位有效数字。

— 2 —。

有效数字修约和计算

有效数字修约和计算

练习: ➢ 0.23452、0.28350、0.55278、0.45500001、0.01500
两位有效数字:0.23、0.28、0.55、0.46、0.15 三位有效数字:0.235、0.284、0.553、0.455、0.0150
(3)只进不舍规则 在相对标准偏差(RSD)中采取“只进不舍”的规则,如0.162%,0.52%修约时
解析:
计算公式应为乘除运算,其中0.0408的有效数字位数最少,为三位有效数字, 以此为准进行进算(在运算过程中暂时多保留一位)。
0.0408÷1.004×100.0%=4.064%
因标准规定的限度为不得过4.0%,故将计算结果4.064%修约为4.1%,大于 4.0%,应判为不符合规定。(切忌不能以最后标准的有效位数为准则进行运算,运 算是应先按照运算规则修约计算后将计算结果修约到标准中所规定的有效位数,而 后进行判定。)
最后对计算结果进行修约,应只保留至百分位,故: 13.65 + 0.00823 + 1.633 = 13.65 + 0.008 + 1.633 = 15.291,修约为15.29
二、有效数字的运算法则
2、乘除法 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大,因
此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其他数值 在运算中保留的位数和决定计算结果的有效位数。
3、有效数字的修约规则
在多数情况下,测量数据本身并非最后的要求结果,一般需要经一系列运算后才能 获得所需的结果。在计算一组准确度不等(即有效数字位数不同)的数据之前,应先按 照确定了的有效数字将多余的数字修约或整化。 (1)四舍五入法则
如按照英、美、日药典方法修约时,按照四舍五入进舍即可。 (2)四舍六入五成双法则(源自我国科学技术委员会颁布的《数字修约规则》)

有效数字及运算规则

有效数字及运算规则

有效数字及运算规则1.4.1 有效数字的基本概念任何测量结果都存在不确定度,测量值的位数不能任意的取舍,要由不确定度来决定,即测量值的末位数要与不确定度的末位数对齐。

如体积的测量值3cm 961.5=V ,其不确定度3cm 04.0=V U ,由不确定度的定义及V U 的数值可知,测量值在小数点后的百分位上已经出现误差,因此961.5=V 中的“6”已是有误差的欠准确数,其后面一位“1”已无保留的意义,所以测量结果应写为3cm 04.096.5±=V 。

另外,数据计算都有一定的近似性,计算时既不必超过原有测量准确度而取位过多,也不能降低原测量准确度,即计算的准确性和测量的准确性要相适应。

所以在数据记录、计算以及书写测量结果时,必须按有效数字及其运算法则来处理。

熟练地掌握这些知识,是普通物理实验的基本要求之一,也为将来科学处理数据打下基础。

测量值一般只保留一位欠准确数,其余均为准确数。

所谓有效数字是由所有准确数字和一位欠准确数字构成的,这些数字的总位数称为有效位数。

一个物理量的数值与数学上的数有着不同的含义。

例如,在数学意义上600.460.4=,但在物理测量中(如长度测量),cm 600.4cm 60.4≠,因为cm 60.4中的前两位“4”和“6”是准确数,最后一位“0”是欠准确数,共有三位有效数字。

而cm 600.4则有四位有效数字。

实际上这两种写法表示了两种不同精度的测量结果,所以在记录实验测量数据时,有效数字的位数不能随意增减。

1.4.2 直接测量的读数原则直接测量读数应反映出有效数字,一般应估读到测量器具最小分度值的10/1。

但由于某些仪表的分度较窄、指针较粗或测量基准较不可靠等,可估读5/1或2/1分度。

对于数字式仪表,所显示的数字均为有效数字,无需估读,误差一般出现在最末一位。

例如:用毫米刻度的米尺测量长度,如图1-4-1(a )所示,cm 67.1=L 。

“6.1”是从米尺上读出的“准确”数,“7”是从米尺上估读的“欠准确”数,但是有效的,所以读出的是三位有效数字。

有效数字及其运算法则 - 有效数字及其运算法则

有效数字及其运算法则 - 有效数字及其运算法则
0.536 0.001 0.25
14.7 - 0.3674 - 14.064 =(小数1位)
14.7 0.37 14.06
8
2.乘除法 各测量值相对误差传递 计算结果以有效数字位数最少的为准
若 R=XY R x b
R xb
9
x 0.3210 48.112 (21.25 16.10) 0.28451000 0.3210 48.112 5.15 0.28451000
0.3210 48.11 5.15 (三位) 0.28451000
10
例:6.549, 2.451 一次修约至两位有效数字
6
3、运算过程中可多保留一位 4、修约标准偏差其结果应使准确度降低
S=0.213 两位 S=0.22 表示标准偏差和RSD时,通常取两位有效数字
7
三、运算法则 1、加减法
各测量值绝对误差传递,结果与数据中绝 对误差大的数据相当
0.5362 + 0.001 + 0.25 =(小数点后两位)
5.结果首位为8和9时,有效数字可以多计一位。 例:90.0%,101.4% 均可示为四位有效数字.
3
6. 记录有效数字时,不可夸大。 例:托盘天平:10.3g × 10.3000g,
量筒:10 mL H2O × 10.00mL. 7.常量分析0.000018 2500L (4位) 86(3位) 99.9%(4位) pH=12.26(2位)
2.5430 (5位) Ka=1.8×10-5(2位) 2.50×10-3(3位) 9 (2位) 100.1%(4位)
5
二、数字修约规则
1、四舍六入五留双
四位:14.2442 24.4863 15.0250 15.0150 15.0251

有效数字及运算规则

有效数字及运算规则

有效数字及运算规则一、有效数字为了取得准确的分析结果,不仅要准确测量,而且还要正确记录与计算。

所谓正确记录是指记录数字的位数。

因为数字的位数不仅表示数字的大小,也反映测量的准确程度。

所谓有效数字,就是实际能测得的数字。

有效数字保留的位数,应根据分析方法与仪器的准确度来决定,一般使测得的数值中只有最后一位是可疑的。

例如在分析天平上称取试样,这不仅表明试样的质量,还表明称量的误差在±以内。

如将其质量记录成,则表明该试样是在台称上称量的,其称量误差为,故记录数据的位数不能任意增加或减少。

如在上例中,在分析天平上,测得称量瓶的重量为,这个记录说明有6位有效数字,最后一位是可疑的。

因为分析天平只能称准到,即称量瓶的实际重量应为±,无论计量仪器如何精密,其最后一位数总是估计出来的。

因此所谓有效数字就是保留末一位不准确数字,其余数字均为准确数字。

同时从上面的例子也可以看出有效数字是和仪器的准确程度有关,即有效数字不仅表明数量的大小而且也反映测量的准确度.二、有效数字中"0"的意义"0"在有效数字中有两种意义:一种是作为数字定值,另一种是有效数字.例如在分析天平上称量物质,得到如下质量:物质称量瓶Na2CO3H2C2O4·2H2O称量纸质量10.14302.1045有效数字位数6位5位4位3位以上数据中“0”所起的作用是不同的。

在中两个“0”都是有效数字,所以它有6位有效数字。

在中的“0”也是有效数字,所以它有5位有效数字。

在中,小数前面的“0”是定值用的,不是有效数字,而在数据中的“0”是有效数字,所以它有4位有效数字。

在中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。

综上所述,数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。

以“0”结尾的正整数,有效数字的位数不确定。

例如4500这个数,就不会确定是几位有效数字,可能为2位或3位,也可能是4位。

有效数字及运算法则

有效数字及运算法则

(2)m=(72.3200±0.4)Kg
m=(72.3±0.4)Kg (3)v=1.23±0.015m/s v=(1.23±0.02)m/s
找出下列正确的数据记录:
(4)用量程为100 mA,刻有100小格的0.1级表测量 电流,指针指在80小格上;用量程为100V,刻 有50小格的1.0级表测量电压,指针指在40小格 上,数据如下:
(4)1.002 = 1.00 (5) 1.00 1.00
(6)1002 = 1.00×104
计算:
100 0.1 4 log1000 ______, 17.3021 7.3021
其中 17.3021 - 7.3021 = 10.0000 __________, 3.0000 Log 1000 = ___________,
2 lg100.0 10.0 27.3211 27.31
35
=
100 2.0000 35 0.01
4 35 2 10 =
=
4 210
试用有效数字计算结果:
(1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000
(3)789.30 × 50 ÷ 0.100 = 3.9×103
2位有效数
1位有效数
三、直接测量有效数字的确定 ——如何读数
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度
例1
62 . 5 + 1. 234 = 63 . 7 – 62.5 – + 1.234
————— ––


–63.734结果为来自63.7–例2
————— ––
63 . 7 - 5. 43 = 58 . 3 – 63. 7 – - 5. 43 58. 27

有效数字及运算法则

有效数字及运算法则
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
4.不确定度的表达
N N (单位)
σ取一个有效数字, σ决定N的有效位
a 10.0 0.1cm2 b 20.02 0.01cm
100.0035=1.00809611.008
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法 2.乘除法 3.乘方与开方 4.函数运算
5.自然数与常量
①自然数不是测量值,不存在误差, 故有效数字是无穷位。
如在D=2R中,2不是一位有效数字,而是无穷位
②常数、e等的位数可与参加运算的 量中有效数字位数最少的位数相同 或多取一位。
例 9 L=2R 其中R=2.3510-2m
就应取3.14(或3.142)
即L=23.1422.3510-2=0.148(m)
综合运算举例
50.00 ( 18.30 16.3 ) ( 103 3.0 ) ( 1.00 + 0.001 )
=
50.00 2.0 100 1.00
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字的运算规则
2005-6-11 19:20:59 来源:生命经纬
1)加法和减法
在计算几个数字相加或相减时,所得和或差的有效数字的位数,应以小数点后位数最少的数为准。

如将3.0113、41.25及0.357相加,见下式(可疑数以“?”标出);
可见,小数点后位数最小的数41.25中的5已是可疑,相加后使得44.6183中的1也可疑,所以,再多保留几位已无意义,也不符合有效数字只保留一位可疑数字的原则,这样相加后,结果应是44.62。

以上为了看清加减后应保留的位数,而采用了先运算后取舍的方法,一般情况下可先取舍后运算,即
2)乘法与除法
在计算几个数相乘或相除时,其积或商的有效数字位数应以有效数字位数最少的为准。

如1.211与12相乘:
显然,由于12中的2是可疑的,使得积14.532中的4也可疑,所以保留两位即可,结果就是14。

同加减法一样,也可先取舍后运算,即:
3)对数
进行对数运算时,对数值的有效数字只由尾数部分的位数决定,首数部分为10的幂数,不是有效数字。

如2345的有效数字位数不一致了。

在化学中对数运算很多,如pH值的计算。

若c(H+)
=4.9×10-11mol·L-1,这是两位有效数字,所以pH=-lgc(H+)/cφ=10.31,有效数字仍只有两位。

反过来,由pH=10.31计算c(H+)时,也只能记作{c(H+)}=4.9×10-11,而不能记成4.898×10-11。

4)首位数大于7的数有效数字的确定
对于第一位的数值大于7的数,则有效数字的总位数可多算一位。

例如8.78,虽然只有3位数字,但第一位的数大于7,所以运算时可看作4位。

相关文档
最新文档