有效数字与运算规则

合集下载

有效数字的计算法则

有效数字的计算法则

有效数字的计算法则
有效数字是指在最后一个数字后面的数字都是不确定的数字。

有效数字的计算法则是指在进行数学计算时,应当根据有效数字的规则进行计算以保证结果的准确性。

以下是一些有效数字的计算法则: 1. 加减法:在进行加减法运算时,结果的有效数字应当与被加数或被减数中有效数字最少的那个数相同。

2. 乘法:在进行乘法运算时,结果的有效数字应当与被乘数和乘数中有效数字的总和相同。

3. 除法:在进行除法运算时,结果的有效数字应当与被除数中有效数字的总数相同。

4. 幂运算:在进行幂运算时,结果的有效数字应当与底数中有效数字的总数相同。

5. 对数运算:在进行对数运算时,结果的有效数字应当与真数中有效数字的总数相同。

在进行数学计算时,应当注意有效数字的规则,以保证计算结果的准确性。

同时,应当注意四舍五入的规则,以便得到正确的有效数字。

- 1 -。

有效数字及运算法则

有效数字及运算法则

★移液管:25.00mL(4);
☆ 量筒(量至1mL或0.1mL):26mL(2), 4.0mL(2)
a) 数字前0不计,数字后计入 : 0.02450
b) 数字后的0含义不清楚时,最好用指数形式表 示: 1000 ( 1.0×103,1.00×103 ,1.000 ×103 ) a) 自然数可看成具有无限多位数(如倍数关系、分
如,将下列数字修约成4位有效数字: 0.52666 10.2452 10.2350 10.2450 10.245001
→0.5267
→ 10.25 →10.24 →10.24 →10.25
.
有效数字运算规则
加减法: 结果的绝对误差应不小于各项中绝对误差 最大的数。(与末位数最大的数一致) 50.1 1.46 + 0.5812 52.1412 52.1 ±0.1 ±0.01 ±0.001 50.1 1.5 + 0.6 52.2
有效数字及运算法则
有效数字(significant figure)
1定义:是在分析工作中实际测量到的数字, 除最后一位是可疑的外,其余的数字都是确 定的。它一方面反映了数量的大小,同时也 反映了测量的精密程度。
2构成:全部准确数字+最后一位估计的可疑数 字
如滴定管读数23.45mL,23.4是准确的,而 第四位5可能是4也可能是6,虽然是可疑的, 但又是有效的。
,e
数关系);常数亦可看成具有无限多位数,如
有效数字位数的确定
• • • • 1.0008,43.181 0.1000,10.98% 0.0382,1.98×10- 10 54, 0.0040 5位 4位 3位 2位 1位 位数含糊不确定
• 0.05, 2×10-5 • 3600, 100

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则有效数字是科学计数法和普通计数法中最为重要的概念之一,它们在各个领域的数学运算和实际应用中都起着至关重要的作用。

本文将介绍有效数字的概念、计算规则以及其在科学与工程领域中的实际应用。

1. 有效数字的概念有效数字是指测量或表达数据时所能表达的最可靠的数字。

它们通常由测量精度和测量仪器的精确度决定。

有效数字的数量表示了测量值的精度与可靠性。

2. 有效数字的计算规则有效数字的计算规则基于四则运算原理,即加法、减法、乘法和除法。

下面将介绍每种运算的规则:2.1 加法和减法运算规则在加法和减法运算中,有效数字的结果取决于被操作数中最不精确的数字。

具体规则如下:- 保留小数点后面最少的位数。

- 结果中小数点的位置与被操作数中小数点位置对齐。

2.2 乘法和除法运算规则在乘法和除法运算中,有效数字的结果取决于被操作数中最少的有效数字位数。

具体规则如下:- 保留最少有效数字的位数。

- 结果小数点的位置取决于被操作数中小数点的位置及有效数字的位数。

3. 有效数字的应用有效数字在科学和工程领域中有广泛的应用。

以下是几个常见领域的例子:3.1 物理学中的有效数字在物理学中,实验数据的精度对研究结果的可靠性至关重要。

通过使用有效数字,我们可以准确地表达测量结果的误差范围,并对实验数据进行分析和比较。

3.2 工程学中的有效数字在工程学中,有效数字对于设计和制造过程中的精确度至关重要。

例如,在计算结构材料的强度和稳定性时,使用有效数字可以有效地确定其可靠性和安全性。

3.3 金融学中的有效数字在金融学中,有效数字可以帮助我们计算和分析财务数据,如收入、支出、利润等。

使用有效数字可以更加准确地评估投资风险和决策效果。

4. 总结有效数字是数学和实际应用中至关重要的概念之一。

它们通过运算规则可以帮助我们准确地表达、计算和分析数据。

有效数字的应用涵盖了物理学、工程学、金融学等多个领域。

我们应该在各个领域中灵活运用有效数字的概念,并重视数据的精确性和可靠性。

3、有效数字及运算法则

3、有效数字及运算法则
结果为 63.7
+1.234 63.734
例2
19.68 - 5.848 = 13.83 – 19.68 – 5.848
————— ––



13.832结果为 13.83 Nhomakorabea–
2.乘除法
运算规则: 乘除运算后结果的有效数 字一般以参与运算各数中 有效数字位数最少的为准。
例3
————— –– –– 1605 – 1926 – ————— – ––– 结果为 21
而cos20o18’=0.937889…...
误差位在小数点后第四位
根据不确定度: cos20o18’=0.9379
5.自然数与常量
①自然数不是测量值,不存在误差,故有效数字是 无穷位。
如在D=2R中,2不是一位有效数字,而是无穷位
②常数 、e等的位数可与参加运算的量中有效数字 位数最少的位数相同 或多取一位。
(2)指数函数
10x 或 ex 的位数和 x 小数点后的 位数相同(包括紧接小数点后 面的0)
例6
6.25 10 =1778279.41 6 1.810 0.0035 10 =1.00809611.008
(3)三角函数 例 7 x=20 18’ x=1’ 0.0003 弧度
0
求 cos x 的有效数字 解:首先用传递公式计算 cosx 的不确定度 cosx= |sinx|x = sin(20018’) 0.0003 = 0.0001
方数的有效数字位数相同。
如: 1002=100102
49 = 7.0 49 = 7



100=10.0
2 4.0 =16 2 4.0 =16.0

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。

例如用千分尺(最小分度值00.011m m ,0.004m mD =仪)测量某物体的长度读数为84.8334m m 。

其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在最小分度值内估读的数字,为可疑数字;它与千分尺的D 仪在同一数位上,所以该测量值有四位数字。

如果改用最小分度值(游标精度)为00.022m m 的游标卡尺来测量,其读数为84.844m m ,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“4”为可疑数字,它与游标卡尺的0.02m m D 仪=也是在同一数位上。

也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。

如39(8.922700.0005)/g c m r =±,测量值的末位“7”刚好与不确定度00.0005的“5”对齐。

”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。

测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法二、有效数字的运算规则1.数值的舍入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以222()()()A B C D +D +D 2222()()0.300.088A C D +D +2222()()0.0402483.751.2R T RTD D æöæöæöæ+´=+´ç÷ç÷ç÷çèøèøèøè2。

有效数字运算规则

有效数字运算规则
不能数次修约。
00:58:31
5
有效数字及其运算规则
二、有效数字修约原则: 在取舍有效数字位数时,应注意以下几点)
(4)有关化学平衡计算中的浓度,一般保留二位或三位 有效数字。pH值的小数部分才为有效数字,一般保留一 位或 二位有效数字。 例如,[H+]=5.210 -3 mol·L-1 ,则pH = 2.28
00:58:31
2
有效数字及其运算规则
一.有效数字
2.数字零在数据中具有双重作用: (1)若作为普通数,是有效数字
如 0.3180 4位有效数字 3.18010 -1 (2)若只起定位作用,不是有效数字。
如 0.0318 3位有效数字 3.1810 -2 3.改变单位不改变有效数字的位数:
19.02 mL → 19.0210-3 L
(2)分析天平(万分之一)称取样品,质量小数点后取 45 位有效数字。
(3)标准溶液的浓度,用 4 位有效数字表示。
00:58:31
13
四.有效数字规则在分析化学中的应用
2.按有效数字的运算规则正确地计算数据—报出合理的 测试结果。 注意:算式中的相对分子质量取 4 位有效数字。
00:58:31
14
00:58:31
9
有效数字及其运算规则
三. 有效数字的运算规则 2. 乘除运算
几个数据的乘除运算中,所得结果的有效数字的位数 取决于有效数字位数最少的那个数,即相对误差最大 的那个数。
例:( 0.0325 5.103 )/ 139.8 = 0.00119
00:58:31
10
有效数字及其运算规则
(5)表示误差时,取一位有效数字已足够,最多取二位。
00:58:31

有效数字及运算法则

有效数字及运算法则
指针在82mA与83mA之间:读为82.* mA
指针正好在82mA上:读为82.0mA
可修改
12
对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA
可修改
13
例1
62 .
–5
+
1.
23–4
=
63
.
7–
0.326 9.674 __1_0_.0_0_0_,
100.00 __1_._00_0_0_。
0.326 9.674可修改
28
在表达式 100.00 0.100cm 中的
100.00的有效数字是_4__位;
100.00 0.10cm 中的
100.00的有效数字是__4__ 位;
100.0 0.1cm 中的有效数字
注意:进行单位换算时,
有效数字的位数不变。
可修改
4
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为20000(欧姆),保留三位有 效数字时写成 2.00104
又 如 数 据 为 0.0000325m , 使 用 科 学 记 数 法写成3.2510-5m
可修改
5
3.有效数字与仪器的关系
N 0.96 0.0可3修cm改
18
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0
4.02=16
正确
49 = 7
4.02=16.0 错误
可修改
19
(1)对数函数 lgx的尾数与x的位数相同

有效数字与运算法则

有效数字与运算法则
• 0.05, 2×10-5
• 3600, 100
5位 4位 3位 2位
1位 位数含糊不确定
说明(1)0的不同作用:是有效数字,如1.0008中0;不是有效 数字,如0.0382中0,起定位作用; (2)位数不定的,可科学计数,3600,可写为3.6×103, 3.60×103,3.600×103,有效数字分别为2,3,4位。
如,将下列数字修约成4位有效数字: 0.52666 →0.5. 267
10.2452 → 10.25 10.2350 →10.24 10.2450 →10.24 10.245001 →10.25
有效数字运算规则
加减法: 结果的绝对误差应不小于各项中绝对误差 最大的数。(与末位数最大的数一致)
50.1 1.46 + 0.5812 52.1412 52.1
±0.1 ±0.01 ±0.001
50.1 1.5 + 0.6 52.2
先修约至安全数字,再运算,后修约至应有的有效数。
乘除法: 结果的相对误差应与各因数中相对误差最大的 数相适应 (即与有效数字位数最少的一致)
例1 0.0121 × 25.66 × 1.0578 = 0.328432 (±0.8%) (±0.04%) (±0.01%) (±0.3%)
谢谢观看! 2020
注意(1)若数据进行乘除运算时, 第一位数字大于
或等于8, 其有效数字位数可多算一位。如9.46可 看做是四位有效数字。
(2)乘方或开方,结果有效数字位数不变。例如, 6.542=42.8
(3)对数计算:对数尾数的位数应与真数的有效 数字位数相同。
例如:[H ] 6.31011 mol/L
pH 10.20
a) 数字前0不计,数字后计入 : 0.02450

有效数字及运算规则

有效数字及运算规则

有效数字及运算规则1.4.1 有效数字的基本概念任何测量结果都存在不确定度,测量值的位数不能任意的取舍,要由不确定度来决定,即测量值的末位数要与不确定度的末位数对齐。

如体积的测量值3cm 961.5=V ,其不确定度3cm 04.0=V U ,由不确定度的定义及V U 的数值可知,测量值在小数点后的百分位上已经出现误差,因此961.5=V 中的“6”已是有误差的欠准确数,其后面一位“1”已无保留的意义,所以测量结果应写为3cm 04.096.5±=V 。

另外,数据计算都有一定的近似性,计算时既不必超过原有测量准确度而取位过多,也不能降低原测量准确度,即计算的准确性和测量的准确性要相适应。

所以在数据记录、计算以及书写测量结果时,必须按有效数字及其运算法则来处理。

熟练地掌握这些知识,是普通物理实验的基本要求之一,也为将来科学处理数据打下基础。

测量值一般只保留一位欠准确数,其余均为准确数。

所谓有效数字是由所有准确数字和一位欠准确数字构成的,这些数字的总位数称为有效位数。

一个物理量的数值与数学上的数有着不同的含义。

例如,在数学意义上600.460.4=,但在物理测量中(如长度测量),cm 600.4cm 60.4≠,因为cm 60.4中的前两位“4”和“6”是准确数,最后一位“0”是欠准确数,共有三位有效数字。

而cm 600.4则有四位有效数字。

实际上这两种写法表示了两种不同精度的测量结果,所以在记录实验测量数据时,有效数字的位数不能随意增减。

1.4.2 直接测量的读数原则直接测量读数应反映出有效数字,一般应估读到测量器具最小分度值的10/1。

但由于某些仪表的分度较窄、指针较粗或测量基准较不可靠等,可估读5/1或2/1分度。

对于数字式仪表,所显示的数字均为有效数字,无需估读,误差一般出现在最末一位。

例如:用毫米刻度的米尺测量长度,如图1-4-1(a )所示,cm 67.1=L 。

“6.1”是从米尺上读出的“准确”数,“7”是从米尺上估读的“欠准确”数,但是有效的,所以读出的是三位有效数字。

有效数字及其运算规则

有效数字及其运算规则

6. pH、pM、pK等对数值,有效数字位数仅取 决于小数部分数字的位数。
如:pH=2.70,应为两位有效数值。 pH=2.70 即[H+]=2.010-3 两位不是三位 7. 有效数字单位变化时,不能改变有效数字的 位数。
20.00mL0.02000L
例题
看看下面各数的有效数字的位数:
的滴管插入试管里FeSO4溶液的底部
参考答案:B、D
2006年福建 (初赛) 容量分析计算及有效数字
五、(10分)含有SO3的发烟硫酸试样1.400g溶 于水后用0.8050 mol/L NaOH溶液滴定时消耗 36.10 ml。假设试样中不含其它杂质,已知
M(SO3)=80.06
M(H2SO4)=98.08,
有效数字及其运算规则
一、有效数字(significant figure)
概念:分析工作中实际上能测量到的数字。 包括:除最后一位为可疑数字,其余的数字 都是准确的。 可理解为:在可疑数字的位数上有±1个单位 的误差。
如:分析天平称量:1.21 23 (g)(万分之一) 滴定管读数:23.26 (mL)
1.0008
43181
0.1000
10.98%
0.0382
1.98×10-10
54
0.0040
0.05
2×105
3600
100
位数模糊
pH=11.20对应于[H+]=6.3×10-12 二位有效数字
三、数字修约规则
在计算一组准确度不同(即有效数字位 数不同)的数据时,应按照确定了的有效数 字将多余的数字舍弃。 舍弃多余数字的过程称为“数字修约”。
求试样中SO3和H2SO4的百分含量(要求正确保

有效数字及运算规则

有效数字及运算规则

有效数字及运算规则一、有效数字为了取得准确的分析结果,不仅要准确测量,而且还要正确记录与计算。

所谓正确记录是指记录数字的位数。

因为数字的位数不仅表示数字的大小,也反映测量的准确程度。

所谓有效数字,就是实际能测得的数字。

有效数字保留的位数,应根据分析方法与仪器的准确度来决定,一般使测得的数值中只有最后一位是可疑的。

例如在分析天平上称取试样,这不仅表明试样的质量,还表明称量的误差在±以内。

如将其质量记录成,则表明该试样是在台称上称量的,其称量误差为,故记录数据的位数不能任意增加或减少。

如在上例中,在分析天平上,测得称量瓶的重量为,这个记录说明有6位有效数字,最后一位是可疑的。

因为分析天平只能称准到,即称量瓶的实际重量应为±,无论计量仪器如何精密,其最后一位数总是估计出来的。

因此所谓有效数字就是保留末一位不准确数字,其余数字均为准确数字。

同时从上面的例子也可以看出有效数字是和仪器的准确程度有关,即有效数字不仅表明数量的大小而且也反映测量的准确度.二、有效数字中"0"的意义"0"在有效数字中有两种意义:一种是作为数字定值,另一种是有效数字.例如在分析天平上称量物质,得到如下质量:物质称量瓶Na2CO3H2C2O4·2H2O称量纸质量10.14302.1045有效数字位数6位5位4位3位以上数据中“0”所起的作用是不同的。

在中两个“0”都是有效数字,所以它有6位有效数字。

在中的“0”也是有效数字,所以它有5位有效数字。

在中,小数前面的“0”是定值用的,不是有效数字,而在数据中的“0”是有效数字,所以它有4位有效数字。

在中,“1”前面的两个“0”都是定值用的,而在末尾的“0”是有效数字,所以它有3位有效数字。

综上所述,数字中间的“0”和末尾的“0”都是有效数字,而数字前面所有的“0”只起定值作用。

以“0”结尾的正整数,有效数字的位数不确定。

例如4500这个数,就不会确定是几位有效数字,可能为2位或3位,也可能是4位。

有效数字及计算规则

有效数字及计算规则

有效数字及计算规则
有效数字是指用来表示一个测量结果或计算结果的数字。

有效数字通常包括所有的非零数字以及所有的零中间的数字,并且不包括前导零和末尾的零(如果没有小数点)。

以下是计算有效数字的一般规则:
1. 非零数字都是有效数字。

例如,对于数字123,所有的数字都是有效数字。

2. 零在非零数字中间是有效数字。

例如,对于数字1203,所有的数字都是有效数字。

3. 前导零不是有效数字。

例如,对于数字0.023,有效数字为23。

4. 末尾的零在有小数点的情况下是有效数字。

例如,对于数字2.30,有效数字为2.30。

5. 末尾的零在没有小数点的情况下不是有效数字。

例如,对于数字230,有效数字为23。

在进行计算时,有效数字的规则如下:
1. 加法和减法:计算结果的有效数字与运算数中最少的有效数字保持一致。

2. 乘法和除法:计算结果的有效数字与运算数中最少的有效数字保持一致。

3. 指数运算和开方:计算结果的有效数字与运算数中最少的有效数字保持一致。

4. 合并数据:保留最少的有效数字。

例如,将数字1.23和4.567合并,得到
5.80。

有效数字及其运算规则

有效数字及其运算规则

1.3 有效数字及其运算规则1.3.1 有效数字1. 定义有效数字就是实际能测到的数字。

有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。

我们可以把有效数字这样表示。

有效数字=所有的可靠的数字+ 一位可疑数字表示含义:如果有一个结果表示有效数字的位数不同,说明用的称量仪器的准确度不同。

例:7.5克用的是粗天平7.52克用的是扭力天平7.5187克用的是分析天平2. “0”的双重意义作为普通数字使用或作为定位的标志。

例:滴定管读数为20.30毫升。

两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。

改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。

3. 规定(1).倍数、分数关系无限多位有效数字(2). pH、pM、lgc、lgK等对数值,有效数字由尾数决定。

例: pM=5.00 (二位)[M]=1.0×10-5 ;PH=10.34(二位);pH=0.03(二位)注意:首位数字是8,9时,有效数字可多计一位, 如9.83―四位。

1.3.2 数字修约规则(“四舍六入五成双”规则)规定:当尾数≤4时则舍,尾数≥6时则入;尾数等于5而后面的数都为0时,5前面为偶数则舍,5前面为奇数则入;尾数等于5而后面还有不为0的任何数字,无论5前面是奇或是偶都入。

例:将下列数字修约为4位有效数字。

修约前修约后0.526647--------0.52660.36266112------0.362710.23500--------10.24250.65000-------250.618.085002--------18.093517.46--------3517注意:修约数字时只允许一次修约,不能分次修约。

如:13.4748-13.471.3.3 计算规则1. 加减法先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点后保留相同的位数。

有效数字及运算法则

有效数字及运算法则
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
4.不确定度的表达
N N (单位)
σ取一个有效数字, σ决定N的有效位
a 10.0 0.1cm2 b 20.02 0.01cm
100.0035=1.00809611.008
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法 2.乘除法 3.乘方与开方 4.函数运算
5.自然数与常量
①自然数不是测量值,不存在误差, 故有效数字是无穷位。
如在D=2R中,2不是一位有效数字,而是无穷位
②常数、e等的位数可与参加运算的 量中有效数字位数最少的位数相同 或多取一位。
例 9 L=2R 其中R=2.3510-2m
就应取3.14(或3.142)
即L=23.1422.3510-2=0.148(m)
综合运算举例
50.00 ( 18.30 16.3 ) ( 103 3.0 ) ( 1.00 + 0.001 )
=
50.00 2.0 100 1.00
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
记录的数字不仅表示数量的大小,而且要正确地反 映测量的精确程度。
结果 0.51800 0.5180 0.518
绝对偏差 ±0.00001 ±0.0001 ±0.001
相对偏差 ±0.002% ±0.02% ±0.2%
有效数字位数 5 4 3
2020/5/21
2.数据中零的作用
数字零在数据中具有双重作用: (1)作普通数字用,如 0.5180
4位有效数字 5.18010-1 (2)作定位用:如 0.0518
3位有效数字 5.1810-2
2020/5/21
3.改变单位,不改变有效数字的位数
如: 24.01mL, 24.0110-3 L
4.注意点
(1)容量器皿;滴定管;移液管;容量瓶;4位有效数字 (2)分析天平(万分之一)取4位有效数字
0.1012 g (3)标准溶液的浓度,用4位有效数字表示:
0.1000 mol·L-1 (4)pH 4.34 ,小数点后的数字位数为有效数字位数
对数值:lg x = 2.38; lg(2.4102) = 2 + 0.38
2020/5/21
2.3.2 有效数字的运算规则
1. 加减运算
结果的位数取决于绝对误差最大的数据的位数
第二章 定量分析中的误 差与数据评价
第三节 有效数字及其
运算规则
2.3.1 有效数字
2.3.2 有效数字的 运算规则
2.3.3 数字修约规 则
2020/5/21
2.3.1 有效数字
1.实验过程中常遇到的两类数字
(1)非测定值:如测定次数;倍数;系数;分数等。 (2)测量或计算值。数据的位数与测定准确度有关。
结束
2020/5/21
有效数字按小数点后的位数计算。
2020/5/21
2.3.3 数字修约规则
“四舍五入”数字修约规则,出现正误差。 国家标准规定的“四舍六入五留双”数字修约规则。 【例2-7】 将下面数据修约为4位有效数字 1.36249→1.362 26.4863→26.49 1.0035→1.004 2.00450→2.004 1.024501→1.025 1.023501→1.024
数字修约时,只允许对原始数据进行一次修约,而 不能对该数据进行连续修约。
如将15.46修约到2位有效数字,必须将其一次修约 到15,而不能连续修约为15.46→15.5→16。
2020/5/21
内容选择:
2.1 定量分析中误差的基本概念 2.2 定量分析数据的评价和显著性检验 2.3 有效数字及其运算规则 2.4 分析质量的保证与控制 2.5 标准曲线的回归分析
例: 0.0121
绝对误差:0.0001
25.64
0.01
1.057
0.001
26.7091
2020/5/21
2. 乘除运算
有效数字的位数取决于相对误差最大的数据的位数。 例:(0.0325 5.103 60.0)/ 139.8 = 0.071179184 0.0325 (±0.0001/0.0325) 100%=±0.3% 5.103 (±0.001 /5.103) 100%=±0.02% 60.06 (± 0.01 /60.06) 100%=±0.02% 139.8 (±0.1 /139.8) 100% =±0.07%
2020/5/21
Hale Waihona Puke 4. 注意点(1) 分数、比例系数、实验次数等不记位数; (2) 第一位数字大于8时,多取一位,
如:8.48,可按4位算; (3) 四舍六入五留双;
0.24335 = 0.2434;0.24345 = 0.2434 (4) 注意pH计算,[H+] = 5.0210 -3 , pH = 2.299;
混合运算时,加减和乘除分别按规则取有效数字位数。
2020/5/21
3. 对数和反对数运算
在对数与反对数运算中,对数的小数点后位数与真数 的有效数字位数相同(对数的整数部分不计入有效数字位 数)。如:
[H+]=5.6×10-13 mol·L-1 pH=12.25
lgKa = -9.24
Ka=5.8×10-10
相关文档
最新文档