有效数字及其运算规则 PPT
合集下载
有效数字及运算法则
(2)计算不确定度 N
N
0.01 0.2 0.004 A B C N A B C 3.21 6.5 21.843
2 2 2 2 2 2
3.21 6.5 = 21 – 3.21 – 6.5
–
–
–
20.865
N AB / C
其中:
A 3.21 0.01cm , B 6.5 0.2cm , C 21.843 0.004 cm
试确定N的有效数字。
解:
(1)先计算N
3.21 6.5 N 0.957 cm 21.8
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度
(2)用0.1级量程为100mA电流表测电流
对于0.1级表:
△仪= 100mA×0.1% = 0.1mA
指针在82mA与83mA之间:读为82.* mA 指针正好在82mA上:读为82.0mA
对于1.0级表 △仪=100mA×1.0%=1mA
50.00 2.0 = 100 1.00 2 1.010 = 100 = 1.0
2 10.0 lg100.0 27.3211 27.31
35
=
100 2.0000 35 0.01
2104 35 = =
4 210
试用有效数字计算结果:
(1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000
2 65
2 N 0.957 0.03cm 65
(3)根据误差(不确定度)决定有效数字,有:
N 0.96 0.03cm
第三节有效数字及其运算规则
有效数字运算规则
2014-6-19
Analytical chemistry
用氢氧化钠测定阿司匹林的含量称取阿司匹林04015g用已经标定好的氢氧化钠滴定液01025moll滴定终点时用去氢氧化钠滴定液2278ml空白实验用去006ml氢氧化钠已知每11毫升的氢氧化钠滴定液01moll相当于1802mg的乙酰水杨酸计算实测供试品阿司匹林的含量
第三节 有效数字及运算规则
第三节 有效数字及运算规则
的有效数字位数。 例: 60.064 5.103 0.0325÷139.82
先修约再运算:0.0712
√ 先运算再修约:0.0713药检实例:例题:用氢氧化钠测定阿司匹林的含量,称取阿司匹林 0.4015g, 用已经标定好的氢氧化钠滴定液(0.1025mol/L) 滴定, 终点时用去氢氧化钠滴定液22.78mL, 空白实验用去 0.06mL氢氧化钠, 已知每1毫升的氢氧化钠滴定液 (0.1mol/L)相当于18.02mg的乙酰水杨酸, 计算实测供试品 (阿司匹林)的含量。
2. 有效数字位数的确定
(1) 数据中的零
双重作用:
① 数字中间和数字后边的“0”都是有效数字 4位有效数字: 5.108, 1.510 ② 数字前边的“0”都不是有效数字
3位有效数字: 0.0518 ,5.1810-2
注
意:
对于较大和较小的数据,常用10的方次表示
例:1000mL,若有3位有效数字,可写成1.00103mL
有效数字 有效数字的修约规则 有效数字的运算规则
药检中的有效数字应用
一、有效数字( Significant figure)
1. 概念 有效数字指实际能测量到的数字,其位数包括所有 的准确数字和最后的一位可疑数字。
有效数字处理..PPT
④ 若第一位数(不为零数)8,在使用时可多看 作一位有效数字,如8.93可看做四位有效数字。
第三节 有效数字及其运算规则
二.有效数字的表示规则
① 一切直接测量值或由此计算的数值都是有效数 字,有效数字的位数与仪器的准确度相适应。
使用仪器 精度 正确记录 有效数字
移液管 ±0.01ml 25.00ml
b.乘除法 在几个数据的乘除运算中,所得结果
的有效数字的位数取决于相对误差最大的 那个数。
ห้องสมุดไป่ตู้
第三节 有效数字及其运算规则
例如:
3.261×10 -5 ×) 1.78
5.804 58×10 -5
↓
5.804×10 -5
相对误差 /%
0.03 0.6 0.0002
0.2
第三节 有效数字及其运算规则 三.有效数字的运算规则
在运算中弃去多余数字时,应以“四舍六入五 成双”的原则决定进位或弃去。
几个数相加减时,保留有效数字的位数,决定 于小数点后位数最少的一个数,也就是绝对误 差最大的一个数。
第三节 有效数字及其运算规则 三.有效数字的运算规则
几个数相乘除时,保留有效数字的位数,决定 于有效数字位数最少的一个数,也就是相对误 差最大的一个数。
c.计算过程中应注意
1.自然数、分数、倍数不是测量来的,其有效数字位 数可看作不确定。如n(Fe)=6n(K2Cr2O7)中的6倍或 其有效数字可看成任意位的。
2.某一数据中第一位有效数字大于或等于8,则有效 数字可多算一位。如8.34虽只3位,但可看作4位有 效数字。
第三节 有效数字及其运算规则 三.有效数字的运算规则
如10.06 mL,两个零都是测量得来的,这个 数字含有4位有效数字。
第三节 有效数字及其运算规则
二.有效数字的表示规则
① 一切直接测量值或由此计算的数值都是有效数 字,有效数字的位数与仪器的准确度相适应。
使用仪器 精度 正确记录 有效数字
移液管 ±0.01ml 25.00ml
b.乘除法 在几个数据的乘除运算中,所得结果
的有效数字的位数取决于相对误差最大的 那个数。
ห้องสมุดไป่ตู้
第三节 有效数字及其运算规则
例如:
3.261×10 -5 ×) 1.78
5.804 58×10 -5
↓
5.804×10 -5
相对误差 /%
0.03 0.6 0.0002
0.2
第三节 有效数字及其运算规则 三.有效数字的运算规则
在运算中弃去多余数字时,应以“四舍六入五 成双”的原则决定进位或弃去。
几个数相加减时,保留有效数字的位数,决定 于小数点后位数最少的一个数,也就是绝对误 差最大的一个数。
第三节 有效数字及其运算规则 三.有效数字的运算规则
几个数相乘除时,保留有效数字的位数,决定 于有效数字位数最少的一个数,也就是相对误 差最大的一个数。
c.计算过程中应注意
1.自然数、分数、倍数不是测量来的,其有效数字位 数可看作不确定。如n(Fe)=6n(K2Cr2O7)中的6倍或 其有效数字可看成任意位的。
2.某一数据中第一位有效数字大于或等于8,则有效 数字可多算一位。如8.34虽只3位,但可看作4位有 效数字。
第三节 有效数字及其运算规则 三.有效数字的运算规则
如10.06 mL,两个零都是测量得来的,这个 数字含有4位有效数字。
有效数字及运算法则PPT课件
2021/7/23
6
如,将下列数字修约成4位有效数字: 0.52666 →0.5. 267
10.2452 → 10.25 10.2350 →10.24 10.2450 →10.24 10.245001 →10.25
2021/7/23
7
有效数字运算规则
加减法: 结果的绝对误差应不小于各项中绝对误差 最大的数。(与末位数最大的数一致)
有效数字及运算法则
2021/7/23
1
有效数字(significant figure)
1定义:是在分析工作中实际测量到的数字, 除最后一位是可疑的外,其余的数字都是确 定的。它一方面反映了数量的大小,同时也 反映了测量的精密程度。
2构成:全部准确数字+最后一位估计的可疑数 字
如滴定管读数23.45mL,23.4是准确的,而 第四位5可能是4也可能是6,虽然是可疑的, 但又是有效的。
4
有效数字位数的确定
• 1.0008,43.181 • 0.1000,10.98% • 0.0382,1.98×10- 10 • 54, 0.0040
• 0.05, 2×10-5
• 3600, 100
5位 4位 3位 2位
1位 位数含糊不确定
说明(1)0的不同作用:是有效数字,如1.0008中0;不是有效 数字,如0.0382中0,起定位作用; (2)位数不定的,可科学计数,3600,可写为3.6×103, 3.60×103,3.600×103,有效数字分别为2,3,4位。
2021/7/23
9
注意(1)若数据进行乘除运算时, 第一位数字大于
或等于8, 其有效数字位数可多算一位。如9.46可 看做是四位有效数字。
(2)乘方或开方,结果有效数字位数不变。例如, 6.542=42.8
有效数字及运算法则
指针在82mA与83mA之间:读为82.* mA
指针正好在82mA上:读为82.0mA
可修改
12
对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA
可修改
13
例1
62 .
–5
+
1.
23–4
=
63
.
7–
0.326 9.674 __1_0_.0_0_0_,
100.00 __1_._00_0_0_。
0.326 9.674可修改
28
在表达式 100.00 0.100cm 中的
100.00的有效数字是_4__位;
100.00 0.10cm 中的
100.00的有效数字是__4__ 位;
100.0 0.1cm 中的有效数字
注意:进行单位换算时,
有效数字的位数不变。
可修改
4
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为20000(欧姆),保留三位有 效数字时写成 2.00104
又 如 数 据 为 0.0000325m , 使 用 科 学 记 数 法写成3.2510-5m
可修改
5
3.有效数字与仪器的关系
N 0.96 0.0可3修cm改
18
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0
4.02=16
正确
49 = 7
4.02=16.0 错误
可修改
19
(1)对数函数 lgx的尾数与x的位数相同
指针正好在82mA上:读为82.0mA
可修改
12
对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA
可修改
13
例1
62 .
–5
+
1.
23–4
=
63
.
7–
0.326 9.674 __1_0_.0_0_0_,
100.00 __1_._00_0_0_。
0.326 9.674可修改
28
在表达式 100.00 0.100cm 中的
100.00的有效数字是_4__位;
100.00 0.10cm 中的
100.00的有效数字是__4__ 位;
100.0 0.1cm 中的有效数字
注意:进行单位换算时,
有效数字的位数不变。
可修改
4
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为20000(欧姆),保留三位有 效数字时写成 2.00104
又 如 数 据 为 0.0000325m , 使 用 科 学 记 数 法写成3.2510-5m
可修改
5
3.有效数字与仪器的关系
N 0.96 0.0可3修cm改
18
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0
4.02=16
正确
49 = 7
4.02=16.0 错误
可修改
19
(1)对数函数 lgx的尾数与x的位数相同
提高分析结果准确度的方法第五节-有效数字及其运算规则第培训课件.ppt
e2
2
又du dx 则dx du
f (x)dx
1
u2
e 2 du (u)du
2
即y (u)
1
u2
e2
2
标准正态分布曲线—N(0,1)表示
注:u 是以σ为单位来表示随机误差 x -μ
..
18
误差大于3σ 舍去
..
19
三、随机误差的区间概率
3.过失(mistake)
粗心大意、违反操作规程,实质是错误。可 以避免
重做!
..
11
第二节 随机误差的正态分布
一、频率分布 二、正态分布 三、随机误差的区间概率
..
12
一、频率分布
..
13
集中性、分散性 测量值越多,分组越细,相对频数直方图→平滑曲线
..
14
二、正态分布
(一)正态分布曲线表达式
..
40
例:采用某种新方法测定基准明矾中铝的百分含量,
得到以下九个分析结果,10.74%,10.77%, 10.77%,10.77%,10.81%,10.82%,10.73%, 10.86%,10.81%。试问采用新方法后,是否 引起系统误差?(P=95%)
解:n 9 f 9 1 8
Q x2 x1 xn x1
若xn为可疑值 3. 查Q值表
Q xn xn1 xn x1
4. 判断 若Q>Q表,舍弃;否则保留
..
34
Q值表
测量次
数n
3
4
5
6
7
8
9
10
Q0.90 0.94 0.76 0.64 0.56 0.51 0.47 0.44 0.41
2
又du dx 则dx du
f (x)dx
1
u2
e 2 du (u)du
2
即y (u)
1
u2
e2
2
标准正态分布曲线—N(0,1)表示
注:u 是以σ为单位来表示随机误差 x -μ
..
18
误差大于3σ 舍去
..
19
三、随机误差的区间概率
3.过失(mistake)
粗心大意、违反操作规程,实质是错误。可 以避免
重做!
..
11
第二节 随机误差的正态分布
一、频率分布 二、正态分布 三、随机误差的区间概率
..
12
一、频率分布
..
13
集中性、分散性 测量值越多,分组越细,相对频数直方图→平滑曲线
..
14
二、正态分布
(一)正态分布曲线表达式
..
40
例:采用某种新方法测定基准明矾中铝的百分含量,
得到以下九个分析结果,10.74%,10.77%, 10.77%,10.77%,10.81%,10.82%,10.73%, 10.86%,10.81%。试问采用新方法后,是否 引起系统误差?(P=95%)
解:n 9 f 9 1 8
Q x2 x1 xn x1
若xn为可疑值 3. 查Q值表
Q xn xn1 xn x1
4. 判断 若Q>Q表,舍弃;否则保留
..
34
Q值表
测量次
数n
3
4
5
6
7
8
9
10
Q0.90 0.94 0.76 0.64 0.56 0.51 0.47 0.44 0.41
有效数字 ppt课件
不同,说明用的称量仪器的准确度不同。
例:7.5克
用的是粗天平
7.52克
用的是扭力天平
7.5187克 用的是分析天平
ppt课件
5
2、确定有效数字位数的原则: ①一个量值只保留一位不确定数字,在记录
测量值时必须记一位不确定的数字,且只 能记一位;
②数字0~9都是有效数字,当0只是作为定小 数点位置时不是有效数字。
ppt课件
9
尾数等于5而后面的数都为0时,5前面为偶数 则舍,5前面为奇数则入;尾数等于5而后面 还有不为0的任何数字,无论5前面是奇或是 偶都入。
例:将下列数字修约为4位有效数字。
修约前
修约后
10.23500--------10.24
250.65000-------250.6
18.085002--------18.09
ppt课件
20
习题:滴定管的读数误差为±0.02mL。如果滴定中用去标 准溶液的体积分别为2mL和20mL左右,读数的相对误差各 是多少?从相对误差的大小说明了什么问题?
解:因滴定管的读数误差为±0.02mL,故读数的绝对误差 E=0.02mL
根据
r
XT
100%
r2m L0 2 .0 m m 2L L 10 % 01%
ppt课件
13
例2:0.0121×25.64×5 =? 5是一个有效数字位数不确定数字,或是一 个准确数字,则有效数字位数最少的数是0.0121 三位有效数字,则把25.64也修约位三位有效数 字,即25.6。 0.0121×25.64×5=0.0121×25.6×5 =1.55
有效数字虽经修约,可是运算结果只能用
一、有效数字 1、定义 有效数字就是实际能测到的数字。有效数
第三节有效数字及其运算规则案例
准确数字
可疑数字 绝对误差 相对误差ห้องสมุดไป่ตู้
0.19% 实际数据范围 51.8 0.1
3. 在0 ~ 9中,只有“ 0 ”既是有效数 字,又是无效数字(双重意义)
例: 0.06050 四位有效数字
定位 有效位数
例:3600
3600 → 3.6×103
有效数字位数不确定
两位
3600 → 3.60×103
说明: 以有效数字位数最少的数为准 把其他数据修约为相同位数
小测
1.一个分析工作者获得3个极接近的平行测 定的结果,问可能得出下面什么结论: (1)偶然误差很低 (2)系统误差很低 (3)所用试剂很纯 (4)平均值是准确的
2.若分析结果的精密度很好,准确度很差, 可能是下面哪几种原因造成的: (1)操作中未发生机械损失(如溶液溅出) (2)使用为校正的砝码 (3)称样量记录有差错 (4)使用试剂不纯
3.某试样经分析测得含锰的质量分数(%) 为:41.24,41.27,41.23,41.23,求分 析结果的平均偏差,标准偏差和变异系 数。
4.下列数据包含几位有效数字,若有效数 字位数大于两位的请修约为两位 (1)0.0251 (2)0.2180 (3)1.8×10-5 (4)pK=2.55 (5)6910 (6)20.37
51.8
这两个数是一样的吗?
51.80
第三节 有效数字及其运算规则
一、有效数字 二、有效数字的修约规则 三、有效数字的运算法则
一、有效数字:实际可以测量得到的数字 1. 有效数字由其前面的所有准确数字和 最后一位可疑数字构成
例 : 滴 定 读 数 20.30mL , 四 位 有 效 数 字 , 其 中 “20.3”是准确数字,最后一位“0”是可疑的,
2020-3-18-大学化学与课程思政 有效数字-动态课件
物体的长度为
5.15cm
★有效数字——人生价值也包括准确数字和估计数字。
有效数字的判断规则
序号 类型 a 数字前0不计,数字后计入
b 数字后的0含义不清楚时, 最好用 指数形式表示
c 自然数和常数具有无限多位数(如倍数、 分数关系)
d pH,pM,lgK等对数值的有效数 字位数按小数部分计
e 误差只需保留1~2位
☆移液管: 25.00mL 4
体积V读数与记录:
☆容量瓶: 100.0mL 4 250.0mL 4
☆量筒
(量至1mL或0.1mL):
25mL
2
4.0mL
2
6.7
可 疑 数 字 7
6.78
准可 确疑 数数 字字 78
★资源很重要:测量工具不一样,数据差别很大。 说明拥有资源就不一样,得到的结论就大不一样。
=0.012×26 ×(0.1 +12.1)+0.3214
= 0.012×26 ×12.2
+0.3214
= 0.012×26 ×12
+0.3214
=3.7
+0.3
=4.0
A、4 B、4.0
ห้องสมุดไป่ตู้
C、4 .1 D 、4 .13
定义 测量到的、具有实际意义的数字,包括所有和准确数字最后一位可疑数字
第一个不为0的数字开始计入
有效数字运算中的修约规则
四舍六入五成双
★可疑值的取舍——要努力做真
尾数≤4时舍; 尾数≥6时入 实的自己,不要成为可疑值。
尾数=5时, 若后面数为0, 舍5成双;若5后面还有
不是0的任何数皆入
例 下列值修约为四位有效数字
0.324 74 0.324 75 0.324 85
5.15cm
★有效数字——人生价值也包括准确数字和估计数字。
有效数字的判断规则
序号 类型 a 数字前0不计,数字后计入
b 数字后的0含义不清楚时, 最好用 指数形式表示
c 自然数和常数具有无限多位数(如倍数、 分数关系)
d pH,pM,lgK等对数值的有效数 字位数按小数部分计
e 误差只需保留1~2位
☆移液管: 25.00mL 4
体积V读数与记录:
☆容量瓶: 100.0mL 4 250.0mL 4
☆量筒
(量至1mL或0.1mL):
25mL
2
4.0mL
2
6.7
可 疑 数 字 7
6.78
准可 确疑 数数 字字 78
★资源很重要:测量工具不一样,数据差别很大。 说明拥有资源就不一样,得到的结论就大不一样。
=0.012×26 ×(0.1 +12.1)+0.3214
= 0.012×26 ×12.2
+0.3214
= 0.012×26 ×12
+0.3214
=3.7
+0.3
=4.0
A、4 B、4.0
ห้องสมุดไป่ตู้
C、4 .1 D 、4 .13
定义 测量到的、具有实际意义的数字,包括所有和准确数字最后一位可疑数字
第一个不为0的数字开始计入
有效数字运算中的修约规则
四舍六入五成双
★可疑值的取舍——要努力做真
尾数≤4时舍; 尾数≥6时入 实的自己,不要成为可疑值。
尾数=5时, 若后面数为0, 舍5成双;若5后面还有
不是0的任何数皆入
例 下列值修约为四位有效数字
0.324 74 0.324 75 0.324 85
有效数字运算规则ppt课件
15:18:57
4
▪ “四舍六入五成双” ▪ 1、 当尾数≤4时将其舍去;尾数≥6时就进一位; ▪ 2、等于5则看其前一位,加1后为奇数则舍,为偶数则入. ▪ 2.596 取三位有效数字 ▪ = 2.60 ▪ 2.594 取三位有效数字 ▪ = 2.59 ▪ 2.595 取三位有效数字 ▪ = 2.60 ▪ 2.585 取三位有效数字 ▪ = 2.58 ▪ 注意:进行数字修约时只能一次修约到指定的位数,
字。
▪ 记录为:0.0121 × 25.6 × 1.06 = 0.328 ▪ 注意:用计算器计算结果后,要按照运算规则对结果
进行修约.
15:18:58
11
有效数字及其运算规则
三. 有效数字的运算规则 ▪ 2. 乘除运算 ▪ 例:计算2.5046×2.005×1.52 =? ▪ 修约为:2.50×2.00×1.52 =? ▪ 计算器计算结果显示为 7.6,只有两位有效数字,但我
15:18:58
9
有效数字及其运算规则
三. 有效数字的运算规则 2. 乘除运算
几个数据的乘除运算中,所得结果的有效数字的位数 取决于有效数字位数最少的那个数,即相对误差最大 的那个数。
例:( 0.0325 5.103 )/ 139.8 = 0.00119
15:18:58
10
有效数字及其运算规则
15:18:57
3
有效数字及其运算规则
二、有效数字修约原则: 在取舍有效数字位数时,应注意以下几点) (1)在分析化学计算中,经常会遇到一些分数、整数、倍 数等,这些数可视为足够有效。
(2)若某一数据第一位有效数字等于或大于8,则有效数 字的位数可多算一位。如:9.98,按4位算。
(3)在计算结果中,采用“四舍六入五成双” 原则进行修约。
分析数据处理有效数字运算规则.ppt
二、有效数字运算规则
(2)乘除法 几个数据相乘除,所得结果的有效数字的位数取决于各数中有 效数字位数最少、相对误差最大的那个数据。 0.14×15.2525 =?
二、有效数字运算规则
0.14×15.2525
15.2525
×
0.14
61 0100
152 525 .
2.1 3 Biblioteka 3 5 0 ——2.1二、有效数字运算规则
③在重量分析和滴定分析中,一般要求有四位有效数字;对相对原子质量、相 对分子质量等的取值应与题意相符;各种分析方法测量的数据不足四位有效数 据时,应按最少的有效数字位数保留。 ④有关化学平衡的计算(如平衡状态某离子的浓度等),一般保留二或三位有 效数字。 ⑤表示偏差和误差时,通常取1~2位有效数字即可。
技能四:分析数据处理与评价
任务二、有效数字运算规则
二、有效数字运算规则
三、有效数字运算规则 (*先计算后修约)
(1)加减法 几个数据相加或相减时,它们的和或差的有效数字的保留, 应以小数点后位数最少的数据为根据,即取决于绝对误差最大的那个数据。
3.72+10.6355=? 3 .7 2
+ 10.6355 . 1 4 . 3 5 5 5 ——14.36
相对误差
0.01 7.1 % 0.14 0.0001 6.6 104% 15.2525
0.1 4.8% 2.1
二、有效数字运算规则
运算中还应注意: ①分析化学计算经常会遇到分数、倍数、常数(如R、2.303等),其有效数 字位数可认为无限制,即在计算过程中不能根据它们来确定计算结果的有效 数字的位数。 ②对数尾数的有效数字位数应与真数的有效数字位数相同,在有关对数和反 对数的运算中应加以注意。例如:log339=2.530,而不应是2.53。
有效数字与运算规则ppt课件
2. 乘除运算时
有效数字的位数取决于相对误差最大的数据的位
数(即以运算式中有效数字位数最少的数据为依据)
0.0712 例:(0.0325 5.103 60.0)/ 139.8 = 0.071179184
0.0325 5.103 60.06 139.8
±0.0001/0.0325 100%=±0.3% ±0.001 /5.103 100%=±0.02% ± 0.01 /60.06 100%=±0.02% ±0.1 /139.8 100% =±0.07%
所得数只有一位可疑数字。 • 4.对于高含量组分(例如>10%)的测定,一般要求分
析结果有4位有效数字;对于中含量组分(例如1~ 10%),一般要求3位有效数字;对于微量组分(<1%), 一般只要求2位有效数字。通常以此为标准,报出分析 结果。 • 5.当涉及到各种常数时,一般视为准确的,不考虑其 有效数字的位数。
0.1256;1.97;704.7;9.3 11025 ;
1.3.3 置信度(置信水平)与平均值的置信区间
• (1) 置信度(置信水平,P) :真实值(测定结果的平均值)
落在 tS X 区间内的概率. 一般P=90%或95%.
(2) 平均值的置信区间:在一定置信度下,以平均值为
中心,包括总体平均值 x 的置信区间,即
有效数字按小数点后的位数计算。 (5)表示分析方法的精密度和准确度时,大多数取1—2位有效数字。
10
4 有效数字运算规则在分析测试中的应用
• 1.记录测定结果时,只应保留一位可疑数字。 • 2.有效数字位数确定以后,按“四舍六入五成双”规
则进行修约。 • 3.几个数相加减时,以绝对误差最大的数为标准,使
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
例如,将下列数据修约为两位有效数字
四. 有效数字的计算规则 (1) 加减法;以 小数点后位数最少的为准 先修约后加减,结果位数也按点后位数 最少的算。
例如, 0.0121+12.56+7.8432 可先修约后计算,即 0.01+12.56+7.84=20.41
(2) 乘除法;结果保留位数应与 有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67 可先修约后计算, (0.0142×24.4×306)/28.7=3.69。
(3) 乘方或开方;, 结果有 效数字位数不变。 例如, 6.542=42.8 7.562.75
(4) 对数计算;对数尾数的位数应
与真数的有效数字位数相同。
例如:
[H]6.31011mol/L pH10.20
(5) 表示分析结果的精密度和准确度 时, 误差和偏差等只取一位或两 位有效数字。
例如:E=0.123%表示为:0.1%或 0.12%
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
注意:进行单位换算时,有 效数字的位数不变。
3.有效数字与仪器的关系
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
大家有疑问的,可以询问和交流
可以互相讨论下,但要小
三. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。
修约规则:为四舍六入五成双(尾留双),被修约 ≤4,舍弃,被修约数≥6则进位,若是5将有 两种情况:前面是奇数则进位为偶数,若前面 是偶数则舍弃,若5后面还有不为0的数,则不 管前面数字奇偶一律进位。
有效数字及其运算规则
例如, 用分析天平称NaCl1.2007g,可能 有±0.0001g的误差;用台秤称1.20g,可能 有±0.01g的误差。 注意: 数字0可以是测量得到的有效数 字,但当0只用来定位时,就不能是有效 数字,并且有效数字的位数与小数点的 位置无关。
例如: 1.2007g (五位) 0.0012007g(五 位)
物体质量 有效数字位数 使用仪器
16.5g
3
台天平
16.651g
5
普通摇摆天平
16.6514g
6
分析天平
二、有效数字位数的确定
1.关于“0”的有效问题 ①.当“0”在数字中间或Байду номын сангаас尾时有 效 如:12.04cm、20.50m2、1.000A
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减
“0数”学上:2 .8 5 2 .85 2 .8 050 物理上:2 .8 5 2 .85 2 .8 050
(6) 计算中涉及到常数,e以及非测量
值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。
(7) 为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部 数字作为结果。
四. 有效数字的计算规则 (1) 加减法;以 小数点后位数最少的为准 先修约后加减,结果位数也按点后位数 最少的算。
例如, 0.0121+12.56+7.8432 可先修约后计算,即 0.01+12.56+7.84=20.41
(2) 乘除法;结果保留位数应与 有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67 可先修约后计算, (0.0142×24.4×306)/28.7=3.69。
(3) 乘方或开方;, 结果有 效数字位数不变。 例如, 6.542=42.8 7.562.75
(4) 对数计算;对数尾数的位数应
与真数的有效数字位数相同。
例如:
[H]6.31011mol/L pH10.20
(5) 表示分析结果的精密度和准确度 时, 误差和偏差等只取一位或两 位有效数字。
例如:E=0.123%表示为:0.1%或 0.12%
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
注意:进行单位换算时,有 效数字的位数不变。
3.有效数字与仪器的关系
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
大家有疑问的,可以询问和交流
可以互相讨论下,但要小
三. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。
修约规则:为四舍六入五成双(尾留双),被修约 ≤4,舍弃,被修约数≥6则进位,若是5将有 两种情况:前面是奇数则进位为偶数,若前面 是偶数则舍弃,若5后面还有不为0的数,则不 管前面数字奇偶一律进位。
有效数字及其运算规则
例如, 用分析天平称NaCl1.2007g,可能 有±0.0001g的误差;用台秤称1.20g,可能 有±0.01g的误差。 注意: 数字0可以是测量得到的有效数 字,但当0只用来定位时,就不能是有效 数字,并且有效数字的位数与小数点的 位置无关。
例如: 1.2007g (五位) 0.0012007g(五 位)
物体质量 有效数字位数 使用仪器
16.5g
3
台天平
16.651g
5
普通摇摆天平
16.6514g
6
分析天平
二、有效数字位数的确定
1.关于“0”的有效问题 ①.当“0”在数字中间或Байду номын сангаас尾时有 效 如:12.04cm、20.50m2、1.000A
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减
“0数”学上:2 .8 5 2 .85 2 .8 050 物理上:2 .8 5 2 .85 2 .8 050
(6) 计算中涉及到常数,e以及非测量
值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。
(7) 为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部 数字作为结果。