2-4 有效数字及其运算规则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

7
辽宁师范大学
Analytical Chemistry 分析化学
二、有效数字的运算规则
先修约,后运算。 1. 修约原则:四舍六入五留双 ≤4: 舍弃 ≥6: 进位 尾数 =5,看5前:
0.31845=0.3184(5舍弃) 保留4位: 0.31844=0.3184(4舍弃) 0.318451=0.3185(进位) 0.31835=0.3184(5进位) 0.31846=0.3185(6进位) 前为双数,舍弃 前为单数,进位
辽宁师范大学
Analytical Chemistry 分析化学
问题的提出
例如: 0.0121×25.64×1.05782 =0.328182308 0.0121+25.64+1.05782=
0.0121 25.64 1.05782
1
+
辽宁师范大学
Analytical Chemistry 分析化学
第二章 定量分析误差
7.0 ±0.1 (2位)
±0.01mL
7.00 ±0.01 (3位)
4
辽宁师范大学
Analytical Chemistry 分析化学
3.有效数字位数的确定
(1)由仪器精度确定。
台秤 Ea ±0.1g 记作 0.5g 位数 1位
分析天平 ±0.0001g 0.5000g 4位
5
辽宁师范大学
Analytical Chemistry 分析化学
+
(二)乘除法 以有效数字位数最少 0.0121×25.64×1.05782 的数字为准修约,使每个 =0.0121×25.6×1.06 数据的有效数字位数相同。 =0.328
9
辽宁师范大学
Analytical Chemistry 分析化学
例:用返滴定法测定软锰矿中MnO2含量, 其结果按下式计算:
(2位)
例:下面结果应以几位有效数字报出?
0.1010 25.00 0.80) ( 1.0000
0.1010 24.20 1.0000
(4位)
链接总结
11
(2)零与有效数字位数的关系 凡是在数字前边的零是无效的。 • • • 后边 • • • 有效• • • 。
(5000,1/2,π,e) (3)非测量数字的位数无限多。
(4)对数的位数由小数点后边 的位数决定。
pH=7.68 lgK=16.64 10-2.00 2.3×10-5
2位 2位 2位 2位
w MnO2 0.8000 3 5 ( 8.00 0.1000 10 ) 86.94 2 126.07 100% 0.5000
问测定结果应以几位有效数字报出?
分析: 0.8000 0.0063457
126.07
5 8.00 0.1000 10 0.002000 2
来自百度文库
Er
前三位准确
± 20%
±0.02%
最后一位不确定,含一个单位的误差
3
辽宁师范大学
Analytical Chemistry 分析化学
2.有效数字的组成
所有的准确数字+最后一位不确定数字
例:量取7mL溶液
100mL量筒 10mL量筒 10mL移液管
Ea
实际 取出
±1mL
7 ±1mL (1位)
±0.1mL
§2-4 有效数字及其运算规则
一、有效数字的定义及位数
二、有效数字的运算规则
2
辽宁师范大学
Analytical Chemistry 分析化学
一、有效数字
1.定义:能实际测量到的数字。
仪器精度(Ea )
记作 含义
台秤 ±0.1g 0.5g 0.4~0.6g
分析天平 ±0.0001g 0.5000g 0.4999 ~ 0.5001g
3
wMnO2 75.568248%
75 .57 %
在乘除法中,若有效数字位数最少的数据的首数是 8或9,其位数可以多算一位。
10
辽宁师范大学
Analytical Chemistry 分析化学
例:下面结果应以几位有效数字报出?
0.1010 25.00 24.80) ( 1.0000
0.1010 0.20 1.0000
8
=5,且5后有非零数字: 进位
辽宁师范大学
Analytical Chemistry 分析化学
2. 运算规则
(一)加减法
以小数点后面位数 最少的数字为准修约, 使每个数据小数点后面 的位数相同。 0.0121+25.64+1.05782 =0.01+25.64+1.06 =26.71
0.0121 25.64 1.05782

滴定管精度:
Ea=± 0.01mL 例如:25.46mL;

万分之一全自动 电子天平精度:
Ea=± 0.0001g 例如:0.5465g
6
辽宁师范大学
Analytical Chemistry 分析化学
3.有效数字位数的确定
(1)由仪器精度确定。
台秤 Ea ±0.1g 记作 0.5g 位数 1位
分析天平 ±0.0001g 0.5000g 4位
相关文档
最新文档