有效数字及其运算规则
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
(1)当多余尾数≤4时舍去尾数,≥6时进位。 (2)尾数正好是5时分两种情况:
a. 若5后数字不为0,一律进位,0.1067534 b. 5后无数或为0,采用5前是奇数则将5进位,5前是偶 数则把5舍弃,简称“奇进偶舍”。0.43715; 0.43725
数据修约规则可参阅GB8170-87。
3.示例与讨论
(1)示例:保留四位有效数字,修约: 14.2442 → 14.24 26.4863 → 26.49 15.0250 → 15.02 15.0150 → 15.02 15.0251 → 15.03
(2)一次修约到位,不能连续多次的修约 如 2.3457修约到两位,应为2.3, 如连续修约则为 2.3457 → 2.346 → 2.35 → 2.4 不对。
0.0325 5.103 60.06 139.8
±0.0001 / 0.0325 100% = ±0.3% ±0.001 / 5.103 100% = ±0.02% ±0.01 / 60.06 100% = ±0.02% ±0.1 / 139.8 100% = ±0.07%
先修约再运算?先运算再修约? 结果数值有时不
0.1000 mol/L d. pH = 4.34,小数点后的数字位数为有效数字位
数;对数值,lgX = 2.38;lg(2.4 102)
(6)运算数字中首位数字≥8,有效数字可
多记一位。
2.4.2 修约规则
1. 为什么要进行修约?
数字位数能正确表达实验的准确度,舍去多余的数字。
2. 修约规则:“四舍六入五留双”
2.4.3 运算规则
1.加减法运算
结果的位数取决于绝对误差最大的数据的位数
例: 0. 0121
绝对误差: 0.0001
25. 64
0.01
1. 057
0.001
26.7091
2. 乘除法运算
有效数字的位数取决于相对误差最大的数据的位数。
例:(0.0325 5.103 60.0)/ 139.8 =0.071179184=0.0712
±0.2%Baidu Nhomakorabea
3
(4)数据中零的作用
数字零在数据中具有双重作用: a. 作普通数字用, 如 0.5180; 5.180 10-1 4位有效数字 b. 作定位用, 如 0.0518;5.18 10-2 3位有效数字
(5)注意点
a. 容量器皿: 滴定管,移液管,容量瓶;4位有效数字
b. 分析天平(万分之一)取4位有效数字 c. 标准溶液的浓度,用4位有效数字表示:
1. 实验过程中遇到的两类数字
(1)非测量值 如测定次数;倍数;系数;分数;常数(π)
有效数字位数可看作无限多位。 (2)测量值或计算值 实际测量得到的数字和按照一定计量关系计算
得到的数字 (3)可疑数字:有效数字的最后一位数字,通常
为估计值,不够准确,故称为可疑值。
2. 有关有效数字的讨论
(1)正确记录实验数据
一样。将参与运算的各数的有效数字位数修约到比该
数应有的有效数字位数多一位(多取的数字称为安全数
字),再进行运算。
用分析天平与用托盘天平称取试样的不同。
(2)实验记录的数字不仅表示数量的大小,而且
要正确地反映测量的精确程度。
(3)一般有效数字的最后一位数字有±1个单位的
误差。
结果
绝对偏差
相对偏差 有效数字位数
0.51800
±0.00001
±0.002%
5
0.5180
±0.0001
±0.02%
4
0.518
±0.001
a. 若5后数字不为0,一律进位,0.1067534 b. 5后无数或为0,采用5前是奇数则将5进位,5前是偶 数则把5舍弃,简称“奇进偶舍”。0.43715; 0.43725
数据修约规则可参阅GB8170-87。
3.示例与讨论
(1)示例:保留四位有效数字,修约: 14.2442 → 14.24 26.4863 → 26.49 15.0250 → 15.02 15.0150 → 15.02 15.0251 → 15.03
(2)一次修约到位,不能连续多次的修约 如 2.3457修约到两位,应为2.3, 如连续修约则为 2.3457 → 2.346 → 2.35 → 2.4 不对。
0.0325 5.103 60.06 139.8
±0.0001 / 0.0325 100% = ±0.3% ±0.001 / 5.103 100% = ±0.02% ±0.01 / 60.06 100% = ±0.02% ±0.1 / 139.8 100% = ±0.07%
先修约再运算?先运算再修约? 结果数值有时不
0.1000 mol/L d. pH = 4.34,小数点后的数字位数为有效数字位
数;对数值,lgX = 2.38;lg(2.4 102)
(6)运算数字中首位数字≥8,有效数字可
多记一位。
2.4.2 修约规则
1. 为什么要进行修约?
数字位数能正确表达实验的准确度,舍去多余的数字。
2. 修约规则:“四舍六入五留双”
2.4.3 运算规则
1.加减法运算
结果的位数取决于绝对误差最大的数据的位数
例: 0. 0121
绝对误差: 0.0001
25. 64
0.01
1. 057
0.001
26.7091
2. 乘除法运算
有效数字的位数取决于相对误差最大的数据的位数。
例:(0.0325 5.103 60.0)/ 139.8 =0.071179184=0.0712
±0.2%Baidu Nhomakorabea
3
(4)数据中零的作用
数字零在数据中具有双重作用: a. 作普通数字用, 如 0.5180; 5.180 10-1 4位有效数字 b. 作定位用, 如 0.0518;5.18 10-2 3位有效数字
(5)注意点
a. 容量器皿: 滴定管,移液管,容量瓶;4位有效数字
b. 分析天平(万分之一)取4位有效数字 c. 标准溶液的浓度,用4位有效数字表示:
1. 实验过程中遇到的两类数字
(1)非测量值 如测定次数;倍数;系数;分数;常数(π)
有效数字位数可看作无限多位。 (2)测量值或计算值 实际测量得到的数字和按照一定计量关系计算
得到的数字 (3)可疑数字:有效数字的最后一位数字,通常
为估计值,不够准确,故称为可疑值。
2. 有关有效数字的讨论
(1)正确记录实验数据
一样。将参与运算的各数的有效数字位数修约到比该
数应有的有效数字位数多一位(多取的数字称为安全数
字),再进行运算。
用分析天平与用托盘天平称取试样的不同。
(2)实验记录的数字不仅表示数量的大小,而且
要正确地反映测量的精确程度。
(3)一般有效数字的最后一位数字有±1个单位的
误差。
结果
绝对偏差
相对偏差 有效数字位数
0.51800
±0.00001
±0.002%
5
0.5180
±0.0001
±0.02%
4
0.518
±0.001