有效数字与运算规则
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
记录的数字不仅表示数量的大小，而且要正确地反 映测量的精确程度。
结果 0.51800 0.5180 0.518
绝对偏差 ±0.00001 ±0.0001 ±0.001
相对偏差 ±0.002% ±0.02% ±0.2%
有效数字位数 5 4 3
2020/5/21
2．数据中零的作用
数字零在数据中具有双重作用： （1）作普通数字用，如 0.5180
混合运算时，加减和乘除分别按规则取有效数字位数。
2020/5/21
3. 对数和反对数运算
在对数与反对数运算中，对数的小数点后位数与真数 的有效数字位数相同（对数的整数部分不计入有效数字位 数)。如：
［Ｈ＋］＝5.6×10-13 mol·Ｌ-1 pH=12.25
lgKa = -9.24
Ｋa＝5.8×10-10
ຫໍສະໝຸດ Baidu结束
2020/5/21
数字修约时，只允许对原始数据进行一次修约，而 不能对该数据进行连续修约。
如将15.46修约到2位有效数字，必须将其一次修约 到15，而不能连续修约为15.46→15.5→16。
2020/5/21
内容选择：
2.1 定量分析中误差的基本概念 2.2 定量分析数据的评价和显著性检验 2.3 有效数字及其运算规则 2.4 分析质量的保证与控制 2.5 标准曲线的回归分析
4位有效数字 5.18010-1 （2）作定位用：如 0.0518
3位有效数字 5.1810-2
2020/5/21
3．改变单位，不改变有效数字的位数
如： 24.01mL， 24.0110-3 L
4．注意点
（1）容量器皿；滴定管；移液管；容量瓶；4位有效数字 （2）分析天平（万分之一）取4位有效数字
例： 0.0121
绝对误差：0.0001
25.64
0.01
1.057
0.001
26.7091
2020/5/21
2. 乘除运算
有效数字的位数取决于相对误差最大的数据的位数。 例：(0.0325 5.103 60.0)/ 139.8 = 0.071179184 0.0325 （±0.0001/0.0325） 100%=±0.3% 5.103 （±0.001 /5.103） 100%=±0.02% 60.06 （± 0.01 /60.06） 100%=±0.02% 139.8 （±0.1 /139.8） 100% =±0.07%
2020/5/21
4. 注意点
（1） 分数、比例系数、实验次数等不记位数； （2） 第一位数字大于8时，多取一位，
如：8.48，可按4位算； （3） 四舍六入五留双；
0.24335 = 0.2434；0.24345 = 0.2434 （4） 注意pH计算，[H+] = 5.0210 -3 ， pH = 2.299；
0.1012 g （3）标准溶液的浓度，用4位有效数字表示：
0.1000 mol·L-1 （4）pH 4.34 ，小数点后的数字位数为有效数字位数
对数值：lg x = 2.38； lg(2.4102) = 2 + 0.38
2020/5/21
2.3.2 有效数字的运算规则
1. 加减运算
结果的位数取决于绝对误差最大的数据的位数
有效数字按小数点后的位数计算。
2020/5/21
2.3.3 数字修约规则
“四舍五入”数字修约规则，出现正误差。 国家标准规定的“四舍六入五留双”数字修约规则。 【例2-7】 将下面数据修约为4位有效数字 1.36249→1.362 26.4863→26.49 1.0035→1.004 2.00450→2.004 1.024501→1.025 1.023501→1.024
第二章 定量分析中的误 差与数据评价
第三节 有效数字及其
运算规则
2.3.1 有效数字
2.3.2 有效数字的 运算规则
2.3.3 数字修约规 则
2020/5/21
2.3.1 有效数字
1．实验过程中常遇到的两类数字
（1）非测定值：如测定次数；倍数；系数；分数等。 （2）测量或计算值。数据的位数与测定准确度有关。
结果 0.51800 0.5180 0.518
绝对偏差 ±0.00001 ±0.0001 ±0.001
相对偏差 ±0.002% ±0.02% ±0.2%
有效数字位数 5 4 3
2020/5/21
2．数据中零的作用
数字零在数据中具有双重作用： （1）作普通数字用，如 0.5180
混合运算时，加减和乘除分别按规则取有效数字位数。
2020/5/21
3. 对数和反对数运算
在对数与反对数运算中，对数的小数点后位数与真数 的有效数字位数相同（对数的整数部分不计入有效数字位 数)。如：
［Ｈ＋］＝5.6×10-13 mol·Ｌ-1 pH=12.25
lgKa = -9.24
Ｋa＝5.8×10-10
ຫໍສະໝຸດ Baidu结束
2020/5/21
数字修约时，只允许对原始数据进行一次修约，而 不能对该数据进行连续修约。
如将15.46修约到2位有效数字，必须将其一次修约 到15，而不能连续修约为15.46→15.5→16。
2020/5/21
内容选择：
2.1 定量分析中误差的基本概念 2.2 定量分析数据的评价和显著性检验 2.3 有效数字及其运算规则 2.4 分析质量的保证与控制 2.5 标准曲线的回归分析
4位有效数字 5.18010-1 （2）作定位用：如 0.0518
3位有效数字 5.1810-2
2020/5/21
3．改变单位，不改变有效数字的位数
如： 24.01mL， 24.0110-3 L
4．注意点
（1）容量器皿；滴定管；移液管；容量瓶；4位有效数字 （2）分析天平（万分之一）取4位有效数字
例： 0.0121
绝对误差：0.0001
25.64
0.01
1.057
0.001
26.7091
2020/5/21
2. 乘除运算
有效数字的位数取决于相对误差最大的数据的位数。 例：(0.0325 5.103 60.0)/ 139.8 = 0.071179184 0.0325 （±0.0001/0.0325） 100%=±0.3% 5.103 （±0.001 /5.103） 100%=±0.02% 60.06 （± 0.01 /60.06） 100%=±0.02% 139.8 （±0.1 /139.8） 100% =±0.07%
2020/5/21
4. 注意点
（1） 分数、比例系数、实验次数等不记位数； （2） 第一位数字大于8时，多取一位，
如：8.48，可按4位算； （3） 四舍六入五留双；
0.24335 = 0.2434；0.24345 = 0.2434 （4） 注意pH计算，[H+] = 5.0210 -3 ， pH = 2.299；
0.1012 g （3）标准溶液的浓度，用4位有效数字表示：
0.1000 mol·L-1 （4）pH 4.34 ，小数点后的数字位数为有效数字位数
对数值：lg x = 2.38； lg(2.4102) = 2 + 0.38
2020/5/21
2.3.2 有效数字的运算规则
1. 加减运算
结果的位数取决于绝对误差最大的数据的位数
有效数字按小数点后的位数计算。
2020/5/21
2.3.3 数字修约规则
“四舍五入”数字修约规则，出现正误差。 国家标准规定的“四舍六入五留双”数字修约规则。 【例2-7】 将下面数据修约为4位有效数字 1.36249→1.362 26.4863→26.49 1.0035→1.004 2.00450→2.004 1.024501→1.025 1.023501→1.024
第二章 定量分析中的误 差与数据评价
第三节 有效数字及其
运算规则
2.3.1 有效数字
2.3.2 有效数字的 运算规则
2.3.3 数字修约规 则
2020/5/21
2.3.1 有效数字
1．实验过程中常遇到的两类数字
（1）非测定值：如测定次数；倍数；系数；分数等。 （2）测量或计算值。数据的位数与测定准确度有关。