实验数据处理..
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
pH 9.56 [H ] 2.8 10-10 mol L 2位
XUT
School of sciences
10.2 误差与偏差 精密度与准确度的形象化图示
XUT
School of sciences
10.1 有效数字 10.1.1 有效数字的概念
在分测试析中,为了得到准确的分析结果,不仅要准 确地进行各种测量,而且还要正确地记录和计算。分析结 果所表达的不仅仅是试样中待测组分的含量,而且反映了 测量方法、仪器的准确度。 如:1.0g与1.00g的测量精度分别为±0.1g、±0.01g。 两者有不同含义,1.0g表示被测物质的质量为1.0±0.1g, 1.00g表示被测物质的质量为1.00±0.01g。
XUT
School of sciences
(3)乘方或开方运算 原数据有几位有效数字,结果就可保留几位,若一个 数的乘方或开方结果,还将参加下面的运算,则乘方或开 方后的结果可多保留一位有效数字。
例:
3.142 = 9.860 = 9.86
3.14 1.772 1.77
(4)对数运算 在对数运算中,所取对数的有效数字位数应与真数的 有效数字位数相等。 例: lg(7.563 103 ) 3.8787 4位
a. 用万分之一分析天平:10.2345g
b. 用精度为±0.01g的天平:10.23g
6位
4位
都是有效数字
准确数字 可疑数字
实验数据的准确性与分析测试仪器的测量精度有关: 同一试样采用不同测量精度的仪器测量,所得数据的有效数 字位数不同,其中有效数字位数多的测量更精确。
XUT
School of sciences
每个数据的最后一位都存在±1的绝对误差
XUT
School of sciences
(2)乘除法: 以相对误差最大的数为准,积或商只保留一位可 疑数字,即按有效数字位数最少的数进行修约和 计算。 计算:0.0235 × 20.03 ÷3.1816 = 0.147946002 ? 解:三个数的最后一位都存在±1的绝对误差,相对误差各为: (±1/235)× 100% = ±0.4% 0.0235相对误差最大,修 (±1/2003)× 100% = ±0.05% 约时按3位有效数字计算 (±1/31816) × 100% = ±0.003% 0.0235 × 20.0 ÷3.18 = 0.148 注意:首位数字为8或9,可 多保留一位有效数字。 如 9.35 × 0.1856 = 1.736
XUT
School of sciences
10.1 有效数字
练习 将下列数据修约为四位有效数字 2.4374 2.4376 2.4365 2.4375 2.43651 注意 一次修约到位,禁止分次修约 4.1 4.146
2.437 2.438 2.436 2.438 2.437
×
4.15
4.2
XUT
XUT
School of sciences
第10章 实验数据处理
10.1 有效数字 重点 (概念、运算规则) 10.2 误差与偏差 重点 (概念、误差及传递) 10.3 实验数据的统计分析 难点 (t分布曲线、平均值的置信区间、 t检验法、F检验法) 10.4 实验数据优化 (回归分析、正交试验设计)
因此,在实验数据的记录和结果的计算中,保留几位 数字不是任意的,而是根据测量仪器、分析方法的准确性 决定的。这就涉及到有效数字的概念: 在分析测试工作中实际能测量到的数字为有效数字。
XUT
School of sciences
有效数字
=
若干位准确数字 + 末位可疑数字
准确数字Байду номын сангаас可疑数字
如称量某一试样的质量
XUT
School of sciences
练习 有效数字位数的确定
0.1000 20.78% 0.0526 3.59×10-6 0.02 1×103 100 1000
4位 3位 1位 位数不确定
XUT
School of sciences
10.1.2 有效数字的运算规则 1.修约规则
各测量值的有效数字位数确定之后,就要将它后面多 余的数字舍弃。舍弃多余数字的过程,叫做“数字修约”; 所遵循的规则称为“数字修约规则” (GB8170-1987) 。 四舍六入五成双 修约后末位数为偶数 口诀:四要舍,六要入,五后有数要进位,五后无数(包括 零)看前方,前方奇数就进位,前方偶数全舍光。
有效数字位数的确定: (1)记录测量值时必须且只能保留一位不确定的数字 (2)非零数字都是有效数字 (3)非零数字前的0不是有效数字: 0.00268 3位 非零数字之间的0是有效数字: 0.20068 5位 对小数,非零数字后的0是有效数字:0.26800 5位 (4)数字后的0含义不清楚时,最好用指数形式表示: 如整数末位或末几位的0含义不明: 26800 ? 2.68×104 3位;2.680×104 4位;2.6800×104 5位 (5)常数π、e及倍数、分数的有效数字位数可认为没有限制 (6)首位数字大于等于8, 可多计一位有效数字:95.2% 4位 (7)对数的有效数字位数以小数部分计: pH = 10.28 2位
School of sciences
2.运算规则
先修约,后计算
(1)加减运算: 以各项中绝对误差最大的数为准,和或差只 保留一位可疑数字,即与小数点后位数最少 的数取得一致。
28.5 10.03 0.712 + 4.1316 43.3736 ?
28.5 ± 0.1 10.0 ± 0.01 0.7 ± 0.001 ± 0.0001 + 4.1 43.3
XUT School of sciences
西安理工大学理学院应用化学系
第10章 实验数据处理
本章教学目的和要求
1、掌握有效数字及其运算规则;掌握误差概念及其有 关计算:误差、偏差、平均值、中位数、(相对)平均偏差、 (相对)标准偏差,平均值与真实值的比较、平均值间的比 较;了解随机误差的正态分布、t分布; 2、了解系统误差、随机误差的概念及误差的传递; 3、掌握置信度、置信区间概念,了解实验数据的统 计处理、 t检验法、F检验法; 4、了解实验数据的优化,掌握回归分析法。
XUT
School of sciences
10.2 误差与偏差 精密度与准确度的形象化图示
XUT
School of sciences
10.1 有效数字 10.1.1 有效数字的概念
在分测试析中,为了得到准确的分析结果,不仅要准 确地进行各种测量,而且还要正确地记录和计算。分析结 果所表达的不仅仅是试样中待测组分的含量,而且反映了 测量方法、仪器的准确度。 如:1.0g与1.00g的测量精度分别为±0.1g、±0.01g。 两者有不同含义,1.0g表示被测物质的质量为1.0±0.1g, 1.00g表示被测物质的质量为1.00±0.01g。
XUT
School of sciences
(3)乘方或开方运算 原数据有几位有效数字,结果就可保留几位,若一个 数的乘方或开方结果,还将参加下面的运算,则乘方或开 方后的结果可多保留一位有效数字。
例:
3.142 = 9.860 = 9.86
3.14 1.772 1.77
(4)对数运算 在对数运算中,所取对数的有效数字位数应与真数的 有效数字位数相等。 例: lg(7.563 103 ) 3.8787 4位
a. 用万分之一分析天平:10.2345g
b. 用精度为±0.01g的天平:10.23g
6位
4位
都是有效数字
准确数字 可疑数字
实验数据的准确性与分析测试仪器的测量精度有关: 同一试样采用不同测量精度的仪器测量,所得数据的有效数 字位数不同,其中有效数字位数多的测量更精确。
XUT
School of sciences
每个数据的最后一位都存在±1的绝对误差
XUT
School of sciences
(2)乘除法: 以相对误差最大的数为准,积或商只保留一位可 疑数字,即按有效数字位数最少的数进行修约和 计算。 计算:0.0235 × 20.03 ÷3.1816 = 0.147946002 ? 解:三个数的最后一位都存在±1的绝对误差,相对误差各为: (±1/235)× 100% = ±0.4% 0.0235相对误差最大,修 (±1/2003)× 100% = ±0.05% 约时按3位有效数字计算 (±1/31816) × 100% = ±0.003% 0.0235 × 20.0 ÷3.18 = 0.148 注意:首位数字为8或9,可 多保留一位有效数字。 如 9.35 × 0.1856 = 1.736
XUT
School of sciences
10.1 有效数字
练习 将下列数据修约为四位有效数字 2.4374 2.4376 2.4365 2.4375 2.43651 注意 一次修约到位,禁止分次修约 4.1 4.146
2.437 2.438 2.436 2.438 2.437
×
4.15
4.2
XUT
XUT
School of sciences
第10章 实验数据处理
10.1 有效数字 重点 (概念、运算规则) 10.2 误差与偏差 重点 (概念、误差及传递) 10.3 实验数据的统计分析 难点 (t分布曲线、平均值的置信区间、 t检验法、F检验法) 10.4 实验数据优化 (回归分析、正交试验设计)
因此,在实验数据的记录和结果的计算中,保留几位 数字不是任意的,而是根据测量仪器、分析方法的准确性 决定的。这就涉及到有效数字的概念: 在分析测试工作中实际能测量到的数字为有效数字。
XUT
School of sciences
有效数字
=
若干位准确数字 + 末位可疑数字
准确数字Байду номын сангаас可疑数字
如称量某一试样的质量
XUT
School of sciences
练习 有效数字位数的确定
0.1000 20.78% 0.0526 3.59×10-6 0.02 1×103 100 1000
4位 3位 1位 位数不确定
XUT
School of sciences
10.1.2 有效数字的运算规则 1.修约规则
各测量值的有效数字位数确定之后,就要将它后面多 余的数字舍弃。舍弃多余数字的过程,叫做“数字修约”; 所遵循的规则称为“数字修约规则” (GB8170-1987) 。 四舍六入五成双 修约后末位数为偶数 口诀:四要舍,六要入,五后有数要进位,五后无数(包括 零)看前方,前方奇数就进位,前方偶数全舍光。
有效数字位数的确定: (1)记录测量值时必须且只能保留一位不确定的数字 (2)非零数字都是有效数字 (3)非零数字前的0不是有效数字: 0.00268 3位 非零数字之间的0是有效数字: 0.20068 5位 对小数,非零数字后的0是有效数字:0.26800 5位 (4)数字后的0含义不清楚时,最好用指数形式表示: 如整数末位或末几位的0含义不明: 26800 ? 2.68×104 3位;2.680×104 4位;2.6800×104 5位 (5)常数π、e及倍数、分数的有效数字位数可认为没有限制 (6)首位数字大于等于8, 可多计一位有效数字:95.2% 4位 (7)对数的有效数字位数以小数部分计: pH = 10.28 2位
School of sciences
2.运算规则
先修约,后计算
(1)加减运算: 以各项中绝对误差最大的数为准,和或差只 保留一位可疑数字,即与小数点后位数最少 的数取得一致。
28.5 10.03 0.712 + 4.1316 43.3736 ?
28.5 ± 0.1 10.0 ± 0.01 0.7 ± 0.001 ± 0.0001 + 4.1 43.3
XUT School of sciences
西安理工大学理学院应用化学系
第10章 实验数据处理
本章教学目的和要求
1、掌握有效数字及其运算规则;掌握误差概念及其有 关计算:误差、偏差、平均值、中位数、(相对)平均偏差、 (相对)标准偏差,平均值与真实值的比较、平均值间的比 较;了解随机误差的正态分布、t分布; 2、了解系统误差、随机误差的概念及误差的传递; 3、掌握置信度、置信区间概念,了解实验数据的统 计处理、 t检验法、F检验法; 4、了解实验数据的优化,掌握回归分析法。