误差和分析数据处理(2)
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
Analytical chemistry
Errors and data treatment
(2)
二、有效数字及运算法则
2
非测量所得的自然数
测量次数、样品份数 计算中的倍数
反应中的化学计量关系 各类常数
测量所得的数字
测量值
数据计算的结果
3
数字位数应与分析方法的准确度及仪器测量的精度相适应
4
有效数字: 分析工作中实际能测得的数字
1. 有效数字(significant figure)
☐在记录测量数据时,只保留一位可疑数(欠准数)☐只有数据的末尾数欠准,误差是末位数的±1个单位
☐
有效数字位数反映了测量和结果的准确程度,决不能随意增加或减少
5
m ◇分析天平(称至0.1mg):12.8228g (6),
0.2348g (4) , 0.0600g (3)
◇千分之一天平(称至0.001g): 0.235g (3)◇1%天平(称至0.01g): 4.03g (3), 0.23g (2)◇台秤(称至0.1g): 4.0g (2), 0.2g (1)
V ☆滴定管(量至0.01mL):26.32mL (4), 3.97mL (3)
☆容量瓶:100.0mL (4),250.0mL (4)☆移液管:25.00mL (4);
☆量筒(量至1mL或0.1mL):25mL (2), 4.0mL (2)
重量分析和滴定分析允许的误差一般在±0.2%之内,各测量数据应保留四位有效数字,注意计算结果的有效数字位数
6☐数字1~9均为有效数字
☐数字前0不是有效数字,其他数字之间的0计入有效数字: 0.0304(3)☐数字后的0,在小数中,计入有效数字位数:0.03400(4)☐数字后的0,在整数中,含义不清楚时, 最好用指数形式表示: 1000 (1.0×103, 1.00×103, 1.000 ×103)
☐很小的数字,也可以用指数形式表示,但有效数字位数需保持不变:0.000018 → 1.8 ×10-5
☐变换单位时,有效数字位数需保持不变:0.0038g→3.8mg ☐数据的第一位数≥8的,可多计一位有效数字,如9.35×104(4), 95.2%(4), 8.65(4)
☐
对数的有效数字位数按小数部分数字的位数计,其整数部分的数字
只代表原值的幂次,如pH=10.28(2), 则[H +]=5.2×10
-11有效数字位数
7
2. 有效数字运算中的修约规则
尾数≤4时舍; 尾数≥6时入
尾数=5时, 若后面无数,或后面数为0, 舍5成双;若5后
面还有不是0的任何数皆入四舍六入五成双
例下列值修约为四位有效数字
0.3247 40.3247 6 0.3247 50.3248 50.3248 500.3248 51
0.32470.32480.32480.32480.32480.3249
8
禁止分次修约
0.5749
0.57
0.5750.58
×
9
运算时可多保留一位有效数字进行
5.3527+2.3+0.054+3.35
5.35+2.3+0.05+3.35=11.0511.0
10
标准限度值0.03%测定值0.033%
修约标准偏差
对标准偏差的修约,应使准确度降低统计检验时,标准偏差可多保留1-2位数参与运算
表示标准偏差和RSD时,一般取两位有效数字
与标准限度值比较时不修约
×
不合格
0.03%
0.2130.22
11加减法:
结果的
绝对误差应不小于各项中绝对误差最大的数。
(与小数点后位数最少的数一致)0.112+12.1+0.3214=12.5334乘除法: 结果的相对误差应与各因数中相对误差最大的
数相适应(与有效数字位数最少的一致)
0.0121×25.64×1.0578=0.328432 3. 运算规则
12.50.328
12
乘方或开方: 结果有效数字位数保持不变
7.132=50.8
对数运算:对数尾数的位数应与真数有效数字位数相同
[H +]=5.2×10-5,pH=4.28
=0.0191599
三、有限量测量数据的统计处理
14
m
17
✓
μ:总体平均值(population mean),表示测量值的集中趋势✓
σ:总体标准偏差(population standard deviation),表示全体数据的离散程度✓
σ小,曲线高而锐,数据较集中;σ大,曲线低而钝,数据较分散✓已知μ与σ,可确定正态分布曲线的位置与形状
18
n →∞: 随机误差符合正态分布(高斯分布)
(μ,σ)
n 有限: t分布
和S代替μ,σ
x 曲线下一定范围的积分面积,即为该范围内测定值x出现的概率
f → ∞时,t分布→正态分布
2. t分布(t distribution)
分布——横坐标为t 3.两者所包含面积均是一定范围内测量值出现的概率P
变化;u一定,P一定
变化;t一定,概率P与f有关,
→
∞
注:
u
t
f→
⇒
20
21
表1-1t 值表(t .某一置信度下的几率系数)1. 置信度不变时:n 增加,t 变小;
2. n 不变时:置信度增加,t 变大;
24
25
%
95%10.0%50.47在内的概率为包括总体均值的区间内
理解为在μ±解:例1:()%95%10.0%50.47=±=P 置信度μ如何理解
(%)
查表单侧检验α=0.05;f=9-1=8时,t 0.05,8=1.860
(%)76.109042.0860.179.10=⨯-=-=n
tS X X L (%)82.109042.0860.179.10=⨯+=+=n
tS X X U 结论:总体平均值大于10.76%(或小于10.82%)的概率
为95%
333
153.0303.45.33=⨯±=±=n tS X μ335
164.0776.26.33=⨯±=±=n tS X μ 结论:在相同的置信水平下,适当增加测定次数n,可
使置信区间显著缩小,从而提高分析测定的准确度
结论
置信水平定得越高,置信区间就越宽;相反,置信水
平越低,置信区间就越窄
置信水平过高,判断失误的可能性虽然很小,但因置
信区间过宽而实用价值不大
常取95%的置信水平
29
304. 可疑数据的取舍
22.3020.2520.3020.32
?数据是否记错实验过程中是否有不正常现象统计检验
,含铁量平均值与要求值无显著差别,产品合格。
使用显著性检验的几点注意事项
两组数据的显著性检验
先进行F检验,再进行t检验
单侧与双侧检验
检验两个分析结果是否存在显著性差异——双侧检验
检验某分析结果是否明显高于(或低于)某值——单侧检验
置信水平P或显著性水平α的选择
置信水平过高——以假为真
置信水平过低——以真为假
分析化学中通常以α=0.05或P=95%作为判断差别是否显著的标准
42
43
定量分析数据的评价---解决两类问题:
(1)可疑数据的取舍−过失误差的判断
方法:Q检验法和格鲁布斯(Grubbs)检验法
确定某个数据是否可用。
(2)分析方法的准确性−系统误差及偶然误差的判断
显著性检验:利用统计学的方法,检验被处理的问题是否存在统计上的显著性差异。
方法:t 检验法和F 检验法
确定某种方法是否可用,判断实验室测定结果准确性小结
44
异常值的
取舍精密度显著性检验准确度或系统误差显著性检验
45
例11:用Karl-Fischer法与气相色谱法(GC)测定同一冰醋酸试样中的微量水分。
试用统计检验评价GC法可否用于微量水分的含量测定。
测得值如下:
Karl-Fischer法:0.762%、0.746%、0.738%、0.738%、0.753%、0.747%GC法:0.747%、0.738%、0.747%、0.750%、0.745%、0.750%
解:
1. 求统计量
2. G检验
46
3. F检验
4. t检验
两种方法精密度相当,可进行t检验
查表得F 0.05,5,5=5.05。
F<F 0.05,5,5查表得t 0.05,10=2.228。
t<t 0.05,10两种方法的均值无显著性差异两种方法精密度相同,且不存在系统误差,因此GC法
可替代Karl-Fischer法用于微量水分测定
47
目的: 得到用于定量分析的标准曲线
方法:最小二乘法
y i =a+bx
i +e i
a、b的取值使得残差的平方和最小∑e i 2=∑(y i -y)2
y i : x i 时的测量值; y: x i 时的预测值
a=y
A -bx A
b= ∑(x i -x A )(y i -y A )/ ∑(x i -x A )2
其中y A 和x A 分别为x,y的平均值
6. 相关与回归(correlation and regression)
49相关系数r:
r 值在0 和±1之间。
r = ±1时,表示(x1,y1)、(x2,y2) …等处于一条直线
上;
r = 0 时,表示(x1,y1)、(x2,y2) …非线性关系。
r > 0,正相关;
r < 0, 负相关。