第三章 分析化学中的误差与数据处理(1)
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
Xn X S 或 G计算 X X1 S
(4)由测定次数和要求的置信度,查表得G 表 (5)比较 若G计算> G 表,弃去可疑值,反之保留。
由于格鲁布斯(Grubbs)检验法引入了标准偏差,故 准确性比Q 检验法高。
分析方法准确性的检验
t 检验法---系统误差的检测 平均值与标准值(m)的比较 a. 计算t 值
总体 样本 样本容量 n, 自由度 f=n-1 样本平均值 总体平均值 m 真值 xT 标准偏差 s
x
标准偏差
1.总体标准偏差σ 无限次测量 2.样本标准偏差 s
S
x
i 1
n
i
m
2
n
xi
i 1
n
x
2
n→∞时, →μ , s→σ
3.相对标准偏差(变异系数RSD)
上堂课回顾
1.误差的传递 (1)系统误差的传递公式 (2)随机误差的传递公式 (3)极值误差 2.有效数字:确定有效数字位数时遵循原则 3.有效数字的修约 4.运算规则 (1)加减法:以小数点后位数最少的数据为准 (2)乘除法:以有效数字位数最少的数据为准
3.3 有限数据的统计处理
0.0121×25.6×1.03=0.319 (0.3190528)
4 有效数字运算规则在分析化学中的应用 1.仪器和分析方法的准确度---记录测定值, 只保留一位不确定数字。 2.计算测定结果之前,先根据运算方法确定欲 保留位数,对各测定值进行修约,然后计算。 3.所使用的平衡常数的位数来确定计算结果的 有效数字的位数。一般为两至三位。 4.确定有效数字位数与待测组分相对含量有关 高含量(>10%):四位有效数字 中含量(1%~10%):三位有效数字 微量组分(<1%):两位有效数字 误差:一至两位有效数字
: 总体标准偏差
m
2
n
集中趋势:有向某个值集中的趋势 1 n m: 总体平均值 lim x m n n i 1
i
m
d: 总体平均偏差 d
i 1
xi
n
m
d 0.797
n
2 有限次测量数据的统计处理
t分布曲线 N →∞: 随机误差符合正态分布(高斯分布) (m,) n 有限: t分布 和s 代替m,
ER/R=nEA/A
ER=0.434mEA/A
随机误差 a. 加减法 R=mA+nB-pC b. 乘除法 R=mA×nB/pC c. 指数运算 R=mAn d. 对数运算 R=mlgA
sR2=m2sA2+n2sB2+p2sC2 sR2/R2=sA2/A2+sB2/B2+sC2/C2 sR/R=nsA/A
定量分析数据的评价---解决两类问题: (1) 可疑数据的取舍 过失误差的判断
方法:4d法、Q检验法和格鲁布斯(Grubbs)检验法
确定某个数据是否可用。
(2) 分析方法的准确性系统误差及偶然误差的判断
显著性检验:利用统计学的方法,检验被处理的问 题是否存在 统计上的显著性差异。 方法:t 检验法和F 检验法 确定某种方法是否可用,判断实验室测定结果准确性
sR=0.434msA/A
极值误差 最大可能误差 R=A+B-C R=AB/C ER=|EA|+|EB|+|EC| ER/R=|EA/A|+|EB/B|+|EC/C|
3.2 有效数字及运算规则
1 有效数字: 分析工作中实际能测得的数字,包括全 部可靠数字及一位不确定数字在内
a 数字前0不计,数字后计入 : 0.03400
×
0.575
0.58
运算时可多保留一位有效数字进行 使用计算器时不必每一步骤进行修约,仅 对最后结果进行修约,符合事先所确定的 位数
3 运算规则
加减法: 小数点后位数最少(绝对误差最大)的 数一致 0.0121+25.64+1.027=? 最后一位数有±1的绝对误差 0.0121±0.0001, 25.64±0.01 绝对误差最大 1.027±0.001 0.01+25.64+1.03=26.68
m X t
s n
曲线下一定区间的积分面积,即为该区间内随机 误差出现的概率 f → ∞时,t分布→正态分布
x
平均值的置信区间 某一区间包含总体平均值的概率(可能性)
m X t
s n
置信区间:一定置信度(概率)下,以平均值为中心, 包括总体平均值m在内的可靠性范围 置信度越高,置信区间越大
d 标准试样保存不当,失去部分结晶水;
g 重量法测定SiO2时,试样中硅酸沉淀不完全;
3 误差的传递 系统误差 a. 加减法 R=mA+nB-pC b. 乘除法 R=mA×nB/pC c. 指数运算 R=mAn d. 对数运算 R=mlgA
ER=mEA+nEB-pEC ER/R=EA/A+EB/B-EC/C
1.精密度好是准确度好的前提; 2.精密度好不一定准确度高
x1
系统误差!
x2
x3
x4 准确度及精密度都高-结果可靠
2 系统误差与随即误差 系统误差:又称可测误差
具单向性、重复性、可校正特点
方法误差: 溶解损失、终点误差-用其他方法校正
仪器误差: 刻度不准、砝码磨损-校准(绝对、相对)
操作误差: 操作不够正确
上堂课回顾
1.准确度 2.精密度
d
n
xi x n
i 1
s
x x
n i 1 i
2
n 1
RSD
s x
100 %
3. 准确度与精密度的关系 4. 系统误差与随即误差 下列情况各引起什么误差?如是系统误差,应如何 消除? a 天平零点稍有变动; b 过滤时出现透滤现象没有及时发现; c 读取滴定管读书时,最后一位估计不准;
试剂误差: 不纯-空白实验
主观误差(个人误差):颜色观察
随即误差: 又称偶然误差
不可校正,无法避免,服从统计规律
不存在系统误差的情况下,测定次数越多其 平均值越接近真值。一般平行测定4-6次 过失
由粗心大意引起,可以避免的
MALDI-TOF-MS(matrix assisted laser desorption ionization/time of flight MS, 基质辅助激光解析电离化/飞行时间质谱)
真值:客观存在,但绝对真值不可测
理论真值:化合物的理论组成 约定真值:长度、质量、物质的量单位等
相对真值:标准值
精密度: 平行测定结果相互靠近的程度,用偏差衡量。
偏差: 测量值与平均值的差值,用 d表示
∑ di = 0
x
d=x-
平均偏差: 各单个偏差绝对值的平均值
d
n
xi x n
i 1
第3章 分析化学中的误差及数据处理
3.1 分析化学中的误差 3.2 有效数字及其运算规则 3.3 有限数据的统计处理 3.4 回归分析法
3.1 分析化学中的误差
1 准确度和精密度
准确度: 测定结果与真值接近的程度,用误差衡量。 绝对误差: 测量值与真值间的差值, 用 E表示 误差 E = x - xT 相对误差: 绝对误差占真值的百分比,用Er表示 Er =E/xT = x - xT /xT×100%
乘除法: 积或商的有效数字位数,应以其中有效 数字位数最少(即相对误差最大)的那 个数为依据。 0.0121×25.64×1.027=? ±0.0001/0.0121 x 100%= ± 0.8%
±0.01/25.64 x 100%= ± 0.04%
±0.001/1.027 x 100%= ± 0.1%
上堂课回顾
第二章 分析试样的采集与制备 一、试样的采集 1. 固体试样
t n E
2
按切乔特采样公式: Q≥Kd2
2. 液体试样 采样单元数可以较少 3. 气体试样 气体试样采集方法 4. 生物试样 根据研究或分析需要选取适当部位和生长发育阶段
二、试样的制备 1. 破碎和过筛 2. 混合与缩分 三、试样的分解 1. 溶解法 2. 熔融法 3.干式灰化法 4. 湿式灰化法 5. 半熔法 6. 微波辅助消解法
Q X n X n 1 X n X1 或 Q X 2 X1 X n X1
(5)根据测定次数和要求的置信度,(如90%)查表:
不同置信度下,舍弃可疑数据的Q值表 测定次数 3 4 8 Q90 0.94 0.76 0.47 Q95 0.98 0.85 0.54 Q99 0.99 0.93 0.63
(6)将Q与QX (如 Q90 )相比, 若Q > QX 舍弃该数据, (过失误差造成) 若Q < QX 保留该数据, (偶然误差所致)
当数据较少时 舍去一个后,应补加一个数据。
格鲁布斯(Grubbs)检验法
基本步骤: (1)排序:X1, (3)计算G值:
G计算
X 2,
X 3,
X4……
(2)求X和标准偏差s
相对平均偏差:平均偏差与测量平均值的比值
相对平均偏差
%
d x
100 %
n
xi x 100 % nx
i 1
标准偏差:s
s
相对标准偏差:RSD
x x
n i 1 i
2
n 1
RSD
s x
100 %
准确度与精密度的关系
x1
x2
x3
x4
准确度与精密度的关系
☆移液管:25.00mL(4);
☆量筒(量至1mL或0.1mL):25mL(2), 4.0mL(2)
2 有效数字运算中的修约规则 处理数据过程 计算规则
各测量值的 有效数字位数不同
确定各测量值的 有效数字位数
数字修约 修约的原则:计算不复杂; 准确度不受损
舍弃多余的数字
四舍六入五成双
尾数≤4时舍; 尾数≥6时入
可疑数据的取舍 过失误差的判断 4d法 偏差大于4d的测定值可以舍弃
步骤: 求异常值(Qu)以外数据的平均值和平均偏差 如果Qu-x >4d, 舍去
Q 检验法 步骤:
(1) 数据排列
(2) 求极差
X1 X2 …… Xn
Xn - X1
(3) 求可疑数据与相邻数据之差
Xn - Xn-1 或 X2 -X1 (4) 计算:
b 数字后的0含义不清楚时, 最好用指数形式表示 : 1000 (1.0×103, 1.00×103, 1.000 ×103)
c 自然数和常数可看成具有无限多位数(如倍数、分数关系)
d 数据的第一位数大于等于8的,可多计一位有效数字,如 9.45×104, 95.2%, 8.65
e 对数与指数的有效数字位数按尾数计,如 pH=10.28, 则 [H+]=5.2×10-11 f 误差只需保留1~2位
m ◇分析天平(称至0.1mg):12.8228g(6) , 0.2348g(4) , 0.0600g(3)
◇千分之一天平(称至0.001g): 0.235g(3) ◇1%天平(称至0.01g): 4.03g(3), 0.23g(2) ◇台秤(称至0.1g): 4.0g(2), 0.2g(1) V ☆滴定管(量至0.01mL):26.32mL(4), 3.97mL(3) ☆容量瓶:100.0mL(4),250.0mL (4)
x
n 1
RSD
S x
100 %
4.衡量数据分散度: 标准偏差比平均偏差合理 5.标准偏差与平均偏差的关系 d=0.7979σ
6.平均值的标准偏差
σū= σ/ n1/2,s ū= s / n1/2
s ū与n1/2成反比
1 随机误差的正态分布
系统误差:可校正消除 随机误差:不可测量,无法避免,可用统计方法研究
尾数=5时, 若后面数为0, 舍5成双;若5后面还有 不是0的任何数皆入
例 下列值修约为四位有效数字 0.324 74 0.324 75 0.324 76 0.324 85 0.324 851 0.324 7 0.324 8 0.324 8 0.324 8 0.324 9
禁止分次修约 0.57
0.5749
测量值的频数分布 频数,相对频数
分组细化
0.12 0.10 0.08
测量值的正态分布
0.06
y
0.04
0.02
0.00 0 1 2 3 4 5 6 7 8 9 10
x
随机误差的正态分布
y f ( x)
1
2
xi
i Leabharlann Baidu n
e
(xm )
2
/ 2
2
离散特性:各数据是分散的,波动的
t 计算
X m n
S/
b. 由要求的置信度和测定次数,查表,得: t表 c. 比较 t计 > t表 , 表示有显著性差异,存在系统误差,被检验方法需要改进 t计 < t表 , 表示无显著性差异,被检验方法可以采用。
两组数据的平均值比较(同一试样) 新方法--经典方法(标准方法) 两个分析人员测定的两组数据 两个实验室测定的两组数据
(4)由测定次数和要求的置信度,查表得G 表 (5)比较 若G计算> G 表,弃去可疑值,反之保留。
由于格鲁布斯(Grubbs)检验法引入了标准偏差,故 准确性比Q 检验法高。
分析方法准确性的检验
t 检验法---系统误差的检测 平均值与标准值(m)的比较 a. 计算t 值
总体 样本 样本容量 n, 自由度 f=n-1 样本平均值 总体平均值 m 真值 xT 标准偏差 s
x
标准偏差
1.总体标准偏差σ 无限次测量 2.样本标准偏差 s
S
x
i 1
n
i
m
2
n
xi
i 1
n
x
2
n→∞时, →μ , s→σ
3.相对标准偏差(变异系数RSD)
上堂课回顾
1.误差的传递 (1)系统误差的传递公式 (2)随机误差的传递公式 (3)极值误差 2.有效数字:确定有效数字位数时遵循原则 3.有效数字的修约 4.运算规则 (1)加减法:以小数点后位数最少的数据为准 (2)乘除法:以有效数字位数最少的数据为准
3.3 有限数据的统计处理
0.0121×25.6×1.03=0.319 (0.3190528)
4 有效数字运算规则在分析化学中的应用 1.仪器和分析方法的准确度---记录测定值, 只保留一位不确定数字。 2.计算测定结果之前,先根据运算方法确定欲 保留位数,对各测定值进行修约,然后计算。 3.所使用的平衡常数的位数来确定计算结果的 有效数字的位数。一般为两至三位。 4.确定有效数字位数与待测组分相对含量有关 高含量(>10%):四位有效数字 中含量(1%~10%):三位有效数字 微量组分(<1%):两位有效数字 误差:一至两位有效数字
: 总体标准偏差
m
2
n
集中趋势:有向某个值集中的趋势 1 n m: 总体平均值 lim x m n n i 1
i
m
d: 总体平均偏差 d
i 1
xi
n
m
d 0.797
n
2 有限次测量数据的统计处理
t分布曲线 N →∞: 随机误差符合正态分布(高斯分布) (m,) n 有限: t分布 和s 代替m,
ER/R=nEA/A
ER=0.434mEA/A
随机误差 a. 加减法 R=mA+nB-pC b. 乘除法 R=mA×nB/pC c. 指数运算 R=mAn d. 对数运算 R=mlgA
sR2=m2sA2+n2sB2+p2sC2 sR2/R2=sA2/A2+sB2/B2+sC2/C2 sR/R=nsA/A
定量分析数据的评价---解决两类问题: (1) 可疑数据的取舍 过失误差的判断
方法:4d法、Q检验法和格鲁布斯(Grubbs)检验法
确定某个数据是否可用。
(2) 分析方法的准确性系统误差及偶然误差的判断
显著性检验:利用统计学的方法,检验被处理的问 题是否存在 统计上的显著性差异。 方法:t 检验法和F 检验法 确定某种方法是否可用,判断实验室测定结果准确性
sR=0.434msA/A
极值误差 最大可能误差 R=A+B-C R=AB/C ER=|EA|+|EB|+|EC| ER/R=|EA/A|+|EB/B|+|EC/C|
3.2 有效数字及运算规则
1 有效数字: 分析工作中实际能测得的数字,包括全 部可靠数字及一位不确定数字在内
a 数字前0不计,数字后计入 : 0.03400
×
0.575
0.58
运算时可多保留一位有效数字进行 使用计算器时不必每一步骤进行修约,仅 对最后结果进行修约,符合事先所确定的 位数
3 运算规则
加减法: 小数点后位数最少(绝对误差最大)的 数一致 0.0121+25.64+1.027=? 最后一位数有±1的绝对误差 0.0121±0.0001, 25.64±0.01 绝对误差最大 1.027±0.001 0.01+25.64+1.03=26.68
m X t
s n
曲线下一定区间的积分面积,即为该区间内随机 误差出现的概率 f → ∞时,t分布→正态分布
x
平均值的置信区间 某一区间包含总体平均值的概率(可能性)
m X t
s n
置信区间:一定置信度(概率)下,以平均值为中心, 包括总体平均值m在内的可靠性范围 置信度越高,置信区间越大
d 标准试样保存不当,失去部分结晶水;
g 重量法测定SiO2时,试样中硅酸沉淀不完全;
3 误差的传递 系统误差 a. 加减法 R=mA+nB-pC b. 乘除法 R=mA×nB/pC c. 指数运算 R=mAn d. 对数运算 R=mlgA
ER=mEA+nEB-pEC ER/R=EA/A+EB/B-EC/C
1.精密度好是准确度好的前提; 2.精密度好不一定准确度高
x1
系统误差!
x2
x3
x4 准确度及精密度都高-结果可靠
2 系统误差与随即误差 系统误差:又称可测误差
具单向性、重复性、可校正特点
方法误差: 溶解损失、终点误差-用其他方法校正
仪器误差: 刻度不准、砝码磨损-校准(绝对、相对)
操作误差: 操作不够正确
上堂课回顾
1.准确度 2.精密度
d
n
xi x n
i 1
s
x x
n i 1 i
2
n 1
RSD
s x
100 %
3. 准确度与精密度的关系 4. 系统误差与随即误差 下列情况各引起什么误差?如是系统误差,应如何 消除? a 天平零点稍有变动; b 过滤时出现透滤现象没有及时发现; c 读取滴定管读书时,最后一位估计不准;
试剂误差: 不纯-空白实验
主观误差(个人误差):颜色观察
随即误差: 又称偶然误差
不可校正,无法避免,服从统计规律
不存在系统误差的情况下,测定次数越多其 平均值越接近真值。一般平行测定4-6次 过失
由粗心大意引起,可以避免的
MALDI-TOF-MS(matrix assisted laser desorption ionization/time of flight MS, 基质辅助激光解析电离化/飞行时间质谱)
真值:客观存在,但绝对真值不可测
理论真值:化合物的理论组成 约定真值:长度、质量、物质的量单位等
相对真值:标准值
精密度: 平行测定结果相互靠近的程度,用偏差衡量。
偏差: 测量值与平均值的差值,用 d表示
∑ di = 0
x
d=x-
平均偏差: 各单个偏差绝对值的平均值
d
n
xi x n
i 1
第3章 分析化学中的误差及数据处理
3.1 分析化学中的误差 3.2 有效数字及其运算规则 3.3 有限数据的统计处理 3.4 回归分析法
3.1 分析化学中的误差
1 准确度和精密度
准确度: 测定结果与真值接近的程度,用误差衡量。 绝对误差: 测量值与真值间的差值, 用 E表示 误差 E = x - xT 相对误差: 绝对误差占真值的百分比,用Er表示 Er =E/xT = x - xT /xT×100%
乘除法: 积或商的有效数字位数,应以其中有效 数字位数最少(即相对误差最大)的那 个数为依据。 0.0121×25.64×1.027=? ±0.0001/0.0121 x 100%= ± 0.8%
±0.01/25.64 x 100%= ± 0.04%
±0.001/1.027 x 100%= ± 0.1%
上堂课回顾
第二章 分析试样的采集与制备 一、试样的采集 1. 固体试样
t n E
2
按切乔特采样公式: Q≥Kd2
2. 液体试样 采样单元数可以较少 3. 气体试样 气体试样采集方法 4. 生物试样 根据研究或分析需要选取适当部位和生长发育阶段
二、试样的制备 1. 破碎和过筛 2. 混合与缩分 三、试样的分解 1. 溶解法 2. 熔融法 3.干式灰化法 4. 湿式灰化法 5. 半熔法 6. 微波辅助消解法
Q X n X n 1 X n X1 或 Q X 2 X1 X n X1
(5)根据测定次数和要求的置信度,(如90%)查表:
不同置信度下,舍弃可疑数据的Q值表 测定次数 3 4 8 Q90 0.94 0.76 0.47 Q95 0.98 0.85 0.54 Q99 0.99 0.93 0.63
(6)将Q与QX (如 Q90 )相比, 若Q > QX 舍弃该数据, (过失误差造成) 若Q < QX 保留该数据, (偶然误差所致)
当数据较少时 舍去一个后,应补加一个数据。
格鲁布斯(Grubbs)检验法
基本步骤: (1)排序:X1, (3)计算G值:
G计算
X 2,
X 3,
X4……
(2)求X和标准偏差s
相对平均偏差:平均偏差与测量平均值的比值
相对平均偏差
%
d x
100 %
n
xi x 100 % nx
i 1
标准偏差:s
s
相对标准偏差:RSD
x x
n i 1 i
2
n 1
RSD
s x
100 %
准确度与精密度的关系
x1
x2
x3
x4
准确度与精密度的关系
☆移液管:25.00mL(4);
☆量筒(量至1mL或0.1mL):25mL(2), 4.0mL(2)
2 有效数字运算中的修约规则 处理数据过程 计算规则
各测量值的 有效数字位数不同
确定各测量值的 有效数字位数
数字修约 修约的原则:计算不复杂; 准确度不受损
舍弃多余的数字
四舍六入五成双
尾数≤4时舍; 尾数≥6时入
可疑数据的取舍 过失误差的判断 4d法 偏差大于4d的测定值可以舍弃
步骤: 求异常值(Qu)以外数据的平均值和平均偏差 如果Qu-x >4d, 舍去
Q 检验法 步骤:
(1) 数据排列
(2) 求极差
X1 X2 …… Xn
Xn - X1
(3) 求可疑数据与相邻数据之差
Xn - Xn-1 或 X2 -X1 (4) 计算:
b 数字后的0含义不清楚时, 最好用指数形式表示 : 1000 (1.0×103, 1.00×103, 1.000 ×103)
c 自然数和常数可看成具有无限多位数(如倍数、分数关系)
d 数据的第一位数大于等于8的,可多计一位有效数字,如 9.45×104, 95.2%, 8.65
e 对数与指数的有效数字位数按尾数计,如 pH=10.28, 则 [H+]=5.2×10-11 f 误差只需保留1~2位
m ◇分析天平(称至0.1mg):12.8228g(6) , 0.2348g(4) , 0.0600g(3)
◇千分之一天平(称至0.001g): 0.235g(3) ◇1%天平(称至0.01g): 4.03g(3), 0.23g(2) ◇台秤(称至0.1g): 4.0g(2), 0.2g(1) V ☆滴定管(量至0.01mL):26.32mL(4), 3.97mL(3) ☆容量瓶:100.0mL(4),250.0mL (4)
x
n 1
RSD
S x
100 %
4.衡量数据分散度: 标准偏差比平均偏差合理 5.标准偏差与平均偏差的关系 d=0.7979σ
6.平均值的标准偏差
σū= σ/ n1/2,s ū= s / n1/2
s ū与n1/2成反比
1 随机误差的正态分布
系统误差:可校正消除 随机误差:不可测量,无法避免,可用统计方法研究
尾数=5时, 若后面数为0, 舍5成双;若5后面还有 不是0的任何数皆入
例 下列值修约为四位有效数字 0.324 74 0.324 75 0.324 76 0.324 85 0.324 851 0.324 7 0.324 8 0.324 8 0.324 8 0.324 9
禁止分次修约 0.57
0.5749
测量值的频数分布 频数,相对频数
分组细化
0.12 0.10 0.08
测量值的正态分布
0.06
y
0.04
0.02
0.00 0 1 2 3 4 5 6 7 8 9 10
x
随机误差的正态分布
y f ( x)
1
2
xi
i Leabharlann Baidu n
e
(xm )
2
/ 2
2
离散特性:各数据是分散的,波动的
t 计算
X m n
S/
b. 由要求的置信度和测定次数,查表,得: t表 c. 比较 t计 > t表 , 表示有显著性差异,存在系统误差,被检验方法需要改进 t计 < t表 , 表示无显著性差异,被检验方法可以采用。
两组数据的平均值比较(同一试样) 新方法--经典方法(标准方法) 两个分析人员测定的两组数据 两个实验室测定的两组数据