分析化学中的误差与数据处理
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
问B法的精密度是否显著地优于A法的精密度?
F<F4,3,不存在显著性差异,作出这种判断的可 靠性达95%。
2、t检验法
<1>平均值与标准值比较 检查分析方法是否存在系统误差。
步骤:(Ⅰ)计算t值:
(Ⅱ)计算t值与表中t值(p61表3-3)比较, 若t计>t表,分析结果存在显著性差异。通常 以95%的置信度为检验标准。
例 某药物中钴含量(μg/g)测定数据如下: 1.25,1.27,1.31,1.40 μg/g,问1.40是否保留? 解 全部数据的平均值和平均偏差为:
x=1.31 s=0.066
查表T0.05,4=1.46,T<T表,保留。
3、Q检验法
<1>将测定值按递增顺序排列:x1, x2, … xn <2>计算统计量Q:
2、格鲁布斯(Grubbs)法
一组数据,从小到大排列为:x1,x2,…xn,欲 考察其中x1或xn的取舍,其检验步骤如:
<1>计算出该组数据的平均值及标准偏差。 <2>计算统计量T
<3>根据测定次数n和置信度(如95%),从表中 查得T值(p67)。若计算的T计>T表值时,则舍 去,否则应保留。 优点:在判断过程中,将t分布中的两个最重要的 样本参数x 及s引入,准确度较高; 缺点:需要计算x及s,手续稍麻烦。
解:Q=(1.40-1.31)/(1.40-1.25)=0.60
查表n=4,Q0.90=0.76 Q<Q0.90 保留
注意
由于置信度升高会使置信区间加宽,所以置信 度为90%时应保留的数字在95%时也一定应保留。 在90%舍弃的数值,在95%时则不一定要舍弃, 应重新做Q检验。反之在95%该舍弃的数值,在 90%时一定舍弃。
<2>两组平均值的比较
要判断这两组数据之间是否存在系统误差,采 用t检验法进行判断。
对于两组分析数据: 步骤: (Ⅰ)检验精密度是否存在差异,用F检验。 (Ⅱ)如果精密度没有显著性差异,则
S1≈S2 ≈S,S称为合并标准偏差。
或
(Ⅲ) 计算t值:假设 x 1 和 x 2 属于同一总体,即 μ1= μ2
(2)然后将异常值与平均值进行比较,如 绝对差值大于4d,则舍去,否则保留。
例 某药物中钴含量(μg/g)测定数据如下: 1.25,1.27,1.31,1.40 μg/g,问1.40是否保留?
解 首先不计异常值1.40,求得其余数据的 平均值和平均偏差为:
x=1.28 d=0.023 异常值与平均值的差的绝对值为: 1.4Hale Waihona Puke Baidu-1.28=0.12>4d(0.092)故舍去。
当xn为异常值,Q=(xn-xn-1 )/( xn-x1 ) 当x1为异常值,Q=(x2-x1 )/( xn-x1 )
<3>根据测定次数和置信度从P68表3-6中查 出Q表值。 判定:Q计>Q表时,应舍弃,反之保留。
例 某药物中钴含量(μg/g)测定数据如下: 1.25,1.27,1.31,1.40 μg/g,问1.40是否保留? (置信度为90%)
i1 y b x
n
n
( x i x )( y i y )
b i1 n
(xi x )2
i1
式中x,y分别为x和y的平均值,a:截矩,b: 斜率。
3.6.2 相关系数
在实际测量中,判断两个变量之间是否 成线性关系。
在线性关系的基础上才能用回归分析估 计误差。
相关系数:
反映x、y两变量间相关的密切程度。
在Q检验中,置信度选择要合适,置信度太小置 信区间过窄,使该保留的数值舍掉。置信度太高, 置信区间加宽,使该舍弃的数值被保留。
测定次数n≤3时,做Q检验,会将错误数字保留。
3.6 回归分析法
吸光光度法中,将吸光度对溶液浓度绘制 一直线——标准曲线。通常,标准溶液浓度 误差很小,所以精密度主要取决于吸光度测 量的精密度。
1、F检验法
F检验法:比较两组数据的方差S2,以确定它 们的精密度是否有显著性差异。 <1> 计算两组数据的方差:
<2> F值:
规定:S值大的S1为分子,S值小的S2为分母。
<3> 比较,若F计>F表,说明两组数据存在显 著性差异。
例 :A、B两种方法测定的数据如下: 方法A测定5次,标准偏差s=0.063; 方法B测定4次,标准偏差s=0.024。
n
n
(xi x)2
(xi x)(yi y)
rb
i1 n
(yi y)2
i1
n
n
(xi x)2 (yi y)2
i1
i1
i1
0≤│r│≤1。当r=0时,表示所对应的点杂乱无 章。
实验中大多数情况是0< r <1。 r>0时称为正相关; r<0时称为负相关。
(Ⅳ) 比较t计与t表:t计>t表,说明μ1≠ μ2, 即两组分析数据不属于同一总体,存在显著性差 异;反之, t计≤t表, μ1= μ2,没有显著性差异。
例
3.5 可疑值的取舍 一系列平行测定的离群值是否舍弃?
如一组测定值: 20.80;20.25;20.30;20.32; ↓ 离群值
在计算平均值时是否应将其舍弃,这种 舍弃不是任意的,要有根据。
如何得到这一直线?对数据进行回归分 析。单一组分可用一元线性回归分析。
3.6.1 一元线性回归方程 设浓度值为x,测量值为y。对于n个实验点 (xi,yi)(i=1,2,…n),校正曲线为:
yi=a+bxi
在分析校正时,取不同的xi值测量yi,用最 小二乘法估计a和b值。
n
n
yi b xi
a i1
1、4d法
根据正态分布规律,偏差超过3σ的个别测 定值的概率小于0.3%,可舍去。
偏差大于4d的个别测定值可以舍去。
优点:方法比较简单,不必查表,至今仍为 人们所采用。 缺点:存在较大的误差。当4d法与其他检验 法矛盾时,应以其它方法为准。
步骤
(1)首先求出除异常值外的其余数据的平 均值x和平均偏差d;
在直角座标纸上,x、y各占一个座标, 每对数据在图上对应一个点。 ✓如果各点的排布接近一条直线,表明x、y 的线性关系好; ✓如果各点的排布接近一条曲线,表明x,y 的线性关系虽然不好,但可能存在某种非线 性关系; ✓如果各点排布杂乱无章,表明相关性极小.
相关系数定义:
若两个变量x、y的n次测量值为(x1,y1)、 (x2,y2)……(xn,yn),则r为:
F<F4,3,不存在显著性差异,作出这种判断的可 靠性达95%。
2、t检验法
<1>平均值与标准值比较 检查分析方法是否存在系统误差。
步骤:(Ⅰ)计算t值:
(Ⅱ)计算t值与表中t值(p61表3-3)比较, 若t计>t表,分析结果存在显著性差异。通常 以95%的置信度为检验标准。
例 某药物中钴含量(μg/g)测定数据如下: 1.25,1.27,1.31,1.40 μg/g,问1.40是否保留? 解 全部数据的平均值和平均偏差为:
x=1.31 s=0.066
查表T0.05,4=1.46,T<T表,保留。
3、Q检验法
<1>将测定值按递增顺序排列:x1, x2, … xn <2>计算统计量Q:
2、格鲁布斯(Grubbs)法
一组数据,从小到大排列为:x1,x2,…xn,欲 考察其中x1或xn的取舍,其检验步骤如:
<1>计算出该组数据的平均值及标准偏差。 <2>计算统计量T
<3>根据测定次数n和置信度(如95%),从表中 查得T值(p67)。若计算的T计>T表值时,则舍 去,否则应保留。 优点:在判断过程中,将t分布中的两个最重要的 样本参数x 及s引入,准确度较高; 缺点:需要计算x及s,手续稍麻烦。
解:Q=(1.40-1.31)/(1.40-1.25)=0.60
查表n=4,Q0.90=0.76 Q<Q0.90 保留
注意
由于置信度升高会使置信区间加宽,所以置信 度为90%时应保留的数字在95%时也一定应保留。 在90%舍弃的数值,在95%时则不一定要舍弃, 应重新做Q检验。反之在95%该舍弃的数值,在 90%时一定舍弃。
<2>两组平均值的比较
要判断这两组数据之间是否存在系统误差,采 用t检验法进行判断。
对于两组分析数据: 步骤: (Ⅰ)检验精密度是否存在差异,用F检验。 (Ⅱ)如果精密度没有显著性差异,则
S1≈S2 ≈S,S称为合并标准偏差。
或
(Ⅲ) 计算t值:假设 x 1 和 x 2 属于同一总体,即 μ1= μ2
(2)然后将异常值与平均值进行比较,如 绝对差值大于4d,则舍去,否则保留。
例 某药物中钴含量(μg/g)测定数据如下: 1.25,1.27,1.31,1.40 μg/g,问1.40是否保留?
解 首先不计异常值1.40,求得其余数据的 平均值和平均偏差为:
x=1.28 d=0.023 异常值与平均值的差的绝对值为: 1.4Hale Waihona Puke Baidu-1.28=0.12>4d(0.092)故舍去。
当xn为异常值,Q=(xn-xn-1 )/( xn-x1 ) 当x1为异常值,Q=(x2-x1 )/( xn-x1 )
<3>根据测定次数和置信度从P68表3-6中查 出Q表值。 判定:Q计>Q表时,应舍弃,反之保留。
例 某药物中钴含量(μg/g)测定数据如下: 1.25,1.27,1.31,1.40 μg/g,问1.40是否保留? (置信度为90%)
i1 y b x
n
n
( x i x )( y i y )
b i1 n
(xi x )2
i1
式中x,y分别为x和y的平均值,a:截矩,b: 斜率。
3.6.2 相关系数
在实际测量中,判断两个变量之间是否 成线性关系。
在线性关系的基础上才能用回归分析估 计误差。
相关系数:
反映x、y两变量间相关的密切程度。
在Q检验中,置信度选择要合适,置信度太小置 信区间过窄,使该保留的数值舍掉。置信度太高, 置信区间加宽,使该舍弃的数值被保留。
测定次数n≤3时,做Q检验,会将错误数字保留。
3.6 回归分析法
吸光光度法中,将吸光度对溶液浓度绘制 一直线——标准曲线。通常,标准溶液浓度 误差很小,所以精密度主要取决于吸光度测 量的精密度。
1、F检验法
F检验法:比较两组数据的方差S2,以确定它 们的精密度是否有显著性差异。 <1> 计算两组数据的方差:
<2> F值:
规定:S值大的S1为分子,S值小的S2为分母。
<3> 比较,若F计>F表,说明两组数据存在显 著性差异。
例 :A、B两种方法测定的数据如下: 方法A测定5次,标准偏差s=0.063; 方法B测定4次,标准偏差s=0.024。
n
n
(xi x)2
(xi x)(yi y)
rb
i1 n
(yi y)2
i1
n
n
(xi x)2 (yi y)2
i1
i1
i1
0≤│r│≤1。当r=0时,表示所对应的点杂乱无 章。
实验中大多数情况是0< r <1。 r>0时称为正相关; r<0时称为负相关。
(Ⅳ) 比较t计与t表:t计>t表,说明μ1≠ μ2, 即两组分析数据不属于同一总体,存在显著性差 异;反之, t计≤t表, μ1= μ2,没有显著性差异。
例
3.5 可疑值的取舍 一系列平行测定的离群值是否舍弃?
如一组测定值: 20.80;20.25;20.30;20.32; ↓ 离群值
在计算平均值时是否应将其舍弃,这种 舍弃不是任意的,要有根据。
如何得到这一直线?对数据进行回归分 析。单一组分可用一元线性回归分析。
3.6.1 一元线性回归方程 设浓度值为x,测量值为y。对于n个实验点 (xi,yi)(i=1,2,…n),校正曲线为:
yi=a+bxi
在分析校正时,取不同的xi值测量yi,用最 小二乘法估计a和b值。
n
n
yi b xi
a i1
1、4d法
根据正态分布规律,偏差超过3σ的个别测 定值的概率小于0.3%,可舍去。
偏差大于4d的个别测定值可以舍去。
优点:方法比较简单,不必查表,至今仍为 人们所采用。 缺点:存在较大的误差。当4d法与其他检验 法矛盾时,应以其它方法为准。
步骤
(1)首先求出除异常值外的其余数据的平 均值x和平均偏差d;
在直角座标纸上,x、y各占一个座标, 每对数据在图上对应一个点。 ✓如果各点的排布接近一条直线,表明x、y 的线性关系好; ✓如果各点的排布接近一条曲线,表明x,y 的线性关系虽然不好,但可能存在某种非线 性关系; ✓如果各点排布杂乱无章,表明相关性极小.
相关系数定义:
若两个变量x、y的n次测量值为(x1,y1)、 (x2,y2)……(xn,yn),则r为: