第二章分析数据处理

置信度99% α= 0.01 1.15 1.49 1.75 1.94 2.10 2.22 2.32 2.41 2.48
例：测定某铁矿石中Fe2O3（%）得到5个分析数据，按其 大小排列为30.02、30.12 、30.16 、30.18、30.18，第一个 数据30.02可疑，试判断是否应舍去（P = 0.95）？
5、测定结果的有效数字位数不能低于方法检出限的有效数字位 数。 6、测定结果的有效数字位数应与分析方法的精密度或不确定度 相适应。 7、测定结果的有效数字位数与待测组分在试样中的相对含量有 关。高含量组分测定（>10%）保留四位有效数字；中含量组 分测定（1%~10%）保留三位；微量组分测定（<1%）保留 两位。
0.694
由α= 0.05，n = 10
查Dixon检验单侧临界值D（α, n）附录表6： D（α, n）= D（0.05 , 10）= 0.477 D计 ＜D临
最小值14.65%应剔除。
当再检验下一个数时，已检验并应剔除的数应先删除，
再进行检验，此时n’ = n-1。
● 3≤n ≤7 、 8≤n≤10 、 11≤n≤13统计量D计算式 有所不同。
第二章 分析数据处理
• §2.1 分析数据的位数 • §2.2 可疑数据的取舍 • §2.3 显著性检验 • §2.4 标准曲线的相关性检验
§2.1 分析数据的位数
一、有效数字
有效数字构成：由全部准确数字和一位不确定数字构成。 有效数字的位数反映了测量的准确度。
记录实验数据和计算测定结果应根据分析方法和分析仪 器的准确度来确定有效数字的位数，其位数不能任意增减。
●数字“0”对有效数字的影响。 （见教材P18 ）
（1）它是否是有效数字，取决于它处在近似数中的位置； （2）小数点以后的零反映了近似数的误差，不能随意取舍； （3）在第一个有效数字之前的零与误差无关，起定位作用，
与测量的准确度无关，不是有效数字。
二、有效数字的位数
例如：23.51为几位有效数字？四位，两位小数
四、记数规则
1、记录测量数据时，只保留一位可疑数字； 2、表示精密度（标准偏差和不确定度）时，通常只取一位到 两位有效数字。 3、在数值计算中，当有效数字位数确定后，其余数字应按修 约规则进或舍。 4、在数值计算中，某些倍数、分数、某些物理量的有效数字 的位数可视为无限。如π、测定次数n、自由度ƒ。
●检验程序如下：单侧情形
（1）将一组数据由小到大顺序排列： 8≤n≤10
X1，X2，X3 ···Xn-1，Xn （异常值出现在两端） （2）根据测定次数n，选择相应的D统计量计算D值。
教材P17 表1-3
D1

X2 X1 X n1 X
（检验最小值，第一个数据）
1
Dn

X n X n1（检验最大值，最后数据） Xn X2
（3）给定显著性水平α和测定次数n
（4）查Dixon检验单侧临界值D（α, n）（教材P223附录表6） （5）比较D计算值与D（α, n）：若D计＜ D（α, n），则判断该可疑值
应弃去，否则保留。
例：一组测定值（%）按由小到大顺序排列为14.65，14.90， 14.90，14.92，14.95，14.96，15.00，15.00，15.01，15.02， 检验最小值14.65是否该舍去?（显著性水平α= 0.05 ） 解：n = 10，计算统计量D
见１教、材3P≤17n表≤17-，3 采用统计量D计算式：
检最小值X1 ：
D1

X2 X1 Xn X 1
检最大值X n ：
Dn

X n X n1 Xn X1
2、 8≤n≤10 ，采用统计量D计算式：
检最小值X1 ：
D1

X2 X1 X n1 X 1
检最大值X n ：
Dn

●教材P17：例1-14；例1-15
3、Cochran最大方差检验法
用于剔除多组测定值中精密度较差的一组数据，也用于
多组测定值的方差一致性检验，即等精度检验。
●检验程序如下：
（1）将m组测定值，每组n次测定，按其标准偏差大小顺序排 列，S1，S2，···Sm，其中最大标准偏差为Smax，最大方差Smax2。
1、Grubbs检验法（格鲁布斯法）
●检验程序如下：
（1）将数据由小到大排列： X1，X2，X3···Xn
（2）计算此组数据的平均值 （3）计算标准偏差
X Xi / n
s Xi X 2 / n 1
（4）计算统计量G1或Gn
G1

X
X min S
或
Gn

X max S
五、有效数字的运算规则 （教材P18~19）
1、加减运算：计算结果小数位应与其中小数点后位 数最少的数相同。(即绝对误差最大的数的位数)
例1：求1648.0+13.65+0.0082+1.632＋86.82＋5.135
+316.34+0.545＝？ 上述数中小数位最少的为一位，因此它们的和必须保 留一位小数。
0.235为几位有效数字？三位，三位小数
1.0008 0.1000 0.0204 12 0.08 5600
42678 25.52%
五位有效数字 四位
1.98×10-5
三位
0.0020 2×105
两位 一位
100 pH=2.48
位数不确定 5.6×103 , 5.60×103
两位
三、数字的修约
1、基本修约规则 四要舍，六要上，五字看单双； 单数在前进一位，双数在前五舍先； 五后有数五进一，连续进位不应当。
注意：当舍去的多余位数为整数位时，被保留的有效数字 必须保持它原来的数位不变。
例2：18673.8×0.48＝ 8963.424
≈90×102
3、乘方和开方运算：计算结果有效数字位数应与其 底数的有效数字位数相同。
例1：（1.52）2 ＝2.3104 ≈2.31
例2： 3.1643 ＝1.778847941••• ≈ 1.7788
5个值都应参与均值，不应剔除。
●教材P16例1-13
注意：
（１）对一组数据中偏高或偏低的可疑值进行检验，一般作一 次检验。
（２）如果可疑值有两个，而且都在X1、X2、X3 ···Xn-1、Xn同 一侧，若X1 、X2为可疑值，先检验X2，测定次数应作少一次， 计算G2检验X2的取舍。如X2舍去，则X1舍去。注意，检验内侧 数据时计算 平均值X和S不应包括外侧数据。
（３）如果可疑值有两个，而且分配在X1、X2、X3 ···Xn-1、Xn 的两侧，若X1 、Xn为可疑值，分别检验X1 、Xn是否应舍去。 如有一个数据决定舍去，再检验另一个数据时，测定次数应作 少一次处理。
2、Dixon检验法 （D检验法）
该法比较简单，不需要计算平均值和标准偏差，可进 行多次检验，根据分析数据由小到大排列后的顺序及测定 次数，以统计量来判断最小、最大可疑数据的取舍。
检最小值X1 ：
D1

X2 X1 X n1 X 1
检最大值X n ：
Dn

X n X n1 Xn X2
X1 = 14.65%，X2 = 14.90%，Xn-1 = 15.01%
代入
Leabharlann BaiduD计

X2 X1 X n1 X 1
14.90 14.65 15.0114.65

如m ＝－1，相当于将数值修约到一位小数；十分位 如m＝－2，相当于将数值修约到二位小数；百分位 （２）当m＝0，相当于将数值修约到个位； （３）当m为正整数时，表明将数值修约到10 m数位。 如m＝2，相当于将数值修约到“百”位
3、舍入误差
设 a 为待修约的数，b 为修约后的近似数，则修约引
起的舍入误差：
4、对数运算：计算结果有效数字位数与其真数位数 相同。
5、在计算4个以上数的平均值时，其有效数字可增 加一位。
注意：
（1）在运用计算器等计算工具时，可适当多保 留有效数字或小数位数；
（2）测量误差和测量不确定度一般只保留一至 两位有效数字，其余按规则舍入；
（3）提高精密度，依靠增加测定次数，降低随 机误差，增加结果有效数字位数。
X
（5）给定显著性水平α（α = 1-P）, α = 0.05
（6）比较计算值G1 （或 Gn ）与G（α, n）临界值，若 G1 （或Gn）＜ G（α, n），则该可疑值应剔除，否则 保留。G（α, n）值见教材P223附表5
测定次数n
3 4 5 6 7 8 9 10 11
Gα, n值表
置信度95% α= 0.05 1.15 1.46 1.67 1.82 1.94 2.03 2.11 2.18 2.23
●蔡明招主编的“实用工业分析”P15 表1-6 “科克伦检验 临界值表（显著性水平α = 0.05 ）”
例：6个实验室分析同一样品，各测定5次，其标准偏差0.84， 1.30，1.48，1.67，1.79，2.17，检验6个实验室的测定是否等 精密度。
解：其中最大标准偏差为2.17
α= 0.05，m = 6，n = 6，ƒ=5，查表得C（α, m, ƒ）= 0.4447
（2）计算统计量
C
S2 max m
Si2
n 1
（3）给定显著性水平α，测定值组数m，每组测定次数n，自
由度ƒ。
（4）查表得科克伦最大方差检验临界值C（α, m , ƒ ）。
（5）若计算值C计 ＜ 临界值C（α, m, ƒ），则可疑方差为离群 方差，即该组数据精密度过低，应该剔除；若计算值C计≤ 临界值C（α, m, ƒ），则判断该可疑方差为正常方差，应予保 留。
‫׀‬δ‫＝׀‬b－a
10m
‫׀‬δ‫≤׀‬
2
10m 为修约间隔
由修约规则可见，舍入误差的绝对值不超过近似数末位的
半个单位，即 10m
2
例1：a ＝3.1346，m ＝－2，则修约到二位小数，修约为
b＝3.13，舍入误差的绝对值为：
‫ ׀‬δ‫׀＝׀‬3.13－3.1346 ‫ ＝׀‬0.0046 ＜ 10m 2
1648.0+13.65+0.0082+1.632＋86.82＋5.135
+316.34+0.545＝2072.13 ≈2072.1
2、乘除运算：计算结果有效数字位数应与各乘、除 数中有效数字位数最少的数相同。(即相对误差最大 的数的位数) 例1：1.364×0.0026＝0.0035464 ≈0.0035
例2：a ＝3.1450，m ＝－2，则 b ＝3.14
10m
‫ ׀‬δ ‫ ׀＝׀‬b－a ‫׀ =׀‬3.14－3.1450 ‫＝ ׀‬0.005 ＝
2
例3：将数8750按100间隔修约，要求m ＝2，并求舍入误
差。（相当于修约到百位）
则8750 ≈ 8800（5前为单数，应进） 舍入误差＝8800－8750＝50＝10m/2
如：修约为四位有效数字 1.327465 1.32746 正确修约为： 1.327465
1.3275 1.327
1.328 ×
2、修约间隔
修约间隔是确定修约保留位数的一种方式，修约间隔 的量一经确定，修约值即为该量值的整数倍。 修约间隔的量值指定为10 m（m可为负整数、零、正数） 的形式。 （１）当m为负整数时，表明将数值修约到m位小数。
X n X n1 Xn X2
●检验程序如下：双侧情形
（1）根据表1-3，选择相应的D统计量计算D1和Dn； X1，X2，X3 ···Xn-1，Xn
（2）给定显著性水平α和测定次数n，查双侧临界值 D(,n（) 教材P223附录表6）；
（3）当Dn＜D1，Dn ＜ D(,n) ，判断Xn 为异常值；当D1＜Dn， D1 ＜ D(,n) ，判断X1 为异常值；应弃去，否则保留。
§2.2 可疑数据的取舍（异常值检验）
一、技术性取舍
过失误差（操作人员的主观因素）：如样品溅失、加错 试剂、计算差错等
外界测定条件突然变化 仪器失常、环境突然影响 （外界条件的客观因素）： 等原因
可疑数据，作技术性剔除，否则应保留。
二、统计检验取舍
统计检验可疑数据的法则：“4d”检验法、莱因达检验 法、格鲁布斯（Grubbs）检验法、狄克逊（Dixon）检验法 和科克伦（Cochran）检验法等。
解： X 30.13，其中30.02偏差最大，故首先检验该数
S 0.067
G1

X
X min S

30.13 30.02 0.067
1.64 1.67
查G（α, n）临界值表n = 5，α = 0.05时，（附录表5教材P223） G（0.05，5）= 1.67，G1 ＜G（0.05，5） 判断可疑值30.02%应保留。