第二章 分析数据处理

●检验程序如下：双侧情形
（1）根据表1-3，选择相应的D统计量计算D1和Dn； X1，X2，X3 · Xn-1，Xn · · （2）给定显著性水平α和测定次数n，查双侧临界值 ) D ( ,n（教材P223附录表6）；
（3）当Dn＞D1，Dn ＞ D ( ,n ) ，判断Xn 为异常值；当D1＞Dn， D1 ＞ D ( ,n ) ，判断X1 为异常值；应弃去，否则保留。
2、Dixon检验法 （D检验法）
该法比较简单，不需要计算平均值和标准偏差，可进 行多次检验，根据分析数据由小到大排列后的顺序及测定 次数，以统计量来判断最小、最大可疑数据的取舍。
●检验程序如下：单侧情形
（1）将一组数据由小到大顺序排列： 8≤n≤10 X1，X2，X3 · Xn-1，Xn （异常值出现在两端） · · （2）根据测定次数n，选择相应的D统计量计算D值。 教材P17 X 2 X1 D1 表1-3 X X （检验最小值，第一个数据）
b＝3.13，舍入误差的绝对值为：
10 m ‫ ׀‬δ‫＞ 6400.0 ＝׀ 6431.3－31.3׀＝׀‬ 2 例2：a ＝3.1450，m ＝－2，则 b ＝3.14 10 m ‫ ׀‬δ ‫ ׀＝׀‬b－a ‫＝ 500.0＝ ׀ 0541.3－41.3׀ =׀‬ 2
例3：将数8750按100间隔修约，要求m ＝2，并求舍入误
第二章 分析数据处理
• • • • §2.1 分析数据的位数 §2.2 可疑数据的取舍 §2.3 显著性检验 §2.4 标准曲线的相关性检验
§2.1 分析数据的位数
一、有效数字
有效数字构成：由全部准确数字和一位不确定数字构成。 有效数字的位数反映了测量的准确度。 记录实验数据和计算测定结果应根据分析方法和分析仪 器的准确度来确定有效数字的位数，其位数不能任意增减。
4、在数值计算中，某些倍数、分数、某些物理量的有效数字
的位数可视为无限。如π、测定次数n、自由度ƒ。
5、测定结果的有效数字位数不能低于方法检出限的有效数字位
数。
6、测定结果的有效数字位数应与分析方法的精密度或不确定度 相适应。 7、测定结果的有效数字位数与待测组分在试样中的相对含量有 关。高含量组分测定（>10%）保留四位有效数字；中含量组
如m＝2，相当于将数值修约到“百”位
3、舍入误差
设 a 为待修约的数，b 为修约后的近似数，则修约引
起的舍入误差：
‫׀‬δ‫＝׀‬b－a
‫׀‬δ‫≤׀‬
10 2
m
10
半个单位，即 10 m
m
为修约间隔
由修约规则可见，舍入误差的绝对值不超过近似数末位的
2
例1：a ＝3.1346，m ＝－2，则修约到二位小数，修约为
●蔡明招主编的“实用工业分析”P15 表1-6 “科克伦检验 临界值表（显著性水平α = 0.05 ）”
上述数中小数位最少的为一位，因此它们的和必须保 留一位小数。 1648.0+13.65+0.0082+1.632＋86.82＋5.135 +316.34+0.545＝2072.13 ≈2072.1
2、乘除运算：计算结果有效数字位数应与各乘、除 数中有效数字位数最少的数相同。(即相对误差最大 的数的位数) 例1：1.364×0.0026＝0.0035464 ≈0.0035
4、对数运算：计算结果有效数字位数与其真数位数 相同。
5、在计算4个以上数的平均值时，其有效数字可增 加一位。
注意：
（1）在运用计算器等计算工具时，可适当多保 留有效数字或小数位数； （2）测量误差和测量不确定度一般只保留一至 两位有效数字，其余按规则舍入； （3）提高精密度，依靠增加测定次数，降低随
注意：当舍去的多余位数为整数位时，被保留的有效数字 必须保持它原来的数位不变。
例2：18673.8×0.48＝ 8963.424
≈90×102
3、乘方和开方运算：计算结果有效数字位数应与其 底数的有效数字位数相同。
例1：（1.52）2 ＝2.3104 ≈2.31 例2： 3.1643 ＝1.778847941••• ≈ 1.7788
n 1 1
X n X n 1 Dn （检验最大值，最后数据） Xn X2
（3）给定显著性水平α和测定次数n （4）查Dixon检验单侧临界值D（α, n）（教材P223附录表6） （5）比较D计算值与D（α, n）：若D计＞ D（α, n），则判断该可疑值 应弃去，否则保留。
例：一组测定值（%）按由小到大顺序排列为14.65，14.90， 14.90，14.92，14.95，14.96，15.00，15.00，15.01，15.02， 检验最小值14.65是否该舍去?（显著性水平α= 0.05 ） 解：n = 10，计算统计量D
差。（相当于修约到百位）
则8750 ≈ 8800（5前为单数，应进） 舍入误差＝8800－8750＝50＝10m/2
四、记数规则
1、记录测量数据时，只保留一位可疑数字； 2、表示精密度（标准偏差和不确定度）时，通常只取一位到 两位有效数字。 3、在数值计算中，当有效数字位数确定后，其余数字应按修 约规则进或舍。
1、Grubbs检验法（格鲁布斯法） ●检验程序如下：
（1）将数据由小到大排列： X1，X2，X3·Xn · · （2）计算此组数据的平均值 （3）计算标准偏差
X Xi / n
s
（4）计算统计量G1或Gn
X
i
X / n 1
2
X max X X X min 或 G1 Gn S S （5）给定显著性水平α（α = 1-P）, α = 0.05 （6）比较计算值G1 （或 Gn ）与G（α, n）临界值，若 G1 （或Gn）＞ G（α, n），则该可疑值应剔除，否则 保留。G（α, n）值见教材P223附表5
机误差，增加结果有效数字位数。
§2.2 可疑数据的取舍（异常值检验）
一、技术性取舍
过失误差（操作人员的主观因素）：如样品溅失、加错 试剂、计算差错等 外界测定条件突然变化 仪器失常、环境突然影响 （外界条件的客观因素）： 等原因 可疑数据，作技术性剔除，否则应保留。
二、统计检验取舍
统计检验可疑数据的法则：“4d”检验法、莱因达检验 法、格鲁布斯（Grubbs）检验法、狄克逊（Dixon）检验法 和科克伦（Cochran）检验法等。
例：测定某铁矿石中Fe2O3（%）得到5个分析数据，按其 大小排列为30.02、30.12 、30.16 、30.18、30.18，第一个 数据30.02可疑，试判断是否应舍去（P = 0.95）？ 解： X 30.13，其中30.02偏差最大，故首先检验该数
S 0.067
X X min 30.13 30.02 G1 S 0.067 1.64 1.67
0.0204
12 0.08 5600
1.98×10-5
0.0020 2×105 100
三位
两位 一位 位数不确定 5.6×103 , 5.60×103
pH=2.48
两位
三、数字的修约
1、基本修约规则 四要舍，六要上，五字看单双； 单数在前进一位，双数在前五舍先； 五后有数五进一，连续进位不应当。
如：修约为四位有效数字 1.327465 1.32746 1.3275 1.328 ×
检最小值X1 ：
X 2 X1 D1 Xn X 1
检最大值X n ：
X n X n 1 Dn X n X1
2、 8≤n≤10 ，采用统计量D计算式：
检最小值X1 ：
X 2 X1 D1 X n 1 X 1
X n X n 1 Dn Xn X2
检最大值X n ：
正确修约为： 1.327465
1.327
2、修约间隔
修约间隔是确定修约保留位数的一种方式，修约间隔 的量一经确定，修约值即为该量值的整数倍。 修约间隔的量值指定为10 m（m可为负整数、零、正数） 的形式。
（１）当m为负整数时，表明将数值修约到m位小数。
如m ＝－1，相当于将数值修约到一位小数；十分位 如m＝－2，相当于将数值修约到二位小数；百分位 （２）当m＝0，相当于将数值修约到个位； （３）当m为正整数时，表明将数值修约到10 m数位。
C
S max
2
S
n 1
m
2 i
（3）给定显著性水平α，测定值组数m，每组测定次数n，自 由度ƒ。 （4）查表得科克伦最大方差检验临界值C（α, m , ƒ ）。
（5）若计算值C计 ＞ 临界值C（α, m, ƒ），则可疑方差为离群
方差，即该组数据精密度过低，应该剔除；若计算值C计≤
临界值C（α, m, ƒ），则判断该可疑方差为正常方差，应予保 留。
Gα, n值表
测定次数n 3 4 5 6 7 8 9 10 11 置信度95% α= 0.05 1.15 1.46 1.67 1.82 1.94 2.03 2.11 2.18 2.23 置信度99% α= 0.01 1.15 1.49 1.75 1.94 2.10 2.22 2.32 2.41 2.48
检最小值X1 ：
检最大值X n ：
X 2 X1 D1 X n 1 X 1
X n X n 1 Dn Xn X2
X1 = 14.65%，X2 = 14.90%，Xn-1 = 15.01% 代入
X 2 X 1 14.90 14.65 D计 0.694 X n 1 X 1 15.01 14.65
由α= 0.05，n = 10 查Dixon检验单侧临界值D（α, n）附录表6： D（α, n）= D（0.05 , 10）= 0.477

D计 ＞D临
最小值14.65%应剔除。
当再检验下一个数时，已检验并应剔除的数应先删除， 再进行检验，此时nห้องสมุดไป่ตู้ = n-1。
● 3≤n ≤7 、 8≤n≤10 、 11≤n≤13统计量D计算式 有所不同。 见教材P17表1-3 １、 3≤ n≤7，采用统计量D计算式：
分测定（1%~10%）保留三位；微量组分测定（<1%）保留
两位。
五、有效数字的运算规则 （教材P18~19）
1、加减运算：计算结果小数位应与其中小数点后位 数最少的数相同。(即绝对误差最大的数的位数) 例1：求1648.0+13.65+0.0082+1.632＋86.82＋5.135
+316.34+0.545＝？
查G（α, n）临界值表n = 5，α = 0.05时，（附录表5教材P223） G（0.05，5）= 1.67，G1 ＜G（0.05，5） 判断可疑值30.02%应保留。 5个值都应参与均值，不应剔除。 ●教材P16例1-13
注意：
（１）对一组数据中偏高或偏低的可疑值进行检验，一般作一 次检验。 （２）如果可疑值有两个，而且都在X1、X2、X3 · Xn-1、Xn同 · · 一侧，若X1 、X2为可疑值，先检验X2，测定次数应作少一次， 计算G2检验X2的取舍。如X2舍去，则X1舍去。注意，检验内侧 数据时计算 平均值X和S不应包括外侧数据。 （３）如果可疑值有两个，而且分配在X1、X2、X3 · Xn-1、Xn · · 的两侧，若X1 、Xn为可疑值，分别检验X1 、Xn是否应舍去。 如有一个数据决定舍去，再检验另一个数据时，测定次数应作 少一次处理。
●教材P17：例1-14；例1-15
3、Cochran最大方差检验法
用于剔除多组测定值中精密度较差的一组数据，也用于 多组测定值的方差一致性检验，即等精度检验。
●检验程序如下：
（1）将m组测定值，每组n次测定，按其标准偏差大小顺序排 列，S1，S2，· Sm，其中最大标准偏差为Smax，最大方差Smax2。 · · （2）计算统计量
●数字“0”对有效数字的影响。 （见教材P18 ）
（1）它是否是有效数字，取决于它处在近似数中的位置； （2）小数点以后的零反映了近似数的误差，不能随意取舍； （3）在第一个有效数字之前的零与误差无关，起定位作用， 与测量的准确度无关，不是有效数字。
二、有效数字的位数
例如：23.51为几位有效数字？四位，两位小数 0.235为几位有效数字？三位，三位小数 1.0008 0.1000 42678 25.52% 五位有效数字 四位