误差与分析数据处理

误差及分析数据的处理

一、有效数字及其应用：

具体的有效数字是指在分析工作中实际能测量到的其中包括测量者本身估计到的一位数字在内的数字。有效数字的位数多少，直接与仪器的精度有关，它反映准确度如何，相对误差的大小。

位数多相对误差小，说明结果准确、但在超过准确度后，任意增加数字也是不行的。

确定有效数字的位数：

1、除零外的实数按个数多少算

例：5.4 (2位)；38.76(4位)。

2、零的位置不同的计算：

A：零在数字中间有效

例：

10.2为[3位]；1.008为[4位]

B：小数点后及实数后面的零有效

0.1000[4位] 0.10[2位] 0.0100[3位]

C：在小数点前或在实数前的零无效,只起定位作用

例:0.0024[2位] 0.055g＝ 55㎎

D:以零结尾的正整数有效位数不定：

例：3600 3.6×103 2位

3.60×103 3位

3.600×103 4位

即:以零结尾的正整数依具体情况以指数的形式表示,即可定位.

此外,在分析过程中,常用到倍数和分数的问题,可以把它看作是多位的有效数字.

二、有效数字的运算规则

1、在记录和运算时，只保留一位不确定的数字，实际工作中要注意根据准确度的要求选用合适的仪器、量器。

2、当有效数字应是几位的确定的之后，余者一律舍去：舍去原则：

（1）四舍六入；

（2）逢五时，应视前位数是怎样即奇进偶舍。

3、加减法规则：

以小数点后位数最少的为准，因小数点后最少的数的绝对误差最大，其它位均舍去：

例：25.01

1. 381.

13

4、乘除法的运算规则

积或商的有效数字的位数，以相对误差最大的为准，即以有效数字位数最少的为准。

例：0.0121

121

1×100%=0.8%

1×100%=0.04%

25.64

2564

1×100%=0.0009%

1.05782

.1

05782

结果定位:

0.0121

25.6 是三位有效数字

1.06

5、对数运算规则:

所取对数运算与真数有效位数相同，

例：[H]=0.030 求PH值

PH=-tg3.0×10-2=2-0.4771=1.5209

真数的有效数字是两位，对数运算后应不包括首数在内的两位数字，因首数等于方次不计在内，但点后的第二位对实际无太大意义应1.52或1.5

6、表示精密度和准确度的有效数字最多留2位

7、重量分析和容量分析的结果应保留四位有效数字。

三、误差产生的原因及消除方法

1、系统误差[可测误差][准确度]

这种误差是由分析过程中，某些经常发生的原因所造成的是比较恒定的。

产生的原因：1、方法误差

2、仪器、试剂的误差

3、操作误差

消除的方法：1、对照试验[回收试验]

2、空白试验

2、偶然误差：[不可测误差][精密度]

它不是由于一定的原因引起的，而是由于多种偶然的原因所造成的误差。如、温度、湿度、压力的变化原因。

消除的办法：

一般讲偶然误差随检测次数的增加而减少，或极微小，但由于分析者本身粗枝大叶造成的误差，其测得值应舍去，不计算在平均值内。此项可增加责任心消除。

系统误差是检验测得值与真值的符合程度；偶然误差是检验测得值与平均值的符合程度。

四、分析结果的处理：

1、可疑值的舍弃

A、4倍法[四d法]

Ⅰ除可疑值外求其它数值的X

Ⅱ求a

Ⅲ∣可疑值-X∣≥4a可舍去

否则要保留。

a=

n x

x

∑-

B Q检验法

Ⅰ先将数据按大小排列出来、算出极差极差=M大-M小

Ⅱ找出可疑值与邻近值的差：

M 可-M 邻

Ⅲ Q =小大邻

可M M M M --

Ⅳ 按频数查Q 值表

舍去商Q 的数值表[置度概率90%]

如Q 可疑>Q 表时可舍去

误差的表示方法: 绝对误差: E=X-X T

相对误差 XT XT

X -×100% 绝对偏差 d=x-x

相对偏差 x x

x -×100% 绝对平均偏差 d=n x x ∑-

标准偏差 s=n

x x ∑- 变异系数 cv=x

s ×100% 标准误[均方差] 6=n

xt x ∑-)( 当以X 代替XT 时以S 表示s=n s

五、分析方法准确度的检验[t 检验]

用已知含量的标准样,或纯净物进行对照试验 用以检验方法的精密度加准确度，利用做回收试验的结果进行t 检验。

A 、 求现多次测定结果的X 、S 、S[真值已知]

B 、 求t 值 t=S

xT x - C 、 用所求的t 与t 值表上查出的t 比较，查时应查频数为n-1概率95%，当/t/值﹤t 表值时，方法准确，当/t/﹥t 表值时，说明存在方法误差，结果不可靠。

相关系数计算：

相关系数量两例数据之间是否相关及相关程度的大小的表示。

一般情况是r=0时为不相关

r=+1时为正相关

r=-1时为负相关 r=∑∑∑----2

)(2)()

)((y y x x y y x x ∑∑∑∑-=--n y x xy y y x x )

())((

∑∑∑-=-n x x x x )

()(

∑∑∑-=-m

y g y y )

()(