第二章 监测数据的处理
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第二章 监测数据的统计处理和结果表述
2.1基本概念
2.1.1误差和偏差
2.1.1.1真值:在某一时刻和某一位置或状态下,某量的效应体现出客观值或实际值。
理论真值
真值包括 约定真值
标准器的相对真值
2.1.1.2误差及其分类
1、由于被测量的数据形式通常不能以有限为数表示,同时由于认识能力和科学技术水平的限制,使测量值与真挚不一致,这种矛盾在数值上表现即为误差。
2、差按其性质和产生原因可分为:
●系统误差(可测误差、恒定误差、偏倚):指测量值的总体均值与真值之间的
差别,是由测量过程中某些恒定因素造成的,在一定条件下具有重现性,并不因增加测量次数而减少系统误差,他的产生可以是方法、仪器、试剂、恒定的操作人员或恒定的环境等所造成。
● 随机误差(偶然误差、不可测误差):是由测量过程中各种随机因素的共同作用所造成的,其遵从正态分布规律。
●过失误差:是由测量过程中犯下不应有的错误所造成,它明显的歪曲了测量结
果,因而一经发现必须及时改正。
3、 误差的表示方法
绝对误差:测量值(x )与真值(x
t )之比。 绝对误差=x-x t 相对误差:指绝对误差与真值之比。 相对误差=
t
t
x x x -×100% 4、偏差:个别测量值与多次测量均值之偏离。分
绝对偏差(d ):测量值与均值(x ’)之差。 d i =x i -x ’
相对偏差:绝对偏差与均值之比。 相对偏差=
'x d
×100% 平均偏差:是绝对偏差绝对值之和的平均值。 d ’=
n
1di n
i ∑
=1
=
n
1
( )
标准偏差和相对标准偏差
● 差方和(S ):指绝对值的平方之和。 S=
∑
=-n
i i
x x 12
')( ● 样本方差(s 2
或V ) s 2
=11-n ∑=-n i i x x 12
')(=1
1-n S ● 样本标准偏差(s 或s D ) s=2
1
)'(1∑=-n
i i x x n =S n 1 ● 样本相对标准偏差(变异系数):样本标准偏差在样本均值中所占的百分
数 C v =
'
x s
×100% ● 总体方差和总体标准偏差分别以σ2和σ表示
σ2
=
N
1∑
=-n
i i
x 1
2
)(μ σ=∑=-n
i i x 1
2)(N 1
μ=N
N
)x (-
x
2
i i
2
∑∑
式中:N ——总体容量 μ——总体均值
● 级差(R ):一组测量值中最大值与最小值之差,表示误差的范围. R=x max -x min 5、总体、样本和平均数 ● 总体和个体
研究对象的全体称总体,其中一个单位叫个体。 ● (2)样本和样本容量
总体中的一部分叫样本,样本中含有个体的数目叫此样本的样本容量。 ● (3)平均数:平均数代表一组变量的平均水平或集中趋势,样本观测中大多数
测量值靠近平均数。
算术均数:样本均数x ’=n
x i
∑
总体均数μ=
n
x i
∑ n →∞
几何均数:当变量呈等比关系,常需用几何均数. x g ’=( x 1x 2……x n )1/n
● 中位数:将各数据按大小顺序排列,位于中间的数据。若为偶数取中间两数的
平均值。
● 众数:一组数据中出现次数最多的一个数据。
例题:有一氯化物的标准水样,浓度为110mg/l ,以银量法测定5次其值为:112、115、14、113、15mg/l ,求算术均数、几何均数、中位数、绝对误差、相对偏差、平均偏差、极差、样本的差方和、方差、标准偏差和相对标准偏差。 解:算术平均数 x g =(112+115+114+113+115)/5=13.8mg/l 几何均数 x g ’=(112×115×114×113×115)1/5=13.8mg/l 中位数 114mg/l
绝对误差 x i -x t =112-110=2 mg/l(以x i 为112 mg/l ,x t 为112 mg/l 为例) 相对误差 2/110=1.8%
绝对偏差 d i =x i -x ’=112-113.8=-1.8mg/l 平均偏差 d ’=1.04 mg/l 极差 R=115-12=3 mg/l
样本差方和 S=(-1.8)2
+1.22
+1.22
+(-0.8) 2
+1.22
=6.8 mg/l
样本方差 s 2=
1
1
n S=1.70mg/l 样本标准偏差 s=2s =1.3mg/l 样本相对标准偏差 C v =
8
.1133
.1×100%=1.1% 2.1.3 数据的处理和结果表述
2.1.
3.1 数据修约规则
计算的数据需要修约时,应遵守下列规则:
四舍六入五考虑,五后非零则进一,五后皆零视寄偶,五前为偶应舍去,五前为寄则进一。
例题:将下列数据修约到只保留一位小数
修约前: 14.3426 14.2631 14.2501 14.2500 14.0500 14.1500
修越后: 14.3 14.3 14.3 14.2 14.0