环境监测实验室数据修约管理制度
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
环境监测实验室数据修约管理制度监测数据报出的位数,对监测结果的准确性和数据资料的统计整理是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
一个分析结果的有效数字的位数,主要取决于原始数据的正确记录和数值的正确计算。
在记录测量值时,要同时考虑到计量器具的精密度和准确度,以及测量仪器本身的读数误差。
1有效位数
(1)以实验室最常用的计量器具为例,最多保留的有效位数如下:①用万分之一天平进行称量时,有效数字可以记录到小数点后第四位,如1.2235g,此时有效数字为五位。
称取0.9452g,则为四位。
②用玻璃量器量取体积的有效数字位数是根据量器的容量允许差和读数误差来确定的。
如10mLA级无分度单标线吸管,其允差为±
0.02mL,准确容积为10.00mL,有效数字均为四位。
③分光光度计的吸光度一般可记到小数点后第三位,有效数字位数最多只有三位。
④带有计算机处理系统的分析仪器,往往根据计算机自身的设定,打印或显示结果,可以有很多位数,但这并不增加仪器的精度和可读的有效位数。
⑤在一系列操作中,使用多种计量仪器时,有效数字以最少的一种计量仪器的位数表示。
(2)表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取1~2位有效数字。
(3)分析结果小数点后最多位数不能超过方法最低检出浓度的小数位数。
(4)以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量x有效数字位数相等,或最多比x多保留一位。
截距a的最后一位数,则和因变量y的最后一位取齐,或最多比y多保留一位数。
(5)在数值计算中,当有效数字位数确定之后,其余数字应按修约规则一律舍去。
(6)在数值计算中,某些倍数、分数、不连续物理量的数值,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。
这类数值在计算中按需要几位就定几位。
(7)如果监测方法中有规定,则按监测方法规定执行。
2数值的修约
2.1数值和修约的概念
2.1.1有效数字∶
监测得到的数值是个近似值,存在一定的不确定性。
因此过多的位数的数值不必要,也没有意义。
有效数字就是能够体现充分信息的最少长度的数值。
具体是指从数值左边第一个非0的数字起,到精确到的位数止,所有的数字。
(对数的有效数字较特殊,详见下面具体说明)监测结果和报告,应采用有效数字。
2.1.2有效位数∶
有效数字的个数,表示有效数字的基本特征。
例:4位有效数字1.354
5位有效数字1.0005
2位有效数字0.0022
4位有效数字0.001400
1200,2-4位有效数字,以0结尾的整数,有效数字不能判断,最
好以指数形式表示。
2位有效数字1.2×103
3位有效数字1.20×103
对于特定量的数值,其有效位数应按照量的规定。
例pH值11.25,0.11 均为两位有效位数。
声压级(以dB为单位)73.2 为两位有效位数。
2.1.3修约间隔
修约间隔是修约值的最小间隔单位,修约值为修约间隔的整数倍。
修约间隔是确定修约保留(有效)位数的一种方式。
例如指定修约间隔为0.01,修约值即应在0.01的整数倍中选取,相当于将数值修约到两位小数。
如指定修约间隔为10,修约值即应在10的整数倍中选取,相当于将数值修约到十位数。
对数值进行修约,首先要确定修约间隔。
修约间隔与测量精度、不确定度等相关。
2.1.4最小间隔
规定的数值的最小修约间隔,实际修约间隔不得小于最小间隔。
2.2数值修约方法
“四舍六入五取偶”法是环境监测结果数据的一般修约方法,也是科学数据的最常见处理方法。
2.3有效数字的运算规则
2.3.1加减运算
在加减运算时,得数经修约后小数点后面有效数字的位数和参加运算的数中小数点后有有效数字位数最少都相同。
例 12.568+0.3-0.036=12.832=12.8
2.3.2乘除法运算
乘除运算时,得数经修约后,其有效数字的位数应和参加运算的数中有效数字位数最少者相同。
例 123.4 × 56 ÷ 78.90=87.58=88
2.3.3开方、乘方运算
进行开方乘方等运算时,计算结果的有效数字位数和原数相同。
例6.542=42.7716 原数是3位有效数字,所以结果为42.8
2.3.5其他规则
求多位(四位以上)准确度接近的近似值的平均值时,有效数字位数可增加一位。
常数的有效位数是无限的,可以根据需要取。
回归方程中,斜率b的有效数字位数应与自变量X的有效数字位数相等,或最多比X多保留一位截距a的最后一位数,则和因变量Y 数值的最后一位数取齐,或最多比Y多保留一位数。