环境检测数据的有效位数
环境监测实验室数据修约管理制度
环境监测实验室数据修约管理制度监测数据报出的位数,对监测结果的准确性和数据资料的统计整理是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
一个分析结果的有效数字的位数,主要取决于原始数据的正确记录和数值的正确计算。
在记录测量值时,要同时考虑到计量器具的精密度和准确度,以及测量仪器本身的读数误差。
1有效位数(1)以实验室最常用的计量器具为例,最多保留的有效位数如下:①用万分之一天平进行称量时,有效数字可以记录到小数点后第四位,如1.2235g,此时有效数字为五位。
称取0.9452g,则为四位。
②用玻璃量器量取体积的有效数字位数是根据量器的容量允许差和读数误差来确定的。
如10mLA级无分度单标线吸管,其允差为±0.02mL,准确容积为10.00mL,有效数字均为四位。
③分光光度计的吸光度一般可记到小数点后第三位,有效数字位数最多只有三位。
④带有计算机处理系统的分析仪器,往往根据计算机自身的设定,打印或显示结果,可以有很多位数,但这并不增加仪器的精度和可读的有效位数。
⑤在一系列操作中,使用多种计量仪器时,有效数字以最少的一种计量仪器的位数表示。
(2)表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取1~2位有效数字。
(3)分析结果小数点后最多位数不能超过方法最低检出浓度的小数位数。
(4)以一元线性回归方程计算时,校准曲线斜率b的有效位数,应与自变量x有效数字位数相等,或最多比x多保留一位。
截距a的最后一位数,则和因变量y的最后一位取齐,或最多比y多保留一位数。
(5)在数值计算中,当有效数字位数确定之后,其余数字应按修约规则一律舍去。
(6)在数值计算中,某些倍数、分数、不连续物理量的数值,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。
这类数值在计算中按需要几位就定几位。
(7)如果监测方法中有规定,则按监测方法规定执行。
2数值的修约2.1数值和修约的概念2.1.1有效数字∶监测得到的数值是个近似值,存在一定的不确定性。
土壤环境监测技术规范
土壤环境监测技术规范土壤环境监测技术规范包括土壤环境监测的布点采样、样品制备、分析方法、结果表征、资料统计和质量评价等技术内容。
一、准备工作主要准备工具,器材,用具等。
二、布点采样样品由随机采集的一些个体所组成,个体之间存在差异。
为了达到采集的监测样品具有好的代表性,必须避免一切主观因素,使组成总体的个体有同样的机会被选入样品,即组成样品的个体应当是随机地取自总体。
另一方面,在一组需要相互之间进行比较的样品应当有同样的个体组成,否则样本大的个体所组成的样品,其代表性会大于样本少的个体组成的样品。
所以“随机”和“等量”是决定样品具有同等代表性的重要条件。
1. 布点方法1)简单随机将监测单元分成网格,每个网格编上号码,决定采样点样品数后,随机抽取规定的样品数的样品,其样本号码对应的网格号,即为采样点。
随机数的获得可以利用掷骰子、抽签、查随机数表的方法。
关于随机数骰子的使用方法可见GB10111《利用随机数骰子进行随机抽样的办法》。
简单随机布点是一种完全不带主观限制条件的布点方法。
2)分块随机根据收集的资料,如果监测区域内的土壤有明显的几种类型,则可将区域分成几块,每块内污染物较均匀,块间的差异较明显。
将每块作为一个监测单元,在每个监测单元内再随机布点。
在正确分块的前提下,分块布点的代表性比简单随机布点好,如果分块不正确,分块布点的效果可能会适得其反。
3)系统随机将监测区域分成面积相等的几部分(网格划分),每网格内布设一采样点,这种布点称为系统随机布点。
如果区域内土壤污染物含量变化较大,系统随机布点比简单随机布点所采样品的代表性要好。
2.基础样品数量1)由均方差和绝对偏差计算样品数用下列公式可计算所需的样品数:N=t2s2/D2式中:N为样品数;t为选定置信水平(土壤环境监测一般选定为95%)一定自由度下的t值(附录A);s2为均方差,可从先前的其它研究或者从极差R(s2=(R/4)2)估计;D为可接受的绝对偏差。
环境监测常规项目检测结果保留位数
环境监测常规项目检测结果保留位数废水:石油:测定结果小于10mg/L,结果保留两位小数,测定结果大于10mg/L,结果保留三位有效数字BOD:结果小于100mg/L,保留一位小数;100-1000mg/L,取整数;大于1000mg/L,科学计数法氨氮:测定结果保留三位有效数字,小数点后最多三位总氮:测定结果小于1.0mg/L保留小数点后两位,大于1.0mg/L的保留三位有效数字总磷、磷酸盐:测定结果保留两位有效数字高锰酸盐指数:测定结果保留两位有效数字硫化物:测定结果保留两位有效数字,小数点后两位 COD:测定结果保留三位有效数字氟化物:测定结果保留两位有效数字,小数点后最多两位氯化物:测定结果保留三位有效数字氰化物:测定结果保留两位有效数字铜、铅、锌、镉、镍、总铬、铁、锰、钙、砷、汞、硒、银:测定结果保留两位有效数字,小数点后最多两位六价铬:测定结果小于0.1mg/L的保留小数点后三位,测定结果大于0.1mg/L 的保留三位有效数字镁:测定结果保留两位有效数字硝酸盐氮:测定结果保留两位有效数字,小数点后最多两位亚硝酸盐氮:测定结果保留两位有效数字酸度和碱度:测定结果保留三位有效数字硫酸盐:测定结果保留两位有效数字挥发酚:测定结果小于0.1mg/L保留小数点后4位,大于0.1mg/L保留有效数字3位甲醛:测定结果保留两位有效数字,小数点后最多两位苯系物:测定结果保留两位有效数字,小数点后至多两位苯胺:测定结果保留两位有效数字,小数点后至多两位游离余氯:小于0.01mg/L的测定结果保留小数点后三位,大于10mg/L的测定结果保留三位有效数字,在两个之间的测定结果保留小数点后两位细菌类:保留整数(科学计数法是保留两位有效数字) SS:整数LAS:当测定结果小于1mg/L时,保留小数点后两位,测定结果大于等于1mg/L 时,保留三位有效数字。
环境检测数据的有效位数
第八章监测数据的有效位数监测数据报出的位数,对监测结果的准确性和数据资料的统计整理都是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
记录测试数据时,只保留一位可疑数字。
1、大气监测数据(以mg/m3计)⑴降尘(吨/月·平方公里)取小数点后一位;硫酸盐化速率(SO3mg/100cm2碱片·日)、CO取小数点后二位;SO2、NOX、TSP、光化学氧化剂取小数点后三位。
⑵其它用比色法分析的项目取小数点后三位。
⑶气温(℃)、风速(m/s)、气压(hPa)取小数点后一位;湿度(%)保留整数位。
2、环境水质监测数据(以mg/l计)。
⑴重量法分析项目:悬浮物测值<1000时取整数位,测值>1000时取三位有效数字。
⑵容量法分析项目:溶解氧、总硬度取小数点后一位;高锰酸盐指数测值>10时取小数点后一位,测值<10时取小数点后二位;CODcr 、BOD5测值>100时取三位有效数字,100>测值>10时取小数点后一位,测值<10时取小数点后二位。
⑶分光光度法分析项目:亚硝酸盐氮、挥发酚、氰化物、六价铬、总铬、砷、总磷、溶解性磷酸盐等取小数点后三位;硝酸盐氮、氨氮、氟化物、总氮、石油类、凯氏氮取小数点后二位。
⑷原子吸收分光光度法分项目:铅、铁、镍、锰等取小数点后二位,石墨炉法测定时取小数点后四位;锌、镉取小数点后三位,镉用石墨炉法测定时取小数点后五位;钙、镁、钠、钾等取小数点后果二位。
⑸冷原子吸收法测汞取小数点后四位,冷原子荧光法测汞取小数点后五位。
⑹气相色谱法分析项目(以µg/l计):DDT、六六六等取小数点后二位。
⑺硫酸盐、氯化物测值取三位有效数字。
⑻其它分析项目:盐度(%)、pH、氟化物(电极法)、电导率(µs/cm×100)、透明度(m)等取小数点后二位;水温和气温(℃)、水深(m)、气压(hPa)等取小数点后一位。
环境监测数据修约规则
环境监测数据很多时候都是需要进行数据计算,比如锅炉废气排放采样标况体积的计算,环境空气气态污染物采样参比体积的计算,以及实验室分析测试过程中的各种数据计算等。
此时对新手来说,熟练掌握修约数值规则将极为重要。
一、数据修约规则说到数值修约规格,我们就会马上想到“四舍六入五成双”。
下面,我们来重新回顾数据修约规则《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)的一些相关内容。
1、拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例如:若烟气分析仪二氧化硫测定,平均值计算结果:85.33…,结果四舍五入:85mg/m3。
2、拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末尾数字加1。
例如:若烟气分析仪氮氧化物测定,平均值计算结果:36.66…,结果四舍五入:37mg/m3。
3、拟舍弃数字的最左一位数字是5,且其后有非0的数字时进一,即保留数字的末尾数字加1。
例如:若烟尘采样分析仪标况体积的平均值计算结果为:432.252NL,结果四舍五入:432.3NL。
4、拟舍弃数字的最左一位数字是5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末尾数字加1;若所保留的末位数字为偶数(0,2,4,6,8)则舍弃。
例如:若土壤石油烃(C10-C40)实验室分析计算结果为:1.115mg/kg,结果四舍五入:1.12mg/kg。
若土壤石油烃(C10-C40)实验室分析计算结果为:1.145mg/kg,结果四舍五入:1.14mg/kg。
5、负数修约时,先将它的绝对值按照上面1-4的规定进行修约,然后在所得值前面加上负号。
例如:若相对误差计算结果为:-5.33…%,-6.66…%,-1.551%,-1.15%,-1.45%,结果四舍五入:-5.3%,-6.7%,-1.6%,-1.2%,-1.4%。
注意事项:1、修约应是一次修约到位,不允许连续修约。
环境监测数据处理相关概念和规则
主要内容
一、环境监测数据质量的重要性 二、有效数字的概念 三、数值修约的概念及意义 四、GB/T8170-2008数据修约标准简介 五、近似计算规则 六、监测结果表示与数值修约的其他要求
1. 环境监测数据质量的重要性
数据质量是监测工作的命脉, 监测数据是否全面、准确、客 观、真实,关系生态环境保护 工作大局,必须高度重视。
4.数值修约规则与极限数值的表示和判定 (GB/T8170-2008)
四舍六入,五考虑; 五后非零应进一。
五后为零视奇偶; 保证尾数成双数。ຫໍສະໝຸດ 不允许连续修约;一步到位!
当所报出数据非最 终报出数据时,为 方便后续报出准确 报出结果,应先将 所获数据按指定的 修约位数多一位或 几位报出。
5.近似计算规则
写成指数形式,例如58500,写成5.85*104即为三位有效数字。
有效数字记数规则
• 1.记录数据时,只保留一位可疑数字。 • 当用合格计量器具称量或量取溶液时,有效数字可以记录到其最小分度值,最多可以保留
一位不确定数字。 • 例如用分度标记的吸管或滴定管取溶液时,读数的有效位数可达其最小分度后一位,保留
• 例如前述例子中,若测量结果为1.1080g,则表示测量值的误 差在10-4量级上,天平的精度为万分之一;若测量结果为 1.108g,则表示测量值的误差在10-3量级上,天平的精度为千 分之一。
• 试看下面各数据的有效数字位数:
• 1.0008 43383 五位有效数字
• 0.5000 20.76% 四位有效数字
• 6.28 2.5059,92运8.算.. 结果保留三位有效数 字为2.51。若原结果还要参与进一步运算,则先 保留为2.506。
论环境监测实验室测量结果有效数字的记录与处理
凯 里 学 院 学 报
J u n l fKal Unv riy o r a i iest o i
V0 _ 6 No 6 l2 .
De .2 08 e 0
论 环 境 监 测 实 验 室 测 量 结 果 有 效 数 字 的 记 录 与 处 理
1
确度后 者 是 前 者 的 , 以 , 测 量 准确 度 的 范 围 所 在
1 U
内, 有效 数字 的位数 越 多 , 量 也越 准确. 测 但超 过 测 量准确 度的范 围 , 多的位数是 毫无意 义的. 过 必须 强 调, 如果 数据 中有“ ” , 分析 具体情 况 , 0时 应 然后才 能 肯定 哪些数据 中 的“ ” 有效 数 字 , 些 数 据 中的 O是 哪 “” 0 不是有 效 数 字. 如 1 00 2g 5位 有 效 数 字 ; 例 . 0 , 0 4 00g 3 . 8 , . 3 . 0 , 1 0 1 0 2× 1 0 ,4位 有 效 数 字 ; 0 0 20g . 6 0 , 有 效 数 字 ;. 0 , . 8 ,12 ×1 3位 0 0 33g 0 5 , 位有效 数字 ; . 0 0 3 1位有效数 .1 2 0 9g,. 0 字. 10 02g中的 3个“ ”0 4 00g中后 的 3 在 . 0 0 ,. 0 个 “ ” 都是有效 数字 ; 0 0 33g中 的“ ” 0, 在 . 0 0 只起 定位 作用 , 不是有效数 字 , 因为这 些 “ ” 与所取 的单位 0只
龙 庚
( 东 南 州 环境 保 护 监 测 站 , 州 凯 里 5 6 0 ) 黔 贵 50 0
摘 要 : 环境 监 测 实验 中 , 学记 录 实验 数据 和计 算结 果 , 在 科 应保 留几 位数 字是根 据 有 效 数 字的 规 则 来定 , 能随便 增加 或 减 少位 数 , 实验数 据的 记 录和处 理非 常重要 . 者认 为 : 不 对 笔 强调有 效数 字 的意 义和记 录 , 有利 于运 用有 效数 字 的运算规 则 处理数 据 , 而得 到 准确 的测 量结 果. 从 关键 词 : 量 结果 ; 测 有效 数 字 ; 环境 监 测 实验 中图 分类号 : 4 . 文献 标识 码 : 文 章编 号 : 6 3—9 2 ( 0 8 0 0 5 0 O2 1 1 A 17 3 9 2 0 ) 6— 0 0— 2
检测结果数值修约与有效数字保留
检测结果数值修约与有效数字保留1目的保证检测结果能够合理地反映测量精度。
2范围适用于大连环境事业部。
3规范性引用文件《地表水和污水监测技术规范》(HJ/T91-2002)《地下水环境监测技术规范》(HJ/T164-2004)《海洋监测规范》(GB17378.2-2007)《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)4定义4.1有效数字所谓有效数字:具体地说,是指在分析工作中实际能够测量到的数字。
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。
把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
5内容5.1有效数字的判断5.1.1第一个非零数字前的零不是有效数字.5.1.2第一个非零数字以及之后的所有数字(包括零)都是有效数字.5.1.3当计算的数值为lg或者pH、pOH等对数时,由于小数点以前的部分只表示数量级,故有效数字位数仅由小数点后的数字决定。
例如lgx=9.04为2位有效数字,pH=7.355为三位有效数字。
5.1.4л等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数。
5.2有效数字的处理5.2.1数据的修约应采用“四舍六入五成双”的原则。
5.2.2拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
5.2.3拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。
5.2.4拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
5.2.5拟舍弃数字的最左一位数字是5,且其后无数字或者皆为0时,若保留的末位数字为奇数(1,3,5,7,9)则进一;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。
5.2.6有效数字的修约是按照“四舍六入五成双”的原则一次修约的结果,不得多次按“四舍六入五成双”的原则连续修约。
如:97.46保留2位有效数字正确的做法:97.46→97不正确的做法:97.46→97.5→985.3有效数字运算规则5.3.1许多数值相加减时,每个数及它们的和或差的有效数字保留,以小数点后面有效数字位数最少的数据为准。
水和废水部分监测项目的检出限及有效位数
小数点后最多位数
备注
35
游离氯
《水质游离氯和总氯的测定N,N-二乙基-1, 4-苯二胺分光光度法》
HJ 586-2010
5cm比色皿L,1cm比色皿L
当测定结果小于L时,保留到小数点后三位。大于等于L且小于10mg/L时,保留到小数点后二位。大于等于10mg/L时保留三位有效数字。
36
银
火焰原子吸收分光光度法《水和废水监测分析方法》(第四版增补版)国家环境保护总局(2002年)
《水质银的测定火焰原子吸收分光光度法》GB/T 11907-1989
L
3
3
序号
监测项目
分析方法
最低检出浓度(量)
有效数字最多位数
小数点后最多位数
备注
52
钾
《水质钾和钠的测定火焰原子吸收分光光度法》GB/T11904-1989
(pH值)
2
2
12
碱度
酸碱指示剂滴定法《水和废水监测分析方法》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第一章理化指标
(pH值)
2
2
13
溶解氧
《水质溶解氧的测定碘量法》GB/T7489-1987
L
3
1
便携式溶解氧仪法《水和废水监测分析方法》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第三章营养盐及有机污染综合指标
最低检出浓度(量)
有效数字最多位数
小数点后最多位数
备注
16
高锰酸盐指数
《水质高锰酸盐指数的测定》GB/T11892-1989
L
3
1
17
化学需氧量
《水质化学需氧量的测定重铬酸盐法》GB/T11914-1989
环境监测项目检出限汇总
3
1
铜
水质 铜、铅、锌、镉的测定 火焰原子吸收分光光度法GB/T7475-1987
0.05
3
2
石墨炉原子吸收分光光度法 美国国家环保局方法EPA7211-1992
0.001
3
3
锌
水质 铜、铅、锌、镉的测定 火焰原子吸收分光光度法GB/T7475-1987
0.05
3
2
铅
水质 铜、铅、锌、镉的测定 火焰原子吸收分光光度法GB/T7475-1987
0.004
3
3
挥发酚
水质 挥发酚的测定 4-氨基安替比林分光光度法 HJ 503-2009(直接法)
0.01
<1,小数点后3位;
≥ 1,有效数字3位。
水质 挥发酚的测定 4-氨基安替比林分光光度法 HJ 503-2009(萃取法)
0.0003
<1,小数点后4位;≥1,有效数字3位。
流动注射仪法 美国国家环保局方法EPA420.2
水质 六价铬的测定 二苯碳酰二肼分光光度法 GB/T7467-1987
0.004
3
3
总铬
水质 总铬的测定 高锰酸钾氧化-二苯碳酰二肼分光光度法 GB/T7466-1987
0.004
3
3
火焰原子吸收法《水和废水监测分析方法》(第四版) (2002 国家环境保护总局)
0.03
3
2
总氰化物、氰化物
水质 氰化物的测定 容量法和分光光度法 HJ 484-2009
0.05
3
2
银
水质 银的测定 火焰原子吸收分光光度法GB/T11907-1989
0.03
3
2
《水和废水部分监测项目》的检出限及有效位数
44
溴
离子色谱法《水和废水监测分析方法》(第四版增补版)
0.15mg/L
3
2
45
溴酸盐
离子色谱法《生活饮用水标准检验方法消毒副产品指标》GB/T 5750.10-2006
46
苯胺类化合物
《水质苯胺类化合物的测定N- (1-萘基)乙二胺偶氮分光光度法》GB 1188-89
0.03mg/L
3
3
47
钙
《水质钙、镁的测定原子吸收分光光度法》GB/T 11905-1989
HJ 484-2009
0.004mg/L
3
3
仅做异烟酸-吡唑啉酮分光光度法
26
动植物油
《水质石油类和动植物油的测定》GB/T 16488-1996
0.1mg/L
3
2
仅做红外分光光度法
27
石油类
《水质石油类和动植物油的测定》
GB/T 16488-1996
0.1mg/L
3
2
仅做红外分光光度法重量法
《水和废水监测分析方法》(第四版增补版)国家环保总局(2002年)
3
液上:3;二硫化碳萃取:2
68
异丙苯
《水质苯系物的测定气相色谱法》
GB/T 11890-1989
液上:0.005mg/L;二硫化碳萃取:0.05mg/L
-
-
-
文字描述法或臭阈值法
3
总硬度
《水质钙和镁总量的测定EDTA滴定法》GB/T 7477-1987
0.05mmol/L
3
2
4
色度
《水质色度的测定》GB/T 11903-1989
-
-
-
环境监测中数字修约和有效数字的取舍
环境监测中如何进行数值修约及有效数字的取舍检验检测当中,数值的修约是非常重要的一项工作。
然而在现实当中,很多单位忽略了这个问题,使得同一个监测项目报出的结果,有效数字及小数点后的位数不一致。
特别是第三方检测机构的爆发式的发展,忽略质量管理使得报出数据更加混乱。
测量只能不断接近真实值,但是不可能得到真实值。
测量值和真实值的差就是误差。
所谓数值修约,是指通过省略原数值的最后若干位数字,调整所保留的末尾数字,使最后所得的值最接近原数值的过程。
一、数值修约。
检测原始数据通常是很长的一串数字,报出结果的时候,就需要进行数值修约。
数值修约最基本的规则是:进舍规则和不允许连续修约规则。
1、进舍规则用一句话表述,就是“四舍六入五成双”。
四舍六入好理解,五成双是:拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末尾数字问奇数(1,3,5,7,9)则进1,即保留数字的末位数字加1。
若所保留的末尾数字问偶数(0,2,4,6,8),则舍去。
2、不允许连续修约是指一次修约获得结果,不能连续多次修约。
二、有效数字及小数点后最多位数。
在环境监测当中,有效数字的位数、小数点后的位数保留,一般遵循以下几个方面的规则:1、分析结果的表示按照分析方法中的要求执行;2、分析结果有效数字所能达到的小数点后位数,应与分析方法检出限的保持一致;分析结果的有效数字一般不超过 3 位;3、对检定合格的计量器具,有效位数可以记录到最小分度值,最多保留一位不确定数字(估计值);4、表示精密度的有效数字根据分析方法和待测物的浓度不同,一般只取 1~2 位有效数字;5、以一元线性回归方程计算时,校准曲线斜率 b 的有效位数,应与自变量 xi的有效数字位数相等,或最多比 xi 多保留一位。
截距 a 的最后一位数,则和因变量 yi 数值的最后一位取齐,或最多比 yi 多保留一位数。
校准曲线相关系数只舍不入,保留到小数点后第一个非 9 数字。
环境监测常规项目检测结果保留位数
废水:石油:测定结果小于10mg/L,结果保留两位小数,测定结果大于10mg/L,结果保留三位有效数字BOD:结果小于100mg/L,保留一位小数;100-1000mg/L,取整数;大于1000mg/L,科学计数法氨氮:测定结果保留三位有效数字,小数点后最多三位总氮:测定结果小于1.0mg/L保留小数点后两位,大于1.0mg/L的保留三位有效数字总磷、磷酸盐:测定结果保留两位有效数字高锰酸盐指数:测定结果保留两位有效数字硫化物:测定结果保留两位有效数字,小数点后两位COD:测定结果保留三位有效数字氟化物:测定结果保留两位有效数字,小数点后最多两位氯化物:测定结果保留三位有效数字氰化物:测定结果保留两位有效数字铜、铅、锌、镉、镍、总铬、铁、锰、钙、砷、汞、硒、银:测定结果保留两位有效数字,小数点后最多两位六价铬:测定结果小于0.1mg/L的保留小数点后三位,测定结果大于0.1mg/L的保留三位有效数字镁:测定结果保留两位有效数字硝酸盐氮:测定结果保留两位有效数字,小数点后最多两位亚硝酸盐氮:测定结果保留两位有效数字酸度和碱度:测定结果保留三位有效数字硫酸盐:测定结果保留两位有效数字挥发酚:测定结果小于0.1mg/L保留小数点后4位,大于0.1mg/L保留有效数字3位甲醛:测定结果保留两位有效数字,小数点后最多两位苯系物:测定结果保留两位有效数字,小数点后至多两位苯胺:测定结果保留两位有效数字,小数点后至多两位游离余氯:小于0.01mg/L的测定结果保留小数点后三位,大于10mg/L的测定结果保留三位有效数字,在两个之间的测定结果保留小数点后两位细菌类:保留整数(科学计数法是保留两位有效数字)SS:整数LAS:当测定结果小于1mg/L时,保留小数点后两位,测定结果大于等于1mg/L时,保留三位有效数字。
水和废水部分监测项目的检出限及有效位数
3
1
64
铜
《水质铜、锌、铅、镉的测定原子吸收分光光度法》
GB/T7475-1987
直接法:0.05mg/L螯合萃取法:1μg/L
3
直接法:2螯合萃取:1
65
苯
《水质苯系物的测定气相色谱法》
GB/T11890-1989
液上:0.005mg/L,二硫化碳萃取:0.05mg/L
3
液上:3,二硫化碳萃取::2
0.03mg/L
3
2
53
钠
《水质钾和钠的测定火焰原子吸收分光光度法》GB/T11904-1989
0.010mg/L
3
3
54
钾
《大气降水中钠、钾的测定原子吸收分光光度法》GB/T13580.12-1992
0.013mg/L
3
3
55
钠
《大气降水中钠、钾的测定原子吸收分光光度法》GB/T13580.12-1992
19
亚硝酸盐(氮)
《水质亚硝酸盐氮的测定分光光度法》GB/T7493-1987
0.003mg/L
3
3
《水质无机阴离子的测定离子色谱法》HJ/T84-2001
0.03mg/L
3
3
《大气降水中氟、氯、亚硝酸盐、硝酸盐、硫酸盐的测定离子色谱法》
GB/T13580.5-1992
0.05mg/L
3
2
20
硝酸盐氮
3
3
51
银
火焰原子吸收分光光度法《水和废水监测分析方法》(第四版增补版)国家环境保护总局(2002年)
《水质银的测定火焰原子吸收分光光度法》GB/T11907-1989
0.03mg/L
有效数字在环境监测中的应用(一)
有效数字在环境监测中的应用(一)关键词:标准溶液单标标准物质标准物质中心北京标准物质网摘要对实验中常用的玻璃量具如单标线吸管、容量瓶、比色管、刻度吸管等进行分析,确定了直读式数据的读数规则及有效位数。
如 10 mL 单标线吸管有效数字位数为 5 位,而 10 mL 刻度吸管随移取溶液体积不同其有效数字位数可能为 2, 3 或 4 位。
分析了环境监测中间接式数据的来源,如标准溶液的浓度、标准曲线的截距、斜率、样品最终浓度等,这些数据应当遵守一定的修约及运算规则,由此确定了间接式数据应当保留合理的有效位数。
研究结果可以为环境监测人员开展实验及数据处理提供依据。
环境监测数据要求具有代表性、准确性、精密性、可比性、完整性,数据处理是环境监测中一个重要的环节,如果处理不当将会导致监测结果不严谨。
环境监测所产生的数据大致可以分为两种:一种是直读式数据,比如滴定管滴定的体积、溶液取用量、药品质量等;另一种是间接数据,这种数据是通过一定公式计算得到的,比如工作曲线的截距、斜率、相关系数、样品的最终浓度等。
这两种数据,无论哪一种都不能随意保留小数点位数,这就涉及到有效数字。
在实际工作中,发现监测人员对检测数据保留多少位小数点把握不准。
其实所谓有效数字,可以理解为在测量过程中,能够反映测量准确的数字和一位估读的数字,跟计量器具的精密度和准确度有直接关系。
比如 10 mL 的刻度吸管,其最小分度值是 0.1 mL,因此实际读数时应保留到小数点后 2 位,如 9.00 mL,10.00 mL, 8.56 mL 等,最后一位“0” ,“0” ,“6” 都是估读的。
而计算所得的数字是以直读数字为基础,按照有效数字的修约规则进行修约、运算所得。
由此可见不能通过保留无数位小数来提高检测精度,但至今还未见到系统性整理环境监测中数据有效性的文献报道。
为此笔者对环境监测中的有效数字问题进行探讨。
1 直读数字环境监测过程所用的计量器具是产生直读数字的直接依据,因此分析人员应当先弄清楚该量具的最小分度值或者能够测量的精准数字,由此来确定实验过程应当记录的小数点位数。
最新HJ_T91_2002水和废水部分监测项目的检出限和有效位数
0.03 mg/L
3
3
47
钙
水质钙、镁的测定原子吸收分光光度法GB/T11905-1989
0.02 mg/L
3
2
48
镁
水质钙、镁的测定原子吸收分光光度法GB/T11905-1989
0.002 mg/L
3
3
49
钙
大气降水中钙、镁的测定原子吸收分光光度法GB/T13580.13-1992
0.1℃
3
1
7
浊度
水质浊度的测定GB/T13200-1991
1度
3
1
仅做目视比浊法
8
总残渣
重量法《水和废水监测分析方法》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第一章理化指标
5mg/L
3
0
9
悬浮物
水质悬浮物的测定重量法GB/T11901-1989
4mg/L
3
0
10
电导率
实验室电导率仪法《水和废水监测分析方法》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第一章理化指标
62
汞
水质汞的测定原子荧光光度法SL.327.2-2005
0.01μg/L
3
3
63
硒
水质硒的测定原子荧光光度法SL.327.3-2005
0.3μg/L
3
1
64
铜
水质铜、锌、铅、镉的测定原子吸收分光光度法GB/T7475-1987
直接法:0.05 mg/L
螯合萃取法:1μg/L
3
直接法:2
螯合萃取:1
水和废水部分监测项目的检出限及有效位数
3
0
25
总氰化物
(氰化物)
《水质氰化物的测定容量法和分光光度法》
HJ484-2009
L
3
3
仅做异烟酸-吡唑啉酮分光光度法
26
动植物油
《水质石油类和动植物油的测定》GB/T16488-1996
L
3
2
仅做红外分光光度法
27
石油类
《水质石油类和动植物油的测定》
GB/T16488-1996
L
3
2
4ng/L
81
δ-六六六
《水质 六六六、滴滴涕的测定 气相色谱法》GB/T7492-1987
4ng/L
82
pp-DDE
《水质 六六六、滴滴涕的测定 气相色谱法》GB/T7492-1987
200ng/L
83
pp-DDD
《水质 六六六、滴滴涕的测定 气相色谱法》GB/T7492-1987
(pH值)
2
2
12
碱度
酸碱指示剂滴定法《水和废水监测分析方法》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第一章理化指标
(pH值)
2
2
13
溶解氧
《水质溶解氧的测定碘量法》GB/T7489-1987
L
3
1
便携式溶解氧仪法《水和废水监测分析方法 》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第三章营养盐及有机污染综合指标
-
-
-
文字描述法或臭阈值法
3
总硬度
《水质 钙和镁总量的测定 EDTA滴定法》GB/T7477-1987
L
3
2
4
空气、废气、水、土壤、固废检出限、有效数字位数等
3
2
10
烟尘
锅炉烟尘测试方法 GB/T 5468-1991
大于10 mg/m3保留整数位
小于10 mg/m3保留1位
标准没有明确规定,依据锅炉排放标准而定
11
颗粒物(粉尘)
固定污染源排气中颗粒物测定与气态污染物采样方法GB 16157-1996
固定污染源废气氯化氢的测定硝酸银容量法HJ/T548-2009
采集15L,检出限2mg/m3
0℃~4℃可保存48h
30
氯苯
环境空气 挥发性卤代烃的测定 活性炭吸附-二硫化碳解吸/气相色谱法HJ 645-2013
采集10L,检出限7ug/m3
结果大于等于100倍方法检出限时,保留三位有效数字
结果大于等于方法检出限且小于100倍方法检出限时,保留位数与检出限一致
标准限值:0类昼间50夜间40;1类昼间55夜间45;2类昼间60夜间50;3类昼间65夜间55;4类昼间70夜间55
58
社会生活环境噪声
社会生活环境噪声排放标准GB 22337-2008
59
建筑施工场界环境噪声
建筑施工场界环境噪声排放标准建筑施工场界环境噪声排放标准GB 12523-2011
标准限值:昼间70夜间55
进样,采集5L,检出限 mg/m3
固定污染源排气中甲醇的测定气相色谱法HJ/T 33-1999
进样,检出限m3
仪器性能好,检出限可降低到、m3
22
镉及其化合物
国家环境保护总局《空气和废气监测分析方法》(第四版增补版)第五篇 第三章 八、(一)火焰原子吸收分光光度法(A)(二)石墨炉原子吸收分光光度法(B)
《水和废水部分监测项目》的检出限及有效位数
3
1
7
浊度
《水质 浊度的测定》GB/T13200-1991
1度
3
1
仅做目视比浊法
8
总残渣
重量法《水和废水监测分析方法》(第四版增补版)国家环保总局2002年第三篇综合指标和无机污染物第一章理化指标
5mg/L
3
0
9
悬浮物
《水质悬浮物的测定重量法》GB/T11901-1989
4mg/L
3
0
10
电导率
L
3
2
53
钠
《水质钾和钠的测定火焰原子吸收分光光度法》GB/T11904-1989
L
3
3
54
钾
《大气降水中钠、钾的测定原子吸收分光光度法》GB/T
L
3
3
55
钠
《大气降水中钠、钾的测定原子吸收分光光度法》GB/T
L
3
3
56
吡啶
《水质吡啶的测定气相色谱法》GB/T 14672-93
L
3
3
57
三氯乙醛
《水和废水监测分析方法》(第四版增补版)第四章特定有机物的测定
3×10-5μg
3
3
气相色谱法
58
砷
《水质砷的测定原子荧光光度法》
镍
《水质镍的测定火焰原子吸收分光光度法》GB/T 11912-1989
L
3
2
60
铋
《水和废水监测分析方法》(第四版增补版)第三篇第四章
μg/L
与书中不同
3
2
原子荧光
61
锑
《水和废水监测分析方法》(第四版增补版)第三篇第四章
L
最新HJ_T91_2002水和废水部分监测项目的检出限与有效位数
1cm比色皿0.03 mg/L
当测定结果小于0.01 mg/L时,保留到小数点后三位。大于等于0.01 mg/L且小于10 mg/L时,保留到小数点后二位。大于等于10 mg/L时保留三位有效数字。
35
游离氯
水质游离氯和总氯的测定N,N-二乙基-1,4-苯二胺分光光度法HJ 586-2010
29
阴离子表面活性剂
水质阴离子表面活性剂的测定亚甲蓝分光光度法GB/T7494-1987
0.05 mg/L
3
3
30
硫化物
水质硫化物的测定亚甲基蓝分光光度法GB/T16489-1996
0.005 mg/L
3
3
水质硫化物的测定碘量法HJ/T60-2000
0.02 mg/L
3
3
31
硫酸盐
水质硫酸盐的测定铬酸钡分光光度法(试行) HJ/T342-2007
0.2μg/L
3
59
镍
水质镍的测定火焰原子吸收分光光度法GB/T 11912-1989
0.05 mg/L
3
2
60
铋
《水和废水监测分析方法》(第四版增补版)第三篇第四章
1.5μg/L
与书中不同
3
2
原子荧光
61
锑
《水和废水监测分析方法》(第四版增补版)第三篇第四章
0.001 mg/L
与书中不同
3
4
原子荧光
水质苯胺类化合物的测定N-(1-萘基)乙二胺偶氮分光光度法GB1188-89
0.03 mg/L
3
3
47
钙
水质钙、镁的测定原子吸收分光光度法GB/T11905-1989
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第八章监测数据的有效位数
监测数据报出的位数,对监测结果的准确性和数据资料的统计整理都是十分重要的。
监测数据的有效位数应与测试系统的准确度相适应。
记录测试数据时,只保留一位可疑数字。
1、大气监测数据(以mg/m3计)
⑴降尘(吨/月·平方公里)取小数点后一位;硫酸盐化速率(SO
3
mg/100cm2
碱片·日)、CO取小数点后二位;SO
2、NO
X
、TSP、光化学氧化剂取小数点后三位。
⑵其它用比色法分析的项目取小数点后三位。
⑶气温(℃)、风速(m/s)、气压(hPa)取小数点后一位;湿度(%)保留整数位。
2、环境水质监测数据(以mg/l计)。
⑴重量法分析项目:悬浮物测值<1000时取整数位,测值>1000时取三位有效数字。
⑵容量法分析项目:溶解氧、总硬度取小数点后一位;高锰酸盐指数测值>10
时取小数点后一位,测值<10时取小数点后二位;COD
cr 、BOD
5
测值>100时取三位
有效数字,100>测值>10时取小数点后一位,测值<10时取小数点后二位。
⑶分光光度法分析项目:亚硝酸盐氮、挥发酚、氰化物、六价铬、总铬、砷、总磷、溶解性磷酸盐等取小数点后三位;硝酸盐氮、氨氮、氟化物、总氮、石油类、凯氏氮取小数点后二位。
⑷原子吸收分光光度法分项目:铅、铁、镍、锰等取小数点后二位,石墨炉法测定时取小数点后四位;锌、镉取小数点后三位,镉用石墨炉法测定时取小数点后五位;钙、镁、钠、钾等取小数点后果二位。
⑸冷原子吸收法测汞取小数点后四位,冷原子荧光法测汞取小数点后五位。
⑹气相色谱法分析项目(以µg/l计):DDT、六六六等取小数点后二位。
⑺硫酸盐、氯化物测值取三位有效数字。
⑻其它分析项目:盐度(%)、pH、氟化物(电极法)、电导率(µs/cm×100)、透明度(m)等取小数点后二位;水温和气温(℃)、水深(m)、气压(hPa)等取小数点后一位。
1、降水监测数据
⑴ pH值、阴阳离子含量(mg/l)取小数点后二位。
⑵电导率(µs/cm)取整数位;降雨量(mm)、风速(m/s)、气温(℃)取小数点后一位。
4、底质、土壤监测数据(以mg/kg计)
⑴分光光度法分析项目:总铬取小数点后一位;砷、硫化物取小数点后二位。
⑵容量法分析项目:有机质(%)取小数点后二位。
⑶重量法分析项目:水份(%)取小数点后二位。
⑷原子吸收分光光度法分析项目:铅、铜、锌、镍取三位有效数字;镉取小数点后三位。
⑸冷原子吸收法测汞取小数点后二位,冷原子荧光法测汞取小数点后三位。
⑹气相色谱法分析项目:DDT、六六六等取小数点后三位。
5、生物类监测数据
⑴大型底栖生物取整数,微型则取小数后一位。
⑵浮游生物取整数。
⑶周边原生动物、着生藻类取小数点后二位。
6、噪声监测数据(dB(A))
⑴ L10、L50、L90取整数。
⑵ Leq、σ取小数点后一位。
7、废气、废水污染源监测数据
废气、废水污染源监测数据的有效位数取法随被测样品的浓度、测试系统的精度及测试人员的读数误差而定。
如一般分光光度计读数可以记到小数点后三位,并且其有效数字位数最多也只有三位,所以,对于分光光度法分析项目,当测值<1时,监测数据可取值小数后三位;当测值>1时,监测数据最多取三位有效数字。
又如废气污染源监测,由于采样流量最多也只有三位有效数字,所以废气排放量可以很大,污染物浓度可以很高,但其测值最多只能取三位有效数字。