检测数据的处理与结果表达
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
分析结果:分析结果有效数字所能达到 分析结果: 的位数不能超过方法最低检测质量浓度 所能达到的有效位数。 所能达到的有效位数。 例如: 例如:某一个方法的最低检测质量浓度 0.02mg/L,分析结果如记录为0.088 为0.02mg/L,分析结果如记录为0.088 mg/L是错误的 只能记为0.09mg/L 是错误的, 0.09mg/L。 mg/L是错误的,只能记为0.09mg/L。
(1)修约间隔(rounding interval) 修约间隔( interval) 修约间隔是一个量值, 修约间隔是一个量值,是修约值的 最小数值单位, 最小数值单位,又称为修约区间或化整 间隔, 间隔,它是确定修约保留位数的一种方 修约间隔的数值一经确定, 式。修约间隔的数值一经确定,被修约 值只能是该数值的整数倍。 值只能是该数值的整数倍。 修约间隔一般表示形式为: 修约间隔一般表示形式为: k×10n 一般多取1 亦可取2 为正、 k一般多取1,亦可取2或5;n为正、 负整数。 负整数。
分光光度计:分光光度计的最小分度值 分光光度计: 是0.001A,有效数字只能记录到小数点 0.001A, 后第三位。对带有计算机处理系统的分 后第三位。 析仪器,往往可以根据计算机自身的设 析仪器, 定打印或显示结果数据,其可以有很多 定打印或显示结果数据, 位数,但这并不意味着增加了仪器的精 位数, 度和可读的有效数字位数。 度和可读的有效数字位数。 当在一系列操作中使用多种计量仪器时, 当在一系列操作中使用多种计量仪器时, 有效数字的位数以位数最少的计量仪器 的位数来表示。 的位数来表示。
位的要求,将其多余位数的数字进行取 位的要求, 按照一定的规则, 舍,按照一定的规则,选取一个其值为 整数倍的数(修约数) 修约间隔整数倍的数(修约数)来代替 拟修约数, 拟修约数,这一过程也称为数的化整或 数的凑整, 数的凑整,其目的是把数值中被认为是
多余(或无效)的部分舍弃。 多余(或无效)的部分舍弃。进行数值 修约时, 修约时,应首先确定修约间隔后再进行 修约。经数值修约后的数值称为( 修约。经数值修约后的数值称为(原数 值的)修约值。 值的)修约值。
校准曲线:在校准曲线y=a+bx中,相关 y=a+bx中 校准曲线:在校准曲线y=a+bx 系数r的值应满足方法学的规定, 系数r的值应满足方法学的规定,其有效 位数遵照只舍不入的原则, 位数遵照只舍不入的原则,保留到小数 点后出现非9的一位(一般为4 ),如 点后出现非9的一位(一般为4位),如 0.99989可修约成0.9998。 可修约成0.9998 0.99989可修约成0.9998。如果小数点后 都是9 最多保留小数点后4 斜率b 都是9时,最多保留小数点后4位;斜率b 的有效位数应与自变量x 的有效位数应与自变量x的有效数字位数 相等或多保留一位;截距a 相等或多保留一位;截距a的最后一位数 应与因变量y 应与因变量y数值的最后一位取齐或多保 留一位。 留一位。
当对某一拟修约数进行修约时,需 当对某一拟修约数进行修约时, 根据修约间隔确定修约数的位数,即拟 修约数的保留位数应与修约间隔相对应。 修约数的保留位数应与修约间隔相对应。 若修约间隔为0.1 0.1, 例:若修约间隔为0.1,则拟修约数应保 留到小数点后第一位;若修约间隔为2 留到小数点后第一位;若修约间隔为2, 则拟修约数应保留到个位数。 则拟修约数应保留到个位数。 实验记录下来的众多数据, 实验记录下来的众多数据,应先依照 《 数值修约规则与极限数值的表示和判 8170—2008)进行修约, 定 》 (GB/T 8170—2008)进行修约, 如需计算, 如需计算,再根据有效数字运算规则进 行运算,正确保留结果的有效数字位数。 行运算,正确保留结果的有效数字位数。
计量测试数据有效位数的一般表示形式 为: k × 10m 其中, 其中, m 为可具有任意符号的任意 自然数; 为不小于1而小于10 10的任意 自然数; k 为不小于1而小于10的任意 其位数即是有效位数。 数,其位数即是有效位数。 例如: 2.34× 例如: 23.4 → 2.34×101 2.340× 23.40 → 2.340×101 2.3400× 23.400 → 2.3400×101 2.340× 234.0 → 2.340× 102 2.3400× 23400 → 2.3400×104
检测数据的处理 和结果的表达
辽宁省职业病防治院 2012年 2012年4月 王军明
主要内容
◊有效数字和修约规则 ◊可疑数据的取舍 ◊检测结果的合理表述 ◊实验室应注意的问题
一、概述
在职业卫生理化检验工作中,最终 在职业卫生理化检验工作中, 报告结果的准确与否除了与实验操作中 的系统误差、随机误差有重要关系外, 的系统误差、随机误差有重要关系外, 还与实验数据的正确记录和统计学处理 密切相关。因此, 密切相关。因此,除了规范地进行实验 操作外,如何科学、 操作外,如何科学、准确地记录实验数 据并进行正确的统计学处理也是十分重 要的。同时,在日常检测工作中, 要的。同时,在日常检测工作中,我们 测定的物质(单元) 还会遇到实际测定的物质(单元)是指
二、有效数字和修约规则
1.有效数字及其记录 1.有效数字及其记录 1.1有效数字及位数 1.1有效数字及位数 有效数字是在测量中所能得到的有 实际意义的数字。一个由有效数字构成 的数值,只有末位数字是可疑的, 的数值,只有末位数字是可疑的,其余 各位数字都应是准确的。 各位数字都应是准确的。 例如: 23.4、23.40和23.400这三个数 例如: 23.4、23.40和23.400这三个数 虽然表示同一数值,但作为测量值, 虽然表示同一数值,但作为测量值,它 们所表示的准确度是不同的。 们所表示的准确度是不同的。有效数字位
2.数值修约规则 2.数值修约规则 数值修约( 数值修约(rounding off for numericalvalues): numericalvalues):通过省略原数值的
最后若干位数字, 最后若干位数字,调整所保留的末位数 字,使最后得到的值最接近原数值的过 即对某一拟修约数值, 程。即对某一拟修约数值,根据保留数
1.2有效数字的记录 1.2有效数字的记录 在记录实验数据时, 在记录实验数据时,应根据所用仪器的 精密度和《 精密度和《数值修约规则与极限数值的 表示和判定》 GB/T8170-2008) 表示和判定》( GB/T8170-2008)及其他 规定,正确记录。 规定,正确记录。 分析天平: 分析天平:当用万分之一分析天平称量 1g物质时 物质时, 1g物质时,每称量一次的绝对误差为 ±0.1mg,称量结果的数据应记录到小数 点后第四位,记作1.0000g 1.0000g。 点后第四位,记作1.0000g。而用千分之 一分析天平称量1g物质时, 1g物质时 一分析天平称量1g物质时,称量结果的数 据应记录到小数点后第三位,记作1.000g 1.000g。 据应记录到小数点后第三位,记作1.000g。
数字“ 的多重意义: 数字“0”的多重意义: 在有效数字中“ 有不同的作用, 在有效数字中“ 0 ”有不同的作用, 它可以是有效数字, 它可以是有效数字,也可以不是有效数 仅起定位作用。 字,仅起定位作用。 用于定位时, (1)用于定位时, “ 0 ”不是有效数 例如0.45 0.035、0.0023三个数据 0.45、 字。例如0.45、0.035、0.0023三个数据 中的“ 都起定位作用, 中的“0”都起定位作用,它们都为两位 有效数字;滴定管读数为20.30mL 20.30mL, 有效数字;滴定管读数为20.30mL,其中 两个“ 都是有效数字; 两个“0”都是有效数字;若改用升为单 位则是0.02030L 此时前面两个“ 0.02030L, 位则是0.02030L,此时前面两个“0”仅 起定位作用。 起定位作用。
例:GBZ/T160.13-2004工作场所空气中锰及 GBZ/T160.13-2004工作场所空气中锰及 其化合物的火焰原子吸收光谱测定法中, 其化合物的火焰原子吸收光谱测定法中,标 0.0、0.20、0.50、 准系列的浓度 (x)为0.0、0.20、0.50、 1.0、2.0、3.0μg/mL, 1.0、2.0、3.0μg/mL,测得的吸光度值保留 y=a+bx中 到小数点后四位。在回归方程y=a+bx 到小数点后四位。在回归方程y=a+bx中,要 求相关系数r大于0.999 0.999, 求相关系数r大于0.999,并保留到小数点后 出现非9的一位,因此, 出现非9的一位,因此,r应保留四位有效数 斜率b的有效位数与浓度x 字;斜率b的有效位数与浓度x的有效位数相 同或多一位,应保留两位或三位有效数字; 同或多一位,应保留两位或三位有效数字; 截距a的有效位数与吸光度值y 截距a的有效位数与吸光度值y的有效位数相 同或多一位,应保留四位或五位有效数字。 同或多一位,应保留四位或五位有效数字。 可以写成指数形式以满足要求。 可以写成指数形式以满足要求。
例1:如指定修约间隔为0.1,修约值应 如指定修约间隔为0.1 0.1, 0.1的整数倍中选取 的整数倍中选取, 在0.1的整数倍中选取,相当于将数值修 约到一位小数。 约到一位小数。 如指定修约间隔为100 100, 例2:如指定修约间隔为100,修约值应 100的整数倍中选取 的整数倍中选取, 在100的整数倍中选取,相当于将数值修 约到“ 数位; 约到“百”数位; 如指定修约间隔为2 例3:如指定修约间隔为2×10n,修约值 的末位数字只能是0 的末位数字只能是0,2,4,6,8。 如指定修约间隔为5 例4:如指定修约间隔为5×10n ,修约 值的末位数字必然是“ 值的末位数字必然是“0”或“5”。
(2)用于表示测量的准确度时,“0”是 用于表示测量的准确度时, 有效数字。例如2.0036 4.0307、 2.0036、 有效数字。例如2.0036、4.0307、 三个数据均为五位有效数字。 28.900 三个数据均为五位有效数字。 结尾的整数, (3)以“0”结尾的整数,应根据测定值 的准确程度改写成指数形式。 47000, 的准确程度改写成指数形式。如47000, 当写成4.7 4.7× 为二位有效数字, 当写成4.7×104时,为二位有效数字, 当写成4.70 4.70× 则为三位有效数字; 当写成4.70×103时,则为三位有效数字; 重量为25.0mg的测定值, 25.0mg的测定值 重量为25.0mg的测定值,若以微克为单 则表示为2.50 2.50× 位,则表示为2.50×104μg。若表示成 25000μ 容易被误解为五位有效数字。 25000μg容易被误解为五位有效数字。
数为:若某近似数的误差绝对值不超过该数 数为: 末位的半个单位值时, 末位的半个单位值时,则从其第一个不是零
的数字算起至最末一位数字的所有数字, 的数字算起至最末一位数字的所有数字,都
是有效数字。例如,若取0.333 0.333的近似数 是有效数字。例如,若取0.333的近似数 0.33, 为0.33,则其末位数的半个单位值为 0.005;而误差的绝对值为|0.33- 0.005;而误差的绝对值为|0.33- 0.333|=0.003, 0.005,于是, 0.333|=0.003,不超过 0.005,于是, 0.33是 的有效数字, 0.33是0.333 的有效数字,其位数为二 位。
就是所报告物质的测定浓度即为要求的 检测和评价物质的浓度。检测结果的表
达就是指在检测工作中,除了正确、规 达就是指在检测工作中,除了正确、 范地记录和处理实验数据外, 范地记录和处理实验数据外,还要根据 检测通知单上指定的待测物质, 检测通知单上指定的待测物质,结合应
Hale Waihona Puke Baidu
用实验数据进行评价的要求,在检测 用实验数据进行评价的要求, 原始记录和实验报告中给出相应的被 测物浓度。 测物浓度。
定待测物质的一部分,或组成元素, 定待测物质的一部分,或组成元素,或
其中间物甚至衍生物等,如在报告结果
时不加注意或特别标注可能造成使用实 验数据时出现错误 所以, 验数据时出现错误。所以,对检测项目 实验结果的最终表达方法进行规范性、 实验结果的最终表达方法进行规范性、 唯一性指定是十分必要的, 唯一性指定是十分必要的,其根本要求