实验室分析中有效数字与数值修约规则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

实验室分析中有效数字与数值修约规则
有效数字是药物分析中具有实际意义的测定数值。

它是由直接读取的准确数字和通过估读得到的可疑数字(最后一位)组成。

例如:3.2438中的“8”和0.130中的“0”。

有效数字的个数是有效位数,对于不同类型的测定数值其有效位数为:
数值修约规则
一般来说,分析工作者习惯采用“四舍五入''修约规则,不过在药物分析中逢五就进,必然会造成结果的系统偏高,误差偏大,为了避免这样的状况出现,尽量减少因修约而产生的误差,一般采用四舍六入五留双的修约规则:
运算修约规则
试验过程中数值记录
1、称量实验
“精密称定”是指称取重量应准确至所取重量的千分之一;
“称定”是指称取重量应准确至所取重量的百分之一,按照“精密称定''项原则进行修约;
“称重”,“称取”一般准确到规定重量下一位;
取“约XX”时,指取用量不超过规定量的(100÷10)%;
取“XX”时,参照修约规则。

2、量取试验
以刻度为依据可读到最小刻度所在位并估读最小刻度之间。

图中“1”记录为35.OOcm,而不能记录35cm,图中“2"记录为35.40cm,图中“3”可记录为35.75cm。

量取5mL的液体应采用5-1OnIL的量筒;量取5.OmL的液体应采用5-10mL的刻度管;量取5.OOmL的液体应采用5-10mL的移液管。

容量瓶的定容应记录为定容至100.OOrnL o
3、色谱实验
■峰面积一般不做修约,按实际测定值进行记录,参与
计算后按相关规定进行修约。

■拖尾因子、分离度可修约至小数点后两位,理论塔板数一般修约至正整数。

■保留时间不做修约。

■工作站自动生成数值也可不做修约。

■化合物含量应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。

并且至少保留一位有效数字。

■RSD按“只进不舍”进行修约。

■色谱条件数值不得修约。

■方法学验证项的数值应该比标准规定限度的有效位数多一位,根据实际情况以修约规则进行修约。

并且至少保留一位有效数字。

4、其他实验
熔点、沸点等物理参数可修约至小数点后一位。

旋光率、折光率、原子吸收值可修约至小数点后三位。

数值修约的基础知识
1、什么是有效数字呢?
⑴有效数字是指在分析和测量中所能得到的有实际意义的数字。

测量结果是由有效数字组成的(前后定位用的“(F除外)。

例如测量结果LIO80g,组成数字1、1、0、8、0都是实际测读到的,它们是表示试样质量大小的,因而都是有实际意义的。

⑵有效数字的前几位都是准确数字,只有最后一位是可疑数字。

例如前述的LIO80,前几位数字1、1、0、8都是称量读到的准确数字,而最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说可疑的。

⑶有效数字是处于表示测量结果的数值的不同数位上。

所有有效数字所占有的数位个数称为有效数字位数。

例如数值3.5,有两个有效数字,占有个位、十分位两个数位,因而有效数字位数为两位;3.501有四个有效数字,占有个位、十分位、百分位等四个数位,因而是四位有效数字。

(4)测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测量的精密度有关。

这也是有效数字实际意义的体现,是非常重要的体现。

例如前述例子中,若测量结果为LIO80g,则表示测量值的误差在10-4量级上,天平的精度为万分之一;若测量结果为
1.108g,则表示测量值的误差在10-3量级上,天平的精度为千分之一。

2、有效数字位数的确定原则
在确定有效数字位数时应遵循下列原则:
⑴数值中数字1~9都是有效数字。

⑵数字“0”在数值中所处的位置不同,起的作用也不同,可能是有效数字,也可能不是有效数字。

判定如下:
①“0”在数字前,仅起定位作用,不是有效数字。

例如0.0257中,“2”前面的两个“0”均非有效数字。

0.123.Ool23、0.00123中“1”前面的“0”也均非有效数字。

②数值末尾的“0”属于有效数字。

例如0.5000中,“5”后面的三个“0”均为有效数字;0.50中,“5”后面的一个“0”也是有效数字。

③数值中夹在数字中间的"0”是有效数字。

例如数值LOO8中的两个"0”是均是有效数字;数值8.01中间的“0”也是有效数字。

④以“0”结尾的正整数,“0”是不是有效数字不确定,应根据测试结果的准确度确定。

例如3600,后面的两个“0”如果不指明测量准确度就不能确定是不是有效数字。

测量中遇到这种情况,最好根据实际测试结果的精确度确定有效数字的位数,有效数字用小数表示,把“0”用10的乘方表示。

如将3600写成3.6xl()3表示此数有两位有效数字;写成3.60x103表示此数有三位有效数字;写成3.600x1()3表示此数有四位有效数字。

3、修约间隔
修约间隔又称修约区间或化整间隔,系确定修约保留位数的一种方式。

修约间隔一般以kxlθn(k=l,2,5;n为整数)的形式表示,将同一k值的修约间隔,简称为“k”间隔。

修约间隔的数值一经确定,修约值即应为该数值的整数倍。

例如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值修约到一位小数。

■ 1.0239修约到0.01,为1.02,
■ 1.02÷0.01=102(倍)
4、修约数位及确定修约位数的表达方式
修约时拟将拟修约数的哪一位数位后部分按修约规则舍去,则该数位就是修约数位。

数值修约时需要先明确修约数位,确定修约位数的表达方式如下:
⑴指明具体的修约间隔。

如指明将某数按0.2(2×10-l)修约间隔修约、100(l×102)修约间隔修约等。

⑵指定将拟修约数修约至某数位的0.1、0.2或0.5个单位。

⑶指明“k”按间隔将拟修约数修约为几位有效数字,或修约至某数位。

这时'T'间隔可不必指明,但“2”间隔和“5”间隔必须指明。

数值修约规则
1、GB/T8170-2008《数值修约规则》
⑴拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

例如将12.1498修约到一位小数,得12.I o
例如将12.1498修约成两位有效位数,得12。

⑵拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并
非全部为0的数字时,则进一,即保留的末位数字加1。

例如将1268修约到“百”数位,得13x102(特定时可写为1300)o
例如将1268修约成三位有效位数,得127x10(特定时可写为1270)o
例如将10.502修约到个数位,得11。

注:“特定时”的涵义系指修约间隔或有效位数明确时。

⑶拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数
(2,4,6,8,0)则舍弃。

⑷负数修约时,先将它的绝对值按上述⑴⑵⑶规定进行修约,然后在修约值前面加上负号。

⑸0.5单位修约与0.2单位修约
①0.5单位修约既将拟修约数乘以2,按指定数位依3.1-3.4规则修约,所得数再除以2。

②0.2单位修约既将拟修约数乘以5,按指定数位依3.1-
3.4规则修约,所得数值再除以5。

2、通用数值修约方法
⑴如果为修约间隔整数培的一系列数中,只有一个数最接近于拟修约数,则该数就是修约数。

例如将L150001按0.1修约间隔进行修约。

此时,与拟修约数1.150001邻近的为修约间隔整数倍的数有LI和1.2(分别为修约间隔的11倍和12倍),然而只有1.2最接近于拟修约数,因此L2就是修约数。

⑵如果为修约间隔整数培的一系列数中,有连续两个数同等接近于拟修约数,则这两个数中,为修约间隔偶数培的数就是修约数。

例如,将1150按100修约间隔行修约。

此时,与拟修约数1150邻近的为修约间隔整数倍的数有Iloo和1200(分别为修约间隔的11倍和12倍),这两个数同等接近于拟修约数,然而1200为
修约间隔的偶数培(12倍),因此1200就是修约数。

⑶一个数据的修约只能进行一次,不能分次修约。

数值运算规则
1、加减运算
几个数相加减的结果,经修约后保留有效数字的位数,取决于绝对误差最大的数值,计算结果应以绝对误差最大(即小数点后位数最少)的数据为基准,来决定计算结果数据的位数。

在实际运算过程中,各数值保留的位数比各数值中小数点后位数最少者多保留一位小数,而计算结果有效数字的位数应与效数最少的一数相同。

例如29.2+36.582-3.0281=62.8
2、乘除运算
几个数据的乘除运算以相对误差最大(即有效数字位数最少)的数值为基准来决定结果数据的位数。

在实际运算中,先将各数值修约至比有效数字位数最少者多保留一位有效数字运算,计算结果的有效数字的位数与有效数字位数最少的数值相同。

(与小数点位置无关)
例如,0.235438×28.6×61.8911
≈0.2354×28.6×61.89
=414.6707116
三个参与运算的数值的有效数字位数分别为六位、三位、六位,所以最终计算结果用三位有效数字表示,为415或
4.15×102o
3、乘方和开方
乘方或开方时,原数值有几位有效数字,计算结果就可以保留几位有效数字。

若计算结果还要参与运算,则乘方或开方所得结果可比原数值多保留一位有效数字。

例如:(3.58)2=12.8614,运算结果保留三位有效数字,
为12.9o
4、对数运算
在数值对数计算时,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。

换言之,对数有效数字的位数,只计小数点以后的数字的位数,而不计对数的整数部分。

例如:log(100.44)
=Iog(1.0044×102)
=2.0019067...o
最后结果应为2.00191,结果的有效数字位数是五位(小数后位数)而不是六位(整数位数加小数位数),因整数部分只说明该数的10的方次。

5、平均值
计算几个数值的平均值时,先将计算结果修约至比要求的位数多一位,再按数值修约规则处理。

6、方差和标准偏差
方差和标准偏差在运算过程中对中间结果不做修约,只将最后结果修约至要求的位数。

注意:
⑴在所有计算式中,常数(兀、e等)以及非检测所得的计算因子
的有效数字位数,可视为无限,需要几位就取几位。

⑵使用计算器(或电脑)进行计算时,一般不对中间每一步骤的计算结果进行修约,仅对最后的结果进行修约,使其符合事先所确定的位数。

相关文档
最新文档