药检有效数字和数值的修约及其运算规则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

药检有效数字和数值的修约及其运算规则
一目的:制定有效数字和数值的修约及其运算规则,规范有效数字和数值的修约及其运算。

二适用范围:适用于有效数字和数值的修约及其运算。

三责任者:品控部。

可以是
n=
×102。

例如3.2、0.32、0.032和0.0032均为两位有效位数,为0.320三位有效位数,10.00为四位有效位数,12.490为五位有效位数。

1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为
无限多位;例如分子式“H
2SO
4
”中的“2”和“4”是个数。

常数π、e和系数2等值的有效
位数也可视为无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。

1.3.4 PH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。

如PH=11.26([H+]=5.5×10-12mol/L),其有效位数只有两位。

1.3.5 有效数字的首位数字为8或9时,其有效位数可以多计一位。

例如85%与115%,都可以看成是三位有效位数;88%与101%都可以看成是四位有效数字。

2 数值修约及期进舍规则。

2.1 数值修约是指对拟修约数值中超过需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。

修约
位。

的数字
例1将1268修约到百位数,得13×102。

例2将1268修约到三位有效位数,得127×10。

例3将10.502修约到个数位,得11。

2.4.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位
数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例1 修约间隔为0.1(或10-1)
拟修约数值修约值
1.050 1.0
0.350 0.4
例2 修约间隔为1000(或103)
拟修约数值修约值
2500 2×103
3500 4×103
例1 将下列数字修约成两位有效位数

算结果的有效数位。

3.2 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。

因此相乘除时应以诸数值中相对误并最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。

3.3 在运算过程中,为减少舍人误差,其它数值的修约可以暂时多保留一位,等运算和到结果时,再根据有效位数弃去多余的数字。

例1 13.65+0.008+1.633=?
本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其它各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进行运算:
13.65+0.008+1.633=15.291
最后对计算结果进行修约,15.291应只保留至百分位,而修约成15.29。

例2 14.131×0.07654÷0.78=?
本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此
4 注意事项
4.1 正确记录检测所得的数值应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数(或数位),检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。

4.2 正确掌握和运用规则不论是何种办法进行计算,都必须执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。

4.3 要根据取样的要求,选择相应的量具。

4.3.1 “精密称定”系指称取重量应准确到所取重量的0.1%,可根据称量选用公析天平或半微量分析天平;“精密量取”应选用符合国家标准的移液管;必要时应加校正值。

4.3.2 “称定”(或“量取”)系指称取的重量(或量取的容量)应准确至所取重量(或容量)的百分之一。

4.3.3 取用量为“约XX”时,系指取用量不得超过规定量的100+10%。

4.3.4 取用量的精度未作特殊规定时,应根据其数值的有效数位选用与之相应的量具;如规定量取5ml、
5.0ml或5.00ml时,则应分别选用5~10ml的量筒、5~10ml的刻度吸
《极限
(在
,大于。

相关文档
最新文档