有效数字和数值的修约及运算规程

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

目的:规范有效数字和数值的修约及运算程序,确保计算数值准确,检验结果正确。

范围:样品检验中的计算及计数。

1.数字的基本概念

1.1 有效数字指有实际意义的数值,由可靠数字和最后一位数字(不确定数字)组成的数值,为有效数字。

1.2 有效位数

1.2.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。如350×102表示三位有效数,350中的“0”为定位用的零,102=100、100中的“00”为无效零。

1.2.2 在其它十进位中,有效数字系指从非零数字最左一位向右数而得到的位数,如0.51为两位有效数,0.510为三位有效位数,0.5100为四位有效位数,12.490为五位有效位数。

1.2.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;常数π、e和系数2等数值的有效倍数也可视为是无限多位;含量测定项下滴定液的名义浓度及规格项下的标示量等,其有效位也均为无限多位;即在计算中,其有效位数应根据其它数值的最少有效位数而定。

1.2.4 pH值等对数值,其有效位数只有两位。

1.2.5 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如

85.0%、99.0%与101.0%都可以看成是四位有效数字。

2.数值修约及其进舍。

2.1 数值修约:是指对拟修约数值中超出需要保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。

2.2 确定修约位数的表达方式

2.2.1指定数位

2.2.1.1 指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后

n位。2.2.1.2 指定修约间隔为1,或指明将数值修约到个位。

2.2.1.3 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,

或指明将数值修约到“十”、“百”、“千”……数位。

2.2.2 指定将数值修约成n位有效位数(n为正整数)。

2.2 进舍规则

可归纳为:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一。不论数字多少位,都要一次修约成。

3.运算规则:在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的。

3.1 许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,加减时应以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,以确定其它数值在运算中保留的位数和决定计算结果的有效数位。

3.2 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中绝对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。

3.3 在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。

4.注意事项

4.1正确记录检测所得的数值:应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数,检测值必须与测量的准确度相符合,记录全部准确数字和一位欠准数字。

4.2 正确掌握和动用规则:不论是何种办法进行计算,都必须执行进舍规则和运规则,如用计算器计算,也应将计算结果经修约后再记录下来。

4.3样的要求,选择相应的量具。

4.3.1 “精密称定”:指称取重量应准确到所取重量的0.1%,可根据称量选用分析天平或半微量分析天平;“精密量取”:应选用符合国家标准的移液管;必要时应加校正值。

4.3.2 “称定”(或“量取”):指称取的重量(或量取的容量)应准确至所取重量(或容量)的百分之一。

4.3.3 取用量为“约××”时,系指取用量不得超过规定量的100±10%。

4.3.4 取用量的精度未作特殊规定时,应根据其数值的有效数位选用与之相应的量具;如规定量取5ml、

5.0ml、5.00ml时,则应分别选用5~10ml的量筒、5~10ml的刻度吸管或5ml的移液管进行量取。

4.4 在判定药品质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,将计算结果修约到标准中所规定的有效位,而后进行判定。

相关文档
最新文档