有效数字、数值修约及运算规程

1 目的

为对实验过程中实际测量或计算而得的数值进行统一规范的处理，特制定本规程，保证数据计算合理、准确有效。

2 范围

适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。

3 职责

实验员：负责按本操作规程在计算过程中对检验数据进行处理。

复核人、QA：负责按本规程对实验结果进行复核、计算。

各实验室主任：监督本操作规程的实施。

4 内容

4.1 有效数字的基本概念

4.1.1 有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位

数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。

最后一位数字的欠准程度通道只能是上下差1单位。

如：12.50 ml，前三位是准确的，最后一位是估计的，不甚准确，但它不是臆造的。记录时应保留这一位，这四位都是有效数字。

4.1.2 有效位数

4.1.2.1 有效数字位数的确定原则

由于有效数字的位数反映了测定结果的精确度，它直接与测量的精密度有关。因此，在科学实验和生产过程中正确记录有效数字，不能多写或少写，多写了不能正确反映测量精度，则该数据不真实，因而也就不可靠；少写损失测量精度。

4.1.2.2 在没有小数位且以若干个零结尾的数值中，有效位数每当指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为两位有效位数，应写作

35×103。

4.1.2.3 在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数，0.0320为三位有

效位数、10.00为四位有效位数，12.490为五位有效位数。

4.1.2.4 有效数字的首位数字为8或9时，其有效位数可以多计一位。例如85％与115%，都可以看成是三位有效位数；99.0％与101.0％都可以看成是四位有效数字。

4.1.2.5 非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和等数值的有效位数也可视为是无限多位。

4.1.2.6 PH值等对数值，其有效位数由其小数点后的位数决定的，其整数部分只表明其真数的乘方次数。例如：PH=11.26（[H+]=

5.5×10-12mol/L），其有效位数只有两位。

4.2 数值修约及其进舍规则

4.2.1 数值修约的概念

是对拟修约数值根据保留位数的要求，将多余的数字进行舍弃，根据舍弃数来保留最后一位数或最后几位数，这一过程称为数值修约。

4.2.2 数值修约的意义

4.2.2.1 出于准确表达测量结果的需要

测量结果大都是通过间接测量得到的，间接测量的结果通常是通过计算得出的，其组成数字往往较多，但具体测量的精度是确定的，就是说合理表征测量结果的数字个数应是确定的，最终提供的测量结果应合理反映这一点，因此，通过对计算得出的和直接测量得到的数据的分析，得到合理的保留位数，将多余的数字进行取舍以得到合理反映测量精度的测量结果，即进行数值修约就非常必要。

4.2.2.2 在进行具体的数值计算前，对参加计算的数值进行修约，可简化计算，降低出错的机会。

如：4.78961×2.13×102.4387926=？

若不先进行数值修约就直接计算，繁琐且容易出错。若在计算前先按数值修约规则进行修约，舍去多余参与计算的数值之中没有意义的数字，则计算会简单得多，也不易出错。

4.2.3 进舍规则

进舍规则口诀：

四舍六入五考虑，五后非零则进一，

五后全零看五前，五前偶舍奇进一，

不论数字多少位，都要一次修约成。

4.2.3.1 拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不变。

例1 将12.1498修约到一位小数，得12.1。

例2 将12.1498修约成两位有效位数，得12。

4.2.3.2 拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部为0的数字时，则进一。即在保留的末位数字加1。

例1 将1268修约到百数位，得13×102。

例2 将1268修约到三位有效位数，得127×10。

例3 将10.502修约到个数位。得11。

4.2.3.3 拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保留的末位数为奇数（1，3，5，7，9）则进一，为偶数（2，4，6，8，0）则舍弃。

例将下列数字修约成两位有效位数

拟修约数值修约值

0.0325 0.032

32500 32×103

4.2.3.4 在相对标准偏差(RSD)中，采用“只进不舍”的原则，如0.163%、0.52%宜修约为0.17%、0.6%。

4.2.3.5 不许连续修约拟修约数字应在确定修约位数后一次修约获得结果，而不得多次按前面规则连续修约。

例修约15.4546，将数值修约到个位数。

正确做法为：15.4546→15；

不正确的做法为：15.4546→15.455→15.46→15.5→16．

4.2.4 运算规则

在计算分析结果时，每个测量数据的误差会传递到分析结果中去，而运算不能改变测量的准确度。所以，应根据误差传递的规律进行有效数字的运算。

在进行数学运算时，对加减法和乘除法中有效数字的处理是不同的。

4.2.4.1 加减法加减法的计算是各数值绝对误差的传递，所以结果的绝对误差应与数据中绝对误差最大的数据相当（即小数点后位数最少的数据为准）。

4.2.4.2 乘除法乘除法的计算是各数值相对误差的传递，所以结果的相对误差应与数据中相对误差最大的数据相当，（即有效数字位数最少的数据为准，与小数点位置无关）。

4.2.4.3 在运算过程中，为减少舍入误差，其他数值的修约可以暂时多保留一位，等运算得到结果时，再根据有效位数弃去多余的数字。

例1：13.65+0.00823+1.633=？

本例是数值相加减，在三个数值中13.65的绝对误差最大，其最末一位数为百分位（小数点后二位），因此将其他各数均暂先保留至千分位，即把0.00823修约成0.008，1.633不变，进行运算：

13.65+0.008+1.633=15.291

最后对计算结果进行修约，15.291应只保留至百分位，而修约成15.29。

例2：14.131×0.07654÷0.78=？

本例是数值相乘除，在三个数值中，0.78的有效位数最少，仅为两位有效位数，因此各数值均应暂保留三位有效位数进行运算，最后结果再修约为两位有效位数。

14.131×0.07654÷0.78

=14.1×0.0765÷0.78

=1.08÷0.78

=1.38

=1.4

4.2.5 注意事项

4.2.

5.1 正确记录检测所得的数值

应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定，确定数字的有效位数，检测值必须与测量的准确度相符合，记录全部准确数字和一位欠准数字。移液管是进过标定的，正确操作是要将移液管标定值带入计算，量筒若用来做“装量”等实验需要准确值的实验，也需要进行标定，带入标定值计算。