有效数字和数值的修约及其运算1

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字的修约及其运算规则

本规程系根据中国药典2015年版和国家标准GB 8170-2008《数值修约规则》制订,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。

有效数字:是指在分析工作中实际能够测量到的数字。其中包括所有的准确数字和最后一位可疑数字。保留有效数字的位数,受到测量仪器的精度和分析方法的准确度限制。因此,有效数字不仅反应数值的大小,还反应了测量结果的准确度。

1.数字的俢约:根据有效数字的要求把多余数字的处理过程称为数字的俢约。

2.修约间隔

修约值的最小数值单位。

注:修约间隔的数值一经确定,修约值即为该数值的整数倍。

例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。

例2:如指定修约间隔为100,修约值应在10的整数倍中选取,相当于将数值修约到“百”数位。

3. 2有效数字俢约规则:按照国家标准GB8170-2008《数字俢约规则》,“采用四舍六入五留双”的规则。

3.2.1被俢约的数字小于4或等于4时,则该数字舍去。

3.2.2被俢约的数字大于6或等于6时,则进1。

3.2.3被俢约的数字等于5时,若5后数字不为零,则进1;若5后无数字或零,则看5前一位数字,前一位是奇数则进1,是偶数则舍去。

3.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的

末位数字为偶数((0,2,4,6,8),则舍去。

例如:将下列数据俢约为四位有效数字

2.87435 2.874

0.37426 0.3743

1.50250 1.502

1.50150 1.502

2.38351 2.384

4.5245 4.524

3.2.5负数修约时,先将它的绝对值按3.2.1~3.2.4的规定进行修约,然后在所得值前面加上负号。

例1:将下列数字修约到“十”数位:

拟修约数值修约值

-355 -36× 10(特定场合可写为-360)

-325 -32 × 10(特定场合可写为-320)

例2:将下列数字修约到三位小数,即修约间隔为10-3;

拟修约数值修约值

-0.036 5 -36 × 10-3(特定场合可写为-0. 036)

3. 3不允许连续修约

3.3.1拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按3. 2规则连续修约。

例1:修约97. 46,修约间隔为1。

正确的做法:97.46→97;

不正确的做法:97. 46→97.5→98 。

例2:修约15. 454 6,修约间隔为1。

正确的做法:15. 454 6→15;

不正确的做法:15.454 6→15.455→15.46→15. 5→16。

3.4有效数字的运算规则

3.4.1加减法:当几个数据相加或相减时,以小数点后位数最少的数据为依据进行俢约,求出其和或差。

例如:对0.0213、32.47、1.3753求和,计算时,应以小数点后位数最少的32.47作为保留依据,将其余数字俢约成,0.02、1.38后再进行计算,其计算结果为:

0.02+32.47+1.38=33.87

3.4.2乘除法:当几个数据相乘或相除时积或商的有效数字的保留位数,应以参加运算的数据中相对误差最大的的那个数据为依据。

例如:对0.0213、32.47、1.3753求积,计算时,以有效数字位数最少的0.0213作为保留依据,将其余数字俢约成32.5、1.38后,再进行计算,其计算结果为:

0.0213×32.5×1.38=0.955

相关文档
最新文档