有效数字、数值修约及运算规程

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

1 目的

为对实验过程中实际测量或计算而得的数值进行统一规范的处理,特制定本规程,保证数据计算合理、准确有效。

2 范围

适用于工作中除生物检定统计法以外的各种测量或计算而得的数值。

3 职责

实验员:负责按本操作规程在计算过程中对检验数据进行处理。

复核人、QA:负责按本规程对实验结果进行复核、计算。

各实验室主任:监督本操作规程的实施。

4 内容

4.1 有效数字的基本概念

4.1.1 有效数字系指在药检工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。

最后一位数字的欠准程度通道只能是上下差1单位。

如:12.50 ml,前三位是准确的,最后一位是估计的,不甚准确,但它不是臆造的。记录时应保留这一位,这四位都是有效数字。

4.1.2 有效位数

4.1.2.1 有效数字位数的确定原则

由于有效数字的位数反映了测定结果的精确度,它直接与测量的精密度有关。因此,在科学实验和生产过程中正确记录有效数字,不能多写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也就不可靠;少写损失测量精

度。

4.1.2.2 在没有小数位且以若干个零结尾的数值中,有效位数每当指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作

35×103。

4.1.2.3 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例如3.2、0.32、0.032和0.0032均为两位有效位数,0.0320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。

4.1.2.4 有效数字的首位数字为8或9时,其有效位数可以多计一位。例如85%与115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。

4.1.2.5 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和等数值的有效位数也可视为是无限多位。

4.1.2.6 PH值等对数值,其有效位数由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。例如:PH=11.26([H+]=

5.5×10-12mol/L),其有效位数只有两位。

4.2 数值修约及其进舍规则

4.2.1 数值修约的概念

是对拟修约数值根据保留位数的要求,将多余的数字进行舍弃,根据舍弃数来保留最后一位数或最后几位数,这一过程称为数值修约。

4.2.2 数值修约的意义

4.2.2.1 出于准确表达测量结果的需要

测量结果大都是通过间接测量得到的,间接测量的结果通常是通过计算得出的,其组成数字往往较多,但具体测量的精度是确定的,就是说合理表征测量结果的数字个数应是确定的,最终提供的测量结果应合理反映这一点,因此,通过对计算得出的和直接测量得到的数据的分析,得到合理的保留位数,将多余的数字进行取舍以得到合理反映测量精度的测量结果,即进行数值修约就非常必要。

4.2.2.2 在进行具体的数值计算前,对参加计算的数值进行修约,可简化计算,降低出错的机会。

如:4.78961×2.13×102.4387926=?

若不先进行数值修约就直接计算,繁琐且容易出错。若在计算前先按数值修约规则进行修约,舍去多余参与计算的数值之中没有意义的数字,则计算会简单得多,也不易出错。

4.2.3 进舍规则

进舍规则口诀:

四舍六入五考虑,五后非零则进一,

五后全零看五前,五前偶舍奇进一,

不论数字多少位,都要一次修约成。

4.2.3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

例1 将12.1498修约到一位小数,得12.1。

例2 将12.1498修约成两位有效位数,得12。

4.2.3.2 拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一。即在保留的末位数字加1。

例1 将1268修约到百数位,得13×102。

例2 将1268修约到三位有效位数,得127×10。

例3 将10.502修约到个数位。得11。

4.2.3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例将下列数字修约成两位有效位数

拟修约数值修约值

0.0325 0.032

32500 32×103

4.2.3.4 在相对标准偏差(RSD)中,采用“只进不舍”的原则,如0.163%、0.52%宜修约为0.17%、0.6%。

4.2.3.5 不许连续修约拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前面规则连续修约。

例修约15.4546,将数值修约到个位数。

正确做法为:15.4546→15;

不正确的做法为:15.4546→15.455→15.46→15.5→16.

4.2.4 运算规则

在计算分析结果时,每个测量数据的误差会传递到分析结果中去,而运算不能改变测量的准确度。所以,应根据误差传递的规律进行有效数字的运算。

在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的。

4.2.4.1 加减法加减法的计算是各数值绝对误差的传递,所以结果的绝对误差应与数据中绝对误差最大的数据相当(即小数点后位数最少的数据为准)。

4.2.4.2 乘除法乘除法的计算是各数值相对误差的传递,所以结果的相对误差应与数据中相对误差最大的数据相当,(即有效数字位数最少的数据为准,与小数点位置无关)。

4.2.4.3 在运算过程中,为减少舍入误差,其他数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。

例1:13.65+0.00823+1.633=?

本例是数值相加减,在三个数值中13.65的绝对误差最大,其最末一位数为百分位(小数点后二位),因此将其他各数均暂先保留至千分位,即把0.00823修约成0.008,1.633不变,进行运算:

13.65+0.008+1.633=15.291

最后对计算结果进行修约,15.291应只保留至百分位,而修约成15.29。

例2:14.131×0.07654÷0.78=?

本例是数值相乘除,在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。

14.131×0.07654÷0.78

=14.1×0.0765÷0.78

=1.08÷0.78

=1.38

相关文档
最新文档