有效数字及其运算规则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

题目有效数字及其运算规则编码:

页码:1/3

修订审核批准

修订日期审核日期批准日期

颁发部门质量管理部颁发数量份生效日期

分发单位生产部、质量管理部

一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。

二、范围:适用于所有相关数据的计算。

三、责任者:生产部、质量管理部。

四、内容

1.有效数字

1.1定义

有效数字就是实际能测到的数字。有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。我们可以把有效数字这样表示。

有效数字=所有的可靠的数字+ 一位可疑数字

1.2有效数字位数

从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。

例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。

B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。

C.5200000000,全部都是有效数字。

D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。

E.1.20 有3个有效数字。

F.1100.120 有7位有效数字。

G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。

H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。

1.3“0”的双重意义

1.3.1作为定位的标志。

例:滴定管读数为20.30毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。

1.3.2作为普通数字使用

例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。

2.有效数字的运算规则

2.1数字修约规则

题目有效数字及其运算规则页码:2/3

颁发部门质量管理部编码:测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:

2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。

2.1.2当保留n位有效数字,若第n+1位数字大于5时,则第n位数字进1。

2.1.3当保留n位有效数字,若第n+1位数字等于5且后面还有不为0的任何数字时,则无论第n位数字是奇或是偶都加1。

2.1.4当保留n位有效数字,若第n+1位数字等于5,而5的右边无数字或皆为0时,若第n位数字为奇数时加则进1,若为偶数或0则舍去。

例:将下列数字修约为4位有效数字。

修约前修约后

0.526647--------0.5266

0.36266112------0.3627

10.23500--------10.24

250.65000-------250.6

18.085002--------18.09

3517.46--------3517

注意:修约数字时只允许一次修约,不能分次修约。如:13.4748-13.47

2.2计算规则

2.2.1通则

2.2.1.1可靠数字之间运算的结果为可靠数字。

2.2.1.2可靠数字与存疑数字,存疑数字与存疑数字之间运算的结果为存疑数字。测量数据一般只保留一位存疑数字。

2.2.1.3运算结果的有效数字位数不由数学或物理常数来确定,数学与物理常数的有效数字位数可任意选取,一般选取的位数应比测量数据中位数最少者多取一位.例如:π可取=

3.14或3.142或3.1416……;在公式中计算结果不能由于"2"的存在而只取一位存疑数字,而要根据其他数据来决定。

2.2.2加减法

以小数点后位数最少的数据为基准,其他数据修约至与其相同,再进行加减计算,最终计算结果保留最少的位数。

例:计算12.43+5.765+132.812=?

修约为:12.43+5.76+132.81=151.00

2.3乘除法

以小数点后位数最少的数据为基准,其他数据修约至与其相同,再进行乘除计算,最终计算结果保留最少的位数。

例:A.计算0.0121×25.64×1.05728=

题目有效数字及其运算规则页码:3/3

颁发部门质量管理部编码:修约为:0.0121×25.6×1.06=

计算后结果为:0.3283456,结果仍保留为三位有效数字。

B.计算2.5046×2.005×1.52=?

修约为:2.50×2.00×1.52=?

计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。

2.50×2.00×1.52=7.60

3.记录保留位数

3.1测量填写检验记录时,小数点后保留位数比标准要求多保留一位,即水分、总灰分、酸不溶性灰分、浸出物、相对密度计算结果,精确至小数点后两位;装量称量精确至小数点后三位。

3.2进行物料、产品重量称量时,精确至小数点后一位;不合格品称量时,精确至小数点后量位。

相关文档
最新文档