有效数字及其运算规则
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
题目有效数字及其运算规则编码:
页码:1/3
修订审核批准
修订日期审核日期批准日期
颁发部门质量管理部颁发数量份生效日期
分发单位生产部、质量管理部
一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。
二、范围:适用于所有相关数据的计算。
三、责任者:生产部、质量管理部。
四、内容
1.有效数字
1.1定义
有效数字就是实际能测到的数字。有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。我们可以把有效数字这样表示。
有效数字=所有的可靠的数字+ 一位可疑数字
1.2有效数字位数
从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。
例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。
B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。
C.5200000000,全部都是有效数字。
D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。
E.1.20 有3个有效数字。
F.1100.120 有7位有效数字。
G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。
H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。
1.3“0”的双重意义
1.3.1作为定位的标志。
例:滴定管读数为20.30毫升。两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。
1.3.2作为普通数字使用
例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。
2.有效数字的运算规则
2.1数字修约规则
题目有效数字及其运算规则页码:2/3
颁发部门质量管理部编码:测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:
2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。
2.1.2当保留n位有效数字,若第n+1位数字大于5时,则第n位数字进1。
2.1.3当保留n位有效数字,若第n+1位数字等于5且后面还有不为0的任何数字时,则无论第n位数字是奇或是偶都加1。
2.1.4当保留n位有效数字,若第n+1位数字等于5,而5的右边无数字或皆为0时,若第n位数字为奇数时加则进1,若为偶数或0则舍去。
例:将下列数字修约为4位有效数字。
修约前修约后
0.526647--------0.5266
0.36266112------0.3627
10.23500--------10.24
250.65000-------250.6
18.085002--------18.09
3517.46--------3517
注意:修约数字时只允许一次修约,不能分次修约。如:13.4748-13.47
2.2计算规则
2.2.1通则
2.2.1.1可靠数字之间运算的结果为可靠数字。
2.2.1.2可靠数字与存疑数字,存疑数字与存疑数字之间运算的结果为存疑数字。测量数据一般只保留一位存疑数字。
2.2.1.3运算结果的有效数字位数不由数学或物理常数来确定,数学与物理常数的有效数字位数可任意选取,一般选取的位数应比测量数据中位数最少者多取一位.例如:π可取=
3.14或3.142或3.1416……;在公式中计算结果不能由于"2"的存在而只取一位存疑数字,而要根据其他数据来决定。
2.2.2加减法
以小数点后位数最少的数据为基准,其他数据修约至与其相同,再进行加减计算,最终计算结果保留最少的位数。
例:计算12.43+5.765+132.812=?
修约为:12.43+5.76+132.81=151.00
2.3乘除法
以小数点后位数最少的数据为基准,其他数据修约至与其相同,再进行乘除计算,最终计算结果保留最少的位数。
例:A.计算0.0121×25.64×1.05728=
题目有效数字及其运算规则页码:3/3
颁发部门质量管理部编码:修约为:0.0121×25.6×1.06=
计算后结果为:0.3283456,结果仍保留为三位有效数字。
B.计算2.5046×2.005×1.52=?
修约为:2.50×2.00×1.52=?
计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留三位有效数字。
2.50×2.00×1.52=7.60
3.记录保留位数
3.1测量填写检验记录时,小数点后保留位数比标准要求多保留一位,即水分、总灰分、酸不溶性灰分、浸出物、相对密度计算结果,精确至小数点后两位;装量称量精确至小数点后三位。
3.2进行物料、产品重量称量时,精确至小数点后一位;不合格品称量时,精确至小数点后量位。