2015年第5期分析培训-有效数字和数值的修约及其运算-20150319

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字的基本概念-有效位数
对没有小数位且以若干个零结尾的数值, 从非零数字最左一位向右数得到的位数减 去无效零(即仅为定位用的零)的个数;
例:35000,若有两个无效零,则为三位有效位数,应写为 350×102或3.50×104 ;若有三个无效零,则为两位有效位 数,应写为35×103或3.5×104 。
数值修约及其进舍规则
进舍规则
四舍六入五考虑, 五后非零则进一, 五后皆零视奇偶, 五前为偶应舍去, 五前为奇则进一, 不论数字多少位, 都要一次修约成。
运算规则
加减运算 乘除运算 平方或开方运算 对数运算
运算规则-加减运算
应以各数中有效数字末位数的数位最 高者为准(小数即以小数部分位数最 少者为准),其余数均比该数向右多 保留一位有效数字,等运算得到结果 时,再根据有效位数弃去多余的数字。
3. 规格项下的“0.3g”或“1ml ”, “25mg”中的“0.3”、“1”和“25”的有 效位数也均为无限多位。
有效数字的基本概念-有效位数
pH值等对数值,其有效位数是由其小数点 后的位数决定的,其整数部分只表明其真数 的乘方次数。
例: pH=11.26([H+]=5.5×10-12 mol/L) 其有效位数只有两位。
中美华世通生物医药企业
WATERSTONE PHARMACEUTICALS GROUP
有效数字和数值的修约及其运算
分析部: 柳 旭 2015.03.19
有效数字的基本概念 数值修约及其进舍规则 运算规则 注意事项
有效数字的基本概念
有效数字系指在检验工作中所能得 到有实际意义的数值。其最后一位 数字欠准是允许的,这种由可靠数 字和最后一位不确定数字组成的数 值,即为有效数字。 最后一位数字的欠准程度通常只能 是上下差1 单位。
有效数字的基本概念-有效位数
有效数字的首位数字Biblioteka Baidu8 或9 时,其有效 位数可以多计一位。
例如:方法学验证准确度试验中,加样回收溶液的回收率要求 80.0%~120.0%,其中80.0%、120.0%都可以看成是四位有效位 数;
例如:报告单中含量项下,以干燥品计,本品含XXXX应在 98.0%~102.0%,其中98.0%、102.0%都可以看成是四位有效字。
例如:13.65+0.00823+1.633 =13.65+0.008+1.633 =15.291=15.29
运算规则-乘除运算
应以各数中有效数字位数最少者为准, 其余数均多取一位有效数字,等运算得到 结果时,再根据有效位数弃去多余的数字。
例如: = = = = 14.131×0.07654÷0.78 14.1×0.0765÷0.78 1.08÷0.78 1.38 1.4
常数π、e和系数2,1/2 等数值的有效位 数也可视为是无限多位。
有效数字的基本概念-有效位数
例如: 1. 分子式“H2S04”中的“2”和“4” 是个数,其有效位数均为无限多位; 2. 含量测定项下“每1ml的×××× 滴定液(0.1mol/L)”中的“0.1”为名义 浓度,其有效位数均为无限多位;
运算规则-实例
计算氧氟沙星(C18H20FN3O4)的分子量 注:《中国药典》规定分子量的数值保留到小数点后二位
12.011×18+1.00794×20+18.9984032+14.006747×3+15.9994×4
= = = =
216.20 + 20.1588 + 18.9984032 + 42.020241 + 63.9976 216.20 + 20.159 + 18.998 + 42.020 + 63.998 361.375 361.38
讨论
• 炽灼残渣和干燥失重结果修约
炽灼残渣:计算结果按“有效数字和数值的修约及其运算”修约,使其与标准中规
定限度的有效数位一致。其数值小于或等于限度值时,判为符合规定(当限度规定 为≤0.1% ,而实验结果符合规定时,报告数据应为“小于0.1%”或“为0.1%”); 其数值大于限度值时,则判为不符合规定。
干燥失重:计算结果按“有效数字和数值的修约及其运算”修约,使其与标准中规 定限度的有效数位一致。其数值小于或等于限度值时,判为符合规定;大于限度值时, 则判为不符合规定。如规定为高低限度范围时,而测得的数值介于高低限度范围之 内时,判为符合规定。
讨论
• 峰面积、分离度、拖尾因子如何修约?
峰面积 分离度 拖尾因子 1.54695×104 3.68 1.01236 7.15 1.15269 347.59623 5.32 0.94589 0.99483 8.32564×10-1
对其他十进位数,从非零数字最左一位 向右数而得到的位数,就是有效位数。
例:3.2,0.32,0.032,0.0032均为两位有效位数; 0.0320为三位有效位数;12.490为五位有效位数;10.00为 四位有效位数。
有效数字的基本概念-有效位数
非连续型数值(个数、分数、倍数)、名 义浓度或标示量等是没有欠准数字的,其有 效位数可视为无限多位。
运算规则-对数运算
在数值对数计算时,所取对数的小数点后 的位数(不包括首数)应与真数的有效数字 位数相同。换言之,对数有效数字的位数, 只计小数点以后的数字的位数,而不计对数 的整数部分。
例如:log(100.44) = log(1.0044×102) = 2.0019067„。 最后结果应为2.00191,结果的有效数字位数是五位(小 数后位数)而不是六位(整数位数加小数位数),因整数 部分只说明该数的10的方次。
数值修约及其进舍规则 在相对标准偏差(RSD)中,采用“只进不 舍”的原则。
例如:0.163%,0.52% 宜修约为0.17% 、0.6% 。
数值修约及其进舍规则

拟修约数字应在确定修约位数后一次 修约获得结果,而不得多次按进舍规则 连续修约。
例如:修约15.4546,修约间隔为1 正确的做法: 15.4546→15 不正确的做法:15.4546→15.455→ 15.46→15.5→16
运算规则-平方或开方运算
乘方或开方时,原数值有几位有效数字, 计算结果就可以保留几位有效数字。若计 算结果还要参与运算,则乘方或开方所得 结果可比原数值多保留一位有效数字。
例如:3.582=12.8614,运算结果保留三位有效数字,为12.9。
6.28 2.5059928 ...,运算结果保留三位有效数字为 2.51。若原结果还要参与进一步运算,则先保留为2.506。
运算规则-实例
注意事项
正确记录检测所得的数值应根据取样量、 量具的精度、检测方法的允许误差和标准 中的限度规定,确定数字的有效位数(或数 位),检测值必须与测量的准确度相符合, 记录全部准确数字和一位欠准数字。 提问:量筒、移液管、刻度吸管和滴定管等量具,它们的精度分别是多
少?
注意事项
要根据取样的要求,选择相应的量具。
“精密称定”系指称取重量应准确到所取重量的0.1% , 可根据称量选用分析天平或半微量分析天平;“精密量取” 应选用符合国家标准的移液管;必要时应加校正值。 “称定”(或“量取”)系指称取的重量(或量取的容量) 应准确至所取重量(或容量)的百分之一。 取用量为“约XX”时,系指取用量不得超过规定量的 100%±10%。 取用量的精度未作特殊规定时,应根据其数值的有效数位 选用与之相应的量具: 如规定量取5ml、5.Oml或5.00ml 时,则应分别选用5〜10ml的量筒、5〜10ml的刻度吸管或 5ml的移液管进行量取。
注意事项
正确掌握和运用规则进行计算时,应执行 进舍规则和运算规则,如使用计算器(或 电脑)进行计算时,一般不对中间每一步 骤的计算结果进行修约,仅对最后的结果 进行修约,使其符合事先所确定的位数。 如由工作站出的数据,可按有效数字修约 原则修约后判定。
1 2521.62306 2 2522.24316 3 2543.89990 4 2520.99316 5 2538.31372 6 2510.70776 6针AV 2526.29634 6针RSD 0.49%
运算规则-平均值
计算几个数值的平均值时,先将计算 结果修约至比要求的位数多一位,再 按数值修约规则处理。
例如:x 6.38 6.39 6.40 6.34 6.42 6.39 6.387
6
修约后平均值计算结果为6.39。
运算规则-方差和标准偏差
方差和标准偏差在运算过程中对中间 结果不做修约,只将最后结果修约至 要求的位数。
数值修约及其进舍规则
确定修约位数的表达方式 • 指定数位(指定修约间隔);
熔点测定(间隔修约0.5℃)
• 指定将数值修约成n位有效位数。
数值修约及其进舍规则
进舍规则(四舍六入五成双) • 拟舍弃数字的最左一位数字小于5 时, 则舍去,即保留的各位数字不变; • 拟舍弃数字的最左一位数字大于5,或 者是5,而其后跟有并非全部为0 的 数字时,则进一; • 拟舍弃数字的最左一位数字为5,而 右面无数字或皆为0 时,若所保留末 位数为奇数(1,3,5,7,9)则进一, 为偶数(2,4,6,8,0)则舍弃。
相关文档
最新文档