有效数字和数值的修约运算及极限数值判定.
药检有效数字和数值的修约及其运算规则
药检有效数字和数值的修约及其运算规则一目的:制定有效数字和数值的修约及其运算规则,规范有效数字和数值的修约及其运算。
二适用范围:适用于有效数字和数值的修约及其运算。
三责任者:品控部。
四正文:本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1 有效数字的基本概念1.1 有效数字系指在检验工作中所能得到有实际意义的数值。
其最后位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
最后一位数字的欠准程序通常只能是上下差1单位。
1.2 有效数字的字位(数位),是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……,n也可以是负数,如n= -1、10-1=0.1(十分位),n= -2、10-2=0.01(百分位),……,1.3 有效位数1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×102。
1.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数,为0.320三位有效位数,10.00为四位有效位数,12.490为五位有效位数。
1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。
常数π、e和系数2等值的有效位数也可视为无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
GBT8170-2019数值修约规则与极限数值的表示和判定-PPT精选文档
二0一0年七月
数值修约规则 -----------基于GB/T8170-2019
术语和定义 数值修约规则 近似数运算 极限数值的判定方法与修约
一、术语和定义
1、数值修约:通过省略原数值的最后若干 位数字,调整所保留的末位数字,使最后所 得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的) 修约值。
• 例2:842
842×5=4210 按100间隔修约为 4200/5为840 • 例3:-930 -930×5=-4650,按100间隔修约为 -4600/5=-920
4.2、“0.5”单位修约规则 “0.5” 单位修约是指按指定修约 间隔对拟修约的数值0.5单位进行 的修约。 修约方法:将拟修约数值X乘以2, 按指定修约间隔对2X依规定修约, 所得数值再除以2。
例1:35000,若有两个无效0,则为三 位有效位数,应写为350×102;若有 三个无效0,则为二位有效位数,应写 为35×103。 例2: 0.0025---2位有效位数; 1.001000---7位有效位数; 2.8×107---2位有效位数; (对于a×10n表示的数值,其有效 数字的位数由a中的有效位数决定)
例2: 60.29 60.29×5=301.45按1间隔修约为 301/5=60.2 例3: 60.30 60.30×5=301.5按1间隔修约为 302/5=60.4
例:将下列数字修约到“百”数位的0.2 单位(或修约间隔为20) ◦ 例1:830 830×5=4150 按100间隔修约为4200/5 为840
“1”间隔修约:整数 ◦ “0.5”单位修约 指修约间隔为指定数位的0.5单位,即 修约到指定数位的0.5单位。 “0.2”单位修约 指修约间隔为指定数位的0.2单位,即 修约到指定数位的0.2单位。
有效数字和数值的修约及其运算
有效数字和数值的修约及其运算本规程系根据中国药典2010年版凡例和国家标准GB 8170-2008《数值修约规则与极限数值的表示和判定》制订,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1.数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
2.修约间隔确定修约保留位数的一种方法。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
2.3极限数值limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3. 1确定修约间隔a)指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1,或指明将数值修约到“个”数位;c)指定修约间隔为10n (n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
3. 2进舍规则3.2.1拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12. 149 8修约到个数位,得12;将12. 149 8修约到一位小数,得12.l。
3.2.2拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1.例:将1 268修约到“百”数位,得13 × 102(特定场合可写为1 300)。
注:本标准示例中,“特定场合”系指修约间隔明确时。
3.2.3拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
例:将10. 500 2修约到个数位,得1。
3.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数((0,2,4,6,8),则舍去。
数值修约规则与极限数值的表示和判定
数值修约规则与极限数值的表示和判定1范围本标准规定了对数值进行修约的规则、数值极限数值的表示和判定方法,有关用语及其符号,以及将测定值或其计算值与标准规定的极限数值作比较的方法。
本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。
当所得数值需要修约时,应按本标准给出的规则进行。
本标准适用于各种标准或其他技术规范的编写和对测试结果的判定。
2 术语和定义下列术语和定义适用于本标准。
2.1数值修约 rounding off for numerical values通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
注:经数值修约后的数值称为(原数值的)修约值。
2.2修约间隔 rounding interval修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。
例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
2.3极限数值 limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3.1确定修约间隔a)指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1,或指明将数值修约到“1”数位;c)指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
3.2 进舍规则3.2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12.1498修约到个数位,得12;将12.1 498修约到一位小数,得12。
1。
3.2.2 拟舍弃数字的最左一位数字大于5;则进一,即保留数字的末位数字加1。
例:将1268修约到“百”数位,得13×102(特定时可写为1300)。
有效数字 数值修约及运算法则
原子吸收分光光度法(P70)
供试品要求制备2份样品溶液,各测定3次, 测定的相对标准偏差(RSD)应不大于3%
石墨炉法可适当放宽
谢谢大家!
注意事项
4. 在判定药品质量是否符合规定 之前,应将全部数据根据有效数 字和数值修约规则进行运算,将 计算结果修约到标准中所规定的 有效位数,而后进行判定。
注意事项
例如: 异戊巴比妥钠的干燥失重,规定不得过4.0%,今
取样1.0042g,干燥后减失重量0.0408 g,请判 定是否符合规定? 本例为3个数值相乘除,其中0.0408的有效位数最 少,为三位有效数字,以此为准(在运算过程中暂 时多保留一位)。 0.0408÷1.004×100.0 % = 4.064% 因药典规定的限度为不得过4.0%,故将计算结果 4.064%修约到千分位为4.1%,大于4.0%,应判 为不符合规定(不得大于4.0%)。
注意事项
将上述规定的限度改为“不得大于4%”, 而其原始数据不变,则
0.0408÷1.004×100.0 % =
4.064%
4%
未超过4%的限度,应判为符合规定(不 得大于 4%)。
在实验中要求:
1. 正确地记录分析数据 2. 正确地选取用量和选用适当的分析仪器 3. 正确地表示分析结果 定量分析(滴定和重量分析)一般要求四位有
数值修约及其进舍规则
数值修约 是指对拟修约数值中超出需要保留位数时的
舍弃,根据舍弃学来保留最后一位数或最后 几位数。
数值修约及其进舍规则
进舍规则口诀:
四舍六入五考虑,五后非零则进一, 五后全零看五前,五前偶舍奇进一, 不论数字多少位,都要一次修约成。
注意:按英、美、日药典方法 修约时,按四舍五入
有效数字、数值修约及运算法则管理规程
有效数字、数值修约及运算法则规程目的:建立有效数字和数值的修约及其运算管理规程,保证检验结果的准确性。
适用范围:适用于各种测量或计算而得的数值。
责任人:质量管理部主任、检验员内容:1 有效数字的基本概念1.1 有效数字系指在检验工作中所能得到有实际意义的数值。
其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
最后一位数字的欠准程度通常只能是上下差1单位。
1.2 有效数字的定位是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何位数,用10n来表示:n可以是正整数,也可以是负数。
1.3 有效位数1.3.1 在没有小数位且若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效位数,应写作3.50×104;若有三个无效零,则为两位有效位数,应写作3.5×104。
1.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数,0.0320 为三位有效位数、10.00为四位有效数,12.490为五位有效位数。
1.3.3 非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位;常数π、e和系数21/2等数值的有效位数也可视为是无限多位。
例如分子式“H2S04”中的“2”和“4”是个数,含量测定项下“每1ml的××××滴定液(0.1mol/L)”中的“1”为个数,“0.1”为名义浓度,其有效位数均为无限多位;规格项下的“0.3g”或“1ml :25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。
即在计算中,其有效位数应根据其他数值的最少有效位数而定。
有效数字修约
有效数字修约
有效数字修约是指将一个数值修约为精确到特定位数的有效数字的过程。
有效数字是指一个数值中所有的数字,包括整数部分和小数部分的数字。
修约的规则根据数值的大小和精确度的要求有所不同,下面是常见的有效数字修约规则:
1. 四舍五入:当修约位数后的数字大于等于5时,将修约位的数字加1,然后舍去后面的所有数字。
例如,将
3.1456修约为两位有效数字时,结果为3.15。
2. 值的运算规则:在进行数值运算时,使用完整的数值进行计算,然后将结果修约为所需的有效数字。
例如,将
3.1456和2.789进行相加,然后修约为两位有效数字,结果为5.9。
3. 尾数的修约规则:当修约位后的数字大于5时,采取四舍六入五取偶的规则。
如果修约位后的数字等于5且其后还有非零数字,则向上舍入;如果修约位后的数字等于5且其后没有非零数字,如果修约位为奇数,则向上舍入;如果修约位为偶数,则向下舍入。
4. 科学记数法:对于很大或很小的数值,常用科学记数法表示。
在科学记数法中,有效数字的位数通常指的是有效数字的个数。
例如,1.23 × 10^4表示有效数字为三位。
总而言之,有效数字修约是根据数值的大小和精确度的要求,对数值进行舍入或触发特定规则进行修约的过程,以保持数值的合理精确度。
数值修约与运算规则
原数值可为:16.501 “-”则是小于16.50 比 如16.499。
(三)其他规定
2)如果修约后的数字为5“+”者进一“-”者舍 去
原数值
修约
再修
15.4546
15.5-
15
-15.4546
-15.5-
-15
16.5203
1.050修约间隔为“0.1”。10×10-1(或1.0)有效数字为2 位。 0.35修约间隔为“0.1”。 4×10-1(或0.4)有效数字为1位。 2500修约间隔“1000”。 2×103(2000)有效数字1、4位。 3500修约间隔“1000”。 4×103(4000)有效数字1、4位。
(二)修约规则
1268修约到“ 100 ”位. 13×102也意味着有效数字为 2 位。 1300意味着有效数字为 4 位。
(二)修约规则
3)拟舍弃数字的最左一位数字是5,且 其后有非零数字也进一,保留数字 的末位数字加1.
10.5002.修约到“1”. 得 11
(二)修约规则
4)拟舍弃数字的最后一位数字是5,且其后 无数字或为0时,若所保留的数字为奇数(1、 3、5、7、9),则进一。即保留数字的末位 数字加1.若保留的末位数字为偶数(0、2、4、 6、8)则舍去。
(五)有效数字的运算
1.1x0.3268x0.10300 1.1有效位数最小,进行修约
1.1x0.323x0.103=0.0370 修约 0.037 如需参加下一步运算则取:0.0370
二、极限数值的表示和判定
GB/T 8170-2008 中的第4款规定。
谢谢观看! 2020
有效数字和数值的修约
有效数字和数值的修约一、目的阐述如何把数字修约至适当的有效位数从而得出合理的报告结果.二、定义1、有效数字在检验工作中所能得到的有实际意义的数值,其最后一位数字牵住你是允许的,这种由可靠数字和最后一位估计值组成的数值,即为有效数字。
2、有效数位从左边第一个非零数字算起,所有的有效数字的个数。
3、数字修约对拟修约数值中超出需要保留位数时的舍弃,根据保留位数来保留最后一位或最后几位数。
4、测量的估计值在测量过程中介于测量/称量器具最小分度值之间的数值为估计值。
5、报告阈值为一限度,高于此限度的杂质需要报告6、忽略限为一限度,在色谱检测中,等于或小于此数值的峰/信号不被计入总杂质中。
通常情况下,忽略限与报告阈值是相同的。
7、积分阈值为一限度,在色谱检测中,数据采集系统设置的阈值,至少为报告阈值的一半。
三、读数的规定1、对于有数显的测量/称量器具,直接读取数值并记录。
(天平的使用,直接读取数值)2、对于非数显的测量/称量器具,仪器读数的最后一位是读数误差所在的一位。
最小分度值的末位为1,则其读数记录至下一位的估值;否则,则其读数记录至相同位的估计值。
①最小分度值的末位为1,按1/10估读原则;例如:分度值为0。
1ml的滴定管,读数的最小估计值为0。
01ml.可以读为0.15ml.②最小分度值的末位为2,按1/2估读原则;例如:分度值为0。
2的称读数的最小估值为0.1kg.可以读为0.3kg、0。
4kg、不能读0。
35kg。
③最小分度值末位为5,按1/5估读原则。
例如:机械称最小分度值为5g,游码刻度值在5g-10g 之间,可以读为6g、7g、8g,不能读5。
5g。
④最小分度值为50,按1/5估读原则。
最小分度值为200,按1/2估读原则。
四、修约规定1、四舍五入原则。
例如:将下列数字修约为四位有效数字,结果为0。
53664---———0。
536612.7450——---—12。
752、拟修约数字应在确定修约位数后一次修约获得结果,不允许多次按规则修约.例如:将下列数字保留为两位有效数字17。
有效数字、数值修约与运算法则管理规程
1、目的建立一个有效数字、数值修约及运算法则管理规程,用于规范检验计算过程中数值修约。
2、适用范围适用于公司质量检验计算过程中的有效数字、数值修约及运算法则的管理。
3、职责3.1检验员在数值计算过程中按本程序对数值进行修约。
3.2记录复核人负责按此文件要求进行数据的复核。
4、工作程序4.1有效数字的基本概念4.1.1有效数字系指在检验工作中所能得到有实际意义的数值。
其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
4.2 数值修约及其进舍规则4.2.1数值修约:是指对拟修约数值中超过需要位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
4.2.2 进舍规则:四舍六入五成双4.2.2.1拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
4.2.2.2拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一。
即保留的末位数字加 1。
4.3运行规则:在进行数学运算时,对加减法和乘除法中有效数字的处理是不同的;4.3.1许多数值相加减时,所得和或差的绝对误差较任何一个数值的绝对误差大,因此相加减时应以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算过程中保留的位数和决定计算结果的有效位数。
4.3.2 在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。
4.4 注意事项4.4.1正确记录检测所得的数值。
应根据取样量、量具的精度、检测方法的允许误差和标准中的限度规定,确定数字的有效位数,检测值必须与测量的准确度相符合,记录全部准确到数字和一位欠准数字。
4.4.2正确掌握和运用规则。
不论是何种办法进行计算,都必须执行进舍规则和运算规则,如用计算器进行计算,也应将计算结果经修约后再记录下来。
4.4.3要根据取样的要求,选择相应的量具。
4.4.4 在判定质量是否符合规定之前,应将全部数据根据有效数字和数值修约规则进行运算,并将计算结果修约到标准中所规定的有效位数,而后进行判定。
数值修约规则与极限数值的表示和判定
数值修约规则与极限数值的表示和判定1、目的为确保检测结果准确可靠,本指导书提供检测结果出具的一些细节,重点描述了检测结果的数值的修约表述方式和表述方式。
2、依据GB/T8170-2008《数值修约规则与极限数值的表示和判定》、GB/T5009.1-2003《食品卫生检验方法理化部分总则》、CNAS-GL27-2009《声明检测或校准结果及与规范符合性的指南》。
3、范围本指导书适用于原始记录、检测报告的出具。
4、定义4.1 数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
4.2 修约间隔修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
4.3 极限数值标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
5、作业规程5.1 数值修约规则5.1.1 确定修约间隔(指定数位)指定修约间隔为10-n(n为正整数),或指明将数值修约到n 位小数。
指定修约间隔为1,或指明将数值修约到“个”数位。
指定修约间隔为10n(n为正整数).或指明将数值修约到10n数位,或指明将数值修约到‘十”、“百”“千”…………数位。
5.1.2 进舍规则拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1:将12.1498修约到一位小数,得12.1;将12.1498修约到个数位,得12。
拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。
例1:将1268修约到“百”数位,得13×102(特定场合可写成为1300)。
例2:将10.502修约到个数位,得11。
注:示例中“特定场合”系指修约间隔明确时。
数字运算、修约、极限数值表示方法讲义
数字运算、修约、极限数值表示方法讲义数字运算、修约、极限数值判定与表示方法一、数字运算二、数值修约规则三、极限数值的表示方法和判定方法一、数字运算在检验过程中,对检验所得的数据如何进行计算、整理,如何按照技术标准要求作出判定,是检验人员必须掌握的基础知识。
1、有效位数在检验过程中,记录数据和计算结果究竟应该保留几位数字?有的检验人员认为记录和计算保留的位数越多越准确,其实不然。
由于检验方法、仪器设备和人们感官分析能力的限制,测量中只能读取一定位数的数字。
读取位数过多,不但不能提高检验结果的准确度,反而使计算工作量大大增加,而且还常常容易出错;读取位数过少,则表达不出测量的准确度。
为了确切表达测量结果的位数,我们给出有效位数的概念。
若截取得到的近似数,其绝对误差是末位上的半个单位,那么这个近似数,从第一个不是零的数字起到这个数位止,所有数字均称为有效数字。
一个进似数有n个有效数字,也叫这个进似数有n个有效位数。
如 3.1416、2.1173、180.00,均为五位有效数;而0.00274、274、27.4,均为三位有效数。
在判断有效数字时,要特别注意0这个数字,它可以是有效数字,也可以不是有效数字,例如:0.00274,前面三个0都不是有效数字,而180.00,后面三个0却都是有效数字。
因为前者与测量的精确度无关,而后者却有关。
为了说明这个问题,我们不妨各都去掉两个0,即0.00274=0.274×10-2表示其真值为:(0.2735~0.2745)×10-2其绝对误差为:0.0005×10-2=0.000005而0.00274的绝对误差也是0.000005,故去掉前面两个0后,其绝对误差不变;而对于180.00,若去掉后面两个0,成为:180.00=180则其真值所在区间为:(180.5 ~179.5)其绝对误差为0.5;但对于180.00来说,其真值所在区间应为:(180.005 ~179.995)其绝对误差为0.005,显然,由于去掉右边两个0,而使绝对误差由0.005变成了0.5,这样就不对了。
有效数字和数值的修约及其运算规定
有限公司管理标准类文件目的:规范各种测量或计算所得的数值进行修约、运算,确保计算结果的准确。
适用范围:本公司各种测量或计算。
责任人:中心化验室全体人员、制造部与工程部的全体管理人员、生产员工。
内容:1.本规定系根据中国药典2005年版“凡例”和国家标准GB8170《数值修约规程》制订,适用于药检工作中除生物检定统计法以外的各种测量或计算所得的数值的修约。
2.有效数字的基本概念2.1有效数字系指在药检工作中所能得到的有实际意义的数值。
其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
最后一位数字的欠准程度通常只能是上下差一个单位。
2.2有效数字的定位(数位),是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位数字,用10n来表示:n可以是正整数,如n=1、101=10,n=2、102=100,……;n也可以是负数,如n=-1、10-1=0.1,n=-2、10-2=0.01,……。
2.3有效位数2.3.1在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效数字,应写作350×102;若为三个无效零,则为两位有效位数,应写作35×103。
2.3.2在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032、和0.0032均为两位有效位数,0.0320 为三位有效位数,10.00为四位有效位数,12.490为五位有效位数。
2.3.3非连续型数值(如个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位;常数π、e和系数2等数值的有效位数也可视为是无限多位。
例如分子式H2SO4中的“2”和“4”是个数,含量测定项下“每1ml的××××滴定液(0.1mol/L)中的“1”为个数,“0.1”为名义浓度,其有效位数均为无限多位;规格项下的“0.3g”或“1ml”“25mg”中的“0.3”、“1”和“25”的有效位数也均为无限多位。
有效数字和数值的修约及其运算规程
目的:建立一个检验测试中除生物检定统计法以外的各种测量或计算而得的数值进行有效数字的修约及其运算规则。
范围:所检验的原辅料、成品和中间产品的检验数值。
职责:质量管理部经理、检验科主管、检验人员、车间主任。
规程:1有效数字1.1有效数字的定位(数位)是指确定欠准数字的位置。
当这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何数位,用10 来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……;n也可以是负数,如n=-1、10-1=0.1(十分位),n=-2、10-2=0.01(百分位),……1.2有效位数1.2.1在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×103。
1.2.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数、10.00为四位有效位数,12.490为五位有效位数。
1.2.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。
常数π、e和系数2等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的ΧΧΧ滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”、和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
1.2.4pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
如pH=11.26([H+]=5.5×10-12mol/L),其有效位数只有两位1.2.5 有效数字的首位数字为8或9时,其有效位数可以多计一位。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
基本定义
一、数值修约:通过省略原数值的最后若干位数字, 调整所保留的末位数字,使最后所得到的值最接 近原数值的过程。 经数值修约后的数值称为(原数值的)修约值。 二、修约间隔:指修约值的最小数值单位。 修约间隔的数值一经确定,修约值即为该数值 的整数倍 。 例1:如指定修约间隔为0.1,修约值应在0.1的整数 倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值应在100的整 数倍中选取,相当于将数值修约到“百”数位。
• 口诀:四舍六入五考虑,五后非零
则进一,五后全零看五前,五前偶 舍奇进一,不论数字多少位,都要 一次修约成。
习题
12.1498修约到一位小数
→12.1 12.1498修约成两位有效位数 →12 将1268修约到百数位 →13×102
习题
将1268修约到三位有效位数 → 127×10
将10.502修约到个数位 → 11 1.050修约间隔为0.1(或10-1) →1.0
• 确定修约间隔
一、指定修约间隔为10-n(n为正整数),或指明将数 值修约到n位小数。 二、指定修约间隔为1,或指明将数值修约到“个” 数位。 三、指定修约间隔为10n (n为正整数),或指明将数 值修约到10n数位,或指明将数值修约到‘十”、 “百”、“千”……数位。 四、在相对标准偏差(RSD)的求算中,其有效数位 应为其1/3值的首位(非零数字),故通常为百分 位或千分位。
进舍规则 1、拟舍弃数字的最左一位数字小于5,则舍去,保 留其余各位数字不变。 2、拟舍弃数字的最左一位数字大于5,则进一,即 保留数字的末位数字加1。 3、拟舍弃数字的最左一位数字是5,且其后有非0数 字时进一,即保留数字的末位数字加1。 4、拟舍弃数字的最左一位数字为5,且其后无数字 或皆为0时,若所保留的末位数字为奇数(1,3, 5,7,9)则进一,即保留数字的末位数字加1; 若所保留的末位数字为偶数(0,2,4,6,8), 则舍去。
习题
按照修约间隔为1000(或103) 2500 →2×103
3500
→4×103
习题
修约成两位有效位数
0.0325 →0.032 32500
→32×103
• RSD修约 只进不舍(只要后面有任何数值
都往前进1位,除了0) 0.163% 修约成2位有效数位 →0.17% 0.52% 修约成十分位
• 报出数值最右的非零数字为5时,应在数值
右上角加“+”或加“-”或不加符号, 分别表明已进行过舍,进或未舍未进。 如:16.50+表示实际值大于16.50,经修约 舍弃为16.50;16.50-表示实际值小于 16.50,经修约进一为16.50。
• 有效数位判断、数值结果修约、
运算及判定 • 当标准提出“…称…g”时,应选用 什么精度的天平,称样量是否符合 规定(称量范围)
• 有效位数的判断 • 数值修约规则 • 运算规则 • 极限数值的判定 • 注意事项
• 有效数字系指在检验工作中所能得到有实际意义的
基本概念
•
数值。其最后一位数字欠准是允许的,这种由可靠 数字和最后一位不确定数字组成的数值,即为有效 数字。最后一位数字的欠准程度通常只能是上下差1 单位。 有效数字的定位(数位),是指确定欠准数字的位 置。这个位置确定后,其后面的数字均为无效数字。 欠准数字的位置可以是十进位的任何数位,用10n来 表示:n可以是正整数,如n=1、101=10(十数位), n=2、102=100(百数位),……;n也可以是负数, 如n=-1、10-1=0.1(十分位),n=-2、 10-2=0.01(百分位),……。
•有效位数可视为无限多位的几种情况:
一、非连续型数值(如个数、分数、倍数)是没有欠 准数字的,其有效位数可视为无限多位。例如分子 式“H2SO4”中的“2”和“4”是个数。 二、常数π ,e和系数√2等数值。 三、含量测定项下“每lml的×××××滴定液 (0.1mol/L)” 中的“0.1”为名义浓度。 四、规格项下的“0.3g”或“1ml︰25mg”中的 “0.3”、“1”和“25”为标示量,其有效位数也 均为无限多位。 在计算中,其有效位数应根据其他数值的最少 有效位数而定。
基本概念
• 在没有小数位且以若干个零结尾的数值中,有效位数系指从
非零数字最左一位向右数得到的位数减去无效零(即仅为定 位用的零)的个数。 例:35000中若有两个无效零,则为三位有效位数,应写作 350×102或3.50×104;若有三个无效零,则为两位有效位数, 应写作35×103或3.5×104 。 • 在其它十进位数中,有效数字系指从非零数字最左一位向右 数而得到的位数。 例:3.2、0.32、0.032和0.0032均为两位有效位数 0.320为三位有效位数 10.00为四位有效位数 12.490为五位有效位数
→0.6%
• 不允许连续修约 拟修约数字应在确定修约间隔
或指定修约数位后一次修约获得结果,而不得多 次连续修约。 例1:修约97.46,修约间隔为l 正确的做法:97.46→97 不正确的做法:97.46→97.5→98 例2:修约15.4546,修约间隔为l 正确的做法:15.4546→15 不正确的做法: 15.4546→15.455→15.46→15.5→16
有效数字和数值的修约运算 及极限数值判定
部门:质量管理部 姓名: 刘贵平 日期: 2016.02
习题
• 请判断有效数位
①35×103 ②盐酸氨溴索口服溶液规格100毫升︰0.6克 ③称定12g,应选用精度为多少的天平,称量 范围多少? ④RSD=1.42%,规定应<2.0%,修约完是多少?
解决两问题
• pH值等对数值,其有效位数是由其小数点
后的位数决定的,其整数部分只表明其真 数的乘方次数。pH= -lg[浓度值] pH= 11.26([H+]位。
• 有效数字的首位数字为8或9时,其有
效位数可以多计一位。 例:85% 三位有效位数 115% 三位有效位数 99.0% 四位有效数字 101.0% 四位有效数字