有效数字及有效数字计算修约基础知识
有效数字修约规则
有效数字修约规则一、有效数字的定义定义1:有效数字是指从左边第一个非零的数起,到精确到的数位止所有的数字。
定义2:测量结果中所有可靠数字和一位存疑数字统称为有效数字,即“有效数字=测量结果中全部可靠数字+1位存疑数字”。
定义3:多位准确数字+末位存疑数字即,有效数字是用来表示直接测量或间接测量结果的一组具有特殊功能的数字,它由数位可靠的准确数字和末位具有误差的所谓存疑数字组成。
二、有效数字的修约规则在处理数据过程中涉及到的各测量值的有效数字位数可能不同,因此需要按下面所述的计算规则,确定各测量值的有效数字位数。
各测量值的有效数字位数确定之后,就要将它后面多余的数字舍弃。
舍弃多余数字的过程称为“数字修约”,它所遵循的规则称为“数字修约规则”。
在过去,人们习惯采用“四舍五入”数字修约规则,现在则通行“四舍六入五成双”规则。
四舍五入规则的最大缺点是见五就进,它必然会使修约后的测量值系统偏高。
而采用“四舍六入五成双”规则,逢五时有舍有入,则由五的舍入所引起的误差本身可自相抵消。
★“四舍六入五成双”规则规定,拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1:将12.1498修约到一位小数,得12.1。
例2:将12.1498修约成两位有效位数,得12。
★拟舍弃数字的最左一位数字等于或大于6时,则进位;例1:7.397 →7.4例2:0.736 →0.74★拟舍弃数字的最左一位数字是5,而其后跟有并非全部为0的数字时,由于这些数字均系测量所得,故可以看出,该数字总是比5大,在这种情况下,该数字以进位为宜。
即保留的末位数字加1。
根据这一规则,将下列测量值修约为两位有效数字时,结果应为:例1: 2.451→2.5 例2:83.5009→84★拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
例1:拟修约数值修约值1.050 1.00.3500.4例2:0.736 →0.74例3:75.5 →76。
有效数字修约及运算
目的●正确地进行有效数字判定、修约及运算●规范取样规则依据●药典“凡例”●国家标准《数值修约规程》●《中国药品检定标准操作规范》●适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
主要内容1、有效数位的判断1.1有效数字的基本概念有效数字系指在药检工作中所能得到有实际意义的数值。
是由可靠数字和最后一位不确定数字组成的。
最后一位数字的欠准程度通常只能是上下差1单位。
1.2有效数位的判断1.2.1从非零数字最左一位向右数得到的位数减去无效零。
例:350×102 保留三位有效数,两个无效零。
35×103 保留二位有效数,三个无效零。
1.2.2从非零数字最左一位向右数而得到的位数。
例: 3.2 两位有效数字0.032 两位有效数字0.0320 三位有效数字1.2.3有效位数可视为无限多位的1.2.3.1 非连续型数值(如个数、分数、倍数)1.2.3.2 常数π,e和系数√21.2.3.3 (0.1 mol/L)滴定液的名义值1.2.3.4 规格、标示量1.2.4 pH值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
例:pH=11.26([H+]=5.5×10-12 mol/L),其有效位数只有两位。
1.2.5有效数字的首位数字为8或9时,其有效位数可以多计一位。
例:85% 三位有效位数115% 三位有效位数99.0% 四位有效数字101.0% 四位有效数字。
2、数值的修约及取舍规则进舍规则:四舍六入五考虑。
五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。
RSD修约:只进不舍例:0.163% 修约成2位有效数位→0.17%不许连续修约:拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。
例:修约15.4546,修约间隔为 1正确的做法为:15.4546—15;不正确的做法为:15.4546→15.455→15.46→15.5→16修约间隔为0.5(熔点值修约)50.8、50.9 修约值为5150.1、50.2 修约为50。
检测基础知识-误差-有效数字-修约-计数规则-离群检验等
检测实验室检测技术人员培训-第一部分基础知识有效数字和数值计算可疑数据的取舍主要内容010203检测培训-第一部分基础知识04检测结果的统计检验主要内容本次培训参考资料3、《环境监测质量管理技术导则》HJ620-20112、《环境水质监测质量保证手册》化学工业出版社,中国环境监测总站编写1、《化验员读本》化学工业出版社,刘珍主编4、《数值修约规则与极限数值的表示和判定》GB/T81705、《数据的统计处理和解释 正态样本离群值的判断和处理》GB/T48836、《环境监测 分析方法标准制修订技术导则》HJ 16801误差和名词解释Overview主要内容真值(真实值)和误差真值(真实值)物质中各组分的实际含量为真实值,它是客观存在的,但不可能完全准确的测量。
误差系统误差随机误差过失误差又称可测误差或恒定误差,是由测量过程中的恒定因素造成的,有重复性表现,增加测量次数不能减少系统误差。
方法误差仪器误差试剂误差恒定的个人误差恒定的环境误差进行仪器校准进行空白试验进行对照分析(标准样品和分析方法)进行回收试验又称偶然误差或不可测误差,是由测量过程中各种随机因素共同作用造成的。
又称粗差。
这类错误明显的歪曲测量结果,是由测量过程中犯了不应有的错误造成。
无规律由能够影响测量结果的许多不可控制或未加控制的因素的微小波动引起,如环境温度的波动随机误差遵从正太分布,可用增加测量次数的办法减小随机误差。
始于粗心不认真:如器皿不清洁、加错试剂、错用样品、计数错误、记录错误、计分析人员必须养成专心、认真、细致的良好习惯,不断提高理论和操作技术水平。
含有过失误差的测量数据经常表现为离群数据,主要内容绝对误差绝对偏差相对偏差是测量值(单一测量值或多次测量平均值)与真值之差,当测量结果大于真值时,误差为正,反之为负。
绝对误差=测量值-真值相对误差是绝对误差与真值之比(常以百分数表示,有正负)相对误差=绝对误差÷真值某一测量值x i 与多次测量均值x 之差,以d i表示。
有效数字修约及运算
有效数字修约及运算目的●正确地进行有效数字判定、修约及运算●规范取样规则依据●药典“凡例”●国家标准《数值修约规程》●《中国药品检定标准操作规范》●适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
主要内容1、有效数位的判断1.1有效数字的基本概念有效数字系指在药检工作中所能得到有实际意义的数值。
是由可靠数字和最后一位不确定数字组成的。
最后一位数字的欠准程度通常只能是上下差1单位。
1.2有效数位的判断1.2.1从非零数字最左一位向右数得到的位数减去无效零。
例:350×102 保留三位有效数,两个无效零。
35×103 保留二位有效数,三个无效零。
1.2.2从非零数字最左一位向右数而得到的位数。
例: 3.2 两位有效数字0.032 两位有效数字0.0320 三位有效数字1.2.3有效位数可视为无限多位的1.2.3.1 非连续型数值(如个数、分数、倍数)1.2.3.2 常数π,e和系数√21.2.3.3 (0.1 mol/L)滴定液的名义值1.2.3.4 规格、标示量1.2.4 pH值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
例:pH=11.26([H+]=5.5×10-12 mol/L),其有效位数只有两位。
1.2.5有效数字的首位数字为8或9时,其有效位数可以多计一位。
例:85% 三位有效位数115% 三位有效位数99.0% 四位有效数字101.0% 四位有效数字。
2、数值的修约及取舍规则进舍规则:四舍六入五考虑。
五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。
RSD修约:只进不舍例:0.163% 修约成2位有效数位→0.17%不许连续修约:拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。
例:修约15.4546,修约间隔为 1正确的做法为:15.4546—15;不正确的做法为:15.4546→15.455→15.46→15.5→16修约间隔为0.5(熔点值修约)50.8、50.9 修约值为5150.1、50.2 修约为50。
有效数字及有效数字计算修约基础知识
有效数字及有效数字计算、修约基础知识一、有效数字1、末的概念末:指任何一个数最末一位数字所对应的单位量值。
例:用分度值为0.1mm的卡尺测量物体的长度,结果为19.8mm,最末一位的量值0.8mm,即为最末一位数8与所对应的单位量0.1mm的乘积,故19.8mm的末为0.1mm。
2、有效数字的界定1~9都为有效数字,数字之间的0、末尾的0也为。
二、近似数计算1、“+-”以小数位数最少为准,修约比该数多一位,计算后修约以小数点最少数的位数为准。
如:18.3+1.4545+0.876≈18.3+1.45+0.88=20.63≈20.62、“×÷”各数修约到有效数字最少多一位,最后结果以有效数字最少的那个为准。
如:3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈9433、乘方、开方,参加运算有几位有效数字,结果就得保留几位数字。
81=9.000 9.002=81.0.00如几级运算,乘方开方多保留一位。
0.81+4.359=9.000=4.3594、混合运算:不管如何运算,结果必须以位数最少为准。
三、修约规则1、舍去数第一位小于5则舍,大于5则进。
4.254→4.25 38.735→392、舍去数第一位为5,5后并非全为0则进。
9.55033→9.63、舍去数第一位为5,5后无数或全为0,奇进偶舍。
0.0415→0.042 0.0425→0.0424、注意不得连续修约。
如:37.4546→37.455→37.46→37.5→385、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定,即k×10n(k=1、2、5,n为正、负整数)另外,0.5、0.2修给采用分别乘以2与5,修约后再除以2与5来修约。
如:以0.5修约60.2560.25×2得120.5修约为120,再除以2得60.0练习题:一、说出下列数值有几位有效数字?1、60.0002、0.60003、0.06004、6.001×107二、近似数计算:1、19.3+1.5837+0.9762、3.780×47.5×6.57453、00025.三、数值修约:1、5.256、5.254、5.255、5.265保留三位有效数字?2、60.25以0.2修约。
有效数字的修约和计算
1 有效数字的定义有效数字是指实际上能测量到的数值,在该数值中只有最后一位是可疑数字,其余的均为可靠数字。
它的实际意义在于有效数字能反映出测量时的准确程度。
例如:用最小刻度为0.1cm的直尺量出某物体的长度为11.23 cm。
显然这个数值的前3位数是准确的,而最后一位数字就不是那么可靠,因为它是测试者估计出来的,这个物体的长度可能是11.24cm,亦可能是11.22cm,测量的结果有±0.01cm的误差。
我们把这个数值的前面3位可靠数字和最后一位可疑数字称为有效数字。
在确定有效数字位数时,特别需要指出的是数字“0”来表示实际测量结果时,它便是有效数字。
例如:分析天平称得的物体质量为7.1560g滴定时滴定管读数为20.05mL这两个数值中的“0”都是有效数字在0.006g中的“0”只起到定位作用,不是有效数字有效位数及数据中的“0 ”:1.0005,五位有效数字0.5000,31.05% 四位有效数字0.0540, 1.86 三位有效数字0.0054,0.40% 两位有效数字0.5,0.002% 一位有效数字2 有效数字的计算规则2.1 有效数字的修约规则在运算时,按一定的规则舍入多余的尾数,称为数字的修约。
2.1.1 四舍六入五六双。
即测量数值中被修订的那个数,若小于等于4,则舍弃;若大于等于6,则进一;若等于5(5后无数或5后为0),5前面为偶数则舍弃,5前面为奇数则进一,当5后面还有不为0的任何数时,无论5前面是偶数还是奇数一律进一。
例如,将下列测量值修约为四位数:3.142 45 3.1423.215 60 3.2165.623 50 5.6245.624 50 5.6243.384 51 3.3853.384 5 3.3842.1.2 修约数字时,对原测量值要一次修约到所需位数,不能分次修约。
例如,将3.314 9 修约成三位数,不能先修约成3.315,再修约成3.32;只能一次修约为3.31。
有效数字修约规则
有效数字及计算规则有效数字是指能够代表一定的物理量的数字,即所有实际能测得的确定数字再加上一位不定数字。
例如分析天平测得某物重量0.5020g,其中小数点后前三位是准确数字,第四位是估读的,为不定数字。
小数点前的0不是有效数字,只起到定位作用,而小数点后的两个0都是有效数字。
有效位数:对没有小数位且以若干个零结尾的数值,从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数,对其他十进位数,从非零数字最左一位向右数而得到的位数,就是有效位数。
例1:35000,若有两个无效零,则为三位有效位数,应写为350×102;若有三个无效零,则为两位有效位数,应写为35×103。
例2:3.2 , 0.32 , 0.032 , 0.0032均为两位有效位数;0.0320为三位有效位数。
有效数字的修约规则:1.记录测量数据只应保留一位不定数字。
如滴定管可以准确读至小数点后第一位数字,而第二位就是估读值,因此只能保留至第二位小数。
2.“四舍六入五单双”法则(1)所拟舍去的数字中,最左边第一个数字小于5时舍去,大于5时则进一。
例如:只保留一位小数时,14.2423修约为14.2 ,6.4843修约为6.5。
(2)所拟舍去的数字中,最左边第一个数字等于5而其后面数字不全为0时,则进一;全为0时,保留的数字末位如果为奇数则进一,如为偶数则不进(0以偶数论)。
例如:只保留一位小数时,10.0501修约为10.1;10.05修约为10.0;10.15修约为10.2;10.25修约为10.2。
(3)所摄取的数字并非单独一个数字时,不得对该数字连续修约。
例如45.45修65约为整数应为45 ,而不是45.4565—45.456—45.46—45.5—46 。
一文弄懂有效数字与有效数字计算规则
一文弄懂有效数字与有效数字计算规则文章依据GB/T8170-2008《数值修约规则与极限数值的表示和判定》标准,对有效数字的概念、有效数字与仪器准确度关系、数值修约、有效数字表示方法和有效数字数学运算规则做深入阐述。
有效数字是指在实验测量及分析运算工作中能够测量和得到的数字,测量时,把通过直读获得的准确数字叫做可靠数字,把通过估读得到的那部分数字叫做存疑(不可靠、不确定、不准)数字,把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字,有效数字是为了体现测量值和计算结果实际达到的准确度。
在记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。
如果参加计算的数据的位数取少了,就会因测量的精度不准而影响计算结果的应有精度;如果位数取多了,易使人误认为测量精度很高,且增加了不必要的计算工作量。
1、准确测量有效数字保留的位数,应根据分析方法与仪器的准确度来决定,一般使测得的数值中只有最后一位是可疑的。
例如在用精确度为0.0002g的分析天平称取试样0.5000g,这不仅表明试样的质量0.5000g,还表明称量的误差在±0.0002g以内。
如将其质量记录成0.50g,则表明该试样是在台秤上称量的,共称量误差为0.02g,故记录数据的位数不能任意增加或减少。
又如在分析天平上,测得秤量瓶的质量为10.4320g,这个记录说明有6位有效数字,最后一位是可疑的。
即称量瓶的实际质量应为10.4320±0.0002g。
无论计量仪器如何精密,其最后一位数总是估计出来的,因此所谓有效数字就是保留末一位不准确数字,其余数字均为准确数字。
同时从上面的例子也可以看出有效数字是和仪器的准确程度有关,即有效数字不仅表明数量的大小而且也反映测量的准确度。
对于滴定管、移液管和吸量管,它们都能准确测量溶液体积到0.01mL、所以当用50mL滴定管测定溶液体积时,如测量体积大于10mL小于50mL时,应记录为4位有效数字,例如写成24.22mL;如测定体积小于10mL,应记录3位有效数字,例如写成8.13mL、当用25mL移液管移取溶液时,应记录为25.00mL;当用5mL吸量管取溶液时,应记录为5.00mL;当用250mL容量瓶配制溶液时,所配溶液体积应即为250.0mL;当用50mL容量瓶配制溶液时,应记录为50.00mL。
有效数字修约和计算
练习: ➢ 0.23452、0.28350、0.55278、0.45500001、0.01500
两位有效数字:0.23、0.28、0.55、0.46、0.15 三位有效数字:0.235、0.284、0.553、0.455、0.0150
(3)只进不舍规则 在相对标准偏差(RSD)中采取“只进不舍”的规则,如0.162%,0.52%修约时
解析:
计算公式应为乘除运算,其中0.0408的有效数字位数最少,为三位有效数字, 以此为准进行进算(在运算过程中暂时多保留一位)。
0.0408÷1.004×100.0%=4.064%
因标准规定的限度为不得过4.0%,故将计算结果4.064%修约为4.1%,大于 4.0%,应判为不符合规定。(切忌不能以最后标准的有效位数为准则进行运算,运 算是应先按照运算规则修约计算后将计算结果修约到标准中所规定的有效位数,而 后进行判定。)
最后对计算结果进行修约,应只保留至百分位,故: 13.65 + 0.00823 + 1.633 = 13.65 + 0.008 + 1.633 = 15.291,修约为15.29
二、有效数字的运算法则
2、乘除法 许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大,因
此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其他数值 在运算中保留的位数和决定计算结果的有效位数。
3、有效数字的修约规则
在多数情况下,测量数据本身并非最后的要求结果,一般需要经一系列运算后才能 获得所需的结果。在计算一组准确度不等(即有效数字位数不同)的数据之前,应先按 照确定了的有效数字将多余的数字修约或整化。 (1)四舍五入法则
如按照英、美、日药典方法修约时,按照四舍五入进舍即可。 (2)四舍六入五成双法则(源自我国科学技术委员会颁布的《数字修约规则》)
有效数字及其运算规则.
二、有效数字的修约规则
1.四舍六入五留双 例:0.37456 , 0.3745 均修约至三位有效数字 0.374 0.375 2.只能对数字进行一次性修约 例:6.549, 2.451 6.5 一次修约至两位有效数字 2.5
3.当对标准偏差修约时,修约后会使标准偏差结果 变差,从而至0.14,可信度↑
第三节
有效数字及其运算规则
一、有效数字 二、有效数字的修约规则 三、有效数字的运算法则
一、有效数字:实际可以测得的数字 1. 有效数字位数包括所有准确数字和一位欠准数字 例:滴定读数20.30mL,最多可以读准三位 第四位欠准(估计读数)±1% 2. 在0~9中,只有0既是有效数字,又是无效数字 例: 0.06050 四位有效数字 定位 有效位数 例:3600 → 3.6×103 两位 → 3.60×103 三 位 3.单位变换不影响有效数字位数 例:10.00[mL]→0.001000[L] 均为四位
三、有效数字的运算法则 1.加减法:以小数点后位数最少的数为准(即以 绝对误差最大的数为准) 例: 50.1 + 1.45 + 0.5812 = ? 52.1 δ ±0.1 ±0.01 ±0.0001
保留三位有效数字
2.乘除法:以有效数字位数最少的数为准(即以 相对误差最大的数为准) 例:0.0121 × 25.64 × 1.05782 = 0.328 ? δ ±0.0001 ±0.01 ±0.00001 RE ±0.8% ±0.4% ±0.009%
保留三位有效数字
续前
4.pH,pM,pK,lgC,lgK等对数值,其有效数字的 位数取决于小数部分(尾数)数字的位数,整数部 分只代表该数的方次 例:pH = 11.20 → [H+]= 6.3×10-12[mol/L] 两 位 5.结果首位为8和9时,有效数字可以多计一位 例:90.0% ,可示为四位有效数字 例:99.87% →99.9% 进位
数字修约规则(有效数字)
数字修约规则之蔡仲巾千创作一、有效数字所谓有效数字,就是实际能测得的数字。
它的末一位为禁绝确数字,其余数字均为准确数字。
有效数字中“0”的意义▪“0”有两种意义:▪1.是作为数字定位,如:在0.312中,小数点前面的“0”是定位用的,它有3位有效数字;在0.012中,“1”前面的2个“0”是定位用的,它有2位有效数字。
▪2.是有效数字,如:在10.1430中,两个“0”都是有效数字,所以它有6位有效数字。
有效数字中“0”的意义▪综上所述,数字之间的“0”和末尾的“0”都是有效数字,而数字前面所以的“0”只起定位作用。
以“0”结尾的正整数,有效数字的位数不确定。
例如4500这个数,就欠好确定几位有效数字。
应根据实际有效数字位数书写来确定:×103 2 位有效数字×103 3 位有效数字×103 4 位有效数字数字修约规则▪为了适应生产和科技工作的需要,我国已经正式公布了GB8170-87《数字修约规则》,通常称为“四舍六入五成双”法则。
即当位数≤4时舍去,尾数≥6时进位,尾数=5时,应视保存的末尾数是奇数还是偶数,5前为偶数时5应舍去,5前为奇数则进位。
数字修约规则这一法则具体应用如下:▪被舍弃的第一位数字大于5,则其前一位加1▪若被舍弃的第一位数字等于5而其后数字全部为零,则按“四舍六入五成双”法则而定进或舍。
▪若被舍弃的第一位数字等于5而其后数字并不是全为零则进1▪若被舍弃的数字包含几位数字时,不得对该数字进行连续修约,而应根据以上各条只做1次处理。
有效数字运算规则▪加减法在加减法运算中,保存有效数字的位数,以小数点后位数最少的为准,即以绝对误差最大的数为准。
有效数字运算规则▪乘除法在乘除法运算中,保存有效数字的位数,以位数最少的数为准,即以相对误差最大的数为准。
有效数字运算规则▪自然数在分析化学运算中,有时会遇到一些倍数或分数的关系。
例如:水的相对分子质量=2×其中“2”不克不及看做1位有效数字。
数字修约规则有效数字
数字修约规则一、有效数字所谓有效数字,就是实际能测得的数字。
它的末一位为不准确数字,其余数字均为准确数字。
有效数字中“0”的意义“0”有两种意义:1.是作为数字定位,如:在0.312中,小数点前面的“0”是定位用的,它有3位有效数字;在0.012中,“1”前面的2个“0”是定位用的,它有2位有效数字。
2.是有效数字,如:在10.1430中,两个“0”都是有效数字,所以它有6位有效数字。
有效数字中“0”的意义综上所述,数字之间的“0”和末尾的“0”都是有效数字,而数字前面所以的“0”只起定位作用。
以“0”结尾的正整数,有效数字的位数不确定。
例如4500这个数,就不好确定几位有效数字。
应根据实际有效数字位数书写来确定:4.5×103 2 位有效数字4.50×103 3 位有效数字4.500×103 4 位有效数字数字修约规则为了适应生产和科技工作的需要,我国已经正式颁布了GB8170-87《数字修约规则》,通常称为“四舍六入五成双”法则。
即当位数≤4时舍去,尾数≥6时进位,尾数=5时,应视保留的末尾数是奇数还是偶数,5前为偶数时5应舍去,5前为奇数则进位。
数字修约规则这一法则具体应用如下:被舍弃的第一位数字大于5,则其前一位加1若被舍弃的第一位数字等于5而其后数字全部为零,则按“四舍六入五成双”法则而定进或舍。
若被舍弃的第一位数字等于5而其后数字并非全为零则进1若被舍弃的数字包括几位数字时,不得对该数字进行连续修约,而应根据以上各条只做1次处理。
有效数字运算规则加减法在加减法运算中,保留有效数字的位数,以小数点后位数最少的为准,即以绝对误差最大的数为准。
有效数字运算规则乘除法在乘除法运算中,保留有效数字的位数,以位数最少的数为准,即以相对误差最大的数为准。
有效数字运算规则自然数在分析化学运算中,有时会遇到一些倍数或分数的关系。
例如:水的相对分子质量=2×1.008+16.00=18.02其中“2”不能看做1位有效数字。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
有效数字及有效数字计算、修约基础知识
一、有效数字
1、末的概念
末:指任何一个数最末一位数字所对应的单位量值。
例:用分度值为0.1mm的卡尺测量物体的长度,结果为19.8mm,最末一位的量值0.8mm,即为最末一位数8与所对应的单位量0.1mm的乘积,故19.8mm的末为0.1mm。
2、有效数字的界定
1~9都为有效数字,数字之间的0、末尾的0也为。
二、近似数计算
1、“+-”以小数位数最少为准,修约比该数多一位,计算后修约以小数点最少数的位数为准。
如:18.3+1.4545+0.876
≈18.3+1.45+0.88=20.63≈20.6
2、“×÷”各数修约到有效数字最少多一位,最后结果以有效数字最少的那个为准。
如:3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈943
3、乘方、开方,参加运算有几位有效数字,结果就得保留几位数字。
81=9.000 9.002=81.0
.
00
如几级运算,乘方开方多保留一位。
0.
81+4.359=9.000=4.359
4、混合运算:
不管如何运算,结果必须以位数最少为准。
三、修约规则
1、舍去数第一位小于5则舍,大于5则进。
4.254→4.25 38.735→39
2、舍去数第一位为5,5后并非全为0则进。
9.55033→9.6
3、舍去数第一位为5,5后无数或全为0,奇进偶舍。
0.0415→0.042 0.0425→0.042
4、注意不得连续修约。
如:37.4546→37.455→37.46→37.5→38
5、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定,即k×10n(k=1、2、5,n为正、负整数)
另外,0.5、0.2修给采用分别乘以2与5,修约后再除以2与5来修约。
如:以0.5修约60.25
60.25×2得120.5修约为120,再除以2得60.0
练习题:
一、说出下列数值有几位有效数字?
1、60.000
2、0.6000
3、0.0600
4、6.001×107
二、近似数计算:
1、19.3+1.5837+0.976
2、3.780×47.5×6.5745
3、000
25
.
三、数值修约:
1、5.256、5.254、5.255、5.265保留三位有效数字?
2、60.25以0.2修约。
3、237.5、236.5、233.6、232.5、242.5、231.5分别以5修约。
4、2350以100修约。