有效数字和数字修约

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字和数值的修约

1.有效数字的基本概念

1.1定义:系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位欠准数字组成的数值,即为有效数字。

最后一位数字的欠准程度通常只能是上下差1个单位

1.2有效数字的定位(位数),是指确定欠准数字的位置。这个位置确定后,其后面的数字均为无效数字。欠准数字的位置可以由十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十位数),n=2、102=100(百位数),······;n可以是负数,如n=-1、10-1=0.1(十分位),n=-2、10-2=0.01(百分位),······。

1.3有效位数

1.3.1在其他十进位数中,有效位数系指从非零数字最左一位向右数得到的位数。例如:

2.6、0.26、0.026、0.0026均为两位有效位数,

0.260为三位有效位数,2.600为四位有效位数。

1.3.2非连续型数值(个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位。例如:H2SO4、π、含量测定项下“每1ml的xx滴定液(0.1mol/l)中,1为位数,0.1为名义浓度,其有效位数为无限位。

1.3.3 pH等对数值,其有效位数是由小数点后的位数决定的,其整数部分只表明其真数的乘方次数。(pH=6.32)

1.3.4有效数字首位数字为8或9时,其有效数字要多计一位。例如:

85%、105%,都是三位有效数字,95.0%、101.0%都是四位有效数字。

2. 数值的修约及进舍规则

2.1 定义:指对拟修约数值中超出需保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。

2.2修约间隔:是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值应为该数值的整数倍。例如:指定修约间隔为0.1,修约值应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。

2.3进舍规则:

2.3.1:四舍六入五成双、五后非零则进一、五后为零看五前、奇进偶不进。15.1500 →15.2

例如:将12.1465修约到一位小数(十分位),得12.1

将12.1465修约到二位小数(百分位),得12.15

将12.1465修约到三位小数(千分位),得12.146

将15.1505修约到二位小数(百分位),得15.15

将15.1525修约到三位小数(千分位),得15.152

将15.1515修约到三位小数(千分位),得15.152

2.3.2.一次修约成,不许连续修约。

例如:修约13.4546,修约间隔为1

正确:13.4546→13

错误:13.4546→13.455→13.46→13.5→14

2.3.3在相对标准偏差(RSD)中,采用只进不退原则

例如:0.12%→0.2% 0.51%→0.6%

注:熔点测定,修约间隔为0.5℃,测定结果0.1~0.2℃舍去、0.3~0.7℃修约为0.5℃,0.8~0.9℃进为1℃。

综上所述,有效数字是测量数据,其有效位数的保留,取决于测量仪器的精密度。

相关文档
最新文档