有效数字修约规则

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字修约规则

一、有效数字的定义

定义1:有效数字是指从左边第一个非零的数起,到精确到的数位止所有的数字。

定义2:测量结果中所有可靠数字和一位存疑数字统称为有效数字,即“有效数字=测量结果中全部可靠数字+1位存疑数字”。

定义3:多位准确数字+末位存疑数字即,有效数字是用来表示直接测量或间接测量结果的一组具有特殊功能的数字,它由数位可靠的准确数字和末位具有误差的所谓存疑数字组成。

二、有效数字的修约规则

在处理数据过程中涉及到的各测量值的有效数字位数可能不同,因此需要按下面所述的计算规则,确定各测量值的有效数字位数。各测量值的有效数字位数确定之后,就要将它后面多余的数字舍弃。舍弃多余数字的过程称为“数字修约”,它所遵循的规则称为“数字修约规则”。在过去,人们习惯采用“四舍五入”数字修约规则,现在则通行“四舍六入五成双”规则。四舍五入规则的最大缺点是见五就进,它必然会使修约后的测量值系统偏高。而采用“四舍六入五成双”规则,逢五时有舍有入,则由五的舍入所引起的误差本身可自相抵消。

★“四舍六入五成双”规则规定,拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

例1:将12.1498修约到一位小数,得12.1。

例2:将12.1498修约成两位有效位数,得12。

★拟舍弃数字的最左一位数字等于或大于6时,则进位;

例1:7.397 →7.4

例2:0.736 →0.74

★拟舍弃数字的最左一位数字是5,而其后跟有并非全部为0的数字时,由于这些数字均系测量所得,故可以看出,该数字总是比5大,在这种情况下,该数字以进位为宜。即保留的末位数字加1。根据这一规则,将下列测量值修约为两位有效数字时,结果应为:

例1: 2.451→2.5 例2:83.5009→84

★拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。

例1:拟修约数值修约值

1.050 1.0

0.3500.4

例2:0.736 →0.74例3:75.5 →76

相关文档
最新文档