有效数字及其运算规则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字及其运算规则

一、测量结果的有效数字

1.有效数字的定义及其基本性质

测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:

(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。 对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。例如用千分尺(最小分度值0.01mm ,0.004mm ∆=仪)测量某物体的长度读数为

4.834mm 。其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在最小分度值内估读的数字,为可疑数字;它与千分尺的∆仪在同一数位上,所以该测量值有四位数字。如果改用最小分度值(游标精度)为0.02mm 的游标卡尺来测量,其读数为

4.84mm ,测量值就只有三位有效数字。游标卡尺没有估读数字,其末位数字“4”为可疑数字,它与游标卡尺的0.02mm ∆仪=也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系

在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。如3

(8.9270.005)/g cm ρ=±,测量值的末位“7”刚好与不确定度0.005的“5”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法 二、有效数字的运算规则

1.数值的舍入修约原则

测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以

后,后面多余的数字就应予以舍入修约,其规则如下:

(1)拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

(2)拟舍弃数字的最左一位数字大于5,或者是5而其后跟有并非0的数字时,则进1,即保留的末位数字加1。

(3)拟舍弃数字的最左一位数字为5,而5的右边无数字或皆为0时,若所保留的末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。

上述规则也称数字修约的偶数规则,即“四舍六入五凑偶”规则。

根据上述规则,要将下列各数据保留四位有效数字,舍入后的数据为:

3.14159 3.142→; 2.71729 2.717→;

4.51050 4.510→; 3.21550 3.216→;

6.378501 6.379→;

7.6914997.691→

对于测量结果的不确定度的有效数字,本课程规定采取只进不舍的规则。

2.有效数字运算规则

有效数字的运算总的原则是,除遵守数学运算法则外,还规定,准确数字与准确数字的运算结果仍为准确数字;存疑数字与任何数字的运算结果均为存疑数字。

(1)加减法

设F x y z =++,运算过程为:

1) 先计算绝对不确定度,不确定度在运算过程中取两位,最后取一位。

2) 计算F ,各分量位数取到和不确定度所在位相同或比不确定度所在位低一位。

3) 用绝对不确定度决定最后结果的有效数字。

例1 求F A B C =+-。其中()98.70.3A mm =±,()6.2380.006B mm =±,()14.360.08C mm =±。

解:① ()F ∆=()()B A ∆∆和()C ∆,故在方和根合成时,()B ∆可忽略。所以

()0.310.4()F mm ∆====

② 98.7 6.23814.3690.58()F A B C mm =+-=+-=

在计算过程中,因为不确定度在小数点后第一位上,故运算时各分量保留到小数点后第一位或第二位,F 也暂多保留一位。

③ ()90.60.4F mm =±

如果各分量没有标明不确定度,则加减法的运算以各分量中可疑数字位最高的,即不确定度最大的分量为准,其他各分量在运算过程中保留到它下面一位,最后再与它对齐。

上例中,A 分量的可疑数字位最高,以它为准,其它各分量保留到它下面一位,最后对齐。98.7 6.2414.3690.58()F mm =+-=,最后与A 分量的位数对齐,所以结果为90.6F mm =。

(2)乘除法

设F xyz =,运算过程为:

1)以有效位数最少的分量为准,将各分量(包括常数)的有效数字取到比它多一位,计算F ,结果也暂多保留一位。

2)计算不确定度。

3)由绝对不确定度决定结果的有效数字位数。

例 2 求224g

D RT π=,其中:()383.750.0410R m -=±⨯,()1.240.01T s =±,

29.794/g m s =。

解:① 各分量中,T 的有效数字位数最少(3位),以它为准,R ,g ,π都取四位,结果先保留四位。

()()2232229.79483.75 1.2431.9410()44 3.142g

D RT m π-⨯⨯===⨯⨯

② 计算不确定度,应用不确定度传递公式:

()0.017D D ∆=== 3332()()31.94100.0170.54100.610()D D D m D

---∆∆=⨯=⨯⨯=⨯=⨯ ③ 结果为: ()3231.90.610D m -=±⨯

当测量数据没有给出不确定度时,计算同①。结果的有效数字位数一般取与各分量中有

效数字位数最少者相同。

在运算中,遇到一些物理常数和纯数学数字(如2, 等),它们不影响运算结果的有效数字位数。

综上例题运算得知,有效数字的运算规则:(1)当几个有效数字相加或相减时,其结果的有效数字末位的量级与参加运算的有效数字中可疑数字量级最大者相同。(2)当几个有效数字相乘或相除时,其结果的有效数字位数一般与参加运算的各数中有效数字位数最少者相同。

3.函数运算的有效数字取值

必须注意,测量结果的有效数字位数多少取决于测量,而不取决于运算过程。因此在运算时,尤其是使用计算器时,不要随意扩大或减少有效数字位数,更不要认为算出结果的位数越多越好。

相关文档
最新文档