有效数字及运算规则

合集下载

有效数字及运算法则

有效数字及运算法则
有效数字及运算法则有效数字的运算法则有效数字运算规则有效数字的运算规则有效数字的运算有效数字运算有效数字有效数字的定义什么是有效数字什么叫有效数字
有效数字及运算法则
一、有效数字的一般概念
定义:在测量结果的数字表示 中,由若干位可靠数字加一位 可疑数字,便组成了有效数字。
上述例子中的测量结果均为三 位有效数字
N

2 65
差(不确定度)决定有效数字,有:
N 0.96 0.03cm
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0 4.02=16 正确
49 = 7 4.02=16.0 错误
试确定N的有效数字。
解: (1)先计算N
N 3.21 6.5 0.957cm 21.8
(2)计算不确定度 N
N
A
2
B
2
C
2

0.01 2
0.2 2
0.004
2
2
N A B C 3.21 6.5 21.843 65
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00

有效数字及其运算规则

有效数字及其运算规则

§2—3有效数字及其运算规则1. 有效数字的一般概念1) 有效数字的概念 实验中测量的结果都是有误差的,那么测量值如何表达才算合理呢?如用最小分度值为1mm 的尺子测得某物体的长度L =12.46cm ,可否写成12.460cm 或12.4600cm 呢?回答当然是否定的,因为用该米尺测量时毫米以下的一位数字6已经是估计的(即有误差存在),再往下估读已无实际意义。

在大学物理实验中,12.460和12.4600这两个数值与12.46有着不同的含义,即表示它们的误差是不相同的。

在实验测量和近似计算中得到的数据,其末位是有误差的,我们称这种数为有效数字。

所以,有效数字是由若干位准确数字和一位欠准确数字构成的。

上面的举例L=12.46cm ,就是有四位有效数字。

若我们用最小分度为0.02mm 的游标卡尺去测量该物体,得L =12.460cm ;用最小分度为0.0lmm 的螺旋测微器测量该物体,读数为12.4602cm ,则它们分别是五位和六位的有效数字。

由此可见,同一物体,用不同精度的仪器去测量,有效数字的位数是不同的,精度越高,有效位数越多。

当我们用m 或km 作单位时,物理量L =12.46cm 表示为L =0.1246m 或L =0.0001246km ,它们是几位有效数字呢?因为单位换算并没有改变它原来测量的精度,因此仍是四位有效数字,这里的“0”是确定小数点位置的,不是有效数字,也就是说,在非零数字前的“0”不是有效数字。

当“0”不是确定小数点位置,即在非零数字后面时,与其它的字码是有同等地位的,都是有效数字。

例如,1.005cm ,是四位有效数字;1.00m 是三位有效数字。

这里的“0”就不能随便的增或减。

2) 数值的科学表达方式当一个数值很大,但有效数字又不多的情况下,如何来正确表达呢? 这时可以用尾数乘以10的多少次幂的形式表示,即所谓的科学记数法。

例如某号钢的弹性模量为,它有三位有效数字,显然写成197,000,000,000是不妥当的。

有效数字及运算法则

有效数字及运算法则

(2)计算不确定度 N
N
0.01 0.2 0.004 A B C N A B C 3.21 6.5 21.843
2 2 2 2 2 2
3.21 6.5 = 21 – 3.21 – 6.5



20.865
N AB / C
其中:
A 3.21 0.01cm , B 6.5 0.2cm , C 21.843 0.004 cm
试确定N的有效数字。
解:
(1)先计算N
3.21 6.5 N 0.957 cm 21.8
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度
(2)用0.1级量程为100mA电流表测电流
对于0.1级表:
△仪= 100mA×0.1% = 0.1mA
指针在82mA与83mA之间:读为82.* mA 指针正好在82mA上:读为82.0mA
对于1.0级表 △仪=100mA×1.0%=1mA
50.00 2.0 = 100 1.00 2 1.010 = 100 = 1.0
2 10.0 lg100.0 27.3211 27.31
35
=
100 2.0000 35 0.01
2104 35 = =
4 210
试用有效数字计算结果:
(1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000

2 65
2 N 0.957 0.03cm 65
(3)根据误差(不确定度)决定有效数字,有:
N 0.96 0.03cm

有效数字及运算法则

有效数字及运算法则

————— –– –– 1605– 1926 ————— – –––
3.21 6.5 = 21 – 3.21 – 6.5



20.865
结果为 21

例5
N AB / C
其中:
A 3.21 0.01cm , B 6.5 0.2cm , C 21.843 0.004 cm
2 lg100.0 10.0 27.3211 27.31
35
=
100 2.0000 35 0.01
= 2104 35 =
4 210
精品课件!
精品课件!
本章小结
一.有效数字的概念 二.直接测量时有效数字的运算
三.有效数字的运算规则
注意:进行单位换算时, 有效数字的位数不变。
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为 20000 (欧姆),保留三位有 效数字时写成 2.00104 又如数据为 0.0000325m ,使用科学记数 法写成3.2510-5m
3.有效数字与仪器的关系
有效数字的位数
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法
2.乘除法
3.乘方与开方 4.函数运算
5.自然数与常量
①自然数不是测量值,不存在误差, 故有效数字是无穷位。
如在D=2R中,2不是一位有效数字,而是无穷位
②常数、e等的位数可与参加运算的 量中有效数字位数最少的位数相同 或多取一位。
对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA

有效数字及运算法则

有效数字及运算法则
被测物体
ቤተ መጻሕፍቲ ባይዱ
当读数正好为24㎜时读数为24.0㎜ 当读数正好为24㎜时读数为24.0㎜ 24 24.0
三、直接测量有效数字的确定 ——如何读数 ——如何读数
读数的一般规则: 读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度 (2)用0.1级量程为100mA电流表测电流 0.1级量程为100mA电流表测电流 级量程为100mA
2 2 2

2 65
2 σ N = × 0.957 = 0.03cm 65
(3)根据误差(不确定度)决定有效数字,有: )根据误差(不确定度)决定有效数字,
N = 0.96 ± 0.03cm
结果的有效数字与其底或被开 运算规则: 运算规则: 方数的有效数字位数相同。 方数的有效数字位数相同。
如: 1002=100×102 ×
(3)用分度值为0.01㎜的螺旋测微计测物体长度: (3)用分度值为0.01㎜的螺旋测微计测物体长度: 用分度值为0.01 0.50㎜ 0.5㎜ 0.500㎜ 0.324㎜ 0.50㎜;0.5㎜;0.500㎜;0.324㎜。
找出下列正确的数据记录: 找出下列正确的数据记录:
— — — — — —
(1)用分度值为0.05㎜的游标卡尺测物体长度: (1)用分度值为0.05㎜的游标卡尺测物体长度: 用分度值为0.05 32.50㎜ 32.48㎜ 43.25㎜ 32.5㎜ 32.500㎜ 32.50㎜;32.48㎜;43.25㎜;32.5㎜;32.500㎜。 (2)用分度值为0.02㎜的游标卡尺测物体长度: (2)用分度值为0.02㎜的游标卡尺测物体长度: 用分度值为0.02 45.22㎜ 52.78㎜ 64.05㎜ 84㎜ 73.464㎜ 45.22㎜;52.78㎜;64.05㎜;84㎜;73.464㎜。

有效数字及其运算规则

有效数字及其运算规则

一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。

二、范围:适用于所有相关数据的计算。

三、责任者:生产部、质量管理部。

四、内容1.有效数字1.1定义有效数字就是实际能测到的数字。

有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。

我们可以把有效数字这样表示。

有效数字=所有的可靠的数字+ 一位可疑数字1.2有效数字位数从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。

例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。

B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。

C.5200000000,全部都是有效数字。

D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。

E.1.20 有3个有效数字。

F.1100.120 有7位有效数字。

G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。

H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。

1.3“0”的双重意义1.3.1作为定位的标志。

例:滴定管读数为20.30毫升。

两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。

1.3.2作为普通数字使用例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。

2.有效数字的运算规则2.1数字修约规则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。

有效数字及运算法则

有效数字及运算法则

注意:进行单位换算时,
有效数字的位数不变。
可修改
4
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为20000(欧姆),保留三位有 效数字时写成 2.00104
又 如 数 据 为 0.0000325m , 使 用 科 学 记 数 法写成3.2510-5m
可修改
5
3.有效数字与仪器的关系
指针在82mA与83mA之间:读为82.* mA
指针正好在82mA上:读为82.0mA
可修改
12
对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA
可修改
13
例1
62 .
–5
+
1.
23–4
=
63
.
7–
b 20.02 0.01cm
可修改
7
5.相对误差的表达
E N 100% N
0.05 E1 1.20 100% 4.2%
2位有效数
0.008 E2 10.100 100% 0.08%
1位有效数
可修改
8
三、直接测量有效数字的确定 ——如何读数
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度
1.0102 100
= 1.0
可修改
24
10.02 lg100.0 35 27.3211 27.31
= 100 2.0000 35 0.01
= 2104 35
= 2104
可修改
25
试用有效数字计算结果:
(1)123.98 - 40.456 + 7.8 = 171.0

有效数字及其运算规则

有效数字及其运算规则
1.有效数字的加减
的必要。
在上面两例中,我们按数值的大小对齐后相加或相减,并以其中可疑位数最靠前的为基准,先进行取舍,取齐诸数的可疑位数,然后加、减,则运算简便,结果相同。
2.有效数字的乘除
点后面是可疑数字,允许有所不同。
从以上两例中可得如下结论:诸量相乘或相除,以有效数字最少的数为标准,将有效数字多的其它数字,删至与文相同,然后进行运算。最后结果中的有效数字位数与运算前诸量中有效数字位数最少的一个相同。
2.确定测量结果有效数字的基本方法
(1)仪器的正确测读
仪器正确测读的原则是:读出有效数字中可靠数部分是由被测量的大小与所用仪器的最小分度来决定。可疑数字由介于两个最小分度之间的数值进行估读,估读取数一位(这一位是有误差的)。
例如,用分度值为1mm的米尺测量一物体的长度,物体的一端正好与米尺零刻度线对齐,另一端如图1-1。
4.数值表示方幂来表示其数量级。前面的数字是测得的有效数字,并只保留一位数在小数点的前面。如×105m×10-3kg等。
二、有效数字的运算规则
在有效数字的运算过程中,为了不致因运算而引进误差或损失有效数字,影响测量结果的精确度,并尽可能地简化运算过程,因此,规定有效数字运算规则如下(例中加横线的数字代表可疑数字):
有效数字及其运算规则
§ 有效数字及其运算规则
一、有效数字的一般概念
1.有效数字
任何一个物理量,其测量结果必然存在误差。因此,表示一个物理量测量结果的数字取值是有限的。
我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字。例如,的有效数字是三位,是可靠数字,尾位“8”是可疑数字。这一位数字虽然是可疑的,但它在一定程度上反映了客观实际,因此它也是有效的。

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果得有效数字1.有效数字得定义及其基本性质测量结果中所有可靠数字加上末位得可疑数字统称为测量结果得有效数字。

有效数字具有以下基本特性:(1)有效数字得位数与仪器精度(最小分度值)有关,也与被测量得大小有关。

对于同一被测量量,如果使用不同精度得仪器进行测量,则测得得有效数字得位数就是不同得。

例如用千分尺(最小分度值,)测量某物体得长度读数为。

其中前三位数字“”就是最小分度值得整数部分,就是可靠数字;末位“"就是在最小分度值内估读得数字,为可疑数字;它与千分尺得在同一数位上,所以该测量值有四位数字、如果改用最小分度值(游标精度)为得游标卡尺来测量,其读数为,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“"为可疑数字,它与游标卡尺得也就是在同一数位上。

(2)有效数字得位数与小数点得位置无关,单位换算时有效数字得位数不应发生改变。

2、有效数字与不确定度得关系在我们规定不确定度得有效数字只取一位时,任何测量结果,其数值得最后一位应与不确定度所在得那一位对齐、如,测量值得末位“”刚好与不确定度得“"对齐。

由于有效数字得最后一位就是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值得不确定度(或误差限值)。

测量值得有效数字位数越多,测量得相对不确定度越小;有效位数越少,相对不确定度就越大。

3.数值得科学表示法二、有效数字得运算规则1.数值得舍入修约原则测量值得数字得舍入,首先要确定需要保留得有效数字与位数,保留数字得位数确定以后,后面多余得数字就应予以舍入修约,其规则如下:(1)拟舍弃数字得最左一位数字小于5时,则舍去,即保留得各位数字不变。

(2)拟舍弃数字得最左一位数字大于5,或者就是5而其后跟有并非0得数字时,则进1,即保留得末位数字加1。

(3)拟舍弃数字得最左一位数字为5,而5得右边无数字或皆为0时,若所保留得末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。

例如用千分尺(最小分度值00.011m m ,0.004m mD =仪)测量某物体的长度读数为84.8334m m 。

其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在最小分度值内估读的数字,为可疑数字;它与千分尺的D 仪在同一数位上,所以该测量值有四位数字。

如果改用最小分度值(游标精度)为00.022m m 的游标卡尺来测量,其读数为84.844m m ,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“4”为可疑数字,它与游标卡尺的0.02m m D 仪=也是在同一数位上。

也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。

如39(8.922700.0005)/g c m r =±,测量值的末位“7”刚好与不确定度00.0005的“5”对齐。

”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。

测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法二、有效数字的运算规则1.数值的舍入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以222()()()A B C D +D +D 2222()()0.300.088A C D +D +2222()()0.0402483.751.2R T RTD D æöæöæöæ+´=+´ç÷ç÷ç÷çèøèøèøè2。

有效数字及其运算规则12836

有效数字及其运算规则12836

§1.4有效数字及其运算规则一、有效数字的一般概念1.有效数字任何一个物理量,其测量结果必然存在误差。

因此,表示一个物理量测量结果的数字取值是有限的。

我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字。

例如,2.78的有效数字是三位,2.7是可靠数字,尾位“8”是可疑数字。

这一位数字虽然是可疑的,但它在一定程度上反映了客观实际,因此它也是有效的。

2.确定测量结果有效数字的基本方法(1)仪器的正确测读仪器正确测读的原则是:读出有效数字中可靠数部分是由被测量的大小与所用仪器的最小分度来决定。

可疑数字由介于两个最小分度之间的数值进行估读,估读取数一位(这一位是有误差的)。

例如,用分度值为1mm的米尺测量一物体的长度,物体的一端正好与米尺零刻度线对齐,另一端如图1-1。

此时物体长度的测量值应记为L=83.87cm。

其中,83.8是可靠数,尾数“7”是可疑数,有效数字为四位。

(2)对于标明误差的仪器,应根据仪器的误差来确定测量值中可疑数所以用该电压表测量时,其电压值只需读到小数点后第一位。

如某测量值为12.3V,若读出:12.32V,则尾数“2”无意义,因为它前面一位“3”本身就是可疑数字。

(3)测量结果的有效数字由误差确定。

不论是直接测量还是间接测量,其结果的误差一般只取一位。

测量结果有效数字的最后一位与误差所在的一位对齐。

如L=(83.87±0.02)cm是正确的,而L=(83.868±0.02)cm和L=(83.9±0.02)cm 都是错误的。

3.关于“0”的问题有效数字的位数与十进制的单位变换无关。

末位“0”和数字中间的“0”均属于有效数字。

如23. 20cm;10.2V等,其中出现的“0”都是有效数字。

小数点前面出现的“0”和它之后紧接着的“0”都不是有效数字。

如0.25cm或0.045kg中的“0”都不是有效数字,这两个数值都只有两位有效数字。

有效数字及运算规则

有效数字及运算规则

有效数字及运算规则1.4.1 有效数字的基本概念任何测量结果都存在不确定度,测量值的位数不能任意的取舍,要由不确定度来决定,即测量值的末位数要与不确定度的末位数对齐。

如体积的测量值3cm 961.5=V ,其不确定度3cm 04.0=V U ,由不确定度的定义及V U 的数值可知,测量值在小数点后的百分位上已经出现误差,因此961.5=V 中的“6”已是有误差的欠准确数,其后面一位“1”已无保留的意义,所以测量结果应写为3cm 04.096.5±=V 。

另外,数据计算都有一定的近似性,计算时既不必超过原有测量准确度而取位过多,也不能降低原测量准确度,即计算的准确性和测量的准确性要相适应。

所以在数据记录、计算以及书写测量结果时,必须按有效数字及其运算法则来处理。

熟练地掌握这些知识,是普通物理实验的基本要求之一,也为将来科学处理数据打下基础。

测量值一般只保留一位欠准确数,其余均为准确数。

所谓有效数字是由所有准确数字和一位欠准确数字构成的,这些数字的总位数称为有效位数。

一个物理量的数值与数学上的数有着不同的含义。

例如,在数学意义上600.460.4=,但在物理测量中(如长度测量),cm 600.4cm 60.4≠,因为cm 60.4中的前两位“4”和“6”是准确数,最后一位“0”是欠准确数,共有三位有效数字。

而cm 600.4则有四位有效数字。

实际上这两种写法表示了两种不同精度的测量结果,所以在记录实验测量数据时,有效数字的位数不能随意增减。

1.4.2 直接测量的读数原则直接测量读数应反映出有效数字,一般应估读到测量器具最小分度值的10/1。

但由于某些仪表的分度较窄、指针较粗或测量基准较不可靠等,可估读5/1或2/1分度。

对于数字式仪表,所显示的数字均为有效数字,无需估读,误差一般出现在最末一位。

例如:用毫米刻度的米尺测量长度,如图1-4-1(a )所示,cm 67.1=L 。

“6.1”是从米尺上读出的“准确”数,“7”是从米尺上估读的“欠准确”数,但是有效的,所以读出的是三位有效数字。

有效数字及其运算规则

有效数字及其运算规则

§1、4有效数字及其运算规则一、有效数字得一般概念1、有效数字任何一个物理量,其测量结果必然存在误差。

因此,表示一个物理量测量结果得数字取值就是有限得。

我们把测量结果中可靠得几位数字,加上可疑得一位数字,统称为测量结果得有效数字。

例如,2、78得有效数字就是三位,2、7就是可靠数字,尾位“8”就是可疑数字。

这一位数字虽然就是可疑得,但它在一定程度上反映了客观实际,因此它也就是有效得。

2、确定测量结果有效数字得基本方法(1)仪器得正确测读仪器正确测读得原则就是:读出有效数字中可靠数部分就是由被测量得大小与所用仪器得最小分度来决定。

可疑数字由介于两个最小分度之间得数值进行估读,估读取数一位(这一位就是有误差得)。

例如,用分度值为1mm得米尺测量一物体得长度,物体得一端正好与米尺零刻度线对齐,另一端如图1-1。

此时物体长度得测量值应记为L=83.87cm。

其中,83、8就是可靠数,尾数“7”就是可疑数,有效数字为四位。

(2)对于标明误差得仪器,应根据仪器得误差来确定测量值中可疑数所以用该电压表测量时,其电压值只需读到小数点后第一位。

如某测量值为12、3V,若读出:12、32V,则尾数“2”无意义,因为它前面一位“3”本身就就是可疑数字。

(3)测量结果得有效数字由误差确定。

不论就是直接测量还就是间接测量,其结果得误差一般只取一位。

测量结果有效数字得最后一位与误差所在得一位对齐。

如L=(83、87±0、02)cm就是正确得,而L=(83、868±0、02)cm与L=(83、9±0、02)cm都就是错误得。

3、关于“0”得问题有效数字得位数与十进制得单位变换无关。

末位“0”与数字中间得“0”均属于有效数字。

如23、 20cm;10、2V等,其中出现得“0”都就是有效数字。

小数点前面出现得“0”与它之后紧接着得“0”都不就是有效数字。

如0.25cm或0.045kg中得“0”都不就是有效数字,这两个数值都只有两位有效数字。

有效数字及运算法则

有效数字及运算法则

找出下列正确的数据记录:
(4)用量程为100 mA,刻有100小格的0.1级表测量 电流,指针指在80小格上;用量程为100V,刻 有50小格的1.0级表测量电压,指针指在40小格 上,数据如下:
— 电流:80mA; 80.0mA; 80.00mA; — 电压:80V; 80.0V; 80.00V
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减 “0”
数学上:2.85 2.850 2.8500
物理上:2.85 2.850 2.8500
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
4.不确定度的表达
N N (单位)
σ取一个有效数字, σ决定N的有效位
a 10.0 0.1cm2 b 20.02 0.01cm
被测物体
当读数正好为24㎜时读数为24.0㎜
三、直接测量有效数字的确定 ——如何读数
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度
(2)用0.1级量程为100mA电流表测电流
对于0.1级表:
△仪= 100mA×0.1% = 0.1mA
指针在82mA与83mA之间:读为82.* mA
指针正好在82mA上:读为82.0mA
100 0.1 __0_.1_×__1_02__,
式子的前一项 100 0.1 __1___。

第五节 有效数字及其运算规则

第五节    有效数字及其运算规则

5. 常数 等非测量所得数据以及 常数π,e等非测量所得数据以及 视为无限多位有效数字。 视为无限多位有效数字。
5、2,1/2等, , 等
6. pH、pM、pK等对数值,有效数字位数仅取 等对数值, 、 、 等对数值 决于小数部分数字的位数 小数部分数字的位数。 决于小数部分数字的位数。 应为两位有效数值。 如:pH=12.68,应为两位有效数值。 应为两位有效数值 pH=12.68 即[H+]=2.1×10-13 两位不是四位 × 7. 有效数字单位变化时,不能改变有效数字的 有效数字单位变化时, 位数。 位数。 20.00mL→ →0.02000L →
4位 位 2位 位 4位 位 2位 位
总绝对误差取决于绝对误差大的
(二)乘除法运算
数值相乘除时,结果保留位数应与有效数 数值相乘除时,结果保留位数应与有效数 字位数最少者相同。(相对误差最大 最少者相同。(相对误差最大), 字位数最少者相同。(相对误差最大), (0.0142×24.43×305.84)/28.7= × ×
第五节
有效数字及其运算规则
一、有效数字(significant figure) 有效数字
概念:分析工作中实际上能测量到的数字。 概念:分析工作中实际上能测量到的数字。 实际上能测量到的数字 包括:除最后一位为可疑数字, 包括:除最后一位为可疑数字,其余的数字 都是准确的。 都是准确的。 可理解为:在可疑数字的位数上有± 个单位 可理解为:在可疑数字的位数上有±1个单位 的误差。 的误差。 如:分析天平称量:1.21 23 (g)(万分之一) 分析天平称量: (万分之一) 滴定管读数: 滴定管读数:23.26 (mL)
数字修约规则和实例
修约规则 顺口溜) (顺口溜) 实 修约前数字 例 修约后数字 (要求保留小数点后一位 要求保留小数点后一位) 要求保留小数点后一位

有效数字及运算法则

有效数字及运算法则

有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm
(可五修改位有效数字)
6
4.不确定度的表达
N N (单位)
σ取一个有效数字, σ决定N的有效位
a 10.0 0.1cm 2
N 0.96 0.0可3修cm改
18
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0
4.02=16
正确
49 = 7
4.02=16.0 错误
可修改
19
(1)对数函数 lgx的尾数与x的位数相同
例 7 lg 100 = 2.000
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减 “0”
数学上:2.85 2.850 2.8500
物理上:2.85 2.850 2.8500
可修改
3
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
b 20.02 0.01cm
可修改
7
5.相对误差的表达
E N 100% N
0.05 E1 1.20 100% 4.2%
2位有效数
0.008 E2 10.100 100% 0.08%
1位有效数
可修改
8
三、直接测量有效数字的确定 ——如何读数
读数的一般规则: 读至仪器误差所在的位置
(1)用米尺测长度

有效数字及运算法则

有效数字及运算法则
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
4.不确定度的表达
N N (单位)
σ取一个有效数字, σ决定N的有效位
a 10.0 0.1cm2 b 20.02 0.01cm
100.0035=1.00809611.008
四、间接测量量有效数字的确定 ——有效数字的运算法则
1.加减法 2.乘除法 3.乘方与开方 4.函数运算
5.自然数与常量
①自然数不是测量值,不存在误差, 故有效数字是无穷位。
如在D=2R中,2不是一位有效数字,而是无穷位
②常数、e等的位数可与参加运算的 量中有效数字位数最少的位数相同 或多取一位。
例 9 L=2R 其中R=2.3510-2m
就应取3.14(或3.142)
即L=23.1422.3510-2=0.148(m)
综合运算举例
50.00 ( 18.30 16.3 ) ( 103 3.0 ) ( 1.00 + 0.001 )
=
50.00 2.0 100 1.00
=
1.0102 100
= 1.0
10.02 lg100.0 35 27.3211 27.31 = 100 2.0000 35
0.01 = 2104 35 = 2104
试用有效数字计算结果: (1)123.98 - 40.456 + 7.8 = 171.0 (2) lg10.00 = 1.0000 (3)789.30 × 50 ÷ 0.100 = 3.9×103 (4)1.002 = 1.00
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字及运算规则
有效数字的基本概念
任何测量结果都存在不确定度,测量值的位数不能任意的取舍,要由不确定度来决定,即测量值的末位数要与不确定度的末位数对齐。

如体积的测量值3cm 961.5=V ,其不确定度3cm 04.0=V U ,由不确定度的定义及V U 的数值可知,测量值在小数点后的百分位上已经出现误差,因此961.5=V 中的“6”已是有误差的欠准确数,其后面一位“1”已无保留的意义,所以测量结果应写为3cm 04.096.5±=V 。

另外,数据计算都有一定的近似性,计算时既不必超过原有测量准确度而取位过多,也不能降低原测量准确度,即计算的准确性和测量的准确性要相适应。

所以在数据记录、计算以及书写测量结果时,必须按有效数字及其运算法则来处理。

熟练地掌握这些知识,是普通物理实验的基本要求之一,也为将来科学处理数据打下基础。

测量值一般只保留一位欠准确数,其余均为准确数。

所谓有效数字是由所有准确数字和一位欠准确数字构成的,这些数字的总位数称为有效位数。

一个物理量的数值与数学上的数有着不同的含义。

例如,在数学意义上600.460.4=,但在物理测量中(如长度测量),cm 600.4cm 60.4≠,因为cm 60.4中的前两位“4”和“6”是准确数,最后一位“0”是欠准确数,共有三位有效数字。

而cm 600.4则有四位有效数字。

实际上这两种写法表示了两种不同精度的测量结果,所以在记录实验测量数据时,有效数字的位数不能随意增减。

直接测量的读数原则
直接测量读数应反映出有效数
字,一般应估读到测量器具最小分度
值的10/1。

但由于某些仪表的分度较
窄、指针较粗或测量基准较不可靠等,
可估读5/1或2/1分度。

对于数字式
仪表,所显示的数字均为有效数字,
无需估读,误差一般出现在最末一位。

例如:用毫米刻度的米尺测量长度,如图1-4-1(a )所示,cm 67.1=L 。

“6.1”是从米尺上读出的“准确”数,“7”是从米尺上估读的“欠准确”数,但是有效的,所以读出的是三位有效数字。

若如图(b )所示时,cm 00.2=L ,仍是三位有效数字,而不能读写为cm 0.2=L 或cm 2=L ,因为这样表示分别只有两位或一位有效数字。

如图(c)所示,cm 70.90=L 有四位有效数字。

若是改用厘米刻度米尺测量该长度时,如图(d )所示,则cm 7.90=L ,只有三位有效数字。

所以,有效数字位数的多少既与使用仪器的精度有关,又与被测量本身的大小有关。

在单位换算或小数点位置变化时,不能改变有效数字位数,而是应该运用科学记数法,图1-4-1 直接测量的有效数字
把不同单位用10的不同幂次表示。

例如,m 2.1不能写作cm 120、m m 1200或m μ1200000,应记为
他们都是两位有效数字。

反之,把小单位换成大单位,小数点移位,在数字前出现的“0”不是有效数字,如m 00242.0cm 242.0m m 42.2==,他们都是三位有效数字。

有效数字运算规则
间接测量的计算过程即为有效数字的运算过程,存在不确定度的传递问题。

严格说来,应根据间接测量的不确定度合成结果来确定运算结果的有效数字。

但是在不确定度估算之前,可根据下列的有效数字运算法则粗略地算出结果。

有效数字运算的原则是:运算结果只保留一位欠准确数字。

1.加减运算
根据不确定度合成理论,加减运算结果的不确定度,等于参与运算的各量不确定度平方和的开方,其结果大于参与运算各量中的最大不确定度。

如:
x y x N U U U U >+=22(或y U )
因此,加减运算结果的有效数字的末位应与参与运算的各数据中不确定度最大的末位对齐,即计算结果的欠准确数字与参与运算的各数值中最先出现的欠准确数字对齐。

下面例题中在数字上方加一短线的为欠准确数字。

【例3】235.31.32+和652.19.116-的计算结果各应保留几位数字?
【解】先观察一下具体计算过程:
可见,一个数字与一个欠准确数字相加或相减,其结果必然是欠准确数字。

按照运算结果保留一位欠准确数字的原则
分别为三位有效数字和四位有效数字。

2.乘除运算
乘除运算结果的相对不确定度,等于参与运算各量的相对不确定度平方和的开方,因此运算结果的相对不确定度大于参与运算各量中的最大相对不确定度。

我们知道,有效数字位数越少,其相对不确定度越大。

所以,乘除运算结果的有效数字位数,与参与运算各量中有效数字位数最少的相同。

【例4】11.11111.1⨯的计算结果应保留几位数字?
【解】计算过程如下:
因为一个数字与一个欠准确数字相乘,其结果必然是欠准确数字。

所以,由上面的运算过程可见,小数点后面第二位的“3”及其后的数字都是欠准确数字,所以
为三位有效数字。

与上面叙述的乘除运算法则是一致的。

除法是乘法的逆运算,取位法则与乘法相同,这里不再举例说明。

对于一个间接测量,如果它是由几个直接测量值通过相乘除运算而得到的,那么,在进行测量时应考虑各直接测量值的有效数字位数要基本相仿,或者说它们的相对不确定度要比较接近。

如果相差悬殊,那么精度过高的测量就失去意义。

3.乘方、立方、开方运算
运算结果的有效数字位数与底数的有效位数相同。

4.函数运算
有效数字的四则运算规则,是根据不确定度合成理论和有效数字的定义总结出来的。

所以,对于对数、三角函数等函数运算,原则上也要从不确定度传递公式出发来寻找其运算规则。

先看两个例子:
【例5】23068±=a ,求?ln ==a y
【解】按照不确定度传递公式
所以 0288.8ln ==a y
【例6】3060'±'︒=θ,求?sin ==θx
【解】由不确定度传递公式
所以 8660.0060sin ='︒=x
当直接测量的不确定度未给出时,上述过程可简化为通过改变自变量末位的一个单位,观察函数运算结果的变化情况来确定其有效数字。

例如620'︒=α中的“6'”是欠准确数字,由计算器运算结果为 343659695.0620sin ='︒, 343932851.0720sin ='︒,两种结果在小数点后面第四位出现了差异,所以3436.0620sin ='︒。

同理 393590754.6598ln =, 395261598.6599ln =,所以394.6598ln =。

但是,这种方法是较粗糙的,有时与正确结果会出现明显差异。

5.常数
公式中的常数,如π、e 、2等,它们的有效数字位数是无限的,运算时一般根据需要,比参与运算的其它量多取一位有效数字即可。

例如:
2r S π=,cm 042.6=r ,π取为1416.3,22cm 7.114042.61416.3=⨯=∴S 。

πθ+=3.129,π取为14.3,rad 4.13214.33.129=+=θ。

测量结果数字取舍规则
数字的取舍采用“四舍六入五凑偶”规则,即欲舍去数字的最高位为4或4以下的数,则“舍”;若为6或6以上的数,则“入”;被舍去数字的最高位为5时,前一位数为奇数,则“入”,前一位数为偶数,则“舍”。

其目的在于使“入”和“舍”的机会均等,以避免用“四舍五入”规则处理较多数据时,因入多舍少而引入计算误差。

例如,将下列数据保留到小数点后第二位:
09.80861.8→,08.80845.8→,08.80850.8→,08.80754.8→
通常约定不确定度最多用两位数字表示,且仅当首位为1或2时保留两位。

尾数采用“只进不舍”的原则,在运算过程中只需取两位数字计算即可。

有效数字运算规则和数字取舍规则的采用,目的是保证测量结果的准确度不致因数字取舍不当而受到影响。

同时,也可以避免因保留一些无意义的欠准确数字而做无用功,浪费时间和精力。

现在由于计算器的应用已十分普及,计算过程多取几位数字也并不花费多少精力,不会给计算带来什么困难。

但是,实验结果的正确表达仍然值得重视的,实验者应该能正确判断实验结果是几位有效数字,正确结果该怎么表示。

相关文档
最新文档