有效数字运算试题

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

1、用有效数字计算结果:
(1)123.98 - 40.456 + 7.8 = ___________
(2)lg10.00 = ___________
(3)789.30 × 50 ÷ 0.100 = ___________
(4)1.002 =
___________
(5) (6)1002= ___________
(7)
(8)
(9)6.2345保留四位有效数字___________,6.051保留两位有效数字___________
2、下列表达式中的有效数字位数
100.00±0.100cm 的有效数字是___位
100.00±0.10cm 的有效数字是____ 位
100.00±0.1cm 的有效数字是____ 位
3、对某数进行直接测量,有如下说法,正确的是( )
A. 有效数字的位数是由所使用的量具所决定
B. 有效数字的位数是由被测量的大小决定
C. 有效数字的位数由使用的量具与被测量的大小共同确定
4、下列测量的结果表达正确的有( )
5、找出下列正确的数据记录:
(1)用分度值为0.05mm 的游标卡尺测物体长度:
32.50mm ;32.48mm ;43.25mm ;32.5mm ;32.500mm 。

(2)用分度值为0.02mm 的游标卡尺测物体长度:
45.22mm ;52.78mm ;64.05mm ;84mm ;73.464mm 。

(3)用分度值为0.01mm 的螺旋测微计测物体长度:
0.50mm ;0.5mm ;0.500mm ;0.324mm 。

6、通过计算确定N 的有效数字:
(1)N=A+B-C 其中:A=62.5±0.1cm 2,B=1.234±0.003cm 2,C=5.43±0.06cm 2,试确定N 的有效数字。

(2)N=AB/C 其中:A=3.21±0.01cm ,B=6.5±0.2cm ,C=21.843±0.004cm ,试确定N 的有效数字。

=
001.______,1000log 3021.73021.171.0100=+-⨯_______,01.0674.9326.000.100=⨯+。

Hz ..f .D ;
..R .C ;..A .B ;mm S .A 100901048523038202032810025604⨯±⨯=±=±=±=Ω
参考答案
1、(1)171.0(2)1.0000(3)3.9×103(4)1.00(5)1.00
(6)1.00×104(7)4(8)0.01(9)6.234,6.1
2、4,4,4
3、C
4、C
5、(1)32.50mm、43.25mm(2)45.22mm、52.78mm(3)0.500mm、0.324mm
6、(1)(2)
2
1
3
58cm
.
.

=
cm N03
96
0.

=。

相关文档
最新文档