物理实验绪论 有效数字运算

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

有效数字运算
指数函数运算规则 指数函数运算结果的有效数字,按科学记数 法,小数点后的位数取成与指数中小数点后 的位数相同
9.14 例:e =
3 9.32×10
有效数字运算
常数运算规则 常数不影响最后的计算结果有效位数。运算 中其位数比计算式中其它测量值中有效位最 少的多取一位
例:D = 2R 设 D = 8.000 mm
有效数字运算
在单位换算时,有效数字的位数不变
例:7.98 mm = 0.00798 m
表达测量结果的有效数字,其尾数应与不确 定度值尾数对齐 对齐
例: L = ( 98.60 0.06 ) cm
对较大或较小的数,尽量采用科学记数法
例: 0.00798 m 记为7.98×10-3 mm
有效数字运算
有效数字运算规则
加减运算规则
运算结果末位数字所在位置,与参与加减运 算的各数中末位数字位置最高的一个相同
例:10.1-4.179=? 5.9
草 稿 纸
10.1 -4.179
5.921
有效数字运算
乘除、乘方、开方运算规则 运算结果的有效数字的位数,与参与运算各 数中有效数字位数最少的那个数相同
例:10.1×4.179= 42.2 ? 10.1 三位 10.1 4.179= 2.42 ?
有效数字运算
有效数字的定义
可靠数字
存疑数字 可疑数字 欠准数字
测量中得到的全部可靠数字和欠准数字
有效数字运算
有效数字的说明
有效位的多少,是测量实际的客观反映,不 能随意增减测得值的有效位
有效数字只有最后一位是欠准的
有效数字的位数与小数点位置无关
从第一位不为0的数字数至最后一位 包括后面的0
例:7.98 mm 和 0.00798 m 都是三位有 例:0.0079800 m 是多少位? 效数字
S = R2
R=4.000 mm
= 3.1416
有效数字运算
舍入规则 小于5时,舍去;大于5时,进1
等于5时,按欲保留的末位为奇数时则进1,
为偶数时舍弃
例:保留 4 位有效数字
4.32749 4.32751 44.32500 4.32750 4.32850

4.327 4.328 44.32 4.328 4.328
大学物理实验中,角度一般读到秒
三角函数运算保留4位有效数字
有效数字运算
对数函数运算规则 对数函数运算结果的有效数字中,小数点后 面的位数取成与真数的位数相同
例:lg 1.983 = 0.2973
lg 19.83 = 1.2973
lg 198.3 = 2.2973 ln 14.179)2=17.46 ?
17.5 = ? 4.18
结果
三位
有效数字运算
三角函数运算规则 将自变量欠准位变化1,运算结果产生差异的 最高位就是应保留的有效数字的最后一位
sin 30 02 0.500503748 例: sin 30 03 0.500755559 sin 30 02 0.5005
相关文档
最新文档