关于运算后有效数字的确定问题

相关主题
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

二、实验后计算不确定度 ,根据不确定度确定被 测量 的最加估计值的有效数 字位数。
不确定度只取一位或二位有效数字 ,测量值的 数值的有效数字是到不确定度末位为止。即测 量值的最佳估计值的有效数字的末位和不确定 度末位取齐。不确定度的首位数是 1” “ 时,不确 定度取两位有效数字 ,其余一律取一位有效数字 。
三、使用有效数字规则 时的注意事项
来自百度文库
(1)物理公式中有些数值,不是实验测量值, 在确定结果的有效数字 位数时不必考虑。
(2)对数运算时,整数部分不计入有效数字位数 。 计算有效数字位数时, 可多算一位。
(3)首位数是5以上的m位数值在乘除运算中,
(4)有多个数值参加运算时, 运算中途不进行取舍,
防止由于多次取舍引入 计算误差,运算最后仍 应舍去。
四、数值的修约规则
运算后的数值只保留有 效数字,其它数字应舍 去。 简单概括为“ ”舍“6”入“5”取偶数。 4
关于运算后有效数字的确定问题
一、 不计算不确定度 ,测量结果的有效数字 位数只能按下面规则粗略地确定。
( )加减运算后的有效数 1 字 加减运算后的末位,应 当和参加运算各数中 最先出现的可疑位一致 。
(2)乘除运算后的有效数 字 乘除运算后的有效数字 位数,可估计为和 参加运算各数中有效数 字位数最少的相同。
(3)三角函数、对数值的有效数字 测量值x的三角函数或对数的位 数,可由x函数值 与x的末位增加 1” “ 个单位后的函数值相比 较去确定。 例:x 2525,则sin x sin 2525 0.4291978; sin 2526 0.4294606,则sin 2525 0.4292。
相关文档
最新文档