有效数字及其运算规则 PPT
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
例如,将下列数据修约为两位有效数字
四. 有效数字的计算规则 (1) 加减法;以 小数点后位数最少的为准 先修约后加减,结果位数也按点后位数 最少的算。
例如, 0.0121+12.56+7.8432 可先修约后计算,即 0.01+12.56+7.84=20.41
(2) 乘除法;结果保留位数应与 有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67 可先修约后计算, (0.0142×24.4×306)/28.7=3.69。
(6) 计算中涉及到常数,e以及非测量
值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。
(7) 为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部 数字作为结果。
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
注意:进行单位换算时,有 效数字的位数不变。
3.有效数字与仪器的关系
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
Biblioteka Baidu家有疑问的,可以询问和交流
可以互相讨论下,但要小
三. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。
修约规则:为四舍六入五成双(尾留双),被修约 ≤4,舍弃,被修约数≥6则进位,若是5将有 两种情况:前面是奇数则进位为偶数,若前面 是偶数则舍弃,若5后面还有不为0的数,则不 管前面数字奇偶一律进位。
(3) 乘方或开方;, 结果有 效数字位数不变。 例如, 6.542=42.8 7.562.75
(4) 对数计算;对数尾数的位数应
与真数的有效数字位数相同。
例如:
[H]6.31011mol/L pH10.20
(5) 表示分析结果的精密度和准确度 时, 误差和偏差等只取一位或两 位有效数字。
例如:E=0.123%表示为:0.1%或 0.12%
物体质量 有效数字位数 使用仪器
16.5g
3
台天平
16.651g
5
普通摇摆天平
16.6514g
6
分析天平
二、有效数字位数的确定
1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有 效 如:12.04cm、20.50m2、1.000A
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减
“0数”学上:2 .8 5 2 .85 2 .8 050 物理上:2 .8 5 2 .85 2 .8 050
有效数字及其运算规则
例如, 用分析天平称NaCl1.2007g,可能 有±0.0001g的误差;用台秤称1.20g,可能 有±0.01g的误差。 注意: 数字0可以是测量得到的有效数 字,但当0只用来定位时,就不能是有效 数字,并且有效数字的位数与小数点的 位置无关。
例如: 1.2007g (五位) 0.0012007g(五 位)
四. 有效数字的计算规则 (1) 加减法;以 小数点后位数最少的为准 先修约后加减,结果位数也按点后位数 最少的算。
例如, 0.0121+12.56+7.8432 可先修约后计算,即 0.01+12.56+7.84=20.41
(2) 乘除法;结果保留位数应与 有效数字位数最少者相同。 例如, (0.0142×24.43×305.84)/28.67 可先修约后计算, (0.0142×24.4×306)/28.7=3.69。
(6) 计算中涉及到常数,e以及非测量
值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。
(7) 为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部 数字作为结果。
②.小数点前面的“0”和紧接小 数点后面的“0”不算作有效数 字如:0.0123dm、0.123cm、0.00123m
均是3位有效数字。
注意:进行单位换算时,有 效数字的位数不变。
3.有效数字与仪器的关系
有效数字的位数
测量值本身的大小、仪器的准确度
米尺 L=2.52cm (三位有效数字)
20分度游标卡尺 L=2.525cm (四位有效数字)
螺旋测微计 L=2.5153cm (五位有效数字)
Biblioteka Baidu家有疑问的,可以询问和交流
可以互相讨论下,但要小
三. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。
修约规则:为四舍六入五成双(尾留双),被修约 ≤4,舍弃,被修约数≥6则进位,若是5将有 两种情况:前面是奇数则进位为偶数,若前面 是偶数则舍弃,若5后面还有不为0的数,则不 管前面数字奇偶一律进位。
(3) 乘方或开方;, 结果有 效数字位数不变。 例如, 6.542=42.8 7.562.75
(4) 对数计算;对数尾数的位数应
与真数的有效数字位数相同。
例如:
[H]6.31011mol/L pH10.20
(5) 表示分析结果的精密度和准确度 时, 误差和偏差等只取一位或两 位有效数字。
例如:E=0.123%表示为:0.1%或 0.12%
物体质量 有效数字位数 使用仪器
16.5g
3
台天平
16.651g
5
普通摇摆天平
16.6514g
6
分析天平
二、有效数字位数的确定
1.关于“0”的有效问题 ①.当“0”在数字中间或末尾时有 效 如:12.04cm、20.50m2、1.000A
等中的0均有效。
注意:不能在数字的末尾随便加“0”或减
“0数”学上:2 .8 5 2 .85 2 .8 050 物理上:2 .8 5 2 .85 2 .8 050
有效数字及其运算规则
例如, 用分析天平称NaCl1.2007g,可能 有±0.0001g的误差;用台秤称1.20g,可能 有±0.01g的误差。 注意: 数字0可以是测量得到的有效数 字,但当0只用来定位时,就不能是有效 数字,并且有效数字的位数与小数点的 位置无关。
例如: 1.2007g (五位) 0.0012007g(五 位)