GB8170-87数值修约规则(共45页)
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
(1)测量、测量结果 测量是以确定量值为目的的一组操作。量值是
由一个 (值)乘以测量单位所表示的特定量 的大小。
测量有间接和直接之分:直接测量的结果 可直接测到而不必通过函数计算;而间接测量 的结果需将直接测量的结果代入函数计算才能 得到。
第四页,共四十五页。
由测量所得的赋予被测量的值称为测量结果。 例如,用分析天平称得一个试样的质量为
第十五页,共四十五页。
试看下面各数据的有效数字位数:
例1:数值3.5,有两个有效数字,占有个位、十分位 两个数位,因而有效数字位数为两位;3.501有四个 有效数字,占有个位、十分位、百分位等四个数位, 因而是四位有效数字。
测量结果的数字,其有效位数反映了测量结果的精确度, 它直接与测量的精密度有关。这也是有效数字实际意义的 体现,是非常重要的体现。
第五页,共四十五页。
2. 数值修约的概念及意义
(1)数值修约的概念 对某一表示测量结果的数值(拟修约数)
,根据保留位数的要求,将多余的数字进 行取舍,按照一定的规则,选取一个近似 数(修约数)来代替原来的数,这一过程 称为数值修约。
第六页,共四十五页。
(2)数值修约的意义 a.出于准确表达测量结果的需要。
1.1080g, 1.1080g就是一个测量结果。 由测量与测量结果的概念可看出,测量结果可
表示如下: 测量结果= (值)×单位量值
根据误差公理,测量总是存在误差的,测量结 果只能是接近于测量真值的估计值,因而表示 测量结果的数(值)是含有误差的数(值), 就是说,表示测量结果的的数值是一个近似值 。
测量结果大都是通过间接测量得到的,间接测量的结果通 常是通过计算得出的,其组成数字往往较多, 但具体测 量的精度是确定的,就是说表示合理表征测量结果的数字 个数应是确定的,最终提供的测量结果应合理反映这一点 ,故此,通过对计算方法和直接测量得到的数据的分析, 得到合理的保留位数,将多余的数字进行取舍以得到合理 反映测量精度的测量结果,即进行数值修约就非常必要。 另外,即使采用直接测量,有时在提供测量程序要求的但 高于实际测量精度的测量结果时也需要进行合理的数值修 约。
第八页,共四十五页。
二、数值修约的基础知识
1. 有效数字 2 修约间隔 3.修约数位及确定修约位数的表达方
式
第九页,共四十五页。
1. 有效数字
1.1有效数字
有效数字是定位用的“0”除外 )。
我们来看前面的测量结果1.1080g,组成数字1、1、0 、8、0都是实际测读到的,它们是表示试样质量大小的 ,因而都是有实际意义的。
第七页,共四十五页。
b.在进行具体的数值计算前,对参加计算的数 值进行修约,可简化计算,降低计算出错的机 会。
如:4.78961×2.13×102.4387926=?
若不先进行数值修约就直接计算,繁琐且容易 出错。若在计算前先按数值修约规则进行修约 ,舍去多余参与计算的数值之中没有意义的数 字,则计算会简单得多,计算也就不容易出错 。
第十二页,共四十五页。
在确定有效数字位数时应遵循下列原则: (1)数值中数字1~9都是有效数字。 (2)数字“0”在数值中所处的位置不同,
起的作用也不同,可能是有效数字,也可 能不是有效数字。判定如下: 1) “0”在数字前,仅起定位作用,不是有 效数字。
如,0.0257中, “2”前面的两个“0”均 非有效数字。 0.123、0.0123、0.00123 中“1”前面的 “0”也均非有效数字。
例如前述例子中,若测量结果为1.1080g,则表示 测量值的误差在10-4量级上,天平的精度为万分之 一;若测量结果为1.108g,则表示测量值的误差 在10-3量级上,天平的精度为千分之一。
第十一页,共四十五页。
2.2 有效数字位数的确定原则 由于有效数字的位数反映了测量结果的精
确度,它直接与测量的精密度有关。因此 ,在科学实验和生产活动中正确记录有效 数字,不能多写或少写,多写了不能正确 反映测量精度,则该数据不真实,因而也 就不可靠;少写损失测量精度度。另外, 能够正确判定表示测量结果的数中那些数 字是有效数字,确定有效数字位数就显得 非常重要。这也是在计量认证过程中,有 效数字位数的确定往往成为考核内容之一 的原因。
第十三页,共四十五页。
2)数值末尾的“0”属于有效数字。 如0.5000中, “5”后面的三个“0”均为
有效数字;0.5000中, “5”后面的一个 “0”也是有效数字。
特例:见第4)条。 3)数值中夹在数字中间的“0”是有效数字。
如数值1. 008中的两个“0”是均是有效 数字; 数值8. 01中间的 “0”也是有效数字 。
GB8170-87《数值修约规则》
二OO八年十一月
第一页,共四十五页。
数值修约
一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运算规则
第二页,共四十五页。
一、数值修约的概念及意义
1. 测量及测量结果 2. 数值修约的概念及意义
第三页,共四十五页。
1. 测量、测量结果
有效数字的前几位都是准确数字,只有最后一位是可疑数
字。 如前述的1.1080, 前几位数字1、1、0、8都是称量
读到的准确数字,而最后一位数字0则是在没有刻度的 情况下估读出来的,是不准确的或者说可疑的。
第十页,共四十五页。
有效数字是处于表示测量结果的数值的不同数位上。 所有有效数字所占有的数位个数称为有效数字位数。
第十四页,共四十五页。
4)以“0”结尾的正整数, “0”是不是有效 数字不确定,应根据测试结果的准确度确 定。
如3600,后面的两个“0”如果不指明 测量准确度就不能确定是不是有效数字。
测量中遇到这种情况,最好根据实际测 试结果的精确度确定有效数字的位数,有 效数字用小数表示,把“0”用10的乘方表示 。如将3600写成3.6×103表示此数有两位 有效数字;写成3.60×103表示此数有三位 有效数字;写成3.600×103表示此数有四 位有效数字。
由一个 (值)乘以测量单位所表示的特定量 的大小。
测量有间接和直接之分:直接测量的结果 可直接测到而不必通过函数计算;而间接测量 的结果需将直接测量的结果代入函数计算才能 得到。
第四页,共四十五页。
由测量所得的赋予被测量的值称为测量结果。 例如,用分析天平称得一个试样的质量为
第十五页,共四十五页。
试看下面各数据的有效数字位数:
例1:数值3.5,有两个有效数字,占有个位、十分位 两个数位,因而有效数字位数为两位;3.501有四个 有效数字,占有个位、十分位、百分位等四个数位, 因而是四位有效数字。
测量结果的数字,其有效位数反映了测量结果的精确度, 它直接与测量的精密度有关。这也是有效数字实际意义的 体现,是非常重要的体现。
第五页,共四十五页。
2. 数值修约的概念及意义
(1)数值修约的概念 对某一表示测量结果的数值(拟修约数)
,根据保留位数的要求,将多余的数字进 行取舍,按照一定的规则,选取一个近似 数(修约数)来代替原来的数,这一过程 称为数值修约。
第六页,共四十五页。
(2)数值修约的意义 a.出于准确表达测量结果的需要。
1.1080g, 1.1080g就是一个测量结果。 由测量与测量结果的概念可看出,测量结果可
表示如下: 测量结果= (值)×单位量值
根据误差公理,测量总是存在误差的,测量结 果只能是接近于测量真值的估计值,因而表示 测量结果的数(值)是含有误差的数(值), 就是说,表示测量结果的的数值是一个近似值 。
测量结果大都是通过间接测量得到的,间接测量的结果通 常是通过计算得出的,其组成数字往往较多, 但具体测 量的精度是确定的,就是说表示合理表征测量结果的数字 个数应是确定的,最终提供的测量结果应合理反映这一点 ,故此,通过对计算方法和直接测量得到的数据的分析, 得到合理的保留位数,将多余的数字进行取舍以得到合理 反映测量精度的测量结果,即进行数值修约就非常必要。 另外,即使采用直接测量,有时在提供测量程序要求的但 高于实际测量精度的测量结果时也需要进行合理的数值修 约。
第八页,共四十五页。
二、数值修约的基础知识
1. 有效数字 2 修约间隔 3.修约数位及确定修约位数的表达方
式
第九页,共四十五页。
1. 有效数字
1.1有效数字
有效数字是定位用的“0”除外 )。
我们来看前面的测量结果1.1080g,组成数字1、1、0 、8、0都是实际测读到的,它们是表示试样质量大小的 ,因而都是有实际意义的。
第七页,共四十五页。
b.在进行具体的数值计算前,对参加计算的数 值进行修约,可简化计算,降低计算出错的机 会。
如:4.78961×2.13×102.4387926=?
若不先进行数值修约就直接计算,繁琐且容易 出错。若在计算前先按数值修约规则进行修约 ,舍去多余参与计算的数值之中没有意义的数 字,则计算会简单得多,计算也就不容易出错 。
第十二页,共四十五页。
在确定有效数字位数时应遵循下列原则: (1)数值中数字1~9都是有效数字。 (2)数字“0”在数值中所处的位置不同,
起的作用也不同,可能是有效数字,也可 能不是有效数字。判定如下: 1) “0”在数字前,仅起定位作用,不是有 效数字。
如,0.0257中, “2”前面的两个“0”均 非有效数字。 0.123、0.0123、0.00123 中“1”前面的 “0”也均非有效数字。
例如前述例子中,若测量结果为1.1080g,则表示 测量值的误差在10-4量级上,天平的精度为万分之 一;若测量结果为1.108g,则表示测量值的误差 在10-3量级上,天平的精度为千分之一。
第十一页,共四十五页。
2.2 有效数字位数的确定原则 由于有效数字的位数反映了测量结果的精
确度,它直接与测量的精密度有关。因此 ,在科学实验和生产活动中正确记录有效 数字,不能多写或少写,多写了不能正确 反映测量精度,则该数据不真实,因而也 就不可靠;少写损失测量精度度。另外, 能够正确判定表示测量结果的数中那些数 字是有效数字,确定有效数字位数就显得 非常重要。这也是在计量认证过程中,有 效数字位数的确定往往成为考核内容之一 的原因。
第十三页,共四十五页。
2)数值末尾的“0”属于有效数字。 如0.5000中, “5”后面的三个“0”均为
有效数字;0.5000中, “5”后面的一个 “0”也是有效数字。
特例:见第4)条。 3)数值中夹在数字中间的“0”是有效数字。
如数值1. 008中的两个“0”是均是有效 数字; 数值8. 01中间的 “0”也是有效数字 。
GB8170-87《数值修约规则》
二OO八年十一月
第一页,共四十五页。
数值修约
一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运算规则
第二页,共四十五页。
一、数值修约的概念及意义
1. 测量及测量结果 2. 数值修约的概念及意义
第三页,共四十五页。
1. 测量、测量结果
有效数字的前几位都是准确数字,只有最后一位是可疑数
字。 如前述的1.1080, 前几位数字1、1、0、8都是称量
读到的准确数字,而最后一位数字0则是在没有刻度的 情况下估读出来的,是不准确的或者说可疑的。
第十页,共四十五页。
有效数字是处于表示测量结果的数值的不同数位上。 所有有效数字所占有的数位个数称为有效数字位数。
第十四页,共四十五页。
4)以“0”结尾的正整数, “0”是不是有效 数字不确定,应根据测试结果的准确度确 定。
如3600,后面的两个“0”如果不指明 测量准确度就不能确定是不是有效数字。
测量中遇到这种情况,最好根据实际测 试结果的精确度确定有效数字的位数,有 效数字用小数表示,把“0”用10的乘方表示 。如将3600写成3.6×103表示此数有两位 有效数字;写成3.60×103表示此数有三位 有效数字;写成3.600×103表示此数有四 位有效数字。