计量及数值修约

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

计量单位
表1-3 国际单位制中具有专门名称的导出单位
计量单位
表1-4 国家选定的非国际单位制单位
计量单位
表1-5 用于构成十进倍数和分数单位的词头
数值修约
一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运算规则
一、数值修约的概念及意义
1. 测量及测量结果 2. 数值修约的概念及意义
3.修约数位及确定修约位数的表达方式
修约时拟将拟修约数的哪一位数位后部分按修约规则舍去,则该数位 就是修约数位。
数值修约时需要先明确修约数位,确定修约位数的表达方式如下: (1 ) 指明具体的修约间隔。 如指明将某数按0.2(2×10-1)修约间隔修约、100 (1×102)修约
间隔修约等。 (2 ) 指定将拟修约数修约至某数位的0.1、0.2或0.5个单位。
2)数值末尾的“0”属于有效数字。
如0.5000中, “5”后面的三个“0”均为有效数字;0.5000中, “5” 后面的一个“0”也是有效数字。
特例:见第4)条。
3)数值中夹在数字中间的“0”是有效数字。
如数值1. 008中的两个“0”是均是有效数字; 数值8. 01中间的 “0” 也是有效数字。
2.2 有效数字位数的确定原则
由于有效数字的位数反映了测量结果的精确度,它直接与测量的精密 度有关。因此,在科学实验和生产活动中正确记录有效数字,不能多 写或少写,多写了不能正确反映测量精度,则该数据不真实,因而也 就不可靠;少写损失测量精度度。另外,能够正确判定表示测量结果 的数中那些数字是有效数字,确定有效数字位数就显得非常重要。
在确定有效数字位数时应遵循下列原则:
(1)数值中数字1~9都是有效数字。
(2)数字“0”在数值中所处的位置不同,起的作用也不同,可能是 有效数字,也可能不是有效数字。判定如下:
1) “0”在数字前,仅起定位作用,不是有效数字。
如,0.0257中, “2”前面的两个“0”均非有效数字。 0.123、 0.0123、0.00123中“1”前面的 “0”也均非有效数字。
这些测量所得的数据,在参与测量结果计 算的过程中,若要修约应怎么修约 ,计算得 到的结果怎么修约就是运算法则所要解决的 问题。
1.加减运算 2.乘除运算 3.平均值 4. 方差和标准偏差
1.加减运算
几个数相加减的结果,经修约后保留有效数字的位数,取决于绝对误 差最大的数值,计算结果应以绝对误差最大(即小数点后位数最少) 的数据为基准,来决定计算结果数据的位数。
的一种方式。修约间隔一般以k×10n(k=1,2,5;n为 整数)的形式表示,将同一k值的修约间隔,简称为“k”
间隔。
修约间隔的数值一经确定,修约值即应为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中 选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值即应在100的整数倍 中选取,相当于将数值修约到“百”数位。
测量结果的数字,其有效位数反映了测量结果的精确度,它直接与测 量的精密度有关。这也是有效数字实际意义的体现,是非常重要的体 现。
例如前述例子中,若测量结果为1.1080g,则表示测量值的误差在104量级上,天平的精度为万分之一;若测量结果为1.108g,则表示测 量值的误差在10-3量级上,天平的精度为千分之一。
例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。
例 2 : 将 1268 修 约 成 三 位 有 效 位 数 , 得 127×10 ( 特 定 时 可 写 为 1270)。
例3:将10.502修约到个数位,得11。
注:“特定时”的涵义系指修约间隔或有效位数明确时。
3.3 拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所 保留的末位数字为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍 弃。
试看下面各数据的有效数字位数:
1.0008 43383 五位有效数字
0.5000 20.76% 四位有效数字
0.0257 154×10-10 三位有效数字
53
0.0070 二位有效数字
0.02
2×10-10 一位有效数字
3600
100 有效数字位数不定
2.修约间隔
修约间隔又称修约区间或化整间隔,系确定修约保留位数
(3)指明按“k”间隔将拟修约数修约为几位有效数字,或修约至某
数位。这时“1” 间隔可不必指明,但“2”间隔和“5”间隔必须指明。
三、数值修约规则
1.GB/T 8170-2008《数值修约规则与极限数值的表示和判 定》
1.GB/T 8170-2008《数值修约规则与极限 数值的表示和判定》
测量结果的数据处理是测量过程的最后环节,由于测量结果含有测量 误差,测量结果的有效位数应保留适宜,太多会使人误认为测量精度 很高,同时也会带来计算上的繁琐;太少则会损失测量准确度。测量、 计算结果的数值应按GB/T 8170-2008《数值修约规则与极限数值的 表示和判定》规定进行修约。
在实际运算过程中,各数值保留的位数比各数值中小数点后位数最少 者多保留一位小数,而计算结果有效数字的位数应与效数最少的一数 相同。
例如 29.2+36.582-3.0281=?
按上述规测计算如下:
29.2+36.582-3.0281≈29.2+36.58-3.03=62.75
最后计算结果保留一位小数,为62.8。
修约后平均值计算结果为6.39。
4.方差和标准偏差
方差和标准偏差在运算过程中对中间结果不做修约,只将最后结果修约至要求的 位数。
以上有不当之处,请大家给与批评指正, 谢谢大家!
40
例1:修约间隔为0.1(或10-1)
拟修约数
修约值
1.050
1.0
0.350
0.4
例2:修约间隔为1000(或103)
拟修约数 修约值
2500
2×103 (特定时可写为2000)
3500
4×103 (特定时可写为4000)
例3:将下列数字修约成两位有效位数 拟修约数 修约值 0.0325 0.032
多余的数字进行取舍,按照一定的规则,选取一个近似数(修约数) 来代替原来的数,这一过程称为数值修约。
(2)数值修约的意义
a.出于准确表达测量结果的需要。
b.在进行具体的数值计算前,对参加计算的数值进行修约, 可简化计算,降低计算出错的机会。
二、数值修约的基础知识
1. 有效数字 2 修约间隔 3.修约数位及确定修约位数的表达方式
修约规则如下: 3.1 拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数
字不变。 例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。
3.2 拟舍弃数字的最左一位数字大于5;或者是5,而其后跟有并非全 部为0的数字时,则进一,即保留的末位数字加1。
=414.6707116 三个参与运算的数值的有效数字位数分别为六位、三位、六位,所以最终 计算结果用三位有效数字表示,为415或4.15×102。
3.平均值
计算几个数值的平均值时,先将计算结果修约至比要求的位数多一位,再按数值 修约规则处理。
例如:
x 6.38 6.39 6.40 6.34 6.42 6.386 5
1. 测量、测量结果
(1)测量、测量结果 测量是以确定量值为目的的一组操作。量值是由一个数(值)乘以测量单
位所表示的特定量的大小。 由测量所得的赋予被测量的值称为测量结果。
例如,用分析天平称得一个试样的质量为 1.1080g, 1.1080g就是一个测 量结果。 由测量与测量结果的概念可看出,测量结果可表示如下:
如前述的1.1080, 前几位数字1、1、0、8都是称量读到的准确数字,而 最后一位数字0则是在没有刻度的情况下估读出来的,是不准确的或者说 可疑的。
有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所 占有的数位个数称为有效数字位数。
例1:数值3.5,有两个有效数字,占有个位、十分位两个数位,因而 有效数字位数为两位;3.501有四个有效数字,占有个位、十分位、 百分位等四个数位,因而是四位有效数字。
例如:将下列数修约到个数位的0.5单位(或修约间隔为0.5)
拟修约数 乘2 2A修约值
A修约值
(A) 120.50
(2A) (修约间隔为1) (修约间隔为0.5)
120
60.0
60.25
60.38 120.76 121
60.5
-60.75 -121.50 -122
-61.0
5.2 0.2单位修约 将拟修约数乘以5,按指定数位依3.1-3.4规则修约,所得数值再除以5。
32500 32×103(特定时可写为32000)
3.4 负数修约时,先将它的绝对值按上述3.1-3.3规定进行修约,然后 在修约值前面加上负号。
例1:将下列数修约到“十”数位
拟修约数
修约值
-355
-36×10(特定时可写为-360)
-325
-32×10(约成两位有效位数
测量结果=数(值)×单位量值 根据误差公理,测量总是存在误差的,测量结果只能是接近于测量真值的
估计值,因而表示测量结果的数(值)是含有误差的数(值), 就是说,表示测量结果的的数值是一个近似值。
2. 数值修约的概念及意义
(1)数值修约的概念 对某一表示测量结果的数值(拟修约数),根据保留位数的要求,将
2.乘除运算
几个数据的乘除运算以相对误差最大(即有效数字位数最少)的数值 为基准来决定结果数据的位数,。
在实际运算中,先将各数值修约至比有效数字位数最少者多保留一位 有效数字运算,计算结果的有效数字的位数与有效数字位数最少的数 值相同。(与小数点位置无关)
例如, 0.235438×28.6×61.8911 ≈0.2354×28.6×61.89
例如:将下列数修约到“百”数位的0.2单位(或修约间隔为20 )
拟修约数 乘5 5A修约值
A修约值
(A) (5A)(修约间隔为100)(修约间隔为20)
830
4150 4200
840
842
4210 4200
840
-930
-4650 -4600
-920
四、数值运算规则
在一个具体的测量过程中,一般都要经过多个测量的环节, 而每个测量的环节都有具体的测量数据,滴定试验时滴定 前滴定管的初始读数与滴定至终点时,溶液体积的读数等。
4)以“0”结尾的正整数, “0”是不是有效数字不确定,应根据测试 结果的准确度确定。
如3600,后面的两个“0”如果不指明测量准确度就不能确定是不是 有效数字。
测量中遇到这种情况,最好根据实际测试结果的精确度确定有效数 字 的 位 数 , 有 效 数 字 用 小 数 表 示 , 把 “ 0” 用 10 的 乘 方 表 示 。 如 将 3600写成3.6×103表示此数有两位有效数字;写成3.60×103表示此 数有三位有效数字;写成3.600×103表示此数有四位有效数字。
拟修约数
修约值
-365
-36×10(特定时可写为-360)
-0.0365
-0.036
注:以上4条为修约间隔为“1”时的修约规则。
5 0.5单位修约与0.2单位修约
必要时,可采用0.5单位修约和0.2单位修约。
5.1 0.5单位修约
将拟修约数乘以2,按指定数位依3.1-3.4规则修约,所得数再除以2。
1. 有效数字
1.1有效数字
有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是 由有效数字组成的(前后定位用的“0”除外)。
我们来看前面的测量结果1.1080g,组成数字1、1、0、8、0都是实际测 读到的,它们是表示试样质量大小的,因而都是有实际意义的。
有效数字的前几位都是准确数字,只有最后一位是可疑数字。
计量单位
我国的法定计量单位包括: 1.国际单位制的基本单位 2.国际单位制的辅助单位: 3.国际单位制中具有专门名称的导出单位 4.国家选定的非国际单位制单位 5.由以上单位构成的组合形式的单位 6.由词头和以上单位构成的十进倍数和分数单位
计量单位
表1-1 国际单位制的基本单位
计量单位
表1-2 国际单位制的辅助单位
相关文档
最新文档