数值修约规则与数值判定
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
公式中的常数;
如 π、e 、21/2等数学常数,它们的有效数字位数是无限
的。
– 在运算中,计算结果有效数字位数以测量值的位数为准, 常数多取 一位有效数字
【例】S = πr2, r = 6.042cm(有效数字为四位) 则π取为3.1416(有效数字为五位) ∴ S = 3.1416×6.0422 = 114.7cm2
数值修约规则与数值判定
陈桢
1
一 有效数字
有效数字:
准确数字加上最后一位有实际意义的估计数字(可疑的数字)的总称。
数字1~9都是有效数字,数字“0”特殊
– 在第一位非零数字之前,不是有效数字。如 0.0002 – 在两个非零数字之间或所有非零数字之后,是有效数字。如 0.10400 – 以0结尾的正整数,不能确定有效数字位数。 如 1200?有效数字是2位时:1.2×103 有效数字是3位时:1.20×103 – 改变单位,有效数字位数不变。如 20.00mL , 0.02000L
13
四 数值修约规则
不允许连续修约
− 报出数值最右的非零数字为5时,应在数值右上角加“+”或“-”或不加 符号,分别表明已进行舍,进或未舍未进。
14
四 数值修约规则
0.5单位修约
– 将拟修约数值X乘以2,按指定修约间隔对2X进行修约,所得数值再除以 2。
15
四 数值修约规则
0.2单位修约
– 试剂规格500mL(0.1mol/L); – 没有可疑数字,无限多位
运算
– 0.4909 + 16.3
– 16.09 - 1.4013 – 0.350 × 1.436 – ≈ 0.5 + 16.3 = 16.8 – ≈ 16.09 – 1.40 = 14.61 – ≈ 0.350 × 1.44 = 0.504 – ≈ 0.0148 × 10.3 = 0.152
– – 2500 3500 – – 2×103 4×103
修约值为修 约间隔的整 数倍; 应用修约规 则。
将下列数字修约到三位小数(修约间隔为10-3)
– - 0.0365 – - 36×10-3
17
应用
有效数字位数
– 1.243; – 8.36; – 0.025; – 0.1060; – 2.5×102; – 4位 – 3位 – 2位 – 4位 – 2位
25
THANK YOU !
26
– 将拟修约数值X乘以5,按指定修约间隔对5X进行修约,所得数值再除以 5。
16
应用
修约间隔为10-1
– – 1.050 0.35 – – 10×10-1 4×10-1
修约间隔为1(修约到个数位)
– – – 37.46 15.45 10.5002 – – – 37 15 11
修约间隔为103 (修约到千数位)
10
二 有效数字运算
对运算过程中,有效数字可暂时多保留一位,以免多次修约造成误差 的累积,最后再将计算结果按修约规则修约
– 5.2727 + 0.075 + 3.7 + 2.12 ≈ 5.27 + 0.08 + 3.7 + 2.12 = 11.17 ≈ 11.2
首位数字为8或9的数,其有效数字位数可以比实际的位数多算一位。
11
三 数值修约
GB/T 8170-2008 《数值修约规则与极限数值的表示和判定》
12
四 数值修约规则
四舍六入五留双
– 0.5264 0.526 0.3626 0.363 10.235 10.24 250.65 250.6 10.05 四舍六入五考虑, 10.0
五后非零则进一, 五后皆零视奇偶, 五前为偶应舍去,
滴定管、移液管:准确至0.01mL
pH值 4.74:小数点后的数字位数为有效数字位数,准确至0.01 标准溶液浓度:如0.1000mol/L 常数不修约
24
分析结果有效数字的规定
高含量(>10%)组分测定,一般要求保留4位有效数字,0.1234 中含量( 1%~10%)组分测定,一般要求保留3位有效数字,0.0123 微量(<1%)组分测定,只要求保留2位有效数字,0.0012 误差、偏差等误差计算,通常取1~2位有效数字 化学平衡的计算:保留2~3位有效数字
【例】3.261×105×1.78=?
10的幂的结果不影响有效数字位数 3.261×105 3.26×105
× 1.78
× 1.78
5.80×105
7
二 有效数字运算
乘方/立方/开方运算:
结果有效数字位数与底数相同
【例】6.542 =42.8, 【例】 0.95361/2=0.9765
8
二 有效数字运算
– 8.56的有效数字是4位; 9.3的有效数字是3位
pH,lgK等对数值,其有效数字的位数仅取决于小数部分数字的位数
– pH=4.74和pH=11.74,即[H+]=1.8×10-5mol/L和[H+]=1.8×10-12mol/L ,
它的有效数字是2位, 4和11只起定位作用,只表示10-5和10-12
若5后面还有非0的任何数,皆入
– 18.0850001 → 18.09
负数修约时,先将其绝对值修约,再加负号 五前为奇则进一, 不允许连续修约
– 15.4546 → 15.455 → 15.46 → 15.5 → 16
不论数字多少位, 都要一次修约成。
– 15.4546 → 15
先按指数数字最小的数,化成相同指数,再相加 1.22×10-3 + 1.00×10-2 + 2×10-5 0.122 ×10-2 + 1.00 ×10-2 + 0.002 ×10-2 0.12 ×10-2 + 1.00 ×10-2 + 0.00 ×10-2 1.12×10-2
5
二 有效数字运算
乘除法:位数对齐
2
一 有效数字
有效数字位数反映了测量结果的精确度,记录数据时尾数 的“0” 不能任意增减
– 如天平称量结果为1.1080g,表示天平的精度为万分之一;
– 如天平称量结果为1.108g,表示天平的精度为千分之一。
3
二 有效数字运算
加减法:尾数对齐
和或差的有效数字的保留,应以小数点后位数最少(误 差最大)的数据为依据。
积或商的有效数字的保留,应以有效数字位数最少(相 对误差最大)的那个数为依据。
【例】0.0121×25.64×1.05782 = ?
±8‰ ±0.4‰ ±0.009‰
0.0121
0.0121
×
25.64
×
×
25.6
1.06 0.328
× 1.05782
6
二 有效数字运算
乘除法:位数对齐
积或商的有效数字的保留,应以有效数字位数最少(相 对误差最大)的那个数为依据。
18
– 0. 0148 × 10.27
五 极限数值的表示与判定
19
五 极限数值的表示与判定
GB 25190-2010 食品安全国家标准 灭菌乳
20
五 极限数值的表示与判定
GB 2763-2012 食品安全国家标准 食品农药最大残留限量
21
Fra Baidu bibliotek
五 极限数值的表示与判定
带有极限偏差值的数值
当b1=b2=b,可记为A±b。
(6.042×6.042=36.505764=36.51)
9
二 有效数字运算
个数、名义浓度、标示量、分数、倍数等没有可
疑数字,其有效位数也视为无限多位;
– H2S04; – 每1mL的某滴定液(0.1mol/L);
– 规格“0.3g”或“1mL”或“25mg”;
– A是B的1/2; – B是A的2倍;
【例】0.0121+25.64+1.05782 = ?
±0.0001
0.0121 +25.64
0.01 +25.64
±0.01
±0.00001
+ 1.05782
+ 1.06
26.71
4
二 有效数字运算
加减法:尾数对齐
和或差的有效数字的保留,应以小数点后位数最少(误 差最大)的数据为依据。
【例】1.22×10-3 + 1.00×10-2 + 2×10-5=?
当b1=b2=b,可记为A(1±b%)。
(不含b1和b2) (不含b1) (不含b2)
22
五 极限数值的表示与判定
全数值比较法 VS 修约值比较法
对同样的极限数值,全数值比较法比修约值比较法相对较严格。
23
正确记录实验数据
万分之一天平:准确至0.0001g 百分之一天平:准确至0.01g