有效数字修约精密度准确度

相关主题
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

4156.45 515
46
III. 数值修约规则
21
B. 一次修约 例: 用国标的直接干燥法测定 ( GB 5009·3-2016) , 当样品重
量为 3. 2986 g , 称量铝盒加入样品干燥前后的重量之差为0. 1542g, 运算后的数值为 4. 674710483 (g/100g) 。 按附录 A6. 1. 4 修约后, 保留四位有效数, 即水分 ( g /100 g ) 4. 675, 报告结果时按比卫生标准多一位有效数再次修约保留三位有效数, 即水分 ( g / 100 g )4. 68。 犯了连续修约的错误。此时应按比卫生标准多一位有效数进行一 次修约得出报告结果, 即水分( g / 100 g ) 4. 67。
位数取决于绝对误差最大的数据的位数
278.2 绝对误差:0.1
12.451
0.001
2. 乘除运算,“位数取齐”。
例如:5.438×20.5=111
位数取决于相对误差最大的数据的位数。
5.438
±0.001/5.438100%=±0.02%
20.5
±0.1/20.5100%=±0.5%
III. 有效数字的运算规则
6. 若数据进行乘除运算时, 第一位数字大于或等于8, 其有效数字位数可 多算一位。如9.46可看做是四位有效数字
7. 为提高计算的准确性, 在计算过程中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运算时, 要对其运算结果进行修约, 保 留适当的位数,不可将显示的全部数字作为结果。
8. 表示分析结果的精密度和准确度时,误差和偏差等只取一位或两位有 效数字。
读数误差 溶液体积24.41ml
±0.01ml
II. 有效数字的意义:
9
1.能表示测量数值的大小,可反映出用于测量的量具。
74.6334g ±0.0001g
II. 有效数字的意义:
10
2.记录的数字不仅表示数量的大小,而且要正确地反映测量的精确程度。
0.5100g
0.510g
绝对误差 0.0001
四、准确度
31
I. 准确度的定义 II. 准确度的测定 III. 准确度的表示
I. 准确度的定义
准确度:测定值与真实值符合的程度
II. 准确度的测定
测定:某一稳定样品中加入不同水平已知量的标准物质(将标准物质的 量作为真值)称加标样品;同时测定样品和加标样品;加标样品扣除样 品值后与标准物质的误差即为该方法的准确度。
III. 准确度的表示
用回收率表示方法的准确度。 加入的标准物质的回收率(P)按式计算:
PX1X0 10% 0 m
五、精密度与准确度
35
I. 精密度与准确度的关系 II. 提高准确度
I. 精密度与准确度的关系
36
1. 准确度:分析结果与真实值相接近的程度,说明分析结果的可靠性,用误差来 衡量(误差是客观存在的)
二、数值修约
15
I. 数值修约的定义 II. 数值修约的间隔 III. 数值修约的规则
I. 数值修约的定义
16
数值修约 通过省略原数值的最后若干位数字,调整所保留的末位数字,是最后所得 的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的)修约值。
II. 数值修约的间隔
17
修约间隔 修约值的最小数值单位。 注:修约间隔的数值一经确定,修约值即为该数值的整数倍。 例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数 值修约到一位小数。 例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将 数值修约到百位数。
拟舍弃数字的最左一位数字是 5 ,且其后有非 0 数字时进一
7.4501→75× 10-1 (特定场合可写成7.5 )
III. 数值修约规则
20
B. 一次修约
如:将15.4546修约成整数。
修约 一次 二次 三次 四次修 前 修约 修约 修约 约(×结
修约 修约
果)
1前5.45 1后5.45√ 15.46 15.5 16
⑤ pH=11.20
[5位] [4位] [3位] [2位]
[2位](相当于[H+]=6.3×10-12mol·L-1)
II. 有效数字的意义:
8
有效数字:是指实际上能够测到的数字,其保留的位数由测量仪器、分 析方法的准确度来决定;保留原则是只有最后一位可疑数字。
组成=全部准确数字+最后一位可疑数字
0.001
相对误差 0.0001/0.5100= 0.02% 0.001/0.510= 0.2%
III. 有效数字的运算规则
11
➢ 除特殊规定外,一般可疑数表示末位一个单位的误差。 ➢ 复杂运算时,其中间过程多保留一位有效数字,最后结果须取应有的位
数。 ➢ 加减法计算的结果,其小数点以后的保留的位数,应与参加运算各数中
III. 数值修约规则
23
B. 一次修约 ② 如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而
后面无数字或皆为零时,数值后面有“+”者进一,数值后面有“-” 者舍去。 例如:将下列数字修约到个数位后进行判定(报出值多 留一位到一位小数)
实测值 报出值
15.4546 16.5203
15.5(一) 16.5(+)
拟修约 5X 数值X
830
4150
842
4210
832
4160
5X修约 X修约


4200 840
4200 840
4200 840
三、精密度
26
I. 精密度的定义 II. 精密度的测定 III. 精密度的表示
I. 精密度的定义
27
精密度: 表示在相同条件下,同一试样的重复测定值之间的符合程度。精密 度高低用偏差大小表示。
I. 有效数字的定义:
4
2. 特点: A. 位数与小数点的位置无关。
35.76cm = 0.3576m = 0.0003576km B. 0 的地位
0.0003576 3.005 3.000 都是四位
0在数字中间 和末位有效,在 小数点前面或 紧接小数点后 的是无效的.
I. 有效数字的定义:
5
0.0109?
13
3. 成方、立方、开方,有效数字位数 例如:6.542=42.8
7.562.75
4. 进行对数计算时,对数尾数的位数应与真数的有效数字位数相同。 例如:[H+]=6.3×10-11mol/L,PH=10.20
III. 有效数字的运算规则
14
5. 计算中涉及到常数 π、e以及非测量值,如自然数、分数时,不考虑其有 效数字的位数,视为准确数值。
种类
产生原因
举例
减免方法
方法误差
分析方法不够 完善
重量分析中沉淀的溶解损失 ,滴定分析中指示剂选择不 当
改变方法或做对 照实验
仪器误差
仪器本身的缺 天平两臂不等,砝码未校正

,滴定管、容量瓶未校正
校准仪器
试剂误差
试剂纯度不够, 去离子水不合格 有杂质
空白实验或使用 高纯度试剂
S
n
XX2 i
i1

n X2n
i
i1
i1
Xi 2/n
n1
n1
由于实际工作中只作有限次测量, 测定值的分散程度要用样本标准偏差S表示。样本 为从总体中随机抽取的一部分。
C. 相对标准偏差(RSD):为偏差与平均值之比,用百分率表示。
RSD S 10% 0 X
不允许连 续修约
III. 数值修约规则
22
B. 一次修约 在具体实施中,有时测试与计算部门先将获得数值按指定的修约位数多
一位或几位报出,而后由其他部门判定。为避免产生连续修约的错 误,应按下述步骤进行。 ①报出数值最右的非零数字为5时,应在数值后面加“+”或“-”或不 加符号,以分别表明已进行过舍、进或未舍未进。 如:16.50+表示实际值大于16.50,经修约舍弃成为16.50;16.50-表示 实际值小于16.50,经修约进一成为16.50。
前面两个0不是有效数字,后面的1、0、9均为有效数字。
0.0230?
前面的两个0不是有效数字,后面的2、3、0均为有效数字。
3.109*10^5?
3、1、0、9均为有效数字,后面的10的5次方不是有效数字。
5.2*10^6? 5、2是有效数字。
pH=12.68 ???
I. 有效数字的定义:
6
氢离子浓度指数:是指溶液中氢离子的总数和总物质的量的比。一般称 为“pH”,而不是“pH值”。 表示溶液酸碱度的数值,pH=-lg[H+]即所含氢离子浓度的常用对数的负值。 pH=12.68,即
小数点后位数最少的相同。 ➢ 乘除法计算的结果,其有效数字保留的位数,应与参加运算各数中有效
数字位数最少的相同。 ➢ 方法测定中按其仪器准确度确定了有效的位数后,先进行运算,运算后
的数值再修约。
III. 有效数字的运算规则
12
1. 加减运算,“尾数取齐”。 例如:278.2+12.451=290.7
拟修约 2X 数值X
60.25
120.5
0
60.38
120.76
2X修约 值 120
121
X修约 值 60.0
60.5
III. 数值修约规则
25
C. 0.5单位修约与0.2单位修约 ② 0.2单位修约
是指按拟定修约间隔对拟修约的数值0.2单位进行的修约。 将拟修约数值X乘以5,按指定修约间隔对2X依规定修约,所得数值再除以5。 如:将下列数字修约到“百”数位的0.2单位修约
2. 精密度:在相同条件下,几次平行测定,分析结果相互接近的程度,即重复性 或再现性,用偏差来衡量
3. 二者关系:概念不同,精密度是保证准确度的先决条件,但精密度高并不一定 准确度高,只有精密度高、准确度高的测定数据才是可信的,即应以两方面来 衡量测定结果的好坏
I. 提高准确度
37
系统误差,由某种固定原因造成,使测定结果系统地偏高或偏低,具有重复性、单 向性、可校正。
[H+]=2.1×10-13mol/L
两位
I. 有效数字的定义:
7
➢ 从第一位不为“0”数起 ➢ 科学记数: 3600、3.6×103 、3.600×103 不同 ➢ 倍数、分数、次数等视为无限多位 ➢ 对数如pH、pM、lgK等取决于小数部分(尾数)
例: ① 1.0008 ② 10.98% ③ 1.23×10-5 ④ 0.024
17.5000
17.5
修约值
15
17 18
III. 数值修约规则
24
C. 0.5单位修约与0.2单位修约 必要时,可采用0.5单位修约和0.2单位修约。
① 0.5单位修约 是指按拟定修约间隔对拟修约的数值0.5单位进行的修约。 将拟修约数值X乘以2,按指定修约间隔对2X依规定修约,所得数值再除以2。 如:将下列数字修约到个数位的0.5单位(或修约间隔为0.5)
II. 精密度的测定
28
测定:在某一实验室,使用同一操作方法,测定同一稳定样品时,允许变 化的因素有操作者、时间、试剂、仪器等,测定值之间的相对偏差即为该 方法在实验室内的精度。
III. 精密度的表示
1. 绝对偏差与相对偏差 A. 绝对偏差(d): 是某一测定值Xi与平均值x之差。
d X X i
B. 相对偏差(Rd): 是绝对偏差与平均值之比,常用百分率表示。
Rd d 100% X
C.
平行样相对误差(%)
|X1 X2| X1X2
100%
2
III. 精密度的表示
2. 标准偏差
A. 算数平均值(X):
wenku.baidu.com
n
Xi
XX1X2 Xn i1
n
n
B. 标准偏差(S):它反映随机误差的大小。
III. 数值修约规则
19
2、进舍规则 A. 四舍六入五成双
例,修约间隔0.1( 或10-1 ) 7.549 →75 × 10-1 (特定场合可写成7.5 )
8.736.945→084× 10-1 (特定场合可写成8.4) 1 7.4500 →74× 10-1 (特定场合可写成7.4 )
7.3500 → 74× 10-1 (特定场合可写成7.4 )
一、有效数字 1 二、数字修约的规则 三、精密度 四、准确度 五、精密度与准确度
珠海
一、有效数字
2
I. 有效数字的定义 II. 有效数字的意义 III. 有效数字的运算规则
I. 有效数字的定义:
3
1. 定义:就是一个数从左边第一个不为0的数字数起到末尾数字为止, 所有的数字(包括0,科学计数法不计10的N次方),称为有效数字。
III. 数值修约规则
18
1、确定修约间隔 A. 指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;
例:修约间隔10-1 B. 指定修约间隔为1,或指明将数值修约到“个”位数; C. 指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,
或指明将数值修约到“十”、“百”、“千”……数位。
相关文档
最新文档