第2章 数据处理
第二章误差和数据处理教程
能随意增加或减少。
一、有效数字
(significant figure)
滴定管读数保留到2位小数， 18.43 ml
有效数字不仅能表示数值的 大小，还可反映测量的精确程 度。
如何判断有效数字的位数？
1.在数据中，1至9均为有效数字 2.首位数字8或9时，有效数字可以多计一位 例：90.0% ，可示为四位有效数字 4.变换单位时，有效数字的位数必须保持不变 例：10.00[mL]→0.001000[L] 均为四位 5.．pH，pM，pK，lgC，lgK等对数值，其有效数字的 位数取决于小数部分（尾数）数字的位数，整数部 分只代表该数的方次 例：pH = 11.20 → [H+]= 6.3×10-12[mol/L] 两位
w 0.2000g
续前
2）滴定 例：滴定管一次的读数误差为0.01mL，两次的读数误差 为0.02mL，RE%≤0.1%，计算最少移液体积？
2 0.01 RE % 100% 01% . V
V 20 mL
四、提高分析结果准确度的方法
3．增加平行测定次数，一般测3～4次以减小偶然误差 4．消除测量过程中的系统误差 1）与经典方法进行比较 2）校准仪器：消除仪器的误差 3）空白试验：消除试剂误差 4）对照实验：消除方法误差 5）回收实验：加样回收，以检验是否存在方法误差
偏差越小→数据越集中→精密度越高；
偏 差 的 表 示 方 法
•偏差:单次测量值与平均值之差
d xi x
•平均偏差:各个偏差绝对值的平均值。
d
i 1
n
xi x n
•相对平均偏差：平均偏差与平均值的比值。
d 相对平均偏差 (%) 100% x
GrADS学习资料：第2章 数据处理
big-endian、little-endian 用于自动改变二进制位存放顺序
<template> 多个时间序列原始数据文件用一个数据描 述文件统一地描述描述这些原始数据时采用的选项， 这些数据文件的文件名形式由 dset 定义的形式命名 文件名，提示所含数据的时次。
例如：
正确的替换为： %y2 两位数年 %y4 4 位数年 %m1 1 或2 位数月 %m2 2 位数月（用 0补齐 1 位数） %mc 3 字符月份缩写 %d1 1 或2 位数天 %d2 2 位数天 %h1 1 或2 位数小时 %h2 2 位小时
设置X方向格点与经度的对应关系
XDEF number <LINEAR Start increment> 或 XDEF number <LEVELS value-list>
number（>=1）给定格点数，整形； LINEAR指明是等间隔分布格点， Start起点坐标，负数表示西经； increment网格间距。 LEVELS参数指明是不等间隔分布格点，列 出具体每个格点的坐标值（以空格分开）。
open(1,file='u.dat')
open(2,file='v.dat')
open(3,file='sst.dat')
! 打开目标文件
open(12,file='mhy.grd',form='binary')
! 把数据文件读入
do 100 it=1,nt do 50 iz=1,nz
read(1,*) ((u(i,j,iz,it),i=1,nx),j=1,ny) 50 continue
第二章误差和数据处理
0.501.00 0.025
1.002.00 0.035
2.003.00 0.045
3.004.00 0.050
＞ 4.00 0.060
公差 0.015 （ ± %）
例行分析一般测两次，若2次平行测定之差在2倍公差范 围之内，取平均值报出结果；否则称为“超差”，必须重做。
例如，水泥中SiO2的测定。标准规定同一实验室内公差 ( 允许误差 ) 为±0.20% ，如果两次平行测定测得的数据分别 为 21.14% 及 21.58% ，两次测定结果的差值为 0.44% ，超过双
相关案例 食用醋总酸度的测定，每个人平行测定3次，统计测定结果。 结论： 误差是客观存在的！
本课程主要任务是学习定量分析方法，要求测定结果必须
有一定的准确度，以满足生产和科研需要。
分析测试：多次平行测定
结果计算 结果评价：准确度、精密度
定量分析的任务
找出误差产生原因，设法减免误差。
一、误差的表征——准确度与精密度
1. 准确度与误差 准确度：是指分析结果与真值之间的接近程度。
准确度的高低常以误差的大小来衡量。
误差：测定值与真值之间的差值。
误差越小，表示测定结果与真值越接近，准确度越高；
反之，测定结果的准确度越低。
真值：某一物理量本身具有的客观存在的真实数值。 一般说来，真值是未知的，在分析化学中，常将以下的值 当作真值来处理： （1）理论真值：如化合物的理论组成等。
•掌握有效数字的概念和运算规则。
能力目标：
•能够正确计算分析结果的误差、偏差。
•能够分析定量过程中产生误差的原因，提出减免方法。 •能正确计算平均值的置信区间。 •能正确判断并取舍测量数据中的可疑值。 •能够正确记录测量数据、正确计算和保留分析结果的有效
第二章 试验检测数据处理
第二章试验检测数据处理1.何谓总体、样本？2.质量数据的统计特征量有哪些？3.随机抽样检查的方法有哪些？4.质量数据的统计方法有哪些？5.最小二乘法的基本原理是什么？6.请修约以下数据：15.3528（保留两位小数）；125.555（保留整数）；15.3528（保留一位小数）；19.998（保留两位小数）；10.0500001（保留一位小数）；16.6875（保留三位小数）；10.35（保留一位小数。
）7.某路段沥青混凝土面层抗滑性能检测，摩擦系数的检测值（共10个测点）分别为：55、56、59、60、54、53、52、54、49、53，求摩擦系数的平均值、中位数、极差、标准偏差、变异系数。
参考答案1.何谓总体、样本？【答】总体又称母体，是统计分析中所要研究对象的全体。
样本是从总体中抽取的一部分个体2.质量数据的统计特征量有哪些？【答】工程质量数据的统计特征量分为两类：一类表示统计数据的差异性，即工程质量的波动性，主要有极差、标准偏差、变异系数等；另一类是表示统计数据的规律性，主要有算术平均值、中位数、加权平均值等。
3.随机抽样检查的方法有哪些？【答】随机抽样常采用的方法有单纯随机取样、分层取样、两级取样、两级取样和系统取样等。
4.质量数据的统计方法有哪些？【答】质量数据的常用统计方法有频数分布直方图法、排列图法、因果分析图法、控制图法、分层法、相关图法和统计调查分析法等5.最小二乘法的基本原理是什么？【答】最小二乘法的基本原理为：当所有测量数据偏差的平方和最小时，索赔的直线最优。
6.请修约以下数据：15.3528（保留两位小数）；125.555（保留整数）；15.3528（保留一位小数）；19.998（保留两位小数）；10.0500001（保留一位小数）；16.6875（保留三位小数）；10.35（保留一位小数。
【答】 15.3528 → 15.35（保留两位小数） 125.555 →126（保留整数） 15.3528 → 15.4(保留一位小数) 19.998 → 20.00（保留两位小数） 10.0500001 → 10.1（保留一位小数） 16.6875→ 16.688（保留三位小数） 10.35 → 10.4（保留一位小数）7.某路段沥青混凝土面层抗滑性能检测，摩擦系数的检测值（共10个测点）分别为：55、56、59、60、54、53、52、54、49、53，求摩擦系数的平均值、中位数、极差、标准偏差、变异系数。
数量生态学(第二版)第2章 数据处理
第二章数据的处理数据是数量生态学的基础，我们对数据的类型和特点应该有所了解。
在数量分析之前，根据需要对数据进行一些预处理，也是必要的。
本章将对数据的性质、特点、数据转化和标准化等做简要介绍。
第一节数据的类型根据不同的标准，数据可以分成不同的类型。
下面我们将介绍数据的基本类型，它是从数学的角度，根据数据的性质来划分的；然后叙述生态学数据，它是根据生态意义而定义的，不同的数据含有不同的生态信息。
一、数据的基本类型1、名称属性数据有的属性虽然也可以用数值表示，但是数值只代表属性的不同状态，并不代表其量值，这种数据称为名称属性数据，比如5个土壤类型可以用1、2、3、4、5表示。
这类数据在数量分析中各状态的地位是等同的，而且状态之间没有顺序性，根据状态的数目，名称属性数据可分成两类：二元数据和无序多状态数据。
（1）二元数据：是具有两个状态的名称属性数据。
如植物种在样方中存在与否，雌、雄同株的植物是雌还是雄，植物具刺与否等等，这种数据往往决定于某种性质的有无，因此也叫定性数据（qualitative data）。
对二元数据一般用1和0两个数码表示，1表示某性质的存在，而0表示不存在。
（2）无序多状态数据：是指含有两个以上状态的名称属性数据。
比如4个土壤母质的类型，它可以用数字表示为2、1、4、3，同时这种数据不能反映状态之间在量上的差异，只能表明状态不同，或者说类型不同。
比如不能说1与4之差在量上是1与2之差的3倍，这种数据在数量分析中用得很少，在分析结果表示上有时使用。
2．顺序性数据这类数据也是包含多个状态，不同的是各状态有大小顺序，也就是它一定程度上反映量的大小，比如将植物种覆盖度划为5级，1=0~20%，2=21%~40%，3=41%~60%，4=61%~80%，5=81%~100%。
这里1~5个状态有顺序性，而且表示盖度的大小关系。
比如5级的盖度就是明显大于1级的盖度，但是各级之间的差异又是不等的，比如盖度值分别为80%和81%的两个种，盖度仅差1%，但属于两个等级4和5；而另外两个盖度值分别为41%和60%，相差19%，但属于同一等级。
第二章 误差和分析数据处理
课堂互动 下面是三位学生练习射击后的射击靶 图，请您用精密度或准确度的概念来评 价这三位学生的射击成绩。
二、系统误差和偶然误差
误差(error)：测量值与真实值的差值
根据误差产生的原因及性质，可以将误差分为系统误 差和偶然误差。
1 系统误差 (systematic error) 又称可测误差，由某
§3 有效数字及计算规则
小问题：1与1.0和1.00相等吗? 答:在分析化学中1≠1.0≠1.00 一、有效数字(significant figure) 概念：分析工作中实际上能测量到的数字，除最后一 位为可疑数字，其余的数字都是确定的
如：分析天平称量：1.21 23 (g) 滴定管读数：23.20 (ml)
=0.17
S 0.17 RSD 100 % 100 % 1.1% 15.82 X
用标准偏差比用平均偏差更科学更准确。
例: 两组数据
(1) 0.11, -0.73, 0.24, 0.51, -0.14, 0.00, 0.30, -0.21,
n=8 n=8 d1=0.28 d2=0.28 s1>s2 s1=0.38 s2=0.29 (2) 0.18, 0.26, -0.25, -0.37, 0.32, -0.28, 0.31，-0.27
(1)绝对误差 (δ) : δ= x－μ (2) 相对误差(RE): R E= δ / μ× 100%
注:
注1:两种误差都有正、负值之分。
小问题1：
买猪肉1000斤少0.5斤和买1斤少0.5斤哪个误差大?
小问题2： 用分析天平称量两个样品，一个是0.0021克，另一 个是0.5432克，两个测量值的绝对误差都是0.0001 克，试通过计算相对误差来说明哪种表示法更好。
分析化学：第二章_误差和分析数据处理二
化学分析
第二章 误差和分析数据处理
4
• 对于很小的数字，可用指数形式表示。例如，离 解常数Ka=0.000018，可写成Ka=1.8×10-5；很大的 数字也可采用这种表示方法。例如2500L，若为 三位有效数字，可写成2.50×103L。
• 例如，0.0121×25.64×1.0578=0.328，其中，有 效数字位数最少的0.0121相对误差最大，故计 算结果应修约为三位有效数字。
化学分析
第二章 误差和分析数据处理
11
• 3. 百分数表示 • 高含量组分（>10%），保留四位有效数字； • 中含量组分（1～10%），保留三位有效数字； • 低含量组分（<1%），保留两位有效数字。 • 4. 其他运算 • 乘方或开方，结果的有效数字位数不变，
化学分析
第二章 误差和分析数据处理
19
3.正态分布曲线规律：
• (1) x=μ时，y值最大，体现了测量值的集中趋 势。说明误差为零的测量值出现的概率最大。 大多数测量值集中在算术平均值的附近。
• (2) 曲线以x=μ这一直线为其对称轴，说明绝对 值相等的正、负误差出现的概率相等。
• (3) 当x趋于-∞或+∞时，曲线以x轴为渐近线。 即小误差出现概率大，大误差出现概率小。
化学分析
第二章 误差和分析数据处理
5
• 对pH、pM、lgc、lgK等对数值，其有效数字的
位数仅取决于小数部分数字的位数，整数部分 只说明其真数的方次。如pH=11.02，即[H＋]＝ 9.6×10-12mol/L，其有效数字为两位而非四位。
第2章 数据预处理
二、数据预处理
3.数据集成和数据变换 3.1 数据集成 3. 数据值冲突的检测与处理 在一个系统中记录的属性的抽象层可能比另一个系统中“相同的”属性
低。数据集成时将一个数据库的属性与另一个匹配时，要考虑数据的结构用 来保证原系统中的属性函数依赖和参照约束与目标系统中的匹配。
二、数据预处理
3.数据集成和数据变换 3.2 数据变换 数据变换的目的是将数据转换或统一成适合于挖掘的形式。
二、数据预处理
4.数据规约 数据归约技术可以用来得到数据集的归约表示，它比原数据小得多，但
仍接近保持原数据的完整性。
常见的数据规约的方法包括数据立方体聚集、维规约、数据压缩、数值 规约以及数据离散化与概念分层等。
二、数据预处理
4.数据规约 4.1 数据立方体聚集 数据立方体聚集主பைடு நூலகம்是用于构造数据立方体，数据立方体存储多维聚集
二、数据预处理
4.数据规约 4.5 数值离散化与概念分层
1、数值数据的离散化和概念分层产生
（5）聚类分析 聚类分析是一种流行的数据离散化方法。 将属性A的值划分成簇或组，聚类考虑A的分布以及数据点的邻近性，可
以产生高质量的离散化结果。遵循自顶向下的划分策略或自底向上的合并策 略，聚类可以用来产生A的概念分层，其中每个簇形成概念分层的一个节点。 在前者，每一个初始簇或划分可以进一步分解成若干子簇，形成较低的概念 层。在后者，通过反复地对邻近簇进行分组，形成较高的概念层。
i1 j1
eij
其中，oij是联合事件 ( Ai , Bj )的观测频度（即实际计数），而 eij是( Ai , Bj ) 的期
望频度，可以用下式计算
二、数据预处理
3.数据集成和数据变换
第二章 实验数据误差分析和数据处理
第二章误差和分析数据处理•2.1 测量值的准确度和精密度•2.2 提高分析结果准确度的方法（自学）•2.3 有效数字及其运算规则•2.4 有限量测量数据的统计处理•2.5 相关分析和回归分析（自学）§2.1 测量值的准确度和精密度误差（Error) : 测量值与真值之差。
➢真值T (True value)某一物理量本身具有的客观存在的真实值。
真值是未知的、客观存在的量。
在特定情况下认为是已知的：1、理论真值（如化合物的理论组成）(如，NaCl中Cl的含量）2、计量学约定真值（如国际计量大会确定的长度、质量、物质的量单位等等）3、相对真值（如高一级精度的测量值相对于低一级精度的测量值）（例如，标准样品的标准值）误差分类•系统误差（Systematic error)—某种固定的因素造成的误差方法误差、仪器误差、试剂误差、操作误差•随机误差（Random error)—不定的因素造成的误差仪器误差、操作误差系统误差与随机误差的比较项目系统误差随机误差产生原因固定因素，有时不存在不定因素，总是存在分类方法误差、仪器与试剂误差、主观误差环境的变化因素、主观的变化因素等性质重现性、单向性（或周期性）、可测性服从概率统计规律、不可测性影响准确度精密度消除或减小的方法校正增加测定的次数系统误差的校正•方法系统误差——方法校正•主观系统误差——对照实验校正（外检）•仪器系统误差——对照实验校正•试剂系统误差——空白实验校正如何判断是否存在系统误差？E a = x –x T 相对误差x ＜x T 为负误差，说明测定结果偏低x ＞x T 为正误差，说明测定结果偏高误差越小，分析结果越接近真实值，准确度也越高x -x T x T x T E r = ——= ————常用%表示Ea 绝对误差 误差的表示：对一B 物质客观存在量为T 的分析对象进行分析，得到n 个个别测定值x 1、x 2、x 3、••• x n ，对n 个测定值进行平均，得到测定结果的平均值，那么：个别测定的误差为：T x i -测定结果的绝对误差为：T x E a -=测定结果的相对误差为：%100⨯=TE E a r 平均值偏差（deviation): 单次测量值与测量平均值之差。
第二章+误差和分析数据的+处理
总体标准偏差（）：当测量为无限次测量时，各 测量值对总体平均值的偏离。
公式：
n
(xi ) 2
i 1
n
—总体平均值
只能在总体平均值已知的情况下才使用
• (样本)标准偏差(standard deviation， S)：有限次测
量(n20)的各测量值对平均值的偏离。
（2）若分析结果R是测量值X、Y、Z三个测量值相 乘除的结果，例如：R=XY/Z 则：
R X Y Z
RXY Z
• P12 例3
2.1.3.2 偶然误差的传递
1.极值误差法
考虑在最不利的情况下，各步测量带来的误差的 相互累加，这种误差称为极值误差。 用这种简便的方法可以粗略估计可能出现的最大 偶然误差。 一般情况下，当确定了使用的测量仪器和测定步 骤后，各测量值的最大误差就是已知的。 例如：称量；滴定
滴定管读数的极值误差为： ΔV=|±0.01 mL| + |±0.01 mL |=0.02 mL
故滴定剂体积为： （22.10-0.05）mL± 0.02 mL =（22.05±0.02）mL
2. 标准偏差法 （1）和、差的结果的标准偏差的平方是各测量值
标准偏差的平方之和。
（2）积、商的结果的相对标准偏差的平方是各测 量值相对标准偏差的平方之和。
被测组分含量不同时，对分析结果准确度的要求 就不一样。常量组分的分析一般要求相对误差在 0.2%，微量组分在1%到5%。
2.1.4.2 减小测量误差
根据误差的传递规律，分析过程中每一步的测
量误差都会影响最后的分析结果，所以尽量减 小各步的测量误差。 如何减小？
各测量步骤的准确度应与分析方法的准确度相
02 第二章 误差与分析数据的处理
1.频数分布
频数是指每组中测量值出现的次数，频数与数据 总数之比为相对频数，即概率密度。
整理上述数据，按组距0.03来分成10组，得频数分布表：
分 组
1.265% 1.295% 1.295% 1.325% 1.325% 1.355% 1.355% 1.385% 1.385% 1.415% 1.415% 1.445% 1.445% 1.475% 1.475% 1.505% 1.505% 1.535% 1.535% 1.565%
因此，应该了解分析过程中误差产生的原因及其出现的 规律，以便采取相应措施，尽可能使误差减小。另一方面 需要对测试数据进行正确的统计处理，以获得最可靠的数 据信息。
2.1 定量分析中的 误差
误差与准确度
准确度（accuracy）是指分析结果（测定平均值）与真值
接近的程度，常用误差大小表示。误差小，准确度高。
两组精密度不同的测量值的正态分布曲线
正态分布规律
（1）x=μ时，y最大。即多数测量值集中在μ附近，或者说
总体平均值是最可信赖值或最佳值。 （2）x=μ时的直线为对称轴。即正负误差出现的概率相等。 （3）x→〒≦时，曲线以x轴为渐近线。即大误差出现的 概率小，出现很大误差的测定值概率趋近零。 （4） ↗, y↘ ，即测量精密度越差，测量值分布越分散， 曲线平坦。
2.正态分布
在分析化学中，测量数据一般符合正态分布规律。正态分 布是德国数学家高斯首先提出的，又称高斯曲线，下图即为正 态分布曲线N(μ,σ2)，其数学表达式为
1 y f(x) e 2
(x ) 2 2 2
y表示概率密度；x表示测量值； μ是总体平均值；σ是总体标准偏差 μ决定曲线在x轴的位臵；σ决定 曲线的形状：σ小，数据的精密度好， 曲线瘦高；σ大，数据分散，曲线较扁平。
第2章 数据预处理-作业
第二章 数据预处理2-1【解】（1）三倍标准差法（拉依达准则）： 计算的相关数据列于表2-1(a)中。
018.515151==∑=i i x x ，5509.0142496.41-1512===∑n e S i ，则3S = 1.6528，从表2-1(a)中数据可知：对任意x i ，都有S e 3i <，故无异常数据。
（2）肖文奈特准则：当 n =15时，0333.021==n α，9833.02-1=α，查表得：A z =2.127，172.1=⨯S A Z ，将表2-1(a)中的i e 与1.172比较，其中172.1418.17>=e ，则数据3.60应剔除。
将剩余的14个数据重新计算，计算结果列于表2-1(b)中。
当n =14时，119.514141==∑=i ixx ，0154.0130953.21-1412===∑n eS i，0357.021==n α，9821.02-1=α，查表得：A z =2.100，843.0=⨯S A Z ，将表2-1(b)中的i e 与0.843比较，其中843.0891.09>=e ，则数据6.01应剔除。
将剩余的13个数据重新计算，计算结果列于表2-1(c)中。
当n =13时， 5.05131311==∑=i ix x ，0.3216211.24091-3112===∑n e S i ，8503.021==nα，表2-1(a)表2-1(b)0898.02-1=α，查表得：A z =2.070，666.0=⨯S A Z ，将表2-1(c)中的i e 与0.666比较，对任意x i ，都有S A e ⨯<z i ，则剩余的13个数据都符合本方法的要求，属于正常数据。
综上，3.60和6.01为异常数据。
（3）格拉布斯准则：将测量数据按由小到大的顺序排列，并算出g i 列于表2-1(d)中。
其中018.5=x ，5509.0=S ，Se g i i =。
第二章 定量分析的误差和数据处理
σ↑，y↓, 数据分散，曲线平坦 σ↓，y↑, 数据集中，曲线尖锐 测量值都落在－∞～＋∞，总概率为1
标准正态分布曲线—— x ～ N(0 ,1 )曲线 为便于计算，正改标正。方法是横坐标改为u
令u x
1
u2 e 2
y f ( x)
2
又dx du f ( x)dx
正态分布曲线—— x ～ N(μ ,σ2 )曲线
1 y f ( x) e 2
( x )2 2 2
x y f ( x)
1
特点
2
以x-μ～y作图
x =μ时，y 最大→大部分测量值集中 在算术平均值附近 曲线以x =μ的直线为对称→正负误差 出现的概率相等 当x →﹣∞或﹢∞时，曲线渐进x 轴， 小误差出现的几率大，大误差出现的 几率小，极大误差出现的几率极小
准确度与精密度的关系：
准确度高必然要求精密度好，
但精密度好不一定准确都高。 消除系统误差后，高精密度才能保证高准确度
准确 度和精 密度都 ▲ 好 ▲ ▲▲
●
★
准确度 不好但精 密度好
▲
▲
1 2 3 4 56 7 8
★ ● ●● ● 9 10 ●
★
★
★
准确度 和精密度 都不好
★
为了说明一组平行测定数据的精密度，要用平均偏 n n 差或标准偏差来表示。 平均偏差:
1 2
u2 e 2
1 2
u2 e 2 du
(u )du
即y (u )
注：u 是以σ为单位来表示随机误差 x -μ
标准正态分布
u 1, x 1
区间概率%
第二章 误差和分析数据处理
2位
2位
2位
(6) 数据的第一位数大于等于 8, 有效数字可多算一 位： 9.55 4位 ; 8.2 3位
37
1.0008 0.1000 0.0382
43181 10.98%
五 位有效数字 四 位有效数字 二 位有效数字 一 位有效数字 位数模糊
1.98×10-10 三 位有效数字
54
0.05
0.0040
度）是精密度常见的别名。
一般例行分析精密度用相对平均偏差表示就
够了，但在科研中要用标准偏差或相对标准偏差
来表示。
18
3、准确度和精密度的关系
x1
x2
x3
x4
19
一般情况下，精密度高，准确度不 一定高。 精密度不高，准确度不可靠。 在消除系统误差的前提下，精密度 好，准确度就高。 精密度高是保证准确度好的前提 精密度好不一定准确度高
答：不可以。 3、系统误差和偶然误差在起因及出现规律方面，有什 么不同？ 答：系统误差是由确定原因引起的，可重复出现，偶然 误差是由不确定原因引起的，遵循一定的统计规律。
7
4、分析测定中系统误差的特点是： A、由一些原因引起的 B、重复测定会重复出现 C、增加测定次数可减小系统误差 D、系统误差无法消除
☆移液管:25.00mL(4);
☆量筒(量至1mL或0.1mL):25mL(2), 4.0mL(2)
34
有效数字的位数与计算相对误差有关
0.5180g
相对误差=± 0.0001/ 0.5180 ×100%=±0.02%
0.518g
相对误差=± 0.001/0.518 ×100%=±0.2%
35
判断有效数字的位数:
第二章
第二章误差和数据处理
第二节 有效数字及其运算法则
一、有效数字 二、数字的修约规则 三、有效数字的运算规则
一、有效数字 (significant figure)
定义：是指在分析工作中实际上能测量到的数字， 有效数字位数包括所有准确数字和一位欠准数字。
解：R= 4.10 0.0050 / 1.97 =0.0104 R/R=-0.02/4.10+0.0001/0.00500–(-0.04)/1.97
=0.035 = 3.5% R =R 0.035 = 0.035 0.0104 = 0.00036 = R - R = 0.0104 - 0.00036 =0.01004
系统误差的来源
•方法误差：方法不恰当或不完善 •仪器误差：仪器不准或未校正 •试剂误差：试剂不纯 •操作误差：个人操作问题
（主观误差）
系统误差的表现方式
•恒量误差：多次测定中系统误差的 绝对值保持不变 •比例误差：系统误差的绝对值随样 品量的增大而成比例增大，相对值不 变。
偶然误差
又称随机误差或不可定误差，是由某些偶 然因素引起的误差。
偶然误差特点
a.方向不确定（误差时正时负） b.大小不确定（误差时大时小） c.符合统计规律
绝对值相等的正负误差出现概率基本相等 小误差出现的概率大,大误差出现的概率小
d.可增加平行测定次数消除
过失误差
在正常情况下不会发生过失误差，是仪器失灵、 试剂被污染、试样的意外损失等原因造成的。 一旦察觉到过失误差的发生，应停止正在进行 的步骤，重新开始实验。
•平均偏差:各个偏差绝对值的平均值。
第二章 误差及数据处理
第二章误差及数据处理§1 误差概述一、误差的来源1.测定值分析过程是通过测定被测物的某些物理量，并依此计算欲测组分的含量来完成定量任务的，所有这些实际测定的数值及依此计算得到的数值均为测定值。
2.真实值 true value真实值是被测物质中某一欲测组分含量客观存在的数值。
在实验中，由于应用的仪器，分析方法，样品处理，分析人员的观察能力以及测定程序都不十全十美，所以测定得到的数据均为测定值，而并非真实值。
真实值是客观存在的，但在实际中却难以测得。
真值一般分为：<1>理论真值：三角形内角和等于1800。
<2>约定真值：统一单位（m.k g,.s）和导出单位、辅助单位。
1）时， <3>相对真值：高一级的标准器的误差为低一级标准器的误差的51（31~20则认为前者为后者的相对真值。
思考：滴定管与量筒、天平与台称3.误差的来源真值是不可测的，测定值与真实值之差称为误差。
在定量分析中，误差主要来源于以下六个方面：<1> 分析方法由于任何一种分析方法都仅是在一定程度上反映欲测体系的真实性。
因此，对于一个样品来说，采用不同的分析方法常常得到不同的分析结果。
实验中，当我们采用不同手段对同一样品进行同一项目测定时，经常得到不同的结果，说明分析方法和操作均会引起误差。
例如：在酸碱滴定中，选用不同的指示剂会得到不同的结果，这是因为每一种指示剂都有着特定的pH变化范围，反应的变色点与酸、碱的化学计量点有或多或少的差距。
另外在样品处理过程中，由于浸取、消化、沉淀、萃取、交换等操作过程，不能全部回收欲测物质或引入其他杂质，对测定结果也会引入误差。
<2> 仪器设备由于仪器设备的结构，所用的仪表及标准量器等引起的误差称为仪器设备误差。
如：天平两臂不等、仪表指示有误差、砝码锈蚀、容量瓶刻度不准等。
<3> 试剂误差试剂中常含有一定的杂质或由贮存不当给定量分析引入不易发现的误差。
分析化学 第二章 定量分中误差和数据处理
例
用沉淀滴定法测定纯NaCl（0.6066）中氯的质量
分数，得到下列结果：0.5982，0.6006，
0.6046，0.5986，0.6024。
则平均结果为_______ 0.6009 ____；
平均结果的绝对误差为_____-_0__._0057 ____；
相对误差为___ -0.94%_____；
(1)系统误差产生的主要原因(或分类) ：
a. 方法误差 b. 仪器误差 c. 试剂误差 d. 操作误差
e. 主观误差
a.方法误差
这种误差是由于分析方法本身所造成的。例如： 在重量分析中，沉淀的溶解损失或吸附某些杂质而产 生的误差；在滴定分析中，反应进行不完全，干扰离 子的影响，滴定终点和化学计量点的不符合，以及其 他副反应的发生等，都会系统地影响测定结果。
0.0,+0.1, -0.7,+0.2,-0.1,-0.2, +0.5,-0.2,+0.3,+0.1 两组数据平均偏差均为0.24
（二）标准偏差和相对标准偏差
近年来，在分析化学的教学中，愈来愈广泛地采用数理统 计方法来处理各种测定数据。在数理统计中，我们常把所 研究对象的全体称为总体（或母体）；自总体中随机抽出 的一部分样品称为样本（或子样）；样本中所含测量值的 数目称为样本大小（或容量）。例如，我们对某一批煤中 硫的含量进行分析，首先是按照有关部门的规定进行取 样、粉碎、缩分，最后制备成一定数量的分析试样，这就 是供分析用的总体。如果我们从中称取10份煤样进行平 行测定，得到10个测定值，则这一组测定结果就是该试 样总体的一个随机样本，样本容量为10。
0.0,+0.1, -0.7,+0.2,-0.1,-0.2, +0.5,-0.2,+0.3,+0.1 S2=0.33
第二章-原始数据的处理方法.doc
第二章原始数据的处理方法原始数据的处理是数据分析中极为重要的内容。
在本节中，我们将介绍原始数据的来源及其特点，着重阐述原始数据初始变换的几种方法，并利用例子进行演示。
第一节原始数据的来源及其特点原始数据一般包括反映自然资源区域特征，如海况、气象、水文、地形、地貌、动植物等；反映区域社会经济条件和生产力水平，如人口及其人口密度、捕捞劳力、海域面积、渔船数量、渔船功率以及渔业总产值、捕捞产值、养殖产值等。
原始数据按其性质大体可分为（1）科学实验和观测数据；（2）社会经济统计数据；（3）生产经验数据；（4）有关部门的决策和目标数据；（5）定性资料的量化数据等。
不同的数据有不同的来源。
但归纳起来，主要的来源有：（1）国家统计部门和行业部门的历年统计资料，这些多为社会经济指标；（2）有关业务部门的历年观测数据及其科学实验报告，这些多数为自然因素指标，如东海区渔业资源和环境观测数据；（3）选择有代表性的单位或年度，进行实地典型调查所得的数据；（4）区域规划部门通过收集、调查、观察和计算积累的数据；（5）调查访问有实践经验的劳动者、生产技术人员、科研人员以及管理人员所得的数据；（6）国家有关部门制定的发展规划、建设方案等决策数据；（7）其它方面的数据。
我们将以上所获得的各种资料和数据成为原始数据。
这些数据来源不同，其类型也不同。
从利用分析的角度来看，这些数据有以下几个主要特点：（1）不同的量纲。
如渔业产值为元，渔业产量为公斤，水温为摄氏度，作业时间为天，航程为海里，捕捞努力量为吨、千瓦、艘、人数，CPUE为吨/天、吨/小时、吨/千瓦等。
（2）数量级大小相差悬殊，有的数字仅是小数级，有的数字大到亿万。
如渔业产值以亿万元或万元计算，而劳动生产率只有几十元到几百元；渔业资源量上千万吨或几万吨等。
（3）大部分数据有一定的随机性，特别是统计或观测的时间序列或偶测值，不论是自然指标还是经济数据，都有随机变化，均有明显的摆动。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
如果不考虑采用无格式直接方式存取文件的 可以使用下面的编程形式，较为简单。 话，可以使用下面的编程形式，较为简单。 parameter(nx=37,ny=17,nz=2,nt=48) dimension u(nx,ny,nz,nt),v(nx,ny,nz,nt),sst(nx,ny,nt) open(1,file='u.dat') open(2,file='v.dat') open(3,file='sst.dat') open(12,file='mhy.grd',form='binary')
! 把数据文件读入
do 100 it=1,nt do 50 iz=1,nz read(1,*) ((u(i,j,iz,it),i=1,nx),j=1,ny) 50 continue do 51 iz=1,nz read(2,*) ((v(i,j,iz,it),i=1,nx),j=1,ny) 51 continue read(3,*) ((sst(i,j,it),i=1,nx),j=1,ny) 100 continue
! 打开原始数据文件 如果数据文件和Fortran程序 打开原始数据文件,如果数据文件和 如果数据文件和 程序 在一个文件夹下，打开数据文件时可以不写路径。 在一个文件夹下，打开数据文件时可以不写路径。 open(1,file='u.dat') open(2,file='v.dat') open(3,file='sst.dat') ! 打开目标文件，recl为记录的长度，对于直接存 打开目标文件， 为记录的长度， 为记录的长度 取文件必须指定记录长度 。 open(12,file='mhy.grd',form='unformatted', #access='direct', recl=nx*ny*4)
（2）数据描述文件中各记录的含义： 数据描述文件中各记录的含义：
DSET <路径 数据文件名 路径/>数据文件名 路径 给定与此数据描述文件相对应的二进 制原始数据文件名（可包含路径）。 制原始数据文件名（可包含路径）。 若两者位于同一目录， 若两者位于同一目录，前面的路径可 以省略或以“ 开始 开始， 以省略或以“^”开始，代表两者位于 同一目录。若不在同一目录下， 同一目录。若不在同一目录下，应给 出路径参数。 出路径参数。如：d:/mydata/test.grd
irec=0 do 200 it=1,nt do 30 iz=1,nz irec=irec+1 write(12,rec=irec) ((u(i,j,iz,it),i=1,nx),j=1,ny) 30 Continue do 31 iz=1,nz irec=irec+1 write(12,rec=irec) ((v(i,j,iz,it),i=1,nx),j=1,ny) 31 continue irec=irec+1 write(12,rec=irec) ((sst(i,j,it),i=1,nx),j=1,ny) 200 continue
do 200 it=1,nt do 30 iz=1,nz write(12) ((u(i,j,iz,it),i=1,nx),j=1,ny) 30 Continue do 31 iz=1,nz write(12) ((v(i,j,iz,it),i=1,nx),j=1,ny) 31 continue write(12) ((sst(i,j,it),i=1,nx),j=1,ny) 200 continue end
第2章 数据处理 章
在使用GrADS绘图前，必须使所 用数据文件满足GrADS的数据格 式要求。
2.1 各类数据格式的特点
一般二进制无格式直接或者顺序记 录的数据格式： 录的数据格式：可以是格点数据或 站点数据，可以用Fortran或者C Fortran或者 站点数据，可以用Fortran或者C语 言读写。 言读写。 需要数据描述文件.ctl 需要数据描述文件.ctl
4 3 2 1
3. 举例（格点资料） 举例（格点资料）
现有ASCII码（十进制存放格式）数据资料文 码 十进制存放格式） 现有 件u.dat、v.dat和sst.dat， 、 和 ， 其空间范围： 其空间范围：60-150°E，0-40°N； ° ， ° ； 层次： 、 为 层次：u、v为850、 200hPa； 、 ； 时段： 时段：1982.1-1985.12； ； 分辨率： 分辨率：2.5*2.5。 。 要求编写出将这三个文件转换成二进制无格式 直接存取（ 格式.grd）文件的 直接存取（Grads格式 格式 ）文件的Fortran程 程 序。
OPTIONS <keywords>
定义数据格式选项， 定义数据格式选项，keywords 有： <yrev><zrev><sequential><byteswapped> <template><big-endian><titlee-endian> 缺省时为 direct 直接记录格式（form='binary'） 直接记录格式（ ）
do 100 it=1,nt do 50 iz=1,nz read(1,*) ((u(i,j,iz,it),i=1,nx),j=1,ny) 50 continue do 51 iz=1,nz read(2,*) ((v(i,j,iz,it),i=1,nx),j=1,ny) 51 continue read(3,*) ((sst(i,j,it),i=1,nx),j=1,ny) 100 continue
TITLE string 用字符串string简略描述数据文件的 简略描述数据文件的 用字符串 内容。 内容。即：数据的标题 UNDEF value 定义缺测值。 定义缺测值。 一般给一很大的正值或负值。 一般给一很大的正值或负值。 GrADS在运算操作和图形操作时将 在运算操作和图形操作时将 忽略这些值点。 忽略这些值点。
GRIB码数据格式：是自定义的数据 码数据格式： 码数据格式 格式，压缩率高，占用空间小。 格式，压缩率高，占用空间小。例如 NCEP提供的数据资料。 提供的数据资料。 提供的数据资料
NETCDF（.nc）等通用数据格式：自 （ ）等通用数据格式： 定义数据格式，精确性好，便于传输。 定义数据格式，精确性好，便于传输。 文件中自带描述文件。 文件中自带描述文件。
注意事项： 注意事项：
二进制写入的数据必须是实型的(real) 二进制写入的数据必须是实型的 若数据为整iu(i,j,k,it))
2.2 数据描述文件（.ctl） 数据描述文件（
GrADS绘图不能直接使用“数据文件”， 绘图不能直接使用“数据文件” 绘图不能直接使用 而是通过“数据描述文件” 而是通过“数据描述文件”间接使用 数据文件” “数据文件”。
编程时数组大小： 编程时数组大小： X方向：150-60=90，90/2.5+1=37 方向： 方向 ， Y方向：40-0=40，40/2.5+1=17 方向： 方向 ， Z方向： u、v为850、 200hPa ，Z为2 方向： 、 为 方向 、 为 sst为海表温度，只有一层，Z为1 为海表温度，只有一层， 为 为海表温度 T时次：月资料，4年，共48个月 时次：月资料， 年 时次 个月
1. 数据描述文件的概念
数据描述文件是原始数据文件的描述文件。 数据描述文件是原始数据文件的描述文件。 用以描述原始数据集的基本信息，包括数 据集文件名、数据类型、数据结构、变量 描述等等 。
2. 数据描述文件的形式
以下是另一个格点数据描述文件的例子： 以下是另一个格点数据描述文件的例子：
* this is an example to demonstrate the data descriptor file *注释行 注释行 DSET ua.dat TITLE Upper Air Data DTYPE grid OPTION byteswapped UNDEF -9.99E33
!将数据资料写入新文件中， irec重新进行记录累加 将数据资料写入新文件中， 将数据资料写入新文件中 重新进行记录累加
irec=0 do 200 it=1,nt do 30 iz=1,nz irec=irec+1 write(12,rec=irec) ((u(i,j,iz,it),i=1,nx),j=1,ny) 30 Continue do 31 iz=1,nz irec=irec+1 write(12,rec=irec) ((v(i,j,iz,it),i=1,nx),j=1,ny) 31 continue irec=irec+1 write(12,rec=irec) ((sst(i,j,it),i=1,nx),j=1,ny) 200 continue end
二进制数据排放顺序 从内循环到外循环依次是： 从内循环到外循环依次是： Z x（经度）：从西到东 ）：从西到东 （经度）： y（纬度）：从南到北 1 2 3 4 5……….. x ）：从南到北 （纬度）： z（高度层数）：从低层到高层 ）：从低层到高层 （高度层数）： vars（各种物理变量） （各种物理变量） t（时次） （时次） x(lon) y(lat) z(lev) vars(不同变量 time 不同变量) 不同变量 任何一维可省略。 任何一维可省略。
<yrev> 自北向南的数据 <zrev> 自高层到低层的数据 <sequential> 顺序无格式存贮的数据
<byteswapped>二进制数据的位存放顺序取
反序
<big-endian>在SUN, SGI等机器上生成 在 等机器上生成
服务器