有效数字及运算规则
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
解：F计算= =6.25
查表F（n大-1，n小-1）=（5,3）=9.01
F计算＜F表，无显著误差。
置信度95%时F值（单边）
f小f大
2
3
4
5
6
…
2
3
9.01
4
…
4.
离群值或可疑值questionable value
舍弃商Q值表
Q n
3
4
5
6
7
8
9
10
Q 0.9
0.94
0.76
0.64
0.56
0.51
例：测定某溶液的浓度（mol/L）:0.1020、0.1022、0.1023、0.1025、0.1026、0.1029，问0.1029值是否舍？
解：Q计=D/R=(0.1029-0.1026)/(0.1029-0.1020)=0.33
查表：置信度按90%，n=6，查Q 0.9=0.56
Q计＜Q表，保留0.1029
有效数字确定及运算规则
修约rounding：合理取舍。规则：四舍六入五留双，一次修约到位，不能分次修约。四舍六入五留双解读：修约数字6进4约5看，有后进，前奇进，前偶无后约（无后：5后跟一串0，均为0）。即：
要修约的数字≤4，舍去；
要修约的数字≥6，进位；
要修约的数字等于5且①后边数字均为0，若其前位数字为偶数，则舍去，否则进位；②如果要修约的5后还有非零的任何数，则要进位。
μ90%= ± =26.74±2.353*0.09/ =26.74±0.11%，即（26.74-0.11，26.74+0.11）=（26.63%~26.85%）；
μ95%= ± =26.74±3.182*0.09/ =26.74±0.14%，即（26.74-0.14，26.74+0.14）=（26.60%~26.88%）
CV(%)= ×100
n个平行试验，其平均值 的标准偏差 = ,平均值的标准偏差比样本的精密度小，一般4~6次试验即可。
如某石灰岩CaO化验数据
x/%
37.20
37.25
37.30
37.45
37.50
37.34
0.06
S/%
0.13
置信度confidence level：测定结果的可靠程度，即概率。英国Gosset用统计方法推到出无限次测定结果的平均值μ= ± ，公式中：
±0.01/25.63=±0.04%，按±0.05%对应的0.021进行修约，有效位数3位，分别为：0.0221、1.06、25.6，再相乘。
注意：置信度越高，μ置信区间越大。
2.
主要检验有无系统误差。检测测量平均值与标准值或两种分析方法的平均值是否有显著性差异。
由μ= ± 导出
t=
按上式计算出一定置信度下的t值，与查表的t值比较，
当t计≥t表，则存在显著误差；
当t计＜t表，则不存在显著误差。
例：用一种新方法测定纯明矾中铝的百分含量。n=9，测量结果：10.74%、10.77%、10.77%、10.77%、10.81%、10.82%、10.83%、10.86%、10.81%，已知标准值10.77%，判断置信度为95%的系统误差。
解：9次结果得出： ，s=0.038%，已知μ=10.77%
t计= =2.368
查表：t表（8和置信度95%）=2.306
t计=2.368＞t表=2.306，新方法存在系统误差
两组试验比较：合并标准偏差与检验：不同实验人员或不同试验方法测定同一试样，得到两组测定值，判断是否存在显著性差异。
t计=
s合=
t—选定置信度下的概率系数，可查表就得
自由度
f=n-1
置信度
50%
90%
95%
99%
99.5%
1
1.000
6.314
12.706
63.657
127.32
2
0.816
2.920
4.303
9.925
14.089
…
3=4-1
0.765
2.353
3.182
5.481
7.453
4Fra Baidu bibliotek
0.741
2.132
2.776
0.47
0.44
0.41
Q 0.95
0.97
0.84
0.73
0.64
0.59
0.54
0.51
0.49
步子
1.由大到小排列；
2.计算极差R；
3.计算离群值与其相邻值之差（取绝对值）D；
4.计算舍弃商Q计算：Q计=D/R；
5.根据测定次数和要求设置置信度，查舍弃商Q值表；
6.将Q计与Q表比较，如果Q计≥Q表，则舍弃。
实验数据处理及结果评价
1.
总体或母体universe，样本swatch，个体individual，样本容量capicotyof sample
无限次数测量，总体平均值μ
平均值(arithmetic average) = =
标准差（均方根偏差，s）standard deviation
S=
相对标准偏差（变异系数，CV）variable coefficient
特例注意：首位数字≥8时，应用有效位数时在原有效位上+1，如0.0995有效位数字为4；而9.01有效位数字也为4。
如0.0221、1.05666、25.63
加法：绝对误差分别为±0.001、±0.00001、±0.01，按0.01修约，有效数字在百分位，分别为：0.02、1.06、25.63,
乘法：相对误差±0.001/0.021=±0.05%；±0.00001/1.05666=±0.0009%；
如将下列数字修约为4位数
0.727646 0.7276
0.473660.4737
11.235011.24
11.245011.24
11.245001 11.25
运算法则：先确定有效数字的统一，其中，
加法：有效数字位数统一于绝对误差最大的那个数，即保留一位可疑数字，保持小数位数一致性；
乘法：有效数字位数统一于相对误差最大的那个数，即有效数字最少的为准。
注意：以0结尾的整数，如1200，写成指数形式。
1.2*1032位
1.20*1033位
1.200*1034位
在运算时，首位数字≥8时，确定位数应在原基础上+1
精度
某质量为0.5100g，最后一位是估计的，表示0.5100g±0.0001g，相对误差为：0.0001/0.5100=0.02%
某质量为0.510g，最后一位是估计的，表示0.5100g±0.001g，相对误差为：0.001/0.5100=0.2%
查表t表，自由度用f=n1+n2-2
比较方法同上。
例：略
3.
比较两组数据的方差（ ），以确定是否存在显著误差。常用于检查偶然性误差大小。
公式：F计算=
与查表数据比较，
当F计≥F表，则存在显著误差；
当F计＜F表，则不存在显著误差。
例：用不同的方法测定某试样，用第一种方法测定6次，得出标准偏差s1=0.05%；第二种方法测定4次，s2=0.02%，判断误是否存在显著误差。
4.604
5.598
…
8=9-1
…
…
2.306
…
…
…
置信区间confienceinterval，即x变量区间。
例：有一组数据，其4次测定结果的平均值26.74%，标准偏差0.09%，球置信度90%和95%的置信区间。
解：已知s=0.09%，n=4，查4-1与置信度90%、95%对应t1=2.353，t2=2.776%代入公式
5.
有效数字significant figure：分析工作中能测量到的数字，包括最后一位估计的数字。
位数:从最左边第一个非零数字后的位数算起，这个数字有几位，就是有效数字（可读数字、综合可疑数字概念，略）。如
1.0001 5位
0.1000 4位；
0.0123 3位
0.0040 2位
1.330*1044位
查表F（n大-1，n小-1）=（5,3）=9.01
F计算＜F表，无显著误差。
置信度95%时F值（单边）
f小f大
2
3
4
5
6
…
2
3
9.01
4
…
4.
离群值或可疑值questionable value
舍弃商Q值表
Q n
3
4
5
6
7
8
9
10
Q 0.9
0.94
0.76
0.64
0.56
0.51
例：测定某溶液的浓度（mol/L）:0.1020、0.1022、0.1023、0.1025、0.1026、0.1029，问0.1029值是否舍？
解：Q计=D/R=(0.1029-0.1026)/(0.1029-0.1020)=0.33
查表：置信度按90%，n=6，查Q 0.9=0.56
Q计＜Q表，保留0.1029
有效数字确定及运算规则
修约rounding：合理取舍。规则：四舍六入五留双，一次修约到位，不能分次修约。四舍六入五留双解读：修约数字6进4约5看，有后进，前奇进，前偶无后约（无后：5后跟一串0，均为0）。即：
要修约的数字≤4，舍去；
要修约的数字≥6，进位；
要修约的数字等于5且①后边数字均为0，若其前位数字为偶数，则舍去，否则进位；②如果要修约的5后还有非零的任何数，则要进位。
μ90%= ± =26.74±2.353*0.09/ =26.74±0.11%，即（26.74-0.11，26.74+0.11）=（26.63%~26.85%）；
μ95%= ± =26.74±3.182*0.09/ =26.74±0.14%，即（26.74-0.14，26.74+0.14）=（26.60%~26.88%）
CV(%)= ×100
n个平行试验，其平均值 的标准偏差 = ,平均值的标准偏差比样本的精密度小，一般4~6次试验即可。
如某石灰岩CaO化验数据
x/%
37.20
37.25
37.30
37.45
37.50
37.34
0.06
S/%
0.13
置信度confidence level：测定结果的可靠程度，即概率。英国Gosset用统计方法推到出无限次测定结果的平均值μ= ± ，公式中：
±0.01/25.63=±0.04%，按±0.05%对应的0.021进行修约，有效位数3位，分别为：0.0221、1.06、25.6，再相乘。
注意：置信度越高，μ置信区间越大。
2.
主要检验有无系统误差。检测测量平均值与标准值或两种分析方法的平均值是否有显著性差异。
由μ= ± 导出
t=
按上式计算出一定置信度下的t值，与查表的t值比较，
当t计≥t表，则存在显著误差；
当t计＜t表，则不存在显著误差。
例：用一种新方法测定纯明矾中铝的百分含量。n=9，测量结果：10.74%、10.77%、10.77%、10.77%、10.81%、10.82%、10.83%、10.86%、10.81%，已知标准值10.77%，判断置信度为95%的系统误差。
解：9次结果得出： ，s=0.038%，已知μ=10.77%
t计= =2.368
查表：t表（8和置信度95%）=2.306
t计=2.368＞t表=2.306，新方法存在系统误差
两组试验比较：合并标准偏差与检验：不同实验人员或不同试验方法测定同一试样，得到两组测定值，判断是否存在显著性差异。
t计=
s合=
t—选定置信度下的概率系数，可查表就得
自由度
f=n-1
置信度
50%
90%
95%
99%
99.5%
1
1.000
6.314
12.706
63.657
127.32
2
0.816
2.920
4.303
9.925
14.089
…
3=4-1
0.765
2.353
3.182
5.481
7.453
4Fra Baidu bibliotek
0.741
2.132
2.776
0.47
0.44
0.41
Q 0.95
0.97
0.84
0.73
0.64
0.59
0.54
0.51
0.49
步子
1.由大到小排列；
2.计算极差R；
3.计算离群值与其相邻值之差（取绝对值）D；
4.计算舍弃商Q计算：Q计=D/R；
5.根据测定次数和要求设置置信度，查舍弃商Q值表；
6.将Q计与Q表比较，如果Q计≥Q表，则舍弃。
实验数据处理及结果评价
1.
总体或母体universe，样本swatch，个体individual，样本容量capicotyof sample
无限次数测量，总体平均值μ
平均值(arithmetic average) = =
标准差（均方根偏差，s）standard deviation
S=
相对标准偏差（变异系数，CV）variable coefficient
特例注意：首位数字≥8时，应用有效位数时在原有效位上+1，如0.0995有效位数字为4；而9.01有效位数字也为4。
如0.0221、1.05666、25.63
加法：绝对误差分别为±0.001、±0.00001、±0.01，按0.01修约，有效数字在百分位，分别为：0.02、1.06、25.63,
乘法：相对误差±0.001/0.021=±0.05%；±0.00001/1.05666=±0.0009%；
如将下列数字修约为4位数
0.727646 0.7276
0.473660.4737
11.235011.24
11.245011.24
11.245001 11.25
运算法则：先确定有效数字的统一，其中，
加法：有效数字位数统一于绝对误差最大的那个数，即保留一位可疑数字，保持小数位数一致性；
乘法：有效数字位数统一于相对误差最大的那个数，即有效数字最少的为准。
注意：以0结尾的整数，如1200，写成指数形式。
1.2*1032位
1.20*1033位
1.200*1034位
在运算时，首位数字≥8时，确定位数应在原基础上+1
精度
某质量为0.5100g，最后一位是估计的，表示0.5100g±0.0001g，相对误差为：0.0001/0.5100=0.02%
某质量为0.510g，最后一位是估计的，表示0.5100g±0.001g，相对误差为：0.001/0.5100=0.2%
查表t表，自由度用f=n1+n2-2
比较方法同上。
例：略
3.
比较两组数据的方差（ ），以确定是否存在显著误差。常用于检查偶然性误差大小。
公式：F计算=
与查表数据比较，
当F计≥F表，则存在显著误差；
当F计＜F表，则不存在显著误差。
例：用不同的方法测定某试样，用第一种方法测定6次，得出标准偏差s1=0.05%；第二种方法测定4次，s2=0.02%，判断误是否存在显著误差。
4.604
5.598
…
8=9-1
…
…
2.306
…
…
…
置信区间confienceinterval，即x变量区间。
例：有一组数据，其4次测定结果的平均值26.74%，标准偏差0.09%，球置信度90%和95%的置信区间。
解：已知s=0.09%，n=4，查4-1与置信度90%、95%对应t1=2.353，t2=2.776%代入公式
5.
有效数字significant figure：分析工作中能测量到的数字，包括最后一位估计的数字。
位数:从最左边第一个非零数字后的位数算起，这个数字有几位，就是有效数字（可读数字、综合可疑数字概念，略）。如
1.0001 5位
0.1000 4位；
0.0123 3位
0.0040 2位
1.330*1044位