有效数字修约 PPT课件

1、Q检验法 2、4d检验法 3、F检验法 4、T检验法 5、u检验法
检测方法
4d法检验 例：测得如下一组数据，30.18、 30.56、30.23、30.35、30.32其中最大值 是否舍去？ 解：30.56为最大值，定为可疑 值。 x＝= 30.27 ，d＝= 0.065 若（可疑值 －x）≥4d，则可疑值应舍去； 若（可疑值 －x）＜4d，则可疑值应保留。
是迪克森(W．J．Dixon)在1951年专为分析化学中少量 观测次数(n<10)提出的一种简易判据式。检验时将数据从 小到大依次排列：X1，X2，X3，…，Xn-1，Xn，然后将 极端值代入以下公式求出Q值，将Q值对照表3的Q0．90， 若Q值≥Q0．90则有 90％的置信此极端值应被舍去。
式中 及 ——极端值与邻近值间的偏差； ——全距。 例
16.5（＋）
17
-17.5000 -17.5
-18
-15.4546 -(15.5(一))
-15
计算法则
加减运算
• 应以各数中有效数字末位数的数位最高 者为准（小数即以小数部分位数最少者 为准），其余数均比该数向右多保留一 位有效数字。
例如： 5.89+15.2551=5.89+15.255=21.145
现场仪器测在同一点上4次测出：0．1014，0．1012， 0．1025，0．1016，其中0．1025与其他数值差距较大， 是否应该舍去?
2. 如果判定报出值需要进行修约，当拟舍弃数字的 最左一位数字为5而后面无数字或皆为零时，数值 后面有(+)号者进一，数值后面有(-)号者舍去，其 他仍按数字修约规则进行。
例：将下列数字修约到个数位后进行判定（报出值多留一 位到一位小数）。
实测值
报出值
15.4546
15.5（一）
15
16.5203
• 将拟修约数值乘以5，按指定数位依数字修约规则修约， 所得数值再除以5。
例1：将830修约到“百”数位的0.2单位（或修约间隔为20） ，得840。
例:2：将842修约到“百”数位的0.2单位（或修约间隔为20） ，得 840。
将下列数字修约到 “百”数位的0.2单位（或修约间隔 为20）
拟修约数值
乘除运算
应以各数中有效数字位数最少者为准 ，其余数均多取一位有效数字，所得 积或商也多取一位有效数字。
例如： 2.1×3.124＝2.Fra Baidu bibliotek×3.12＝6.55
平方或开方运算
• 其结果可比原数多保留一位有效数字。
例如： 1.42＝1.96 1.233=1.861
对数运算
• 所取对数位数应与真数有效数字位数 相等。
乘5
5A修约值 A修约值
（修约间隔为100） （修约间隔为20 ）
830
4150
4200
840
842
4210
4200
840
确定修约位数的表达方式
• 指定数位(指定修约间隔)； • 指定将数值修约成n位有效位数。
进舍规则
四舍六入五考虑， 五后非零则进一， 五后皆零视奇偶， 五前为偶应舍去， 五前为奇则进一， 不论数字多少位， 都要一次修约成。
例如： lg12.3=1.09
特殊实例
非连续型数值
个数、分数、倍数、名义浓度或标示 量等是没有欠准数字的，其有效位数 可视为无限多位；
常数π、e和系数2，1/2 等数值的有效 位数也可视为是无限多位。
例如：
1. 分子式“H2S04”中的“2”和“4”是个数；
2. 含量测定项下“每1ml的××××滴定 液（0.1mol/L）”中的“0.1”为名义浓度， 其有效位数均为无限多位；
• 在具体实施中，有时测试与计算部门先将 获得数值按指定的修约位数多一位或几位报 出，而后由其他部门判定。为避免产生连续 修约的错误，应按下述步骤进行。
1. 报出数值最右的非零数字为5时，应在数 值后面加“（＋）”或“（－）”或不加符号 ，以分别表明已进行过舍、进或未舍未进 。
例：16.50（＋）表示实际值大于16.50，经修约舍弃成为 16.50； 16.50（－）表示实际值小于16.50，经修约进一成 为16.50。
例2：将1268修约成三位有效位数，得127×10（特定时可 写为1270）。
例3：将10.502修约到个数位，得11。
• 拟舍弃数字的最左一位数字为5，而右面无 数字或皆为0时，
• 若所保留的末位数字为奇数（1，3，5，7 ，9）则进一，
• 若所保留的末位数字为偶数（2，4，6，8 ，0）则舍弃。
• 拟舍弃数字的最左一位数字小于5时， 则舍去，即保留的各位数字不变。
例1：将12.1498修约到一位小数，得12.1。 例2：将12.1498修约成两位有效位数，得12。
• 拟舍弃数字的最左一位数字大于5；或者是 5，而其后跟有并非全部为0的数字时，则 进一，即保留的末位数字加1。
例1：将1268修约到“百”数位，得13×102（特定时可写为 1300）。
将下列数字修约到个数位的0.5单位 （或修约间隔为0.5）
拟修约数值 乘2
60.25 60.38
120.50 120.76
2A修约值
（修约间隔为1）
120
121
A修约值
（修约间隔为0.5）
60.0
60.5
• 0.2单位修约：指修约间隔为指定数位的0.2 单位，即修约到指定数位的0.2单位。
例1：修约间隔为0.1 拟修约数值 1.050
修约值结果 1.0
• 负数修约时，先将它的绝对值按数字修约 规定进行修约，然后在修约值前面加上负 号。
例1：将下列数字修约到“十”数位
拟修约数值
-355
-36×10
•
拟修约数字应在确定修约位数后一 次修约获得结果，而不得多次按进 舍规则连续修约。
例如：修约15.4546，修约间隔为1 正确的做法： 15.4546→15 不正确的做法： 15.4546→15.455→15.46→15.5→16
3. 规格项下的“0.3g”或“1ml ”， “25mg”中的“0.3”、“1”和“25”的有效位 数也均为无限多位。
结论：
在计算中，其有效位数应 根据其他数值的最少有效 位数而定。
pH值
• pH值等对数值，其有效位数是由其小 数点后的位数决定的，其整数部分只 表明其真数的乘方次数。
例如： pH=11.26([H+]=5.5×10-12 mol/L) 其有效位数只有两位。