检验数据处理PPT课件
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
最后对计算结果进行修约,15.291应只保留二位有效数字,而修约成 15.29
运算规则
乘除法 在乘除法运算中,保留有效数字的位数,以位数最少的为准,即
以相对误差最大的数为准。 例如:14.131×0.07654÷0.78
=14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4
术语和定义
数值修约:
指对拟修约数值中超出需要保留位数时的舍弃, 根据舍弃数来保留最后一位数或最后几位数。
修约间隔:
是确定修约保留位数的一种方式,修约间隔的 数值一经确定,修约值即应为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值 修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数 值修约到“百”数位。
具体内容
有效位数的规定:
在没有小数位且以若干个零结尾的数值中,有效位数 系指从非零数字最左一位向右数得到的位数减去无效零
(即仅为定位用的零)的个数。
例: 1:35000中若有两个无效零,则为三位有效位数,应写作350 ×102 2: 35000中若有三个无效零,则为两位有效位数,应写作350 ×103
数值修约
指数定位:
指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位; 指定间隔为1,或指明将数值修约到个位数。 指定修约间隔为10-n(n为正整数),或指明将数值修约到10n数位,或
指明将数值修约到“十”、“百”、“千”……数位。 指定将数值修约成n位有效位数。 在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位
(非零数字),故通常是百分位或千分位。
进舍规则
运算数值保持“四舍六入五成双”规则。
负数修约时,先将其绝对值按上述规定进行修约,然后在修约值前 面加上负号。
相对标准偏差(RSD)中,采用“只进不舍”的原则,如: 0.163%→0.17%;0.52% →0.6%。
杂质项按四舍五入进舍。
标准规定 未修约数值
不正确的做法为:15.4546 →15.455 →15.46 →15.5 →16
运算规则
加减法 在加减法运算中,以小数点后面有效数字位数最少的为标准。
例如:13.65+0.00823+1.633=?; 在数值中13.65小数点后为二位有效数字,因此将其他各数均暂先保留至
小数点后三位,即把0.00823修约成0.008,1.633不变,进行运算: 13.65+0.008+1.633=15.291
这些类型的数字有效位数均为无限多位;在计算中, 其有效位数应根据其他数值的最少有效位数而定。
具体内容
pH值为对数数值,其有效位数是由其小 数点后的位数决定的,其整数部分只表明 其真数的乘方次数。
有效数字的首位数字为8或9时,其有效 位数可以多计一位。
例:85%与115%,都可以看成是三位有效数字。99.0%与101.0%都可以 看成是四位有效数字。
检验数据的处理
2015.9
术语和定义
有效数字:
指在检验工作中所能得到的有实际意义的数值。 其最后一位数字欠准是允许的,这种由可靠数字 和最后一位不确定数字组成的数值,即为有效数 字。
例:在分析天平上称取试样0.5000g,这不仅表明试样的质
量是0.5000g,还表示称量的误差在±0.0002g以内,如将 质量记录成0.50g,则表明该试样是在台秤上称量的,其 称量误差为±0.02g。 因此记录的数据的位数不能任意增加或减少。
写在最后
成功的基础在于好的学习习惯
The foundation of success lies in good habits
12
谢谢大家
荣幸这一路,与你同行
It'S An Honor To Walk With You All The Way
讲师:XXXXXX XX年XX月XX日
限度实验 ≤0.02%
0.025% 0.01wk.baidu.com%
限度实验 ≤3ppm
3.5ppm 3.4ppm
修约数值 0.03% 0.02% 4ppm 3ppm
结论 不合格 合格 不合格 合格
进舍规则
拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前 面规则连续修约。 例如:正确的做法为:15.4546 →15;
在其他十进位数中,有效位数系指从非零数字最左一位 向右数而得到的位数。
例:3.2、0.32、0.032和0.0032均为两位有效位数。0.320为三位有效数字。
具体内容
非连续型数值(如个数、分数、倍数)是没有欠准数字 的,其有效位数可视为无限多位。
例:分子式“H2SO4”中的“2”和“4”是个数;常数π、e和系数含量测 定项下“每1ml的×××滴定液(0.1mol/L)……”中的“0.1”为名 义浓度;标签规格项下的“0.3g”或“1ml:25mg”中的“0.3”、 “1”和“25”为标示量;
运算规则
乘除法 在乘除法运算中,保留有效数字的位数,以位数最少的为准,即
以相对误差最大的数为准。 例如:14.131×0.07654÷0.78
=14.1×0.0765÷0.78 =1.08÷0.78 =1.38 =1.4
术语和定义
数值修约:
指对拟修约数值中超出需要保留位数时的舍弃, 根据舍弃数来保留最后一位数或最后几位数。
修约间隔:
是确定修约保留位数的一种方式,修约间隔的 数值一经确定,修约值即应为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取,相当于将数值 修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数 值修约到“百”数位。
具体内容
有效位数的规定:
在没有小数位且以若干个零结尾的数值中,有效位数 系指从非零数字最左一位向右数得到的位数减去无效零
(即仅为定位用的零)的个数。
例: 1:35000中若有两个无效零,则为三位有效位数,应写作350 ×102 2: 35000中若有三个无效零,则为两位有效位数,应写作350 ×103
数值修约
指数定位:
指定修约间隔为10-n(n为正整数),或指明将数值修约到小数点后n位; 指定间隔为1,或指明将数值修约到个位数。 指定修约间隔为10-n(n为正整数),或指明将数值修约到10n数位,或
指明将数值修约到“十”、“百”、“千”……数位。 指定将数值修约成n位有效位数。 在相对标准偏差(RSD)的求算中,其有效数位应为其1/3值的首位
(非零数字),故通常是百分位或千分位。
进舍规则
运算数值保持“四舍六入五成双”规则。
负数修约时,先将其绝对值按上述规定进行修约,然后在修约值前 面加上负号。
相对标准偏差(RSD)中,采用“只进不舍”的原则,如: 0.163%→0.17%;0.52% →0.6%。
杂质项按四舍五入进舍。
标准规定 未修约数值
不正确的做法为:15.4546 →15.455 →15.46 →15.5 →16
运算规则
加减法 在加减法运算中,以小数点后面有效数字位数最少的为标准。
例如:13.65+0.00823+1.633=?; 在数值中13.65小数点后为二位有效数字,因此将其他各数均暂先保留至
小数点后三位,即把0.00823修约成0.008,1.633不变,进行运算: 13.65+0.008+1.633=15.291
这些类型的数字有效位数均为无限多位;在计算中, 其有效位数应根据其他数值的最少有效位数而定。
具体内容
pH值为对数数值,其有效位数是由其小 数点后的位数决定的,其整数部分只表明 其真数的乘方次数。
有效数字的首位数字为8或9时,其有效 位数可以多计一位。
例:85%与115%,都可以看成是三位有效数字。99.0%与101.0%都可以 看成是四位有效数字。
检验数据的处理
2015.9
术语和定义
有效数字:
指在检验工作中所能得到的有实际意义的数值。 其最后一位数字欠准是允许的,这种由可靠数字 和最后一位不确定数字组成的数值,即为有效数 字。
例:在分析天平上称取试样0.5000g,这不仅表明试样的质
量是0.5000g,还表示称量的误差在±0.0002g以内,如将 质量记录成0.50g,则表明该试样是在台秤上称量的,其 称量误差为±0.02g。 因此记录的数据的位数不能任意增加或减少。
写在最后
成功的基础在于好的学习习惯
The foundation of success lies in good habits
12
谢谢大家
荣幸这一路,与你同行
It'S An Honor To Walk With You All The Way
讲师:XXXXXX XX年XX月XX日
限度实验 ≤0.02%
0.025% 0.01wk.baidu.com%
限度实验 ≤3ppm
3.5ppm 3.4ppm
修约数值 0.03% 0.02% 4ppm 3ppm
结论 不合格 合格 不合格 合格
进舍规则
拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按前 面规则连续修约。 例如:正确的做法为:15.4546 →15;
在其他十进位数中,有效位数系指从非零数字最左一位 向右数而得到的位数。
例:3.2、0.32、0.032和0.0032均为两位有效位数。0.320为三位有效数字。
具体内容
非连续型数值(如个数、分数、倍数)是没有欠准数字 的,其有效位数可视为无限多位。
例:分子式“H2SO4”中的“2”和“4”是个数;常数π、e和系数含量测 定项下“每1ml的×××滴定液(0.1mol/L)……”中的“0.1”为名 义浓度;标签规格项下的“0.3g”或“1ml:25mg”中的“0.3”、 “1”和“25”为标示量;