有效数字运算及修约

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

全数值比较法

将测试所得的测定值或计算值不经修约处理(或虽 经修约处理,但应标明它是经舍、进货未舍未进 而得),用该数值与规定的极限数值作比较,只要 超出极限数值规定的范围(不论超出程度大小), 都判定为不符合要求。
修约值比较法
将测定值或其计算值进行修约,修约位数应与规 定的极限数值位数一致。 当测试或计算精度允许时,先将获得的数值按指 定的修约数位多一位或几位报出,再按进舍规则 修约值规定的位数。 用该数值与规定的极限数值作比较,只要超出极 限数值规定的范围(不论超出程度大小),都判定 为不符合要求。
的浓度写着:0.1065(+)mol/L。
有效数字的定义
数学定义:从左边第一个不是0的数字算起,到精 确到的位数为止,所有的数字都叫做这个数的有 效数字。 分析化学定义:在分析工作中实际能够测量到的 数字。能够测量到的是包括最后一位估读的,不 确定的数字。我们把通过直读获得的准确数字叫 做可靠数字,把通过估读得到的那部分数字叫做 存疑数字,把测量结果中能够反映被测量大小的 带有一位存疑数字的全部数字叫有效数字。
不允许连续修约规则
Ⅰ.报出数值最右的非零数字为5时,应在数值的 右上角加上“+”或“-”或不加符号,分别表明 进行过舍、进或未舍未进。 e.g. 16.50+,表示实际值大于16.50,16.50-表示 实际值小于16.50。 Ⅱ.如对报出值需进行修约,当拟舍弃的最后一位 数值为5,且其后无数字或皆为0时,数值右上角 有“+”者进一,有“-”者舍去,其余按照① ② ③ ④ 中的规则进行修约。
数值修约规则
数值修约:通过省略原数值的最后若干位数字, 调整所保留的若干位数字,使最后得到的值最接 近原数值的过程。 修约间隔:修约值的最小数值单位。修约间隔的 数值一经确定,修约值一定是该数值的整数倍。 e.g.1:修约间隔为0.1(或10-1),表示将数值修约 至一位小数; e.g.2:修约间隔为100(或102),表示将数值修约 至百位数。 极限数值:标准(或技术规范)中规定考核的以数 量形式给出且符合该标准(或技术规范)要求的指 标数值范围的界限值,即指标的上限或者下限。

两种判定方法的比较
对于同样的极限数值,若它本身符合要求,
则全数值比较法比修约值比较法更加严格。

数值修约规则
数值修约的步骤大体分两步: 1、确定修约间隔;
2、根据修约的进舍规则对数值进行修约。
数值修约的规则: 1、进舍规则; 2、不允许连续修约; 3、0.5单位修约; 4、0.2单位修约。
进舍规则
大规则:四舍六入五成双

拟舍弃数字的最左一位数字小于5,则舍 去,保留其余各位数字不变; e.g. 将12.1498修约至个位数,得到12,修 约至小数点后一位,得到12.1.
1 100 % 0.8% 121

1 100 % 0.009 % 105782
1 100 % 0.4% 2564
极限数值的表示和判定
书写极限数值的一般原则

一、标准(或其它技术规范)中规定考核的以数量 形式给出的指标或参数等,应当规定极限数值。 极限数值表示符合该标准要求的数值范围的界限 值,它通过给出最小极限值和(或)最大极限值, 或给出基本数值与极限偏差值等方式表达。 二、标准中的极限数值的表示方式及书写位数应 适当,其有效数字应该全部写出。书写位数表示 的精确程度,应能保证产品或其它标准化对象的 性能和质量。
数值修约规则及极限数值的表示和判定 Significant figure
情景导入
进行化学滴定分析时,当凹液面在两刻度线
之间时,需要对两刻度线之间的体积进行估 读,梅仁耀读取到23.44mL、梅仁爱读取到 23.46mL、梅仁姓读取到23.45mL;
梅闻画看到一试剂柜中的NaOH标准滴定溶液

不允许连续修约规则
拟修约数字应在确定修约间隔或指定修 约数位后一次修约获得结果,不得按照进 舍规则多次进行多次修约。 e.g. 将97.46修约至个位数 正确做法:97.46→97 错误做法:97.46→97.5→98
(1)
不允许连续修约规则
(2)
在具体实施中,有时测试与计算部门先 将获得的数值按照指定的修约数位多一位 或几位报出,而后再由其它部门判定。为 了避免产生连续修约的错误,应按以下两 个步骤进行操作。

有效数字位数判定
1.0008
0.1000
0.0382
54 3600 注意: 1、以上数据中0的左右的差异; 2、对于3600之类的数字,一般看成4位有 效数字,但它也可能是2位(3.6×103)或3位 (3.60×102)
43.181 五位 10.98% 四位 1.98×10-10 三位 0.0040 两位 100 位数模糊
有效数字的×÷运算


在几个数据相乘或相除时,有效数字的保留, 应与几个数据中相对误差最大的数相对应,通 常根据有效数字最少的数据来进行修约。 e.g. 0.0121×25.64×1.05782=? 每个数据最后一位都有±1的绝对误差,三个数 据的相对误差分别是: 0.0121的相对误差最大,故运算时以它为标准将 另外两个数据修约为三位有效数字的,再相乘。 即0.0121×25.6×1.06=0.328
有效数字位数判定
1、在分析化学计算中,常遇到倍数、分数
关系,这些数据不是测量直接得到的,可 视为无限多位有效数字; 2、对于pH、pM、lgc、lgK等对数值,其有 效数字取决于小数部分的位数,因为整数 部分只代表该数字的方次。 e.g. pH=11.20,换算为H+浓度时,应为 c(H+)=6.3×10-12mol/L,有效数字是两位。

拟舍弃数字的最左一位数字大于5,则进 一,即保留位数的末位数字加一; e.g. 将13.1634修约至小数点后一位,得到 13.2。
进舍规则
③ 拟舍弃数字的最左一位数字是5,且其后有非0 数字时进一,即保留数Байду номын сангаас的末位数字加1。 e.g. 将11.5002修约至个位数,得12。

④ 拟舍弃数字的最左一位数字是5,且其后无数 字或皆为0时,若所保留数字的末位数字为奇数时 则进一,若所保留数字的末位数字为偶数时则舍 去。 e.g. 将1.050修约至小数点后一位得1.0,将0.35 修约至小数点后一位得0.4。 ⑤ 负数修约时先取绝对值,按照① ② ③ ④ 中的 规则进行修约,然后在其前面加上负号。
有效数字的+-×÷
在实际的分析工作中,经常会遇到计算公
式,而计算公式中的不同项目所保留的有 效数字的位数是不同的,最终的计算结果 到底保留多少个有效数字值得关注。
有效数字的+-运算
在几个数据相加或相减时,有效数字的保
留,应该以小数点后位数最少的数字为根 据。 e.g. 0.0121+25.64+1.05782=? 每个数据最后一位都有±1的绝对误差,即 0.012 1±0.0001;25.64 ±0.01;0.10572 ±0.00001;以上数据中以25.64的绝对误差 最大,在加减运算中最终结果的绝对误差 决定于该数据,故最终结果的有效数字位 数决定于25.64这个数据。 So 上式变换为:0.01+25.64+1.06=26.71

0.5单位修约和0.2单位修约
定义:0.5单位修约是指按指定修约单位间
隔对拟修约的数值的0.5单位进行的修约。 步骤:将拟修约数值X乘以2,按指定修约 间隔对2X根据上述进舍规则进行修约,得 到的数值(2X修约值)再除以2。
0.2单位修约的定义和步骤跟0.5单位修约类
似,将倍数“2”变为“5”。

表示极限数值的基本用语及其组合
带有极限偏差值的数值
测定值或其计算值与标准规定的极限数值的作 比较方法
1)全数值比较法
2)修约值比较法 当标准或有关文件中,若对极限数值(包括带
有极限偏差的数值)无特殊规定时,均应使用 全数值比较法。如规定修约值比较法,应在 标准中加以说明。 若标准或有关文件规定了使用其中一种比较 方法时,一经确定,不得改动。
相关文档
最新文档