有效数字的运算规则

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

化验分析中,试样的组分含量,由一系列测得的原始数据经一定计算公式的算求得的。在数的运算中,一般地说,两数相加或相减,应该使它们有相同的确度;两数相乘或相除,应使它们有相同的准确度,即每一个数都保留同样位的有效数字,计算结果也是如此-

似运算中应注意以下几点。

(l)几个数相加或相减时,它们的和或差的有效数字保留的位数应以小数点位数最少的那个数字为依据。

如:O.0312十23. 34十2.50381,以23. 34为依据,将其他数字按数字修约到小数点后第二位,然后相加(2)在做乘除运算的时候,有效数字的位数取决于相对误【电镀设备厂】差最大的碘/<数字位数最小的那个数。

如:(0. 0234十4. 303 X 71. 07)/127. 5=0. 0561259

计算结果应取O.056 1,即与O.0234(有效数字位数最少的数的位数相同)。

在运算过程中,每步运算的结果可比有效数字位数最少的那个数多保留一位。例如:O.0234 X 4.303 = O.1006702,这时可取O.1007,继续运算(比多一位有效数字)。在使用电子计算器时,有人错误地认为取值位数越多据越精确,其实这会人为地制造假象而有害无益。当然,也不可少取位数而丢了能够获得的准确度。

相关文档
最新文档