最新有效数字取舍与运算规则

合集下载
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

四舍六入五留双规则的具体方法
当尾数小于或等于4时,直接将尾数舍去 例如将下列数字全部修约到两位小数,结果为: 10.2731——10.27 18.5049——18.50 16.4005——16.40 27.1829——27.18 当尾数大于或等于6时将尾数舍去向前一位进位 例如将下列数字全部修约到两位小数,结果为: 16.7777——16.78 10.29501——10.30 21.0191——21.02 (三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前
(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时 为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。
例如将下列数字全部修约到两位小数,结果为: 12.73507——12.74 21.84502——21.85 12.64501——12.65 18.27509——18.28 38.305000001——38.31 按照四舍六入五留双规则进行数字修约时,也应像四舍五入规则那样,一次性 修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。例 如将数字10.2749945001修约到两位小数时,应一步到位:10.2749945001—— 10.27(正确)。如果按照四舍六入五留双规则分步修约将得到错误结果: 10.2749945001——10.274995——10.275——10.28(错误)。
有效数字取舍与运算规则
1、有效数字中只应保留一位欠准数字,因此在记录测量数据时,只有最后一位 有效数字是欠准数字。 2、在欠准数字中,要特别注意0的情况。0在非零数字之间与末尾时均为有效数 ;在小数点前或小数点后均不为有效数字。如0.078和0.78与小数点无关,均为两 位。506与220均为三位。 3、л等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数。
一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍 去。数字“0”在此时应被视为偶数。
例如将下列数字全部修约到两位小数,结果为: 12.6450——12.64 18.2750——18.28 12.7350——12.74 21.845000——21.84
四舍六入五留双规则的具体方法
(1)实验中的数字与数学上的数字是不一样的.如 数学的 8.35=8.350=8.3500 , 而实验的 8.35≠8.350≠8.3500.
(2)有效数字的位数与被测物的大小和测量仪器的精密度有关.如普通直尺测得物体 的长度有效数字为3位,若改用千分尺来测,其有效数字的位数有五位. (3)第一个非零数字前的零不是有效数字. (4)第一个非零数字以及之后的所有数字(包括零)都是有效数字. (5)单位的变换不应改变有效数字的位数
有效数字运算规则
由于与误差传递有关,计算时加减法和乘除法的运算规则不太相同。 1. 加减法
先按小数点后位数最少的数据保留其它各数的位数,再进行加减计算,计算结果也使小数点 后保留相同的位数。
例:计算50.1+1.45+0.5812=? 修约为:50.1+1.4+0.6=52.1 先修约,结果相同而计算简捷。 例:计算 12.43+5.765+132.812=? 修约为:12.43+5.76+132.81=151.00 注意:用计数器计算后,屏幕上显示的是151,但不能直接记录,否则会影响以后的修约; 应在数值后添两个0,使小数点后有两位有效数字。
三位有效数字。 2.50×2.00×1.52=7.60
Baidu Nhomakorabea
2. 乘除法 先按有效数字最少的数据保留其它各数,再进行乘除运算,计算结果仍保留相同有效数字
。 例:计算0.0121×25.64×1.05782=? 修约为:0.0121×25.6×1.06=? 计算后结果为:0.3283456,结果仍保留为三位有效数字。 记录为:0.0121×25.6×1.06=0.328 注意:用计算器计算结果后,要按照运算规则对结果进行修约 例:计算2.5046×2.005×1.52=? 修约为:2.50×2.00×1.52=? 计算器计算结果显示为7.6,只有两位有效数字,但我们抄写时应在数字后加一个0,保留
相关文档
最新文档