实验室数字修约作业指导书
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
前言
1.目的
为确保实验室数据的准确性和处理的科学性,将试验过程中试验数据处理时常用到的基本概念和有效数字的处理方法,特制定本作业指导书。
2.适用范围
适用于xxx检测人员的学习和数据处理参考资料。
3.数字修约
3.1确定修约间隔
(1)指定修约间隔为10-n,(n为正整数),或指明将数值修约到n为小数;
(2)指定修约间隔为1,或知名将数值修约到“个”数位;
(3)指定修约间隔为10n,(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”“百”“千”…数位。
3.2进舍规则
(1)拟舍弃数字的最左以为数字小于5,则舍去,保留其余各位数字不变。
例1:将12.1498修约到个位数,得12。
例2:将14.1498秀月到一位小数,得12.1。
(2)拟舍弃数字的左一位数字大于5;则进1,即保留数字的末位数字加1。
例:将1268修约到“百”数位,得13×102
(3)拟舍弃数字的最左以为数字是5,其后有非零数字时进1,即保留数字的末尾数字加1。
例:将10.5002修约到个位数,得11。
(4)拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若保留的末尾数字为奇数(1、3、5、7、9)则进1,即保留数字的末位数字加1,;若所保留的末尾数字为偶数(0、2、4、6、8),则舍弃。
例1:修约间隔为0.1,见表1
拟修约数值修约值
1.050 1.0×10-1
0.35 4×10-1
例2:修约间隔为1000,见表2
拟修约数值修约值
2500 2×103
3500 4×103(5)负数修约时,先将它的绝对值按上述(1~4)的规定进行修约,然后在所得的值钱面加上负号。
例:将下列数字修约到“十”数位,见表3
拟修约数值修约值
-355 -36×10
-325 -32×10
例:将下列数字修约到三位小数,即修约间隔为10-3,见表4
拟修约数值修约值
0.0365 -36×10-3
3.3不连续修约
(1)拟修约数字应在确定修约间隔或指定数位后一次修约获得结果,不得多次按进舍规则连续修约。
例:修约97.46,修约间隔为1,见表5
正确的做法97.46→97
不正确的做法97.46→97.5→98 例:修约15.4546,修约间隔为1,见表6。