数值修约规则GBT8170-2008ppt
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
二、数值修约规则
B、在具体实施中,有时测试与计算部门先将获得数值按指定的修 约位数多一位或几位报出,而后由其他部门判定。为避免产生连续 修约的错误,应按下述步骤进行。
a.报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不 加符号,以分别表明已进行过舍、进或未舍未进。 例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50; 16.50(-)表示实际值小于16.50,经修约进一成为16.50。
X修约值 840 840 840 -920
汇报完毕!
二、数值修约规则
2、进舍规则: 四舍六入五考虑, 五后非零则进一, 五后皆零视奇偶, 五前为偶应舍去, 五前为奇则进一, 不论数字多少位, 都要一次修约成。
二、数值修约规则
A、拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位 数字不变。(四舍六入五考虑)
例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。
பைடு நூலகம்
二、数值修约规则
4、0.5单位修约与0.2 A、0.5单位修约(半个单位修约):指按指定修约间隔对拟修约的数值 按0.5单位进行修约。 修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所 得数值再除以2。
例:将下列数字修约到“个”数位的0.5单位修约。 拟修约数值X 2X 2X修约值 60.25 120.50 120 60.38 120.76 121 60.28 120.56 121 -60.75 -121.50 -122
数值修约规则
GB/T8170-2008
入井流体检验站酸化室 2015年4月
汇报提纲
一、术语和定义
二、数值修约规则
一、术语和定义
1、数值修约: 通过省略原数值的最后若干位数字,调整所保留的末位数字,使 得最后所得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值)的修约值。 2、修约间隔: 修约值的最小数值单位,系确定修约保留位数的一种方式。修约 间隔的数值一经确定,修约值即应为该数值的整数倍 。 例1:如指定修约间隔为0.1,修约值即应在0.1的整数倍中选取, 相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值即应在100的整数倍中选取, 相当于将数值修约到“百”数位。
X修约值 60.0 60.5 60.5 -61
二、数值修约规则
B、0.2单位修约:指按指定修约间隔对拟修约的数值按0.2单位进行修 约。 修约方法:将拟修约数值乘以5,按指定数位依数字修约规则修约,所 得数值再除以5。 例:将下列数字修约到“百”数位的0.2单位修约。 拟修约数值X 5X 5X修约值 830 4150 4200 842 4210 4200 832 4160 4200 -930 -4650 -4600
拟修约数值 1.050
修约值结果1.0
二、数值修约规则
E、负数修约时,先将它的绝对值按数字修约规定进行修约,然后在
例1:将下列数字修约到“十”数位 拟修约数值 -355 -36×10
二、数值修约规则
3
A、拟修约数字应在确定修约位数后一次修约获得结果,而不得多 次按进舍规则连续修约。 例如修约15.4546,修约间隔为1 正确的做法: 15.4546→15 不正确的做法: 15.4546→15.455→15.46→15.5→16
B、拟舍弃数字的最左一位数字大于5,则进一,即保留的末位数 字加1。 (四舍六入五考虑) 例1:将1268修约到“百”数位,得13×102(特定时可写为1300)。 例2:将1268修约成三位有效位数,得127×10(特定时可写为 1270)。
二、数值修约规则
C、拟舍弃数字的最左一位数字是5,而其后跟有并非全部为0的数字 时,则进一,即保留的末位数字加1。(四舍六入五考虑,五后非 零则进一)
例:将10.502修约到个数位,得11 D、拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所 保留的末位数字为奇数(1,3,5,7,9)则进一,若所保留的末 位数字为偶数(2,4,6,8,0)则舍弃。(五后皆零视奇偶,五 前为偶应舍去, 五前为奇则进一。) 例1:修约间隔为0.1 拟修约数值 0.35 修约值结果0.4
b.如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字 或皆为零时,数值后面有(+)号者进一,数值后面有(-)号者舍去,其他仍按数字修约 规则进行。 例:将下列数字修约到个数位后进行判定(报出值多留一位到一位小数)。 实测值 报出值 15.4546 15.5(-) 15 16.5203 16.5(+) 17 -17.5000 -17.5 -18 -15.4546 -(15.5(-)) -15
汇报提纲
一、术语和定义
二、数值修约规则
二、数值修约规则
1、确定修约间隔: A、指定修约间隔为10-n(n为正整数),或指明将数值修 约到n位小数; B、指定修约间隔为1,或指明将数值修约到“个”数位; C、指定修约间隔为10n(n为正整数),或指明将数值修 约到10n数位,或指明将数值修约到“十”,“百”, “千”等数位。