近似值计算
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
C、全数值比较法:将测试所得测定值或计算值 不经过修约处理(或经过修约处理,但应标明它 是经过舍去、进或未舍未进而得),用该数值与 规定的极限数值作比较,只要超出极限数值规定 的范围,都判定为不符合要求。
D、修约值比较法:将测定值或其计算值进行修 约,修约数位应该与规定的极限数值位数相一致 。然后与标准规定的极限数值比较,只要超出极 限数值规定的范围,都判定为不符合要求。
5. 个别最小分度值为2.5× 的设备,“可读能力”确定为 1/5(JJG139-1999),末位估读采用五分之一最小分度值 估读法。方法为:将最小分度值一分为五,然后估读并记 录至0.5 m× 的整数倍,m为0~5的自然数。
6. 游标卡尺类测试器具应按其精度读取并记录,(例:精 度为0.02的游标卡尺其读数和记录的尾数只可能为0.02的 整数倍)。
A、拟舍弃数字最左一位数字小于5,则舍去,其 余各位数字不变.
如:将12.1498修约到个位,得到12;修约到一位 小数,得到12.1。
B、拟舍弃数字最左一位数字大于5,则进一,即 保留数字的末位数字加1。
如:将1268修约到“百”位数,得到13×102, (特定的场合也可写作1 300)
C、拟舍弃数字最左一位数字是5,且其后有非0数 值时进一,即保留数字的末位数字加1。
832
4160
4200
840
-930
-4650
- 4600
-920
三、极限数值的表示与判断
1、表示极限数值的基本用语
基本用语
符号
特定情形下的基本用语
备注
大于A
﹥A
多于A
高于A
测定值或计算值恰好为A 时不符合要求
小于A
﹤A
少于A
低于A
测定值或计算值恰好为A 时不符合要求
大于或等于A
≥A
不小于A
刻度)值读数: 4. 带有数字式指示装置类型的仪器、设备,待末位数字稳
定(或变动稳定)后读数; 4.1 数字式指示装置的“可读能力” 。
4.1.1当示值的变动不大于1个增量时,则应为数字示值的 一个增量;
4.1.2当示值的变动大于1个增量时,则应为数字式示值变 动范围的1/2。
5、 指针式仪器、设备或有刻度(带有、不带有游标)的 仪表、设备和其他带有这种类型模拟指示装置的检测器具 ,“可读能力”一般可定为为分度(最小刻度)值的1/2 、1/5或1/10,为保证最大读数误差小于等于1%,我们确 定“可读能力”为1/2(参照JJG139-1999),读数时从分 度(最小刻度)值向后估读一位;
如:对于修约间隔为1000(或10-3)
2500 → 2×103,也可写作 2 000;
3500 → 4×103,也可写作 4 000;
E、负数修约时,先将其绝对值按以上规则进行秀 修约,然后将所得结果前面加上负号。
如:对于修约间隔为10
-355 →-36 ×10也可写作-360;
-325 →-32 ×10也可写作-320;
2. 仪器设备的最小示值(间隔)为2× (kN;N;kg;g;cm ;mm;……),则末位按二分之一估读法读取并记录至 1× 的整数倍。
3. 仪器设备的最小示值(间隔)为4× (kN;N;kg;g;cm ;mm;……),则末位按二分之一估读法读取并记录至 2× 的整数倍。
4. 仪器设备的最小示值(间隔)为5.0× (kN;N;kg;g; cm;mm;……),则末位按二分之一估读法读取并记录至 2.5× 的整数倍。
不少于A
不低于 A
测定值或计算值恰好为A 时符合要求
小于或等于A
≤A
不大于A
不多于A
不高于 A
测定值或计算值恰好为A 时符合要求
2、表达极限数值X的组合用语及符号
组合基本用语
组合允许用语
表示方式1
符号 表示方式2
表示方式3
大于或等于A且小于等于B 从A到B
A≤X ≤ B
A≤ ● ≤ B
A~B
大于A且小于等于B
原始数据记录时不准任意舍弃测试数据的可读尾数,否则 造成两次或多次修约错误。
《拉力、压力、和万能试验机》(JJG139-1999)
+5%符合要求。
4、测定值或其计算值与标准规定的极限数值作比 较的方法
A、在判定测定值或计算值是否符合标准要求时 ,应将测试所得测定值或计算值与标准规定的极 限值作比较,比较常用全数值比较法和修约值比 较法。
B、当标准或有关文件中,若对极限数值(包括 带有极限偏差值得数值)无特殊规定时,均应使 用全数值比较法。如规定采用修约值比较法时, 应在标准中加以说明。
如:将10.50002修约到“个”位数,得11
D、拟舍去数值的最左一位数字为5,且其后无数 字或全为0时,若保留的末位数字为奇数则进一, 即保留的末位数字加1;若保留的末位数字为偶数 ,则舍去。
如:对于修约间隔为0.1
1.050→10×10-1,也可写作1.0;
0.35 →4 ×10-2,也可写作0.4;
超过A到B
A﹤X≤B A﹤●≤B
>A~B
大于或等于A且小于B 大于A且小于B
至少A不足B
A≤X ﹤ B A≤ ● ﹤ B
A~ ﹤ B
超过A不足B
A ﹤ X ﹤ B A ﹤ ● ﹤B
3、带有极限偏差的数值
A、基本数值X带有绝对极限上偏差+b1和绝对极 限下偏差-b2,指从X- b2到X+ b1符合要求,计为 :X+b1-b2。当b1= b2时,可以记为X±b。
如:80+2-1mm,指从79mm到82mm符合要求。
B极的、限相基下对本偏 偏数差 差值-值bA2[%(带R,有-A指绝)/A实对]从测极-值限b2或%上其到偏计+差b算+1%b值1符%R合和对要绝于求对A ,计为:X+b1-b2%。
如:510Ω(1±5%),指实测或计算值R( Ω)
对于510 Ω的相对偏差值[(R-510)/510]从-5%到
A、0.5单位的修约方法:
将拟修约的数值X乘以2,按指定的修约间隔对2X 进行依照以上原则修约,缩短为数值除以2.
如:将以下数据修约到”个”数位的0.5单位修约
X
2X
2X修约值
X修约值
60.25
120.50
120
60
60.38
120.76
121
60.5
60.28 120.56
121
60.5
如:对于保留三位小数,或修约间隔为10-3
-0.0365 →-36 ×10-3也可写作-0.036
-0.0355 →-36 ×10-3也可写作-0.036
数值修约规则口诀 四舍六入五考虑 五后非零则进一 五后皆零视奇偶 五前为偶应舍去 五前为奇则进一
3、不允许连续修约
A、拟修约数字应在确定修约间隔或指定修约位数 后一次修约获得结果,不得多次连续修约。
实测值 15.4546
报出值 15.5 -
-15.4546
-15.5 -
16.5203
16.5 +
-16.5203
-16.5 +
17.5000
17.5
修约值 15 -15 17 -17 18
4、0.5单位和0.2单位修约
对数值进行修约时,如有必要,也可采用0.5单位 和0.2单位修约。
如下表:
全数值比较法和修约值比较法的举例说明
项目
极限值
抗拉强度 /MPa
≥14×100
中碳钢的硅的 质量分数/% ≤0.5
盘条直径/mm 10.0±0.1
中碳钢的锰的 质量分数/% 1.2~1.6
测定值或计算值
1349 1351 1400 1402
0.452 0.500 0.549 0.551 9.89 9.85 10.10 10.16 1.151 1.200 1.649 1.651
不符合 符合 符合 符合
符合 符合 符合 不符合
符合 不符合 符合 不符合
符合 符合 符合 不符合
谢 谢 大 家!
GB/T8170-2008
wenku.baidu.com
原始数据的读取、记录 和处理细则
一、原始数据读取规则 1. 测量前,应估计试样的被测量值。 2. 按检测实施细则规定,选择试验机或其他测量器具及其
相应的量程(指示度盘); 3. 检测(测量)中,严格按照所选量程确定的分度(最小
如:16.50 +表示实际值大于16.50;
16.50 -表示实际值小于16.50;
16.50 表示实际值等于16.50;
b、如对报出数值进行修约,当拟舍去数字的最左一 位数字为5,且其后无数字或皆为零时,数值右 上角有“+”号时者进一,修约数据末位加1, 有“-”号者舍去,其它皆按以上规则实行。
如将下列数值修约到个位
-60.75 -121.50
- 122
61
B、0.2单位的修约方法:
将拟修约的数值X乘以5,按指定的修约间隔对5X进行依照 以上原则修约,修约后数值除以5.
如:将以下数据修约到“百”数位的0.2单位的修约值
X
5X
5X修约值
X修约值
830
4150
4200
840
842
4210
4200
840
如:对于修约间隔为1
正确的修约为:97.465 →97;
不正确的修约为: 97.465→97.5 →98。
B、在实际工作中,测试与计算部门先将获得数值 按指定的修约数位多一位或几位报出,而后由其 它部门判定,此时应该遵循以下规定:
a、报出数值的最右的非零数字为5时,应该在数字 的右上角加“+”或“-”或不加符号,分别表 示已经进行过舍、进或未舍未进。
按全数值比较 法判定
不符合 不符合 符合 符合
符合 符合 不符合 不符合
不符合 不符合 符合 不符合
不符合 符合 不符合 不符合
修约值
13×100 14×100 14×100 14×100
0.5 0.5 0.5 0.6
9.9 9.8 10.1 10.2
1.2 1.2 1.6 1.7
按修约值比 较法判定
6、估读位采用二分之一分度估读法: 二分之一分度估读法:先确认量程,然后将分度(最小
刻度)值一分为四,示值< 四分之一分度,读前一刻度值 ;示值≥四分之一分度,示值< 四分之三分度,读二分之 一分度值;示值≥四分之三分度,读后一分度值。
二、原始数据记录规则
1. 仪器设备的最小示值(间隔)为1.0× (kN;N;kg;g; cm;mm;……),则末位按二分之一估读法读取并记录至 0.5 × 的整数倍。
数据修约
中铁港航局工程检测中心 周小勇
一、基本概念
1、数值修约:通过省略原数值的最后若干位 数字,调整保留的末位数字,使得最后得到的数 值最接近原始数值的过程。
2、修约间隔:修约值的最小数值单位。修约 间隔数值一经确定,修约值即为该数值的整数倍。
3、极限数值:标准(或技术规范)中规定考 核的以数量形势给出且符合该标准(或技术规范) 要求的指标数值范围的界限值。
二、数值修约规则
1、确定修约间隔 A、指定修约间隔为10-n(n为正整数),或指 明将数值修约到n位小数。
B、指定修约间隔为1,或指明将数值修约到 “个”位数。
C、指定修约间隔为10n(n为正整数),或指明 将数值修约到n数位,或指明将数值修约到“十”、 “百”、“千”。。。。位。
2、进舍规则