测量数据修约方法
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
测量数据修约方法
例如,检定1级电能表,在某一负载功率下重复测定3次所得相对误差的平均值,要求按修约间距0.1修约,表明相对误差只保留到小数点后第1位,多余的位数按数据修约规则处理。
下面左边是修约前相对误差的平均值,箭头右边是修约后的结果(省去%)。
0.7501→0.8,0.4599→0.5,0.0501→0.1,
0.6499→0.6,0.3286→0.3,0.0499→ 0.3500→0.4,1.050→1.0D2测量数据通用修约方法将测得的各次相对误差的平均值,除以修约间距数,所得之商按数据修约规则修约,修约后的数字乘以修约间距数,所得乘积即为最终结果。
D2.1 0.5级电能表相对误差修约方法 0.5级电能表相对误差的修约间距为0.05,表明相对误差只保留到小数点后第2位且为5的整数倍(0或5)。
0.5255=0.105→0.105=0.50;
0.525015=0.→0115=0.55;
0.42995=0.08598→0.095=0.45;
0.57495=0.11498→0.115=0.55; 0。
37505=0.0750→0、085=0.40; 0.17895=0.03578→0.045=0.20。
故按修约间距数为5的修约方法:保留位与其右边的数之和,若小于或等于25,保留位变为零;若大于25而小于75,保
留位变成5;若等于或大于75,保留位变成零而保留位左边那位加1。
D2.22级和3级电能表相对误差修约方法2级和3级电能表相对误差的修约间距为0.2,表明相对误差只保留到小数点后第1位且为2的整数倍(0,2,4,6,8)。
2.1012=1.0505→1.12=2.2;
1.3992=0.6995→0.72=1.4;
0.50102=0.2505→}0.32=0.6;
3.7992=1.8995→1.92=3.8;
2.9012=1.4505→1.52=3.0:
0.4992=0.2495→0.2X2=0、4:
1.xx=0.6005→0.6X2=1.2:1.4002=0.700→0、7X2=1.4:2.1002=1.050→1.02=2.0:1.1002=0.550→0.6
X2=1.2:
0.3002=0.150→0.2X2=0.4:
1.3002=0.650→0.62=1.2:
0.5002=0.250→0.22=0.4:
0.7002=0.350→0.4X2=0.8:1.7002=0.850→0.8
X2=1.6:
0.9002=0.450→0.42=0.8:
故按修约间距数为2的修约方法:
a)若保留位右边不为零,保留位是奇数时加1,保留位是偶数时不变。
b )若保留位右边全为零,保留位是偶数时不变;保留位
是奇数时,将这奇数与其左边的那位数组成的两位数(不计小数点),变成与这两位数最接近的数且为4的整数倍:如
1.7→1.6,2.1→2.0,0.7→0.8,0.3→0.4,
0.1→0.0。