原始数据的读取、记录和处理细则
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
原始数据的读取、记录和处理细则
一、原始数据读取规则
1.测量前,应估计试样的被测量值。
2.按检测实施细则规定,选择试验机或其他测量器具及其相应的量程(指示度盘);
3.检测(测量)中,严格按照所选量程确定的分度(最小刻度)值读数:
4.带有数字式指示装置类型的仪器、设备,待末位数字稳定(或变动稳定)后读数;
4.1数字式指示装置的“可读能力”
4.1.1当示值的变动不大于1个增量时,则应为数字示值的一个增量;
4.1.2当示值的变动大于1个增量时,则应为数字式示值变动范围的1/2。
5.指针式仪器、设备或有刻度(带有、不带有游标)的仪表、设备和其他带有这种类型模拟指示装置的检测器具,可读能力一般可定为为分度(最小刻度)值的1/2、1/5或1/10,为保证最大读数误差小于等于1%,我们确定可读能力为1/2(参照JJG139-1999),读数时从分度(最小刻度)值向后估读一位;
6.估读位采用二分之一分度估读法:
二分之一分度估读法:先确认量程,然后将分度(最小刻度)值一分为四,示值<四分之一分度,读前一刻度值;示值¡Ý四分之一分度,示值<四分之三分度,读二分之一分度值;示值¡Ý四分之三分度,读后一分度值。
二、原始数据记录规则
1.仪器设备的最小示值(间隔)为1.0×(kN;N;kg;g;cm;mm;……),则末位按二分之一估读法读取并记录至0.5×的整数倍。
2.仪器设备的最小示值(间隔)为2×(kN;N;kg;g;cm;mm;……),则末位按二分之一估读法读取并记录至1×的整数倍。
3.仪器设备的最小示值(间隔)为4×(kN;N;kg;g;cm;mm;……),则末位按二分之一估读法读取并记录至2×的整数倍。
4.仪器设备的最小示值(间隔)为
5.0×(kN;N;kg;g;cm;mm;……),则末位按二分之一估读法读取并记录至2.5×的整数倍。
5.个别最小分度值为2.5×的设备,可读能力确定为1/5(JJG139-1999),末位估读采用五分之一最小分度值估读法。方法为:将最小分度值一分为五,然后估读并记录至0.5m×的整数倍,m为0~5的自然数。
6.游标卡尺类测试器具应按其精度读取并记录,(例:精度为0.02的游标卡尺其读数和记录的尾数只可能为0.02的整数倍)。
7.原始数据记录时不准任意舍弃测试数据的可读尾数(应按本章第三节2.2条e款执行),否则造成两次或多次修约错误。
三、原始数据处理
试验标准(规范)中对数据处理有明确规定的,应严格按标准(规范)要求执行。
1.数值修约
试验标准(规范)中仅规定计算结果有效位取值时,多余位应修约:1.1测量结果及其不确定度,同所有数据均一样,都只取相应标准(规范)规定的有限位,多余的位应予修约。应采用《数值修约规则》(GB8107-87)的规定。
1.2修约规则与修约间隔
1.2.1修约间隔系确定修约保留位数的一种方式。修约间隔的数值一经确定,修约值即应为该数值的整数倍。例如,指定修约间隔为0.1,修约值即应在0.1的整数倍中选取;指定修约间隔为100,修约值即应在100的整数倍中选取,相当于将数值修约到百数位。
1.2.2数值修约时,首先要确定修约数位:
1.2.2.1指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;
1.2.2.2指定修约间隔为1,或指明将数值修约到个数位;
1.2.2.3指定修约间隔为10n,或指明将数值修约到10n数位(n为正整数)。
1.2.3进舍规则,采用四舍六入五奇偶规则。
1.2.3.1本进舍规则不许连续修约。
例:修约15.4546,修约间隔为1。正确的作法为:15.4546¡ú15;不正确的作法为:15.4546¡ú15.455¡ú15.46¡ú16。
在具体实施中,有时应将获得数值按指定位数多一位或几位报出,而后再判定。为避免产生连续修约的错误,应按下述步骤进行:
a、报出数值最后的非0数字为5时,应在数值后加(+)、(-)或不加,以分别表明已进行过舍取。
b、如判定报出值需修约,当拟舍弃数字的最左一位为5而后面无数字或皆为0时,数值后面有(+)者进1,数值后面有(-)者舍去,其它仍按进舍规则进行。如:
实测值报出值修约值
15.454615.5(-)15
16.520316.5(+)17
17.500017.518
1.2.40.5单位修约,指修约间隔为指定数位的0.5单位,即修约到指定数位的0.5单位,即将拟修约数值乘以2,按指定数位依6.2.3.2之c.条规则修约,所得数值再除以2。
1.2.50.2单位修约,指修约间隔为指定数位的0.2单位,即修约到指定数位的0.2单位,将拟修约数值乘以5,按指定数位依6.2.3.2之c.条规则修约,所得数值再除以5。
例:钢材力学性能检测中,强度取值常要求修约至10数位的0.5单位(修约间隔为5)
a.检测后sb的计算值为522.50MPa,乘以2得1045,然后按间隔为10修约得1040,最后除以2得sb修约值为520MPa。
b.检测后sb的计算值为522.51MPa,乘以2得1045.02,然后按间隔为10修约得1050,最后除以2得sb修约值为525MPa。
四、本细则依据标准
1.《数值修约规则》(GB8107-87)。
2.《极限数值的表示方法和判断方法》(GB1250-89)。
3.《游标卡尺》(JJG30-92)。
4.《拉力、压力、和万能试验机》(JJG139-1999)。
工程领域中使用的数字修约规则有些是错误的。
比如,对标准差的修约规则本来应该是采用进一法,可是,标准中和工程领域中的一些专家却说是四舍六入五单双,而且90%以上的教科书也是采用这种修约规则。