有效数字及修约管理制度
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
题 目
有效数字及修约管理制度
制 定
部门审核
质量部审核
制定时间
审核日期
审核日期
批 准
批准日期
执行日期
分发部门
质量部
1.目的
本标准规定了食品检验中有效数字的确定和修约规则。
2.适用范围
适用于食品检验中除生Байду номын сангаас检定统计法以外的各种测量或计算而设的数值。
3.职责
QC室主任:监督本文件的执行。
检验人员:对有效数字的确定和修约的正确性负责
保留三位有效数字,为5.65
5.6504保留两位有效数字,为5.6
5.运算规则
5.1.数值相加减运算时,以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算中保留的位数和决定运算结果的有效位数。
5.2.数值相乘除时,以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和计算结果的有效位数。
5.3.在运算过程中为减少舍入误差,其它数值的修约可以转时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。例1:13.65+0.00823+1.633=
4.2.有效数字的定位
是指确定欠准数字的位置,这个位置确定之后,其后面的数字均为无效数字。
4.3.有效数字的位数计算
4.3.1.从数值右边无零数字算起向右数。如0.32,0.032,0.320,前二组数值有效数字均为两位,第三个数值有效数字为三位。
4.3.2.有效数字位数的确定有效数字的位数要根据取样量、量具精度、检测方法的允许误差和检验中的限度规定来确定。
6.数值修约
6.1.定义:指对某数值中超出保留位数时的进舍。
6.2.进舍规则
有效位数确定后,其后第一个数字:
逢4及以下数字,舍弃;
逢6及以上数字进1;
逢5时:
5后非零进1;
5后为零时,5前为偶数则舍弃,5前为奇数时则进1.
归纳如下:
四舍六入五考虑,五后非零则进一;
五后为零看五前,五前偶舍奇进一。
例如数值5.654保留两位有效数字,为5.7
4.内容
4.1.有效数字、可靠数字和欠准数字
4.1.1.有效数字
指在食品检验中所能得到的有实际意义的数值。此数值由可靠数字和最后一位“欠准数字”组成。
4.1.2.可靠数字和欠准数字
多次测定一个量,所有的结果总是那个固定不变的数值,这个数值叫“可靠数字”,如4.0843,4.0842,4.0844,前4位数字是可靠数字,第5位数字是不确定数字,称“欠准数字”。欠准数字只允许一位,欠准程度为±1。
根据5.1,三组数值中13.65绝对误差最大,即在百分位(小数点后两位)。因此将其它数值暂时保留至千分位,然后进行运算,即13.65+0.008+1.633。
例2:14.131×0.07654÷0.78
根据5.2,三组数值中,0.78的有效位数最少,仅为两位数。因此,其它两组数值均暂时保留三位有效数字进行运算,即14.1×0.0765÷0.78。
有效数字及修约管理制度
制 定
部门审核
质量部审核
制定时间
审核日期
审核日期
批 准
批准日期
执行日期
分发部门
质量部
1.目的
本标准规定了食品检验中有效数字的确定和修约规则。
2.适用范围
适用于食品检验中除生Байду номын сангаас检定统计法以外的各种测量或计算而设的数值。
3.职责
QC室主任:监督本文件的执行。
检验人员:对有效数字的确定和修约的正确性负责
保留三位有效数字,为5.65
5.6504保留两位有效数字,为5.6
5.运算规则
5.1.数值相加减运算时,以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算中保留的位数和决定运算结果的有效位数。
5.2.数值相乘除时,以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在运算中保留的位数和计算结果的有效位数。
5.3.在运算过程中为减少舍入误差,其它数值的修约可以转时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。例1:13.65+0.00823+1.633=
4.2.有效数字的定位
是指确定欠准数字的位置,这个位置确定之后,其后面的数字均为无效数字。
4.3.有效数字的位数计算
4.3.1.从数值右边无零数字算起向右数。如0.32,0.032,0.320,前二组数值有效数字均为两位,第三个数值有效数字为三位。
4.3.2.有效数字位数的确定有效数字的位数要根据取样量、量具精度、检测方法的允许误差和检验中的限度规定来确定。
6.数值修约
6.1.定义:指对某数值中超出保留位数时的进舍。
6.2.进舍规则
有效位数确定后,其后第一个数字:
逢4及以下数字,舍弃;
逢6及以上数字进1;
逢5时:
5后非零进1;
5后为零时,5前为偶数则舍弃,5前为奇数时则进1.
归纳如下:
四舍六入五考虑,五后非零则进一;
五后为零看五前,五前偶舍奇进一。
例如数值5.654保留两位有效数字,为5.7
4.内容
4.1.有效数字、可靠数字和欠准数字
4.1.1.有效数字
指在食品检验中所能得到的有实际意义的数值。此数值由可靠数字和最后一位“欠准数字”组成。
4.1.2.可靠数字和欠准数字
多次测定一个量,所有的结果总是那个固定不变的数值,这个数值叫“可靠数字”,如4.0843,4.0842,4.0844,前4位数字是可靠数字,第5位数字是不确定数字,称“欠准数字”。欠准数字只允许一位,欠准程度为±1。
根据5.1,三组数值中13.65绝对误差最大,即在百分位(小数点后两位)。因此将其它数值暂时保留至千分位,然后进行运算,即13.65+0.008+1.633。
例2:14.131×0.07654÷0.78
根据5.2,三组数值中,0.78的有效位数最少,仅为两位数。因此,其它两组数值均暂时保留三位有效数字进行运算,即14.1×0.0765÷0.78。