有效数字修约和运算规程
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
有效数字修约和运算规程
————————————————————————————————作者:————————————————————————————————日期:
天马行空官方博客:/tmxk_docin;QQ:1318241189;QQ群:175569632
标准操作程序
Standard Operating Procedure
题目:
有效数字的修约和运算规程共2页第1 页
部门:QC 起草:
起草日期:审核:
审核日期:
批准:
批准日期:
编号:QOS-011 改版编号:
生效日期:颁发部门:
GMP办分发部门:QC 、QA、生产部、物管部、各车间
1、目的:建立有效数字的修约和运算规程,保证测量、检测、计算结
果的
准确性。
2、范围:适用于特殊规定以外的所有测量、检测数据和计算结果。
3、责任人:QC检验员、计量器具使用人员。
4、正文:
4.1各种数量应采用几位数字,运算结果应保留几位数字,是很严格的,不能随意增减和书写。
4.2正确的表示方法是:记录和计算测量结果都应与测量的误差相适应,不应超过测量的精确程度,即测量和计算所表示的数字位数,除末位数字为可疑者外,其余各位数都应是准确可靠的。
4.3从仪器上直接测得的几位数字(包括最后一位可疑数字),叫做有效数字。实验数据的有效数字与测量的精度有关。任何超出或低于仪器精度的数字都是不恰当的。
4.4有效数字
4.4.1“0”在数字中是否包括在有效数字的位数中,与“0”在数字中的位置有关。“0”在数字前面,只表示小数点的位置(仅起定位作用),不包括在有
效数字中;如果“0”在数字的中间或末端,则表示一定的数值,应包括在有效数字的位数中。
4.4.2采用科学计数法,“10n”不包括在有效数字中。对于很小或很大的数字,采用科学计数法更加简便合理。
4.4.3对数值有效数字位数,仅由小数部分的位数决定,首数(整数部分)只起定位作用,不是有效数字。因此对数运算时,对小数部分的有效数字位数应
题目:
有效数字的修约和运算规程共2 页第2 页
与相应的真数的有效数字位数相同。
4.5在处理数据时,有效数字的取舍很重要,它有助于避免因计算过繁而引起的错误,确保运算结果的正确,同时也节省时间。
4.6有效数字的基本运算原则
4.6.1记录和计算结果所得的数值,均只能保留一位可疑数字。
4.6.2当有效数字的位数确定后,其余的尾数应根据“四舍六入五看齐,奇进偶不进”的规律,一律舍去。
4.7化学运算中保留有效数字的规则
4.7.1加减法:在加减法中,所得结果的小数点位数,应该与各加减数中,小数点后的位数最少者相同。
4.7.2乘除法:在乘除法中,所得结果的有效数字位数应与各数值中的有效数字位数最少的位数相同,而与小数点后的位数或者小数点的位置无关。
4.7.3在进行一连串数值运算时,为了既简便计算又能确保运算的准确性,可按“四舍六入五看齐,奇进偶不进”原则暂时多保留一位有效数字,到最后结果时,再根据“四舍六入五看齐,奇进偶不进”原则舍去多余的数字。
4.8有特殊规定的数据按规定确定有效数字。