检测数据修约处理教学课件
合集下载
数据修约(计量)21页PPT文档
知 sin5201307903 第四位为欠准数位。 11
常数
不参与有效数字运算
12
四、舍入法则
1. 不确定度的有效数字
一般情况下不确定度的有效数字取一位 ，精密测量情况下，可取二位。
2. 测量结果的有效数字
测量结果最佳值的有效数字的末位与 不确定度首位取齐。
3. 舍入规则： 四舍六入五凑偶
进成偶数) 14.2500 → 14.2 (五后全为0，前面是偶数，
舍去仍为偶数)
15
【例3】将下列数值修约为百位整数： 1264 → 1300 1325 → 1300 1250.2 → 1300 1350 → 1400 1250 → 1200
上述修约值中的最后两个0只起定位 作用，因此，1300可记为13×102，1400 可记为14×102。
欠 欠 欠 [2]乘除：一般可与位
数最少者相同。
[3]幂运算、对数（指数）、三角函数( 三角）不改变有效数字位数。
7
加、减法
2 1 3 0 0 3 3 2 7 2 0 9 7
21 30
约简
03327
2096 7 3
21 30 0 333
2096 7
18
0.5单位修约方法如下：将拟修约数值x乘以2， 按指定修约间隔对2x依3.2的规定修约，所得数 值(2x修约值)再除以2。
【例5】将下列数值修约到“个”数位的0.5单位 修约
拟修约数值x 2x 2x修约值 x修约值
60.25
120.50
120
60.0
60.38
120.76
121
60.5
60.28
10
初等函数运算
52013 四位有效数字，经正弦运算后得几位？ 问题是在 1 位上有波动，比如为 1，
常数
不参与有效数字运算
12
四、舍入法则
1. 不确定度的有效数字
一般情况下不确定度的有效数字取一位 ，精密测量情况下，可取二位。
2. 测量结果的有效数字
测量结果最佳值的有效数字的末位与 不确定度首位取齐。
3. 舍入规则： 四舍六入五凑偶
进成偶数) 14.2500 → 14.2 (五后全为0，前面是偶数，
舍去仍为偶数)
15
【例3】将下列数值修约为百位整数： 1264 → 1300 1325 → 1300 1250.2 → 1300 1350 → 1400 1250 → 1200
上述修约值中的最后两个0只起定位 作用，因此，1300可记为13×102，1400 可记为14×102。
欠 欠 欠 [2]乘除：一般可与位
数最少者相同。
[3]幂运算、对数（指数）、三角函数( 三角）不改变有效数字位数。
7
加、减法
2 1 3 0 0 3 3 2 7 2 0 9 7
21 30
约简
03327
2096 7 3
21 30 0 333
2096 7
18
0.5单位修约方法如下：将拟修约数值x乘以2， 按指定修约间隔对2x依3.2的规定修约，所得数 值(2x修约值)再除以2。
【例5】将下列数值修约到“个”数位的0.5单位 修约
拟修约数值x 2x 2x修约值 x修约值
60.25
120.50
120
60.0
60.38
120.76
121
60.5
60.28
10
初等函数运算
52013 四位有效数字，经正弦运算后得几位？ 问题是在 1 位上有波动，比如为 1，
数据修约规则 ppt课件
2. 如果判定报出值需要进行修约，当拟舍弃数字的 最左一位数字为5而后面无数字或皆为零时，数值 后面有(+)号者进一，数值后面有(-)号者舍去，其 他仍按数字修约规则进行。
例：将下列数字修约到个数位后进行判定（报出值多留一 位到一位小数）。
实测值
报出值
修约值
15.4546
15.5（一）
15
16.5203
例1：将830修约到“百”数位的0.2单位（或修约间隔为 20） ，得840
例:2：将842修约到“百”数位的0.2单位（或修约间隔为 20） ，得840。
ppt课件
8
将下列数字修约到 “百”数位的0.2单位（或修 约间隔为20）
拟修约数值
830 842
乘5
4150 4210
5A修约值 A修约值
（修约间隔为100） （修约间隔为20 ）
例1：将12.1498修约到一位小数，得12.1。 例2：将12.1498修约成两位有效位数，得12。
ppt课件
12
拟舍弃数字的最左一位数字大于5；或者是 5，而其后跟有并非全部为0的数字时，则 进一，即保留的末位数字加1。
例1：将1268修约到“百”数位，得13×102（特定时可写为 1300）。
例1：如指定修约间隔为0.1，修约值即应在0.1的整数倍中选取，相当 于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在100的整数倍中选取，相 当于将数值修约到“百”数位
ppt课件
4
有效位数：对没有小数位且以若干个零结尾的数 值，从非零数字最左一位向右数得到的位数减去 无效零（即仅为定位用的零）的个数；对其他十 进位数，从非零数字最左一位向右数而得到的位 数，就是有效位数。
有效数字修约和计算PPT幻灯片课件
在运算过程中，为减少舍入误差，其它数值的修约可以暂时多保留一位，等运算 得到结果时，再根据有效位数弃去多余的数字。
遇到收尾数字为8或9时，可多算以为有效数字，中间算式中可多保留以为。
11
例如： 14.131 × 0.07654 ÷ 0.78 = ? 分析：在三个数值中，0.78的有效位数最少，仅为两位有效位数，因此各数值
四舍六入五成双，即当尾数≤4时舍去，尾数≥6时进位。当尾数为5时，其后跟有 并非全部为0的数字，则进一；5后面为0，则应看5前面的数字是奇数还是偶数，5前为偶 数应将5舍去，5前为奇数则将5进位。
6
进舍规则口诀：四舍六入五成双，五后非零则进一； 五后全零看五前，五前偶舍奇进一； 不论数字多少位，都要一次修约成。
均应暂保留三位有效位数进行运算，最后结果再修约为两位有效位数。 最后对计算结果进行修约，应只保两位有效位数，故： 14.131 × 0.07654 ÷ 0.78 = 14.1 × 0.0765 ÷ 0.78 = 1.4
12
三、有效数字的应用实例
例1 异戊巴比妥钠的干燥失重，规定不得过4.0%，今取样1.0042g，干燥失重量 0.0408g，请判断是否符合规定？ 解析：
例如： 0.6000g、20.05%、6.325×103 0.0450g、6.32×103 、63.2×102
-------四位有效数字 -------三位有效数字
pH值等对数值，其有效数字是由其小数点后的位数决定的，其整数部分只表明其 真数的乘方次数。如pH=11.26（[H]+=5.5×10-12mol/L），其有效位数只有两位。
应修约成0.17%，0.6%；在抽样时根据取样规则确定取样件数时也采取“只进不舍” 规则。
8
遇到收尾数字为8或9时，可多算以为有效数字，中间算式中可多保留以为。
11
例如： 14.131 × 0.07654 ÷ 0.78 = ? 分析：在三个数值中，0.78的有效位数最少，仅为两位有效位数，因此各数值
四舍六入五成双，即当尾数≤4时舍去，尾数≥6时进位。当尾数为5时，其后跟有 并非全部为0的数字，则进一；5后面为0，则应看5前面的数字是奇数还是偶数，5前为偶 数应将5舍去，5前为奇数则将5进位。
6
进舍规则口诀：四舍六入五成双，五后非零则进一； 五后全零看五前，五前偶舍奇进一； 不论数字多少位，都要一次修约成。
均应暂保留三位有效位数进行运算，最后结果再修约为两位有效位数。 最后对计算结果进行修约，应只保两位有效位数，故： 14.131 × 0.07654 ÷ 0.78 = 14.1 × 0.0765 ÷ 0.78 = 1.4
12
三、有效数字的应用实例
例1 异戊巴比妥钠的干燥失重，规定不得过4.0%，今取样1.0042g，干燥失重量 0.0408g，请判断是否符合规定？ 解析：
例如： 0.6000g、20.05%、6.325×103 0.0450g、6.32×103 、63.2×102
-------四位有效数字 -------三位有效数字
pH值等对数值，其有效数字是由其小数点后的位数决定的，其整数部分只表明其 真数的乘方次数。如pH=11.26（[H]+=5.5×10-12mol/L），其有效位数只有两位。
应修约成0.17%，0.6%；在抽样时根据取样规则确定取样件数时也采取“只进不舍” 规则。
8
数字修约课件ppt
在不同情况下，应该根据具体情况选 择合适的修约方式和精度要求。
例如，在进行数据分析时，如果数据 精度要求不高，可以将数字修约为整 数；如果数据精度要求较高，则应该 保留适当的小数位数。
05
数字修约的软件工具
Excel的数字修约功能
总结词
Excel是一款常用的电子表格软件，它提供了数字修约功能，方便用户对数字进行四舍五入、向上取整或向下取 整等操作。
错误一：不恰当的修约方法
总结词
不恰当的修约方法是指在进行数字修 约时，没有遵循正确的修约规则，导 致结果不准确。
详细描述
在进行数字修约时，应遵循四舍五入 、进一法或舍去法的规则，根据实际 情况选择合适的修约方法。如果随意 选择或误用修约方法，会导致结果偏 离正确值。
错误二：忽视修约规则的一致性
总结词
详细描述
在Excel中，可以使用“ROUND”函数进行数字修约。例如，要将数字2.3456修约到小数点后两位，可以使用 “=ROUND(2.3456, 2)”，得到结果2.35。此外，还可以使用“INT”或“CEILING”函数进行向上或向下取整 。
Python的数字修约库
总结词
Python是一种通用编程语言，它有许多第三方库可以用于数字修约。
循环修约是指在进行数字修约时，由于修约规则的限制，导致被修约数字不断变 化，无法得到稳定的结果。为了避免这种情况，应该先了解修约规则，并确保修 约前后数值的一致性。
例如，在四舍五入修约中，0.5是一个临界点，如果被修约数字是0.5或以上，则 向上取整；如果是0.4999999，则向下取整为0.4。如果先对0.5进行向下取整， 得到0，再对0进行向上取整，又回到了0.5，这就形成了循环修约。
详细描述
数值修约规则ppt课件
例1：将1268修约到“百”数位，得 13×102（特定时可写为1300）。
例2：将1268修约成三位有效位数，得 127×10（特定时可写为1270）。
例3：将10.502修约到个数位，得11。
注：“特定时”的涵义系指修约间隔或有 效位数明确时。
ppt课件
22
3.3 拟舍弃数字的最左一位数字为5， 而右面无数字或皆为0时，若所保留的 末位数字为奇数(1,3,5,7,9）则进一， 为偶数（2,4,6,8,0）则舍弃。
修约间隔又称修约区间或化整间隔，系确定修约
保留位数的一种方式。修约间隔一般以k×10n （k=1，2，5；n为整数）的形式表示，将同一 k值的修约间隔，简称为“k”间隔。
修约间隔的数值一经确定，修约值即应为该数值 的整数倍。 例1：如指定修约间隔为0.1，修约值即应在0.1 的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在 100的整数倍中选取，相当于将数值修约到“百” 数位。
ppt课件
15
试看下面各数据的有效数字位数：
1.0008
43383 五位有效数字
0.5000
20.76% 四位有效数字
0.0257 154×10-10 三位有效数字
53
0.0070 二位有效数字
0.02
2×10-10
一位有效数字
3600
100 有效数字位数不定
ppt课件
16
2.修约间隔
该方法如下所述：
① 如果为修约间隔整数培的一系列数中， 只有一个数最接近于拟修约数，则该 数就是修约数。
例如，将1.150001按0.1修约间隔进 行修约。此时，与拟修约数1.150001 邻近的为修约间隔整数倍的数有1.1和 1.2（分别为修约间隔的11倍和12 倍），然而只有1.2最接近于拟修约数， 因此1.2 就是修约数。
例2：将1268修约成三位有效位数，得 127×10（特定时可写为1270）。
例3：将10.502修约到个数位，得11。
注：“特定时”的涵义系指修约间隔或有 效位数明确时。
ppt课件
22
3.3 拟舍弃数字的最左一位数字为5， 而右面无数字或皆为0时，若所保留的 末位数字为奇数(1,3,5,7,9）则进一， 为偶数（2,4,6,8,0）则舍弃。
修约间隔又称修约区间或化整间隔，系确定修约
保留位数的一种方式。修约间隔一般以k×10n （k=1，2，5；n为整数）的形式表示，将同一 k值的修约间隔，简称为“k”间隔。
修约间隔的数值一经确定，修约值即应为该数值 的整数倍。 例1：如指定修约间隔为0.1，修约值即应在0.1 的整数倍中选取，相当于将数值修约到一位小数。 例2：如指定修约间隔为100，修约值即应在 100的整数倍中选取，相当于将数值修约到“百” 数位。
ppt课件
15
试看下面各数据的有效数字位数：
1.0008
43383 五位有效数字
0.5000
20.76% 四位有效数字
0.0257 154×10-10 三位有效数字
53
0.0070 二位有效数字
0.02
2×10-10
一位有效数字
3600
100 有效数字位数不定
ppt课件
16
2.修约间隔
该方法如下所述：
① 如果为修约间隔整数培的一系列数中， 只有一个数最接近于拟修约数，则该 数就是修约数。
例如，将1.150001按0.1修约间隔进 行修约。此时，与拟修约数1.150001 邻近的为修约间隔整数倍的数有1.1和 1.2（分别为修约间隔的11倍和12 倍），然而只有1.2最接近于拟修约数， 因此1.2 就是修约数。
最新工程结构试验与检测中的数值修约规则与误差理论教学讲义ppt课件
• 例2：将下列数字修约成两位有效位数
• 拟修约数值
修约值
• -365
-36×10（特定时可写为-360）
• -0.0365
-0.036
4. 不许连续修约
• 4.1 拟修约数字应在确定修约位数后一次修约 获得结果，而不得多次按第3章规则连续修约。
• 例如：修约15.4546，修约间隔为1 • 正确的做法： • 15.4546---15 • 不正确的做法： • 15.4546----15.455----15.46---15.5---16
• 例3：将10.502修约到个数位，得11。
• 注：本标准示例中，"特定时"的涵义系指修约 间隔或有效位数明确时。
• 3.3 拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时， 若所保留的末位数字为奇数（1，3，5，7，9）则进一，为偶数 （2，4，6，8，0）则舍弃。
• （五后是零看前位，前位为奇则进一，前位为偶应舍去）
2.2 指定将数值修约成n位有效位数
• 5.368---（指定3位有效位数）----5.37
3. 进舍规则
四舍六入五考虑，五后非零 则进一，五后是零看前位，前位 为奇则进一，前位为偶应舍去。
• 3.1 拟舍弃数字的最左一位数字小于5时，则 舍去，即保留的各位数字不变。（四舍）
• 例1：将12.1498修约到一位小数，得12.1。 • 例2：将12.1498修约成两位有效位数，得12。
• 简单判定：[0，2.5） [2.5，7.5） [7.5，10）
0
5
10
• 5.2 0.2单位修约
• 将拟修约数值乘以5，按指定数位依第3章规则修约，所 得数值再除以5。
• 例如:将下列数字修约到"百"数位的0.2单位（或修约间 隔为20）
有效数字和数值的修约及其运算ppt课件
4.3、要根据取样的要求，选择相应的量具。 4.3.1、 “精密称定”系指称取重量应准确到所取重量的0.1％，可根据 称量选用分析天平或半微量分析天平。“精密量取”应选用符合国家标准 的移液管，必要时应加校正值。 4.3.2、 “称定”(或“量取”)系指称取的重量(或量取的容量)应准确至所取 重量(或容量)的百分之一。 4.3.3、 取样量为“约XX”时，系指取用量不超过规定量的（100±10） ％。 4.3.4、取样量的精度未作特殊规定时，应根据其数值的有效位数选用 与之相应的量具；如规定量取5ml、5.0ml或5.00ml时，则应分别选用 5～10ml的量筒、5～10ml的刻度吸管或5ml的移液管进行量取。 4.4、在判定药品质量是否符合规定之前，应将全部数据根据数值修约规 则进行运算，并根据《中国药典》2010年版二部“凡例”第二十四条及 国家标准GB1250-89《极限数值的表示方法和判定方法》中规定的“修 约值比较法”，将计算结果修约到标准中所规定的有效位，而后进行判 定。
举例
例1:安乃近片重量差异
平均重量 0.30 g以下 0.30g及0.30g以上 重量差异限度 ±7.5% ±5%
安乃近片(**药厂,批号:******) (1)称量 称量瓶重+20片重 42.505(g) 称量瓶重 36.605(g) 20片 5.900(g) (2)平均片重5.900/20=0.295(g) (3) 重量差异限度 ±7.5%还是±5%?本品的平均片 重为0.295g,应按0.30g的重量差异限度±5%计 算。 (4)允许片重范围: 0.295 ±0.295× 5%=0.280～ 0.310(g)
2.4进舍规则 口诀：四舍六入五考虑，五后非零则进一，五后全零看五前，五前偶舍 奇进一，不论数字多少位，都要一次修约成 2.4.1、拟舍弃数字的最左一位数字小于5时，则舍去，即保留的各位数字不 变。 例1 将12.1498修约到一位小数(十分位)，得12.1。例2 将 12.1498修约成两位有效位数，得12。 2.4.2、拟舍弃数字的最左一位数字大于5，或者是5，而其后跟有并非全部 为0的数字时，则进一，即在保留的末位数字加1。例1 将1268修约到百 数位，得13×102例2 将1268修约到三位有效位数，得127×10。例3 将10.502修约到个数位，得11。 2.4.3、拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，若所保 留末位数为奇数(1，3，5，7，9)则进一，为偶数(2，4，6，8，0)则舍 弃。 2.4.4、在相对标准偏差(RSD)中，采用“只进不舍”的原则，如0.163％、 0.52％宜修约为0.17％、0.6％。 2.4.5、不许连续修约拟修约数字应在确定修约位数后一次修约获得结果， 而不得多次按前面规则(2.4.1～2.4.3)连续修约。
工程结构试验与检测中的数值修约规则36页PPT
工程结构试验与检测中的数值修约规
•
26、我们像鹰一样，生来就是自由的 ，但是 为了生 存，我 们不得 不为自 己编织 一个笼 子，然 后把自 己关在 里面。 ——博 莱索 Nhomakorabea•
27、法律如果不讲道理，即使延续时 间再长 ，也还 是没有 制约力 的。— —爱·科 克
•
28、好法律是由坏风俗创造出来的。 ——马 克罗维 乌斯
•
29、在一切能够接受法律支配的人类 的状态 中，哪 里没有 法律， 那里就 没有自 由。— —洛克
•
30、风俗可以造就法律，也可以废除 法律。 ——塞·约翰逊
则
31、只有永远躺在泥坑里的人，才不会再掉进坑里。——黑格尔 32、希望的灯一旦熄灭，生活刹那间变成了一片黑暗。——普列姆昌德 33、希望是人生的乳母。——科策布 34、形成天才的决定因素应该是勤奋。——郭沫若 35、学到很多东西的诀窍，就是一下子不要学很多。——洛克
•
26、我们像鹰一样，生来就是自由的 ，但是 为了生 存，我 们不得 不为自 己编织 一个笼 子，然 后把自 己关在 里面。 ——博 莱索 Nhomakorabea•
27、法律如果不讲道理，即使延续时 间再长 ，也还 是没有 制约力 的。— —爱·科 克
•
28、好法律是由坏风俗创造出来的。 ——马 克罗维 乌斯
•
29、在一切能够接受法律支配的人类 的状态 中，哪 里没有 法律， 那里就 没有自 由。— —洛克
•
30、风俗可以造就法律，也可以废除 法律。 ——塞·约翰逊
则
31、只有永远躺在泥坑里的人，才不会再掉进坑里。——黑格尔 32、希望的灯一旦熄灭，生活刹那间变成了一片黑暗。——普列姆昌德 33、希望是人生的乳母。——科策布 34、形成天才的决定因素应该是勤奋。——郭沫若 35、学到很多东西的诀窍，就是一下子不要学很多。——洛克
GBT8170-2008数值修约规则与极限数值的表示和判定 ppt课件
例2：已知圆半径R=3.145，求周长C。 C=2 ×3.1416 ×3.145 =19.760664 ≈19.76
31
PPT课件
综合运算 例：2.0×104+15000×2.5 解：[分析]先乘除后加减
2.0×104+15000×2.5 =2.0×104+150×102×2.5 =2.0×104+375×102 =2.0×104+3.75×104 =5.75×104 ≈5.8×104
行比较，只要超出极限数值规定的范围 （不论超出程度大小）都判定为不符合要 求。
35
PPT课件
3、2.全数值比较法： 将测试所得测定值或计算值不经修约处理
（或虽经修约处理，但应标明它是经舍、 进或未进未舍而得），用该数值与规定的 极限数值作比较，只要超出极限数值规定 的范围（不论超出程度大小） ，都判定为 不符合要求。 这两种方法的结论有时不同,例：
32
PPT课件
四、极限数值的表示和判定
1、书写极限数值的一般原则 标准（或其他技术规范）中规定考核的以数量形
式给出的指标或参数等，应当规定极限数值。 极限数值表示符合该标准要求的数值范围的界 限值，它通过给出最小极限值和（或）最大极 限值，或给出基本数值与极限偏差值等方式表 达。 标准中极限数值的表示形式及书写位数应适当， 其有效数字应全部写出。书写位数表示的精确 程度，应能保证产品或其他标准化对象应有的 性能和质量。
到1位小数。 例2、如指定修约间隔为100，修约值应在 100的整数倍中选取，相当于将数值修约
到“百”数位。
6
PPT课件
5、极限数值：标准（或技术规范）中 规定考核的以数量形式给出且符合该 标准（或技术规范）要求的指标数值 范围的界限值。
31
PPT课件
综合运算 例：2.0×104+15000×2.5 解：[分析]先乘除后加减
2.0×104+15000×2.5 =2.0×104+150×102×2.5 =2.0×104+375×102 =2.0×104+3.75×104 =5.75×104 ≈5.8×104
行比较，只要超出极限数值规定的范围 （不论超出程度大小）都判定为不符合要 求。
35
PPT课件
3、2.全数值比较法： 将测试所得测定值或计算值不经修约处理
（或虽经修约处理，但应标明它是经舍、 进或未进未舍而得），用该数值与规定的 极限数值作比较，只要超出极限数值规定 的范围（不论超出程度大小） ，都判定为 不符合要求。 这两种方法的结论有时不同,例：
32
PPT课件
四、极限数值的表示和判定
1、书写极限数值的一般原则 标准（或其他技术规范）中规定考核的以数量形
式给出的指标或参数等，应当规定极限数值。 极限数值表示符合该标准要求的数值范围的界 限值，它通过给出最小极限值和（或）最大极 限值，或给出基本数值与极限偏差值等方式表 达。 标准中极限数值的表示形式及书写位数应适当， 其有效数字应全部写出。书写位数表示的精确 程度，应能保证产品或其他标准化对象应有的 性能和质量。
到1位小数。 例2、如指定修约间隔为100，修约值应在 100的整数倍中选取，相当于将数值修约
到“百”数位。
6
PPT课件
5、极限数值：标准（或技术规范）中 规定考核的以数量形式给出且符合该 标准（或技术规范）要求的指标数值 范围的界限值。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2200 √ 58600 √
2203 × 2210 × 58611× 58670 ×
确定修约位数的表达方式
确定修约位数的表达方式
指定数位(指定修约间隔)； 指定将数值修约成n位有效位数。
进舍规则
四舍六入 逢五取偶
• 拟舍弃数字最左一位数字小于5，则舍去，保留其余各位 数字不变
例1：将12.1498修约到个位数（即 修约间隔为1），得12；将12.1498修 约到1位小数（即 修约间隔为0.1），得12.1 。
加减运算
计算结果的末位数位，应与参加运算数据中的末位数位最大 的位数相同。 对带小数点的运算，计算结果小数点后保留的位数应与参加 运算数据里小数点后末位最左的位数相同。
例：1.5+0.42=1.92=1.9
乘除运算
计算结果的位数，应与参加运算数据里有效数字最小的位数 相同。
例：0.160*2.6=0.4160=0.42
10.41
10.4
10.5
原始数值
数值修约
修约值
×
有效数字
该数值从其第一个不是零的数字起到最末一位数的全部 数字即为有效数字。
例1：3.2，0.32，0.032，0.0032均为两位有效位数；0.0320为三位有 效位数。
例2：12.490为五位有效位数；10.00为四位有效位数。
例3：1.35cm =13.5 mm =0.0135m ，这三种表示法完全等效，均为三 位有效数字。
检测数据修约处理
目录
➢ 术语 ➢ 确定修约位数的表达方式 ➢ 进舍规则 ➢ 不连续修约 ➢ 0.5单位修约及0.2单位修约 ➢ 计算法则(参考上海市计量检定人员计量基础知识培训教材)
术语
数值修约
通过省略原数值的最后若干位数字，调整所保留的末位 数字，使最后所得到的值最接近原数值的过程。
注：经数值修约后的数值称为修约值。
若所保留的末位数字为偶数（2，4，6，8，0）则舍弃。
（逢五取偶）
例1：1.050
1位小数，得1.0 。
例2：0.35 修约到1为小数，得0.4 。
负数修约时，先将它的绝对值按数字进舍规则（四舍六入 逢五取偶
例：将下列数字修约到三位小数
拟修约数值
-0.0365
-0.036
绝对值
0.0365
不连续修约
为5而后面无数字或皆为零时，数值后面有(+)号者进一， 数值后面有(-)号者舍去，其他仍按数字修约规则进行。
例：将下列数字修约到个数位（报出值多留一位到一位小数）。
实测值
报出值
15.4546 15.5（一）
15
-15.4546 -15.5(一)
-15
16.5203 16.5（＋）
17
-17.5000 -17.5
例：将下列数字修约到 “百”数位的0.2单位（或修约间隔为20）
拟修约数值X
5X
5X修约值
X修约值
（修约间隔为100） （修约间隔为20 ）
830
4150
4200
840
842
4210
4200
840
832
4160
4200
840
-930
-4650
-4600
-920
计算法则
——参考上海市计量检定人员 计量基础知识培训教材
加减 注：以小数位数最少的数据为准，其他的数据比他多保留一位小数，然后 进行加减，最后进行修约。
例：2π÷0.16
=2*3.14÷0.16 =39.25 =39
谢谢Leabharlann 9、 人的价值，在招收诱惑的一瞬间被决定 。21.2.1 621.2.1 6Tuesday, February 16, 2021
10、低头要有勇气，抬头要有低气。2 1:07:17 21:07:1 721:07 2/16/20 21 9:07:17 PM
1、拟修约数字应在确定修约位数后一次修约获得结果，而 不得多次按进舍规则连续修约。
例如：修约15.4546，修约间隔为1 正确的做法： 15.4546→15 不正确的做法： 15.4546→15.455→15.46→15.5→16
2、在具体实施中，有时测试与计算部门先将获得数值按 指定的修约位数多一位或几位报出，而后由其他部门判 定。为避免产生连续修约的错误，应按下述步骤进行。
11、人总是珍惜为得到。21.2.1621:07: 1721:0 7Feb-21 16-Feb-21
12、人乱于心，不宽余请。21:07:1721 :07:172 1:07Tuesday, February 16, 2021
• 拟舍弃数字最左一位数字大于5 ，或者是5，而其后跟有 并非全部为0的数字时，则进一，即保留的末位数字加1。
例2：将1268修约到“百”数位，得1300。 例3：将10.502修约到个数位，得11。
拟舍弃数字的最左一位数字为5，而右面无数字或皆为0时，
若所保留的末位数字为奇数（1，3，5，7，9）则进一，
平方或开方运算
运算结果与原来数据里有效位数相同。
例：1.42=1.96 =2.0 1.233=1.5129=1.51
对数运算
所取对数位数应与真数有效数字位数相等。
例：lg12.3=1.09
混合运算
先开方或乘方，并修约，再乘除，进行修约，最后进行 加减，并对结果进行修约。
乘除 注：以有效数位数最少的数据为准，其他的数据比他多保留一位小 数，然后进行乘除，最后进行修约。
-18
0.5单位修约及0.2单位修约
0.5单位修约（半个单位修约）
指修约间隔为指定数位的0.5单位，即修约到指定数 位的0.5单位。
修约方法：将拟修约数值乘以2，按指定数位依数字修约规则修约，所得 数值再除以2。
例：将下列数字修约到个数位的0.5单位
拟修约数值X 60.25 60.38 60.28 -60.75
2X 120.50 120.76 120.56 -121.50
2X修约值 120 121 121 -122
X修约值 60.0 60.5 60.5 -61.0
0.2单位修约
指修约间隔为指定数位的0.2单位，即修约到指定数 位的0.2单位。
修约方法：将拟修约数值乘以5，按指定数位依数字修约规则修约，所得 数值再除以5。
报出数值最右的非零数字为5时，应在数值后面加 “（＋）”或“（－）”或不加符号，以分别表明已进行 过舍、进或未舍未进。
例：16.50（＋）表示实际值大于16.50，经修约舍弃成为16.50； 16.50（－）表示实际值小于16.50，经修约进一成为16.50。
如果报出值需要进行修约，当拟舍弃数字的最左一位数字