有限字长量化误差-哈工大

范围小，有溢出，尾数处理会带来 截尾或舍入误差。由此，在数字系 统的计算中会发生有限字长效应。
范围，浮点数也存在量化误差，与 定点相比，浮点有更大的动态范围， 且不易溢出。但浮点数运算量较大， 耗时长，且要求处理器必须具备浮 点运算能力
数字运算的 有限字长效应
浮点数 浮点表示的阶码决定浮点数的动态
浮点数
A/D采样的 量化效应
统计分析 信噪比 信噪比是衡量量化噪声的重要指标，舍入法A/D 转换的信噪比为：
每增加一位字长，SNR约增加6dB
A/D采样的 量化效应
统计分析
结论 输入信号经A/D变换会产生量化误差。 采用信噪比来估算量化误差的大小可知，提高A/D 的量化信噪比的方法有： 增大输入信号 增加字长b
定义 数码中小数点的位置是浮动的，b位
二进制数分成指数部分和尾数部分。
C，阶码，决定浮点数动态范围
M，尾数，决定浮点数精度
2c，指数，决定浮点数动态范围
举例
符号位
F=0.101×2010=0.625×4=2.5
符号位
数字运算的 有限字长效应
定点数
定义 在整个ຫໍສະໝຸດ Baidu算中，二进制小数的在数码中位 置固定不变 表示
数字运算的 有限字长效应
量化误差
小数乘法
截尾 截尾量化是将小数部分b以后的所有位去掉，即：
数字运算的 有限字长效应
量化误差
原反补码
说明 正数和负数补码截尾后变小，截尾误差为负 负数原码和反码截尾后变大，截尾误差为正 当被截去的尾数位全为1时，误差最大： 0.X1X2X3…Xb | 11111…（截去） 等比为等比数列求和，其和的表达式为： 当d→∞时（即无穷多个1被截尾）取得最大值
数字运算的 有限字长效应
二进制 表 示
例1 用补码计算0.0011-0.1101
0.0011的补码是0.0011 -0.1101的补码是1.0011 两补码相加： 0.0011+1.0011=1.0110 （即0.1875-0.8125=-0.625）
例2
分别用原码和补码表示+0和-0
原码：0.00000 补码：0.00000 补码对0的表示是唯一的 1.00000 1.11111+0.00001=0.00000
数本身只有小数部分，称为尾数 符号位，0正1负
转换
举例 二进制1.110转为十进制：
=-0.75
数字运算的 有限字长效应
定点数
原则 为运算方便，定点小数限制在[-1,1]上，用乘以 比例因子的方法表示绝对值大于1的数 加法 不会增加字长，但比例因子不合适会产生溢出
0.101 + 0.101 1.010
A/D采样的 量化效应
谢谢
11S001082刘 霆
原码 x10= 0.75 =>(x2)原=0.110 x10= -0.75=>(x2)原=1.110 补码
x10= 0.75 =>(x2)补=0.110
x10= -0.75=>(x2)补=1.010 反码 反码+1
x10= 0.75 =>(x2)反=0.110
x10= -0.75=>(x2)反=1.001
数字运算的 20 有限字长效应
2
A/D采样的量化效应
A/D变换器将模拟输入信号变为一 组离散电平时产生的量化误差
原理
原理 将模拟输入信号转换为b位二进制数字信号，b 是有限字长，必然会引入量化误差 组成 抽样器、量化器
抽样器
量化误差：
量化器
A/D采样的 量化效应
统计分析 假设 e(n)是平稳随机序列，即它的统计特性不随 时间变化，期望与方差均与n无关 e(n)与取样序列x(n)是不相关的，即： E[e(n)·x(n)]=0(互相关函数=0），e(n)与 输入信号是统计独立的 e(n)序列本身的任意两个值之间不相关， e[k]是白噪声序列
数字运算的 有限字长效应
二进制 表 示
意义 反码的意义不大，多数情况下反码仅用来推 出补码； 用原码比较直观，但做加减法不方便，需要 判断两数符号，同号做加，异号做减，做减 时还要比较绝对值大小，以便用大数作为被 减数。这大大降低了运算效率； 补码的优点在于可以将加减运算统一到加法 运算上，而且对于补码来说，0的表达是唯一 的。下面举例说明：
分类
1 2 3
数字运算中有限字长效应
A/D采样的量化效应
数字滤波器的系数量化效应
目录
数字运算的有限字长效应 A/D采样的量化效应 数字滤波器的系数量化效应 定点运算的有限字长效应
1
数字运算的有限字长效应
数字运算过程中为限制位数而进行尾数处 理而产生的有效字长效应
二进制 小 数
定点数 数据的二进制数采用定点表示动态
数字运算的 17 有限字长效应
量化误差
截尾量化
舍入量化
数字运算的 18 有限字长效应
量化误差
P(e) 1/q
P(e) 1/q
-q
O
e
-q/2
O
q/2
e
截尾量化
舍入量化
数字运算的 19 有限字长效应
量化误差
结论 截尾误差与舍入误差区间大小相同 舍入误差是对称分布，截尾误差是单极性分布 二者统计特性不同 截尾误差比舍入误差影响大，多数情况应用舍 入误差
有限字长效应和量化误差
参考资料： [1]陈后金.数字信号处理[M].北京:高等教育出版社.2004 [2]程佩青.数字信号处理教程[M].北京:清华大学出版社.2007 [3]桂志国.数字信号处理[M].北京:科学出版社.2010
概述
产生 数字信号以有限位二进制表示 理论设计上无限精度与实际工程中有限字长的矛盾
溢出！
乘法 不会产生溢出，但相乘后字长增加一倍（2b）， 需要通过量化手段，将其字长变回b
0.101 × 0.011 101 101 0.001111
量化误差
字长由3变为6
数字运算的 有限字长效应
二进制 表 示
原码 反码 补码
截尾误差
取反加1
数字运算的 10 有限字长效应
二进制 表 示
举例 将x10=0.75 和x10=-0.75分别用原码、反码、 补码表示。
A/D采样的 量化效应
统计分析 举例 设x(n)是一个在（-2,2）区间均匀分布的平稳随机 信号，采用舍入量化，为使信噪比不低于80dB， P(e) 量化器的字长应为多少？
1/q
归一化比例因子：A=0.5 信号方差为：
-q/2
O
q/2
e
将dB，A=0.5，和= 代入得：
由上式求出,所以取 因此，应取字长为13位
e(n)在误差范围内均匀分布
A/D采样的 量化效应
统计分析
理想A/D 采样器
A/D统计模型
A/D采样的 量化效应
统计分析
P(e) 1/q
-q/2
O
q/2
e
舍入量化误差概率密度曲线
A/D采样的 量化效应
统计分析
结论 采用舍入法，量化噪声的方差与A/D变换的字 长b有关，b越大，方差越小 舍入法引入的噪声期望为0，与字长无关，易 求截尾法引入的噪声期望为与字长有关，故舍 入法较为常用
数字运算的 15 有限字长效应
量化误差 舍入 舍入量化是判断第b+1位，若为1则进位，为0则 舍去 (判断b位以后的数与q/2的关系，大于则进位， 小于则舍去)
数字运算的 16 有限字长效应
量化误差
原反补码
说明 舍去时，误差最大情况： 0.X1X2X3…Xb | 01111…（舍去） 等比为等比数列求和，其和的表达式为： 当d→∞时（即无穷多个1被截尾）取得最大值 进位时，误差最大情况： 0.X1X2X3…Xb | 10000…（进位） 误差就是