第3章 自适应数字滤波器

2 j
]min

E[d
2 j
]

RdTxW *
2 0

sin
2π N

22coctsc2Nπ2Nπ


0
上式说明只要N＞2，不管N取多少，通过对权系数的调整可使均
方误差达到0，此时输出信号yj完全等于期望信号dj, 例如N=4， 按照上面公式，可以求出输入、输出信号以及最佳权系数如下：
计算最小均方误差：
2019年5月24日星期五
07:50:24
10
159
3.2 自适应横向滤波器
例 3.2.1 一个单输入的二 维权矢量自适应滤波器如 图 3.2.4所示，图中输入信 号与期望信号分别为
xj
sinLeabharlann 2π Nj

,
dj

2
cos

2π N
j

xj w1
z-1 w2
07:50:24
29
159
3.2 自适应横向滤波器
(2)性能函数的过渡过程
结论1：性能函数也是按N个指数和的规律变化，但性能函数和
加权系数的时间常数不同：
Mean Squared Error (MSE)
2019年5月24日星期五
07:50:24
30
159
3.2 自适应横向滤波器
结论2：无论是性能函数还是加权系数，最终的收敛取决于最慢
j1


0.5
x2 j1

0.5 cos
2 N
sin sin 0.5cos( ) 0.5cos( )
sin co2s019年05.月5s2i4n日(星期五) 0.5sin( )
07:50:24
cos( ) cos cos sin sin
函数存在极小值点。
x
w1opt w1
x min v1
w2opt
w2 v2
2019年5月24日星期五
07:50:24
21
159
3.2 自适应横向滤波器
等均方误差的椭圆曲线族：如果用性能函数为常数的不同平面 切割抛物面，投影在W 平面上可以得到一族同心椭圆。
w2
v2
V2 ’
V1 ’
wopt
v1
椭圆方程:
07:50:24
z -1
x(n-N)
wN
d(n)
e(n)
+
-
5
159
3.2 自适应横向滤波器
自适应滤波器的矩阵形式：自适应滤波器不管是理解为自适应
线性组合器还是理解为FIR滤波器，都可以表示为矩阵形式： (3.2.3)
误差信号：
(3.2.4)
说明：几种表达形式完全等价，但矩阵形式的求解更简洁。
2019年5月24日星期五
07:50:24
6
159
3.2 自适应横向滤波器
2. 利用均方误差最小准则(MMSE)求最佳权系数
(3.2.6)
2019年5月24日星期五
07:50:24
(3.2.7)
7
159
3.2 自适应横向滤波器
用互相关矩阵和自相关矩阵表示的均方误差：
自相关矩阵Rxx的特点
(1)是对称矩阵， RxTx Rxx ;
第三章 自适应数字滤波器
3.1 引言 3.2 自适应横向滤波器 3.3 自适应格型滤波器 3.4 最小二乘自适应滤波 3.5 自适应滤波的应用
2019年5月24日星期五
07:50:24
1
159
3.1 引 言
§3.1 引 言 自适应滤波器和维纳滤波器一样，都是符合某种准则的最
佳滤波器。不同的地方在于：
3. 过渡过程是指权矢量和性能函数由起始点随迭代次数的增加，
进行变化的过程。下面从权矢量和性能函数两方面讨论。(1) 权 矢量的过渡过程。
权系数第i个分量递推方程是
i=1, 2, 3, …, N (3.2.38)
2019年5月24日星期五
07:50:24
27
159
3.2 自适应横向滤波器
结论1：权系数第i个分量按照指数规律变化，时间常数为
dj
+
-
ej
yj
图 3.2.4 两个权的自适应滤波器
2019年5月24日星期五
07:50:24
11
159
3.2 自适应横向滤波器
这两个信号都是周期性确定性信号，因为任何正弦函数积的期望
值，都可由这个积在一个或多个周期上作时间平均来计算，可以
推导出下面公式:
E[ x j x jn ]
1 N
(1) 维纳滤波器参数是固定的，要求输入信号平稳、且具有信 号和噪声统计规律的先验知识。 而实际的统计特性是变化的， 因此维纳滤波无法应用在实际中。 (2)自适应滤波器参数可以自动调整,不需要信号和噪声的先验 统计知识，当统计特性慢变化时，自适应滤波器可以不断调整 参数，实现自适应滤波。因此自适应滤波在实际中更有意义。
0.5
cos
2 N

0.5

12
159
3.2 自适应横向滤波器
Rdx E[d j x j ,
d j x j1]T 0,

sin
2
N
T
E[e
2 j
]

E[d
2 j
]

2RdTxW
W
T RxxW
2 0.5[w1
w2
]

1 cos
cos
μ代表调整步长
最陡下降法是由Widrow和Hoff于1959年提出。 控制收敛速度
1. 最陡下降法的递推公式
两边减去W *,并令Vj=W j－W*：
2019年5月24日星期五
07:50:24
24
159
3.2 自适应横向滤波器
下面仍然采用坐标旋转的方法进行推导。
假设起始值是V0′，上式的递推解为： 权系数的递推公式：
的指数过程，对应最大的时间常数和最小的特征值：
(3) 调整步长μ μ值对收敛过程影响很大，首先要满足收敛条件，其次不能
太大、也不能太小，太大会导致振荡，太小则收敛速度太慢。
2019年5月24日星期五
07:50:24
15
159
3.2 自适应横向滤波器
w* [w1* w2*] [0 2]T
xj

sin

π 2
j

yj

w1 x j

w2 x j1

2
cos

π 2
j

dj

2
cos

π 2
j

2019年5月24日星期五
07:50:24
定义E[ej2]的梯度
(3.2.9)
2019年5月24日星期五
07:50:24
e j wk

(d j wk X j ) wk
9 X j
159
3.2 自适应横向滤波器
令梯度等于0可得最佳权矢量W*：
(3.2.12)
结论：上述结果称为自适应滤波器的维纳解，因为二者最佳解的
充要条件是一致的，即误差信号和输入信号是正交的：
性能函数减小最快的方向→最陡下降法
μ代表调整步长 控制收敛速度
(2) LMS算法：用均方误差梯度的估计值代替其精确值，特点 是简单易行。
2019年5月24日星期五
07:50:24
23
159
j 2RxxW 2Rdx
3.2 自适应横向滤波器
3.2.3 最陡下降法(Steepest Descent Method)
自适应滤波器可以用自适应线性组合器来表示，因为输出信
号yj是N个并行输入信号x1j, x2j, …, xNj的线性组合，而N个权系数
w1,w2,…,wN受误差信号ej的自适应控制。
x
1j
w1
…
x2j w2
x Nj wN
yj -
+
ej
d j
2019年5月24日星期五
07:50:24
4
159
3.2 自适应横向滤波器
2π N
2π N
1


w1 w2


2
0

sin
2π N


w1 w2


0.5(w12

w22
)

w1w2
cos
2π N

2w2
sin
2π N

2
2019年5月24日星期五
07:50:24
13
159
3.2 自适应横向滤波器
上式表明性能函数E［ej2］对权函数是二次型的，用(3.2.11) 式求梯度向量，得到
2019年5月24日星期五
0
07:50:24
w1
22
159
3.2 自适应横向滤波器
讨论：自适应横向滤波器的维纳解需要预先求出互相关向量和
自相关矩阵，需要矩阵求逆运算，无实际应用价值。更有实用
价值的是由威德诺(Widrow)提出的最陡下降法和LMS算法。
(1) 最陡下降法：用负梯度来调整权向量，因为负梯度方向是
求最佳权矢量可以用(3.2.12)式，通过对Rxx求逆得到，也可以
通过上式，令 j 0，而求出：
W * [w1
w2
]T

2cot
2π N

2
csc
2π N

T
2019年5月24日星期五
07:50:24
14
159
3.2 自适应横向滤波器
用(3.2.13)式求最小均方误差：
E[e
e(n)－>误差信号e(n)=d(n)-y(n)
自适应滤波器H(z)的系数调整：根据一定的自适应算法，由误
差信号来控制滤波器系数的不断调整， 使输出y(n)最接近期望
信号d(n)。
2019年5月24日星期五
07:50:24
3
159
3.2 自适应横向滤波器
3.2.1 自适应线性组合器和自适应FIR
1. 自适应滤波器的矩阵表示
Kalman滤波器本质上就是一个自适应滤波器。
2019年5月24日星期五
07:50:24
2
159
3.2 自适应横向滤波器
§3.2 自适应横向滤波器
自适应滤波器基本原理：
x(n)－>输入信号
x(n) H(z)
y(n) +
y(n)－>输出信号
d(n)－>期望信号、
e(n)
参考信号或训练信号
+ d(n)
i=1, 2, 3, …, N 因为调整步长μ一般比较小，时间常数可以近似为
i=1, 2, 3, …, N
结论2：权系数的时间常数与特征值成反比。
下面利用Rxx的特征向量进一步简化权系数递推方程。
2019年5月24日星期五
07:50:24
28
159
3.2 自适应横向滤波器
2019年5月24日星期五
如果将N个输入x1j, x2j, …, xNj理解为同一个信号源的N个序贯 样本，那么这实际上是一个具有单输入的FIR滤波器或自适应横 向滤波器。
w(n)为滤波 器的单位脉
冲响应
x(n)
z -1
x ( n -1)
z -1
x ( n -2) …
w1
w2
w3
w N -1
2019年5月24日星期五
y(n)
j 2RxxW 2Rdx

1


cos
2π N
cos
2π N
1

w1

w2


2


0 sin
2π N






w1
w1 cos 2π
N
w2 cos w2
2π N
2 sin
2π N

(2) 是正定或半正定的，因为
(3.2.8)
(3) 主对角线是输入信号均方值， 交叉项是输入信号自相关值。
2019年5月24日星期五
07:50:24
8
159
3.2 自适应横向滤波器
性能函数：均方误差E[ej2]称为性能函数，因为它是衡量权系数
好坏的一个重要函数。
计算最优权系数：使性能函数最小的权系数，常采用梯度法。
(2) Λ 是由特征值组成的对角矩阵
2019年5月24日星期五
07:50:24
(3.2.23)
19
159
3.2 自适应横向滤波器
简化性能函数：
结论：上式将性能函数变成了平方和的形式。
下面用二维权矢量说明它的几何意义。
2019年5月24日星期五
07:50:24
20
159
3.2 自适应横向滤波器
二维权矢量性能表面 ：是一个开口向上的抛物面，意味着性能
N j1
sin

2π N
j

sin
2π N
(
j

n)

0.5
cos
2π N
n
n 0,1
E[d j x jn ]
2 N
N j1
cos

2π N
j

sin
2π N
(
j

n)


sin
2π N
n
n 0,1
Rxx
E
x
2 j
x j1 x j
x
j
x
令 V=W－W*=[v1, v2, …, vN]T 其中V称为偏差权向量，它表示权向量对最佳权向量的偏差。
(3.2.17)
2019年5月24日星期五
07:50:24
18
159
3.2 自适应横向滤波器
Rxx特征分解：假设Rxx是N×N维，N个特征值为
。
(1) Q为正交矩阵，其列向量为Rxx的特征向量。
2019年5月24日星期五
07:50:24
Vj=Wj-W* QT Q1
25
159
3.2 自适应横向滤波器
2. 显然要使最陡下降法的递推公式收敛，只有当下式成立： (3.2.36)
收敛条件可以简写为：
2019年5月24日星期五
07:50:24
(3.2.37)
26
159
3.2 自适应横向滤波器
16
159
3.2 自适应横向滤波器
3.2.2
均方误差是权系数的二次函数，当权系数取最佳值时，均 方误差取最小值，因此可以用最小均方误差表示性能函数。
为了表示方便，我们令 ζ=E[e2j]：
min

E[d
2 j
]

(W*
)T
Rdx
2019年5月24日星期五
07:50:24
17
159
Rdx RxxW* 3.2 自适应横向滤波器