自适应滤波及其应用

(7.3)
输入信号矢量 x n 与滤波器权系数矢量 w n 相乘 形成了时刻n的输出信号，即
y n x
T
n w n
w
T
n x n
(7.4)
自适应系统的误差信号则为
e n d n y n

d n w
T
n x n d n

实际应用中，牛顿法的计算要复杂得多。一 方面，由于缺少关于信号噪声的统计先验知 识，必须对矩阵R和矢量p进行估计；另一方 面，性能函数还有可能是非二次型的。这些 因素都是直接影响牛顿法的性能。通常，需 要引入一个收敛因子μ来调节牛顿自适应迭代 的速度，这样式（7.26）变为 1 w n 1 w n R n , 0 1 （7.27）
第7章 自适应滤波及其应用
本章内容



一、自适应滤波的基本概念 二、横向自适应滤波器结构与随机梯度 法 三、自适应滤波的最小均方算法 四、自适应滤波器的递归最小二乘法 五、自适应滤波器在医学信号分析处理 中的应用
7.1 自适应滤波的基本概念


自适应滤波或自适应滤波器是信号处理领域的 一个重要分支。自适应滤波器是一种能够根据 输入信号自动调整自身性能并进行数字信号处 理的数字滤波器，其本质特点是具有自学习和 自调整即所谓自适应的能力。 自适应滤波器的原理如图7.1所示。
R x n x
T
...
x 0 n x M n x1 n x M n . 2 x M n
(7.8)

式（7.7）对应单输入的情况，是（7.8）对应 多输入的情况。

自适应滤波器的性能函数 习惯上称均方误差 e n 为自适应滤波器的性 能函数，并记为 、J或MSE，即 2 e n MSE= =J= (7.12) 图7.4为典型的二维均方误差函数的示意图， 通常称性能函数曲面为自适应滤波器的性能 表面。
2
T
（7.22）
T

其性能函数的二阶导数为
' n ' ' w n 2 0
2

2

（7.23） 另一方面，已知均方误差性能函数的梯度表示 为 （7.24） n 2 Rw n 2 p
1
2
...
2 M

2. 最速下降法 在自适应滤波器的性能表面搜索过程中，最速 下降法沿性能表面最速下降的方向，即负梯度 方向，或性能函数 w n 的梯度 n 的反方向连 续调整滤波器的权矢量 w n 。梯度矢量可以 表示为
n w n w n
1 T
1


矩阵 Q 的各个列矢量为自相关矩阵R的特征值 相对应的特征矢量。 为一对角阵，其对角元 素为矩阵R的特征值。通常将这些特征值表示 为 0 , 1 ,..., ，且均为正的实值。每一个特征 M 值对应矩阵 Q 中一列特征矢量。将式（7.34） 代入式（7.33），有 1 c n 1 I 2 Q Q c n （ 7.36） 两边左乘 Q ，并利用正交矩阵的性质，有 1 1 Q c n 1 I 2 Q c n （7.37）
w n 1 w n n
2
w n 1 w n n
（7.30）



最速下降法的自适应迭代公式可以通过把式 （7.24）代入到式（7.29）得到，即 w n 1 w n p Rw n （7.31） 最速下降法的稳定性取决于两个因素，一个是 收敛因子μ的取值，二是自相关矩阵R的特性。 定义权误差矢量 c n 为 c n w n w opt （7.32） 1 w opt R p 利用式（7.32）和 ，消去式 （7.31）中的互相关矢量p，有

用
1 2
R
1
左乘上式两边，并根据w opt
1 2 R
1
R
1
p
，有
w opt w n

n
（7.25） （7.26）
写成自适应迭代形式，有
w n 1 w n 1 2 R n
1

这表明，当性能函数为二次型函数时，牛顿 法经过一步迭代就可以达到最佳 w opt 。
x n x n x n 1 ... x n M

T

多输入
x n x 0 n x1 n ... x M n
T


现在的任务是采用一种方法来估计均方误差函 数 e n 的梯度 n ，并以此梯度估值 ˆ n 来替代最速下降法中的理论情况下的梯度 真值。LMS算法进行梯度估计的方法是以误差 信号每一次迭代的瞬时平方值代替其均方值， 并以此来估计梯度的，即

2 x n x n 1x n . x n M x n
x n x n 1 x
2
... ...
R x n x

T
n
n 1
.
x n M x n 1
...
x n 1 x n M . 2 x n M
c n 1 I 2 R c n

（7.33）

式（7.33）再次强调了最速下降法的稳定性是 由μ和R控制的。利用正交相似变换，可以将自 相关阵R表示为 1 R QQ （7.34） 其中， Q 为正交矩阵，满足 Q Q （7.35a） QQ I （7.35b）
2
f
7.2.2二次型性能表面的搜索

所谓在性能表面的搜索，其目的是找出性能函 数最小值，并由此得到这个最小值的最佳权矢 量，在数学上是利用导数求取曲线和曲面极值 的问题。对于性能函数来说，需求其梯度，再 根据二次型的性质，当梯度值为0时，即对应 着性能函数的最小值。

1. 牛顿法 牛顿法是求 f x 0 的数学方法。假定 f x 为变 量x的一元函数，牛顿法的求解过程是由初始 估值 x 开始，利用 f x 的一阶导数在 x 点的值 来计算新值 x 1 ，即
m
M n 1 m n
m
' ' m n
, m 0 ,1,..., M

其中，' n 和 ' ' n 分别为均方误差函数 相对于第m个权系数的一阶二阶导数。
m
m

考虑矢量形式，性能函数的梯度可以表示为
n ' w n 0 1 ... M
x
T
n w n
(7.5)
当输入信号为平稳随机序列时，对式（7.5） 两边平方，并取数学期望，可得 2 2 T T T e n d n w n x n x n w n 2 d n x n w n （7.6） 定义输入信号的自相关矩阵R为
（7.19）

这样，牛顿法可以表示为
x k 1 x k x k x k 1 f x k f x k 1 f x k , k 0 ,1,....
（7.20）

注意，分母不能为零。

利用牛顿法搜索性能表面，实际上是寻找性能 函数的最小值，即其一阶导数（或梯度）为零 的点。定义 ' , m 0 ,1,..., M 为性能函数第m个 权系数的一阶导数，则权系数的迭代公式为 （7.21） ' n
（7.28）

这样，最速下降法可以表示为

（7.29） 其中，μ是正值常数，称为收敛因子，用于调 整自适应迭代的步长，故又称为自适应算法的 迭代步长。 为了证明最速下降法满足 w n 1 w n 将性能函数在 w n 处进行一阶泰勒展开，并利 用式（7.29），有
c ' 0 Q
1 opt 1 opt
w n w

考虑 c ' n 矢量的第m个模式，则式（7.39）所示 最速下降法的迭代公式变为 c ' m n 1 1 2 m c ' m n , m 0 ,1,..., M （7.42） c' 其中， 的自相关矩阵R的第m个特征值； n 为矢量 c ' n 的第m个元素。 由于矩阵R为正定矩阵，其特征值均为正实值。 c ' n ，n=0,1，...构成一个等比级数，公比为 1 2 。为了保证最速下降法稳定收敛，必须保 证 1 1 2 1 m 0 ,1,... M （7.44）
x n x n M

(7.7)

或者

n
2 x 0 n x1 n x 0 n . x M n x 0 n
x 0 n x1 n x1 n . x M n x1 n
... ...
1

定义
c ' n Q c n Q
1 1
w n w
opt
（7.38）

有
c ' n 1 I 2 c ' n
（7.39）

设 c ' 0 的初始值为 （7.40） 再假定自适应滤波器权矢量的初始值为 w 0 =0，则有 c ' 0 Q w （7.41）