自适应均衡算法LMS研究

自适应均衡算法LMS研究一、自适应滤波原理与应用所谓自适应滤波器，就是利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。

根据环境的改变，使用自适应算法来改变滤波器的参数和结构。

1.1均衡器的发展及概况均衡是减少码间串扰的有效措施。

均衡器的发展有史已久，二十世纪60年代前，电话信道均衡器的出现克服了数据传输过程中的码间串扰带来的失真影响。

但是均衡器要么是固定的，要么其参数的调整是手工进行。

1965年，Lucky在均衡问题上提出了迫零准则，自动调整横向滤波器的权系数。

1969年，Gerhso和Porkasi，Milier分别独立的提出采用均方误差准则(MSE)。

1972年，ungeboekc将LMS算法应用于自适应均衡。

1974年，Gedard 在kalmna滤波理论上推导出递推最小均方算法RLS(Recursive least-squares)。

LMS类算法和RLS类算法是自适应滤波算法的两个大类。

自适应滤波在信道均衡、回波抵消、谱线增强、噪声抑制、天线自适应旁瓣抑制、雷达杂波抵消、相参检测、谱估计、窄带干扰抑制、系统辨识、系统建模、语音信号处理、生物医学、电子学等方面获得广泛的应用。

1.2均衡器种类均衡技术可分为两类：线性均衡和非线性均衡。

这两类的差别主要在于自适应均衡器的输出被用于反馈控制的方法。

如果判决输出没有被用于均衡器的反馈逻辑中，那么均衡器是线性的；如果判决输出被用于反馈逻辑中并帮助改变了均衡器的后续输出，那么均衡器是非线性的。

图1.1 均衡器的分类1.3自适应算法LMS 算法LMS 算法是由widrow 和Hoff 于1960年提出来的,是统计梯度算法类的很重 要的成员之一。

它具有运算量小,简单,易于实现等优点。

LMS 算法是建立在Wiener 滤波的基础上发展而来的。

Wiener 解是在最小均方误差(MMSE)意义下使用均方误差作为代价函数而得到的在最小误差准则下的最优解。

因其结构简单、稳定性好,一直是自适应滤波经典有效的算法之一,被广泛应用于雷达、通信、声纳、系统辨识及信号处理等领域。

1.3.1 MSE 的含义LMS 算法的推导以估计误差平方的集平均或时平均（即均方误差，MSE ）为基础。

下面先介绍MSE 的概念。

设计一个均衡系统如下图所示：图1.2图1.2中的均衡器为一FIR 横式滤波器，其结构如图1.3所示。

其输入矢量为[]TM n x n x n x n )1(,),1(),()(+--=Λx （1.1）加权矢量（即滤波器抽头系数矢量）为[]TM w w w ,,,21Λ=w （1.2）可知滤波器的输出*1*)()()1()(ˆw x x w n n i n x w n yT H Mi i ==+-=∑= （1.3）则有)()()(ˆ)()(n n d n yn d n e H x w -=-= （1.4） 其中H 表示共轭转置。

根据最小均方误差准则，最佳的滤波器抽头系数矢量optw 应{}2)(n e Ew f =）（ （1.5）使得性能函数—均方误差为最小。

式（1.5）称为均方误差性能函数。

图1.3时域FIR 横式滤波器在指定的信道条件下，）（w f 为各滤波器抽头系数的函数。

现在来研究系统处于平稳状态时的情况。

将式（1.4）代入式（1.5）可得{}wR w r w r w xxHxdHxdHn d E+--=*2)()({}{}w R w r w xxHxd H n d E +-=Re 2)(2（1.6）其中xdr 表示)(n d 和)(n x 的互相关矢量。

)(n xx R 表示)(n x 的自相关矩阵。

对（1.6）式两端对w 求导，并令导数为零，得到：xdxx r w R = （1.7）当xx R 为满秩时，从而可得到该横式滤波器抽头系数的最优维纳解为：xdxx opt r R w 1-= （1.8）LMS 迭代算法由式（1.8）知Wiener 滤波器的抽头系数的直接计算需要矩阵求逆，当M 较大时，计算量较大且由于信号和干扰环境的变化常须对求逆过程不断进行。

所以常用其它递推求解的方法。

下面我们介绍从最陡下降法来推导LMS 算法。

根据最陡下降法，有： )()()1(w f n n w ∇-=+μw w （1.9）其中，)(w f w ∇为)(w f 的梯度，而μ为常数并被称为步长因子。

又因为：xdxx w w f r w R 22)(-=∇ （1.10）为了实现上述迭代算法需要知道梯度)(w f w ∇的精确值，这就要求输入信号)(n x 和)(n d 平稳且其二阶统计特性已知。

这时才能根据信号)(n x 和需要信号)(n d 的采样值来估计xxR 和xdr ，从而寻找optw 。

为了克服上述困难和减少求解每次迭代的计算量的问题。

一种粗略的但是却是十分有效的计算)(w f w ∇的近似方法是：直接取2)(n e 作为均方误差{}2)(n e E的估计值，即{}22)()(ˆ)(ˆn e n e E w f www ∇=∇=∇ （1.11）由式（1.4）可得)()(2)(2n n e n e w x -=∇ （1.12）将式（1.11）和式（1.12）代入式（1.9）得)()(2)()1(n n e n n x w w μ+=+ （1.13） 上式就是B.Windrow 在60年代初提出的LMS 自适应迭代算法。

LMS 算法的流程归纳如下：⑴ 初始化：TM ]000[Λ=w⑵ 更新：Λ,2,1=n在第二步中，若取μ=常数，则称之为基本LMS 算法；若取μ=)()(n n Hx x +βα,其中)2,0(∈α，≥β0，则得到归一化LMS 算法。

LMS 算法的重要特点是将其期望值近似为瞬时值。

故在迭代收敛后，加权矢量不会等于最优的加权矢量，而是在最优加权矢量附近随机性的波动，等效于在最优加权矢量上叠加了一个噪声，也就是说这种近似存在误差。

所以，LMS 算法又被称为随机梯度法。

此法可以被视为最陡下降法的近似。

其另一个重要的特点是每次迭代需要1+M 次乘法和M 次加法，因而运算处理相当简单。

LMS 算法采用瞬时值代替期望值，则会存在着一个算法收敛、稳定性的问题。

在本节中，主要来讨论LMS 算法的收敛性及稳定性。

§ LMS 算法的稳定性比较LMS 算法递推公式（1.13）和最陡下降法递推公式（1.9）可以看出，LMS 算法用2)(n e w ∇作为{}2)(n e Ew ∇估计。

从而可以想象，LMS 算法的加权矢量平均值{})(n w E 将按最陡下降法的加权矢量的变化规律变化。

现在，假设)(n x 和)(n w 不相关来寻找LMS 算法的加权矢量平均值的变化规律。

将式（1.4）代入（1.13）LMS 算法的递推公式可写为：)]()()()()([2)()1(n n n n d n n n Hw x x x w w -+=+μ （2.1） 或)()(2)()]()(2[)1(n d n n n n n Hx w x x I w μμ+-=+ （2.2） 对式（2.2）求均值,可得{}{}xdxx n E n E r w R I w μμ2)(]2[)1(+-=+ （2.3）并令误差矢量)(n v 为optn n w w v -=)()( （2.4） 则 {}{}optn E n E w w v -=)()( （2.5）由式（2.3）可得 {}{})(]2[)1(n E n E xx v R I v μ-=+ （2.6）和{})0(]2[)(v R I v n xx n E μ-= （2.7）式中 optw w v -=)0()0( （2.8）根据矩阵理论有1-=Q xx Q ΛR （2.9）其中Q 是可以将xxR 对角化的酉矩阵，Λ（),,,(21M Diag λλλΛ=Λ）是以xx R的特征值为对角线元素的对角线阵。

在令)()(1'n n v Q v -= 即{}{})()(1'n E n E v Q v -= （2.10） 由式（2.7）可得{})0(]2[)(''v ΛI n v E n μ-= （2.11） 由式（2.5）还有{}])0([]2[)(1opt n opt w w Q I Q w n w E --+=-Λμ （2.12）由式（2.11）和（2.12）可得： 当且仅当max/10λμ<< （2.13）时 {}optn n E w w =∞→)(lim （2.14）其中m ax λ为滤波器对应的输入信号相关矩阵xx R 的最大特征值。

式（2.13）即为LMS算法的加权矢量平均值的收敛条件。

实际上，有xx Tr R ≤max λ （2.15）式中xxTr R 为xxR 的迹，且{}inMi M i i xx MS i n x E Tr =+-==∑∑==121)1(λR （2.16）式中inS 为滤波器输入信号)(n x 的功率。

这样还可以得到加权矢量收敛的充分条件1)(0-<<in MS μ （2.17）式（2.17）导出了一个大M 的LMS 算法滤波器步长参数μ稳定性界的必要条件，滤波器步长参数μ对M 为较小长度时，至今没有理论上得到μ的固定上界。

但是对于步长μ小的时候：小步长理论对收敛性提供了理论描述[9]即满足式（2.13）的要求。

由上面的收敛稳定性分析可以看出，LMS 算法的收敛是有条件的。

步长μ必须要满足一定的要求。

§ LMS 算法的收敛速度对信道均衡自适应算法的选择，除了算法本身的稳定性，我们还要考虑它的收敛速度。

收敛速度是指对于恒定输入，当迭代算法的迭代结果已经充分接近最优解时，即已经收敛时，算法所需的迭代次数。

一般来说快速的收敛算法可以快速地适应稳定的环境，而且也可以及时地跟上非稳定环境的特性变化。

从均方误差来看，LMS 算法的最终收敛速度要取决于最慢的一个指数过程，相应的时间常数为1min max )2(-=μλτmse（2.18）min λ为矩阵xx R 的最小特征值。

从式（2.13）可知，为了保证自适应算法收敛μ受限于m ax λ，将式（2.13）代入时（2.18）有m inm axm ax 2λλτ>mse （2.19）所以，当xxR 的特征值分散时，即m ax λ和min λ相差很大时，LMS 算法的收敛速度性能将变的很差。

特征值分散定义为：min max)(λλ=xx R cond （2.20）它反映了一个矩阵xxR 的条件数。

当)(xx R cond 大时，称矩阵xxR 及相应的xxR 方程为病态，所以当xxR 为病态时，LMS 算法的收敛性能很差。