自适应滤波的几种算法的仿真

3、抽头权向量的自适应。
图 2.1 LMS 算法的一般过程 2.1.2 LMS 算法特性
0<µ <
LMS 的均值收敛条件为
2
λmax 。
注意这是在小步长下推导出来的结果（要求
µ < 1 / λmax ） E[vk (n)] → 0 ，当 。此时，
ˆ (n)] → w o n → ∞ ，对所有 k 用 ε 0 (n) 代替 ε(n) ，可得等效地 E[w ，当 n → ∞ 。但是，渐
五、计算复杂度。即考虑一次迭代所需要的计算量、需要的存储器资源； 六、结构。信息流结构及硬件实现方式，是否高度模块化，适合并行计算。
1.4 线性自适应滤波算法
线性自适应滤波算法基于以下两种算法， 而两种算法的思路均为最接近目标平面的极值 点为最终目的。 一 、 随 机 梯 度 算 法 。 例 如 LMS, NLMS, 仿 射 投 影 滤 波 器 ， DCT-LMS ， GAL (gradient-adaptive lattice algorithm)，块 LMS，子带 LMS 等。其思路是通过迭代和梯度估值 逼近维纳滤波，其性能准则是集平均的均方误差。在平稳环境中，通过搜索误差性能表面迭 代地达到性能测量的最优值（最速下降法） ；在非平稳环境中，通过误差性能表面的原点随 时间发生变化，跟踪误差性能表面的底部，输入数据的变化速率须小于算法的学习速率。它 的主要缺点在于收敛速度慢，对输入数据自相关阵的条件数变化敏感。 二、最小二乘算法。例如标准 RLS，平方根 RLS，快速 RLS 等。其思路是基于最小二 乘的算法通过使误差平方的加权和最小求最优权值，其性能准则是时间平均的均方误差。 RLS 算法可以被看作是 Kalman 滤波的一种特殊形式。各算法特点如下： 标准 RLS 算法：基于矩阵求逆引理，缺乏数值鲁棒性、计算量大 O（ M ）；
2.1.1 LMS 算法内容 最小均方（LMS, least-mean-square）算法，1960 年由 Widrow 和 Hoff 提出，目前仍在 广泛使用。LMS 算法是随机梯度算法族中的一员，而最速下降算法使用确定性梯度。LMS 算法的最大特点是它的简单性，它不需要计算相关函数，也不需要矩阵求逆运算。 对于最速下降算法，抽头权向量的迭代计算公式为
µJ min
2
∑ λk + ∑ λk | vk (0) |2 −
k =1 k =1
M

µJ min
(1 − µλk ) 2
2n
µ 较小。同样，上式收敛要
0<µ <
求
2
λmax 而零阶近似要求小步长（ µ < 1 / λmax ） ， µ 较大时，LMS 滤波器的稳
定性问题还没有结果。 超出上述收敛范围易产生超调或者失调现象。
自适应滤波器中 几种算法的仿真研究
电信科学技术研究院 JJC
摘
要
自适应过程是指按照某种准则，通过自身与外界的接触，改变自身的性质或性能，以达 到一种滤波效果的最优化，如自动增益控制，自适应均衡等。自适应滤波过程在当代雷达数 据处理、高速数据接入、数据实时处理、最优线性滤波等领域具有举足轻重的作用。 自适应滤波过程常用两种线性自适应算法，一种是随机梯度算法，如 LMS, NLMS, 仿 射投影滤波器， DCT-LMS， GAL (gradient-adaptive lattice algorithm)， 块 LMS， 子带 LMS 等。 通过迭代和梯度估值逼近维纳滤波， 其性能准则是集平均的均方误差。 另一种是最小二乘算 法，如标准 RLS，平方根 RLS，快速 RLS 等。基于最小二乘的算法通过使误差平方的加权 和最小求最优权值，其性能准则是时间平均的均方误差。RLS 算法可以被看作是 Kalman 滤 波的一种特殊形式。本文是关于两种算法的仿真研究，得出各自的和关联的性能特点。 关键词：自适应 随机梯度算法 最小二乘算法
ˆ (n + 1) = w ˆ ( n) + w
1 ˆ (n) + µu(n) d * (n) − u H (n)w ˆ ( n) µ [− ∇J (n)] = w 2
[
]
由此可用三个基本关系式写出 LMS 算法：
ˆ 1、滤波输出： y (n) = w (n)u(n) ；
H
2、估计误差： e(n) = d (n) − y (n) ；
Abstract
Self-adaption is a kind of filtering process which could change its own properties or performances through contacting outer environment. Its purpose is to make the filtering results the best. For example, Automatic Gain Control (AGC) and Self-adaptive Equalization belong to the kind of process. Self-adaption is pretty important to processing radar data, xDSL, real-time processing, optimal liner filtering and so on. Self-adaption could be realized with the method of two liner forms. One of them is stochastic gradient method, such as LMS, NLMS, DCT-LMS, GAL, block LMS, sub-band LMS, etc. Its thought is approaching Wiener Filtering by iteration way and gradient evaluating way. The performance principle is the minimum mean square (MMS) of collection average. The other algorithm is least square method, like basic RLS, square root RLS, fast speed RLS and so on. Its thought is to find the optimal weigh by making the total of error square which is relative to the weighs minimum. The performance principle is the minimum mean square of time sequence average. RLS could be seen as one particular form of Kalman filtering. The paper is about the simulation of both methods and getting respective and reciprocal performance characters. Key Words: Self-adaption stochastic gradient method least square method
2.2 归一化 LMS 算法
M=
LMS 算法的失调条件为
2
平方根 RLS 算法：对输入数据矩阵作 QR 分解，具有数据稳定性和鲁棒性； 快速 RLS 算法：计算复杂度为 O（ M），阶次递推自适应滤波基于格形结构，快速横 向滤波器数值稳定性不好。 下面将对 LMS 算法、NLMS 算法和 RLS 算法进行仿真研究，比较其性能。
第 2 章 自适应算法
2.1 最小均方自适应算法
自适应过程
误差计算
期望
图 1.1 自适应滤波的一般过程 滤波器的结构可分为非线性自适应滤波和线性自适应滤波。 前者典型实例如人工神经网 络，后者输入输出映射遵循叠加原理，并且根据滤波器的记忆长度，可分为 IIR 和 FIR 滤波 器。 对于 FIR 滤波器， 根据算法中的信息流动结构， 可分为横向滤波器 (Transversal Filter) 结 构（下图左） 、格形滤波/预测器 (Lattice Predictor)结构（下图右） 、脉动阵列 (Systolic Array) 结构。
在未知 R 和 p 的先验知识时，只能使用它们的估计值代入梯度估计公式，最简单的选 择是使用 R 和 p 的瞬态估计，即
ˆ (n) = u(n)u H (n) R ,
ˆ ( n) = u ( n) d * ( n) p
因此，梯度向量的瞬态估计为
ˆ J (n) = −2u(n)d * (n) + 2u(n)u H (n)w ˆ ( n) ∇
1.2 自适应滤波的基本过程和结构
一般的自适应滤波算法包含三个基本过程（如图） ： 一、滤波过程：计算滤波器输出对输入信号的响应； 二、误差计算：通过比较输出结果与期望响应产生估计误差； 三、自适应过程： 根据估计误差自动调整滤波器参数 （不同的性能准则导致不同的自适应算 法） 。
输入
滤波过程
输出
如果定义均方误差的瞬态估计值
ˆ ( n ) = e( n ) e ∗ ( n ) = [ d − w ˆ H (n)u(n)][d − w ˆ H (n)u(n)]* J
则也可以得到，
ˆ J (n) = −2u(n)d * (n) + 2u(n)u H (n)w ˆ ( n) ∇
把梯度向量的估计值代入权向量迭代公式，则可以得到
w (n + 1) = w (n) +
其中，
1 µ [− ∇J (n)] = w (n) + µ [p − Rw (n)] 2
2 H H H J (n) = E e(n)e ∗ (n) = σ d − w (n)p − p w (n) + w (n)Rw (n)
{
}
∇J ( n ) =
∂J (n) = −2p + 2Rw (n) ∂w (n)
近零均值的随机变量序列不一定趋近于零。 LMS 的均方收敛条件为
J (n) = J min + µJ min ∑
= J min +
M λk µJ min | vk (0) |2 − + ∑ λk 2 − µλk k =1 2 − µλk k =1 M
M
2n (1 − µλk )
第1章 自适应滤波简介
1.1 自适应滤波的定义与特点
在信息处理、通信等领域内，滤波器的应用可谓是无处不在，不可或缺。传统概念中， 滤波器多应用在实际信道或者期望信道已知， 系统结构已知的领域中， 滤波器系数多是常数， 如广播、 早期的移动通信、 无线电控制等。 在这一时期内， 最优滤波成为了人们研究的热点， 如维纳滤波和卡尔曼滤波。 但随着人类社会和科技的进一步发展， 信息与通信领域中又面临 着新的问题，如码间干扰、高速数据传输等，这样就需要用到更加智能的，系数需要随着实 际情况而有所不同的滤皮器。这样，自适应滤波器就应运而生了。 自适应过程是指，按照某种准则，通过自身与外界的接触，改变自身的性质或性能，以 达到滤波效果的最优或者极优化，如自动增益控制，自适应均衡等。自适应系统通常具有如 下所有或部分的特性： 一、能自动地适应变化（非平稳）的环境与变化的系统要求； 二、 能够被训练成去完成特定的滤波或判决任务。 具有这种能力的系统设计是通过训练自动 完成的； 三、与非自适应系统不同，自适应系统试图自行设计，不需要精确的综合方法； 四、在有限的范围内能够自我维修； 五、常被描述为一种具有时变参量的非构
1.3 自适应滤波器设计过程中需要注意的问题
自适应滤波器设计过程中需要注意以下问题： 一、稳定性。即无论初值为多少均收敛； 二、鲁棒性。保证系统有一定扰动也能正常按预期工作； 三、收敛性。注意平稳系统的性能，即瞬态特性（收敛速度）和稳态特性（失调） ，并且可 以跟踪时变系统的性能； 四、数值稳定性/数值精度（有限字长效应） ；