LMS自适应滤波算法原理与仿真

{Pi i=0,1,2,…,n)生成的 n 维单形,单形的侧面记为 fi(i=0,1,…,n)，两个侧
面 fi，fj 的夹角记为 θij(i,j=0,1,2,…,n)，则
cosθij= - Pij 姨PiiPjj
p·1 p1 p1·p2 … p1·pn
记 Gram(p1,p2,…,pn)=P= ·
·…·
p1+p2+…+pi+…+pn, p1+p2+…+pi+…- pn,…, p1- p2- …- pi- …- pn
2
由高维余弦定理 3 得它们长度平方和为 p1+p2+…+pi+…+pn +
2
2
p1+p2+…+pi+…- pn +…+ p1- p2- …- pi- …- pn =(1,1,…,1)(G(p1,p2,…,
L+1 个不同信号源取样得到，也可以通过对同一信号源在 n 以前 L+1
个时刻取样得到。前者称为多输入情况，后者称为单输入情况，这两种
情况下输入信号矢量都用 x(n)表示。对于一组固定的权系数来说，线性
组合器的输出 y(n)等于输入矢量 x(n)的各元素的线性加权和。然而实际
上权系数是可调的，调整权系数的过程叫做自适应过程。在自适应过程
其中 G(p1,p2,…,pn)= ·
· … · 表示向量 p1,p2,…,pn
p·n p1 p·n p2 … p·n pn 的 Gram矩阵,显然,就一个 n 维超平行体而言,这样的表达式共有 2n 个。
证明 该定理的证明是简单的,左边直接展开即可。
2.阿波罗尼奥斯(Apollonius)定理的证明
1.一个新的高维余弦定理
近期文献[1,2]从不同角度得出单形的两个高维余弦定理，称之为高
维余弦定理 1 与高维余弦定理 2，先给出这两个高维余弦定理。
第一余弦定理[1] 设在由 n 个共始点 P0 的线性无关的向量 p1,p2,…,
pn 生成的 n 维单形中，顶点 Pi(i=0,1,…,n)所对的 n- 1 维面为 fi，其 n- 1 维
p·n p1 pn·p2 … p·n pn
其中 Pij(i,j=1,2,…,n)为 P 中元素 p·i pj(i,j=0,1,2,…,n)的代数余子式。
下面建立一个关于高维超平行体的余弦定理。
假设 n 维超平行体由 n 个线性无关的向量 p1,p2,…,pn 生成,显然,这 个维超平行体有 2n 个顶点,2n-1 条体对角线,n2n-1 条棱共分成 n 组每组
为了证明阿波罗尼奥斯(Apollonius)定理,先给出一个引理。
引理 两个 n 个线性无关的向量组, 若其中只有一个向量互为反向
量,其余 n- 1 个向量均相同,相同的向量用省略号标记,符号相反的向量
记为 pi,则二者 Gram 矩阵的和为
2
G(…,pi,…)+G(…,- pi,…)=2G(…,0,…)+2 pi Ei
科技信息
高校理科研究
LMS 自适应滤波算法原理与仿真
陕西理工学院物理系 井敏英 张 超 赵 娜
［摘 要］在对自适应滤波器相关理论研究的基础上，重点研究了 LMS 自适应滤波算法，并借用 Matlab 仿真平台，给出了在一定信 噪比条件下，LMS 算法的滤波结果。通过分析仿真可以看出，LMS 算法计算量小，可以达到较好的滤波效果，容易实现，有很高的实 用价值。 ［关键词］LMS 算法 自适应滤波 Matlab 仿真
(9)
式中，Pin 是输入信号功率。因此，收敛的条件 （下转第 546 页）
— 545 —
科技信息
高校理科研究
一个新的高维余弦定理及应用
安徽财经大学信息工程学院 殷红彩
［摘 要］本文利用凸体几何的理论与方法，建立一个关于超平行体新的高维余弦定理,并应用它给出了阿波罗尼奥斯(Apollonius)定 理一种新的简单的证法。 ［关键词］高维余弦定理 阿波罗尼奥斯(Apollonius)定理
2n-1 条平行且相等。从每个顶点发出 n 个线性无关的向量,且这 2n 个顶
点中不同的顶点发出的 n 个线性无关的向量要么相等要么互为相反的
向量,即 n 个线性无关的向量 p1,p2,…,pn 与 - p1,- p2,…,- pn 生成相同的超 平行体,每个向量 pi 前可带正负号,这样共有 2n 个不同的组合,恰好表示 从 n 维超平行体 2n 个不同顶点发出的生成超平行体的一组向量, 注意
高维余弦定理 3 由 n 个线性无关的向量 p1,p2, …,pn 生成的 n 维超
平行体和向量组 p1,p2,…,pn 对应的超平行体的体对角线的长度平方为
2ቤተ መጻሕፍቲ ባይዱ
T
p1+p2+…+pn =(1,1,…,1)G(p1,p2,…,pn)(1,1,…,1)
(1)
姨 姨 p·1 p1 p·1 p2 … p·1 pn
用，它的突出优点是计算量小、易于实现，且不要求脱线计算[3]。只要自
适应线性组合器每次迭代运算时都知道输入信号和参考响应，那么，选
用 LMS 算法就很合适的。
LMS 算法的最核心思想是用平方误差代替均方误差。这样，
荦(n)≈荦^ (n)=- 2e(n)x(n)
(7)
实际上，荦^ (n)只是单个平方误差序列的梯度，荦(n)是多个平方误差
信号 e(n)是相同的，并且 LMS 算法得到的权矢量的期望值与最陡下降
法得到的权矢量本身都服从相同的迭代计算规律，当收敛的必要条件
满足时，随着迭代次数趋进于无穷，权矢量的期望值将趋近于最佳权矢
量。
对于横向自适应滤波器来说，输入信号的自相关矩阵的迹可用输
入信号功率表示为
tr[R]=(L+1)E[x2(n)]=(L+1)Pin
图 1 自适应滤波器原理图
图 2 自适应线性组合器原理图
FIR 结构的参数可调的数字滤波器由于具有非递归结构形式，它
的分析和实现比较简单，在大多数自适应信号处理系统中得到广泛应
用，此滤波器称之为自适应线性组合器。图 2 为自适应线性组合器的一
般形式。输入信号矢量 x(n)的 L+1 个元素，既可以通过在同一时刻 n 对
(2)
其中 0 表示零向量,Ei 表示主对角线上第 i 个元素为 1 其余元素全
为零的 n 阶方阵。
证明 由矩阵的加法可直接证明的。
阿波罗尼奥斯(Apollonius)定理 n(n≥2)维超平行体的所有体对角
线长的平方和等于其所有棱长的平方和。
证明 由 n 个线性无关的向量 p1,p2, …,pn 生成的 n 维超平行体的 2n-1 条体对角线向量可表示为:
到它们的代数和 p1+p2+…- pi+…+pn 表示该超平行体的一条体对角线向 量,共有 2n 种,注意到各 pi 符号完全相反的表达式表示的体对角线向量 是同一条但方向相反的体对角线,故 n 维超平行体 2n-1 条不同的体对角
线向量可由生成该超平行体的 n 个线性无关的向量来表示,则有下面的
定理:
w(n+1)=w(n)+μ(- 荦(n))
(6)
式中，μ 是控制搜索步长的参数称为自适应增益常数，或收敛参
数；荦(n)是曲面上各点的梯度。
最陡下降法每次迭代都需要知道性能曲面上某点的梯度值，而实
际上梯度只能根据观测数据进行估计。LMS 算法是一种很有用且很简
单的估计梯度的方法，这种算法自 60 年代初提出以后很快得到广泛应
中，各个权系数不仅是误差信号 e(n)的函数，而且还可能是输入信号 x(n)
的函数，因此，自适应线性组合器的输出就不再是输入信号的线性函
数。
输入信号和输出信号之间的关系式为
L
Σ y(n)= wk(n)xk(n)
(1)
k=0
自适应线性组合器的 L+1 个权系数构成一个权系数矢量，即权矢
量，用 w(n)表示，则
的最陡下降方向是曲面的负梯度方向。这是一个迭代搜索过程。首先从
曲面上某个初始点(对应于初始权矢量 w(0))出发，沿该点负梯度方向搜
索至第 1 点(对应的权矢量为 w(1))，w(1)等于初始值 w(0)加上一个正比
于负梯度的增量。用类似的方法，一直搜索到 w*(对应曲面最低点)为止。
最陡下降法迭代计算权矢量的公式为
体积为 Fi，fi，fj 所夹的内角为 <i,j>，则
n
n
Σ Σ 2
2
Fl = Fj - 2
Fi Fj cos<i,j>
j=0,j≠l
0≤i<j≤n;i,j≠l
其中 l=0,1,2,…,n。
杨路，张景中在文献[2]中利用 En 中基本图形的度量方程建立了
En 中的第二余弦定理，即第二余弦定理[2] n 维欧氏空间 En 中由点集
想的最陡下降的路径，因而权系数的调整过程是有“噪声”的。LMS 算法
按照式(8)调整权系数时不需要进行平方运算和统计平均运算，因而实
现起来很简单。下一时刻权矢量 w(n+1)等于当前权矢量 w(n)加上一个
修正量，该修正量等于误差信号 e(n)的加权值，加权系数为 2μx(n)，它正
比于当前的输入信号。值得注意的是，对权矢量的所有分量来说，误差
0.引言 滤波技术是信号处理中的一项基本方法和技术，尤其数字滤波技 术使用广泛，数字滤波理论的研究及其产品的开发一直受到很多国家 的重视。滤波可分为经典滤波和现代滤波，经典滤波要求已知信号和噪 声的统计特性，如维纳滤波和卡尔曼滤波，现代滤波则不要求已知信号 和噪声的统计特性。自适应滤波属于现代滤波，它的研究始于 20 世纪 50 年代末[1]，所谓自适应滤波就是当输入过程的统计特性未知时或统 计特性变化时，滤波器能够自动调整自己的参数，以满足某种最佳准则 的要求。自适应滤波具有很强的自学习、自跟踪能力，适用于平稳和非 平稳随机信号的检测和估计。自适应滤波器必须满足某种最佳准则要 求，不同的准则，可以产生不同的自适应算法，其中最常用的研究最多 的是在最小均方准则下的 LMS 自适应滤波算法[2]。 1.自适应滤波器 自适应滤波器[3]由参数可调的数字滤波器（或称为自适应处理器） 和自适应算法两部分组成，如图 1 所示。参数可调的数字滤波器可以是 FIR 数字滤波器或者 IIR 数字滤波器，也可以是格型数字滤波器。输入 信号 x(n)通过参数可调数字滤波器后产生输出信号(或响应)y(n)，将其与 参考信号(或称期望信号)d(n)进行比较，形成误差信号 e(n)。e(n)有时还 要利用 x(n)通过某种自适应算法对滤波器参数进行调整，最终使 e(n)的 均方值最小。因此，实际上自适应滤波器是一种能够自动调整本身参数 的特殊维纳滤波器，在设计时不需要事先知道关于输入信号和噪声的 统计特性的知识，它能够在自己的工作过程中逐渐“了解”或估计出所 需的统计特性，并以此为依据自动调整自己的参数，以达到最佳滤波效 果。一旦输入信号的统计特性发生变化，它又能够跟踪这种变化，自动 调整参数，使滤波器性能重新达到最佳。
pn)+G(p1,p2,…,- pn)+…+G(p1,- p2,…,- pn))(1,1,…,1)T 连续应用引理,上式等
于
2
2
=(1,1,…,1)(2G(p1,p2,…,pn-1,0)+2 pn En+2G(p1,p2,…,- pn-1,0)+2 pn
w(n)=[w0(n)w1(n)…wL(n)]T
(2)
式(1)可表示为：
y(n)=xT(n)w(n)=wT(n)x(n)
(3)
则
e(n)=d(n)- y(n)=d(n)- x(n)Tw(n)=d(n)- w(n)Tx(n)
(4)
自适应线性组合器按照误差信号均方值最小的准则，即
ξ(n)=E[e2(n)]=min
(5)
来自动调整权矢量。
2.LMS 自适应算法原理
选择什么信号作为参考响应，要根据不同的应用要求来确定。在输
入信号和参考响应都是平稳随机信号的情况下，自适应线性组合器的
均方误差性能曲面 ξ 是权系数的二次函数，ξ 的函数图形是 L+2 维空间
中一个中间下凹的超抛物面，有唯一的最低点 ξmin。但在许多实际应用
序列统计平均的梯度，所以 LMS 算法就是用前者作为后者的近似。将
式(7)代入式(6)，得到 LMS 算法的基本关系式
w(n+1)=w(n)- μ荦^ (n)=w(n)+2μe(n)x(n)
(8)
该式说明，LMS 算法实际上是在每次迭代中使用很粗略的梯度估
计值来代替精确值。不难预计，权系数的调整路径不可能准确地沿着理
中，性能曲面的参数，甚至解析表达式都是未知的，因此，只能根据已知
的测量数据，采用某种算法自动地对性能曲面进行搜索，寻找最低点，
从而得到最佳权矢量。牛顿法和最陡下降法是搜索性能曲面的两种著
名方法。最陡下降法在工程上比较容易实现，有很大的实用价值。
最陡下降法是沿性能曲面最陡方向向下搜索曲面的最低点。曲面