论文第二章-基础知识
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第二章自适应滤波器的基础知识
2.1 滤波器的基础理论
2.1.1 滤波器的基础理论
滤波器是一种对信号有处理作用的器件或电路。
滤波器主要分为有源滤波器和无源滤波器。
主要作用是让有用信号尽可能无衰减的通过,对无用信号尽可能大的反射。
滤波器一般有两个端口,一个输入信号、一个输出信号,利用这个特性可以选通通过滤波器的一个方波群或复合噪波,而得到一个特定频率的正弦波。
滤波器的功能就是允许某一部分频率的信号顺利的通过,而另外一部分频率的信号则受到较大的抑制,它实质上是一个选频电路。
2.1.2 自适应滤波器的基础理论
自适应滤波器概述
一般情况下,不改变自适应滤波器的结构。
而自适应滤波器的系数是由自适应算法更新的时变系数。
即其系数自动连续地适应于给定信号,以获得期望响应。
自适应滤波可以不必事先给定信号及噪声的自相关函数,它可以利用前一时刻已获得的滤波器参数自动地调节现时刻的滤波器参数使得滤波器输出和未知的输入之间的均方误差最小化,从而它可以实现最优滤波。
自适应滤波器数学原理以输入和输出信号的统计特性的估计为依据,采取特定算法自动地调整滤波器系数,使其达到最佳滤波特性的一种算法或装置。
自适应滤波器可以是连续域的或是离散域的。
离散域自适应滤波器由一组抽头延迟线、可变加权系数和自动调整系数的机构组成。
附图表示一个离散域自适应滤波器用于模拟未知离散系统的信号流图。
自适应滤波器对输入信号序列x(n)的每一个样值,按特定的算法,更新、调整加权系数,使输出信号序列y(n)与期望输出信号序列d(n)相比较的均方误差为最小,即输出信号序列y(n)逼近期望信号序列d(n)。
自适应滤波器
2.2 两种典型的自适应滤波器
2.2.1 LMS自适应滤波器:
最小均方误差(LMS )算法具有计算量小,抑郁实现等优点,因此,在实践中
被广泛的运用。
LMS 算法的基本思想是调整滤波器的自身参数,使滤波器的输出信号与期望输出信号之间的均方误差最小,并使系统输出为有用信号的最佳估计。
实质上,LMS 可以看成是随机梯度或者随即逼近算法,可以完成如下估计迭代式:
记数字滤波器脉冲响应为:
h(k)=[h 0(k) h 1(k) … h n-1(k)]T
输入采样信号为:
x(k)=[x(k) x(k-1) … x(k-n-1)] 误差信号为:
)()()(^
k y k y k e -= ()()()()T
e k y k h k x k =-
优化过程就是最小化性能指标J(k),它是误差的平方和:
21()[()()()]k
T i J k y i h k x i ==-∑
求使J(k)最小的系数向量h(k),即使J(k)对h(k)的导数为零,也就是0)
()
(=k dh k dJ 。
把J(k)的表达式代入,得:
12
[()()()]()0k
T
i y i h
k x i x i =-=∑
和
1
1
()()()()()k
k
T
T
T i i x
i y i h k x i x i ===∑∑
由此得出滤波器系数的最优向量:
11
()()
()()()
k
T
T
i k T
i x
i y i h k x i x
i ===
∑∑
这个表达式由输入信号自相关矩阵()xx c x 和输入信号与参考信号的相关矩阵
()yx c k 组成,如下所示,维数都为(n,n ):
1()()()k
T
xx i c k x
i x i ==
∑
1
()()()k
T
yx i c k x
i y i ==
∑
系数最优向量也可以写成如下形式:
1
()()()T opt yx xx h k c k c k -=
自相关和互相关矩阵的递归表达式如下:
()(1)()()T xx xx c k c k x k x k =-+
()(1)()(T
y x y x c k c k y k x k
=-+ 把()yx c k 的递归表达式代入系数向量表达式,得:
1()()()T yx xx h k c k c k -=
即
1
()[(1)()()]()T
T
yx xx h k c k x k y k c k -=-+
考虑到
(1)(1)(1)T
yx xx c k h k c k -=--
可以记
1()()[(1)(1)()()]xx xx h k c x c k h k y k x k -=--+
用前面得到的表达式求出(1)xx c k -,并代入上式:
1()(){[()()()](1)()()}T xx xx h k c x c k x k x k h k y k x k -=--+ 或 1()(1)()[()()()()(1)]T xx h k h k c x y k x k x k x k h k -=-+--
则滤波器系数的递归关系式可以记作
1()(1)()[()()()()(1)]T xx h k h k c x y k x k x k x k h k -=-+--
其中
()()()(1)T
e k y k x k h k =--
e(k)表示先验误差。
只因为它是由前一个采样时刻的系数算出的,在实际中,很多时候由于h(k)计算的复杂度而不能应用于实时控制。
用δ,I 代换()xx c k ,其中:δ为自适应梯度,I 为辨识矩阵(n ,n ) 这时
()(1)()()x h k h k k e k δ=-+
这时就是一个最小均方准则问题。
2.2.1 RLS 自适应滤波器:
递归最小二乘(RLS )自适应 滤波器
最小二乘(LS )法是一种典型的根据观测数据来推断未知参量的数据处理方法,其基本思想是是观测值与计算值之差的平方乘和最小。
自1795年由著名数学家高斯提出以来,LS
法在很多领域得到了广泛的应运,并成为系统辨识,参数估计和自适应信号处理等领域的基本算法之一。
RLS 算法自适应系统性能的准则:我们可以直接考察一个由平稳信号输入的自适应系统在一段时间内输出误差信号的平均功率(在时间上的平均)。
例如,以使该平均功率到达最小值作为测量自适应系统性能的准则。
线性最小二乘原理
设线性组合系统的结构图如下: X 0(n)
X 1(n) X 2(n) ··· X M (n)
1(n) W 2(n) ··· W M (n) y(n)
- + e(n) ∑ ∑ ··· ∑ ∑ (
图示线性组合器件结构图
现在的问题是利用线性组合器来估计期望响应为y(n): ŷ(n) =
∑=M
1
k w k (n)x k (n)=
w t
(n)x(n)
定义上式的误差估计为:
e(n)=y(n)- ŷ(n) =y(n)-w t
(n)x(n) 2.4.2
误差e(n)的平方和为 E=
)
(1
n e N n ∑-= 2
设系数矢量在整个测量期间保持恒定,即线性时不变系统,则当平方误差最小时所得到的系统矢量的系数矢量为LS 准则下估计期望响应y(n)的最佳矢量w ls 。
在上面各式中,w(n)又称回归矢量,e(n)成为残差。
式(2.4.2)所示的回归方程可以写成矢量形式为
e=y-Xw
式,e,y 分别为N*1阶矩阵,X 为N*M 阶矩阵,w=[w 1 w 1````````w M ]为线性组合器的参数矢量。
利用矢量形式的回归方程,误差信号的能量可以写为 E=e T e=(y T -w T X T )(y-Xw)
=y T y-w T X T y-y T Xw+w T X T Xw
=E y -w T ∧
p -∧
p T w+w T ∧
R w 其中,
E y =y T
y=
∑-=1
)
(N n n y 2
∧
R =X T X=
∑-=10
)(N n n x x T
(n)
∧
p =X T y=∑-=1
)(N n n x y(n)
显然,LS 算法的最小均方误差(MMSE )方法都是基于二次代价函数的,如果用时间平均算子
∑
=1
-N 0
n 替代期望算子E[·],则两者的到处公式是一样的。
如果时间平均的 相关矩阵∧
R
则最小二乘估计w LS 可以由求解下列正则方程得到:
∧R w LS = ∧
p 平方误差的最小值为
E LS =E y -p T ∧
R -1∧
p =E y -∧
p T w LS
则关于正则方程的求解有不同的方法,比如Cholesky 分解法和奇异值分级法等;。