ch6 最佳(MMSE)滤波PPT共31页
合集下载
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
仅依赖于期望信号和输入数据 性能曲面是滤波器参数的二次函数，函数曲面是凸曲面， 且存在唯一全局最小点， 在偏离最佳估计系数时，所造成的超量误差只决定于输 入数据的相关矩阵。 正交性原理提供滤波器参数估计的直观解释和参数估计 途径 滤波器参数也可由相关矩阵的特征值和特征向量计算得 到。
平稳过程的最佳有限冲激响应滤波
0 -5
0
5
m inE e(n)2 E y(n)y ˆ(n)2
p 2 •导致简单的滤波器求解算法 •易于进行性能分析
线性均方误差估计 一般化问题模型
N
yˆ(n) = ck(n)xk(n) k1
期望信号 待估计参数
时间下标
不同参数，不同观测信 观测信号号
对非时变系统
共轭转置
N
yˆ(n)= ck*xk(n)cHx(n) k1
考虑一般线性最优估计问题中只有一路观测信号，利用信号不同时 刻值的线性组合实现信号估计，考虑非时变问题
N
yˆ(n) = ck*(n)xk(n) k1
M1
yˆ(n) = ckx(nk) k0
基于最小均方准则，可以得到
Rxhopt ryx
M1
yˆ(n) =h(k)x(nk) k0
Rx(0) Rx*(1) Rx(1) Rx(0) Rx(M) Rx(M1)
RRx*x*((M M)1)hhoopptt((10))
ryx(0) ryx(1)
R(0) hopt(M1) ryx(M1)
平稳过程的最佳有限冲激响应滤波－频率域解释
基于正交性原理
E[e(n)x*(nm)]0
Ey(n)M1h(k)x(nk)x*(nm)0
k0
维纳－霍夫方程
M 1
r y x(m ) h o p t(k )R (m k ) 0 m 0 , ,M 1 k 0
预测误差定义为： e(n)x(n)xˆ(n)
预测均方误差定义为： Ee2(n)
ak
0
2E[e(n) e ]0
ak
e(n) m1,2, x,(np1) x(n)
E [e(n)x(nm ) ]0m1,2,,p
预测误差和观测值相互正交， 是最佳线性预测的充要条件
x(n2)
p
e(n)x(n)x ˆ(n)x(n) akx(nk)
注意和书(6.2.1)-(6.2.4)的比较
c
c c
* 1
* 2
c
* N
x1
(
n
)
x (n )
x2 (n)
x N ( n )
误差性能函数
minEe(n)
2
E
y(n)yˆ(n)
2
E
y(n)cHx(n)
2
E{y(n)cHx(n)}{y(n)cHx(n)}
E{y(n)cHx(n)}{y(n)[cHx(n)]H}
ch6 最佳(MMSE)滤波
6
、
露
凝
无
游
氛
，
天
高
风
景
澈
。
7、翩翩新 来燕，双双入我庐 ，先巢故尚在，相 将还旧居。
8
、
吁
嗟
身
后
名
，
于
我
若
浮
烟
。
9、 陶渊 明（ 约 365年 —427年 ），字 元亮， （又 一说名 潜，字 渊明 ）号五 柳先生 ，私 谥“靖 节”， 东晋 末期南 朝宋初 期诗 人、文 学家、 辞赋 家、散
文 家 。汉 族 ，东 晋 浔阳 柴桑 人 （今 江西 九江 ） 。曾 做过 几 年小 官， 后辞 官 回家 ，从 此 隐居 ，田 园生 活 是陶 渊明 诗 的主 要题 材， 相 关作 品有 《饮 酒 》 、 《 归 园 田 居 》 、 《 桃花 源 记 》 、 《 五 柳先 生 传 》 、 《 归 去来 兮 辞 》 等 。
原则：
E
e(n)
Байду номын сангаас
2
0
c
矢量函数的求导
f (c)
c1
f (c)
f (c) c
c1
f (c)
c K
常用求导公式
(d H c) d c
(d ) 0 c
(cH Rc) 2Rc
c
E e(n)2 P ycH ddH ccH R c Rcopt d
Ee(n)2 c
两边取傅立叶变换
H(e j )
Ryx (e j ) Rx (e j )
从上式求解不一定能得到FIR因果滤波器
更适应于求解IIR非因果滤波器
线性预测
前向预测：利用某一时刻以前p时刻的数据的线性组合来预测该时刻的值。
n
n
p
不同表现形式 xˆ(n) akx(nk) k1
p
xˆ(n) ak*x(nk) k1
Rcopt
d0
与6.2.11一致
m i n E e ( n ) 2 P y ( R 1 d ) H d d H R 1 d ( R 1 d ) H R ( R 1 d ) P y d H R 1 d
正交性原理
随机矢量的内积定义为
x,y E{xy*}
正交：内积等于0
正交性原理：当实现最佳估计时，估 计误差与所采用的观测信号正交
可以证明，正交性原理和最小均方误 差是等价的
x, y 0
对于最小均方误差估计，当实现最佳估计时
x ,e 0 E { x (y x H c 0)} d -R c 0 0 x k,e 0 E { x (y x H c 0 )} d -R c 0 0
k 1, ,N
y
e opt
x2
x1 yˆ
MMSE参数估计主要结论
k 1
p
Rx(m) akRx(mk) m1,2,,p
k1
p
minRx(0) akRx(k) k1
和AR模型的YW方程是一致的。
E[e(n)e* (n)]
E x(n)
p
ak
x(n
k)e*
(n)
k 1
E[x(n)e*(n)]
线性预测与AR模型的关系
假设信号是一个p阶AR模型，对其应用一个p阶预测器，得到预测误差
1
0
、
倚
南
窗
以
寄
傲
，
审
容
膝
之
易
安
。
最佳(MMSE)线性滤波
最小均方误差估计 线性预测
MMSE滤波器设计
最小均方误差准则
e(n)y(n)yˆ(n)
期望信号
估计信号
5
4.5
|e|3 |e|2
4
|e|
3.5
实现最佳滤波的常用准 则：
min
E
e(n)
p
3
2.5 |e|0.5
2
1.5
1
0.5
最小均方误差线性估计：
E{y(n)cHx(n)}{y(n)xH(n)c}
E y(n)2 cHEx(n)y(n)Ey(n)xH(n)ccHEx(n)xH(n)c
Py cHddHccHRc
E
y(n)
2
期望信号 平均功率
dEx(n)y(n)
观测信号和 期望信号的 互相关
Ex(n)xH(n)
观测信号的 相关矩阵
滤波器系数求解
为：
p
e (n )x (n ) x ˆ(n )x (n ) a kx (n k) u (n ) k 1
平稳过程的最佳有限冲激响应滤波
0 -5
0
5
m inE e(n)2 E y(n)y ˆ(n)2
p 2 •导致简单的滤波器求解算法 •易于进行性能分析
线性均方误差估计 一般化问题模型
N
yˆ(n) = ck(n)xk(n) k1
期望信号 待估计参数
时间下标
不同参数，不同观测信 观测信号号
对非时变系统
共轭转置
N
yˆ(n)= ck*xk(n)cHx(n) k1
考虑一般线性最优估计问题中只有一路观测信号，利用信号不同时 刻值的线性组合实现信号估计，考虑非时变问题
N
yˆ(n) = ck*(n)xk(n) k1
M1
yˆ(n) = ckx(nk) k0
基于最小均方准则，可以得到
Rxhopt ryx
M1
yˆ(n) =h(k)x(nk) k0
Rx(0) Rx*(1) Rx(1) Rx(0) Rx(M) Rx(M1)
RRx*x*((M M)1)hhoopptt((10))
ryx(0) ryx(1)
R(0) hopt(M1) ryx(M1)
平稳过程的最佳有限冲激响应滤波－频率域解释
基于正交性原理
E[e(n)x*(nm)]0
Ey(n)M1h(k)x(nk)x*(nm)0
k0
维纳－霍夫方程
M 1
r y x(m ) h o p t(k )R (m k ) 0 m 0 , ,M 1 k 0
预测误差定义为： e(n)x(n)xˆ(n)
预测均方误差定义为： Ee2(n)
ak
0
2E[e(n) e ]0
ak
e(n) m1,2, x,(np1) x(n)
E [e(n)x(nm ) ]0m1,2,,p
预测误差和观测值相互正交， 是最佳线性预测的充要条件
x(n2)
p
e(n)x(n)x ˆ(n)x(n) akx(nk)
注意和书(6.2.1)-(6.2.4)的比较
c
c c
* 1
* 2
c
* N
x1
(
n
)
x (n )
x2 (n)
x N ( n )
误差性能函数
minEe(n)
2
E
y(n)yˆ(n)
2
E
y(n)cHx(n)
2
E{y(n)cHx(n)}{y(n)cHx(n)}
E{y(n)cHx(n)}{y(n)[cHx(n)]H}
ch6 最佳(MMSE)滤波
6
、
露
凝
无
游
氛
，
天
高
风
景
澈
。
7、翩翩新 来燕，双双入我庐 ，先巢故尚在，相 将还旧居。
8
、
吁
嗟
身
后
名
，
于
我
若
浮
烟
。
9、 陶渊 明（ 约 365年 —427年 ），字 元亮， （又 一说名 潜，字 渊明 ）号五 柳先生 ，私 谥“靖 节”， 东晋 末期南 朝宋初 期诗 人、文 学家、 辞赋 家、散
文 家 。汉 族 ，东 晋 浔阳 柴桑 人 （今 江西 九江 ） 。曾 做过 几 年小 官， 后辞 官 回家 ，从 此 隐居 ，田 园生 活 是陶 渊明 诗 的主 要题 材， 相 关作 品有 《饮 酒 》 、 《 归 园 田 居 》 、 《 桃花 源 记 》 、 《 五 柳先 生 传 》 、 《 归 去来 兮 辞 》 等 。
原则：
E
e(n)
Байду номын сангаас
2
0
c
矢量函数的求导
f (c)
c1
f (c)
f (c) c
c1
f (c)
c K
常用求导公式
(d H c) d c
(d ) 0 c
(cH Rc) 2Rc
c
E e(n)2 P ycH ddH ccH R c Rcopt d
Ee(n)2 c
两边取傅立叶变换
H(e j )
Ryx (e j ) Rx (e j )
从上式求解不一定能得到FIR因果滤波器
更适应于求解IIR非因果滤波器
线性预测
前向预测：利用某一时刻以前p时刻的数据的线性组合来预测该时刻的值。
n
n
p
不同表现形式 xˆ(n) akx(nk) k1
p
xˆ(n) ak*x(nk) k1
Rcopt
d0
与6.2.11一致
m i n E e ( n ) 2 P y ( R 1 d ) H d d H R 1 d ( R 1 d ) H R ( R 1 d ) P y d H R 1 d
正交性原理
随机矢量的内积定义为
x,y E{xy*}
正交：内积等于0
正交性原理：当实现最佳估计时，估 计误差与所采用的观测信号正交
可以证明，正交性原理和最小均方误 差是等价的
x, y 0
对于最小均方误差估计，当实现最佳估计时
x ,e 0 E { x (y x H c 0)} d -R c 0 0 x k,e 0 E { x (y x H c 0 )} d -R c 0 0
k 1, ,N
y
e opt
x2
x1 yˆ
MMSE参数估计主要结论
k 1
p
Rx(m) akRx(mk) m1,2,,p
k1
p
minRx(0) akRx(k) k1
和AR模型的YW方程是一致的。
E[e(n)e* (n)]
E x(n)
p
ak
x(n
k)e*
(n)
k 1
E[x(n)e*(n)]
线性预测与AR模型的关系
假设信号是一个p阶AR模型，对其应用一个p阶预测器，得到预测误差
1
0
、
倚
南
窗
以
寄
傲
，
审
容
膝
之
易
安
。
最佳(MMSE)线性滤波
最小均方误差估计 线性预测
MMSE滤波器设计
最小均方误差准则
e(n)y(n)yˆ(n)
期望信号
估计信号
5
4.5
|e|3 |e|2
4
|e|
3.5
实现最佳滤波的常用准 则：
min
E
e(n)
p
3
2.5 |e|0.5
2
1.5
1
0.5
最小均方误差线性估计：
E{y(n)cHx(n)}{y(n)xH(n)c}
E y(n)2 cHEx(n)y(n)Ey(n)xH(n)ccHEx(n)xH(n)c
Py cHddHccHRc
E
y(n)
2
期望信号 平均功率
dEx(n)y(n)
观测信号和 期望信号的 互相关
Ex(n)xH(n)
观测信号的 相关矩阵
滤波器系数求解
为：
p
e (n )x (n ) x ˆ(n )x (n ) a kx (n k) u (n ) k 1