最大熵谱估计
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
则会得到指数模型的 P ( )
Levinson递推
递推的算法：阶数递推 am1(i) am(i) 时间递推 ak(i) ak(i1)
典范表示：am(i)am1(i)校正项
ak(i)ak(i1)校正项
Levinson递推：
a m ( i ) a m 1 ( i ) K m a m * 1 ( m i ) , i 0 ,1 ,L ,m
3.2 最大熵谱估计
ARMA谱估计：差分模型 最大熵方法(MEM: Maximum Entropy Method)：信息论
信息量：事件X，事件 X xk 发生时(概率 P k )，带来的信息
I(xk)logP 1k logPk
以e为底：nat(奈特) 以2为底：bit(比特)
性质1： I(xk)0,若 Pk1
J()21 logP()dkppkR(k)21 － P()ejkd kqqkC(k)21 － logP()ejkd
q
k e j k
P ( )
kq p
k e j k
k p
与ARMA功率谱等 价
结构熵
maxH2P()21 P()logP()d 难求！
相 关 函 数 匹 配
性质2 (非负性)： I(xk)0Q 0P k1
性质3： I(xk)I(xj),若 P kP j
熵：平均信息量，X取值的字符集
H (X ) P kI(x k) P klo g P k
x k
x k
连续型随机变量：
H ( X ) p ( x ) I ( x ) d x p ( x ) l o g p ( x ) d x E I ( x )
m
后向预测误差 gm(n) am *(mi)x(ni) i0
P m 1 2 n N m fm (n )2 g m (n )2 平 均 预 测 误 差 能 量
N
百度文库
fm1(n)gm *1(n1)
Km
nm1
1N 2nm1
fm1(n)
2
gm1(n1)
2
fm(n)fm1(n)Km1gm1(n1) gm(n)gm1(n1)Km *1fm1(n)
总结: ⑴从信息论角度出发，定义了熵谱 ⑵有约束的优化问题，在不同约束条件下
AR谱估计(相关匹配) ARMA谱估计(相关匹配＋倒谱匹配)
⑶Levinson递推(典范表示) ⑷Burg递推
i0
而且若 A(z) 0 的根全部在单位园内，则A(z)是唯一确定 的。
功率谱(spectrum) P ( )
倒谱(cepstrum) ln P( )
max21logP()d 条 件 相 倒 关 谱 函 匹 数 配 匹 ： 2 1 配 ： 2 1 log P P ( ( )e)je k j d k d C R (k()k,),kk 0,0 ,1 ,1 L ,L , , pp
(功率)谱熵： HP()21 logP()d
已知： R (k),k0 , 1 ,L,p2p+1个样本相关函数，使
maxHP()
问题：求 P ( )
m axHP()m ax2 1 logP ()d 约 束 条 件 ： R ˆ(k)2 1 P()ejkdR(k), k0,1,L,p
相关函数匹配
J P () 2 1 l n P () d k p pk R ˆ x ( k ) 2 1 P () e j k d
J P( )
0
P( )
P() p 1
1
k
p
kejk
kejk
kp
kp
与AR功率谱等 价
Fejer-Riesz定理：
p
W (z)
kz k z e j W ()p
ke j k
k p
k p
p
若 W() 0，则一定可以找到一个A(z) a(i)zi 满足
i0
p
2
W(z)A(z)2 a(i)zi
前向
反射系数 后向预测系数
特殊值：⑴ i 0 ,a m ( 0 ) a m 1 ( 0 ) K m a m * 1 ( m ) a m 1 ( 0 )
m 1 , 取 初 始 值 a 1 ( 0 ) = 1 a 1 ( 0 ) a 2 ( 0 ) L a m ( 0 ) 1
⑵ i m ,a m ( m ) a m 1 ( m ) K m a m * 1 ( 0 )a m ( m ) K m
aKmm(i) ama(mm1)(i)
Kmam* 1(mi)
Pm
1
Km
2
Pm1
预测误差功率
但 K m 如何递推？
Burg递推解决
m
Burg定义：前向预测误差 fm(n) am(i)x(ni) i0
Levinson递推
递推的算法：阶数递推 am1(i) am(i) 时间递推 ak(i) ak(i1)
典范表示：am(i)am1(i)校正项
ak(i)ak(i1)校正项
Levinson递推：
a m ( i ) a m 1 ( i ) K m a m * 1 ( m i ) , i 0 ,1 ,L ,m
3.2 最大熵谱估计
ARMA谱估计：差分模型 最大熵方法(MEM: Maximum Entropy Method)：信息论
信息量：事件X，事件 X xk 发生时(概率 P k )，带来的信息
I(xk)logP 1k logPk
以e为底：nat(奈特) 以2为底：bit(比特)
性质1： I(xk)0,若 Pk1
J()21 logP()dkppkR(k)21 － P()ejkd kqqkC(k)21 － logP()ejkd
q
k e j k
P ( )
kq p
k e j k
k p
与ARMA功率谱等 价
结构熵
maxH2P()21 P()logP()d 难求！
相 关 函 数 匹 配
性质2 (非负性)： I(xk)0Q 0P k1
性质3： I(xk)I(xj),若 P kP j
熵：平均信息量，X取值的字符集
H (X ) P kI(x k) P klo g P k
x k
x k
连续型随机变量：
H ( X ) p ( x ) I ( x ) d x p ( x ) l o g p ( x ) d x E I ( x )
m
后向预测误差 gm(n) am *(mi)x(ni) i0
P m 1 2 n N m fm (n )2 g m (n )2 平 均 预 测 误 差 能 量
N
百度文库
fm1(n)gm *1(n1)
Km
nm1
1N 2nm1
fm1(n)
2
gm1(n1)
2
fm(n)fm1(n)Km1gm1(n1) gm(n)gm1(n1)Km *1fm1(n)
总结: ⑴从信息论角度出发，定义了熵谱 ⑵有约束的优化问题，在不同约束条件下
AR谱估计(相关匹配) ARMA谱估计(相关匹配＋倒谱匹配)
⑶Levinson递推(典范表示) ⑷Burg递推
i0
而且若 A(z) 0 的根全部在单位园内，则A(z)是唯一确定 的。
功率谱(spectrum) P ( )
倒谱(cepstrum) ln P( )
max21logP()d 条 件 相 倒 关 谱 函 匹 数 配 匹 ： 2 1 配 ： 2 1 log P P ( ( )e)je k j d k d C R (k()k,),kk 0,0 ,1 ,1 L ,L , , pp
(功率)谱熵： HP()21 logP()d
已知： R (k),k0 , 1 ,L,p2p+1个样本相关函数，使
maxHP()
问题：求 P ( )
m axHP()m ax2 1 logP ()d 约 束 条 件 ： R ˆ(k)2 1 P()ejkdR(k), k0,1,L,p
相关函数匹配
J P () 2 1 l n P () d k p pk R ˆ x ( k ) 2 1 P () e j k d
J P( )
0
P( )
P() p 1
1
k
p
kejk
kejk
kp
kp
与AR功率谱等 价
Fejer-Riesz定理：
p
W (z)
kz k z e j W ()p
ke j k
k p
k p
p
若 W() 0，则一定可以找到一个A(z) a(i)zi 满足
i0
p
2
W(z)A(z)2 a(i)zi
前向
反射系数 后向预测系数
特殊值：⑴ i 0 ,a m ( 0 ) a m 1 ( 0 ) K m a m * 1 ( m ) a m 1 ( 0 )
m 1 , 取 初 始 值 a 1 ( 0 ) = 1 a 1 ( 0 ) a 2 ( 0 ) L a m ( 0 ) 1
⑵ i m ,a m ( m ) a m 1 ( m ) K m a m * 1 ( 0 )a m ( m ) K m
aKmm(i) ama(mm1)(i)
Kmam* 1(mi)
Pm
1
Km
2
Pm1
预测误差功率
但 K m 如何递推？
Burg递推解决
m
Burg定义：前向预测误差 fm(n) am(i)x(ni) i0