第5章2 现代信号处理：最大熵谱估计

M
RˆM (i u )ViViH i 1
（5.5.11）
2.基于噪声子空间的频率估计—Pisarenko谐波分解法
当p=M时，Rp只有一个噪声特征向量VM+1，对应的特 征值为 u ，也为Rp的特征值，且特征向量VM+1满足：
eiHVM 1 0
算法具体步骤为：
(1)对信号：
（5.5.8）
由于Sp的秩为M（设M小于p），则Sp的特征值有M个不 为零，其余p+1-M个为零，有：
M
S p i ViVi H i 1
（5.5.9）
最终，得相关矩阵的特征分解表达式：
Rp Sp u I
M
p 1
i ViViH uViViH
i 1
i 1
M
析方法。 这是一种把自相关函数外推的算法，在分析过程中，没有固
定的窗函数，在每一步外推自相关函数中，使估计的相关函数包 含过程的信息最多，即要求在过程的嫡达到最大的条件下，确定 未知的自相关函数值，借以达到谱估计的逼真和稳定程度最好的 目的。
也就是说，最大嫡潜估计方法是采用谱嫡为最大的准则来估 计功率谱。

Rx (N ) Rx (N 1)


2 11
21
12 2
22




Rx (0)

N1
N2

det 表示行列式；
1N 2N



2 NN

Rx
(0)
Var( xi
)

E[ xi2 ]


2 ii

det Rx
选择
(N＋1)
Rx (N＋1) 的准则就是要使熵最大。由自相关矩阵的正定性，行列式
是非负的。要使熵最大，就是使

det Rx (N＋1)
最大，于是有：
d
dRx (N＋1)
det
Rx
( N＋1)
0
(5 106 )
由于N+1阶的自相关矩阵
Rx ( N＋1)
S() p 1
me jm
m p
（5.4.8）
式（5.4.8）中，使 m m ，并定义
p
P()
e' jm m
m p
S() 1 P()
m' m
由Fejer-Rieiz定理，可知P(w)应具有如下形式
P() 1 A() 2

2 B
为了保证S(w)是唯一解，选取A(z)为如下形式：
p
A(z) 1 ai zi i 1
式中的系数 ai , B 就是Yule-Walker方程的解。
（5.4.11）
解得最大谱熵为：
SˆMEM ()

2 B
P
2

2
P
2
1 ai zi
1 ai zi
i 1
ze j
,
Rx (i

j)

Cov(xi
xj
)

ij
故可得N维高斯分布的熵为：
H
ln (2e) N / 2
det
R(N )
1 2


为方便起见改写熵的定义为：
H p( x) ln[C 2N p( x)]dx (5 104 )
C－常数，可用来确定量度熵的参考基准或熵的绝对值, N－正整数。
, 根据分块矩阵行列式的恒等式： （证明见王宏禹书p.297）
detCA
B D

detAdet
D

CA1B
,
于是有：




det Rx (N＋1) det Rx (N) Rx (0) CT Rx1(N)C
显然(5-106)式，即将上式对 Rx (N＋1) 的导数为零，得：
R '(m) E[c(n)c*(n m)]

M k 1
Ak2
1
2

exp[

j(k m)]dk
M
Ak2 exp[ j(km)] k 1
（5.5.2）
如果c(n)与u(n)时互不相关的，则x(n)的自相关函数为：
M
R(m) Ak2 exp[ j(k m)] u (m) k 1
k N
S() exp 1
N
k
e
jk


kN

（5.4.16）
将（5.4.16）代入（5.4.14）可得2N+1阶非线性方程组，可求出 k
5.5 特征分解谱估计
5.5.1Pisarenko谐波分解与相关矩阵的特征分解
特征分解谱估计及主要是针对:白噪声的复正弦信号 的 功率谱估计问题，可以得到比AR模型更高的分辨率和更准 确的谱估计。
M
x n
A e j(k nk k
)

u(n)
k 1
i 1
ze j
（5.4.12）
3.基于构造熵的最大熵谱估计—MEM2
（1）构造熵的定义：
H2 (S())

1
2

S() ln
S ( )d
（2）MEM2方法：
其原理是：在给定自相关函数
R(m)
1

S()e jmd
2
（5.4.14）
的约束下，使得构造 H2 (S()) 最大，求 Sˆ()
Rx (N＋1)
这就是在最大熵的原则下，由已知的N+1个值外推得到
RRxx
( (
N＋2) N＋3)
自相关序列
故可得：B为常数

Sx () Rx (k )e jk ,B B (5 108 ) k
外推的方法很多，但应该是与已知点上的自相关相符的功率谱中最 任意的，即具有最大熵的。这相当于扩大了自相关的信息，故得到的谱 估计比传统方法的分辨率高。
5.4 最大熵谱估计
不管采用相关函数法还是周期图法，基于Faurie:变换的谱分 析技术本质上是一样的，都认为，有限长的数据段，可以看作是 无限长的取样序列被给予开窗截断后的结果，不论是数据开窗还 是自相关函数开窗，在频率域内都会发生“泄漏”现象，即功率 谱的主瓣内的能量泄漏到旁瓣，
很多研究都将注意力集中在窗口函数的形状和窗日函数的处 理方法(分段平均), 但所有的旁瓣抑制技术都是以牺牲谱分辨率为 代价的。
1967年Burg提出，对未知延迟点上的自相关函数值，按最大 熵的原则进行外推，克服了经典谱估计中窗函数法，相当于令未 用到的自相关或观测数据均为零的假设。提高了分辨度，尤其适 用于短数据的情况。
最大嫡谱分析方法(Maximum Entropy Spectral Method,MESM) 把信息嫡的概念引入信号处理中，有时又称为现代时序谱分
假设：信号 x n是由M个复正弦信号加白噪声组成，即：
M
x n Ake j(knk ) u(n) c n u n k 1
（5.5.1）
式中：k是[- , ]内均匀分布的零均值随机变量， u(n)为白噪声，A k 和k 为常数
c(n) 的自相关函数为：
可写为：
Rx (0)

Rx (1)

Rx (N 1)
Rx (1) Rx (0)
Rx (N )
Rx (N 1)
Rx (N )


Rx (0)


RCx(TN
)
C
Rx (0)
式中
CT
Rx (N
1),Rx (N),
, Rx (1)
x(n)的功率谱为：
m 0,1,L , p（5.5.3）
M
S() 2 Ai2 ( i ) u i 1
（5.5.4）
特征分解谱估计的基本原理是：
对于复正弦信号，估计出其频率 i (i 1, 2,L , m)及Ai 特征分解谱估计的步骤：
取m=0,1,…..p,构造x(n)的自相关矩阵：Rp 定义信号向量：
而在谱分析的应用领域，频率分辨力与低旁瓣一样是个重要 指标，在某些工程领域甚至是更重要的性能指标。这样，解决高 分辨率与低旁瓣的矛盾就成为谱分析中的一大难题。
此外，采用传统的谱分析方法，只有观测数据较长，即数据 采样点较多时，才能得到较高的谱估计精度，这样不仅增加了数 据处理的工作量，而且对于工程技术及科学研究中的短信号或瞬 变信号显然无能为力。正是在这一背景下，出现了以最大嫡谱分 析为代表的现代谱分析方法。
p 1
(i u )ViViH
uViVi H
i 1
iM 1
（5.5.10）
5.5.2基于信号子空间的频率估计及功率谱估计 1.基于信号子空间的频率估计及功率谱估计
对于（5.5.10），舍弃特征向量 Vm1,L ,Vp1 ，仅保留信号 空间，用秩为M的相关矩阵 RˆM 来 近似 Rˆ p ,可以大大提高 信噪比。
构造熵最大熵谱估计的解法：
应用Lagrang乘子法构造函数
J (S())


1
2

S() ln(S())d

N k N
k
[
1
2

S()e jnd

R(m)]
（5.4Leabharlann Baidu15）
令：J (S()) 0 S ( )
N
解得：ln S() 1 ke jk
R(m)
1

S()e jmd
2
最大熵谱估计的解法
用lagrange乘子法，构造辅助函数：
J (S())

1
2

ln(S ( ))d

p
m[R(m)
m p
1
2

S()e jnd]（5.4.7）
令：J (S()) 0 S ( )
1,0,

,0 Rx1
(
N
)C
CT
Rx1(N
)1,0,
,0T

0.........5( 107)
此式为 Rx (N＋1) 的一次方程，从而求解此式，可得到合适的 Rx(N＋1)

同理将此 Rx (N＋1) 代入 det Rx(N＋2)
，继而可求出 Rx (N＋2)
因此令 C (2e)1/ 4时，N维高斯分布的熵可写为：
1

H 2 ln det Rx (N ) (5 105)

显然，要使熵最大，就要使 det Rx(N)
最大。
研究熵与功率谱 S() 之间的关系，即已知自相关函数的N+1个值
Rx (0), Rx (1), , Rx (N )计算下一个最大延迟之外的自相关函数值 Rx (N＋1)
现代数字信号处理
第五章 功率谱估计
内容摘要
• 5.1 概述 • 5.2 经典谱估计的基本方法
5.2.1 周期图 5.2.2 相关图 • 5.3 功率谱估计的参数模型法 5.3.1 AR谱估计的相关函数法
5.3.2 AR参数谱估计与最佳线性预测器的关系 5.3.3 Levinson-Durbin算法 5.3.4 Burg算法 5.3.5 AR谱估计的性质 5.3.6 MA谱估计、ARMA谱估计 5.4 最大熵谱分析 5.5 特征分解法谱估计 5.5.1 Pisarenko谐波分解与相关矩阵的特征分解 5.5.2 基于信号子空间的频率估计及功率谱估计
2. 最大熵谱估计：
已知{ R(0),R(1),…R(p)}, 求R(p+1),R(p+2),…
保证外推后自相关矩阵正定，自相关序列所对应的时间序列应具 有最大熵，在具有已知的p＋1各自相关取样值的所有时间序列中，该时 间序列是最随机，最不可预测的，谱是最平坦的，最白的。
最大熵谱估计原理：
求功率谱S(w),使得S(w)在约束条件下，使熵谱H(S(w))最大
ei (1, exp( ji ), exp( j2i ),L , exp( ji p))T
Rp 自相关矩阵可写为：
M
Rp Ai2eieiH u I i 1
i 1, 2,L , M
（5.5.7）
将Sp进行特征分解，有：
p 1
S p i ViVi H i 1
己经有学者证明，最大嫡谱与自回归模型谱(AR模型)以及全 极点线性预测谱是等价的 。
熵:不确定度 最不确定的事件: 熵最大
☆ 一维高斯分布: p(x)
1
e
x 2
2
2
其中 2 x 2 p( x)dx
代入熵的定义公式，并注意到

p(x)dx 1
得： H ln 2 2 ln e ln 2 2e
☆ N维高斯分布:
p( x1 ,
x2 ,
,
xN
)

(2
)N /2
det
R(N )
1/ 2
exp

1 2
XT
R 1
(
N
)
X
Rx (0)
R( N )


Rx (1)
表示行列式；
Rx (1) Rx (0)


Rx
(
N
)
Rx (N 1)
X (x1, x2 , , xN )T