现代信号处理 总结1

第1章 离散时间信号与系统
1、 傅里叶分析和Z 变换的区别、缺陷、特点
关系：点数为N 的有限长序列x(n)的Z 变换为X(z),而其离散傅里叶变换为X(k)，两者均表示了同一有限长序列x(n)的变换,它们之间的关系是:对z 变换在单位圆上取样可得DFT 。

而DFT 的内插就是变换。

傅里叶变换优缺点
(1) 傅里叶变换缺乏时间和频率的定位功能 (2) 傅里叶变换对于非平稳信号的局限性
(3) 傅里叶变换在时间和频率分辨率上的局限性
傅立叶变换是最基本得变换，由傅里叶级数推导出。

傅立叶级数只适用于周期信号，把非周期信号看成周期T 趋于无穷的周期信号，就推导出傅里叶变换，能很好的处理非周期信号的频谱。

但是傅立叶变换的弱点是必须原信号必须绝对可积，因此适用范围不广。

Z 变换的本质是离散时间傅里叶变换（DTFT ），如果说拉普拉斯变换专门分析模拟信号，那Z 变换就是专门分析数字信号，Z 变换可以把离散卷积变成多项式乘法，对离散数字系统能发挥很好的作用。

Z 变换看系统频率响应，就是令Z 在复频域的单位圆上跑一圈，即Z=e^(j2πf)，即可得到频率响应。

2、
系统的记忆性、因果性、可逆性
(1)
记忆性
如果系统在任意时刻n0
的响应仅与该时刻的输入f(n0)
有关，而与其它时刻的输入无关，则称该系统为非记忆系统（或系统
无记忆性），否则称为记忆系统。

系统的记忆性有时也被称为动态特性。

该特性强调系统的响应是否仅与当前时刻的输入有关。

对于无记忆LTI 系统，其系统冲激响应为，其中
()()h n K n δ=，K 为一常数。

由于系统频率响应是冲激响应
的傅氏变换、系统函数为系统冲激响应的z 变换，因此，无记忆LTI 系统的系统频率响应和系统函数分别为H(ω)=K ，
H(z)=K 。

(2) 因果性
如果系统任意时刻的响应与以后的输入无关，则该系统称为因果系统（或系统具有因果性），否则为非因果系统。

该特性强调
的是，系统的响应是否与未来的输入有关。

对于因果LTI 系统，其系统冲激响应满足：h(n)=0，n<0。

系统冲激响应h(n)是一个右边信号，因此，因果LTI 系统的系统函数的收敛域为距原点最远的极点所在圆的圆外z 平面。

同理，若系统是逆因果的，那么，其系统函数收敛域位于最接近原点的极点所在圆的圆内z 平面。

(3) 可逆性
设信号ƒ1(n)、ƒ2(n)通过系统的响应分别为y 1(n)、y 2(n)，如果ƒ1(n)≠ƒ2(n)，一定有y 1(n)≠y 2(n)成立，则称系统具有可逆性，或称为可逆系统。

对于可逆系统，如果系统的响应已知，则可通过一个逆映射，求出原来的输入信号。

这个逆映射便是原系统的逆系统。

若LTI 系统的冲激响应为h(n)，其逆系统的冲激响应为h inv (n)，则h(n)*h inv (n)=δ(n)；由时域卷积特性，逆系统的系统频率响应满足H(ω)H inv (ω)=1；逆系统的系统函数满足H(z)H inv (z)=1
第2章 离散时间平稳随机过程
1、 平稳随机过程的概念
平稳是随机过程的一个重要概念，描述的是随机过程的统计特性是否随时间变化，可分为严格平稳随机过程和广义平稳随机过程。

严格平稳随机过程，是指()u n 任意M 个不同时刻取值的联合概率密度函数与起始时间无关。

广义平稳随机过程也称为宽平稳随机过程或弱平
稳随机过程，需满足。

2、 平稳随机过程中相关函数的性质
3、 平稳随机过程的自相关矩阵及其性质 (1) 自相关矩阵的定义
对离散时间平稳随机过程，用M 个时刻的随机变量构造随机向量
T ()[()(1)(1)]u n u n u n u n M =--+L
随机过程的自相关矩阵定义为
{}H E ()()n n =R u u
考虑平稳条件，得到相关矩阵的展开形式为
(0)
(1)(1)(1)(0)(2)C (1)(2)
(0)M M
r r r M r r r M r M r M r ⨯-⎡⎤⎢⎥--⎢
⎥=∈⎢⎥
⎢
⎥-+-+⎣⎦
R L L M M O M L
其中，r(m)是随机过程的自相关函数，
{}*()E ()()r m u n u n m =-
根据相关函数共轭对称性，上式又可重写为
***
(0)
(1)(1)(1)(0)(2)(1)(2)
(0)r r r M r r r M R r M r M r -⎡⎤
⎢⎥-⎢
⎥=⎢⎥
⎢⎥--⎣⎦
L L M M O M L
因此，对于一个平稳随机过程，只需自相关函数的M 个值就可
以完全确定相关矩阵R 。

(2) 自相关矩阵的基本性质
性质1 平稳离散时间随机过程的相关矩阵是Hermite 矩阵，即有
R H =R 。

证明：由自相关矩阵定义，有
性质2 平稳离散时间随机过程的相关矩阵是Toeplitz 矩阵。

若一个方阵的主对角线元素相等，且平行于主对角线的斜线上的
元素也相等，则称其具有Toeplitz 性，称该方阵为Toeplitz 矩阵。

性质3 平稳离散时间随机过程的相关矩阵R 是非负定的，且几乎总是正定的。

性质4 将观测向量u(n)元素倒排，定义向量
T
B ()[(1)(2)()]u n u n M u n M u n =-+-+L
这里，下标B 表示对向量u(n)内各分量做反序排列
{}
H
B B B H **T MxM
E ()()(0)(1)(1)(0)(2)(1)(2)(0)n n r r r M r r r M r M r M r C =⎡⎤
-⎢
⎥-⎢⎥
=⎢⎥
⎢
⎥--⎣⎦
=∈L L M M O M L
R u u R
性质5 平稳离散时间随机过程的自相关矩阵R
从M 维扩展为M+1维，有如下递推关系
H 1(0)M M r +⎡⎤=⎢⎥
⎣⎦r R r
R 或等价地
*
B 1T
B
(0)M
M r +⎡⎤=⎢⎥⎣⎦
R r R r 其中
[]
H T B (1)(2)()[()(1)(1)]
r r r M r r M r M r ==--+-L
L
r
4、 随机过程的平均功率
{}2P()E |()|(,)n u n r n n ==
{}2P E |()|(0)u n r ==
5、 随机过程间的独立、正交、相关 (1) 独立
当两个随机事件的发生彼此独立时，则其对应的两个实随机变量U 、V 是相互统计独立的。

它们的联合概率密度函数p{u,v}等于U 的概率密度函数p(u)和V 的概率密度函数p(v)之积，即
p(u,v)=p(u)p(v)
由上式容易推导出,，E{UV }= E{U } E{V } (2) 正交
如果两个随机变量U 、V 是相互正交的，则有E{UV}=0
两个随机变量U 、V 的相关系数定义为
cov{,}var{}var{}u v U V U V ρσσ==
其中，|ρ|≤1，U 的均值和方差分别为u μ和
2u σ
，V 的均值和方差分别为u μ和2u
σ， cov{U,V}为随机变量U 、V 的互协方差，定义为()(){}
cov{,}E u v U V U V μμ=--
(3) 相关
两个随机变量之间的相关性定义如下 当ρ=0时，两个随机变量U 、V 不相关。

当|ρ|=1时，两个随机变量U 、V 完全相关，此时称两个随机变量U 、V 是相干的。

当0<|ρ|<1时，两个随机变量U 、V 是相关的。

(4) 性质
性质1 统计独立必然统计不相关，但逆命题一般不成立。

性质2 对于高斯随机变量，统计独立与不相关等价。

性质3 如果两个随机变量中有一个均值为零，则统计不相关和正交等价。

性质4 如果两个高斯随机变量中有一个均值为零，则统计独立、不相关和正交三者等价。

6、 功率谱的性质
7、 平稳随机过程的参数模型
设LTI 系统输入()n ν和输出()u n 满足如下差
分方程
1
()()()
p
q
k l k l u n a u n k b v n l ===--+-∑∑
A(z)和B(z)的根都应在单位圆内。

根据H(z)的不同，参数模型可以分为如下三类。

(1) 自回归(AR(p),Auto-Regressive)模型
当0,1,2,,l
b l q ==L 时，LTI 系统差分方
程和传递函数分别表示为
11()()()1
1()()
1p
k k p
k
k k u n a u n k v n H z A z a z =-==--+==
+∑∑
输出u(n)的功率谱密度函数为 2
AR 2
1()1p
j k
k k S a e ωσω-==
+∑
参数模型的输出是当前输入和以前p 个输出的线性组合，因此，该模型被称为自回归模型，简称AR 模型。

(2) 滑动平均(MA(q)，Moving-Average)模型
当0,1,2,,k
a k p ==L 时，LTI 系统差分方
程和传递函数分别表示为
1
()()()q
l l u n v n b v n l ==+-∑
1
()()1q
l l l H z B z b z -===+∑
输出u(n)的功率谱密度函数为
22
MA 1
()1q
j t
l l S b e
ω
ω
σ-
==
+
∑
参数模型的输出是当前输入和以前
q
个输入的线性组合，因
此，该模型被称为滑动平均模型，简称MA 模型。

(3) 自回归滑动平均(ARMA(p,q))模型
1
()()()p
q
k l k l u n a u n k b v n l ===--+-∑∑
111()
()()
1q
l l l p
k
k k b z B z H z A z a z -=-=+=
=+∑∑ 输出u(n)的功率谱密度函数为
2
12
ARMA 2
1
1()1q
j l
l l p
j k
k k b e S a e ωωωσ-=-=+=+∑∑
AR 模型为全极点模型，MA 模型为全零点模型，ARMA 模型为零极点模型。

根据LTI 系统理论，一个ARMA 或AR 过程，可以由一个无穷阶MA 过程表示。

一个有限阶次的ARMA 模型也可以用一个阶数足够高的AR 模型或MA 模型来近似。

8、 估计准则：无偏性、有效性、一致性 (1) 偏移性（对算法设计的意义）
令估计量的统计平均值与真值之间的差值为偏移B ，其公式为
ˆ[]B E αα
=- 如果B=0，称为无偏估计。

如果B ≠0，则称为有偏估计。

如果随着观察次数N 的加大，能够满足下式：
ˆlim []N E α
α→∞
=
则称为渐近无偏估计，这种情况在实际中是经常有的。

9、 无偏估计对算法的意义：
在许多情况下，一个有偏但渐进无偏的估计具有比一个无偏的估计好得多的分析和计算性质。

第3章 功率谱估计和信号频率估计方法
1、经典功率谱估计方法: 经典功率谱估计是基于传统傅里叶变换的思想，其中的典型代表有Blackman 和Tukey 提出的自相关
谱估计（简称为BT 法），和周期图法。

2、经典功率谱估计的改进：周期图法估计出的谱性能不好，当观测数据长度太大时，谱的曲线起伏加剧；而数据太短时，谱的分辨率又不好。

因此需要加以改进，用Bartlett 法和Welch 法。

3、AR 参数模型的正则方程：假设(),()v n u n 都是复平稳的随机信号，()v n 是零均值，方差为2σ的白噪声。

AR 模型的输入()v n 和输出()u n 满足如下差分方程：*()(0)
u n m m -≥
1
()()()p
k k u n a u n k v n ==--+∑，两边同乘并求
数学期望，得
{}*
*1E ()()E ()()()p k k u n u n m a u n k v n u n m =⎧⎫⎡⎤
-=--+-⎨⎬
⎢⎥⎣⎦⎩⎭
∑，令
{}{}
**()E ()()()E ()()u uv r m u n u n m r m v n u n m =-=-则有
{}
{}*
1
*1
()E ()()E ()()()()
p
u k k p
uv k u k r m a u n k u n m v n u n m r m a r m k ===---+-=--∑∑。

由于()v n 是零均值，方差为2σ 的白噪声，且设AR 模型为因果的，故AR 模型的输出信号(1),(2),,()u n u n u n p ---L
L
与
n 时刻的AR 模型输入信号v(n)统计独立，即
{}*E ()()00v n u n k k -=>。

当m>0时 {}*()E ()()0 uv r m v n u n m =-=。

当m=0时
{}
{}{}***
*
12
(0)E ()()E ()()E ()()uv p
k
k r v n u n a v n u n k v n v n σ===--+=∑
综合上面的讨论可得
1
2
1
()0
()()0
p
k u k u p
k u k a r m k m r m a r k m σ==⎧-->⎪⎪=⎨⎪--+=⎪⎩∑∑，可表示为如
下形式，211(0)(1)
()(1)(0)(1)0()(1)(0)0u u u u u u p u u u r r r p a r r r p a r p r p r σ-⋯
-⎡⎤⎡⎤
⎡⎤⎢⎥⎢⎥
⎢⎥⋯-+⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥
⎢
⎥-⋯⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦M M M O M M
上式就是AR 模型的正则方程，又称Yule-Walker 方程。

系数矩阵为Hermite 对称的Toeplitz 矩阵。

例3.2：已知()u n 满足实(2)AR 模型，即满足如下差分方程
12()(1)(2)()u n a u n a u n v n +-+-=，
其中，v(n)是均值为零，方差为2v σ 的白噪声。

取AR 模型阶数p=2，得到二阶的Yule-Walker 方程
12(0)(1)(1)(1)(0)(2)u u u u u u r r r a r r r a -⎡⎤⎡⎤
⎡⎤=⎢⎥⎢⎥⎢⎥-⎣⎦⎣⎦⎣⎦
，
2
12(0)(1)(2)v
u u u r a r a r σ=++，所以解得 12
2(1)(0)(2)(0)(1)
u u u u u
r r r a r r --⎡⎤⎣⎦
=
-2222(0)(2)(1)
,(0)(1)u u u
u u r r r a r r -=-
-
4、功率谱表达式：
2
AR
21
ˆˆ()ˆ1p p
j k
k k S a
e ωσ
ω-==+∑ 实际计算中，常对ω
在单位圆上均匀采样，设采样点数为M ，则可用FFT 计算p 阶AR 模型的功率谱。

2
2
2AR 2
2
221
011ˆˆˆ1ˆˆ10
ˆˆˆ,1,,,001j l p p M p
j
k j k M
M k k k p M S e M a
e a e
k a a a l M p M
π
ππ
σ
σ
--=+-⎛⎫==
⎪⎝⎭
-+===≤≤-<∑L 其中，
习题3.1 设实随机过程()u n 满足
()(1)()u n au n v n +-=，其中()v n 是零均值、方
差为1的白噪声，
1a < 。

求（1）计算
()u n 的自相关函数(0),(1);r r (2)求
2
11
21j d ae
π
πωωπ
-
-+⎰。

解：(1) 实随机过程
u(n)满足AR(1)模型，相应的Yule-Walker 方程为(0)(1)11(1)(0)0r r r r a ⎡⎤⎡⎤⎡⎤
=⎢
⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦
，上式应用了
(1)(1)r r =-， 由上式可解得 2
2
1(0),(1)11a
r r a a =
=--。

（2）因()u n 的功率谱密度为2
1()1j S ae ω
ω-=+，由自相关函数()r m
和功率谱()S w 的关系式j 2
1
11()()d e d 221e
jm k r m S e a π
π
απωαωωωπ
π
-∞
-∞
--=
=+⎰
⎰
可得
2
2
i*1
1
1
d (0)211e
r a a ππωπ
-
-==
-+⎰ 6、对经典功率谱作一下总结：
a 经典功率谱估计，不论是周期图法还是BT 法都可以用FFT 快速计算，且物理概念明确，因而仍是目前较常用的谱估计方法。

b 功率谱的分辨率较低，它正比于2/M π ，
M
是所使用信号的长度。

c 由于不可避免的
窗函数的影响，使得估计的功率谱主瓣展宽，降低了分辨率。

d 方差性能不好，不是()S ω 的一致估计，且 N 增大时，谱曲线起伏加剧。

e 周期图的平滑和平均是和窗函数的使用紧密关联的。

平滑和平均主要是用来改善周期图的方差性能，但往往又降低了分辨率和增加了偏差。

因此，在实际应用中，必须在方差，偏差和分辨率之间进行折衷选择。

7、AR 参数模型功率谱估计讨论： （1）AR 模型功率谱的分辨率
BT 法的功率谱BT
ˆ()S ω的分辨率是随着信号长度N 的增加而提高的。

而AR 模型法避免了窗函数的影响，因此它可得到高的谱分辨率，同
时它所得出的功率谱估计AR
ˆ()S ω与真实的功率谱 ()S ω偏差很小。

4、AR 模型谱估计方法的不足：在实际应用时，发现AR 模型在谱估计中存在一些缺点。

有些缺点和模型本身有关，有些则和采用的求 解模型参数的方法有关。

(1)
AR 谱估计的分
辨率受到加性观测噪声的影响。

求AR 模型时所使用信号的信噪比越低，AR 谱的分辨率越差。

(2)如果待估计信号是含有噪声的正弦信号，谱峰的位置易受初相位的影响，且在有的算法中还可能出现“谱线分裂（ spectral line splitting ）”的现象。

通过算法的改进和其它一些措施可以较好的克服这些缺点。

(3) 谱估计的质量受到阶次p 的影响。

阶次太低，功率谱太平滑，反映不出谱峰。

阶次选得过大可能会产生虚假的谱峰。

7、三个梯度公式：
()()()H *H *H *T
1
212T
12(w)2w 0w (w)2w 2w (w)2w Rw 2Rw w p i i
i pi p J c J c c
J R a a a a a a a c c c c ∂
∇==∂∂
∇==∂∂
∇==∂⎡⎤⎡⎤==⎣⎦⎣⎦⎡⎤=⎣⎦
L L
L
其中，，
，
第4章 维纳滤波原理及自适应算法
思考题1：在维纳滤波器中，既然期望响应d(n)已知，为什么还要对其进行估计？解：维纳滤波器包括训练和工作两种过程。

在训练过程中，已知期望响应d(n),通过对权向量w 的
设计,使从输入信号u(n)中得到的估计ˆ()d
n 在某种意义下最佳逼近d(n)；而在工作过程，则是用训练过程求得的w 作为滤波器的权向量,对事先未知的输人进行滤波处理,得到有用的输出。

思考题2：①最陡下降法和LMS 有何关系和异同点？②如果u(n)已知是均值为零、方差为的白噪声，计算LMS 算法剩余均方误差、失调和平均时间常数。

解：① 在最陡下降法中，如果用n 时刻的瞬时估计值
µ*ˆ()(),()()n n n d n ==H R
u u p u 代替统计量Ｒ和ｐ ，则可得
µˆˆ()22()2()()J n n n e n ∇
=-+=-*p Rw u ，此时的最陡下降算法称为LMS 算法。

②()u n 的平均功率为2v σ ，则剩余均方误差：
def
min
2
1
min
min
2
1
ˆ()()}22M
i
i M
i
i ex J n E J n J M J J M υυλ
σμμμσμλ=-=〈-≈=--∑∑µˆˆ()22()2()()J n n n e n ∇
=-+=-＊p Rw u 失调常数 M
2
1
1
1
2
2
2M
i
i i
N
i i
i M υλ
μ
μ
λ
σμλ====
≈
=
-∑∑∑M ，
平均时间，nv 2
av
1122v τμλμσ=
=
{}
{}{}2
2*2()|()|()()()()()():d d d n d n n d n n n n J J σσ===∴=--+（H H H H 的平均功率E 互相关向量E 的自相关矩阵E 误差性能面或均方误差
p u u
) R u u w p w w p w Rw
w 8、为什么用LMS 算法：
SD(steepest descent method)算法的不足：⑴ p 和R 确定，迭代过程和结果就确定；⑵ 与输入信号变化无关，不具有自适应性。

9、μ对LMS 性能的影响：
11、收敛速度：平均时间常数用于表征LMS 算法的平均收敛速度：12av
τμλ=
av
第5章 不考
第6章 最小二乘估计理论及算法
求解最小二乘法的方法
习题，
计算方程组
第7章 卡尔曼滤波
(1) 维纳滤波和卡尔曼滤波的区别和联系：
区别：卡尔曼滤波过程实际上是获取维纳解的递推运算过程，这一过程从某个初始状态启动，经过迭代运算，最终到达稳定状态，即维纳滤波状态。

维纳过程：维纳滤波器处理的是平稳随机信号，参数固定，非时变；卡尔曼滤波：参数固定，时变。

维纳滤波中，信号与噪声用相关函数表示，因此设计维纳滤波器要求已知相关函数，而卡尔曼滤波要求已知状态方程和测量方程。

联系：1，都是解决最佳线性滤波和预测问题，并且
都是以均方误差最小为准则2，在平稳条件下，它们所得到的稳态结果是一致的。

最小误差条件：
2、维纳滤波满足均方根最小求解：
3、课后习题：
试证明卡尔曼滤波中的状态估计误差自相关矩阵满足
解：第8章阵列信号处理与空域滤波LCMV权向量推导：
习题。