杭电随机信号平稳随机过程

0 0 X ( )d
(3.2.16)
相关时间 0越小，就意味着相关系数 rX ( )随
增加而降落得越快，这表明随机过程随时间变
化越剧烈。反之， 0 越大，则表明随机过程随
时间变化越缓慢。
3、互相关系数
XY ( )
RXY ( ) RXY ( ) Rx (0)RY (0) x Y

(3.1.5)
（2）平稳过程X(t)的二维概率密度只与t1、t2的时 间间隔有关，而与时间起点t1无关。
pX (x1, x2;t1,t2 ) t1 pX (x1, x2;0, ) (3.1.6)
pX (x1, x2;t1,t2 ) pX (x1, x2;t1 ,t2 )
rN 1...............r2 r1
r0

(3.3.1)
矩阵的Toeplitz性在数字信号处理的快速算法中特 别有用。
3.3.2 自相关阵的正则形式：
设R阵满足下列方程:
RQi Qi
(3.3.2)
称为R的特征值；Qi为一列向量，称R阵的特征 向量。特征值与特征向量满足：
数学期望 均方值 方差 协方差
mX RX ()
E[ X 2 (t)] RX (0)

2 X

RX
(0)

RX
()
CX ( ) RX ( ) RX ()
3.2.2 平稳相依过程互相关函数的性质
性质1： RXY (0) RYX (0)
(3.2.10)
RXY (0) 表示随机过程在同一时刻的相关性。
( )

1 2 [RX
(0)

RY
(0)]
同理可证：
CXY
( )

1 2
[C
X
(0)
CY
(0)]
1 [
2
2 X
Y2]
(3.2.12) (3.2.13)
(3.2.14)
相关系数和相关时间
1、相关系数
相关系数实际上是对平稳随机过程的协方差函数
作归一化处理，即：
X
( )

CX ( ) X2
x0 , x1,, xN 1
(3.2.17)
3.3 平稳随机序列的自相 关阵与协方差阵
3.3.1 Toeplitz阵
Toeplitz矩阵：矩阵的每一条对角线上的元素是相 同的，即矩阵元素满足：
ri, j ri, j i 0,1,, N 1; j 0,1,, N 1 i N 1; j N 1
1
]
1
.

.
.


N
1

写成： RQ Q
(3.3.6)
式中： Q [Q0Q1QN1] 称为R的特征向量矩
阵。
0


1


.




.


.




N 1
(3.3.7)
R QQ1
(3.3.8)
3.4 随机过程统计特性的实验研究方法
F(x) lim
1
T
U[x x(t)]dt
T 2T T
③X(t)的分布函数具有各态历经性。
mX

E[ X (T )] lim 1 T 2T
T
x(t)dt
T
RX
( )

lim
T
1 2T
T
x(t ) x(t
T

)dt
F(x) lim
1
T
U[x x(t)]dt
性质4 平稳过程的均方值就是自相关函数在 0
时的值。
RX (0) E[ X 2 (t)] 0
(3.2.5)
性质5 非周期平稳过程X(t)的自相关函数满足：
lim

RX
(
)

RX
()

mX
2
性质6 即：

2 X

RX
(0)

RX
()
(3.2.6) (3.2.7)
性质7 自相关函数必须满足：
间隔τ有关（ R(t1,t2 ) R(t,）) ，则称其为广义平
稳随机过程。 考虑两个平稳过程X(t)和Y(t)时，若它们的互相关
函数仅是单变量的函数，即：
RXY (t1,t2 ) E[X (t1)Y (t2 )] RXY ( ), t2 t1
(3.1.10) 则称这两个随机过程是联合宽平稳。

N 1 N
mX2

N N
1
2 X
说明
ˆ
X2为有偏估计量，当N时,E[ˆ
2 X
]


2 X
称
ˆ
2渐
X
进无偏的。
2、
ˆ
2 X
为一致估计量：
V

ˆ
2 X

1 N
N 1
xi2
i0
N ,
Var
[ˆ
2 X
]

0
3.4.3 自相关函数的估计
对于零均值平稳序列：
X j , j ,,1,0,1,,

N 1 (xi
i0
mX
2
2 X
)2
(3.4.2)
ln p( X / mX ) 0 mX
则：mˆ X

1 N
N 1
xi
i0
(3.4.3)
1、有偏估计与无偏估计
若估计量的数学期望等于真值，则称该估计量为 无偏估计量；反之则称为有偏估计量。
E[mˆ X
]
1 N
N 1
自相关函数：
R(k) E[ X j X jk ]
非零滞后自相关函数的估值：
Rˆx (k)
性质：

1 N
N k 1
xi xi k
j0
性质1：RˆX (k) 是渐近无偏的；
(3.4.7) (3.4.8)
性质2：RˆX (k) 是一致估计量；
3.4.4 密度函数估计
给定随机序列的一段实现：
(3.1.2)
数学期望：与时间t无关，即均值为常数。

E[X (t)] x1 pX (x)dx mX
(3.1.3)

X(t)的均方值和方差也应为常数：

X2 E[ X 2 (t)] x12 pX (x1)dx1
(3.1.4)



2 X
D[X (t)]
(x1 mX )2 pX (x1)dx1
(3.1.1)
所以平稳随机过程的统计特性将不随时间的推移而 改变；其一维分布函数与时间无关，二维分布函 数只与时间间隔τ有关。通信系统中的信号与噪声 大多数是平稳随机过程。
2、平稳随机过程的数学特征： (1)若X(t)为平稳随机过程，则它的一维概率密度
与时间无关。
pX (x1;t1) pX (x1;t1 ) t1 pX (x1;0) pX (x)
第三章 平稳随机过程
3.1 平稳随机过程及其数字特征
3.1.1 平稳随机过程的基本概念： 1、严平稳随机过程（狭义平稳随机过程）：
即任何N维分布函数或N维概率密度函数与时间 起点无关的随机过程，即：
pn (x1, x2 xn;t1,t2 tn ) pn (x1, x2 xn;t1 ,t2 ,tn )
E[xi2 ]
i0
1 N2
N 1N 1
E[xi x j ]
i0 j0
2 N2
N 1N 1 i0 j0
E[xi x j ]

1 N
N 1
E[xi2 ]
i0
1 N2
N 1N 1 i0 j0
E[xi x j ]
E[ˆ
2 X
]

N 1 N
E[xi2
]
其中，’=t2-t1
自相关函数：只与时间间隔τ有关; R(t1, t2 ) R(t, )
协方差：
CX (t1, t2 ) RX (t1, t2 ) mX (t1)mX (t2 ) RX ( ) mX2 (3.1.7)
当=0时，有：
CX (0)
RX (0) mX2

E[xi ]
i0
E[xi ]
mX
2、估计量的方差
(3.4.4)
当样本N一定时，方差小的无偏估计量就是比较 好的估计量。若N时，估计量的方差趋于零， 则称该估计量为一致估计量。
3.4.2 方差与协方差估计
方差的最大似然估计值为:
ˆ
2 X

1 N
N 1
( xi
i0
mX )2

RX
( )e j d
Hale Waihona Puke Baidu
0
(3.2.8)
性质8 一个函数能成为自相关函数的充要条件：必 须满足半正定性，即对任意函数f(t)有：

f (t1)RX (t2 t1) f (t2 )dt1dt2 0
(3.2.9)
从上面的讨论看出，对于一个平稳随机过程，自 相关函数是它的最重要的数字特征，由它可得到其 它的数字特征：
以后除特别说明，提到“平稳过程”通常都是指宽 平稳过程。
例：
3.1.2 各态历经(遍历)随机过程
平稳随机过程的统计特性可以用其任意一次的
实验样本来得到，即可以用其时间平均特性得到其
统计平均特性。
若平稳随机过程的数学期望时间平均值为：
lim x(t)
1 x(t)dt
T 2T
x(t)x(t

) lim T
1 2T

x(t)x(t


)dt
(3.1.11) (3.1.12)
x(t) E[ X (t)] mX
注：
(3.1.13)
①只有平稳随机过程才具有各态历经性。
x(t)x(t )E[X (t)X (t )] RX ( )
②X(t)的均值具有各态历经性。
(3.4.5)
应用均值估计值代入，方差的最大似然估计值为:
ˆ
2 X

1 N
N 1
( xi
i0
mˆ X )2
(3.4.6)
1、ˆ
2 X
是有偏估计量：
E[ˆ
2 X
]

1 N
N 1
{E[xi2 ]
i0
E[mˆ
2 X
]
2E[ximˆ X
]}

1 N
N 1
若随机序列是平稳的，则可以证明：自相关阵和 协方差阵是Toeplitz阵。
自相关阵可以写成如下形式：
r0
r1
r2 rN 1
r1
r0
r1
r2


r2
r1
R . r2
r0 r1
r1

. . . . .
r2

...................................r1

RX RX
( )
(0)
RX RX
() ()
(3.2.15)
X ( ) 有时也叫归一化自相关函数。
2、相关时间
定义1：经常取满足 X (0) 0.05 时的
作为相关时间 0
。
定义2：将 X ( ) 曲线在 [0, ) 之间的面积等效成
0 X (0) 的矩形，也就是有
RX (0) RX ( )
(3.2.2)
同理：
CX (0) CX ( )
(3.2.3)
性质3 周期平稳过程X(t)的自相关函数是周期函数， 且与周期平稳过程的周期相同；
RX ( T ) RX ( )
(3.2.4)
注：若平稳过程X(t)满足X(t)=X(t+T)，则称它为周 期平稳过程，其中T为过程的周期。
3.4.1 均值估计：
设X0,X1,,XN-1是统计独立的高斯随机变量,称Xj为 独立高斯随机序列。则以mX为条件的多维密度函数 （称为似然函数）为：
p( X
/
mX
)

N 1 1 (
i0 2
2 X
1
)2
exp[
( xi
mX
2
2 X
)2
]
(3.4.1)
ln
p( X
/
mX
)

K
T 2T T
(3.1.14) (3.1.15)
3.2 平稳过程相关函数的性质
一、平稳过程自相关函数的性质
性质1 实平稳过程X(t)的自相关函数是偶函数，即：
RX ( ) RX ( )
(3.2.1)
同样可得： CX ( ) CX ( )
性质2 平稳过程X(t)自相关函数的最大值在 0 处
性质2： RXY ( ) RYX ( )
(3.2.11)
互相关函数是非奇非偶函数。同理可证：
CXY ( ) CYX ( )
性质3： RXY ( ) 2 RX (0)RY (0)
同理可证： CXY ( ) 2 CX (0)CY (0) X 2Y 2
性质4：
RXY
则：
(R I )Qi 0
R I 0
(3.3.3) (3.3.4)
称为R的特征方程。
对于N×N方阵R，有N个根，记为：0 ,1,,N1
特征向量Qi:
RQi iQi 即:
i 0,1,, N 1
(3.3.5)
0
R[Q0Q1...QN
1
]

[Q0Q1...QN

2 X
(3.1.8)
3、宽平稳随机过程：
若随机过程满足：
E[X (t)] RX (t1,t2
mX ) E[
X
(t1
)
X
(t2
)]

RX
(
),

t2 t1
E[X 2 (t)]
(3.1.9)
则称X(t)为宽平稳过程（或广义平稳过程）。
若平稳随机过程的数学期望及方差与时间t无 关（分别记为a及 2 ），且自相关函数只与时间