随机过程第1章 预备知识

第一章预备知识

解释与说明

◆随机过程以概率论、线性代数、微积分为学科基础

1.1 特征函数

◆复数z=a+ib,其中a,b为实数，z̅=a−ib称为z的共轭复数

zz̅=a2−b2, 复数z的模|z|=√a+b

欧拉公式e z=e a(cosb+isinb)

◆随机变量的特征函数ϕ(t)=E(e itX)

例设有随机事件X的分布律为

X的特征函数为

ϕ(t)=E(e itX)=e it×0.2+e i2t×0.5+e i3t×0.3

=e it(0.2+e it×0.5+e i2t×0.3)

◆多为随机向量的均值向量和协方差矩阵，以二维情形为例

设X=(X1,X2)T，则

数学期望向量E(X)=(EX1,EX2)T

协方差矩阵Var(X)=E[(X−E(X))(X−E(X))T]

=E{(X1−EX1

X2−EX2)((X1−EX1),(X2−EX2))}

=E((X1−EX1)2(X1−EX1)(X2−EX2)

(X2−EX2)(X1−EX1)(X2−EX2)2

)

=(σ11σ12

σ21σ22)≜Σ

其中，σ11,σ22分别是X1和X2的方差，σ12=σ21是X1和X2的协方差cov(X1,X2)

例如有X=(X1,X2)T，联合分布律为

可见E(X1)=0×0.6+1×0.4=0.4

E(X2)=0×0.3+1×0.3+2×0.4=1.1

数学期望向量E(X)=(EX1,EX2)T=(0.4,1.1)T

又σ11=D(X1)=E(X12)−(E(X1))2=0.4−0.42=0.24

σ22=D(X2)=E(X22)−(E(X2))2=1.9−1.12=0.69

σ12=σ21=cov(X1,X2)=E(X1X2)−E(X1)E(X2)

=0×0.8+1×0.1+2×0.1−0.4×1.1=−0.14

协方差矩阵Σ=Var(X)=(0.24−0.14

−0.140.69)

Σ被称为协方差矩阵，它既是对称矩阵，也是正定矩阵，根据线性代数有关知识，存在正交矩阵B，使得Σ=BB T

◆多维随机向量之间的相互独立，以二维情形为例

设有二维随机变量X=(X1,X2),Y=(Y1,Y2)，若对任意x1,x2,y1,y2，有

F XY(x1,x2,y1,y2)=F X(x1,x2)F Y(y1,y2)

称(X1,X2)与(Y1,Y2)相互独立

1.2 多元正态分布

掌握定理1.2.1和定理1.2.2的结论

◆若n维随机向量(X1,X2,⋯,X n)T服从正态分布N(μ,Σ)，则n为密度函数为

f(x)=

1

√2π

n√|Σ|

{−

1

2

(x−μ)TΣ−1(x−μ)}

◆若n维随机向量X=(X1,X2,⋯,X n)T服从正态分布N(μ,Σ)，则X的任意线性

组合l T X服从一维正态分布，其中l T是常数n维向量

1.3 条件分布与条件期望

条件分布律

求{Y=3}的条件下X的条件分布律

P (X =0Y =3⁄)=P(X=0,Y=3)P(Y=3)=0.30.4=3

4 P (X =1Y =3⁄)=

P(X=1,Y=3)P(Y=3)

=0.1

0.4=1

4

求P(Y =2)的条件下，X 的条件分布律？

习题一

1.1 设随机变量变量X 服从参数为λ的指数分布，求X 的特征函数。 解 已知X 的密度函数为

{λe −λx , x >0

0, 其它

X 的特征函数为

ϕ(t )=E(e

itX

)=∫λe

−λx e

itx

dx =λ∫e −(λ−it )x dx ∞

∞

=−λ

λ−it ∫e −(λ−it )x d((it −λ)x)∞

0 =−λ

λ−it e −(λ−it )x |0∞

=λ

λ−it

1.6 设X 1,X 2,⋯,X n 相互独立且服从相同的正态分布N(μ,σ2)，求1

n ∑X i n i=1的密度函数。

解 首先X =(X 1,X 2,⋯,X n )服从独元正态分布N(μ⃗,Σ)，其中数学期望向量为 μ⃗=(μ,μ,⋯,μ )T

因为X 1,X 2,⋯,X n 相互独立，所以协方差矩阵为 Σ=(σ2⋯0⋮

⋱⋮0⋯

σ2

) 记X

̅=1

n ∑X i

, l

⃗=((1

n ,

1n

,⋯,1

n ))T

n i=1，则根据定理1.2.2，知X

̅服从正态分布，记为N(μ0,σ02

)，且

X ̅的数学期望 μ0=l ⃗T ∙μ⃗=(1

n ,⋯,1

n )(μ

⋮μ

)=μ

X̅的方差σ02=l⃗TΣl⃗=(1

n ⋯1

n

)(

σ2⋯0

⋮⋱⋮

0⋯σ2

)(

1

n

⋮

1

n

)=σ2

n

因此，X̅的密度函数为

f(x)=

√2πσ{−(x−μ0)2

2σ02

}=√n

√2πσ

{−n(x−μ)2

2σ

}