随机过程第3章

第三章 随机过程
一. 随机过程的基本概念 1.1 随机过程的定义
设（Ω，F ，P ）为给定的概率空间，T 为一指标集，对于任意t T ∈，都存在定义在(),,P ΩF 上，取值于E 的随机变量()(),X t ωω∈Ω与它相对应，则称依赖于t 的一族随机变量(){},:X t t T ω∈为随机过程，简记(){}t X ω，{}t X 或(){}X t
注：随机过程(){}:,t X t T ωω∈Ω∈是时间参数t 和样本点
ω的二元函数，对于给定的时间0t ，是0(,)X t ω是概率空
间(),,P ΩF 上的随机变量；对于给定样本点0ω∈Ω，
0(,)X t ω是定义在T 上的实函数，此时称它为随机过程
对应于0ω的一个样本函数，也成为样本轨道或实现。

E 称为随机过程的相空间，也成为状态空间，通常用
“t X x =”表示t X 处于状态x
1.2随机过程t X 按照时间和状态是连续还是离散可以
分为四类：连续型随机过程、离散型随机过程、连续型随机序列、离散型随机序列
1.3 有穷维分布函数
设随机过程{}t X ，在任意n 个时刻1,,n t t 的取值
1,,n t t X X 构成n 维随机向量()1,,n
t t X X ，其n 维联合分布
函数为：
()()1
1
,,11,,,,n
n
t t n t t n F x x P X x X x =≤≤
其n 维联合密度函数记为()1
,,1,,n
t t n f x x 。

我们称(){}1
,,11,,:1,,,n
t t n n F x x n t t T ≥∈ 为随机过程
{}t X 的有穷维分布函数。

二.随机过程的数字特征 2.1 数学期望
对于任何一个时间t T ∈，随机过程{}t X 的数学期望定义为
()()t
X t t E X xdF x μ
+∞
-∞
==⎰
()t E X 是时间t 的函数
2.2 方差与矩
随机过程{}t X 的二阶中心矩
22()[(())],t
X t t t Var X E X E X t T σ==-∈
称为随机过程{}t X 的方差
随机过程{}t X 的二阶原点矩定义为
2
2()()t
t E X x dF x +∞-∞
=⎰
注：2
()X t σ是时间t 的函数，它描述了随机过程()X t 的诸
样本对于其数学期望t μ的偏移程度
2.3 协方差函数和自相关函数
随机过程{}t X 对于任意12,t t T ∈，其协方差函数定义为
12112212(,)(,)[(())(())]X t t t t t t c t t Cov X X E X E X X E X ==--
当12t t t ==时，协方差函数就是方差
随机过程{}t X 的自相关函数（相关函数）定义为
121212(,)()
,t t R t t E X X t t T =∈
当12t t t ==时，自相关函数就是二阶原点矩。

2.4 实二阶矩过程
设{},t X t T ∈为实随机过程，若对于任意的t T ∈，其均方函数2()t E X <+∞，则称{},t X t T ∈为实二阶矩过程。

注：由柯西-施瓦兹（Cauchy-Schwarz ）不等式：
1212222()t t t t EX X E X E X ≤，可知，二阶矩过程12
12(,)t t R t t EX X =自相关函数一定存在。

例题1
判断随机过程{}cos ,t X X t t T ω=∈在下列两种情况下是否为二阶矩过程。

（1）2~(,)X N μσ，ω为常数； （2）X 具有概率密度2
1
().(1)
f x x x =+
解：（1）因为
222222
2
2
()(cos )()cos ()cos t t E X E X t E X t
t ωωσμω===+<+∞
所以{},t X t T ∈是二阶矩过程。

（2）因为
2222
cos ()(1)
t x t
E X dx x x ω+∞-∞
==+∞+⎰
所以{},t X t T ∈不是二阶矩过程。

三. 离散时间和离散型随机过程
当时间参数t T ∈取离散值1,,n t t 时，t X 是一串随机变量1
,n
t t X X 所构成的序列，即随机序列。

由于随机序
列的指标表示时间，所以常称随机序列为时间序列。

例题2
设一维随机游动过程n Y ，其中
01210,,,,n
n i i Y Y X X X ===∑ ...i i d (即独立同分布随机序列，且
(1),(1)1i i P X p P X p ===-=-，求(),()n n E Y Var Y
解：根据期望、方差的定义和性质，有
1
1
()()()n n
n i i i i E Y E X E X ====∑∑
1
1
()()()n n
n i i i i Var Y Var X Var X ====∑∑
而且
()1(1)(1)21i E X p p p =⨯+--=-
2()11(1)1i E X p p =⨯+⨯-= 222()()(())1(21)i i i Var X E X E X p =-=--
则
2()(21),()[1(21)]n n E Y n p Var Y n p =-=--
例题3
考察随机点在时间区间(]0,t 内发生的次数. 设在
(]00,t t t +内有k 个随机点发生的概率与0t 无关，且服从
参数为t λ的Poisson 分布，即0
~()t t t t Y Y Y P t λ+-=（Y
=0
0）
具体分布为()()()!
k t
k t t p t P Y k e k λλ-===,其中0,1,2,.k λ>= 若随机点在(]0,t 内发生的次数是偶数（视0为偶数），则令1t X =；若为奇数，且令1t X =-。

求t
X μ及12(,)X R t t
解：
(]02424
(0)()()()()()[1]2!4!2
t
t t t P p t p t p t t t e e e e
λλλλλλ---=+++=++++=
在，t 内有偶数次随机点发生
(]13535
(0)()()()()()[]3!5!2
t
t t t P p t p t p t t t e t e e e
λλλλλλλ---=+++=+++-=
在，t 内有奇数次随机点发生
于是有
(1),(1)22
t t t t
t
t t t e e e e P X e
P X e
λλλλλλ----+-===-=
故得
t
2X ()t t E X e λμ-==
通过类似的计算，可以得到对于120t t <<
21122()
1(1)2t t t t e P X X λ--+==
21122()
1(1)2
t t t t e P X X λ---=-=
所以相关函数为
21122()12(,)()t t t t R t t E X X e λ--==
同理可以计算当210t t <≤时的情况。

综合上面的结论有
21
21212(,),,0t t R t t e
t o t λ--=>>
因此{,0}t X t ≥的方差为
22412()(,)1t
t
t X t X Var X R t t e λσμ-==-=-
四. 正态随机过程
4.1如果随机过程{}t X 的任意n 维概率分布都是正态分布，则称它为正态随机过程或高斯随机过程，简称正态过程或高斯过程。

正态随机过程{}t X 的n 维概率密度为
11/,,1/21/2
11(,,)exp ()()(2)(det )2n t t n n f x x x x μμπ-⎧⎫=---⎨⎬⎩⎭
∑∑ 其中，μ是n 维向量，∑是n n ⨯阶的矩阵，∑∑-1是的逆矩阵，它的第i 行j 列的元素为
(,)[(())(())]i i j j t t t t i
j
i
j
ij X i j t t t t X X X X c c t t E X E X X E X ρσσ==--=
其中，t t i j
X X ρ为相关系数。

注：由上式可见，正态随机过程的n 维概率分布仅取决于它的一、二阶矩函数，即只取决于它的数学期望、方差和相关系数
4.2如果对正态过程{}t X 在n 个不同时刻1,,n t t 采样，所得到的一组随机变量1
,n
t t X X 两两互不相关，即
(,)[(())(())]0,i i j j ij X i j t t t t c c t t E X E X X E X i j ==--=≠
则这些随机变量也是相互独立的
在0()ij c i j =≠的条件下，n 维正态概率密度等于n 个一维正态概率密度的连乘积。

所以对于一个正态过程来说，不相关与独立是等价的
五. Poisson 过程 5.1 独立增量过程
设{}t X 是一随机过程，若对任意正整数n 及
1,,,n t t T ∈ 12t t << 1n n t t -<<
随机变量的增量2
1
3
2
1
,,,n
n t t t t t t X X X X X X ----
是相互独立的，则称{}t X 是独立增量过程。

注：设{}t
X 是独立增量过程，若对任意的,t t T τ+∈，增
量t t X X τ+-的概率分布只依赖于τ而与t 无关，则称随机过程{}t X 为齐次的或时齐的。

若只要时间间隔τ相同，那么增量服从的分布也相同，也称此过程具有平稳性。

具有独立增量和平稳增量的过程{}t X 称为独立平稳增量过程。

常见的独立平稳增量过程有Poisson 过程和Wiener 过程
5.2 计数过程
如果用{}t N 表示(]0,t 内随机事件发生的总数，则随机过程{}t N 称为一个计数过程。

因此，计数过程满足 1）0t N ≥；
2）t N 是非负整数值；
3）对于任意两个时刻120t t ≤<，有1
2
t t N N ≤；
4）对于任意两个时刻120t t ≤<，2
1
2
1
t t t t N N N -=-等于时间
区间(]12,t t 中发生的事件个数。

如果计数过程{}t N 在不相交时间区间中发生的事件个数是独立的，则称计数过程有独立增量
5.3 Poisson 过程的等价定义 定义3-6
设随机过程{}t N 是一个计数过程，如果满足 1）00N =；
2）{}t N 是独立增量过程；
3）对于任意0s t ≤<，增量,s t t s N N N =-具有参数()t s λ-
(0)λ>的Poisson 分布，即
{}()
[()],0,1,2,!
k t s t s t s P N N k e k k λλ----===
则称{}t N 为具有参数λ的齐次Poisson 过程。

注：Poisson 过程有平稳增量且t EN t λ=，并称λ为此过程的速率或强度，即单位时间内发生的事件的平均个数。

定义3-7
设随机过程{}t N 是一个计数过程，参数为(0)λλ>，如果满足 1）00N =；
2）过程有平稳的独立增量；
3）{1}(),0h P N h o h h λ==+>； 4）{2}(),0h P N o h h ≥=>
则称{}t N 为具有参数λ的齐次Poisson 过程。

其中()o h 表示当0h →时，对h 的高阶无穷小。

定理 上述定义3-6与定义3-7是等价的 证明：3-6⇒3-7
(1)3-7 的1）00N =成立；
（2）3-7的2）独立增量性成立；平稳性由3-6的3)保证；
（3）{1}h P N ==1()1!
h
h e λλ-=[1()]h h o h λλ-+=()h o h λ+ （4）{2}h P N ≥=1{1}h P N -≤
=0()()10!1!
h h
h h e e λλλλ----=1(1())h o h λ--+()h o h λ-+=()o h
3-7⇒3-6
（1）3-6的1）、2)易证； （2）记{}t P N n ==()n p t
00()()p t t p t +∆-=,{0,0}{0}t t t t t P N N P N +∆==-=
=,{0}{0}{0}t t t t t P N P N P N +∆==-==00()[()1]p t p t ∆- =0()[1()1]p t t o t λ-∆+∆-=0()[()]p t t o t λ-∆+∆
因此0
0()()0p t p t λ'+= 类似可得()()()n
n
n p t p t p
t λλ-'+=1
有{}(),0,1,2,!
n t
t t P N n e n n λλ-=== 由平稳性得
{}()
[()],0,1,2,!
n t s t s t s P N N n e n n λλ----=== ，证完
例题4
顾客依Poisson 过程{},0t N t ≥到达某汽车站，其速率4λ=人/小时。

试求：（1）t N 的均值、方差、自相关函数和协方差函数；（2）在第三分钟到第五分钟之间到达汽车站的顾客人数的概率分布。

解：（1）根据题意，强调4λ=，故t N 的均值、方差、自相关函数和协方差函数分别为
()()4t t E N Var N t ==
12121212(,)(,)4min{,}16t t R t t E N N t t t t ==+
121212(,)(,)4min{,}N t t c t t Cov N N t t ==
第三分钟到第五分钟之间到达的人数为3,553N N N =-，所以其分布率为
428
3,5
2(42)8()(),1,2,!!
k k P N k P N k e e k k k -⨯-⨯======
例题5
顾客依Poisson 过程到达到达某商店，速率4λ=人/小时，已知商店上午9：00开门，求到9：30时仅到一位顾客，而到11：30时总计已达到5五位顾客的概率。

解：
0.5 2.50.5 2.50.50.521410.542(1,5)(1,4)
(1)(4)4(0.5)(42)1!4!0.0155
P N N P N N N P N P N e e
-⨯-⨯====-====⨯⨯=≈
六. 平稳随机过程
6.1 严格平稳过程
实随机过程{,}t X t T ∈,若对任意正整数n 及任意
1,,n t t T ∈ 与任意τ，有
1111(,,;,,)(,,;,,)n n n n F x x t t F x x t t ττ=++
或
1111(,,;,,)(,,;,,)n n n n f x x t t f x x t t ττ=++
即随机过程{}t X 的有限分布在时间的平移下保持不变，则称{}t X 为严格平稳随机过程。

6.2 严格平稳随机过程的特点
如果{,}t X t T ∈是严平稳随机过程，则它的一维概率密度与时间无关，令1t τ=-，则有
111111(;)(;)(;0)()f x t f x t f x f x τ=+==
由此可求得随机过程{}t X 的均值、矩和方差皆与时间无关的常数。

严平稳随机过程{,}t X t T ∈的二维概率密度只与12,t t 的时间间隔21t t -有关，而与时间起点无关，令1t τ=-，则有
121212121221(,;,)(,;,)(,;0,)f x x t t f x x t t f x x t t ττ=++=-
这表明二维概率密度仅依赖于时间差21t t -，而与时刻
12,t t 无关。

由此可得，随机变量{}t X 的自相关函数、协
方差函数只是单变量τ的函数
6.3 宽平稳随机过程
若实随机过程{,}t X t T ∈满足：对于任意t T ∈有 1）()t E X μ=；
2）(,)()()t t R t t E X X r τττ++==； 3）2()t E X <+∞
则称{}t X 为宽平稳随机过程
注：由于宽平稳随机过程的定义只涉及与一、二维
概率密度有关的数字特征，所以 一个严平稳随机过程只要二阶原点矩有界，则它必定是宽平稳的。

但是反之不一定成立，但正态随机过程。

因为正态随机过程的概率密度是由均值和自相关函数完全确定的，所以如果均值和自相关函数不随时间平移而变化，则概率密度也不随时间的平移而变化，于是一个宽平稳的正态过程必定也是严平稳的
6.4 平稳过程自相关函数的性质 设()r τ为平稳过程{}t X 的自相关函数，则
（1）平稳过程的自相关函数在0τ=上是非负值，即
(0)0r ≥；
（2）自相关函数是变量τ的偶函数，()()r r ττ=-； （3）自相关函数在0τ=时取到最大值，(0)()r r τ≥； （4）如果平稳过程{}t X 满足条件t t T X X +=，则称它为周期平稳过程，其中T 为过程的周期；周期平稳过程的自相关函数必为周期函数，并且它的周期与过程的 周期相同；
（5）如果平稳过程{}t X 含有一个周期分量，则()r τ也
含有一个同周期的周期分量；
（6）（非负定性）对于任意有限个1,,n t t T ∈ 和任意的
实数1,,n a a ，有
11
(,)0n n
i
j
i
j
i j R t t a a
==≥∑∑
（7）()r τ在R 上连续的充分必要条件为其自相关函数
()r τ于0τ=处连续
6.5 平稳过程的相关系数
令2
2
()()()(0)C r C ττμρτσ-==
()ρτ称为随机过程的自相关系数。

相关系数表现了随
机过程在两个不同时可随机变量之间的线性相关程度。