随机过程知识点汇总

第一章 随机过程的基本概念与基本类型 一．随机变量及其分布

1．随机变量X ， 分布函数)()(x X P x F ≤=

离散型随机变量X 的概率分布用分布列 )(k k x X P p == 分布函数∑=k

p

x F )(

连续型随机变量X 的概率分布用概率密度)(x f 分布函数⎰

∞

-=x

dt t f x F )()(

2．n 维随机变量),,,(21n X X X X Λ=

其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤==ΛΛ 离散型 联合分布列 连续型 联合概率密度 ３．随机变量的数字特征

数学期望：离散型随机变量X ∑=

k k

p x

EX 连续型随机变量X ⎰∞

∞-=dx x xf EX )(

方差：2

2

2

)()(EX EX EX X E DX -=-= 反映随机变量取值的离散程度 协方差（两个随机变量Y X ,）：EY EX XY E EY Y EX X E B XY ⋅-=--=)()])([( 相关系数（两个随机变量Y X ,）：DY

DX B XY XY ⋅=

ρ 若0=ρ，则称Y X ,不相关。

独立⇒不相关⇔0=ρ

４．特征函数)()(itX

e

E t g = 离散 ∑=k itx p e t g k )( 连续 ⎰∞

∞

-=dx x f e t g itx )()(

重要性质：1)0(=g ，1)(≤t g ，)()(t g t g =-，k k k EX i g =)0(

５．常见随机变量的分布列或概率密度、期望、方差

０－１分布 q X P p X P ====)0(,)1( p EX = pq DX =

二项分布 k

n k k n q p C k X P -==)( np EX = npq DX =

泊松分布 !

)(k e

k X P k

λλ

-== λ=EX λ=DX 均匀分布略

正态分布),(2

σa N 2

22)(21)(σσ

πa x e

x f --

=

a EX = 2

σ=DX

指数分布 ⎩⎨⎧<≥=-0,

00,)(x x e x f x λλ λ1=EX 21

λ=DX

６．Ｎ维正态随机变量),,,(21n X X X X Λ=的联合概率密度),(~B a N X

)}()(2

1

ex p{|

|)2(1),,,(12

12

21a x B a x B x x x f T n

n ---=

-πΛ

),,,(21n a a a a Λ=，),,,(21n x x x x Λ=，n n ij b B ⨯=)(正定协方差阵

二．随机过程的基本概念 １．随机过程的一般定义

设),

(P Ω是概率空间，T 是给定的参数集，若对每个T t ∈，都有一个随机变量X 与之对应，

则称随机变量族{}T t e t X ∈),,(是),

(P Ω上的随机过程。简记为{}T t t X ∈),(。

含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规

律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。

当t 固定时，),(e t X 是随机变量。当e 固定时，),(e t X 时普通函数，称为随机过程的一个样本函数或轨道。

分类：根据参数集T 和状态空间I 是否可列，分四类。 也可以根据)(t X 之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。 ２．随机过程的分布律和数字特征

用有限维分布函数族来刻划随机过程的统计规律性。随机过程{}T t t X ∈),(的一维分布，二维分布，…，n 维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。

（１）均值函数)()(t EX t m X = 表示随机过程{}T t t X ∈),(在时刻t 的平均值。 （２）方差函数2

)]()([)(t m t X E t D X X -=表示随机过程在时刻t 对均值的偏离程度。 （３）协方差函数

)

()()]()([))]

()())(()([(),(t m s m t X s X E t m t X s m s X E t s B X X X X X -=--= 且有)(),(t D t t B X X =

（４）相关函数)]()([),(t X s X E t s R X = (3)和(4)表示随机过程在时刻s ，t 时的线性相关程度。

（５）互相关函数：{}T t t X ∈),(，{

}T t t Y ∈),(是两个二阶距过程，则下式称为它们的互协方差函数。

)

()()]()([))]

()())(()([(),(t m s m t Y s X E t m t Y s m s X E t s B Y X Y X Y X -=--=，那么)]()([),(t Y s X E t s R XY =，称为互相关函数。

若)()()]()([t m s m t Y s X E Y X =，则称两个随机过程不相关。 ３．复随机过程 t t t jY X Z +=

均值函数t t Z jEY EX t m +=)( 方差函数

]))(())([(|])([|)(2t m Z t m Z E t m Z E t D Z t Z t Z t Z --=-=

协方差函数

)

()(][]

))(())([(),(t m s m Z Z E t m Z s m Z E t s B Z Z t s Z t Z s Z -=--=相关函数][),(t s Z Z Z E t s R =

４．常用的随机过程

（１）二阶距过程：实（或复）随机过程{}T t t X ∈),(，若对每一个T t ∈，都有∞<2

)(t X E （二

阶距存在），则称该随机过程为二阶距过程。

（2）正交增量过程：设{}T t t X ∈),(是零均值的二阶距过程，对任意的T t t t t ∈<<<4321，有

0]))()(())()([(3412=--t X t X t X t X E ，则称该随机过程为正交增量过程。

其协方差函数)),(m in(),(),(2

t s t s R t s B X X X σ==

（3）独立增量过程：随机过程{}T t t X ∈),(，若对任意正整数2≥n ，以及任意的T t t t n ∈<<<Λ21，随机变量)()(,),()(),()(13412----n n t X t X t X t X t X t X Λ是相互独立的，则称{}T t t X ∈),(是独立增量过程。 进一步，如{}T t t X ∈),(是独立增量过程，对任意t s <，随机变量)()(s X t X -的分布仅依赖于s t -，则称{}T t t X ∈),(是平稳独立增量过程。

（4）马尔可夫过程：如果随机过程{}T t t X ∈),(具有马尔可夫性，即对任意正整数n 及

T t t t n ∈<<<Λ21，0))(,,)((1111>==--n n x t X x t X P Λ，都有

{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P Λ，则则称{}

T t t X ∈),(是马尔可夫过程。

（5）正态过程：随机过程{}T t t X ∈),(，若对任意正整数n 及T t t t n ∈,,,21Λ，