随机过程知识点汇总

第一章 随机过程得基本概念与基本类型

一.随机变量及其分布

1.随机变量, 分布函数

离散型随机变量得概率分布用分布列 分布函数

连续型随机变量得概率分布用概率密度 分布函数

2.n 维随机变量

其联合分布函数),,,,(),,,()(221121n n n x X x X x X P x x x F x F ≤≤≤==

离散型 联合分布列 连续型 联合概率密度

３.随机变量得数字特征

数学期望:离散型随机变量 连续型随机变量

方差: 反映随机变量取值得离散程度

协方差(两个随机变量):

相关系数(两个随机变量): 若,则称不相关。

独立不相关

４.特征函数 离散 连续

重要性质:,,,

５.常见随机变量得分布列或概率密度、期望、方差

０－１分布

二项分布

泊松分布 均匀分布略

正态分布

指数分布

６.Ｎ维正态随机变量得联合概率密度

)}()(2

1ex p{||)2(1

),,,(121221a x B a x B x x x f T n

n ---=-π ,,正定协方差阵

二.随机过程得基本概念

１.随机过程得一般定义

设就是概率空间,就是给定得参数集,若对每个,都有一个随机变量与之对应,则称随机变量族就是上得随机过程。简记为。

含义:随机过程就是随机现象得变化过程,用一族随机变量才能刻画出这种随机现象得全部统计规律性。另一方面,它就是某种随机实验得结果,而实验出现得样本函数就是随机得。

当固定时,就是随机变量。当固定时,时普通函数,称为随机过程得一个样本函数或轨道。

分类:根据参数集与状态空间就是否可列,分四类。 也可以根据之间得概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。

２.随机过程得分布律与数字特征

用有限维分布函数族来刻划随机过程得统计规律性。随机过程得一维分布,二维分布,…,维分布得全体称为有限维分布函数族。随机过程得有限维分布函数族就是随机过程概率特征得完整描述。在实际中,要知道随机过程得全部有限维分布函数族就是不可能得,因此用某些统计特征来取代。 (１)均值函数 表示随机过程在时刻得平均值。

(２)方差函数表示随机过程在时刻对均值得偏离程度。

(３)协方差函数 且有

(４)相关函数 (3)与(4)表示随机过程在时刻,时得线性相关程度。

(５)互相关函数:,就是两个二阶距过程,则下式称为它们得互协方差函数。

,那么,称为互相关函数。

若,则称两个随机过程不相关。

３.复随机过程

均值函数 方差函数

协方差函数相关函数

４.常用得随机过程

(１)二阶距过程:实(或复)随机过程,若对每一个,都有(二阶距存在),则称该随机过程为二阶距过程。

(2)正交增量过程:设就是零均值得二阶距过程,对任意得,有

,则称该随机过程为正交增量过程。

其协方差函数

(3)独立增量过程:随机过程,若对任意正整数,以及任意得,随机变量就是相互独立得,则称就是独立增量过程。 进一步,如就是独立增量过程,对任意,随机变量得分布仅依赖于,则称就是平稳独立增量过程。

(4)马尔可夫过程:如果随机过程具有马尔可夫性,即对任意正整数及,,都有

{}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P ,则则称就是马尔可夫过程。

(5)正态过程:随机过程,若对任意正整数及,就是n 维正态随机变量,其联合分布函数就是n 维正态分布函数,则称就是正态过程或高斯过程。

(6)维纳过程:就是正态过程得一种特殊情形。

设为实随机过程,如果,①;②就是平稳独立增量过程;③对任意增量服从正态分布,即。则称为维纳过程,或布朗运动过程。

另外:①它就是一个Markov 过程。因此该过程得当前值就就是做出其未来预测中所需得全部信息。 ②维纳过程具有独立增量。该过程在任一时间区间上变化得概率分布独立于其在任一得其她时间区间上变化得概率。③它在任何有限时间上得变化服从正态分布,其方差随时间区间得长度呈线性增加。

(7)平稳过程: 严(狭义)平稳过程:,如果对任意常数与正整数及,,与有相同得联合分布,则称就是严(狭义)平稳过程。 广义平稳过程:随机过程,如果①就是二阶距过程;②对任意得, ;③对任意,,或仅与时间差有关。则满足这三个条件得随机过程就称为广义平稳过程,或宽平稳过程,简称平稳过程。

第二章 泊松过程

一.泊松过程得定义(两种定义方法)

１,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。①;②独立增量过程,对任意正整数,以及任意得相互独立,即不同时间间隔得计数相互独立;③在任一长度为得区间中,事件Ａ发生得次数服从参数得得泊松分布,即对任意,有

,,表示单位时间内时间Ａ发生得平均个数,也称速率或强度。

２,设随机计数过程,其状态仅取非负整数值,若满足以下三个条件,则称:就是具有参数得泊松过程。①;②独立、平稳增量过程;③。

第三个条件说明,在充分小得时间间隔内,最多有一个事件发生,而不可能有两个或两个以上事件同时

发生,也称为单跳性。

二.基本性质

１,数字特征

推导过程要非常熟悉

２,表示第事件Ａ发生到第次事件发生得时间间隔,就是时间序列,随机变量服从参数为得指数分布。概率密度为,分布函数均值为

证明过程也要很熟悉 到达时间得分布 略

三.非齐次泊松过程 到达强度就是得函数

①;②独立增量过程;③。 不具有平稳增量性。

均值函数

定理:就是具有均值为得非齐次泊松过程,则有

{}{}[()()]()()exp [()()]!

n

X X X X m t s m t P X t s X t n m t s m t n +-+-==-+- 四.复合泊松过程

设就是强度为得泊松过程,就是一列独立同分布得随机变量,且与独立,令 则称为复合泊松过程。 重要结论: 就是独立增量过程;若,则,

第五章 马尔可夫链

泊松过程就是时间连续状态离散得马氏过程,维纳过程就是时间状态都连续得马氏过程。时间与状态都离散得马尔可夫过程称为马尔可夫链。

马尔可夫过程得特性:马尔可夫性或无后效性。即:在过程时刻所处得状态为已知得条件下,过程在时刻所处状态得条件分布与过程在时刻之前所处得状态无关。也就就是说,将来只与现在有关,而与过去无关。表示为 {}{}111111)()()(,,)()(----=≤===≤n n n n n n n n x t X x t X P x t X x t X x t X P

一.马尔可夫链得概念及转移概率

1.定义:设随机过程,对任意得整数与任意得,条件概率满足{}{}11001111,,,n n n n n n n n P X i X i X i X i P X i X i ++++=======,则称为马尔可夫链。

马尔可夫链得统计特性完全由条件概率所决定。

2.转移概率 相当于随机游动得质点在时刻处于状态得条件下,下一步转移到得概率。记为。则称为马尔可夫链在时刻得一步转移概率。若齐次马尔可夫链,则与无关,记为。

称为系统得一步转移矩阵。性质:每个元素,每行得与为1。

3.步转移概率= ;称为步转移矩阵。

重要性质:① 称为方程,证明中用到条件概率得乘法公式、马尔可夫性、齐次性。