随机过程知识点

第一章:预备知识

§1、1 概率空间

随机试验,样本空间记为Ω。

定义1、1 设Ω就是一个集合,F 就是Ω的某些子集组成的集合族。如果 (1)∈ΩF;

(2)∈A 若F ,∈Ω=A A \则F; (3)若∈n A F , ，，21=n ,则

∞

=∈1

n n

A

F;

则称F 为-σ代数(Borel 域)。(Ω,F )称为可测空间,F 中的元素称为事件。 由定义易知: .

216\,,)5)4(1

1

1

F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞

=== ，，则，，，）若（；

则若（；

定义1、2 设(Ω,F )就是可测空间,P(·)就是定义在F 上的实值函数。如果

()()()()∑∞

=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1

121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时，当）对两两互不相容事件（；

）（；任意

则称P 就是()F ,Ω上的概率,(P F ，，Ω)称为概率空间,P(A)为事件A 的概率。

定义1、3 设(P F ，，Ω)就是概率空间,F G ⊂,如果对任意

G A A A n ∈,,,21 , ,2,1=n 有: (),1

1∏===⎪⎪⎭⎫

⎝⎛n

i i n i i A P A P

则称G 为独立事件族。

§1、2 随机变量及其分布

随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函数,{}T t X t ∈,就是独立的。

§1、3随机变量的数字特征

定义1、7 设随机变量X 的分布函数为)(x F ,若

⎰

∞

∞

-∞<)(||x dF x ,则称

)(X E ＝⎰∞

∞

-)(x xdF

为X 的数学期望或均值。上式右边的积分称为Lebesgue-Stieltjes 积分。

方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DY

DX B XY

XY =ρ

为X 、Y 的相关系数。若,0=XY

ρ则称X 、Y 不相关。

(Schwarz 不等式)若,,22

∞<∞

则

().2

22

EY EX EXY ≤

§ 1、4 特征函数、母函数与拉氏变换

定义1、 10 设随机变量的分布函数为F(x),称 ()()

(),

jtX jtx g t E e e dF x t ∞

-∞

=-∞<<∞⎰

为X 的特征函数

随机变量的特征函数具有下列性质: (1)(0)1,()1,()()g g t g t g t =≤-= 1 ( 2 ) g (t )在()∞∞-, 上一致连续。(3)()

(0)()k k k g i E X =

(4)若12,,

,n X X X 就是相互独立的随机变量,则12n X X X X =++

+的特征函数

12()()()()n g t g t g t g t =,其中()i g t 就是随机变量X i 的特征函数,1,2,

,i n =、

定义1 、 11 设 12(,,

,)n X X X X =就是n 维随机变量,t = (12,,

,n t t t ) ,R ∈ 则称

121

()(,,,)()[exp()]n

itX n k k k g t g t t t E e

E i t X '

====∑,

为X 的特征函数。

定义1、12 设X 就是非负整数值随机变量,分布列 () ,2,1,===k x X P p k k

则称

)()(X

def s E s P =＝k k k s P ∑∞

=0

为X 的母函数。

§ 1、5 n 维正态分布

定义1、13 若n 维随机变量),,,(21n X X X X =的联合概率密度为

})()(21exp{)2(1

),,,()(12/2

/21T

n n n a x B a x B

x x x f x f ---=

=-π 式中,),,,(21n a a a a =就是常向量,n n ij b B ⨯=)(就是正定矩阵,则称X 为n 维正态随机变量或服从n 维正态分布,记作),(~B a N X 。 可以证明,若),(~B a N X ,则X 的特征函数为

}2

1

exp{),,,()(21t iB t ia t t t g t g n '-'==

为了应用的方便,下面,我们不加证明地给出常用的几个结论。

性质1 若),(~B a N X 则n l b B a X E kl X X k k l k ,,2,1,,)( ===。

性质2 设),(~B a N X ,XA Y =,若BA A '正定,则),(~BA A aA N Y '。即正态随机变量的线性变换仍为正态随机变量。

性质3 设),,,(4321X X X X X =就是四维正态随机变量,4,3,2,1,0)(==k X E k ,则

)()()()()()()(3241423143214321X X E X X E X X E X X E X X E X X E X X X X E ++=

§ 1、6 条件期望

给定Y=y 时,X 的条件期望定义为

⎰⎰===dx y x xf y x xdF y Y X E )|()|()|(

由此可见除了概率就是关于事件｛Y=y ｝的条件概率以外,现在的定义与无条件的情况完全一

样。

E(X|Y=y)就是y 的函数,y 就是Y 的一个可能值。若在已知Y 的条件下,全面地考虑X 的均值,需要以Y 代替y,E(X|Y)就是随机变量Y 的函数,也就是随机变量,称为 X 在 Y 下的条件期望。

条件期望在概率论、数理统计与随机过程中就是一个十分重要的概念,下面我们介绍一个极其有用的性质。

性质 若随机变量X 与Y 的期望存在,则

⎰===)()|()]|([)(y dF y Y X E Y X E E X E Y --------(1)

如果Y 就是离散型随机变量,则上式为