第1章 随机过程预备知识(2)

合集下载

(完整版)随机过程知识点汇总

(完整版)随机过程知识点汇总

第一章随机过程 的基本概念与基本类型 一.随机变量及其分布X ,分布函数 F (x) P(X x) 1.随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2.n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度3.随机变量 的数字特征 数学期望:离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差:反映随机变量取值 的离散程度协方差(两个随机变量 X ,Y ):B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数(两个随机变量X,Y ):0,则称 X ,Y 不相关。

若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx4.特征函数离散 g(t) 重要性质: g(0) 1,g(t) 1 g( t) g(t),, g (0) i EX kk k5.常见随机变量 的分布列或概率密度、期望、方差 0-1分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) 6.N维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a ), x (x , x , ,x ), B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二.随机过程 的基本概念 1.随机过程 的一般定义设 ( , P)是概率空间, T 是给定 的参数集,若对每个 t T ,都有一个随机变量 X 与之对应, X(t,e),t T ( , 是P)上 的随机过程。

随机过程_第一章

随机过程_第一章
k k 1 k 1 k
则称P为(Ω,F)上的概率,(Ω,F,P)称 为概率空间,P(A)为事件A的概率。
由此定义出发,可推出概率的其它一些性质:
(4) P(F) 0;
(5) 若A, B F , A B, 则P( B A) P( B) P( A), 且P( B) P( A)
FY ( y ) P(Y y ) P( X , Y y ) F (, y )
分别称FX(x)和FY(y)为 F ( x, y ) 关于X和关于Y的 边缘分布函数。
离散型随机变量(X,Y)边缘分布律计算如下
P( X xi ) pi pij

, i 1,2,
设X,Y是两个随机变量,若对任意实数x,y有
P( X x, Y y) P(( X x) (Y y)) P( X x)P(Y y)
则称X,Y为相互独立的随机变量。
若X,Y为相互独立随机变量,则有
F ( x, y ) FX ( x) FY ( y ) f ( x, y ) f X ( x ) f Y ( y )
注:所谓某个事件在 试验中是否出现,当且仅 当该事件所包含的某个样本点是否出现,因此 一个事件实际上对应于的一个确定的子集。 事件的概率论运算 Ω子集的集合论运算。
样本空间 W 也是一个事件, 称 W 为必然事件,
空集 F 称为不可能事件。
注:由于事件是集合,故集合的运算(并、交、 差、上极限、下极限、极限等)都适用于事件。
定义1.5 设( Ω ,F,P)是概率空间,X=X(e) =(X1(e),…,Xn(e))是定义在Ω上的n维空间Rn中 取值的向量函数。如果对于任意x=(x1,…,xn) ∈Rn, {e:X1(e) ≤x1,…,Xn(e) ≤xn} ∈F,则称X=X(e)为n维 随机变量。称

随机过程预备知识

随机过程预备知识
上的概率,称(Ω,F,PB)是条件概率空间.

概率空间
四、全概率公式与Bayes公式 定理:设 (Ω,F, P)是概率空间,若 1) A i∈F, 且 P(Ai)>0 ,(i=1,2, …); 2)
i 1
Ai Ω , Ai A j .

完备性 条件.

概率空间
则对任意B∈F 有 1)
Ak Ak 1 B k , ˆ
kn kn
An+1
n 1,2,

其中B1,B2,…互不相容,由完全可加性有
概率空间
1 P ( A1 ) P B k P Ak Ak 1 0 k 1 k 1
lim P Bn 0 P An P A P An A 0.
n
P An P A
( as
n )

概率空间
4)多除少补原理 设 Ai F, i 1,2, , n , 有
n n P Ai P Ai i 1 i 1
P Ai P Ai i 1 i 1
Ai F i 1,2, , Ai A j , i j ,
称P是(Ω,F)上的概率(测度),P(A)是事件A 的概率. 三元体(Ω,F, P)称为概率空间.

概率空间
二、概率性质 设(Ω,F, P)是概率空间,则概率P 有如下性质: 1) P(φ)=0;
n
lin P An P A.

n 1
概率空间
A
证:在推论2中
令 Bn An A, 则 B1 B2 ,

随机过程第一章概率预备知识

随机过程第一章概率预备知识

随机过程的有限维分布
定义
随机过程的有限维分布是指多个时间点的联合概率分布,描述了随机过程在不同 时间点的相关性。
性质
有限维分布具有时间可加性,即随着时间的推移,联合概率分布可以由单个时间 点的概率分布累加得到。
随机过程的数字特征
定义
随机过程的数字特征是一组统计量, 用于描述随机过程的总体“性格”, 如均值、方差、偏度、峰度等。
状态分类
根据状态之间的转移关系,可以将状态分为 吸收态、周期性状态和遍历状态等。
转移概率矩阵
描述状态之间转移概率的矩阵,其中每个元 素$P_{ij}$表示从状态$i$转移到状态$j$的 概率。
极限定理和不变概率分布
极限定理
描述马尔科夫链状态概率的极限行为,如强大数定律和中心极限定理等。
不变概率分布
随机过程在金融风险管理领域也发挥 了重要作用,如通过蒙特卡洛模拟等 方法评估投资组合的风险。
在物理和工程中的应用
物理模拟
在物理学的许多领域,如粒子物 理学和流体动力学,随机过程用 于模拟自然现象和实验结果的统
计性质。
通信工程
在通信系统中,随机过程用于描 述信号的噪声和干扰,以及信道
容量等性能指标。
对数函数
对于随机变量X,对数函 数f(X)=lnX的期望和方差 分别为E(lnX)=lnE(X)和 Var(lnX)=1/E(X)Var(X)。
Part
03
随机过程的基本概念
随机过程的定义和分类
定义
随机过程是由随机变量构成的数学结 构,每个随机变量对应一个时间点或 位置。
分类
根据不同的特性,随机过程可以分为 离散时间随机过程和连续时间随机过 程,平稳随机过程和非平稳随机过程 等。

第一章 随机过程 第二节 随机过程的基本概念

第一章 随机过程 第二节  随机过程的基本概念
若 FX ( x, t ) 的偏导数存在,则有随机 过程 X(t)一维概率密度函数
FX ( x1 , t1 ) f X ( x1 , t1 ) x1
2 、二维概率分布 为了描述S.P在任意两个时刻t1和t2的状态间的 内在联系,可以引入二维随机变量[X(t1),X(t2)]的分 布函数FX(x1,x2;t1,t2),它是二随机事件{X(t1)≤x1} 和{X(t2)≤x2}同时出现的概率,即
FX(x1,x2;t1,t2)=P{ X(t1)≤x1,X(t2)≤x2}
称为随机过程X(t)的二维分布函数。 若FX(x1,x2;t1,t2)对x1,x2的二阶混合偏导存在, 则 2 F ( x , x ;t ,t )
f X ( x1 , x2 ; t1 , t 2 )
X 1 2 1 2
x1x2
E[cos ] cos f ( )d cos
0 0
2
2
同理
1 d 0 2
E[sin ] 0
mx (t ) 0
2 2 x (t ) 2 (t ) mx (t ) 2 (t ) E[ x2 (t )] x x (2)
2 = E[sin (0t )] E [1 cos(20t 2 )]
t 离散型随机过程:对随机过程任一时刻1 的取值X (t1 ) 都是离散型随机变量。
连续随机序列:随机过程的时间t只能取 t 某些时刻,如 t , 2 ,…..,n t,且这 时得到的随机变量 X ( nt ) 是连续型随机变 量,即时间是离散的。相当于对连续型随 机过程的采样。 离散随机序列:随机过程的时间t只能取 t 某些时刻,如 t , 2 ,…..,n t,且这 时得到的随机变量 X ( nt ) 是离散型随机变 量,即时间和状态是离散的。相当于采样 后再量化 。

随机过程第章预备知识

随机过程第章预备知识
������ = ������1, ������2, ������3, ������4, ������5, ������6
基本
概念 ℱ = ������, ������1, ������2, ������3 , ������4, ������5, ������6 , Ω - ℱ为-代数, ������, ℱ 为可测空间
代数

若������������ ∈ ℱ ,则‫ڂ‬������������=1 ������������ , ‫ځ‬������������=1 ������������ , ‫ځ‬���∞���=1 ������������ ∈ ℱ (有限并,有限
概率 交,可列交事件)
空间
独立 事件
中南民族大学经济学院
3
《随机过程》第1章-预备知识
1 概率空间
例:抛掷一枚骰子,观察出现的点数。
背景
������ = 1,2,3,4,5,6
基本
概念 ������ = 1,3,5 ⊆ Ω ������ = 2,4,6 ⊆ Ω
-
代数 骰子“出现1点”, “出现2点”, … ,“出现6点”, “点数不大于6”,“点数为偶数” 等都为随机事件.
-
代数 (3)若������������ ∈ ℱ, ������ ∈ ������,则‫ڂ‬���∞���=1 ������������ ∈ ℱ(可列并事件)
概率
空间 则称ℱ为-代数, (������, ℱ)为可测空间。
独立 事件
中南民族大学经济学院
6
《随机过程》第1章-预备知识
背景 例:抛掷一枚骰子,������������表示出现������点。


概率 空间

随机过程第一章 预备知识及补充

随机过程第一章 预备知识及补充
且 A limsup An 。若 P( An ) ,则
n
PAn,i.o. P(A) 0
命题 1.3(波莱尔-坎泰利(Borel-Cantelli)第二引理):如果An , n 1 为独立的事件
序列,使得 P( An ) ,则 n1
PAn,i.o. 1
第一引理证明:
根据定义 1.4 对事件序列An , n 1 上极限的定义可知,因为样本点 在无穷多个事件
n1
n1
假定一些事件组成了一个可数的集合,那么这集合中的至少一个事件发生的概率不大于每个事件
发生的概率的和。);
当 An , n 1, 2,两两互不相容时,则 P( An ) P( An ) ;
n1
n1
概率函数 P 的一个重要性质是连续性,为了更精确地阐明这一性质,需要引进极限事
件的概念。定义如下:
An , n 1发生,则在 An ,k 1也同样发生,从而在
An 亦发生;另一方面,如果
nk
k 1 nk
样本点 在
An ,则对于 k 1, 在 An 发生,从而对于 k 1至少有一个 n k ,
k 1 nk
nk
即 n k ,使得 在 An 发生,因此有 在无穷多个 An 发生。
若 An An1, n 1,称事件序列An , n 1 为递增的;
当 An An1, n 1,则事件序列An , n 1 为递减的。
如果
An
,
n
1
是一递增的事件序列,那么我们定义一个新的事件,记为
lim
n
An

lim
n
An
Ai ;
i 1
如果
An
,
n
1
是一递减的事件序列,那么我们定义一个新的事件,记为

概率论与随机过程

概率论与随机过程

概率论与随机过程(工程硕士生60学时)教材及主要参考书:1.《随机过程》刘次华著,华中理工大学出版社出版。

2.《概率论与数理统计》浙江大学编,高等教育出版社出版。

3.《概率论与数理统计》同济大学编,高等教育出版社出版。

第一章 概率论第一节 预备知识一、排列与组合问题(一) 排列问题的提法:从n 个不同元素n a a a ...,21中任取r 个)(n r ≤,按先后顺序把它们排列,共有多少种不同的排列?分析:第一个位置有n 种取法,第二个位置有1-n 种取法,…第r 个位置有1+-r n 种取法,则共有:rn A r n n r n n n =-=+--)!(!)1()1((二) 组合问题的提法:从n 个不同元素n a a a ...,21中任取r 个(n r ≤),不按先后顺序得到一种组合,共有多少中不同的组合?分析:由于不按先后顺序,因此r r a a a a 121- 与121a a a a r r -是同一组合,因此一种组合对应!r 种排列,共有:!)1()1(r r n n n +-- =)!(!!r n r n -=rn C 二、集合论(不妨假设所有集合全为Ω的子集)(一)A B ⊂,A 是B 的子集,即集合A 的元素全部属于集合B 。

例:{}全体实数=R {}全体自然数=N 则:R N ⊂(二)B A =B A ⊂⇔且A B ⊂分析:定义蕴涵了证明两个集合相等的方法。

(三)B A C =或B A C +=,即集合C 包含集合A 和集合B 的全部元素,但不包含其它元素。

例:{}全体有理数=A {}全体无理数=B 则:{}R B A C ==+=全体实数 1.运算规律(1)交换律 A B B A =(2)结合律 )()(C B A C B A =特别地:若B A ⊂,则:B B A =A A =Φ Ω=Ω A A A A =2.推广情形集合的并运算可以推广到有限个、可数多个甚至到不可数情形,为了阐述清楚,下面补充可数集合的定义。

第1章 随机过程

第1章  随机过程

0
−∞
半环 C 上定义如下的集函数
P ((a,b]) = F (b) − F (a), ∀(a,b]∈C .
由测度扩张定理,P 可扩张为 σ(C )上的概率测度,至此,本例的概率空间(Ω,F,P)构造完
毕.□
注 在本例中,如果认为每个样本点ω的出现机会均等,那么可取 f (·)为常值,易知,f(x)
注 (1) 在应用概率的减法公式 P(B − A) = P(B) − P( A) 时,务必注意条件 A ⊂ B 是否满
足,若不然,则结论未必成立.此时,可采用一般情形下的减法公式,
P(B − A) = P(B) − P( AB), ∀A, B ∈ F .
(1.1.1)
(2) 在 Jordan 公式中取 n = 2、3,就得到两个常用公式
∪ ∪ ∞
k −1
单调增的,即,An

An+1
(n

1)
,此时,lim n→∞
An
=
Ak
k =1
,令 Bk
=
Ak

i =1
Ai
=
Ak

Ak −1
(k
≥ 1) ,
∪ ∑ ∞

其中约定:A0=φ. 显然,事件列{Bn,n=1,2,…}两两互斥且 Ak = Bk ,故
k =1
k =1
———————— ① 关于集列的单调性与集列的极限概念参见本章附录中的相关内容.
{ } 间.例如,取 Ω 的非空真子集 A,令 F = A, Ac ,∅, Ω ,则 F 是事件域且 F1 ⊂ F ⊂ F2 .
通常称(Ω,F )为可测空间,称 F 中的元 A 为可测集.对可测空间(Ω,F )装备测 度 μ,就构成测度空间(Ω,F,μ).若所装备的测度还满足 μ(Ω) = 1,则称(Ω,F,μ)为 概率测度空间,简称概率空间.按概率论的记法,以 P 替换 μ,记作概率空间(Ω,F,P).

《应用随机过程》课程教学大纲 - 南京财经大学教务处

《应用随机过程》课程教学大纲 - 南京财经大学教务处

《随机过程》课程教学大纲适用专业:数学与应用数学执笔人:肖丽华审定人:王宏勇系负责人:张从军南京财经大学应用数学系《随机过程》课程教学大纲课程代码:300069英文名:Stochastic Processes课程类别:专业选修课适用专业:数学与应用数学前置课:数学分析、线性代数、概率论、数理统计后置课:学分:2学分课时:54课时主讲教师:孙春燕等选定教材:刘次华,随机过程(第二版)[M],武汉:华中科技大学出版社,2001.课程概述:随机过程是数学与应用数学专业继数学分析、线性代数、概率论、数理统计后的一门专业课程。

随机过程是研究客观世界中随机演变过程的规律性,是以概率论为基础且是概率论的深入与发展的一门学科。

它在控制、经济、金融和管理等方面应用极为广泛。

教学目的:通过随机过程理论知识的学习,达到培养学生解决实际问题,特别是解决具体随机规律现象的问题能力,学生学习这门课程应该达到三个目标。

(1)建立随机过程的思维方法。

(2)掌握随机问题的统计特性及数学模型。

(3)通过经济、金融及管理等专业相关例题的讨论,初步掌握应用随机过程理论来分析问题和解决问题的能力。

教学方法:本课程采用“引出问题,建立模型,理论分析,课堂讨论,实际应用,总结提高”的教学方式,使学生在掌握随机过程基本理论、思想和方法的基础上,力求活跃思考,理论结合实际地进行学习、分析、归纳、提炼和解决问题,提高他们的数学素质和数学修养,提升他们开展科技活动和社会实践的能力以及开展科研工作的能力。

各章教学要求及教学要点第一章预备知识学时分配:6学时教学要求:补充和加强概率论知识。

理解母函数的概念,掌握母函数的方法;掌握特征函数的定义及性质,了解特征函数与分布函数一一对应的关系。

教学内容:第一节概率空间一、随机试验。

二、样本空间。

三、事件及概率空间的定义。

第二节随机变量及其分布一、分布函数。

二、联合分布函数及其性质。

第三节随机变量的数字特征一、随机变量的数学期望及其性质。

应用随机过程教案预备知识

应用随机过程教案预备知识
(t) n(n 1)( pet 1 p)n2 ( pet )2 n( pet 1 p)n1 pet ,
E(X ) (0) np , E(X 2 ) (0) n(n 1) p2 np , D( X ) E[X 2 ] [EX ]2
其分布函数为
F(x) pk P{X xk }
xk x
xk x
连续型随机变量 X 的分布用概率密度 f(x)描述,其分布函数为:
x
F (x) f (t)dt
分布函数 F(x)的性质
(1) 0 F(x) 1
(2) F() 0, F() 1
(3) F(x) 是单调不减函数, a b 则 F(a) F(b)
定义 2 两个随机变量 X 与 Y,如果满足 P{ω∈Ω :X(ω) ≠Y(ω) }=0,则称它们是 等价的。
注:为简单起见,习惯将{ω:X(ω) ≥x}记为{X≥x},其他记号类似。
常用的随机变量:离散型随机变量、连续型随机变量。 离散性随机变量 X 的概率分布用如下分布列描述:
pk = P{X = xk }, k = 1,2, …
第三节 数字特征、矩母函数与特征函数 1.Riemann—Stietjes 积分 定义 1 设 g(x) ,F(x) 为有限区间 (a,b] 上的实值函数,a x0 x1 xn b 为
(a,b] 的 一 个 分 割 , 令 F(xi ) F(xi ) F(xi1) , i [xi1, xi ] , 1 i n ,
d 维正态分布
密度函数 f (x)
1
exp{(x ) (x )}
d
1
(2 ) 2 | | 2
Γ 分布
密度函数
f
(x)
s
(s)
x s1e x

Stochastic Process_1 随机过程

Stochastic Process_1 随机过程
1 n 即P X i mx 1 n i 1
Dy D
中心极限定理
• 令X1, …,Xn为一系列独立随机变量, 均值为 ,方差为 ,则当
的分布趋于正态分布。 大量独立的随机变量之和的极限分布为正态 分布。
多次抛掷硬币实验中出现正面的平均比率 每次实验均抛掷了大量硬币
x mx f ( x )dx
2
x mx
x mx f ( x )dx
2
由于f(x)>0,因此
Dx 2
x mx
f ( x )dx 2 P[ x mx ]
Dx
P[ x m x ]
2
Chebyshev定理
当独立试验次数足够大,随机变量X的观察值的算 术平均值以概率收敛于数学期望。 “以概率收敛”即当实验次数n足够大时,对任意 小的正数 和 有 1 n
例:掷一个色子的期望E(X)
练习:试求前面所讲几个典型随机变量的期望
• 定理:X是一随机变量,F(x)为分布函数, y=g(x)是连续函数,若 g ( x)dF ( x存在,则 )
EY E[ g ( X )] g ( x)dF( x)

• 推论:如果a,b为常数,则

(7) Continuity for above: 若 En 单调递减,则
lim P( En ) P( En )
n n 1
• 条件概率 • 乘法公式 • 全概率公式
P( EF ) P( E F ) P( F )
P( E1 E2 En ) P( E1 ) P( E2 E1 ) P( E3 E1 E2 ) P( En E1 E2 En 1 )

随机过程第一章

随机过程第一章

• 常见随机变量的分布见下页的表:

x

f (t )dt .
表1 几种常见分布的均值与方差
分布 0-1分布
分布率或 密度函数
P( X k ) p k (1 p)1k k 0,1
数学期望 p
np
方差 p(1-p)
np(1-p)
k k 1 k 二项分布b(n,p) P( X k ) Cn p (1 p)
k
bij Cov( X i , X j )
称矩阵
i, j 1,2,, n
b1n b2 n bnn
b11 b21 B b n1 为协方差矩阵.
b12 b22 bn 2
定义3 若n维随机变量 ( X1 ,, X n )的联合概率 密度为
E ( XY ) E ( X ) E (Y )
方差是衡量随机变量取值离散程度的一个量.
2 X 定义 设 是随机变量,若 E[ X E( X )] 存在,则称 2 E[ X E( X )] 为X的方差,记作D(X),即
D( X ) Var(X) E[ X E ( X )]
则称P是(Ω,F )上的概率. (Ω,F ,P)称为概率空 间,P(A)为事件A的概率.
1.2 随机变量及其分布 • 随机变量是概率论的主要研究对象,随机变量的统计规 律用分布函数来描述. 定义1.4 设(Ω,F ,P)是概率空间. X=X(e)是定义在Ω上 的实函数, 若对任意实数x,{e:X(e)≤x}∈F,则称X(e) 是F上的随机变量,简记为X. 称 F(x)=P(e:X(e)≤x), -∞<x<+∞ 为随机变量X的分布函数.
n维随机变量及其概率分布

随机过程 (1)

随机过程 (1)
应用随机过程
同济大学数学系
第一章 预备知识
1.1 1.2 1.3 特征函数 多元正态分布 条件分布与条件期望
第一章
1.1 特征函数 复值随机变量:
预备知识
Z
X iY, X 和 Y 是两
实值随机变量,Z 的分布定义为二维随机变量 ( X , Y ) 的联合分布 数字特征:
数学期望:
E(Z )
E ( X ) iE(Y )

(t ) P( X k )e Cnk p k (1 p)nk eikt
ikt k 0 k 0
n
n
Cnk ( peit )k (1 p)nk ( peit 1 p)n ( peit q)n .
k 0
n
其中 q 1 p . 特别地,若随机变量 X 服从 0-1 分布 B (1, p ) , X 的特征函数为
tn 0
i j1 E X 1k1
k j
n

kn Xn

;
( 5 )设 Y k1 X 1 k n X n k 0 , 其中 k 0 , , k n 均为实常数,则
Y ~ Y (t ) eik0t k1t ,
c
, knt .
(6)分布函数与特征函数一一对应.
2
).
伽玛(Gamma)分布 度函数为
若连续型随机 变量 X 的密
a x a 1 x e ,x 0 f ( x) ( a ) 0, x 0
其中 0, a 0, (a) x a1e x dx ,称 X 服从伽玛(Gamma) 0 分布 G ( , a ) .同样可计算得到它的特征函数为:

深圳大学 随机过程课程教学大纲

深圳大学 随机过程课程教学大纲
夫链的概念及转移概率,马尔可夫链的状态分类,状态空间的分解,马尔可夫链的渐近性质与平稳分布。
第五章连续时间的马尔可夫链
介绍连续时间的马尔可夫链,柯尔莫哥洛夫微分方程,生灭过程。
第六章平稳随机过程
平稳过程的概念与例,联合平稳过程及相关函数的性质,随机分析,平稳过程的各态历经性。
复习2学时 答疑和机动:4学时
教材(作者,出版社及出版时间)
《随机过程》 刘次华编 华中科技大学出版社2001年出版2005年第9次印刷
必读书目
学习本课程要求学生具备微积分,微分方程,概率论,线性代数,复变函数,积分变换知识。
参考文献目录
思考讨论题




第一章 预备知识
本章主要复习一下概率论的基本知识,包括概论空间,随机变量及其分布,随机变量的数字特征,特征函数,母函数和拉氏变换,n维正态分布,条件期望。
第二章随机过程的概念与基本类型
介绍随机过程的基本概念,随机过程的分布律和数字特征,复随机过程,并简介几种重要的随机过程。
第三章泊松过程
介绍泊松过程的定义,并举出一些常见例子,研究泊松过程的基本性质,非齐次泊松过程,复合泊松过程。
第七章平稳过程的谱分析
平稳过程的谱密度,谱密度的性质,窄带过程及白噪声过程的功率谱密度,联合平稳过程的互谱密度,平稳过程通过线性系统的分析。
第八章时间序列分析
ARMA模型,模型的识别,模型阶数的确定,模型参数的估计,模型的检验,平稳时间序列预报,非平稳时间序列预报。




主要掌握两大类随机过程,马尔可夫过程和平稳随机过程。
对马尔可夫过程,重点在转移矩阵及其渐近性质上。
对平稳随机过程,重点掌握功率谱密度,及相应的RAMA产生机制。

随机过程知识点汇总

随机过程知识点汇总

第一章随机过程的基本概念与基本类型一.随机变量及其分布1.随机变量,分布函数离散型随机变量的概率分布用分布列分布函数连续型随机变量的概率分布用概率密度分布函数2.n 维随机变量其联合分布函数离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望:离散型随机变量连续型随机变量方差:反映随机变量取值的离散程度协方差(两个随机变量):相关系数(两个随机变量):若,则称不相关。

独立不相关4•特征函数离散连续重要性质:,,,5 •常见随机变量的分布列或概率密度、期望、方差0 — 1分布二项分布泊松分布均匀分布略正态分布指数分布6.N维正态随机变量的联合概率密度,,正定协方差阵二.随机过程的基本概念1.随机过程的一般定义设是概率空间,是给定的参数集,若对每个,都有一个随机变量与之对应,则称随机变量族是上的随机过程。

简记为。

含义:随机过程是随机现象的变化过程,用一族随机变量才能刻画出这种随机现象的全部统计规律性。

另一方面,它是某种随机实验的结果,而实验出现的样本函数是随机的。

当固定时,是随机变量。

当固定时,时普通函数,称为随机过程的一个样本函数或轨道。

分类:根据参数集和状态空间是否可列,分四类。

也可以根据之间的概率关系分类,如独立增量过程,马尔可夫过程,平稳过程等。

2 .随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。

随机过程的一维分布,二维分布,…,维分布的全体称为有限维分布函数族。

随机过程的有限维分布函数族是随机过程概率特征的完整描述。

在实际中,要知道随机过程的全部有限维分布函数族是不可能的,因此用某些统计特征来取代。

(1)均值函数表示随机过程在时刻的平均值。

(2)方差函数表示随机过程在时刻对均值的偏离程度。

(3)协方差函数且有(4)相关函数(3)和(4)表示随机过程在时刻,时的线性相关程度。

(5)互相关函数:,是两个二阶距过程,则下式称为它们的互协方差函数。

,那么,称为互相关函数。

随机过程知识点

随机过程知识点

第一章:预备知识§1.1 概率空间随机试验,样本空间记为Ω。

定义1.1 设Ω是一个集合,F 是Ω的某些子集组成的集合族。

如果 (1)∈ΩF ;(2)∈A 若F ,∈Ω=A A \则F ; (3)若∈n A F , ,,21=n ,则∞=∈1n nAF ;则称F 为-σ代数(Borel 域)。

(Ω,F )称为可测空间,F 中的元素称为事件。

由定义易知: .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ,,则,,,)若(;则若(;定义1.2 设(Ω,F )是可测空间,P(·)是定义在F 上的实值函数。

如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时,当)对两两互不相容事件(;)(;任意则称P 是()F ,Ω上的概率,(P F ,,Ω)称为概率空间,P(A)为事件A 的概率。

定义1.3 设(P F ,,Ω)是概率空间,F G ⊂,如果对任意G A A A n ∈,,,21 ,,2,1=n 有: (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P则称G 为独立事件族。

§1.2 随机变量及其分布随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函数,{}T t X t ∈,是独立的。

§1.3随机变量的数字特征定义1.7 设随机变量X 的分布函数为)(x F ,若⎰∞∞-∞<)(||x dF x ,则称)(X E =⎰∞∞-)(x xdF为X 的数学期望或均值。

上式右边的积分称为Lebesgue-Stieltjes 积分。

方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DYDX B XYXY =ρ为X 、Y 的相关系数。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
随机过程
学习要求
• 不仅是掌握知识,更重要的是掌握思想 • 学会把抽象的概率和实际模型结合起来
2012-9-20
2
学习重点
1. 用随机变量表示事件及其分解——基本理论 2. 全概率公式——基本技巧 3. 数学期望和条件数学期望——基本概念
2012-9-20
3
1.2 随机变量
• 设( ,F,P )为概率空间, • 映射X : R, ω X( ω )满足 • 对任意 aR, { ω : X(ω) a } F, • 则称 X(ω)是随机变量,简记 X 。 • 对xR,称F(x)=P{ ω:X(ω)x }为随机 变量X的累积分布函数,简称分布函数,或 F(x)=P( Xx )= P( X [-∞,x ] )
2012-9-20


g ( x) f ( x)dx
21
随机变量的函数的数学期望
TH2: 若a和b都是常数,则 E[aX+b]= aE[X] + b 证明: 若X是离散随机变量: 若X是连续随机变量:
2012-9-20 22
n维随机变量及其概率分布
设(, F,P)为概率空间, X=X(e)=( X1(e), X2(e),, Xn(e) )是定义在 上的n维空间Rn中取值的向量函数, x=(x1, x2, , xn)Rn, {e:X1(e)x1, X2(e)x2, ,Xn(e)xn} F, 则称X(e)是n维随机变量,简记为 X =(X1, X2,, Xn)。
p+q=1, k=1,2,
18
(1)均匀分布
1 ,a x b f ( x) b a 0 , 其它
EX=(a+b)/2, DX=(b-a)2/12
(2)正态分布
1 f ( x) e 2
( x )2 2 2
EX=μ, DX=σ2
(3)指数分布
e , x 0 f ( x) , 0 0 , x 0
2012-9-20 7
正面出现的次数 用X表示,则X是一个取值于0,1,2的 随机变量,分别具有概率: P(X=0)= P({反反})= 1/4, P(X=1)= P({正反,反正})= 2/4, P(X=2)= P({正正})= 1/4, 并且有: P(X=0) + P(X=1) + P(X=2) = 1
2012-9-20 20
随机变量的函数的数学期望
无需确定g(X)的分布,计算期望:TH1 若X是离散随机变量,有概率质量函数p(x), 则对于任意实值函数g(X): E[g(X)]=
x: p ( x ) 0


g ( x) p( x)
若X是连续随机变量,有概率密度函数f(x), 则对于任意实值函数g(X): E[g(X)]=
F( y1, y2 ,, yn ) f ( x1, x2 ,, xn )dx1 dxn

y1
yn
(y1, y2, , yn) Rn
27
•随机变量的独立性 设{ Xt ,tT }是一族随机变量,若对任意n2 和t1, t2,, tn T ,x1, x2, , xn R , 有
k! >0, k=0,1,2,
k 1
P (X = k) =
k
e

(4)几何随机变量(几何分布)
P( X =k ) =
0<p<1,
pq

p+q=1, k=1,2,
11
连续型随机变量
• 连续型:其可能值不是可数的。 • 连续型随机变量X的概率分布用概率密度函数 • 对于连续型随机变量X,如存在一个定义在所 有实数 x(-∞,∞)上的非负函数f(x), 使得对于任意实数集合B,有性质
2012-9-20 4
• F(x)=P( Xx )= P( X [-∞,x ] ) • 分布函数的性质: (1)单调性:若x1<x2,则F(x1)F(x2)
F ( x) 0 (2) F () xlim
F ( x) 1 (3) F () xlim
(4)F(x)右连续, F(x+0) = F(x) 这三个性质完全刻划了分布函数
k n k nk
, EX=np,DX=np(1-p)
k=1,2,,n
2012-9-20
17
(3)泊松随机变量(泊松分布)
k! >0, k=0,1,2,
k 1
P (X = k) =
k
e

EX=λ, DX=λ
(4)几何随机变量(几何分布)
P(X=k) = pq
0<p<1,

EX=1/p DX=(1-p)/p2
9
离散型随机变量
(1)伯努利随机变量(0-1分布,两点分布) P(X=1)=p, P(X=0)=q, 0<p<1, p+q=1 (2)二项随机变量(二项分布) P(X=k) = C p q 0<p<1, p+q=1,
k n k nk

k=1,2,,n
2012-9-20
10
(3)泊松随机变量(泊松分布)
2012-9-20 8
随机变量:离散型,连续型
• 离散型:最多取可数个可能值的随机变量。 • 离散型随机变量X的概率分布用 pk = P(X=xk) • 分布律(列)描述,称pk为概率质量函数。 • 分布函数:
F(x ) p k
xk x
• 常见离散型随机变量X及其分布律
2012-9-20
F ( y1 , y2 , , yn )
(y1, y2, , yn) Rn .
xi yi i 1,, n
p
x1 ,, x n
26
• n维连续型随机变量 X=(X1, X2, , Xn) 联合概率密度 f(x1, x2, , xn) X=(X1, X2, , Xn)的联合分布函数为
连续型随机变量
x
EX=1/λ DX=1/λ2
19
随机变量的函数的数学期望
例:假定X有如下概率质量函数: p(0)=0.2, p(1)=0.5, p(2)=0.3, 计算E[X2] 解 :令Y=X2,Y是随机变量,取值为 0,1,4,相应概率为 pY(0)=P{Y=02}=0.2, pY(1)=P{Y=12}=0.5, pY(4)=P{Y=22}=0.3。 E[X2]= E[Y]=0(0.2)+1(0.5)+4(0.3) = 1.7
i 1 n
其中xi是Xti的任意可能值(i =1, 2, , n)
29
• 若{Xt , tT}是一族连续型随机变量,则 独立性等价于
f t1 ,,t n ( x1 , x 2 , , x n ) f t i ( x i )
i 1
n
其中 f t1 ,,tn ( x1 , x2 , , xn ) 是n维随机变量
P ( x B) f ( 的概率密度函数
12
• 连续型随机变量X的分布函数F(x)与概率密 度函数f(x)的关系
F ( x) P{ X (, x)}
(1)均匀分布
x

f (t )dt
• 常见连续型随机变量X 及其概率密度
1 ,a x b f ( x) b a 0 , 其它
2012-9-20 23
对 x =(x1, x2, , xn) Rn ,称 F(x) = F(x1, x2, , xn) = P{e:X1(e)x1, X2(e)x2, ,Xn(e)xn} 为 n 维随机变量 X=(X1, X2, , Xn) 的 联合分布函数
24

n维联合分布函数F(x1, x2, , xn)的性质 F(x1, x2, , xn)是非降函数
Eg ( X ) g ( x1 , , x n )dF ( x1 , , x n )

(2)随机变量 X 的期望值E[X](均值,一阶矩) E[Xn],n≥1,称为X的n阶矩。
x n p ( x) x是离散的 x: p ( x ) 0 n E[ X ] x n f ( x)dx x是连续的
P ( X t1 x1 , X t2 x2 , , X tn xn ) P ( X ti xi )
i 1 n
则称{ Xt ,
tT }是独立的。
28
• 若{Xt , tT}是一族离散型随机变量,则 独立性等价于
P ( X t1 x1 , X t 2 x 2 , , X t n x n ) P ( X t i x i )
( X t1 , X t2 , , X tn ) 的联合概率密度,
f ti ( xi ) 是随机变量 X t 的概率密度(i=1,2,,n) i
30
• 随机变量的数字特征的性质 (1)若n维随机变量 X=(X1,X2,,Xn) 的联合分 布函数为F(x1,x2,,xn),g(x1,x2,,xn)是 n维连续函数,则
k 1
• 对连续型随机变量X,概率密度f(x)的 数学期望
EX xf ( x )dx

16
离散型随机变量-数学期望
(1)伯努利随机变量(0-1分布,两点分布) P(X=1)=p, P(X=0)=q, 0<p<1, p+q=1 EX=p, DX=p(1-p) (2)二项随机变量(二项分布) P(X=k) = C p q 0<p<1, p+q=1,
32
例:在一次聚会上,N个人将帽子扔到房间的 中央。帽子混杂了以后,每个人随机地取一个。 计算取到自己的帽子的人的期望数。 解:以X表示取到自己帽子的人数。 (通过 X=X1+…+XN 计算E[X] )
相关文档
最新文档