随机过程-第一章__概率预备知识

第一章 预备知识
1.1 概率空间 • 随机试验 试验的结果事先不能准确预言,但具有特性 (1) 可以在相同的条件下重复进行; (2) 每次试验的结果不止一个,但预先知道试验的所有 可能的结果; (3) 每次试验前不能确定哪个结果会出现. • 样本空间 由随机试验所有可能结果组成的集合(Ω). • 样本点或基本事件 Ω中的元素e. • 事件 Ω的子集A. Ω称必然事件;空集υ称不可能事件. ς-代数F, F上的概率,独立事件族G : 定义1.1 设Ω是一个集合,F 是Ω的某些子集组成的集合 族. 如果

定义1.3 设(Ω,F ,P)是概率空间,G F,若对于任意的A1, n Ai )= n P( Ai ) ,则称G为 A2,…,An∈G,n=1,2,…有P( i 1 i 1 独立事件族.
P( An ),A1 2 A …
n 1
随机变量及其分布
1.2 随机变量及其分布 • 随机变量是概率论的主要研究对象,随机变量的统计规 律用分布函数来描述. 定义1.4 设(Ω,F ,P)是概率空间. X=X(e)是定义在Ω上 的实函数, 若对任意实数x,{e:X(e)≤x}∈F,则称X(e) 是F上的随机变量,简记为X. 称 F(x)=P(e:X(e)≤x), -≦＜x＜+≦ 为随机变量X的分布函数. 分布函数F(x)具有性质: (1) F(x)是非降函数,即当x1＜x2时,F(x1)≤F(x2); (2) F(-≦)= lim F(x)=0, F(+≦)= lim F(x)=1; x x (3) F(x)右连续,即F(x+0)=F(x).
• 有 • 教 • • • •无 类



课程内容
• 硕士研究生课程应用数学基础主要讨论随机过程,包括: 随机过程的基本概念; 泊松过程; 马尔可夫过程; 平稳随机过程. 为了教学的方便, 对概率论的一些有关知识,也作了必 要的回顾. • 在马尔可夫过程中介绍:马尔可夫链和连续时间的马尔 可夫链;在平稳随机过程中介绍:平稳随机过程,平稳过 程的谱分析以及时间序列分析. • 主参考书目: 陆大铨编著,随机过程及其应用,清华版, 1986; S.M.Ross著, 何声武等译,随机过程, 统计版, 1997; 刘次华编著, 随机过程, 华中理工版, 2001.
i
i
i
i
随机变量的数字特征
1.3 随机变量的数字特征 • 随机变量的的概率分布完全由其分布函数描述,但分布 函数的确定却是不容易的.在实际问题中往往只需要知 道随机变量的某些特征值就足够了. 定义1.7. 设随机变量X的分布函数为F(x),若 | x | dF( x)＜ ≦,则称 xdF(x)为X的数学期望或均值,记为E(X). • xdF(x) 也称Lebesgue-Stieltjes积分.
概率空间
(3) 对两两互不相容事件A1,A2,…(当i≠j时,A1∩A2= υ),有P( i 1 Ai )=i 1P(Ai), 则称P是(Ω,F )上的概率. (Ω,F ,P)称为概率空间,P(A) 为事件A的概率. 由定义1.2且有: (4) P(υ)=0; (5) 若A,B∈F ,A B,则P(B\A)=P(B)-P(A),即概率具 有单调性; P( An),A1 A2… n 1 (6) 设An∈F ,n=1,2,…则lim P(An)= n
概率空间
(1) Ω∈F ; (2) 若A∈F ,则A=Ω\A∈F ; (3) 若An∈F ,n=1,2,…,则 n 1 An∈F , 那么F 称为ς-代数(Borel域).(Ω,F )称为可测空间,F中 的元素称为事件. 由定义1.1且有: (4) υ∈F ; (5) 若A,B∈F ,则A\B∈F ; n n (6) 若Ai∈F ,i=1,2,…,则 i 1 Ai, i 1 Ai, i 1 Ai∈F . 定义1.2 设(Ω,F )是可测空间,P(· )是定义在F 上的实值 函数.若 (1) 任意A∈F ,0≤P(A)≤1; (2) P(Ω)=1;
随机变量的分布函数
• 重要事实:定义在R=(-≦,+≦)上的实值函数F(x),如果 具有上述三个性质, 则必存在一个概率空间(Ω,F ,P)及 该概率空间上的随机变量X, X的分布函数是F(x). • 常用的随机变量有两种类型: 离散型随机变量,连续型 随机变量. • 离散型随机变量X的概率分布用分布列描述: pk=P(X=xk), k=1,2,… ; 其分布函数F(x)= pk .
e
( eit 1)

2
peit 1 qeit e ibt e iat i(b a)t
2
1
e
1 i
it

) 1
n维随机变量及其概率分布
定义1.5 设(Ω,F,P)是概率空间,X=X(e)=(X1(e),…,Xn( e))是定义在Ω上的n维空间Rn中取值的向量函数.如果 对任意x=(x1,x2,…,xn)∈Rn,{e: X1(e)≤x1,X2(e)≤x2, …,Xn(e)≤xn}∈F,则称X=X(e)为n维随机变量或n维随 机向量. 称 F(x)=F(x1,x2,…,xn)=P(e: X1(e)≤x1,X2(e)≤x2,…, Xn(e)≤xn), x=(x1,x2,…,xn)∈Rn 为X=(X1,X2,…,Xn)的联合分布函数. • n维联合分布函数F(x1,x2,…,xn)具有性质: (1)对于每一个变元xi(i=1,2,…,n),F(x1,x2,…,xn)都 是非降函数; (2)对于每一个变元xi(i=1,2,…,n),F(x1,x2,…,xn)都
特征函数
q+peit (q+peit)n
泊松分布
几何分布
均匀分布
正态分布 指数分布
0＜p＜1, p+q=1. k P(X=k)=C npkqn-k,k=0,1, np …,n; 0＜p＜1, p+q=1. k P(X=k)= e ,λ＞0, λ k! k=0,1,… 1 P(X=k)=pqk-1,0＜p＜1, p p+q=1,k=1,2,… 1/(b-a),a＜x＜b a b f(x)= 0, 其它 2 ( x ) 1 e 2 , f(x)= 2 -≦＜x＜+≦ μ λe-λx,x≥0,λ＞0 1 f(x)= 0, x＜0
i
i , j 1;i j

n
F(b1,…,bi-1,ai,bi+1,…,bj-1,aj,bj+1,…,bn)
i=1,2,…,n , 而
• 重要事实:定义在Rn上的实值函数F(x1,x2,…,xn),如果 具有上述四个性质, 则必存在一个概率空间(Ω,F ,P)及 其上的n维随机变量X=(X1,X2,…,Xn),X的联合分布函数为
i i n上的非负函数f(x (2)若存在定义在R
x y ;i 1, 2,,n

1,x2,…,xn),对于
任意(y1,y2,…,yn)∈Rn,随机向量X=(X1,X2,…,Xn)的联合
分布函数F(y1,y2,…,yn)= f ( x1 , x2 ,, xn )dx1 dxn 则称X是连续型随机向量, f(x1,x2,…,xn)称为X的联合概
x1 , x2 ,, xn
lim
F(x1,x2,…,xn)=1.
n维随机变量及其概率分布
F(x1,x2,…,xn). • 在应用中,常见的n维随机变量也有两种类型: (1)若随机向量X=(X1,X2,…,Xn)的每个分量Xi, i=1,2, …,n都是离散型随机变量,则称X是离散型随机向量. 离散型随机向量X=(X1,X2,…,Xn)的联合分布列为: p x1 , x2 ,, xn=P(X =x ,X =x ,…,X =x ) 1 1 2 2 n n 其中xi∈Ii, Ii是离散集,i=1,2,…,n. X的联合分布函数 p x1 , x2 ,, xn(y1,y2,…,yn)∈Rn. F(y1,y2,…,yn)=
n n n n
注: 设R是实数集,若存在一个实数λ,对任意的正数ε有 (1) R中的元素x满足λ-ε＞x的只有有限个(+,＜); (2) R中的元素x满足λ+ε＞x的有无穷多个(-,＜), 则称λ是R的下(上)极限. 定义1.8. 设X是随机变量, 若EX2＜≦,则称E(X-EX)2为X 的方差,记为D(X)或Var(X).



若X是连续型随机变量,概率密度为f(x),则E(X)= xf ( x)dx ;

若X是离散型随机变量,分布列pk=P(X=xk),k=1,2,…,则 E(X)= k 1 x k p k , • 随机变量的数学期望是随机变量的取值依概率的平均.

随机变量的数字特征
数学期望的重要性质: (1)设a,b,c是常数,则有E(c)=c, E(aX+bY)=aEX+bEY; (2)设X,Y是相互独立的随机变量,则有E(XY)=E(X)E(Y); (3)(单调收敛定理)若0≤Xn↑X,则 lim EXn=EX; n (4)(Fatou引理)若Xn≥0,则 E( lim Xn)≤ lim E(Xn)≤ lim E(Xn)≤E( lim Xn).
n维随机变量及其概率分布
是右连续函数; (3)对于Rn中的任意区域(a1,b1;…;an,bn),其中ai≤bi, i=1,2,…,n, 成立 n F(b1,b2,…,bn)- i 1 F(b1,…,bi-1,ai,bi+1,…,bn)
+
+…+(-1)nF(a1,a2,…,an)≥0 ; (4) lim F(x1,x2,…,xi,…,xn)=0, x
y1
yn
n维随机变量及其概率分布
率密度. 定义1.6 设{Xt,t∈T}是一族随机变量,若对任意的n≥2, t1,t2,…,tn∈T, x1,x2,…,xn∈R, 有 n P( X t≤x1, X t≤x2,…, X t≤xn)= i 1 P( X t xi ) 1 2 n 则称{Xt,t∈T}是独立的. • 若{Xt,t∈T}是一族独立的离散型随机变量, 则上式等 n 价于P( X t1 =x1, X t2 =x2,…, X t n=xn)= i 1 P( X t xi ) ; 若{Xt,t∈T}是一族独立的连续型随机变量, 则上式等 n 价于 f t1 ,t2 ,,tn(x1,x2,…,xn)= i 1 f t ( xi ), 其中 f t1 ,t2 ,,tn 1, (x x2,…,xn)是随机向量(X1,X2,…,Xn)的联合概率密度且 f ti ( xi ) 是随机变量 X t 的概率密度,i=1,2,…,n. • 独立性是概率论中的重要概念,独立性的判断通常是根 据经验或具体情况来决定的.
硕士研究生学位课程《应用数学基础》
随机过程
(Random process)
(演示文稿) 主讲教师 段禅伦
2008年秋季学期
序言:天道酬勤—求真务实,追求卓越
上善若 接天莲叶无穷碧，亭亭玉立荷花红。 水，厚 扎实自信、开拓自尊，独立自主、自强不息。 德载物 人生大计，学业为本；国家兴旺，学子有责。 杨叔子 基础不固，木凋树枯；基础坚牢，大厦凌霄。 院士语 博览群书，寻真取识，学以致用，唯求创新。 形而上（深入思考）谓之道，形而下（知识基础） 谓之器（周易· 系辞）。 • 提其要，钩其玄（韩愈《劝学解》）；悠然心会， 妙处难与君说（张孝祥，南宋）。 • 昨夜西风凋碧树,独上高楼,弃疾)。 • 衣带渐宽终不悔,为伊消得人憔悴（柳咏）。
xk x
• 连续型随机变量X的概率分布用概率密度f(x)描述, 其
分布函数F(x)=
x
f (t )dt .
• 常见随机变量的分布见下页的表:
常见随机变量的分布
分布 分布律或概率密度 0-1 分布 P(X=1)=p, P(X=0)=q, 二项分布 期望
p
方差
pq npq λ q p2 (b a ) 2 12 ς2