1.2随机过程的有限维特征函数族
第2章 1.1 随机过程定义与分布族

二 随机过程的有限维分布函数族 随机过程的有限维分布函数族
设{X(t), t∈T}是定义在概率空间上的随机过程 1.一维分布函数 对任意固定的t∈T, X (t)为一维随机变量. 称其分布函数 F (t ; x)=P(X(t) ≤ x), x ∈R 为随机过程{X(t), t∈T}的一维分布函数.
第二章 随机过程基本知识
主讲人: 主讲人:李伟 西安电子科技数学与统计学院 2013年秋季
随机过程的起源
1931年,柯尔莫果洛夫 (Kolmogorov)《概率论的解 析方法》 析方法》 1934年,辛钦 (Khintchine)《平稳过 程的相关理论》 程的相关理论》 《随 机 过 程》 的 奠 基 人
fV (h( x)) h′( x) f 3π ( x) = X( ) 0 4ω
0 ≤ h( x ) ≤ 1 其它
2 = 0 2 = 0
0 ≤ − 2x ≤ 1 其它
2 − ≤ x≤0 2 其它
(3)
π π t= 时,X (t ) = V cos ω = 0, 2ω 2ω π 此时X ( )是单点分布, 则 2ω
X(t)
例1的样本曲线与状态( 的样本曲线与状态(网站的访问次数) 网站的访问次数)
状态X(t0)=4
样本轨道x1(t) x1(t) t 样本曲线x2(t) x2(t) t
状态X(t0)=5
t0 状态空间S={0,1,2,….}, T=[0,+∞)
随机过程引例
例2. 具有随机初位相的简谐波
X(t) = A cos(ωt + Φ )
基本内容
随机过程基本概念 典型的随机过程 平稳过程 马尔可夫链( 马尔可夫链(离散) 离散)
教材 1.《 1.《随机过程随机过程-计算与应用》 计算与应用》冯海林 薄立军 西安电子科技大学出版社 2012 参考教材 1. 《随机过程》 随机过程》张卓奎 陈慧婵 西安电子科技大学出版社 2003 2.《随机过程与应用》 随机过程与应用》田铮 秦超英 科学出版社 2007 3.《随机过程》 随机过程》毛用才 胡奇英 西安电子科技大学出版社 西安电子科技大学出版社 1998 4.《随机过程理论》 随机过程理论》 周荫清 电子工业出版社 第二版 2006 5.《 An introduction to stochastic processes 》 Edward P.C. kao Thomson 2003
随机过程2(1.2)

用特征函数求随机变量Y= Xk的概率分布
解:由题意 X k (u) e
n k 1
n
1 2 j k u k u2 2
n
k=1
, k 1,2,..., n
Y (u ) X k (u ) e
k 1
1 2 j k u k u 2 2
e
n n n k=1 k 1 k 1
(u1 , u2 ,un ) E[e
j ( u1 X1 u2 X 2 un X n )
]
E[e
juX T
]
j ( u1x1 u2 x2 un xn )
e
dF ( x1, x2 ,, xn )
为n维随机变量X的特征函数. 也称多元特征函数
因此,如同随机变量一样,也用数字特征来 表征随机过程.即将随机变量的数字特征 推广到随机过程中.
但要注意其区别:随机过程的数字特征 不再是确定的数,而是确定的时间的函数.
1. 均值函数 设{X(t)}是一S.P.
对任意的t∈T,若E[X(t)]存在,则称 E[X(t)]为S.P.X(t)的 均值函数. 记mX(t) 即 mX(t)= E[X(t)] t∈T
f ( x)dg ( x) f ( xi ) pi
i
⑵当g(x)存在导数g´(x)时,有
f ( x)dg ( x) f ( x) g ( x)dx
利用Stieltjes积分可以统一离散型r.v.与连续型r.v.(或 随机变量的函数)的数学期望定义.如下
定义 设随机变量X的分布函数为F(x),若
(t1, t2 ,..., tn ; u1, u2 ,..., un )
2.2随机过程的分布律和数字特征

2.2随机过程的分布律和数字特征
任 意 有 限 个 时 刻 过 程 各个 状 态 的 联 合 概 率 分 布 : 给定随机过程 { X (t), t T }.
对任意n (1)个不同的时刻 t1, ,tn T , 相应
的状态可由 n维随机变量 X (t1), X (t2), , X (tn)
描述 .
a cost
,t
,
其中a
0,
且P1
2 3
,
P2
1 3
,
试求随机过程 X (t),t (,)
的数字特征。
解
mX
EX t a cos t 1 a cos t 2 1 cos t,
3
33
t (,)
RX s,t EX sX t
a coss a cost 1 a cossa cost 2
示一条固定的曲线。如图蓝色曲线
2.2随机过程的分布律和数字特征
2.称 BX(s,t) = E{[X(s) - mX(s)][X(t) - mX(t)]},s,t T
为 XT 的协方差函数;
3.称 DX (t) BX t,t E[X (t) mX (t)]2 ,t T 为 XT
的方差函数;
4.称 RX (s,t) E[X (s)X (t)],s,t T 为 XT
2019级研究生课程
彭晓华
辽宁工大基础部数学教研室
第2章 随机过程的基本概念
2.1随机过程的基本概念 2.2随机过程的分布律和数字特征 2.3 复随机过程 2.4几种重要的随机过程
本章小结 思考题与作业
复习2.1 1.怎样理解随机过程?它与函数及随机变量有何不同?
2.随机过程的五个要素都是什么?
1.随机过程概论

{ X (t ) , t (,) } 是一随机过程 . 状态空间 I (,) . 样本函数空间 X { cos πt , t } .
H 发生
x( t )
x( t ) t
x( t ,T ) x( t )
1 1 1
T 发生
o
t t x( t , H )
1
2
x( t , T ) x( t ) x( t , H )
Ft
1 , t 2 ,, t n
( x1 , x2 ,, xn ) Ft ( xk ) , t1 , t 2 ,, t n T , n 1 ,
k 1
k
n
则称 X (t ) 具有独立性 , 或称 X (t ) 是独立过程 .
随机过程的独立性是指其在不同的时刻互不影响 , 一维分布
t1 , t 2 T .
当 A~N (0,1), B~U (0,2) 且 A, B 相互独立时 ,
EA 0,
EA2 DA ( EA)2 1,
EB 1,
EB 2 DB ( EB)2 4 3 ,
E ( AB ) EA EB 0,
所以可得
m X ( t ) t EA EB 1 , RX (t1 , t 2 ) t1t 2 EA2 ( t1 t 2 ) E ( AB) EB 2 t1t 2 4 3 , t1 , t 2 T .
o
称为统计平均或集平均 . 均值函数 m X ( t ) 表示了随机过程 X ( t ) 在各个时刻的摆动中心 .
X ( t ) 的二阶原点矩和二阶中 心矩分别记为
2 ΨX ( t ) EX 2 ( t ) 2 2 2 X ( t ) E[ X ( t ) m X ( t )]2 Ψ X (t ) m X (t )
随机过程第二章

2.2 随机过程的分类和举例
2、离散参数、连续状态的随机过程 这类过程的特点是参数集是离散的,对于固定的t∈T, X(t)是连续性随机变量。
例 设Xn,n=…,-2,-1,0,1,2,…是相互独立同服从标准正态 分布的随机变量,则{Xn,n=…,-2,-1,0,1,2,…}为一随机
过程,其参数集T={…,-2,-1,0,1,2,…},状态空间 S=(﹣∞,+∞)
2.3 随机过程的有限维分布函数族
例2.3.2 令X(t)=Acost,﹣∞<t<+∞,其中A是随机变量,其
分布律为 试求
P(A=i)= 1 , i=1,2,3 3
(1) 随机过程{X(t),﹣∞<t<+∞}的一维分布函数
(x)
2,
1 2
0,其他
x
0
时X( )Vcos V,故 X
(
)
的概率密度
1,1x0 fX()(x)0,其他
2.1 随机过程的定义
(3) 当t
2
时,X(2)Vcos20,不论V取何值,
均有 X ( ) 0,因此,P(X( )0)1,从而X ( ) 的
2
2
2
分布函数为
1,x0
F
X(
(x)
…
exp[
j(u1x(t1)
u2x(t2)
…
unx(tn))]dF(t1,t2,? ,tn;x1,x2,…,xn) ui∈R,ti∈T,i=1,2,…,n,j= 1
为随机过程{X(t), t ∈T }的n维特征函数.
2.3 随机过程的有限维分布函数族
称 { ( t 1 , t 2 , … , t n ; u 1 , u 2 , … , u n ) , u i R , t i T , i 1 , 2 , … , n , n N }
随机过程1(1)

4.根据参数集与状态空间离散与否,随机过程可分为
●离散参数,离散状态的随机过程 (例3)
● 离散参数,连续状态的随机过程 (例4)
● 连续参数,离散状态的随机过程 (例1)
● 连续参数,连续状态的随机过程 (例2)
参数集为离散的随机过程也称为随机序列, 或时间序列.
二
随机过程的有限维分布函数族
设X={X(t),t∈T}是S.P.
2 0 2 0
0 h( x ) 1 其它
0 2x 1 其它
2
x0
2 其它
(3)
t
2
时,X (t ) V cos
2
0,
此时X (
2
)是单点分布, 则
F
ห้องสมุดไป่ตู้X(
2
( x ) P{ X (
)
2
) x}
1 x 0 0 x 0
特别注意: 一族随机变量X(t) 的两个特点:随机性与函数性
随机过程定义
设(Ω,F,P)为一概率空间,T为一参数集,T R,
若对每一 t ∈T,均有定义在(Ω,F,P)上的一个 随机变量X(ω,t),(ω∈Ω)与之对应, 则称X(ω,t)为(Ω,F,P)上的一个随机过程(S.P.) 记X={X(ω,t), ω∈Ω,t∈T},
注意: 设{X(ω,t), ω∈Ω, t∈T}为一S.P.
1. X(ω ,t),实质上为定义在T×Ω上的二元单值函数. 2.对每一个固定的t, X(t)为一随机变量. 随机变量X(t) (t∈T)所有可能取值的集合,称为随机过 程X(ω,t),的状态空间.记为S. S中的元素称为状态. 3.对每一个ω0∈Ω,X(ω0,t)是定义在T上的普通函数. 记为 x(ω0,t), 称为为随机过程的一个样本函数.也称轨 道或实现. 样本函数的图形称为样本曲线.
随机过程 第2章

随机变量 随机变量族
e → x(e) (e, t) → xt(e)=x(e, t)
x=xt(ei)
x
e1 e2 e3
e
概率空间和随机对象
样本空间
概率空间
随机变量
随机向量
随机过程
2.1 随机过程的基本概念
定义:设(Ω, ö,P)为概率空间,T是参数集。 若对任意 t ∈T ,有随机变量X(t, e)与之 对应,则称随机变量族{X(t, e), t ∈T } 是(Ω, ö,P)上的随机过程,简记为 {X(t),t ∈T }或{Xt,t ∈T }。 ★ X(t)的所有可能的取值的集合称为状态空 间或相空间,记为I。
由此可将随机过程分为以下四类:
a. 离散参数离散型随机过程; b. 离散参数连续型随机过程; c. 连续参数离散型随机过程; d. 连续参数连续型随机过程。
2. 以随机过程的统计特征或概率特 征分类:
a. 独立增量过程; b. Markov过程; c. d. e. f. g. 二阶矩过程; 平稳过程; 鞅; 更新过程; Poission过程;
称之为随机过程X(t) 的二维概率密度。
2.3 随机过程的分布律
随机过程的二维分布函数比一维分布函数包含了随 机过程变化规律更多的信息,但它仍不能完整地反 映出随机过程的全部特性及变化规律。用同样的方 法,我们可以引入随机过程 X(t) 的 n 维分布函数和 n 维概率密度。
FX ( x1 , x2 , , xn ; t1 , t2 , tn )
• 又如移动某基站每天的通话次数,X 显然不 能确定,即为随机变量,进一步分析知这 个 X 还和时间 t 有关,即 X(t),所以 X(t) 也构成一个过程,即随机过程;类似地, 气温、气压、商店每天的顾客流量等都构 成一个随机过程。
随机过程知识点

第一章:预备知识§1.1 概率空间随机试验,样本空间记为Ω。
设Ω是一个集合,F 是Ω的某些子集组成的集合族。
如果 〔1〕∈ΩF ;〔2〕∈A 若F ,∈Ω=A A \则F ; 〔3〕假设∈n A F , ,,21=n ,那么∞=∈1n nAF ;那么称F 为-σ代数(Borel 域)。
(Ω,F )称为可测空间,F 中的元素称为事件。
由定义易知: .216\,,)5)4(111F A A A i F A F B A F B A F i i n i i n i i i ∈=∈∈∈∈∅∞=== ,,则,,,)若(;则若(;定义1.2 设(Ω,F )是可测空间,P(·)是定义在F 上的实值函数。
如果()()()()∑∞=∞==⎪⎪⎭⎫ ⎝⎛∅=⋂≠=Ω≤≤∈1121,,,31210,)1(i i i i j i A P A P A A j i A A P A P F A 有时,当)对两两互不相容事件(;)(;任意那么称P 是()F ,Ω上的概率,〔P F ,,Ω〕称为概率空间,P(A)为事件A 的概率。
设〔P F ,,Ω〕是概率空间,F G ⊂,如果对任意G A A A n ∈,,,21 ,,2,1=n 有: (),11∏===⎪⎪⎭⎫⎝⎛ni i n i i A P A P那么称G 为独立事件族。
§1.2 随机变量及其分布随机变量X ,分布函数)(x F ,n 维随机变量或n 维随机向量,联合分布函数,{}T t X t ∈,是独立的。
§设随机变量X 的分布函数为)(x F ,假设⎰∞∞-∞<)(||x dF x ,那么称)(X E =⎰∞∞-)(x xdF为X 的数学期望或均值。
上式右边的积分称为Lebesgue-Stieltjes 积分。
方差,()()[]EY Y EX X E B XY --=为X 、Y 的协方差,而 DYDX B XYXY =ρ为X 、Y 的相关系数。
随机过程-第二章 随机过程

Ft j ,,t j ( x j1 , , x jn )
1
P X (t j1 ) x j1 , , X (t jn ) x jn P X (t1 ) x1 , , X (tn ) xn Ft1 ,,tn ( x1 , , xn )
(2)相容性 对于 m n ,有
1, X (t ) x Y (t ) 0, X (t ) x
1 n
j1 ,,t jn
(u j1 ,, u jn )
(2)相容性 对于 m n ,有
t ,,t
1
m ,tm1 ,,tn
(u1 ,, um ,0,,0) t1 ,,tm (u1 ,, um )
注:有限维分布族与有限维特征函数族互相唯一决定。
定理 2.1: 存在定理 (Kolmogorov 定理) : 设分布函数族 Ft1 ,,tn ( x1 ,, xn ), t1 ,, tn , n 1
CXY (s, t ) E[( X (s) X (s))(Y (t ) Y (t ))], s, t T
互相关函数
def
RXY (s, t ) E[ X (s)Y (t )], s, t T
二维随机过程的独立性 若满足
Ft ,,t
1
' ' n ;t1 ,,tm
( x1 ,, xn ; y1 ,, ym ) Ft1 ,,tn ( x1 ,, xn ) Ft ' ,,t ' ( y1 ,, ym ), m 1, n 1
i 1
1 k k Ft1 ,,t1 ;;t 2 ,,t 2 ( x1 ,, x1 n1 ; , x1 , , xnk )
1 n1 1 nk
第二章随机过程1

所以S.P.的一维分布为X(t) ~N(0,1+t2) 又对任意的t1≥0, t2≥0, X(t1)=A+Bt1 ~N(0,1+t12), X(t2)=A+Bt2 ~N(0,1+t22),
即
( X (t1 )
1 1 X (t2 )) ( A B) t t 1 2
由A,B独立知, (A,B)服从二维正态分布 (定理 正态变量的线性变换是正态变量)
2.二维分布函数
对任意固定的t1,t2∈T, X (t1) ,X (t2)为两个随机 变量.称其联合分布函数 F (t1,t2; x1, x2)=P(X(t1) ≤x1, X(t2) ≤x2 ), x1, x2∈R 为随机过程{X(t),t∈T}的二维分布函数.
3. n维分布函数
对任意固定的t1,t2, …,tn∈T, X (t1) ,X (t2),…, X (tn) 为n个随机变量.称其联合分布函数
例3 的样本曲线与状态
样本曲线x1(t)
状态X(t0)=40 状态X(t0)=25 状态X(t0)=18
样本曲线x2(t) 样本曲线x3(t)
0
24
…
t0
t
状态空间S={0,1,2,….},
T=[0,24,……)
4.分类根据参数集与状态空间离散与否,随机过程可分为
●离散参数,离散状态的随机过程 (例3)
,t X t () 3.样本轨道:固定
称为一条样本轨道
样本轨道的连续性:设X={Xt(ω):t ∈T}是一个取实值 过程(S=R),则称该过程: (1) 以概率1连续(过程X有连续样本轨道):
P(lim X s X t 0, t T ) 1
随机过程知识点总结

知识点总结第1章 概率论基础1.1概论空间随机试验,它是指其结果不能事先确定且在相同条件下可以重复进行的试验。
其中,一个试验所有可能出现的结果的全体称为随机试验的样本空间,记为Ω,试验的一个结果称为样本点,记为ω,即}{ω=Ω. 样本空间的某个子集称为随机事件,简称事件.定义1.1.1 设Ω样本空间,是Ω的某些子集构成的集合,如果:(1)∈Ω (2)若∈A ,则∈A(3)若∈n A ,,, ,21n =则∈∞= 1n nA那么称为一事件域,也称为σ域.显然,如果是一事件域,那么(1)∈φ(2)若∈B A ,,则∈-B A(3)若∈n A , ∞==1n n 2,1n A ,则,,定义 1.1.2 设Ω是样本空间,是一事件域,定义在上的实值函数)(⋅P 如果满足:(1)∈∀A 0)(,≥A P ,(2)1)(=ΩP , (3)若∈n A ,,2,1, =n 且,,2,1,,, =≠=j i j i A A j i φ则∞=∞=∑=11)()(n n n n A P A P那么称P 是二元组(,Ω)上的概率,称P (A )为事件A 的概率,称三元组,(Ω),P 为概率空间。
关于事件的概率具有如下性质:(1);0)(=φP(2)若∈nA ,,,2,1,,,,,,2,1,n j i j i A A n i j i =≠==φ 则ni ni i i A P A P 11)()(==∑=(3)若∈B A ,,,B A ⊂则)A P B P A B P ()()(-=-(4)若∈B A ,)()(,,B P A P B A ≤⊂则; (5)若∈A ;1)(,≤A P 则(6)若∈A );(1)(,A P A P -=则(7)若∈n A ,,2,1, =n 则∞=∞=∑≤11)()(n n n i A P A P(8)若∈i A ,,,2,1,n i =则-===∑ ni ni i i A P A P 11)()(∑∑≤<≤≤<<≤--+-+nj i nk j i n n kj ij i A A A P A A A P A A P 11211)()1()()(一列事件∈n A ,2,1,=n 称为单调递增的事件列,如果;,2,1,1 =⊂+n A A n n 一列事件∈n A ,2,1,=n 称为单调递减的事件列,如果,2,1,1=⊃+n A A n n .定理1.1.1 设 ∈n A ,2,1,=n(1)若 ,2,1,=n A n 是单调递增的事件列,则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P (2)若 ,2,1,=n A n 是单调递减的事件列,则⎪⎪⎭⎫⎝⎛=∞=∞→ 1)(lim n n n n A P A P 定义1.1.3.设,(Ω),P 为一概率空间,∈B A ,.且,0)(>A P 则称)()()(A P AB P A B P =为在事件A 发生的条件下事件B 发生的条件概率.不难验证,条件概率)|(A P ⋅符合定义1.1.2中的三个条件,即 (1)∈∀B , 0)|(≥A B P ;(2);1)|(=ΩA P (3)设∈n B ,,2,1,,,,2,1, =≠==j j i B B n j i φ则∞=∞=∑=11)|()|(n n n n A B P A B P定理 1.1.2. 设,Ω( ),P 是一概率空间,有: (1)(乘法公式)若∈i A ,,,,2,1n i =且0)(121>-n A A A P ,则)|()()(12121A A P A P A A A P n =(2)(全概率公式)设∈A ,∈iB ,,2,1,0)(, =>i B P i 且∞=⊃=≠=1,,,2,1,,,,i i j i A B j i j i B B φ则∑∞==1)|()()(i i i B A P B P A P(3)(贝叶斯(Bayes)公式)且∈A ∈>i B A P ,0)(,,,,2,1,0)( =>i B P i且 ∞=⊃==1,,,2,1,,i i j i A B j i B B φ则,2,1,)|()()|()()|(1==∑∞=i B A P B P B A P B P A B P j jji i i定义 1.1.4设,(Ω ),P 为一概率空间,,,,2,1,n i F A i =∈如果对于任意的)1(n k k ≤<及任意的,12n i i i k i ≤<<<≤ 有)()()()(2121k k i i i i i i A P A P A P A A A P =则称n 21,,,A A A 相互独立。
随机过程第1-2讲

中科院研究生院 2010~2011 第一学期
随机过程讲稿
孙应飞
cos π t , 当出现 H 时 X (t ) = 2t , 当出现 T 时
t ∈ (−∞ , + ∞)
其中 P{H } = P{T } = 1 / 2 ,则 { X (t ) , t ∈ ( −∞ , + ∞ )} 是一随机过程。试考察其 样本函数和状态空间。 例 2:设
X (t , ω ) : T × Ω → R
即 X (⋅, ⋅) 是一定义在 T × Ω 上的二元单值函数,固定 t ∈ T , X (t , ⋅) 是一定义在 样本空间 Ω 上的函数,即为一随机变量;对于固定的 ω ∈ Ω , X (⋅, ω ) 是一个关 于参数 t ∈ T 的函数,通常称为样本函数,或称随机过程的一次实现,所有样本 函数的集合确定一随机过程。记号 X (t , ω ) 有时记为 X t (ω ) 或简记为 X (t ) 。 常用的参数一般有: (1)T = N 0 = {0,1,2,L} ; 参数 T 一般表示时间或空间。 (2) T = {0,±1,±2,L} ; (3) T = [ a, b] , 其中 a 可以取 0 或 − ∞ ,b 可以取 + ∞ 。 当参数取可列集时,一般称随机过程为随机序列。 随机过程 { X (t ); t ∈ T } 可能取值的全体所构成的集合称为此随机过程的状 态空间,记作 S 。 S 中的元素称为状态。状态空间可以由复数、实数或更一般 的抽象空间构成。 例 1:抛掷一枚硬币,样本空间为 Ω = {H , T } ,借此定义:
3. 随机过程的数字特征
(一)单个随机过程的情形
中科院研究生院 2010~2011 第一学期
随机过程讲稿
第二章 随机过程的概念与基本类型

2 sin( t ) sin( cos[( s s ) ] t ) DZ 2 cos( s ) cos( t ) sin( s ) sin( t )
2
2
cos[( s t ) ]
例2.2.2 设X(t)=Y+Zt, t>0,Y, Z~N(0, 1),求{X(t), t>0}的一、二维概率密度族。
ft ( x) x 2 exp 2 2 2 1 1 2 1 t
2
2 x exp 2 2 1 t
B X s , t E X s X t m X s m X t E Y Zs Y Zt E Y
举例
例2.2.1 设X(t)=Ycos(t)+Zsin(t), t>0,Y, Z相互 独立,EY=EZ=0,DY=DZ=2。求{X(t), t>0} 的均值函数和协方差函数。 解 :m ( t ) EX ( t ) E [Y cos( t ) Z sin( t )] X
cos( t ) EY sin( t ) EZ 0
1
1 t 2 B 1 st
1 st 2 1 s
2
x 2
T
1
1 s 1 t 1
2 2
x2 1 2 2 1 s
1 s 1 t
2 2
x1 x 2
2 1 t x2
B X ( s , t ) E [( X ( s ) EX ( s ))( X ( t ) EX ( t ))] E [ X ( s ) X ( t )] EX ( s ) EX ( t ) E [ X ( s ) X ( t )]
时间序列分析(全)

(4) 平稳随机过程 直观的说:该过程的统计特性不随时间的转移而变化,
其严格的定义及有关知识将在后面介绍,简称平稳 过程
19
二、几个重要的随机过程 1、独立增量过程
若{X (t) , t T }是独立增量过程,则对t1 < t2 < ···< t n , r.v. 的增量
X(t 2) X(t1), X(t 3) X(t2) , ···, X(t n) X(tn1 ) 相互独立,这样的S. P.称为具有独立增量的随机过程,简称 独立增量过程。
18
(3) 马尔可夫过程(马氏过程) 设参数t1,···,t n T 满足t1 < t2 < ···< t n , 若
P { X ( t n ) x n | X ( t n 1 ) x n 1 , , X ( t 1 ) x 1 } P { X ( t n ) x n | X ( t n 1 ) x n 1 }
物理解释: X t()也可记作X(t,), X t或X(t),表示 在时刻t 系统的状态。 X(t)的状态全体称为状态空间或相
空间,记为E或I。
数学解释:可认为{X t(), t T }是定义在T上的二 元函数。当t 固定时, X t()是r.v.,当固定时, X t()是 定义在T上的普通函数,称为随机过程的样本函数或轨道,
S.P.{X (t), t T }与{Y (t),t T }称为是正交的,若对
任意的s , t T,有E[X (s)Y (t)]=0。
15
1.3 S.P.的分类及 几个重要的S.P.简介
S.P.的分类 几个重要的S.P.简介
随机过程的基本概念(上)

随机过程的基本概念(上)Abstract本文主要是对"随机过程的基本概念"一节的整理和总结.其内容分为:随机过程的定义、分布、数字特征,二维随机过程和复值随机过程,几类常用的随机过程.随机过程的相关历史随机过程的理论基础是由柯尔莫哥洛夫和杜布奠定的.(1)随机过程最早起源于对物理学的研究:吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究;(2)爱因斯坦、维纳、莱维等人对布朗运动展开研究;1923年,维纳给出布朗运动的数学定义.(3)1907年前后,马尔科夫研究一系列有特定相依性的随机变量(后人称为马尔科夫链);(4)1931年,柯尔莫哥洛夫发表《概率论的解析方法》,1934年辛钦发表《平稳过程的相关理论》.两部著作的意义在于:奠定了马尔科夫过程与平稳过程的理论基础;(5)1953年,杜布出版名著《随机过程论》,系统且严格地叙述了随机过程基本理论.一、随机过程的定义Definition1.1.1:如果对于每一个,是一个随机变量,则称随机变量族为随机过程,其中称为指标集或参数集.Remark:由于经常表示时间,因此我们也把称为时间集.我们用来表示随机过程的状态空间,其定义为:随机过程在所有时刻所处的所有状态组成的集合.我们可以根据时间集和状态空间的集合结构,来对随机过程进行分类:(1) 离散状态离散参数的随机过程;(2) 连续状态离散参数的随机过程;(3) 离散状态连续参数的随机过程;(4) 连续状态连续参数的随机过程.以上四种分类中出现的"离散"和"连续"是如何区分的呢?联想数列和函数的定义域差异,我们将"离散"规定为:该集合(指和)是由有限个或可列无限多个元素组成的集合;而将"连续"规定为:该集合是由一个或几个区间组成的集合.二、随机过程的分布类比概率论中借助"分布函数"来对随机变量的统计规律性进行描述,我们在随机过程理论中也引入随机过程的分布这一概念.下面直接介绍维分布函数和维分布函数族的概念.Definition1.2.1:随机过程的维分布函数为这里的,其中,.Definition1.2.2:随机过程的维分布函数族为.Remark:我们把所有一维分布函数族(,依次类推),二维分布函数族......的全体:称为随机过程的有限维分布函数族.有限维分布函数具有对称性和相容性两大性质,其推导均是平凡的.针对连续状态的随机过程,这时对于给定的,有密度函数.称为随机过程的的一维密度函数.下面我们直接给出维密度函数的定义.Definition1.2.3:对于给定的,的密度函数称为随机过程的维密度函数.同样地,我们可以类似写出维密度函数族和有限维密度函数族的定义(提示:只需将对应的分布函数情形中的改为即可).Definition1.2.4(正态过程/高斯过程):如果随机过程的任意有限维分布都是正态分布,则称随机过程为正态过程/随机过程.Remark:这里需要理解的是"任意有限维分布"是什么意思?答:, 都服从正态分布.三、随机过程的数字特征本部分的逻辑是:理论上,随机过程的有限维分布函数族可以刻画随机过程的统计规律性;但实际应用中,绝大多数随机过程的有限维分布函数族无法确定(注:高斯过程可以求出).为了实际应用的需要,我们引入随机过程的数字特征.实际应用中的思路是:随机试验得到若干条样本曲线估计数字特征.随机过程里我们会遇到均值函数,均方值函数,方差函数,均方差函数(标准差函数),(自)相关函数,协方差函数.这些数字特征之间的关系我就不罗列了,但是要注意最基本的数字特征有二:均值函数和自相关函数.其中自相关函数具有三个基本性质:非负性、对称性、非负定性.均值函数和自相关函数的计算公式为:,上述基本的数字特征的引入并非是自然的,一个基本的事实是:并非所有随机过程都有数字特征.那么我们为了保证随机过程有上述特征,我们需要对随机过程施加什么条件呢?(答:随机过程是二阶矩过程)Definition1.3.1:随机过程是二阶矩过程,如果其满足:,有成立.[下期预告]二维随机过程和复值随机过程+几类常用的随机过程。
随机过程随机过程的基本概念

2.2 随机过程的分类和举例
随机过程可以根据参数集 T 和状态空间 S 是离散集还是
连续集分为四大类.
1、离散参数、离散状态的随机过程 这类过程的特点是参数集是离散的,同时固定t ∈T, X(t)是离散型随机变量即其取值也是离散的。
例 2.2.1(贝努利过程)考虑抛掷一颗骰子的试验,设Xn
是第n(n≥1)次抛掷的点数,对于n=1,2,…的不同值, Xn是
,它不能用一个或几个随机变量来刻画,而要用一族无穷多
个随机变量来描绘,这就是随机过程. 随机过程是概率论的继续和发展. 被认为是概率论的“动力学
”部分. 它的研究对象是随时间演变的随机现象.
事物变化的过程不能用一个(或几个)时间t 的确定的函数 来加以描述. 对事物变化的全过程进行一次观察得到的结果是一个时间t 的 函数,但对同一事物的变化过程独立地重复进行多次观察所 得的结果是不同的,而且每次观察之前不能预知试验结果.
(3) 当 t
的分布函数为
1, x 0 F ( x) X( ) 0, x 0 2
第2章 随机过程的基本概念
2.1 随机过程的定义 2.2 随机过程的分类和举例 2.3 随机过程的有限维分布函数族 2.4 随机过程的数字特征 2.5 两个随机过程的联合分布和数字特征 2.6 复随机过程 2.7 几类重要的随机过程
“电压—时间函数”是不可能预先确知的,只有通过测量
才能得到. 如果在相同的条件下独立地再进行一次测量, 则得到的记录是不同的.
2.1 随机过程的定义
所谓一族随机变量,首先是随机变量,从而是该试验样
本空间上的函数;其次形成一族,因而它还取决于另一
个变量,即还是另一参数集上的函数. 所以,随机过程 就是一族二元函数. 定义2.1.1 设(Ω, F , P)是一个概率空间,T 是一个实的参 数集,定义在Ω 和T 上的二元函数 X(ω,t),如果对于任
随机过程1.3

P( A x1 ) x1 2 x2 P( A 2 x2 ) x1 2 x2
0, 1 , 3 2 , 3 1,
x1 1 1 x1 2 2 x1 3 x1 3
2 x2 1 1 2 x 2 2 ( x1 2 x2 ) 或 2 2 x2 3 2 x2 3
k=1 k 1
n
n
随机过程——西安电子科技大学数学与统计学院 冯海林
多元特征函数
设n维随机变量X=(X1,X2,…,Xn)的联合分布函数 为F(x1,x2,…,xn),则称
(u1, u 2 ,
u n ) E [e
j ( u1 X 1 u 2 X 2
un X n )
]
2
F
X( ) 2
( x ) P{ X x}
2
0 x 0 1 x 0
随机过程——西安电子科技大学数学与统计学院 冯海林 8
补例2.
设 S.P. X t A cos t , t 0其中A具有以下概率分布
1 P ( A i ) , i 1, 2 , 3 . 3
程的统计规律性.
随机过程——西安电子科技大学数学与统计学院 冯海林
4
补例1.设随机过程X={Xt=Vcosωt,t∈(-∞,+∞)},
其中ω为常数,V服从[0,1]上的均匀分布.
⑴确定X的两个样本函数. ⑵求t=3π/4ω时,随机变量的概率密度函数. ⑶求t= π ∕2ω 时X 的分布函数.
解 (1) 取V=1/2, 1/3分别得到两个样本函数 1 1 x 2 (t ) co s t x1 ( t ) c o s t 3 2
随机过程第二章

第27页,共30页。
维纳过程
定义:
设{W(t),-∞<t< ∞}为随机过程,如果
1. W(0)=0; 2. 它是独立、平稳增量过程;
维纳过程是正态过程的 一种特殊形式
3. 对任意s,t,增量W(t)-W(s)~N(0,σ2|t-s|), σ2>0
则称{W(t),-∞<t< ∞}为维纳过程,也称布朗运动过程。
平稳过程 定义: 设{X(t),t∈T}是随机过程,如果对任意常数τ和正整数n, t1,t2, …,tn∈T, t1+τ,t2+τ, …,tn+τ ∈T,(X(t1),X(t2), …,X(tn))与(X(t1+τ),X(t2+τ), …,X(tn+τ))有 相同的联合分布,则称{X(t),t∈T}为严平稳过程或侠义平稳过程。
例题2.6Leabharlann 设随机过程X(t)=Y+Zt,t>0,其中Y,Z是相互独立的N(0,1)随机变量,求 {X(t),t>0}的一、二维概率密度族。
第14页,共30页。
两个随机过程之间的关系
互协方差函数 互相关函数
定义: 设{X(t),t∈T},{Y(t), t∈T}是两个二阶矩过程,则称
B X ( s , t Y ) ˆ E [ X ( s ( ) m X ( s ) Y ( t ) ) m ( Y ( t )) s , t ] T ,
设XT={X(t),t∈T}是随机过程,对任意n≥1和t1,t2, …,tn ∈T,随机向量 (X(t1),X(t2), …,X(tn))的联合分布函数为
F t 1 , , t n ( x 1 ,x 2 , ,x n ) P { X ( t 1 ) x 1 , X ( t n ) x n }
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2 k
n
n
N ( k , )
定义 (随机过程的有限维特征函数族)
设{X(t),t∈T}是一个S.P.对于任意固定的t1,t2,…,tn ∈T, X(t1),X(t2),…,X(tn)是n个随机变量,称
(t1, t2 ,..., tn ; u1, u2 ,..., un )
E[e
Y (u) e X (au)
jbu
ⅳ (u)在( , )上一致连续.
ⅴ 若X与Y相互独立,Z=X+Y,则
Z (u) X (u)Y (u)
(可推广到n个相互独立随机变量)
ⅵ (u ) 是非负定的.
即对任意的n,任意复数Zk,任意实数uk (k=1,2,…,n),有
RX ( s , t ) a2 cos (t s), 2
a2 DX ( t ) C X ( t , t ) 2
s, t
t
2. 设S.P. X(t)=Acosωt+Bsinωt t≥0, ω为常数. A,B相互独立,同服从正态分布N(0,σ2) 求该过程的数字特征.
2
RX ( s, t ) E[ X ( s) X (t )]
2
0
1 2 a cos( s ) cos(t ) d 2 s, t
a2 cos (t s ), 2
CX ( s, t ) RX ( s, t ) mX ( s)mX (t )
为随机变量X的特征函数. 其中u为实参变量, e juX 为复随机变量
关于特征函数的几点说明
(1) 特征函数总是存在的. 对任意实数u,有|ejux|=1.故E[ejux]总存在.
(2)特征函数的性质(证明page17)
(u) (0) 1 ⅰ
ⅱ (u) (u)
ⅲ 若Y=aX+b ,a,b为常数,则
1 dx 2
e
v2 ju ( v ) 2
1 e 2
1 j u 2u 2 2
e
( v ju ) 2 2
dv e
1 j u 2u 2 2
特别X~N(0,1)时
(u ) e
u2 2
指数分布 r.v.X服从参数为λ (>0)的指数分布, 概率 密度为 e x , x 0
为随机过程的有限维特征函数族
§4 随机过程的数字特征
有限维分布函数族虽然能够完整描述随机 过程的统计特征,但是在实际中很难得到.
因此,如同随机变量一样,也用数字特征来 表征随机过程.即将随机变量的数字特征 推广到随机过程中.
但要注意其区别:随机过程的数字特征 不再是确定的数,而是确定的时间的函数.
(2)一般设v.r.(X1,…,Xn)的联合分布函数为 F(x1,x2,…,xn),g(x1,x2,…,xn)为连续函数. 若
g ( x1 , x2 ,..., xn ) dF ( x1 , x2 ,..., xn )
则v.r.Y=g(X1,X2,…,Xn)的数学期望存在.且
5. 均方值函数
设{X(t)}是一S.P. 对任意的t∈T, 若E[X(t)]2存在,则称 E[X(t)]2为S.P.X(t)的均方值函数.
记ΦX(t).即 ΦX(t)= E[X(t)]2 t∈T
随机过程的数字特征有如下关系
CX(s,t)=RX(s,t)-mX(s)mX(t) DX(t)=CX(t,t) ΦX(t)=RX(t,t) t∈ T t∈ T s,t∈T
(u
l 1 k 1
n
n
l
uk ) zl z k 0
ⅶ 设随机变量X的n阶原点矩(即E[Xk])存在,
则 (u ) 存在k(k≤n)阶导数,且有
(0) j EX , k n
(k ) k k
(3)一些重要分布的特征函数
单点分布 P(X=c)=1, c常数.则
(u) E[e juX ] e juc
f ( x)dg ( x) f ( xi ) pi
i
⑵当g(x)存在导数g´(x)时,有
f ( x)dg ( x) f ( x) g ( x)dx
利用Stieltjes积分可以统一离散型r.v.与连续型r.v.(或 随机变量的函数)的数学期望定义.如下
定义 设随机变量X的分布函数为F(x),若
§3 随机过程的有限维特征函数族
1.Stieltjes积分 定义 设f(x), g(x)是定义在[a,b]上的两个有界函数,对 [a,b] 的任一划分 a=x0 <x1<…<xn=b, 记 △=max{△xk} 任取ξ k∈[xk-1,xk],k=0,1,…,n.作和
S f ( k )[ g ( xk ) g ( xk 1 )]
k=1
解:由题意 X k (u) e
n k 1
, k 1,2,..., n
Y (u) X k (u) e
k 1
1 2 2 j k u k u 2
e
Y= Xk
k=1 n n n k 1 k 1
1 2 2 j ( k ) u ( k )u 2 k 1 k 1
4. 相关函数
设{X(t)}是一S.P.对任意的s,t∈T, 若 E[X(s)X(t)] 存在, 则称E[X(s)X(t)]为 S.P.X(t)的相关函数. (自相关函数)
记RX(s,t).即 RX(s,t)=E[X(s)X(t)]
显然 mX(t)=0时, CX(s,t)= RX(s,t)
s,t∈T
1. 均值函数 设{X(t)}是一S.P.
对任意的t∈T,若E[X(t)]存在,则称 E[X(t)]为S.P.X(t)的 均值函数. 记mX(t) 即 mX(t)= E[X(t)] t∈ T
2. 方差函数 设{X(t)}是一S.P.对任意的t∈T, 若 D[X(t)]=E[X(t)-mX(t)]2 存在, 则称D[X(t)]为S.P.X(t)的方差函数. 记DX(t). 即 DX(t)= E[X(t)-mX(t)]2 t∈ T
j ( u1 X ( t1 ) un X ( t n ))
j
e
ui X ( ti )
i 1
n
]
tn ; x1, xn )
dF (t1 ,
(ui ∈R, i=1,2,…,n)
为S.P.{X(t),t∈T}的n维特征函数.
称 { (t1 , t2 ,..., tn;u1, u2 ,..., un ), ti T , ui R, i 1,2,.., n}
特征函数应用举例:
1.设X服从参数为的 Poisson 分布,求 EX, EX , DX
2
解: 由题意 (u) e
( e ju 1)
则 (u) je e
ju ( e ju 1)
, (u) (e e )e
ju 2 2 ju
( e ju 1)
则利用特征函数性质: ( k ) (0) j k EXk
k nk 二项分布 P(X k ) C k p q , n
k=0,1,…,n.0<p<1,q=1-p.
则特征函数
(e ju p)k
(u ) E[e
juX
] e C p q
juk k 0 k n k
n
n k
( pe q)
ju
n
Poisson分布
P(X k )
(u1 , u2 , un ) E[e
j ( u1 X1 u2 X 2 un X n )
]
E[e
juX T
]
e
j ( u1x1 u2 x2 un xn )
dF ( x1, x2 ,
, xn )
为n维随机变量X的特征函数. 也称多元特征函数
多元特征函数具有与一元特征函数类似的性质 n维随机变量的特征函数与其联合分布函数 是一一对应的
k 1
n
S 存在,且与[a,b]的分法及ξ 的取法无关. 若极限 lim 0 k
则称此极限为f(x)对函数g(x)在[a,b]上的Stieltjes积分. 简称S积分.也称f(x)对g(x)在[a,b]上S可积. 记
b
a
f ( x)dg ( x)
设f(x), g(x)是定义在(-∞,+ ∞)上的两个函数,若 在任意有限区间[a,b] f(x)对 g(x)在[a,b] S可积,且
x dF ( x )
则X的期望为
E ( X ) xdF ( x)
并有以下结论
(1)设 v.r.X的分布函数为F(x), y=g(x)是连 续函数,若
g ( x) dF ( x)
则v.r.Y=g(X)的期望为
E (Y ) g ( x)dF ( x)
k
k!
e ,
k=0,1,2,…, λ >0
则特征函数
(u) E[e juX ] e
k 0
k juk
k!
e
ju k ( e ) e ju ( e ju 1) e e e e k! k 0
均匀分布 r.v.X~U(a,b],密度函数为
f ( x) 0, x 0
juX
则特征函数