第二章随机过程的基本概念_2.1 2.2 20140411
第二章随机过程的概念与基本
§ 2.2 随机过程的分布函数数字特征
是随机过程, 定义 2.2 设 X t ={X(t),t∈ T }是随机过程,对任意 n≥1 ∈ 是随机过程 ≥ 和 t1 , t 2 ,⋯ , t n ∈ T ,随机向量 ( X ( t1 ), X ( t2 ),⋯ , X ( tn )) 的联合分 随机向量 布函数为: 布函数为
其中
ρ = ρ X ( s, t )
定义 2.4 设 {X(t),t∈ T },{Y(t),t∈ T }是两个二阶矩过 , 是两个二阶矩过 程 , 则称
BXY ( s , t ) = E[( X ( s ) − m X ( s ))(Y ( t ) − mY ( t ))], s , t ∈ T
的互协方差函数, 为 {X(t),t∈ T }与 {Y(t),t∈ T }的互协方差函数 , 称 与 的互协方差函数
根据参数T及状态空间I是可列集或非可列集 根据参数T及状态空间I是可列集或非可列集,可以 及状态空间 是可列集或非可列集, 把随机过程分为以下四种类型: 把随机过程分为以下四种类型: (1)T和I都是可列的; 都是可列的; 和 都是可列的 (2)T非可列,I可列; 非可列, 可列; 非可列 可列 (3)T可列,I非可列; 可列, 非可列; 可列 非可列 (4)T和I都非可列。 都非可列。 和 都非可列
g t1 ,⋯,tn (θ 1 , θ 2 ,⋯ , θ n ) = E (exp{ i ∑ θ k x ( t k )})
k =1 n
是随机过程, 定义 2.3 设 X t ={X(t),t∈ T }是随机过程,如果对任意 t 是随机过程 存在, ∈ T ,E[X(t)]存在 , 则称函数 存在 m X ( t )def E[ X ( t )], t ∈ T 均值函数。 为 X t 的 均值函数 。 存在, 若对任意 t∈T ,E[(X(t)) ]存在,则称 X t 为二阶矩过 存在 程 , 而称 B X ( s , t ) = E [( X ( s ) − m X ( s ))( X ( t ) − m X ( t ))], s , t ∈ T 协方差函数。 为 X t 的 协方差函数 。 DX (t ) = BX ( t , t )def E[ X ( t ) − m X ( t )]2 , t ∈ T
第2讲 第二章随机过程的概念
RXY ( s, t ) E[ X ( s)Y t ]
互协方差函数为
BXY ( s, t ) Cov[ X ( s), Y t ]
E{[ X ( s) mX ( s)][Y (t ) mY (t )]}
例7 已知实随机过程X(t)具有自相关函数R(s,t), 令 Y(t)=X(t+a)-X(t) 求RXY(s, t), RYY(s, t).
设m n,
j 1
BY (n, m) min n, m pq,
RY (n, m) BY (n, m) E[Yn ]E[Ym ]
min n, m pq nmp 2
定义 设 X t , t T 和 Y t , t T 是两个随机过程,
2 1 2
x 1 t2
2 2
1 t 1 s
2
2 x1 x2
s, t 0, s t
例4 若从t=0开始每隔1/2秒抛掷一枚均匀的硬币做试 验,定义一个随机过程: t时出现正面; cos t , X (t ) t时出现反面. 2t 求 1) 一维分布函数F(1/2;x)和F(1,x); 2) 二维分布函数F(1/2, 1;x, y). 解(1) 这是独立随机过程(即在不同时刻的随机变量 相互独立) ,所以过程的有限维统计特性由一维确 定。 X(t cosπt 2t ) p 1/2 1/2
X t 的值称为随机过程在t时所处的状态。 X t 所有可能的值的集合,称状态空间, 记为I.
根据时间集和状态空间的不同,随机过程分为 四类: 1) T, I 均为离散;
2) T 离散, I 连续;
随机过程课程第二章 随机过程的基本概念
第一节 随机过程的定义及其分类 第二节 随机过程的分布及其数字特征 第三节 复随机过程 第四节 几种重要的随机过程简介
第一节 随机过程的定义及其分类
一、直观背景及例
例1 电话站在时刻t时以前接到的呼叫次数 一般情况下它是一个随机变数X ,并且依赖 时间t,即随机变数X(t),t[0,24]。
首页
(4)平稳随机过程
平稳过程的统计特性与马氏过程不同,它不 随时间的推移而变化,过程的“过去”可以对 “未来”有不可忽视的影响。
首页
返回
第二节 随机过程的分布及其数字特征
一、随机过程的分布函数
设{ X (t) ,t T }是一个随机过程,
一维
分布 对于固定的t1 T ,X (t1) 是一个随机变量,
F (t1,t2;x1, x2 ) =
x1
x2
f (t1, t2;y1, y2 )dy1dy2
则称 f (t1,t2;x1, x2 ) 为 X (t) 的二维概率密度
n维
n 维随机向量(X (t1 ) ,X (t2 ) ,…, X (tn ) )
分布 函数
联合分布函数
F (t1,t2 , ,tn;x1, x2 , , xn )
分布函数
FXY (t1, ,tn ;t1, ,tm ;x1, , xn ; y1, , ym )
P{X (t1) x1, , X (tn ) xn;Y(t1) y1, ,Y(tm ) ym }
称为随机过程和的n + m维联合分布函数
首页
相互 设 X (t) 和Y (t) ,t1,t2 , ,tn ,t1,t2 , ,tm T
首页
2.方差函数
随机过程{ X (t) ,t T }的二阶中心矩
第2章随机过程的基本概念
F ?? { F ?t1 , t2 ,? , tn ; x 1 , x 2 ,? , x n ?:
ti ? T , x i ? Ri , i ? 1,2, ? , n , n ? 0} 称F为XT 的有限维分布函数族. 定义3 过程 { X(t), t的? nT维} 特征函数定义为
φ?t1 , t2 ,? , tn;?1 ,θ 2 ,? ,θ n ?
? E{e i[θ 1 X (t1 )? ? } ?θ n X (tn )]
称 {φ(t1, t2 ,? , tn;θ 1 ,θ 2 ,? ,θ n ) : t1 , t2 ,? , tn ? T, n ? 1}
为XT 的有限维特征函数族. 特征函数和分布函数是相互唯一确定.
定义2 过程 { X(t),对t ?任T给} 的
t1 , t2 ,? , tn ? T ,
随机向量
?X (t1 ), X (t2 ),? , X (tn )?
的联合分布函数
F (t1 , t2 ,? , tn; x1 , x2 ,? , xn ) ?
P{ X (t1 ) ? x1 , X (t2 ) ? x2 ,? , X (tn ) ? xn }
X(t1,ω)
X(t2,ω)
t1
t2
X(t,ω1) X(t,ω2) X(t,ω3) tn
定义 对每一固定 ω?,Ω称 { X(t, ? ), t的? 一T}个样本函数.
X是t ?随ω?机过程
也称轨道, 路径,现实.
Ex.5 利用抛硬币的试验定义一个随机过程,
X(t)
?
?cos? t, ?
?2t
出现正面; 出现反面. t ? R.
过程识别
第二章随机过程的概念与基本讲解
例 6、设 { X i , i 1,2,} 是一独立随机变量序列,且有 相同的两点分布
X i -1 1
pi 1/2 1/2
n
令Y (0) 0,Y (n) X i 。 i 1
试求:随机过程 {Y (n),n 0,1,2,} 的均值函数和相关 函数。
§ 2.3 复随机过程
定义 2.5 设 { X t , t T } ,{Yt , t T } 是取实数值的两
例 2 设随机过程
X (t) Y Zt, t 0
其中,Y,Z 是相互独立的 N(0,1)随机变量,求此随机过 程的一、二维概率密度族。
注:二维正态分布的密度函数:
f (x, y)
1
2σ1σ2 1 ρ2
1
exp
2(1
ρ2
)
(
x
μ1 )2 σ12
2ρ(
第二章 随机过程的概念与基本类型
随机过程---随机信号 随机过程是与确定性过程相对立的一个概念.从信 息论的观点 ,对接收者来讲只有信号表现出某种不可预 测性才可能蕴涵信息.因为如果在信号收到以前接收者 已准确地预测它的一切,则这种信号是毫无用处的.类似 地,若接收者能从信号的过去正确地预测它的将来,将来 的部分信号即成多余。
x
μ1 )( y σ1 σ2
μ2
)
(
y
μ2 σ22
)2
例 3 设 X(t)是实随机过程,x 为任意实数,令
Y
(t)
1, 0,
X (t) X (t)
x, x,
证明随机过程 Y(t)的均值函数和相关函数分别为 X(t)的 一维和二维分布函数。
第二章 随机过程的基本概念
第二章随机过程的基本概念说明与解释2.1 随机过程的定义◆{X(t), t∈T}称为随机过程,是定义在样本空间Ω和参数集T上的一个二元函数◆当t=t0固定时,X(t0)为一个随机变量,当样本点ω固定时,X(ω,t)随时间变化,称为样本函数,在平面上为一条曲线,或折线段2.2 随机过程的分布◆对于随机过程{X(t), t∈T},当参数t取有限n个不同值时,则得到一个n维随机向量(X(t1),X(t2),⋯,X(t n)),它的概率分布即为概率论中多维随机向量的联合概率分布。
◆定理2.2.1的说明(1)对称性随机过程的n维分布函数F(x1,x2⋯,x n;t1,t2⋯,t n)=P[(X(t1)≤x1,X(t2)≤x2,⋯,X(t n)≤x n]上面大括号内是n个事件的积,事件的积运算满足交换律,所以对称性成立。
(2)相容性以二维随机向量(X,Y)为例,有F X(x)=F XY(x,∞)所以,相容性成立。
◆例2.2.1的说明因为U、V相互独立且同分布,都服从标准正态分布,因此它们的线性组合也服从正态分布,只需求出X(t)=U+tV的数学期望和方程即可。
(1)一维密度函数根据期望与方差的性质,有E(X(t))=E(U+tV)E(U)+tE(V)=0D(X(t))=D(U+tV)=D(U)+D(tV)=1+t2D(V)=1+t2而一维正态随机变量的密度函数为f(x)=1√2πσ{−(x−μ)22σ2}(2)n维密度函数可以根据定理1.2.2证明(X(t1),X(t2),⋯,X(t n))服从n维正态分布,所以下面只需求出其数学期望向量μ和协方差矩阵Σ根据(1)的计算结果,μ=E(X(t))为0向量cov(X(t i),X(t j))=cov(U+t i V,U+t j V)=cov(U,V)+t i cov(V,U)+t j cov(U,V)+t i t j cov(V,V)=D(U)+0+0+t i t j D(V)=1+t i t j记σij=1+t i t j,( i,j=1,2,⋯,n),Σ=(σij)n×n,x=(x1,x2,⋯,x n)由定理1.2.1知n维正态变量(X(t1),X(t2),⋯,X(t n))的密度函数为f(x)=1√2πn√|Σ|{−12(x−μ)TΣ−1(x−μ)}◆如果随机过程{X(t),−∞<t<+∞}的任意有限为分布都是正态分布,则称随机过程为正态过程,或高斯过程2.3 随机过程的数字特征◆随机过程的数字特征与概率论中的数字特征完全类似◆均方值函数存在的随机过程称为二阶矩过程◆例设随机过程X(t)=tV,t>0,其中V为离散型随机变量,其分布律为试求X(t)的均值函数、均方值函数、方差函数、均方差函数、自相关函数、协方差函数解根据概率论知识,E(V)=0.2,E(V2)=1,由此可得均值函数μX(t)=E(tV)=tE(V)=0.2t均方值函数ψX2(t)=E((X(t))2)=E((tV)2)=t2E(V2)=t2方差函数σX2(t)=ψX2(t)−(μX(t))2=t2−(0.2t)2=0.96t2均方差函数σX(t)=√σX2(t)=√0.96t自相关函数R X(s,t)=E(X(s)X(t))=E(sVtV)=stE(V2)=st自协方差函数C X(s,t)=R X(s,t)−μX(s)μX(t)=st−0.04st=0.95st◆在随机过程所有的数字特征中,均值函数和自相关函数是最基本的数字特征,其它数字特征都可从它们推出2.4 二维随机过程和复随机过程2.5 几类常用的随机过程◆平稳过程的分布只与参数的起点有关,而与参数的增量无关,即(X(t))与X(t+ℎ)同分布◆定理2.5.1的说明一般来说,利用随机过程的自协方差函数可以直接写出它的方差函数,但定理2.3.1告诉我们,当随机过程在初始时刻的状态为常数时,则已知方差可直接写出自协方差函数,即C X(t,t)=σX2(t)◆独立过程独立抛掷一颗骰子100次,观察每次掷出的点数,记X n为第n次出现的点数,则{X n, n=1,2,3,⋯,100}为独立过程(独立时间序列)◆参数为p的贝努利过程{X n, n≥1}是独立过程◆以贝努利过程{X n, n≥1}说明平稳独立增量过程记N n =∑X i n i=1,则服从二项分布B(n,p). 当m <n 时, N n −N m =N m+1+N m+2+⋯+N n ~B(n −m,p) 对任意正整数k ≥1,N n+k −N m+k =N m+k+1+⋯+N n+k ~B(n −m,p) 所以,{X n , n ≥1}是平稳过程其次,如果n 1<n 2<⋯<n mm ,可证N n 2−N n 1,N n 3−N n 2,⋯,N n m −N n m−1相互独立。
第二章 随机过程基本概念
第二章 随机过程的基本概念
§2.1 随机过程的定义 §2.2 随机过程的分布与数字特征 §2.3 随机过程的分类
§2.1 随机过程的定义
引入:
初等概率论的研究对象
§2.1 随机过程的定义
引例1
某电话交换台在时间段[0,t]内接到的电话次数记为X(t),
随机现象某个时刻或有限个时刻静态的结果 即一个或有限个随机变量(随机向量). 问 描述随机现象的整个变化过程, 需要多少个随机变量?
Fn ( xi1 , xi2 ,, xin , ti1 , ti2 ,, tin ) Fn ( x1 , x2 ,, xn , t1, t2 ,, tn )
(2)相容性 对任意自然数m<n,随机过程的m维分布函数 与n维分布函数之间有关系:
Fm ( x1 , x2 ,, xm , t1 , t2 ,, tm ) Fn ( x1 , x2 ,, xm , ,, , t1 , t2 ,, tn )
解
X(t ) A (t (T0 kT )), T0 kT t T0 (k 1)T (k 0, 1, 2) T
§2.2 随机过程的分布与数字特征
2、随机过程的二维分布函数
定义 设{ X ( t ), t T }是一个随机过程,对任意固定的
T 故有,T0 X (t ) t kT h( X (t )), T0 kT t T0 (k 1)T A
29 November 2015
随机过程
§2.2 随机过程的分布与数字特征
例1 设X ( t ) X cos(at ), t ,其中a为常数,
X服从标准正态分布,试求X(t)的一维概率密度函数。
随机过程的基本概念
理学院 施三支
第2章 随机过程的基本概念
全局特征与局部特征
若对于任意时刻 t1, t2, …, tn T 和任意 n 1 ,随机过程 X (t) 的 n维分布函数或概率密度都已知,则认为该随机 过程的统计描述是完全的或者具有全局统计特征. 通常描述的是随机过程的局部统计特征(n 为有限值), 例如一维、 n维联合分布函数(及相应的数字特征等).
Ft ( x ) P{ X (t ) x}
其一维概率密度函数为
dFt ( x ) ft ( x) dx
相应的一维特征函数为
t ( ) E [ e
i X ( t )
]i x dx
理学院 施三支
第2章 随机过程的基本概念
n 维分布
[定义] 设 XT ={X (t), t T } 是随机过程,对任意 n 1 和 t1, t2, …, tn T ,随机过程 XT 的 n 维分布函数为
其n+m 维联合概率密度为 f s1 ,, s n , , t1 ,,t m ( x1 , , x n , y1 , , y m )
Fs1 ,, s n , t1 ,,t m ( x1 , , x n , y1 , , y m ) x1 x n y1 y m
理学院 施三支
第2章 随机过程的基本概念
随机过程的分类
连续随机过程
参数连续,状态连续
离散随机过程
参数连续,状态离散
连续随机序列
参数离散,状态连续
离散随机序列
参数离散,状态离散
目录
理学院 施三支
第2章 随机过程的基本概念
一维分布
[定义] 随机过程XT ={X (t), t T }在时刻 t 的一维分布函数为
第2章_随机过程的基本概念
t1
100
150
200
接收机噪声
随时间变化的随机变量----随机变量的集合
随机过程的直观解释:
对随机相位信号或噪声信号作一次观测相当于做一次随
机试验,每次试验所得到的观测记录结果xi(t)是一个
确定的函数,称为样本函数,所有这些样本函数的全体
构成了随机过程。
在实际中还有一类过程,它是按照确定的数学公式产
例2. 设随机过程X(t)=tX,X为标准正态分布的随机变量。 试问X(t)是否平稳?
解:
所以X(t)是非平稳的。
2. 平稳随机过程自相关函数的性质 性质:
(5)若随机过程含有周期分量,则自相关函数也含有周 期分量,
例3 已知平稳随机过程X(t)的自相关函数为
求X(t)的均值和方差。 解:
连续型随机过程 连续
时刻
续
离散
离散
连续
离散随机序列
离散
离散
(2)按概率分布分类
高斯随机过程 瑞利随机过程
对数正态随机过程
(3)按统计特性分类
平稳随机过程
非平稳随机过程
§ 2.2 随机过程的统计描述
1.随机过程的概率分布 (1)一维概率分布 X(t)在任意时刻t是一个随机变量,这个随机变量的概率 分布和概率密度定义为随机过程的一维概率分布和概率 密度。
(3)掌握相关函数的性质;
(4)理解白噪声的定义和特点;
本章是本课程的基础和核心
§2.1随机过程的基本概念及定义
1.实际背景
例2.1 分析随机相位信号
X (n) A cos(0 n )
Φ~R(-π, +π)
1 0 -1 0 1 0 -1 0 1 0 -1 0 1 0 -1 0 10 20 30 40 50 60 70 80 10 20 30 40 50 60 70 80 10 20 30 40 50 60 70 80 10 20 30 40 50 60 70 80
第二章随机过程的基本概念
定时刻 n=ni,则
X (ni , Φ) = Acos(ω0ni + Φ) 是随机变量 Φ 的函数,也是一个随机变量。
对于不同的时刻 t1, t2 ,", ti ," ,X(t)对应于不同的随机变量 X (t1 ) , X (t2 ) ,…, X (ti ) …, 通常 X (ti ) 称为随机过程 X (t) 在 t = ti 时刻的状态, 可见 X (t) 可以看作为一族随时间而变化的随机变
量。
若固定 e = ei , t = t j ,则 X (t j , ei ) 表示第 i 次试验中的第 j 次测量,它是随机过程的某一特 定的值,通常记为 xi (t j ) 。
当 e 和 t 均变化时,这时才是随机过程完整的概念,从以上的分析可以看出,随机过程是一组
样本函数的集合,或者也可以看成是一组随机变量的集合。因此,我们可以从另一个角度来对随机 过程来下一个定义。
5
0
-5
50
50
100
150
200
0
-5
0
50
100
150
200
5
0
-5
0
50
100
150
200
5
0
-5
0
50
t1 100
150
200
图2.2 接收机噪声
另外,对应于某个时刻 t1 , x1 (t1 ) , x2 (t1 ) ,…,取值各不相同,也就是说, X (t1 ) 的可能取值
是 x1 (t1 ) 、 x2 (t1 ) 、┄之一,在 t1 时刻究竟取哪个值是不能预知的,故 X (t1 ) 是一个随机变量。同 理,在 t = tk 时, X (tk ) 也是一个随机变量,可见 X (t) 是由许多随机变量构成的。
第二章 随机过程的概念与基本类型
2 sin( t ) sin( cos[( s s ) ] t ) DZ 2 cos( s ) cos( t ) sin( s ) sin( t )
2
2
cos[( s t ) ]
例2.2.2 设X(t)=Y+Zt, t>0,Y, Z~N(0, 1),求{X(t), t>0}的一、二维概率密度族。
ft ( x) x 2 exp 2 2 2 1 1 2 1 t
2
2 x exp 2 2 1 t
B X s , t E X s X t m X s m X t E Y Zs Y Zt E Y
举例
例2.2.1 设X(t)=Ycos(t)+Zsin(t), t>0,Y, Z相互 独立,EY=EZ=0,DY=DZ=2。求{X(t), t>0} 的均值函数和协方差函数。 解 :m ( t ) EX ( t ) E [Y cos( t ) Z sin( t )] X
cos( t ) EY sin( t ) EZ 0
1
1 t 2 B 1 st
1 st 2 1 s
2
x 2
T
1
1 s 1 t 1
2 2
x2 1 2 2 1 s
1 s 1 t
2 2
x1 x 2
2 1 t x2
B X ( s , t ) E [( X ( s ) EX ( s ))( X ( t ) EX ( t ))] E [ X ( s ) X ( t )] EX ( s ) EX ( t ) E [ X ( s ) X ( t )]
第二章、随机过程的基本概念
{V (t),t 0}。 1、设已给概率空间(, F, P)及参数集T (,),则称
{X (,t), ,t T},
2020年5月6日星期三
机动 目录 上页 下页 返回 结束
第2页共51页
随机过程(西电版) 2.1 随机过程的定义
第2章 随机过程的基本概念
为该概率空间上的随机过程,简记为 {X (t),t T}。
随机过程(西电版)
2.4 复随机过程
第2章 随机过程的基本概念
设 {X (t),t T},{Y (t),t T}为两个实随机过程,则称
{Z(t) X (t) iY(t),t T}
为复随机过程.
1、复随机过程的数字特征 设复随机过程 {Z (t),t T} 称
(1)均值函数为 mZ (t) E[Z (t)] mX (t) imY (t);
x2
P
A
x1,
A 2
x2
PA x1, A 2x2
3•
x1 2x2
2•
P( P(
A A
x1), x1 2x2 ), x1
2
x2 2x2
1•
•
•
•
1 23
x1
0,
x1
2x2 ,
x1
1或x1
2x2 ,
x2
1 2
F
0,
3
;
x1,
x2
1 3
,
x1
2x2,1
x1
2或x1
2x2 ,
0,
3
;
x1,
x2
.
2020年5月6日星期三
机动 目录 上页 下页 返回 结束
第9页共51页
随机过程2(西.电2版随) 机过程的有限维分布函数族第2章 随机过程的基本概念
第二章 随机过程的基本概念
Байду номын сангаас
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
例、设随机相位信号
X (n) cos(n /10 )
其中 {0, / 2} ,且取值概率各为1/2, 求 n1 0 , n2 10 时的一维和二维概率分布。 解、
1
x1 (n) cos(n /10)
xi (n, i ) A cos(0n i )
随机相位信号
2007年10月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
5 0 -5 5 0 -5 5 0 -5 5 0 -5 0 50 100 150 200 0 50 100 150 200 0 50 100 150 200 0 50 100 150 200
(t1 , t2 ,
xn )
E{exp[ j (u1 X (t1 ) u2 X (t2 )
exp[ j (u1 X (t1 ) u2 X (t2 ) dF (t1 , t2 , tn ; x1 , x2 ,
ui R, ti T , i 1, 2, 为随机过程{ X (t ),t T }的n维特征函数.
模拟自然界实际的随机过程 。
1 0.8 0.6 0.4 0.2 0
0
50
100
150
200
伪随机序列
2007年10月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
伪随机序列应用举例
GPS系统中的码分多址(CDMA)
GPS卫星
0
GPS接收机
伪随机码自相关函数
2007年10月
第二章 随机过程的基本概念.
4
5
随机变量X (t1 )
x1 (t )
随机序列
x2 (t )
x3 (t ) xn (t )
t1
噪声电压
xi (t )为样本函数
每一个样本函数都是 一个确定的时间函数 随机过程在任意时刻 的状态是一随机变量
连续随机过程 离散随机过程
连续随机序列 离散随机序列
随机过程是一族时间函数的集合
6
设正弦波随机过程为 X (t ) A cos 0t 其中 0 为常数 A为均匀分布在(0,1)内的随机变量, 画出随机过程X (t ) 的几个样本函数的图形.
2 (t ) 就表征消耗在单位电阻 上的瞬时交流功率的统 计平均值 .
25
三、自相关函数
表征了随机过程在任意两个时刻之间的关联程度
m X (t ) X (t ) mY (t ) Y (t )
m X (t )
mY (t )
m X (t ) X (t )
X (t )起伏慢
Y (t )起伏快
2 2 若 A , 则 X (t ) cos 0t 为一个确定性函数 3 3
7
设正弦波随机过程为 X (t ) A cos 0t 其中 0 为常数 A为均匀分布在(0,1)内的随机变量, 画出随机过程X (t ) 的几个样本函数的图形.
若 A 0, 则 X (t ) 0 为一个确定性函数
[ x m X (t1 )][ y mY (t 2 )] f XY ( x, y; t1 , t 2 )dxdy
C XY (t1 , t 2 ) RXY (t1 , t 2 ) m X (t1 )mY (t 2 )
若对任意t1 , t 2 都有RXY (t1 , t 2 ) 0, 则称X (t ), Y (t )是正交过程, 此时有C XY (t1 , t 2 ) m X (t1 )mY (t 2 )
第二章随机过程基本概念.
为称使可积
}: ({ , ( , ( , (, 0 , (1111T t t X t x f dx
t x f t x F t x f x
Î=³ò¥-(2若有的一维概率分布。
为称满足}: ({}{1
, 0} ({T t t X p p
p p x t X P k k k k k
k Î=³==å
¥¥-k k iux X k k iux X p e
u t p x t X P t X dx t x f e u t t x f t X k , ( (( ( 2 , ( , ( , ( (111jj则有分布列若(,则
有密度若(
有时也需要利用常用的一些特征函数来求随机变量的分布函数,由特征函数与分布函数的一一对应性有:
cos(
(Q
+
=t
a
t
X w
的均值函数,方差函数和自相关函数。其中, a , w为常数, Q是在(0, 2p上均匀分布的随机变量。例4试求随机相位余弦波
2随机过程的特征函数
的一维特征函数。
为称为随机变量,记
由于给定( , ( ( ( , ( (, ( (t X u t u e
E u t t X T t X t X t iuX X jjjÙ==Îåò====
为X (t的有限维分布函数族。
为随机过程的n维分布函数。称关于随机过程X (t的所有有限维分布函数的集合
注意:随机过程的n维分布函数描述了随机过程在任意n不同时刻的状态之间的联系。
随机过程X (t的有限维分布函数族的意义何在?随机过程的n维分布函数(或概率密度能够近似地描述随机过程的统计特性,而且, n越大,则n维分布函数越趋完善地描述随机过程的统计特性。
随机过程随机过程的基本概念
2.2 随机过程的分类和举例
随机过程可以根据参数集 T 和状态空间 S 是离散集还是
连续集分为四大类.
1、离散参数、离散状态的随机过程 这类过程的特点是参数集是离散的,同时固定t ∈T, X(t)是离散型随机变量即其取值也是离散的。
例 2.2.1(贝努利过程)考虑抛掷一颗骰子的试验,设Xn
是第n(n≥1)次抛掷的点数,对于n=1,2,…的不同值, Xn是
,它不能用一个或几个随机变量来刻画,而要用一族无穷多
个随机变量来描绘,这就是随机过程. 随机过程是概率论的继续和发展. 被认为是概率论的“动力学
”部分. 它的研究对象是随时间演变的随机现象.
事物变化的过程不能用一个(或几个)时间t 的确定的函数 来加以描述. 对事物变化的全过程进行一次观察得到的结果是一个时间t 的 函数,但对同一事物的变化过程独立地重复进行多次观察所 得的结果是不同的,而且每次观察之前不能预知试验结果.
(3) 当 t
的分布函数为
1, x 0 F ( x) X( ) 0, x 0 2
第2章 随机过程的基本概念
2.1 随机过程的定义 2.2 随机过程的分类和举例 2.3 随机过程的有限维分布函数族 2.4 随机过程的数字特征 2.5 两个随机过程的联合分布和数字特征 2.6 复随机过程 2.7 几类重要的随机过程
“电压—时间函数”是不可能预先确知的,只有通过测量
才能得到. 如果在相同的条件下独立地再进行一次测量, 则得到的记录是不同的.
2.1 随机过程的定义
所谓一族随机变量,首先是随机变量,从而是该试验样
本空间上的函数;其次形成一族,因而它还取决于另一
个变量,即还是另一参数集上的函数. 所以,随机过程 就是一族二元函数. 定义2.1.1 设(Ω, F , P)是一个概率空间,T 是一个实的参 数集,定义在Ω 和T 上的二元函数 X(ω,t),如果对于任
第二章 随机过程的概念和类型
第二章 随机过程的概念和基本类型2.1 随机过程的基本概念随机过程是随机数学一个十分广泛的分支,它研究的是客观世界中随机现象演变过程的统计规律性.随机过程理论不仅广泛应用于自然科学的各个领域(例如物理学、生物学、电子技术等),而且在社会科学的许多领域也日益受到重视.我们都知道,初等概率论的主要研究对象是随机现象,可以用一个或有限个随机变量来描述随机试验所产生的随机现象.但是,随着科学技术的不断发展,我们必须对一些随机现象的过程进行研究,也就是要考虑无穷多个随机变量,而且解决问题的出发点不是随机变量的独立样本,而是无穷个随机变量的一次具体观测.这时,必须用一簇随机变量才能刻画这种随机现象的全部统计规律,这种随机变量簇就是随机过程.下面先考察几个例子.例 2.1 某人不断地掷一颗骰子,设()X n 表示第n 次掷骰子时出现的点数,1,2,n =⋅⋅⋅,对于任意一个n ,在第n 次掷骰子前不知道试验的结果会出现几点,因此,()X n 是一个随机变量.这样,随机现象可以用一簇随机变量{(),1}X n n ≥来描述.例2.2 设()X t 表示某流水线从开工(0t =)到时刻t 为止的累计次品数,在开工前不知道时刻t 的累计次品数将有多少,因此,()X t 是一个随机变量,假设流水线不断工作,随机现象可以用一簇随机变量{(),0}X t t ≥来描述.例2.3 在天气预报中,若以()X t 表示某地区第t 次统计所得到的该天最高气温,则()X t 是一个随机变量,为了预报未来该地区的气温,我们必须用一簇随机变量{(),0}X t t ≥来描述它的统计规律性.例2.4 在海浪分析中,需要观测某固定点海平面的垂直振动,设()X t 表示在时刻t 该点海平面相对于平均海平面的高度,则()X t 是一个随机变量,我们可以用一簇随机变量{(),0}X t t ≥来描述它的统计规律性.上述例子的共同点是,不是静止地研究某种随机现象,从而研究个别随机变量,而是动态地关心某种随机现象如何随时间变化而发展的,也就是说,需要研究许多随机变量组成的一簇随机变量.一般地,这簇随机变量包含无限多个随机变量,如果这簇随机变量包含有限多个随机变量(例如例 2.1),那么,这类问题用初等概率论中多维随机变量来解决.一簇随机变量描述了随机现象的变化发展过程.为了更深入地研究随机过程的相关性质,我们先给出随机过程的一般定义.定义2.1 设(,ΩF ,)P 是一概率空间,T 是给定的参数,若对于任意t T ∈,有一个随机变量(,)X t ω与之对应,则称随机变量簇{(,),}X t t T ω∈是(,ΩF ,)P 上的随机过程(stochastic process ),简记为随机过程{(),}X t t T ∈,在不致引起混淆的情况下,也可记为()X t .T 为参数集(或指标集),通常表示时间,t 为参数(或指标).需要说明的是:上述定义中的参数集T 可以是时间集,也可以是长度、重量、速度等物理量的集合,随机过程本来通称随机函数,当参数集T 是时间集时称为随机过程,但现在将参数集不是时间集的随机函数也称随机过程,对参数集T 不再有时间限制.在例2.1中,{1,2,}T =⋅⋅⋅,在例2.2, 例2.3和例2.4中[0,)T =+∞,一般地,如果T 由有限多个或可列无限个元素组成的集合,则称{(),}X t t T ∈为离散时间(或离散参数)的随机过程,例2.1是离散时间的随机过程,当T 为有限集时,{(),}X t t T ∈就是概率论中多维随机变量;如果T 是一区间,则称{(),}X t t T ∈为连续时间(或连续参数)的随机过程,例2.2, 例2.3 和例2.4都是连续时间的随机过程.从数学的角度看,随机过程{(),}X t t T ∈是定义在T R ⨯上的二元函数,对固定的t ,(,)X t ω是(,ΩF ,P )上的随机变量,随机变量()X t 所取的值称为随机过程在时刻t 所处的状态(state ),随机过程{(),}X t t T ∈所有随机变量的全体称为随机过程的状态空间(state space ),记为I ;对固定ω,(,)X t ω是定义在T 上的函数,称为随机过程{(),}X t t T ∈的一个样本函数(sample function )或轨道(orbit ),样本函数的全体称为样本函数空间.在例2.1中,{1,2,3,4,5,6}I =;在例2.2中,{0,1,2,}I = ;在例2.3中,(,)I =-∞+∞,在例2.4中[0,)I =+∞.不难看出,在上述例子中,把状态空间作适当扩大,仅仅是为了数学上处理的方便,如果I 是由有限个或可列无限个元素组成的集合,则称{(),}X t t T ∈为离散状态的随机过程,例2.1和例2.2都是离散状态的随机过程;如果I 是一个区间,则称{(),}X t t T ∈为连续状态的随机过程,例2.3和例2.4都是连续状态的随机过程.现将这一分类列表如下:表2-1随机过程的分类随机过程的分类,除了按照参数集和状态集是否可列外,还可以进一步根据过程之间的概率关系进行分类,如独立增量过程、Poisson 过程、Markov 过程、平稳过程、鞅过程等.2.2 随机过程的分布概率论基本内容之一是研究随机变量的分布,随机变量的分布刻画了随机变量的统计规律,分布的表现形式是分布函数(或离散型随机变量的概率函数,或连续型随机变量的概率密度).我们知道,随机过程{(),}X t t T ∈由一簇随机变量组成,当参数集T 为有限集时,随机过程{(),}X t t T ∈由有限个随机变量组成,它本质上与概率论中的多维随机变量相同,可以用多维随机变量的分布函数(或概率函数,或密度函数)来表示随机过程{(),}X t t T ∈的分布;当T 为无限集时,也可以借助有限个随机变量的联合分布来刻画随机过程{(),}X t t T ∈的分布.对于任意一个t T ∈, ()X t 是一维随机变量,其分布函数为(;){()},F x t P X t x x R =≤∈称(;)F x t 为随机过程{(),}X t t T ∈的一维分布函数,显然,对于不同的t ,()X t 是不同的随机变量,因此,(;)F x t 一般也不同,全体一维分布函数组成的集合{(;),:}F x t x R t T ∈∈ F 1称为随机过程{(),}X t t T ∈的一维分布函数簇.对于任意两个12,t t T ∈, ()12(),()X t X t 是二维随机变量,其分布函数为{}21212112212(,;,)(),(),(,)F x x t t P X t x X t x x x R ≤≤∈称1212(,;,)F x x t t 为随机过程{(),}X t t T ∈的二维分布函数,显然,对于不同的12,t t ,()12(),()X t X t 是不同的随机变量,因此,1212(,;,)F x x t t 一般也不同,全体二维分布函数组成的集合212121212{(,;,),(,):,}F x x t t x x R t t T ∈∈ F 2称为随机过程{(),}X t t T ∈的二维分布函数簇.一般地,对于任意n 个12,,,n t t t T ∈ , ()12(),(),,()n X t X t X t ⋅⋅⋅是n 维随机变量,其分布函数为{}121211(,...;,,,)(),,(),n n n n F x x x t t t P X t x X t x ≤⋅⋅⋅≤ 1(,,)n n x x R ⋅⋅⋅∈称11(,,;,,)n n F x x t t 为随机过程{(),}X t t T ∈的n 维分布函数,显然,对于不同的12,,,n t t t ,()1(),,()n X t X t ⋅⋅⋅是不同的随机变量,因此,11(,,;,,)n n F x x t t 一般也不同,全体n 维分布函数组成的集合1111{(,,;,,),(,,):,,}n n n n n F x x t t x x R t t T ⋅⋅⋅⋅⋅⋅⋅⋅⋅∈⋅⋅⋅∈ F n 称为随机过程{(),}X t t T ∈的n 维分布函数簇.定义2.2 {(),}X t t T ∈全体一维分布函数簇F 1、二维分布函数簇F 2⋅⋅⋅的并集F 1n n F ∞== 11111{(,,;,,),(,,):,,,1}n n n n n n F x x t t x x R t t T n ∞=∈⋅⋅⋅∈≥称为随机过程{(),}X t t T ∈的有限维分布函数簇.如果随机过程{(),}X t t T ∈是一个连续状态的随机过程,对于任意,()t T X t ∈通常是连续型随机变量,其密度函数为(;)f x t .称(;)f x t 为随机过程{(),}X t t T ∈的一维密度函数,全体一维密度函数组成的集合称为随机过程{(),}X t t T ∈的一维密度函数簇;一般地,称()1(),,()n X t X t 的密度函数11(,,;,,)n n f x x t t 为随机过程{(),}X t t T ∈的n 维密度函数,全体n 维密度函数组成的集合称为随机过程{(),}X t t T ∈的n 维密度函数簇. 随机过程{(),}X t t T ∈一维密度函数簇、二维密度函数簇 的并集111{(,,;,,:,,,1)}n n n f x x t t t t T n ∈≥ 称为随机过程{(),}X t t T ∈的有限维密度函数簇.类似可以得到离散状态随机过程{(),}X t t T ∈的有限维概率函数簇.随机过程{(),}X t t T ∈有限维分布函数簇、有限维密度函数簇、有限维概率函数簇统称为随机过程{(),}X t t T ∈的有限维分布簇.随机过程{(),}X t t T ∈有限维分布函数簇满足如下两条性质:(1)(对称性) 设12,,,n i i i 为1,2,,n 的任意排列,12,,,n t t t T ∀∈ ,则1111(,,;,,)(,,;,,)n n n n i i i i F x x t t F x x t t =(2)(相容性 consistent )设121,,,,,,,m m n m n t t t t t T +<∀∈ ,则1111(,,,,;,,)(,,;,,)m n m m F x x t t F x x t t ∞∞=反之,对于给定的满足对称性和相容性的分布函数簇,是否存在一个以它作为其有限维分布函数簇随机过程?Kolmogorov 在1931年证明了下述定理肯定地回答了.定理2.1 (Kolmogorov 存在定理)设已知参数集T 满足对称性和相容性的分布函数簇F ,则必存在一概率空间(,ΩF ,P )及定义在上的随机过程{(),}X t t T ∈,它的有限维分布函数簇是F .下面举例说明求随机过程的一维、二维分布.例2.4 设随机过程(),0X t tV t =≥,V 为随机变量,概率函数为{1}0.4,P V =-= {1}0.6P V == 求随机过程()X t 的一维分布函数();12F x 与(;2)F x 及二维分布函数()12,;12,2F x x解 当12t =时,(12)2X V =是离散型随机变量;当2t =时,(2)2X V =是离散型随机变量,它们的概率函数分别为分布函数分别为 0,121;0.4,121221,12x F x x x <-⎧⎪⎛⎫=-≤<⎨ ⎪⎝⎭⎪≥⎩ 和 0,2(;2)0.4,221,2x F x x x <-⎧⎪=-≤<⎨⎪≥⎩当1212,2t t ==时,()()(12),(2)2,2X X V V =是二维离散型随机变量,它的概率函数为因此,()(12),(2)X X 分布函数为 (){}1212,;12,2(12),(2)F x x P X x X x =≤≤=121212121220,0.4,12122,12221,122x x x x x x x x <-<-⎧⎪-≤<≥-≥--≤<⎨⎪≥≥⎩或且且且2.3 随机过程的数字特征定义2.3 随机过程{(),}X t t T ∈,如果对于任意,()t T EX t ∈存在,称()(),X m t EX t t T =∈ (2.1)为随机过程{(),}X t t T ∈的均值函数(expectation function ),简记()m t .定义 2.4 随机过程{(),X t t T ∈,如果对于任意,,s t T ∈ [()()][()()]E X s m s X t m t --存在,称(,)[()()][()()],X C s t E X s m s X t m t -- ,s t T ∈ (2.2)为{(),}X t t T ∈的自协方差函数(self covariance - function ),简称协方差函数,简记(,)C s t ;称 (,)[()()],X R s t E X s X t ,s t T ∈ (2.3) 为随机过程{(),}X t t T ∈的自相关函数(self correlation - function ),简称相关函数,简记为(,)R s t .自协方差函数(,)C s t 是随机过程{(),}X t t T ∈本身在不同时刻状态之间线性关系程度的一种描述,特别地,当s t =时,称为随机过程{(),}X t t T ∈的方差函数(variance function ).2()(,)[()()],X X D t C t t E X t m t t T =-∈ (2.4)由Schwarz 不等式知,随机过程{(),}X t t T ∈的协方差函数和相关函数一定存在,且有下面的关系式(,)(,)()()X X X X C s t R s t m s m t =-.特别地,当均值函数()0X m t ≡时,(,)(,)X X C s t R s t =.从定义可以知道,均值函数()m t 是反映随机过程{(),}X t t T ∈在时刻t 的平均值; 方差函数()X D t 是反映随机过程{(),}X t t T ∈在时刻t 对均值函数()m t 的偏离程度,而协方差函数(,)C s t 和相关函数(,)R s t 反映的是随机过程{(),}X t t T ∈在时刻s 和t 的线性相关程度.例2.5 设随机过程()cos()sin(),0X t Y t Z t t θθ=+>,其中,Y Z 是相互独立的随机变量,且20,EY EZ DY DZ σ====,求{(),0}X t t >的均值函数()m t 和协方差函数(,)C s t .解 由数学期望的性质()[cos()sin()]cos()sin()0EX t E Y t Z t t EY t EZ θθθθ=+=+=又由,Y Z 的相互独立,因此(,)(,)[()()]X X C s t R s t E X s X t ==[cos()sin()][cos()sin()]E Y s Z s Y t Z t θθθθ=++222cos()cos()sin()sin()cos[()]s t EY s t EZ t s θθθθσθ=+=-类似可以定义两个随机过程的互协方差函数和互相关函数.定义2.5 设随机过程{(),}X t t T ∈,{(),}Y t t T ∈,称(,)[()()][()()],,XY X Y C s t E X s m s Y t m t s t T --∈ (2.5)为{(),}X t t T ∈与{(),}Y t t T ∈的互协方差函数(mutual covariance function ),称(,)[()()],,XY R s t E X s Y t s t T ∈ (2.6)为{(),}X t t T ∈与{(),}Y t t T ∈的互相关函数(mutual correlation function ).如果对任意,s t T ∈,有(,)0XY C s t =,则称{(),}X t t T ∈与{(),}Y t t T ∈互不相关.显然有(,)(,)()()XY XY X Y C s t R s t m s m t =- (2.7)例 2.6 设(),Z t X Yt t R =+∈,若已知二维随机变量(,)X Y 的协方差矩阵为2122σρρσ⎛⎫ ⎪⎝⎭,求()Z t 的协方差函数. 解 由数学期望的性质121122(,){[()()][()()]}Z X Y X Y C t t E X Yt m m t X Yt m m t =+-++-+1122{[()()][(()]}X Y X Y E X m Yt m t X m Yt m t =-+--+-2[()()][()()]X X X Y E X m X m E X m t Y m =--+--112[()()][()()]Y X Y Y E t Y m X m E t t Y m Y m +--+--222112112122()XY XY XX YY C t C t C t t C t t t t σρσ=+++=+++例 2.7 设两个随机过程()sin()X t A t ωθ=+与()sin()Y t A t ωθϕ=+-,其中,,,A B ωϕ为常量ϕ为[0,2]π上的均匀分布的随机变量,求12(,)XY R t t .解 设12t t <,则212121201(,)[()()]sin()sin()2XY R t t E X t Y t A t B t d πωθωθϕθπ==++-⎰ 211211210sin(){sin()cos[()]cos()sin[()]}2AB t t t t t t t d πωθωθωϕωθωϕθπ=++--++--⎰222110{cos[()]()2AB t t sin t d πωϕωθθπ=--+⎰ 221110sin[()]sin()cos()}t t t t d πωϕωθωθθ+--++⎰ 21cos[()]2AB t t ωϕ=-- 例 2.8 设()X t 为信号过程,()Y t 为噪音过程,令()()()W t X t Y t =+,则()W t 的均值函数为()()()w X Y m t m t m t =+其相关函数为(,)[()()][()()]w R s t E X s Y s X t Y t =++[()()][()()]E X s X t E X s Y t =+[()()][()()]E Y s X t E Y s Y t ++(,)(,)(,)(,)X XY YX Y R s t R s t R s t R s t =+++上式表明两个随机过程之和的相关函数可以表示为各个随机过程的相关函数之和.特别地,若两个随机过程的均值函数恒为0且互不相关时,有(,)(,)(,)W X Y R s t R s t R s t =+2.4 复值随机过程在工程技术上,常把随机过程表示成复数的形式进行研究更为方便.例如,在许多有关谱函数的运算要用到Fourier 变换,就需要复数形式.定义2.6 设{(),}X t t T ∈,{(),}Y t t T ∈是取值实数的两个随机过程,若对于任意t T ∈, ()()()Z t X t iY t =+其中i =,则称{(),}Z t t T ∈为复随机过程.类似可以定义复随机过程的均值函数、协方差函数、相关函数、方差函数如下: 均值函数: ()[()]()(),Z X Y m t E Z t m t im t t T ==+∈相关函数: 121212(,)()(),,Z R t t E Z t Z t t t T ⎡⎤=∈⎣⎦协方差函数:{}121122(,)[()()][()()]Z Z Z C t t E Z t m t Z t m t =--=121212(,)()(),,Z Z Z R t t m t m t t t T +∈ 方差函数:2()[|()()|](()())(()())(,)Z Z Z Z Z D t E Z t m t E Z t m t Z t m t C t t ⎡⎤=-=--=⎣⎦对于两个随机过程可以定义互相关函数和互协相关函数.互相关函数:12121122(,)[()()]Z Z R t t E Z t Z t =互协相关函数:(){}1212121122111222(,)(),()[()()][()()]Z Z Z Z C t t Cov Z t Z t E Z t m t Z t m t ==--2.5 随机过程的主要类型随机过程可以根据状态空间和参数集离散或连续进行分类,现在我们将根据随机过程的统计特征进一步将随机过程分类,这些常见的随机过程在以后的章节中将作进一步说明,这里只作简单介绍如下:2.5.1 二阶矩过程(two order - moment process )定义2.7 设{(),}X t t T ∈是(取值实数或复值)的随机过程,若对于任意t T ∈,都有2[|()|]E X t <∞(二阶矩存在),则称{(),}X t t T ∈是二阶矩过程二阶矩过程{(),}X t t T ∈的均值函数()()X m t EX t =一定存在,一般假定()0X m t =,这时,协方差函数化为(,)[()()],,X C s t E X s X t s t T =∈.二阶矩过程的协方差函数具有以下性质:(1)(Hermite 性)(,)(,),X X C s t C t s = ,s t T ∈(2)(非负定性)对任意i t T ∈及复数,1,2,,,1i i n n α=≥ 有11(,)0n n X i j i j i j Ct t αα==≥∑∑2.5.2正交增量过程(orthogonal incremental process )定义2.8 设{(),}X t t T ∈是零均值的二阶矩过程,若对于任意1234t t t t T <≤<∈,有 2143[()()][()()]0E X t X t X t X t ⎡⎤--=⎣⎦(2.8) 则称{(),}X t t T ∈为正交增量过程.从定义可以看出,正交增量过程的协方差函数可由其方差确定,且()2(,)(,)min(,)X X X C s t R s t s t σ== (2.9)事实上,不妨设[,]T a b =为有限区间,且规定()0X a =,取12340,,t t t s t b ====,则当a s t b <<<时,有()(()()E X s X t X s ⎡⎤-⎣⎦()()()()(()()E X s X a X t X s ⎡⎤=--⎣⎦0= 因此,(,)(,)()()(,)X X X X X C s t R s t m s m t R s t =-= =()()()()()()()E X s X t E X s X t X s X s ⎡⎤⎡⎤=-+⎣⎦⎣⎦ ()2()(()()()()()X E X s X t X s E X s X s s σ⎡⎤⎡⎤=-+=⎣⎦⎣⎦ 同理,当b s t a >>>时,2(,)(,)()X X X C s t R s t t σ==于是 ()2(,)(,)min(,)X X X C s t R s t s t σ== 2.5.3 独立平稳增量过程(independent stationary incremental process ) 定义2.9 给定随机序列{,1}n X n ≥,如果随机变量12,,X X 相互独立,那么随机序列{,1}n X n ≥为独立过程(或独立随机序列).在例2.1中,如果骰子每次出现的点数是相互独立的,那么得到一个独立随机过程.值得注意的是,就物理意义来说,连续参数独立过程是不存在的,因为,当1t 和2t 很接近时,我们完全有理由说1()X t 和2()X t 有一定的依赖关系,因此,连续参数独立过程只是理想化的随机过程.定义2.10 设随机过程{(),}X t t T ∈,若对任意正整数n 和12n t t t T <<<∈ ,随机变量21321()(),()(),,()()n n X t X t X t X t X t X t ----相互独立,则称随机过程{(),}X t t T ∈为独立增量过程.同独立过程一样,独立增量过程中的参数集T 可以是离散的,也可以是连续的.独立增量过程的直观含义是:随机过程{(),}X t t T ∈在各个不相重叠的时间间隔上状态的增量是相互独立的.在实际应用中,某服务系统在某时间间隔的“顾客”数,电话传呼站的“电话”次数等都可用这种过程来描述.正交增量过程与独立增量过程都是根据不相重叠的时间间隔上增量的统计相依性来定义的,前者增量是不相关,后者增量是独立的.显然,正交增量过程不一定是独立增量过程;而独立增量过程只有在二阶矩存在,且均值为零的条件下才是正交增量过程.定理2.2 设二阶矩过程{(),}X t t T ∈是独立增量过程,若[,),()0T a X a =+∞=,则{(),}X t t T ∈的协方差函数为()2(,)min{,},,X X C s t s t s t a σ=≥. 证明 假设s t <,由()()(),()()()X s X s X a X t X t X a =-=-相互独立性, ()()(,)(),()(),[()()()]X C s t Cov X s X t Cov X s X t X s X s ==-+()()(),()()(),()Cov X s X t X s Cov X s X s =-+2()()X DX s s σ==定义2.11 设随机过程{(),}X t t T ∈,对于任意,,,s t T s t T ττ∈++∈,增量()()X s X s τ+-与()()X t X t τ+-服从相同的分布,则称{(),}X t t T ∈为平稳增量过程.平稳增量过程的直观含义是:随机过程{(),}X t t T ∈在时间间隔(,]t t τ+上状态的增量()()X t X t τ+-仅仅依赖终点和起点的时间差τ,与时间起点无关.如果一个独立增量过程同时又是平稳增量过程,则称它为平稳独立增量过程.平稳独立增量过程是一种很重要的随机过程,后面将反复提到.定理2.3 设随机序列{,0}n X n ≥,且00X =(1){,0}n X n ≥是独立增量过程的充要条件是n X 可以表示为独立随机变量序列的部分和(1)n ≥;(2){,0}n X n ≥是平稳独立增量过程的充要条件是n X 可以表示为独立同分布随机变量序列的部分和(1)n ≥.证明 充分性由定义直接得到,下面证明必要性.令随机变量 1,1n n n U X X n -=-≥,则1,1nn ii X U n ==≥ (1){,0}n X n ≥是独立增量随机过程,对任意n ,增量12,,,n U U U 相互独立,因此,12,,U U 是独立随机变量序列;(2){,0}n X n ≥是平稳独立增量过程时,对任意,m n ,增量,m n U U 同分布,因此,12,,U U 是独立同分布随机变量序列.2.5.4 维纳过程(W i e n e r process )在概率论中我们都知道,正态分布是一种十分重要的分布,正态过程在随机过程中的地位类似于正态随机变量在概率论中的地位,尤其在电讯技术中,正态过程有着十分广泛的应用.定义2.12 设随机过程{(),}X t t T ∈,对任意正整数n 和12,,,,n t t t T ∈()12(),(),,()n X t X t X t 是n 维正态分布,即有密度函数2121211()exp ()()(2)||2n f x x B x B μμπ-⎧⎫=---⎨⎬⎩⎭其中()1212(,,,),(),(),,()T T n n x x x x EX t EX t EX t μ== ,()ij n n B b ⨯=为正定矩阵,{[()()][()()]}ij i i j j b E X t EX t X t EX t =--.则称{(),}X t t T ∈为正态过程或Gauss 过程.19世纪英国植物学家布朗(Brown )发现,浸在水中的微小花粉粒子,受到作不规则运动的水分子的随机碰撞在水面上做不规则的运动,后来,人们把这种运动称为布朗运动.爱因斯坦(Einstein )于1905年第一次给出它的物理解释.1918年,控制论创始人维纳(Wiener )首先对这个随机过程进行了严格的数学论证,奠定了研究这类随机过程的基础.定义2.13 设随机过程{(),}X t t T ∈满足下列条件:(1)(0)0X =;(2)()X t 是独立增量过程;(3)对任意0s t ≤<,增量()2()()0,()X t X s N t s σ-⋅- ,其中,常数20σ>,则称随机过程{(),}X t t T ∈为参数为2σ的Wiener 过程.从定义可以看出,Wiener 过程的参数集[0,)T =∞,状态空间(,)I =-∞+∞,而且Wiener 过程也是平稳增量过程,因此,Wiener 过程是平稳独立增量过程,另外,当s t ≥时,2()()(0,||)X t X s N t s σ-- 依然成立,特别地,当21σ=时,随机过程{(),}X t t T ∈为标准Wiener 过程.定理2.4设随机过程{(),}X t t T ∈为参数为2σ的Wiener 过程.则(1) Wiener 过程是一个正态过程;(2) 22()0,()X X m t t t σσ==; 0t > 且 2121212(,)(,)min(,),X X R t t C t t t t σ==⋅ 12,0t t ≥ (2.10)证明:(2)()()[()(0)]0X m t EX t E X t X ==-=当12t t <时,1212(,)[()()]X R t t E X t X t =1211[()(0)][()()()(0)]E X t X X t X t X t X =--+-21211[()(0)][()()][()(0)]E X t X X t X t E X t X =--+-21t σ=当12t t >时,同样可以得到2122(,)X R t t t σ=因此 21212(,)min(,)X R t t t t σ=例 2.9 设随机过程{(),}X t t T ∈为参数为4的Wiener 过程,定义随机过程()2(3),0Y t X t t =>,则有()Y t 的均值函数为: ()()2(3)0Y m t EY t EX t ===;()Y t 的相关函数为:121212(,)()()4(3)(Y R t t EY t Y t EX t X t ==12121644min(3,min(,)3t t t t =⨯= 2.5.5 泊松过程(Poisson process )在现实世界中有很多例子,例如:盖格记数器上的粒子数,二次大战时,伦敦空袭的弹着点,电话总机所接听的呼唤次数,交通流中事故数,某地区地震发生次数等.这类过程有如下两个性质:一是时间和空间上的均匀性,二是未来的变化与过去的变化没有关系,为了描述这类过程的特性,我们来建立Poisson 过程的模型.定义2.14 给定随机过程{(),0}N t t ≥,如果()N t 表示时间段[0,]t 出现的质点数,状态空间{0,1,2,}I = ,且满足(1)(0)0N =;(2)当s t <时,()()N s N t ≤, 则称{(),0}N t t ≥为记数过程(counting process ).记数过程的样本函数是单调不减的右连续函数(阶梯函数),当跳跃度为1时,称为简单记数过程.简单记数过程表示同一时刻至多出现一个的记数过程.记数的对象不仅仅是电话呼叫次数、来到商店的顾客数,也可表示质点流. 记数过程是时间连续状态离散的随机过程.定义2.15 设随机过程{(),0}N t t ≥是记数过程,如果()N t 满足条件:(1)(0)0N =;(2)()N t 是独立增量过程;(3)对任意0a ≥,0t >,区间(,]a a t +(0a =是应理解为[0,]t )上的增量()()N a t N a +-服从参数为t λ的Poisson 分布,即(){()()},0,1,2,!kt t P N a t N a k e k k λλ-+-=== (2.11) 则,称{(),0}N t t ≥为参数为λ的泊松过程(Poisson process ).0λ>条件(3)表明,()()N a t N a +-的分布只依赖时间t 而与时间起点a 无关,因此,Poisson 过程具有平稳增量性,当0a =时,(){()},0,1,2,,0!kt t P N t k e k k λλλ-===> 因此,Poisson 过程的均值函数为()()N m t EN t t λ==,它表明在时间段[0,]t 出现的平均次数为t λ,λ称为Poisson 过程的强度. 因此,Poisson 过程表明前后时间的独立性和时间上的均匀性,强度λ描述了随机时间发生的频率.有关Poisson 过程的更多结果,后面将进一步论述.2.5.6 马尔可夫过程(Markov process )定义 2.16 设随机过程{(),}X t t T ∈,对于任意正整数n 及12,n t t t <<< 1111{(),,()}0n n P X t x X t x --==> ,且条件分布1111{()|(),,()}n n n n P X t x X t x X t x --≤== 11{()|()}0n n n n P X t x X t x --=≤=> 则称{(),}X t t T ∈为马尔可夫过程(Markov process ).定义中给出的性质称为马尔可夫性,或称无后效性,它表明若已知系统“现在”的状态,则系统“未来”所处状态的概率规律性就已确定,而不管系统“过去”的状态如何.也就是说,系统在现在所处状态的条件下,它将来的状态与过去的状态无关.Markov 过程{(),}X t t T ∈的状态空间和参数集可以是连续的,也可以是离散的.有关Markov 过程的进一步讨论,我们将在第四章进行.2. 5.7 鞅过程(martingale process )最近几十年才迅速发展起来的现代鞅(过程)论是概率论的一个重要分支,它给随机过程论、随机微分方程等提供了基本工具.定义2.17 设参数集{0,1,2,}T = ,如果随机序列{(),0}X n n ≥对任意0,n ≥,且|()|E X n <∞,若[](1)|(1),(2),,()()E X n X X X n X n += (2.12)则称{(),0}X n n ≥为离散参数鞅(discrete parameter martingale ).定义 2.15 设参数集[0,)T =∞,如果随机过程{(),}X t t T ∈对任意|()|,E X t t T <∞∈,若[()|(),](),,..E X s X u u t X t s t a s ≤=> (2.13)则称{(),}X t t T ∈为连续参数鞅(continuous parameter martingale ).上式中,如果将“=”换成“≤”或“≥”,则分别称为离散参数(连续参数)上(或下)鞅.鞅是用条件期望来定义的,关于离散时间鞅,我们可以作下面的直观解释:设()X n 表示赌徒在第n 次赌博时的资本,(1)X 表示最初赌本(这是一常数)而()X n (2)n ≥由于赌博的输和赢是一个随机变量,如果赌博是公平的,那么每次他的资本增益的期望为零,在以后的赌博中,他资本的期望值还是他最近一次赌完的资本数()X n ,用数学模型表示,就是定义中的等式,因此,鞅表示一种“公平”的赌博,上鞅和下鞅表示一方赢利的赌博.例 2.8 设{(),0}Y n n ≥相互独立的随机变量序列,(0)0,Y = 且|()|,E Y n <∞ ()0,0EY n n =≥,令1(0)0,()(),1ni X X n Y i n ===≥∑,则{(),0}X n n ≥是鞅.证明 因为11|()||()||()|n ni i E X n E Y i Y i ===≤<∞∑∑,且[(1)|(0),(1),,()][()(1)|(0),(1),,()]E X n X X X n E X n Y n X X X n +=++[()|(0),(1),,()][(1)|(0),(1),,()]E X n X X X n E Y n X X X n =++()[(1)]()X n E Y n X n =++=定理2.5 设{(),0}X t t ≥是Wiener 过程,则它是鞅.证明:对于任意0s t <<,由独立增量性得 [()()|()][()()]0E X t X s X s E X t X s -=-=因此,对于任意参数01,,,,n t t t t ,01(0)n t t t t =<<<< 有[()|(),0][()()()|(),0]i n n i E X t X t i n E X t X t X t X t i n ≤≤=-+≤≤[()()]()()n n n E X t X t X t X t =-+=习 题 二2.1 设随机变量Y 具有概率密度()f y ,令(),(0,0)Yt X t e t Y -=>>,求随机过程()X t 的一维概率密度及12(),(,)X EX t R t t .2.2 设随机过程()cos()sin()X t A t B t ωω=+,其中ω为常数,,A B 是相互独立且服从正态2(0,)N σ的随机变量,求随机过程的均值和相关函数.2.3 随机过程()X t 的均值函数()X m t 和协方差函数12(,),()X C t t t ϕ为普通函数,令()()()Y t X t t ϕ=+,求随机过程()Y t 的均值和相关函数.2.4 设随机过程2()X t X Yt Zt =++,其中,,X Y Z 是相互独立的随机变量,且均值为0,方差为1,求随机过程()X t 的协方差函数.2.5 设()f t 是一个周期为T 的周期函数,随机变量Y 在(0,)T 上均匀分布,令()()X t f t Y =-,证明:随机过程()X t 满足 01[()()]()()T E X t X t f t f t dt T ττ+=+⎰ 2.6 设随机过程()X t 和()Y t 的互协方差函数为12(,)XY C t t ,证明1212|(,)|()()XY X Y C t t t t σσ≤2.7 设{(),0}X t t ≥是实正交增量过程,(0)0,X V =是标准正态随机变量,对任意的0t ≥,()X t 与V 相互独立,令()()Y t X t V =+,求随机过程{(),0}Y t t ≥的协方差函数.2.8 设,Y Z 是独立同分布随机变量,12{1}{1}P Y P Y ===-=, ()cos()sin(),X t Y t Z t θθ=+t -∞<<∞,其中θ为常数,证明:随机过程()X t 是广义平稳过程,但不是严平稳过程.。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
f X ( x,10) 0.5( x 1) 0.5( x)
2014-6-15
时间不同,概率密度不同,概率密度是时间的函数
2.2.1 随机过程的概率分布
(续)
P{X (0) 1, X (10) 1} P{X (0) 1}P{ X (10) 1 X (0) 1}
协方差函数
也是相关性的描述 K X (t1 , t2 ) E{[ X (t1 ) mX (t1 )][X (t2 ) mX (t2 )]}
如果 K X (t1 , t 2 ) 0 ,则称 X (t1 ) 和 X (t 2 )不相关。
如果 RX (t1, t2 ) 0,则称 X (t1 ) 和 X (t 2 ) 相互正交。
2.1 随机过程的基本概念及定义
例2.2:接收机噪声
用示波器来观察记录某个接收机输出的噪声电压波形
5 0 -5 5 0 -5 5 0 -5 5 0 -5 0 50 100 150 200 0 50 100 150 200 0 50 100 150 200 0 50 100 150 200
2.1 随机过程的基本概念及定义
果 X (n 1) k ,那么
k 1 质点正向移动一个距离单元 X (n) k 1 质点反向移动一个距离单元
x
q
X ( n)
0
p
n
6 7
2014-6-15
0
1
2
3
4
5
13
2.1 随机过程的基本概念及定义
伪随机序列
在实际中还有一类过程,它是按照确定的数 学公式产生的时间序列,它是一个确定性的 时间序列,但它的变化过程表现出随机序列 的特征,我们把它称为伪随机序列,伪随机 序列可以用来模拟自然界实际的随机过程。
19
2.2.1 随机过程的概率分布
(续) 如果 cos 0t 0 ,则
X (t ) 0
1 f X x, k ( x ) 2 0
2014-6-15
20
2.2.1 随机过程的概率分布
解法二
X (t ) Y cos0t
FX ( x1, x2 , t1, t2 ) P{X (t1) x1, X (t2 ) x2}
二维概率密度:
FX ( x1 , x2 , t1 , t2 ) f X ( x1 , x2 , t1 , t2 ) x1x2
2
2014-6-15 22
2.2.1 随机过程的概率分布
2014-6-15
8
2.1 随机过程的基本概念及定义
随机过程定义二
设有一个过程 X (t ) ,若对于每一个固定的时刻
t j ( j 1, 2,...) , X (t j ) 是一个随机变量,则 X (t ) 称为
随机过程。
随机过程是一组随机变量的集合。
2014-6-15
9
2.1 随机过程的基本概念及定义
2014-6-15
16
2.2.1 随机过程的概率分布
例2.6:
设随机振幅信号 X (t ) Y cos0t ,其中 0 是 常数, Y 是均值为零,方差为1的正态随机 2 , 变量,求 t 0, 时的概率密度。
3 0 2 0
解法一:由 t 0, X (0) Y 可知
-1 X (t ) 1
1
第n次投出正面 第n次投出反面
(n-1)T t<nT
0
-1 0 5 10 15 20 25
时间-秒(假定T=1秒) 秒
2014-6-15
半随机二元传输信号
12
2.1 随机过程的基本概念及定义
例2.4:随机游动 设 X ( n) 表示质点在 t n 时刻与原点的距离,如
X (t , e)不同情况的意义:
e 当 t 固定, e 当 t 固定, e 当 t 可变, 函数。 e 当 t 可变,
固定时, X (t , e)是一个确定值。 可变时, X (t , e)是一个随机变量。 固定时, X (t , e)是一个确定的时间 可变时, X (t , e)是一个随机过程。
2.2.1 随机过程的概率分布
(续)它的两个样本函数为
a1 (n) cos(n / 10)
a2 (n) cos( n / 10 / 2)
这个过程在任意的时刻都只 有两个可能的取值,所以它 是一个离散型随机过程。 对于的概率密度(一串冲 激函数)。
2 E{X 2 (t )} mX (t )
随机过程的均值与方差都是时间的函数 均值与方差的物理意义
2 E{X 2 (t )} 2 ( t ) m X X (t )
表示消耗在 单位电阻上 的总的平均 功率
平均交 流功率
平均 直流 功率
2.2.2 随机过程的数字特征
相关函数:
2 t 30
若X是随机变量,a,b 是任意确定实数,令 Y=aX+b,则 E(Y ) aE( X ) b D(Y ) a 2 D( X )
2 1 cos 0t cos 3 2 2 1 E( X ( )) E (Y ) 0 30 2
2 1 X Y 2 30
如果 cos 0t 0, 则
y x cos 0t
f X ( x, t ) f Y ( y ) J
1 J cos 0t
2 1 1 x f X ( x, t ) exp 2 cos 0t 2 cos 0t
2014-6-15
例2.1:随机相位信号 X (n) A cos(0n ) 其中 A 与 0 为常数, 为 (- , ) 上均匀分布的随机变量 对于任意样本值 i,有 xi (n, i ) A cos(0n i )
1 0 -1 0 1 0 -1 0 1 0 -1 0 1 0 -1 0 10 20 30 40 50 60 70 80 10 20 30 40 50 60 70 80 10 20 30 40 50 60 70 80 10 20 30 40 50 60 70 80
1 0.8 0.6 0.4 0.2 0
例2.5:
y (n 1) (11y(n) 11117)(mod 32768) x(n) y (n) / 32768
0
50
100
150
200
第二章随机过程的基本概念
2.1 随机过程的统计描述
2014-6-15
15
2.2.1 随机过程的概率分布
随机过程的基本概念
第二章
本章内容
随机过程的基本概念及定义
随机过程的统计描述
平稳随机过程
随机过程的联合分布和互相关函数
随机过程的功率谱密度
典型的随机过程
第二章随机过程的基本概念
2.1 随机过程的基本概念及定义
2014-6-15
3
2.1 随机过程的基本概念及定义
自然界变化的过程可以分为确定过程和随机过 程两大类。
( 2 x) 2 1 2 2 x2 exp e 2 2 2
2014-6-15
18
2.2.1 随机过程的概率分布
(续)
t ,X 0 20 20 f X x, ( x) 20
一般而言, X (t ) Y cos 0t
随机过程的概率分布
FX ( x, t ) P{X (t ) x} 一维概率分布: 若 FX ( x, t ) 的一阶导数存在,定义一维概率密 度: FX ( x, t ) f X ( x, t ) x
随机序列:
FX ( x, n) P{X (n) x}
FX ( x, n) f X ( x, n ) x
2014-6-15
10
2.1 随机过程的基本概念及定义
随机过程的分类
分类 连续型随机过程 连续随机序列 离散型随机过程 离散随机序列 状态 连续 连续 离散 离散 时刻 连续 离散 连续 离散
2.1 随机过程的基本概念及定义
例2.3:半二元传输信号
用无数次投掷硬币的随机试验来定义一个随 机过程 X (t )
确定过程
每次试验观测所得结果都相同,都是时间t的一个确 定的函数,具有确定的变化规律。 每次试验观测所得结果都不同,都是时间t的不同函 数,试验前又不能预知观测结果,没有确定的变化 规律。
随机过程
2.1 随机过程的基本概念及定义
举例
正弦信号
调制信号
2014-6-15
接收机噪声
鸟叫声
5
2.1 随机过程的基本概念及定义
二维分布列
X (n1 ) X (n2 )
f X ( x1 , x2 , t1 , t 2 )
0
0
0 1/2 1/2 (1,-1)
1
1/2 0
x2
x1
-1 0
1/2
2.2.1 随机过程的概率分布
(续)二维概率密度
1 1 f ( x1 , x2 , 0, 10) ( x1 1, x2 1) ( x1 , x2 ) 2 2
二维概率分布
FX ( x1 , x2 , 0, 10) P{ X (0) x1, X (10) x2}