第2章_随机过程的基本概念..
合集下载
随机过程的基本概念
随机过程的基本概念随机过程是随机现象的数学模型，是一种以时间为自变量而取随机数值的函数族，是概率论和数理统计中的重要工具之一。
本文将从定义、性质、分类等方面论述随机过程的基本概念。
一、随机过程的定义随机过程是由一个随机变量族{Xt}（t∈T）所组成的集合的统称，其中T为时间参数集合。
换言之，随机过程是时间与随机变量的集合关系，其中随机变量的取值是时间变化的函数。
随机过程可以用X(t)表示，其中t表示时间，X表示在时间t处的随机变量。
简单来说，随机过程就是为一组日期指定随机变量，使得这些随机变量与其日期相关联。
每个随机变量表示特定日期发生的随机事件。
二、随机过程的性质1. 一般随机过程：随机变量群体的每个成员都需要一个完整的概率空间，并且具有一个抽象的时间参数集合。
因此，一般随机过程的样本空间往往是所有该样本空间下所有概率空间的笛卡尔积。
2. 同伦：如果存在同伦t:s→t+s（s∈S）,使得随机过程{Xt}具有相同的联合概率分布，则称该随机过程在t上存在同伦。
3. 马尔科夫性质：在一个离散时间的随机过程中，前时刻的状态随后时刻的状态条件独立，且只与当前状态有关，而与以前的任何状态无关，称之为马尔科夫性质。
三、随机过程的分类1. 离散时间：随机变量在离散位置上取值，时间参数集合为整数集，可表示为{Xn}。
2. 连续时间：随机变量在连续位置上取值，时间参数集合为实数集，可表示为{X(t)}3. 马尔科夫过程：随机过程满足马尔科夫性质的过程，由此得名。
4. 二元过程：仅具有两个状态变量，称之为二元过程。
四、随机过程的应用随机过程广泛应用于电信、生物工程、金融、天气预报等领域。
其中，离散时间的随机过程广泛应用于通信领域，如编码、压缩、调制等；连续时间的随机过程用于天气预报、环境工程、资产定价等领域。
在工程领域，随机过程也有广泛应用。
例如，可以使用随机过程模型预测质量的保证水平。
需要重视的是，应用随机过程模型时，要注意模型的精度和可行性，避免虚假模型带来的风险。
随机过程课程第二章 随机过程的基本概念
第二章 随机过程的基本概念
第一节 随机过程的定义及其分类 第二节 随机过程的分布及其数字特征 第三节 复随机过程 第四节 几种重要的随机过程简介
第一节 随机过程的定义及其分类
一、直观背景及例
例1 电话站在时刻t时以前接到的呼叫次数 一般情况下它是一个随机变数X ，并且依赖 时间t，即随机变数X（t），t[0，24]。
首页
（4）平稳随机过程
平稳过程的统计特性与马氏过程不同，它不 随时间的推移而变化，过程的“过去”可以对 “未来”有不可忽视的影响。
首页
返回
第二节 随机过程的分布及其数字特征
一、随机过程的分布函数
设{ X (t) ，t T }是一个随机过程，
一维
分布 对于固定的t1 T ，X (t1) 是一个随机变量，
F (t1,t2；x1, x2 ) =
x1
x2
f (t1, t2；y1, y2 )dy1dy2
则称 f (t1,t2；x1, x2 ) 为 X (t) 的二维概率密度
n维
n 维随机向量（X (t1 ) ，X (t2 ) ，…， X (tn ) ）
分布 函数
联合分布函数
F (t1,t2 , ,tn；x1, x2 , , xn )
分布函数
FXY (t1, ,tn ；t1, ,tm ；x1, , xn ； y1, , ym ）
P{X (t1) x1, , X (tn ) xn；Y（t1） y1, ,Y（tm ） ym }
称为随机过程和的n + m维联合分布函数
首页
相互 设 X (t) 和Y (t) ，t1,t2 , ,tn ，t1,t2 , ,tm T
首页
2．方差函数
随机过程{ X (t) ，t T }的二阶中心矩
第一节 随机过程的定义及其分类 第二节 随机过程的分布及其数字特征 第三节 复随机过程 第四节 几种重要的随机过程简介
第一节 随机过程的定义及其分类
一、直观背景及例
例1 电话站在时刻t时以前接到的呼叫次数 一般情况下它是一个随机变数X ，并且依赖 时间t，即随机变数X（t），t[0，24]。
首页
（4）平稳随机过程
平稳过程的统计特性与马氏过程不同，它不 随时间的推移而变化，过程的“过去”可以对 “未来”有不可忽视的影响。
首页
返回
第二节 随机过程的分布及其数字特征
一、随机过程的分布函数
设{ X (t) ，t T }是一个随机过程，
一维
分布 对于固定的t1 T ，X (t1) 是一个随机变量，
F (t1,t2；x1, x2 ) =
x1
x2
f (t1, t2；y1, y2 )dy1dy2
则称 f (t1,t2；x1, x2 ) 为 X (t) 的二维概率密度
n维
n 维随机向量（X (t1 ) ，X (t2 ) ，…， X (tn ) ）
分布 函数
联合分布函数
F (t1,t2 , ,tn；x1, x2 , , xn )
分布函数
FXY (t1, ,tn ；t1, ,tm ；x1, , xn ； y1, , ym ）
P{X (t1) x1, , X (tn ) xn；Y（t1） y1, ,Y（tm ） ym }
称为随机过程和的n + m维联合分布函数
首页
相互 设 X (t) 和Y (t) ，t1,t2 , ,tn ，t1,t2 , ,tm T
首页
2．方差函数
随机过程{ X (t) ，t T }的二阶中心矩
第2章随机过程的基本概念
称为过程的n 维分布函数.记
F ?? { F ?t1 , t2 ,? , tn ; x 1 , x 2 ,? , x n ?:
ti ? T , x i ? Ri , i ? 1,2, ? , n , n ? 0} 称F为XT 的有限维分布函数族. 定义3 过程 { X(t), t的? nT维} 特征函数定义为
φ?t1 , t2 ,? , tn;?1 ,θ 2 ,? ,θ n ?
? E{e i[θ 1 X (t1 )? ? } ?θ n X (tn )]
称 {φ(t1, t2 ,? , tn;θ 1 ,θ 2 ,? ,θ n ) : t1 , t2 ,? , tn ? T, n ? 1}
为XT 的有限维特征函数族. 特征函数和分布函数是相互唯一确定.
定义2 过程 { X(t),对t ?任T给} 的
t1 , t2 ,? , tn ? T ,
随机向量
?X (t1 ), X (t2 ),? , X (tn )?
的联合分布函数
F (t1 , t2 ,? , tn; x1 , x2 ,? , xn ) ?
P{ X (t1 ) ? x1 , X (t2 ) ? x2 ,? , X (tn ) ? xn }
X(t1,ω)
X(t2,ω)
t1
t2
X(t,ω1) X(t,ω2) X(t,ω3) tn
定义 对每一固定 ω?，Ω称 { X(t, ? ), t的? 一T}个样本函数.
X是t ?随ω?机过程
也称轨道, 路径,现实.
Ex.5 利用抛硬币的试验定义一个随机过程，
X(t)
?
?cos? t, ?
?2t
出现正面； 出现反面. t ? R.
过程识别
F ?? { F ?t1 , t2 ,? , tn ; x 1 , x 2 ,? , x n ?:
ti ? T , x i ? Ri , i ? 1,2, ? , n , n ? 0} 称F为XT 的有限维分布函数族. 定义3 过程 { X(t), t的? nT维} 特征函数定义为
φ?t1 , t2 ,? , tn;?1 ,θ 2 ,? ,θ n ?
? E{e i[θ 1 X (t1 )? ? } ?θ n X (tn )]
称 {φ(t1, t2 ,? , tn;θ 1 ,θ 2 ,? ,θ n ) : t1 , t2 ,? , tn ? T, n ? 1}
为XT 的有限维特征函数族. 特征函数和分布函数是相互唯一确定.
定义2 过程 { X(t),对t ?任T给} 的
t1 , t2 ,? , tn ? T ,
随机向量
?X (t1 ), X (t2 ),? , X (tn )?
的联合分布函数
F (t1 , t2 ,? , tn; x1 , x2 ,? , xn ) ?
P{ X (t1 ) ? x1 , X (t2 ) ? x2 ,? , X (tn ) ? xn }
X(t1,ω)
X(t2,ω)
t1
t2
X(t,ω1) X(t,ω2) X(t,ω3) tn
定义 对每一固定 ω?，Ω称 { X(t, ? ), t的? 一T}个样本函数.
X是t ?随ω?机过程
也称轨道, 路径,现实.
Ex.5 利用抛硬币的试验定义一个随机过程，
X(t)
?
?cos? t, ?
?2t
出现正面； 出现反面. t ? R.
过程识别
随机过程讲义（第二章）（PDF）
第二章 随机过程的一般概念2.1 随机过程的基本概念和例子定义2.1.1：设(P ,,F )Ω为概率空间，T 是某参数集，若对每一个，是该概率空间上的随机变量，则称为随机过程(Stochastic Process)。
T t ∈),(w t X ),w t (X 随机过程就是定义在同一概率空间上的一族随机变量。
随机过程可以看成定义在),(w t X Ω×T 上的二元函数，固定Ω∈0w ，即对于一个特定的随机试验，称为样本路径(Sample Path)，或实现(realization)，这是通常所观测到的过程；另一方面，固定，是一个随机变量，按某个概率分布随机取值。
),(0w t X T t ∈0),(0w t X抽象一点：令，即∏∈=Tt T R R T R 中的元素为),(T t x X t t ∈=,为其Borel域(插乘)(T R B σ域)，随机过程实质上是()F ,Ω到())(,T T R R B 上的一个可测映射，在())(,T TR RB 上诱导出一个概率测度：T P ()B X P B P R B T T T ∈=∈∀)(),(B 。
一般代表的是时间。
根据参数集T 的性质，随机过程可以分为两大类： t 1)为可数集，如T {}L ,2,1,0=T 或{}L L ,1,0,1,−=T ，称为离散参数随机过程，也称为随机序列；2)为不可数集，如T {}0≥=t t T 或{}∞<<∞−=t t T ，称为连续参数随机过程。
随机过程的取值称为过程所处的状态(State)，所有状态的全体称为状态空间(State Space)。
通常以表示随机过程的状态空间。
根据状态空间的特征，一般把随机过程分为两大类：T t t X ∈),(S 1) 离散状态，即取一些离散的值； )(t X 2)连续状态，即的取值范围是连续的。
)(t X离散参数离散状态随机过程： Markov 链 连续参数离散状态随机过程： Poisson 过程 离散参数连续状态随机过程： *Markov 序列连续参数连续状态随机过程： Gauss 过程，Brown 运动例2.1.1：一醉汉在路上行走，以的概率向前迈一步，以q 的概率向后迈一步，以p r 的概率在原地不动，1=++r q p ，选定某个初始时刻，若以记它在时刻的位置，则就是直线上的随机游动(Random Walk)。
第二章 随机过程的基本概念_2.3 2.4
相关时间 0 小：随机过程随时间变化快 相关时间 0 大：随机过程随时间变化慢
4 2 0 -2 -4 10 5 0 -5 -10
0
50
100
0
50
100
0 1
2015/5/12
0 100
14
两个不同相关时间随机过程的样本函数
2.3.4 循环平稳的概念
广义循环平稳：
如果随机过程X(t)的均值和自相关函数满足下列关系
2T
0
(1
2T
2 )[ RX ( ) mX ]d 0
平稳随机过程X(t)具有相关函数遍历性的充要条件
1 lim T T
2T
0
(1
2T
2 )[ R ( ) RX ( )]d 0
(t ) X (t ) X (t )
2015/5/12 22
第二章随机过程的基本概念
mX mX
其中
RX ( ) RX ( )
RX ( )
1 lim T 2T
T T
x(t
) x(t )dt
则X(t)为遍历(各态历经)过程。
2015/5/12 19
2.3.5 随机过程的各态历经性
X (t ) X (t )
t
t
(a)
(b)
各态历经过程与非各态历经过程示意图 各态历经过程的一个样本函数经历了随机过程 所有可能的状态
如果
f XY ( x1 ,..., xN , t1 ,..., t N , y1 ,..., yM , t '1 ,..., t 'M ) f X ( x1 ,..., xN , t1 ,..., t N ) fY ( y1 ,..., yM , t '1 ,..., t 'M )
4 2 0 -2 -4 10 5 0 -5 -10
0
50
100
0
50
100
0 1
2015/5/12
0 100
14
两个不同相关时间随机过程的样本函数
2.3.4 循环平稳的概念
广义循环平稳：
如果随机过程X(t)的均值和自相关函数满足下列关系
2T
0
(1
2T
2 )[ RX ( ) mX ]d 0
平稳随机过程X(t)具有相关函数遍历性的充要条件
1 lim T T
2T
0
(1
2T
2 )[ R ( ) RX ( )]d 0
(t ) X (t ) X (t )
2015/5/12 22
第二章随机过程的基本概念
mX mX
其中
RX ( ) RX ( )
RX ( )
1 lim T 2T
T T
x(t
) x(t )dt
则X(t)为遍历(各态历经)过程。
2015/5/12 19
2.3.5 随机过程的各态历经性
X (t ) X (t )
t
t
(a)
(b)
各态历经过程与非各态历经过程示意图 各态历经过程的一个样本函数经历了随机过程 所有可能的状态
如果
f XY ( x1 ,..., xN , t1 ,..., t N , y1 ,..., yM , t '1 ,..., t 'M ) f X ( x1 ,..., xN , t1 ,..., t N ) fY ( y1 ,..., yM , t '1 ,..., t 'M )
随机过程 第2章
随机变量 随机变量族
e → x(e) (e, t) → xt(e)=x(e, t)
x=xt(ei)
x
e1 e2 e3
e
概率空间和随机对象
样本空间
概率空间
随机变量
随机向量
随机过程
2.1 随机过程的基本概念
定义：设(Ω, ö,P)为概率空间，T是参数集。 若对任意 t ∈T ，有随机变量X(t, e)与之 对应，则称随机变量族{X(t, e)， t ∈T } 是(Ω, ö,P)上的随机过程，简记为 {X(t)，t ∈T }或{Xt，t ∈T }。 ★ X(t)的所有可能的取值的集合称为状态空 间或相空间，记为I。
由此可将随机过程分为以下四类：
a. 离散参数离散型随机过程； b. 离散参数连续型随机过程； c. 连续参数离散型随机过程； d. 连续参数连续型随机过程。
2. 以随机过程的统计特征或概率特 征分类：
a. 独立增量过程； b. Markov过程； c. d. e. f. g. 二阶矩过程； 平稳过程； 鞅； 更新过程； Poission过程；
称之为随机过程X(t) 的二维概率密度。
2.3 随机过程的分布律
随机过程的二维分布函数比一维分布函数包含了随 机过程变化规律更多的信息，但它仍不能完整地反 映出随机过程的全部特性及变化规律。用同样的方 法，我们可以引入随机过程 X(t) 的 n 维分布函数和 n 维概率密度。
FX ( x1 , x2 , , xn ; t1 , t2 , tn )
• 又如移动某基站每天的通话次数，X 显然不 能确定，即为随机变量，进一步分析知这 个 X 还和时间 t 有关，即 X(t)，所以 X(t) 也构成一个过程，即随机过程；类似地， 气温、气压、商店每天的顾客流量等都构 成一个随机过程。
通信原理第2章 随机过程
如果平稳随机过程依概率1使下式成立：
aa
则称该平稳随机过程具有各态历经性。 R() R()
“各态历经”的含义：随机过程中的任一实现（样本函数） 都经历了随机过程的所有可能状态。因此， 我们无需（实际中 也不可能）获得大量用来计算统计平均的样本函数，而只需从 任意一个随机过程的样本函数中就可获得它的所有的数字特征， 从而使“统计平均”化为“时间平均”，使实际测量和计算的 问题大为简化。
注意： 具有各态历经性的随机过程必定是平稳随机过程， 但平稳随机过程不一定是各态历经的。在通信系统中所遇到的 随机信号和噪声， 一般均能满足各态历经条件。
第2章 随 机 过 程
三、平稳随机过程自相关函数
对于平稳随机过程而言， 它的自相关函数是特别重要的一 个函数。（其一，平稳随机过程的统计特性，如数字特征等， 可通过自相关函数来描述；其二，自相关函数与平稳随机过程 的谱特性有着内在的联系）。因此，我们有必要了解平稳随机 过程自相关函数的性质。
E[(t1)] x1f1(x1,t1)d1x
第2章 随 机 过 程
注意，这里t1是任取的，所以可以把t1直接写为t, x1改为x, 这时 上式就变为随机过程在任意时刻的数学期望，记作a(t)， 于是
a(t)E[(t)] x1(fx,t)dx
a(t)是时间t的函数，它表示随机过程的（n个样本函数曲线的） 摆动中心。
第2章 随 机 过 程
3. 相关函数
衡量随机过程在任意两个时刻获得的随机变量之间的关联 程度时，常用协方差函数B(t1, t2)和相关函数R(t1, t2)来表示。
（1）（自） 协方差函数：定义为 B(t1,t2)=E｛［ξ(t1)-a(t1)］［ξ(t2)-a(t2)］｝
= [x1a(t1)]x2[a(t2)f]2(x1,x2; t1,t2)dx1dx2
aa
则称该平稳随机过程具有各态历经性。 R() R()
“各态历经”的含义：随机过程中的任一实现（样本函数） 都经历了随机过程的所有可能状态。因此， 我们无需（实际中 也不可能）获得大量用来计算统计平均的样本函数，而只需从 任意一个随机过程的样本函数中就可获得它的所有的数字特征， 从而使“统计平均”化为“时间平均”，使实际测量和计算的 问题大为简化。
注意： 具有各态历经性的随机过程必定是平稳随机过程， 但平稳随机过程不一定是各态历经的。在通信系统中所遇到的 随机信号和噪声， 一般均能满足各态历经条件。
第2章 随 机 过 程
三、平稳随机过程自相关函数
对于平稳随机过程而言， 它的自相关函数是特别重要的一 个函数。（其一，平稳随机过程的统计特性，如数字特征等， 可通过自相关函数来描述；其二，自相关函数与平稳随机过程 的谱特性有着内在的联系）。因此，我们有必要了解平稳随机 过程自相关函数的性质。
E[(t1)] x1f1(x1,t1)d1x
第2章 随 机 过 程
注意，这里t1是任取的，所以可以把t1直接写为t, x1改为x, 这时 上式就变为随机过程在任意时刻的数学期望，记作a(t)， 于是
a(t)E[(t)] x1(fx,t)dx
a(t)是时间t的函数，它表示随机过程的（n个样本函数曲线的） 摆动中心。
第2章 随 机 过 程
3. 相关函数
衡量随机过程在任意两个时刻获得的随机变量之间的关联 程度时，常用协方差函数B(t1, t2)和相关函数R(t1, t2)来表示。
（1）（自） 协方差函数：定义为 B(t1,t2)=E｛［ξ(t1)-a(t1)］［ξ(t2)-a(t2)］｝
= [x1a(t1)]x2[a(t2)f]2(x1,x2; t1,t2)dx1dx2
随机过程第二章
例2.8利用掷一枚硬币的试验定义一个随机过程 2.8
cosπt,出现正面 X (t) = 2t, 出现反面
0 ≤ t < +∞
已知出现正面与反面的概率相等. ⑴ 求X(t)的一维分布函数F(1/2; x),F(1; x). F(1/2; ),F(1; ). ⑵ 求X(t) 的二维分布函数F(1/2,1; x1,x2).
A, 例2.5 设 S.P.X (t) = A+ Bt，其中 B 相互独 S 立同服从正态分布 (0,1) ，求.P.X (t) 的一 N 维和二维分布．
例2.6 设 其中
S.P.X (t) = Acos t, t ∈ R ，
A是 r.v. ， 而且具有概率分布
A P 1 1/3 2 1/3 3 1/3
由于初位相的随机性， 由于初位相的随机性，在某时刻t = t0 , X (t0 )是一 个随机变量． 个随机变量． 若要观察任一时刻 描述. 变量 X (t ) 描述
t
的波形， 的波形，则需要用一族随机
为随机过程． 则称 { X (t ), t ∈ [0, +∞)}为随机过程．
例2 .4样本曲线与状态 样本曲线与状态 X(t) = Acos(ωt + Φ)
2.1： 热噪声电压） 例2.1：（热噪声电压）电子元件或器件由于内部微观粒子
（如电子）的随机热骚动所引起的端电压称为热噪声电压， 如电子）的随机热骚动所引起的端电压称为热噪声电压， 时刻的值是随机变量， 它在任一确定 t 时刻的值是随机变量，记为 V (t ) ． 不同时刻对应着不同的随机变量，当时间在某区间， 不同时刻对应着不同的随机变量，当时间在某区间，譬如 [0, +∞)上推移时，热噪声电压表现为一簇随机变量．在无 上推移时，热噪声电压表现为一簇随机变量． 线电通讯技术中，接收机在接收信号时， 线电通讯技术中，接收机在接收信号时，机内的热噪声电 压要对信号产生持续的干扰，为消除这种干扰（假设没有 压要对信号产生持续的干扰，为消除这种干扰（ 其它干扰因素）， ），就必须考虑热噪声电压随时间变化的过 其它干扰因素），就必须考虑热噪声电压随时间变化的过 为此， 程.为此，我们通过某种装置对电阻两端的热噪声电压进
第二章 随机过程的基本概念
3．贝努利过程 设每隔单位时间掷一次硬币，观察它出现 的结果。如果出现正面，记其结果为1；如果 出现反面，记其结果为0。一直抛掷下去，便 可得到一无穷序列
{ xn；n 1 ， 2， ；且xn 1或0 }
因为每次抛掷的结果是一个随机变量（1或0）， 所以无穷次抛掷的结果是一随机变量的无穷序列， 称为随机序列，也可称为随机过程。 每次抛掷的结果与先后各次抛掷的结果是相互独 立的，并且出现1或0的概率与抛掷的时间n无关。
设
P{ xn 1 }= p （第 n 次抛掷出现正面的概率）
P{ xn 0 }= q = 1p （第 n 次抛掷出现反面的概率） 其中 P{ xn 1 } = p 与 n 无关， 且 xi 、 xk (i k 时)是相互独立的随机变量。
称具有这种特性的随机过程为贝努利型随机过程。 注 如果固定观测时刻t，则它的试验结果是属于两个 样本点（0，1）所组成的样本空间。
三、随机过程的分类 1、按参数集和状态分类 离散参数
参数 分类
参数集T的是一个可列集T={0，1，2，…} 连续参数 参数集T的是一个不可列集 T {t | t 0}
状态 分类
离散状态
取值是离散的
X (t )
连续ቤተ መጻሕፍቲ ባይዱ态 取值是连续的
T离散、I离散
参数T 状态I 分类
T离散、I非离散（连续） T非离散（连续） 、I离散 T非离散（连续） 、I非离散（连续）
仅与时刻t n1 的状态有关，
而与过程在时刻 t n 1 以前的状态无关，
称这个特性为马尔可夫性，简称马氏性。 马氏性实质上是无后效性，所以也称马氏过程 为无后效过程。
（4）平稳随机过程 平稳过程的统计特性与马氏过程不同，它不 随时间的推移而变化，过程的“过去”可以对 “未来”有不可忽视的影响。
第二章 随机过程基本概念
随机过程的基本概念
第二章 随机过程的基本概念
§2.1 随机过程的定义 §2.2 随机过程的分布与数字特征 §2.3 随机过程的分类
§2.1 随机过程的定义
引入：
初等概率论的研究对象
§2.1 随机过程的定义
引例1
某电话交换台在时间段[0,t]内接到的电话次数记为X(t),
随机现象某个时刻或有限个时刻静态的结果 即一个或有限个随机变量(随机向量). 问 描述随机现象的整个变化过程， 需要多少个随机变量？
Fn ( xi1 , xi2 ,, xin , ti1 , ti2 ,, tin ) Fn ( x1 , x2 ,, xn , t1, t2 ,, tn )
(2)相容性 对任意自然数m<n,随机过程的m维分布函数 与n维分布函数之间有关系：
Fm ( x1 , x2 ,, xm , t1 , t2 ,, tm ) Fn ( x1 , x2 ,, xm , ,, , t1 , t2 ,, tn )
解
X(t ) A (t (T0 kT )), T0 kT t T0 (k 1)T (k 0, 1, 2) T
§2.2 随机过程的分布与数字特征
2、随机过程的二维分布函数
定义 设{ X ( t ), t T }是一个随机过程，对任意固定的
T 故有，T0 X (t ) t kT h( X (t )), T0 kT t T0 (k 1)T A
29 November 2015
随机过程
§2.2 随机过程的分布与数字特征
例1 设X ( t ) X cos(at ), t ，其中a为常数，
X服从标准正态分布，试求X(t)的一维概率密度函数。
第二章 随机过程的基本概念
§2.1 随机过程的定义 §2.2 随机过程的分布与数字特征 §2.3 随机过程的分类
§2.1 随机过程的定义
引入：
初等概率论的研究对象
§2.1 随机过程的定义
引例1
某电话交换台在时间段[0,t]内接到的电话次数记为X(t),
随机现象某个时刻或有限个时刻静态的结果 即一个或有限个随机变量(随机向量). 问 描述随机现象的整个变化过程， 需要多少个随机变量？
Fn ( xi1 , xi2 ,, xin , ti1 , ti2 ,, tin ) Fn ( x1 , x2 ,, xn , t1, t2 ,, tn )
(2)相容性 对任意自然数m<n,随机过程的m维分布函数 与n维分布函数之间有关系：
Fm ( x1 , x2 ,, xm , t1 , t2 ,, tm ) Fn ( x1 , x2 ,, xm , ,, , t1 , t2 ,, tn )
解
X(t ) A (t (T0 kT )), T0 kT t T0 (k 1)T (k 0, 1, 2) T
§2.2 随机过程的分布与数字特征
2、随机过程的二维分布函数
定义 设{ X ( t ), t T }是一个随机过程，对任意固定的
T 故有，T0 X (t ) t kT h( X (t )), T0 kT t T0 (k 1)T A
29 November 2015
随机过程
§2.2 随机过程的分布与数字特征
例1 设X ( t ) X cos(at ), t ，其中a为常数，
X服从标准正态分布，试求X(t)的一维概率密度函数。
第二章随机过程基本概念
2随机过程的基本概念§2.1 基本概念随机过程是指一族随机变量.对随机过程的统计分析称为随机过程论,它是随机数学中的一个重要分支，产生于本世纪的初期.其研究对象是随机现象，而它特别研究的是随“时间”变化的“动态”的随机现象.一随机过程的定义1 定义设E为随机试验，S为其样本空间，如果（1）对于每个参数t∈T, X(e,t)为建立在S上的随机变量，（2）对每一个e∈S, X(e,t)为t的函数，那么称随机变量族{X(e,t), t∈T, e∈S}为一个随机过程，简记为{X(e,t), t∈T}或X(t)。
()()()()(){}{}[]()为随机序列。
时，通常称，取可列集合当可以为无穷。
通常有三种形式：参数一般表示时间或空间，或有时也简写为一个轨道。
随机过程的一个实现或过程的样本函数，或称随机的一般函数，通常称为为对于：上的二元单值函数。
为即若用映射来表示注意：t X T T T b a b a T T T T t X t X t e X T t e X S e S T t e X RS T t e X t21321,,,,3,2,1,0,1,2,3,,3,2,1,0T ,.4,.3,,2,:,.1=---==ÎÎ×δ®´L L L为一个随机过程。
则令掷一均匀硬币，例),()(cos )(},{1t e X t X Rt T e t H e t t X T H S =Îîíì====p 2 随机过程举例îíì=====为随机变量的函数均为和解释：T e t He t t e X t t t T X t t H X 000cos ),(),(cos ),((p p 2121cos ),(000p t t t e X p 并且：例2：用X(t)表示电话交换台在(0，t)时间内接到的呼唤的次数,则(1)对于固定的时刻t, X(t)为随机变量,其样本空间为{0，1，2，…..},且对于不同的t,是不同的随机变量.(2)对于固定的样本点n, X(t)=n是一个t的函数.(即：在多长时间内来n个人?)所以{X(t),t>0}为一个随机过程.相位正弦波。
第二章：随机过程的基本概念20161104
独立的r.v.，且都服从正态分布N(0,σ 2),ω是常数．
试证明 该过程是正ห้องสมุดไป่ตู้过程，并求它的有限维分布．
3.正交增量过程
定义 设{X(t),t∈T}是二阶矩过程，若对任意的 t1<t2 ≤ t3 < t4∈T 都有
E[( X(t2 ) X(t1 ) )( X(t4 ) X(t3 ))] 0
0 s t,W (t ) W (s) ~ N (0, (t s))
2
维纳过程的数学模型
1.布朗运动简介
英国植物学家布朗(Brown)在显微镜下,观察 漂浮在平静的液面上的微小粒子,发现它们不断地 进行着杂乱无章的运动, 这种现象称为布朗运动. 爱因斯坦(Enisten)1905年提出一种理论,认
(W (t1 ), W (t2 ), ,W (tn )) 是n维正态变量. 所以
所以{W(t),t≥0}是正态过程.
６Poisson过程
计数过程 称实随机过程{N(t),t≥0}是计数过程， 如果N(t)表示直到t时刻为止发生的某随机事 件数． 性质 ① t , N (t ) 0
② N(t)是非负整数
E k X(t k ) 0
k 1
n
l 1
2
2.正态过程
补充:n维正态随机变量分布及性质
定义 设X = (X 1 , X 2 ,..., X n )是n维随机变量， 如果其联合概率密度函数为 f ( x) 1 (2 )
n 2 1 ( x ) B 1 ( x )T 2
令 Y1 X (t1 ),Y2 X (t2 ) X (t1 ),, Yn X (tn ) X (tn1 ) 由题意知 Y1,Y2,…,Yn独立 则
第二章随机过程的基本概念
若固定时间 t = ti ，仅随机因素 e 在变化，则 X (ti , e) 是一个随机变量，如随机相位信号，若固
定时刻 n=ni，则
X (ni , Φ) = Acos(ω0ni + Φ) 是随机变量 Φ 的函数，也是一个随机变量。
对于不同的时刻 t1, t2 ,", ti ," ，X(t)对应于不同的随机变量 X (t1 ) , X (t2 ) ,…, X (ti ) …, 通常 X (ti ) 称为随机过程 X (t) 在 t = ti 时刻的状态, 可见 X (t) 可以看作为一族随时间而变化的随机变
量。
若固定 e = ei ， t = t j ，则 X (t j , ei ) 表示第 i 次试验中的第 j 次测量，它是随机过程的某一特 定的值，通常记为 xi (t j ) 。
当 e 和 t 均变化时，这时才是随机过程完整的概念，从以上的分析可以看出，随机过程是一组
样本函数的集合，或者也可以看成是一组随机变量的集合。因此,我们可以从另一个角度来对随机 过程来下一个定义。
5
0
-5
50
50
100
150
200
0
-5
0
50
100
150
200
5
0
-5
0
50
100
150
200
5
0
-5
0
50
t1 100
150
200
图2.2 接收机噪声
另外，对应于某个时刻 t1 ， x1 (t1 ) , x2 (t1 ) ,…，取值各不相同，也就是说， X (t1 ) 的可能取值
是 x1 (t1 ) 、 x2 (t1 ) 、┄之一，在 t1 时刻究竟取哪个值是不能预知的，故 X (t1 ) 是一个随机变量。同 理，在 t = tk 时， X (tk ) 也是一个随机变量，可见 X (t) 是由许多随机变量构成的。
定时刻 n=ni，则
X (ni , Φ) = Acos(ω0ni + Φ) 是随机变量 Φ 的函数，也是一个随机变量。
对于不同的时刻 t1, t2 ,", ti ," ，X(t)对应于不同的随机变量 X (t1 ) , X (t2 ) ,…, X (ti ) …, 通常 X (ti ) 称为随机过程 X (t) 在 t = ti 时刻的状态, 可见 X (t) 可以看作为一族随时间而变化的随机变
量。
若固定 e = ei ， t = t j ，则 X (t j , ei ) 表示第 i 次试验中的第 j 次测量，它是随机过程的某一特 定的值，通常记为 xi (t j ) 。
当 e 和 t 均变化时，这时才是随机过程完整的概念，从以上的分析可以看出，随机过程是一组
样本函数的集合，或者也可以看成是一组随机变量的集合。因此,我们可以从另一个角度来对随机 过程来下一个定义。
5
0
-5
50
50
100
150
200
0
-5
0
50
100
150
200
5
0
-5
0
50
100
150
200
5
0
-5
0
50
t1 100
150
200
图2.2 接收机噪声
另外，对应于某个时刻 t1 ， x1 (t1 ) , x2 (t1 ) ,…，取值各不相同，也就是说， X (t1 ) 的可能取值
是 x1 (t1 ) 、 x2 (t1 ) 、┄之一，在 t1 时刻究竟取哪个值是不能预知的，故 X (t1 ) 是一个随机变量。同 理，在 t = tk 时， X (tk ) 也是一个随机变量，可见 X (t) 是由许多随机变量构成的。
第二章 随机过程
图2-1-1 噪声电压的输出波形
定义1 设随机试验E的样本空间为 ，如果 对于每一个样本 ，总可以依某种规则确定 一时间t的函数 (T是时间t的变化范 围 ) 与之对应。于是，对于所有的 来说， 就得到一族时间t的函数，称此族时间的函数为 随机过程（也称随机信号）X，而族中的每一个 函数称为该随机过程的样本函数。 注：随机过程是样本函数的集合 。
决定随机信号的主 要物理条件不变
3、主要性质 (1)、若 是严平稳随机过程，则它的一维概 率密度与时间无关。 证明 令 ，则一维概率密度函数
得证。
(2)、若 是严平稳随机过程，则它的均值、 均方值和方差都是与时间无关的常数。
证明： 根据题意有 (2.3.2) (2.3.3) (2.3.4)
(2)、若 是严平稳随机过程，则它的均值、 均方值和方差都是与时间无关的常数。
2.2.1、随机过程的概率分布
随机过程 ，在每一固定时刻 都是随机变量。 随机事件：
发生概率：
， 和
，
，
1、一维分布函数 与 和 都有直接的关系，是 和 的 二元函数，记为： (2.2.1) 被称为随机过程的一维分布函数。 2、一维概率密度函数 如果存在二元函数 ，使 (2.2.2) 成立,则称 为随机过程的一维概率密度函 数, 是 和 的二元函数，且满足 (2.2.3)
• 研究随机过程的概率密度函数的统计特性是 很困难的； • 随机过程一、二阶矩函数在一定程度上描述 了随机过程的一些重要特性。 (1) 噪声电压是一平稳过程 ，那么一、二阶 矩函数，就是噪声平均功率的直流分量、交 流分量、总平均功率等参数。 (2) 正态随机过程由数学期望和相关函数详 细描述。
1 定义 若随机过程
自协方差函数反映了随机过程 在两个不同 时刻的状态相对于数学均值之间的相关程 度。
第二章 随机过程的基本概念.
4
5
随机变量X (t1 )
x1 (t )
随机序列
x2 (t )
x3 (t ) xn (t )
t1
噪声电压
xi (t )为样本函数
每一个样本函数都是 一个确定的时间函数 随机过程在任意时刻 的状态是一随机变量
连续随机过程 离散随机过程
连续随机序列 离散随机序列
随机过程是一族时间函数的集合
6
设正弦波随机过程为 X (t ) A cos 0t 其中 0 为常数 A为均匀分布在(0,1)内的随机变量, 画出随机过程X (t ) 的几个样本函数的图形.
2 (t ) 就表征消耗在单位电阻 上的瞬时交流功率的统 计平均值 .
25
三、自相关函数
表征了随机过程在任意两个时刻之间的关联程度
m X (t ) X (t ) mY (t ) Y (t )
m X (t )
mY (t )
m X (t ) X (t )
X (t )起伏慢
Y (t )起伏快
2 2 若 A , 则 X (t ) cos 0t 为一个确定性函数 3 3
7
设正弦波随机过程为 X (t ) A cos 0t 其中 0 为常数 A为均匀分布在(0,1)内的随机变量, 画出随机过程X (t ) 的几个样本函数的图形.
若 A 0, 则 X (t ) 0 为一个确定性函数
[ x m X (t1 )][ y mY (t 2 )] f XY ( x, y; t1 , t 2 )dxdy
C XY (t1 , t 2 ) RXY (t1 , t 2 ) m X (t1 )mY (t 2 )
若对任意t1 , t 2 都有RXY (t1 , t 2 ) 0, 则称X (t ), Y (t )是正交过程, 此时有C XY (t1 , t 2 ) m X (t1 )mY (t 2 )
第二章随机过程基本概念.
(1若有的一维密度函数。
为称使可积
}: ({ , ( , ( , (, 0 , (1111T t t X t x f dx
t x f t x F t x f x
Î=³ò¥-(2若有的一维概率分布。
为称满足}: ({}{1
, 0} ({T t t X p p
p p x t X P k k k k k
k Î=³==å
¥¥-k k iux X k k iux X p e
u t p x t X P t X dx t x f e u t t x f t X k , ( (( ( 2 , ( , ( , ( (111jj则有分布列若(,则
有密度若(
有时也需要利用常用的一些特征函数来求随机变量的分布函数,由特征函数与分布函数的一一对应性有:
cos(
(Q
+
=t
a
t
X w
的均值函数,方差函数和自相关函数。其中, a , w为常数, Q是在(0, 2p上均匀分布的随机变量。例4试求随机相位余弦波
2随机过程的特征函数
的一维特征函数。
为称为随机变量,记
由于给定( , ( ( ( , ( (, ( (t X u t u e
E u t t X T t X t X t iuX X jjjÙ==Îåò====
为X (t的有限维分布函数族。
为随机过程的n维分布函数。称关于随机过程X (t的所有有限维分布函数的集合
注意:随机过程的n维分布函数描述了随机过程在任意n不同时刻的状态之间的联系。
随机过程X (t的有限维分布函数族的意义何在?随机过程的n维分布函数(或概率密度能够近似地描述随机过程的统计特性,而且, n越大,则n维分布函数越趋完善地描述随机过程的统计特性。
为称使可积
}: ({ , ( , ( , (, 0 , (1111T t t X t x f dx
t x f t x F t x f x
Î=³ò¥-(2若有的一维概率分布。
为称满足}: ({}{1
, 0} ({T t t X p p
p p x t X P k k k k k
k Î=³==å
¥¥-k k iux X k k iux X p e
u t p x t X P t X dx t x f e u t t x f t X k , ( (( ( 2 , ( , ( , ( (111jj则有分布列若(,则
有密度若(
有时也需要利用常用的一些特征函数来求随机变量的分布函数,由特征函数与分布函数的一一对应性有:
cos(
(Q
+
=t
a
t
X w
的均值函数,方差函数和自相关函数。其中, a , w为常数, Q是在(0, 2p上均匀分布的随机变量。例4试求随机相位余弦波
2随机过程的特征函数
的一维特征函数。
为称为随机变量,记
由于给定( , ( ( ( , ( (, ( (t X u t u e
E u t t X T t X t X t iuX X jjjÙ==Îåò====
为X (t的有限维分布函数族。
为随机过程的n维分布函数。称关于随机过程X (t的所有有限维分布函数的集合
注意:随机过程的n维分布函数描述了随机过程在任意n不同时刻的状态之间的联系。
随机过程X (t的有限维分布函数族的意义何在?随机过程的n维分布函数(或概率密度能够近似地描述随机过程的统计特性,而且, n越大,则n维分布函数越趋完善地描述随机过程的统计特性。
随机过程随机过程的基本概念
2.2 随机过程的分类和举例
随机过程可以根据参数集 T 和状态空间 S 是离散集还是
连续集分为四大类.
1、离散参数、离散状态的随机过程 这类过程的特点是参数集是离散的，同时固定t ∈T， X(t)是离散型随机变量即其取值也是离散的。
例 2.2.1（贝努利过程）考虑抛掷一颗骰子的试验，设Xn
是第n(n≥1)次抛掷的点数,对于n=1,2,…的不同值， Xn是
，它不能用一个或几个随机变量来刻画，而要用一族无穷多
个随机变量来描绘，这就是随机过程. 随机过程是概率论的继续和发展. 被认为是概率论的“动力学
”部分. 它的研究对象是随时间演变的随机现象.
事物变化的过程不能用一个（或几个）时间t 的确定的函数 来加以描述. 对事物变化的全过程进行一次观察得到的结果是一个时间t 的 函数，但对同一事物的变化过程独立地重复进行多次观察所 得的结果是不同的，而且每次观察之前不能预知试验结果.
(3) 当 t
的分布函数为
1, x 0 F ( x) X( ) 0, x 0 2
第2章 随机过程的基本概念
2.1 随机过程的定义 2.2 随机过程的分类和举例 2.3 随机过程的有限维分布函数族 2.4 随机过程的数字特征 2.5 两个随机过程的联合分布和数字特征 2.6 复随机过程 2.7 几类重要的随机过程
“电压—时间函数”是不可能预先确知的，只有通过测量
才能得到. 如果在相同的条件下独立地再进行一次测量， 则得到的记录是不同的.
2.1 随机过程的定义
所谓一族随机变量，首先是随机变量，从而是该试验样
本空间上的函数；其次形成一族，因而它还取决于另一
个变量，即还是另一参数集上的函数. 所以，随机过程 就是一族二元函数. 定义2.1.1 设(Ω, F , P)是一个概率空间，T 是一个实的参 数集，定义在Ω 和T 上的二元函数 X(ω,t)，如果对于任
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1. 平稳随机过程的定义
（1）严格平稳随机过程
定义：如果随机过程的任意n维分布不随时间起点 变化， 即当时间平移时，其任意的n维概率密度不 变，则称是严格平稳的随机过程或称为狭义平稳的 随机过程。
对于严格平稳的随机过程，它的均值和方差是与时间无关 的常数，而自相关函数只与t1和t2的差值有关，而与本身 的取值是无关的。
对于随机序列：
均值与方差的物理意义：
如果：X(t)-----单位电阻上的电压
总的平 均功率
交流平 直流平 均功率 均功率
3. 自相关函数
自相关函数可正可负，其绝对值越大，表示相关性越强。 一般说来，时间相隔越远，相关性越弱，自 相关函数的 绝对值也越弱；当两个时刻重合时，其 相关性应是最强
的，所以RX (t,t)最大。
对于离散型随机过程，只要确 定了它的概率分布列就可 以 确定它的概率密度(一串冲激 函数)。
时间不同，概率密度不同， 概率密度是时间的函数。
二维概率分布
(3) N维概率分布
2.随机过程的数字特征
随机过程的均值是时间t的函数，也称 为均值函数，统计均值是对随机过程 中所有样本函数在时间t的所有取值进 行概率加权平均，所以又称为集合平 均。随机过程的均值可以直观地 理解 为在t时刻所有样本函数取值的一个取 值中心，它反映了样本函数统计意义 下的平均变化规律。
第二章 随机过程的基本概念
§2.1 随机过程的基本概念及定义 §2.2 随机过程的统计描述 §2.3 平稳随机过程 §2.4 随机过程的联合分布和互相关函数 §2.5 随机过程的功率谱密度 §2.6 典型的随机过程 §2.7 基于MATLAB的随机过程分析方法 §2.8 信号处理实例
本章学习要点： （1）理解随机过程的概念、平稳随机过程的定义、 各态历经性； （2）掌握功率谱密度和相关函数的关系； （3）掌握相关函数的性质； （4）理解白噪声的定义和特点； 本章是本课程的基础和核心
定义2： 设有一个过程X(t) ，若对于每一个固定的
时刻tj(j=1,2,…) ，X(tj)是一个随机变量，则 X(t)称为随机过程。
随机过程X(t,e)四种不同情况下的意义：
•当t固定，e固定时， X(t) 是一个确定值； •当t固定，e可变时， X(t) 是一个随机变量； •当t可变，e固定时， X(t) 是一个确定的时间函数； •当t可变，e可变时， X(t) 是一个随机过程；
2、随机过程分类
（1）按状态及时间参数分类
状态
时刻
连续型随机过程
连续
连续
连续随机序列
连续
离散
离散型随机过程
离散
连续
离散随机序列
离散
离散
（2）按概率分布分类
高斯随机过程 瑞利随机过程 对数正态随机过程
（3）按统计特性分类
➢平稳随机过程 ➢非平稳随机过程
§ 2.2 随机过程的统计描述
1.随机过程的概率分布 (1)一维概率分布 X(t)在任意时刻t是一个随机变量，这个随机变量的概率 分布和概率密度定义为随机过程的一维概率分布和概率 密度。
随机过程的直观解释: 对随机相位信号或噪声信号作一次观测相当于做一次随 机试验，每次试验所得到的观测记录结果xi(t)是一个确 定的函数，称为样本函数，所有这些样本函数的全体构 成了随机过程。
在实际中还有一类过程，它是按照确定的数学公式产 生的时间序列，它是一个确定性的时间序列，但它的变化 过程表现出随机序列的特征，我们把它称为伪随机序列， 伪随机序列可以用来模拟自然界实际的随机过程 。
§2.1随机过程的基本概念及定义
1.实际背景
例2.1 分析随机相位信号
X (n) Acos(0n ) Φ~R（-π， +π）
1
0
1
-1
10
10
20
30
40
50
60
70
80
0
2
-1
10
10
20
30
40
50
60
70
80
0
3
-1
10
10
20
30
40
50
60
70
80
0
4
-1
0
10
20
30
40
50
60
1
0.8
0.6
0.4
0.2
0
0
50
100
150
200
伪随机序A）
GPS卫星
GPS接收机
0
伪随机码自相关函数
2.随机过程的定义
定义一：设随机试验E的样本空间为S={e}，对其每 一个元素ei(i=1,2,…)都以某种法则确定一个样本 函数x(t,ei),由全部元素{e}所确定的一族样本函 数X(t,e)称为随机过程，简记为X(t)。
严格平稳最基本的特征是时间起点的平移不影响它的统计 特性，即X(t)与X(t+△t)具有相同的统计特性。
（2）广义平稳随机过程
当随机过程是高斯分布时，两者等价。
例1. 设随机过程Z(t)=Xcost +Ysint ，-∞< t <+∞，其 中X、Y为相互独立的随机变量，且分别以概率2/3、 1/3取值-1和2。试讨论随机过程Z(t)的平稳性。
对于随机序列
(2)二维概率分布
对于任意的两个时刻
是两个随机变量，
定义这两个随机变量的联合概率分布和联合概率密度为随
机过 程的二维概率分布和二维概率密度。
解: 本题的随机过程只有两个样本函数, 且两个样本函 数都具有确定的形式, 是一种可预测的随机过程。它的 两个样本函数为
这个过程在任意的时刻都只有 两个可能的取值，所以它是一 个离散型随机过程。
4. 自协方差函数
常用的一些概念：
5. 离散型随机过程的数字特征
6. 计算举例
例2 离散型随机过程自相关函数计算举例
每一个样本函数 出现的概率相等
§2.3 平稳随机过程
随机过程可分为平稳和非平稳两大类, 严格地说, 所有信号 都是非平稳的, 但是, 平稳信号的分析要容易得多, 而且在 电子系统中, 如果产生一个随机过程的主要物理条件在时间 的进程 中不改变, 或变化极小, 可以忽略, 则此信号可以认 为是平稳 的。如接收机的噪声电压信号, 刚开机时由于元器 件上温度的变化, 使得噪声电压在开始时有一段暂态过程, 经过一段时间后, 温度变化趋于稳定, 这时的噪声电压信号 可以认为是平稳的。
70
80
xi (n, i ) Acos(0n i )
随机相位信号—许多样本函数的集合
样本函数
例2.2 分析接收机的噪声
5 0
-5
0
50
100
150
200
5
0
-5
0
50
100
150
200
5
0
-5
50
50
100
150
200
0
-5
0
50
t1 100
150
200
接收机噪声
随时间变化的随机变量----随机变量的集合