第2章随机过程的基本概念
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
s, t E X (t ) X (s) m s m t
D t t , t E X t m t
2
定义 给定随机过程X T X (t ), t T ,称
R( s, t ) ˆ E[ X ( s) X (t )]
当T=(1,2, … ,n,…),
随机时间序列
随机过程是n 维随机变量，随机变量序列的
一般化,是随机变量X(t), t T 的集合. 用 E表示随机过程X T X t , t T 的值域,称E为 过程的状态空间. Ex.4 设(Ω,F, P)是对应于抛均匀硬币的概率
空间:
Ω ω1 ,ω2 ,
T ( t ,ω) 是一个 2)当固定ω Ω ,作为 t T 的函数，
定义在T上的普通函数.
X(t1,ω)
X(t2,ω)
X(t,ω1) X(t,ω2) X(t,ω3)
t1
பைடு நூலகம்t2
tn
定义 对每一固定ω Ω，称 X t ω是随机过程 { X ( t , ), t T } 的一个样本函数. 也称轨道, 路径,现实.
PX (t1 ) x1 ,, X (t n ) xn .
三、随机过程的数字特征
在实际应用中,很难确定出随机过程的有限维 分布函数族,过程的数字特征能反映其局部统计性 质. 需确定各类数字特征随时间的变化规律.
1、均值函数、方差函数及相关函数
定义 给定随机过程X T X (t ), t T ,称
Ex.5 利用抛硬币的试验定义一个随机过程，
cost , 出现正面； X (t ) t R. 出现反面. 2t 设出现正反面的概率相同 ,写出 X(t) 的所有 样本函数.
解
记 ω1= {出现正面}, x(ω1,t)= cosπt,
ω2= {出现反面},
则X(t)的所有现实为 和 x(ω2, t)= 2t.
的联合分布函数
F (t1 , t 2 ,, t n ; x1 , x2 ,, xn )
P{ X (t1 ) x1 , X (t 2 ) x2 ,, X (t n ) xn }
称为过程的n 维分布函数.记
F ˆ { F t1 , t 2 ,, t n ; x1 , x 2 , , x n : t i T , x i Ri , i 1,2,, n, n 0}
2、复随机过程 定义 设 X (t ), t T 和 Y ( t ), t T 是两个实随 机过程，称 Z (t ) ˆ X ( t ) iY ( t ), T , i 1 为复随机过程. 复随机过程Z (t ), t T 的均值函数为 m Z t ˆ E[ X (t )] iE[Y(t )], t T ; 方差函数为 2 DZ ( t ) ˆ E{ Z ( t ) mZ ( t ) } DX ( t ) DY ( t ),
m t ˆ E[ X ( t )]
xdF
t , x ,
t T
为过程XT的均值函数.
称 定义 给定随机过程 X T X (t ), t T,
D t ˆ D X ( t ) E X t mt
2
为过程XT的方差函数. 称σ t Dt 为过程XT的均方差函数. 需要描述不同时刻过程状态的关联关系. 定义 给定随机过程X T X (t ), t T ,称 s, t ˆ Cov X ( s ), X (t ) E X ( s) m s X (t ) m t 为过程XT的协方差函数. 有
x m 1 ,, xn
注
联合分布函数能完全确定边缘分布函数.
类似地,随机过程的有限维特征函数满足:
1) 对1,2,…,n的任一排列j1 , j2 , …, jn 有
φ t j1 ,, t jn ;θ j1 ,,θ jn φ t1 , t 2 ,, t n ;θ 1 ,θ 2 ,,θ n
个随机过程 X T X (t ), t T ,其有限维分布函 数族恰为 F { F t1 , t 2 ,, t n ; x1 , x 2 , , x n : 即有 F t1 , t 2 ,, t n ; x1 , x2 ,, xn
t i T , x i Ri , i 1,2,, n, n 0}
{ X t ,ω, t T }
为(ΩF,P)上的一个随机过程.
注
1) 称T是参数集(或参数空间) 当T=(1,2, …，n),
随机向量
{ X t ,ω, t T } ( X 1 , X 2 ,, X n )
{ X t ,ω, t T } ( X 1 , X 2 ,, )
X ( t ) Acos( t )
其中β是正常数, 随机变量A 与Θ相互独立, A～ N(0,1), Θ～U(0, 2π).试求过程的均值函数和相关 函数. 解 m X ( t ) E ( X ( t )) E[ Acos(t )]
E ( A) E[cos(t )] 0;
研究该城市气温有无以年为周期的变化规律?
随机过程的 谱分析问题
Ex.2 从杂乱电讯号的一段观察{Y(t),0< t< T}
中,研究是否存在某种随机信号S(t )?
过程检测
Ex.3 监听器上收到某人的话音记录{Z(t),α<t <β} 试问他是否确实是追踪对象？
过程识别
二、随机过程定义 定义 设(Ω,F, P)是概率空间, T R ,若对每个 t T , X t ,ω 是概率空间(ΩF,P)上的随机变量, 则称这族随机变量
注 因事件乘积满足交换律. （2）相容性 对任意固定的自然数m<n,均有
F t1 , t 2 ,, t m ; x1 , x2 ,, xm
F t1 , t 2 ,, t m ,, t n ; x1 , x2 ,, xm , lim F t1 , t 2 ,, t n ; x1 ,, xm , xn
ω1 正 ， ω2 反，
1 P ω1 P ω2 , F ω1 ,ω2 , ,Ω. 2 做无穷多次抛硬币独立试验,引入随机变量
0, X t ,ω 1,
ω ω1 ;
ω ω2 .
( t 0,1,2,)
则 X t ,ω : t ,1,2,是一随机过程.
2) 对任意固定的自然数m<n,均有
φ t1 , t 2 ,, t m ;θ 1 ,θ 2 ,,θ m
φt1 , t 2 ,, t m ,, t n ;θ 1 ,θ 2 ,,θ m ,0,,0
3、随机过程存在定理(柯尔莫哥罗夫) 如果分布函数族 {F t1 , t 2 ,, t n ; x1 , x2 ,, xn , t1 , t 2 ,, t n T , n 1} 满足条件(1)和(2),则存在一个概率空间上的一
为XT 的有限维特征函数族.
特征函数和分布函数是相互唯一确定.
2. 随机过程存在定理 随机过程的有限维分布函数族满足以下 两个性质 （1）对称性
F t j1 ,, t jn ; x j1 ,, x jn F t1 , t 2 ,, t n ; x1 , x2 ,, xn
对1,2,…,n 的任一排列j1, j2, … , jn,均有
称F为XT 的有限维分布函数族.
定义3 过程{ X ( t ), t T } 的n 维特征函数定义为
φ t1 , t 2 ,, t n ; 1 ,θ 2 ,,θ n
E {e
i [θ 1 X ( t1 ) θ n X ( t n )]
}
称
{φ ( t1 , t 2 ,, t n ;θ 1 ,θ 2 ,,θ n ) : t1 , t 2 ,, t n T , n 1}
第二章 随机过程的基本概念
§2.1 基本概念
§2.2 有限维分布与柯尔莫哥洛夫定理
§2.3 随机过程的数字特征
§2.1 基本概念
一、实际背景
在许多实际问题中,不仅需要对随机现象做特 定时间点上的一次观察,且需要做多次的连续不 断的观察,以观察研究对象随时间推移的演变过 程. Ex.1 对某城市的气温进行n年的连续观察, 记录得 { X ( t ), a t b},
F s, t ; x , y ˆ PX ( s ) x, X (t ) y
称为XT 的二维分布函数族. 定义2 过程{ X ( t ), t T } 对任给的 t1 , t 2 ,, t n T , 随机向量
X (t1 ), X (t 2 ),, X (t n )
二、有限维分布与柯尔莫哥洛夫定理
1、分布函数定义
定义1 随机过程 X T X (t ), t T ，对 t T ,
F t ; x ˆ PX (t ) x,
x R,
随机变量X(t)的分布函数 ,称为过程XT 的一维 分布函数. 对任意 s , t T ,二维随机变量 (X(s),X(t))联 合分布函数
其参数集T ={0,1,2,…}, 状态空间E={0,1}.
随机过程的理解 为集合T 与Ω的积集. 称 T Ω t ,ω : t T ,ω Ω
随机过程 X t ,ω 可看成定义在积集 T Ω 上的二 元函数
Ω
T
1)当固定 t T ,X t ω X (t , ) 是一个随机变量；
( s, t ) R2 .
若p,q相互独立，且均服从分布N(0,1)，则 R( s, t ) E{( p qs )( p qt )}
E[ P ] E[ pq ]( s t ) E[ q ]st 1 st , ( s , t ) R . 2 2 2
Ex.2 设随机过程
XY (s, t ) E[( X (s) mX (s))(Y (t ) mY (t ))]
为 X T X (t ), t T 和 YT Y (t ), t T
的互协方差函数。称
RXY (s, t ) E[ X (s)Y (t )]
为 X T X (t ), t T 和 YT Y (t ), t T
RX ( s, t ) E[ X ( s ) X (t )] E[ A cos( t )cos( s )]
2
E ( A2 ) E[cos( t )cos( s )] 1 2π cos ( t θ ) cos ( s θ ) d θ 2π 0 1 2π 随机变量函 [ cos ( t s ) cos ( ( t s ) 2θ )dθ 0 4π 数的数学期 望公式 1 cos( t s ). 2
的互相关函数。
Ex.1 设p,q是两个随机变量, 构成随机过程
X (t ) p qt ,
t T R
均值函数为m( t ) E[ X ( t )] E ( p) E (q )t , 自相关函数为
R( s, t ) E{( p qs )( p qt )}
E[ P 2 ] E[ pq]( s t ) E[q 2 ]st ,
为过程XT的自相关函数.
有 s, t R(s, t ) m s m t
特别当 mt 0 时 称
( s, t ) R( s, t )
XT是零均值过程
(s, t ) ˆ σ s σ t
s ,t
为过程XT的自相关系数.
定义 给定两个随机过程 X T X (t ), t T YT Y (t ), t T 称
D t t , t E X t m t
2
定义 给定随机过程X T X (t ), t T ,称
R( s, t ) ˆ E[ X ( s) X (t )]
当T=(1,2, … ,n,…),
随机时间序列
随机过程是n 维随机变量，随机变量序列的
一般化,是随机变量X(t), t T 的集合. 用 E表示随机过程X T X t , t T 的值域,称E为 过程的状态空间. Ex.4 设(Ω,F, P)是对应于抛均匀硬币的概率
空间:
Ω ω1 ,ω2 ,
T ( t ,ω) 是一个 2)当固定ω Ω ,作为 t T 的函数，
定义在T上的普通函数.
X(t1,ω)
X(t2,ω)
X(t,ω1) X(t,ω2) X(t,ω3)
t1
பைடு நூலகம்t2
tn
定义 对每一固定ω Ω，称 X t ω是随机过程 { X ( t , ), t T } 的一个样本函数. 也称轨道, 路径,现实.
PX (t1 ) x1 ,, X (t n ) xn .
三、随机过程的数字特征
在实际应用中,很难确定出随机过程的有限维 分布函数族,过程的数字特征能反映其局部统计性 质. 需确定各类数字特征随时间的变化规律.
1、均值函数、方差函数及相关函数
定义 给定随机过程X T X (t ), t T ,称
Ex.5 利用抛硬币的试验定义一个随机过程，
cost , 出现正面； X (t ) t R. 出现反面. 2t 设出现正反面的概率相同 ,写出 X(t) 的所有 样本函数.
解
记 ω1= {出现正面}, x(ω1,t)= cosπt,
ω2= {出现反面},
则X(t)的所有现实为 和 x(ω2, t)= 2t.
的联合分布函数
F (t1 , t 2 ,, t n ; x1 , x2 ,, xn )
P{ X (t1 ) x1 , X (t 2 ) x2 ,, X (t n ) xn }
称为过程的n 维分布函数.记
F ˆ { F t1 , t 2 ,, t n ; x1 , x 2 , , x n : t i T , x i Ri , i 1,2,, n, n 0}
2、复随机过程 定义 设 X (t ), t T 和 Y ( t ), t T 是两个实随 机过程，称 Z (t ) ˆ X ( t ) iY ( t ), T , i 1 为复随机过程. 复随机过程Z (t ), t T 的均值函数为 m Z t ˆ E[ X (t )] iE[Y(t )], t T ; 方差函数为 2 DZ ( t ) ˆ E{ Z ( t ) mZ ( t ) } DX ( t ) DY ( t ),
m t ˆ E[ X ( t )]
xdF
t , x ,
t T
为过程XT的均值函数.
称 定义 给定随机过程 X T X (t ), t T,
D t ˆ D X ( t ) E X t mt
2
为过程XT的方差函数. 称σ t Dt 为过程XT的均方差函数. 需要描述不同时刻过程状态的关联关系. 定义 给定随机过程X T X (t ), t T ,称 s, t ˆ Cov X ( s ), X (t ) E X ( s) m s X (t ) m t 为过程XT的协方差函数. 有
x m 1 ,, xn
注
联合分布函数能完全确定边缘分布函数.
类似地,随机过程的有限维特征函数满足:
1) 对1,2,…,n的任一排列j1 , j2 , …, jn 有
φ t j1 ,, t jn ;θ j1 ,,θ jn φ t1 , t 2 ,, t n ;θ 1 ,θ 2 ,,θ n
个随机过程 X T X (t ), t T ,其有限维分布函 数族恰为 F { F t1 , t 2 ,, t n ; x1 , x 2 , , x n : 即有 F t1 , t 2 ,, t n ; x1 , x2 ,, xn
t i T , x i Ri , i 1,2,, n, n 0}
{ X t ,ω, t T }
为(ΩF,P)上的一个随机过程.
注
1) 称T是参数集(或参数空间) 当T=(1,2, …，n),
随机向量
{ X t ,ω, t T } ( X 1 , X 2 ,, X n )
{ X t ,ω, t T } ( X 1 , X 2 ,, )
X ( t ) Acos( t )
其中β是正常数, 随机变量A 与Θ相互独立, A～ N(0,1), Θ～U(0, 2π).试求过程的均值函数和相关 函数. 解 m X ( t ) E ( X ( t )) E[ Acos(t )]
E ( A) E[cos(t )] 0;
研究该城市气温有无以年为周期的变化规律?
随机过程的 谱分析问题
Ex.2 从杂乱电讯号的一段观察{Y(t),0< t< T}
中,研究是否存在某种随机信号S(t )?
过程检测
Ex.3 监听器上收到某人的话音记录{Z(t),α<t <β} 试问他是否确实是追踪对象？
过程识别
二、随机过程定义 定义 设(Ω,F, P)是概率空间, T R ,若对每个 t T , X t ,ω 是概率空间(ΩF,P)上的随机变量, 则称这族随机变量
注 因事件乘积满足交换律. （2）相容性 对任意固定的自然数m<n,均有
F t1 , t 2 ,, t m ; x1 , x2 ,, xm
F t1 , t 2 ,, t m ,, t n ; x1 , x2 ,, xm , lim F t1 , t 2 ,, t n ; x1 ,, xm , xn
ω1 正 ， ω2 反，
1 P ω1 P ω2 , F ω1 ,ω2 , ,Ω. 2 做无穷多次抛硬币独立试验,引入随机变量
0, X t ,ω 1,
ω ω1 ;
ω ω2 .
( t 0,1,2,)
则 X t ,ω : t ,1,2,是一随机过程.
2) 对任意固定的自然数m<n,均有
φ t1 , t 2 ,, t m ;θ 1 ,θ 2 ,,θ m
φt1 , t 2 ,, t m ,, t n ;θ 1 ,θ 2 ,,θ m ,0,,0
3、随机过程存在定理(柯尔莫哥罗夫) 如果分布函数族 {F t1 , t 2 ,, t n ; x1 , x2 ,, xn , t1 , t 2 ,, t n T , n 1} 满足条件(1)和(2),则存在一个概率空间上的一
为XT 的有限维特征函数族.
特征函数和分布函数是相互唯一确定.
2. 随机过程存在定理 随机过程的有限维分布函数族满足以下 两个性质 （1）对称性
F t j1 ,, t jn ; x j1 ,, x jn F t1 , t 2 ,, t n ; x1 , x2 ,, xn
对1,2,…,n 的任一排列j1, j2, … , jn,均有
称F为XT 的有限维分布函数族.
定义3 过程{ X ( t ), t T } 的n 维特征函数定义为
φ t1 , t 2 ,, t n ; 1 ,θ 2 ,,θ n
E {e
i [θ 1 X ( t1 ) θ n X ( t n )]
}
称
{φ ( t1 , t 2 ,, t n ;θ 1 ,θ 2 ,,θ n ) : t1 , t 2 ,, t n T , n 1}
第二章 随机过程的基本概念
§2.1 基本概念
§2.2 有限维分布与柯尔莫哥洛夫定理
§2.3 随机过程的数字特征
§2.1 基本概念
一、实际背景
在许多实际问题中,不仅需要对随机现象做特 定时间点上的一次观察,且需要做多次的连续不 断的观察,以观察研究对象随时间推移的演变过 程. Ex.1 对某城市的气温进行n年的连续观察, 记录得 { X ( t ), a t b},
F s, t ; x , y ˆ PX ( s ) x, X (t ) y
称为XT 的二维分布函数族. 定义2 过程{ X ( t ), t T } 对任给的 t1 , t 2 ,, t n T , 随机向量
X (t1 ), X (t 2 ),, X (t n )
二、有限维分布与柯尔莫哥洛夫定理
1、分布函数定义
定义1 随机过程 X T X (t ), t T ，对 t T ,
F t ; x ˆ PX (t ) x,
x R,
随机变量X(t)的分布函数 ,称为过程XT 的一维 分布函数. 对任意 s , t T ,二维随机变量 (X(s),X(t))联 合分布函数
其参数集T ={0,1,2,…}, 状态空间E={0,1}.
随机过程的理解 为集合T 与Ω的积集. 称 T Ω t ,ω : t T ,ω Ω
随机过程 X t ,ω 可看成定义在积集 T Ω 上的二 元函数
Ω
T
1)当固定 t T ,X t ω X (t , ) 是一个随机变量；
( s, t ) R2 .
若p,q相互独立，且均服从分布N(0,1)，则 R( s, t ) E{( p qs )( p qt )}
E[ P ] E[ pq ]( s t ) E[ q ]st 1 st , ( s , t ) R . 2 2 2
Ex.2 设随机过程
XY (s, t ) E[( X (s) mX (s))(Y (t ) mY (t ))]
为 X T X (t ), t T 和 YT Y (t ), t T
的互协方差函数。称
RXY (s, t ) E[ X (s)Y (t )]
为 X T X (t ), t T 和 YT Y (t ), t T
RX ( s, t ) E[ X ( s ) X (t )] E[ A cos( t )cos( s )]
2
E ( A2 ) E[cos( t )cos( s )] 1 2π cos ( t θ ) cos ( s θ ) d θ 2π 0 1 2π 随机变量函 [ cos ( t s ) cos ( ( t s ) 2θ )dθ 0 4π 数的数学期 望公式 1 cos( t s ). 2
的互相关函数。
Ex.1 设p,q是两个随机变量, 构成随机过程
X (t ) p qt ,
t T R
均值函数为m( t ) E[ X ( t )] E ( p) E (q )t , 自相关函数为
R( s, t ) E{( p qs )( p qt )}
E[ P 2 ] E[ pq]( s t ) E[q 2 ]st ,
为过程XT的自相关函数.
有 s, t R(s, t ) m s m t
特别当 mt 0 时 称
( s, t ) R( s, t )
XT是零均值过程
(s, t ) ˆ σ s σ t
s ,t
为过程XT的自相关系数.
定义 给定两个随机过程 X T X (t ), t T YT Y (t ), t T 称