随机过程的微分和积分

用
lim
n−>∞
Sn
=
a
表示。
或用S1,S2,…,Sn → a 即称：数列{Sn}的极限为a. n−>∞
1 随机序列的收敛
一、随机序列收敛的几种定义 1、随机变量序列“处处收敛” (every ⋅ where)
若随机序列样本空间Ω={ξ1, ξ2, ξ3}中的“所有” 的样本序列(普
通数列)均收敛，即ζ：1：
随机过程的积分
一. 随机过程的积分
若连续时间过程{ X(t),t∈T} 在区间[ a,b] ∈T上对所有样本
函数 X (t,ξ ) = χξ (t),ξ ∈ Ω 存在Riemann积分
∑ ∫ n−1
lim
Δti →0,n→∞ i=0
χξ (ti′) ⋅ Δti
=
b a
χξ
(t)dt
=
yξ
.....ξ
数。
dt
2. 均方可微的条件
在检验过程X(t)是否均方可微时，我们遇到了一个问题，在
上式中， X (t) ′是待求的。在X (t) ′尚未求出时，检验
X(t)是否均方可微，我们可以运用一个能避开X (t) ′的准则
－Cauchy准则。即，如果X(t)满足：
lim
Δt1 ,Δt2 →0
E
⎪⎧⎡ ⎨⎢
则称：随机序列{X(n)}“依概率收敛”于随机变量X。 记：{X (n)} ⎯P⎯→ X
4、依分布收敛(distribution) 若存设在：：Fn(x)，n=1,2,…是随机序列{X(n)}的分布函数，F(x)是随机 变则量称X：的随分机布变函量数序。列{X(n)}“依分布收敛”于X。
记：
lim
n→∞
χξ
(t
+
Δt)
=
χξ
(t),................ξ
∈
Ω
则称：该过程X(t)在 t 上处处连续。
二、均方连续 1、定义
若二阶矩过程在t∈T上满足 lim E{[ X (t + Δt) − X (t)]2} = 0 Δt →0
则称X(t) 在t∈T上，“在均方意义下”连续。或称该二阶矩过程
x1
(1),
x
1
(2),L
,
x1
(n
)
→
n→∞
x1
ζ
：
2
x
2
(1),
x2
(2),L
,
x2
(n)
→
n→∞
x2
， (x1,x2 ,x3
)∈
X
ζ
：
3
x3
(1),
x3
(2),L
,
x3
(n)
→
n→∞
x3
lim
n→∞
xi
(n)
=
xi，
∀ζ i ∈ Ω
则称：随机序列{X(n)} “处处收敛”于随机变量X。
记作： lim X (n) = X n→∞
则称：随机序列{X(n)} “均方收敛”于随机变量X。
记作：l ⋅i ⋅ m X (n) = X ， 或：X (n) ⎯M⎯⋅S⎯→ X n→∞
(2) 均方收敛的充要条件（柯西准则） 若随机序列{X(n)}和随机变量X的二阶矩均存在，则{X(n)}均方收
敛于X的充要条件是： lim E{ X (n) − X (m) 2} = 0
Fn
(x)
=
F ( x)
1
F(x)
Fn (x)
M
X (n) ⎯d⎯→ X
Fi (x)
M
M
0
x
5、均方收敛（平均意义下的收敛）Mean.square
设随机序列{X(n)}对所有 的n=1,2,…二阶矩存在，随机变量X的 二阶矩也存在。
若{X(n)}、X满足： lim E{ X (n) − X 2} = 0 n→∞
⎪⎩⎣
X (t
+
Δt1 ) Δt1
−
X (t)
−
X (t
+
Δt2 ) Δt 2
−
X (t) ⎤ 2 ⎪⎫ ⎥⎬ ⎦ ⎪⎭
=
0
则称X(t) 在均方意义下可微。
如果偏导数 在，
∂
2
RX (t1 ∂t12
,
t
2
)
,
∂
2
RX (t1 ∂t2 2
,
t
2
)
,
∂
2
RX (t1, ∂t1∂t 2
t
2
)
存
则上式写成
Δt →0
Δt
= lim E[ X (t + Δt)] − E[ X (t)] = dE[ X (t)]
Δt →0
Δt
dt
导数的期望→ E[ dX (t)] = dE[ X (t)] ←期望的导数
dt
dt
随机过程的导数运算与其数学期望的运算可以交换次序。
2、 Y(t)的自相关函数
根据自相关函数的定义，有
利用许瓦兹不等式
E{[X(t + Δt1)⑴− X(t)]⋅ X(t + Δt2)} ≤{E{[X(t + Δt1) − X(t)]2}⋅ E[X 2(t + Δt2)]}1/2
E{X
(t)
⋅[
X
(t
+
Δt 2
)− X ⑵
(t)]}
≤
{E[ X
2
(t)]
⋅
E{[
X
(t
+
Δt 2
)
−
X
(t )]2 }}1 /
满足：
P{lim X (n) = X } = 1 n→∞
则称：随机序列{X(n)} “以概率1收敛”于随机变量X。
简记： {X (n)} ⎯a⎯.e⎯→ X
3、依概率收敛(Probability)
若随机序列{X(n)} 对于任意给定小正数ε > 0 ，
有：lim P{ X (n) − X ≥ ε} = 0 n→∞
对某次试验结果ζ i 而言，在样本函数xi (t) 上采样得到的{xi (n)} 是一
个普通数列称“样本序列”。
“数列收敛”的概念：
若有数列S1,S2,…,Sn,…对任意小的正实数ε>0，总能找到一
个正整数N，使得当n>N时，存在∣Sn-a∣< ε，对任意n>N ，则
称数列S1,S2,…,Sn,…收敛于常数a
即满足 或者
Δt
lim
Δt →0
E
⎪⎧⎡ ⎪⎩⎨⎢⎣
X
(t
+
Δt) Δt
−
X
(t)
−
X
(t)′⎥⎦⎤
2
⎪⎫ ⎪⎭⎬
=
0
l ⋅ i ⋅ m X (t + Δt) − X (t) = X (t)′
Δt →0
Δt
则称过程X(t)在t∈T上均方( m.s )可导（可微）。
而 X (t)′ = dX (t) 便称为过程X(t)在t∈T上的均方导
Δt2 →0
Δt 2
∂t 2
又因
RY
(t1 , t 2
)
=
E[Y
(t1 )Y
(t2
)]
=
⎡ E⎢l
⎣
⋅i⋅m
Δt1 →0
X
(t1
+
Δt1 ) Δt1
−
X
(t1 )
⋅Y
(t2
⎤ )⎥ ⎦
= lim E[ X (t1 + Δt1)Y (t2 ) − X (t1)Y (t2 )]
Δt1 →0
Δt1
= lim RXY (t1 + Δt1,t2 ) − RXY (t1,t2 ) = ∂RXY (t1,t2 )
•
•
RY (t1, t2 ) = E[Y (t1 )Y (t2 )] = E[ X (t1 ) X (t2 )]
而X(t)与Y(t)的互相关函数
R XY
(t1 , t2 )
=
E[ X
(t1 )Y (t2 )]
=
⎡ E⎢X
⎣
(t1
)
⋅
l
⋅i
Δt2
⋅m
→0
X
(t 2
+
Δt2 ) Δt2
−
X
(t
2
)
⎤ ⎥
lim
Δt1 ,Δt2 →0
E
⎪⎧⎡ ⎨⎢ ⎪⎩⎣
X (t
+
Δt1 ) Δt1
−
X (t)
−
X (t
+
Δt2 ) Δt 2
−
X (t) ⎤ 2 ⎪⎫ ⎥⎬ ⎦ ⎪⎭
=
⎡ ⎢ ⎣
∂
2
RX (t1, ∂t1∂t1
t
2
)
+
∂ 2 RX (t1, t2 ) ∂t 2 ∂t 2
−
2
∂
2
RX (t1, ∂t1∂t 2
随机过程的微分和积分
在高等数学中，数列的收敛与极限是微积分的基础。在随机过 程中，随机序列的收敛与极限的概念则是随机过程微积分的基础。
举例：设一电压控制电路对外来的噪声电压信号进行控制，使 其稳定在某一水平。我们考察这一渐进过程。
设该试验共有三个结果Ω=( ξ1,ξ2, ξ3)，在t=1,2, …,n,…上采样, 随 时间变化得一串随机变量X1,X2,…,Xn… ← 称随机变量序列{X(n)}。
⎦
=
⎡
E
⎢l ⎣
⋅i
Δt2
⋅m
→0
X
(t1 ) X
(t 2
+
Δt2 ) Δt 2
−
X
(t1 ) X
(t
2
)
⎤ ⎥
⎦
= lim E[ X (t1 ) X (t2 + Δt2 )] − E[ X (t1 ) X (t2 )]
Δt2 →0
Δt2
= lim RX (t1 , t2 + Δt2 ) − RX (t1 , t2 ) = ∂RX (t1 , t2 )
X(t)具有“均方连续性”。常表示为l ⋅ i ⋅ m X (t + Δt) = X (t)
或者简称过程m.s连续。
Δt →0
t ∈T
2、均方连续的准则（过程X(t) 在t∈T上均方连续的“充要条件”）
⑴—若X(t) 的自相关函数 RX (t1 , t2 ) 在t∈T (t1=t2=t)上连续，
则X(t)便在t∈T上均方连续。
2
对不等式两端取极 限：
1
1
lim (1) ≤ lim {∗}2 及 lim (2) ≤ lim {∗}2
Δt1→0
Δt1→0
Δt 2→0
Δt 2→0
随机过程的微分
一. 随机过程的微分（导数）
1. 均方导数的定义
设均方连续过程[ X(t), t∈T ]和随机过程[X (t) ′，t∈T],若
在整个T内当 Δt → 0 时，X (t + Δt) − X (t) 均方收敛于 X (t) ′
t2 T
t1 =t2 =t ∈T
0
T
t1
⑵－若X(t) 在t∈T上均方连续，则 RX (t1, t2 )
一般连续。
证明：
在t1=t2=t上
RX (t + Δt1, t + Δt2 ) − RX (t, t) = E[ X (t + Δt1 ) X (t + Δt2 )] − E[ X (t) X (t)] = E{[ X (t + Δt1 )⑴− X (t)]X (t + Δt2 )} + E{X (t)[ X (t + Δt2 ) ⑵− X (t)]}
∈
Ω
Δ ti
则称过程X(t)是“处处可积”的。
t0 t1 ti ti′ ti+1
tn b
其中 Δ t i 是在[a,b]上有限分割a = t0 < t1... < tn ≤ b 的任意子区
间 (ti+1 − ti ) 长度，ti′ 是子区间 (ti+1 − ti ) 中任意处。
相应与每个试验结果 ξ
t
2
)
⎤ ⎥ ⎦
t1
= t2
=t
=0
由此可见，随机过程X(t)在t∈T上，均方可微的充要条件是在
一切[(t,t),t∈T]上
存在。
∂ 2 RX (t1, t2 )
∂t1∂t 2
t1 =t2 =t
•
二. 随机过程导数 X (t) 的数学期望与相关函数 RX& (t1,t2)
设Y(t)为可微过程X(t)的导数
即
Y (t) = dX (t) = l ⋅ i ⋅ m X (t + Δt) − X (t)
dt
Δt → 0
Δt
1、 Y(t)的数学期望
E[Y (t)] = E[ dX (t)] = E[l ⋅ i ⋅ m X (t + Δt) − X (t)]
dt
Δt →0
Δt
= lim E[ X (t + Δt) − X (t)] ↑“求极限”与“求期望” 交换次序
应不同的 ξ ，积分值
，积分都可得到一个数 yξ ;但是，对 yξ 也是不同的，故对所有的试验结
果，Y是一个随机变量。
一般的随机过程，并不是所有的样本函数的积分都存在的。
因此，我们定义均方意义上的积分。
1. 均方积分的定义
若二阶矩过程X(t)满足：
n −1
∑ lim
Δti → 0,n→ ∞
E [(
简写： {X (n)} ⎯e⎯→ X
在上述“处处收敛”的定义中，Ω中只要有“一个”ξi对应的样本
序列{xi (n)}不收敛，则随机序列{X(n)}就不是“处处收敛”的。这个条
件一般的随机序列都不容易满足。
下面介绍几种常用的“宽松的” 收敛定义。
2、以概率1收敛（“几乎处处收敛”）almost .every.where 若随机序列{X(n)}相对试验E的所有可能结果ξ ∈Ω
n→∞ m→∞
只需要对随机序列{X(n)}的一个方差 E[ X (n) − X (m) 2] 进行检验，比 较方便。因此，在随机过程中运用的是均方收敛。
四种收敛模式之间的关系：
a⋅e
e
Pd
M ⋅S
a⋅e
eP d
M ⋅S
随机过程的连续性
在微积分中，一个函数要可微，该函数首先必须要连续。
一般确定函数的连续性：
设函数χ(t)在 t 0 的t 0某个邻域内有定义，当自变量的增量△t→0
时，函数的增量也趋于→0，即
lim χ (t0 + Δt) = χ (t0 )
Δt → 0
则称：函数χ(t)在 t 0 上连续.
一、随机过程处处连续
对于随机过程X(t)而言，若它的每一个样本函数在 t 上都续：
lim
Δt →0
Δt1 →0
Δt1
↑∂t1
R XY
Leabharlann Baidu
(t1 , t2 )
=
∂RX (t1 , t2 ) ∂t 2
←将该式代入上式，得
到：
RY
(t1, t2 )
•
=
R•
X
(t1, t2 )
=
∂ 2 RX (t1, t2 ) ∂t1∂t 2
随机过程导数 X (t) 的自相关函数，等于随机过程 X(t)自相关
函数的二阶偏导数。
i=0
X
(t i′)Δ t i
− Y )2]
=
0
则称过程X(t) 是均方可积
的。
∑ ∫ 而随机变量
n−1
Y
= l⋅i⋅m Δti →0,n→∞ i=0