随机过程 第4章
随机过程习题集-第四章马尔可夫过程
1第四章 马尔可夫过程内容提要1. 马尔可夫过程的概念 (1)马尔可夫过程给定随机过程{}(),X t t T ∈,如果对122,∀≥∀<<<∈n n t t t T ,有11221111{()|(),(),,()}{()|()}n n n n n n n n P X t x X t x X t x X t x P X t x X t x ----<====<=则称{}(),X t t T ∈为马尔可夫过程。
称(){}:,==∈E x X t x t T 为状态空间。
参数集和状态空间都是离散的马尔可夫过程称为离散参数马氏链. 参数连续、状态空间离散的马尔可夫过程称为连续参数马氏链. (2)k 步转移概率设{}(),0,1,2,=X n n 为离散参数马氏链,称()(),(,){|},0,1=+==≥≥i j p n k P X n k j X n i n k为{}(),0,1,2,=X n n 在时刻n 的k 步转移概率,称(),(,)((,)),P =∈i j n k p n k i j E为{}(),0,1,2,=X n n 在时刻n 的k 步转移概率矩阵. 特别地,当1k =时,在时刻n 的一步转移概率和一步转移概率矩阵分别简记为()ij p n 和()n P . (3)初始分布、绝对分布称((0)),,==∈i p P X i i E 为离散参数马氏链{}(),0,1,2,=X n n 的初始分布,记为0P ,称()(){},,==∈j p n P X n j j E 为马尔可夫链{}0n X n ≥的绝对分布,记为P n . (4)离散参数齐次马氏链设{}(),0,1,2,=X n n 是一离散参数马氏链,如果其一步转移概率()ij p n 恒与起始时刻n 无关,记为ij p ,则称{}(),0,1,2,=X n n 为离散参数齐次马氏链。
若{}(),0,1,2,=X n n2是离散参数齐次马氏链,则其k 步转移概率记为(),i j p k ,一步转移概率矩阵和k 转移概率矩阵分别记为P 和().P k(5) 离散参数齐次马氏链的遍历性离散参数齐次马氏链{X (n ) ,n=0,1,2… },若对一切状态i ,j ,存在与i 无关的极限()()lim 0,ij j n p n i j E →+∞=π>∈则称此马氏链具有遍历性.0,1j j j Ej E ππ∈>∈=∑若且则称{},j j E π∈为离散参数齐次马氏链{X (n ) ,n=0,1,2… }的极限分布,或称为最终分布,记为{},j j E ∏=∈π(6)离散参数齐次马氏链的平稳分布离散参数齐次马氏链{X (n ) ,n=0,1,2… },若存在{v j , j ∈E } 满足条件:1)0,2)13)j jj Ej i iji Ev j E vv v p ∈∈≥∈==∑∑则称此马氏链是平稳的,称 { v j , j ∈E } 为此马氏链的平稳分布。
随机过程第四章
pii
(n)
1
i
0
证:(1)如i为零常返则i
,由lim n
pii nd
d
i
0
而当n不能被周期d整除时n 0modd ,
必然有pii
(n)
0,故
lim
n
pii
n
0
反之,若lim n
pii
(n)
0,
而i是正常返,
则由lim n
pii (nd )
d
i
0矛盾.
(2) 如i为遍历,即d 1,由上面定理得
即 Tij minn:X m i, X mn j,n 1
而称:
fij (n) P Tij n
P{X mv j,1 v n 1,X mn j / X m i},n 1 为自状态i出发,经n步首次到达状态j的概率, 简称首达概率。
注:由齐次马氏链性质知,首达概率与出发时刻
p3
① q1 q2
p1
③ q3 ②
p2
求从状态1出发经n步转移首次到达各个状态的概率。
f12
(n)qq11p3 p3源自q m1 1m p1,
q3
,
n 2m, n 2m 1,
m 1 m0
同理:
f13 (n)
p1q2 p1q2
p m1 1
m q1,
p2
,
n 2m, n 2m 1,
m 1 m0
互通关系的状态是同一类型.
定理:如果i j, 则
(1) i与j同为常返或非常返,如为常返,则它们
同为正常返或零常返;
(2) i与j有相同的周期。
1证:因为i j,故存在正整数k与m,使
pij (m) 0, p ji (k ) 0
随机过程-第四章 更新过程
4.1 更新过程定义
上一章我们看到泊松过程的到达时间间隔是服从独立同分布的指数随机变量。现将其 进行推广,考虑到达时间间隔服从独立同分布,但分布函数任意,这样得到的计数过程称为 更新过程。 设 X n , n 1, 2, 是一列服从独立同分布的非负随机变量,分布函数为 F ( x) ,为避 免显而易见的平凡情形, 假设 F (0) P X n 0 1 。 将 X n 解释为第 n 1 个与第 n 个事件 之间相距的时间,记 E ( X n ) 有 0 。令 Tn
这其中利用了 X n , n 1, 2, 的独立同分布性质,这里 [1 F (b)] (0,1) 。又因为
k
Tmk t Tk T0 t , T2k Tk t ,, Tmk T( m1)k t
而且更新区间(相当于时间间隔)服从独立同分布,即
P 1 因 此 存 在 a 0 , 使 得 P Xn a 0 , 从 而 由 于 F( 0 ) X n 0 , P X n a 1 。而 F (a) P X n a P X n a P X n a
为 避 免 因 可 能 的
N (t ) sup n, Tn t
定义 4.1 更新过程:计数过程 N (t ), t 0 称为更新过程。
在更新过程中我们将事件发生一次叫做一次更新, 从而 X n 就是第 n 1 次与第 n 次更新 相距的时间,Tn 表示第 n 次更新发生的时刻, 而 N (t ) 就是 t 时刻或 t 时刻之前发生的总的更 新次数。更新过程一个典型的例子是机器零件的更换。 我们首先要回答是第一个问题是在有限时间内是否会有无限多次更新发生。答案是不 会发生这种情况的概率为 1。由强大数定律可知
第四章 随机过程中的平稳过程
RX ( ) E[ X (t )X (t )] =E[ X (t ) X (t )] RX ( )
R(s, t ) E[ X (s)X (t )] R( )
则称{X(t),t∈T} 为宽(弱、广义)平稳过程,简称宽 平稳过程
2008年12月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
由于在许多工程技术问题中,常常仅在相关理论(一、二
阶矩)的范围内讨论问题,因此划分出广义平稳随机过程来。
而相关理论之所以重要,是因为在实际中,一、二阶矩能给出 有关平稳随机过程平均功率的几个主要指标,比如,如果随机
过程如果代表噪声电压信号,那么在相关理论范围内就可以给
出直流分量、交流分量,平均功率及功率在频域上的分布(我 们将在后面讨论功率谱密度)等。另外,在电子系统中经常遇
到最多的是正态随机过程,对于正态随机过程而言,它的任意
若令 t 2 ,得
f (t1 , t 2;x1 , x2 ) f (t1 t 2 ,0;x1 , x2 ) f (;x1 , x2 )
其中 同理
t1 t2
二维分布函数也仅与时间差 而与时间起点无关,即
t1 t2
有关,
F (t1 , t 2;x1 , x2 ) F (;x1 , x2 )
j [ l ( t ) k t ] E X X e k l k 1 l 1
bk e jk
k 1
RY ( )
所以, {Y (t ), t }具有平稳性。
2008年12月
陕西师范大学物理学与信息技术学院 ——— 《随机过程》
P
k 0
(解答)《随机过程》第四章习题
第四章 二阶矩过程、平稳过程和随机分析 习题解答1、 设∑=-=Nk k k kn U n X 1)cos(2ασ,其中k σ和k α为正常数,)2,0(~πU U k ,且相互独立,N k ,,2,1 =,试计算},1,0,{ ±=n X n 的均值函数和相关函数,并说明其是否是平稳过程。
解:计算均值函数和相关函数如下0)}{cos(2)cos(2}{)(11=-=⎭⎬⎫⎩⎨⎧-==∑∑==Nk k k k N k k k k n X U n E U n E X E n ασασμ∑∑∑∑∑∑======-=--=--=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡-⋅⎥⎦⎤⎢⎣⎡-=Ni i i N i i i i i i Ni Nj j j i i j i N j j j j N i i i i X m n U m U n E U m U n E U m U n E m n R 12121111)](cos[)}cos(){cos(2)}cos(){cos(2)cos(2)cos(2),(ασαασαασσασασ因此可知,},1,0,{ ±=n X n 是平稳随机过程。
2、 设有随机过程))(cos()(t t A t X πηω+=,其中0>ω为常数,}0),({≥t t η是泊松过程,A 是与)(t η独立的随机变量,且2/1}1{}1{===-=A P A P 。
(1) 试画出此过程的样本函数,并问样本函数是否连续? (2) 试求此过程的相关函数,并问该过程是否均方连续? 解:(1)样本函数不连续。
(2)令:012≥>t t ,下面求相关函数:)(221)(212210)(1212211212121211212212122112221122121121212cos cos )]}(cos[)]({cos[21!)]([)]}(cos[)]({cos[)1(21))]}()(()(cos[))]()(()(2)({cos[21))]}()(()(cos[))]()(()({cos[21))}(cos())({cos(}{))}(cos())(cos({)}()({),(t t t t k t t k kX e t t e t t t t e k t t t t t t t t t t t t t t t E t t t t t t t t E t t t t E A E t t t t A E t X t X E t t R ----∞=--⋅=⋅-++=⋅-⋅-++-=-+-+-+++=-+-++++=++⋅=++==∑λλλωωωωλωωηηπωηηππηωηηπωηηπωπηωπηωπηωπηω因为:t t t R ωξ2cos ),(=因此该过程是均方连续的随机过程。
应用随机过程第4章随机模拟
4.2 随机数的抽样
› 生成大量不重复的seed序列
产生随机数种 子的原理,是 要产生多少个 随机数种子, 就按一定步长 递增多少次, 然后得到一个 随机数作为种 子。 这个宏有个缺 点,就是当步 长*随机数种子 数量>2**31-1 时,可能得不 到要求得到的 随机数种子数 量。
4.2 随机数的抽样
4.2 随机数的抽样
› 标准分布随机数生成,利用SAS生成标准分布 随机数
› 生成大量不重复的seed序列
– 在实际的应用中,我们经常会遇到需要大量随机数 序列的情况,这时候我们就不能靠手工输入随机数 种子。 – 当SEED=0时,我们可以用这个随机种子产生大量的 随机数序列,但是这里产生的随机数序列并不一定 能保证这些随机数序列不重复。 – 这里介绍一个产生不重复的随机数种子的宏
4.2 随机数的抽样
› 标准分布随机数生成
– SAS随机数函数
4.2 随机数的抽样
› 标准分布随机数生成 › 利用SAS生成标准分布随机数一般有两种方法 – 由随机数函数产生随机数序列 其语法为:var = name(seed,<arg>) – CALL子程序产生随机数序列 其语法为:call name(seed,<arg>,var)。 ー 两种方法的主要区别在于: ー 随机数函数产生随机数序列时,其序列的值只由 第一个随机数种子的值决定,而用CALL子程序时, 每一次调用随机函数,都会重新产生新的随机数 种子。
4.2 随机数的抽样
› 标准分布随机数生成 – 伪随机数生成算法 – 在SAS系统中, – 常数a=397,204,094 – m = 2^31-1=2,147,483,647(是一个素数) – c=0 – 种子R(0)必须是一个整数并且其值介于1到m-1之 间。 – 这里c=0的数据生成器被称为multiplicative congruential generator,被广泛地应用。
第四章 平稳随机过程的谱分析
1 2
S
X
(
)e
j
d
自相关函数和功率谱密度皆为偶函数
若随机过程X t是平稳的,自相关函数绝对可积,则自相关函数
jt
ddt
1
2
XX
()
x(t)e jt dtd
1
2
X
X
()X
* X
()d
1
2
X
X
()
2d
4.1、平稳随机过程的功率谱密度 ❖功率谱
功率型信号:能量无限、平均功率有限的信号
P lim 1 T s(t) 2 dt T 2T T 其能谱不存在,而功率谱存在
持续时间无限长的信号一般能量无限
4.1、平稳随机过程的功率谱密度
❖如何计算随机信号的平均功率?
2)时域计算方法
任一样本函数的平均功率为
W
lim
T
1 2T
T x2(t, )dt
T
随机过程的平均功率为
W
E[W
]
lim
T
1 2T
T E{X 2(t)}dt
T
若为各态历经过程:
W =W
4.1、平稳随机过程的功率谱密度 ❖如何计算随机信号的平均功率?
2020/5/20
6
4.1、平稳随机过程的功率谱密度
❖傅立叶变换
则 x(t)的傅立叶变换为:
X () x(t)e jt dt
其反变换为:
x(t) 1 X ()e jt d
2
频谱密度存在的条件为:
频谱密度
x(t)dt
2020/5/即20 信号为绝对可积信号
包含:振幅谱 相位谱
求各样本函数功率谱密度的统计平均
电子科大 应用随机过程及应用 (陈良均 朱庆棠)第四章作业
为独立增量过程 Y (n )
∴ Y (n ) 为马氏链
Y (0 ) = 0
Pij (m , k ) = P { Y (m + k ) = j Y (m ) = i } = P{ Y (m + k ) − Y (m ) = j − i Y (m ) − Y (0 ) = i } m+k = P ∑ X (i ) = j − i i= m +1
16 8 ) λ (17 41 , 41 , 41 放在 A 处好
1 1
1 1
习题十三
1 1 2 3 4 5 . . ∞
1 2
习题十四
2
1 1 2 2
3 0
1 1 2 2
4 0 0
1 1 2 2
5 0 0 0
1 1 2 2
6 0 0 0 0
1 2
7 ........
∞
0 0 0 0 0 0
0 0 0 0 0
0 0
1
=
1
2
p
a −1
+
p
a +1
p (a + b ) − p (a + b − 1 ) = p (a + b − 1 ) − p (a + b − 2 ) p (a + b − 1 ) − p (a + b − 2 ) = p (a + b − 2 ) − p (a + b − 3 . p (a . p( 1 ) − p (0
0 0 0
+ + +
0 0 0 0 0 0
1 1 1
3 3 3
× 60 × 10 × 10
7 7 7 30 30 30
随机振动--第4章-随机过程
• 从工程试验的角度来说,随机过程是指: 对某一物理量变化的全过程进行一次试验观测得到 的结果是一个时间t的函数,但对该物理量的变化过程独 立的重复进行多次试验测试所的结果是不相同的.
• 例如:
O
A
B
x
一辆汽车在某一段公路上行驶,由于随机因素(如路 面不平)影响,驾驶员座位处的垂直加速度每时每刻都在 变化,并在某一平均值附近上下波动. 同一台车,同一个驾驶员,同一车速,同一段路 多次测试,每次测试的结果不能重复,各不相同
2
2 Xk
1 T 2 lim [ xk (t ) Xk ] dt 0 T T
4.3 随机过程的数字特征
3、自相关函数 数学期望和方差是刻划随机过程 X(t) 在各个孤立时刻的统计特性的重要特征, 但不能描述随机过程两个不同时刻的状态 之间的联系。引入自相关函数。
集合平均---t1,t2截口 X(t1),X(t2)
按照随机过程的定义,这样 的过程是一个随机过程
任意1条试验曲线 ----样本函数、 子样函数 也叫做一个过程的 现实 所有可能的“现实”构成 1个随机过程的--样本空间(样本集合)
几个基本概念
xi(t1) 截口(状态) xi(tj) j=1,2,…. 一个样本由一系列随机变 量xi(tj) j=1,2,….构成 一个随机过程由无限多个 随机变量构成的 随机变量系
p, t1 0
P , t1 1 ,极大值
对于平稳过程来说,其概率分布函数和概率密度 函数也不依赖于采样时刻。
P x, t P x ,
p x, t p x
(2)多个随机变量的联合概率分布
设:采样时刻t1与t2的两个随机变量
《随机过程及其在金融领域中的应用》习题四答案
第四章 习题41、对泊松过程{},0t N t ≥(1)证明:当s t <时,{}1,0,1,,kn ks t n s s P N k N n k n k t t -⎛⎫⎛⎫⎛⎫===-= ⎪⎪⎪⎝⎭⎝⎭⎝⎭(2)当2λ=时,试求:()()()112112;1,3;21P N P N N P N N ≤==≥≥(3)设顾客到达某商店是泊松事件,平均每小时以30人的速度到达。
求下列事件的概率:相继到达的两顾客的时间间隔为大于2分钟、小于2分钟、在1分钟到3分钟之间。
答:(1)证明:{}()()()()()()()()()()()()()()()()()()(),,!!!!!!!1!!s t s t s s t s s t t t t n kkt s sk n kn k nk n ktn kk n kk nP N k N n P N k N n k P N k P N n k P N k N n P N n P N n P N n t s s e ek n k s t s n k n k t t t e n n s t s n s s k t k n k t t λλλλλλλλλλ------------====-==-========-⎡⎤⎣⎦--==--⎛⎫⎛⎫⎛⎫==- ⎪⎪ ⎪-⎝⎭⎝⎭⎝⎭(2)()()()()()()()()11110121112222201211120!1!2!225P N P N N N e e e e e e e λλλλλλλ-------≤==+=+==++-=++=()()()()12121224111,31,3112224P N N P N N P N P N ee e----=====-=====()()()()()()()()()()111111121112112,122111121011311101P N N P N P N N P N P N P N P N P N e P N P N e --≥≥≥≥≥==≥≥-<-=-=-===-<-=-(3) 解法一:顾客到达事件间隔服从参数为λ的指数分布:()()()30,03030,0x x Z Z f t e x f t e x λλλ--=≥=⇒=≥①()30301111303023030106030x x P Z e dx e e e ∞∞----⎧⎫>===--=⎨⎬-⎩⎭⎰②()11303011303000230301116030x x P Z e dx e e e ----⎧⎫<===--=-⎨⎬-⎩⎭⎰ ③1131133030202022221160601330301606030x x P Z e dx e e e e e ------⎛⎫⎧⎫<<===--=-⎨⎬ ⎪-⎩⎭⎝⎭⎰解法二:()3030==0.560λ∴平均每小时有人到达人/分钟根据齐次Poisson 过程的到达时间间隔{},1,2,n X n =是独立同分布于均值为1λ的指数分布的,故可有: 相继到达的顾客的时间间隔大于2分钟的概率为:()12t n P X e e λ-->== 相继到达的顾客的时间间隔小于2分钟的概率为:()1211t n P X e e λ--<=-=-相继到达的顾客的时间间隔在1分钟到3分钟之间的概率为:()()()()1.50.50.5 1.5133111n n n P X P X P X e e e e ----<<=<-<=---=-2、{},0t N t ≥是强度为λ的泊松过程。
随机过程 第4章 Markov过程
(C-K 方程)
证明:由全概率公式,有:
( m+r ) pij (n) = P{ X n + m + r = j X n = i}
= ∑ P{ X n + m + r = j, X n + m = k X n = i} = ∑ P{ X n + m + r = j X n + m = k , X n = i} ⋅P{ X n + m = k X n = i} = ∑ P{ X n + m + r = j X n + m = k}P{ X n + m = k X n = i}
为齐次马氏链的 m 步转移(概率)矩阵。 显然有:
(m) pij (n) ≥ 0, i , j ∈ I
∑p
j∈I
(m) ij
( n) = 1 , i ∈ I
m = 1 时,即为一步转移矩阵。
规定:
⎧1, (0) pij (n) = δ ij = ⎨ ⎩0,
二、切普曼-柯尔莫哥洛夫(C-K)方程
i= j i≠ j
由01nll相互独立111100nnnnpxixixixi??l111100111100nnnnnnpxixixixipxixixi????ll第四章markov过程611121100011211000?nnnnnnnnnpiiiiiiipiiiii?????????l??l1nnnpii??11??nnnnixixp故210lnxn满足markov性且1100nnijnnkkkkppxjxipji??10nnkknji?pji?ipji?q?二随机游动1无限制的随机游动
性质 5 设{ X n , n ≥ 0 }为马氏链, 其状态空间为 I, 则对任意给定的 n 个整数,
北京交通大学硕士研究生课程《随机过程》4.1-2
在已知 N t n的 条 件 下 , S1, , Sn 的 联 合 密 度 为
0, t 分为n 1个小部分,取ti为充分小量,
使得 t i -1 t i t i
4.1到达时间间隔与等待时间分布
P t i Δt i Si t i ,1 i n N t n
问题
10 该性质能否推广到 N t n,n 1的情形?
2 该性质是否是 Poisson 过程特有的 ?
0
4.1到达时间间隔与等待时间分布
补充知识—顺序统计量
10 定 义 : 设 Y1 ,, Yn是n个 随 机 变 量 , 记 Yk 是 Y1 ,, Yn中 第k个 最 小 值 , k 1,, n, 则 称 Y1 , Y2 ,, Yn 是 对 应 于 Y1 ,, Yn的 顺 序 统 计 量 .
k 1
s h k 1!
P N t n
k 1
e
h
h e
t s
t s e t n! n n k ! t
n k
1
s t
n k
1 t
4.1到达时间间隔与等待时间分布
说明:
s 1 P S k s N t n C t jk
又 P S 1 s , S1 s x S 2
s
P X 1 s, X 1 s x X 1 X 2 P X 1 du, X 2 s x u
0
P X 1 du, X 2 s x u P X 1 du, X 2 s x u
的 分 布 , 即 Erl an gn, , 密 度 函 数 为
西安交通大学研究生随机过程——平稳过程.pdf
第4章 平稳过程粗略地说,“平稳过程”是指其统计特征不随时间推移而变化的一类随机过程.在随机过程理论中有两种不同含义的平稳过程——严平稳过程和宽平稳过程.本章着重研究后者并介绍宽平稳过程相关函数的性质、谱密度及其性质以及各态历经等方面的内容.4.1 二阶矩随机变量空间与均方微积分4.1.1 二阶矩随机变量空间定义4.1.1 给定概率空间(Ω,F ,P ),设X 为定义在(Ω,F ,P )上的复值随机变量,令{}2:||,ˆX E X =<∞H(4.1.1)称H 为二阶矩随机变量空间. 注 (1) 所谓二阶矩随机变量空间H 就是定义在(Ω,F ,P )上的二阶矩存在的复值随机变量全体.因2||X E X ∈<∞H ,即,而期望运算本质上是积分运算,故二阶矩存在这一概念与普通微积分的平方可积概念相对应. (2) 显然,(实值)随机变量是复值随机变量的特例,因而H 中也包含了二阶矩存在的所有(实值)随机变量. (3) H 中的元在几乎处处相等的意义下是相同的,即若X , Y ∈H ,且P {X = Y } = 1,则称X=Y .在本章以后的讨论中都按此注释理解. 对H 中的元定义通常意义下的加法运算,再定义H 中的元与复数域C (相应地,实数域R )中的元的数乘运算,容易验证H 对这两种运算封闭.事实上,若X , Y ∈H ,由Cauchy-Schwarz 不等式[]222||||||,E X Y E X E Y ≤<∞则222||||2||||,E X Y E X E X Y E Y +≤++<∞X Y ∈H 即+。
222||||||X αE αX αE X αX ∈∈=<∞∈C R H H 若,(相应地,),则,即。
此外,H 显然还满足以下条件:,,,X Y Z αβ∈∈C R H 若,(相应地,),则,()(),0,()0,()(),(),(),1.X Y Y X X Y Z X Y Z X X X X αβX αβX αβX αX βX αX Y αX αY X X +=+⎫⎪++=++⎪⎪+=⎪+−=⎪⎬=⎪⎪+=+⎪+=+⎪⎪⋅=⎭由此可得下面的结论. 定理4.1.2 H 是复数域C (相应地,实数域R )上的线性空间.延伸阅读在H 中引入二元运算:(,)(),,,ˆX Y E X Y X Y =∀∈H其中Y Y 表示对取共轭(下同).由Cauchy-Schwarz 不等式知,这样的二元运算是有意义的.不仅如此,还容易验证它具有如下性质12,,,,,,αβX X X Y ∈∈C H 对任意任意有1212(,)(,),(,)(,)(,),(,)0,0(,)0.Y X X Y αX βX Y αX Y βX Y X X X X X =+=+≥==当且仅当时,满足上述条件的二元运算(·, ·)称为H 上的内积(inner product ).当一个线性空间可以引入内积时,称其为内积空间. 若X , Y ∈H 满足(X , Y )= 0,则称X 与Y 正交(orthogonal ). 上面引进的内积与正交概念实际上是对具体问题所涉及的类似概念的抽象.例如,在n 维欧氏空间上就有向量内积与正交概念;在讨论周期函数的Fourier 级数展开时,也遇到过在[-π, π]上的三角函数系{}1,cos ,sin ,,cos ,sin ,x x nx nx ""的内积与正交概念,等等. 如果X , Y ∈H ,且EX = 0 = EY ,那么X 与Y 正交蕴含X 与Y 不相关,反之亦然.对X , Y ∈H ,令(,)ˆd X Y =(4.1.2)可以验证这里引入的d (·, ·)满足以下条件,(,)(,),,,(,)(,)(,),,,,(,)0,(,)0.d X Y d Y X X Y d X Z d X Y d Y Z X Y Z d X Y X Y d X Y =∈≤+∈≥==H H 当且仅当时, 称d (·, ·)为H 上的距离(distance )或度量(metric ).当一个抽象集合可以引入距离时,称其为距离空间(度量空间). 在H 上引进上述距离d (·, ·)使其成为距离空间,就为我们在H 上讨论所谓的均方微积分奠定了基础.4.1.2 均方微积分同普通微积分一样,我们先来介绍均方极限概念,并将此概念贯串于均方连续、均方导数以及均方积分等概念中.1. 均方极限定义4.1.3 设,(1)n X X n ∈≥H ,若2lim ||0,n n E X X →∞−=(4.1.3)则称{},1n X n ≥均方收敛于X , 亦称X 是X n 当n →∞时的均方极限,记作(..)lim n n m s X X →∞=,这里m.s.是mean square 的缩写. 注 (1) 均方收敛就是第1章介绍的2阶平均收敛.(2) 由(4.1.2)式可知,(4.1.3)式表示(,)0()n d X X n →→∞,故均方收敛就是H 中按距离d (·, ·)收敛.下面讨论均方极限的一些性质.定理4.1.4 (Cauchy 准则) {}(1),1n n X n X n ∈≥≥H 设,则均方收敛的充要条件是2,lim||0.m n n m E X X →∞→∞−=(4.1.4)证 必要性:{},1,n X n X ≥∈H 设均方收敛于 因2222||||2||||,m n m n m n X X X X X X X X X X ⎡⎤−=−+−≤−+−⎣⎦故2220||2||||0(,).m n m n E X X E X X E X X m n ⎡⎤≤−≤−+−→→∞⎣⎦即(4.1.4)式成立.充分性:设(4.1.4)式成立,要证明存在某个,X ∈H 使得{},1n X n ≥均方收敛于X .这涉及到空间H 的完备性,其证明要用到测度论知识,此处从略.□通常,将满足 (4.1.4)的随机序列{},1n X n ≥称为均方Cauchy 列.故定理4.1.4表明:随机序列{},1n X n ≥均方收敛当且仅当它是均方Cauchy 列.定理 4.1.5 ,,(1)n X Y X n ∈≥H 设,若(..)lim (..)lim ,n n n n m s X X m s X Y →∞→∞==, 则P {X =Y }=1, 即 X=Y .证 因22220||||2||||0(0),n n n n E X Y E X X X Y E X X E X Y n ⎡⎤≤−=−+−≤−+−→→⎣⎦故得2||0E X Y −=,此即P { X=Y } = 1.□定理4.1.6 ,,,,,,,, 1.n m n X Y X Y a b a n m ∈∈≥C H 设(1) ()(..)lim lim ()()lim ()(..)lim .n n n n n n n n m s X X E X E X E X E m s X →∞→∞→∞→∞===若,则,亦即(2),(..)lim (..)lim lim()().n m n m n m n m m s X X m s Y Y E X Y E XY →∞→∞→∞→∞===若,,则(3) (..)lim (..)lim n n n n m s X X m s Y Y →∞→∞==若,,则aX n + bY n 也均方收敛,且有 (..)lim().n n n m s aX bY aX bY →∞+=+(4) (..)lim lim (..)lim n n n n n n n m s X X a a m s a X aX →∞→∞→∞===若,,则.证 (1) 因0|||()|0(),n n EX EX E X X n ≤−=−≤→→∞lim ()().n n E X E X →∞=故(2) 因0|()()||()|()()()()()()()()0(,),n m n m n m m n n m m n E X Y E XY E X Y XY E X X Y Y E X Y Y E X X Y E X X Y Y E X Y Y E X X Y n m ≤−=−=−−+−+−⎡⎤⎡⎤⎡⎤⎣⎦⎣⎦⎣⎦≤−−+−+−⎡⎤⎡⎤⎡⎤⎣⎦⎣⎦⎣⎦≤→→∞,lim()(n m n m E X Y E XY →∞→∞=故(3)、(4)的证明比较简单,留给读者作练习.□性质(1)、(2)表明均方极限运算与期望运算可以交换顺序,这一良好性质是由均方极限概念本身所决定的.注意:均方极限运算不具备乘积运算性质,即,(..)lim (..)lim n n n n m s X X m s Y Y →∞→∞==若,,则下列结论未必成立:22(..)lim (..)lim nn n n n m s X X m s X Y X Y →∞→∞==,等.定理4.1.7(均方收敛准则) {}(1)1n n X n X n ∈≥≥H 设,则,均方收敛的充要条件是,lim()n m n m E X X →∞→∞存在.证 必要性:{},1.n X n X ≥∈H 设均方收敛于由定理4.1.6(2),得2,lim()()||.n m n m E X X E X X E X →∞→∞==<∞充分性:,lim().n m n m E X X a →∞→∞=设因2||()()()()()()0(,)m n m n m n m m m n n m n n E X X E X X X X E X X E X X E X X E X X a a a a m n ⎡⎤−=−−⎣⎦=−−+→−−+=→∞ 故由定理4.1.4知,{X n , n ≥ 1}均方收敛.□以上讨论了随机序列形式的均方极限概念.同普通微积分一样,可以很方便地将其推广到随机函数形式,并可写出相应的性质(请读者试着写一写). 有了均方极限概念,就可以定义均方连续、均方导数和均方积分等概念,而且借助均方极限性质还可以来研究它们的相应性质. 2. 均方连续在以下的讨论中总假定{}{}(),(),X t t T Y t t T =∈=∈X Y ,为二阶矩过程(复值或实值),X ∈H ,参数集T 为R 或其上的一个区间.定义4.1.8 {}(),X t t T =∈X 设, 若对固定的t 0∈T ,有0(..)lim ()(),t t m s X t X t →=(4.1.5)则称X 在 t 0处均方连续.若X 在T 上的每一点处都均方连续,则称X 在T 上均方连续.定理4.1.9 (均方连续准则) X 在T 上均方连续的充要条件是对任意t ∈T ,相关函数 R X (·, · )在(t , t )点处二元连续.证 必要性:设X 在T 上均方连续,则对任意t ∈T ,有Δ0(..)lim (Δ)().t m s X t t X t →+=由定理4.1.6(2),得Δ0,Δ0Δ0,Δ0lim(Δ,Δ)lim(Δ)(Δ)()()(,),s t s t R t s t t E X t s X t t E X t X t R t t →→→→++⎡⎤=++⎣⎦⎡⎤=⎣⎦=X X故R X (·, · )在(t , t )点处二元连续.充分性:设任意t ∈T ,R X (·, · )在(t , t )点处二元连续.由2|(Δ)()|(Δ)(Δ)(Δ)()()(Δ)()()(Δ,Δ)(Δ,)(,Δ)(,)E X t t X t E X t t X t t E X t t X t E X t X t t E X t X t R t t t t R t t t R t t t R t t +−⎡⎤⎡⎤⎡⎤⎡⎤=++−+−++⎣⎦⎣⎦⎣⎦⎣⎦=++−+−++X X X X (,)(,)(,)(,)0(Δ0),X X X X R t t R t t R t t R t t t →−−+=→知X 在t 点处均方连续,再由t ∈T 的任意性,得X 在T 上均方连续.□推论4.1.10 {}(),X t t T =∈X 设的相关函数为R X (·, · ),则R X (·, · )在{}(,):t t t T ∈上是二元连续的等价于它在{}(,):,s t s T t T ∈∈上是二元连续的.证 充分性是显然的,往证必要性.设R X (·, ·)在{}(,):t t t T ∈上是二元连续的.由定理4.1.9知,X 在T 上均方连续,故对任意s 0, t 0∈T ,有00(..)lim ()(),(..)lim ()().s s t t m s X s X s m s X t X t →→==根据定理4.1.6的 (2),得0000,,0000lim(,)lim()()()()(,).s s t t s s t t R s t E X s X t E X s X t R s t →→→→⎡⎤=⎣⎦⎡⎤=⎣⎦=X X此即R X (·, · )在{}(,):,s t s T t T ∈∈上是二元连续的.□ 3. 均方导数定义4.1.11 {}(),X t t T =∈X 设,若对固定的t 0∈T ,均方极限00Δ0(Δ)()(..)limΔt X t t X t m s t→+− (4.1.6)存在,则称X 在t 0点处均方可导,并称这一极限为X 在t 0点处的均方导数,记作0d ()()d t tX t X t t =′或.若X 在T 上的每一点处都均方可导,则称X 在T 上均方可导,X 的均方导数记作d ()().d X t X t t′或 {}(),X t t T ′′=∈X 也是一个二阶矩过程,称之为X 的导数过程.如果′X 在t ∈T 均方可导,那么称X 在t 点处二阶均方可导,′X 的均方导数记作22d ()(),d X t X t t ′′或 称为X 的二阶均方导数.类似地,可定义更高阶的均方导数.定理4.1.12 (均方可导准则){}(),X t t T =∈X 在t ∈T 均方可导的充要条件是,在(t , t )点处相关函数R X (·, · )存在下列极限0,0(,)(,)(,)(,)lim.h l R t h t l R t h t R t t l R t t hl→→++−+−++X X X X (4.1.7)证 X 在t ∈T 均方可导,即0()()(..)lim h X t h X t m s h→+−存在.根据定理4.1.7,上述均方极限存在的充要条件是0,0()()()()lim h l X t h X t X t l X t E h l →→⎡+−+−⋅⎢⎣⎦存在.将分子上的各项展开并逐项取期望,即要求极限0,0(,)(,)(,)(,)limh l R t h t l R t h t R t t l R t t hl →→++−+−++X X X X存在,证毕.□下面的定理刻画了均方导数具有的性质. 定理4.1.13 (1) 若X 在t (∈T )点处均方可导,则X 在t 点处均方连续. (2) 若X 在T 上均方可导,其均方导数为′X , 则d [()][()],d E X t E X t t′=(4.1.8)221212121221()()()()()().E X t X t E X t X t E X t X t t t t t ∂∂⎡⎤⎡⎤⎡⎤′′==⎣⎦⎣⎦⎣⎦∂∂∂∂(4.1.9) (3) 若X ∈H 为随机变量,则X 对t 的均方导数为0,即0.X ′=(4) 若X ,Y 均方可导,a , b 为常数,则a X + b Y 也均方可导,且有[]()()()().aX t bY t aX t bY t ′′′+=+ (4.1.10)(5) 若f 是普通的可导函数,X 是均方可导的二阶矩过程,则f X 也均方可导,且有[]()()()()()().f t X t f t X t f t X t ′′′=+ (4.1.11)由均方导数的定义和均方极限的性质便不难证明定理4.1.13,证明留给读者.注 (1) 定理4.1.13的(2)表明均方导数运算与期望运算可交换顺序. (2) 两个均方可导的二阶矩过程X 与Y 的乘积X Y 未必均方可导.例4.1.14 设二阶矩过程X = { α cos (λt + Θ),-∞ < t < ∞},其中α,λ为常数,Θ为随机变量且Θ ~ U (0, 2π).因()cos cos sin sin ,X t αλt Θαλt Θ=− 由定理4.1.13的(3) ~ (5)知()(cos )cos (sin )sin sin cos cos sin sin()X t αλt Θαλt Θαλλt Θαλλt Θαλλt Θ′′′=−=−−=−+ 故X 在(-∞, +∞)上均方可导,从而它在(-∞, +∞)上也是均方连续的.4. 均方积分定义 4.1.15 {}(),()X t a t b f t a t b =≤≤≤≤X 设为二阶矩过程,()为普通函数,考虑区间[a, b ]的任意划分:a = t 0 < t 1 <…< t n -1< t n = b , 作和式11()()(),nkk k k k f ξX ξt t −=−∑1[,]k k k ξt t −∈其中.11Δmax()k k k nt t −≤≤=−记, 若均方极限1Δ01(..)lim ()()()nk k k k k m s f ξX ξt t −→=−∑存在且这一极限与区间[a, b ]的划分及{ξk }的选取无关,则称f X 在[a , b ]上均方可积,并称此极限为f X 在[a , b ]上均方积分,记作()()d ba f t X t t ∫,即 1Δ01()()d (..)lim ()()().ˆnb k k k k ak f t X t t m s f ξX ξt t −→==−∑∫定理4.1.16(均方积分准则)若二重积分()()(,)d d b b aaf s f t R s t s t ∫∫X 存在,则 f X 在区间[a , b ]上均方可积. 证 考虑区间[a , b ]的任意两个划分:011011;,n n m m a t t t t b a t t t t b −−′′′′=<<<<==<<<<="" 分别作和式1111()()();()()(),nmkk k k jjjj k j f ξX ξt t f ηX ηt t −−==′′−−∑∑11[,],[,].k k k j j j ξt t ηt t −−′′∈∈其中 1111Δmax(),Δmax().k k j j k nj mt t t t −−≤≤≤≤′′′=−=−记 欲证f X 在区间[a , b ]上均方可积,即要证明1Δ01(..)lim ()()()nk k k k k m s f ξX ξt t −→=−∑存在.由均方收敛准则(定理4.1.7)知,只要证明下面的极限11Δ0,Δ01111Δ0,Δ01111Δ0,Δ011lim ()()()()()()lim ()()()()()()lim()()(,)()()n m k k k k j j j j k j n mkj k j k k j j k j nmkj k j k k j j k j E f ξX ξt t f ηX ηt t f ξf ηE X ξX ηt t t t f ξf ηR ξηt t t t −−′→→==−−′→→==−−′→→==⎡⎤′′−−⎢⎥⎢⎥⎣⎦⎡⎤′′=−−⎣⎦′′=−−∑∑∑∑∑∑X (4.1.12) 存在即可.现在,已知二重积分()()(,)d d b ba af s f t R s t s t ∫∫X(4.1.13)存在,故(4.1.12)式中的极限自然存在,并且其极限值就是(4.1.13)中的积分.□下面讨论均方积分的一些性质. 定理4.1.17 (1) 若X 在[a , b ]上均方连续,则X 在[a , b ]上均方可积. (2) 若 f X 在区间[a , b ]上均方可积,则[]()()d ()()d .bbaaE f t X t t f t E X t t ⎡⎤=⎢⎥⎣⎦∫∫(3) 若二重积分()()(,)d d b baaf s f t R s t s t ∫∫X 存在,则()()d ()()d ()()(,)d d .b b b b a a a aE f s X s s f t X t t f s f t R s t s t ⎡⎤⋅=⎢⎥⎣⎦∫∫∫∫X特别,若(,)d d b b X aaR s t s t ∫∫存在,则2()d (,)d d .b b b X aaaEX t t R s t s t =∫∫∫(4) 若X 和Y 在[a , b ]上均方可积,则αX + βY 在[a , b ]上均方可积(其中α, β为常数)且[]()()d ()d ()d .b bbaaaαX t βY t t αX t t βY t t +=+∫∫∫(5) 若X ∈H ,f (t )为[a , b ]上的可积函数,则()d ()d .bbaaXf t t X f t t =∫∫(6) ()d ()d ()d bc ba acX t t X t t X t t =+∫∫∫,其中X 在最大的积分区间上均方可积.(7) 若X 在[a , b ]上均方连续,则()()d ()t aY t X s s a t b =≤≤∫在区间(a , b )均方可导,且()().Y t X t ′=(8) 若X 在[a , b ]上均方可导,且′X 在[a , b ]上均方连续,则()d ()().b aX t t X b X a ′=−∫均方积分的上述性质,大都可利用均方积分定义以及均方极限的性质予以证明.4.2 平稳过程的基本概念4.2.1 定义与例定义4.2.1 设过程X = { X (t ), t ∈T },若对任意n ≥1,任意n 个时刻t 1,…,t n ∈T 及任意τ (t k +τ∈T , k =1, 2, …, n ),都有()()11(),,()(),,()dn n X t X t X t τX t τ=++""(4.2.1) 则称X 为严平稳过程.(4.2.1)式中的符号“d =”表示等号两端的n 维随机向量具有相同的概率分布,即它们的分布函数是相等的.由定义可知,严平稳过程的任何有限维分布对时间的推移是保持不变的. 在应用中,想要依据上述等式来判断一个随机过程的平稳性,一般是很难办到的.通常的做法是,对于一个被考察的随机过程,如果影响过程的周围环境和主要因素都不随时间推移而变化的话,那么就认为它是平稳的. 当一个严平稳过程还是二阶矩过程时,一方面,过程的均值函数和相关函数都存在.另一方面,因为()()1212()(),(),()(),(),ddX t X t τX t X t X t τX t τ=+=++,所以[][]1212[()][()],()()()().E X t E X t τE X t X t E X t τX t τ=+=++前一个等式表明过程的均值函数为常数.在后一个等式中,令τ = -t 1(不妨假定参数集T 含0时刻),即可看出相关函数的值不依赖于t 1 、t 2的起始时刻,而只可能与两个时刻的间隔 t 2–t 1有关.概言之,过程的一阶矩和二阶矩不随时间推移而改变,这就引出另一种平稳过程. 定义4.2.2 设X = {X (t ), t ∈T }为二阶矩过程(实值或复值).若它满足条件(1) 对任意t ∈T ,E [X (t )] = m X (m X 为某一常数),(2) 对任意t ∈T 及t + τ∈T ,[()()]E X t X t τ+不依赖于t ,则称X 为宽平稳过程.当参数集T 为可列集时,称X 为宽平稳序列. 一般地来讲, 严平稳过程不一定是宽平稳过程, 因为严平稳过程未必都存在二阶矩.反之,宽平稳过程也不一定是严平稳过程,因为宽平稳过程只保证过程的一阶矩、二阶矩不随时间推移而改变,但这些条件不足以保证过程的有限维分布也不随时间推移而改变.如果将严平稳与宽平稳概念放在二阶矩过程类中来进行比较,那么严平稳过程一定是宽平稳过程,反之仍未必成立. 下面讨论的平稳过程若无特别申明均指宽平稳过程.几个平稳过程的例子. 例4.2.3 设{ X (n ), n = 0,±1,±2,…}是互不相关的随机序列,且E [X (n )]=0, D [X (n )]=σ 2 ( n = 0,±1,±2,…),证明它是平稳序列. 证 { X (n ) }显然是二阶矩过程.因为过程的均值函数 E [X (n )]= 0 ( n = 0,±1,±2,…).相关函数2,0,[()()]0,0,σm E X n X n m m ⎧=+=⎨≠⎩当当 不依赖于n ,所以{ X (n ) }是平稳序列. □ 注 (1) 在自然科学和工程技术领域中,称本例给出的过程为白噪声序列或纯随机序列,这是一种常用的噪声模型. (2) 进一步地,若假定X (n ) ~ N (0, σ 2 ) ( n = 0,±1,±2, …),则称{X (n ), n = 0,±1,±2,…}为正态白噪声序列. 例4.2.4 设{X (n ), n = 0,±1,±2,…}是白噪声序列,令()()(0,1,2,),Nk k Y n a X n k n ==−=±±∑"其中N 为某个固定的正整数,01,,,N a a a "为常数组,证明{Y (n ), n = 0,±1,±2,…}是平稳序列.证 因为均值函数[()][()]0(0,1,2,)Nk k E Y n a E X n k n ==−==±±∑"为常数,又相关函数0000||2[()()]()()()()0,||,||N N k j k j N N k j k j N m k m k k E Y n Y n m E a X n k a X n m j E a a X n k X n m j m N a a σm N ====−+=⎡⎤+=−+−⎢⎥⎣⎦⎡⎤=−+−⎢⎥⎣⎦>⎧⎪=⎨≤⎪⎩∑∑∑∑∑不依赖于n ,所以{Y (n ), n =0,±1,±2,…}是平稳序列.□ 注 (1) 称{Y (n ) }是白噪声序列{X (n ) }的滑动和. (2) 由白噪声序列{X (n ) },还可构造如下随机序列()()(0,1,2,),kk Z n aX n k n +∞=−∞=−=±±∑" (4.2.2)其中{a k , k = 0,±1,±2,…}是常数列,对每一固定的n ,(4.2.2)式的右端的级数均方收敛,则称{Z (n )}是白噪声序列{X (n )}的无限滑动和.不难证明, {Z (n )}也是平稳序列.例4.2.5 设过程{}()(1),0t μY t X t ==−≥Y , 其中(1) X 为随机变量,且11~1212X −⎛⎞⎜⎟⎝⎠,(2) {},0t μt ≥是强度为λ的泊松过程, (3) X 与{},0t μt ≥相互独立, 试证 Y 为平稳过程.证 首先,2220,()(1)121121,EX E X ==−×+×=即X ∈H . 再由2(1)1,tμ−≡便知Y 为二阶矩过程.其次,考察Y 的均值函数和相关函数.[]()[(1)][(1)]()((3))0(0).t t μμE Y t E X E E X t =−=−⋅=≥由条件[]22()()(1)(1)()(1).t t τt t τt t τμμμμμμE Y t Y t τE X E E X E ++++++⎡⎤+=−⎣⎦⎡⎤=−⋅⎣⎦⎡⎤=−⎣⎦当τ > 0时,~()t τt μμP λτ+−, 得202(1)(1)(1)()(1)!.t t τt t τt t τtμμμμμμμk λτkk λτE E E λτek e +++++−−−∞=−⎡⎤⎡⎤−=−⎣⎦⎣⎦⎡⎤=−⎣⎦=−=∑ 当τ < 0时,类似可得2(1)t t τμμλτE e ++⎡⎤−=⎣⎦, 因而[]2||()().λτE Y t Y t τe −+= 因Y 的均值函数为常数0,相关函数为2||λτe −不依赖于t ,故Y 为平稳过程.□4.2.2 自相关函数及其性质定理4.2.6 设X = { X (t ), t ∈T }是平稳过程.记()()()R τE X t X t τ⎡⎤=+⎣⎦X 为X 的自相关函数,则R X (τ)具有以下性质,(1) R X (0)≥0;(2) | R X (τ) | ≤ R X (0);(3) ()()R τR τ−=X X ;(4) R X (τ)是非负定的,即对任意正整数n 和任意n 个实数t 1,…,t n 和任意n 个复数z 1,…, z n ,都有11()0.n nk l l k k l Rt t z z ==−≥∑∑X证 (1) 22(0)|()|d ()0t R E X t x F x +∞−∞==≥∫X .(2) 由Cauchy-Schwarz不等式,得()()()(0).R τE X t X t τR ⎡⎤=+≤==⎣⎦X X(3) 因为()()E X t X t τ⎡⎤+⎣⎦不依赖于t 仅为两时刻之差(t +τ) -t = τ的函数,而-τ = t -(t +τ),所以()()()()()().X X R τE X t τX t E X t X t τR τ⎡⎤⎡⎤−=+=+=⎣⎦⎣⎦(4) 由平稳过程自相关函数的定义及期望运算的性质,得1111111121()()()()()()()()0.n nn nk l l k l k l kk l k l n nl l k k l k n n l l k k l k nkkk Rt t z z E X t X t z z E X t z X t z E X t z X t z EX t z=========⎡⎤−=⎣⎦⎡=⎢⎥⎣⎦⎡=⎢⎥⎢⎥⎣⎦=≥∑∑∑∑∑∑∑∑∑X□注 易知平稳过程的自协方差函数也不依赖于t ,记作C X (τ),且有2()()||C τR τm =−X X X .C X (τ)也具有上述四条性质(只需将(1)~(4)中的R 换成C 即可).需要指出,在上述四条性质中,非负定性是平稳过程自相关函数的本质特性.理论上可以证明,任何一个在t = 0处连续且f (0) ≠ 0的函数f (t ),若f (t )是非负定的,则它必是某个平稳过程的自相关函数.4.2.3 互相关函数及其性质设X = {X (t ), t ∈T }, Y = {Y (t ), t ∈T }是两个平稳过程.若()()E X t Y t τ⎡⎤+⎣⎦不依赖t ,则称X 与Y 是平稳相关的或平稳联系的,此时,它们的互相关函数()()E X t Y t τ⎡⎤+⎣⎦为单变量τ的函数, 记作R XY (τ),即 ()()().ˆR τE X t Y t τ⎡=+⎣⎦XY注 (1) 平稳相关是一个相互概念,即,若X 与Y 平稳相关,则Y 与X 也平稳相关.(2) 平稳相关随机过程的互协方差函数也不依赖于t ,记作C XY (τ),并且()().C τR τm m =−XY XY X Y定理4.2.7 若平稳过程X = {X (t ), t ∈T }与平稳过程Y = {Y (t ), t ∈T }是平稳相关的,它们的互相关函数(互协方差函数)为R XY (τ)(C XY (τ)),则 (1) ()()(()())R τR τC τC τ=−=−YX XY YX XY 相应地,;(2)()(()R τC τ≤≤XY XY 相应地, 定理4.2.7的证明方法与前一定理类似,故从略.4.3 平稳过程的谱分析4.3.1 相关函数的谱分解相关函数能进行谱分解源于它具有非负定性.为了说明这一点,先介绍两个定理. 定理4.3.1(Bochner-Khintchine ) 函数φ(t )(-∞ < t < ∞)可表示为()d ()itx φt e F x +∞−∞=∫(4.3.1)的充要条件是:φ(t )非负定、连续且φ(0) = 0,其中F (x )为分布函数(F (-∞) = 0,F (+∞) =1).定理4.3.2(Herglotz ) 数列{},0,1,2,n c n =±±"可表示为d ()πin x n πc e G x −=∫(4.3.2)的充要条件为它是非负定的,其中G (x )是定义在[],ππ−上的有界、单调非降、右连续函数. 定理4.3.3 (1) 若均方连续的平稳过程{ X (t ), -∞< t <+∞}的相关函数为R X (τ),则R X (τ)可表示为1()d (),,2i τωR τe F ωτπ+∞−∞=−∞<<+∞∫X(4.3.3)其中()Fω 是定义在(-∞, +∞)上的单调非降、右连续有界函数. (2) 若平稳序列{}(),0,1,2,X n n =±±"的相关函数为R X (m ),则R X (m )可表示为11()d (),0,1,2,,2πi m ωπR m e F ωm π+−==±±∫X" (4.3.4)其中1()F ω 是定义在[-π, +π]上的单调非降、右连续有界函数.证 (1) 若R X (0)=0,由|()|(0),X X R τR τ≤∀−∞<<+∞,得()0,X R ττ≡−∞<<+∞,此时,取()F ωc = (c 为常数),则(4.3.3)式成立.若R X (0)≠0,令()()(0)R τR τR =X X ,易知()Rτ 满足下列条件:① ()R τ 是连续函数;② (0)1R = ;③ ()R τ 是非负定的.从而由Bochner-Khintchine 定理知,()Rτ 可表示成 ()d (),,i τωR τe F ωτ+∞−∞=−∞<<+∞∫X 其中F (ω)是某个随机变量的分布函数.于是[]1()d 2(0)()21d (),2i τωi τωR τe πR F ωπe F ωπ+∞−∞+∞−∞==∫∫X X其中()2(0)()F ωπR F ω=X是定义在(-∞, +∞)上的单调非降、右连续有界函数. (2)的证明可直接引用Herglotz 定理.□(4.3.3)、(4.3.4)式分别称为R X (τ)、R X (m )的谱分解式,而1()()F ωF ω 与称为平稳过程与平稳序列的谱函数.如果不计常数之差,那么谱函数是由相关函数唯一确定的.若1()()F ωF ω (相应地,)是绝对连续的,即存在S X (ω),使得 ()()d ,ωF ωS λλC −∞=+∫X1()()d ωX πF ωS λλC −=+∫ (相应地,),则称S X (ω)为平稳过程的谱密度.数学上已经证明:若相关函数R X (τ)满足条件()d R ττ+∞−∞<∞∫X ,则存在谱密度S X (ω),使得1()()d ,,2i τωR τe S ωωτπ+∞−∞=−∞<<+∞∫X X(4.3.5)其中()()d ,.i τωS ωe R ττω+∞−−∞=−∞<<+∞∫X X(4.3.6)以上两式表明,相关函数R X (τ)和谱密度S X (ω)之间构成了Fourier 变换对,即[][]1()()()()S ωR τR τS ω−==X X X X FF,.对于平稳序列{}(),0,1,2,X n n =±±"的相关函数R X (m ),若它满足条件()m R m +∞=−∞<∞∑X ,则存在谱密度()()S ωπωπ−≤≤X ,使得1()()d ,0,1,2,,2πi m ωπR m e S ωωm π+−==±±∫X X " (4.3.7)其中()(),.i m ωm S ωeR m πωπ+∞−=−∞=−≤≤∑X X(4.3.8)4.3.2 谱密度的物理意义本段将先介绍确定信号的功率谱密度概念,并由此引申出平稳随机信号的功率谱密度.然后来分析功率谱密度与谱密度之间的关系. 1. 确定信号的功率谱密度 当确定信号x (t ) (-∞< t <+∞)满足Fourier 积分定理中的条件时,可以对它作频谱分析,即可求得x (t ) (-∞< t <+∞)的频谱函数()()d ,i ωt x F ωx t e t +∞−−∞=∫其中1()()d .2i ωtx x t F ωe ωπ+∞−∞=∫ 上式表明,信号x (t )可表示为谐波分量1()d 2i ωt x F ωe ωπ的无限叠加,其中为圆频率,谐波分量的振幅为1()d 2x F ωωπ.以f 表示频率,由ω =2πf 可知,谐波分量又可表示为2(2)d i πf t x F πf e f ,相应的振幅为(2)d x F πf f .由频谱分析理论知,谐波分量在频带[f , f + d f ]中的能量为2(2)d x F πf f .若2()d x t t +∞−∞<∞∫,则Parseval 等式(能量积分公式)221()d ()d 2xx t t F ωωπ+∞+∞−∞−∞=∫∫ 成立.Parseval 等式表明:若信号的总能量有穷,则它等于各谐波分量能量的叠加.故Parseval 等式又称为信号总能量的谱表示式.式中的2()x F ω称为信号x (t )的能量谱密度.但在实际应用中,例如周期信号,其总能量为无穷大.此时,我们转而考虑信号x (t ) 在(-∞, +∞)上的平均功率:21lim()d ,2T TT x t t T +−→∞∫因为它往往是有穷的.令(),||,()0,||.T x t t T x t t T ≤⎧=⎨>⎩显然,x T (t )也满足Fourier 积分定理的条件,故其频谱(;)()d ()d .T i ωt i ωt x T TF ωT x t e t x t e t +∞+−−−∞−==∫∫另外,因为22()d ()d T T Tx t t x t t +∞+−∞−=<∞∫∫,所以对x T (t )及其频谱F x (ω; T )成立Parseval 等式221()d (;)d ,2Txx t t F ωT ωπ+∞+∞−∞−∞=∫∫ 由此可得222111lim()d lim(;)d 22211lim (;)d .22Tx T T T xT x t t F ωT ωTπTF ωT ωπT++∞−−∞→∞→∞+∞−∞→∞==∫∫∫相应于能量谱密度,称上述等式右端的被积函数21lim (;)2x T F ωT T→∞ 为信号x (t )的功率谱密度. 2. 平稳随机信号的功率谱密度 现在,我们把上面讨论的方法及其结果转到平稳过程的场合中来,有22111()d (;)d .222T T X t t F ωT ωT πT++∞−−∞=∫∫X在上式两端取期望,并令T →∞,得22111lim ()d lim (;)d 222T TT T E X t t E F ωT ωTπT ++∞−−∞→∞→∞⎡⎤⎡⎤=⎢⎥⎣⎦⎣⎦∫∫X (4.3.9) 上式左端为平稳随机信号X (t ) (-∞< t <+∞)的平均功率. 记21()lim(;),ˆ2T S ωE F ωT T→∞⎡⎤=⎣⎦X (4.3.10)称S (ω)为X (t )的功率谱密度.根据均方积分的性质并注意到2()(0)E X t R ⎡⎤=⎣⎦X ,则(4.3.9)式的左端为21lim()d (0),2TT T E Xt t R T +−→∞⎡⎤=⎣⎦∫X从而有1(0)()d .2R S ωωπ+∞−∞=∫X(4.3.11)由此可知R X (0)为平稳随机信号的平均功率. 3.功率谱密度S (ω)与谱密度S X (ω)的关系设相关函数R X (τ)绝对可积,即()d R ττ+∞−∞<∞∫X ,由上一段讨论可知,存在谱密度S X (ω),且有()()d .i ωτS ωR τe τ+∞−−∞=∫X X另一方面,把(;)()d T i ωt TF ωT X t e t +−−=∫X 代入(4.3.10)式,得21212211()21121()lim ()d ()d 21lim ()d d 2T T i ωt i ωt T T T T Ti ωt t T TT S ωE X t et X t e t T R t t e t t T ++−−−→∞++−−−−→∞⎡⎤=⎢⎥⎣⎦=−∫∫∫∫X对二重积分作变量替换:112221,τt t τt t =+=−,变量替换的Jaccobi 行列式为111212221212(,)1.ˆ(,)2t t ττt t J t t ττττ∂∂∂∂∂===∂∂∂∂∂ 积分区域的变换见图4.3.1.得212()2112212()d d ()||d d TTi ωt t TTi ωτDR t t et t R τe J ττ++−−−−−−=∫∫∫∫XX{}2222022221221220002()d d ()d d T τT T τi ωτi ωτT R τe ττR τe ττ+−−−−⎡⎤⎡⎤=+⎢⎥⎢⎥⎣⎦⎣⎦∫∫∫∫X X()2222222||()d Ti ωτTT τR τe τ−−=−∫X 因而()2222222222221()lim2||()d 2||lim 1()d .2Ti ωτTT Ti ωτT T S ωT τRτe τTτR τe τT −−→∞−−→∞=−⎛⎞=−⎜⎟⎝⎠∫∫XX令||1(),||2,()20,||2.TτR ττT R τT τT ⎧⎛⎞−≤⎪⎜⎟=⎝⎠⎨⎪>⎩X X 则222()lim ()d i ωτTT S ωR τe τ+∞−−∞→∞=∫Xτ1显然,lim ()()|()|d TT R τR τR ττ+∞−∞→∞=<∞∫X X X ,且因,故有()lim ()d lim ()d ()d ().Ti ωτT T i ωτT i ωτS ωR τe τR τe τR τe τS ω+∞−−∞→∞+∞−−∞→∞+∞−−∞====∫∫∫X X X X由此可见,从物理学角度引入的功率谱密度与从数学角度引入的谱密度是相同的,故以后统一用S X (ω)表示平稳过程的(功率)谱密度.4.3.3 谱密度与互谱密度的性质设平稳过程{ X (t ), -∞< t <+∞}的相关函数为R X (τ).我们知道,当R X (τ)绝对可积时,平稳过程的谱密度(有时也称之为自谱密度)S X (ω)为()()d .i ωτS ωR τe τ+∞−−∞=∫X X自谱密度S X (ω)是实的、非负的偶函数.这是因为()()cos()d ()sin()d 2()cos()d .S ωR τωττi R τωττR τωττ+∞+∞−∞−∞+∞−∞=−=∫∫∫X X X X所以S X (ω)是实的偶函数.又因()()()S ωFωF ω′=X ,而是单调非降的,故S X (ω)是非负的. 需要指出,用功率谱密度的定义式((4.3.10)式)也能方便地推证谱密度的上述性质.设平稳过程X = { X (t ), -∞< t < +∞}与平稳过程Y = { Y (t ), -∞< t < +∞}是平稳相关的,其互相关函数为R X Y (τ),类似于自谱密度的数学定义,当互相关函数绝对可积时,记()()d ,,ˆi ωτS ωR τe τω+∞−−∞=−∞<<+∞∫X Y X Y(4.3.12)称S X Y (ω)为X 与Y 的互谱密度.仿照功率谱密度的定义方法,同样可以把互谱密度定义为[]1()lim(;)(;).ˆ2T S ωE F ωT F ωT T→∞=−X Y X Y (4.3.13)互谱密度通常是ω的复函数,它不像自谱密度那样有鲜明的物理意义.引入互谱密度的目的在于从频率角度来刻画两个平稳过程的平稳相关性. 互谱密度具有下列性质:(1) ()()S ωS ω−=X Y X Y (共轭对称性), ()()S ωS ω=X Y Y X .(2) Re[S X Y (ω)]与Re[S Y X (ω)]为偶函数,Im[S X Y (ω)]与Im[S Y X (ω)]为奇函数.(3) ()S ω≤X Y .证 (1)()()()d ()d ()d ().i ωτi ωτi ωτS ωR τe τR τe τR τe τS ω+∞−−−∞+∞−∞+∞−−∞−====∫∫∫X Y XY XY XY X Y()()d ()d ()d ().i ωτττi ωτi ωτS ωR τe τR τe τR τe τS ω+∞−∞=−+∞−−∞+∞−−∞==−==∫∫∫X Y XY XY Y X Y X(2) 由()()cos()d ()sin()d ,S ωR τωττi R τωττ+∞+∞−∞−∞=−∫∫XY XY XY得Re ()()cos()d ,Im ()()sin()d .S ωR τωττS ωR τωττ+∞−∞+∞−∞⎡⎤=⎣⎦⎡⎤=−⎣⎦∫∫XY XY XY XY故Re[S X Y (ω)]为偶函数,Im[S X Y (ω)]为奇函数.再由(1)知,Re[S Y X (ω)]=Re[S X Y (ω)],Im[S Y X (ω)] = -Im[S X Y (ω)],这就证明了性质(2). (3) 注意到互谱密度的另一种表达式[]1()lim(;)(;),ˆ2T S ωE F ωT F ωT T→∞=−X Y X Y由Cauchy-Schwarz 不等式可得.==□4.3.4 相关函数与谱密度之间的变换从前面的讨论中得知,在一定条件下,相关函数R X (τ)与谱密度S X (ω)构成Fourier 变换对:[][]1()()d (),ˆ1()()d ().ˆ2i ωτi ωτS ωR τe τR τR τS ωe ωS ωπ+∞−−∞+∞−−∞====∫∫X X X X X X F F(相应地,互相关函数R X Y (τ)与互谱密度S X Y (ω)也构成Fourier 变换对.)因而,它们之间的相互转换一般有两种计算方法:其一,利用Fourier 变换表,结合Fourier 变换的性质,通过查表的方式来计算.其二,直接计算积分((4.3.5)或(4.3.6)式),此时,会遇到复值函数的积分,在某些条件下,可利用留数定理来进行计算. 1. 查表计算法 表4.3.1给出了最常用的相关函数和谱密度之间的变换.因其中出现R X (τ)或S X (ω)是δ函数,故先简单介绍δ函数及其广义Fourier 变换. 若δ(x -x 0)满足以下条件000,,(1)()0,.x x δx x x x ∞=⎧−=⎨≠⎩0(2)()d 1.δx x x +∞−∞−=∫则称δ(x -x 0)是在x = x 0的δ函数. 上述定义最初是由著名的物理学家狄拉克(Dirac )引入的,因而这种函数也称为狄拉克函数.δ函数不是通常意义下的函数.因为按照古典积分理论,定义中的两个条件是彼此矛盾的,所以不存在一个普通的实函数能同时满足这些条件.实际上,δ函数是一种广义函数,在广义函数论中,它被定义为某基本函数空间上的连续线性泛函.因其中涉及到的数学理论已远远超出本课程所讨论的范围,故不予展开.这里仅介绍δ函数的一条重要性质(筛选性). 若f (x )为无穷次可微函数,则有00()()d ().δx x f x x f x +∞−∞−=∫(4.3.14)工程上,称δ(x )为单位脉冲函数.根据δ函数的筛选性,形式上有[]0()()d 1.i ωτi ωττδτδτe τe +∞−−=−∞===∫F亦即,时域上的单位脉冲函数δ(·)与频域上的常数1构成了一对(广义)Fourier 变换. 同理,形式上有[]1111()()d .222i ωτi ωτωδωδωe ωe πππ+∞−−∞====∫F频域上的单位脉冲函数δ(·)与频域上的常数1/(2π)构成了一对(广义)Fourier 变换. 例4.3.4 已知平稳过程的谱密度为242(),32ωS ωωω=++X 求该平稳过程的相关函数. 解 S X (ω)在(-∞, +∞)上绝对可积,且有2221().21S ωωω=−++X由Fourier变换的线性性质及表4.3.1,得[]11122|||()()21211.2ττRτSωωωe−−−−=⎡⎤⎡⎤=−⎢⎥⎢⎥++⎣⎦⎣⎦=−X XFF F□例4.3.5求平稳随机电报信号(见例4.2.5)的谱密度.解已知平稳随机电报信号的相关函数为2||()λτRτe−=X,其中λ> 0为常数.2||λτe−在区间(-∞, +∞)上是绝对可积的,故[]2||224()()4λτλSωRτeωλ−⎡⎤===⎣⎦+X XF F.□例4.3.6设随机过程{}00cos()sin(),Aωt Bωt t=+−∞<<+∞X,其中ω0为常数,A与B为相互独立的随机变量且都服从正态分布N(0, σ 2 ).(1) 证明X是平稳过程;(2) 求X的谱密度.解(1) 因对任意的,t−∞<<+∞有[]0000()cos()sin()()cos()()sin()0.m t E Aωt BωtE Aωt E Bωt=+=+=X又[]22002(,)()()()cos()()sin()()0cos(),R t tτE X t X tτE Aωt E Bωt E ABσωτ+=+=+==X()不依赖于t,故X是平稳过程,且其相关函数为2()cos()Rτσωτ=X.(2) 由2()cos()Rτσωτ=X,查表4.3.1,得[][][]2200()()cos()()().SωRτσωtσπδωωδωω===−++X XFF□需要指出,本题中的相关函数2cos()σωτ不满足绝对可积条件,因而不能保证可对它施行通常意义下的Fourier变换,但在引入δ函数及其(广义)Fourier变换之后,因为cos()ωτ与[]00()()πδωωδωω−++构成一对(广义)Fourier变换,所以可求得2()cos()XRτσωτ=的(广义)Fourier 变换.这表明,δ函数及其(广义)Fourier 变换的引进大大拓宽了可施行Fourier 变换的函数类,它对工程技术中许多重要函数的频谱分析带来极大的便利. 例4.3.7 设平稳过程的谱密度为2(),,S ωσω=−∞<<+∞X求该过程的相关函数.解 []1122()()()R τS ωσσδτ−−⎡⎤===⎣⎦X X FF.□通常把均值为零而谱密度为常数的平稳过程称为白噪声过程(简称白噪声).这个名称来自白光可分解成各种频率的光谱,且其功率频是均匀分布的.2. 直接计算积分法有时需要通过直接计算(4.3.5)或(4.3.6)式,来进行相关函数与谱密度之间的转换. 例4.3.8 设平稳过程的谱密度为200,||,()0,||.σωωS ωωω⎧≤=⎨>⎩X 求该过程的相关函数.解 因为()(,)S ω−∞+∞X 在上绝对可积,所以0022000201()()d 21d 2sin(),0,,0.i ωτωi ωτωR τS ωe ωπσe ωπσωωττπωτσωτπ+∞−∞+−==⎧≠⎪⎪=⎨⎪=⎪⎩∫∫X X□本例中的平稳过程称为低通白噪声.利用复变函数围道积分及留数概念,可以计算形如()d ,(0)i a x f x e x a +∞−∞>∫的积分,其中f (·)为有理函数,分母比分子至少高一次幂,f (·)在实轴上无奇点.此时,上述积分存在,记z k 为f (z )在上半平面内的奇点,由留数定理知,()d 2Res (),.i a x iazk kf x e x πi f z e z +∞−∞⎡⎤=⎣⎦∑∫(4.3.15)例4.3.9 用直接积分法,求例4.3.4中的R X (τ).解 当τ > 0时,2()i τz τR τ+∞−==⎤=⎥⎦==X 故当τ > 0时,有()τR τ−=X (4.3.16)另一方面,当τ < 0时,-τ > 0,把-τ代入上式,得()τR τ−=X 再由相关函数的性质知,R X (·)是偶函数,故当τ < 0时,有()()τR τR τ=−=X X (4.3.17)结合(4.3.16)、(4.3.17)两式,可得|||()0.ττR ττ−=≠X最后,当τ = 0时,2(0)1.22R +∞∞====−X于是,|||().ττR ττ−=−∞<<∞X □表4.3.1。
第11讲 随机过程及其应用(第三版) 刘次华第4章马尔科夫链(3)
其中 D = {1} 是非常返集
C1 = {2 ,3,4},C2 = {5,6,7}
2 3 4
1 5 7 6
是常返闭集,非周期
lim (1)求每一个不可约闭集的极限分布(2)求 n →∞ p12
( n)
解(1):这是一个可约马氏链。根据状态空间的分解 定理,状态空间分解为: I = {1} + {2,3, 4} + {5, 6, 7}
5
6
1
二、平稳分布
定义4.11
例1 :设马尔科夫链的转移概率矩阵为
⎡ 0.7 0.1 0.2⎤ P = ⎢ 0.1 0.8 0.1⎥ ⎢ ⎥ ⎢ ⎦ ⎣0.05 0.05 0.9⎥
设齐次马氏链转移概率矩阵为P,
且
若π = (π 1 , π 2 , )满足方程:
π =πP
∑π
j
j
=1
则称 π = (π 1 , π 2 , ) 为该马氏链的 平稳分布 定理4.16 不可约非周期的马氏链,其极限分布存 在(或状态是正常返)的充要条件是存在平稳分 布,且此平稳分布就是极限分布。即 1 πj =
15
故从上式可解得:
16
2 lim p12 ( n ) = n →∞ 9
注: 对于一般可约马氏链, lim pij (
n →∞
n)
的情形如下:
例4 马氏链的概率转移图所示,分析转移概率极限:
I = D + C1 + C2 = {1, 5} + {2,3} + {4,, 6}
先进行状态空间分解: I = D + C1 + C2 +
,
(设j ∈ C
m
, Cm为不可约非周期常返闭集 )
随机过程 第4章 马尔可夫链
一步转移概率矩阵
p11 P p 21 p12 p 22 p1n p2n
性质: (1) p ij 0 , i , j I
(2)
j I
p ij 1 , i I
(随机矩阵)
n 步转移概率
[定义] 称条件概率
p q q p
0 1
p, i j pij q, i j (i , j 0,1)
二步转移概率矩阵:
P
( 2)
2 2 p q P2 2 pq
2 pq 2 2 p q
[例2] (例4.4)具有吸收壁和反射壁的随机游动
设质点在线段 [1,4] 上作随机游动。假设ห้องสมุดไป่ตู้只能在时刻 nT 发生移动,且只能停留在1,2,3,4点上。当质点转移 到2,3点时,它以1/3的概率向左或向右移动一格,或停 留在原处。当质点移动到点 1 时,它以概率 1 停留在原 处。当质点移动到点4时,它以概率1移动到点3。若以 Xn 表示质点在时刻 n 所处的位置,则{ Xn , n T }是一 个齐次马尔可夫链。
f
(n) 12
( q1 p 3 ) m 1 q1 q 3 , m ( q1 p 3 ) p1 ,
n 2m, m 1 n 2 m 1, m 0
(n) f13
( p1 q 2 ) m 1 p1 p 2 , n 2 m , m 1 m n 2 m 1, m 0 ( p1 q 2 ) q1 ,
pij(n) 不仅与状态 i , j 有关,而且与时刻 n 有关。
当 pij(n) 与时刻 n 无关时,表示马尔可夫链具有平稳 转移概率。
随机过程第四章习题解答
第四章习题解答4.1Y1,Y2,···是来自总体Y的随机变量,与X0独立,h(x,y)是实函数.对于n 1,取X n=h(X n−1,Y n).设{X n}的状态空间为I,验证{X n}是马氏链,给出转移概率p ij.解:由题知,Y k与X1,···,X k−1独立,k 1,∀n,i,j,i1,...,i n−1∈I有,P(X n+1=j|X n=i,X n−1=i n−1, (X0)i0)=P(h(i,Y n+1)=j|X n=i,X n−1=i n−1,···,X0=i0)=P(h(i,Y n+1)=j|X n=i)=P(h(i,Y)=j)=P(h(i,Y1)=j|X0=i)=P(X1=j|X0=i).∴X n是马氏链,P ij=P(h(i,Y)=j).4.2设{X i,i 0}是取非负整数值的独立同分布的随机变量序列,V ar(X0)>0.验证以下随机序列是马氏链:(a){X n,n 0};(b){S n,n 0},其中S n=∑ni=0X i;(c){ξn,n 0},其中ξn=∑ni=0(1+X i).解:∀n,i,j,i0,···,i n−1∈N+,(a).P(X n+1=j|X n=i,X n−1=i n−1,···,X0=i0)=P(X n+1=j)= P(X n+1=j|X n=i)=P(X1=j)=P(X1=j|X0=i).1第四章离散时间马尔可夫链第四章离散时间马尔可夫链(b).P(S n+1=j|S n=i,S n−1=i n−1,···,X0=i0)=P(X n+1=j−i|X n=i−i n−1,···,X0=i0)=P(X n+1=j−i)=P(X n+1=j−i,S n=i|S n=i)=P(S n+1=j|S n=i)=P(X1=j−i)=P(X1=j−i|X0=i)=P(S1=j|S0=i).(c).P(ξn+1=j|ξn=i,ξn−1=i n−1,···,ξ0=i0)=P(X n+1=ji −1)=P(X n+1=ji−1|ξn=i)=P(ξn+1=j|ξn=i)=P(X1=ji −1)=P(X1=ji−1|X0=i)=P(ξ1=j|ξ0=i).4.3马氏链的状态空间是I=(1,2,3,4,5),转移概率矩阵P=0.20.80000.50.5000000.50.500.20.3000.500001界定马氏链的状态。
随机过程-习题-第4章-01
4.1 设有一泊松过程(){}0,≥t t N ,求:(1)()(){}2211,k t N k t N P ==,用21t t 、的函数表示之; (2)该过程的均值和相关函数。
问该过程是否为平稳过程? (1) 解:首先,{}{}{}1111222211)()()()(,)(k t N P k t N k t N P k t N k t N P ======根据泊松过程的独立增量性质可知{}{})(1212121211221212!)()]([)()()(t t k k ek k t t k k t t N P k t N k t N P -----=-=-===λλ 于是,{}21122!)(!)()(,)(1211122211t k k k k e k k k t t t k t N k t N P λλ----===(2) 解:该过程的均值为[]()()t k t te e k t k t N E k k t k t k λλλλλλ=⎪⎪⎭⎫ ⎝⎛-==∑∑+∞=--+∞=-110!1!)()( 根据泊松过程的独立增量过程性质可得其相关函数为(12t t >)[]()[])]([)]()([)]([)()()()()()(12121112121t N E t N t N E t N E t N t N t N t N E t N t N E +-=+-=其中,)()]()([1212t t t N t N E -=-λ121212)]([t t t N E λλ+=于是,12t t >时的相关函数为[]12121212121221)()()(t t t t t t t t t N t N E λλλλλ+=++-=同理可得21t t >时的相关函数为[]221221)()(t t t t N t N E λλ+=所以,泊松过程的相关函数为[]{}2121221,min )()(t t t t t N t N E λλ+=所以,泊松过程过程不是平稳过程。
应用随机过程4-更新过程
N (t ) k 1
X
k
, t 0
假设2
c (1 )
其中 0 称为 相 对安 全 负载 。
U (t ) , a.s. {ct S (t ), t 0}为齐次的独立增量过程。盈余过程 lim t 当盈余过程取负值时,称保险公司“破产”。T inf{t : U (t ) 0}
2010-9-2
定理4.3.2
(Blackwell更新定理)
记 E( X n ) ,
(1). 若 F 不是格点的,则对一切 a 0 ,当 t 时 a M (t a ) M (t )
(2). 若 F 是格点的,周期为 d,则当 n 时 d P{在nd处发生更新}
E[TN ( t ) 1 ] E[ X 1 X 2 X N ( t ) 1 ] E ( X 1 ) E ( N (t ) 1)
二* 、更新方程在人口学中的一个应用
设 B (t ) 为 t 时刻女婴的出生率,已知过去的 B (t ),t 0 ,要预测未 来的 B (t ),t 0 。
注: Feller初等更新定理是Blackwell更新定理的特殊情形。
2010-9-2
理学院 施三支
定理4.3.3
(关键更新定理)
记 E ( X n ) ,设函数 h (t ), t [0, ] ,满足
(1). h(t ) 非负不增;(2).
0
h(t ) dt 。 H (t ) 是更新方程
2010-9-2 理学院 施三支
例4.3.1
(剩余寿命与年龄的极限分布)
以 r (t ) TN ( t ) 1 t 表示时刻 t 的剩余寿命,即从 t 开始到下 次更新的时间,s (t ) t TN ( t ) 为 t 时刻的年龄。 求 r (t ) 和 s (t ) 的 极限分布。
第四章平稳过程课件
第13页共45页
随机过程(西电版) 4.3 平稳过程的各态历经性
第4章 平稳过程
_______
X (t) X (t ) l i m
1
T ______
X (t) X (t )dt
l i m 1
T
a
2
T
cos(t
2T T
) cos(t
)dt
T 2T T
a2 l i m 1
4.1 平稳过程的概念
第4章 平稳过程
(1) mX (t) m (常数)
(2) RX (s,t) RX ( ), t s
则称 {X (t),t T }为宽平稳过程。
显然,一个严平稳过程如果存在二阶矩,则必为宽平稳过 程。以后平稳过程均指宽平稳过程。
例1、设 { X n , n 1,2, }是不相关的随机变量序列,且
1
2
a cos(t )d 0
2 0
RX (t1,t2 ) E[ X (t1) X (t2 )]
E[a cos(t1 )a cos(t2 )]
a2 2
cos
, 其 中
t2
t1.
2024年6月19日星期三
机动 目录 上页 下页 返回 结束
第3页共45页
随机过程(西电版) 4.2 平稳过程相关函数的性质 第4章 平稳过程
2024年6月19日星期三
机动 目录 上页 下页 返回 结束
第14页共45页
随机过程(西电版) 4.3 平稳过程的各态历经性
第4章 平稳过程
lim
T
证明:E[
1 2T
X (t
)
22TT1
2T
] E[l i
C
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
2
2 n
lim D( X n ) D( l .i .m X n ) D( X );
n
n
) E( X
2
)
n
5)
若实随机变量 X, X n H , 则
E (e
it l i m X n
n
) E (e ) lim E[e
n
itX
itX n
].
11
4.1 二阶矩过程
lim d X ( t ), X lim X t X 0
t t0
15
4.2 均方连续
注 l .i .m X t X 成立的充分必要条件是
对任意的数列 t k , 若 t k t 0 ( k ), 有
l .i .m X t k X
tk t0
对 s 0 , t 0 T , 有
4.2 均方连续
定理1
i .m X t X t 0 l .i .m X s X s0 , lt. t
s s0
t t0
lim R s, t lim E X s X t E X s0 X t0 R s0 , t0 s s0 s s0
称X(t)在t处均方可微(可导),称Y为X(t) 在 t 处的均方导数, 记为
dX t dt 或 X ( t ) .
23
4.3 均方导数
若对t∈T, X( t )都均方可微,称 { X ( t ), t T } 为 均方可微过程. 其均方导数过程 { X ( t ), t T } 仍是二阶矩过程. 类似地,可定义 { X ( t ), t T }的均方导数过程
l .i .m X t X t 0
t t0
s ,t t0
定理5′及均 方连续定义
lim E X s X t E X t 0 X t 0
即
s ,t t0
lim R s, t Rt 0 , t 0 .
18
4.2 均方连续
定理:二阶矩过程的均方连续 相关函数R(s,t)在对角线上连续. 推论 二阶矩过程{X(t),t∈T}的相关函数R(s,t) 对 t T 在点(t, t)处连续, 则它在T×T 上连续. t
T
0
T
s
R(s,t)在整个区 域T×T上连 续,等价于在对 角线上连续.
19
证
R( s , t )对 t T , 在( t , t )处连续 {X(t),t∈T}在T上均方连续
t t0
0
由s0, t0 的任意性知R(s, t)在T×T上连续. 定理2 若二阶矩随机过程{X(t),t∈T}均方连续, 则其均值函数、方差函数也在T上连续. 20
4.2 均方连续
EX.1 {N(t),t≥0}为参数为λ的Poisson过程,
均值函数 自相关函数 m N ( t ) t , RN ( s , t ) min( s , t ) 2 st
l .i .m X t X t 0
t t0
(2) 若X(t)对 t T都均方连续,称随机过程 {X(t),t∈T} 是均方连续的.
17
定理1 (均方连续准则)
4.2 均方连续
二阶矩过程 {X(t),t∈T} 在 t0∈T 处连续的充 分必要条件是 {X(t),t∈T} 的相关函数 R(s,t) 在(t0,t0) 处连续. 证 由均方收敛准则知
{ X ( t ), t T },
将随机过程的均方导数转移到实数域进行讨论 分析,引进广义二阶导数概念:
24
4.3 均方导数
定义 二元函数 f(s,t) 称为在(s, t)处广义二 阶可微, 若极限 f ( s s, t t ) f ( s s, t ) f ( s, t t ) f ( s, t ) lim ts s0
2 2
lim Yn
n
2
0. l i mYn .
n
9
4.1 二阶矩过程
四、随机变量序列的均方极限性质 定理3 (均方极限的线性性质)
设
ln. i.mX n X , 且 l .i .m Yn Y , a , b是复常数 , 则
n
l .i .m aX n bYn aX bY ;
m ,n
lim
X
m
X
n
0
称为完备性定理,说明H 是完备的线性赋范空间. 证 仅证必要性
n
称{Xn}为均方收敛 基本列(柯西列).
若 l.i.mX n X ,
因
lim
Xm Xn Xm X Xm X
Xm Xn
m , n
0.
8
4.1 二阶矩过程
第四章 随机分析
§4.1 二阶矩过程与二阶矩随机变量空间 §4.2 随机过程的均方极限与均方连续 §4.3 随机过程的均方导数 §4.4 随机过程的均方积分
1
§4.1 二阶矩过程与二阶矩随机变量空间 一、二阶矩过程
二阶矩过程是一类重要的随机过程,在物理、 生物、通讯与控制、系统工程与管理科学等方 面,有广泛的应用. 不少实际问题通过对二阶矩的讨论就足以了 解过程的统计特征. (如 Gauss 过程) 本章着重介绍二阶矩过程的随机分析—均方 意义下的微积分.
1)得证 .
在1)中令Yn≡1,得2). 在1)中令Yn≡Xn,得3). 由 1) 与 2) 可证4 ).
12
4.1 二阶矩过程
5)
E(e
jtXn
itX
) E(e ) E(e
(1 e
it ( X n X )
itX
itXn
e )
itX
E[e
)]
E[ 1 e
it ( X n X )
2
4.1 二阶矩过程
定义 如过程XT={X( t ),t∈T},对每个t∈T,有
E { X ( t ) }
称过程是二阶矩过程.. 二阶矩过程的均值函数和协方差函数一定存在. 注:(1) 随机变量矩性质: 高阶矩存在则低阶矩一定存在, 柯西-许瓦兹不等式. (2) 正态过程是二阶矩过程.
3
必要性 由定理4之1)即得.
充分性 设 lim E X m X n c ,由
m ,n
2
Xm Xn
E Xn
E Xm Xn
2 m n
2
E X EX X EX X
m m n
2
asn , m
14
0
由柯西均方收敛准则知{Xn}均方收敛.
对任意 t 0, R X ( t , t ) 3 4 t 2 是连续函数, 故X ( t )是均方连续过程 .
22
§4.3 随机过程的均方导数 一、均方导数概念 定义 {X(t),t∈T}是二阶矩过程, 对于确定的 t∈T , 若存在 Y∈H, 使得
X t t X t lim Y t 0 t
t t0
随机过程有类似随机变量序列 的均方收敛意义下的性质. 定理5′(洛易夫均方收敛准则) X(t) 在 t0 处收敛的充分必要条件是极限
s ,t t0
lim E X ( s ) X ( t ) 存在.
16
4.2 均方连续
二、均方连续 定义:(1) 称二阶矩过程{X(t),t∈T}在t0∈T处均 方连续,如果
证
aX n bYn aX bY a X n X bYn Y
a X n X b Yn Y 0
asn
10
n
4.1 二阶矩过程
定理4 (均方极限的数字特征)
设
且 l .i .m X n X,
n
1)
2)
定理1 H为线性空间,即设X, Y∈H, 则对任意 复数 a, b, 有aX+bY∈H. 范数:
X ˆ [ E ( X )]
2
1 2
由许瓦兹不等式可知 H构成一个线性赋范空间. 距离: d ( X , Y ) ˆ X Y H构成一个距离空间
5
4.1 二阶矩过程
三、随机变量序列的均方极限 定义 设Xn, X∈H,n=1,2, …,如果
] Et( X n X )
t X n X方收敛,其相应的数学 期望数列,方差数列及特征函数列也收敛.
13
4.1 二阶矩过程
定理5 (洛易夫均方收敛判别准则) 随机变量序列{Xn}∈H 均方收敛的充分必要 条件是极限 证
lim E X m X n 存在. m ,n
2
4.1 二阶矩过程
二、二阶矩随机变量空间H
定义 称定义在概率空间(Ω,F,P)上的具有有限二阶 矩的随机变量的全体组成的集合
H={X | E[|X|2]<+∞}
为二阶矩随机变量空间.
注: 在 H 中称 X 与 Y 相等,若 P{ X Y } 1 (记为X Y,a .e .)
4
4.1 二阶矩过程
§4.2 随机过程的均方极限与均方连续 本节将随机变量序列的均方收敛定义及前述 各定理推广到连续参数集的情形,并引进均方 连续的概念. 一、过程的均方极限 定义 设(X(t), t∈T}是二阶矩过程, X∈H, 如果
i .m X t X 称X(t) 均方收敛于X,记为 lt. t
0
t t0
证 1)仅证实随机变量的情形
E[ X mYn ] E ( XY ) E ( X mYn XY ) E[ XmYn XmY XmY XYn XYn XY XY XY] E ( X m X )(Yn Y ) E X (Yn Y ) E ( X m X )Y X m X Yn Y X Yn Y X m X Y 因 X, Y H, X , Y , 令m , n ,