随机过程 超容易理解+配套例题
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
考虑一个确定性的人口模型
B(t) ------在时刻t女婴的出生速率，即在 [t,t+dt]之间有
B(t)dt个女婴出生. 已知：
S (x) ------生存函数：指一个女婴能活到 年龄x的概率.
(x) ------生育的年龄强度：指年龄为x的母亲生育的
速率.即年龄为x的母亲在[t,t+dt]之间生下的女婴
e)称为随机过程，记为x(t)。
设有一个过程x(t)，若对每一个固定的时刻t j ( j=1,2…)，Xt(j )是一个 随机变量，则x(t)称为随机过程。
随机过程x(t,e)四种不同情况下的意义： .当t固定，e固定时，x(t)是一个确定值； .当t固定，e可变时，x(t)是一个随机变量； .当t可变，e固定时，x(t)是一个确定的时间函数； .当t可变，e可变时，x(t)是一个随机过程；
研究随机过程的一个重要切入点就是研究一个随机信号的数字特征，数 字特征主要包括数学期望、相关函数、方差、协方差、均方值。其中数 学期望是一阶矩，后面四个是二阶矩。可以通过研究随机过程的二阶矩 特征来判断随机过程是否平稳等等。
Poisson过程
1、计数过程： 随机过程N(t), t 0称为计数过程，如果N(t) 表 示从0到t时刻某一特定事件A发生的次数， 它具备以下两个特点：
1!
4!
0.0155
Poisson过程的推广
当Poisson过程的强度 不再是常数，而与时间t有关时，
Poisson过程被推广为非齐次Poisson过程。一般来说，非 齐次Poisson过程不具有平稳增量。
非齐次Poisson过程
计数过程{N(t), t 0}称做强度函数为 (t) 0(t 0) 的非齐次 Poisson过程，如果
2、更新方程 ：如下形式的积分方程称为更新方程
t
K (t) H (t) 0 K (t s)dF (s)
其中H(t)，F(t)为已知，且当t<0时， H(t)，
F(t)均为0，当H(t)在任何区间上有界时称
此方程为适定更新方程，简称更新方程。
设m(t)为更新函数，其导数称为更新密度，记为M(t)
作变量替换 x=y+t 得
H (t) 0 B( y)S( y t) ( y t)dy
注意： H (t)dt ---年龄≥t的女性在时间[t,t+dt]之间
生育的女婴数
f (x)dx S(x) (x)dx
---一个新生的女婴在年龄[x,x+dx]之间 期待生育的女婴数
所以
x
B(t) 0 B(t x)S(x) (x)dx
所以，
B(t) 0 B(t x)S(x) (x)dx
t
t B(t x)S(x) (x)dx 0 B(t x)S(x) (x)dx
这是一个更新方程，其中
f (x) S(x) (x)
H (t) t B(t x)S(x) (x)dx
平稳过程 1）严平稳过程：
若t1, t2 ,L tn T , 及h 0, ( X t1 ,X t2 ,L , X tn )
与( X t1h ,X t2 h ,L , X tn h )
有相同的联合分布，也就是说主要性质 只与变量之间的时间间隔有关。
2）宽平稳过程： 如果随机过程{x(t),t T }所有二阶矩都存在， 并且E[x(t)]= ,协方差函数 (t,s) 只与时间差 t-s有关，那么称{x(t), t T }为宽平稳过程。
解 考虑非齐次泊松过程，强度函数
1
(t
)
2.5 1
2
0t 5 5 t 10
m(10)
10
(t)dt
51
dt
10 1 dt 4.5
0
0 2.5
52
P{N (10)
N (0)
1}
(4.5)1
e4.5
9
9
e2
1!
2
复合Poisson过程
定义 i, j S, 称 P X n1 j X n i pij n
为n时刻的一步转移概率。若
i, j S, pij n pij
即pij与n无关，则称{Xn,n≥0}为齐次马尔可夫链。记P=(pij)，称P为 {Xn,n≥0}的一步转移概率矩阵.
p00 p01 p02 L
在 的条件下， {N(t),t≥0}是参数为的泊松过程，即对任意的 s, t≥0，有
PN t s N s n tn et
n!
则称{N(t),t≥0}为条件泊松过程。
更新过程
1、更新过程的定义
设{Xn,n≥1}是独立同分布的非负随机变量，分布函数为F(x)，且F(0)<1，令
p10
p11
p12
L
P M
pi0
pi1
pi 2
L
M M M
1, pij 0i, j 0
2, pij 1i 0,1, 2,L j 1
假设有一只蚂蚁在如右图的图上爬行，当两个
结点相临时，蚂蚁将爬行它临近的一点，并且
爬向任何一个邻居的概率是相同的。则此
随机过程简介
1、实际背景： 在许多实际问题中,不仅需要对随机现象做 特定时间点上的一次观察,且需要做多次的 连续不断的观察,以观察研究对象随时间推 移的演变过程.
Ex.1 对某城市{ X的(气t),温a 进t行 bn}年, 的连续观察,记 录得 ：
研究该城市气温有无以年为周期的变化规律?
Ex.2 从杂乱电讯号的一段观察{Y(t),0< t< T} 中,研究是否存在某种随机信号S(t )?
Markov链的转移矩阵为：
1
0
1 2
1 2
0
0
0
1 2
0
1 2
0
0
0
P
1
1
0
1
1
0
4 4
44
0
0
1
0
0
0
0
0
0 0
1 2 0
0 0
0 1
1
2 0
2
5
3
6
4ቤተ መጻሕፍቲ ባይዱ
假定某大学有一万人，每人每月使用一支牙膏，并且只使用“中华”牙膏和 “黑妹”牙膏两者之一。根据本月的调查，有3000人使用黑妹牙膏，7000人 使用中华牙膏。又据调查，使用黑妹牙膏的3000人中 ，有60%的人下月将继 续使用黑妹牙膏，40%的人将改用中华牙膏；使用中华牙膏的7000人中，有 70%的人下月将继续使用中华牙膏，30%的人将改用黑妹牙膏。
即人群最终消亡。 当F() 1时， B(t)将趋于一个有限的正
数。
Markov链
有这样一类随机过程，它具备“无后效性”，即，要确定过程将 来的状态，知道它此刻的状态就足够了，并不需要对它以往状况 的认识，这类过程称为Markov过程。
1、定义
随机过程Xn, n 0,1, 2,L
称为马尔可夫链，若它只
设{Yi,i≥1}是一族独立同分布的随机变量， {N(t),t≥0}是泊松过程，且{Yi,i≥1}与 {N(t),t≥0}独立，记
Nt
X t Yi i 1
称{X(t),t≥0}为复合泊松过程。
条件Poisson过程
1、定义：设 是一个正的随机变量，分布函数为G(x)，设N(t) 是一个计数过程，
m(t
)
F
t
t
0
m
t
s
dF
s
,
t0
M (t)
f
t
t
0
M
t
sf
s ds,
t0
3、更新方程的解
设更新方程中H(t)为有界函数，则方程存在惟一的在有限 区间内有界的解
t
K (t) H (t) 0 H (t s)dm(s)
4、更新方程在人口学中的一个应用
解：
设 N (t)表示在时间t时到达的顾客数
P(N (0.5) 1, N (2.5) 5)
P(N (0.5) 1, N (2.5) N (0.5) 4)
P(N (0.5) 1)P(N (2) 4)
(4 0.5)1 e40.5 (4 2)4 e42
（1）N(0)=0；
（2）过程有独立增量；
（3）对任意实数 t 0, s 0, N (t s) N(t)为具有参数
m(t s) m(t) ts () d 的Poisson分布。 t
令
m(t)
t
(s) ds
0
例 设某设备的使用期限为10年，在前5年内它平均2.5年需要维修一次， 后5年平均2年需要维修一次，求它在使用期内只维修过一次的概率。
n
T0 0, Tn X k
k 1
记
E
X
=
n
xdF(x), 0
0
N t supn;Tn t 或 N t ITnt n1
称{N(t),t≥0}更新过程。
一个典型的更新过程的例子就是机器零件的更换。在0时刻，安装上一 个新零件并开始运行，当零件在X1时刻发生损坏，马上用一个新的来 替换（假设替换零件不需要时间），当第二个零件从X1时间开始运行， 到X2时间发生损坏时，我们马上换第三个零件….这些零件的使用寿命 是独立同分布的，那么到t时刻为止已经更换的零件数目就构成一个更 新过程。
(3)对任意的s,t 0,
n
t P{N(t s) N(s) n} t
, n 0,1, 2.....
e n!
称为Poisson过程的强度或者速率，也 就是说单位事件内事件发生的次数。
例：顾客到达某商店服从 =4的Poisson分布
已知商店上午9：00开门，试求到9：30时 仅到一位顾客，而到11：30时总计已达5位 顾客的概率。
（1）N(t) 0 且取值为整数； （2）s t 时，N(s) N(t)且N(t) N(s)表示（s, t]时间内事件A发生的次数。
2、Poisson过程
计数过程 {N(t),t 0}称为参数为 ( 0)的Poisson 过程，如果
（1）N(0)=0;
(2)过程有独立增量；
1）我们可以得到转移概率矩阵
B
60% 30%
40% 70%
2）用转移概率矩阵预测市场占有率的变化 有了转移概率矩阵，我们可以知道下一个月使用黑妹牙膏和中华牙膏人数
60% (3000,7000) 30%
40% 70%
(3900, 6100)
故下个月使用黑妹牙膏的人数为3900人，使用中华牙膏的人数为6100人
F (x) 0 f (t)dt
---一个新生的女婴在年龄x之前期待生 育的女婴数
F() 表示其一生中将期待生育个女婴数 可以证明: 当 F () 1 时，B(t) : CeRt ,t 其中C为常数,R满足方程
eRxS(x) (x)dx 1 0
当 F() 1时，B(t)渐近指数地趋于0，
取有限或可列个值（称为过程的状态，记为0，1，2，…），
并且，对任意n 0 及状态 i, j,i0,i1,L ,in1 ，有
P( X n1 j X 0 i0 , X1 i1,L , X n1 in1, X n i) P( X n1 j X n i)
2、转移概率
注： 在有限的时间内不可能有无限多次更新发生。因为
If EX k 0
Tn
n
所以，if n ,
由大数定律知，依概率1有
n
Then Tn
从而，无穷多次更新只可能在无限长的时间内发生，即有限的时间内最多只 能发生有限次更新。
N t supn;Tn t maxn;Tn t
随机过程直观解释：
对随机信号或者噪声信号作一次观测相当于做一次随机试
验，每次随机试验所得到的观测记录结果
x
(t)
i
是一个确定
的函数，称为样本函数，所有的样本函数的全体构成了随
机过程。
2、随机过程的定义
设随机试验E的样本空间为S={e}，对其每一个元素ei (i=1,2,…)都以某种 法则确定一个样本函数x(eti, ),由全部元素{e}所确定的一族样本函数x(t，
数为 (x)dt.
我们要用过去的B(t)预测未来的B(t)。
因为
B(t x)S(x)dx ---t时刻年龄在[x,x+dx]之间 的女性数。
B(t x)S(x) (x)dx ---t时刻年龄在[x,x+dx]之间 的女性在单位时间内所生 育的女婴数。
则在单位时间内所有育龄段女性生育的女婴 数为
B(t) ------在时刻t女婴的出生速率，即在 [t,t+dt]之间有
B(t)dt个女婴出生. 已知：
S (x) ------生存函数：指一个女婴能活到 年龄x的概率.
(x) ------生育的年龄强度：指年龄为x的母亲生育的
速率.即年龄为x的母亲在[t,t+dt]之间生下的女婴
e)称为随机过程，记为x(t)。
设有一个过程x(t)，若对每一个固定的时刻t j ( j=1,2…)，Xt(j )是一个 随机变量，则x(t)称为随机过程。
随机过程x(t,e)四种不同情况下的意义： .当t固定，e固定时，x(t)是一个确定值； .当t固定，e可变时，x(t)是一个随机变量； .当t可变，e固定时，x(t)是一个确定的时间函数； .当t可变，e可变时，x(t)是一个随机过程；
研究随机过程的一个重要切入点就是研究一个随机信号的数字特征，数 字特征主要包括数学期望、相关函数、方差、协方差、均方值。其中数 学期望是一阶矩，后面四个是二阶矩。可以通过研究随机过程的二阶矩 特征来判断随机过程是否平稳等等。
Poisson过程
1、计数过程： 随机过程N(t), t 0称为计数过程，如果N(t) 表 示从0到t时刻某一特定事件A发生的次数， 它具备以下两个特点：
1!
4!
0.0155
Poisson过程的推广
当Poisson过程的强度 不再是常数，而与时间t有关时，
Poisson过程被推广为非齐次Poisson过程。一般来说，非 齐次Poisson过程不具有平稳增量。
非齐次Poisson过程
计数过程{N(t), t 0}称做强度函数为 (t) 0(t 0) 的非齐次 Poisson过程，如果
2、更新方程 ：如下形式的积分方程称为更新方程
t
K (t) H (t) 0 K (t s)dF (s)
其中H(t)，F(t)为已知，且当t<0时， H(t)，
F(t)均为0，当H(t)在任何区间上有界时称
此方程为适定更新方程，简称更新方程。
设m(t)为更新函数，其导数称为更新密度，记为M(t)
作变量替换 x=y+t 得
H (t) 0 B( y)S( y t) ( y t)dy
注意： H (t)dt ---年龄≥t的女性在时间[t,t+dt]之间
生育的女婴数
f (x)dx S(x) (x)dx
---一个新生的女婴在年龄[x,x+dx]之间 期待生育的女婴数
所以
x
B(t) 0 B(t x)S(x) (x)dx
所以，
B(t) 0 B(t x)S(x) (x)dx
t
t B(t x)S(x) (x)dx 0 B(t x)S(x) (x)dx
这是一个更新方程，其中
f (x) S(x) (x)
H (t) t B(t x)S(x) (x)dx
平稳过程 1）严平稳过程：
若t1, t2 ,L tn T , 及h 0, ( X t1 ,X t2 ,L , X tn )
与( X t1h ,X t2 h ,L , X tn h )
有相同的联合分布，也就是说主要性质 只与变量之间的时间间隔有关。
2）宽平稳过程： 如果随机过程{x(t),t T }所有二阶矩都存在， 并且E[x(t)]= ,协方差函数 (t,s) 只与时间差 t-s有关，那么称{x(t), t T }为宽平稳过程。
解 考虑非齐次泊松过程，强度函数
1
(t
)
2.5 1
2
0t 5 5 t 10
m(10)
10
(t)dt
51
dt
10 1 dt 4.5
0
0 2.5
52
P{N (10)
N (0)
1}
(4.5)1
e4.5
9
9
e2
1!
2
复合Poisson过程
定义 i, j S, 称 P X n1 j X n i pij n
为n时刻的一步转移概率。若
i, j S, pij n pij
即pij与n无关，则称{Xn,n≥0}为齐次马尔可夫链。记P=(pij)，称P为 {Xn,n≥0}的一步转移概率矩阵.
p00 p01 p02 L
在 的条件下， {N(t),t≥0}是参数为的泊松过程，即对任意的 s, t≥0，有
PN t s N s n tn et
n!
则称{N(t),t≥0}为条件泊松过程。
更新过程
1、更新过程的定义
设{Xn,n≥1}是独立同分布的非负随机变量，分布函数为F(x)，且F(0)<1，令
p10
p11
p12
L
P M
pi0
pi1
pi 2
L
M M M
1, pij 0i, j 0
2, pij 1i 0,1, 2,L j 1
假设有一只蚂蚁在如右图的图上爬行，当两个
结点相临时，蚂蚁将爬行它临近的一点，并且
爬向任何一个邻居的概率是相同的。则此
随机过程简介
1、实际背景： 在许多实际问题中,不仅需要对随机现象做 特定时间点上的一次观察,且需要做多次的 连续不断的观察,以观察研究对象随时间推 移的演变过程.
Ex.1 对某城市{ X的(气t),温a 进t行 bn}年, 的连续观察,记 录得 ：
研究该城市气温有无以年为周期的变化规律?
Ex.2 从杂乱电讯号的一段观察{Y(t),0< t< T} 中,研究是否存在某种随机信号S(t )?
Markov链的转移矩阵为：
1
0
1 2
1 2
0
0
0
1 2
0
1 2
0
0
0
P
1
1
0
1
1
0
4 4
44
0
0
1
0
0
0
0
0
0 0
1 2 0
0 0
0 1
1
2 0
2
5
3
6
4ቤተ መጻሕፍቲ ባይዱ
假定某大学有一万人，每人每月使用一支牙膏，并且只使用“中华”牙膏和 “黑妹”牙膏两者之一。根据本月的调查，有3000人使用黑妹牙膏，7000人 使用中华牙膏。又据调查，使用黑妹牙膏的3000人中 ，有60%的人下月将继 续使用黑妹牙膏，40%的人将改用中华牙膏；使用中华牙膏的7000人中，有 70%的人下月将继续使用中华牙膏，30%的人将改用黑妹牙膏。
即人群最终消亡。 当F() 1时， B(t)将趋于一个有限的正
数。
Markov链
有这样一类随机过程，它具备“无后效性”，即，要确定过程将 来的状态，知道它此刻的状态就足够了，并不需要对它以往状况 的认识，这类过程称为Markov过程。
1、定义
随机过程Xn, n 0,1, 2,L
称为马尔可夫链，若它只
设{Yi,i≥1}是一族独立同分布的随机变量， {N(t),t≥0}是泊松过程，且{Yi,i≥1}与 {N(t),t≥0}独立，记
Nt
X t Yi i 1
称{X(t),t≥0}为复合泊松过程。
条件Poisson过程
1、定义：设 是一个正的随机变量，分布函数为G(x)，设N(t) 是一个计数过程，
m(t
)
F
t
t
0
m
t
s
dF
s
,
t0
M (t)
f
t
t
0
M
t
sf
s ds,
t0
3、更新方程的解
设更新方程中H(t)为有界函数，则方程存在惟一的在有限 区间内有界的解
t
K (t) H (t) 0 H (t s)dm(s)
4、更新方程在人口学中的一个应用
解：
设 N (t)表示在时间t时到达的顾客数
P(N (0.5) 1, N (2.5) 5)
P(N (0.5) 1, N (2.5) N (0.5) 4)
P(N (0.5) 1)P(N (2) 4)
(4 0.5)1 e40.5 (4 2)4 e42
（1）N(0)=0；
（2）过程有独立增量；
（3）对任意实数 t 0, s 0, N (t s) N(t)为具有参数
m(t s) m(t) ts () d 的Poisson分布。 t
令
m(t)
t
(s) ds
0
例 设某设备的使用期限为10年，在前5年内它平均2.5年需要维修一次， 后5年平均2年需要维修一次，求它在使用期内只维修过一次的概率。
n
T0 0, Tn X k
k 1
记
E
X
=
n
xdF(x), 0
0
N t supn;Tn t 或 N t ITnt n1
称{N(t),t≥0}更新过程。
一个典型的更新过程的例子就是机器零件的更换。在0时刻，安装上一 个新零件并开始运行，当零件在X1时刻发生损坏，马上用一个新的来 替换（假设替换零件不需要时间），当第二个零件从X1时间开始运行， 到X2时间发生损坏时，我们马上换第三个零件….这些零件的使用寿命 是独立同分布的，那么到t时刻为止已经更换的零件数目就构成一个更 新过程。
(3)对任意的s,t 0,
n
t P{N(t s) N(s) n} t
, n 0,1, 2.....
e n!
称为Poisson过程的强度或者速率，也 就是说单位事件内事件发生的次数。
例：顾客到达某商店服从 =4的Poisson分布
已知商店上午9：00开门，试求到9：30时 仅到一位顾客，而到11：30时总计已达5位 顾客的概率。
（1）N(t) 0 且取值为整数； （2）s t 时，N(s) N(t)且N(t) N(s)表示（s, t]时间内事件A发生的次数。
2、Poisson过程
计数过程 {N(t),t 0}称为参数为 ( 0)的Poisson 过程，如果
（1）N(0)=0;
(2)过程有独立增量；
1）我们可以得到转移概率矩阵
B
60% 30%
40% 70%
2）用转移概率矩阵预测市场占有率的变化 有了转移概率矩阵，我们可以知道下一个月使用黑妹牙膏和中华牙膏人数
60% (3000,7000) 30%
40% 70%
(3900, 6100)
故下个月使用黑妹牙膏的人数为3900人，使用中华牙膏的人数为6100人
F (x) 0 f (t)dt
---一个新生的女婴在年龄x之前期待生 育的女婴数
F() 表示其一生中将期待生育个女婴数 可以证明: 当 F () 1 时，B(t) : CeRt ,t 其中C为常数,R满足方程
eRxS(x) (x)dx 1 0
当 F() 1时，B(t)渐近指数地趋于0，
取有限或可列个值（称为过程的状态，记为0，1，2，…），
并且，对任意n 0 及状态 i, j,i0,i1,L ,in1 ，有
P( X n1 j X 0 i0 , X1 i1,L , X n1 in1, X n i) P( X n1 j X n i)
2、转移概率
注： 在有限的时间内不可能有无限多次更新发生。因为
If EX k 0
Tn
n
所以，if n ,
由大数定律知，依概率1有
n
Then Tn
从而，无穷多次更新只可能在无限长的时间内发生，即有限的时间内最多只 能发生有限次更新。
N t supn;Tn t maxn;Tn t
随机过程直观解释：
对随机信号或者噪声信号作一次观测相当于做一次随机试
验，每次随机试验所得到的观测记录结果
x
(t)
i
是一个确定
的函数，称为样本函数，所有的样本函数的全体构成了随
机过程。
2、随机过程的定义
设随机试验E的样本空间为S={e}，对其每一个元素ei (i=1,2,…)都以某种 法则确定一个样本函数x(eti, ),由全部元素{e}所确定的一族样本函数x(t，
数为 (x)dt.
我们要用过去的B(t)预测未来的B(t)。
因为
B(t x)S(x)dx ---t时刻年龄在[x,x+dx]之间 的女性数。
B(t x)S(x) (x)dx ---t时刻年龄在[x,x+dx]之间 的女性在单位时间内所生 育的女婴数。
则在单位时间内所有育龄段女性生育的女婴 数为