随机过程讲义
合集下载
随机过程讲义4
随机过程讲义
§4.1 平稳过程
一、两种平稳过程
1. 严平稳过程： 严平稳过程： 特别： 为同分布过程， 特别： { X ( t ) } 为同分布过程， 即：F ( t；x ) = FX ( x ) 但一般而言，确定随机过程的有限维分布是 但一般而言， 困难的，不过其数字特征（特别是一、 困难的，不过其数字特征（特别是一、二阶 矩）在工程实际中较易近似得到，它反映了 在工程实际中较易近似得到， 该过程的基本特征。 该过程的基本特征。若只考虑这些特征的平 稳性，就可引出宽平稳过程。 稳性，就可引出宽平稳过程。
随机过程讲义
第四章 平稳随机过程
随机过程讲义
§4.0 内积空间
一、内积空间
1. 意义： 意义： 分析性能 <—— 极限 <—— 距离 <—— 内积 2. H 空间： 空间：
( Ω , F , Ρ ) 上具有二阶矩的（复）随机变量之全 上具有二阶矩的（
体，记为 H. 注：若 X，Y ∈ H ，且 P ( X = Y ) = 1，则记 = X ，则记Y
n→ ∞
随机过程讲义
§4.3
2. 四种收敛： 四种收敛：
随机分析
二、四种收敛性（极限） 四种收敛性（极限）
c. m . s . （均方）收敛 均方）
Xn → X ：
m .s .
lim 均有二阶矩， 若 { Xn }， Xn 均有二阶矩，且 n → ∞ E { X n − X } = 0
2
记做 l.i.m Xn = X
随机过程讲义
§4.0 内积空间
一、内积空间
6. 范数： 对变量自身的一种度量 范数：
X = ( X，X )1 2 ∀X ∈ H ，记
随机过程课程讲义
对每一固定的时刻t, X (t) cos(t )是随机变量的函数, 从而也是随机变量。它的状态空间是[- , ]. 在(0, 2 )内随机取一数 ,相应的就得到一个样本函数 x(t) cos(t ), 这族样本函数的差异在于它们相位的不同,
故这一过程称为随机相位正弦波。
6
例3：设X (t) Vcost t , 其中是常数；
一般地，FX (x1, x2 , xn;t1, t2 , tn ), n 1, 2, ti T 称为随机过程X (t),t T的有限维分布函数族
它完全确定了随机过程的统计特性
下面分别给出它们的一条样本函数：
xn
6
(1)
5
4
3
2
yn
6
xn
5
4
3
2
(2)
yn
1
1
1 2 3 45 678
n
1 2 3 45 678
n
随机过程的分类：
随机过程可根据参数集T和任一时刻的状态分为四类，参数集T 可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随 机变量和连续型随机变量两种：
10
§2 随机过程的统计描述
两种描述
分布函数 特征数
(一) 随机过程的分布函数族
设随机过程X (t),t T, 对每一固定的t T , FX (x,t) PX (t) x，x R，称为随机过程X (t),t T的一维分布函数 FX (x,t),t T称为一维分布函数族
一般地，对任意n(n 2,3, )个不同的时刻，t1,t2, tn T
1. 连续参数连续型的随机过程，如例2，例3 2. 连续参数离散型的随机过程，如例1，例4 3. 离散参数离散型的随机过程，如例5 4. 离散参数连续型的随机过程时间集T t, 2 t, n t, 上观察X (t)，就得到 随机序列X1, X 2 , , X n , , X n X (n t)是连续型随机变量。
故这一过程称为随机相位正弦波。
6
例3：设X (t) Vcost t , 其中是常数；
一般地，FX (x1, x2 , xn;t1, t2 , tn ), n 1, 2, ti T 称为随机过程X (t),t T的有限维分布函数族
它完全确定了随机过程的统计特性
下面分别给出它们的一条样本函数：
xn
6
(1)
5
4
3
2
yn
6
xn
5
4
3
2
(2)
yn
1
1
1 2 3 45 678
n
1 2 3 45 678
n
随机过程的分类：
随机过程可根据参数集T和任一时刻的状态分为四类，参数集T 可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随 机变量和连续型随机变量两种：
10
§2 随机过程的统计描述
两种描述
分布函数 特征数
(一) 随机过程的分布函数族
设随机过程X (t),t T, 对每一固定的t T , FX (x,t) PX (t) x，x R，称为随机过程X (t),t T的一维分布函数 FX (x,t),t T称为一维分布函数族
一般地，对任意n(n 2,3, )个不同的时刻，t1,t2, tn T
1. 连续参数连续型的随机过程，如例2，例3 2. 连续参数离散型的随机过程，如例1，例4 3. 离散参数离散型的随机过程，如例5 4. 离散参数连续型的随机过程时间集T t, 2 t, n t, 上观察X (t)，就得到 随机序列X1, X 2 , , X n , , X n X (n t)是连续型随机变量。
随机过程讲义(南开大学内部)
舱舮舴 复合艐良艩艳艳良艮过程及应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舷
舱舮舴舮舱 复合艐良艩艳艳良艮过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舷
舱舮舴舮舲 复合艐良艩艳艳良艮过程在保险风险理论中的应用 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舸
3 连续时间马氏链
33
舳舮舱 定义 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舳
舳舮舱舮舱 马氏性与等价条件 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舳舳
对 h > 0般 有
pn(t
+
h) h
−
pn(t)
=
−λpn(t)
+
λpn−1(t)
+
o(h) ,
h
从而 pn(t) 在 t 的右导数为 −λpn(t) + λpn−1(t)舮 类似的可知 pn(t) 的左导数也存在。
这样
pn(t) = −λpn(t) + λpn−1(t), pn(0) = 0, n ≥ 1.
舱舮舵 艐良艩艳艳良艮 过程的其它扩展 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舰
舱舮舵舮舱 非齐次 艐良艩艳艳良艮 过程 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舮 舱舰
随机过程讲义
n U U{N (t ) = n − l , N (t + h) − N (t ) = l} l =2
故有：
Pn (t + h) = Pn (t )(1 − λh − ο (h)) + Pn −1 (t )(λh + ο (h)) + ο (h)
化简并令 h → 0 得：
Pn′(t ) = −λPn (t ) + λPn −1 (t )
∀ n ∈ N ， t i ∈ T , 1 ≤ i ≤ n ，有随机过程 X (t ) 的增量： X (t 2 ) − X (t1 ), X (t 3 ) − X (t 2 ),L, X (t n ) − X (t n−1 )
相互独立，则称随机过程 { X (t ), t ∈ T } 是独立增量过程。 注意：若独立增量过程的参数集 T = [ a, b), a > −∞ ，一般假定 X ( a ) = 0 ， 则 独 立 增 量 过 程 是 一 马 氏 过 程 。 特 别 地 ， 当 X ( 0) = 0 时 ， 独 立 增 量 过 程
两边同乘以 e ，移项后有：
λt
d λt λt [e Pn (t )] = λ e Pn −1 (t ) dt Pn (0) = P{N (0) = n} = 0
当 n = 1 时，有：
d λt [e P1 (t )] = λ , P1 (0) = 0 ⇒ P1 (t ) = (λ t )e −λ t dt
由归纳法可得：
(λ t ) n − λ t Pn (t ) = e , n ∈ N0 n!
注意： E{N (t )} = λ t 现的平均次数。 注意：Poission 过程的转移率矩阵（Q 矩阵）的表示，并用上一章讲过的方 法求解 Poission 过程的一维分布。
故有：
Pn (t + h) = Pn (t )(1 − λh − ο (h)) + Pn −1 (t )(λh + ο (h)) + ο (h)
化简并令 h → 0 得：
Pn′(t ) = −λPn (t ) + λPn −1 (t )
∀ n ∈ N ， t i ∈ T , 1 ≤ i ≤ n ，有随机过程 X (t ) 的增量： X (t 2 ) − X (t1 ), X (t 3 ) − X (t 2 ),L, X (t n ) − X (t n−1 )
相互独立，则称随机过程 { X (t ), t ∈ T } 是独立增量过程。 注意：若独立增量过程的参数集 T = [ a, b), a > −∞ ，一般假定 X ( a ) = 0 ， 则 独 立 增 量 过 程 是 一 马 氏 过 程 。 特 别 地 ， 当 X ( 0) = 0 时 ， 独 立 增 量 过 程
两边同乘以 e ，移项后有：
λt
d λt λt [e Pn (t )] = λ e Pn −1 (t ) dt Pn (0) = P{N (0) = n} = 0
当 n = 1 时，有：
d λt [e P1 (t )] = λ , P1 (0) = 0 ⇒ P1 (t ) = (λ t )e −λ t dt
由归纳法可得：
(λ t ) n − λ t Pn (t ) = e , n ∈ N0 n!
注意： E{N (t )} = λ t 现的平均次数。 注意：Poission 过程的转移率矩阵（Q 矩阵）的表示，并用上一章讲过的方 法求解 Poission 过程的一维分布。
随机过程第一章课件
5.2 随机过程分类和举例
【二】举例:
【例二】参数连续离散型随机过程：脉冲数字通信系统。 该系统传送的信 号是脉宽为 T0 的脉冲信号，每隔 T0 送出一个脉冲。脉冲幅度X t 是一个随机变量，它可能取四个值 2,1,1,2 ，且取这四个值的 概率是相等的，即
PX t 2 PX t 1 PX t 1 PX t 2 1 / 4
【分析】设 V 0,1,
1 2 , 得到几个样本函数，可以画出它们的波形（略） 4 3
5.2 随机过程分类和举例
【二】举例:
【例三分析续】正弦波随机过程：
X （2）当 t 0 时， 0 V ，故 X 0 的概率密度就是 V 的概率密度，即
otherwise 时， 1 当 t1 X t1 X 1 V cos V ，故 4 4 2 1 2 0 x f X1 x 2 0 otherwise 3 3 1 V ，故 当 t2 时，X t2 X 2 V cos 4 4 2 1 2 x 0 f X 2 x 2 0 otherwise
P X i 1 p, P X i 1 1 p 设质点在 t n 时偏离原点的距离为 Yn ，Yn 也是一随机变量，
于是
Yn X i ,
i 1
n
Y0 0
又设质点每次游动与该质点所处的位置无关，当 i k 时 X i 与 X k 是相互统计独立的随机变量。
则称
X t, , t T ,
为随机过程，简记为
X t , t T 。
一个随机过程 X t , t T 实际上是两个变量的二元函 数，其中 一个变量为样本空间 中 的 ，另一个为参 T 数集 t 中的 。
随机过程课件
1
m X (t1 )][ x2 m X (t 2 )] f ( x1 x2 ; t1 , t 2 )dx1dx 2 f ( x1, x2 ; t1 , t 2 )dx1dx 2
x x
1 2
X(t) 协方差与相关函数的关系为 当 mx (t ) 0 时 C X (t 1 , t 2 ) R X (t 1 , t 2 ) 在协方差定义中取t1=t2=t,就有
为XT 的均值函数或数学期望。其中F(x,t)是过程 的一维分布函数。 若是连续型随机变量，有 mX (t) xf(x,t)dx 其中f(x,t)是一维分布密度。 12
2．随机过程的方差 若 DX (t) 2 (t) E[X(t) mX (t)]2 存在，t∈T， X 称为X（t）的方差。 x (t) Dx (t) 称为X（t）的标准差。 它们描绘过程的样本曲线在各个t时刻对均 值 m X ( t ) 的离散程度， 对每个t1∈T， EX (t1 ) 反映t1状态取值的概率平均。 DX (t1 ) 反映t1状态取值与 EX (t1 ) 离散程度。 在工程中随机过程的均方值具有物理意义，比 较有用。均方值定义为： E[ X 2 (t )] X (t ) DX (t ) E( X 2 (t )) E 2 ( X (t )) 有关系式： 13 Dx (t ) x (t ) [mx (t )]2 即
第一章. 随机过程的基本概念
§1.1 随机过程及其概率分布
在实际问题中，有时需要对随机现象的变化进 行研究，这时就必须考虑无穷个随机变量或一族 随机变量, 我们就称这种随机变量族为随机过程。 例1: 生物群体的增长问题。在描述群体的发展 或演变过程中, 以 Xt 表示在时刻 t 群体的个数, 则 对每一个 t ，Xt 是随机变量。假设我们从 t ＝0 开 始每隔24小时对群体的个数观测一次, 则{Xt , t ＝0, 1, 2, ...}是一个随机过程。 例2: 电话呼唤问题。某电话总机在[0，t]时间 内收到的呼唤次数用 Xt 来表示, 则对于固定的 t ， 1 Xt 是随机变量。于是{Xt , t ∈[0, ∞)}是随机过程。
3 马尔科夫随机过程(可靠性讲义)--31
表示初始状态位于状态i，经过一个时间间隔后转移到状态
()⎢⎢⎢⎣⎡=−=−3/43/23/83/43/43/51
Q E N 初始状态为3时的平均1718
20
共因停运
不计共因停运
U:up D:down
状态合并连续马尔科夫过程(状态合并的条件)
•状态合并的条件：组合状态内的每一状态到组合外仍一其他状态或状态群的转移率都相同。
状态
若干状态合并后的组合:J J
j I i I i ji JI J j ij IJ ⎪⎩
⎪⎨
⎧∈=∈=∑∑∈∈λλλλ23连续马尔科夫过程(状态空间图应用算例)U:up D:down
24
马尔科夫模型
25 马尔科夫模型
连续马尔科夫过程(失效前平均时间[2元件])选择Δt 为
微小时段，即单位时间
由马尔科夫链可知，从状态29
从状态i 开始进入吸收态3前到状态⎦从状态i 开始进入吸收态3前到状态1
)(−−=Q E M
从状态i 开始进入吸收态3前到状态⎤
⎡+λμλ21。
随机过程课件PPT资料(正式版)
应怎样分才合理呢➢？」
☞随机事件：样本空间的子集,常记为 A ,B ,…它是满足某些条件的样本点所组成的集合.
排队和服务系统 ◙A∩勤B 奋⇔、A刻B ：苦A、与合➢B作的、积探事索件；； 更新过程 为从事科学研究打下坚实的基础；
☞抽取的是精装中➢文版数学书 ⇒
➢ 时间序列分析
➢ 鞅过程
绪论
《随机过程》基础
概率(或然率或几率) ——随机事件出现的可能 性的量度；
概率论其起源与博弈、 、天气预报等问题有 关
⊕16世纪意大利学者开始研究掷骰子等赌博 中的一些问题；
⊕17世纪中叶，「现有两个赌徒相约赌若干 局，谁先赢S局就算赢了，当赌徒A赢K局(K<S)， 而赌徒B赢L局(L<S)时，赌博中止，赌资应怎 样分才合理呢？」
随机过程课件
《随机过程》
➢ 教材： ◙ 张卓奎,陈慧婵，随机过程.西安电子科技大 学.2003.
➢ 主要参考文献： ◙ 胡奇英编著,随机过程.西安电子科技大学.1998. ◙ 周荫清 ,随机过程习题集. 清华大学出版社, 2004. ◙ 林元纟金烈 ,应用随机过程. 清华大学出版社, 2002.
……
➢ 随机过程理论在社会科学中例如在社会统计， 学、经 济、金融工程、管理中也得到极其广泛的应用。
➢ 为从事科学研究打下坚实的基础；
绪论
教学目标
➢ 充分理解、熟练掌握教材的内容 ◙ 熟练掌握基本的数学概念和定理；
◙ 熟练掌握随机过程研究对象的数学描述；
Hale Waihona Puke ➢ 通过学习和练习，具备一定的分析、解决本专业具体 问题的能力；
☞拉普拉斯曾说：“生活中最重要的问题，其中 绝大多数在实质上只是概率的问题”。
☞概率论是研究随机现象数量规律的数学分支。 在实际中，人们往往还需要研究在时间推进中某 一特定随机现象的演变情况，描述这种演变的就 是概率论中的随机过程。
☞随机事件：样本空间的子集,常记为 A ,B ,…它是满足某些条件的样本点所组成的集合.
排队和服务系统 ◙A∩勤B 奋⇔、A刻B ：苦A、与合➢B作的、积探事索件；； 更新过程 为从事科学研究打下坚实的基础；
☞抽取的是精装中➢文版数学书 ⇒
➢ 时间序列分析
➢ 鞅过程
绪论
《随机过程》基础
概率(或然率或几率) ——随机事件出现的可能 性的量度；
概率论其起源与博弈、 、天气预报等问题有 关
⊕16世纪意大利学者开始研究掷骰子等赌博 中的一些问题；
⊕17世纪中叶，「现有两个赌徒相约赌若干 局，谁先赢S局就算赢了，当赌徒A赢K局(K<S)， 而赌徒B赢L局(L<S)时，赌博中止，赌资应怎 样分才合理呢？」
随机过程课件
《随机过程》
➢ 教材： ◙ 张卓奎,陈慧婵，随机过程.西安电子科技大 学.2003.
➢ 主要参考文献： ◙ 胡奇英编著,随机过程.西安电子科技大学.1998. ◙ 周荫清 ,随机过程习题集. 清华大学出版社, 2004. ◙ 林元纟金烈 ,应用随机过程. 清华大学出版社, 2002.
……
➢ 随机过程理论在社会科学中例如在社会统计， 学、经 济、金融工程、管理中也得到极其广泛的应用。
➢ 为从事科学研究打下坚实的基础；
绪论
教学目标
➢ 充分理解、熟练掌握教材的内容 ◙ 熟练掌握基本的数学概念和定理；
◙ 熟练掌握随机过程研究对象的数学描述；
Hale Waihona Puke ➢ 通过学习和练习，具备一定的分析、解决本专业具体 问题的能力；
☞拉普拉斯曾说：“生活中最重要的问题，其中 绝大多数在实质上只是概率的问题”。
☞概率论是研究随机现象数量规律的数学分支。 在实际中，人们往往还需要研究在时间推进中某 一特定随机现象的演变情况，描述这种演变的就 是概率论中的随机过程。
随机过程课件
。每个可能取的值称为一个状态。
对随机过程 {X (t) , t T} 进行一次试验 (即在 T 上进行一次全程观测) , 其结果是 t 的函数, 记为
x(t) , t T , 称它为随机过程的一个 样 本 函 数 或 样本曲线 .
所有不同的试验结果构成一族样本函数.
随机过程 总体
样本函数 个体
（4）连续参数、连续状态的随机过程。如例3，T=[0，∞]， 状态空间为[-∞，∞]。
离散参数的随机过程亦称为随机序列。
四、随机过程的分布函数族
给定随机过程 {X (t),t T}.
对固定的 t T, 随机变量 X (t) 的分布函数一 般与 t 有关, 记为 FX (x,t) P{X (t) x}, x R.
1 0.5
-4
-2
-0.5
2
4
-1
当t固定时,X(t)是随机变量,故{X(t), t>0}是一族随机变量。
另一方面，对随机变量 做一φ次试验得一个试验值 ，
就是一条样本曲线。X (t) a cos(0t )
二、随机过程的概念
1 定义 参数集：设T是实数轴 (, )上的一个子集，且包含无限多
个数。随机过程是一族随机变量，可用 {X (t),t T} 来表示。T称为 随机过程的参数集。
在次概数率是论一中个曾随指机出变，量在，单记位X时(t间)为内[0一,t]电内话的站呼接叫到次的数呼唤 次数可用一离散型随机变量 X()表示，且有
P{X() k} k e , k 0, 1,2, ,( 0)
k! 在[0，t]时间内接到的呼唤次数,这一随机变量可记为X(t)。
P{X(t) k} (t)k et , k 0, 1,2, ,( 0)
《随机过程》课件
f1(x1, t1)
F1(x1, t1) x1
4
● 随机过程 (t) 的二维分布函数：
F2 (x1, x2 ;t1,t2 , ) P (t1) x1, (t2 ) x2
● 随机过程 (t)的二维概率密度函数：
f2
(x1,
x2 ; t1, t2
)
2F2 (x1, x2;t1,t2 ) x1 x2
Dξ t Eξ 2 t 2atξ t a2 t
E[ξ 2 (t)] 2at Eξ t a2 (t)
E[ξ 2 (t)] a2 (t)
于
均
值
所以 a(t
，) 的方偏差离等程于x度2均f。1方(
x值,
t与)d均x值平[a方(t之)]差2
，
它
表
示
随
机
过
程
在
时
刻
t
对
均方值
均值平方
8
● 相关函数
在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。 因此，研究平稳随机过程有着很大的实际意义。
13
● 2.2 各态历经性 ● 问题的提出：我们知道，随机过程的数字特征（均值、相关函数）是对随 机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本， 这样，我们自然会提出这样一个问题：能否从一次试验而得到的一个样本 函数x(t)来决定平稳过程的数字特征呢? ● 回答是肯定的。平稳过程在满足一定的条件下具有一个有趣而又非常有用 的特性，称为“各态历经性”（又称“遍历性”）。具有各态历经性的过 程，其数字特征（均为统计平均）完全可由随机过程中的任一实现的时间 平均值来代替。 ● 下面，我们来讨论各态历经性的条件。
R(t1,t2 ) E[ (t1) (t2 )]
《数学随机过程》PPT课件
所以X与Y不相关。 故 (X,Y )=0 X与Y不相关
几何直观意义
3.3 随机分析初步
附注C—关于赋范线性空间概念的回顾
设V是一个线性空间，若 V，存在一个实数|| ||与
之对应，且具有下列性质：
(1) || ||0 , 且|| ||=0 =0 ； (2) ||c· ||= |c|·|| || , 特别 ||- ||= || ||； c R (3) || + || || ||+ || ||； V 则称|| || 为V中元素 的范数(norm)(模、长度)，此时线
CXX (t1, t2 ) cov{ X (t1), X (t2 )} E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} | CXX (t1, t2 ) |2 | cov{ X (t1), X (t2 )} |2 | E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} |2 {E | [ X (t1) mX (t1)][ X (t2 ) mX (t2 )] |}2 E | X (t1) mX (t1) |2 E | X (t2 ) mX (t2 ) |2 D[ X (t1)]D[ X (t2 )]
3.3 随机分析初步
附注A—关于线性空间概念的回顾
设V是一个非空的集合，K是一个数域，又设
(a)在V中定义加法： , V : + V ; (b)在V中定义数乘： V, k K: k · V ; 且 , , V , k,l K , 满足 (1) k ,l K, , V : (2) +( +)= ( + )+ ; (3) + = + ; (4)0V, V: +0= ; (5) V, V: +=0 (6) 1 K: 1· = ; (7) k ,l K, V: (kl)· =k·(l) ; (8)k ,l K, V: (k+l) = k +l ; (9) k K, , V : k( + )= k + k .
几何直观意义
3.3 随机分析初步
附注C—关于赋范线性空间概念的回顾
设V是一个线性空间，若 V，存在一个实数|| ||与
之对应，且具有下列性质：
(1) || ||0 , 且|| ||=0 =0 ； (2) ||c· ||= |c|·|| || , 特别 ||- ||= || ||； c R (3) || + || || ||+ || ||； V 则称|| || 为V中元素 的范数(norm)(模、长度)，此时线
CXX (t1, t2 ) cov{ X (t1), X (t2 )} E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} | CXX (t1, t2 ) |2 | cov{ X (t1), X (t2 )} |2 | E{[ X (t1) mX (t1)][ X (t2 ) mX (t2 )]} |2 {E | [ X (t1) mX (t1)][ X (t2 ) mX (t2 )] |}2 E | X (t1) mX (t1) |2 E | X (t2 ) mX (t2 ) |2 D[ X (t1)]D[ X (t2 )]
3.3 随机分析初步
附注A—关于线性空间概念的回顾
设V是一个非空的集合，K是一个数域，又设
(a)在V中定义加法： , V : + V ; (b)在V中定义数乘： V, k K: k · V ; 且 , , V , k,l K , 满足 (1) k ,l K, , V : (2) +( +)= ( + )+ ; (3) + = + ; (4)0V, V: +0= ; (5) V, V: +=0 (6) 1 K: 1· = ; (7) k ,l K, V: (kl)· =k·(l) ; (8)k ,l K, V: (k+l) = k +l ; (9) k K, , V : k( + )= k + k .
随机过程讲义1
关键词第十二章随机过程基本概念关键词：随机过程状态和状态空间样本函数有限维分布函数均值函数方差函数自相关函数自协方差函数互相关函数互协方差函数独立不相关确定性过程确具有确定形式的变化过程，或者说具有必然的变化规律，用数学语言来说，就是事物的变化过程可以用一个时间t的确定函数来描述。
例如电容器通过电阻放电时电容两端例如，电容器通过电阻放电时，电容两端的电位差随时间的变化就是一个确定性函数。
2随机过程没有确定的变化形式，也即，每次对它的测量结果没有一个确定的变化规律。
用数学语言来说，这类事物的变化过程不能用一个时间t的确定性函数来描述：如果对该事物的变化全过程进行一次观察，可得到个时间t的函数，但若对该事物的变化过程重复地到一个时间的函数但若对该事物的变化过程重复地独立地进行多次观察，则每次所得到的结果是不相同的。
3§1 随机过程的概念是参数集对任意定义(){},(),T t T X t X t t T ∈∈设是一参数集，对任意是一个定义：随机变量,则称是随机过程.(,)X t e •(1)(,)X t •是随机变量(,e)X t 所有可能取值的全体称为状态空间(2)(,e)t X 是的函数,称为样本函数具体观察结果对随机过程的一次就是一条样本函数随机过程的分类：按照参数集T可分为离散时间和连续时间两种情况，状态空间为离散状态和连续状态两种况，状态空间为离散状态和连续状态两种。
11.离散时间离散状态续2.离散时间连续状态3.连续时间离散状态44.连续时间连续状态51例：（）某人在打靶每次的命中率为二项过程,n n p S 并且各次的结果相互独 某人在打靶，每次的命中率为表示前次命中的次数立。
用。
{;1,2,}n S n ==L L 是一个离散时间离散状态的随机过程。
状态空间 则{0,1,2,}.I 状态空间)样本函数为： 所有{}123,1111,,...)011i i i i s s s s s s s s s ++====+（：或，或ns 65324n876543211例考虑抛掷颗骰子的试验例2：考虑抛掷一颗骰子的试验：{}{}(1),1)1(n n X n n X n ≥≥设是第次抛掷的点数，的状态空间为1,2,3,4,5,6。
随机过程讲义(南开大学内部)
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮
舮 舮 舮 舮 舮 舮 舮 舮
舭艩舭
第一章 艐良艩艳艳良艮 过程
第一章
Poisson 过程
k
称随机变量 X 服从参数为 λ 的 艐良艩艳艳良艮 分布，若 P (X = k ) = e−λ λ 般 k = 0, 1, . . .舮 k! −λt 称随机变量 X 服从参数为 λ 的指数分布，若 P (X > t) = e 舮 此时，X 的密度 函数为 λe−λt 般 t > 0般 分布函数为 1 − e−λt 般 t > 0舮 指数分布满足无记忆性，即 P (X > t + s) = P (X > t)P (X > s). 引理 1.1 设随机变量 X , Y 独立，f : R × R → R 有界可测。令 g (x) = E [f (x, Y )]. 则 g (X ) 可积，且 E [f (X, Y )] = E [g (X )]. 称 {N (t), t ≥ 0} 为 计 数 过 程 ， 若 N (t) 表 示 在 时 刻 t 之 前 发 生 事件 的 次 数 。 因 此，计数过程 N (t) 满足： 舨艩舩 N (t) ≥ 0舻 舨艩艩舩 N (t) 为整数值； 舨艩艩艩舩 对 0 ≥ s ≤ t般 N (s) ≤ N (t)舻 舨艩艶舩 对 0 ≤ s < t般 N (t) − N (s) 表在区间 (s, t] 发生事件的次数。
《随机过程》教程.ppt
无穷大的分类
0, 1 ,2 ,3,……(自然数集合的无限多 为0， 0集合的所有子集构成的集合的 “无限多（势）”为1 ， 1集合的所有 子集构成的集合的势为2 ， ……)，在数 学上已经严格证明： 0, 1 ,2 ,3,等之 间不能建立双射的关系。
对于无穷大，“整体大于部分”的直觉不再成立
对于自然数集 N 1,2,3,4,5,L ，偶数集合
原像集
像集 单射（不同的原
f
像具有不同的像）
f a1 f a2
满射（每一个像都有原像）
原像集
像集
f
b, a, s.t.
b f a
双射（既是单射，又是满射）
原像集
像集
f
从直觉上承认能建立双射关系的两 个集合，其所含元素的“个数”一样多。
可数和不可数的定义
凡是能和自然数集合或者自然数集合的 一个子集建立双射关系的集合称为可数 集合；否则称为不可数集合。 可数和不可数是人类认识“无穷”所产 生的概念，是对无穷的分类。 已经证明连续的区间，和实数集等都是 不可数集合：[1,2],(0.1,0.01),R,等等
事件和Borel集
事件：样本空间中满足一定条件的全体 元素构成子集，“一定条件”有事件的 意义，因此称样本空间的子集为事件。
（举例说明）
不可能事件 必然事件 基本事件：可数和不可数 Borel集：规定了事件的全体及其相容性
概率空间的定义
阅读讲解p.16定义2.1 理解概率空间
概率空间是对随机现象的基本建模方法 概率空间有三个要素：样本空间、Borel事
《随机过程》教程
第三讲 随机对象（一）
本章要义（阅读引言部分）
本章介绍如何对随机现象建立数学模型。
随机过程课件第1讲
如：
1/2
pj
-1
1
x
2）时间离散——样本函数 xi (t ) 在时间t上也是离散的(序列)。
) X i(t
+1
取值离散
t
-1
二、按随机过程的概率分布或性质来分类 1)、高斯过程、泊松过程、维纳过程——其每一个状态Xj 均为高斯分布、泊松分布、维纳分布。 2)、平稳随机过程——过程的一阶，二阶矩不随时间的变 化而变化 3)、独立增量过程——每一个状态的增量之间相互独立。 三、按随机过程的样本函数的可确定性来分类 1）、确定的随机过程 2）、不确定的随机过程
随机过程的基本概念
1. 随机信号的概念
确定信号－－随时间做有规律的、已知的变化。可以用确定的时间函 数来描述。如：方波、锯齿波。人们可以准确地预测它 未来的变化，即：这次测出的是这种波形，下次测出的 还是这种波形。 随机信号－－随时间做无规律的、未知的、“随机”的变化。无法用 确定的时间函数来描述，无法准确地预测它未来的变化。 这次测出的是这种波形，下次测出的会是另一种波形。
k
0
j
t
2）状态连续——状态取值连续，即幅度上也连续。当t固定时，其 状态Xj是连续型随机变量。 如其概率密度
fj(xj)
xj
2
离散型随机过程 X(t,ζ)
1）状态离散——当t固定时，状态Xj取值离散如（－1，1）,其 状态是离散型随机变量。其概率分布如：
Pj 1 2
−1
0
1
xj
2）时间连续——当ζ固定时，其样本函数 xk (t) 是时间t的连续函 数如： xk (t)
随机信号分析与处理是一门研究随机信号的特点与规律 的学科。 随机信号处理已是现代信号处理的重要理论基础和有效 方法之一。
随机过程课件chapter6随机过程概念
的有限维分布函数族.
17
2.3 二维随机过程
(1) 互相关函数： RXY s, t
E
［X s Y t ］.
，参数集 T , ，如果对于每个 ，总
有一个普通的时间函数 X , t , t T 与之对应，这样对
于所有的 ，就可得到一族时间 t 的函数，称函数
族 X , t , 是参数为 T 的随机过程，族中每一函
数称为该随机过程的样本函数.
为 T 的普通函数，那么， X , t , t T 是一族样本函数.
把 X , t , , t T 所有可能的取值的全体称为
随机过程的状态空间或相空间.当 t 1 随机过程的概念
几个随机过程的实例.
例 1.1 考虑抛掷一颗骰子的实验，设 X n 是第 n 次抛掷的点
因 A, B 独立,故 E AB E A E B 0 ,则
BUPT
4
3
X t 1, RX s, t st , s, t T .
13
2.2数字特征
例 2.2 设 X t A cos 0t B sin 0t , t R, R是实数集 ,
称为 X t , t T 的有限维分布函数族. X t 的有限维分布函
数族 F 完整地确定了该过程的统计特性.
BUPT
9
2.2数字特征
定 义 2.2 设 X t , t T 为 随 机 过 程 ， 若 对 任 意 的
t T，E[ X 2 t ]＜ ，则称 X t 为二阶矩过程.
论深刻、应用又及其广泛的学科.
BUPT
1
1 .1 随机过程的概念
随机过程讲义(中科院-孙应飞)
数定义为：
C XY ( s, t ) = ˆ E{[ X ( s ) − µ X ( s )][Y (t ) − µY (t )]}
（b） 互相关函数： 随机过程 { X (t ); t ∈ T } 和 {Y (t ); t ∈ T } 的互相关函数定
义为：
R XY ( s, t ) = ˆ E{ X ( s )Y (t )}
机过程作为一个整体来研究其概率特性（统计特性） 。 例 6：布朗运动。
2． 随机过程的分类
随机过程的分类一般有两种方法： （1）以参数集和状态空间的特征来分类； （2）以统计特征或概率特征来分类。我们分述如下：
（一） 以参数集和状态空间的特性分类：
中科院研究生院 2009～2010 第一学期
随机过程讲稿
µ X (t ) = ˆ m(t ) = E{ X (t )}
（b） 方差函数：随机过程 { X (t ); t ∈ T } 的方差函数定义为： （假设存在）
2 σX (t ) = ˆ D X (t ) = E{[ X (t ) − µ X (t )]2 }
（ c）
（自）协方差函数：随机过程 { X (t ); t ∈ T } 的（自）协方差函数定
1 2 n 1 2 n
（2） 相容性：对于 m < n ，有：
FX ( x1 , x2 ,L, xm ,+∞,L,+∞; t1 , t 2 ,L, t m , t m+1 ,L, t n ) = FX ( x1 , x2 ,L, xm ; t1 , t 2 ,L, t m )
注 1：随机过程的统计特性完全由它的有限维分布族决定。 注 2：有限维分布族与有限维特征函数族相互唯一确定。 问题：一个随机过程 { X (t ); t ∈ T } 的有限维分布族，是否描述了该过程的全 部概率特性？解决此问题有以下著名的定理，此定理是随机过程理论的基础。 定理： （Kolmogorov 存在性定理） 设分布函数族 { FX ( x1 , x2 ,L, xn ; t1 , t 2 ,L, t n ), t1 , t 2 ,L, t n ∈ T , n ≥ 1 } 满足以 上 提 到 的 对 称 性 和 相 容 性 ， 则 必 存 在 唯 一 的 随 机 过 程 { X (t ); t ∈ T } ， 使
《随机过程》课件
马尔可夫过程的定义与性质
马尔可夫过程是一种重要的随机过程，具有马尔可夫性质，即未来状态只与当前状态有关。本部分将详 细介绍马尔可夫过程的定义和特性。
马尔可夫过程的应用
马尔可夫过程在很多领域都有广泛的应用，如金融风险评估、自然语言处理和社交网络分析等。我们将 义与性质
《随机过程》PPT课件
随机过程是一个重要的数学概念，本课件将深入介绍随机过程的定义、分类 以及常见例子，帮助您全面理解随机过程的本质。
随机过程的定义与随机变量的区别
了解随机过程和随机变量的不同之处对于理解随机过程的基本概念至关重要，本部分将详细讨论它们的 区别及其意义。
随机过程的分类及常见例子
随机过程可以根据其性质和特征进行分类，例如马尔可夫过程、泊松过程、布朗运动等。我们将介绍每 种类型的定义和常见应用。
布朗运动在金融和物理领域的 应用
布朗运动在金融领域和物理领域有着广泛的应用，如金融市场模型和粒子扩 散模型。我们将介绍一些相关的应用场景。
随机过程在数据分析中的应用
频率分析
利用随机过程的特性进行频率域信号分析， 如功率谱估计和频谱分析。
信号处理
利用随机过程的随机性和噪声模型进行信号 处理和滤波。
泊松过程是一种重要的随机过程，具有独立增量和平稳增量的特性。本部分 将详细介绍泊松过程的定义以及其它一些重要的性质。
泊松过程的应用
泊松过程在很多实际问题中具有重要的应用，如事件发生的模拟、人流和交通流量的预测等。我们将分 享一些实际案例。
布朗运动的定义与性质
布朗运动是一种连续时间的随机过程，具有随机漂移和随机扩散的特性。本部分将详细探讨布朗运动的 定义和一些重要的性质。
时域分析
通过对随机过程的统计特性进行分析，如均 值、方差和自相关函数。
《随机过程》课件
泊松过程
定义
泊松过程是一种计数随机过程，其事件的发生是 相互独立的，且具有恒定的平均发生率。
例子
放射性衰变、电话呼叫次数、交通事故等。
应用领域
物理学、工程学、保险学等。
03
随机过程的变换与函数
随机过程的线性变换
线性变换的定义
线性变换是指对随机过程中的每个时间点，将该点的随机变量或随机向量乘以一个常数 或矩阵，并加上另一个常数或矩阵。
应用
微分在随机过程的理论和应用中非常重要，例如在金融 领域中，可以通过计算股票价格的导数来预测股票价格 的变动趋势。
积分的定义
随机过程的积分是指对随机过程中的每个时间点，将该 点的随机变量进行积分。
积分的性质
积分运算可以改变随机过程的统计特性，例如期望、方 差和协方差等。
应用
积分在随机过程的理论和应用中也有重要应用，例如在 信号处理中，可以通过对信号进行积分来提取信号的特 征或进行信号的合成。
连续随机过程
01
定义
连续随机过程是在时间或空间上 连续取值的随机现象的数学模型 。
02
03
例子
应用领域
电子信号、温度波动、随机漫步 等。
物理、工程、金融等。
马尔可夫过程
定义
马尔可夫过程是一种特殊的随机过程，其未来状态只依赖于当前 状态，与过去状态无关。
例子
赌徒输赢的过程、天气变化等。
应用领域
统计学、计算机科学、人工智能等。
将随机信号视为随时间变化的随机变量序列，具有时间和概率的统 计特性。
随机模型
根据实际需求建立信号的随机模型，如高斯过程、马尔可夫过程等 。
信号的滤波与预测
滤波器设计
根据随机模型设计滤波 器，用于提取有用信号 或抑制噪声。
随机过程讲义
为事件A出现的情况下，事件B的条件概率，或 简称事件B关于事件A的条件概率。
2．基本公式
定理1（乘法公式）
假设 若 则
A1，A2， ，An为任意n个事件（ n 2 ），
P（A1 A2 An） 0
P（A1 A2 An） P( A1 ) P( A2 | A1 ) P( A3 | A1 A2 )
则
pi P( X xi ) pij
(i 1,2,
j 1,2,)
p j P(Y y j ) pij
i 1
j 1
分别称为（ X ， Y ）关于 X 和 Y 的边缘分布律。
X和Y相互独立的充要条件是
pij pi p j
连续型
若随机变量（X，Y）的概率密度为
P（Ai1 Ai2 Ais） P（Ai1）P（Ai2） P（Ais）
则称事件
A1，A2， ，An 相互独立。
美国有一对夫妻连续生了8个儿子。他们原本只想要4 个小孩，但是当前面4个小孩都是男孩时，他们想再生一 个女孩，直到连续生了7个男孩。后来他们的医生都保证 说，按照平均数定律，下次生女孩的概率是99％。不幸的 是，第8次还是男孩。因为生孩子和扔硬币一样，连续8个 男孩的概率固然很小，但是在已经生了7个男孩之后，下 一个是女孩的概率仍然是50％。
2
2
3．性质
（1）
E (C ) C
n n
D(C ) 0
2
E(CX ) CE ( X ) D(CX ) C D( X )
（2）
E ( X i ) E ( X i )
i 1 i 1
（3） 若X和Y相互独立，则
E( XY ) E ( X ) E(Y )
2．基本公式
定理1（乘法公式）
假设 若 则
A1，A2， ，An为任意n个事件（ n 2 ），
P（A1 A2 An） 0
P（A1 A2 An） P( A1 ) P( A2 | A1 ) P( A3 | A1 A2 )
则
pi P( X xi ) pij
(i 1,2,
j 1,2,)
p j P(Y y j ) pij
i 1
j 1
分别称为（ X ， Y ）关于 X 和 Y 的边缘分布律。
X和Y相互独立的充要条件是
pij pi p j
连续型
若随机变量（X，Y）的概率密度为
P（Ai1 Ai2 Ais） P（Ai1）P（Ai2） P（Ais）
则称事件
A1，A2， ，An 相互独立。
美国有一对夫妻连续生了8个儿子。他们原本只想要4 个小孩，但是当前面4个小孩都是男孩时，他们想再生一 个女孩，直到连续生了7个男孩。后来他们的医生都保证 说，按照平均数定律，下次生女孩的概率是99％。不幸的 是，第8次还是男孩。因为生孩子和扔硬币一样，连续8个 男孩的概率固然很小，但是在已经生了7个男孩之后，下 一个是女孩的概率仍然是50％。
2
2
3．性质
（1）
E (C ) C
n n
D(C ) 0
2
E(CX ) CE ( X ) D(CX ) C D( X )
（2）
E ( X i ) E ( X i )
i 1 i 1
（3） 若X和Y相互独立，则
E( XY ) E ( X ) E(Y )
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
（2）每次试验的结果不止一个，并能事先明确 试验的所有可能的结果；
（3）每次试验前不能确定哪个结果会出现。
随机试验
为研究随机现象的规律性，往往进行试验。例如： 1. 抛一枚硬币，观察正面、反面出现的情况。 2.抛一枚骰子，观察出现的点数。 3.记录某段时刻来某个银行办理业务的顾客数。 4. 记录车站售票处一天内售出的车票数。 5. 在一批灯泡中任意抽取一只，测试它的寿命。 6. 记录某地一昼夜的最高温度和最低温度。
随机变量
取到次品的个数 顾客数 销售量 猜对的题数
可能的取值
0, 1, 2, …, 100 0, 1, 2, … 0, 1, 2, … 0, 1, ... , 10
3．分布密度
连续型 随机变量
如果对于随机变量X的分布函数为F（x）， 存在非负的函数f（x）,使对任意的实数x 有
x
F(x) f (t)dt
2. 相关系数
rXY
Cov(X ,Y ) D(X )D(Y )
3．性质
n
n
n
（1） D( X i ) D(X i ) 2 Cov(X i , X j )
i1
i1
i, j1
i j
（2）若X和Y相互独立，则
Cov( X ,Y ) 0
（3）| rXY | 1
（4） | rXY | 1 的充要条件是X与Y以概率1
1．联合分布函数
设 X1，X 2，，X n 是样本空间的n个随机
变量，x1，x2，，xn为任意实数，则称
F(x1，x2 ,, xn ) P(X1 x1, X 2 x2 ,, X n xn )
为随机变量的n维联合分布函数 。
特别地 F(x，y) P(X x,Y y)
即是X，Y的二维联合分布函数。
则称X为连续型随机变量，f（x）称为X的概率密 度，且满足
f (x) 0
f (x)dx 1
连续型随机变量
连续型随机变量的一些例子
试验
随机变量
可能的取值
抽查一批电子元件 使用寿命(小时)
X0
新建一座住宅楼
半年后工程完成的百分比 0 X 100
测量一个产品的长度 测量误差(cm)
X0
二、随机变量的联合分布
s (2 s n) 和 1 i1 i2 is n ，有 P（Ai1 Ai2 Ais） P（Ai1）P（Ai2）P（Ais）
则称事件 A1，A2，，An 相互独立。
美国有一对夫妻连续生了8个儿子。他们原本只想要4 个小孩，但是当前面4个小孩都是男孩时，他们想再生一 个女孩，直到连续生了7个男孩。后来他们的医生都保证 说，按照平均数定律，下次生女孩的概率是99％。不幸的 是，第8次还是男孩。因为生孩子和扔硬币一样，连续8个 男孩的概率固然很小，但是在已经生了7个男孩之后，下 一个是女孩的概率仍然是50％。
i1 j 1
2．二维分布密度
连续型
如果存在一个非负的二元函数f（x，y）,使对 任意的实数x，y有
F(x，y) x y f (u,v)dudv
则称（X，Y）为二维连续型随机变量，f（x，y）称为 （X，Y）的概率密度，满足：
f (x, y) 0
f (x, y)dxdy 1
3．边缘分布及独立性
第一章 预备知 识
第一节 概 率 第二节 随机变量及其分布 第三节 随机变量的数字特征 第四节 矩母函数和特征函数 第五节 条件期望 第六节 指数分布 第七节 n维正态分布
第八节 收敛性和极限定理
第一节 概 率
一、基本概念 ：
1．随机试验 其结果在事先不能确定的试验。 具有三个特性：
（1）可以在相同的条件下重复进行；
称随机变量 [X E(X )]2的期望为X的
方差，即
D(X ) E[(X E(X ))2 ]
计算方差时通常用下列关系式：
D(X ) E[X 2 ] [E(X )]2
3．性质
（1） E(C) C D(C) 0
E(CX ) CE(X ) D(CX ) C 2D(X )
n
n
（2） E( X i ) E(X i )
2．样本空间 3．随机事件
随机试验所有可能结果的集合， 记为。其中每一个结果，称 为样本点 。
样本空间的一个子集 A 。
4．概率
对样本空间的每一个事件A，都有 一实数P（A）与之对应，且满足：
（1） 0 P（A） 1
（2） P（） 1
（3）对两两互不相容的事件序列 A1，A2，
P（ Ai） P（Ai )
i 1
i 1
则称P（A）为事件A的概率。
二、概率的性质：
1 P（） 0 2 P（A B） P（A） P（B） P（A B）
3 P(Ac ) 1 P(A)
4 设 A1，A2， ，An 两两互不相容 ，则
n
n
P（ Ai） P（Ai )
i 1
i 1
5 设两两互不相容的事件 A1，A2， ， Ai
n
P( A) P（Bi）P（A | Bi ) i 1
（2）对任意事件A ，若 P（A） 0 ，有
P(Bi | A)
P（Bi）P（A | Bi )
n
P（Bi）P（A | Bi )
i 1
四、独立性
1．定义
如果事件A，B满足
P（AB） P（A）P（B）
则称事件A，B相互独立。 设 A1，A2，，An 是n个事件，如果对于任意
个 都有唯一的一个实数 X () 与之对应，这 种对应关系称为一个随机变量，记作X () 或X。
2．分布函数
随机变量X取值不超过x的概率 P(X x)， 称
为X的分布函数（其中x为任意实数），记为
F(x) 即 F(x) P(X x) x
分布函数F（x）具有下列性质：
1
0 F(x) 1 x
线性相关，即
P(Y aX b) 1
离散型随机变量的方差
（实例）
某人花2元钱买彩票，他抽中100元奖的概率 是0.1%，抽中10元奖的概率是1%，抽中1元奖的 概率是0.5，求：
此人收益的概率分布； 此人收益的期望值和方差。
X = xi P(X =xi)=pi
100 10 1 0 0.001 0.01 0.5 0.489
随机过程 Stochastic processes
1
参考教材
随机过程，刘次华著，华中科技大学出版社，第四版 随机过程及其在金融领域中得应用， 王军，王娟著，清
华大学出版社
人类社会的三类现象
在自然界和人类社会活动中，普遍存在三类现象： 确定性现象：在相同的条件下出现相同的结果，称为
确定性现象或必然现象。如早上太阳在东方升起。 随机性现象：在相同的条件下出现不同的结果，但结
E(X )
xk pk
k 1
设连续型随机变量X的概率密度为 f (x) ，
则
E(X )
xf (x)dx
函数期望 Y g(X )
当 X为离散型随机变量
则 E(Y ) E[g(X )] g(xk ) pk k 1
当X为连续型随机变量，
则
E(Y
)
E[ g ( X
)]
g(x)
f
(x)dx
2. 方差
2．独立性的性质
定理3 若事件A，B相互独立，则A与B ；A与B ；
A与B 分别也相互独立。
定理4 设事件A1，A2，，An 相互独立，若其中
任意 m(1 m n)个事件相应地换成它们的
对立事件，则所得的n个事件仍然相互独立。
第二节 随机变量及其分布
一、一维随机变量的分布
1．随机变量
设随机试验的样本空间为 ，如果对于每一
P( X xi ,Y y j ) pij
则 pi P(X xi ) pij (i 1,2,
j 1
p j P(Y y ຫໍສະໝຸດ ) pijj 1,2,)
i1
分别称为（X，Y）关于X和Y的边缘分布律。
X和Y相互独立的充要条件是 pij pi p j
连续型 则
若随机变量（X，Y）的概率密度为 f (x, y)
例2（匹配问题）
在一次集会上，n个人把他们的帽子放到房间的 中央混合在一起，而后每个人随机地选取一项，求 拿到自己的帽子的人数X的均值和方差。
解 利用表达式 X X1 X 2 X n
其中
Xi
1，如果第i个人拿到自己的帽子
0，其它
即求期望和方差
因
P(X i 1) 1/ n
故
E(Xi ) 1/ n
离散型随机变量的方差
（实例）
X = xi
100 10 1 0
P(X =xi)=pi
0.001 0.01 0.5 0.489
解：数学期望为：E ( X
)
4
xi
pi
100 0.001
0 0.489 0.7元
i 1
方差为：
D(
X
)
4
xi
E(
X
)2
pi
i 1
(100 0.7)2 0.001
(0 0.7)2 0.489 11.0（1 元2）
i 1
i1
（3） 若X和Y相互独立，则
E(XY ) E(X )E(Y )
（4） D(X ) 0 的充要条件是 P[X E(X )] 1
二、协方差和相关系数
1．协方差
Cov(X ,Y) E[(X E(X ))(Y E(Y))]
计算协方差时通常用下列关系式：
Cov(X ,Y ) E(XY ) E(X )E(Y)
1}
1 n
边缘分布
设（X，Y）的分布函数为 F(x，y)，则X，Y 的分布函数 FX (x)、FY ( y)，依次称为关于X和关于Y
（3）每次试验前不能确定哪个结果会出现。
随机试验
为研究随机现象的规律性，往往进行试验。例如： 1. 抛一枚硬币，观察正面、反面出现的情况。 2.抛一枚骰子，观察出现的点数。 3.记录某段时刻来某个银行办理业务的顾客数。 4. 记录车站售票处一天内售出的车票数。 5. 在一批灯泡中任意抽取一只，测试它的寿命。 6. 记录某地一昼夜的最高温度和最低温度。
随机变量
取到次品的个数 顾客数 销售量 猜对的题数
可能的取值
0, 1, 2, …, 100 0, 1, 2, … 0, 1, 2, … 0, 1, ... , 10
3．分布密度
连续型 随机变量
如果对于随机变量X的分布函数为F（x）， 存在非负的函数f（x）,使对任意的实数x 有
x
F(x) f (t)dt
2. 相关系数
rXY
Cov(X ,Y ) D(X )D(Y )
3．性质
n
n
n
（1） D( X i ) D(X i ) 2 Cov(X i , X j )
i1
i1
i, j1
i j
（2）若X和Y相互独立，则
Cov( X ,Y ) 0
（3）| rXY | 1
（4） | rXY | 1 的充要条件是X与Y以概率1
1．联合分布函数
设 X1，X 2，，X n 是样本空间的n个随机
变量，x1，x2，，xn为任意实数，则称
F(x1，x2 ,, xn ) P(X1 x1, X 2 x2 ,, X n xn )
为随机变量的n维联合分布函数 。
特别地 F(x，y) P(X x,Y y)
即是X，Y的二维联合分布函数。
则称X为连续型随机变量，f（x）称为X的概率密 度，且满足
f (x) 0
f (x)dx 1
连续型随机变量
连续型随机变量的一些例子
试验
随机变量
可能的取值
抽查一批电子元件 使用寿命(小时)
X0
新建一座住宅楼
半年后工程完成的百分比 0 X 100
测量一个产品的长度 测量误差(cm)
X0
二、随机变量的联合分布
s (2 s n) 和 1 i1 i2 is n ，有 P（Ai1 Ai2 Ais） P（Ai1）P（Ai2）P（Ais）
则称事件 A1，A2，，An 相互独立。
美国有一对夫妻连续生了8个儿子。他们原本只想要4 个小孩，但是当前面4个小孩都是男孩时，他们想再生一 个女孩，直到连续生了7个男孩。后来他们的医生都保证 说，按照平均数定律，下次生女孩的概率是99％。不幸的 是，第8次还是男孩。因为生孩子和扔硬币一样，连续8个 男孩的概率固然很小，但是在已经生了7个男孩之后，下 一个是女孩的概率仍然是50％。
i1 j 1
2．二维分布密度
连续型
如果存在一个非负的二元函数f（x，y）,使对 任意的实数x，y有
F(x，y) x y f (u,v)dudv
则称（X，Y）为二维连续型随机变量，f（x，y）称为 （X，Y）的概率密度，满足：
f (x, y) 0
f (x, y)dxdy 1
3．边缘分布及独立性
第一章 预备知 识
第一节 概 率 第二节 随机变量及其分布 第三节 随机变量的数字特征 第四节 矩母函数和特征函数 第五节 条件期望 第六节 指数分布 第七节 n维正态分布
第八节 收敛性和极限定理
第一节 概 率
一、基本概念 ：
1．随机试验 其结果在事先不能确定的试验。 具有三个特性：
（1）可以在相同的条件下重复进行；
称随机变量 [X E(X )]2的期望为X的
方差，即
D(X ) E[(X E(X ))2 ]
计算方差时通常用下列关系式：
D(X ) E[X 2 ] [E(X )]2
3．性质
（1） E(C) C D(C) 0
E(CX ) CE(X ) D(CX ) C 2D(X )
n
n
（2） E( X i ) E(X i )
2．样本空间 3．随机事件
随机试验所有可能结果的集合， 记为。其中每一个结果，称 为样本点 。
样本空间的一个子集 A 。
4．概率
对样本空间的每一个事件A，都有 一实数P（A）与之对应，且满足：
（1） 0 P（A） 1
（2） P（） 1
（3）对两两互不相容的事件序列 A1，A2，
P（ Ai） P（Ai )
i 1
i 1
则称P（A）为事件A的概率。
二、概率的性质：
1 P（） 0 2 P（A B） P（A） P（B） P（A B）
3 P(Ac ) 1 P(A)
4 设 A1，A2， ，An 两两互不相容 ，则
n
n
P（ Ai） P（Ai )
i 1
i 1
5 设两两互不相容的事件 A1，A2， ， Ai
n
P( A) P（Bi）P（A | Bi ) i 1
（2）对任意事件A ，若 P（A） 0 ，有
P(Bi | A)
P（Bi）P（A | Bi )
n
P（Bi）P（A | Bi )
i 1
四、独立性
1．定义
如果事件A，B满足
P（AB） P（A）P（B）
则称事件A，B相互独立。 设 A1，A2，，An 是n个事件，如果对于任意
个 都有唯一的一个实数 X () 与之对应，这 种对应关系称为一个随机变量，记作X () 或X。
2．分布函数
随机变量X取值不超过x的概率 P(X x)， 称
为X的分布函数（其中x为任意实数），记为
F(x) 即 F(x) P(X x) x
分布函数F（x）具有下列性质：
1
0 F(x) 1 x
线性相关，即
P(Y aX b) 1
离散型随机变量的方差
（实例）
某人花2元钱买彩票，他抽中100元奖的概率 是0.1%，抽中10元奖的概率是1%，抽中1元奖的 概率是0.5，求：
此人收益的概率分布； 此人收益的期望值和方差。
X = xi P(X =xi)=pi
100 10 1 0 0.001 0.01 0.5 0.489
随机过程 Stochastic processes
1
参考教材
随机过程，刘次华著，华中科技大学出版社，第四版 随机过程及其在金融领域中得应用， 王军，王娟著，清
华大学出版社
人类社会的三类现象
在自然界和人类社会活动中，普遍存在三类现象： 确定性现象：在相同的条件下出现相同的结果，称为
确定性现象或必然现象。如早上太阳在东方升起。 随机性现象：在相同的条件下出现不同的结果，但结
E(X )
xk pk
k 1
设连续型随机变量X的概率密度为 f (x) ，
则
E(X )
xf (x)dx
函数期望 Y g(X )
当 X为离散型随机变量
则 E(Y ) E[g(X )] g(xk ) pk k 1
当X为连续型随机变量，
则
E(Y
)
E[ g ( X
)]
g(x)
f
(x)dx
2. 方差
2．独立性的性质
定理3 若事件A，B相互独立，则A与B ；A与B ；
A与B 分别也相互独立。
定理4 设事件A1，A2，，An 相互独立，若其中
任意 m(1 m n)个事件相应地换成它们的
对立事件，则所得的n个事件仍然相互独立。
第二节 随机变量及其分布
一、一维随机变量的分布
1．随机变量
设随机试验的样本空间为 ，如果对于每一
P( X xi ,Y y j ) pij
则 pi P(X xi ) pij (i 1,2,
j 1
p j P(Y y ຫໍສະໝຸດ ) pijj 1,2,)
i1
分别称为（X，Y）关于X和Y的边缘分布律。
X和Y相互独立的充要条件是 pij pi p j
连续型 则
若随机变量（X，Y）的概率密度为 f (x, y)
例2（匹配问题）
在一次集会上，n个人把他们的帽子放到房间的 中央混合在一起，而后每个人随机地选取一项，求 拿到自己的帽子的人数X的均值和方差。
解 利用表达式 X X1 X 2 X n
其中
Xi
1，如果第i个人拿到自己的帽子
0，其它
即求期望和方差
因
P(X i 1) 1/ n
故
E(Xi ) 1/ n
离散型随机变量的方差
（实例）
X = xi
100 10 1 0
P(X =xi)=pi
0.001 0.01 0.5 0.489
解：数学期望为：E ( X
)
4
xi
pi
100 0.001
0 0.489 0.7元
i 1
方差为：
D(
X
)
4
xi
E(
X
)2
pi
i 1
(100 0.7)2 0.001
(0 0.7)2 0.489 11.0（1 元2）
i 1
i1
（3） 若X和Y相互独立，则
E(XY ) E(X )E(Y )
（4） D(X ) 0 的充要条件是 P[X E(X )] 1
二、协方差和相关系数
1．协方差
Cov(X ,Y) E[(X E(X ))(Y E(Y))]
计算协方差时通常用下列关系式：
Cov(X ,Y ) E(XY ) E(X )E(Y)
1}
1 n
边缘分布
设（X，Y）的分布函数为 F(x，y)，则X，Y 的分布函数 FX (x)、FY ( y)，依次称为关于X和关于Y