随机过程概率论基本知识

六. n 维随机变量及其分布
1.n维随机变量的定义
2.n维随机变量的联合分布函数 3.离散型n维随机变量 和连续型n维随机变量的定义
4.k维边缘概率密度
f ( x1 , x2 , , xk ) f ( x1 , x2 , , xk , xk 1 , , xn )dxk 1 dxn
8
3.
概率性质：连续性
2016/8/31
9
例：分析掷均匀骰子问题。
古典概型、几何概型
10
11
三. 条件概率：
对任意B F , 有P( B | A)与之对应，则P( B | A)也是(, F )上的概率， 记P( B | A) PA , 则(, F , PA )也是一个概率空间，称 为条件概率空间。
2 1 ( y ) 2 f Y ( y ) f ( x, y )dx exp 2 2 2 2 2
结论： ( X , Y )服从二维正态分布 X和Y各自服从一维正态分布 。 反之，不成立。
思考：二维正太分布( X , Y )中X与Y相互独立地充要条件？
1 lg x 2
2
, x0 x0
其中 0, 为常数，称r.v..X服从参数为
， 的对数正态分布
31
9. 分布
2
n x 1 1 2 2 x e , x 0 n 2 n f ( x ) 2 2 0, x0
40
例 二维正态分布
( X ,Y ) ~ N ( 1 , 12 ; 2 , 22 ; )
r .v.( X , Y )的联合概率密度为
2 2 x 1 1 1 x 1 y 2 y 2 f ( x, y ) exp 2 2 2 1 2 1 2 1 2 1 2 2 1
Z X Y ~ B(n1 n2 , p),即二项分布具有可加性 设X 1 , X 2 ,, X n相互独立，且服从(0 1)分布，即X i ~ B(1, p) X 1 X 2 X n ~ B(n, p).
3
1.1 概率空间
一. 概念与术语：
随机试验（Experiment）： 结果无法预先确定的试验。
定义1：如果一个实验E，满足下列条件： 1）在相同的条件下可以重复进行； 2）每次试验的结果不止一个，并且能事先明确试验的所有 结果； 3）一次试验结束之前，不能确定哪一个结果会出现。 称此试验为随机试验。 例：语音通信，天气预报，掷骰子…
39
若二维r .v.( X , Y )，对任意的 x, y , 有 P{ X x, Y y } P{ X x}P{Y y } 等价地有 F ( x, y ) FX ( x ) FY ( y ) 称X与Y相互独立。显然有 X与Y相互独立 f ( x, y ) f X ( x ) f Y ( y ) f X |Y ( x | y ) f X ( x ) f Y | X ( y | x ) f Y ( y )
性质4：设A1 , A2 , An相互独立 P( Ai ) 1 P( Ai )
13
六. 全概率公式与贝叶斯公式
设事件组B1 , B2 , , Bn 满足Bi B j , i j , Bi , 则对任意事件 A，有
n i 1
14
1.2 随机变量
2016/8/31
2 2 则称r.v.X服从自由度为 n的 分布，记为 X ~ (n)
显然
n 1 ( n) , 2 2
2
10.
t 分布
如r.v.X的概率密度为
n 1 n 1 2 2 x 2 f ( x) 1 , x , n Z n n n 2
r .v. X的边缘概率密度为
( X ~ N ( 1 , 12 ))
2 1 ( x ) 1 f X ( x ) f ( x, y )dy exp 2 2 2 1 1
r .v.Y的边缘概率密度为
(Y ~ N ( 2 , 22 ))
21
例 设随机变量X的分布律为
X
P
0 3 10
1 6 10
2 1 10
求X的概率密度和分布函数 2 3 3 1 解 f ( x) pk ( x xk ) ( x ) ( x 1) ( x 2) k 0 10 5 10 2 3 3 1 F ( x ) k pk u( x xk ) u( x ) u( x 1) u( x 2) 0 10 5 10 0， - x 0 3 10 , 0 x 1 9 , 1 x 2 10 1, 2 x
12
四. 乘法公式（可推广到任意有限个）
五. 随机事件的独立性
性质1. A与B独立 A与B独立 A与B独立 A与B独立
性质2：A与B独立 P( B | A) P( B ) P( A | B ) P( A) P( B | A) P( B | A)
性质3：设A1 , A2 , , An 相互独立，若将其中任 意m个 事件换成其逆，所得的 n个事件仍相互独立。
三. 连续型随机变量及其分布函数
(6)连续型r .v. X的分布 函数为连续函数。
23
5. 常见的随机变量及其分布
24
25
26
27
28
29
7、 分布
如果r.v.X的概率密度为
x 1e x , x 0 f ( x ) ( ) 0, x0
• 事件的运算（略）
二. 概率与概率空间 • 定义4 设是(, F )可测空间，若定义在随 机事件体F
上的实值函数P( A), A F满足
1) 0 P( A) 1 2 ) P( ) 1 3) Ai F , Ai Aj (i j )时有P( Ai ) i P( Ai ) 1
1.离散型随机变量
• 如求 （1） 概率分布
Y g( X )
（2） X Y
（3）
XY
特例1
设X与Y相互独立，且X ~ P(1 ),Y ~ P(2 ),
Z X Y ~ P(1 2 ),即泊松分布具有可加性 特例2 设X与Y相互独立，且X ~ B(n1 , p),Y ~ B(n2 , p),
5.条件概率密度
f X , X ,, X | X
1 2 k
k 1 , X n
f ( x1 , x2 ,, xn ) ( x1 , x2 ,, xk | xk 1 ,, xn ) f X ,X ( xk 1 ,, xn )
k 1 n
6.n维随机变量相互独立的定义及充要条件
43

则陈r.v.X服从参数为， 的 分布，记为
X ~ ( , ) ( 0, 0)
其中
( ) x e dx, ( 0)
0
1
x
30
8.对数正态分布
如r.v.X的概率密度为
lg e e f ( x ) 2 x 0,
随机过程
（概率论基础知识）
（研究生教材）
2016年6
1
学习随机过程的原因：
该门课程是研究生随机控制和信号处理相关专业的课程： 1、在电子工程、通讯技术、生命科学、管理、控制等新兴领 域的广泛成功的应用，已成为从事科学研究和工程技术开发 的重要分析工具。特别是通信、信号处理的理论基础。 2、各种社会、自然现象，都是随机的。 3、高级统计信号处理，自适应信号处理、雷达等高级信号处 理基础。 4、考博课程
(4) 对任意的
x1 x2 , y1 y2
有
F ( x2 , y2 ) F ( x1 , y2 ) F ( x2 , y1 ) F ( x1 , y1 ) 0
35
36
思考题：P13 验证。。。
37
38
写出在条件Y y下 r .v. X的条件分布函数。
(3)式说明 f ( x, y ) f X ( x) fY |X ( y | x) fY (Y ) f X |Y ( x | y )
i 1
则称P为(, F )概率测度，简称概率。 对任意A F , P( A) 称为事件A的概率。
• 定义5 样本空间 、随机事件体 F 和概率 P 组 成的三元体 (, F , P) 称为概率空间。
概率的性质与基本公式：
（3） （4） （5）
(6) P( B A) P( B) P( AB); 若A B P( B A) P( B) P( A); P( A) P( B)
则称r.v.X服从自由度为
n的 t 分布，记为
பைடு நூலகம்
X ~ t(n)
11. F 分布
如r.v.X的概率密度为
n1 n 2 n 1 2 n n x 2 2 2 n1 n2 n n f ( x ) n1 n2 n1 x n2 2 2 2 0,
4
定义2. 随机试验E的每一个最简单的结果，称为样本点， 记为 ，全体实验结果构成的集合，称为样本空间，记 为 。 • 定义3. 样本空间 的子集组成的集合类 F ，若满足 1） F 2）A F A F Ai F Ai F , i 1,2, 3） i 1 称 F 为随机事件体（域）或 代数。 • 随机事件： 随机事件体的任意事件A ； • 基本事件：仅包含一个样本点的事件； • 可测空间：样本空间和随机事件体的二元体 (, F )
2
课程要求：
1、本课程理论严谨、系统性强: 理论为主，数学公式和推导繁多，应用性强。 2、任务在于研究随机过程的基本理论和基本分析方法，学生进 一步学习和掌握信号检测与估计、现代信号处理等课程打好基 础。 3、主要内容包括随机过程概念、重要的随机过程、随机信号时 域分析，随机信号的功率谱，随机信号通过线性系统，窄带随 机信号、平稳随机过程、马尔可夫过程。 4、要求： （1）课外：研读至少一本国内外相关书籍。 （2）做作业：课后布置习题。 （3）MATLAB编程和仿真实验。
, x 0 ( x) ，且 ( x)dx 1 0, 其它
1, x 0 u( x ) ，且u' ( x) ( x) 0, 其它
( x )为单位脉冲函数
u ( x )为单位阶跃函数
20
例 均匀骰子实验。 定义随机变量X为骰子顶面的编号，取值为1,2,…,6。 显然X是离散型的，其概率特性通常用分布律描述最为方便 . 思考：随机变量分布律f(x)和分布函数F(x)？
16
1.2 随机变量
一. 随机变量r.v.X：
注：在测度论中，随机变量X对应于定 义在可测空间 (, F ) 上的F可测函数。
17
分布函数：
lim F ( x) F () 0; x
lim F ( x) F () 1; x
18
类型：
19
二 离散型随机变量及其分布律：
1 1 2 1
2
，x 0 x0
则称r.v.X服从第一自由度为
n1 第二自由度为 n2的 F 分布，记为
X ~ F (n1 , n2 )
为正整数。
其中
n1 ，n2
五、二维随机变量（向量）
二维随机变量分为离散型和连续型
F ( x,) F (, y) F (,) 0, F (,) 1