概率统计第四章讲解
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
依概率收敛到 a 与 b 的加、减、乘、除.
由于( ( Xn
Yn ) (a b)
) [(
Xn
a
2 ) ( Yn
b
)]
2
0 P( ( X n Yn ) (a b) )
P(
Xn
a
) 2
P( Yn
b
)0 2
宁波工程学院理学院
4.3.2 按分布收敛、弱收敛
对分布函数列 {Fn(x)}而言，点点收敛要求太高.
定义4.3.1 (依概率收敛) 若对任意的 >0，有
nlim
P
Yn
Y
1
则称随机变量序列{Yn}依概率收敛于Y, 记为
Yn P Y
大数定律讨论的就是依概率收敛.
宁波工程学院理学院
依概率收敛的四则运算
定理4.3.1 a,b为常数若 Xn P a, Yn P b
则{Xn}与{Yn}的加、减、乘、除
Var( X k ) 2 Cov( X i , X j )
1
1
M
n2 Var( Xk ) n2 (nM ) n
P
X
E(X
)
Var( X
2
)
M
n 2
nlim
P
1 n
n
i 1
Xi
1 n
n
i 1
E(Xi
)
0
3、马尔可夫大数定律
宁波工程学院理学院
若随机变量序列{Xn}满足：
1
n2
即：nlim
P
1 n
n
i 1
Xi
a
1
注：1、此时方差可以为无穷； 2、证明用特征函数； 3、提供了近似计算数学期望的依据 4、伯努利大数定律是辛钦大数定律的特例.
宁波工程学院理学院
§4.3 随机变量序列的两种收敛性
两种收敛性： i) 依概率收敛：用于大数定律； ii) 按分布收敛：用于中心极限定理.
或
nlim
P
n
n
p
1
nlim
P
n
n
p
0
宁波工程学院理学院
证明：因为Varn =npq
P
n
n
pபைடு நூலகம்
Var(n 2
/
n)
pq
n 2
nlim
P
n
n
p
nlim
pq
n 2
0
宁波工程学院理学院
➢ 讨论 “概率是频率的稳定值”的确切含义； ➢ 为“用频率表示概率”提供理论依据，由此
产生了非常适用的随机模拟方法； ➢ 给出几种大数定律：
P
1 n
n
i 1
Xi
1 n
n
i 1
E(Xi
)
1
则称{Xn} 服从大数定律.
2、切比雪夫大数定律 {Xn}两两不相关，且Xn方差存在，有共同的
上界，则 {Xn}服从大数定律.定理4.2.2
注： 伯努利大数定律是切比雪夫大数定律的特例.
证明：
宁波工程学院理学院
1
Var( X ) n2
1
=0 f ( x)dx J
即J=P，而概率 P 可以用频率取
y 1
y=f(x)
A
代，生成n个随机数(xk,yk)，满足 0 yk < f(xk) 的有m个，则J≈m/n
1x
EXCEL综合实验
宁波工程学院理学院
4.2.2 常用的几个大数定律
1、大数定律一般形式：
若随机变量序列{Xn}满足：
nlim
定义4.3.2 若在 F(x) 的连续点上都有
nlim Fn( x) F( x) 则称{Fn(x)} 弱收敛于 F(x) ，记为
(1) 欧拉公式： eitx cos(tx) isin(tx)
(2) 复数的共轭： a bi a bi (3) 复数的模： a bi a2 b2
(4) i 1 是虚数单位.
宁波工程学院理学院
常用分布的特征函数
➢ (1) 单点分布： (t ) eiat
➢ (2) 0 –1分布： ➢ (3) 指数分布： ➢ (4) 正态分布：
(t ) peit q
(t ) (1 it )1
it 2t2
(t) e 2
宁波工程学院理学院
特征函数的作用
特征函数是深入研究概率论问题有力的数学分 析工具，其作用在于：
➢ 简便证明分布的可加性（将卷积运算化成
乘法运算 XY (t) X (t)Y (t)）
➢ 简化矩运算： (k ) (0) i k E( X k )
Var
n i 1
Xi
0
(马尔可夫条件)
则 {Xn}服从大数定律. 定理4.2.3
证：
P
X
E(
X
)
Var( X
2
)
Var
n i1
n2
X i
2
0
注： 切比雪夫大数定律是马尔可夫大数定律的特例.
4、辛钦大数定律
宁波工程学院理学院
若随机变量序列{Xn}独立同分布，且Xn的数学
期望存在。则 {Xn}服从大数定律.定理4.2.4
➢ ……….
宁波工程学院理学院
例：证明正态分布的可加性
若 X N(
)，Y N(
) ，且独立
则 Z = X Y N(
).
X Y (t ) X (t)Y (t )
eit
(
1
2
)
(
2 1
2
2 2
)
t
2
宁波工程学院理学院
特征函数的主要性质
➢具有一致连续性、非负定性与分布函数一一对应。 也就是说：描述一个分布可以通过三个函数F(x)，
宁波工程学院理学院
概率统计(probability and statistics)
宁波工程学院 理学院
宁波工程学院理学院
第四章 大数定律与中心极限定理
§4.1 特征函数 §4.2 大数定律 §4.3 随机变量序列的两种收敛性 §4.4 中心极限定理
宁波工程学院理学院
§4.1 特征函数（了解）
定义4.1.1 设 X 是一随机变量，称
伯努利大数定律、切比雪夫大数定律、 马尔可夫大数定律、辛钦大数定律. 温馨提示：频率容易获取，概率一般是理论值.
实验：鱼塘中鱼数的估计---捕鱼
宁波工程学院理学院
蒙特卡罗随机模拟—计算定积分
J
1
0
f
( x)dx
解：设X，Y均服从(0,1)上均匀分布
A Y f ( X )
P( A) PY f ( X ) A dxdy
p(x)，(t) 从三个角度发挥不同的优势。
(t ) eitx p( x)dx
p( x) 1 e itx (t)dt 2
F ( x) x p( x)dx
宁波工程学院理学院
§4.2 大数定律
定理4.2.1（伯努利大数定律）
设 n 是n重伯努利试验中事件A出现的次数， 每次试验中 P(A) = p, 则对任意的 > 0，有
(t) = E( eitX )
为 X 的特征函数. (必定存在)
(1) 离散随机变量时， (t )
(eitxk )
k 1
pk
(2) 连续随机变量时， (t ) eitx p( x)dx
(t)是 p(x) 的傅里叶变换，该变换用处很
广也很有效（复变函数）
注意点
宁波工程学院理学院
特征函数的计算中用到复变函数，为此注意：
由于( ( Xn
Yn ) (a b)
) [(
Xn
a
2 ) ( Yn
b
)]
2
0 P( ( X n Yn ) (a b) )
P(
Xn
a
) 2
P( Yn
b
)0 2
宁波工程学院理学院
4.3.2 按分布收敛、弱收敛
对分布函数列 {Fn(x)}而言，点点收敛要求太高.
定义4.3.1 (依概率收敛) 若对任意的 >0，有
nlim
P
Yn
Y
1
则称随机变量序列{Yn}依概率收敛于Y, 记为
Yn P Y
大数定律讨论的就是依概率收敛.
宁波工程学院理学院
依概率收敛的四则运算
定理4.3.1 a,b为常数若 Xn P a, Yn P b
则{Xn}与{Yn}的加、减、乘、除
Var( X k ) 2 Cov( X i , X j )
1
1
M
n2 Var( Xk ) n2 (nM ) n
P
X
E(X
)
Var( X
2
)
M
n 2
nlim
P
1 n
n
i 1
Xi
1 n
n
i 1
E(Xi
)
0
3、马尔可夫大数定律
宁波工程学院理学院
若随机变量序列{Xn}满足：
1
n2
即：nlim
P
1 n
n
i 1
Xi
a
1
注：1、此时方差可以为无穷； 2、证明用特征函数； 3、提供了近似计算数学期望的依据 4、伯努利大数定律是辛钦大数定律的特例.
宁波工程学院理学院
§4.3 随机变量序列的两种收敛性
两种收敛性： i) 依概率收敛：用于大数定律； ii) 按分布收敛：用于中心极限定理.
或
nlim
P
n
n
p
1
nlim
P
n
n
p
0
宁波工程学院理学院
证明：因为Varn =npq
P
n
n
pபைடு நூலகம்
Var(n 2
/
n)
pq
n 2
nlim
P
n
n
p
nlim
pq
n 2
0
宁波工程学院理学院
➢ 讨论 “概率是频率的稳定值”的确切含义； ➢ 为“用频率表示概率”提供理论依据，由此
产生了非常适用的随机模拟方法； ➢ 给出几种大数定律：
P
1 n
n
i 1
Xi
1 n
n
i 1
E(Xi
)
1
则称{Xn} 服从大数定律.
2、切比雪夫大数定律 {Xn}两两不相关，且Xn方差存在，有共同的
上界，则 {Xn}服从大数定律.定理4.2.2
注： 伯努利大数定律是切比雪夫大数定律的特例.
证明：
宁波工程学院理学院
1
Var( X ) n2
1
=0 f ( x)dx J
即J=P，而概率 P 可以用频率取
y 1
y=f(x)
A
代，生成n个随机数(xk,yk)，满足 0 yk < f(xk) 的有m个，则J≈m/n
1x
EXCEL综合实验
宁波工程学院理学院
4.2.2 常用的几个大数定律
1、大数定律一般形式：
若随机变量序列{Xn}满足：
nlim
定义4.3.2 若在 F(x) 的连续点上都有
nlim Fn( x) F( x) 则称{Fn(x)} 弱收敛于 F(x) ，记为
(1) 欧拉公式： eitx cos(tx) isin(tx)
(2) 复数的共轭： a bi a bi (3) 复数的模： a bi a2 b2
(4) i 1 是虚数单位.
宁波工程学院理学院
常用分布的特征函数
➢ (1) 单点分布： (t ) eiat
➢ (2) 0 –1分布： ➢ (3) 指数分布： ➢ (4) 正态分布：
(t ) peit q
(t ) (1 it )1
it 2t2
(t) e 2
宁波工程学院理学院
特征函数的作用
特征函数是深入研究概率论问题有力的数学分 析工具，其作用在于：
➢ 简便证明分布的可加性（将卷积运算化成
乘法运算 XY (t) X (t)Y (t)）
➢ 简化矩运算： (k ) (0) i k E( X k )
Var
n i 1
Xi
0
(马尔可夫条件)
则 {Xn}服从大数定律. 定理4.2.3
证：
P
X
E(
X
)
Var( X
2
)
Var
n i1
n2
X i
2
0
注： 切比雪夫大数定律是马尔可夫大数定律的特例.
4、辛钦大数定律
宁波工程学院理学院
若随机变量序列{Xn}独立同分布，且Xn的数学
期望存在。则 {Xn}服从大数定律.定理4.2.4
➢ ……….
宁波工程学院理学院
例：证明正态分布的可加性
若 X N(
)，Y N(
) ，且独立
则 Z = X Y N(
).
X Y (t ) X (t)Y (t )
eit
(
1
2
)
(
2 1
2
2 2
)
t
2
宁波工程学院理学院
特征函数的主要性质
➢具有一致连续性、非负定性与分布函数一一对应。 也就是说：描述一个分布可以通过三个函数F(x)，
宁波工程学院理学院
概率统计(probability and statistics)
宁波工程学院 理学院
宁波工程学院理学院
第四章 大数定律与中心极限定理
§4.1 特征函数 §4.2 大数定律 §4.3 随机变量序列的两种收敛性 §4.4 中心极限定理
宁波工程学院理学院
§4.1 特征函数（了解）
定义4.1.1 设 X 是一随机变量，称
伯努利大数定律、切比雪夫大数定律、 马尔可夫大数定律、辛钦大数定律. 温馨提示：频率容易获取，概率一般是理论值.
实验：鱼塘中鱼数的估计---捕鱼
宁波工程学院理学院
蒙特卡罗随机模拟—计算定积分
J
1
0
f
( x)dx
解：设X，Y均服从(0,1)上均匀分布
A Y f ( X )
P( A) PY f ( X ) A dxdy
p(x)，(t) 从三个角度发挥不同的优势。
(t ) eitx p( x)dx
p( x) 1 e itx (t)dt 2
F ( x) x p( x)dx
宁波工程学院理学院
§4.2 大数定律
定理4.2.1（伯努利大数定律）
设 n 是n重伯努利试验中事件A出现的次数， 每次试验中 P(A) = p, 则对任意的 > 0，有
(t) = E( eitX )
为 X 的特征函数. (必定存在)
(1) 离散随机变量时， (t )
(eitxk )
k 1
pk
(2) 连续随机变量时， (t ) eitx p( x)dx
(t)是 p(x) 的傅里叶变换，该变换用处很
广也很有效（复变函数）
注意点
宁波工程学院理学院
特征函数的计算中用到复变函数，为此注意：