浙江大学概率论与数理统计第五章

定理四表明:
当 n , 随机变量序列 Yn 的分布函数收敛于 标准正态分布的分布函数.
定理五(李雅普诺夫定理)
李雅普诺夫
设随机变量 X 1 , X 2 ,, X n ,相互独立, 它 们具有数学期望 和方差： E ( X k ) k , D( X k ) k 0 ( k 1,2,),
0.937934
大数定律
贝努里（Bernoulli） 大数定律
设 nA 是 n 次独立重复试验中事件 A 发生 的次数, p 是每次试验中 A 发生的概率, 则 0 有
nA lim P p 0 n n
或
nA lim P p 1 n n
解
E (Vk ) 5,
100 D(Vk ) ( k 1,2,,20). 12
由定理四, 随机变量 Z 近似服从正态分布 N (0,1) ,
V 20 5 其中 Z 100 100 20 20 12 12 V 20 5 105 20 5 } P {V 105 } P{ 100 100 20 20 12 12 V 20 5 V 100 P{ 0.387} 1 P{ 0.387} 100 100 20 20 12 12 t2 0.387 1 1 e 2 dt 1 (0.387 ) 0.348. 2π
P(| X | ) E (| X |k )
k
推论 2 ——切贝雪夫( chebyshev)不等式 设随机变量 X 的方差 D ( X )存在， 则对于任意实数 > 0,
P(| X E ( X ) | ) D( X )
2
D( X )
或
当 2 D(X) 无实际意义,
k 1
t2 2
其中 X 1 , X 2 ,, X n 是相互独立的、服从同 一 (0－1) 分布的随机变量 , 分布律为
P{ X k i } pi (1 p)1i ,
i 0, 1.
E ( X k ) p, D( X k ) p(1 p) ( k 1,2,, n),
E ( X k ) k , D( X k ) , k 1,2, n n 1 1 P X k k 0 有 lim n n k 1 n k 1
2 k 2
注2 X 1 , X 2 ,, X n , 相互独立的条件可以
定理五表明:
无论各个随机变量 X 1 , X 2 ,, X n ,服从什么 分布, 只要满足定理的条件 , 那么它们的和 X k
k 1 n
当 n 很大时, 近似地服从正态分布 .
(如实例中射击偏差服从正态分布) 下面介绍的定理六是定理四的特殊情况.
定理六(德莫佛－拉普拉斯定理)
德莫佛
拉普拉斯
2 n
记
2 2 Bn k , k 1
若存在正数 , 使得当 n 时, 1
2 Bn 2 E {| X | } 0, k k k 1 n
则随机变量之和的标准化变量 n n n n X k E X k X k k k 1 k 1 k 1 Z n k 1 Bn n D X k k 1 的分布函数 Fn ( x ) 对于任意 x 满足 n n X k k k 1 k 1 lim Fn ( x ) lim P x n n Bn t2 x 1 2 e dt ( x ). 2π
P(| X E ( X ) | ) 1
2
例1 设有一大批种子，其中良种占1/6. 试 估计在任选的 6000 粒种子中, 良种所占比 例与1/6 比较上下小于1%的概率.
解 设 X 表示 6000 粒种子中的良种数 ,
5000 X ~ B (6000,1/6 ) E ( X ) 1000, D( X ) 6
记
1 n k Xi Mk n i 1
则
M 1 1
P n P
M 2 2
M k k
P n

n
若 g ( x1 , x2 ,, xk ) 连续， 则
g ( 1 , 2 ,, k ) g ( M 1 , M 2 ,, M k )
k 1
由 Chebyshev 不等式
nA 0 P p n
n Xk P k 1 E ( X k ) n
1 pq PYn E (Yn ) 2 n
nA 故 lim P p 0 n n
n n X k E X k X k n k 1 k 1 标准化变量 Yn k 1 n n D X k k 1
n
的分布函数 Fn ( x ) 对于任意 x 满足 n X k n k 1 lim Fn ( x ) lim P x n n n 2 t x 1 2 e dt ( x ). 2π
设随机变量n ( n 1,2,) 服从参数为 n, p (0 p 1)的二项分布, 则 对于任意 x , 恒有
x n np 1 lim P x e dt ( x ). n np(1 p) 2π n 证明 根据第四章第二节例题可知 n X k ,
设非负 r.v. X 的期望 E( X )存在， 则对于任意实数 > 0,
P( X )

E( X )


证 仅证连续型 r.v.的情形
P( X ) f ( x)dx

x
0
1

xf ( x)dx
E( X )

f ( x)dx

推论 1 ——马尔可夫 ( Markov ) 不等式 设随机变量 X 的k阶绝对原点矩 E( |X |k) 存在，则对于任意实数 > 0,

k 941
C
k 6000
1 6
k
5 6
6000k
0.959036
用Poisson 分布近似计算 取 = 1000
k 1000
1 X P940 X 1060 P 0.01 6000 6
1059
1000 e k! k 941
证 引入 r.v. 序列{Xk}
1, Xk 0, 第k次试验A发生 第k次试验A 发生
n
设P( X k 1) p, 则E ( X k ) p, D( X k ) pq
X 1 , X 2 ,, X n 相互独立，n A X k
n pq 1 记 Yn X k , E (Yn ) p, D(Yn ) n n k 1
问题: 某个随机变量是由大量相互独立且均匀 小的随机变量相加而成的, 研究其概率分布情况.
二、基本定理
定理四（独立同分布的中心极限定理）
设随机变量 X 1 , X 2 ,, X n ,相互独立, 服从 同一分布, 且具有数学期望 和方差：E ( X k ) , D( X k ) 2 0 ( k 1,2,), 则随机变量之和的
X 1 , X 2 ,, X n , 相互独立，
(指任意给定 n > 1, X 1 , X 2 ,, X n 相互独立) 且具有相同的数学期望和方差
E ( X k ) , D( X k ) , k 1,2,
2
则 0 有
或
1 n lim P X k 0 n n k 1
根据定理四得
x
下面的图形表明:正态分布是二项分布的逼近.
三、典型例题
例1
一加法器同时收到20 个噪声电压Vk
20
( k 1, 2,20 ) , 设它们是相互独立的随 机变量, 且都在区间(0, 1) 上服从均匀分布 , 记 V Vk ,
k 1
求 P{V 105} 的近似值.
n
定义 设 Y1 ,Y2 ,,Yn , 是一系列 r.v. 若 0 有 a 是一常数， lim P Y a 1 ) ( 或 n lim P Y a 0
n
n
则称 r.v. 序列
源自文库
Y1 , Y2 ,, Yn , 依概率
收敛于常数 a , 记作 P Yn a
5000 83 6 P(| X 1000 | 60) 1 2 0.7685 108 60
1 X P 0.01 6000 6
实际精确计算
1 X P940 X 1060 P 0.01 6000 6
1059
去掉，代之以
1 n n D X k 0 2 n k 1
注3 设 r.v.序列 X 1 , X 2 ,, X n , 相 互独立具有相同的分布，且
E ( X ) k , i 1,2,
k i
则 0 有
n 1 k lim P X i k 0 n n i1
贝努里(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率 的概率是指：
nA nA 频率 与 p 有较大偏差 p 是 n n
nA n “ 稳定于”事件 A 在一次试验中发生
小概率事件, 因而在 n 足够大时, 可以用频 率近似代替 p . 这种稳定称为依概率稳定.
第五章 大数定律与中心极限定理
本章要解决的问题
答复 大数 定律 中心极 限定理
1. 为何能以某事件发生的频率 作为该事件的 概率的估计？ 2. 为何能以样本均值作为总体 期望的估计？ 3. 为何正态分布在概率论中占 有极其重要的地位？ 4. 大样本统计推断的理论基础 是什么？
§5.1 大数定律
重要不等式
n X k np n np k 1 lim P x lim P n np(1 p) n np(1 p) t2 x 1 2 e dt ( x ). 2π
定理六表明: 正态分布是二项分布的极限分布, 当n充分大 时, 可以利用该定理来计算二项分布的概率.
n
n P 故 A p n n
在 Bernoulli 定理的证明过程中，Y n
是相互独立的服从 (0 , 1) 分布的 r.v. 序列 {Xk} 的算术平均值, Y n 依概率收敛于 其数学期望 p .
结果同样适用于服从其它分布的独立
r.v. 序列
Chebyshev 大数定律
设 r.v. 序列
P n
第二节
中心极限定理
一、问题的引入 二、基本定理 三、典型例题 四、小结
一、问题的引入
实例: 考察射击命中点与靶心距离的偏差.
这种偏差是大量微小的偶然因素造成的微 小误差的总和, 这些因素包括: 瞄准误差、测量 误差、子弹制造过程方面 (如外形、重量等) 的 误差以及射击时武器的振动、气象因素(如风速、 风向、能见度、温度等) 的作用, 所有这些不同 因素所引起的微小误差是相互独立的, 并且它们 中每一个对总和产生的影响不大.
n 1 lim P X k 1 n n k 1
定理的意义
具有相同数学期望和方差的独立 r.v.序列的 算术平均值依概率收敛于数学期望.
当 n 足够大时, 算术平均值几乎是一常数.
数学 算术 可被 近似代替 期望 均值
注1 X 1 , X 2 ,, X n , 不一定有相同的数学 期望与方差，可设