西北工业大学《概率论与数理统计》课件-第5章大数定律及中心极限定理

正态的现象了。此例更好更形象地说明了中心极限定理。
E(X ) D(X ) 近似正态的峰值？ 稳定性
§2 中心极限定理
例2：设某种电器元件的寿命服从均值为100小时的指 数分布，现随机取得16只，设它们的寿命是相互独立 的,求这16只元件的寿命的总和大于1920小时的概率。
解：记16只电器元件的寿命分别为X1, X 2, , X16,
德莫佛-拉普拉斯定理是
E(n ) = np，D(n ) = np (1-p) (k = 1, 2,..., n)
独立同分布的中心极限 定理中Xk服从(0-1)的特
由定理一得：
lim P
n − np
x =
lim
P
n i =1
X i − np
殊情况
x x =
1
e−
t2 2
dt
=
(
x)
n→+ np(1 − p) n→+ np(1 − p) − 2
以下介绍三个常用的中心极限定理。
§2 中心极限定理
一、独立同分布的中心极限定理 independent identically distributed，i.i.d
定理一：设随机变量X1, X 2, , X n , 相互独立同分布，
且具有数学期望和方差：E ( Xi ) = , D ( Xi ) = 2 0,i = 1, 2,
X B (n, p), n = 10000, p = 0.017
由德莫佛--拉普拉斯中心极限定理，保险公司亏本的概率为：
P (10000X 10000 200) = P ( X 200)
思考题：
1−
200 − np
np (1− p)
求保险公司至少 盈利10万元的概率。
= 1− (2.321) 0.01
1 n2
n
D
k =1
Xk
=
1 n2
n
2
=
2
n
由契比雪夫不等式得：
1
P X
−
1
−
2
2
n
lim P X − = 1 n→
P X
−
1
−
2 2
大数定律说明：对于具有均值μ和方差σ²的随机变
量X1,…Xn，当n很大时它们的算术平均
1
n
n k =1
Xk
接近于数学期望μ（算术平均值的稳定性）
§1 大数定律
1)随机取一个，记录它的值为X1，则X1的分布律 0,1, 2
X1| 0 1 2 p | 0.2 0.3 0.5
2)将第一个放回去，再随机取一个，记录它的值为X2，
则M=
X1+X2 2
的分布律
0，12 ，1，32 ，2
M| 0 1/ 2 1 3/ 2 2 p | 0.04 0.12 0.29 0.3 0.25
(X
i
)
=
i
,D
(X
i
)
=
2 i
0, i
= 1, 2,
n
n
期望和方差可以
记
B
2 n
=
2 i
或B n =
2 i
不等，分布可以
i =1
i =1
不同，但必须满
若存在正数，使得当n → 时，下列极限成立 足这一条件
1
B
2+ n
n
E
i =1
X i − i 2+
→0
n
则随机变量之和
X
的标准化变量：
i
i =1
i ＝1
i =1
i =1
无论各随机变量Xk(k=1,2,…)服从什么分布，只
要满足定理条件，那么他们的和在n很大时，就
近似地服从正态分布。
正态随机 变量的重
要性
§2 中心极限定理
三、德莫佛-拉普拉斯(De Moivre-Laplace)定理
定理三：设随机变量n (n = 1, 2,...)服从参数为n, p(0 p 1)的
Zn
=
n i =1
Xi
−
E
n
X
i
i=1 =
D
n
X
i
n i =1
n
Xi − i
i =1
Bn
i=1
§2 中心极限定理
Zn
=
n i =1
Xi
−
E
n i =1
Xi
D
n
X
i
=
n i =1
Xi − Bn
n
i
i =1
i=1
的分布函数Fn (x)对于x R,有：
§1 大数定律
客观背景： 事件发生的频率具有稳定性。 在实践过程中，人们还认识到“大量测量值
的算术平均值也具有稳定性”。
大数定律描述大数量的随机试验的平均结果的稳 定性，揭示了随机现象的一种统计规律。
以下介绍有关算术平均值及频率稳定性的三个定理。
§1 大数定律
一、随机变量序列依概率收敛的定义 ：
则 0，有：
X
=
1 n
n k =1
X k，
lim P
n→
X −
=
lim
n→
P
1 n
n k =1
X
k
−
=
1
即X ⎯⎯p→
§1 大数定律
四、伯努利大数定律（辛钦大数定律特殊情况）
定理三：设事件A在每次试验中发生的概率为p，记nA为n次独立
重复试验中A发生的次数,则 0,有：
lim
n
Xi −
n
i
( ) lim
n→+
Fn
(x)
=
lim
n→+
P
Zn x
= lim P i=1 n→+
i =1
Bn
x
x
=
1
e−
t2 2
dt
=
(
x)
− 2
§2 中心极限定理
此定理表明，当n充分大时，
nnX i −源自 iZ n = i =1i =1
Bn
近似
～ N (0,1).
n
n
近似
n
即： X i = Z n Bn + i ～ N ( i , Bn2 ),
n→+
P
nA n
−
p
=1
证明：因nA B (n, p) ,故： nA = X1 + X2 + ... + X n
其中X1, X2...Xn相互独立，且都服从以p为参数的(0 -1)分布，
E( X k ) = p(k = 1, 2,..., n)
由辛钦大数定律有
lim P n→+
1 n
n k =1
Xk
−
p
=1
即得：lim
P
n→+
nA n
−
p
=1
伯努利大数定律是辛钦大数定律中Xk服从(0-1)的特殊情况
§1 大数定律
伯努利大数定律的重要意义：lim
P
n→+
nA n
−
p
=1
lim
P
n→+
nA n
−
p
=
0
1 伯努利大数定律说明当实验次数n很大时，事件
发生的频率nA/n依概率收敛于事件发生的概率p， 即频率的稳定性。正因为这种稳定性，概率的概
作前n个随机变量的算术平均：
则 0，有：
X
=
1 n
n k =1
Xk
lim P
n→
X −
= lim P
n→
1 n
n k =1
Xk
−
=
1
即X ⎯⎯p→
§1 大数定律
证明：
( ) E
X
=
E
1 n
n k =1
Xk
=
1 n
n
=
,
( ) D
X
=
D
1 n
n k =1
Xk
( ) =
例1：一个盒子里装有以0,1,2加以识别的三种物品，其 中，20个0, 30个1, 50个2
3)将第二个放回，再随机取一个，记录它的值为X3，
则N=
X1+X2+X3的分布律 3
0,
1 ，2 33
，1,
4 3
，53，2
N| 0 1/3 2/3 1 4/3 5/3 2 p | 0.008 0.036 0.114 0.207 0.285 0.225 0.125
定义：设随机变量序列X1, X2,..., Xn, ,若存在某常数a ，使得
0,均有：
lim P
n→+
Xn −a
= 1,
则称随机变量序列X1, X2,..., Xn, 依概率收敛于常数a ，记为： Xn ⎯⎯p→ a。
性质：已知Xn ⎯⎯p→a ，并知函数g(x)在 x=a 处连续，则
g ( Xn ) ⎯⎯p→ g (a)
念才有客观意义。
2 伯努利大数定律还提供了通过试验来确定事件 概率的方法，既然频率nA/n与概率p有较大偏差 的可能性很小，我们便可以通过做试验确定某事 件发生的频率并把它作为相应的概率估计，这种 方法即是在第7章将要介绍的参数估计法，参数 估计的重要理论基础之一就是大数定理。
背景：
§2 中心极限定理
答案：0.937
§2 中心极限定理
例4：设某工厂有400台同类机器，各台机器发生故障 的概率都是0.02，各台机器工作是相互独立的，试求 机器出故障的台数不小于2的概率。 解：设机器出故障的台数为X , 则X B (400,0.02)，分别用三种方法计算：
§1 大数定律
二、切比雪夫不等式的特殊情况：
(契比雪夫不等式)：X具有E ( X ) = , D ( X ) = 2，则 0,都有：
P X
−
2 2
P
X
−
1−
2 2
定理一：设随机变量序列X1, X2, , Xn, 相互独立，且具有
相同的数学期望和方差：E ( Xk ) = ，D( Xk ) = 2 (k =1, 2,...)，
三、辛钦大数定律（弱大数定律）：
定理一中要求随机变量X1,…Xn的方差存在，但在这些随机变量
服从相同分布的场合，并不需要这一要求。
定理二：设随机变量序列X1, X2, , Xn, 相互独立，
服从同一分布且具有相同数学期望E ( Xk ) = (k =1, 2,...)，
作前n个随机变量的算术平均：
n
则随机变量之和 X i的标准化变量： i =1
Y n
=
n
Xi
−
E
n
X
i =1
i =1
D
n
X
i
i
=
n
X i −n
i =1
n
i =1
的分布函数Fn (x )对于实数x R ,有：
( ) lim
n→+
Fn
(x)
=
lim
n→+
P
Yn
x
n
Xi − n
= lim P i=1
x=
16
则16只电器元件的寿命总和为X = Xi , i =1
由题设E ( Xi ) = 100, D ( X i ) = 1002
根据独立同分布的中心极限定理 :
16
Y
=
i =1
Xi −16 100 4 100
=
X
− 1600 400
近似服从N
(0,1)
( ) P ( X 1920) = 1− P ( X 1920)
§2 中心极限定理
此定理表明，正态分布是二项分布的极限分布， 即当n充分大时，
近似
n ～ N (np, np(1− p))
利用正态分布近似计算二项分布概率。
P (a n b) (
b − np ) − ( np(1 − p)
a − np ) np(1 − p)
§2 中心极限定理
示意例图
例1：一个盒子里装有以0,1,2加以识别的三种物品，其 中有 20个0, 30个1, 50个2
第五章 大数定律及中心极限定理
关键词： 大数定律 The Law of Large Numbers 中心极限定理 The Central Limit Theorem
特点
§0 引言
数理统计理论基础
理论性强，难度大，但教学大纲要求较弱
要求：
能用中心极限定理估计和近似计算一些简单事 件的概率
重点： 了解正态分布在近似计算中的应用
二项分布，则对任意x，有：
lim P
n − np
x x =
1
e−
t2 2
dt
=
(
x),
n→+ np(1 − p) − 2
证明：因n B (n, p) ,故：n = X1 + X 2 + ... + X n
其中X1, X2...Xn相互独立，且都服从以p为参数的(0 -1)分布，
E( X k ) = p，D( X k ) = p (1-p) (k = 1, 2,..., n)
n→+
n
x −
1
−t2
e2
dt
=
(
x)
2
§2 中心极限定理
此定理表明，当n充分大时，
n
X i − n 近似
Y n = i =1 n
～ N (0,1).
n
X
真实分布难于求解
i
i＝1
利用正态分布对其做理论
分析或实际计算
n
近似
即： X i ～ N (n, n 2 ),
i＝1
n
P(a Xi b)
i =1
(b − n ) − (a − n )
n
n
数理统计 中大样本 统计推断 的基础
思考题：X
=
1 n
n i =1
X
的近似分布是什么？
i
答案：N (, 2 )
n
§2 中心极限定理
二、李雅普诺夫(Lyapunov)定理
定理二：设随机变量X 1, X 2, , X n , 相互独立，且具有
数学期望和方差：E
1−
1920 −1600 400
= 1− (0.8) = 0.2119
§2 中心极限定理
例3：某保险公司的老年人寿保险有1万人参加，每 人每年交200元, 若老人在该年内死亡，公司付给 受益人1万元。设老年人死亡率为0.017，试求保险 公司在一年内这项保险亏本的概率。
解：设X为一年中投保老人的死亡数，则
4)将第三个放回去，再随机取一个，记录它的值为X4，
则P=
X1+X2+X3+X4 4
的分布律
0，14
，1 2
，34 ，1，54
，3 2
，74 ，2
p
p
p
0.5 0.4 0.3 0.2 0.1
0
1
2
X
0
1
2
M
0
1
2
N
N的分布已经出现了“正态”的征兆。
由X的十分不对称的分布出发，3个观察值的算术平均就已经出现