第五章大数定律

1 ( 700 )2 1 1 8
2100
99
即估计每毫升白细胞数在5200~9400之间的概率不 小于8/9 .
几个常见的大数定律
定理1（切比雪夫大数定律）
设 X1, X2, …是相互独立的随 机变量序列，它们都有有限的方差， 切比雪夫
并且方差有共同的上界，即 D(Xi)
≤K，i=1, 2, …，
§5.1 大数定律
一、切比雪夫不等式
定理 设随机变量X具有数学期望E( X ) ,方差
D( X ) 2,则对于任意正数，有不等式
或
P{|
X
E(
X
)
|
}
2 2
P{|
X
E(
X
)
|
}
1
2 2
由切比雪夫不等式可以看出，若 2越小，则
事件{|X-E(X)|< }的概率越大，即随机变量X 集
中在期望附近的可能性越大.
由德莫佛—拉普拉斯中心极限定理,
有
X
近似
~
N
1000,
5000 6
P
X 6000
1 6
0.01
P
X
1000
60
1060 1000 940 1000
5000 6 5000 6
60 60
5000 6 5000 6
2 60 1 0.9624
5000 6
设随机变量 Yn服从参数n, p(0<p<1)的
二项分布，则对任意x，有
lim P{ Yn np
x
x}
1
t2
e 2 dt
n np(1 p)
2
定理表明，当n很大，0<p<1是一个定值 时（或者说，np(1-p)也不太小时），二项变
量 Yn 的分布近似正态分布 N(np,np(1-p)).
即这个定理表明，正态分布是二项式分布的 极限分布.
如取 3
P{|
X
E(X )
|
3 }
2 9 2
0.111
可见，对任给的分布，只要期望和方差 2存在，
则 r.v X取值偏离E(X)超过 3 的概率小于0.111 .
例1 设电站供电网有10000盏电灯,夜晚每盏灯 开灯的概率均为0.7，假定灯的开、关是相互 独立的，使用切贝晓夫不等式估计夜晚同时开 着的灯数在6800到7200盏之间的概率.
解：设每毫升白细胞数为X 依题意，E(X)=7300,D(X)=7002
所求为 P(5200 X 9400) P(5200 X 9400)
= P(-2100 X-E(X) 2100)
= P{ |X-E(X)| 2100}
由切比雪夫不等式
P{ |X-E(X)| 2100}
1
D( X ) (2100)2
而保险公司一年赚钱不少于20万就是事件
500 800 500 800 50000 X 200000
即事件 0 X.根 4据 隶莫弗—拉普拉斯定理
P0
X
4
P
03
X 3
43
2.982 2.982 2.982
1 2.982
3 2.982
0.579
1.737
0.7190 0.95911 0.6781
近于1.
切比雪夫大数定律给出了
平均值稳定性的科学描述
作为切比雪夫大数定律的特殊情况， 有下面的推论.
推论（独立同分布下的大数定律）
设X1,X2, …是独立同分布的随机变量
序列，且E(Xi)= ，D(Xi)= 2， i=1,2,…,
则对任给 >0,
lim
n
P{|
1 n
n i 1
Xi
|
}1
设Y1,Y2 , Yn , 是一个随机变量序列，a是
独立同分布 中心极限定理
E (
Xk )
n
X
k 1
，D( Xk )
近似地
k ~ N (n,
2 n 2 )
极
棣莫弗 拉普拉斯
n ~ N (n, p)
限 定
中心极限定理
近似地
n ~ N (np,np(1 p))
理
李雅普诺夫 中心极限定理
E(
Xk
)
k
,
D(
xk
)
2 k
n
X源自文库
k 1
k
近似地
ε> 0， lim P{| Sn p | } 1
n
n
或 lim P{| Sn p | } 0
n
n
任给ε>0， lim P{| Sn p | } 0
n
n
贝努里大数定律表明，当重复试验次数
n充分大时，事件A发生的频率Sn/n与事件A 的概率p有较大偏差的概率很小.
贝努里大数定律提供了通过试验来确 定事件概率的方法.
例1 某公司有500辆汽车参加保险,在一年里 汽车出事故的概率为0.006,参加保险的汽车 每年交800元的保险费,若出事故,保险公司最 多赔偿5万元,试利用中心极限定理计算,保险 公司一年赚钱不小于200000元的概率?
解：设 X表示500辆汽车中出事故的车辆数,则
服从 n 500, p 的 0二.0项06分布,这时 np 500 0.006 3, npq 3 0.994 2.982
~
N
n
( k k 1
,
Bn2
)
注 随机变量X1, X2, 是相互独立的
可见,保险公司在一年里赚钱不少于 200000元概率为0.6781.实际中,保险 公司通过进行数据分析,来确定保费与赔 偿金额.
例2 设有一批种子，其中良种占1/6. 试估计在任选的6000粒种子中，良种 比例与 1/6 比较上下不超过1%的概率.
解 设 X 表示6000粒种子中的良种数 ,
则 X ~ B( 6000 , 1/6 )
比较几个近似计算的结果
二项分布(精确结果)
P
X 6000
1 6
0.01
0.9590
中心极限定理
P
X 6000
1 6
0.01
0.9624
Poisson 分布
P
X 6000
1 6
0.01
0.9379
Chebyshev 不等式
P
X 6000
1 6
0.01
0.7685
定理3（李雅普诺夫(Liapounov)定理)
则对任意的ε>0，
lim
n
P{|
1 n
n i1
Xi
1 n
n i1
E(Xi)
|
}1
切比雪夫大数定律表明，独立随机变
量序列{Xn}，如果方差有共同的上界，则
1
n
n i 1
X
i
与其数学期望
1 n
n i 1
E( Xi )偏差很小的
概率接近于1.
随机的即了当，n充取分值大接时近，于其n1 i数n1 X学i 差期不望多的不概再率是接
解：令X表示在夜晚同时开着的灯数目,则 服X
从 n 1000的0, 二p 项0分.7 布,这时 D(X) npq,由 切21贝00晓夫不等式可得
2100 P{6800 X 7200} P{| X 7000 | 200} 1 2002 0.95
例2 已知正常男性成人血液中 ，每一毫升白细胞 数平均是7300，均方差是700 . 利用切比雪夫不等 式估计每毫升白细胞数在5200~9400之间的概率 .
定理1（独立同分布下的中心极限定理）
设X1,X2, …是独立同分布的随机
变量序列，且E(Xi)= Var(Xi)= 2 ，
i=1,2,…，则
n
Xi n
x
lim P{ i1
x}
n
n
-
1 e-t2 2dt
2
它表明，当n充分大时，n个具有期望和方差 的独立同分布的r.v之和近似服从正态分布.
定理2(棣莫佛－拉普拉斯定理）
设随机变量 X1, X2,L , Xn L 相互独立, 它们具有数学期望和方差
E( X k ) k , D( X k ) k 2 0, k 1, 2,L ,
n
记 Bn2 k 2 . k 1
若存在正数 ,使得n ，
1 n
Bn 2
E
k 1
X k k 2
0.
n
则随机
变量之和
X
我们只就连续型随机变量的情况来证明. 证 设X的概率密度为f (x)，则有
P{ X } f (x)dx X
x2
X
2
f (x)dx
1
2
(x
)2
f
(x)dx
2 2
P{|
X
E(
X
)
|
}
2 2
当方差已知时，切比雪夫不等式给出了r.v X与它
的期望的偏差不小于 的概率的估计式 .
的标
k
准化变量：
k 1
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1 n
D( Xk )
k1
k 1
Bn
k 1
的分布函数Fn( x)对于任意x，满足
lim
n
Fn
(
x
)
lim
n
P
n
k 1
X
k Bn
n
k
k 1
x
-x
1 e-t2 2dt
2
( x) 证明略.
四、小结
中 心
下面给出的独立同分布下的大数定 律，不要求随机变量的方差存在.
定理3（辛钦大数定律）
设随机变量序列X1,X2, …独立同
辛钦
分布，具有有限的数学期E(Xi)=μ,
i=1,2,…， 则对任给ε >0 ，
lim P{|
n
1 n
n i 1
Xi
|
}1
§2 中心极限定理
在客观实际中有许多随机变量，它们是由大量 的相互独立的随机因素的综合影响所形成的.而其 中每一个别因素在总的影响中所起的作用都是微小 的．这种随机变量往往近似地服从正态分布．这种 现象就是中心极限定理的客观背景．本节只介绍三 个常用的中心极限定理．
一个常数.若对于任意正数，有
lim
n
P{|
Yn
a
|
}
1，
则称序列Y1,Y2, Yn , 依概率收敛于a.记为
Yn P a.
依概率收敛的序列还有以下的性质：
设Xn P a，Yn P b,又设函数g( x, y)在 点(a,b)连续，则g( Xn ,Yn ) P g(a,b).
下面给出的贝努里大数定律，
是定理1的一种特例.
设Sn是n重贝努里试验中事件A发
生的次数，p是事件A发生的概率，
引入
Xi
1， 如第i次试验A发生
0，
否则
贝努里
i=1,2,…,n
n
则
Sn Xi
i 1
Sn
n
1 n
n i 1
Xi
是事件A发生的频率
于是有下面的定理： 定理2（贝努里大数定律）
贝努里
设Sn是n重贝努里试验中事件A发生的 次数，p是事件A发生的概率，则对任给的