第6讲 第五章 大数定律即中心极限定理

或
lim P {|
n
nA n
p | } 0
证毕
注 贝努里大数定律表明，当重复试验次数n充分 大时，事件A发生的频率nA/n与事件A的概率p有较 大偏差的概率很小.
事件发生的频率可以代替事件的概率.
下面给出的独立同分布下的大数定律， 不要求随机变量的方差存在.
定理3（辛钦大数定律） 设随机变量序列X1,X2, … 相互独立， 服从同一分布，具有数学期E(Xi)=μ, i=1,2,…， 则对于任意正数ε ，有
注
n
1、定理表明，独立同分布的随机变量之和 X k ,
k 1
当n充分大时，随机变量之和与其标准化变量分别有
n k 1 近似地
Xk
n 2、独立同分布中心极限定理的另一种形式可写为
~
N ( n , n ) ;
2
k 1
X k n 近似地 ~ N ( 0,1).
n
近似地
X
N ( , n) 或 1 n 其中X X k n k 1 ~



x
1

t
2
e
2
dt ( x )
即
n ~ N ( np, np(1 p ))
近似地
下面演示不难看到中心极限定理的客观背景
f g 0
1
h
2 3 x
例:20个0-1分布的和的分布
几个(0,1)上均匀分布的和的分布
X1 ~f(x)
X1 +X2~g(x)
X1 +X2+X3~ h(x)
k 1
似服从正态分布，这就是为什么正态分布在概率论 中所占的重要地位的一个基本原因.
定理6(棣莫佛－拉普拉斯（De Laplace定理）
设随机变量 n(n=1,2,‥‥)服从参数n,p(0<p<1) 的二项分布，则对任意x，有
lim P{
n
n np
np(1 p)
x}

x
1 2

t
2

e
2
dt ( x )
证 由第四章知识知可将n分解成为n个相互独立、
服从同一( 0 1)分布的诸随机变量X 1 , X 2 , X n之和，
即有
n X k
k 1
n
其中X k ( k 1,2,, n)的分布律为 P X k i p (1 p )
nA X 1 X 2 X n
其中相互独立，且都服从以p以为参数的（ 1 0 ） 分布.因而E ( X k ) p，D( X k ) p(1 p ),
伯努利
由定理1即得 nA lim P {| p | } n n 1 lim P {| ( X 1 X 2 X n ) p | } 1 n n
n
n
D( X k )
k 1
Bn
的分布函数Fn ( x )对于任意x，满足
X k k k 1 k 1 lim Fn ( x ) lim P x n n Bn
n n
-
x
1 2
e
-t
2
2
dt ( x )
请注意 :
大数定律
切比雪夫 大数定律
辛钦 大数定律 lim P {|
n
lim P {|
n
1
n i 1
1
n
X i | } 1
nቤተ መጻሕፍቲ ባይዱ
n i 1
X i | } 1
E( X k )
大数定律以严格的数学形式表达了随机现 象最根本的性质之一： 平均结果的稳定性
第二节
中心极限定理
中心极限定理
例题
课堂练习
小结
中心极限定理的客观背景
在实际问题中许多随机变量是由相互独立随机 因素的综合（或和)影响所形成的. 例如：炮弹射击的 落点与目标的偏差， 就受着许多随机因 素（如瞄准，空气 阻力，炮弹或炮身结构等）综合影响的.每个随机因 素的对弹着点（随机变量和）所起的作用都是很小 的.那么弹着点服从怎样分布哪 ？
2
X 近似地 ~ N ( 0,1) n
n
3、虽然在一般情况下，我们很难求出
布的确切形式，但当n很大时，可以求出近似分布.
k 1
Xk
的分
定理2（李雅普诺夫(Liapounov)定理)
设随机变量X 1 , X 2 ,, X n 相互独立，它们具 有数学期望和方差： E ( X k ) k , D( X k ) k , ( k 1,2,)
在概率论中，习惯于把和的分布收敛于正态分 布这一类定理都叫做中心极限定理.
一、中心极限定理
定理1（独立同分布下的中心极限定理）
设随机变量X 1 , X 2 , X n , 相互独立，服从同一分 布，且具有数学期望和方差 : E ( X k ) , D( X k ) ( k 1,2,)，则随机变量之和 X k的标准化变量
2
由切比雪夫不等式
n 1 P Xk 1 2 n k 1
n 2
上式中令 n 得
lim P {|
n
1
n i 1
X i | } 1
n
说明
1、定理中{| 1 n i 1 X i | }是指一个随机事件，
n
1、定理中随机变量之和 X k 及其标准化变量
k 1
Z n 在n很大时, 分别近似服从
n k 1 近似地
Xk
~
N ( k , Bn ) ;
2 k 1
n
近似地
Zn
~
N ( 0,1)
2、随机变量X k 无论服从什么分布，只要满足
n
定理条件，随即变量之和 X k，当n很大时，就近
依概率收敛比高等数学中的普通意义下的收敛 弱些，它具有某种不确定性 .
定理1的另一种叙述形式
设随机变量X 1，X 2 ,, X n , 相互独立，且具 有相同的数学期望和方差：E ( X k ) , D( X k ) ( k 1,2,)，则序列X X .
P 2
由于无穷个随机变量之和可能趋于∞，故我们 不研究n个随机变量之和本身而考虑它的标准化的随 n 机变量. 即考虑随机变量X k ( k 1,n)的和 X k
k 1
Yn
k 1
X k E( X k )
k 1 n
n
n
D( X k )
k 1
讨论Yn的极限分布是否为标准 正态分布
设随机变量X 1 , X 2， ，X n , 相互 独立，且具有相同的数学期望和方差：
E ( X k ) , D( X k ) ( k 1, 2,).
2
切比雪夫
X
做前 n 个随机变量的算术平均 则对任意的ε>0，有
lim P {| X | }
n
X n
1
n k 1
X k 依概率收敛于，即
n
问题 : 设nA是n重贝努里试验中事件A发生 的次数，p是事件A发生的概率，
nA n
事件发生的频率能否代替事件的概率，频率 是否具有稳定性呢？
是事件A发生的频率.
伯努利
定理2（贝努里大数定律）
设 nA 是n次独立重复试验中事件A发 生的次数，p是事件A在每次试验中发生 的概率，则对于任意正数ε> 0 ，有 nA lim P {| p | } 1 n n nA 或 lim P {| p | } 0 n n 证明 因为nA ~ b( n, p ),由此可表示为
自从高斯指出测量误差服从正态 分布之后，人们发现，正态分布在 自然界中极为常见.
高斯
如果一个随机变量是由大量相互独立的随机因 素的综合影响所造成，而每一个别因素对这种综合 影响中所起的作用不大. 则这种随机变量一般都服 从或近似服从正态分布. 现在我们就来研究独立随机变量之和所特有 的规律性问题. 当n无限增大时，这个和的极限分布是什么呢？
诸Xk 独立同分布，且期望存在，故能使用大 数定律. 即对任意的ε>0,
lim P{|
n
X n
k 1
1
n
k
0.1 | } 1
三、小结
伯努利
大 数 定 律

lim P {|
n
nA n
p | } 1
nA ~ b( n, p )
E( X k ) 2 D( X k )
i 1 i
, i 0,1
由于E ( X k ) p, D( X k ) p(1 p ) k 1,2,, n)，
由定理4得
lim P{
n
n np
np(1 p)
x } lim P{ k 1
n
X k np np(1 p )
n
x}
2 定理表明，当n很大，0<p<1是一个定值时（或 者说，np(1-p)也不太小时），二项变量 n 的分布 近似正态分布 N(np,np(1-p)).
P P
点(a , b )连续，则g ( X n ,Yn ) g (a , b ).
P
请注意 :
X n 依概率收敛于a，意味着对任意给定的
0， 当n充分大时，事件 X n X 的概率很大，接近于1 ； 并不排除事件 X n X 的发生，而只是说他发生的 可能性很小.
例 在一个罐子中,装有10个编号为0-9的同样的球， 从罐中有放回地抽取若干次，每次抽一个，并记下 号码.