概率论 大数定律

定理一（契比雪夫表定达理式的的特意殊义情况）
设{| X随机变|量 }X是1,一X个2 ,随,机Xn事,件相, 等互式独表立,
且具有明,相当同n 的数时学这期个望和事方件差的：概E率( X趋k于) 1, ,
D( Xk即) 对于2 (任k 意1正, 2数,),,当作n前充n分个大随时机, 不变量
的算术等平式均| X X|n1kn成1 X立k ,的概则率对很于大任. 意正
数 有
lim P{|
n
X
| }
lim
n
P
1 n
n k 1
X
k
1.
证明
E
1 n
n k 1
X
k
1 n
n k 1
E(Xk )
1 n
n
,
D
1 n
n k 1
Xk
1 n2
n k 1
D( Xk
)
1 n2
n
2
2
n
,
由契比雪夫不等式可得
P
1 n
n k 1
X
k
1
2 2n
,
在上式中令 n ，并注意到概率不能大于1, 则
P
1 n
n k 1
X
k
1.
关于定理一的说明:
当 n 很大时, 随机变量 X1, X2 , , Xn 的算术平
均
1 n
n k 1
X
k
接近于数学期望
E(X1) E(X2) E(Xk ) ,
（这个接近是概率意义下的接近）
即在定理条件下, n个随机变量的算术平均, 当n 无限增加时, 几乎变成一个常数.
lim
n
P
1 n
n k 1
XLeabharlann k221.
四、小结
契比雪夫定理的特殊情况
三个大数定理
伯努利大数定理
辛钦定理
频率的稳定性是概率定义的客观基础, 而伯 努利大数定理以严密的数学形式论证了频率的稳 定性.
设随机变量 X1, X2 , , Xn , 相互独立,
且具有相同的数学期望和方差：E( Xk ) ,
D( Xk ) 2 (k 1, 2, ), 作前 n 个随机变量
的算术平均
X
1 n
n k 1
Xk,
则对于任意正
数 有
lim P{|
n
X
| }
lim
n
P
1 n
n k 1
X
k
1.
二、基本定理
意正数 有
lim
n
P
1 n
n k 1
X
k
2
2
1.
解 因为 X1, X2 , , Xn , 是相互独立的，
所以
X
2 1
,
X
2 2
,
,
Xn2 ,
也是相互独立的，
由 E( X k ) 0, 得 E( Xk2 ) D( Xk ) [E( Xk )]2 2 ,
由辛钦定理知
对于任意正数 , 有
定理一的另一种叙述:
且具设有随相机同变的量数学X1期, X望2 ,和机设方,Y变X1差,量nY,：2序,E相列(,YX互,nak是是独) 一一立个,个, 随常
D( Xk ) 2 (k
依概率收敛于
1, 2, ,即 X
), 则有数P序,lni若m列.对PX{于|Y任nn1意kan1正|X数k }
Xn2
P
(na )2 1 2n2
0
1
1 n2
(na )2 1 2n2
E
(
X
2 n
)
2(na )2
1 2n2
a2,
D( Xn )
E
(
X
2 n
)
[
E
(
X
n
)]2
a2.
说明离散型随机变量有有限方差,
故满足契比雪夫定理的条件.
例2 设随机变量 X1, X2 , , Xn , 独立同分布,
且 E( Xk ) 0, D( Xk ) 2 , k 1,2, , 证明对任
}
1.
[证毕]
定理二（伯努利大数定理）
伯努利
设 nA 是 n 次独立重复试验中事件A 发生 的次数, p 是事件 A 在每次试验中发生的概率,
则对于任意正数 0, 有
lim
n
P
nA n
p
1
或
lim
n
P
nA n
p
0.
证明 引入随机变量
0, 若在第k 次试验中 A 不发生,
Xk
1,
若在第k 次试验中 A 发生, k 1,2, .
显然 nA X1 X2 Xn ,
因为 X1, X2 , , Xn , 是相互独立的， 且Xk服从以 p 为参数的 (0 1) 分布, 所以 E( Xk ) p, D( Xk ) p(1 p), k 1, 2, .
根据定理一有
lim
n
P
1 n
(
X1
X2
Xn)
p
1,
即
lim
第一节 大数定律
一、问题的引入 二、基本定理 三、典型例题 四、小结
一、问题的引入
实例 频率的稳定性
随着试验次数的增加, 事件发生的频率逐渐稳 定于某个常数. 单击图形播放/暂停 ESC键退出
启示:从实践 中人们发现 大量测量值 的算术平均 值有稳定性.
二、基本定理
定理一（契比雪夫定理的特殊情况） 契比雪夫
1,
则称序列Y1,Y2 , ,Yn
依概率收敛于a, 记为
Yn P a
依概率收敛序列的性质: 设 Xn Pa, Yn Pb, 又设函数 g( x, y) 在点(a,b) 连续, 则 g( Xn , Yn ) P g(a, b).
证明 因为 g( x, y) 在 (a,b) 连续,
0, 0, 使得当 x a y b 时,
n
P
nA n
p
1.
关于伯努利定理的说明: 伯努利定理表明事件发生的频率 nA 依概 n
率收敛于事件的概率p, 它以严格的数学形式 表达了频率的稳定性.
故而当 n 很大时, 事件发生的频率与概率 有较大偏差的可能性很小. 在实际应用中, 当试 验次数很大时, 便可以用事件发生的频率来代 替事件的概率.
g(x, y) g(a,b) ,
于是{ g( Xn, Yn ) g(a,b) }
{ Xn a Yn b }
Xn
a
2
Yn
b
2
,
因此 P{ g( Xn, Yn ) g(a,b) }
P
Xn
a
2
P
Yn
b
2
n 0,
故
lim
n
P{
g(
Xn,
Yn )
g(a,b)
三、典型例题
例1 设随机变量 X1, X2 , , Xn , 相互独立,
Xn na 0 na
具有如下分布律： P
1 2n2
1
1 n2
1 2n2
问是否满足契比雪夫定理?
解 独立性依题意可知, 检验是否具有数学期望？
E(Xn)
na 2
1 2n2
0 (1
1 n2
)
na 2
1 2n2
0,
说明每一个随机变量都有数学期望, 检验是否具有有限方差？
定理三（辛钦定理）
辛钦资料
设随机变量 X1, X2 , , Xn , 相互独立,
服从同一分布, 且具有数学期望E( Xk )
(k 1,2, ),
则对于任意
正数
,
有
lim
n
P
1 n
n k 1
Xk
1.
关于辛钦定理的说明:
(1) 与定理一相比, 不要求方差存在;
(2) 伯努利定理是辛钦定理的特殊情况.