大数定理与中心极限定理

E
(
2 n
)
2(na )2
1 2n2
a2
Dn En2 (En )2 a2 ,
说明离散型随机变量有有限方差,
故满足契比雪夫定理的条件.
例2 设随机变量 1,2,L ,n ,L 独立同分布, 且 Ek 0, Dk 2, k 1, 2,L , 证明对任 意正数 有
lim
n
P
1 n
n
k 2
当 n 很大时, 随机变量 1, 2,L ,n 的算术平
均 1 n
n i 1
k 接近于它们的数学期望的算术平均
值 1 n
n i 1
Ek
（这个接近是概率意义下的接近）
即在定理条件下, n个随机变量的算术平均, 当n 无限增加时, 几乎变成一个常数.
定理4.4（辛钦大数定律）
辛钦资料
设随机变量 1, 2,L , n服,L从独立同
4.1 大数定律
一、问题引入 二、基本定理 三、典型例题 四、小结
一、问题的引入
概率论与数理统计是研究随机现象统计 规律性的学科. 随机现象的规律性只有在相 同的条件下进行大量重复试验时才会呈现出 来. 也就是说，要从随机现象中去寻求必然 的法则，应该研究大量随机现象.
研究大量的随机现象，常常采用极限 形式，由此导致对极限定理进行研究. 极 限定理的内容很广泛，其中最重要的有两 种:
n
D(i )
i 1
n2 2
.
n
n
D(i ) Di npq.
i 1
i 1
从而P(
n
n
p
)
npq
n2 2
0, n
关于贝努里定理的说明:
贝努里定理表明事件发生的频率 A 依概
n 率收敛于事件的概率p, 它以严格的数学形式 表达了频率的稳定性.
故而当n很大时, 事件发生的频率与概率有 较大偏差的可能性很小. 在实际应用中, 当试验 次数很大时, 便可以用事件发生的频率来代替 事件的概率.
等式表明, 当n 时这个事件的概率趋
于0,即对于任意正数 , 当n充分大时,
不等式 |
1 n
n
k
i 1
1 n
n i 1
Ek
|
成立的概率很小.
定理4.2（契贝晓夫大数定理）
契贝晓夫
设随机变量 1,2,L ,n,L 两两不相关,
且都具有有限的方差, 并有公共的上界
D1 C, D2 C,L , Dn C,L , 则对于任意正数 有
k 1
2
1.
解 因为 1,2,L ,n ,L 是相互独立的，
所以
12
,
2 2
,L
, n2 ,L
也是相互n 立的，
由 Ek 0,
由辛钦定理知
得 Ek 2 D
对于任意正数
k
,
(E
有
k
)2
2,
lim
n
P
1 n
n
k 2
k 1
2
1.
四、小结
贝努里大数定理
三个大数定理 契贝晓夫大数定理
辛钦定理 频率的稳定性是概率定义的客观基础, 而伯 努利大数定理以严密的数学形式论证了频率的稳 定性.
n
n
n
n
i E(i )
i1
i 1
n
二、基本定理
定理4.1（贝努里大数定理）
伯努利
设 A 是 n 次独立 重复试验中 事件A 发 生
的次数, p 是事件 A 在每次试验中发生的概率,
则对于任意正数 0, 有
lim
n
P
A
n
p
0
或
lim P n
A
n
p
1.
证明 引入随机变量
显然 A 1 2 L n
大数定律 与 中心极限定理
下面我们先介绍大数定律
大数定律的客观背景 大量的随机现象中平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
……
思考：频率是概率的反映，随着观察的次数增加， 频率将会“逐渐稳定”或“靠近”到概率,“逐渐 稳定”或“靠近”到概率是什么？
n p n np
1
11
P 2n2 1 n2 2n2
问是否满足契比雪夫定理 ?
解 独立性依题意可知, 检验是否具有数学期望？
En
1
1
1
na 2n2 0 (1 n2 ) na 2n2 0,
说明每一个随机变量都有数学期望,
检验是否具有有限方差？
n2 (na)2 0 (na)2
Q P
1 1 1
1
2n2
n2 2n2
因为 1,2,L ,n ,L 是相互独立的，
且k服从以 p 为参数的 (0 1) 分布,
所以 Ek p,
Dk
p(1
p)
1, 4
k 1, 2,L
n
n
于是 n
p
n
np
i E( i )
i 1
i 1
n
n
n
由契比晓夫不等式得
P
n
n
p
P(
n
i
i 1
n
E( i )
i 1
n ).
由独立性知道
分布且期望为
Ek (k 1, 2,L ),
则对于任意正数
,
有lim n
P
1 n
n
k
k 1
0.
关于辛钦定理的说明:
(1) 与定理4.2相比, 不要求方差存在;
(2) 贝努利定理是辛钦定理的特殊情况.
三、典型例题
例1 设随机变量 1,2 ,L ,n ,L 相互独立,
n na 0 na
分布律如下：
证明 因为{n}两两不相关,故
D
1 n
n i1
i
1 n2
n i1
D(i )
C n
由契贝晓夫不等式可得
n
0
P
1 n
n
k
i1
1 n
n wk.baidu.com1
Ek
D(
1 n
i1
2
i )
C
n 2
,
在上式中令n ，则
P
1 n
n i 1
k
1 n
n i 1
Ek
0.
[证毕]
关于定理4.2的说明:
大数定律的定义
定义4.1设 1,2 ,L ,n ,L 是随机变量序列, 令
Yn
1 n
n
i
i 1
如果存在一个常数序列 a1, a2 ,L , an ,L ,
对任意的 0, 恒有
lim
n
P{|
Yn
an
|
}
0
则称随机变量序列{ n }服从大数定律.
{|
1 n
n i 1
k
1 n
n i 1
Ek
|
}是一个随机事件,