概率论与数理统计第五章 大数定律及中心极限定理

解: 设Xk为第k次炮击炮弹命中的颗数(k=1,2,…,100),
在100次炮击中炮弹命中的总颗数
100
X = ∑ Xk k =1
相互独立地服从同一分布，
E(Xk)=2, D(Xk)=1.52 (k=1,2,…,100)
随机变量
∑ 1
100 × 1.5
100 k =1
(
X
k
−
2)
=
1 15
(
X
−
200)
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 （随机变量序列独立同分布且数学期望存在）
n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
给出了“频率稳定性”的严格数学解释. 提供了通过试验来确定事件概率的方法. 是数理统计中参数估计的重要理论依据之一.
§5.2 中心极限定理
望 E( Xk ) = µ (k = 1,2,"),则对于任意ε > 0,有
∑ lim
n→∞
P {|
1 n
n k =1
Xk
−
µ
|<
ε
}
=
1
说明
伯努利大数定理是辛钦定理的特殊情
况。n个随机变量的算术平均值以概率收敛于算
术平均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 算术平均值依概率收敛于数学期望
= 1 − P { V − 100 ≤ 0.387 } (10 12 ) 20
∫ 0.387
≈ 1−
1
e − t 2 dt
−∞ 2π
= 1 −Φ (0.387) = 0.348
所以 P{V > 105} ≈ 0.348
例3. 对敌人的防御地段进行100次炮击, 在每次 炮击中, 炮弹命中颗数的数学期望为2, 均方差为1.5, 求在100次炮击中,有180颗到220颗炮弹命中目标的 概率.
≥
1
−
225 202
= 0.4375
切比雪夫(Chebyshev)定理证明∑ ∑ E[1n来自n k =1Xk]
=1 n
n k =1
E(Xk
)
=
1 nµ n
=
µ
∑ ∑ D[ 1 n
n k =1
Xk]
=
1 n2
n
D( Xk )
k =1
1 = n2
nσ 2
=
σ2 n
∑ ∴
P{|
1 n
n k =1
Xk
−
µ
|<
大大数数定定律律与与中中心心极极限限定定理理
§5.1 大数定律
一、大数定律的客观背景 二、几个常见的大数定律 三、小结
一、大数定律的客观背景
大量的随机现象中平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
……
二、几个常见的大数定律
Th1: 切比雪夫(Chebyshev)定理的特殊情况
5
解 (1) 以Xk (k=1,2,…,400)记第k个学生来参加会议 的家长数,其分布律为
一、中心极限定理的客观背景 二、中心极限定理 三、小结
一、中心极限定理的客观背景
在现实中为什么很多数量指标都服从
或近似服从正态分布
~近似
Z N(
⋅
,
⋅
)
研究发现这些指标通常是由大量相互独立的随机因素
综合影响而成,即
Z = X1 + X2 + ⋅⋅⋅ + Xn
当n → ∞时,在什么情况下
Zn
=
n
∑
X i 的极限分布是 N
1,2,"),记
n
∑ Bn2 =
σ
2 k
若存在正数δ
>
0，使得当n
→
∞ 时，
k =1
∑ 1
Bn2+δ
n
E
k =1
||
Xk
−
µk
|2+δ | →
0，
n
n
n
n
∑ Xk − E(∑ Xk ) ∑ Xk − ∑ µk
随机变量
Zn = k=1
k =1 n
D(∑ Xk )
= k=1
k =1
Bn
k =1
n
n
n
n
∑ Xk − E(∑ Xk ) ∑ Xk − ∑ µk
E( Xk ) = µ , D( X k ) = σ 2,(k = 1,2,"),则序列
∑ Yn
=
1 n
n k =1
Xk
⎯⎯P→ µ
Th2：(伯努利大数定理) 设nA是n次独立重复试验中事件 A发生的次数, p
是事件 A在每次试验中发生的概率,则对于任意ε > 0,
有 lim P{| nA − p |< ε } = 1
若 X n ⎯⎯P → a ,Yn ⎯⎯P → b , 又 设 函 数 g ( x , y ) 在 点(a , b ) 连续，则 g ( X n ,Yn ) ⎯⎯P → g (a , b )
由此得到定理1的另一种叙述：
Th1′设随机变量 X1 , X2 ,…, Xn ,…相互独立,且 具有相同的数学期望和方差，
1
e
−
t2 2
dt
2π
= 2Φ (4 / 3) − 1 = 2 × 0.908－1 = 0.816
例2 一加法器同时收到20个噪声电器Vk(k=1,2,…,20),
设它们是相互独立的随机变量，且都在区间(0,10)上
20
服从均匀分布。记 V = ∑Vk k =1
求P{V>105}的近似值
解 E(Vk)=5, D(Vk)=100/12 (k=1,2,…,20).
P{|
1 n
n k =1
Xk
−
µ
|<
ε}
=
1
说明
（1）此定理也称为切比雪夫大数定理
（2） 在所给的条件下，当n充分大时， n个随机变量的算术平均值与它们的数学期望有 较大偏差的可能性很小。
注意
证明切比雪夫大数定律主要的数学工
具是切比雪夫不等式.
设 随 机 变 量 X 有 期 望 E(X) = µ , 方 差
D( X ) = σ 2,则对于任意的ε > 0,
P {|
X
−
E(X
)
|<
ε
}
≥
1
−
σ2 ε2
或
P {|
X
−
E(X
)
|≥
ε
}
≤
σ ε
2 2
切比雪夫不等式
1
说明 不等式给出了在随机变量 X 的分布未知的 情况下，事件{| X − µ |< ε }概率的一种估计方法。
例 ε=3 σ, P {|X- µ|< ε}= P {|X- µ|< 3 σ}≥0.8889 ε=4 σ P {|X- µ|< ε}=P {|X- µ|< 4 σ}≥0.9375
n
n
n
∑ Xk − E(∑ Xk ) ∑ Xk − nµ
Yk = k=1
k =1 n
D(∑ Xk )
= k=1 nσ
k =1
的分布函数Fn( x)对于任意 x满足
n
∑ Xk − nµ
lim
∫ n→∞
Fn (
x)
=
lim
n→∞
P{
k =1
nσ
≤ x}=
x −∞
1
e
−
t2 2
dt
=
Φ
(
x
)
2π
说明
1. 在所给的条件下，当n无穷大时， n 个具有期望和方差的独立同分布的随机 变量之和的标准化变量Yn近似服从标 准正态分布。
例 掷一颗骰子1620次，估计“六点”出现的次数X
在250～290之间的概率？
解 X ~ b(1620, 1)
E(X
)
=
np
6 = 1620
×
1
=
270
6
D( X ) = np(1 − p) = 1620 × 1 × 5 = 225
66
由切比雪夫(Chebyshev)不等式估计
P{250 < X < 290} = P{| X − 270 |< 20}
在概率论中，习惯于把和的分布收敛于 正态分布这一类定理都叫做中心极限定理.
3
二、中心极限定理
1、独立同分布的中心极限定理
设随机变量 X1, X2,…, X n,…相互独立, 服从同一
分 布 , 且 具 有 相 同 的 数 学 期 望 和 方 差 ， E(Xk ) = µ ,
D( Xk ) = σ 2 ≠ 0,(k = 1,2,"),则随机变量
(
⋅,
⋅
)
i =1
n
n
∑ Xi − ∑ E(Xi )
i =1
i=1
的极限分布是 N (0,1)
n
D(∑ Xi )
i=1
由于无穷个随机变量之和可能趋于∞，故不
研究n个随机变量之和本身而考虑它的标准化的
随机变量
n
n
∑ Xk − E(∑ Xk )
Zn = k=1
k =1 n
Var(∑ Xk )
k =1
的分布函数的极限.
∫ lim P{ ηn − np
x
≤ x}=
1
−t2
e 2 dt = Φ ( x)
n→∞ np(1 − p)