概率论5.1大数定理的概念

研究大量的随机现象，常常采用极限形式，由此导致对极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:
与大数定律中心极限定理
§5.1大数定理的概念:
大量的随机现象中平均结果的稳定性
大数定律的客观背景
大量抛掷硬币
正面出现频率
字母使用频率
生产过程中的废品率
……
§5.2切贝谢夫不等式.
设随机变量X 有期望E (X )和方差，
则对于任给>0,
DX ε2
εεDX
}|)X (E X {|P ≤≥-2
1εεDX
}|)X (E X {|P -≥<-或:
证明:2
εεDX
}|)X (E X {|P ≤≥-如果X 是离散型随机变量,那么:
=≥-}|)X (E X {|P ε∑≥-εEX x k k p 1≥-ε
EX x k Θ()∑≥--≤
εεEX x k k k p EX x 22()
∑-≤k k p EX x 22ε2
εDX
=如果X 是连续型随机变量,可证明结论成立.
说明:
1.切贝谢夫不等式成立的条件是:
DX ,EX 存在.
2.切贝谢夫不等式给出了随机变量的离差的绝对值与其方差DX 的关系.
EX X -方差DX 越小,随机变量X 与其期望EX 的离差也越小.
EX ( )
ε-EX ε+EX X EX 的代表性强.
3.给出了以下概率的下界或上界:
}|)X (E X {|P ε<-21DX
ε-≤1
≤{|()|}P X E X ε-≥2
DX ε≤0≤
3.切贝谢夫不等式:
}|)X (E X {|P ε<-2
1εDX -
≥由此:2
1εεεDX }EX X EX {P -
≥+<<-当EX 和DX 已知时,可估计对称区间的概率
但精确度不高.
例设电站供电网有10000盏点灯,夜晚每一盏灯开灯的概率都是0.7,而假定开,关时间彼此独立,估计夜晚同时开着的等数在6800与7200之间的概率?解:令X 表示在夜晚同时开着的灯数,它服从
参数n=10000,p=0.7的二项分布.EX=np=7000
DX=npq=2100P(6800<X<7200)=}X {P 20070002007000+<<-}EX X {P 200<-≥2200
1DX -=0.95
(一)定理1（切贝谢夫大数定律）
∑∑==∞→=<-n i n i i i n X E n X n P 111}|)(11{|lim ε设X 1,X 2, …是相互独立的随机变量序列，它们都有有限的期望EX i 和方差DX i ，并且方差有共同的上界，即D (X i ) ≤K ，i =1,2, …，切比雪夫
则对任意的ε>0，
§5.3 大数定理
证明:∑∑==∞→=<-n i n i i i n X E n X n P 11
1}|)(11{|lim ε∑==n i i X n 11ξ令:⎭⎬⎫⎩⎨⎧<-∑∑==n i n i i i |)X (E n X n P 1111ε=ξE 则:⎪⎪⎭
⎫ ⎝⎛∑=n i i X n E 11∑==n i i EX n 11{}εξξ<-=E P 1≤由切贝谢夫不等式得:
{}21εξεξξD E P -≥<-22111n i i DX n ε==-∑21K n ε≥-
注意定理的几个条件:
1.独立性:ΛΛn X ,X ,X 21相互独立.
2.均值,方差的存在性.
Λ,,i DX ,EX i i 21=存在.3.所有方差都有共同的上界.
Λ
,,i k
DX i 21=<由此看出:切贝谢夫定理的条件比不等式的强.
(二).
依概率收敛于a 的定义.{}n ξ若存在常数a ,使得对于任何有:0>εεξ<-a n ∞
→n lim {}1=P 1.{}n ξ是随机变量序列.ΛΛn ,,ξξξ212.εξ<-a n 是指随机变量序列收敛于a .
…..(*)
3. (*)说明当n 增大时,
几乎是必然事件.{}n ξ
∑=n
i i X n 1
1
随机的了，取值接近于其数学期望几乎是必然事件.
即当n 充分大时，差不多不再是
切比雪夫大数定律给出了平均值稳定性的科学描述
∑=n
i i X n 1
1
∑=n
i i EX n 1
1
P
作为切比雪夫大数定律的特殊情况，有下面的定理.
1}|1
{|lim 1
=<-∑=∞→εμn
i i n X n P 设X 1,X 2, …是独立随机变量序列，且E (X i )= ，D (X i )= ，i =1,2,…,则对任给>0,
2
σμε说明:随机变量的算术平均值依概率收敛于其均值.
推论:
贝努里
设X 是n 重贝努里试验中事件A 发生的次数，p 是事件A 发生的概率，
⎩⎨
⎧=否则，
发生
次试验如第，01A i X i 引入i =1,2,…,n 则
∑==n
i i
X X 1∑==n
i i X n n X 1
1
是事件A 发生的频率X i 0
1p k
p
1-p
(三)贝努里大数定律.
于是有下面的定理：
设X 是n 重贝努里试验中事件A 发生的次数，p 是事件A 发生的概率，则对任给的
ε> 0，
定理3（贝努里大数定律）
1=<-∞→}|p n
X
{|P lim n ε贝努里
说明:当试验次数增大时,
事件发生的频率稳定于概率.
贝努里大数定律表明，当重复试验次数
n 充分大时，事件A 发生的频率X /n 与事件A 的概率p 有较大偏差的概率很小.贝努里大数定律提供了通过试验来确定事件概率的方法.
0=≥-∞→}|p n
X
{|P lim n ε或:任给ε>0，贝努里大数定律
请看演示
蒲丰投针问题中解法的理论依据就是大数定律
当投针次数n 很大时，用针与线相交的频率m /n 近似针与线相交的概率p ，从而求得π的近似值.
针长L 线距a
am
Ln 2≈
π
解:因为针长L 与平行线的交点数m 成正比.
kL m =a
a
π为求k,令L=a
π做n 次试验,其交点个数为2n,
于是:a k n π=2a
n k π2=a nL m π2=ma nL 2=
π只需要令:a L 2
1=m n ≈π试验2212次,其中交点有704次,则:2212
3.142704
π≈=
下面给出的独立同分布下的大数定律，不要求随机变量的方差存在.设随机变量序列X 1,X 2, …独立同分布，具有有限的数学期E (X i )=μ,i=1,2,…，则对任给ε>0 ，
定理2（辛钦大数定律）1}|1
{|lim 1
=<-∑=∞→εμn i i n X n P 辛钦大数定律
辛钦
请看演示
例如要估计某地区的平均亩产量，要收割某些有代表性的地块，例如n 块. 计算其平均亩产量，则当n较大时，可用它作为整个地区平均亩产量的一个估计.
中心极限定理
在实际问题中，常常需要考虑许多随机因素所产生总影响
.
例如：炮弹射击的落点与目标的偏差，就受着许多随机因素的影响.
观察表明，如果一个量是由大量相互独立的随机因素的影响所造成，而每一个别因素在总影响中所起的作用不大. 则这种量一般都服从或近似服从正态分布.
自从高斯指出测量误差服从正态分布之后，人们发现，正态分布在自然界中极为常见
.
∑∑∑===-=
n
k k n
k n
k k k
n X D X E X
Z 1
1
1)
()
(设:ΛΛn X ,X ,X ,X 321是相互独立的随机变量n
X X X X +++=Λ21其有限和函数为:称:
为规范和.
∑∑∑===-=
n
k k n
k n
k k k
n X D X E X
Z 1
1
1)
()
(的分布函数的极限.
可以证明，满足一定的条件，上述极限分布是标准正态分布.
考虑中心极限定理
设ΛΛn X ,X ,X 21是相互独立的随机变量有期望值i i EX α=及方差+∞
<=2i
i DX σ()Λ21,i =若每个i X 对总和∑=n
i i
X 1
的影响不大.
其规范和的分布函数的极限分布为标准正态分布.
定理5.3: (李雅普诺夫定理)
=⎪
⎪⎭⎫
⎝⎛∑=n
i i X E 1∑=n i i EX 1
∑==n
i i 1α=⎪
⎪⎭⎫ ⎝⎛∑=n
i i X D 1∑=n i i DX 1
∑==n i i 12
σ∑∑∑===-=
n
i i n
i n
i i i
n )
X (D )
X (E X
Z 1
1
1∑==n
i i
n S 1
2
σ
令:()
∑=-=n
i i i
n
X
S 1
1α()dt
e x Z P lim t x
n n 2
2
21-∞
-∞
→⎰
=≤π
()
x Φ=
}{
lim 1
x n
n X
P n
i i
n ≤-∑=∞
→σμ
⎰
∞
=
x
-2
t -dt e 212π
设X 1,X 2, …是独立同分布的随机
变量序列，且E (X i )= ，D (X i )= ，
i =1,2,…，则
2
σμ列维一林德伯格（Levy －Lindberg ）定理.
定理1（独立同分布下的中心极限定理）
2随机样本.sav
})
1({lim x p np np
Y P n n ≤--∞→设随机变量服从参数n, p (0<p <1)的二项分布，则对任意x ，有
n Y dt
e x
t ⎰
∞
--=2
221
π
定理表明，当n 很大，0<p <1是一个定值时（或者说，np (1-p )也不太小时），二项变量的分布近似正态分布N (np ,np (1-p )).
n Y 定理(棣莫佛－拉普拉斯定理）
请看演示
中心极限定理的直观演示
例1 根据以往经验，某种电器元件的寿命服从均值为100小时的指数分布. 现随机地取16只，设它们的寿命是相互独立的. 求这16只元件的寿命的总和大于1920小时的概率.
由题给条件知，诸X i 独立，
16只元件的寿命的总和为∑==16
1k k
X Y 解: 设第i 只元件的寿命为X i , i =1,2, …,16
E (X i )=100, D (X i )=10000
依题意，所求为P (Y >1920)
由于E (Y )=1600,
D (Y )=160000由中心极限定理,近似N (0,1)400
1600-Y P (Y >1920)=1-P (Y ≤1920)
).(801Φ-≈=1-0.7881=0.2119
⎪⎭⎫ ⎝⎛-≤--=40016001920400
16001Y P ⎪⎭⎫ ⎝⎛≤--=80400
16001.Y P
例2. (供电问题)某车间有200台车床,在生产期间由于需要检修、调换刀具、变换位置及调换工件等常需停车. 设开工率为0.6, 并设每台车床的工作是独立的，且在开工时需电力1千瓦.
问应供应多少瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产?
设需要x千瓦电力.由题意得:
()999
≤
0.
P≥
X
x
用X 表示在某时刻工作着的车床数，解：对每台车床的观察作为一次试验，每次试验观察该台车床在某时刻是否工作，工作的概率为0.6，共进行200次试验.依题意，X ~B (200,0.6),
现在的问题是：P (X ≤x )≥0.999的最小的x .求满足设需x 千瓦电力，（由于每台车床在开工时需电力1千瓦，x 台工作所需电力即x 千瓦.）
由德莫佛-拉普拉斯极限定理
)1(p np np X --近似N (0,1),于是P (X ≤x )= P (0≤X ≤x )
这里np =120, np (1-p )=48)()x (48
12048120---≈ΦΦ)x (48
120-≈Φ
查正态分布函数表得由≥0.999，)x (48120-Φ从中解得x ≥141.5,即所求x =142.(千瓦)也就是说, 应供应142 千瓦电力就能以99.9%的概率保证该车间不会因供电不足而影响生产.
999
.0)1.3(=Φ48
120-x ≥3.1,故
例3在一个罐子中,装有10个编号为0-9的同样的球，从罐中有放回地抽取若干次，每次抽一个，并记下号码.
问对序列{X k },能否应用大数定律？
诸X k 独立同分布，且期望存在，故能使用大数定律.
解: ,9.01.001~⎭⎬⎫⎩⎨⎧k X k =1,2, …
E (X k )=0.1,⎩⎨⎧=否则次取到号码第0
01k X k (1) 设，k =1,2, …
∑=∞→=<-n
k k n X n P 11}|1.01{|lim ε即对任意的ε>0,
解: ,9.01.001~⎭⎬⎫⎩⎨⎧k X k =1,2, …
E (X k )=0.1,诸X k 独立同分布，且期望存在，故能使用大数定律.
(2) 至少应取球多少次才能使“0”出现的频率在0.09-0.11之间的概率至少是0.95?
解：设应取球n 次，0出现频率为∑=n k k X n 11,
n .)X (E n k k 101=∑=n
.)X (D n
k k 0901=∑=由题可知:95011010901
.}.X n .{P n k k ≥≤≤∑=由中心极限定理
近似N (0,1)n n
X n
k k 3.01.01-∑=n X n n k k 3.01.011-=∑=
}11.0109.0{1≤≤∑=n
k k X n P 1)30(2-≈n Φn X n n
k k 3.01.011-∑=近似N (0,1)}n /...n /..X n n /...{P n k k 30101103010130100901-≤-≤-=∑=}n n /..X n n {P n k k 3030101301≤-≤-=∑=
95
.01)30(2≥-n Φ欲使975.0)30
(≥n Φ即96.130
≥n
查表得
从中解得
3458
≥n 即至少应取球3458次才能使“0”出现的频率在0.09-0.11之间的概率至少是0.95.
(3) 用中心极限定理计算在100次抽取中,
数码“0”出现次数在7和13之间的概率.解：在100次抽取中, 数码“0”出现次数为
∑=100
1
k k
X 3
10
100
1
-∑=k k
X
即
近似N (0,1)
由题:所求概率为:∑=≤≤100
1)137(k k X P =⎪⎪⎭
⎫
⎝⎛∑=100
1k k X E 1010100=⨯.=⎪⎪⎭
⎫
⎝⎛
∑=100
1k k X D 9090100=⨯.
即在100次抽取中，数码“0”出现次数在7和13之间的概率为0.6826.
∑=≤≤
100
1
)137(k k
X
P =0.6826
3
10
100
1
-∑=k k
X
近似N (0,1)
)
13
10
1(100
1
≤-≤
-=∑=k k
X
P )
1()1(-Φ-Φ≈1)1(2-Φ=
请看演示戏院设座问题
作业:
1.预习§7.1-§7.3
2.练习P116 10 14 15
3.思考题:
A 组:如果X 是连续型随机变量.证明:
2
{|()|}DX
P X E X εε
-≥≤
B 组:写出大数定理与中心极限定理的内容
并说明其含义
如果X 是连续型随机变量.
=
≥-}|)X (E X {|P ε()dx x |)X (E x |⎰
≥-ε
ϕ()()dx x )X (E x |)X (E x |⎰
≥--≤
ε
ϕε
2
2
()()⎰∞
+∞
--≤dx x )X (E x ϕε
22
2
ε
DX
=。