概率统计和随机过程课件第六章大数定律与中心极限定理
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
17
§6.2 中心极限定理
定理1 独立同分布的中心极限定理
设随机变量序列 X 1 ,X 2 , ,X n , 相互
独立，服从同一分布，且有期望和方差： E ( X k ) ,D ( X k ) 2 0 ,k 1 , 2 , 则对于任意实数 x ,
n Xk n
limPk1
x
1
x t2
n
P Y n E ( Y n )
1
2
pq n
故 lim PnAp0
n n
11
贝努里（Bernoulli） 大数定律的意义： 在概率的统计定义中，事件 A 发生的频率nn A “ 稳定于”事件 A 在一次试验中发生的概率是 指：
频率 n A 与 p 有较大偏差 nA p 是
n
n
E ( X k ) k , D ( X k ) k 2 2 ,k 1 , 2 ,
有 ln iP m 1 nkn 1Xk1 nkn 1 k 0
证明：由chebyshev不等式可得。
15
推论： 独立同分布时的 Chebyshev 大数定律
设随机变量序列 X 1 ,X 2 , ,X n , 相互独立，
小概率事件, 因而在 n 足够大时, 可以用频率 近似代替 p . 这种稳定称为依概率稳定.
12
定义 设 Y 1,Y 2, ,Y n, 是一系列随机变量，
a 是一常数，若 0有
n l i m PY na0
(或 l n iP m Y n a 1)
则称随机变量序列 Y 1,Y 2, ,Y n, 依概率收敛
50060
23
比较几个近似计算的结果
用二项分布(精确结果) P60X00160.010.9590
用Poisson 分布
P6X001 600.010.937
用Chebyshev 不等式 P6X001 600.010.768
用中心极限定理 P6X000160.010.9624
24
例2 某车间有200台车床，每台独立工作，开工 率为0.6. 开工时每台耗电量为 r 千瓦. 问供 电所至少要供给这个车间多少电力, 才能以 99.9% 的概率保证这个车间不会因供电不足 而影响生产？
且 X 1 ,X 2, ,X n具有相同的数学期望和方差
E ( X k ) ,D ( X k ) 2 ,k 1 , 2 ,
则 0有
ln im P1 nkn 1Xk0
或
ln i m P1 nkn 1Xk1
16
定理的意义： 具有相同数学期望和方差的独立随机变量序列 的算术平均值依概率收敛于数学期望. 当 n 足够大时，算术平均值几乎就是一个常数, 可以用算术平均值近似地代替数学期望.
e 2dt
n
n
Байду номын сангаас
2
18
注： 记
n
X k n
Yn k1 n
n
则 Y n 为 X k 的标准化随机变量.
k 1
ln iP m Y n x (x )
即 n 足够大时，Y n 的分布函数近似于标准正态 随机变量的分布函数
Yn近~ 似 N(0,1)
n
X k nYnn近似服从 N(n,n2)
X ~ B(6000,1/6)
E (X)1000,D (X)npq5000 6
22
X近~似N100,506000
P X 10.01 60006
P X 10 6 0 0 0
10 61000 0941 0000
506 00 506 00
60 60
500 60 500 60
2 60 1 0.9624
k 1
19
定理2 德莫佛 — 拉普拉斯中心极限定理 （DeMoivre-Laplace ）
Y n 是n次独立试验中事件A出现的次数，
p为A发生概率，即
Y n ~ B( n , p) , 0 < p < 1, n = 1,2,…
则对任一实数 x，有
liP m Y nnpx 1
x t2
e2dt
n n(1 pp) 2
设 P (X k1 )p,则 E (X k) p ,D (X k) pq
n
X 1 ,X 2, ,X n相互独立， nA Xk
k 1
记
Yn
1 n n k1
Xk ,
E(Yn)p,
D(Yn)pnq
由Chebyshev 不等式
10
0PnA p
n
n
Xk
n
Xk
P k1 E k1
n
20
即对任意的 a < b,
liP m aY nnp b 1
bt2
e2dt
n n(1 p p ) 2 a
Y n ~ N (np , np(1-p)) (近似)
证明：事 实 上 ， 据 二 项 分 布 的 定 义
n
Y n X i
i 1
其 中 X i 1 0事 事 件 件 A A 不 发 发 生 生
于常数 a , 记作
Yn
P a n
故
nA P p
n n
13
在 Bernoulli 定理的证明过程中， Y n 是相互 独立的服从 0-1分布的随机变量序列 {Xk} 的 算术平均值, Y n 依概率收敛于其数学期望 p .
结果同样适用于服从其它分布的独立随 机变量序列.
14
Chebyshev 大数定律 设随机变量序列 X 1 ,X 2 , ,X n , 相互独立， (指任意给定 n > 1, X 1 ,X 2, ,X n相互独立)， X 1 ,X 2 , ,X n , 的数学 期望与方差设为
另 一 方 面 ， E Y n n p , V a r ( Y n ) n p q
据 定 理 1 ， 知 结 论 成 立 。 21
例1 设有一大批种子，其中良种占1/6. 试估计 在任选的6000粒种子中，良种所占比例与 1/6比较上下不超过1%的概率.
解 设 X 表示6000粒种子中的良种数 , 则
Chebyshev 不等式对于 2 2 无实际意义 8
大数定律
贝努里（Bernoulli） 大数定律
设 nA 是 n 次独立重复试验中事件 A 发生的 次数, p 是每次试验中 A 发生的概率，则
0有
lim PnAp0
n n
或 limPnAp1
n n
9
证 引入随机变量序列{Xk}
1, 第k次试A验 发生 Xk 0, 第k次试A验 发生
若 E(X ) = , D(X ) = 2, 类似于正态分布的3
原理，由 Chebyshev 不等式可估计
P|X|310.1111
9
P|X|210.25
4 由 Chebyshev 不等式，可看出 D (X) 反映了 X
偏离 E(X ) 的程度. 固定 ， 较小者，
P| X|22
较小.
§6.2 中心极限定理
定理1 独立同分布的中心极限定理
设随机变量序列 X 1 ,X 2 , ,X n , 相互
独立，服从同一分布，且有期望和方差： E ( X k ) ,D ( X k ) 2 0 ,k 1 , 2 , 则对于任意实数 x ,
n Xk n
limPk1
x
1
x t2
n
P Y n E ( Y n )
1
2
pq n
故 lim PnAp0
n n
11
贝努里（Bernoulli） 大数定律的意义： 在概率的统计定义中，事件 A 发生的频率nn A “ 稳定于”事件 A 在一次试验中发生的概率是 指：
频率 n A 与 p 有较大偏差 nA p 是
n
n
E ( X k ) k , D ( X k ) k 2 2 ,k 1 , 2 ,
有 ln iP m 1 nkn 1Xk1 nkn 1 k 0
证明：由chebyshev不等式可得。
15
推论： 独立同分布时的 Chebyshev 大数定律
设随机变量序列 X 1 ,X 2 , ,X n , 相互独立，
小概率事件, 因而在 n 足够大时, 可以用频率 近似代替 p . 这种稳定称为依概率稳定.
12
定义 设 Y 1,Y 2, ,Y n, 是一系列随机变量，
a 是一常数，若 0有
n l i m PY na0
(或 l n iP m Y n a 1)
则称随机变量序列 Y 1,Y 2, ,Y n, 依概率收敛
50060
23
比较几个近似计算的结果
用二项分布(精确结果) P60X00160.010.9590
用Poisson 分布
P6X001 600.010.937
用Chebyshev 不等式 P6X001 600.010.768
用中心极限定理 P6X000160.010.9624
24
例2 某车间有200台车床，每台独立工作，开工 率为0.6. 开工时每台耗电量为 r 千瓦. 问供 电所至少要供给这个车间多少电力, 才能以 99.9% 的概率保证这个车间不会因供电不足 而影响生产？
且 X 1 ,X 2, ,X n具有相同的数学期望和方差
E ( X k ) ,D ( X k ) 2 ,k 1 , 2 ,
则 0有
ln im P1 nkn 1Xk0
或
ln i m P1 nkn 1Xk1
16
定理的意义： 具有相同数学期望和方差的独立随机变量序列 的算术平均值依概率收敛于数学期望. 当 n 足够大时，算术平均值几乎就是一个常数, 可以用算术平均值近似地代替数学期望.
e 2dt
n
n
Байду номын сангаас
2
18
注： 记
n
X k n
Yn k1 n
n
则 Y n 为 X k 的标准化随机变量.
k 1
ln iP m Y n x (x )
即 n 足够大时，Y n 的分布函数近似于标准正态 随机变量的分布函数
Yn近~ 似 N(0,1)
n
X k nYnn近似服从 N(n,n2)
X ~ B(6000,1/6)
E (X)1000,D (X)npq5000 6
22
X近~似N100,506000
P X 10.01 60006
P X 10 6 0 0 0
10 61000 0941 0000
506 00 506 00
60 60
500 60 500 60
2 60 1 0.9624
k 1
19
定理2 德莫佛 — 拉普拉斯中心极限定理 （DeMoivre-Laplace ）
Y n 是n次独立试验中事件A出现的次数，
p为A发生概率，即
Y n ~ B( n , p) , 0 < p < 1, n = 1,2,…
则对任一实数 x，有
liP m Y nnpx 1
x t2
e2dt
n n(1 pp) 2
设 P (X k1 )p,则 E (X k) p ,D (X k) pq
n
X 1 ,X 2, ,X n相互独立， nA Xk
k 1
记
Yn
1 n n k1
Xk ,
E(Yn)p,
D(Yn)pnq
由Chebyshev 不等式
10
0PnA p
n
n
Xk
n
Xk
P k1 E k1
n
20
即对任意的 a < b,
liP m aY nnp b 1
bt2
e2dt
n n(1 p p ) 2 a
Y n ~ N (np , np(1-p)) (近似)
证明：事 实 上 ， 据 二 项 分 布 的 定 义
n
Y n X i
i 1
其 中 X i 1 0事 事 件 件 A A 不 发 发 生 生
于常数 a , 记作
Yn
P a n
故
nA P p
n n
13
在 Bernoulli 定理的证明过程中， Y n 是相互 独立的服从 0-1分布的随机变量序列 {Xk} 的 算术平均值, Y n 依概率收敛于其数学期望 p .
结果同样适用于服从其它分布的独立随 机变量序列.
14
Chebyshev 大数定律 设随机变量序列 X 1 ,X 2 , ,X n , 相互独立， (指任意给定 n > 1, X 1 ,X 2, ,X n相互独立)， X 1 ,X 2 , ,X n , 的数学 期望与方差设为
另 一 方 面 ， E Y n n p , V a r ( Y n ) n p q
据 定 理 1 ， 知 结 论 成 立 。 21
例1 设有一大批种子，其中良种占1/6. 试估计 在任选的6000粒种子中，良种所占比例与 1/6比较上下不超过1%的概率.
解 设 X 表示6000粒种子中的良种数 , 则
Chebyshev 不等式对于 2 2 无实际意义 8
大数定律
贝努里（Bernoulli） 大数定律
设 nA 是 n 次独立重复试验中事件 A 发生的 次数, p 是每次试验中 A 发生的概率，则
0有
lim PnAp0
n n
或 limPnAp1
n n
9
证 引入随机变量序列{Xk}
1, 第k次试A验 发生 Xk 0, 第k次试A验 发生
若 E(X ) = , D(X ) = 2, 类似于正态分布的3
原理，由 Chebyshev 不等式可估计
P|X|310.1111
9
P|X|210.25
4 由 Chebyshev 不等式，可看出 D (X) 反映了 X
偏离 E(X ) 的程度. 固定 ， 较小者，
P| X|22
较小.