概率论与数理统计第五章5.6 极限定理简介
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
250 / 3 250 / 3
广 东 工 业 大 学
定理7（独立同分布的中心极限定理）
设1,2 , ,n , 为相互独立且具有相同概率
分布的随机变量，E(i ) , D(i ) 2,i 1,2, ,
则对于任意实数x, 有
n
i n
lim P( i1
x)
x
n
n
-
1 e-t2 2dt (x)
lim
P
n np
x
x
1
t2
e 2 dt (x).
n np(1 p) 2π
广
正态分布是二项分布的极限分布, 当n充分大
东 工
时, 可以利用该定理来计算二项分布的概率.
业 大
学
书例26:假设一批种子的良种率为1/6，从中任意选出600粒，试
计算这600粒种子中良种所占比例与 1/6之差的绝对值不超过
贝努里(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率
nA n “ 稳定于”事件 A 在一次试验中发生
的概率是指：
频率nA 与 p 有较大偏差 nA p 是
n
n
小概率事件, 因而在 n 足够大时, 可以用频
率近似代替 p . 这种稳定称为依概率稳定.广 东 工 业 大 学
问题: 某个随机变量是由大量相互独立且均匀 小的随机变量相加而成的, 研究其概率分布情况.
广 东 工 业
在概率论中，习惯于把和的分布收敛于
大 学
正态分布这一类定理都叫做中心极限定理.
定 棣莫弗-拉普拉斯中心极限定理 理 (De Moivre-Laplace) 一 [ 二项分布以正态分布为极限分布 ]
D(
ε2
)
，其中ε为任意正数
.
切比雪夫不等式 的等价形式
P{
μ
ε}
D( )
ε2
P{
μ
ε} 1
D( )
ε2
.
μ E( )
不等式给出了随机变量ξ的分布未知情况下，由方差对ξ
落在以期望为中心的事件{| | } 的概率的一种估计。
例如，取 =2 D， =3 D， =4 D时，分别有
广
p{| E( ) | 2 D } 1 D( ) 4D( )
=0.75
东 工 业 大
p{| E( ) | 3 D } 1 D( ) =0.8889
学
9D( )
课堂练习
1. 设随机变量X的方差D(X)=0.0001, 则由切比雪夫不等式可知
P{|X-E(X)|<3×0.01}≥( 1 0.0001).
0.03 2
2. 设随机变量X的数学期望为μ, 标准差为σ,则由切比绍夫不等式
2π
广 东 工 业 大 学
5.6.2 大数定律
1. 为何能以某事件发生的频率 作为该事件的 概率的估计？
2. 为何能以样本均值作为总体 期望的估计？
大数 定律
广 东 工 业 大 学
2 . 切比雪夫不等式
定理1 (切比雪夫不等式) 对于任意具有限方差的随机变量 ，
均有 不等式
P{ E( ) ε}
当 n 很大时, 近似地服从正态分布.
虽然在一般情况下，我们很难求出
1
2
的
n
分
布
的
确
切
形
式
，
但当
n很大时，可以求出近似分布。n i n
n
随机变量i i 1
记 n
i 1
n
广 东
n n
n近似地服从于正态分布
工 业 大
学
N(n, n 2 )
三、典型例题
例1 一加法器同时收到 20 个噪声电压 Vk ( k 1, 2,L 20 ), 设它们是相互独立的随机变量,
广 东 工 业 大 学
定 林德伯格-列维中心极限定理 理 (Lindberg-levi) 二 [ 独立同分布的中心极限定理 ]
广 东 工 业 大 学
定理六(德莫佛－拉普拉斯定理) 德莫佛 拉普拉斯
设随机变量 n (n 1, 2,L ) 服从参数为 n, p
(0 p 1)的二项分布, 则 对于任意 x, 恒有
P{|X-μ|≥3σ}≤(
).
广
东
工
业
大
学
大数定律
贝努里（Bernoulli） 大数定律
设 nA 是 n 次独立重复试验中事件 A 发生 的次数, p 是每次试验中 A 发生的概率, 则
0 有
lim P nA p 0
n n
或
lim P nA p 1
n n
广 东
工
业 大
学
2
它表明，当n充分大时，n个具有期望和方差
的独立同分布的随机变量之和近似服从正态分布广 东. 工 业 大 学
定理7表明:
特无别论地各，当个ξ随i 为机(0,变1)分量布时1,，2即,L为,棣n莫,L佛－服拉从普什拉斯么定理
分布（二, 只项要分布满的足正定态近理似的）条。件, 那么它们的和 n k k 1
§6 极限定理简介
本章要解决的问题
为何正态分布在概率论中占
有极其重要的地位？
பைடு நூலகம்
中心极限定理
广 东 工 业 大 学
一、问题的引入
实例:
考察射击命中点与靶心距离的偏差. 这种偏差是大量微小的偶然因素造成的微
小误差的总和, 这些因素包括: 瞄准误差、测量 误差、子弹制造过程方面 (如外形、重量等) 的 误差以及射击时武器的振动、气象因素(如风速、 风向、能见度、温度等) 的作用, 所有这些不同 因素所引起的微小误差是相互独立的, 并且它们 中每一个对总和产生的影响不大.
0.02的概率。
解： 设 表示600粒种子中的良种数,则 ~ B(600, 1).
由德莫佛-拉普拉斯定理
6
np 100, npq 250/3
P{ 1 0.02} P{| -100| 12}
600 6
近似~N(0,1)
P{ | -100| 12 } 2(1.3145) 1 0.8114
20
且都在区间 (0,10) 上服从均匀分布, 记 V Vk , k 1
求 P{V 105}的近似值.
解 E(Vk ) 5,
D(Vk
)
100 12
(k
1,2,
,20).
广
东
由定理四, 随机变量 Z 近似服从正态分布 N (0,1) ,
工 业
大
学
20
其中
Z
Vk
k 1
100
20 5 20
V 20 5 100 20
12
12
P{V 105} P{V 20 5 105 20 5}
100 20 100 20
12
12
P{V 20 5 0.387} 1 P{ V 100 0.387}
100 20
100 20
1
12
0.387
1
t2
12
e 2 dt 1 (0.387) 0.348.
Chebyshev 大数定律
设 r.v. 序列 1,2,L ,n ,L 相互独立，
广 东 工 业 大 学
定理7（独立同分布的中心极限定理）
设1,2 , ,n , 为相互独立且具有相同概率
分布的随机变量，E(i ) , D(i ) 2,i 1,2, ,
则对于任意实数x, 有
n
i n
lim P( i1
x)
x
n
n
-
1 e-t2 2dt (x)
lim
P
n np
x
x
1
t2
e 2 dt (x).
n np(1 p) 2π
广
正态分布是二项分布的极限分布, 当n充分大
东 工
时, 可以利用该定理来计算二项分布的概率.
业 大
学
书例26:假设一批种子的良种率为1/6，从中任意选出600粒，试
计算这600粒种子中良种所占比例与 1/6之差的绝对值不超过
贝努里(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率
nA n “ 稳定于”事件 A 在一次试验中发生
的概率是指：
频率nA 与 p 有较大偏差 nA p 是
n
n
小概率事件, 因而在 n 足够大时, 可以用频
率近似代替 p . 这种稳定称为依概率稳定.广 东 工 业 大 学
问题: 某个随机变量是由大量相互独立且均匀 小的随机变量相加而成的, 研究其概率分布情况.
广 东 工 业
在概率论中，习惯于把和的分布收敛于
大 学
正态分布这一类定理都叫做中心极限定理.
定 棣莫弗-拉普拉斯中心极限定理 理 (De Moivre-Laplace) 一 [ 二项分布以正态分布为极限分布 ]
D(
ε2
)
，其中ε为任意正数
.
切比雪夫不等式 的等价形式
P{
μ
ε}
D( )
ε2
P{
μ
ε} 1
D( )
ε2
.
μ E( )
不等式给出了随机变量ξ的分布未知情况下，由方差对ξ
落在以期望为中心的事件{| | } 的概率的一种估计。
例如，取 =2 D， =3 D， =4 D时，分别有
广
p{| E( ) | 2 D } 1 D( ) 4D( )
=0.75
东 工 业 大
p{| E( ) | 3 D } 1 D( ) =0.8889
学
9D( )
课堂练习
1. 设随机变量X的方差D(X)=0.0001, 则由切比雪夫不等式可知
P{|X-E(X)|<3×0.01}≥( 1 0.0001).
0.03 2
2. 设随机变量X的数学期望为μ, 标准差为σ,则由切比绍夫不等式
2π
广 东 工 业 大 学
5.6.2 大数定律
1. 为何能以某事件发生的频率 作为该事件的 概率的估计？
2. 为何能以样本均值作为总体 期望的估计？
大数 定律
广 东 工 业 大 学
2 . 切比雪夫不等式
定理1 (切比雪夫不等式) 对于任意具有限方差的随机变量 ，
均有 不等式
P{ E( ) ε}
当 n 很大时, 近似地服从正态分布.
虽然在一般情况下，我们很难求出
1
2
的
n
分
布
的
确
切
形
式
，
但当
n很大时，可以求出近似分布。n i n
n
随机变量i i 1
记 n
i 1
n
广 东
n n
n近似地服从于正态分布
工 业 大
学
N(n, n 2 )
三、典型例题
例1 一加法器同时收到 20 个噪声电压 Vk ( k 1, 2,L 20 ), 设它们是相互独立的随机变量,
广 东 工 业 大 学
定 林德伯格-列维中心极限定理 理 (Lindberg-levi) 二 [ 独立同分布的中心极限定理 ]
广 东 工 业 大 学
定理六(德莫佛－拉普拉斯定理) 德莫佛 拉普拉斯
设随机变量 n (n 1, 2,L ) 服从参数为 n, p
(0 p 1)的二项分布, 则 对于任意 x, 恒有
P{|X-μ|≥3σ}≤(
).
广
东
工
业
大
学
大数定律
贝努里（Bernoulli） 大数定律
设 nA 是 n 次独立重复试验中事件 A 发生 的次数, p 是每次试验中 A 发生的概率, 则
0 有
lim P nA p 0
n n
或
lim P nA p 1
n n
广 东
工
业 大
学
2
它表明，当n充分大时，n个具有期望和方差
的独立同分布的随机变量之和近似服从正态分布广 东. 工 业 大 学
定理7表明:
特无别论地各，当个ξ随i 为机(0,变1)分量布时1,，2即,L为,棣n莫,L佛－服拉从普什拉斯么定理
分布（二, 只项要分布满的足正定态近理似的）条。件, 那么它们的和 n k k 1
§6 极限定理简介
本章要解决的问题
为何正态分布在概率论中占
有极其重要的地位？
பைடு நூலகம்
中心极限定理
广 东 工 业 大 学
一、问题的引入
实例:
考察射击命中点与靶心距离的偏差. 这种偏差是大量微小的偶然因素造成的微
小误差的总和, 这些因素包括: 瞄准误差、测量 误差、子弹制造过程方面 (如外形、重量等) 的 误差以及射击时武器的振动、气象因素(如风速、 风向、能见度、温度等) 的作用, 所有这些不同 因素所引起的微小误差是相互独立的, 并且它们 中每一个对总和产生的影响不大.
0.02的概率。
解： 设 表示600粒种子中的良种数,则 ~ B(600, 1).
由德莫佛-拉普拉斯定理
6
np 100, npq 250/3
P{ 1 0.02} P{| -100| 12}
600 6
近似~N(0,1)
P{ | -100| 12 } 2(1.3145) 1 0.8114
20
且都在区间 (0,10) 上服从均匀分布, 记 V Vk , k 1
求 P{V 105}的近似值.
解 E(Vk ) 5,
D(Vk
)
100 12
(k
1,2,
,20).
广
东
由定理四, 随机变量 Z 近似服从正态分布 N (0,1) ,
工 业
大
学
20
其中
Z
Vk
k 1
100
20 5 20
V 20 5 100 20
12
12
P{V 105} P{V 20 5 105 20 5}
100 20 100 20
12
12
P{V 20 5 0.387} 1 P{ V 100 0.387}
100 20
100 20
1
12
0.387
1
t2
12
e 2 dt 1 (0.387) 0.348.
Chebyshev 大数定律
设 r.v. 序列 1,2,L ,n ,L 相互独立，