第五章大数定律及中心极限定理
合集下载
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
求P{V>105}的近似值
解 E(Vk)=5, D(Vk)=100/12 (k=1,2,…,20).
20
Vk 20 5
Z k1
V 20 5
100/ 12 20 100/ 12 20
近似服从正态分布N(0,1),
P{V 105} P{ V 20 5 105 20 5 }
100/ 12 20 100/ 12 20
设随机变量 X1 , X2 ,…, X n 相互独立, 服从同一分
布 , 且 具 有 相 同 的 数 学 期 望 和 方 差 , E(Xk) ,
D( Xk ) 2 0,(k 1,2,),则随机变量
n
n
n
Xk E( Xk ) Xk n
Yk k1
k 1 n
D( Xk )
k1
n
k 1
n k 1
Xk
|
}
1
说明
伯努利大数定理是辛钦定理的特殊情况。
n个随机变量的算术平均值以概率收敛于算术平
均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 用算术平均值作为所研究指标值的近似值。
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
(2.5) 0.9938
三 小结
1、独立同分布的中心极限定理
2.李雅普诺夫定理
3.棣莫佛-拉普拉斯定理
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1 n
D( Xk )
k1
k 1
Bn
k 1
近似服从标准正态分布N(0,1)。
思考题
一船舶在某海区航行,已知每遭受一次波浪的冲 击,纵摇角大于3的概率为p=1/3,若船舶遭受了 90000次波浪冲击,问其中有29500~30500次纵摇 角度大于3的概率是多少?
§5.1 大数定律
一、大数定律的客观背景 二、几个常见的大数定律 三、小结
一、大数定律的客观背景
大量的随机现象中平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
……
二、几个常见的大数定律
Th1: 切比雪夫(Chebyshev)定理的特殊情况
设随机变量 X1, X2,…, X n相互独立,且
P{ V 100 0.387} (10 12 ) 20
1 P{ V 100 0.387} (10 12) 20
0.387
1
1
et2 dt
2
1 (0.387) 0.348
所以 P{V 105} 0.348
例3. 对敌人的防御地段进行100次炮击, 在每次 炮击中, 炮弹命中颗数的数学期望为2, 均方差为1.5, 求在100次炮击中,有180颗到220颗炮弹命中目标的 概率.
随机变量
Zn k1
k 1
n
D( Xk )
k1
k 1
Bn
k 1
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1
n
D( Xk )
k1
k 1
Bn
k 1
分布函数Fn( x)对于任意 x 满足
n
n
Xk k
lim
n
Fn (
x)
lim
n
P{
k 1
k 1
Bn
x}
x
1 2
e
t2 2
近似服从标准正态分布
X 200
P{180 X 220} P{1.33
1.33}
1.33
1
e
t2 2
dt
(1.33)
1.5
(1.33)
1.33 2
2 (1.33) 1 2 0.9082-1
=0.8164
例4 对于一个学生而言,来参加家长会的家长人 数是一个随机变量,设一个学生无家长、1名家长、 2名家长来参加会议的概率分别为0.05、0.8、0.15. 若学校共有400名学生,设各学生参加会议的家长数 相互独立,且服从同一分布. (1)求参加会议的家长数X超过450的概率. (2) 求有1名家长来参加会议的学生数不多于340的 概率.
§5.2 中心极限定理
一、中心极限定理的客观背景 二、中心极限定理 三、小结
一、中心极限定理的客观背景
在实际问题中,常常需要考虑许多随机因素 所产生总影响.
例如:炮弹射击的落点与目标的偏差,就受着许多 随机因素的影响.
如瞄准时的误差, 空气阻力所产生的误差, 炮弹或炮身结构所引起的误差等等. 重要的是这些随机因素的总影响. 本节内容
解: 设Xk为第k次炮击炮弹命中的颗数(k=1,2,…,100),
在100次炮击中炮弹命中的总颗数
100
X Xk k 1
相互独立地服从同一分布,
E(Xk)=2, D(Xk)=1.52 (k=1,2,…,100)
随机变量
1
100
1
100 1.5 k1 ( X k 2) 15 ( X 200)
解 将船舶每遭受一次冲击看作是一次试验,
假定各次试验是独立的
90000次波浪冲击中纵摇角大于3的次数记为X,
X~b(90000,1/3),
400 0.19
1 (1.147) 0.1257
(2) 以Y表示有一名家长来参加会议的学生, 则
Y~b(400, 0.8)
P{Y 340}
P
Y 400 0.8
340 400 0.8
400 0.8 0.2 400 0.8 0.2
P
Y 400 0.8
2.5
400 0.8 0.2
注意
证明切比雪夫大数定律主要的数学工
具是切比雪夫不等式.
设 随 机 变 量 X 有 期 望 E(X) , 方 差
D( X ) 2,则对于任意的 0,
P {|
X
E(X
)
|
}
1
2 2
或
P {|
X
E(X
)
|
Байду номын сангаас
}
2 2
切比雪夫不等式
说明 不等式给出了在随机变量 X 的分布未知的 情况下,事件{| X | }概率的一种估计方法。
由于无穷个随机变量之和可能趋于∞,故不
研究n个随机变量之和本身而考虑它的标准化的
随机变量
n
n
Xk E( Xk )
Zn k1
k 1 n
Var( Xk )
k 1
的分布函数的极限.
在概率论中,习惯于把和的分布收敛于 正态分布这一类定理都叫做中心极限定理.
二、中心极限定理
1、独立同分布的中心极限定理
225
P{ 20 X 270 20}
4/3
1
e
t2 2
dt
15
225 15
4 / 3 2
2 (4 / 3) 1 2 0.908-1 0.816
例2 一加法器同时收到20个噪声电器Vk(k=1,2,…,20),
设它们是相互独立的随机变量,且都在区间(0,10)上
20
服从均匀分布。记 V Vk k 1
2
n
P{|
1 n
n k 1
Xk
|
}
1
2
n
2
令n ,且概率不能大于1,有
lim
n
P{|
Yn
|
}
lim
n
P{|
1 n
n k 1
Xk
|
}
1
定义 设Y1,Y2,…,Yn,…是一个随机变量序列,a 是一
个常数。若对于任意正数 ,有
lim
n
P{|
Yn
a
|
}
1
则称Y1,Y2,…,Yn,…依概率收敛于a ,记为Yn Pa .
具有相同的数学期望和方差, E( Xk ) ,
切比雪夫
D( Xk ) 2 ,(k 1,2,) ,做前 n 个随机变量的算
术平均Yn
1 n
n k 1
Xk
,则对于任意正数
,有
lim
n
P {|
Yn
|
}
lim
n
P{|
1 n
n k 1
Xk
|
}
1
说明 (1)此定理也称为切比雪夫大数定理
(2) 在所给的条件下,当n充分大时, n个随机变量的算术平均值与它们的数学期望有 较小的偏差的可能性比较大。可以考虑用算术平 均值作为所研究指标值的近似值。
若 X n P a ,Yn P b , 又 设 函 数 g( x, y) 在 点(a,b)连续,则 g( Xn ,Yn ) P g(a,b)
由此得到定理1的另一种叙述:
Th1′ 设随机变量 X1 , X2 ,…, X n 相互独立,且具
有相同的数学期望和方差,
E( X k ) , D( Xk ) 2,(k 1,2,),则序列
研究独立随机变量之和所特有的规律性问题
当n无限增大时,这个和 的分布是什么?
自从高斯指出测量误差服从正态分布 之后,人们发现,正态分布在自然界中 极为常见.
观察表明,如果一个量是由大量相互独立的随 机因素的影响所造成,而每一个别因素在总影响中 所起的作用不大. 则这种量一般都服从或近似服从 正态分布.
Yn
1 n
n k 1
Xk
P
Th2:(伯努利大数定理)
设nA是n次独立重复试验中事件 A发生的次数, p
是事件 A在每次试验中发生的概率,则对于任意 0,
有 lim P{| nA p | } 1
n
n
或 lim P{| nA p | } 0
n
n
说明 定理表明事件发生的频率依概率收敛于
2.李雅普诺夫定理
设随机变量 X1 , X2 ,…, X n 相互独立,且具有数学期
望和方差,
E(Xk
)
k
,
D( Xk
)
2 k
0 , (k
1,2,)
,记
n
Bn2
2 k
若存在正数
0,使得当n 时,
k 1
1
Bn2
n
E
k 1
||
Xk
k
|2 |
0,
n
n
n
n
Xk E( Xk ) Xk k
(k
1,2,),做前n个随机变量的算术平均Yn
1 n
n k 1
Xk
,
则对于任意正数 ,有
lim
n
P {|
Yn
|
}
lim
n
P{|
1 n
n k 1
Xk
|
}
1
E[1 n
n k 1
Xk]
1 n
n k 1
E
(
X
k
)
1 n
n
D[1 n
n k 1
Xk ]
1 n2
n k 1
D( Xk )
1 n2
n
2
解 (1) 以Xk (k=1,2,…,400)记第k个学生来参加会议 的家长数,其分布律为
Xk 0
1
2
pk 0.05
0.8
0.15
E( X k ) 1.1 D( X k ) 0.19 k 1,2,..., 400.
400
X Xk k 1
Xk 相互独立地服从同一分布
400
随机变量
Xk
k 1
4001.1
X
4001.1
400 0.19
400 0.19
近似服从标准正态分布
P{ X
450}
P
X 4001.1 400 0.19
450 4001.1
400 0.19
1
P
X
400 1.1
450
400 1.1
400 0.19
400 0.19
1
P
X
400
1.1
1.147
dt
(x)
3.棣莫佛-拉普拉斯定理
设随机变量n 服从参数 n, p (0 p 1)的
二项分布,则对任意 x ,有
lim P{ n np
x
x}
1
t2
e 2 dt ( x)
n np(1 p)
2
说明
当 n 很大,0 p 1是一个定值时 (或者说,np(1 p)也不太小时), 二项变量Yn 的分布近似正态分布 N (np,np(1 p)).
的分布函数Fn( x)对于任意 x 满足
n
Xk n
lim
n
Fn (
x)
lim
n
P{ k1
n
x}
x
1
e
t2 2
dt
(
x
)
2
说明
1. 在所给的条件下,当n无穷大时, n 个具有期望和方差的独立同分布的随机
变量之和Yn的分布函数近似服从标准 正态分布为极限分布。
2. 独立同分布随机变量序列的中心极限定理, 也称列维—林德伯格(Levy-Lindberg)定理.
事件的概率。由实际推断原理,在实际应 用中, 当试验次数很大时,可以用事件发生的频率 来代替事件的概率。
Th3: (辛钦定理) 设随机变量 X1 , X2 ,…, X n 相
互独立,服从同一分布,且具有相同的数学期望
E( X k ) (k 1,2,),则对于任意 0,有
lim
n
P {|
1 n
4.例题
例1 掷一颗骰子1620次,求“六点”出现的次数
X 在250~290之间的概率?
解 X ~ b(1620, 1) 6
E( X ) np 270
D( X ) np(1 p) 225
P{250 X 290} P{ 250 270 X 270 290 270}
225
225
66
由切比雪夫(Chebyshev)不等式估计
P{250 X 290} P{| X 270 | 20} 225
1 202 0.4375
切比雪夫(Chebyshev)定理证明
设随机变量 X1, X2 ,…, X n相互独立,且具有相同
的 数 学 期 望 和 方 差 , E( X k ) , D( Xk ) 2 ,
例 =3 , P {|X- |< }= P {|X- |< 3 }0.8889 =4 P {|X- |< }= P {|X- |< 4 }0.9375
例 掷一颗骰子1620次,估计“六点”出现的次数
X在250~290之间的概率?
解 X ~ b(1620, 1)
E(
X
)
np
6
1620
1
270
6
D( X ) np(1 p) 1620 1 5 225
解 E(Vk)=5, D(Vk)=100/12 (k=1,2,…,20).
20
Vk 20 5
Z k1
V 20 5
100/ 12 20 100/ 12 20
近似服从正态分布N(0,1),
P{V 105} P{ V 20 5 105 20 5 }
100/ 12 20 100/ 12 20
设随机变量 X1 , X2 ,…, X n 相互独立, 服从同一分
布 , 且 具 有 相 同 的 数 学 期 望 和 方 差 , E(Xk) ,
D( Xk ) 2 0,(k 1,2,),则随机变量
n
n
n
Xk E( Xk ) Xk n
Yk k1
k 1 n
D( Xk )
k1
n
k 1
n k 1
Xk
|
}
1
说明
伯努利大数定理是辛钦定理的特殊情况。
n个随机变量的算术平均值以概率收敛于算术平
均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 用算术平均值作为所研究指标值的近似值。
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
(2.5) 0.9938
三 小结
1、独立同分布的中心极限定理
2.李雅普诺夫定理
3.棣莫佛-拉普拉斯定理
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1 n
D( Xk )
k1
k 1
Bn
k 1
近似服从标准正态分布N(0,1)。
思考题
一船舶在某海区航行,已知每遭受一次波浪的冲 击,纵摇角大于3的概率为p=1/3,若船舶遭受了 90000次波浪冲击,问其中有29500~30500次纵摇 角度大于3的概率是多少?
§5.1 大数定律
一、大数定律的客观背景 二、几个常见的大数定律 三、小结
一、大数定律的客观背景
大量的随机现象中平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
……
二、几个常见的大数定律
Th1: 切比雪夫(Chebyshev)定理的特殊情况
设随机变量 X1, X2,…, X n相互独立,且
P{ V 100 0.387} (10 12 ) 20
1 P{ V 100 0.387} (10 12) 20
0.387
1
1
et2 dt
2
1 (0.387) 0.348
所以 P{V 105} 0.348
例3. 对敌人的防御地段进行100次炮击, 在每次 炮击中, 炮弹命中颗数的数学期望为2, 均方差为1.5, 求在100次炮击中,有180颗到220颗炮弹命中目标的 概率.
随机变量
Zn k1
k 1
n
D( Xk )
k1
k 1
Bn
k 1
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1
n
D( Xk )
k1
k 1
Bn
k 1
分布函数Fn( x)对于任意 x 满足
n
n
Xk k
lim
n
Fn (
x)
lim
n
P{
k 1
k 1
Bn
x}
x
1 2
e
t2 2
近似服从标准正态分布
X 200
P{180 X 220} P{1.33
1.33}
1.33
1
e
t2 2
dt
(1.33)
1.5
(1.33)
1.33 2
2 (1.33) 1 2 0.9082-1
=0.8164
例4 对于一个学生而言,来参加家长会的家长人 数是一个随机变量,设一个学生无家长、1名家长、 2名家长来参加会议的概率分别为0.05、0.8、0.15. 若学校共有400名学生,设各学生参加会议的家长数 相互独立,且服从同一分布. (1)求参加会议的家长数X超过450的概率. (2) 求有1名家长来参加会议的学生数不多于340的 概率.
§5.2 中心极限定理
一、中心极限定理的客观背景 二、中心极限定理 三、小结
一、中心极限定理的客观背景
在实际问题中,常常需要考虑许多随机因素 所产生总影响.
例如:炮弹射击的落点与目标的偏差,就受着许多 随机因素的影响.
如瞄准时的误差, 空气阻力所产生的误差, 炮弹或炮身结构所引起的误差等等. 重要的是这些随机因素的总影响. 本节内容
解: 设Xk为第k次炮击炮弹命中的颗数(k=1,2,…,100),
在100次炮击中炮弹命中的总颗数
100
X Xk k 1
相互独立地服从同一分布,
E(Xk)=2, D(Xk)=1.52 (k=1,2,…,100)
随机变量
1
100
1
100 1.5 k1 ( X k 2) 15 ( X 200)
解 将船舶每遭受一次冲击看作是一次试验,
假定各次试验是独立的
90000次波浪冲击中纵摇角大于3的次数记为X,
X~b(90000,1/3),
400 0.19
1 (1.147) 0.1257
(2) 以Y表示有一名家长来参加会议的学生, 则
Y~b(400, 0.8)
P{Y 340}
P
Y 400 0.8
340 400 0.8
400 0.8 0.2 400 0.8 0.2
P
Y 400 0.8
2.5
400 0.8 0.2
注意
证明切比雪夫大数定律主要的数学工
具是切比雪夫不等式.
设 随 机 变 量 X 有 期 望 E(X) , 方 差
D( X ) 2,则对于任意的 0,
P {|
X
E(X
)
|
}
1
2 2
或
P {|
X
E(X
)
|
Байду номын сангаас
}
2 2
切比雪夫不等式
说明 不等式给出了在随机变量 X 的分布未知的 情况下,事件{| X | }概率的一种估计方法。
由于无穷个随机变量之和可能趋于∞,故不
研究n个随机变量之和本身而考虑它的标准化的
随机变量
n
n
Xk E( Xk )
Zn k1
k 1 n
Var( Xk )
k 1
的分布函数的极限.
在概率论中,习惯于把和的分布收敛于 正态分布这一类定理都叫做中心极限定理.
二、中心极限定理
1、独立同分布的中心极限定理
225
P{ 20 X 270 20}
4/3
1
e
t2 2
dt
15
225 15
4 / 3 2
2 (4 / 3) 1 2 0.908-1 0.816
例2 一加法器同时收到20个噪声电器Vk(k=1,2,…,20),
设它们是相互独立的随机变量,且都在区间(0,10)上
20
服从均匀分布。记 V Vk k 1
2
n
P{|
1 n
n k 1
Xk
|
}
1
2
n
2
令n ,且概率不能大于1,有
lim
n
P{|
Yn
|
}
lim
n
P{|
1 n
n k 1
Xk
|
}
1
定义 设Y1,Y2,…,Yn,…是一个随机变量序列,a 是一
个常数。若对于任意正数 ,有
lim
n
P{|
Yn
a
|
}
1
则称Y1,Y2,…,Yn,…依概率收敛于a ,记为Yn Pa .
具有相同的数学期望和方差, E( Xk ) ,
切比雪夫
D( Xk ) 2 ,(k 1,2,) ,做前 n 个随机变量的算
术平均Yn
1 n
n k 1
Xk
,则对于任意正数
,有
lim
n
P {|
Yn
|
}
lim
n
P{|
1 n
n k 1
Xk
|
}
1
说明 (1)此定理也称为切比雪夫大数定理
(2) 在所给的条件下,当n充分大时, n个随机变量的算术平均值与它们的数学期望有 较小的偏差的可能性比较大。可以考虑用算术平 均值作为所研究指标值的近似值。
若 X n P a ,Yn P b , 又 设 函 数 g( x, y) 在 点(a,b)连续,则 g( Xn ,Yn ) P g(a,b)
由此得到定理1的另一种叙述:
Th1′ 设随机变量 X1 , X2 ,…, X n 相互独立,且具
有相同的数学期望和方差,
E( X k ) , D( Xk ) 2,(k 1,2,),则序列
研究独立随机变量之和所特有的规律性问题
当n无限增大时,这个和 的分布是什么?
自从高斯指出测量误差服从正态分布 之后,人们发现,正态分布在自然界中 极为常见.
观察表明,如果一个量是由大量相互独立的随 机因素的影响所造成,而每一个别因素在总影响中 所起的作用不大. 则这种量一般都服从或近似服从 正态分布.
Yn
1 n
n k 1
Xk
P
Th2:(伯努利大数定理)
设nA是n次独立重复试验中事件 A发生的次数, p
是事件 A在每次试验中发生的概率,则对于任意 0,
有 lim P{| nA p | } 1
n
n
或 lim P{| nA p | } 0
n
n
说明 定理表明事件发生的频率依概率收敛于
2.李雅普诺夫定理
设随机变量 X1 , X2 ,…, X n 相互独立,且具有数学期
望和方差,
E(Xk
)
k
,
D( Xk
)
2 k
0 , (k
1,2,)
,记
n
Bn2
2 k
若存在正数
0,使得当n 时,
k 1
1
Bn2
n
E
k 1
||
Xk
k
|2 |
0,
n
n
n
n
Xk E( Xk ) Xk k
(k
1,2,),做前n个随机变量的算术平均Yn
1 n
n k 1
Xk
,
则对于任意正数 ,有
lim
n
P {|
Yn
|
}
lim
n
P{|
1 n
n k 1
Xk
|
}
1
E[1 n
n k 1
Xk]
1 n
n k 1
E
(
X
k
)
1 n
n
D[1 n
n k 1
Xk ]
1 n2
n k 1
D( Xk )
1 n2
n
2
解 (1) 以Xk (k=1,2,…,400)记第k个学生来参加会议 的家长数,其分布律为
Xk 0
1
2
pk 0.05
0.8
0.15
E( X k ) 1.1 D( X k ) 0.19 k 1,2,..., 400.
400
X Xk k 1
Xk 相互独立地服从同一分布
400
随机变量
Xk
k 1
4001.1
X
4001.1
400 0.19
400 0.19
近似服从标准正态分布
P{ X
450}
P
X 4001.1 400 0.19
450 4001.1
400 0.19
1
P
X
400 1.1
450
400 1.1
400 0.19
400 0.19
1
P
X
400
1.1
1.147
dt
(x)
3.棣莫佛-拉普拉斯定理
设随机变量n 服从参数 n, p (0 p 1)的
二项分布,则对任意 x ,有
lim P{ n np
x
x}
1
t2
e 2 dt ( x)
n np(1 p)
2
说明
当 n 很大,0 p 1是一个定值时 (或者说,np(1 p)也不太小时), 二项变量Yn 的分布近似正态分布 N (np,np(1 p)).
的分布函数Fn( x)对于任意 x 满足
n
Xk n
lim
n
Fn (
x)
lim
n
P{ k1
n
x}
x
1
e
t2 2
dt
(
x
)
2
说明
1. 在所给的条件下,当n无穷大时, n 个具有期望和方差的独立同分布的随机
变量之和Yn的分布函数近似服从标准 正态分布为极限分布。
2. 独立同分布随机变量序列的中心极限定理, 也称列维—林德伯格(Levy-Lindberg)定理.
事件的概率。由实际推断原理,在实际应 用中, 当试验次数很大时,可以用事件发生的频率 来代替事件的概率。
Th3: (辛钦定理) 设随机变量 X1 , X2 ,…, X n 相
互独立,服从同一分布,且具有相同的数学期望
E( X k ) (k 1,2,),则对于任意 0,有
lim
n
P {|
1 n
4.例题
例1 掷一颗骰子1620次,求“六点”出现的次数
X 在250~290之间的概率?
解 X ~ b(1620, 1) 6
E( X ) np 270
D( X ) np(1 p) 225
P{250 X 290} P{ 250 270 X 270 290 270}
225
225
66
由切比雪夫(Chebyshev)不等式估计
P{250 X 290} P{| X 270 | 20} 225
1 202 0.4375
切比雪夫(Chebyshev)定理证明
设随机变量 X1, X2 ,…, X n相互独立,且具有相同
的 数 学 期 望 和 方 差 , E( X k ) , D( Xk ) 2 ,
例 =3 , P {|X- |< }= P {|X- |< 3 }0.8889 =4 P {|X- |< }= P {|X- |< 4 }0.9375
例 掷一颗骰子1620次,估计“六点”出现的次数
X在250~290之间的概率?
解 X ~ b(1620, 1)
E(
X
)
np
6
1620
1
270
6
D( X ) np(1 p) 1620 1 5 225