第五章 大数定律与中心极限定理
合集下载
第五章 大数定律与中心极限定理
中心极限定理
独立随机变量和
设 {Xn} 为独立随机变量序列,记其和为
Yn = ∑Xi
i=1 n
讨论独立随机变量和的极限分布, 指出极限分布为正态分布.
13 July 2011
湖南大学
第五章 大数定律与中心极限定理
第18页 18页
独立同分布下的中心极限定理
林德贝格—勒维中心极限定理 设 {Xn} 为独立同分布随机变量序列,数学期 望为µ, 方差为 σ2>0,则当 n 充分大时,有
解: 设 X 表示命中的炮弹数, 则 X ~ b(500, 0.01)
(1) P( X = 5) = C ×0.015 ×0.99495 =0.17635
5 500
(2) 应用正态逼近: P(X=5) = P(4.5 < X < 5.5) = 0.1742
13 July 2011
5.5 − 5 4.5 − 5 ≈ Φ −Φ 4.95 4.95
第五章 大数定律与中心极限定理
第25页 25页
三、给定 y 和概率,求 n
例7 用调查对象中的收看比例 k/n 作为某电视节
目的收视率 p 的估计。 要有 90% 的把握,使k/n与p 的差异不大于0.05,问至少要调查多少对象?
解:用 Yn表示n 个调查对象中收看此节目的人数,则
P ( Yn / n − p < 0.05) ≈ 2Φ 0.05 n / p(1 − p) − 1 ≥ 0.90
湖南大学
湖南大学
第五章 大数定律与中心极限定理
第16页 16页
X 例 设 1, X2 ,L, Xn是独 立同 布 分 的随 变量 它们 机 , 都服 从 [a, b]上的 [ 均匀 布 f (x)是 a, b]上 连 函 , 分 , 的 续 数 证明 :
第五章大数定律及中心极限定理
k 1
其中 X1, X2 ,, Xn是相互独立的、服从同一
均值为μ,方差为σ2>0的独立同分布的随机变量
n
X1,X2,…,Xn之和 X k 的标准化变量,当n充分
大时,有
k 1
n
k 1
Xk
nm
~近似N(0,1)
ns
n
这样可以用(标准)正态分布来对 X k 作
k 1
理论分析或实际计算,不必求分布函数
19/41
§5.2 中心极限定理
将上式改写为
即对任意的正数ε,当n充分
lim P n
1 n
n k 1
Xk
m
1.
大时,不等式 立的概率很大
|
X
m | 成
3/41
证 由随机变量X1,X2,…,Xn,…相互独立,且具有 相同的数学期望和方差,有
E
1 n
n k 1
Xk
lim
n
P
1 n
(X1
X2
Xn)
p
1,
即
lim
n
P
nA n
p
1.
伯努利大数定理表明,事件发生的频率nA/n依概率收敛
于事件的概率p,以严格的数学形式表达了频率的稳定性和概
率的合理性
近似:当n很大时,事件发生的频率nA/n与概率有较大偏差的 可能性很小,因此由实际推断原理,由于小概率事件几乎不
辛钦定 理
X P m
第五章大数律及中心极限定理
定义这个随机变量序列的算术平均序列: Yn = X—1—+ …n——+ —Xn
则对于任意的正数 > 0 都满足关系: lim n→∞ P ( | Yn – | ≤ ) = 1。
即,相同期望与方差的独立随机变量序列
算术平均的极限是它们共同的数学期望
证明. 定理的证明根据数学期望、方差的性质 以及切比雪夫不等式完成。
p = P(X ≥10) = P( —X9.–—181—725.2—1/52 ≥ – 0.74)
≈ 1 – (–0.74) = (0.74) = 0.7703
□
如何理解大数律与中心极限定理
① 大数律与中心极限定理讨论的都是随机 变量序列部分和的极限问题
② 大数律说明,在一定的条件下部分和 Sn 的 算术平均的极限是一个常数 ( 共同的期望 )。 中心极限定理说明,在一定的条件下部分和 Sn 的极限分布是正态分布(标准化部分和的 极限分布是标准正态分布)。
P{ Sn n x} x
1
u2
e 2 du ( x)
n
2
思考3 如何近似计算概率P ( Sn ≤ y )、P ( | Sn | ≤ y ) ?
定理 5.1.4 (德莫佛—拉普拉斯中心极限定理)
假设随机变量序列 X1,X2,… 服从参数 n、p 的二项分布,即 Xn ~ B(n,p) 。 则对于任意的实数 x ,有
106 +1 项开始,都有 ① 数列 an 全都落在区间 ( 0 – 10-6 , 0 + 10-6 ) 中, ② Yn 落在 ( 0 – 10-6 , 0 + 10-6 ) 外的概率小于10-6 。
定理 5.1.1 (切比雪夫大数定理)
假设 X1,…,Xn,…是一个独立随机变量
则对于任意的正数 > 0 都满足关系: lim n→∞ P ( | Yn – | ≤ ) = 1。
即,相同期望与方差的独立随机变量序列
算术平均的极限是它们共同的数学期望
证明. 定理的证明根据数学期望、方差的性质 以及切比雪夫不等式完成。
p = P(X ≥10) = P( —X9.–—181—725.2—1/52 ≥ – 0.74)
≈ 1 – (–0.74) = (0.74) = 0.7703
□
如何理解大数律与中心极限定理
① 大数律与中心极限定理讨论的都是随机 变量序列部分和的极限问题
② 大数律说明,在一定的条件下部分和 Sn 的 算术平均的极限是一个常数 ( 共同的期望 )。 中心极限定理说明,在一定的条件下部分和 Sn 的极限分布是正态分布(标准化部分和的 极限分布是标准正态分布)。
P{ Sn n x} x
1
u2
e 2 du ( x)
n
2
思考3 如何近似计算概率P ( Sn ≤ y )、P ( | Sn | ≤ y ) ?
定理 5.1.4 (德莫佛—拉普拉斯中心极限定理)
假设随机变量序列 X1,X2,… 服从参数 n、p 的二项分布,即 Xn ~ B(n,p) 。 则对于任意的实数 x ,有
106 +1 项开始,都有 ① 数列 an 全都落在区间 ( 0 – 10-6 , 0 + 10-6 ) 中, ② Yn 落在 ( 0 – 10-6 , 0 + 10-6 ) 外的概率小于10-6 。
定理 5.1.1 (切比雪夫大数定理)
假设 X1,…,Xn,…是一个独立随机变量
概率论与数理统计----第五章大数定律及中心极限定理
故
= 1 − Φ(3.54)
=0.0002
一箱味精净重大于20500的概率为 的概率为0.0002. 一箱味精净重大于 的概率为
推论:
特别,若X~B(n,p),则当n充分大时, 特别, ~B(n 则当n充分大时,
X~N(np,npq) X~N(np,npq) np
若随机变量X~B( X~B(n, ),则对任意实数x有 ),则对任意实数 即 若随机变量X~B( ,p),则对任意实数 有
不等式证明 P{-1<X<2n+1}≥(2n+1)/(n+1)(n+1)
3. 设P{|X-E(X)|<ε}不小于 不小于0.9,D(X)=0.009.则用 不小于 则用
切比绍夫不等式估计ε的 最小值是( 切比绍夫不等式估计 的 最小值是
0.3 ).
4.(894) 设随机变量 的数学期望为 设随机变量X的数学期望为 的数学期望为µ, 标准差为σ,则由切比绍夫不等式 标准差为 则由切比绍夫不等式 P{|X-µ|≥3σ}≤( ). 1/9 5. 设随机变量X的分布律为 设随机变量 的分布律为 P{X=0.3}=0.2, P{X=0.6}=0.8, 用切比绍夫不等式估计 |X-E(X)|<0.2的概率 的概率. 的概率
1 n lim P ∑ Xi − µ < ε = 1 n→∞ n i =1
定理(贝努里利大数定律) 设每次实验中事件A发生的概率 定理(贝努里利大数定律) 设每次实验中事件A 为p,n次重复独立实验中事件A发生的次数为nA,则对任 次重复独立实验中事件A发生的次数为n 意的ε>0 意的ε>0 ,事件的频率 nA ,有 ε>
∫
+∞
−∞
= 1 − Φ(3.54)
=0.0002
一箱味精净重大于20500的概率为 的概率为0.0002. 一箱味精净重大于 的概率为
推论:
特别,若X~B(n,p),则当n充分大时, 特别, ~B(n 则当n充分大时,
X~N(np,npq) X~N(np,npq) np
若随机变量X~B( X~B(n, ),则对任意实数x有 ),则对任意实数 即 若随机变量X~B( ,p),则对任意实数 有
不等式证明 P{-1<X<2n+1}≥(2n+1)/(n+1)(n+1)
3. 设P{|X-E(X)|<ε}不小于 不小于0.9,D(X)=0.009.则用 不小于 则用
切比绍夫不等式估计ε的 最小值是( 切比绍夫不等式估计 的 最小值是
0.3 ).
4.(894) 设随机变量 的数学期望为 设随机变量X的数学期望为 的数学期望为µ, 标准差为σ,则由切比绍夫不等式 标准差为 则由切比绍夫不等式 P{|X-µ|≥3σ}≤( ). 1/9 5. 设随机变量X的分布律为 设随机变量 的分布律为 P{X=0.3}=0.2, P{X=0.6}=0.8, 用切比绍夫不等式估计 |X-E(X)|<0.2的概率 的概率. 的概率
1 n lim P ∑ Xi − µ < ε = 1 n→∞ n i =1
定理(贝努里利大数定律) 设每次实验中事件A发生的概率 定理(贝努里利大数定律) 设每次实验中事件A 为p,n次重复独立实验中事件A发生的次数为nA,则对任 次重复独立实验中事件A发生的次数为n 意的ε>0 意的ε>0 ,事件的频率 nA ,有 ε>
∫
+∞
−∞
第五章 大数定律与中心极限定理
∑200
【解】 设 X i 表示“该射手第 i 次射击的得分”,则 Y = X i 表示射手所得总分,
i=1
Xi (i =1, 2, , 200) 独立同分布,分布表如下:
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ;
试验中发生的概率,这个定律以严格的数学形式刻画了频率的稳定性,在实际应用中,当试 验次数很大时,便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
,Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,(
i
=
1,
2,
) ,则对任意给定的正数 ε ,有
) ,则对任意实数 x ,有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ,当 n 充分大时,近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式; ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律(独立同分布随机变量的大
【解】 设 X i 表示“该射手第 i 次射击的得分”,则 Y = X i 表示射手所得总分,
i=1
Xi (i =1, 2, , 200) 独立同分布,分布表如下:
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ;
试验中发生的概率,这个定律以严格的数学形式刻画了频率的稳定性,在实际应用中,当试 验次数很大时,便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
,Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,(
i
=
1,
2,
) ,则对任意给定的正数 ε ,有
) ,则对任意实数 x ,有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ,当 n 充分大时,近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式; ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律(独立同分布随机变量的大
第五章大数定律与中心极限定理
2.结论:极限n趋于∞下,{标准化}=标准正态函数
Note:1.X1+X2+…Xn~N(nu, na2)
2.和的期望等于期望之和;和的方方差等于方方差的和(独立立,同分布)
2.拉普拉斯中心心极限定理理
1.条件:服从二二项分布,结论
2.实际上是林林德伯格的中心心极限定理理的特殊情况
定义:Xn依概率收敛于a(概率上收敛,但概率推不不出事件)(类似于极限的定义)
2.切比比雪夫大大数定律律
1.条件:相ห้องสมุดไป่ตู้独立立,期望,方方差均存在,方方差有上界
2.结论:1/n(Xi)依概率收敛于1/n(EXi)(依概率收敛于期望)
3.特别的,若独立立,同分布,有EX,DX(存在)
Note:和的期望等于期望之和;和的方方差等于方方差的和(独立立)
第五章 大大数定律律与中心心极限定理理
一一 切比比雪夫不不等式 二二 大大数定律律 三 中心心极限定理理
一一 切比比雪夫不不等式(作估计)
1.公式形式(大大小小)
2.意义:EX很有用用,偏离的越多,概率越小小
3.有上限的,最多
4.“由切比比雪夫不不等式”才能用用
二二 大大数定律律
1.依概率收敛
3.辛辛钦大大数定律律
1.条件:独立立,同分布,期望存在等于u(3个)
2.结论:1/n(Xk)依概率收敛于u
4.伯努利利大大数定律律
1.条件:X为n重伯努利利发生生的次数,发生生概率为p
2.X/n依概率收敛于p
三 中心心极限大大数定律律
1.列列维——林林德伯格中心心极限定理理
1.条件:独立立,同分布,期望,方方差存在
Note:1.X1+X2+…Xn~N(nu, na2)
2.和的期望等于期望之和;和的方方差等于方方差的和(独立立,同分布)
2.拉普拉斯中心心极限定理理
1.条件:服从二二项分布,结论
2.实际上是林林德伯格的中心心极限定理理的特殊情况
定义:Xn依概率收敛于a(概率上收敛,但概率推不不出事件)(类似于极限的定义)
2.切比比雪夫大大数定律律
1.条件:相ห้องสมุดไป่ตู้独立立,期望,方方差均存在,方方差有上界
2.结论:1/n(Xi)依概率收敛于1/n(EXi)(依概率收敛于期望)
3.特别的,若独立立,同分布,有EX,DX(存在)
Note:和的期望等于期望之和;和的方方差等于方方差的和(独立立)
第五章 大大数定律律与中心心极限定理理
一一 切比比雪夫不不等式 二二 大大数定律律 三 中心心极限定理理
一一 切比比雪夫不不等式(作估计)
1.公式形式(大大小小)
2.意义:EX很有用用,偏离的越多,概率越小小
3.有上限的,最多
4.“由切比比雪夫不不等式”才能用用
二二 大大数定律律
1.依概率收敛
3.辛辛钦大大数定律律
1.条件:独立立,同分布,期望存在等于u(3个)
2.结论:1/n(Xk)依概率收敛于u
4.伯努利利大大数定律律
1.条件:X为n重伯努利利发生生的次数,发生生概率为p
2.X/n依概率收敛于p
三 中心心极限大大数定律律
1.列列维——林林德伯格中心心极限定理理
1.条件:独立立,同分布,期望,方方差存在
第五章 数理统计 大数定律与中心极限定理
) 0.999
查正态分布函数表得
(3.1) 0.999
故
N 120 48
≥ 3.1,
从中解得N≥141.5,
即所求N=142.
也就是说, 应供应142 千瓦电力就能以99.9%的 概率保证该车间不会因供电不足而影响生产.
例3 对于一个学生而言,来参加家长会的家长人数
是一个随机变量,设一个学生无家长、 1名家长、名 2 家长来参加会议的概率分别为0.05、.8、.15.若学校 0 0 共有 400名学生,设各学生参加会议的家长数相互 独立,且服从同一分布.
lim P n X np np 1 p x 1 2
x
t
2
e
2
dt x
证明:设 则
第i次试验事件A发生 第i次试验事件A不发生
由中心极限定理,结论得证
当 n 充分大时,二项分布 X ~ B n , p 可近似地用正态分布N np , np 1 p 来代替。
由于无穷个随机变量之和可能趋于∞,故我们 不研究n个随机变量之和本身而考虑它的标准化的随 n 机变量. 即考虑随机变量X k ( k 1,n)的和 X k
k 1
讨论Yn的极限分布是否为标准 正态分布
在概率论中,习惯于把和的分布收敛于正态分 布这一类定理都叫做中心极限定理.
5.2
中心极限定理 标准化随机变量
如
意思是:当
时,Xn落在
内的概率越来越大.
a
而
意思是:
,当
几个常用的大数定律
定理5-2 切比雪夫大数定律
,
设{Xi, i=1,2,...}为独立的随机变量序列, 且存在数学期望、方差 E X n nDBiblioteka X n2 nDX
第五章 大数定理与中心极限定理
说明
1 n 1、定理中{| X i | }是指一个随机事件, n i 1 当n 时,这个事件的概率趋于1.
2、 定理以数学形式证明了随机变量X 1 , X n 1 n 的算术平均X X i 接近数学期望E(X k) n i 1 (k 1,2, n),这种接近说明其具有的稳定性 .
第五章 大数定律与中心极限定理
第五章 大数定律与中心极限定理
§1 大数定律
1.1 切比雪夫不等式 1.2 依概率收敛 1.3 大数定律
§2 中心极限定理
HaiNan University
1
第五章 大数定律与中心极限定理
大数定律的客观背景
事件发生的频率稳定于某一常数 大量随机试验中 测量值的算术平均值具有稳定性
证明 取连续型随机变量的情况来证明.
设 X 的概率密度为 f ( x ), 则有
HaiNan University3第五章 大数定律 Nhomakorabea中心极限定理
P{ X μ ε }
2 x μ ε
x μ ε
f ( x)d x
x μ f ( x)d x 2 ε
1 1 2 2 2 ( x μ) f ( x ) d x 2 σ . ε ε
定理2 (契比雪夫大数定律)
1 nM M 1 D( X i ) 2 D( X i ) 2 . n i 1 n n n i 1 由契比雪夫不等式得: M 1 n 1 n P{ X i E ( X i ) } 1 n n i 1 n i 1 2
HaiNan University
10
第五章 大数定律与中心极限定理
1.3 大数定律
问题 : 设nA是n重贝努利试验中事件A发生 的次数,p是事件A发生的概率,
概率论第五章大数定律与中心极限定理讲解
1 P
1200
Xk
k 1
10
0
2
1[
2
2
]
2 22 2 0.0228 0.0456
例2 根据以往经验,某种电器元件的寿命服从均 值为100小时的指数分布. 现随机地取16只,设它们的 寿命是相互独立的. 求这16只元件的寿命的总和大于 1920小时的概率.
可知,当 n 时,有 1nn 源自1XiP E( X1)
a
因此我们可取 n 次测量值 x1, x2, , xn 的算术平均值
作为a
得近似值,即
a
1 n
n i1
xi ,当n充分大时误差很小。
例4 如何估计一大批产品的次品率 p ? 由伯努利大数定律可知,当 n 很大时,可取频率
则对任意的 x ,有
n ~ N(np, np(1 p)) n , 近似地
即 n np ~ N (0,1)
np(1 p)
或 lim P{ n np
x
x}
1
t2
e 2 dt x
n np(1 p)
2
证 因为 n ~ b(n, p)
n
所以 n X k k 1
i 1
1200
1200
心极限定理可得 X k ~ N (n,n 2),即 X k ~ N (0,100)
k 1
k 1
则所求概率为
1200
1200
P k1 X k
20
P
Xk 0
k 1
第五章大数定律与中心极限定理
Xi
1 n
n i 1
E(Xi)
1,
则称{Xn}服从大数定律.
(2)伯努利大数定律是切比雪夫大数定律的特例
(3) 伯努利大数定律和切比雪夫大数定律的证明 都用到切比雪夫不等式,而且需要方差存在。
定理 5.1.4. 辛钦大数定律
设X1, X 2 ,..., X n,...是独立同分布的随机变量序列,
意义:只要试验次数够大,发生事件的频率无限接近于 概率,频率稳定性,频率代替概率。
定理 5.1.3. 切比雪夫大数定律
设X1 , X 2 ,, X n ,是一相互独立的随机变 量序列,
它们的数学期望和方差 均存在,且方差有共同 的上界,
即存在常数 K 0,使得 D ( X i ) K , i 1,2, ,
不等式给出了X 与它的期望的偏差不小于的概率
的估计式.
例 1 E( ) 4, D( ) 0.2, 则由切比雪夫不等式知
P{| 4 | 2} P{| 4 | 1}
,
P{ X
}
2 2
,
P{1 7}
定义 5.1.1设{X n}是一个随机变量序列,a是常数,
若对于任意的 0,有
已知整个系统中至少有84个部件正常工作,系统
工作才正常.试求系统正常工作的概率.
解: 记Y为100个部件中正常工作的部件数,则
Y 近似服从 N(100 0.9,100 0.9 (1 0.9))
即Y 近似服从N (90, 9)
因此,所求概率为
P{Y 84}=1-P{Y<84}=1-P{ Y-90 < 84-90 }
解: 设Xi为第i个螺丝钉的重量,i 1, 2,...,100.
且设X 为一盒螺丝钉的重量.
第五章大数定律与中心极限定理
• 例:一加法器同时收到 个噪声电压 k(k=1,2,…,20), 一加法器同时收到20个噪声电压 一加法器同时收到 个噪声电压V 它们相互独立且都在区间[0,10]上服从均匀分布 噪声 上服从均匀分布,噪声 它们相互独立且都在区间 上服从均匀分布 的近似值. 电压总和V=V1+V2+…+V20,求P{V>105}的近似值 电压总和 求 的近似值 • 解:易知 易知E(Vk)=5,D(Vk)=100/12,由独立同分布的中心 易知 由独立同分布的中心 20 极限定理知
∑ D( X
k =1
n
k
)=
σ2
n
1 n 所以 P{| ∑ X k − µ |< ε } = P {| X n − E ( X n ) |< ε } n k =1 D( X n ) σ2 ≥ 1− = 1− 2 2 nε ε
设随机变量序列{Y 如果存在一个常数a 定义 设随机变量序列{Yn},如果存在一个常数a,使得 ε>0 对任意的 ε>0,有
1 故 n
X k 1 . ∑ 2 P→ 3 k =1
§2
中心极限定理
定理(林德贝尔格 勒维 定理):设 定理 林德贝尔格-勒维 林德贝尔格 勒维(Lindeberg-Levy)定理 设 定理 {Xk}为相互独立的随机变量序列 服从同一分布 且 为相互独立的随机变量序列,服从同一分布 为相互独立的随机变量序列 服从同一分布,且 具有数学期望E(Xk)=µ和方差 和方差D(Xk)=σ2 ,则随机变 具有数学期望 和方差 则随机变 量
X 1 ~ U ( −1, 1). 则 1 (1) n X k,(2)1 ∑ n k =1
n 2 X k 分别 依概 率收 敛吗 ? ∑ k =1 n
第五章 大数定律与中心极限定理
( ) = ∑ X − nµ n ⋅σ D (∑ X )
n n i =1 i
lim FYn ( x) = lim P{Yn ≤ x} = Φ ( x) ,
n→∞ n →∞
(5.6)
其中 Φ ( x) 为标准正态分布函数. 由列维-林德贝格中心极限定理可得计算有关独立同分布随机变量和 的事件概率的近似 .......... 公式:
X ~ B(3000,0.001) ,E(X)=np=3,D(X)=np(1-p)=2.997.
由德莫佛-拉普拉斯中心极限定理得保险公司一年获利不小于 10000 元的概率为
P{10000 ≤ 30000 − 2000 X ≤ 30000} = P{0 ≤ X ≤ 10}
10 − 3 0−3 ≈ Φ − Φ 2.997 2.997
n x − nµ x − nµ P ∑ X i ≤ x = P Yn ≤ ≈ Φ . i =1 n ⋅σ n ⋅σ
{
}
(5.7)
例 1 设一加法器同时收到 20 个噪声电压 Vk ( k = 1,2, " ,20) ,它们是相互独立的随机变量, 且都服从区间(0,10)上的均匀分布,试求 P ∑ Vk > 105 .
第2 页 共6 页
概率论与数理统计
第五章 大数定律 与中心极限定理
定理 3 (辛钦大数定律) 设随机变量 X 1 , X 2 , " , X n , " 相互独立,服从同一分布且存在 相同的期望 E(Xi)=μ(i=1,2,…),则对任意正数ε有
1 n lim P X i − µ < ε = 1. ∑ n→∞ = 1 i n §5.2 中心极限定理
第五章大数定理与中心极限定理
2. 随机事件的频率
lim P p =1 n n
p f n p
n
作业
P112
1、3、6、7
§5.4中心极限定理
在客观实际中有许多随机变量,它们是由大 量的相互独立的随机因素的综合影响所形成的。 而其中每一个别因素在总的影响中所起的作用 都是微小的。这种随机变量往往近似地服从正 态分布,这种现象就是中心极限定理的客观背 景。
设{ξn}为随机变量序列,ξ为随机变量,其对 应的分布函数分别为Fn(x), F(x). 若在F(x)的连 续点,有
第五章
大数定律与中心极限定理
5.1大数定律的概念 5.2切贝谢夫不等式 5.3切贝谢夫定理 5.4中心极限定理
“概率是频率的稳定值”。前面已经提到, 当随机试验的次数无限增大时,频率总在其概 率附近摆动,逼近某一定值。大数定理就是从 理论上说明这一结果。正态分布是概率论中的 一个重要分布,它有着非常广泛的应用。中心 极限定理阐明,原本不是正态分布的一般随机 变量总和的分布,在一定条件下可以渐近服从 正态分布。这两类定理是概率统计中的基本理 论,在概率统计中具有重要地位。
பைடு நூலகம்
大数定律以确切的数学形式表达了这种规 律性,并论证了它成立的条件,即从理论上阐述 了这种大量的、在一定条件下的、重复的随机 现象呈现的规律性即稳定性.由于大数定律的作 用,大量随机因素的总体作用必然导致某种不依 赖于个别随机事件的结果.
§5.2 切贝谢夫不等式
一个随机变量离差平方的数学期望就是它的
f n p
n
证明:设
则
1 第i次试验事件A发生 i 0 第i次试验事件A不发生
E (i ) p, D(i ) p(1 p)
概率论第五章 大数定律及中心极限定理
的标准化变量为
n
X i n
Yn i1 n
则Yn的分布函数Fn(x)对任意的x∈(-∞,+∞)都有
n X i n
lim
n
Fn
(
x)
lim
n
P(Yn
x)
lim
n
P
i 1
n
x
x
1
t2
e 2 dt
2
该定理说明,当n充分大时, Yn近似地服从标准正 态分布,Yn~N(0,1), (n )
P|
X
|
2 2
P X
1
2 2
证明 (1)设X的概率密度为p(x),则有
P{| X | } p(x)dx
| x |2
p(x)dx
|x|
|x|
2
1
2
(x
)2
p(
x)dx
2 2
Xi 2
0
pi
1 4
1 2
2
(i 1,2, , n, )
1 4
解
因为 X1, X 2 , , X n ,
相互独立, EX i 0 , E
X
2 i
1
又
DX i
E
X
2 i
EX i
2
1 0
1, i
1,2,
, n,
所以,满足切比雪夫大数定理的条件,可使用大数定理.
第五章---大数定律与中心极限定理
(a , a ) 内的概率越来越大. 0, n0
当 n n0
Xn
a a a
而 X n a 意思是: 0, n0 ,当 n n0
| X n a |
6
5.2 大数定律
我们曾经说, 频率是概率的反映,随 着观察次数的增大, 频率将会逐渐稳定 到概率. 这里是指试验的次数无限增大 时, 在某种收敛意义下逼近某一定数,这 就是所谓大数定律
D(
1 n
n k 1
Xk)
1 n2
n
D( X k )
k 1
8
由契比雪夫不等式,得:
P{|
1 n
n k 1
Xk
1 n
n k 1
E(Xk
)
|
}
1
1 n2
n
D( X k )
k 1
2
n 1
表明: 算术平均值依概率收敛于数学期望
9
5.3 中心极限定理
在一定条件下,大量独立随机变量 的和的分布以正态分布为极限分布的 这一类定理称为中心极限定理
7
契比雪夫大数定律
设随机变量X1, X2, ... , Xn, ...相互独 立,且分别具有期望E(Xk)和方差D(Xk) (k
=1,2,...),若方差有界,则 >0,有:
lim
n
P{|
1 n
n k 1
Xk
1 n
n k 1
E(Xk
)
|
}
1
E
(
1 n
n k 1
Xk )
1 n
n k 1
E(Xk )
∴ 只要供给这个车间141千瓦电, 就可保证因供电
不足而影响生产的可能性小于0.01.
第五章 大数定律与中心极限定理
应用该定理时,需要找出独立同分布的随机变量序 应用该定理时 意 (2)应用该定理时 需要找出独立同分布的随机变量序 列以及它们的期望和方差,再应用正态分布的有关计 列以及它们的期望和方差 再应用正态分布的有关计 算方法. 算方法
该定理表明,只要 n 比较大,随机变量 该定理表明, 比较大,
Yn − nµ nσ
1 n limP ∑Xi − µ < ε =1 n→∞ n i=1
这一定理使我们关于算术平均值的法则有了理论依据。 这一定理使我们关于算术平均值的法则有了理论依据。 在不变的条件下重复测量n 假设要测量某一物理量 µ,在不变的条件下重复测量 是不完全相同的, 次,得到的观测值 x1 , x2 ,L, xn 是不完全相同的,这些 数据可以看作是有相同期望和方差的n个随机变量 数据可以看作是有相同期望和方差的 个随机变量 X 1 , X 2 ,L, X n 的试验数据。 的试验数据。
m = 0,1,2,...,n
定理(列维 林德贝格定理(i.i.d下中心极限定理 林德贝格定理(i.i.d下中心极限定理) 定理(列维—林德贝格定理(i.i.d下中心极限定理)) 为独立同分布序列, μ,方差 设X1,X2,…,X n,…为独立同分布序列,期望μ,方差 ,X 为独立同分布序列 期望μ, 则当n充分大时, σ2>0, 则当n充分大时,
∑X 近似服从N(nµ , nσ
所以
i=1 i
n
2
)
∑X − nµ
i=1 i
n
nσ
近 服 N(0,1) 似 从
limP{ i=1
n→∞
∑X − nµ
i
n
nσ
≤ x} =Φ(x)
注
(1)一般地 只要 比较大 就可应用以上定理 一般地,只要 比较大,就可应用以上定理 一般地 只要n比较大 就可应用以上定理;
大数定律-中心极限定理
第五章 大数定律及中心极限定理
§5.1 大数定律 §5.2 中心极限定理
§5.1 大数定律
定义1 设Y1, Y2 …,Yn ,...为一随机变量序列,a是常数, 若对任意正数,有
lim
n
P{|Yn
a
|
}
1
则称随机变量序列Y1, Y2 ,…,Yn , ... 依概率收敛于a ,
记为:
Yn P a
性质:设 Xn P a, Yn P b , g(x, y)在点(a, b)连续,
n i 1
Xi
P
提醒:利用切比雪夫不等式证.
此定理表白: 相互独立具有相同期望和方差旳随机变 量X1, X2, …, Xn旳算术平均值依概率收敛于其数学期 望值 .
证
E(X)
E
1 n
n i 1
Xi
1 n
n i 1
E(X i
)
μ
D(X)
D
1 n
n i 1
X
i
1 n2
n
σ2
D(X i )
➢ 贝努力大数定律是辛钦定理旳特殊情况.
§5.2 中心极限定理
在客观实际中有许多随机变量,它们是由 大量旳相互独立旳随机原因旳综合影响所 形成旳,而其中每一种别原因在总旳影响中 起到旳作用都是微小旳.这种随机变量往往 近似旳服从正态分布.这种现象就是中心极 限定理旳客观背景.
本节只简介三个常用旳中心极限定理.
Xi= -1, 第i次碰钉后小球从右落下.
则Xi服从两点分布, E(Xi) =0, D(Xi)=1
Yn=X1+X2+…+Xn 由中心极限定理知,
Yn~N(0,n) 由正态分布旳特征知,小球落在中间 旳概率远远不小于落在两边旳概率.
§5.1 大数定律 §5.2 中心极限定理
§5.1 大数定律
定义1 设Y1, Y2 …,Yn ,...为一随机变量序列,a是常数, 若对任意正数,有
lim
n
P{|Yn
a
|
}
1
则称随机变量序列Y1, Y2 ,…,Yn , ... 依概率收敛于a ,
记为:
Yn P a
性质:设 Xn P a, Yn P b , g(x, y)在点(a, b)连续,
n i 1
Xi
P
提醒:利用切比雪夫不等式证.
此定理表白: 相互独立具有相同期望和方差旳随机变 量X1, X2, …, Xn旳算术平均值依概率收敛于其数学期 望值 .
证
E(X)
E
1 n
n i 1
Xi
1 n
n i 1
E(X i
)
μ
D(X)
D
1 n
n i 1
X
i
1 n2
n
σ2
D(X i )
➢ 贝努力大数定律是辛钦定理旳特殊情况.
§5.2 中心极限定理
在客观实际中有许多随机变量,它们是由 大量旳相互独立旳随机原因旳综合影响所 形成旳,而其中每一种别原因在总旳影响中 起到旳作用都是微小旳.这种随机变量往往 近似旳服从正态分布.这种现象就是中心极 限定理旳客观背景.
本节只简介三个常用旳中心极限定理.
Xi= -1, 第i次碰钉后小球从右落下.
则Xi服从两点分布, E(Xi) =0, D(Xi)=1
Yn=X1+X2+…+Xn 由中心极限定理知,
Yn~N(0,n) 由正态分布旳特征知,小球落在中间 旳概率远远不小于落在两边旳概率.
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
于事件的概率 p ,这个定 理以严格的数学形式表达了 频率的稳定性.这就是说,当 n 很大时,事件发生的频率 . , , 与概率有较大偏差的可能性很小.在实际应用中,当试验 次数很大时,就可以用事件发生的频率作为事件概率的 估计.
§4.2 中心极限定理
在随机变量的各种分布中,正态分布占有特别重 要的地位.中心极限定理告诉我们,大量的在同一数 量级上的微小干扰的叠加,当干扰个数趋于无穷大时, 一般趋于正态分布.在这里我们仅不加证明地介绍两 个条件较强的中心极限定理. 定理4 定理 (独立同分布的中心极限定理) 设随机变量
∑
即该地区1000户居民每日用电量超过10100度的可 能性为29.12%. 如果定理 定理4中的 X 1 , X 2 , ... 独立同分布,均服从参数为 p 定理 的(0-1)的分布, 则 ξ n = ∑ X i B ( n, p ) , 于是有 定理5(德莫夫-拉普拉斯(De Moivre-Laplace)定理) 定理 设随机变量 ξ n ( n = 1, 2, ...) 服从参数为 n, p(0 < p < 1) 的二项分布,则对任意 x ,有
nσ
的分布函数 Fn ( x ) = P { yn ≤ x} 对于任意实数
x
满足
n t2 ∑ X i n x 1 lim Fn ( x ) = lim P i =1 e 2 dt ≤ x = ∫ x →∞ x →∞ ∞ nσ 2π
定理4 定理 告诉我们,独立同分布的随机变量序列
E ( X i ) = 10, D ( X i ) =
100 . 3
10 100 10 000 ≈ 1 Φ ≈ 1 Φ ( 0.55 ) = 1 0.708 8 = 0.291 2 1000 × 100 / 3
1000 1000 P ∑ X i > 10 100 = 1 P ∑ X i ≤ 10 100 i =1 i =1 1000 X i 1000 × 10 10 100 1000 × 10 i =1 = 1 P ≤ 100 × 100 / 3 1000 × 100 / 3
E ( X i ) = , D( X i ) = σ 2 ( i = 1 , 2 ,) ,则对于任意的 > 0 , ε 1 n 有 lim P ∑ X i < ε = 1 n →∞ n i =1
.
上述定理表明,当 n 很大时, 随机变量 X 1 , X 2 , ..., X n 的算术平均 n ∑ X i 在概率的意义下接近于它们的 i =1 数学期望,换句话说,在定理的条件下, n 个独立同分
X 1 , X 2 , ..., X n , ... 不论服从什么分布, 当
n 足够大时,
总可以近似地认为
∑X
i =1
n
i
n
nσ
N ( 0,1)
N ( n , nσ 2 )
或者等价于近似地认为
∑X
i =1
n
1
例1 设供电站供应某地区1000户居民用电,各户用电情况 相互独立,已知每户每日用电量(单位:度)在[0,20]上服从 均匀分布,求这1000户居民每日用电量超过1000度的概率. 解 设第 i 户居民的用电量为随机变量 X i ( i = 1, 2, ...,1000) 则 X i 在[0.20]上服从均匀分布, 由中心极限定理得
2
n
i =1
例2 某单位设置一电话机,共有200个电话分机,设每 个电话分机有5%的时间要使用外线通话,假设每个分机 是否使用外线通话是相互独立的.问总机要有多少外线才 能以不小于90%的概率保证每个分机正常使用外线时可 供使用? 解 设 X 为要使用外线通话的分机数,则 X B(200, 0.05) 如果有外线 n 条, 则 P { X ≤ n} ≥ 0.9 . 由德莫夫-拉普拉斯中心极限定理
(5.1)
证明
因为 X 1 , X 2 , ..., X n , ... 相互独立,故
1 n 1 D ∑ Xi = 2 n i =1 n C ∑ D( X i ) ≤ n i =1
n
由车贝雪夫不等式得
1 n D ∑ Xi 1 n 1 n n i =1 ≥ 1 C P ∑ X i ∑ E( Xi ) < ε ≥ 1 n i =1 n i =1 ε2 nε 2
nA p . p → n
且都服从参数为P 的(0--1)分布,则 E ( X i ) = p , D( X i ) = p(1 p), ( i = 1 , 2 ,) ,并且
nA = ∑ X i , n = 1, 2, ... ,因此有定理3 的结论. 定
i =1 n
注:
nA 贝努里大数定律表明事件发生的频率 依概率收敛 n
1
n
布的, 随机变量的算术平均,当试验次数 n 无限增加时, 将几乎变成一个常数. 设Y1 , Y2 , ..., Yn , ... 是一个随机变量序列, a 是一个常数, 若对于任意的 ε > 0 有 lim P { Yn a < ε } = 1 n →∞
p. Yn a → 记作
依概率收敛于 则称随机变量序列 Y1 , Y2 , ..., Yn , ... 依概率收敛 a 根据依概率收敛的定义, 独立同分布的大数定律也可 叙述为: 设随机变量 X 1 , X 2 , ..., X n , ... 独立同分布,且
x 1 t2 ξ n np lim P e dt ≤ x = ∫ n →∞ ∞ 2π np(1 p) 注:德莫夫-拉普拉斯中心极限定理不仅在概率论发展的早期起 过重要作用,而且至今在实际问题中还被广泛地使用,它告诉 我们,二项分布不仅可用泊松分布逼近(泊松定理),还可用 正态分布逼近.
二,车贝雪夫大数定律 定理1 设随机变量 X 1 , X 2 , ..., X n , ... 相互独立,具有有 定理 限方差,且有公共上界 C 即 D( X i ) ≤ C , i = 1, 2... 则对任意的 ε > 0 ,有
1 n 1 n lim P ∑ X i ∑ E ( X i ) < ε = 1 n →∞ n i =1 n i =1
X 1 , X 2 , ..., X n , ... 独立同分布,且数学期望和方差分别为
E ( X i ) = , D( X i ) = σ 2 > 0, i = 1 , 2 , , ,则随机变量
Yn =
∑X
i =1
n
i
E (∑ X i )
i =1 n
n
=
∑Xi =1ni源自nd (∑ X i
i =1
1 n 1 n C 所以 1 ≥ P ∑ X i ∑ E ( X i ) < ε ≥ 1 2 n i =1 nε n i =1
令 n→∞ , →∞
即得式(5.1). 定理2 定理 (独立同分布的大数定律) 设随机变量 X 1 , X 2 , ..., X n , ... 独立同分布,且
第五章 大数定律与中心极限定理
§4.1 大数定律 §4.2 中心极限定理
第五章 大数定律与中心极限定理
§4.1 大数定律
一,大数定律的意义 在第一章中,我们已经指出,事件发生的频率具 , 有统计规律性,即个别随机事件在某次实验中可能发 生,也可能不发生,但随着试验次数的增加,事件发 生的频率逐渐稳定于某个常数.这种稳定性将在大数定 律中给出严格的阐述.
E ( X i ) = , D ( X i ) = σ 2 ( i = 1 , 2 , )
,则序列
1 n p. Yn = ∑ X i → n i =1
三,贝努里大数定律
定理3 定理 (贝努里大数定律)设 nA 是 n次独立重复试验 中事件A出现的次 数,p是事件A在每次试验中发生的 概率,则 ,即对ε >0, nA lim p <ε=1 n →∞ n 贝努里大数定律是独立同分布大数定律得直接结果.事 实上,设随机变量 X 1 , X 2 , ..., X n , ... 独立同分布,
�
X 200 × 0.05 P { X ≤ n} = P ≤ 200 × 0.05 × 0.95 n 10 ≈ Φ ≥ 0.90 200 × 0.05 × 0.95 9.5 n 200 × 0.05
查表得知
n 10 9.5
≥ 1.28
,所以 n ≥ 13.945
从而总机应备14条外线才能保证各分机以不低于90% 的概率使用外线.