伯努利Bernoulli大数定律
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
解： 设 X 表示 n 次独立重复试验中事件 A 发生的次数 , 则
X ~ B(n,0.75)
E(X ) 0.75 n, D(X ) 0.1875 n
要使
P 0.74
X n
0.76
0.90
，求
n
即 P0.74n X 0.76n 0.90
即 P| X 0.75n | 0.01n 0.90
E(Yn
)
1
2
pq n
故
lim
n
P
n
n
p
0
伯努利(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率
n n“稳定于”事件A在一次试验中发生
的概率是指：
频率 n
n
与
p
有较大偏差
n
n
p
是
小概率事件, 因而在n足够大时, 可以用频
P940 X 1060
1059 1000k e1000
k 941
k!
0.937934
例： 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev 不等式估计, n 多大 时, 才能在 n 次独立重复试验中, 事件 A 出 现的频率在0.74 ~ 0.76 之间的概率大于 0.90?
要解决的问题
1. 为何能以某事件发生的频率 作为该事件的概率的估计？
2. 为何能以样本均值作为总体 期望的估计？
3. 为何正态分布在概率论中占 有极其重要的地位？
4. 大样本统计推断的理论基础 是什么？
答复
大数 定律
中心极 限定理
一、大数定律
切比雪夫( chebyshev)不等式：
设随机变量 X 的方差 D ( X )存在，
Yn
P n
a
故 n P p
n
n
在 Bernoulli 定理的证明过程中，Y n 是相 互独立的服从 (0,1) 分布的 r.v.序列{Xk} 的 算术平均值, Y n 依概率收敛于Xk的共同的 数学期望 p .
结果同样适用于服从其它分布的独立 r.v. 序列.
弱大数定律
P
X 6000
1 6
0.01
P940 X 1060
1059 k 941
Ck 6000
1 6
k
5 6
6000k
0.959036
用Poisson分布近似计算
取 = 1000
P X 1 0.01
6000 6
解： 设 X 表示 6000 粒种子中的良种数 ,
X ~ B (6000,1/6 )
E( X ) 1000, D( X ) 5000 6
P X 1 0.01
6000 6
5000
P(| X
1000 | 60) 1
6 602
83 0.7685 108
实际精确计算
n
X1, X 2,, X n 相互独立，n Xk
k 1
记 Yn
1 n
n k 1
Xk,
E(Yn ) p,
D(Yn )
pq n
由 Chebyshev 不等式
0
P
n
n
p
n X k
P k1 n
E(Xk
)
Biblioteka Baidu
PYn
则对于任意实数 > 0,
P(|
X
E(X
)
|
)
D( X
2
)
当 2 D(X)
无实际意义,
或
P(|
X
E(X
)
|
)
1
D( X
2
)
该不等式可以粗略估计随机变量取 值落在期望左右某个范围内的概率
例： 设有一大批种子，其中良种占1/6. 试 估计在任选的 6000 粒种子中, 良种所占比 例与1/6 比较上下小于1%的概率.
则对于任意实数 x ,
n
Xk
n
lim P k1
x
n
n
1
x t2
e 2 dt (x)
2
n
注
X k n
记 Yn k1 n
或
lim P
n
1 n
n k 1
Xk
1
定理的意义
具有相同数学期望和方差的独立 r.v.序列 的算术平均值依概率收敛于数学期望.
当 n 足够大时, 算术平均值几乎是一常数.
数学 期望
可被
算术 均值
近似代替
二、中心极限定理
定 林德伯格-列维中心极限定理 理 (Lindeberg-levi) 一 [ 独立同分布的中心极限定理 ]
由 Chebyshev 不等式， = 0.01n ,故
P|
令
X
0.75n
|
0.01n
1
0.1875n (0.01n)2
1
0.1875n (0.01n)2
0.90
解得 n 18750
伯努利（Bernoulli） 大数定律
设un是n次独立重复试验中事件A发生的 次数, p是每次试验中A发生的概率, 则
设 r.v. 序列 X1, X 2 ,, X n , 独立同分布，
(指任意给定 n > 1, X1, X 2 ,, X n 相互独立)
E( Xn ) , D( Xn ) 2, k 1,2,
则 0 有
lim P
n
1n n k1
Xk
0
0 有
lim
n
P
n
n
p
0
或
lim
n
P
n
n
p
1
证： 引入 r.v. 序列{Xk}
1, 第k次试验A发生
Xk
0,
第k次试验A 发生
设P( X k 1) p, 则E( X k ) p, D( X k ) pq
率近似代替p .这种稳定称为依概率稳定.
定义 设 Y1,Y2,,Yn , 是一系列 r.v.
a 是一常数，若 0 有
lim P
n
Yn a
0
(或
lim
n
PYn
a
1
)
则称 r.v. 序列 Y1,Y2 ,,Yn , 依概率
收敛于常数 a , 记作
定 棣莫弗-拉普拉斯中心极限定理 理 (De Moivre-Laplace) 二 [ 二项分布以正态分布为极限分布 ]
独立同分布的中心极限定理
设随机变量序列 X1, X 2,, X n , 独立同分布, 且有期望和方差：
E( X k ) , D( X k ) 2 0 , k 1,2,
X ~ B(n,0.75)
E(X ) 0.75 n, D(X ) 0.1875 n
要使
P 0.74
X n
0.76
0.90
，求
n
即 P0.74n X 0.76n 0.90
即 P| X 0.75n | 0.01n 0.90
E(Yn
)
1
2
pq n
故
lim
n
P
n
n
p
0
伯努利(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率
n n“稳定于”事件A在一次试验中发生
的概率是指：
频率 n
n
与
p
有较大偏差
n
n
p
是
小概率事件, 因而在n足够大时, 可以用频
P940 X 1060
1059 1000k e1000
k 941
k!
0.937934
例： 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev 不等式估计, n 多大 时, 才能在 n 次独立重复试验中, 事件 A 出 现的频率在0.74 ~ 0.76 之间的概率大于 0.90?
要解决的问题
1. 为何能以某事件发生的频率 作为该事件的概率的估计？
2. 为何能以样本均值作为总体 期望的估计？
3. 为何正态分布在概率论中占 有极其重要的地位？
4. 大样本统计推断的理论基础 是什么？
答复
大数 定律
中心极 限定理
一、大数定律
切比雪夫( chebyshev)不等式：
设随机变量 X 的方差 D ( X )存在，
Yn
P n
a
故 n P p
n
n
在 Bernoulli 定理的证明过程中，Y n 是相 互独立的服从 (0,1) 分布的 r.v.序列{Xk} 的 算术平均值, Y n 依概率收敛于Xk的共同的 数学期望 p .
结果同样适用于服从其它分布的独立 r.v. 序列.
弱大数定律
P
X 6000
1 6
0.01
P940 X 1060
1059 k 941
Ck 6000
1 6
k
5 6
6000k
0.959036
用Poisson分布近似计算
取 = 1000
P X 1 0.01
6000 6
解： 设 X 表示 6000 粒种子中的良种数 ,
X ~ B (6000,1/6 )
E( X ) 1000, D( X ) 5000 6
P X 1 0.01
6000 6
5000
P(| X
1000 | 60) 1
6 602
83 0.7685 108
实际精确计算
n
X1, X 2,, X n 相互独立，n Xk
k 1
记 Yn
1 n
n k 1
Xk,
E(Yn ) p,
D(Yn )
pq n
由 Chebyshev 不等式
0
P
n
n
p
n X k
P k1 n
E(Xk
)
Biblioteka Baidu
PYn
则对于任意实数 > 0,
P(|
X
E(X
)
|
)
D( X
2
)
当 2 D(X)
无实际意义,
或
P(|
X
E(X
)
|
)
1
D( X
2
)
该不等式可以粗略估计随机变量取 值落在期望左右某个范围内的概率
例： 设有一大批种子，其中良种占1/6. 试 估计在任选的 6000 粒种子中, 良种所占比 例与1/6 比较上下小于1%的概率.
则对于任意实数 x ,
n
Xk
n
lim P k1
x
n
n
1
x t2
e 2 dt (x)
2
n
注
X k n
记 Yn k1 n
或
lim P
n
1 n
n k 1
Xk
1
定理的意义
具有相同数学期望和方差的独立 r.v.序列 的算术平均值依概率收敛于数学期望.
当 n 足够大时, 算术平均值几乎是一常数.
数学 期望
可被
算术 均值
近似代替
二、中心极限定理
定 林德伯格-列维中心极限定理 理 (Lindeberg-levi) 一 [ 独立同分布的中心极限定理 ]
由 Chebyshev 不等式， = 0.01n ,故
P|
令
X
0.75n
|
0.01n
1
0.1875n (0.01n)2
1
0.1875n (0.01n)2
0.90
解得 n 18750
伯努利（Bernoulli） 大数定律
设un是n次独立重复试验中事件A发生的 次数, p是每次试验中A发生的概率, 则
设 r.v. 序列 X1, X 2 ,, X n , 独立同分布，
(指任意给定 n > 1, X1, X 2 ,, X n 相互独立)
E( Xn ) , D( Xn ) 2, k 1,2,
则 0 有
lim P
n
1n n k1
Xk
0
0 有
lim
n
P
n
n
p
0
或
lim
n
P
n
n
p
1
证： 引入 r.v. 序列{Xk}
1, 第k次试验A发生
Xk
0,
第k次试验A 发生
设P( X k 1) p, 则E( X k ) p, D( X k ) pq
率近似代替p .这种稳定称为依概率稳定.
定义 设 Y1,Y2,,Yn , 是一系列 r.v.
a 是一常数，若 0 有
lim P
n
Yn a
0
(或
lim
n
PYn
a
1
)
则称 r.v. 序列 Y1,Y2 ,,Yn , 依概率
收敛于常数 a , 记作
定 棣莫弗-拉普拉斯中心极限定理 理 (De Moivre-Laplace) 二 [ 二项分布以正态分布为极限分布 ]
独立同分布的中心极限定理
设随机变量序列 X1, X 2,, X n , 独立同分布, 且有期望和方差：
E( X k ) , D( X k ) 2 0 , k 1,2,