概率论与数理统计课件

定理3. 设 n为n重Bernoulli 试验中事件A出现的次数, 且A在每次试验中出现的概率为p , 则 0, 都有 n lim P{ p } 1 n n Bernoulli大数定律 证明: 设X 1 第i次试验A出现 i 0 第i次试验A不出现 i 1,2 ,, n EX i p DX i p(1 p )
1 n 1 n 即 0, 都有 lim P{ X i EX i } 1 n n i 1 n i 1
1 n 1 n EX i n n i 1 i 1
所以
1 n lim P{ X i } 1 n n i 1
思 设EX 2 , EY 2 , DX 1, DY 4, XY 0.5 考 试估计P{| X Y | 6}
例3. 设某种元件的次品率为p ,问抽查多少元件才能使出 现次品的频率与p的偏差小于0.1的概率不小于0.95. 解: 设n为抽查的元件数, X为出现的次品数 pn出现次品的频率 则
EX i
1 n 1 n lim P{ X i EX i } 1 n n i 1 n i 1 1 n lim P{ X i } 1 n n i 1
lim P{
n
辛钦大数定律
X i 服从0 1分布，EX i p
Bernoulli大数定律
概率论与 数理统计
Probability & Mathematical Statistics
第五章 大数定律和中心极限定理
§ 5.1 大数定律
第一章中指出:个别随机事件在某次实验中可能出现 也可能不发生
但在大量重复试验中却呈现明显的规律
即一个随机事件出现的频率在某个固定数的附近摆动
所谓“频率稳定性” 至今没有证明
n
二、切比雪夫( Ц е б ы ш е в )不等式 定理1. 设随机变量X有有限的数学期望EX和方差DX， 则 0, 都有 DX P{| X EX | } 2 以连续 型为例 设X的分布函数为F (x) 证明: ( x EX )2 dF ( x ) P{| X EX | } dF( x ) 2 |x EX| |x EX| 1 2 ( x EX )2 dF( x ) DX 2 |x EX| DX 有 P{| X EX | } 2 即定理成立
1 n lim P{ X i p } 1 即 贝努里大数定律提供了通过试验来确定 0, 都有 n n i 1
又 n X i
i 1
事件概率的方法：说明频率具有稳定性。 n
所以 lim P{
n
n
n
p } 1
定理4. 设 n为n重Bernoulli 试验中事件A出现的次数,
当X的分布未知时, 可以只利用EX , DX估计P{| X EX | }
当X的方差DX越小 事件{| X EX | }发生的概率越大
例1.
设随机变量X的期望和方差分别为EX , DX 2
试估计P{| X | 3 }
解:
1 X EX P{| | } 1 2 DX X 1 P{| X | 3 } P{| | 3} 1 2 0.8889 3
即 0, 都有
切比雪夫大数定律
切比雪夫大数定律给出了 平均值稳定性的科学描述：说 明经验平均值接近理论平均值。
1 n 1 n lim P{ X i EX i } 1 n n i 1 n i 1
证明: 设
1 n X ( n) X i n i 1 DX i c i 1 n
在n重Bernoulli试验中,随着n的无限增加
成功的频率几乎不再随机
这些“规律”的原理是什么?
一、依概率收敛的概念 定义1. 设X 1 , X 2 , , X n ,为一个随机变量序列, 若常数a , 使得 0, 都有 lim P{| X n a| } 0
n
成立, 则称随机变量序列 X n }依概率收敛于a , {
且A在第i次试验中出现的概率为pi ,
1 1 n lim P{ n pi } 1 n n n i 1
则 0, 都有
Poisson大数定律
证明请同学们完成!
设X 1 , X 2 , , X n ,相互独立, EX i 存在, DX i c
车贝晓夫大数定律
DX
2
p(1 p) ( p 0.5)2 0.25
Dpn 1 P{| pn p| 0.1} 1 0.95 2 1 (0.1) 0.04n
解得
n 500
即至少要抽查500 件元件才能使出现次品的频率 与p的偏差小于0.1的概率不小于0.95.
三、大数定律
不难得到,不等式的等价形式
P{| X EX | } 1 DX 2
1 X EX P{| | } 2 DX 1 X EX P{| | } 1 2 DX

( DX 时)
切比雪夫不等式
从以上两式可知:
X在EX附近取值的概率也越大 方差反映离散程度
记为 X n { XP }依概率收敛于a. 随机变量序列 n a ( n ) 依概率收敛不是通常微积分中的收敛 lim P{| X n a| } 0 n 它表明X n不稳定在a的附近的概率的极限为 0
即X n稳定在a的附近的概率的极限为 1 lim P{| X n a| } 1 n lim P{| X n a| } 1 因此
n
n
p } 1
X i 服从0 1分布，EX i pi
Poisson大数定律
1 1 n lim P{ n pi } 1 n n n i 1
1 n 1 n (1)式等价于: lim P{ X i EX i } 1 n n i 1 n i 1
(2)
1 n 如果假设 X ( n) X i n i 1
(1)式又等价于:
lim P{ X ( n ) E[ X ( n )] } 1
n
XY cov( X , Y ) DX DY
0.5 1 2 1
DZ D( X Y ) DX DY 2 cov( X , Y )
1 4 21 3
Z 0 P{| X Y | 6} P{|Z | 6} P{| | 2 3} 3 1 1 Z EZ P{| | 2 3} 2 12 (2 3 ) DZ 1 P{| X Y | 6} 2001年考研题,3分 12
(3)
服从大数定律的本质: 无穷随机变量序列的算术平均值的可能取值 总是在数学期望平均值的附近
四、常用的大数定律 定理2. 设X 1 , X 2 , , X n ,为相互独立的随机变量序列, 数学期望EX i 和方差DX i都存在,
且常数c , 使得DX i c , 则X 1 , X 2 , , X n ,服从大数定律.
由
例2.
设EX EY 2 , DX 1, DY 4, XY 0.5 试估计P{| X Y | 6}
解:
Z EZ 1 则P{| | } 2 设Z X Y DZ EZ E( X Y ) EX EY 0
cov( X , Y ) XY DX DY
n
由于X 1 , X 2 , , X n 相互独立
所以
1 1 n E[ X ( n)] EX i D[ X ( n)] 2 n n i 1
由切比雪夫不等式
0 , 有
1 P{ X ( n ) E[ X ( n )] } 1
令n
n
D[ X ( n)]
X ~ B( n , p ) EX np, DX np(1 p)
X pn n
问题化为
Epn E (
求n , 使P{| pn p| 0.1} 0.95
X )p n
1 X Dp n D( ) p(1 p ) n n
P{| X EX | } 1
定义2.
设X 1 , X 2 , , X n ,为一个随机变量序列 ,
且EX 1 , EX 2 , , EX n ,都存在, 如果
1 n 1 n 使得 0, 都有 lim P{ X i EX i } 0 (1) n n i 1 n i 1
则称X 1 , X 2 , , X n ,服从大数定律.

2
1
c n 2
lim P{ X ( n ) E[ X ( n )] } 1
即
1 n 1 n lim P{ X i EX i } 1 n n i 1 n i 1
推论.设{ X n }为相互独立且同分布的随机变量序列,
且EX i , DX i 2 , 则X 1 , X 2 , , X n ,服从大数定律. 1 n 即 0, 都有 lim P{ X i } 1 n n i 1 辛钦大数定律 证明: X 1 , X 2 , , X n ,显然服从切比雪夫大数定律