概率论大数定律与强大数定理优秀课件
大学课件-概率论之大数定律和中心极限定理
依概率收敛
设有随机变量序列X1, X2,…, Xn和随机变量Y
若对任意的 >0，有
nlim
P
:
Xn() Y ()
0
则称随机变量序列{Xn}依概率收敛于Y, 记为
Xn P Y
弱大数定律讨论的就是依概率收敛.
以概率1收敛
设有随机变量序列X1, X2,…, Xn和随机变量Y
如果
P(
:
lim
x
X
n
()
P(t1
vn
t2 )
P
t1
np npq
vn
np npq
t2
np npq
t2
np npq
t1
np npq
查分布表
当n 较小时，误差较大，公式可修正为
P(t1
vn
t2 )
t2
(1/ 2) npq
np
t1
(1/ 2) npq
np
查正态分布表
例5.2.2设某地区原有一家小电影院，现拟筹建一所较 大的电影院。根据分析，该地区每天平均看电影者 约有n=1600人，预计新电影院开业后，平均约有3/4 的观众将去新电影院。现计划其座位数，要求座位 数尽可能多，但“空座达到200或更多”的概率不能 超过0.1，问设多少座位为好？
X3
X
2 4
X5
X6
n
n
X2 3n2
X 3n1 X 3n
P14 , n
a 14
习题5.11 假设某洗衣店为第i个顾客服务的时间Xi服从区间[5,53] (单位：分钟)上的均匀分布，且对每个顾客是相互独立的，试问
当n
时，n次服务时间的算术平均值 1 n
5大数定律与中心极限定理 课件(共31张PPT)- 《概率论与数理统计(第2版)》同步教学(人民邮电
三、大数定律
第5章 大数定律及中心极限定理 12
定理4（独立同散布大数定律）
设随机变量序列X1, X2, , Xn, 独立同分布，若E Xi ，D Xi = 2 ，
i 1, 2, 。则对任意 0，有
lim P n
1 n
n i 1
Xi
1.
这里随机变量序列X1, X2, , Xn , 独立同分布指随机变量序列相互独立， 且序列中随机变量的分布类型及参数均相同。
例2 设X ~ N (, 2，) 用切比雪夫不等式估计概率P( X 3 ) 。
解
因为 =3 ，由切比雪夫不等式得
P X EX DX 2
P
X
3
D(X )
3 2
=
1 9
一、切比雪夫不等式
第5章 大数定律及中心极限定理 7
例3
设随机变量 X 的方差 D X 0，求证，X 服从参数为 c 的退化散布。
n
n i 1
X
2 i
P 1 n
n i 1
E
X
2 i
E
X
2 i
D Xi
E2
Xi
三、大数定律
第5章 大数定律及中心极限定理 17
例4续
01 当Xi B(m, p)时，E Xi =mp, E
X
2 i
=mp 1 p m2 p2, 有
OPTION
X P mp,
1 n
n i 1
X
2 i
P mp 1
p
m2 p2
02 OPTION
当X i
E 时，E
Xi
=
1
,
E
X
2 i
=
2
第五章 大数定律与中心极限定理 《概率论》PPT课件
概率论与数理统计
§5.2 中心极限定理
2）中 心极限 定理表明，若 随 机 变 量 序 列
X 1 , X 2 , , X n 独立同分布，且它们的数学期
望及方差存在，则当n充分大时，其和的分布,
n
即 X k 都近似服从正态分布. (注意:不一定是 k 1
标准正态分布）
3）中心定理还表明：无论每一个随机变量 X k ,
概率论与数理统计
§5.1 大数定律
定理1（Chebyshev切比雪夫大数定律）
假设{ Xn}是两两不相关的随机
变量序列，EXn , DXn , n 1,2, 存在，
其方差一致有界，即 D(Xi) ≤L，
i=1,2, …， 则对任意的ε>0，
lim P{|
n
1 n
n i1
Xi
1 n
n i1
E(Xi ) | } 1.
概率论与数理统计
§5.2 中心极限定理
现在我们就来研究独立随机变量之和所 特有的规律性问题.
在概率论中，习惯于把和的分布 收敛于正态分布这一类定理都叫做中心 极限定理.
下面给出的独立同分布随机变量序 列的中心极限定理, 也称列维——林德 伯格（Levy－Lindberg）定理.
概率论与数理统计
§5.2 中心极限定理
大量的随机现象平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
概率论与数理统计
§5.1 大数定律
一、大数定律
阐明大量的随机现象平均结果的稳定性的一系
列定理统称为大数定律。
定义1 如果对于任意 0, 当n趋向无穷时，事件
" Xn X " 的概率收敛到1，即
概率论课件第五章资料
vn n
np 1
n2
p
p 1
n
p
由切比雪夫不等式，对任意正数ε，有
0
P
vn n
p
p 1 p
n 2
n 0
lim
P
n
vn n
p
0
历史上，伯努利是第一个研究弱大数定理的， 他在1713年发表的论文中，提出了上述定理， 那是概率论的第一篇论文。
依概率收敛
设有随机变量序列X1, X2,…, Xn和随机变量
可以证明，若 Xn a.s Y 则 Xn P Y
强大数定律讨论的就是以概率1收敛.
二、强大数定律 定义
设有独立随机变量序列X1, X2,…, Xn，如
n
Xi EXi
P lim i=1
=0 1
n
n
则称{Xn}满足强大数定律。
柯尔莫哥洛夫不等式 （引理5.1.2）
设X1, X2,…, Xn为独立随机变量序列，具有 有限的数学期望和方差，则对任意 >0 ，有
n i 1
X
i
1 n2
n
Var Xi
i 1
2 n
P{Yn
EYn
}
Var Yn
2
2
n 2
0
(n )
得证。
辛钦大数定律 设X1，X2，…，Xn，…是独
立同分布的随机变量序列，且有有限的期望μ， 则对任意ε>0，有
lim
n
P
X1
X2 n
Xn
0
显然
E
X1
X2
n
Xn
n
证
令Var Xi 2,
n i 1
EX i
大数定律弱大数定律强大数定律
大数定律弱大数定律强大数定律大数定律是概率论中的重要定理之一，用来描述随机试验中样本均值的收敛性质。
弱大数定律和强大数定律是大数定律的两种形式，它们分别适用于不同条件下的样本均值收敛情况。
本文将从理论和实际应用两个方面介绍大数定律和它们的区别。
一、大数定律的概念大数定律是概率论的基础定理之一，它描述了当样本容量逐渐增大时，样本均值将会接近于总体均值的现象。
换句话说，大数定律说明了随机事件的平均结果会趋于稳定。
大数定律是统计学中非常重要的理论基础，对于判断样本均值是否能够代表总体均值具有重要意义。
二、弱大数定律的表述与证明弱大数定律也被称为伯努利定律或辛钦大数定律，它是大数定律的一种形式。
弱大数定律的表述是：对于独立同分布的随机变量序列，样本均值收敛于总体均值的概率为1。
换句话说，无论样本容量多大，样本均值与总体均值之间的差异都会在概率上趋于0。
弱大数定律的证明通常使用切尔诺夫辩证法。
根据独立同分布的条件，可以通过计算随机变量序列的方差和协方差来推导出样本均值的极限分布。
经过一系列推导，可以得到样本均值与总体均值之间的差异的概率极限为0，从而证明了弱大数定律。
三、强大数定律的表述与证明强大数定律也被称为布尔查诺夫大数定律，它是大数定律的另一种形式。
强大数定律的表述是：对于满足一定条件的随机变量序列，样本均值几乎处处收敛于总体均值。
与弱大数定律不同的是，强大数定律要求随机变量序列满足更严格的条件，如独立同分布序列的方差有界等。
强大数定律的证明比较困难，常采用盖希尔定理、泛函不等式等方法。
通过引入随机变量序列的独立性和方差有界性等条件，可以推导出样本均值的收敛性。
强大数定律表明，样本均值几乎必然收敛于总体均值，这是一种强收敛性的结果。
四、大数定律的应用大数定律在实际应用中具有广泛的意义。
首先，大数定律为统计推断提供了理论基础，使得我们能够根据样本均值对总体均值进行有力的估计。
其次，在金融和经济领域，大数定律被广泛用于建立风险模型和评估投资回报率。
概率论与数理统计-五大数定理-PPT
300
P
Xi 0
i 1
n
10
n
P
300
Xi
i 1
5
0
2
2 2 2 2 1 0.9544
15
德莫威尔—拉普拉斯定理
设在独立实验序列中，事件A 在各次实验中发生的概率为
p0 p 1， 随机变量 表Yn示事件A 在n 次实验中发生的次
数，则有
lim
n
P
Yn
Ai 表示“在第 i 次试验中，事件A发生”。
n
Bn Ai 而 P( Ai ) p
i 1
P(Bn )
P n Ai i1
1
P
n i 1
Ai
1 P
A1
A2 An
1 P A1 P A2 P An 1 (1 p)n
显然，当n 时，P(Bn ) 1. [注] 小概率事件尽管在个别试验中不可能发生，但在大量试验
X1 , X 2的, 算, X术n平均值：
X n 的数学期望是：EX n
1 n
n i 1
EX i
X n 的方差为：
DX n
1 n2
n
DX i
i 1
1 n
X n n i1 X i
∴若方差一致有上界，则
DX n
1 n2
nK
K n
由此，当
n
充分大时，
随机变量
X
分散程度是很小的，
n
也就是说， X n的值较紧密地聚集在它的数学期望 EX n的附近.
P200 (6)
26 6!
e2
0.012
此概率很小，据小概率事件的实际不可能性原理，
∴不能相信该工厂的次品率不大于0.01。
第一节大数定律PPT资料15页
P
g(Xn,Yn) g(a,b)
[证明]：见教材P 146页下方的小字体
概率统计
二. 贝努利大数定理
定理3. (贝努利定理) 设随机变量 X1,X2, Xn,
相互独立，且同时服从以 p 为参数
的(0 – 1)分布。则对任意正数 有：
limP n
nA p n
1
或
limP n
则对任意的正数 有:
limP n
n 1kn 1Xk
1
辛钦
概率统计
注: 辛钦大数定律为寻找随机变量的期望值提供了
一条实际可行的途径。
请看演示 辛钦大数定律
总的：
大数定律从各个角度描述了样本的算术 平均值的及频率的稳定性 。也为人们习 惯上经常采用的用样本的算术平均值去 代替或 估计其平均值；用频率去代替或 估计其“概率”提供了理论上的依据。
概率统计
指的:是 对P 任意正 有数 lni m P(Yna)1
记为：Y n a
由此，定理2的结论可叙述为：序列
依概率收敛于常数
Xn
1 n
n k1
Xk
▲ 依概率收敛的序列具有如下性质:
P
P
设 Xna, Ynb 又设函数 g ( x, y ) 在点
( a, b ) 处连续，则有：
1 n
n
D(n 1kn1Xk)n12
n
D(Xk)
k1
1 n2
n2
12
n
由切比雪夫不等式可得: (P(XE(X))D(X 2 )
Pn 1kn 1Xk 122n
概率统计
令：n, 并注意到概率 1 , 所以得：
概率与数理统计_课件_第5章_大数定律
5%的时间要使用外线通话.设每部电话是否使 用外线通话是相互独立的. 求:该单位总机至少需要安装多少条外线 才能以90%以上的概率保证每部电话需要使用 外线时可以打通?
解:
1 第i部电话使用外线通话. 令 Xi 0 第i部电话未使用外线通话.
设该单位总机安装k条外线,则:
∴ Xi ∼ b(1,p).X1,X2 , ,X200相互独立.
20 np np (1 p) 5
X
i 1 n
n
i
np
3 np np (1 p) 5
np (1 p)
}
P{
25 0.995 25 0.995 25 0.995 (1) ( 1) 2 (1) 1 0.6826
X
i 1
Sn p | } 0 任给ε>0， lim P{| n n 贝努里大数定律表明，当重复试验次数 n充分大时，事件A发生的频率Sn/n与事件A 的概率p有较大偏差的概率很小.
请看演示 贝努里大数定律 贝努里大数定律提供了通过试验来确 定事件概率的方法.
下面给出的独立同分布下的大数定 律，不要求随机变量的方差存在. 定理3（辛钦大数定律） 设随机变量序列X1,X2, …独立同 分布，具有有限的数学期E(Xi)=μ,
则
Sn X i
i 1 n
n
Sn 1 X i 是事件A发生的频率 n n i 1
于是有下面的定理：
贝努里
定理2（贝努里大数定律） 设Sn是n重贝努里试验中事件A发生的 次数，p是事件A发生的概率，则对任给的
ε> 0，
或
概率论与数理统计PPT课件第四章大数定律及中心极限定理(1)
E ( X ) xf ( x)dx
注意：随机变量的数学期望的本质就是加权 平均数，它是一个数，不再是随机变量。
13
常见连续型分布的数学期望 (5) 区间(a,b)上的均匀分布
随机变量X的概率密度为
于是
14
(6)正态分布N(μ,σ2 ) 随机变量X的概率密度为
( y )
则
E ( Z ) E ( g ( X 1 , , X n ))
j1 jn
g( x
j1
, , x jn ) p j1 jn
23
随机向量函数的数学期望（续）
设X=(X1 ,…, Xn)为连续型随机向量，联合 密度函数为 f ( x1 , , xn ) Z = g(X1 ,…, Xn), 若积分
20
一种方法是，因为g(X)也是随机 变量，故应有概率分布，它的分布 可以由已知的X的分布求出. 一旦我
们知道了g(X)的分布，就可以按照 数学期望的定义把E[g(X)]计算出来.
21
使用上述方法必须先求出随机变量 函数g(X)的分布，有时是比较复杂的 .
那么是否可以不先求出g(X)的分布而 只根据X的分布直接求得E[g(X)]呢？ 下面的基本公式指出，答案是肯定的.
np C p (1 p)
k 0 k n 1 k
n 1
( n 1)k
np
6
(3)泊松分布 X的所有可能取值为0,1,2,…,且
7
(4)几何分布 X的可能取值为1,2,…, 且 P(X=k)= (1-p)k-1 p, k= 1,2,….
由于
这可以由等式 两边同时对x求导数得到。
| x| 发散 但 | x | f ( x)dx dx 2 (1 x )
清华大学概率论与数理统计课件强大数定理
lim
n
An
lim
n
An＝lim n
An
称
lim
n
An为随机事件序列{
An
}的极限事件.
引理5.4.1 (博雷尔－康特立引理)
(1) 若随机事件序列{ An }满足 P( An ) ,则 n1
P
(lim n
An
)
0,
P(lim An ) 1 n
(2) 若随机事件序列{An }相互独立,则 P( An )＝
定义 设A1, A2 , , An , 为一列事件，记
lnimAn
An
k 1 nk
称lnimAn为事件序列{ An }的上限事件. 记
lim An
An
n
k 1 nk
称lim An为事件序列系
上限事件lnimAn表示事件An发生无穷多次.下 限事件 lim An表示事件An至多只有有限个不发生.
若{i }是独立随机变量序列，Di
2 i
,
(i 1, 2, n),则对任意的 0，均有
P{max m jn
j
(i E(i ))
i 1
} 1 2
n
2 j
j 1
科尔莫戈罗夫不等式是概率论中最重要的不等 式之一，当n=1时，科尔莫戈罗夫不等式就退化为 车贝晓夫不等式，而咯依克－瑞尼不等式又是科 尔莫戈罗夫不等式的推广.
n1
成立的充要条件为
P(lnimAn ) 1,
或者 P(lim An ) 0 n
定理5.4.1 n ( ) a.s. ( ) n( ) P ( )
反例(p298例一) n ( ) a.s. ( ) NO n ( ) P ( )
大数定律与强大数定律的推广
大数定律和强大数定律的推广1 引言大数定律和强大数定律是概率论中两个重要的概念，围绕这两个概念有许多重要的定理，并且许多重要的定理证明和实际问题中都要应用这两个概念及其相关定理，鉴于这些定理在理论推导和实际应用方面的举足轻重的作用，很有必要推广这两个概念及其定理．2 大数定律2．1 大数定律的叙述定义2．1．1 设｛X n ｝为随机变量序列，它们都有有限的数学期望E(X n )．如果n1∑=-nk k kX E X1)]([−→−p0，则称｛X n ｝满足大数定律．定理2．1．1 （马尔可夫大数定律）设｛X n ｝是方差有限的随机变量列，如果有0)(112→∑=nk n X D n 则｛X n ｝满足大数定律．推论2．1．2（切贝谢夫大数定律） 若序列｛X n ｝两两不相关且方差有界：D(X n )≤C(n ≥1)，则｛X n ｝满足大数定律．推论2．1．3（伯努利大数定律） 设n μ为n 重伯努利试验中成功次数，则当n →∞时有nnμ−→−p p ．定理2．1．4（辛钦大数定律） 对于独立同分布随机变量列｛X n ｝，大数定律成立的充分必要条件是E(n ξ)=a 有限．证明 必要性是大数定律的定义所要求的．只需证明充分性．假定｛X n ｝之共同的特征函数为f(t)，则由引理2．8（《概率论》杨振明 科学出版社 P213）知t 0→时有f(t)＝1+iat+o(t)从而∑=nk k X n 11的特征函数为n n nto n t ia n t f )](1[)]([++=运用如下分析事实：对复数列｛c n ｝而言c n c →蕴含(1+nc n )nc e →， 便可得证iat n n n n e nto n iat n n t f =•++=)])([11(lim )]([lim ． 根据连续性定理1．10（《概率论》杨振明 科学出版社 P204）及定理1．6（《概率论》杨振明 科学出版社 P141）便得∑=nk k X n 11依概率收敛到a ．事实上该定理证明用到了概率论中弱收敛和特征函数收敛之间的等价关系，而几种收敛性之间的互推关系是一个重要的内容，这将在本文的最后一节加以阐述．2． 2 大数定律的推广2．2．1 大数定律定义的推广首先介绍几个引理．定义 称r ．v ．'s 序列｛X n ｝和｛Y n ｝是尾列等价的，若 P(X n ≠Y n ，i ．o ．)＝0称r ．v ．'s 序列｛X n ｝和｛Y n ｝是收敛等价的，若它们的收敛点集只相差一个零测集．引理1 （等价性引理）设r ．v ．’s 序列｛X n ｝和｛Y n ｝满足∞<≠∑∞=1)(n n n Y X P ，则下列叙述成立．(1) ｛X n ｝和｛Y n ｝是尾列等价的； (2)｛X n ｝和｛Y n ｝是收敛等价的；(3)若b n ∞↑，则｛b 1-n∑=nk kX1｝和｛b1-n∑=nk kY1｝是收敛等价的，且在公共收敛点上，它们的极限相同．证 P(X n n Y ≠，i ．o ．)＝∞→n lim P( n k k k Y X ≥≠)()∑≥≠≤nk k k Y X P )(lim =0，故(1)成立，而(2)和(3)的成立是显然的．定义2．2．1 设{ X n }为一列r ．v ．序列，如果存在常数列｛A n ｝和正常数序列｛B n ｝,其中B n ∞→，使nb B S －A n −→−p0 则称{ X n }服从弱大数定律（简称大数定律）．定义2．2．1是定义2．1．1的推广，但事实上我们所主要讨论的仍然是独立r ．v ．列以及B n =n 这种形式．2．2．2 ｛X n ｝为任意r ．v ．列．定理2．2．1 （格涅坚科定理） 对随机变量序列｛i X ｝，若记Sn=n1(X 1+X 2+．．．+Xn)，a n =)(121n EX EX EX n+++ ，则｛X n ｝服从大数定律的充要条件是})(1)({lim 22n n n n n a S a S E -+-∞→＝0 证 （充分性）令n η＝S n －a n =)(1n n ES S n-＝∑=-n k k k EX X n 1)(1，设其分布函数为F n (x)，则P(()ε≥-∑=nk k k EX X n 11)=P(εη≥n )=⎰≥εx n x dF )(⎰≥++≤εεεx n x dF x x )(112222=⎰≥++εεεx n x dF x x )(112222⎰∞+∞-++≤)(112222x dF x x n εε=⎪⎭⎫ ⎝⎛++222211n n E ηηεε0→ 故｛X n ｝服从弱大数定律．（必要性） ｛X n ｝服从大数定律，所以0>∀ε))(1(lim 1ε≥-∑=∞→nk k k n EX X n P =))(1(lim ε≥-∞→n n n ES S n P=0)(lim =≥∞→εηn n P (*)P(εη≥n )=⎰≥εx n x dF )(=222222222)1()(1)(1)(1εηηεε-+≥+-+=+⎰⎰⎰<∞+∞-≥nn x n n x n E x dF x x x dF x x x dF x x 令n ∞→ 由(*)及ε的任意性可得 })(1)({lim 22n n n n n a S a S E -+-∞→＝0定理2．2．2 （伯恩斯坦定理）已知随机变量序列｛X n ｝的方差有界：DX n C ≤，并且当∞→-j i 时，相关系数r ij 0→，则｛n X ｝满足大数定律．证 因当∞→-j i 时，r ij 0)()()cov(→-=j i j i X D X D X X ，且D(X n )C ≤故0)()(),cov(),cov(→≤j i j i j i X D X D X X CX X 当∞→-j i 时所以对于任意0>ε，),cov(j i X X εC ≤．εn n n C X X X D n X D n nnj i j i nk k n k k 1)),cov(2)((1)(1,11212-+≤+=∑∑∑≤≤== 又由ε的任意性可知01)(112→-+≤∑=εn n n C X D n nk k n ∞→时由定理2．1．1可知｛X n ｝符合大数定律．2．2．3 {X n }为独立r ．v ．列定理2．2．3 设{ X n }为一列独立的r ．v ．序列，则nS n −→−p0的充分必要条件是(i)∑=≥nk kn XP 1)(→0；(ii) 21n ∑=<nk n X kk I XD 1)(][→0；(iii)n1∑=<nk X kn I XE k 1][→0；证 令Y k =X k I )(n X k <充分性 由Chebushev 不等式，独立性条件(ii)，对ε∀>0，我们有P(n1∑=-nk k kEY Y1)(ε≥)≤2-εn2-∑=nk kYVar 1)(→0因而有n1∑=-nk k kEY Y1)(−→−p由条件(iii)有n1∑=nk kY1)(−→−p0 (2．1)由条件(i)，｛X n ｝和｛Y n ｝尾列等价，由引理1得∑=-n k k n Y n n S 11−→−p再由(2．1)式即得0−→−p nnS ．必要性 设0−→−pn nS ，以k μ表示r ．v ．X k 的中位数，f k 表示X k 的c ．f ．，g n (t)为n S n 的c ．f ，，则由完全收敛性准则g n (t)=∏=→nk k n tf 11)(．设c>1，由命题5．12（）知在每个有限区间［－c ，c ］上g n (t)一致收敛，因此当n 充分大时log )(t g n →0，故由弱对称化不等式及c ．f ．性质6的第二个不等式有21∑∑==≥≤≥-nk nk k k k c n X P c n X P 112)1()1(μ ⎰-≤c n du u g c 02)(log 7→0 (n ∞→) (2．2)又因为n X n ＝111-⋅---n S n n n S n n 0−→−p所以0→nnμ，注意到c<1，由(2．2)式即得(i)．由c ．f ．的性质8的第一个不等式及g n (t)→1，当n 充分大时2∑=nk k n Y Var 1)(=∑=n k s k n Y Var 1)(≤∑=-n k k e n f R 12)])1((1[3≤－3∑=nk k n f 12)1(log=－3log 2)1(ng n →0 (2．3)因此(iii)成立．由于0−→−p n nS ，由(i)和引理1有∑=−→−n k pk Y n 101，有chebushev 不等式和(2．3)式，P(ε≥-∑=nk k k EY Y n 1)(1)∑=→≤nk knY Var 120)(1ε 故0)(11−→−-∑=pn k k k EY Y n 从而∑=n k k EY n 11＝0)(11→-∑=nk k k EY Y n即(i)成立．2．2．4 ｛X n ｝为独立同分布r ．v ．序列．推论2．2．2 若｛X n ｝为独立同分布r ．v ．序列（简记为i ．i ．d ．序列），则0−→−p n nS 的充分必要条件是 (i)＇ nP(n X >1)0→ (ii)＇ EX 1I )(1n X <0→证 我们只要证明(i)能推出定理中的条件(ii)即可．由于｛X n ｝为i ．i ．d ，条件(ii)等价于)(1)(11n X I X D n<→0 (2．4) 事实上，我们由(i)＇可推出01)(211→<n X I EX n(2．5) 这是由于EX )(211n X I <=∑=≤≤-nj j X j I EX 1)1(211∑=<≤-≤nj j X j P j 112)1(∑∑==<≤-≤n j ji j X j iP 111)1(2=2∑∑==<≤-ni nj j X j P i 111)1(=2∑=<≤-ni n X i iP 11)1(∑∑==≥+≤-≥≤ni n i i X ip i X ip 1111)(22)1(2 (2．6)注意到如果a n →0，则∑=nk k a n 110→这一事实，由条件(i)＇和(2．6)式即知(2．5)式成立，从而(ii)成立．如果EX 1存在有限，则EX 1I )(1n X >0→，由Chebyshev 不等式知nP(n X ≥1)≤E[X 1I )(1n X ≥]0→，因此我们可以得到．推论2．2．3 如果｛X n ｝为i ．i ．d ．r ．v ．序列，则1EX nS pn −→−的充分必要条件是EX 1有限．事实上推论2．2．3就是我们所熟悉的辛钦大数定律．上面我们对于推广后大数定律的结论的讨论是遵循一定顺序的，主要是按照随机序列所满足条件的严格性的变化来讨论的，很明显，首先是在任意随机序列的基础上添加一定条件得到格捏坚科定理和伯恩斯坦定理，然后要求随机序列依次满足独立条件和独立同分布条件，得到大数定律的充分条件和充分必要条件．2．3 大数定律的进一步推广定义2．3．1 称r ．v ．序列｛X n ；n 1≥｝是弱稳定的，如果存在常数序列｛a n ｝和｛b n ｝，0<a n ∞↑，使得n n nb Y a -10−→−p(2．3．1) 定义2．3．2 称r ．v ．序列｛X n ；n 1≥｝服从大数定律，如果{S n }是弱稳定的，这里S n =∑=nk k X 1．若记X nk =nka X ，引入组列｛X nk ；k=1，2，．．．，n ，n ＝1，2，．．．｝，可用组列的概念定义大数定律，并且推广一些定理．定义2．3．3 称r ．v ．组列｛X nk ；k=1，2，．．．，k n ，n ＝1，2，．．．｝服从大数定律，如果存在常数列｛b n ｝，使得0−→−-∑pn knkb X换言之，｛X nk ｝服从大数定律，当且仅当存在常数列｛b n ｝，使得nknk b X -∑的分布弱收敛于退化分布D(x)=⎩⎨⎧><0,10,0x x 若 若引入组列的概念后，就可以给出定理2．2．1的更一般的形式．即下述定理．定理2．3．1 独立r ．v ．组列｛X nk ｝满足无穷小条件且0−→−∑p knkX的充要条件是对任给的0>ε和某个0>τ∑→≥knkXP 0}{ε． ∑<knk nkX I XE )}({τ0→． ∑<knk nkX I XD )}({τ0→．我们可把“对任给0>ε和某个0>τ”换作“任给的0>ε和任给0>τ”． 证：3 强大数定律3．1 强大数定律的叙述定义3．1．1 设｛X n ｝为随机变量列，它们都有有限的数学期望E(X n )．如果−→−-∑=..1)]([1s a n k k k X E X n 0则称｛X n ｝满足强大数定律．在独立情形下讨论强大数定律．定理3．1．1 柯尔莫戈洛夫强大数定律 设｛X n ｝是独立随机变量序列，满足∑∞=+∞<12)(k k kD ξ 则强大数定律成立．证明可查看由杨振明编著的《概率论》的P221，本定理的证明用到了概率论中非常重要的截尾法。
概率论大数定律与强大数定理
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
二、常用的四种大数定律
定义4.5 设X1, X2,, Xn ,是随机变量序列 ,
令
Yn
1 n
n i 1
Xi
如果存在这样一个常数序列a1, a2 ,, an ,,
对任意的ε 0,恒有
lim
n
P
Yn
an
ε
0
lim
n
P
1 n
i
n 1
X
i
1 n
n i 1
EX i
ε 0
或者lim n
P
1 n
n i 1
Xi
1 n
n i 1
EX i
1
【证】因为Xn两两不相关, 故
D
1 n
n i 1
Xi
1 n2
n i 1
DXi
C n
再由车贝晓夫不等式得到
0
P
1 n
i
n 1
X
i
1 n
n i 1
EX i
ε
D
1n
n i1 ε2
Xi
C nε2
于是，当 n 时，有
lim P n
1 n
n i 1
Xi
1 n
或者lim P n
Yn an
1
则称随机变量序列 X n 服从大数定律.
【定律】马尔可夫大数定律
《概率论与数理统计》课件第五章大数定律及中心极限定理
4.大样本统计推断的理论基础
是什么？
大数定律中心极限定理
随机现象中平均结果的稳定性
大数定律的客观背景
大量抛掷硬币正面出现频率
字母使用频率
生产过程中的废品率
§5.1 大数定律
背景：1. 频率稳定性2. 大量测量结果算术平均值的稳定性
回顾
随机现象的主要研究方法
概率分布
01
证：_x001A__x001B__x001B_,_x001A__x001B__x001B_,⋯, _x001A__x001B__x001B_, ⋯相互独立同分布，则_x001A__x001B__x001B__x001B_,_x001A__x001B__x001B__x001B_, ⋯,_x001A__x001B__x001B__x001B_, ⋯也相互独立同分布,由辛钦大数定律得证.
第五章 大数定律及中心极限定理
§5.1 大数定律§5.2 中心极限定理
要点：用切比雪夫不等式估算概率独立同分布,用中心极限定理计算对于二项分布，当n很大时，计算
本章要解决的问题
1.为何能以某事件发生的频率
作为该事件的概率的估计？
2.为何能以样本均值作为总体
期望的估计？
3.为何正态分布在概率论中占
解：(1)设X表示一年内死亡的人数，则~(, )，其中=，=.%. 设Y表示保险公司一年的利润，=×−.需要求的是_x001A_<_x001B_.
由中心极限定理
_x001A_<_x001B_=_x001A_×−<_x001B_ =_x001A_>_x001B_=−_x001A_≤_x001B_
且，
由中心极限定理
解：设为第i个螺丝钉的重量， 相互独立同分布. 于是，一盒螺丝钉的重量为
概率论快班课件慢班真题概率论课件第五章大数定律及中心极限定理
§1 大数定律
现象：
(1) 事件发生的频率具有稳定性，即随着试 验次数的增加，事件发生的频率逐渐稳 定于某个常数。
(2) 在实践中人们还认识到大量测量值的算 术平均值也具有稳定性。
1
定义1：
第五章 大数定律及中心极限定理
§1 大数定律
设 Y1,,Yn , 是随机变量序列， a 是一个常数；
解得 0.0124.
良种粒数X的范围为
X -1
6000 6
(1/ 6 0.0124) 6000 X (1/ 6 0.0124) 6000,
即 925 X 1075 .
返回主目16 录
第五章 大数定律及中心极限定理
例3（练习一下）
§2 中心极限定理
设一个系统由100个相互独立起作用的部件组成，
若则对称任Y意1, ,Y0n，,有依:概nl率 im收P{敛|Y于n aa，|记}为
1
Yn
P a。
定义2：
设 X1,, X n, 是随机变量序列，令Yn
1 n
n
Xk
k 1
，
若存在常数序列a1,, an, 使对任意 0 ，有
lim
n
P{|
Yn
an
|
}
1 ，或 lim n
P{|
Yn
an
|
}
0
，
则称{Xn} 服从大数定律。
设不超过的界限为 ，则应有：
P
X 6000
-
1 6
0.99
由德莫佛-拉普拉斯定理
返回主目14 录
第五章 大数定律及中心极限定理
P
X 6000
-
1 6
n 6000, p 1/ 6.
概率论大数定律与强大数定理
lim
n
P
1 n
n k 1
X
2 k
2
1.
内容小结
马尔可夫大数定律 车贝晓夫大数定律 贝努里大数定律 泊松大数定律 辛钦大数定律
贝努里(Jacob Bernoulli)
1654-1705
瑞士人, 贝努里家族的三大 杰出的数学家之一.
首先发展无穷小分析, 1960 年提出悬连线问题,首创积分 “integral”这一术语.
【定律】（泊松大数定律）
如果在一个独立试验序列中,事件 A 在第k次试验 中发生的概率是pk ,以n 记在前n次试验中事件A出现 的次数, 则对于任意正数 0, 有
lim
n
P
n n
1n
n
pk
k 1
0
或
lim
n
P
n n
1n
n
k 1
pk
1 n
i
n 1
X
i
1 n
i
n 1
EX
i
ε
0
【定律】车贝晓夫大数定律
设X1, X 2 , , X n , 是两两不相关的随机变量序列, 每一随机变量都有有限的方差,并有公共的上界
DX1 C, DX2 C,, DXn C,
则对任意的 ε 0,恒有
E
X
i
.
注3 车贝晓夫大数定律的另一种叙述
设X1, X 2 , , X n , 是两两不相关的随机变量序列, 每一随机变量都有有限的方差,并有公共的上界
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
故有
E X k p ,D X k p 1 p 1 4 k 1 ,2 , ,n
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
二、常用的四种大数定律
定义4.5 设 X1,X2, ,Xn, 是随机变 , 量
令
Yn
1 n
n i 1
Xi
如果存在这序 样a 列 一 1,a2,个 ,an常 , ,数
对任ε意 0,恒 的有
liP m Y n a n ε 0
n
或 者 l n i m P Y n a n 1
总 次 数 ， p 是 事 件 A 在 每 次 试 验 中 发 生 的 概 率 ( 0 p 1 ) , 则对任ε意 0,的 有
n l iP m n n p 0
证 引入随机变量
Xk＝ 1 0,,
在k第 次试验A 中 不事 发件 生 在k第 次试验A 中 发事 生件
n
k1,2, ,n.unX1X2 Xn Xi i1
或 者 ln i m P n 1i n 1X in 1i n 1E X i 1
【证】因 为 X n 两 两 不 相 关 , 故
D n 1in 1X i n 1 2in 1D X iC n
再 由 车 贝 晓 夫 不 等 式 得 到
0P n 1i n1Xin 1i n1EiXε
概率论大数定律与强大数定理
主要内容 问题提出 马尔可夫大数定律 车贝晓夫大数定律 贝努里大数定律 泊松大数定律 辛钦大数定律
一、问题的引入
概率论是研究随机现象统计规律性的学 科. 随机现象的规律性只有在相同的条件下 进行大量重复试验时才会呈现出来. 也就是 说，要从随机现象中去寻求统计规律，应该 研究大量随机现象.
【定律】车贝晓夫大数定律
设 X 1 , X 2 ,, X n ,是 两 两 不 相 关 的 随 机 变 量 序 列 , 每一随机变量的都方有 ,并 差有 有限 公共的上
D X 1 C , D X 2 C , , D X n C ,
则对任ε 意 0,恒 的有
n l i P m n 1 i n 1 X i n 1 i n 1 E i X ε 0
注2 当 n 很 大 时 , 随 机 变 量 X 1 , X 2 ,, X n 的
算术 平均n1值 in1Xi接近于它们的数 的学 算术平n 1均 in 1E值 Xi.
注3 车贝晓夫大数定律的另一种叙述
设 X 1 , X 2 ,, X n ,是 两 两 不 相 关 的 随 机 变 量 序 列 , 每一随机变量的都方有 ,并 差有 有限 公共的上
4σ2
n2n12
n
i2
i1
4n n 6 n 2 1 n 2 n 1 2 1 σ22 3 2 n n n 1 1 σ 2
从而对任意给定的 0, 由车贝晓夫不等式得
0P {Y |nμ|ε}D ε Y 2 n
2 3n 2n n 1 1σ ε2 2 0 n 因此 Yn P .
例： 设随机变量 X1, X2,, Xn, 相互独立,
D X 1 C , D X 2 C , , D X n C ,
则序 X列 n 1i n1Xi依概率 n 1i n 收 1EX 敛 i, 于
即
X Pn1in1EXi
注4 车贝晓夫大数定律与马尔可夫大数定律的 区别与联系
车 贝 晓 夫 大 数 定 理 显 然 可 由 马 尔 可 夫 大 数 定 理 推 出 ， 而 马 尔 可 夫 大 数 定 理 没 有 任 何 关 于 不 相 关 的 假 设 。
有有限方 差
D X n E X n 2 E X n 2 a 2
因 此 ,随 机 变 量 X n n 1 ,2 , 有 限 的 方 差 ,且 有
公 共 上 界 .
故满足车贝晓夫大数定律的条件.
【定律】 贝努里大数定律
设 n 是 n 次 独 立 重 复 贝 努 里 试 验 中 事 件 A 发 生 的
研究大量的随机现象，常常采用极限 形式，由此导致对极限理论进行研究. 极 限理论的内容很广泛，其中最重要的两种 是:
大数定律 与 中心极限定理
下面我们先介绍大数定律
大数定律的客观背景
在实践中, 人们认识到大量测量值的算术平 均值也具有稳定性. 大数定律就是用于研究大 量随机现象中平均结果的稳定性的理论.
具有如下分布律:
Xn na 0 na
P
1 2n2
1
1 n2
1 2n2
问是否满足车贝晓夫大数定律的条件? 解
检验是否有 数学期望
由题意可知随机变量彼此不相关条件满足. E(Xn)n2 a n 120 1n 1 2 n2 a n 12 0,
可见, 每个随机变量的数学期望都存在.
检验是否
所E 以 X n 2n2 a n 1 2a2
则 称 随 机 变 量 序 列 X n 服 从 大 数 定 律 .
【定律】马尔可夫大数定律
设 X 1 , X 2 ,, X n ,是 随 机 变 量 序 列 , 如 果 下 式 成 立
1 n
n2D(i1Xi)0 (n)
则对任ε 意 0,恒 的有
n l i P m n 1 i n 1 X i n 1 i n 1 E i X ε 0
例：设X1, X2,, Xn 是独立同分布的随机变量
序 ,E (X 列 i) μ ,D (X i) σ 2 均 ,证 存明 在
Y nn n 2 1 i n 1iX i
依概率收敛到.
解 因为 EYnEnn21i n1iX i
nn21in1iEXi
2
nn
1
n i1
i
DYnn2n412iε2
Xi
C nε2
于是，当 n 时，有
1n 1n
l n i m P n i 1X i n i 1E X i 0
注1
车 贝 晓 夫 大 数 定 律 的 条 件 ： X i之 间 彼 此 不 相 关 ， 每 一 个 E (Xi)都 存 在 ， 方 差 D(Xi)有 限 ， 且 有 公 共 的 上 界