第五章 大数定律和中心极限定理

17 May 2016
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
第21页
依概率收敛（复习）
设有随机变量序列X1, X2,…, Xn，。。。和随机 变量Y，
lim P X Y 若对任意的 >0，有 n n 0
则称随机变量序列{Xn}依概率收敛于Y, 记为
17 May 2016
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
第19页
把定理5.1.4用于n重独立伯努利试验,则得 推论5.1.2(博雷尔(Borel)强大数定律)记 n为 n重独立伯努利试验中的成功次数,p为一次试 验成功的概率,则 P(lim
n
n
n
p) 1
(频率趋于概率的可能性为1, 这比推论5.1.1(伯 努利(弱)大数定理)更强,是对应的"强"定理)
第五章 大数定律与中心极限定理
第6页
依概率收敛
这里顺便讲一下两个更一般的概念，设有随 机变量序列X1, X2,…, Xn，。。。和随机变量Y，
lim P X Y 若对任意的 >0，有 n n 0
则称随机变量序列{Xn}依概率收敛于Y, 记为
Xn
P
Y
弱大数定律讨论的就是依概率收敛.
（有
17 May 2016

偏差的的可能性趋于0）
理学院数学系
概率论与数理统计
第五章 大数定律与中心极限定理
第7页
以概率1收敛
类似地，设有随机变量序列X1, X2,…, Xn，。。。 和随机变量Y， P( : lim X n ( ) Y ( )) 1 如果 x
17 May 2016 概率论与数理统计
(5.1.5)
理学院数学系
第五章 大数定律与中心极限定理
第13页
补：另一个重要不等式
若X非负，则
P( X )
E( X )

.
(例如习题5.2用到)
17 May 2016
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
第14页
伯努利大数定律 推论5.1.1（伯努利大数定律（频率收敛于概率））
第11页
切比雪夫弱大数定律的证明
证明：由X 1 , X 2 ,，的独立性有 X1 X 2 X n Var n 所以，由（5.1.4）有
Var[ X ]
i 1 i
n
n2
C n
X1 X 2 X n 1 n P E[ X i ] n n i 1 X1 X 2 X n X1 X 2 X n P E n n C 2 0 n . n 理学院数学系 证毕. 17 May 2016 概率论与数理统计
5.1.2 弱大数定律
我们将要学的弱大数定律(重点)的一般形式为：
若随机变量序列{Xn}满足：
1 n lim P Xi n n i 1 1 n E[ X i ] n i 1 0
则称{Xn} 服从弱大数定律.
（均值弱收敛于期望均值）
17 May 2016 概率论与数理统计 理学院数学系
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第4页
5.1.1 大数定律问题的提法
（平均值有
17 May 2016

偏差的的可能性趋于0）
概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第5页
（平均值偏差趋于0的可能性是1）
17 May 2016 概率论与数理统计 理学院数学系
设 vn 是n重伯努利试验中事件A出现的次数，每
次试验中 P(A) = p, 则对任意的 > 0，有
vn lim P n n
（频率与概率有
17 May 2016
p
0
偏差的可能性趋于0）
概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第2页
§5.1
大数定律
本节给出几个大数定律：
切比雪夫弱大数定律、辛钦弱大数定律
科尔莫哥洛夫强大数定律、博雷尔强大数定律 (两强两弱） 其中，讨论了 “概率是频率的稳定值”（伯努利 大数定律）的确切含义.
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第3页
对大数定律的直观认识
则称随机变量序列{Xn}以概率1收敛于Y, 记为
Xn
可以证明，若 X n
（偏差趋于0的可能性是1）
17 May 2016
a.s a.s 则
Y Y
Xn
P
Y
强大数定律讨论的就是以概率1收敛.
（几乎处处收敛）
概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第8页
Xn
P
Y
弱大数定律讨论的就是依概率收敛.
（有
17 May 2016

偏差的的可能性趋于0）
理学院数学系
概率论与数理统计
第五章 大数定律与中心极限定理
第22页
辛钦弱大数定律（复习） 定理5.1.2
若随机变量序列{Xn}独立同分布，且Xn的
数学期望存在，则 {Xn}服从弱大数定律.
即 X1 X 2 X n lim P 0. n n 其中E ( X n ) . X1 X 2 X n P 也就是 n
n n X k E[ X k ]) 0) 1. P(lim k 1 k 1 n n n
(这是强大数定律的最一般形式)
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第18页
把定理5.1.3用于独立同分布,则得 定理5.1.4(柯尔莫哥洛夫强大数定律)设X1 , , X n ,为独立 同分布随机变量序列, 具有有限的数学期望 ,则 n Xk P(lim k 1 0) 1. n n
第五章 大数定律与中心极限定理
第9页
切比雪夫弱大数定律
定理5.1.1 （切比雪夫弱大数定律）设X 1 , X 2 , , 为独立随机变量， Var[ X i ] C , i 1, 2, , 则对任意 0有 X1 X 2 X n 1 n lim P E[ X i ] 0. n n n i 1 (5.1.5)
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第16页
5.1.3 强大数定律
关于强大数定律，不加证明地给出一个引理和两个定律。 （强者非重点，少用到，弱者反而为重点）
引理5.1.2(柯尔莫哥洛夫不等式)设X1 , , X n ,为独立 随机变量序列, 具有有限的数学期望和方差, 则对任意
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第20页
有关大数定律习题选讲
5.5 设{ X n }是独立同分布的随机变量序列，且假设E[ X n ] 2, Var[ X n ] 6, 证明：
2 X 12 X 2 X 3 X 4 X 5 X 6 X 32n 2 X 3n 1 X 3n P a, n , n 并确定常数a之值.
（这是弱大数定律最一般的形式：均值弱收敛于期望均值）
证明用到切比雪夫不等式.
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第10页
（随机变量与期望有
17 May 2016
偏差的可能性不大）(证明中大X应为小x)
概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第五章 大数定律与中心极限定理
第12页
辛钦弱大数定律
定理5.1.2
若随机变量序列{Xn}独立同分布，且Xn的 数学期望存在，则 {Xn}服从弱大数定律.
即 X1 X 2 X n lim P 0. n n 其中E ( X n ) .
2 2 2 Y X X X X X X X k 1 2 3 4 5 6 3 n 2 X 3 n 1 X 3 n k 1 n
E[Yk ] E[ X 32k 2 X 3k 1 X 3k ] E[ X 32k 2 ] E[ X 3k 1 X 3k ] Var[ X 3k 2 ] ( E[ X 3k 2 ]) 2 E[ X 3k 1 ]E[ X 3k ] 6 4 4 14 k 1, 2, , n {Yn }满足辛钦大数定律条件，所以
0, 有
P(sup | ( X i E[ X i ] | )
1 k n i 1 k
var[ X
k 1
n
Leabharlann Baidu
k
] .

2
(n 1时是哪个不等式?)
17 May 2016 概率论与数理统计 理学院数学系
第五章 大数定律与中心极限定理
第17页
定理5.1.3(柯尔莫哥洛夫强大数定律)设X1 , , X n ,为独立 var[ X n ] 随机变量序列, 具有有限的数学期望,且 , 则 2 n n 1 0, 有
学校有10000个学生，平均身高为a；
若随意观察1个学生的身高X1，则X1与a可能相差较大。 随意观察10个学生的身高X1, X2 ,…, X10 ，则10个数据的均值 (X1+X2+…+X10 )/10与a较接近； 若随意观察100个学生的身高X1, X2 ,…, X100 ，则100个数据 的均值(X1+X2+…+X100 )/100与a更接近； 若随意观察n个学生的身高X1, X2 ,…, Xn ，则当n为很大数时， n个数据的均值(X1+X2+…+Xn ) / n （样本均值） 与a（总体 平均值）充分接近.
第15页
意义：随着n的增大，依概率意义讲，频率pn越来越 接近概率p，而pn不接近p的可能性越来越小。 p 不能说： lim pn ，因为不管 n有多大，仍可能有 pn n 偏离p 的情形出现(虽然这些例外情形出现的概率 趋于0)。
注意点
(1)伯努利大数定律是辛钦弱大数定律的特例 (2)辛钦弱大数定律是切比雪夫弱大数定律的特例. (3)各大数定律的条件是不同的，使用时注意甄别.
第五章 大数定律与中心极限定理
第1页
第五章 大数定律与中心极限定理
§5.1 大数定律 §5.2 中心极限定理
注：教材的这一章有些地方有误，可对照ppt作修改。 例如：p93定理5.1.1及其证明，p95定理5.1.4）
17 May 2016
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
概率论与数理统计
(5.1.5)
17 May 2016
理学院数学系
第五章 大数定律与中心极限定理
第23页
对于本题
2 2 X12 X 2 X 3 X 4 X 5X 6 X 3 P n 2 X 3n 1X 3n a, n , n
即对任意的 >0，有
lim P n
2 X X X 2 X X X 2 X1 X 3n1 X 3n 5 6 2 3 4 3n2 a 0 n

17 May 2016
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理
第24页
解：设Yk =X 32k 2 X 3k 1 X 3k ,由于{ X n }是独立同分布的随机变量序列 所以， {Yn }也是独立同分布的随机变量序列，且
Y
k 1
n
k
n a 14
2 X 12 X 2 X 3 X 4 X 5 X 6 X 32n 2 X 3n 1 X 3n P a, n n
17 May 2016
概率论与数理统计
理学院数学系
第五章 大数定律与中心极限定理