chap5-1 大数定律
合集下载
第五章大数定律及中心极限定理
求P{V>105}的近似值
解 E(Vk)=5, D(Vk)=100/12 (k=1,2,…,20).
20
Vk 20 5
Z k1
V 20 5
100/ 12 20 100/ 12 20
近似服从正态分布N(0,1),
P{V 105} P{ V 20 5 105 20 5 }
100/ 12 20 100/ 12 20
设随机变量 X1 , X2 ,…, X n 相互独立, 服从同一分
布 , 且 具 有 相 同 的 数 学 期 望 和 方 差 ， E(Xk) ,
D( Xk ) 2 0,(k 1,2,),则随机变量
n
n
n
Xk E( Xk ) Xk n
Yk k1
k 1 n
D( Xk )
k1
n
k 1
n k 1
Xk
|
}
1
说明
伯努利大数定理是辛钦定理的特殊情况。
n个随机变量的算术平均值以概率收敛于算术平
均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 用算术平均值作为所研究指标值的近似值。
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
(2.5) 0.9938
三 小结
1、独立同分布的中心极限定理
2.李雅普诺夫定理
3.棣莫佛－拉普拉斯定理
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1 n
D( Xk )
k1
k 1
Bn
k 1
近似服从标准正态分布N(0,1)。
解 E(Vk)=5, D(Vk)=100/12 (k=1,2,…,20).
20
Vk 20 5
Z k1
V 20 5
100/ 12 20 100/ 12 20
近似服从正态分布N(0,1),
P{V 105} P{ V 20 5 105 20 5 }
100/ 12 20 100/ 12 20
设随机变量 X1 , X2 ,…, X n 相互独立, 服从同一分
布 , 且 具 有 相 同 的 数 学 期 望 和 方 差 ， E(Xk) ,
D( Xk ) 2 0,(k 1,2,),则随机变量
n
n
n
Xk E( Xk ) Xk n
Yk k1
k 1 n
D( Xk )
k1
n
k 1
n k 1
Xk
|
}
1
说明
伯努利大数定理是辛钦定理的特殊情况。
n个随机变量的算术平均值以概率收敛于算术平
均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 用算术平均值作为所研究指标值的近似值。
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
(2.5) 0.9938
三 小结
1、独立同分布的中心极限定理
2.李雅普诺夫定理
3.棣莫佛－拉普拉斯定理
n
n
n
n
Xk E( Xk ) Xk k
Zn k1
k 1 n
D( Xk )
k1
k 1
Bn
k 1
近似服从标准正态分布N(0,1)。
5-1 大数定律
大数定律的客观背景
大量的随机现象中平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 …… 废品率
二、大数定律（难点）
背景：
大数定律研究在什么条件下随机变量序列的算术平均值 收敛于其均值的算术平均值。
nA 1 n n X i p( A) 特例：频率的稳定性。 Rn ( A) n n i 1
0
1
{ln X k }满足辛钦Βιβλιοθήκη 数定律,令Zn ln Yn
1 n P 则Z n ln Yn ln X i 1 n i 1
又函数 f ( x ) e x 连续
故 Yn e
Zn
e
P
1
故 C e 1
本节重点总结
三个大数定律的核心
说明:(1) 另一种形式 lim P{ X n a } 0
n
(2) 对N ,n N时, 落在邻域U (a, )外的X n个数有限,测度为0.
P P P (3) 设X n a , Yn b, 则X n Yn a b. P X n .Yn a .b, P X n / Yn a / b(b 0)
例3 {X k }( k 1, 2, ...)独立同分布,且X k U (0,1), 令 Yn ( X k )
k 1 n
1 n
P 证明 : Yn C , 并求C .
证明 :{ X k }独立同分布, 故{ln X k }也独立同分布.
X k U (0,1),
E (lnX k ) ln xdx 1
说明：
(证明见下页)
nA P (1) n重伯努利试验中, 事件A发生的频率Rn ( A) p( A) n nA (2) 试验次数充分大时,可用频率 近似代替概率p( A) n nA 5 例抛硬币试验 : 若 =0.01, n=10 时, P{ 0.5 0.01} 97.5% n
第五章大数定律及中心极限定理
k 1
其中 X1, X2 ,, Xn是相互独立的、服从同一
均值为μ，方差为σ2>0的独立同分布的随机变量
n
X1,X2,…,Xn之和 X k 的标准化变量，当n充分
大时，有
k 1
n
k 1
Xk
nm
～近似N(0,1)
ns
n
这样可以用(标准)正态分布来对 X k 作
k 1
理论分析或实际计算，不必求分布函数
19/41
§5.2 中心极限定理
将上式改写为
即对任意的正数ε，当n充分
lim P n
1 n
n k 1
Xk
m
1.
大时，不等式 立的概率很大
|
X
m | 成
3/41
证 由随机变量X1,X2,…,Xn,…相互独立，且具有 相同的数学期望和方差，有
E
1 n
n k 1
Xk
lim
n
P
1 n
(X1
X2
Xn)
p
1,
即
lim
n
P
nA n
p
1.
伯努利大数定理表明，事件发生的频率nA/n依概率收敛
于事件的概率p，以严格的数学形式表达了频率的稳定性和概
率的合理性
近似：当n很大时，事件发生的频率nA/n与概率有较大偏差的 可能性很小，因此由实际推断原理，由于小概率事件几乎不
辛钦定 理
X P m
概率论与数理统计第5章-大数定律与中心极限定理
又设函数 g ( x , y ) 在点 (a , b ) 连续,
P 则 g( X n , Yn ) g(a , b ).
证明
因为 g( x , y ) 在 (a , b) 连续,
0, 0,
g( x , y ) g(a , b) ,
g ( x, y) g (a, b) ,
因此0 P{ g( X n , Yn ) g(a, b) }
n 0, P X n a P Yn b 2 2
P 则 g( X n , Yn ) g(a , b).
[证毕]
定理5.1(贝努里大数定律) 设nA是n重贝努里试验中事件A发生的 次数, p是事件A在一次试验中发生的概率, 则对于任意的 0, 有
P P 注 : 若X n X , Yn Y , 则 P P (1) X n Yn X Y ;(2) X n Yn X Y;
Xn P X (3) X nYn XY ;(4) Yn Y
P
依概率收敛序列的性质
P P 设 Xn a , Yn b, (a , b为常数）
第五章 大数定律与中心极限定理
5.1 大数定律 5.2 中心极限定理
“概率是频率的稳定值”。前面已经提到，当随机 试验的次数无限增大时，频率总在其概率附近摆动， 逼近某一定值。大数定理就是从理论上说明这一结果。 正态分布是概率论中的一个重要分布，它有着非常广 泛的应用。 中心极限定理阐明，原本不是正态分布的一般随机 变量总和的分布，在一定条件下可以渐近服从正态分 布。这两类定理是概率统计中的基本理论，在概率统 计中具有重要地位。
大数定律的客观背景 大量的随机现象中平均结果的稳定性
概率论与数理统计c5_1
EX
e
2013-7-3
抛硬币试验 记：Xi 表示在第 i 次抛掷时出现正面的次数。 1 n 1 Yn X i Y n i 1 2 Yn 表示n次抛掷时出现正面的频率。 "e 0
n
li m P Yn Y e 0
即 Yn p Y
但Yn 不依数列收敛于Y . 对于任意的n ， Yn 都可能 等于1（或0）。
"e 0, 有
m l i m P{| p | e } 1 n n
注: 1 此定理为切比雪夫大数定律的一个推论。 2 此定理以严格的数学形式描述了频率的稳定性。 3 由此定理，我们可得小概率事件原理：概率很 小的事件，在一次试验中几乎是不可能发生的，从而在 实际中可看成不可能事件。
2013-7-3 9
ef
( y )dy
2013-7-3
11
方 差 的 性 质
方差性质： D( X ) 0 P{ X E ( X )} 1. 证明 P{ X E ( X )} 1 D( X ) 0, 显然成立 只需证明 D( X ) 0 P{ X E ( X )} 1.
Xn X
P
或者
n
lim X n X , ( P )
注：随机变量序列依概率收敛的意义不同于微积分 中数列收敛的意义。
2013-7-3 4
大 数 定 律 依概率收敛与数列收敛的不同: 1）随机变量序列{Xn}是概率空间上的一个函数序列。 2）随机变量序列{Xn}依概率收敛于X 是指 " e 0 当n 充分大时，事件 { | Xn- X | e }发生 的概率很小，但并不是不能发生。 抛硬币试验
5-1大数定律
1 n lim P {| ∑ X k |< ε } = 1, n→∞ n k =1
1 n 或 lim P {| ∑ X k |≥ ε } = 0. n→ ∞ n k =1
14
大数定律
此推论说明: 此推论说明:
独立同分布的随机变量 X 1 , X 2 , L , X n 序列 的算术
平均值依概率收敛到数 学期望 ,它是测量中取平均值
定义 设随机变量序列 1,Y2,…,Yn… , a是常数 若 设随机变量序列Y 是常数, 是常数 对任意ε , 对任意ε>0,有 lim P {| Yn a |< ε } = 1, 或 lim P {| Yn a |≥ ε } = 0,
n→ ∞
n→ ∞
则称随机变量序列Y1,Y2,…,Yn… 依概率收敛到a. 则称随机变量序列 依概率收敛到
的理论依据, 的理论依据,即 n次测量值 x k ( k = 1, 2, L , n )的算术平均
值为零件真值的代替值 的理论依据. 的理论依据.
15
大数定律
贝努里( 推论 贝努里(Bernoulli)大数定律 大数定律
重贝努里试验中事件A发生的次数 设nA为n重贝努里试验中事件 发生的次数 p是事件 重贝努里试验中事件 发生的次数, 是事件 A发生的概率 则对于任意ε>0,有 发生的概率, 则对于任意ε , 发生的概率 nA nA lim P {| p |< ε } = 1, 或 lim P {| p |≥ ε } = 0. n→ ∞ n→∞ n n 证明 令
回忆数列的性质,比较它们的相似和不同性. 回忆数列的性质,比较它们的相似和不同性.
9
大数定律
三,大数定律
定义 设X1,X2,…,Xn…随机变量序列 若对于任意 随机变量序列,
大数定律及中心极限定理
则 g(X n, Yn ) P g(a, b)
定理1 （切比雪夫定理旳特殊情况）设随机变量序
列 X1,X2,…,Xn, ...相互独立，且具有相同旳数学期望
和方差： E(Xk)=，D(Xk)=2 (k=1,2,...) , 则对任意
旳
> 0，有
lim P n
1 n
n
Xi
i 1
1
即
X
1 n
第五章 大数定律及中心极限定理
§5.1 大数定律 §5.2 中心极限定理
§5.1 大数定律
定义1 设Y1, Y2 …,Yn ,...为一随机变量序列，a是常数， 若对任意正数，有
lim
则称随机变量序列Y1, Y2 ,…,Yn , ... 依概率收敛于a ，
记为: Yn P a
性质：设 Xn P a, Yn P b , g(x, y)在点(a, b)连续,
100
于是, 一盒螺丝钉旳重量为 X Xi i 1
且 E( X i ) 100, D( X i ) 10, n 100
由中心极限定理
100
P{ X 10200} P{ i 1
Xi
10200}
P
100
Xi
i 1
n
n
10200 n n
P
X
1000 100
10200 1000
Φ
k 120 48
Φ
120 48
0.999
k 141.48,
至少供电142千瓦,才干确保以不不大于99.9%旳概率正常工作.
例3 在人寿保险企业里,有3000个同一年龄旳人参加保险.设在
一年内这些人旳死亡率为0.1%, 参加保险旳人在一年旳头一天 交付保险费10元，死亡时，家眷可从保险企业领取2023元． 求 （1）保险企业一年中获利不不大于10000元旳概率；
定理1 （切比雪夫定理旳特殊情况）设随机变量序
列 X1,X2,…,Xn, ...相互独立，且具有相同旳数学期望
和方差： E(Xk)=，D(Xk)=2 (k=1,2,...) , 则对任意
旳
> 0，有
lim P n
1 n
n
Xi
i 1
1
即
X
1 n
第五章 大数定律及中心极限定理
§5.1 大数定律 §5.2 中心极限定理
§5.1 大数定律
定义1 设Y1, Y2 …,Yn ,...为一随机变量序列，a是常数， 若对任意正数，有
lim
则称随机变量序列Y1, Y2 ,…,Yn , ... 依概率收敛于a ，
记为: Yn P a
性质：设 Xn P a, Yn P b , g(x, y)在点(a, b)连续,
100
于是, 一盒螺丝钉旳重量为 X Xi i 1
且 E( X i ) 100, D( X i ) 10, n 100
由中心极限定理
100
P{ X 10200} P{ i 1
Xi
10200}
P
100
Xi
i 1
n
n
10200 n n
P
X
1000 100
10200 1000
Φ
k 120 48
Φ
120 48
0.999
k 141.48,
至少供电142千瓦,才干确保以不不大于99.9%旳概率正常工作.
例3 在人寿保险企业里,有3000个同一年龄旳人参加保险.设在
一年内这些人旳死亡率为0.1%, 参加保险旳人在一年旳头一天 交付保险费10元，死亡时，家眷可从保险企业领取2023元． 求 （1）保险企业一年中获利不不大于10000元旳概率；
高等数学5.1 大数定律
记作P Yn 来自 a .2、依概率收敛的性质:
设
P X n a ,
P Yn b ,
函数 g( x , y ) 在点 ( a , b ) 连续 , 则
P g( X n , Yn ) g ( a , b) .
伯努利大数定律是将概率的统计定义用数学式 表示出来, 它表明随着 n 的增大, 事件 A发生
2、定理5.2(切比雪夫定理的特殊情况): 设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 且 具有相同的数学期望和方差:
E( X k ) = ,
D( X k ) = 2 .
作前个随机变量的算术平均 则对于任意正数 ε , 有
1 n X = Xk n k =1
lim P
1 n lim P X k = 1 . n n k =1
定理5.2表明, 当 n 很大时, 随机变量 X1 ,X2 , … , Xn
的算术平均 X 接近于数学期望
E ( X1 ) = E ( X 2 ) = = E( X n ) = .
当然这种接近是在概率意义下的接近 . 有定理5.2 作保证, 当变量数学期望未知的时候, 可以选择一 些与该变量独立且有相同数学期望的随机变量, 用 它们的算术平均数作为数学期望的估计值, 选取的 随机变量个数越多, 估计程度就越好, 这在实际问 题的处理中是十分有用的 .
3、定理5.3(辛钦定理):
设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 服从
同一分布, 具有数学期望
E( X k ) =
则对于任意正数 ε , 有
(k = 1, 2, ) ,
1 n lim P X k = 1 . n n k =1
设
P X n a ,
P Yn b ,
函数 g( x , y ) 在点 ( a , b ) 连续 , 则
P g( X n , Yn ) g ( a , b) .
伯努利大数定律是将概率的统计定义用数学式 表示出来, 它表明随着 n 的增大, 事件 A发生
2、定理5.2(切比雪夫定理的特殊情况): 设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 且 具有相同的数学期望和方差:
E( X k ) = ,
D( X k ) = 2 .
作前个随机变量的算术平均 则对于任意正数 ε , 有
1 n X = Xk n k =1
lim P
1 n lim P X k = 1 . n n k =1
定理5.2表明, 当 n 很大时, 随机变量 X1 ,X2 , … , Xn
的算术平均 X 接近于数学期望
E ( X1 ) = E ( X 2 ) = = E( X n ) = .
当然这种接近是在概率意义下的接近 . 有定理5.2 作保证, 当变量数学期望未知的时候, 可以选择一 些与该变量独立且有相同数学期望的随机变量, 用 它们的算术平均数作为数学期望的估计值, 选取的 随机变量个数越多, 估计程度就越好, 这在实际问 题的处理中是十分有用的 .
3、定理5.3(辛钦定理):
设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 服从
同一分布, 具有数学期望
E( X k ) =
则对于任意正数 ε , 有
(k = 1, 2, ) ,
1 n lim P X k = 1 . n n k =1
《概率论》第5章1大数定律
1 n lim P{| X | } lim P X i 1 n n n i 1
证明：
1 n 1 n E( X ) E n Xi n E( X i ) i 1 i 1
5
▲契比雪夫大数定律 设随机 X 1 , X 2 , 变量相互独立，且具有 相同的数学期望和方差：
E ( X k ) , D( X k ) 2 , k 1,2,
作前n个随机变量的算术平均
X1 X 2 X n 1 n X Xi n n i 1
对任意正数 0，有：
第五章 大数定律和中心极限定理
本节要解决的问题 为何能以某事件发生的频率 作为该事件的 概率的估计？ 为何正态分布在概率论中占 有极其重要的地位？
答复 大数 定律 中心极 限定理
1
大数定律
• 大数法则”又称“大数定律”或“平均法则”，是概率论主要法 则之一。此法则的意义是：在随机事件的大量重复出现 中，往往呈现几乎必然的规律，这类规律就是大数法则。 历史上，贝努里第一个提出大数法则，通俗地说，这个定 理就是，在试验不变的条件下，重复试验多次，随机事件 的频率近似于它的概率。 比如一个人乘飞机旅行，他出事的概率未知对他个人来 说，安全与事故具有随机性。但是对每年100万人次所有乘 飞机的旅行者来说，这里的100万人可以理解这100万次的 重复试验，其中，总有20人死于飞行事故。那么根据大数 法则，乘飞机出事故的概率大约为10万分之二。这样就为 保险公司收取保险费提供了理论上的根据。对个人来说， 出险是不确定的，对保险公司来说，众多的保单出险的概 率是确定的。 2
13
• Monte Carlo方法的基本思想很早以前就被人们所发现 和利用。早在17世纪，人们就知道用事件发生的“频率” 来决定事件的“概率”。19世纪人们用投针试验的方法来 决定圆周率π。本世纪40年代电子计算机的出现，特 别是近年来高速电子计算机的出现，使得用数学方法 在计算机上大量、快速地模拟这样的试验成为可能。 考虑平面上的一个边长为1的正方形及其内部的一 个形状不规则的“图形”，如何求出这个“图形”的面积 呢？Monte Carlo方法是这样一种“随机化”的方法：向该 正方形“随机地”投掷N个点落于“图形”内，则该“图形”的 面积近似为M/N。 14
证明：
1 n 1 n E( X ) E n Xi n E( X i ) i 1 i 1
5
▲契比雪夫大数定律 设随机 X 1 , X 2 , 变量相互独立，且具有 相同的数学期望和方差：
E ( X k ) , D( X k ) 2 , k 1,2,
作前n个随机变量的算术平均
X1 X 2 X n 1 n X Xi n n i 1
对任意正数 0，有：
第五章 大数定律和中心极限定理
本节要解决的问题 为何能以某事件发生的频率 作为该事件的 概率的估计？ 为何正态分布在概率论中占 有极其重要的地位？
答复 大数 定律 中心极 限定理
1
大数定律
• 大数法则”又称“大数定律”或“平均法则”，是概率论主要法 则之一。此法则的意义是：在随机事件的大量重复出现 中，往往呈现几乎必然的规律，这类规律就是大数法则。 历史上，贝努里第一个提出大数法则，通俗地说，这个定 理就是，在试验不变的条件下，重复试验多次，随机事件 的频率近似于它的概率。 比如一个人乘飞机旅行，他出事的概率未知对他个人来 说，安全与事故具有随机性。但是对每年100万人次所有乘 飞机的旅行者来说，这里的100万人可以理解这100万次的 重复试验，其中，总有20人死于飞行事故。那么根据大数 法则，乘飞机出事故的概率大约为10万分之二。这样就为 保险公司收取保险费提供了理论上的根据。对个人来说， 出险是不确定的，对保险公司来说，众多的保单出险的概 率是确定的。 2
13
• Monte Carlo方法的基本思想很早以前就被人们所发现 和利用。早在17世纪，人们就知道用事件发生的“频率” 来决定事件的“概率”。19世纪人们用投针试验的方法来 决定圆周率π。本世纪40年代电子计算机的出现，特 别是近年来高速电子计算机的出现，使得用数学方法 在计算机上大量、快速地模拟这样的试验成为可能。 考虑平面上的一个边长为1的正方形及其内部的一 个形状不规则的“图形”，如何求出这个“图形”的面积 呢？Monte Carlo方法是这样一种“随机化”的方法：向该 正方形“随机地”投掷N个点落于“图形”内，则该“图形”的 面积近似为M/N。 14
chap5大数定律及中心极限定理PPT课件
2021/3/12
15
请注意 :
Xn依概率收敛于a，意味着对任意给定的 0，
当n充分大时，事件Xn a 的概率很大，接近1于 ； 并不排除事件Xn a 的发生，而只是说他生发的
可能性很小.
依概率收敛比中 高的 等普 数通 学意义下 弱些，它具有定 某性 种 . 不确
2021/3/12
16
三、大数定律
2021/3/12
14
二、依概率收敛定义及性质
定义 设 Y 1 ,Y 2 , Y n , 是一个随机变量序列，
a是
一个常数 .若对于任意正数 ，有
ln i m P{Y |na|}1
则称Y1 序 ,Y2, 列 Yn, 依概率a.记 收为 敛于 Yn P a.
性质 设 X n P a， Y n P b,又设 g(x,函 y)在 点 (a,b)连续 g(X n ， ,Y n) 则 P g(a,b).
在切比雪夫不等式中取 0.01n，则
P(0.74X0.76) = P{ |X-E(X)| <0.01n}
n
1
D(X) (0.01n)2
1
0.187n5 0.000n12
1 1875 n
2021/3/12
10
依题意，取 118750.9 n
解得
n 187518750 10.9
即n 取18750时，可以使得在n次独立重复 试验中, 事件A出现的频率在0.74~0.76之间的 概率至少为0.90 .
Chap5 大数定律及中心极限定理
概率论与数理统计是研究随机现象统计 规律性的学科. 随机现象的规律性只有在相 同的条件下进行大量重复试验时才会呈现出 来. 也就是说，要从随机现象中去寻求必然 的法则，应该研究大量随机现象.
概率论与数理统计电子教案：c5_1大数定律 (2)
"e > 0, 有 lim P{| m p | e } 1
n n 注: 1 此定理为切比雪夫大数定律的一个推论。
2 此定理以严格的数学形式描述了频率的稳定性。
3 由此定理，我们可得小概率事件原理：概率很 小的事件，在一次试验中几乎是不可能发生的，从而在 实际中可看成不可能事件。
2020/8/27
3. 此定理有更一般的结论。
辛钦大数定律
设{Xk} 是相互独立且同分布的随机变量序列，若Xk
有有限的数学期望 a ,则 {Xk} 服从大数定律。
2020/8/27
8
大数定律
3. 贝努里(Bernulli)大数定律 设 m 是n次重复独立试验中事件A发生的频率, n
p是事件A在每次试验中发生的概率, 则对于
马尔科夫不等式的证明
仅证明连续型随机变量的情形.
设随机变量 Y 的概率密度函数为 f Y ( y )，于是有
P{ | Y | > e } fY ( y)dy 1）先将随机变量在区间 { y:|y|e } 内取值的概率用其概率密度在该
{
y:|
y|e
}
|
y |k
区间上的积分表示；
e
k
fY ( y)dy 2）利用随机变量取值满足
的不等式，将被积函数放大，产生概率
不等式；
1
ek
|
y
|k（f-Y∞,(+y∞)d）y将3积）分将再积次分扩区大间，扩且大使为积分
E{|Y |k }
化为随机变量或随机变量的函数的数 学期望或方差的表达式，得到要证明
ek
的概率不等式。
2020/8/27
11
方差的性质
方差性质： D( X ) 0 P{X E( X )} 1.
大数定律公式
大数定律公式
大数定律公式为g=log*vn。
概率论历史上第一个极限定理属于伯努利，后人称之为“大数定律”。
概率论中讨论随机变量序列的算术平均值向随机变量各数学期望的算术平均值收敛的定律。
大数定律概述
大数定律的定义是，当随机事件发生的次数足够多时，随机事件发生的频率趋近于预期的概率。
可以简单理解为样本数量越多，其平概率越接近于期望值。
大数定律的条件：1、独立重复事件；2、重复次数足够多。
与“大数定律”对应的，就是“小数定律”，小数定律的内容：如果样本数量比较小，那么什么样的极端情况都有可能出现。
但是我们在判断不确定事件发生的概率时，往往会违背大数定律。
伯努利大数定律公式：
伯努利大数定律设fn为n重伯努利实验中事件A发生的次数，p为A在每次实验中发生的概率，则对任意给定的实数ε>0，则成立。
基本内容
设有一随机变量序列，假如它具有形如（1）的性质，则称该随机变量服从大数定律。
（又译为“贝努力大数定律”）伯努利大数定律设fn为n重伯努利实验中事件A发生的次数，p为A在每次实验中发生的概率，则对任意给定的实数ε>0，有成立。
即n趋向于无穷大时，事件A在n重伯努利事件中发生的频率fn/n无限接近于事件A在一次实验中发生的概率p。
5-1大数定律
1 n lim P{| X k | } n n k 1 nA lim P{| p | } 1 n n
nA lim P{| p | } 1 n n
注: ▲ 定理 表明：当 n 很大时,事件A 发生的频率
nA n 接近于事件 A 发生的概率 P, 即证明了频
总结： 大数定律从各个角度描述 了样本的算术平均值的及频率 的稳定性 。也为人们习惯上经 常采用的用样本的算术平均值 去代替或 估计其平均值；用频 率去代替或估计其“概率”提 供了理论上的依据。
率的稳定性。从而，当 n (试验次数) 很大时 可以用事件发生的频率来近似代替事件的概率。 ▲ 称事件A 发生的频率 依概率收敛于事件A的 概率 P。 ▲ 贝努利大数定律提供了通过试验来确定事件概 率的方法。
前面两个大数定律在证明中都是以契比雪夫 不等式为基础的，所以要求随机变量具有方差。 但是进一步的研究表明，在随机变量服从相同分 布的场合，并不需要这一要求，我们有下面的定 理：
2、大数定律的概念 概率论中用来阐明大量随机现象平均结果的 稳定性的一系列定理，称为大数定律（law of large number) 本章将介绍三个大数定律： （1）契比雪夫大数定律、 （2）贝努利大数定律 （3）辛钦大数定律。 它们之间既有区别也有联系。
二、契比雪夫不等式
在介绍大数定律之前，我们先来介绍一个重要 的不等式－契比雪夫( chebyshev)不等式，它是大数 定律的理论基础 设随机变量X有期望E(X)=μ和方差 D(X)＝σ2 ,则对 于任给 >0,
第五章 大数定律与中心极 限定理
本章要解决的问题 1. 为何能以某事件发生的频率 作为该事件的概率的估计？ 2. 为何能以样本均值作为总体 期望的估计？
大数定律知识点总结
大数定律知识点总结大数定律的基本思想是：独立同分布的随机变量的大样本均值将趋于其数学期望。
这一定律的成立对于统计学、概率论、经济学、物理学等领域都有着重要的应用价值。
下面将对大数定律的相关知识点进行总结和介绍。
一、独立同分布随机变量序列的大数定律1. 独立同分布的随机变量序列：在大数定律的讨论中，通常假设考虑的是一个独立同分布的随机变量序列。
也就是说，随机变量X1，X2，...，Xn互相独立，并且它们都具有相同的分布，且均值为μ，方差为σ²。
2. 大数定律的描述：设X1，X2，...，Xn是一个独立同分布的随机变量序列，它们的数学期望为μ，方差为σ²。
定义随机变量序列的均值为Yn = (X1+X2+...+Xn)/n，即前n个随机变量的均值。
大数定律描述了当n趋向于无穷大时，随机变量序列的均值Yn将以概率1收敛于其数学期望μ，即limn→∞ P(|Yn-μ|<ε) = 1，其中ε>0。
3. 大数定律的形式：大数定律有弱大数定律和强大数定律之分。
弱大数定律指的是对于任意的ε>0，有limn→∞ P(|Yn-μ|<ε) = 1，即随机变量序列的均值以概率1收敛于其数学期望。
而强大数定律则是指有limn→∞ Yn=μ，即随机变量序列的均值几乎处处收敛于其数学期望。
4. 大数定律的证明：大数定律的证明通常可以利用切比雪夫不等式、马尔可夫不等式、刘维尔中心极限定理等概率论基本定理进行推导。
通过限制随机变量序列的方差，并且利用独立同分布的特性，可以证明大数定律成立。
5. 应用实例：大数定律在实际问题中有着重要的应用。
例如，在赌场中，赌徒可以利用大数定律的原理来预测赌局的结果。
又如在金融领域中，大数定律可以用来预测股市的波动情况。
在工程领域中，大数定律可以用来分析随机过程和随机信号的性质。
二、大数定律的拓展和推广1. 李雅普诺夫大数定律：对于互不相干的独立同分布的随机变量序列，其均值将以概率1收敛于其数学期望。
大学课件-概率论之大数定律和中心极限定理
依概率收敛
设有随机变量序列X1, X2,…, Xn和随机变量Y
若对任意的 >0，有
nlim
P
:
Xn() Y ()
0
则称随机变量序列{Xn}依概率收敛于Y, 记为
Xn P Y
弱大数定律讨论的就是依概率收敛.
以概率1收敛
设有随机变量序列X1, X2,…, Xn和随机变量Y
如果
P(
:
lim
x
X
n
()
P(t1
vn
t2 )
P
t1
np npq
vn
np npq
t2
np npq
t2
np npq
t1
np npq
查分布表
当n 较小时，误差较大，公式可修正为
P(t1
vn
t2 )
t2
(1/ 2) npq
np
t1
(1/ 2) npq
np
查正态分布表
例5.2.2设某地区原有一家小电影院，现拟筹建一所较 大的电影院。根据分析，该地区每天平均看电影者 约有n=1600人，预计新电影院开业后，平均约有3/4 的观众将去新电影院。现计划其座位数，要求座位 数尽可能多，但“空座达到200或更多”的概率不能 超过0.1，问设多少座位为好？
X3
X
2 4
X5
X6
n
n
X2 3n2
X 3n1 X 3n
P14 , n
a 14
习题5.11 假设某洗衣店为第i个顾客服务的时间Xi服从区间[5,53] (单位：分钟)上的均匀分布，且对每个顾客是相互独立的，试问
当n
时，n次服务时间的算术平均值 1 n
5-1 大数律
概率论与数理统计
例7 . 某药厂试制了一种新药, 某药厂试制了一种新药, 声称对贫血的治疗有效率达 医药监管部门准备对100 100个贫血患者进行此药 到80%. 医药监管部门准备对100个贫血患者进行此药 的疗效试验,若这100人中至少有75人用药有效, 100人中至少有75人用药有效 的疗效试验,若这100人中至少有75人用药有效, 就批 准此药的生产. 准此药的生产. 如果该药的有效率确实达到 80%, 此 药被批准生产的概率是多少? 药被批准生产的概率是多少? Sn表示这 (=100)个患者中用药后有效的人数 表示这n 个患者中用药后有效的人数. 解:用 Sn表示这n (=100)个患者中用药后有效的人数. 如果该药的有效率确实是 p=80%, 则 Sn ～B(n,p). 由 100(1知道可用近似公式(3.4) 100p=80>5, 100(1-p)=20>5, 知道可用近似公式(3.4) .于是
{S n
> − 18 n} = { X n − µ > − 18 − µ } = { X n − µ > 0.6}
⊂ {| X n − µ |>0.6}
和定理2.1得到, 和定理2.1得到, n →∞ 时， 2.1得到
概率论与数理统计
P(Sn > −18n)
≤ P(| X n − µ| > 0.6)
概率论与数理统计
称随机变量的序列 {ξ n }＝ 随机序列(random 为随机序列(random sequence).
{ξ 1 ，ξ 2 ，⋅ ⋅ ⋅}
ξn
ξ
lim P{| ξn − ξ |≥ ε } = 0，
n→∞
pr 则称序列 {ξ n }依概率收敛于ξ . 记为ξ nuuu ξ
概率统计第五章 大数定律
对于相互独立但不同分布的随机变量和的分布的 极限问题, 有李雅普诺夫中心极限定理。 定理7（李雅普诺夫Liapunov定理）设随机变量 1， 2 ，…， n，…相互独立，且 n 2 E i i , D i i2 0, ( i 1,2,)， 记Bn i2 i 1 若存在 >0，使得
i 1 1 i 有 D D( i ) 2 n n n n
故有
1 i u D lim 0 lim n n n n
即 n中每一被加项对总和的影响都很微小，但它 们迭加的和却以标准正态分布作为极限。
例 1 设有 100 个电子器件，它们的使用寿命 1 ， 2，…，100均服从参数为=0.05(h-1)的指数分布，其 使用情况为：第一个损坏第二个立即使用，第二个损 坏第三个立即使用等等。令表示这100个电子器件使 用的总时间，试求超过1800h小时的概率。
D( i ) D i np(1 p)
n
n
nA np(1 p) 1 p(1 p) 从而有 P | p | 0 (n ) 2 2 2 n n n 证毕
i 1
i 1
上述伯努利大数定律从理论上给出了频率“接近” 概率这种“现象”的更加确切的含意，它反映了大 数次重复试验下随机现象所呈现的客观规律性。 ，…， ，…是一个随机变量序列，a是 设1， 2 n 一个常数，若对任意的正数 ，有
E i p,
D i p(1 p) ,
i 1,2,n
易知
于是
nA 1 2 n
nA n A np p n n 由契贝雪夫不等式得
n
i 1
大数定律——精选推荐
⼤数定律第五章⼤数定律与中⼼极限定理在数学中⼤家都注意到过这样的现象：有时候⼀个有限项的和很难求，⽽⼀经取极限让有限过渡到⽆限，则问题反⽽好办。
例如计算和!1!31!212n s n ++++= 对于固定的但很⼤的n ，这个和很难求，但考虑∞→n 取极限时，则有⼗分简单的结果：e s n n =∞→lim 。
利⽤此结果，当n 很⼤时就可以把e 作为n s 的近似值。
在概率论中，也经常会出现求与很多个随机变量和有关的事件的概率。
⽐如)(21b X X X a P n <+++< ，除少数情况外，这样的概率计算都会⼗分复杂。
因⽽⾃然会提出问题：可否利⽤极限来近似计算呢？即考虑∞→n 时，n 个随机变量之和是否有某种极限分布。
概率论中不仅证明了这是可能的，⽽且还证明了在很⼀般的情况下，和的标准化随机变量的极限分布就是标准正态分布。
这⼀事实既可以解决近似计算概率的问题，同时也强化了正态分布的重要性，以及也解释了现实世界中许多随机现象中的变量的分布密度曲线会呈现钟形曲线的原因。
在概率论中把这类结果的有关定理叫做“中⼼极限定理”. 中⼼极限定理就是研究在什么条件下，⼤量随机变量之和的分布会接近于正态分布。
概率论中，另⼀类极限定理是所谓的“⼤数定理”.它是由“频率的稳定性”引申和发展⽽来的。
考虑n 次独⽴重复试验，每次试验观察事件A 是否发⽣，令=否则0,发⽣A 次试试 i 若第,1i X ，n i ,,2,1 = 那么事件A 发⽣的频数为n n X X X S +++= 21，频率为n S X n n /=。
若p A P =)(，则“频率的稳定性”就是说，在n 很⼤时，频率n X 会接近于概率p 。
⽽p X E i =)(，p X E n =)(。
故也可说成是：在n 很⼤时，n 个随机变量的算术平均n X 会接近于其期望)(n X E 。
按后⼀种说法，就可不必局限于i X 只取0，1两个值的情况。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
相互独立的随机变量序列
名词 设Y1,Y2 , ,Yn ,是一个随 机变量序列.若对于任意n>1,都有 Y1,Y2 , ,Yn相互独立,则称 Y1,Y2 , ,Yn ,是相互独立的.
依概率收敛
名词设Y1,Y2 , ,Yn ,是一个随机变量 序列. 若对于某实数a ,有: >0,当n→∞时,则 P{|Yn-a|<}→1.
1 n 1 n Var(Yn ) Var X i 2 Var X i n i 1 n i 1 n 1 n 2 1 2 Var( X i ) Yn X i 2 n i 1 n n i 1 0, P{| Yn | } 1 2 n 2 lim P{| Yn | } lim 1 1 2 n n n p
1
2
1
2
( x ) f ( x)dx
2
Var ( X )
2
不知道X的分布, 估计 P{| X E ( X ) | } 只知道E(X)= ,方差Var(X)= 2,估计: P{ 3 X 3 } 2 P{| X | 3 } 1 (3 ) 2
n
于是有下面的定理： 定理3（贝努利大数定律）
设nA是n重贝努利试验中事件A发生的 贝努利 次数，p是事件A发生的概率，则对任给的
ε> 0，
或
nA lim P{| p | } 1 n n nA lim P{| p | } 0 n n
nA p | } 0 任给ε>0， lim P{| n n
即
lim P{| Yn a | } 1
n
那么,称此随机变量序列 依概率收敛于a, 记作 p
Yn a
定理5.1.2（独立同分布下的大数定律） 设X1,X2, …是独立同分布的随机变量 序列，且E(Xi)= ，Var(Xi)= 则对任给 >0,
， i=1,2,…,
例1. 已知随机变量的数学期望 E ( X ) 10 ,方差 Var( X ) 存在.且 P{20 X 40} 0.9 则Var( X ) 分析 利用切比雪夫不等式
0.9 P{20 X 40} P{ X 10 30}
Var ( X ) 1 30
2
Var( X ) 90
2
证明: 仅对X是连续型的情况作证明. 设X的密度函数是f(x),于是: P{| X | } f ( x)dx 1 f ( x)dx
在这个积分范 围上1比它小
| x |
就是
f ( x)dx
| x |2
2
1
| x |2
2
( x )2
大数定律 与 中心极限定理 下面我们先介绍大数定律
定理 5.1.1切比雪夫(Chebyshev)不等式 设 随机变量X具有期望E(X)= ,方差Var(X)= 2,则: 0, 有 2 P{| X | } 2 或写成
P{| X | } 1 2
贝努利大数定律表明，当重复试验次数 n充分大时，事件A发生的频率nA/n与事件A 的概率p有较大偏差的概率很小. 在独立试验序列中，当试验次数无限增加时， 事件A的频率按概率收敛于事件A的概率. 贝努利大数定律提供了通过试验来确 定事件概率的方法.
这一讲我们介绍了大数定律 大数定律以严格的数学形式表达了随 机现象最根本的性质之一： 平均结果的稳定性 即当n很大时，n个随机变量的平均值以很大的 概率收敛到其期望值 它是随机现象统计规律的具体表现. 大数定律在理论和实际中都有广泛的应用.
若知道 X∼N( , 2) P{-3<X<+3}=P{|X-E(X)|<3} =2(3)-1=0.9974
1 1 0.8889 9
利用切比雪夫不等式来估计随机变量落在某 区间的概率: (1)明确随机变量, (2)求出期望和 方差, 并依题意找到对应的 , (3)利用不等式
2
1 n lim P{| X i | } 1 n n i 1
1 p 令 Yn X i , 则 Yn n i 1
n
ቤተ መጻሕፍቲ ባይዱ 证明:
X 1 , X 2 , , X n 相互独立
1 n 1 n E (Yn ) E X i E ( X i ) n i 1 n i 1
Yn
定理5.1.2的一种特例. 设nA是n重贝努利试验中事件A发 生的次数，p是事件A发生的概率，
1， 如第i次试验A发生 引入 X i 否则 0，
贝努利
i=1,2,…,n
则
nA X i nA 1 X i 是事件A发生的频率 n n i 1
n i 1
第五章 极限定理
第一节 大 数 定 律
概率论与数理统计是研究随机现象统计 规律性的学科. 随机现象的规律性只有在相 同的条件下进行大量重复试验时才会呈现出 来. 也就是说，要从随机现象中去寻求必然 的法则，应该研究大量随机现象.
研究大量的随机现象，常常采用极限形式 进行研究. 其包含的内容很广泛，其中最 重要的有两种: