切比雪夫大数定律共28页文档
切比雪夫不等式及切比雪夫大数定律
第5 章
知识点名称：切比雪夫不等式及切比雪夫大数定律 主讲人：秦旭
切比雪夫大数定律
一、回顾
实验者
抛掷次数n
出现正面次数m
德·摩根 德·摩根 德·摩根 德·摩根 蒲丰 皮尔逊 皮尔逊 维尼
2048 2048 2048 2048 4040 12000 24000 30000
n
X
i 1
n
i
1 n
i 1
E( Xi
)
| ε}
1 n
1
D( n i1 ε2
Xi )
1
C nε2
1,
(as n ).
切比雪夫大数定律 五、切比雪夫(Chebyshev)不等式
设随机变量 X 的数学期望 E(X ) 和方差D(X )都存在, 则对于
任意的 > 0, 有
P{| X E(X ) | ε}
变量, 若对于任意的＞ 0, 有
lim
n
P {| X n
X
| ε }
0
或
lim P{| X n X | ε} 1
n
称随机变量序列{Xn}依概率收敛于X，记为
X n P X
或者
lim
n
Xn
X,
( P)
切比雪夫大数定律
注1 在定义中, 随机变量 X也可以是常数 a, 称随机变量序列 {Xn} 依概率收敛于常数 a .
注2 随机变量序列依概率收敛不同于微积分中数列或函数列的 收敛性.
结论 随机变量序列{Xn}依概率收敛于X，指当 n 足够大时, 有
足够大的概率保证Xn 任意接近于X , 但Xn仍然有可能与X相差很大.
切比雪夫不等式及大数定律 PPT课件
P{20 X 100 20} P{| X 100 | 20}
10 1 202 0.975
NORTH UNIVERSITY OF CHINA
例2 在每次试验中事件A发生的概率为0.5 .试用切比
雪夫不等式估计在1000次独立的试验中,事件A发生的 的次数在450至550次之间的概率.
1
2
(x
)2
f
( x)dx
2 2
.
证毕.
例1 已知随机变量 X 的数学期望为 E( X ) 100 , 方差为 D( x) 10 2 ,试估计 X 落在( 80 , 120 )内的概率.
解: 由切比雪夫不等式有: P{80 X 120} P{80 100 X 100 120 100}
由切比雪夫不等式 ，对任意 0,
有：
0
P{|
1 n
n i 1
Xi
1 n
n i 1
E( Xi ) |
}
1 1 n
C
2
D( n
i 1
Xi)
n 2
.
从而：lim n
P{|
1 n
n i 1
Xi
1 n
n i 1
E(Xi
)
|
0}
0
证毕 .
推论： 设相互独立的随机变量 X1, X2L , Xn,L 服从相同
即在进行精密测量时，为减少测量误差，可以重复 测量多次，然后用测量值的平均值来代替实际的真值. 当测量次数充分大时，这一平均值与其真值差的绝对 值大于任一小的正数几乎是不可能的,这样就保证了测 量的精度.
NORTH UNIVERSITY OF CHINA
的分布，且 E( Xi ) , D( Xi ) 2, i 1, 2L ,
切比雪夫不等式与大数定律
第六讲切比雪夫不等式与大数定律主讲教师叶宏副教授概率论与数理统计的研究内容是随机现象的统计规律性，而随机现象的规律性是通过大量的重复试验才呈现出来的.研究大量的随机现象，常常采用极限方法，利用极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:大数定律与中心极限定理.设随机变量X 的期望E (X )与方差D (X )存在，则对于任意实数ε> 0,2)()|)((|εεX D X E X P ≤≥-切比雪夫不等式或2)(1)|)((|εεX D X E X P -≥<-理论价值证明大数定律等等实用价值估计概率例已知正常男性成人血液中，每一毫升白细胞数平均是7300，均方差是700 . 利用切比雪夫不等式估计每毫升白细胞数在5200~9400之间的概率.解：设每毫升白细胞数为X ，则EX =7300, DX =7002≤P (5200 X 9400)≤= P (-2100 X -E (X ) 2100)≤≤= P ( |X -E (X )| 2100)≤≤=P (5200-7300 X -7300 9400-7300)≤2)2100()(1X D -≥98911=-=估计每毫升白细胞数在5200~9400之间的概率不小于8/92)(1)|)((|εεX D X E X P -≥<-2)()|)((|εεX D X E X P ≤≥-22140.5{6}_____X Y P X Y +≥≤例设随机变量和的数学期望分别为－和，方差分别为和，而相关系数为－，则{6}{()()6}P X Y P X Y E X Y +≥=+-+≥由切比雪夫不等式()()()220,E X Y E X E Y +=+=-+=解: ()()()2cov(,)D X Y D X D Y X Y +=++()()2()()3XY D X D Y D X D Y ρ=++=2()1612D X Y +≤=大数定律大量的随机现象中平均结果的稳定性大数定律的客观背景：大量抛掷硬币正面出现频率伯努利大数定律设n A 是n 次独立重复试验中事件A 发生的次数, p 是每次试验中A 发生的概率,则0>∀ε有0lim =⎪⎭⎫ ⎝⎛≥-∞→εp n n P A n 或1lim =⎪⎭⎫ ⎝⎛<-∞→εp n n P A n 依概率收敛频率p伯努利大数定律的意义理论价值给概率的统计定义提供了理论依据在概率的统计定义中, 事件A发生的频率“稳定于”事件A在一次试验中发生的概率实用价值如命中率等在n足够大时, 可以用频率近似代替p. 这种稳定称为依概率稳定.切比雪夫大数定律且具有相同的数学期望和方差,2,1,)(,)(2===k X D X E k k σμ则0>∀ε有01lim 1=⎪⎭⎫ ⎝⎛≥-∑=∞→εμn k k n X n P 或11lim 1=⎪⎭⎫ ⎝⎛<-∑=∞→εμn k kn X n P ,,,,21n X X X 相互独立，设随机变量序列辛钦大数定律且具有数学期望(),1,2,k E X k μ==,,,,21n X X X 相互独立同分布，设随机变量序列当n 足够大时, 算术平均值几乎是一常数.具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望.算术均值数学期望近似代替可被定理的意义平均数法则12~(2),(,,),,1_______n n i X E X X n Y X n→∞=∑ 例设总体为其简单随机样本则时依概率收敛于12,,,n X X X 因为独立同分布，22212,,,n X X X 所以也独立同分布，22()i i i E X DX EX =+（）2111=()422+=因此根据大数定律有∑==n i i n X n Y 121依概率收敛于21.2i EX =。
切比雪夫大数定理
83 6 P(| X 1000 | 60) 1 2 0.7685 108 60
6
例2 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev 不等式估计, n 多大 时, 才能在 n 次独立重复试验中, 事件 A 出 现的频率在0.74 ~ 0.76 之间的概率大于 0.90? 解 设 X 表示 n 次独立重复试验中事件 A 发生的次数 , 则 X ~ B(n,0.75)
14
例2：从某工厂的产品中任取200件来检查，结果发现 其中有6件次品，能否相信该工厂产品的次品率 p 1% ? 解：假设该工厂的次品率 p 1% ，则检查200件产品 其中次品率 X 6 的概率
x X P( X 6) C 200 (0.01) x (0.99) 200 x 1 C 200 (0.01) X (0.09) 200 X 200 5
并且方差是一致有上界的，即存在常数C，使得
DX i C, i 1,2,..., n,..., 则对于任意的正数
，有
1 n 1 n lim P(| X i EX i | ) 1 n n i 1 n i 1
10
证：我们用切比雪夫不等式证明该定理。
1 n 1 n E ( X i ) EX i n i 1 n i 1
因为n=200很大，且p=0.01较小，所以可按近似公式计 算，我们有 200 0.01 2 ；从而得到
2 x 2 P( X 6) 1 e 1 (0.1353 0.2707 0.2707 0.1804 x 0 x! 0.0902 0.0361) 0.0166
切比雪夫不等式及大数定律
随机变量的数字特征
切比雪夫不等式及大数定律
1.1 切比雪夫不等式
在随机变量 X 分布未知的情况下，可以利用切比雪夫不等式对随机事件 {| X E(X ) | } 的概率进行估计．例如，当 3 D( X ) 时，有
P{| X E(X ) | 3 D(X )} 8 0.888 9． 9
也就是说，随机变量 X 落在以 E(X ) 为中心，以 3 D( X ) 为半径的邻域内的概率很大，而 落在该邻域之外的概率很小．当 D( X ) 较小时，随机变量 X 的取值就越集中在 E(X ) 附 近，而这正是方差这个数字特征的意义所在．
概率论与数理统计
随机变量的数字特征
切比雪夫不等式及大数定律
随机事件在某次试验中可能发生也可能不发生， 但在大量的重复试验中随机事件的发生呈现出明显 的规律性．实际上，大量随机现象的结果均具有稳 定性，大数定律以严格的数学形式阐述了这种稳定 性，揭示了随机现象的偶然性与必然性之间的内在 联系．下面，我们先来介绍证明大数定律的重要工 具—切比雪夫（Chebyshev）不等式．
1， 在第k次试验中事件A发生， X k 0 ， 在第k次试验中事件A不发生，
其中， k 1，2， ，则
Xk
~
n
B(1，p) ，
k 1
Xk
nA
，1 n
n
Xk
k 1
nA n
，1 n
n
E(Xk )
k 1
p，
并且 X1 ，X2 ， ，Xn ， 满足切比雪夫大数定律的条件，于是由切比雪夫大数定律可证明伯努利大数 定律．
1，2 ，
)
，
由辛钦大数定律得
Yn
1 n
n k 1
大数定律公式切比雪夫不等式伯努利大数定律的计算公式
大数定律公式切比雪夫不等式伯努利大数定律的计算公式大数定律是概率论中的一项重要定理，用于描述大样本情况下随机变量的稳定性和收敛性。
其中，切比雪夫不等式和伯努利大数定律是两种常用的计算公式。
下面将分别介绍并推导这两个公式。
一、切比雪夫不等式切比雪夫不等式是描述随机变量与其均值之间关系的一种不等式。
设随机变量X的均值为μ，方差为σ^2，则对于任意正数ε，有：P(|X - μ| ≥ ε) ≤ σ^2 / ε^2其中，P表示概率。
该不等式说明随机变量与其均值相差较大的概率是有限的，且与方差的平方成反比。
推导过程如下：首先，对任意正数ε，可以得到以下不等式：P(|X - μ| ≥ ε) = P((X - μ)^2 ≥ ε^2)再利用方差的定义，有：σ^2 = E[(X - μ)^2]由期望的性质可得：E[(X - μ)^2] ≥ ε^2 * P((X - μ)^2 ≥ ε^2)化简后得到：P(|X - μ| ≥ ε) ≤ σ^2 / ε^2这就是切比雪夫不等式的推导过程。
二、伯努利大数定律伯努利大数定律是概率论中的一项重要定理，用于描述在独立重复试验中事件发生的频率趋于其概率的情况。
设事件A在一次试验中发生的概率为p，进行n次独立重复试验，则对于任意正数ε，有：lim(n→∞) P(|X/n - p| ≥ ε) = 0其中，X表示事件A在n次试验中发生的次数。
推导过程如下：首先，根据事件发生的频率，可以得到以下关系：X/n → p （n→∞）对于任意正数ε，可以得到以下等式：P(|X/n - p| ≥ ε) = P((X/n - p)^2 ≥ ε^2)再利用方差的定义，有：σ^2 = Var(X/n) = E[(X/n - p)^2]由期望的性质可得：E[(X/n - p)^2] ≥ ε^2 * P((X/n - p)^2 ≥ ε^2)化简后得到：P(|X/n - p| ≥ ε) ≤ σ^2 / (nε^2)由于n在趋于无穷大时，分母nε^2趋于无穷大，所以概率P(|X/n - p| ≥ ε)趋于0。
3.5 切比雪夫不等式与大数定理
Probability and Statistics
伯努利大数定理 设 nA 是 n 次独立重复试验中事件A 发生
的次数, p 是事件 A 在每次试验中发生的概 率, 则对于任意正数 0, 有 nA nA lim P p 1 或 lim P p 0. n n n n
Born: 19 Jul. 1894 in Kondrovo, Kaluzhskaya guberniya, Russia Died: 18 Nov. 1959 in Moscow, USSR
1 n 则对于任意正数 , 有 lim P X k 1. n n k 1
关于辛钦定理的说明: (1) 与定理1相比, 不要求方差存在; (2) 伯努利定理是辛钦定理的特殊情况.
Probability and Statistics
辛钦资料
Aleksandr Yakovlevich Khinchin
注：在不知道随机变量的分布，仅知道随机变 量的数学期望或者同时知道数学期望及方差时， 可以用Markov不等式和Chebyshev不等式来估 计概率值的界限.
Pafnuty Chebyshev
Born: 16 May. 1821 in Okatovo, Russia Died: 8 Dec. 1894, in St. Petersburg, Russia
Probability and Statistics
3.5 切比雪夫不等式与大数定理 一、马尔可夫（Markov)不等式
设X是只取非负值的随机变量，且具有数学期 望E(X),则对于任意正数ε ，有
概率论与数理统计 切比雪夫不等式和大数定律
3、定理5.3(辛钦定理): 设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 服从 同一分布, 具有数学期望
E( Xk ) = (k = 1, 2,L ) ,
则对于任意正数 ε , 有
lim P n
1 n
n k =1
Xk
=1
.
伯努利大数定律是辛钦定理的特殊情况 . 在实际
问题的处理中辛钦定理十分有用也很重要 .
事实上, 由辛钦定理可知, 如果随机变量
X1 ,X2 , … , Xn … 相互独立, 服从同一分布且具有数
学期望 μ , 则前 n 个随机变量的算术平均值
依概率收敛于它们的数学期望 μ .
1 n
n
= lim P n
1n n k=1 X k
=
1
.
证 由于
E( 1 n
n k =1
Xk )
=
1 n
n k =1
E(Xk )
=
1 gn
n
=
D( 1 n
n k =1
Xk )
=
1 n2
n k =1
D( Xk )
=
1 gn 2
n2
=
12
n
由切比雪夫不等式, 得
= P X 7300 2100
1 7002 = 1 1 = 8
21002
99
注 切比雪夫不等式虽然不能准确地求出某事件 的概率, 只是给出一个估计值, 但这在实际 问题的处理中仍然十分有用 .