切比雪夫不等式及大数定律

的分布，且 E ( X i ) = µ , D( X i ) = σ 2 , i = 1, 2L , 1 n 则对任意ε >0， 有 lim P ∑ X i − µ ≥ ε = 0 ， n→∞ n i =1
NORTH UNIVERSITY OF CHINA
推论说明，若对同一随机现象进行反复观测， 推论说明，若对同一随机现象进行反复观测，则其平 均值与它的期望值之差的绝对值大于任意指定的小数 的概率可任意地小.这一理论正好回答了问题2 的概率可任意地小.这一理论正好回答了问题2. 即在进行精密测量时，为减少测量误差， 即在进行精密测量时，为减少测量误差，可以重复 测量多次，然后用测量值的平均值来代替实际的真值. 测量多次，然后用测量值的平均值来代替实际的真值. 当测量次数充分大时， 当测量次数充分大时，这一平均值与其真值差的绝对 值大于任一小的正数几乎是不可能的,这样就保证了测 值大于任一小的正数几乎是不可能的, 量的精度. 量的精度.
fn − p < ε
由于 fn是随机变量， ,其随机性使不论 N 取多大的值 其随机性使不论 取多大的值,
也不可能保证 对一切 的n > N , 有
请看下面的图示: 请看下面的图示
fn − p < ε 成立。
NORTH UNIVERSITY OF CHINA
fn
p +ε p p −ε
N
n
NORTH UNIVERSITY OF CHINA
若存 在常数C 使
D( X i ) ≤ C , i = 1, 2,L 1 n 1 n 则对任意ε >0， lim P ∑ X i − ∑ E ( X i ) ≥ ε = 0 ， 有 n→∞ n i =1 n i =1 1 n 1 n 证： E ( (∑ X i ) = ∑ E ( X i ) n i =1 n i =1 1 n 1 n 1 n C D ( ∑ X i ) = 2 ∑ D( X i ) ≤ 2 ∑ C = . n i =1 n i =1 n i =1 n
NORTH UNIVERSITY OF CHINA
对于问题1， 要说明频率 自然会想到 对于问题 ， 要说明频率 fn 趋于常数 p ， 极限概念. 极限概念 如果能证明 lim fn = p
n→∞
（1） ）
问题1 就能得以解决. 问题 就能得以解决 即对任意的 ε > 0, 存在正整数N，对于 n > N , 有 存在正整数 ，
NORTH UNIVERSITY OF CHINA
两边取极限， 让n → ∞ 两边取极限，得
Yn lim P − p ≥ε=0 n→∞ n
NORTH UNIVERSITY OF CHINA
切比雪夫大数定理 定理3 定理3： 设相互独立的随机变量 X 1 , X 2 L , X n ,L
分别具有 有限的数学期望 E ( X 1 ), E ( X 2 )L , E ( X n ),L， L， 及方差 D( X 1 ), D( X 2 )L , D( X n ),L， L，
= P { − 20 < X − 100 < 20} = P {| X − 100 |< 20} 10 ≥ 1− = 0.975 2 20
NORTH UNIVERSITY OF CHINA
在每次试验中事件A发生的概率为0.5 .试用切比 例2 在每次试验中事件A发生的概率为0.5 .试用切比 雪夫不等式估计在1000次独立的试验中,事件A 雪夫不等式估计在1000次独立的试验中,事件A发生的 1000次独立的试验中 的次数在450 550次之间的概率 450至 次之间的概率. 的次数在450至550次之间的概率. 解：设X表示事件A在1000次独立试验中发生的次 表示事件A 1000次独立试验中发生的次 数, 则：X ~ B(1000,0.5), E ( X ) = nP = 1000 × 0.5 = 500 = µ
NORTH UNIVERSITY OF CHINA
二 . 大数定律
贝努里大数定律 定理2 定理
设Yn是n重Bernoulli试验中事件A发生的次数，
p是事件A在每次试验中发生的概率， 对任意的ε > 0 有 则 Yn lim P − p ≥ε=0 n→∞ n 贝努里大数定律说明， 贝努里大数定律说明， 在相同条件下独立地重复 做 n 次 nA 当 事件 A 发生的频率 fn = 试验， n 较大时， 试验， 较大时， 与在每 n 次试验中发生的概率 p 之差的绝对值大于任意指定正数
第五章
第一节 切比雪夫不等式
wk.baidu.com
与大数定律(13) 与大数定律(13)
一、切比雪夫不等式 二、大数定律
NORTH UNIVERSITY OF CHINA
引言: 引言 问题 1 频率稳定性的问题
次重复试验， 在相同条件下进行 n 次重复试验，事件 A 发生的频率 nA fn = n 附近摆动， 总是在 [0,1] 上的一个确定的常数 p 附近摆动，并且随着 越来越稳定地趋于 p 。 的增大， 试验次数 n 的增大， 如何从理论上说明这一现象？ 如何从理论上说明这一现象？ 在精密测量时要反复测量然后再取平均值？ 问题 2 在精密测量时要反复测量然后再取平均值？ 这样作的理论依据是什么？ 这样作的理论依据是什么？
D( X ) = nP (1 − P ) = 1000 × 0.5 × (1 − 0.5) = 250 = σ 2 .
由切比雪夫不等式有： 由切比雪夫不等式有： P {450 < X < 550} = P {450 − 500 < X − 500 < 550 − 500} = P{ −50 < X − 500 < 50} = P{| x − 500 |< 50} 250 ≥ 1 − 2 = 0.9 50
NORTH UNIVERSITY OF CHINA
由切比雪夫不等式 ，对任意 ε > 0,
1 n 1 n 有： 0 ≤ P {| ∑ X i − ∑ E ( X i ) |≥ ε } n i =1 n i =1 1 1 n C ≤ 2 D( ∑ X i ) ≤ 2 . n i =1 nε ε
1 n 1 n 从而： n→∞ 从而： lim P {| ∑ X i − ∑ E ( X i ) |≥ 0} = 0 证毕 . n i =1 n i =1 推论： 设相互独立的随机变量 X 1 , X 2 L , X n ,L 服从相同 推论：
因此，只能求其次，去求证下面两式成立： 因此，只能求其次，去求证下面两式成立： （2） P{| fn − p |≥ ε} →0 ） 或
↓
P{| fn − p |< ε} →1
（3） lim P{| fn − p |≥ ε} = 0 或 lim P{| fn − p |< ε} =1 ） n→∞ n→∞ 先来证明概率论中一个重要的不等式—— 为此 , 先来证明概率论中一个重要的不等式 切比雪夫不等式. 切比雪夫不等式
的概率可任意地小（接近于 ） 因此， 的概率可任意地小（接近于0）. 因此，在实践中可以通 过反复试验， 过反复试验， 用事件发生的频率的来近似地估计它的概率. 用事件发生的频率的来近似地估计它的概率
NORTH UNIVERSITY OF CHINA
证: QYn ~ B( n, p ), ∴ E (Yn ) = np, D(Yn ) = np(1 − p ),
NORTH UNIVERSITY OF CHINA
一.
切比雪夫不等式
定理1 切比雪夫定理） 定理 （切比雪夫定理） 设随机变量 X 存在， 的数学期望 E ( X ) = µ 方差 D ( X ) = σ 2 < ∞ 存在，则对任意的
σ2 ε > 0, 有： P ( X − µ ≥ ε ) ≤ 2 （4） ） ε 2 σ 即有 P ( X − µ < ε ) ≥ 1 − 2 （5） f ( x) ） ε
Yn 从而 E = p, n
Yn p(1 − p ) D = , n n
所以由切比雪夫不等式， 所以由切比雪夫不等式， 对任意的 ε > 0 有下式成立
Yn 1 Yn 0≤ P − p ≥ ε ≤ 2 D = 1 p(1 − p ) n ε2 n ε n
证: 仅就连续型随机变量的 情形进行证明. 情形进行证明 则有 P ( X − µ ≥ ε )
NORTH UNIVERSITY OF CHINA
设 X 的概率密度函数为 f ( x )
P ( X − µ ≥ ε )=
≤ 1
| x − |≥ ε
∫ µ
f ( x ) dx ≤
| x − |≥ ε
∫ µ
( x − µ )2
ε
2
f ( x ) dx
ε
2
∫
+∞ −∞
σ2 ( x − µ ) 2 f ( x ) dx = 2 . ε
证毕. 证毕
例1 已知随机变量 X 的数学期望为 E ( X ) = 100 = µ , 方差为 D ( x ) = 10 = σ 2 , 试估计 X 落在 80 , 120 )内的概率 落在( 内的概率. 内的概率 由切比雪夫不等式有: 解: 由切比雪夫不等式有 P {80 < X < 120} = P {80 − 100 < X − 100 < 120 − 100}