概率论与数理统计切比雪夫不等式和大数定律
概率论与数理统计 第五章
Xn ⎯ ⎯→ X 2. 依概率收敛与依分布收敛的关系
依概率收敛 ⇒ 依分布收敛
L
3. 定义：中心极限定理 设随机变量 X ~ N(0,1)，{Xi }，i = 1, 2, … 相互独 立，且数学期望和方差都存在, 若标准化随机变量序列
∑
n
i =1
Xi −
∑ E(X
i =1
n
i
)
∑
n
i =1
D(X i)
所以结论成立。 由此有，若X ~ B( n, p )，对于足够大的n，有 ⎧ m1 − np X − np m2 − np ⎫ ⎪ ⎪ < ≤ P{m1 < X ≤ m2 }= P ⎨ ⎬ np(1 − p) np(1 − p) ⎪ ⎪ np(1 − p) ⎩ ⎭
⎧ Yn − np ⎫ ⎪ ⎪ ≤ x ⎬ = Φ( x ) lim P ⎨ n →∞ ⎪ np(1 − p ) ⎪ ⎩ ⎭
证明：对于任意正整数n，随机变量Yn 可表示为 证明：对于任意正整数n Yn = X1＋ X2＋…＋ Xn X1, X2,…, Xn 相互独立，Xi ~ B( 1, p )，且有 E( Xi ) = p , D( Xi ) = p(1-p) 所以随机变量序列{ Xi }, i =1,2,…满足独立同分布 中心极限定理条件。即有
切比雪夫不等式的应用 1）估计随机变量落在某个区间内的概率 (P125例5.5.2) 2）估计ε的值, 使 P(│X - E(X)│<ε) ≥ a (0<a<1) 3）证明大数定律。
二. 大数定律 定义： 依概率收敛 设{Xn}是一个随机变量序列，X 是一个随机变量 或常数，若对于任意的ε＞ 0，有 lim P{| X n − X |≥ ε } = 0
概率论与数理统计第五章大数定律及中心极限定理
概率论与数理统计第五章大数定律及中心极限定理课前导读概率论是研究大量试验后呈现出的统计规律性的一门理论。
数学中研究大量的工具是极限。
因此这一章学习概率论中的极限定理。
第一节大数定律随着试验次数的增大，事件的频率逐步稳定到事件的概率。
意味着随着试验次数的增多，在其中一种收敛意义下，频率的极限是概率。
大数定律解释了这一结论。
首先介绍切比雪夫不等式。
一、切比雪夫(Chebyshev)不等式随机变量X的取值总是围绕着其期望变动，若X的分布已知时，可以计算事件\{，X-E(X)，\geq \epsilon \}的概率。
切比雪夫不等式：对切比雪夫不等式的直观理解：方差越小，X在其期望附近取值的密集程度越高，原理期望的区域的概率上加越小。
进一步说明了方差的概率意义，方差时随机变量取值与其中心位置的偏离程度的一种度量指标。
当随机变量X的分布未知时，可由X的观测数据估计得到X的期望和方差，然后使用切比雪夫不等式估计X关于E(X)的偏离程度。
二、依概率收敛随机变量序列即由随机变量构成的一个序列。
不能用类似定义数列极限的方式定义随机变量序列的极限，因为序列中的每一个元素X_n是随机变量，取值不确定，不可能和一个常数c的距离任意小。
只能说一些事件A发生的频率f_n(A)收敛到A的概率P(A)。
依概率收敛的定义：定理2：三、大数定律三个大数定律：切比雪夫大数定律、辛钦大数定律和伯努利大数定律。
注意这三个大数定律的条件有何异同。
定理3 切比雪夫大数定律：若随机变量序列相互不相关，方差存在且一致有上界，当n充分大时，随机序列的前n项的算术平均值和自身的期望充分接近几乎总是发生的。
定理4 相互独立同分布的大数定律（辛钦大数定律）：辛钦大数定律为算术平均值法则提供了理论依据。
伯努利大数定律：伯努利大数定律是相互独立同分布大数定律的特例，限定分布为两点分布。
伯努利大数定律体现了：随着试验次数的增大，事件的频率逐步稳定到时间的概率，这里的稳定即为依概率收敛。
概率论与数理统计51切比雪夫不等式和大数定律课件
目录
• 切比雪夫不等式 • 大数定律 • 切比雪夫不等式与大数定律的联系 • 案例分析 • 习题与解答
01
切比夫不等式
Chapter
切比雪夫不等式简介
01
切比雪夫不等式是概率论中的一个基本不等式，它提供了在一定条件下，一个随 机变量的概率分布的上界和下界。
注意事项
使用切比雪夫不等式时，应注意其适用条件，特 别是随机变量的方差必须存在。
大数定律
要点一
总结词
大数定律描述了当试验次数趋于无穷时，随机事件的相对 频率趋于其概率的规律。
要点二
详细描述
大数定律表明，当试验次数n趋于无穷时，随机事件的相 对频率将以概率收敛于该事件的概率。具体来说，对于任 意小的正数ε，有$lim_{n to infty} P(| frac{X_n}{n} - p| < varepsilon) = 1$，其中$X_n$是n次试验中事件A发生的 次数，p是事件A的概率。
切比雪夫不等式的限制
虽然切比雪夫不等式在许多情况下都 很有用，但它也有一些限制。例如， 当随机变量的分布不是对称的或者偏 斜度较大时，切比雪夫不等式的估计 可能会不准确。
VS
因此，在使用切比雪夫不等式时，需 要考虑到这些限制，并根据具体情况 进行适当的调整和修正。
02
大数定律
Chapter
大数定律的定义
大数定律
定义
大数定律是指在独立同分布随机变量 序列中，当样本量趋于无穷大时，样 本均值的概率分布趋近于真实均值。
应用
大数定律在统计学中有着重要的应用 ，例如在样本均值的分布、置信区间 估计和假设检验等领域。
切比雪夫不等式与大数定律的联系
概率论与数理统计-四川大学数学学院
课程号：课程名称：总学：学分：在数学学院领导的组织及大力支持下，经过编写人员的努力，《概率论与数理统计》新书已正式出版，主要用于理工类(非数学专业)本科生教学。
该书是根据教育部颁发的教学大纲并参照全国硕士研究生入学数学考试要求编写的，一个重要特点是提倡启发式教学，鼓励学生自学，以提高其数学素质及解决实际问题的能力。
因此，书中安排了不少例题，并在每一章末设一节综合例题。
我们的建议是，综合例题一般不讲，由学生自看；书中其它例题及作业题则由教师根据需要灵活掌握，不必每例都讲到，也不必每题都布置学生做；打*的内容则不讲。
书中一些易懂的内容可以安排学生自学。
全书预计授课51学时，加上习题课10学时，共计61学时。
教学的基本内容，基本要求及建议课时安排如下，教师可根据学生情况适当微调，数学二可适当降低要求。
第一章随机事件及概率一、基本内容样本空间及随机事件，事件之间的关系及运算，频率的定义及定义性质，概率的定义及性质，古典概率，几何概率，条件概率及乘法公式，全概率及贝叶斯公式，事件的独立性及运算，可靠性问题。
二、基本要求1．理解随机事件及样本空间的概念，掌握事件之间的关系及运算。
2．了解频率及概率的条件及定义，掌握概率的基本性质并能用于计算。
3．掌握古典概率的条件及定义，会计算一般的古典概率；了解几何概率的思想及计算方法。
4．熟练掌握条件概率、乘法公式、全概率及贝叶斯公式，能应用这些公式作概率计算并了解贝叶斯决策的思想。
5．理解事件独立性的概念，掌握用事件的独立性进行概率计算的方法，并对可靠性问题研究有大致的了解。
三、建议课时安排(10学时)1．随机事件及运算1学时2．频率与概率1学时3．等可能概型(包括古典及几何概率) 2学时4．条件概率、全概率及贝叶斯公式2学时5．独立性及可靠性问题2学时6．习题课10学时第二章离散型随机变量11学时一、基本内容随机变量及离散型随机变量的定义，超几何分布，二项分布及泊松分布的定义及计算，泊松定理，一维分布函数，二维离散型随机变量，二维分布函数，边缘分布，条件分布及独立性，随机变量函数的分布及可加性。
切比雪夫不等式及切比雪夫大数定律
第5 章
知识点名称：切比雪夫不等式及切比雪夫大数定律 主讲人：秦旭
切比雪夫大数定律
一、回顾
实验者
抛掷次数n
出现正面次数m
德·摩根 德·摩根 德·摩根 德·摩根 蒲丰 皮尔逊 皮尔逊 维尼
2048 2048 2048 2048 4040 12000 24000 30000
n
X
i 1
n
i
1 n
i 1
E( Xi
)
| ε}
1 n
1
D( n i1 ε2
Xi )
1
C nε2
1,
(as n ).
切比雪夫大数定律 五、切比雪夫(Chebyshev)不等式
设随机变量 X 的数学期望 E(X ) 和方差D(X )都存在, 则对于
任意的 > 0, 有
P{| X E(X ) | ε}
变量, 若对于任意的＞ 0, 有
lim
n
P {| X n
X
| ε }
0
或
lim P{| X n X | ε} 1
n
称随机变量序列{Xn}依概率收敛于X，记为
X n P X
或者
lim
n
Xn
X,
( P)
切比雪夫大数定律
注1 在定义中, 随机变量 X也可以是常数 a, 称随机变量序列 {Xn} 依概率收敛于常数 a .
注2 随机变量序列依概率收敛不同于微积分中数列或函数列的 收敛性.
结论 随机变量序列{Xn}依概率收敛于X，指当 n 足够大时, 有
足够大的概率保证Xn 任意接近于X , 但Xn仍然有可能与X相差很大.
切比雪夫不等式与大数定律
第六讲切比雪夫不等式与大数定律主讲教师叶宏副教授概率论与数理统计的研究内容是随机现象的统计规律性，而随机现象的规律性是通过大量的重复试验才呈现出来的.研究大量的随机现象，常常采用极限方法，利用极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:大数定律与中心极限定理.设随机变量X 的期望E (X )与方差D (X )存在，则对于任意实数ε> 0,2)()|)((|εεX D X E X P ≤≥-切比雪夫不等式或2)(1)|)((|εεX D X E X P -≥<-理论价值证明大数定律等等实用价值估计概率例已知正常男性成人血液中，每一毫升白细胞数平均是7300，均方差是700 . 利用切比雪夫不等式估计每毫升白细胞数在5200~9400之间的概率.解：设每毫升白细胞数为X ，则EX =7300, DX =7002≤P (5200 X 9400)≤= P (-2100 X -E (X ) 2100)≤≤= P ( |X -E (X )| 2100)≤≤=P (5200-7300 X -7300 9400-7300)≤2)2100()(1X D -≥98911=-=估计每毫升白细胞数在5200~9400之间的概率不小于8/92)(1)|)((|εεX D X E X P -≥<-2)()|)((|εεX D X E X P ≤≥-22140.5{6}_____X Y P X Y +≥≤例设随机变量和的数学期望分别为－和，方差分别为和，而相关系数为－，则{6}{()()6}P X Y P X Y E X Y +≥=+-+≥由切比雪夫不等式()()()220,E X Y E X E Y +=+=-+=解: ()()()2cov(,)D X Y D X D Y X Y +=++()()2()()3XY D X D Y D X D Y ρ=++=2()1612D X Y +≤=大数定律大量的随机现象中平均结果的稳定性大数定律的客观背景：大量抛掷硬币正面出现频率伯努利大数定律设n A 是n 次独立重复试验中事件A 发生的次数, p 是每次试验中A 发生的概率,则0>∀ε有0lim =⎪⎭⎫ ⎝⎛≥-∞→εp n n P A n 或1lim =⎪⎭⎫ ⎝⎛<-∞→εp n n P A n 依概率收敛频率p伯努利大数定律的意义理论价值给概率的统计定义提供了理论依据在概率的统计定义中, 事件A发生的频率“稳定于”事件A在一次试验中发生的概率实用价值如命中率等在n足够大时, 可以用频率近似代替p. 这种稳定称为依概率稳定.切比雪夫大数定律且具有相同的数学期望和方差,2,1,)(,)(2===k X D X E k k σμ则0>∀ε有01lim 1=⎪⎭⎫ ⎝⎛≥-∑=∞→εμn k k n X n P 或11lim 1=⎪⎭⎫ ⎝⎛<-∑=∞→εμn k kn X n P ,,,,21n X X X 相互独立，设随机变量序列辛钦大数定律且具有数学期望(),1,2,k E X k μ==,,,,21n X X X 相互独立同分布，设随机变量序列当n 足够大时, 算术平均值几乎是一常数.具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望.算术均值数学期望近似代替可被定理的意义平均数法则12~(2),(,,),,1_______n n i X E X X n Y X n→∞=∑ 例设总体为其简单随机样本则时依概率收敛于12,,,n X X X 因为独立同分布，22212,,,n X X X 所以也独立同分布，22()i i i E X DX EX =+（）2111=()422+=因此根据大数定律有∑==n i i n X n Y 121依概率收敛于21.2i EX =。
3-8切比雪夫不等式
概率论与数理统计教程（第四版）
§3.8 切比雪夫不等式与大数定律
[例] 从某工厂生产的产品中任取 200 件来检查， 是否相信该工厂的产品 结果发现其中有 6 件次品， 的次品率 p ≤ 1% ? 解：假设该工厂的次品率 p ≤ 1%, 则检查 200 件产品 发现其中次品数 X ≥ 6的概率
概率论与数理统计教程（第四版）
目录
上一页
下一页
返回
结束
§3.8 切比雪夫不等式与大数定律
小结
D X) ( [ 1. 切比雪夫不等式： P X −E(X) ≥ε] ≤ 2 .
2. 大数定律及其含义. 3. 小概率事件的实际不可能性原理. .
ε
概率论与数理统计教程（第四版）
目录
上一页
下一页
返回
结束
§3.8 切比雪夫不等式与大数定律
D X) ( ≥1− 2 .
ε
切比雪夫不等式给出了离差与方差的关系， 可用它 注： 来估计 [ X − E ( X ) < ε ] 的概率.
概率论与数理统计教程（第四版）
目录
上一页
下一页
返回
结束
§3.8 切比雪夫不等式与大数定律
2.大数定律 .
[定义 对随机变量序列 X 1 , X 2 ,⋯ , X n ,⋯, 若存在 定义] 定义 常数 a , 使得对于任意的 正数 ε ,
概率论与数理统计教程（第四版）
目录
上一页
下一页
返回
结束
第三章 随机变量的数字特征
§3.8 切比雪夫不等式与大数定律
概率论中用来阐明大量随机现象平均结果的稳定性的一系 列定理统称为大数定律.
概率论与数理统计 五大数定理
[注]： X n P → a 注： 推论(辛钦大数定律) 推论(辛钦大数定律)
X n − a P → 0
设独立随机变量 X 1 , X 2 ,⋅ ⋅ ⋅, X n 服从同一分布 并且有数学 服从同一分布, 期望 µ 及方差 σ 2， X 1 , X 2 ,⋅ ⋅ ⋅, X n 的算术平均值当 n → ∞ 则 时，按概率收敛于µ， 即对于任何正数 ε，恒有 按概率收敛于 ，
第五章 大数定理与中心极限定理
“大数定律”: 用来阐明大量随机现象平均结果稳定性的定理 大数定律” 用来阐明大量随机现象平均结果稳定性的定理. 大数定律
一、切比雪夫不等式
切比雪夫不等式: 切比雪夫不等式: 设随机变量 X 有数学期望 EX 及方差 DX， ， 下列不等式成立： 则对于任何正数 则对于任何正数 ε，下列不等式成立：
2 i
n
则：E(Yn ) =
2 µi , D(Yn ) = ∑σi2 = sn . ∑
n i =1
n
i =1
i =1
∴ Z n = Yn
1 = sn
∗
n Y n − EY n 1 n = = ∑ X i − ∑ µ i sn i =1 DY n i =1
∑ (X
i =1
n
i
− µ i ), 则有：E ( Z n ) = 0 , D ( Z n ) = 1 . 则有：
概率论中有关论证随机变量的和的极限分布是正态分布的定 概率论中有关论证随机变量的和的极限分布是正态分布的定 随机变量的和的极限分布是正态分布 是独立随机变量， 设 X 1 , X 2 ,⋅ ⋅ ⋅ , X n ,⋅ ⋅ ⋅ 是独立随机变量，并各有
EX i = µ i , DXi = σ , i = 1,2,⋅ ⋅ ⋅, n,⋅ ⋅ ⋅. 设 n = ∑Xi , Y
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
5.1切比雪夫不等式和大数定律
5.2中心极限定理
5.1切比雪夫不等式 和大数定律
1、切比雪夫不等式 2、大数定律
一 、切比雪夫(Chebyshev)不等式 :
定理5.1 设随机变量 X 具有数学期望 E(X) 和方差
D(X) , 则对于任意正数 ε , 不等式
P
X E(X)
二、常见的三个大数定理:
1.定理1（伯努利大数定理）设n为n重伯努利实验
中事件A发生的次数，p为每次发生的概率，则
对任意的ε>0，有
lim P{ n p } 1
n
n
伯努利大数定律是将概率的统计定义用数学式
表示出来, 它表明随着 n 的增大, 事件 A发生
的频率 n 与其概率 p的偏差 n p 大于预
1n n k=1 X k
=
1
.
证 由于
E( 1 n
n k =1
Xk )
=
1 n
n k =1
E(Xk )
=
1 gn
n
=
D( 1 n
n k =1
Xk )
=
1 n2
n k =1
D( Xk )
=
1 gn 2
n2
=
12
n
由切比雪夫不等式, 得
P
1n n k=1 X k
1
2 /n
2
=
1
2 n 2
学期望 μ , 则前 n 个随机变量的算术平均值
依概率收敛于它们的数学期望 μ .
1 n
n k =1
Xk
若
E
(
X
l k
)
=
l
(k
=
1, 2,L
)存在, 则
1 n
n k =1
X
l k
依概率
收敛于 l
=
E
(
X
l k
)
(k
= 1, 2,L
)
.
2、定理5.2(切比雪夫定理的特殊情况):
设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 且
具有相同的数学期望和方差:
E( Xk ) = , D( Xk ) = 2 .
作前n个随机变量的算术平均
1n
X
=
n
Xk
k =1
则对于任意正数 ε , 有
lim P X
n
= lim P n
D( X )
2
成立 .
注 (1) 切比雪夫不等式也可写为
P
X
.
(2) 可用切比雪夫不等式近似求某一事件的概率 .
证明：仅就X为连续型随机变量的情况进行讨论。 设X的密度为f(x)，X的期望为E(X)=μ
P{ X E ( X ) } f ( x)dx X
X E( X )
f (x) (X
E( X ))2
2
dx
1
2
(X
)2
f ( x)dx
D( X )
2
例1、 已知正常男性成人血液中, 单位白细胞数 (单位:个/mL)平均是7300, 均方差是700 . 利用切比雪夫不等式估计单位白细胞数在 5200～9400之间的概率 .
解 设 X 表示成年男性血液中单位白细胞数, 由 题意知 E(X)= 7300, D(X)= 700 2 , 由切比雪夫 不等式得
由概率性质知
P
1n n k=1 X k
1
.
两边关于 n 取极限,即令 n , 则
lim P n
1 n
n
Xk
k =1
=1
.
定理5.2表明, 当 n 很大时, 随机变量 X1 ,X2 , … , Xn 的算术平均 X 接近于数学期望
E(X1) = E(X2) =L = E(Xn) = .
P 5200 X 9400 = P 5200 7300 X 7300 9400 7300
= P 2100 X 7300 2100
= P X 7300 2100
1 7002 = 1 1 = 8
21002
99
注 切比雪夫不等式虽然不能准确地求出某事件 的概率, 只是给出一个估计值, 但这在实际 问题的处理中仍然十分有用 .
当然这种接近是在概率意义下的接近 . 有定理5.2 作保证, 当变量数学期望未知的时候, 可以选择一 些与该变量独立且有相同数学期望的随机变量, 用 它们的算术平均数作为数学期望的估计值, 选取的 随机变量个数越多, 估计程度就越好, 这在实际问
题的处理中是十分有用的 .
3、定理5.3(辛钦定理): 设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 服从 同一分布, 具有数学期望
n
n
先给定的精度 ε 的可能性愈来愈小, 小到可以
忽略不计, 这就是说频率是依概率收敛到该事
件发生的概率 .
伯努利大数定律提供了用频率确定概率的理论 依据. 在处理实际问题的时候, 如果事件的概 率难求 , 可以通过这个定律用事件的频率代替 概率 . 例如, 估计某产品的不合格率 p , 可从 该种产品中随机抽取 n 件 , 当 n 很大时, 这 n 件产品的不合格品的比例可作为不合格品率 p 的估计值 .
E( Xk ) = (k = 1, 2,L ) ,
则对于任意正数 ε , 有
lim P n
1 n
n k =1
Xk
=1
.
伯努利大数定律是辛钦定理的特殊情况 . 在实际
问题的处理中辛钦定理十分有用也很重要 .
事实上, 由辛钦定理可知, 如果随机变量
X1 ,X2 , … , Xn … 相互独立, 服从同一分布且具有数
二、大数定律
一、基本概念: 1、定义5.1:
设 Y1 ,Y2 , … , Yn , … 是一个随机变量序列, a 是一个常数 , 若对于任意正数 ε , 有
lim P
n
Yn a
=1 ,
则称序列 Y1 ,Y2 , … , Yn , … 依概率收敛于 a ,
记作 Yn P a .
2、依概率收敛的性质: 设 Xn P a , Yn P b , 函数 g( x , y ) 在点 ( a , b ) 连续 , 则 g( Xn , Yn ) P g(a , b) .