概率论基础第五章ppt

生产过程 中的废品率
文章中字 母使用频率
二、两个常用的大数定理 随机变量序列依概率收敛 Def 设X 1 , X 2 , , X n ,是一个随机变量序列，a是
一个常数，若对于任意正数，有 lim P{| X n a | } 1
n
则称序列X 1 , X 2 , , X n ,依概率收敛于a，记为 P X n a
随机变量序列服从大数定律 Def 设有一随机变量序列 X n ，如果对于任意 0有
1 n 1 n lim P X i E ( X i ) 1 n n i 1 n i 1 成立，则称随机变量序列 X n 服从大数定律。
大数定理 定理1 (Chebysherv大数定理)
由X n P X知P X n X x x n 0 所以又有
n
对上式关于x x求极限得
n
lim Fn ( x) lim F ( x) F ( X 0)
x x n
而由极限理论知 所以
lim Fn ( x) lim Fn ( x)
由X n P X知P X n X x x n 0
所以有
F ( x) lim Fn ( x)
n
对上式关于x x求极限得 F ( x 0) lim F ( x) lim Fn ( x)
x x n
在令x x，同理有
证明：仅证明X n Yn P a b 因为 ( X n Yn ) (a b) X n a Yn b 从而对于任意 0
n
( X
Yn ) (a b) X n a / 2 Yn b / 2 lim P X n a / 2 0 lim PYn b / 2 0
X n x X n x, X x X n x, X x X x X n X x x
Fn ( x) F ( x) P X n X x x lim Fn ( x) F ( x)
从而有
于是，对于任意的 0有
X
n
c X n c X n c
X n c X n c 2 从而有P X n c P X n c PX n c 2
定理2 (Bernoulli大数定理)
设n是n次独立重复试验中事件A出现的 次数，p是事件A在每次试验中发生的概 率，则对于任意正实数，恒有 n lim P p 1 n n 1 第i次试验出现事件A; 证明：令X i Bernoulli 0 第i次试验不出现事件A i 1, 2, , n 于是有 X 1 , X 2 , , X n相互独立，且E ( X i ) p 1 D( X i ) pq i 1, 2, , n 4 n 由Chebysherv大数定理有 lim P p 1 n n
例题4.11设随机变量X n ~ P (n)，证明： 1 Xn n lim P x e dt n 2 n 证明：因为X n ~ P(n)，所以X n的特征函数为
Def 设X n 为一个随机变量序列，其对应的分布函数列为
定理1 设X n 是两个随机变量序列，如果X n P X，则有 X n L X . 定理2 设c为常数，则X n P c X n L c
证明定理1：设X 1 , X 2 , , X n , 相应的分布函数依次为 F1 ( x ), F2 ( x ), , Fn ( x), ; X的分布函数为F ( x )，于是有 X n L X Fn ( x ) W F ( x ) 所以只要证明：对于任意的x，有 F ( x 0) lim Fn ( x ) lim Fn ( x ) F ( x 0)
概率论
第四章
大数定理与中心极限定理
两个常用大数定理 两个常用的中心极限定理 大数定理与中心极限定理的应用
大数定理
The law of large numbers 一、大数定律的客观背景 事件发生的频率稳定于某一常数 大量随机试验中 测量值的算术平均值具有稳定性
大量抛掷硬币 正面出现频率
n
Def 设X n 为一个随机变量序列，X为一个随机变量，如
率收敛于X，记作X n P X . 2.依概率收敛的运算律 定理：设X n Yn 是两个随机变量序列，a, b是两个实数。如 ， 果X n P a, Yn P b，则有 (1) X n Yn P a b (2) X nYn P ab (3) X n / Yn P a / b (b 0) 即成立四则运算
1 n P 这个定理表明 X i n i 1
Khintchin
推广：对随机变量序列X n ，满足条件
n n 1 D ( X n ) 0 2 n i 1
则对于任意 0，有 1 n 1 n lim P X i E ( X i ) 1. n n i 1 n i 1 该定律称为马尔科夫大数定律，条件
由Chebysherv不等式，对于任意的正实数 有 1 n D( X i ) n n 1 1 M n i 1 1 P X i E( X i ) 1 1 2 2 n i 1 n n i 1 1 n 1 n 所以 lim P X i E ( X i ) 1 n n i 1 n i 1 设 推论： X 1 , X 2 , , X n , 是独立同分布 随机变量序列，且数学期望为，方 差 2，则对于任意的正实数 有 1 n lim P X i 1 n n i 1
际可行的途径
这一定理表明：在相同条件下重复同一随机试验 n次，当试验次数n充分大时，“事件A发生的频率接近 其概率”是一个大概率事件，即下式以大概率成立： f A P( A)
n充分大
寻找随机事件概率提供 了一条实际可行的途径
随机变量序列的两种收敛
一、随机变量序列以概率收敛 1.依概率收敛
果对于任意 0，有 lim P X n X 1，则称X n 依概
n n 1 1 1 n D ( X i ) 2 [ D ( X i ) 2 Cov( X i , X i 1 )] 2 n n i 1 i 1 i 1 n 1 n 2 1 2 2 [ 2 ] 2 [ n 2 2( n 1) 2 ] n i 1 n i 1 n n 1 1 2 2 D ( X i ) 2 [ n 2( n 1) ] 0 2 n n i 1
而由X n P a, Yn P b，则有
n n
P( X n Yn ) (a b) P X n a / 2 PYn b / 2 所以有 lim P( X n Yn ) (a b) 0 X n Yn P a b
n
即有
二、随机变量序列以分布收敛
1.依分布收敛
Fn ( x)，X为一个随机变量，其分布函数为F ( x)，如果对于 F ( x)的任意连续点x，有 lim Fn ( x) F ( x)，则称X n 依分布 n
收敛于X，记作X n L X . 2.两种收敛之间的关系
n n
F ( x 0) lim Fn ( x) lim Fn ( x) F ( x 0)
n
在F ( x)的连续点便有
wenku.baidu.comn
lim Fn ( x) F ( x)
定理2的证明：必要性定理 已证明，下面证明充分性。 1 设X n的分布函数为Fn ( x) n 1,2, ，c的分布函数为 0 F ( x) 1 xc xc
n n
为此，令x x，则 X x X n x, X x X n x, X x 从而有 F ( x) Fn ( x) P X n X x x X n x X n X x x
n n 1 D ( X n ) 0 2 n i 1
称为马尔科夫条件。显然，Chebysherv 大数定律是 马尔科夫大数定律的特例。马尔科夫条件是判断随 机变量序列是否服从大数定律中要判据。
例4.10 设 X n 是同分布于e(1/ )的随机变量序列且序
列中每一项仅与相邻两项相关，而与其项不相关。判 定该随机变量序列 X n 是否服从大数定律？ 解：由于X n ~ e(1/ ) n 1, 2,，从而有 D ( X n ) 2 n 1, 2, 于是有
三、大数定理的应用 Khintchin大数定理应用 这一定理表明：同一量X 在相同条件下观测n次， 当观测次数n充分大时，“观测值得算术平均值接近 期望值”是一个大概率事件，即下式以大概率成立： n充分大 1 n 寻找随机变量的期 X i E( X ) 望值提供了一条实 n i 1 Bernoulli大数定理应用
1 Fn (c ) Fn (c ) 2

由于c ，c 都是F ( x)的连续点，且Fn ( x) W F ( x) 2 所以 lim P X n c 0
n

3.依分布收敛的判定 设X n 为一个随机变量序列，对应的分布函数列为 Fn ( x) ， 对应的特征函数列为 n (t ) X为一个随机变量，其分布函 ， 数为F ( x)，特征函数为 (t )。则X n L X的充要条件为特 征函数列为 n (t )收敛于特征函数为 (t )。 这个定理的证明只涉及数学分析的知识，但表达比冗 长，这里就不给出了。有兴趣的同学可以阅读课本。 这个定理给人们提供了一个判断随机变量序列依分布 收敛的有效工具。它把随机变量序列依分布收敛问题转化 成了函数列收敛问题。
设X 1 , X 2 , , X n ,是独立的随机变量 序列，每个随机变量的数学期望E ( X i ) 与D( X i )存在，且存在正实数M ，使 得对任意i有D( X i ) M ，则对任意正 Chebysherv 实数 0，恒有 1 n 1 n lim P X i E ( X i ) 1 n n i 1 n i 1 1 n 1 n 证明：因为E ( X i ) E ( X i ) n i 1 n i 1 1 n 1 n M D( X i ) 2 D( X i ) n i 1 n i 1 n