数学数理统计PPT课件

X k 满足中心极限定理条件，
E(Xk)0,D (Xk)1
n
X n X k
lim P Xn x ( x )
k 1
n
n
P{aXn b}
P{ a Xn nn
b} n
n 16,
( b )( a )
n
n
独立投入１００个小球， P{0Xn 1}
(1)(0)0.0987
4
-23-
定理 2 （德莫佛—拉普拉斯）
总体和样本 总体 —— 研究对象全体元素组成的集合
所研究的对象的某个(或某些)数量指标 的全体,它是一个随机变量(或多维随机变 量).记为X .
X 的分布函数和数字特征称为总体的 分布函数和数字特征.
-30-
个体 —— 组成总体的每一个元素 即总体的每个数量指标,可看作随机
变量 X 的某个取值.用 表X i示.
Yn i1
i 1
n
D( X i)
i1 n
i 1
~N(0,1)
若一随机变量可以表示成数量很多的相互独立相
同分布的随机变量的和，则该随机变量可近似服从 正态分布，标准化后就服从标准正态分布。
近似
n Yn~N(0,1)
X k nYnn近似服从N(n,n2)
k 1
-19-
对任意 ab有，
n
P{a
则称随机变量g(X1,X2, ,Xn)为统计量.
若(x1,x2,,xn)是一个样本值,
称
g(x1,x2, ,xn)
为统计量 g(X1,X2, ,Xn)的一个样本值
-33-
例 X~N (,2是),未, 知2参数,
(X 1,X 2, ,X n) 是一样本, 则
1n
Xni 1X i,
S2n1 1i n1X iX2
充分性： 0,
F
(x)
1, x 0, x
c c
P { X n c } P { X n c } P { X n c }
-14-
P { X n c } P { X n c } P { X n c }
1 F n(c )F n(c )
1 100,n
３：r－阶收敛
描述统计—学—
数 理
对随机现象进行观测、试验，
统
以取得有代表性的观测值
计 推断统计—学—
的
对已取得的观测值进行整理、
分
分析,作出推断、决策,从而
类
找出所研究的对象的规律性
-28-
推断 统计学
参数估计 (第3章) 假设检验 (第4章) 回归分析 (第5章) 方差分析 (第6章)
-29-
§ 2.1 基本概念
是统计量, 其中 Xi ~N(,2)
但
1
2
n
Xi
i1
2
不是统计量.
若 , 已知,则为统计量
-34-
常用的统计量
设 (X 1,X 2, ,X n)是来自总体 X 的容量
为 n 的样本,称统计量
(1)
X1 n ni1
Xi
为样本均值
(2)
S2 1 n n1i1
2
Xi X
为修正样本方差
S
样本 —— 从总体中抽取的部分个体. 用 (X1,X2,,Xn)表示, n 为样本容量.
称 (x1,x2, 为,x总n)体 X 的一个容量为n的样本
观测值,或称样本的一个实现.
样本空间 —— 样本所有可能取值的集合.
-31-
简单随机样本 若总体 X 的样本 (X1,X2, 满,足Xn:) (1) X1,X2, 与,XX有n 相同的分布 (2) X1,X2, 相,互X独n 立 则称 (X1,X2, 为,简Xn 单)随机样本.
准备工作
1) 切比雪夫不等式
设 X为一随机变量, 其数学期望 E( X )和方差 D( X )
都存在，则对于任意 0, 有
PXE(X) 22
2) A.L.Cauchy－Schwarz不等式.
设 r.v (X ,Y) ，满足 EX 2 , EY 2 则有
E(XY)2 EX2EY2
-3-
贝努里（Bernoulli） 大数定律
lni m XnX (a.s.)
四种收敛关系：
以概率１收敛或r-阶收敛 依概率收敛 依分布收敛
-16-
三、 中心极限定理
中心极限定理讨论：随机变量序列
n
n
X i E ( X i)
i1
i1
n
D ( X i) i1
对应的分布函数序列收敛于标准正态分布函数的定理
-17-
定理1（独立同分布的中心极限定理）
n
X1,X2, ,Xn 相互独立，nA Xk
k 1
记Yn
1 n
n k1
Xk
,
E(Yn)p,
D(Yn)pnq
由 Chebyshev 不等式
0PnA n
p
P
n
Xk
k1
n
E(Xk
)
-5-
0PnA n
p
P
n
Xk
k1
n
E(Xk
)
P Y n E (Y n ) 12
pq n
故 limPnAp0
1n n1i1
2
Xi X
为修正样本标准差
-35-
(3)
Ak
1 n
n i1
Xik
为样本的k 阶原点矩
(4)
Bk 1nin1
Xi
k
X
为样本的k
阶中心矩
பைடு நூலகம்
例如 A1X
B2
n1S2 n
1 n ni1
Xi
2
X
Sn2
-36-
注 样本方差 S与2 样本二阶中心矩
1） 关系式 S2 nn1Sn2
的S 不n2 同
n n
-6-
贝努里(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率
nA n “ 稳定于”事件 A 在一次试验中发生
的概率是指：
频率n A 与 p 有较大偏差 nA p 是
n
n
小概率事件, 因而在 n 足够大时, 可以用频
率近似代替 p . 这种稳定称为依概率稳定.
设事件 A在每次试验中出现的概率为 p, 且 在n次重复独立试验中出现的频率为 nA / n
则limP{|nAp}1
n n 证 引入 r.v. 序列{Xk}
1, 第k次试A验 发生 Xk 0, 第k次试A验 发生 设 P (X k1 )p, 则 E (X k ) p ,D (X k ) pq
-4-
n i1
Xi
b}P{ani1
Xi n bn
}
n
n
n
(bn)(an)
n
n
-20-
中心极限定理的意义
前面讲过有许多随机现象服从正态分布 是由于许多彼此没有什么相依关系、对随机现 象谁也不能起突出影响，而均匀地起到微小作 用的随机因素共同作用(即这些因素的叠加)的
结果. 若联系于此随机现象的随机变量为X ，则
数学数理统计PPT课件
一 大数定律
要解决的问题
答复
1. 为何能以某事件发生的频率 2. 作为该事件的 概率的估计？ 大数 2. 为何能以样本均值作为总体 定律 3. 期望的估计？
3. 为何正态分布在概率论中占
4. 有极其重要的地位？ 4. 大样本统计推断的理论基础
5. 是什么？
中心极 限定理
-2-
则 0有
lni m P1 nkn 1Xk1 nkn 1E(Xk)0
或
lni m P1 nkn 1Xk1 nkn 1E(Xk)1
-9-
1 n
Pnk1Xk
1n nk1E(Xk)
D (1 n
n k 1
X k)
2
n
D( X k)
k 1
n 2 2
{ X n } 两两不相关,且方差有界，则可得到
记为
Fn(x) W F(x)
定义：如果 Fn(x) W F(x)则称 { X n } 依分布收敛于X，记为 Xn L X
-13-
可以证明：
（１）若 Xn PX则，Xn L X
（２）设C为常数，则
X n P C X n L C Fn(x) W F(x)
F(x)是X=C的分布函数，即
b}P{anpnnpbnp}
npq npq npq
(bnp)(anp)
npq
npq
-25-
例 某单位有200台电话分机，每台分机有5%的时间
要使用外线通话。假定每台分机是否使用外线是相互 独立的，问该单位总机要安装多少条外线，才能以 90%以上的概率保证分机用外线时不等待？
解：设有X部分机同时使用外线，则有 X~B(n,p), 其 n 2 中 p 0 0 0. n ,0 1 p 5 n 0 ,- , p p ( 3 ) .0 1 .8 设有N 条外线。由题意有 P{XN}0.9
如果对于任意的
0,有，lim P n
XnX1
则称{ X n }依概率收敛于 X
,
记为
Xn P X,n
-12-
定义３:设 F(x),F1(x),F1(x), 是一列分布函数,如果
对F(x)每个连续点x，都有
lni mFn(x)F(x)
则称分布函数列 { Fn ( x )} 弱收敛于分布函数F(x) ，
设 X1,X2,, X n , 为一列相互独立相同分布
的随机变量，且具有数学期望和方差，则对于
任意实数 x,有
n
n
lim P n
Xi E( Xi )
i 1
i 1
x
n
D( Xi )
i 1
x
1
t2 -
e 2 dt
- 2
(x)
其中 (x)为标准正态分布的分布函数。
-18-
n
n
n
X i E( X i) X i n
定义：设对随机变量Xn及X，r>0为常数，如果
EXnr ,EXr ,
且，
lni mEXn
Xr
0,
则称 { X n } r－阶收敛于X,记作 Xn r X
特别：１－阶收敛为平均收敛，２－阶为均方收敛
-15-
４：以概率１收敛 定义：若存在一随机变量X,使
P{lni m Xn X}1,
我们称随机序列 { X n } 以概率为１收敛于X,或说 几乎处处收敛于X，并记为Xn a .s.X
S2 nn11in1(Xi X)2 (Xi22XiXX2)
i1
n
n
Xi22X Xi nX2
i1
i1
n
n
Xi22nXXnX2 Xi2 nX2
i1
i1
-37-
常见统计量的性质：
(1)E(X)E(X)
1 n
E(X)E( ni1
Xi
)
1 n
n
E(
i 1
Xi
)
E(Xi ) E(X)
(2) D(X) D(X) n
1 n
D(X)D( ni1
Xi)
1 n2
n
D(
i1
Xi )
1 n2 nD(Xi )
D( X i ) n
-38-
2）
E(Sn2)
n12
n
E(S2)2
E(S 2 )
设 n ~b(n,p)则对于任意实数 x,
有 lim P
nnp x x
1
- t2
e 2 dt
n np(1p)
- 2
(x)
其中 (x)为标准正态分布的分布函数。
这个定理表明，二项分布的极限分布是正态分布
当 n很大时，我们便可以利用定理 2 来近似计算二
项分布的概率。
-24-
对任意 ab有，
P{an
它可被看成为许多相互独立的起微小作用的因
素Xk的总和 X，k 而这个总和服从或近似服从
k
正态分布.
-21-
对此现象还 可举个有趣 的例子——
高尔顿钉板 试验—— 加 以说明.
•• • •• •• • •
N(0, n) n— 钉子层数
3 0 3
-22-
X k 表示某一个小球在第k次碰了钉子后向左 或向右落下这一随机现象联系的随机变量，
-26-
由德莫佛-拉普拉斯定理有
P{XN}P
Xnp
Nnp
np(1p) np(1p)
nN(p1n pp)N 3.0180.
查表得 (1.2)80.9.0
故N应满足条件 N-101.28, 3.08
即 N1.9 3.4 取 N1,4 即至少 1条 4要外 安
-27-
第2章 数理统计的基本概念
-7-
大数定律
设 r.v. 序列 X1,X2, ,Xn,{ a k }
是常数序列，则 0有
limP n
1n nk1Xk
an
0
或
limP n
1nkn1Xk
an
1
则称 { X n } 服从大数定律．
-8-
Chebyshev 大数定律
X1,X2, ,Xn, 两两不相关的随机变量,又设
D (X k) C , k 1 ,2 , ,n
去掉，代之以 （Markov） 大数定律
1
n2
D n k1
Xk
n0
-11-
二 随机变量的收敛性
定义1 设 X1,X2,,Xn, 为一列随机变量，如果
存在常数 a使得对于任意的 0, 有
ln i P m X n a 1
则称 X n 依概率收敛于 a, 记为 Xn Pa
定义2 设 X1, X2, ,为一列随机变量,X是随机变量
n
n
D(Xk)D(Xk)nC
k1
k1
P1nkn1Xk
1nkn1E(Xk)
C
n2
0,n
-10-
在定理一中,去掉方差存在的条件而加上相同 分布的条件，则有：
辛钦大数定律
设 X1,X2,,Xn, 为一列相互独立同分布的
随机变量，且具有相同的数学期望 ,
ln im P{|n 1i n1Xi }1
注 X1,X2, ,Xn,相互独立的条件可以
它可以用与总体独立同分布的n个相互独立的随机 变量X1,X2,…,Xn表示。
若总体的分布函数为F(x)，则其简单随机样本 的联合分布函数为
F(x1) F(x2) … F(xn)
-32-
统计量
定义
设(X1,X2, ,是X取n)自总体X 的一个样本, 为一实g 值(r连1,r2 续, 函,r数n),
且不含有未知参数,