(精选)概率统计和随机过程课件第八章参数估计

注: 矩估计不唯一
8
事实上，按矩法原理，令
X
1 n
n i1
Xi
ˆ
A21 ni n1Xi2是 E(X2)的 估 计
ˆ X
ˆ2E(X2)E2(X)A2 ˆ2
1
n
n i1
Xi2
X2
1n
ni1
(Xi
X)2
Sn2
9
设待估计的参数为 1,2, ,k
设总体的 r 阶矩存在，记为
E ( X r ) r (1 ,2 , ,k )
设 X1, X2,…, Xn为总体的一个样本
构造 k 个统计量：
1( X 1, X 2 , , X n )
2 ( X 1, X 2 , , X n )
随机变量
k ( X 1, X 2 , , X n )
5
当测得一组样本值(x1, x2,…, xn)时，代入上述 统计量，即可得到 k 个数：
ˆ1 ( x1 , x 2 , , x n )
这个例子所作的推断已经体现了极 大似然法的基本思想.
17
例: 设袋中装有许多白球和黑球。只知两 种球的数目之比为3:1，试判断是白球多还 是黑球多。
分析: 从袋中有放回的任取3只球.
设每次取到黑球的概率为p (p=1/4或3/4)
设取到黑球的数目为X,
则X服从B(3,p)
P (Xk) 3 k pk(1p )3 k
1. 矩方法
方法
用样本的 k 阶矩作为总体的 k 阶矩的 估计量, 建立含待估计参数的方程， 从而可解出待估计参数
7
一般地，不论总体服从什么分布，总体期望 与方差 2 存在，则根据矩估计法它们的
矩估计量分别为
ˆ 1 n
ni1
Xi
X
ˆ21ni n1(Xi X)2Sn2
n1 1i n 1(X i X )2S2 是 无 偏 矩 估 计
n
L()L(x1,x2,,xn;) f(xi;) i 1
k0 ,1 ,2 ,3
分别计算p=1/4,p=3/4时，P{X=x}的值，列于表
X
0
1
2
3
p=1/4时 27/64 27/64 9/64 1/64
p=3/4时 1/64 9/64 27/6
4
结论:
pˆ(x)13//44,,
x0,1 x2,3
27/6 4
定义1:(1)设随机变量X的概率密度函数为 f(x,), 其中为未知参数(f为已知函数). x1,x2,,xn 为样本 X1,X2,,Xn 的样本观察值,
二阶原点矩
E X 2 x 21e xd x1 x 2 e x d x2 (3 ) 22
2
0
15
用 A2
1 n
n i 1
X i2替换
EX2
即
得的矩估计量为
A2
1 n
n i1
Xi2
22
ˆ 121ni n1Xi2 A2/2, 0
解法二
EX x1e xd x1 xe xd x (2 )
0
1 0 1
解之： E(X)
1E(X)
13
令
A1
1 n
n i1
Xi
来自百度文库
X
ˆ X
1 X
为的矩估计量,
ˆ x
1 x
为的矩估计值.
14
例3 设总体X的概率密度为
f(x,)2 1 e x, x , 0 求的矩估计量 ˆ
解法一 虽然 f (x中, )仅含有一个参数，但
因
EX x
1
2
x
e
dx0
不含,不能由此解出,需继续求总体的
——未知参数1,2, ,k
的矩估计量
ˆk ( X 1 , X 2 , , X n )
代入一组样本值得k个数:
ˆ1 ˆ1 ( x1 , x 2 , , x n )
ˆ2 ˆ2 ( x1 , x 2 , , x n )
——未知参数1,2, ,k
的矩估计值
ˆk ˆk ( x1 , x 2 , , x n )
11
例1 有一批零件，其长度X~N(,2)，现从 中任取4件，测的长度(单位：mm)为 12.6,13.4,12.8,13.2。试估计和2的值。
解： 由
x1(1.6 2 1.4 3 1.8 2 1.2 3 ) 13 4
s2 1[(12.613)2(13.413)2(12.813)2 41 (13.213)2]0.133
们的估计值或取值范围就是参数估计的内容.
点估计 区间估计 3
参数估计的类型
点估计 —— 估计未知参数的值
区间估计—— 估计未知参数的取值范围， 使得这个范围包含未知参数 真值的概率为给定的值.
4
第一节 参数的点估计
一、点估计的思想方法 设总体X 的分布函数的形式已知，但它含有
一个或多个未知参数：1,2, ,k
设 X1, X2,…, Xn为一样本，样本的 r 阶矩为
令
Br
1 n
n i1
Xir
r(1 ,2 , ,k ) 1n
n i1
Xir
r 1 ,2 , ,k
—— 含未知参数 1,2, ,k 的方程组 10
解方程组，得 k 个统计量：
ˆ1 ( X 1 , X 2 , , X n )
ˆ2 ( X 1 , X 2 , , X n )
得和2的估计值分别为13(mm)和 0.133(mm)2
12
例2 设总体X的概率密度为
f(x;) x 0,1,
0x1 其它
X1,X2,,Xn为来自于总体X的样本,x1,x2, ,xn 为样本值,求参数的矩估计。
解： 先求总体矩
1
1
E (X )x x 1 d x x d x x 11
0
2
0
即 E| X|
1 n
用 n i1 X i
替换
EX
即得的另一矩估计量为
ˆ
1 n
n i 1
Xi
16
2、极大似然函数法
先看一个简单的例子: 某位同学与一位猎人一起外出打猎,一只
野兔从前方窜过.只听到一声枪响,野兔应声 倒下.如果要你推测,是谁打中的呢？你会如 何想呢？
你就会想,只发一枪便打中,猎人命中的 概率一般大于这位同学命中的概率.看来这 一枪是猎人射中的.
ˆ2 ( x1 , x 2 , , x n )
数值
ˆk ( x1 , x 2 , , x n )
称数ˆ1,ˆ2, ,ˆk为未知参数1,2, ,k的估计值 对应的统计量为未知参数1,2, ,k的估计量
问题 如何构造统计量？
6
二.点估计的方法
1、矩方法；（矩估计） 2、极大似然函数法（极大似然估计）.
第八章 参数估计
1
统计 推断 的 基本 问题
参数估 计问题
点估计 区间估 计
假设检 验问题
2
什么是参数估计？
参数是刻画总体某方面的概率特性的数量.
当这个数量是未知的时候，从总体抽出一个 样本，用某种方法对这个未知参数进行估计 就是参数估计.
例如，X ~N ( , 2),
若, 2未知，通过构造样本的函数, 给出它