统计推断包括参数估计和假设检验,即通过样本统计量来估...精品PPT课件

n
E(X )
E(
Xi
i 1
n
)
1 n
n i 1
E( X i )
1 n
nE( X )
E( X )
E(S 2 )
E( 1 n 1
n i 1
(Xi
X
)2 )
1 [E n 1
n i 1
(Xi
X
)2 ]
D(X )
如果统计量为Sn2
1 n
n i1
(Xi
X
)2,则E(Sn2 )
D( X
)
此时，E
(Sn2
D( ) 2[E( )-E( )][E( )- ] [E( )- ]2
具有最小的均方误差的估计量是最优的估计量
E[( )2] D( ) [E( )- ]2
D( ) [Bias(ˆ)]2
如果E(1)= ,E(2 ) ,但D(1)>D(ˆ2 )
若有：E[(1 )2]<E[(2 )2]
1 比 2 好
试验中发生的概率，则对于任意的 0,
有 lim P{ m p } 1
n n
这个定理说明了：当观察次数n很大时，用 某随机现象在大量观察中发生的实际频率来 代替该现象发生的真实概率差别是很小的。
定理6.3：设X
1
,
X
2
........
X
是独立同分布变量，
n
且每个随机变量服从正态分布N (, 2 ).
)＝
n
1 n
D(
X
)
2.有效性: 若参数θ1,θ2都是参数θ的无偏估计量， 但有关系式E（θ1－θ）2 ≤ E（θ2－θ）2，则称θ1比θ2有效。
θ1比θ2更紧密地分布在总体参数周围,θ1比θ2有效.
θˆ1抽样分布
估计量
θˆ2抽样分布
总体参数
E(ˆ1) E(ˆ2 )
评价估计量好坏的标准 ▪ 无偏比有偏好 ▪ 方差小的好
由于按随机原则取样，在试验之前，人们无法预言试验的结 果，所以X1,X2 ,...Xn是一组随机变量， 而在试验之后，得到X1,X2 ,...Xn的一组观察值x1,x2 ,.....xn , 则为一组确定的数值。
2.抽样分布有关的几个定理：
定这理个6.（1定切理比说雪明夫了大：数从定总律体）中设抽X取1,的X 2简,..单..X随n是独立
同机分样布本的得随到机的变统量计，量且有X相，同其的抽有样限分的布的数 数学学期期望望等和于方总差体：分布的数学期望。
E( X i ) , D( X i ) 2 (i 1,2,.....) 则对任意的 0，有
1
lim P{ n n
n i 1
Xi
}1
定理6.（2 贝努里大数定律）设m是n次 试验中事件A发生的次数，p是事件A在每次
如果E(θ1)=θ,E(θ2 )≠θ,但D(θ1)> D(θˆ2 ) 怎么办？
如果E(θ1)=θ,E(θ2 )≠θ,但D(θ1)> D(θˆ2 ),这时可以用 估计量的均方误差（MSE）为评价准则。
3.最小均方误差MSE
MSE( )＝E[( )2] =E{[ -E( )]+[E( )- ]}2
最小均方误差
统计推断包括参数估计和假设检验，即通过 样本统计量来估计和检验总体的参数。统计推断 的目的在于认识未知的总体参数及其分布特征。
第六章 参数估计与假设检验
▪ 6.1 ▪ 6.2 ▪ 6.3 ▪ 6.4 ▪ 6.5
样本及其分布 点估计 参数的区间估计 样本容量的确定 假设检验
6.1 样本及其分布
▪ 参数估计的主要内容是研究如何通过样本提 供的信息估计总体的数字特征。
1为无偏估计量，3 的方差最小， 但MSE(ˆ2 )最小
ˆ2的抽样分布
（有偏的估计量）
ˆ3的抽样分布 （Var(ˆ3 )最小）
ˆ1的抽样分布
(无偏估计量)
E（ˆ1）E（ˆ2）
Bias(ˆ3 )
估计量
E（ˆ3）
总体参数
4.一致性
当样本容量趋于无穷大时，若估计量ˆ 依概率收敛于待估参数，即对任意 0, 有 lim P{ˆ } 1
1
lim n
P
n
i
Xi
E(X i
D（X ） i
)
x
x
n
1
t2
e 2 dt
2
6.2 点估计
一、点估计量的评价准则 无偏性、有效性、最小均方误差、一致性
1.无偏性 若参数θ的估计量θˆ 满足E（θˆ ）＝θ， 则称θˆ 是θ的无偏估计。
简单随机样本的样本均值是总体期望的无偏估计.
简单随机样本的样本方差是总体方差的无偏估计
解方程即得未知参数 的最大似然估计值 ˆ.
最大似然估计法也适用于分布中含有多个 未知参数的情况. 此时只需令
x
则称ˆ为的一致估计量。
二、点估计方法
▪ 如果在参数的估计中直接用样本估计量之数值作为 待估总体参数的估计量，就是参数的点估计。
▪ 点估计方法：
（1）极大似然估计（MLE）
（2）矩估计法
极大似然估计法是由费舍尔引进的.
求极大似然估计量的步骤:
(一) 写出似然函数
n
L( ) L( x1, x2 ,, xn; ) p( xi; )
n
n i
EX i
1n
1n
n 2 2
D( X )
D( n
i 1
Xi)
n2
D(
i 1
Xi)
n2
D( Xi )
i 1
n2
n
定理6.4（Lindeberg-Levy中心极限定理）
设X1, X 2,...X n ,...是独立同分布的随机变量， 而且E(Xi )、D（Xi）存在，D（Xi） 0，则对一切x有
i 1
n
或 L( ) L( x1, x2 ,, xn; ) f ( xi; );
(二) 取对数
i 1
n
n
ln L( ) ln p( xi; ) 或 ln L( ) ln f ( xi; );
i 1
i 1
(三) 对 求导 d ln L( ) , d
并令
d
ln L( d
)
0,
对数似 然方程
▪ 我们把被观察对象的全体称作总体，把从总 体中按照随机原则抽出的个体组成的小群体 称为样本，而样本中所包含的个体数称为样 本容量。
1.总体和样本
设X是一个随机变量，X1，X2 ,......,Xn是一组相互独立与X 具有相同分布的随机变量，称X为总体.X1，X2 ,......,Xn为 来自总体的简单随机样本，简称样本，n为样本容量， 称样本观察值为样本值。
则其均值X
1 n
n i 1
X
i
,服从参数为（
,
2
n
）的
正态分布。即X～N（, 2 ）
n
这个定理说明了：对于n个独立的且都服从相 同的正态分布的随机变量而言，它们的均值仍 然服从正态分布，所改变的只是分布的参数。
▪ 定理6.3得出
1 n
1
n
1
E(X )
E( n
i 1
Xi )
n
E(
i 1
Xi )