§7.2 点估计的评价标准

§7.2 点估计的评价标准
同一参数可以有几种不同的估计，这时就需要判断采用哪一种估计为好的问题。

另一方面，对于同一个参数，用矩法和极大似然法即使得到的是同一个估计, 也存在衡量这个估计优劣的问题。

估计量的评选标准就是：评价一个估计量“好”与“坏”的标准。

评价一个估计量的好坏, 不能仅仅依据一次试验的结果, 而必须由多次试验结果来衡量. 因为估计量是样本的函数, 是随机变量. 故由不同的观测结果, 就会求得不同的参数估计值. 因此一个好的估计, 应在多次重复试验中体现出其优良性.
估计量的评价一般有三条标准:1. 无偏性;2. 有效性;3. 相合性（一致性）
一.无偏性
估计量是随机变量, 对于不同的样本值会得到不同的估计值. 一个自然的要求是希望估计值在未知参数真值的附近, 不要偏高也不要偏低. 由此引入无偏性标准.
定义1 设),,(ˆ1n
X X θ是未知参数θ的估计量, 若,)ˆ(θθ=E 则称θˆ为θ的无偏估计量. 若ˆ()E θ
θ≠称ˆθ为有偏估计量，ˆ()E θθ-并称为估计量 ˆθ的偏差.如果ˆθ是有偏估计量,ˆˆlim (),n E θθθθ→∞
=但，则称是的渐近无偏估计量 注: 无偏性是对估计量的一个常见而重要的要求, 其实际意义是指估计量没有
系统偏差，只有随机偏差. 在科学技术中, 称θθ
-)ˆ(E 为用θˆ估计θ而产生的系统误差.
定理1 设12,,n X X X 为取自总体X 的样本,总体X 的均值为μ, 方差为2σ.则
(1) 样本均值X 是μ的无偏估计量;
(2) 样本方差2S 是2σ的无偏估计量;
(3) 样本二阶中心矩221
1()n
i i B X X n ==-∑是2σ的不是无偏估计量.,是渐近无偏估计量
证明：(1)因为 12,,n X X X 独立同分布，且()i E X μ=所以
11
111()()n n i i i i E X E X E X n n n n μμ==⎡⎤===⋅=∑∑⎢⎥⎣⎦ 故X 是μ的无偏估计量;
(2)因
2222221111111()2()111n n n n i i i i i i i i S X X X X X nX X nX n n n ====⎡⎤⎛⎫=-=-+=-∑∑ ⎪⎢⎥---⎣⎦⎝⎭
∑∑ 注意到
2
2222222()()[()],()()[()],
i i i E X D X E X n E X D X E X σμσμ=+=+=+=+
于是，有
22
222222111()()()().11n i i E S E X nE X n n n n n σσμμσ=⎡⎤⎛⎫⎡⎤=-=+-+=∑⎢⎥ ⎪⎢⎥⎣⎦--⎝⎭⎣⎦
故样本方差2S 是2σ的无偏估计量; (3)222111()n i i n B X X S n n
=-=-=∑ 222211()()n n E B E S n n
σσ--==≠ 故2B 是2σ的有偏估计量.
2221lim ()lim n n n E B n
σσ→∞→∞-== 故2B 是2σ的渐近无偏估计量.
二.有效性
一个参数θ常有多个无偏估计量,在这些估计量中,自然应选用对θ的偏离程度较小的为好,即一个较好的估计量的方差应该较小.由此引入评选估计量的另一标准—有效性.
定义2 设),,(ˆˆ111n X X θθ=和),,(ˆˆ122n
X X θθ=都是参数θ的无偏估计量, 若)ˆ()ˆ(21θθD D <,则称1ˆθ较2
ˆθ有效. 例1:设123,,X X X 是总体X 的样本,证明
11231ˆ (),3X X X μ=++21231ˆ ()2X X X μ=-+33121ˆ ()42
X X X μ=++ 都是总体均值()E X 的无偏估计量,并比较哪个更有效.
解: 112311ˆE( )[()()()][()()()]()33
E X E X E X E X E X E X E X μ=++=++= 212311ˆE( )()()()()22
E X E X E X E X μ=-+= 3123111ˆE( )()()()()442
E X E X E X E X μ=++= 故1ˆ μ
,2ˆ ,μ3ˆ μ都是总体均值()E X 的无偏估计量 112311ˆD( )[()()()]()93
D X D X D X D X μ=++= 212313ˆD( )[()()]()()42
D X D X D X D X μ=++= 3123113ˆD( )[()()]()()1648
D X D X D X D X μ=++= 则132ˆˆˆD( )D( )D( )μ
μμ<<,故1ˆ μ较2ˆ ,μ3ˆ μ更有效 三.一致性 (相合性)
我们不仅希望一个估计量是无偏的, 并且具有较小的方差, 还希望当样本容量无限增大时, 估计量能在某种意义下任意接近未知参数的真值, 由此引入相合性(一致性)的评价标准.
定义 3 设),,(ˆˆ1n
X X θθ=为未知参数θ的估计量, 若当n →∞时,θˆ依概率收敛于θ, 即对任意0>ε, 有
,1}|ˆ{|lim =<-∞
→εθθP n 或
,0}|ˆ{|lim =≥-∞→εθθ
P n
则称θˆ为θ的一致估计量.
例2:证明样本k 阶原点矩1
1n k k i i A X n ==∑是总体k 阶原点矩)(k X E 的一致估计量. 证明: 样本k 阶原点矩1
1n k k i i A X n ==∑依概率收敛于总体k 阶原点矩)(k X E 即对任意的0ε>,有
111111lim |()lim |()1,n n n k k k k i i i n n i i i P X E X P X E X n n n εε→∞→∞===⎧⎫⎧⎫-<=-<=⎨⎬⎨⎬⎩⎭⎩⎭
∑∑∑ 所以k A 是总体)(k X E 的一致估计量.
注:1样本方差2S 是总体方差2σ的一致估计量．由于样本k 阶原点矩与样本方差分别作为总体k 阶原点矩与总体方差的估计是无偏的、一致的，因此是较好的估计，
2.若12(,,)l g t t t 是连续函数，),,,(ˆ21n X X X θ是ˆ(1,2,)i i l θ=的一致估计量，则12ˆˆˆ(,,)l
g θθθ是12(,,)l g θθθ的一致估计量，所以用矩估计法确定的统计量一般是一致估计量．人们还证明了在相当广泛的情况下，极大似然估计量也是一致估计量．。