7.2 估计量的优良性准则

2
3 y 2 ⋅ ( ) , 0 ≤ y ≤ θ; ∴ fY ( y) = θ θ 0 , else.
电子科技大学
估计量的优良性准则
Dec-10
E(Y ) =
θ 3 ∫0
3
θ
3 y dy = θ , 4
3
2 3 z ⋅ 1 − , 0 ≤ z ≤ θ , 同理可得 fZ (z) = θ θ else 0 ,
Dec-10
F ( y) = P{Y ≤ y} = P{max Xi ≤ y} Y
= P{X1 ≤ y, X2 ≤ y, X3 ≤ y} = P{ X1 ≤ y}⋅ P{X2 ≤ y}⋅ P{X3 ≤ y}
= [FX ( y)]
3
1≤i ≤3
′ fY ( y) = FY ( y) = 3[F( y)] fY ( y)
电子科技大学
估计量的优良性准则
n 2
Dec-10
Xi 1 n 2 σ2 令 Y = ∑ ~ χ 2 (n), 则 ∑Xi = Y , n i =1 n i =1 σ
σ 2 1 n 2 Y ∴D ∑Xi = D n n i =1
1 ∴E(Z) = 3 ∫ z ⋅ (θ − z) dz = θ 4 θ 0
2
3
θ
从而,
4 E( m Xi ) = E(4m Xi ) = θ , ax in 3 1≤i≤3 1≤i ≤3
电子科技大学
估计wk.baidu.com的优良性准则
Dec-10
4 ax 4 in . 即 m Xi 和 m Xi 都是 的无偏估计 θ 3 1≤i≤3 1≤i ≤3
电子科技大学
估计量的优良性准则
Dec-10
2. 有效性 思考：已知总体 的样本 1, X2, X3,下列估 已知总体X的样本 的样本X 下列估 计量是否为a 的无偏估计量？ 计量是否为 的无偏估计量？ 哪个更好？ 哪个更好？
1. X; 2. X1; 3. X1+ X2; 4. 0.1X1 + 0.2X2 + 0.7X3 .
估计量的优良性准则
Dec-10
§7.2 估计量的优良性准则 对于总体的参数， 对于总体的参数，可用各种不同的方法去 估计它，因此一个参数的估计量不唯一. 估计它，因此一个参数的估计量不唯一 如 X~U(0,θ) ,θ的矩法估计量为 的矩法估计量为 ， 2X
ax 极大似然估计量为 m {Xi }
1≤i ≤n
#
电子科技大学
估计量的优良性准则
Dec-10
例7.2.5 设X~U(0,θ) ,θ的矩法估计量为 的矩法估计量为 ˆ ˆ ax θ = 2X ，极大似然估计量为 θ = m {X }.
1
2 1≤i ≤n i
ˆ 有 E(θ1 ) = E(2X ) = θ ,
ˆ ) = E(m {X }) = nθ E(θ2 ax i 1≤i ≤n n+1
估计量的优良性准则
Dec-10
例7.2.4 证明
ˆ µ = ∑ci Xi , ci ≥ 0,
i=1
n
∑ci = 1,
i =1
n
X 是无偏估计量， 是其中最有效估计量. 是无偏估计量， 是其中最有效估计量. n n 证 ˆ E(µ) = E(∑ci Xi） E( X)∑ci =E( X), =
i=1
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1
#
电子科技大学
估计量的优良性准则
Dec-10
相合估计量. 相合估计量
1 n 2 例7.2.6 设 X~N(0,σ2), 证明 ∑ Xi 是σ2 的 n i =1
ˆ E(θn ) = E[T( X1 , X2 ,..., Xn )] = θ
ˆ 称 θn 为θ的无偏估计量. 若 的无偏估计量. ˆ lim b = lim[E(θ ) −θ ] = 0
n→∞ n n→∞ n
ˆ 则称 θn 为θ的渐进无偏估计量. 的渐进无偏估计量.
电子科技大学
估计量的优良性准则
∴E(S ) = σ .
2 2
#
电子科技大学
估计量的优良性准则
Dec-10
设总体X~U[0,θ], θ >0 未知 (X1，X2， 未知, 例7.2.3 设总体 X3)是取自 的一个样本 是取自X的一个样本 是取自 1) 试证
ˆ 1 = 4 m Xi , θ ax 3 1≤i ≤3
ˆ θ 2 = 4m Xi in
Dec-10
的无偏估计量存在， 若θ的实函数 g(θ) 的无偏估计量存在，称 的实函数 g(θ)是可估计函数 是可估计函数.
ˆ 的无偏估计量， ˆ 注 当θ是θ的无偏估计量， (θ )不一定是 (θ ) g g . 的无偏估计量 反例
样本均值是总体均值E(X)的无偏估计量 的无偏估计量. 样本均值是总体均值 的无偏估计量 S2 是⌠2 的无偏估计
2)
3 2 QD(Y ) = E(Y ) − E(Y ) = θ , 80 3 2 2 2 D(Z) = E(Z ) − E(Z) = θ , 80 4 ∴D( Y ) ≤ D(4Z) 3
2 2
4 ax θ in . 即 m Xi 比 ˆ2 = 4m Xi 的方差小 3 1≤i≤3 1≤i ≤3
#
电子科技大学
1≤i ≤3
都是θ的无偏估计； 都是 的无偏估计； 的无偏估计 2) 上述两个估计量中哪个的方差最小？ 上述两个估计量中哪个的方差最小？ 分析： 要判断估计量是否是无偏估计量， 分析： 要判断估计量是否是无偏估计量， 需要计算统计量的数学期望. 需要计算统计量的数学期望.
电子科技大学
估计量的优良性准则
2 λ = ，和c = 1 , 解得 i n n
2 L（c1, c2 Lcn；λ） ci − λ（ ci −1 = ） i=1 i=1
∑
n
∑
n
i = 1,2,L, n.
电子科技大学
估计量的优良性准则
Dec-10
即函数
f (c1,c2, L, cn ) = ∑c
i =1
n
2 i
的最小值点是
1 1 1 . （ , ,L, ） n n n
在众多的估计量中选哪一个更好？ 在众多的估计量中选哪一个更好？ 选取的标准是什么？ 选取的标准是什么？ 三个常用准则：无偏性、有效性、相合性 三个常用准则：无偏性、有效性、相合性.
电子科技大学
估计量的优良性准则
Dec-10
1. 无偏性
θ
定义7.2.1 若参数 的估计量 θ = T( X1, X2 ,..., Xn ) 若参数θ的估计量 ˆ 定义 对一切 n 及θ∈ ，有 ∈
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
参数的无偏估计量不惟一. 参数的无偏估计量不惟一 无偏估计只能保证估计无系统误差： 无偏估计只能保证估计无系统误差：
ˆ E(θ −θ ) = 0
电子科技大学
估计量的优良性准则
Dec-10
θ
ˆ 的取值在θ及其附近越密集越好 及其附近越密集越好， 希望 θ 的取值在 及其附近越密集越好，
其方差应尽量小. 其方差应尽量小 ˆ ˆ 定义7.2.2 设θ1( X1, X2 ,..., Xn )和θ2( X1, X2,..., Xn) 定义 的无偏估计量, 都是未知参数θ的无偏估计量,若
Dec-10
令
Y = maxXi ,
1≤i ≤3
Z = minXi
1≤i ≤3
先求X与 的概率密度函数， 证 1) 先求 与Y 的概率密度函数， 已知分布函数
0, x < 0; x FX ( x) = , 0 ≤ x <θ; θ 1, x ≥θ .
电子科技大学
估计量的优良性准则
证明相合性常用到切比雪夫不等式 切比雪夫不等式; 分析 1) 证明相合性常用到切比雪夫不等式 2) 这里计算方差较难, 可以先化为χ2 这里计算方差较难 分布, 再利用卡方分布的性质计算. 分布 再利用卡方分布的性质计算 证
1 n 2 1 n E ∑Xi = ∑E( Xi2 ) = E( X 2 ) = σ 2 , n n i =1 i=1
电子科技大学
估计量的优良性准则
Dec-10
注意： 注意：
1 n M2 = ∑( Xi − X)2不是 2的无偏估计 σ n i =1
1 n n −1 2 2 QM2 = ∑( Xi − X ) = S n i =1 n i= n −1 2 ⇒ E(M2 ) = σ n
1 n E σ 已知 ( X ) = µ时， ∑( Xi − µ)2是 2的无偏估计 n i=1
2σ , = 2 ⋅ D(Y ) = 2 ⋅ 2n = n n n 由切比雪夫不等式， 由切比雪夫不等式，有
4 4 4
σ
σ
1 n 2 1 n 2 P ∑ Xi − E ∑ Xi ≥ ε n n i =1 i=1
电子科技大学
估计量的优良性准则
有偏估计量
θ2 4 ˆ 又 D(θ1 ) = D(2X) = D( X) = , n 3n nθ 2 ˆ D(θ2 ) = D(m {Xi }) = ax 2 1≤i ≤n (n + 1) (n + 2)
电子科技大学
估计量的优良性准则
Dec-10
ˆ D(θ2 ) =
nθ ˆ = D(θ1 ), < (n + 1)2 (n + 2) 3n
n
n
(n −1)E(S ) = ∑E( Xi ) − nE( X 2 )
i =1
= nE( X ) − nE( X )
2 2
电子科技大学
估计量的优良性准则
Dec-10
= n{D( X) + E( X)2 } − n{D( X) + E( X)2 }
= n(σ 2 + µ2 ) − n(
σ2
n
+ µ2 ) = (n −1)σ 2
电子科技大学
估计量的优良性准则
Dec-10
ˆ ˆ 7.2.3定义 设 θn = θ ( X1, X2 ,..., Xn )是未知参 定义
的估计量， 数θ的估计量，若对任意的 ，有 的估计量 若对任意的ε>0，
n→∞
ˆ lim P{θn −θ < ε } = 1
则称 θˆ 为θ的相合估计量. 相合估计量. 相合估计量的证明(1) 相合估计量的证明 相合估计量的证明(2) 相合估计量的证明
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
n
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
ˆ ˆ D(θ1 ) ≤ D(θ2 ), ∀θ ∈Ω
( ). θ θ 称 ˆ1比 ˆ2有效 优效
电子科技大学
估计量的优良性准则
Dec-10
ˆ 的无偏估计， 设 θ0是θ的无偏估计，如果对θ的任何一个
无偏估计量 θ 都有 ˆ
ˆ ˆ D(θ0 ) ≤ D(θ ), θ ∈Ω
ˆ 的最小方差无偏估计量. 称 θ0为θ的最小方差无偏估计量.
Dec-10
1 n 2 D ∑Xi n 1 n 2 i=1 2 = P ∑Xi −σ ≥ ε ≤ 2 n i=1 ε
ˆ D(µ) = D(∑ci Xi = σ ）
i =1
n
2
∑
i=1
n
i=1
2 ci
σ ≤ ,
2
利用拉格朗日乘数法求条件极值， 利用拉格朗日乘数法求条件极值，令
电子科技大学
估计量的优良性准则
Dec-10
从联立方程组 ∂L ） ∂c = 2ci − λ = 0； （i = 1,2,L, n i n ∑ci = 1. i =1