数理统计(23)

解 : 设样本(X1 , X 2 ,L, X n )的一组观测值(x 1 , x 2 ,L, x n )则似然函数 n ( x i −µ ) 2 (x i − µ )2 n n −∑ − 2 2 n 1 e 2 σ 2 = 1 ⋅ e i =1 2σ 2 L (µ , σ ) = ∏ P (x i , µ , σ ) = ∏ i =1 i =1 2 π σ 2πσ
1 n 1 = ∑ EX i = np = p n i =1 n
ˆ ∴ PL 是P的无偏估计量
2.有效性 有效性 一般地,未知参数 未知参数θ的无偏估计量 ˆ 往往不止一个, 一般地 未知参数 的无偏估计量 θ 往往不止一个 在这些无偏估计量中,当然是 ˆ 的取值对于 的离散 在这些无偏估计量中 当然是 θ 的取值对于θ的离散 程度越小越好,也即方差越小越好 也即方差越小越好. 程度越小越好 也即方差越小越好
n S2是总体X的方差σ2的无偏估计量 n −1
证明:(X 为来自总体X的样本 证明 1,X2, …,Xn)为来自总体 的样本 故X1,X2, …,Xn 为来自总体 的样本,故 相互独立且与总体X同分布 从而 相互独立且与总体 同分布,从而 i = µ 同分布 EX
DX i = σ
2
i = 1,3,L, n
∴S2 不是σ 2的无偏估计量
n −1 2 = σ n
n −1 2 Q σ ≠ σ2 n
∴S*2 是总体方差σ 2的无偏估计量
为来自总体X的样本 例3.设(X1,X2, …,Xn)为来自总体 的样本 设 为来自总体 的样本,X~B(1,P), (1)求未知参数 的最大似然估计 求未知参数P的最大似然估计 求未知参数 ˆ (量证明PL 是P的无偏估计量 2) 总体X的分布律 解:(1)总体 的分布律 总体
∂ ln L (θ1, θ2 , L , θn ) =0 ∂θ1 L L (3)解似然方程组 ∂ l nL θ1, θ2 , L, θn =0 ∂θ m
ˆ ˆ ˆ 得 θ1, θ2 , L , θm
求正态总体N(µ,σ2)的未知参数 和σ2的最大似然估 的未知参数µ和 例1.求正态总体 求正态总体 的未知参数 计量
ˆ 1 n x =x ˆ 解得 µ = ∑ i n i =1
1 n x − x 2 = S2 ˆ σ = ∑ i n i =1
2
(
)
样本容量： ， 例2：总总体 ～ N(µ，σ )样本容量：n，求使得 ：总总体X～ ， 样本容量
2
∫
未知参数 设样本(X 为来自总体X的一个样本 解：设样本 1,X2,…,Xn)为来自总体 的一个样本，上例已知 为来自总体 的一个样本， 2 2 1 n (X − X ) 2 ˆ ˆ σ =S = ∑ i µ=X n i =1
故a的最大似然估计为 的最大似然估计为
a −µ = 1.645 σ
a=1.645σ+µ
ˆ ˆ ˆ ∴ a = µ + 1.645σ
= X + 1.645S
例3.设X~U[a,b],概率密度函数 设 概率密度函数
1 f (x) = b − a 0 a≤x≤b 其他
(1)求a,b矩估计量 a M = x − 3S 求 矩估计量 ˆ (2)求a,b最大似然估计量 求 最大似然估计量
n n
ˆ b M = x + 3S
解(2) : L(a, b) = ∏ f (xi , a, b) = ∏ 1 = 1 n i =1 i =1 b − a (b − a )
ln L(a , b ) = −n ln(b − a )
n ∂ ln L(a , b ) = =0 ˆ ∂a b−a ∂ ln L(a , b ) n =− =0 ˆ b−a ∂b
[
]
[
( )]
( )
n −1 2 σ = σ2 但 lim n →∞ n ∴ S 2 是 σ 2 渐近无偏估计量 , 这也是 S 2 为大样本方差的原因 n 2 = n ES2 = n ⋅ n − 1 σ 2 = σ 2 *2 (2)ES = E S n −1 n −1 n n −1
n xi 1− x i
n
(1)L(P) = ∏ P (1 − P)
n i =1 i
∑ xi
n
n− ∑ xi
i =1
i =1
dp
∑ p
i =1
n
i
1− p
∑
i =1
n
i

L
1 n = ∑ Xi = X n i =1
1 n ˆ (2)EPL = E X = E ∑ X i n i =1
1.无偏性 无系统偏差 无偏性(无系统偏差 无偏性 无系统偏差) 在估计总体参数时,总希望估计值与总体参数的真值 在估计总体参数时 总希望估计值与总体参数的真值 尽可能接近,但点估计量是一个随机变量 但点估计量是一个随机变量,对于不同 尽可能接近 但点估计量是一个随机变量 对于不同 的样本观测值会有不同估计值,一般地 一般地,它们与真值 的样本观测值会有不同估计值 一般地 它们与真值 间的差异不可能都为零.但是 一个好的估计量,当大 但是,一个好的估计量 间的差异不可能都为零 但是 一个好的估计量 当大 量重复地使用它来估计末知参数时,其平均结果 其平均结果(即 量重复地使用它来估计末知参数时 其平均结果 即 估计量的数学期望)应当等于参数真值 应当等于参数真值. 估计量的数学期望 应当等于参数真值 定义:设 ˆ 定义 设 θ(X1, X2 ,L, Xn ) 是未知参数 的估计量 是未知参数θ的估计量
+∞ a
ϕ ( x, µ , σ )dx = 0.05
2
a的最大似然估计。 的最大似然估计。 的最大似然估计
Q ∫ a ϕ(x, µ, σ )dx = p{X > a} = p X − µ > a − µ = 0.05 σ σ
2
+∞
X − µ a − µ a − µ 从而 p ≤ = 0.95 = φ σ σ σ
n ln (2π ) − n ln σ 2 − 1 n (x − µ )2 ln L µ, σ = − i 2 ∑ 2 2 =1 2σ i =1
2
(
)
∂ ln L (µ , σ 2 ) 1 n = 2 ∑ (x i − µ ) = 0 ∂µ σ i =1 ∂ ln L (µ , σ 2 ) n 1 n (x i − µ )2 = 0 =− 2 + ∑ ∂σ 2 2σ 2 σ 4 i =1
无解
的最大值点(a 求L(a,b)的最大值点 0,b0) 的最大值点 在[a,b]
a≤
* x1
≤
* x2
≤
* x3
≤L≤
* xn
≤ b 为顺序统计量
1 1 max L(a , b ) = = * n * n (b − a ) (x n − x 1 )
其中
ˆ a L = X = min{X i }
* 1
i =1
偏估计量,其中 是常数.且 偏估计量 其中ai是常数 且 ∑ a i = 1 并称 µ1 为µ的线性 其中 的线性 ˆ i =1 无偏估计量 (3)X1也是 的无偏估计量 也是µ的无偏估计量 证明:(X 是来自总体X的样本 证明 1,X2, …,Xn)是来自总体 的样本 故X1,X2,…, Xn 是来自总体 的样本,故 相互独立且与总体X的同分布 从而EXi=µ, i=1,2, …,n 的同分布,从而 相互独立且与总体 的同分布 从而
n
(1)E X = E 1 ∑ X
n
nHale Waihona Puke i =1 =µ i
n aX ˆ (2 )E µ 1 = E ∑ i i i =1
= ∑ a i EX i = ∑ a i µ = µ
i =1
n
n
(3 )EX
1
= EX = µ
∴ X , X 1为无偏估计量
ˆ µ 1为线性无偏估计量
ˆ PL
1− k
n
P{X = K} = P k (1 − P )
i =1
( K = 0, 1)
= P (1 − P ) i =1 =1 ln L(p ) = ∑ x ln p + n − ∑ ln ln (1 − p ) d ln L(p ) 1 1 ˆ P = x − n − x = 0 解得
ˆ = X * = max{X } bL n i
§7.2 点估计量的评价标准
总体的同一个未知参数,可以用不同的方法构造不 对总体的同一个未知参数 可以用不同的方法构造不 同的估计量来估计它,如矩估计量 同的估计量来估计它 如矩估计量
ˆ θM
与最大似然估
计量的优劣呢?一般地 大致有两类评价标准 一类是 计量的优劣呢 一般地,大致有两类评价标准 一般地 大致有两类评价标准,一类是 小样本准则,即样本容量固定时的优良性评价标准 小样本准则 即样本容量固定时的优良性评价标准, 即样本容量固定时的优良性评价标准 常用的有无偏性和有效性,另一类是大样本准则 即 常用的有无偏性和有效性 另一类是大样本准则,即 另一类是大样本准则 样本容量趋于无穷时的优良性评价标准,常用的有一 样本容量趋于无穷时的优良性评价标准 常用的有一 致性. 致性
第二十三次课 第七章 §7.2 点估计的评价标准
复习: 复习 1.矩估计法 用样本矩来估计总体矩 矩估计法:用样本矩来估计总体矩 矩估计法 2.最大似然估计法 最大似然估计法
步骤: 步骤 (1)设样本 1,X2, …,Xn)的一组观测值为 1,x2, …,xn), 设样本(X 的一组观测值为(x 设样本 的一组观测值为 由此求出似然函数