概率论教学课件第七章7.2估计量的优良性标准
合集下载
7.2估计量评价标准
设 θ = θ (X 1 , ,X n )是 未知参数 θ 的估计量， P→ θ， 即 若θ P(| θ - θ |≥ ε ) = 0
lim
n→ ∞
则称 θ 是 θ 的一致性估计量。
已知0<p<1,求p的 例4.设 X 1， ， X n ~ B ( m , p ),已知 设 求 的 极大似然估计，并讨论所求估计量的一致性。 极大似然估计，并讨论所求估计量的一致性。
设 θ ( X1,, Xn)是未知参数 θ 的估计量，若 的估计量，
E(θ ) = θ
则称 θ 为 θ 的无偏估计 .
无偏性是对估计量的一个常见而重要的要求 . 无偏性的实际意义是指没有系统性的偏差 . 例如， 例如 ， 用样本均值作为总体均值的估计 虽无法说明一次估计所产生的偏差， 时，虽无法说明一次估计所产生的偏差，但 这种偏差随机地在0的周围波动 的周围波动， 这种偏差随机地在 的周围波动 ， 对同一统 计问题大量重复使用不会产生系统偏差 .
常用的几条标准是： 常用的几条标准是： 1．无偏性 ． 2．有效性 ． 3．一致性 ．
1．无偏性 ． 估计量是随机变量， 估计量是随机变量，对于不同的样本值 会得到不同的估计值 . 我们希望估计值在未 知参数真值附近摆动， 知参数真值附近摆动，而它的期望值等于未 知参数的真值. 知参数的真值 这就导致无偏性这个标准 .
例3、设总体X ~ N (1, σ ), 其中参数σ 未知，σ > 0, ( X 1 ,......, X n )为来自总体X的样本(n > 1)。考虑σ 的 两个估计量：) σ 1 (1 (2) σ 2
^ 2 ^ 2 ___ 2 1 n =S = ∑(Xi X ) n 1 i =1 2 2
2
[课件]概率与统计 7.2 估计量的优良性准则
![[课件]概率与统计 7.2 估计量的优良性准则](https://img.taocdn.com/s3/m/0eda74eeaeaad1f346933f0c.png)
电子科技大学
估计量的优良性准则
Dec-09
令
Y = m Xi , ax
1≤i≤3
Z = m Xi in
1≤i≤3
先求X与 的概率密度函数, 证 1) 先求 与Y 的概率密度函数, 已知分布函数
; 0, x < 0 x F (x) = , 0 ≤ x <θ; X θ 1, x ≥θ.
电子-09
7.2.3定义 设 θn =θ(X1, X2,..., Xn)是未知参 定义
的估计量, 数θ的估计量,若对任意的 ,有 的估计量 若对任意的ε>0,
n→ ∞
lim P{θn θ < ε} =1
则称 θ 为θ的相合估计量. 相合估计量. 相合估计量的证明(1) 相合估计量的证明 相合估计量的证明(2) 相合估计量的证明
设总体X~U[0,θ], θ >0 未知 (X1,X2, 未知, 例7.2.3 设总体 X3)是取自 的一个样本 是取自X的一个样本 是取自 1) 试证
= 4m X , ax i θ1 3 1≤i≤3
θ 2 = 4m Xi in
1≤i≤3
都是θ的无偏估计; 都是 的无偏估计; 的无偏估计 2) 上述两个估计量中哪个的方差最小? 上述两个估计量中哪个的方差最小? 分析: 要判断估计量是否是无偏估计量, 分析: 要判断估计量是否是无偏估计量, 需要计算统计量的数学期望. 需要计算统计量的数学期望.
2
3 y 2 ; ( ) , 0≤ y ≤ θ ∴ fY ( y) = θ θ 0 , else.
电子科技大学
估计量的优良性准则
Dec-09
E(Y) =
θ3 ∫0
3
θ
3 y dy = θ, 4
估计量的优良性准则
Dec-09
令
Y = m Xi , ax
1≤i≤3
Z = m Xi in
1≤i≤3
先求X与 的概率密度函数, 证 1) 先求 与Y 的概率密度函数, 已知分布函数
; 0, x < 0 x F (x) = , 0 ≤ x <θ; X θ 1, x ≥θ.
电子-09
7.2.3定义 设 θn =θ(X1, X2,..., Xn)是未知参 定义
的估计量, 数θ的估计量,若对任意的 ,有 的估计量 若对任意的ε>0,
n→ ∞
lim P{θn θ < ε} =1
则称 θ 为θ的相合估计量. 相合估计量. 相合估计量的证明(1) 相合估计量的证明 相合估计量的证明(2) 相合估计量的证明
设总体X~U[0,θ], θ >0 未知 (X1,X2, 未知, 例7.2.3 设总体 X3)是取自 的一个样本 是取自X的一个样本 是取自 1) 试证
= 4m X , ax i θ1 3 1≤i≤3
θ 2 = 4m Xi in
1≤i≤3
都是θ的无偏估计; 都是 的无偏估计; 的无偏估计 2) 上述两个估计量中哪个的方差最小? 上述两个估计量中哪个的方差最小? 分析: 要判断估计量是否是无偏估计量, 分析: 要判断估计量是否是无偏估计量, 需要计算统计量的数学期望. 需要计算统计量的数学期望.
2
3 y 2 ; ( ) , 0≤ y ≤ θ ∴ fY ( y) = θ θ 0 , else.
电子科技大学
估计量的优良性准则
Dec-09
E(Y) =
θ3 ∫0
3
θ
3 y dy = θ, 4
7.2 估计量的优良性准则
n
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1
电子科技大学
#
估计量的优良性准则
Dec-10
证明 S2 是σ2 的无偏估计量 例7.2.2 设总体的方差 D(X)=σ2 >0，则样本 ， 方差S 的无偏估计. 方差 2 是σ2的无偏估计 证
(n −1)S = ∑( Xi − X) = ∑ Xi − nX 2
2 2 2 i =1 i =1
n 2 2
证明无偏性判断有效性(1) 证明无偏性判断有效性 证明无偏性判断有效性(2) 证明无偏性判断有效性 和S2 分别是μ和σ2 的最小方差无偏估计 X
电子科技大学
估计量的优良性准则
Dec-10
3. 相合性 无偏性： 无偏性：反映估计量相对待估参数有无系 统偏差. 统偏差 有效性： 有效性：在无偏类中反映估计量相对待估 参数的偏离程度. 参数的偏离程度. 例7.2.5 问题： 问题：在“偏差性”和“离散性”两者 偏差性” 离散性” 兼顾的原则下建立估计量为“最优”准则 兼顾的原则下建立估计量为“最优”准则.
电子科技大学
估计量的优良性准则
Dec-10
的相合估计量; X 是μ的相合估计量; S2 和M2 都是 2的相合估计量 都是σ 的相合估计量.
部分证明
电子科技大学
估计量的优良性准则
Dec-10
例7.2.1 设总体的方差 D(X)=σ2 >0，有 ，
1 E( X) = E( ∑Xi ) = E( X) = µ n i=1 1 2 2 2 2 2 E( X ) = D( X) +[E( X)] = σ + µ ≠ µ n
2
θ2
ˆ ˆ . θ2比θ1更有效
2 ˆ) D(θ2 3n 而且 lim = = 0. 2 n→∞ D θ ) (n + 1) (n + 2) (ˆ 1
概率论与数理统计第7章参数估计PPT课件
5
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时，可用样本值的j阶原点矩Aj估计vj，其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;)，则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而， 这个方法常归功于英国统
Gauss
计学家费歇（Fisher） . 费歇在1922年重新发现了
这一方法，并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路：根据样本的具体情况
注：估计量为样本的函数，样本不同，估计量不 同。
常用估计量构造法：矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系，解出参数， 并用样本矩替代总体矩而得到的参数估计方法。 （由大数定理可知样本矩依概率收敛于总体矩， 且许多分布所含参数都是矩的函数）
下面我们考虑总体为连续型随机变量的情况：
n
它是的函数，记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数，记为L( )。
注：似然函数的概念并不仅限于连续随机变量 ，
对于离散型随机变量，用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知，且只含一个未知参数，
a1(1, ,k )=v1
1 f1(v1, ,vk )
假定方程组a2(1, ,k ) v2 ,则可求出2 f2(v1, ,vk )
ak (1, ,k ) vk
k fk (v1, ,vk )
则x1 xn为X的样本值时，可用样本值的j阶原点矩Aj估计vj，其中
Aj
1 n
n i1
xij ( j
L(x1, ,xn;ˆ)maxL(x1, ,xn;)，则称ˆ(x1, ,xn)为
的一种参数估计方法 .
它首先是由德国数学家
高斯在1821年提出的 ,然而， 这个方法常归功于英国统
Gauss
计学家费歇（Fisher） . 费歇在1922年重新发现了
这一方法，并首先研究了这
种方法的一些性质 .
Fisher
10
极大似然估计是在已知总体分布形式的情形下的 点估计。
极大似然估计的基本思路：根据样本的具体情况
注：估计量为样本的函数，样本不同，估计量不 同。
常用估计量构造法：矩估计法、极大似然估计法。
4
7.1.1 矩估计法
矩估计法是通过参数与总体矩的关系，解出参数， 并用样本矩替代总体矩而得到的参数估计方法。 （由大数定理可知样本矩依概率收敛于总体矩， 且许多分布所含参数都是矩的函数）
下面我们考虑总体为连续型随机变量的情况：
n
它是的函数，记为L(x1, , xn; ) f (xi , ), i 1
并称其为似然函数，记为L( )。
注：似然函数的概念并不仅限于连续随机变量 ，
对于离散型随机变量，用 P {Xx}p(x,)
替代f ( x, )
即可。
14
设总体X的分布形式已知，且只含一个未知参数，
概率论与数理统计完整课件第七章参数估计PPT课件
n
L(1,2,,k ) L(x1, x2,, xk ;1,2,,k ) f (xi ;1,2,,k ) i 1
将其取对数,然后对1,2 ,,k 求偏导数,得
ln L(1, 2 ,, k ) 0 1
ln L(1, 2 ,, k ) 0 k
该 方 程 组 的 解 ˆi ˆi (x1, x2,, xn),i 1,2,,k ,即 为 i 的 极
§1 参数的点估计
设总体 X 的分布函数 F(x;) 形式已知，其中θ 是待估计的参数，点估计问题就是利用样本 (X1, X 2,, X n ) ，构造一个统计量ˆ ˆ(X1, X2,, Xn) 来估 计θ，我们称ˆ(X1, X2,, Xn )为θ的点估计量，它是 一个随机变量。将样本观测值 (x1, x2 ,, xn ) 代入估计 量 ˆ(X1, X2,, Xn ) ， 就 得 到 它 的 一 个 具 体 数 值 ˆ(x1, x2,, xn ) ，这个数值称为θ的点估计值.
如果样本中白球数为0,则应估计p=1/4,而不估计 p=3/4.因为具有X=0的样本来自p=1/4的总体的 可能性比来自p=3/4的总体的可能性要大.一般当 X=0,1时,应估计p=1/4;而当X=2,3时,应估计 p=3/4.
第10页/共71页
定义:设总体 X 的分布类型已知,但含有未知参数θ. (1)设离散型总体 X 的概率分布律为 p(x; ) ，则样本 (X1, X2,, Xn ) 的联合分布律
~~ 2n1nLeabharlann ini1n1x(i xix
x
)
2
由微积分知识易验证以上所求为μ与σ2的极大似然 估计.
第21页/共71页
• 例:设总体X具有均匀分布,其概率密度函数为
p(x;)
概率统计7章ppt课件
i1
n
n
xi
n xi
p i1 (1 p) i1
n
n
ln L( p) ln( p) xi ln(1 p)(n xi )
i1
i1
n
n
ln L( p) ln( p) xi ln(1 p)(n xi )
i1
i1
d ln L( p) dp
记为
—— 样本的似然函数
满足条件: 为θ的最大似然估计值； 为θ的最大似然估计量；
具体算法：
令
例1 设x1,x2,…,xn是取自总体 X~b(1, p) 的一个
样本值，求参数p的最大似然估计值。
解 P{X x} px (1 p)1x , x 0,1
n
似然函数为: L( p) pxi (1 p)1xi
Fisher
最大似然法的基本思想：
假定一个盒子中有白、黑球共3个，但不知各有几个， 如果有放回的抽取3次球，发现第1，3次是黑球，第2次 是白球，试估计黑球所占的比例？
准备内容： 当总体X是离散型， 分布律改写为：
以泊松分布为例，
⑴ X 为离散型
分布律为
为X 的样本，
，其中θ未知。 为X 的样本值，
解 1 E(X ) (a b) / 2
2
E(X
2)
D( X
)
E2(X
)
(b a)2 12
(a
b)2 4
令
A1 A2
1 2
a (b a)2 12
b 2A1 (a b)2
4
7-2估计量的评选标准
所以 ˆ 2 是有偏的.
由于
1 n n 1 2 2 E (Xi X ) n n i 1
n 1 n 2 2 E (Xi X ) n 1 n i 1
所以 即
1 n 2 2 E ( X X ) i n 1 i 1
1 n 2 2 ( X X ) S 是 σ 无偏估计 i n 1 i 1
ˆ2 同理可证明(2) E
由此可知, 一个参数可以有不同的无偏估计量.
例2 若总体 X 的均值 , 方差 2 均为未知, 证明
n 1 ˆ 2 ( X i X ) 2 不是 2 的 无偏估计. 估计量 n i 1
往证
ˆ E
2
2
2
回顾
n
EX , DX
1 1 1 ( X 1 X 2 ) ( DX 1 DX 2 ) θ2 2 2 4
1 2 ˆ D 3 DX θ 3
1 4 5 ˆ D 4 DX 1 DX 2 θ2 9 9 9
因而， D ˆ3 D ˆ2 D ˆ4 D ˆ1
练习 X 1 , X 2 为总体 N ( ,1) 的样本，比较下列无偏估
练习
1. 证明 S 不是 的无偏估计量 .
提示 2 E S 2 DS ( ES ) 2 ( ES ) 2 ES
2.设总体 X 的均值 µ 与方差σ2均为未知参数， X1，X2为样本.
证明 (1)
1 ( X 1 X 2 ), 2 2 1 X 1 X 2 1.7 X 1 0.7 X 2 3 3
ˆ 与 ˆ 都是 的无偏估计量, 若有 定义 设 1 2 ˆ ) D( ˆ ), 则称 ˆ 较 ˆ 有效. D( 1 2 1 2
概率论与数理统计第七章第二节(概率统计)
1 = n μk = μk . 上页 n
下页
返回
所以, 样本k阶原点矩是总体参数k—— 总体 k 阶原点矩——的无偏估计量. 讲评 不管总体服从什么分布, 只要总体
的数学期望存在, 样本均值总是总体均值的
无偏估计量. 这个结论可以当作定理应用.
上页
下页
返回
例7.2.2 设总体X的方差 X1 , X 2 ,, X n 是来自X的样本, 试证明:
1 n k k阶矩 Ak X i (k 1, 2,) 是总体阶矩的无 n i 1
偏估计量.
证 由于 E( X ik ) = E( X k ) = μk， i = 1,2, ,n， 因而
n 1 n 1 E ( Ak ) = E ( X ik ) = E ( X ik ) n i =1 n i =1
1 E (Z ) . n
于是也成立
E ( nZ ) 1
E ( X ).
下页 返回
即nZ也是总体均值的无偏估计量 . 上页
由此可见, 一个总体未知参数可以有不
同的无偏估计量.
讲评 一个未知参数的无偏估计量不一定
是唯一的, 它可以有许多无偏估计量. 事实 上, 在本例中， X1 , X 2 ,, X n 中的每一个都可 以作为θ的无偏估计量.
量. 这就提出了一个问题： 当总体的同一个参数 存在不同的估计量时, 究竟采用哪一个更好呢?
7.2.2 预备知识
数学期望及其性质，方差及其性质，依概 率收敛.
上页 下页 返回
7.2.3 建立理论
1. 无偏性 我们希望估计量在未知参数真值附近摆 动, 即它的数学期望等于未知参数的真值,
这就导致无偏性这个标准的产生. 定义1 若估计量 ˆ ˆ( X1, X 2 ,, X n ) 的数学 ˆ) 存在, 且对于任意 ，有 期望 E ( ˆ) ， E(
自考概率论课件_第七章_参数估计.ppt1
2 2 例3 设总体 X 的均值 及方差 都存在, 且有 0, 2 但 , 均为未知, 又设 X1 , X 2 ,, X n 是来自 X 的样 2 本, 试求 , 的矩估计量. 解 1 E ( X ) , 总体一阶原点矩 2 2 2 2 总体二阶 2 E ( X ) D( X ) [ E ( X )] ,
x ˆ 1 . x 1
为求的极大似然估计,先 易求得似然函数为
L( ) ( xi
i 1 n ( 1)
) xi i 1
n n
( 1)
,
ln L( ) n ln ( 1) xi ,
d ln L( ) n n xi 0. d i 1
以 A1 , A2 代替 1 , 2 , 得到 a , b 的矩估计量分别为
3 2 ˆ A1 3( A2 A ) X (Xi X ) , a n i 1
2 1
n
n 3 2 2 ˆ b A1 3( A2 A1 ) X (Xi X ) . n i 1
§7.1
参数的点估计
一、点估计的一般定义及步骤
设总体X～F(x,θ),θ是未知参数,(X1,X2,…,Xn)是 取自总体X的样本,适当选取一个统计量
ˆ 去估计参数θ, 称 ˆ为θ的估计量或把 ˆ 用 叫做 θ的点估计.
ˆ =ˆ(X1,X2,…,Xn)
二、获取点估计的两种方法
1.矩估计法 2.极大似然估计法
以 A1 , A2 代替 1 , 2 , 得到 a , b 的矩估计量分别为
3 2 ˆ A1 3( A2 A ) X (Xi X ) , a n i 1
估计量的优良性准则.ppt
)
,
电子科技大学
估计量的优良性准则
Oct-19
即
4 3
max X i
1 i 3
和4min X
1 i 3
i
都是的无偏估计.
2) D(Y ) E(Y 2 ) E(Y )2 3 2,
80
D(Z ) E(Z 2 ) E(Z )2 3 2,
80
D(4 Y ) D(4Z ) 3
电子科技大学
估计量的优良性准则
Oct-19
注意：
M 2
1 n
n
(Xi
i 1
X )2不是
2的无偏估计
M2
1 n
n
(Xi
i 1
X
)2
n n
1
S2
E(M2)
n n
1 2
已知E(
X
)
时，1
n
n
(Xi
i 1
)2是
2的无偏估计
电子科技大学
2. 有效性
估计量的优良性准则
E
(ˆn
)
]
0
则称 ˆn 为θ的渐进无偏估计量.
电子科技大学
估计量的优良性准则
Oct-19
若θ的实函数 g(θ) 的无偏估计量存在，称
g(θ)是可估计函数.
注 当ˆ是的无偏估计量，g(ˆ)不一定是g( )
的无偏估计量.
反例
样本均值是总体均值E(X)的无偏估计量.
S2 是2 的无偏估计
(n
3n2 1)2 (n
概率论与数理统计课件讲解7-2 估计量的评价标准
n 1 2 n
ˆ 为 的 相合估计量(或一致 概率收敛于 , 则称 n 估计量). , 样本k (k 1) 阶矩是 例如 由第五章第一节知
总体 X 的 k 阶矩 k E ( X k )的相合估计量 ,
例6 试证 : (1) 样本均值 X 是总体均值 的相合估计
量;
*2 ( 2) 修正样本方差 Sn
三、有效性
ˆ 和 ˆ , 如果 比较参数 的两个无偏估计量 1 2 ˆ 的观察值较 ˆ更 在样本容量 n相同的情况下, 1 2 ˆ 较 ˆ 理想. 密集在真值 的附近, 则认为 1 2
ˆ 关于 换句话说，对参数 的无偏估计量
的波动越小，即方差 ˆ ) E[ ˆ E ( ˆ )]2 D(
是来自总体 X 样本， ˆ 2 X 和修正的最大似 (1) 试证明：的矩估计量 1 n1 ˆ 然估计量 2 X ( n ) 均是 的无偏估计； n ˆ 和 ˆ 哪一个更有效？ ( 2) 问： 1 2
ˆ ) E (2 X ) 2 E ( X ) 2 E ( X ) (1) 证 E ( 1
5 2 1 2 ˆ3 ) , D( ˆ 2 ) , D( 9 2
D( ˆ 2 ) D( ˆ 3 ) D( ˆ1 )
ˆ 2最有效.
可用求条件 极值的拉格 朗日乘数法 证明
例5 设总体 X ~ U [0, ], 参数 0, ( X 1 , X 2 ,, X n )
ˆ )2 E (
ˆ) ) ( E (
越小越好.
定义
ˆ ˆ ( X , X ,, X )， ˆ ˆ ( X , X ,, X ) 设 1 1 1 2 n 2 2 1 2 n
ˆ ) D( ˆ ), D( 1 2
ˆ 为 的 相合估计量(或一致 概率收敛于 , 则称 n 估计量). , 样本k (k 1) 阶矩是 例如 由第五章第一节知
总体 X 的 k 阶矩 k E ( X k )的相合估计量 ,
例6 试证 : (1) 样本均值 X 是总体均值 的相合估计
量;
*2 ( 2) 修正样本方差 Sn
三、有效性
ˆ 和 ˆ , 如果 比较参数 的两个无偏估计量 1 2 ˆ 的观察值较 ˆ更 在样本容量 n相同的情况下, 1 2 ˆ 较 ˆ 理想. 密集在真值 的附近, 则认为 1 2
ˆ 关于 换句话说，对参数 的无偏估计量
的波动越小，即方差 ˆ ) E[ ˆ E ( ˆ )]2 D(
是来自总体 X 样本， ˆ 2 X 和修正的最大似 (1) 试证明：的矩估计量 1 n1 ˆ 然估计量 2 X ( n ) 均是 的无偏估计； n ˆ 和 ˆ 哪一个更有效？ ( 2) 问： 1 2
ˆ ) E (2 X ) 2 E ( X ) 2 E ( X ) (1) 证 E ( 1
5 2 1 2 ˆ3 ) , D( ˆ 2 ) , D( 9 2
D( ˆ 2 ) D( ˆ 3 ) D( ˆ1 )
ˆ 2最有效.
可用求条件 极值的拉格 朗日乘数法 证明
例5 设总体 X ~ U [0, ], 参数 0, ( X 1 , X 2 ,, X n )
ˆ )2 E (
ˆ) ) ( E (
越小越好.
定义
ˆ ˆ ( X , X ,, X )， ˆ ˆ ( X , X ,, X ) 设 1 1 1 2 n 2 2 1 2 n
ˆ ) D( ˆ ), D( 1 2
7.2 估计量的优良性准则解析
电子科技大学
估计量的优良性准则
Oct-18
1. 无偏性
q
定义7.2.1 若参数θ的估计量 qˆ T ( X 1 , X 2 ,..., X n ) 对一切 n 及θ∈Ω ，有
ˆ ) E[T ( X , X ,..., X )] q E (q n 1 2 n
ˆ 为θ的无偏估计量. 若 称q n ˆ ) q ] 0 lim b lim [ E (q
估计量的优良性准则
Oct-18
FY ( y ) P {Y y } P {max X i y }
P{ X 1 y , X 2 y , X 3 y } P{ X 1 y } P{ X 2 y } P{ X 3 y }
ˆ ) D(q ˆ ), q D(q 1 2
ˆ 比q ˆ 有效( 优效). 称q 1 2
电子科技大学
估计量的优良性准则
Oct-18
ˆ 是θ的无偏估计，如果对θ的任何一个 设q 0
无偏估计量 q ˆ 都有
ˆ ) D(q ˆ ), q D(q 0
ˆ 为θ的最小方差无偏估计量. 称q 0
估计量的优良性准则
Oct-18
§7.2 估计量的优良性准则
对于总体的参数，可用各种不同的方法去 估计它，因此一个参数的估计量不唯一. 如 X~U(0,q ) , q 的矩法估计量为 2 X ， 极大似然估计量为 max{ X i }
1 i n
在众多的估计量中选哪一个更好？
选取的标准是什么？ 三个常用准则：无偏性、有效性、相合性.
电子科技大学
估计量的优良性准则
Oct-18
令
Y maxX i ,
1 i 3
估计量的优良性准则
Oct-18
1. 无偏性
q
定义7.2.1 若参数θ的估计量 qˆ T ( X 1 , X 2 ,..., X n ) 对一切 n 及θ∈Ω ，有
ˆ ) E[T ( X , X ,..., X )] q E (q n 1 2 n
ˆ 为θ的无偏估计量. 若 称q n ˆ ) q ] 0 lim b lim [ E (q
估计量的优良性准则
Oct-18
FY ( y ) P {Y y } P {max X i y }
P{ X 1 y , X 2 y , X 3 y } P{ X 1 y } P{ X 2 y } P{ X 3 y }
ˆ ) D(q ˆ ), q D(q 1 2
ˆ 比q ˆ 有效( 优效). 称q 1 2
电子科技大学
估计量的优良性准则
Oct-18
ˆ 是θ的无偏估计，如果对θ的任何一个 设q 0
无偏估计量 q ˆ 都有
ˆ ) D(q ˆ ), q D(q 0
ˆ 为θ的最小方差无偏估计量. 称q 0
估计量的优良性准则
Oct-18
§7.2 估计量的优良性准则
对于总体的参数，可用各种不同的方法去 估计它，因此一个参数的估计量不唯一. 如 X~U(0,q ) , q 的矩法估计量为 2 X ， 极大似然估计量为 max{ X i }
1 i n
在众多的估计量中选哪一个更好？
选取的标准是什么？ 三个常用准则：无偏性、有效性、相合性.
电子科技大学
估计量的优良性准则
Oct-18
令
Y maxX i ,
1 i 3
7.2点估计的优良性评判标准 课件- 《概率论与数理统计(第2版)》同步教学(人民邮电版)
由于EX源自2，则=2E
X
，故
的矩估计量ˆ1
2X
.
(2)又由上一节例9得 θˆ 2 Xn .
一、无偏性
⑶
E
θˆ1
E2X 2E X 2 θ θ 2
;
由次序统计量的散布知当 y 0,θ 时, Xn 的概率密度
函数为
fn
y
n
y θ
n1
1 θ
ny n 1 θn
故
E θˆ2
3
一、无偏性
第7章 参数估计
4
定义1
θ 如果未知参数 的估计量 θˆ X1, X2, , Xn 满足 E θˆ X1, , Xn =θ
则称 θˆ X1, , Xn 为θ 的一个无偏估计量.
如果
lim
n+
E
θˆ
X1,
, X n θ
则称 θˆ X1, θ , Xn 为 的渐近无偏估计量.
2
n
E
n i 1
Xi
2
2
E
S2
E
2
n 1
n
1 S 2
2
2 n
n 1
1
2
可见这两个估计都是无偏的;
二、有效性
第7章 参数估计
16
解⑵ 又因为 因此
D
n i 1
Xi
2
2n
D
n
1
2
S
2
2
n
1
D ˆ 2
D
1 n
n i1
X
2 i
4 n2
D
n i 1
Xi
)
E(Sn2 )
n 1
n
2
X
，故
的矩估计量ˆ1
2X
.
(2)又由上一节例9得 θˆ 2 Xn .
一、无偏性
⑶
E
θˆ1
E2X 2E X 2 θ θ 2
;
由次序统计量的散布知当 y 0,θ 时, Xn 的概率密度
函数为
fn
y
n
y θ
n1
1 θ
ny n 1 θn
故
E θˆ2
3
一、无偏性
第7章 参数估计
4
定义1
θ 如果未知参数 的估计量 θˆ X1, X2, , Xn 满足 E θˆ X1, , Xn =θ
则称 θˆ X1, , Xn 为θ 的一个无偏估计量.
如果
lim
n+
E
θˆ
X1,
, X n θ
则称 θˆ X1, θ , Xn 为 的渐近无偏估计量.
2
n
E
n i 1
Xi
2
2
E
S2
E
2
n 1
n
1 S 2
2
2 n
n 1
1
2
可见这两个估计都是无偏的;
二、有效性
第7章 参数估计
16
解⑵ 又因为 因此
D
n i 1
Xi
2
2n
D
n
1
2
S
2
2
n
1
D ˆ 2
D
1 n
n i1
X
2 i
4 n2
D
n i 1
Xi
)
E(Sn2 )
n 1
n
2
u72
*2 n 2
二、有效性
1、有效方差
定义2.2 设 θ1与 θ2 是 θ 的无偏估计量 , 若 定义
D (θ1 ) < D (θ2 )
有效。 则称 θ1较θ2有效。
三、一致性
定义2.4 定义
设 θ = θ( X 1 , X 2 , , X n )为未知参数 θ 的 估计量， 估计量，若 θ依概率收敛于 θ，即对任意的 ε > 0， lim P { θ θ ≥ ε } = 0
1 n *2 2 ( 3) E ( S n ) = E ∑ ( X i X ) n i =1 n n1 1 2 = E ∑ (Xi X ) n 1 i =1 n
n1 2 S = E n n1 n1 2 E(S ) = σ = n n
2
≠σ
2
的渐近无偏估计。 故 S 为 σ 的渐近无偏估计。
而 E ( X i2 ) = D ( X i ) + [ E ( X i )] 2 = σ 2 + 2
E ( X ) = D ( X ) + [ E ( X )] 2 =
2
i = 1, 2 , , n
σ
2
n
+ 2
2
n 1 n σ2 (σ 2 + 2 ) ( 故E(S 2) = + 2) = σ ∑ n 1 i =1 n1 n
i =1 n
∑C
i =1
n
i
= 1, C i > 0 ;
( 2 ) 样本方差 S 2 是 σ 2的无偏估计量 ; ( 3 ) 样本二阶中心矩 S 是 σ 的渐近无偏估计量。 的渐近无偏估计量。
*2 n 2
( 证：1 ) E (Y ) = E [ ∑ C i X i ] =
二、有效性
1、有效方差
定义2.2 设 θ1与 θ2 是 θ 的无偏估计量 , 若 定义
D (θ1 ) < D (θ2 )
有效。 则称 θ1较θ2有效。
三、一致性
定义2.4 定义
设 θ = θ( X 1 , X 2 , , X n )为未知参数 θ 的 估计量， 估计量，若 θ依概率收敛于 θ，即对任意的 ε > 0， lim P { θ θ ≥ ε } = 0
1 n *2 2 ( 3) E ( S n ) = E ∑ ( X i X ) n i =1 n n1 1 2 = E ∑ (Xi X ) n 1 i =1 n
n1 2 S = E n n1 n1 2 E(S ) = σ = n n
2
≠σ
2
的渐近无偏估计。 故 S 为 σ 的渐近无偏估计。
而 E ( X i2 ) = D ( X i ) + [ E ( X i )] 2 = σ 2 + 2
E ( X ) = D ( X ) + [ E ( X )] 2 =
2
i = 1, 2 , , n
σ
2
n
+ 2
2
n 1 n σ2 (σ 2 + 2 ) ( 故E(S 2) = + 2) = σ ∑ n 1 i =1 n1 n
i =1 n
∑C
i =1
n
i
= 1, C i > 0 ;
( 2 ) 样本方差 S 2 是 σ 2的无偏估计量 ; ( 3 ) 样本二阶中心矩 S 是 σ 的渐近无偏估计量。 的渐近无偏估计量。
*2 n 2
( 证：1 ) E (Y ) = E [ ∑ C i X i ] =
概率论与数理统计 7.2 估计量的评选标准
若 1 比 2有效, 即指在样本容量 n 相同的条件下,
1 的观察值比 2 的更密集在真值 的附近,
也就是 1 比 2 更理想 .
兰州交通大学博文学院 10
例2：设总体 X 的方差存在且大于零, E(X)=μ , 设 (X1 , X2) 是X的一个样本, 则
1 = X 和 2 = X1 均为 的无偏估计量,
总体 X 的均值为 μ , 方差为 σ 2 , 证明:
(1) 样本平均数 X 是 的无偏估计量 ;
(2) 样本方差 S 2是 2的无偏估计量 ,
2 样本方差 Sn 不是 2 的无偏估计量.
解 (1) 由于 E ( X i ) = E ( X ) = , ( i = 1, 2,
, n)
nபைடு நூலகம்
4 2
D(
i 1
n
( X i 0 )2
2
2 4 ) 2 2n n n
兰州交通大学博文学院 17
4
三、相合性: 1、定义7.5:
设 n = n ( X1 , X 2 ,
, X n ) 是 的一个估计量,
若对任何一个 ε > 0 , 有
lim P { n > } = 0 ,
所以 S 2 是 2 的无偏估计量.
n 1 2 由于 E( Sn ) = E ( ( X i X )2 ) n i =1
n1 2 = E S n
n1 = E( S 2 ) n n1 2 = n
2 所以 Sn 不是 2 的无偏估计量. 可是
兰州交通大学博文学院 8
2 n 1 2 2 2 = + ( + ) n n 1 i =1 n
1 的观察值比 2 的更密集在真值 的附近,
也就是 1 比 2 更理想 .
兰州交通大学博文学院 10
例2：设总体 X 的方差存在且大于零, E(X)=μ , 设 (X1 , X2) 是X的一个样本, 则
1 = X 和 2 = X1 均为 的无偏估计量,
总体 X 的均值为 μ , 方差为 σ 2 , 证明:
(1) 样本平均数 X 是 的无偏估计量 ;
(2) 样本方差 S 2是 2的无偏估计量 ,
2 样本方差 Sn 不是 2 的无偏估计量.
解 (1) 由于 E ( X i ) = E ( X ) = , ( i = 1, 2,
, n)
nபைடு நூலகம்
4 2
D(
i 1
n
( X i 0 )2
2
2 4 ) 2 2n n n
兰州交通大学博文学院 17
4
三、相合性: 1、定义7.5:
设 n = n ( X1 , X 2 ,
, X n ) 是 的一个估计量,
若对任何一个 ε > 0 , 有
lim P { n > } = 0 ,
所以 S 2 是 2 的无偏估计量.
n 1 2 由于 E( Sn ) = E ( ( X i X )2 ) n i =1
n1 2 = E S n
n1 = E( S 2 ) n n1 2 = n
2 所以 Sn 不是 2 的无偏估计量. 可是
兰州交通大学博文学院 8
2 n 1 2 2 2 = + ( + ) n n 1 i =1 n
《概率论与数理统计》课件第七章 参数估计
添加标题
03
若存在, 是否惟一?
添加标题
1
2
3
4
5
6
对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用标准
(1)无偏性
(3)一致性
(2)有效性
7.2 估计量的评选标准
无偏性
一致性
有效性
一 、无偏性
定义1 设 是未知参数θ的估计量
09
则称 有效.
10
比
11
例4 设 X1, X2, …, Xn 是X 的一个样本,
添加标题
问那个估计量最有效?
添加标题
解 ⑴
添加标题
由于
添加标题
验证
添加标题
都是
添加标题
的无偏估计.
都是总体均值
的无偏估计量.
故
D
C
A
B
因为
所以
更有效.
例5 设总体 X 的概率密度为
关于一致性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.
是 的一致估计量.
由大数定律证明
用切比雪夫不 等式证明
似然函数为
其中
解得参数θ和μ的矩估计量为
2
时
3
令
1
当
6
，故
5
，表明L是μ的严格递增函数，又
4
第二个似然方程求不出θ的估计值，观察
添加标题
所以当
01
添加标题
从而参数θ和μ的最大似然估计值分别为
03
添加标题
时L 取到最大值
02
添加标题
03
若存在, 是否惟一?
添加标题
1
2
3
4
5
6
对于同一个未知参数,不同的方法得到的估计量可能不同,于是提出问题
应该选用哪一种估计量? 用何标准来评价一个估计量的好坏?
常用标准
(1)无偏性
(3)一致性
(2)有效性
7.2 估计量的评选标准
无偏性
一致性
有效性
一 、无偏性
定义1 设 是未知参数θ的估计量
09
则称 有效.
10
比
11
例4 设 X1, X2, …, Xn 是X 的一个样本,
添加标题
问那个估计量最有效?
添加标题
解 ⑴
添加标题
由于
添加标题
验证
添加标题
都是
添加标题
的无偏估计.
都是总体均值
的无偏估计量.
故
D
C
A
B
因为
所以
更有效.
例5 设总体 X 的概率密度为
关于一致性的两个常用结论
1. 样本 k 阶矩是总体 k 阶矩的一致性估计量.
是 的一致估计量.
由大数定律证明
用切比雪夫不 等式证明
似然函数为
其中
解得参数θ和μ的矩估计量为
2
时
3
令
1
当
6
，故
5
，表明L是μ的严格递增函数，又
4
第二个似然方程求不出θ的估计值，观察
添加标题
所以当
01
添加标题
从而参数θ和μ的最大似然估计值分别为
03
添加标题
时L 取到最大值
02
添加标题
概率与统计第7章——概率论课件PPT
ˆ 是θ的无偏估计，并不保证在任何情况下 （即对于任何一次样本观测值），估计值 ˆ (x1,x2,…,xn)必等于θ 。
无偏性只保证没有系统偏差，即用 ˆ估计θ时， 偏差 ˆ 是随机的，有时大于零，有时小于 零，而平均为零。显然，平均为零这一点只有 在大量重复使用时才能体现出来。 但是选取的样本容量是有限的
在统计分析中，经常需要根据样本数据推断
总体的情况，这一过程被称为统计推断 .
统计推断
估计
参数估计区点间估估计计
非参数估计
检验
……（第八章）
参数估计是统计推断的主要方法，也是数理统计
的基本内容.
2
在参数估计问题中，假定
形式已
知，未知的仅仅是一个或几个参数.
参数估计问题的一般提法
已知统计总体的分布函数为 F(x, )，
6
7.1 点估计及其优良性
7.1.1 点估计的概念
例7.1 已知某连续生产线上生产的灯泡的使用寿
命X ~N(, 2)，其中, 2是未知参数，从中随机
抽出5只灯泡，测得使用寿命(单位：h)为： 1529 1513 1600 1527 1411试估 Nhomakorabea, 2的值.
7
由于参数 和2 分别是总体X的均值和方差，即
S 2
1 n1
n
(Xi
i 1
X )2
14
那么要问:
样本均值是否是 的一个好的估计量？ 样本方差是否是 2的一个好的估计量？
这就需要讨论以下几个问题:
(1) 我们希望一个“好的”估计量具有什么 特性？
(2) 怎样决定一个估计量是否比另一个估计 量“好”？
(3) 如何求得合理的估计量？
15
7.1.2 估计量的优良性 我们知道,对同一未知参数可以构造出许多的 估计量。 评价这些估计量的好坏, 有以下几个标准:
无偏性只保证没有系统偏差，即用 ˆ估计θ时， 偏差 ˆ 是随机的，有时大于零，有时小于 零，而平均为零。显然，平均为零这一点只有 在大量重复使用时才能体现出来。 但是选取的样本容量是有限的
在统计分析中，经常需要根据样本数据推断
总体的情况，这一过程被称为统计推断 .
统计推断
估计
参数估计区点间估估计计
非参数估计
检验
……（第八章）
参数估计是统计推断的主要方法，也是数理统计
的基本内容.
2
在参数估计问题中，假定
形式已
知，未知的仅仅是一个或几个参数.
参数估计问题的一般提法
已知统计总体的分布函数为 F(x, )，
6
7.1 点估计及其优良性
7.1.1 点估计的概念
例7.1 已知某连续生产线上生产的灯泡的使用寿
命X ~N(, 2)，其中, 2是未知参数，从中随机
抽出5只灯泡，测得使用寿命(单位：h)为： 1529 1513 1600 1527 1411试估 Nhomakorabea, 2的值.
7
由于参数 和2 分别是总体X的均值和方差，即
S 2
1 n1
n
(Xi
i 1
X )2
14
那么要问:
样本均值是否是 的一个好的估计量？ 样本方差是否是 2的一个好的估计量？
这就需要讨论以下几个问题:
(1) 我们希望一个“好的”估计量具有什么 特性？
(2) 怎样决定一个估计量是否比另一个估计 量“好”？
(3) 如何求得合理的估计量？
15
7.1.2 估计量的优良性 我们知道,对同一未知参数可以构造出许多的 估计量。 评价这些估计量的好坏, 有以下几个标准:
概率论与数理统计24 7.2 估计量的评选标准
σ
于是有
P{|
( X ) n
σ σ
|> uα / 2 } = α |< uα / 2 } = 1α
即P{|
( X ) n
即P{uα / 2 <
( X ) n
uα / 2σ uα / 2σ } = 1 α < X < 即P{ n n uα / 2σ uα / 2σ } = 1 α << X+ 即P{X n n
X1 + X2 +L+ Xi 1 D( Xi ) = D( ) = 2 D( X1 + X2 +L+ Xi ) i i 1 σ2 = 2 [D( X1 ) + D( X2 ) +L+ D( Xi )] = i i i越大, D( Xi ) 越小,因此在无偏估计量 Xi 越大, 越小,
中,
Xn = X
二 均值 的置信区间 设总体 X ~ N(,σ 2 ) ,样本为 X1 , X2 ,L, Xn 1 σ 2已知时,求 的置信区间 已知时, 2
X ~ N(,σ ) X ~ N(,
2
σ
n
)
( X ) n
σ ( X ) n |> λ} = α λ = uα / 2 P{| σ σ σ } = 1 α P{X uα / 2 < < X + uα / 2
x = 425.9, s = 1.675
2
1α = 0.95,α = 0.05, tα (n 1) = t0.05(4) = 2.776 1.675 s x tα (n 1) = 425.9 2.776× = 424.29 5 n s 1.675 x + tα (n 1) = 425.9 + 2.776× = 427.51 5 n
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
D( 2 )
16 2 9 2 1 2 26 2 0.72 2 ,
36 36 36 36
D( 3 )
1 2
9
12
9
12
9
1 2
3
0.33 2.
D(3) D(1) D(2 ) ,因此 3 最为有效.
10
一般地,有如下基本结论：
例4. 设 X1, X2,, Xn 是来自任意总体 X 的一组样本，
7
定义2 设ˆ1,ˆ2都是未知参数的无偏估计量，如果 Dˆ1 Dˆ2
则称（ˆ1和ˆ2作为参数的估计量）ˆ1比ˆ2更有效。
例3 设为 X1, X 2 , X3 取自总体 X 的样本,EX= ,DX= 2 0 , 证明:下列三个统计量均为 的无偏估计量，并比较有效性.
1
2 10
X
1
3 10
)
EX
2 i
EX
2 i 1
2EX i1EX i
EX
2 i
( 2 2 ) 2 2 ( 2 2 ) 2 2
n1
Eˆ 2 c E( X i1 X i )2 c 2(n 1) 2 2,
i 1
1
c
.
2(n 1)
6
二、有效性
例如，设总体X ,而X1, X 2, X3是来自总体X的样本，EX 未知，则
则称ˆ 为 的无偏估计量.否则称为有偏估计量.
2
Eˆ ，E(ˆ ) 0.
无偏估计量的含义是：ˆ 作为样本的函数 是一个随机变量，它在 的真值附近波动，但其 平均值恰好是 的真值。
3
设 X1, , X n 为取自总体 X 的样本，
样本均值
X
1 n
n
Xi,
i1
EX
EX ，
因此, X 是总体均值 EX 的无偏估计；
数学期望 和方差 2 0 都存在，求证：
（1）对任意一组实数 ai , i 1, 2,, n. 若 n ai 1,
则 ˆ
n
i 1
ai Xi 都是 的无偏估计（称ˆ 为 的
i 1
线性无偏估计）；
（2）在
的一切线性无偏估计中，X
1 n
n i1
X i的方
差最小，(称为 的最优线性无偏估计）.
5
证
EX
5
2
, EX
5
2
.
Eˆ
E(2 5
X)
2 5
EX
2 5
5
2
.
因此,ˆ是的无偏估计.
例2设DX 2 0, EX 未知,X
证明:X 2不是 2的无偏估计.
1 n
n i 1
Xi ,则X 是的无偏估计.
证
EX
2
DX
(EX
)2
2
n
2
2
.
X 2不是 2 的无偏估计.
注：ˆ是的无偏估计，未必有 ˆ 是 的无偏估计. 5
n
时，
n i1
ai2取最小值
1. n
n
n
或： L(a1, , an , ) ai2 ( ai 1),
i 1
i 1
L
令
ai
2ai
0
,
i 1,
,n
L
n i 1
ai
1
0
得ai
1 n
,i
1
一、无偏性
估计量是随机变量, 对于不同的样本值就会得到 不同的估计值, 希望估计值在未知参数真值左右徘徊, 最好它的数学期望等于未知参数的真值, 这就导致了 无偏性这个标准.
定义1 设 X1, , X n 是总体X 的一个样本,ˆ ˆ( X1,, Xn ) 是 未知参数 的估计量,如果有
Eˆ ，
5 10
X3
,
2
4 6
X1
3 6
X2
1 6
X3
,
3
1 3
X1
1 3
X2
1 3
X3
.
8
1
2 10
X1
3 10
X2
5 10
X3
,
2
4 6
X1
3 6
X2
1 6
X3
,
3
1 3
X1
1 3
X2
1 3
X3
.
证
EXi EX ,i 1, 2,3.
E(1)
2 10
3 10
5 10
,
E(2
)
4 6
3 6
1 6
,
i1
i 1
i 1
b1 b2 bn 1 ,得到
n
2
ai
n
n
ai2
i1
i 1
因此,当
n i 1
ai
1时,有
n i 1
ai2
1 ,当且仅当
n
12
因此,当
a1
n
ai
i 1
a2
1a时n ,1n有时in取1 a等i2 号1n.,
当且仅当
DXi
DX
2,
DX
2.
n
Dˆ
E(3)
1 3
1 3
1 3
,
1 , 2 , 3 都是 的无偏估计.
9
1
2 10
X1
3 10
X2
5 10
X3
,
2
4 6
X1
3 6
X2
1 6
X3
,
3
1 3
X1
1 3
X2
1 3
X3
.
3
1 3
3 i 1
Xi
X
X
1
,
X
2
,
X
相互独立
3
,
DXi DX 2 ,i 1, 2,3.
D(1)
4 2 9 2 25 2 38 2 0.38 2 , 100 100 100 100
即:在的一切线性无偏估计中，X
1 n
n i 1
X
最为有效.
i
11
证（1） EXi EX ,i 1, 2,, n
Eˆ
E
n
ai
X
i
n
aiEXi
n
ai (
n
ai ) ,
i1
i1
i1
i1
故 是 的无偏估计.
（2）在柯西不等式
n
aibi
2
n
ai2
n
bi2 中，令
习题7.14-（1）： 设总体 X , EX , DX 2 , X1 ,, X n 是来自总体 X 的
n1
一个样本，试确定常数 c，使统计量ˆ 2 c ( Xi1 Xi )2 为 2 i 1
的无偏估计量.
EX
2 i
DX i
(EXi )2
2
2
解
E( X i1
Xi
)2
EX
2 i 1
2E( X i1 X i
1
X1, 2
1 5
X1
2 5
X2
2 5
X 3，3
1 3
X1
1 3
X2
1 3
X3
X
都是总体均值的无偏估计.
问题：总体均值的这些无偏估计哪个更好？
无偏性也只能从平均意义上解释随机误差刚好正负 抵消，不产生系统偏差，但它并不能说明随机误差的 大小. 如果一个估计量的随机误差过大，我们并不认 为它是一个优良估计.所以，仅有无偏性的要求是不够 的，这自然就引出了有效性的概念.
D
n
ai
X
i
i1
n
ai2 DX i
i1
n
2 ai2
i1
2
n
DX .
故在 的一切线性无偏估计中，X 的方差最小， 因而 X 是 的最优线性无偏估计.
13
Dˆ
D
n
ai
X
i
i1
n
ai2 DX i
i1
2
n i1
ai2
2
n
DX.
n
若 ai =1，则当a1 a2
i 1
an
1
样本方差
S2
1 n 1
n i 1
(Xi
X
)2
,
ES 2
DX
，
因此, S 2 是总体方差 DX 的无偏估计.
二阶中心矩
B2
1 n
n i 1
(Xi
X )2
,
B2
n 1S2 n
EB2
n 1 DX n
DX
，因此,
B2
是
DX
的有偏估计.
4
例1设总体X U ,4 ,其中 0是未知参数,
证明: ˆ= 2 X是的无偏估计量.