评价估计量好坏的标准

毕业论文题目：评价估计量好坏的标准作者：指导教师：职称：副教授院系：理学院数学系专业：信息与计算科学班级：2009级01班日期：2013年06月评价估计量好坏的标准摘要:未知参数的估计通常有很多种，一个好的估计量应该在多次观测中，其观测值围绕被估计参数的真值摆动。

人们总是希望估计量能代替真实参数，为正确评价估计量，要建立判别估计量好坏的标准.根据不同的要求，评价估计量可以有各种各样的标准。

所以，对于一个估计量的优良性进行判别显得尤为重要。

本文主要总结估计量优良性的若干判别准则，如无偏性、有效性、一致性、一致最小方差无偏估计、均方误差，这些常见的判别方法被我们所学习和使用，但是都只是在理论上具有可行性，而在实际生活学习和使用中，并没有人对这些常见的判别方法给出实用性的充分证明。

通过本文的研究，进一步了解了估计量优良性的一些判别准则，为今后更好地学习与应用估计量打下了基础。

关键词:无偏性;一致性;有效性;一致最小方差无偏估计;均方误差The evaluation criterion of the criterion of estimationAbstract: estimates of the unknown parameters usually has many kinds, a good estimation should be in multiple observations, the observations on the true values of parameters are estimated to swing. People always want to replace the real parameter estimation, estimation is evaluated correctly, to establish discriminant estimation quality standards. According to different requirements, evaluation estimator can have a variety of standard. So, is very important for a good estimate of the amount of discrimination is. This paper summarizes the estimator optimality criteria, such as unbiasedness, efficiency, consistency, uniformly minimum variance unbiased estimator, mean square error, these common discriminant method is we have to learn and use, but are only is feasible in theory, but in real life, to learn and use, no one of these discriminant and give a practical method of common fully proved. Through this research, the further understanding of the estimator and benign some criteria, for further study and application of estimation of foundation.Keywords: unbiased; consistency; effectiveness; the uniformly minimum variance unbiased estimate; mean square error目录引言 (1)评价估计量好坏的标准 (2)1 估计量的无偏性 (2)1.1 无偏估计量的定义及定理 (2)1.2 无偏估计量的举例说明 (3)2 估计量的有效性 (4)2.1 有效估计量的定义 (4)2.2 关于有效估计量的举例说明 (5)3 估计量的一致性 (7)3.1 一致估计量的定义 (7)3.2 一致估计量的举例说明 (7)4 一致最小方差无偏估计 (8)4.1 最小方差无偏估计的定义及定理 (8)5 均方误差准则 (10)5.1 均方误差准则的定义 (10)5.2 关于均方误差准则的举例说明 (10)结束语 (11)致谢 (12)参考文献 (13)引言对于评价估计量好坏的标准的研究，国内外更多的是将其依托于一个具体的实验或具体的实际问题中去进行比较研究，如在1982年《数学杂志》中，刘学圃写了一篇名为《一类平稳时间序列谱密估计量的优良性质》文章，又如在《统计与信息论坛》中，写了一篇《系统样本差估计量的优良性》，所以说对其的研究更多的是依据于是研究中，通过其试验来体现一个估计量的优良性.当然，单纯对于评价估计量好坏的研究国内有一篇很是经典的文章—王力宾的《对估计量优劣性评价标准的研究》，他在此文中比较详细地介绍了若干判别准则，大致上分为两类：一类是小样本估计量优良性的若干判别准则，另一类是大样本估计量优良性的判别准则。

他也同样在文中详细地叙述了两类之间的联系.其实，一直以来，我国的统计工作者，一直都是把无偏性，有效性，一致性看作是评价估计量优良性的三大标准，但对于其实用性并未进行过较为系统的研究.评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验的结果来衡量.这是因为估计量是样本的函数，是随机变量。

由不同的观测结果，就会求得不同的参数估计值.因此一个好的估计，应在多次试验中体现出估计量的好坏.对于一个特定的应用，选择好的估计量与许多因素有关系，最基本的考虑因素就是选择一个好的数据模型，它的复杂性应该足以描述数据的基本特征，但是与此同时要简单的足以允许估计量是最佳的且易于实现.举个简单的例子，对于信号的处理问题，选择一个合适的估计量要从易于现实的最佳估计量开始.如果这种寻找没有效果，那么就应该考察准最佳估计量.对于同一参数，用不同的估计法得到的点估计量不一定相同，那么用哪一种估计法好呢？并且，人们总是希望估计量能代替真实参数．为正确评价估计量，要建立判别估计量好坏的标准.根据不同的要求，评价估计量可以有各种各样的标准．所以，对于一个估计量的优良性进行判别显得尤为重要.对于估计量好坏若干判别准则的研究，为了以后我们进一步的学习和工作都奠定了良好的基础.评价估计量好坏的标准1估计量的无偏性1.1无偏估计量的定义及定理定义 设()12ˆn θT ξ,ξ,,ξ=是未知参数θ的一个估计量，若()ˆE θθ, θΘ=∀∈ 则称()12ˆn θT ξ,ξ,,ξ=为θ的无偏估计量.在这里我们要接触一个新的名词：统计量，到底什么是统计量，下面我们来简单介绍一下统计量的定义.统计量 是统计理论中用来对数据进行分析、检验的变量。

宏观量是大量微观量的统计平均值，具有统计平均的意义，对于单个微观粒子，宏观量是没有意义的．相对于微观量的统计平均性质的宏观量也叫统计量．需要指出的是，描写宏观世界的物理量例如速度、动能等实际上也可以说是宏观量，但宏观量并不都具有统计平均的性质，因而宏观量并不都是统计量．定理1 设总体X 的均值为μ,方差为2σ,12n ,,,X X X 为来自该总体的简单随机样本.∑==ni iX n X 11()21211∑=-=ni i X X n-S则()()22σS μ, E X E ==即样本均值和样本方差是μ和σ2的无偏估计. 证明()()22σE X μ, Var X n==()()22111ni i E S E X X n -=⎛⎫=- ⎪⎝⎭∑()2111ni i E X X n -=⎛⎫=- ⎪ ⎪⎝⎭∑⎥⎦⎤⎢⎣⎡+--=∑∑==2112211X n X X X E n ni i n i i ⎥⎦⎤⎢⎣⎡-=∑=21211X n X E n-n i i ()212111X E n n )E(X n n i i∑=---=()()[]{}()()[]{}212111X E X Var n n X E X Var n n i ii +--+-=∑=()⎪⎭⎫ ⎝⎛+--+-=2222111μσn n n μσn n2σ= 1.2 无偏估计量的举例说明 例1 设12n ,,,X X X 为抽自均值为μ的总体X 的样本,考虑μ的估计量.解 11ˆX μ=， 因为()()11ˆE μE X μ==, 所以1ˆμ是无偏估计 122ˆ2X X μ+=, 因为()122ˆ2X X E μE +⎛⎫= ⎪⎝⎭,所以2ˆμ是无偏估计 1213ˆn-nX X X X μn++++=（假设4n ≥），因为()1213ˆn-nX X X X E μE μn ++++⎛⎫== ⎪⎝⎭, 所以3ˆμ是无偏估计 41ˆ2X μ=, 因为()()41ˆ22E μE X μ==, 所以4ˆμ不是无偏估计 125ˆ3X X μ+=, 因为()1252ˆ33X X E μE μ+⎛⎫== ⎪⎝⎭,所以5ˆμ不是无偏估计. 例2 设总体[]~0,U ξθ,求未知参数()0θ>的无偏估计量. 解 设()12n ,,,ξξξ为取自总体的样本.由替换原则有()E ξξ=, 而已知()2E θξ=，故得θ的矩估计量为12ˆ2ni i θξξn ===∑，由于()()()()ˆ22222θE θE ξE ξE ξθ====⋅=, 故ˆ2θξ=是θ的无偏估计量. 2 估计量的有效性 2.1有效估计量的定义定义 设()()11122212ˆˆn n θθX ,X ,,X , θθX ,X ,,X == 都是总体参数θ 的无偏估计量,且()()12ˆˆD θD θ< ，则称1ˆθ比2ˆθ更有效. 2.2关于有效估计量的举例说明例3 已知总体的数学期望μ和方差D 都存在,123,,X X X 是总体的样本.设1123111333g x x x =++,2123111236g x x x =++证明1g 和2g 都是μ的无偏估计. 试判断1g 和2g 哪一个更有效.解 （1） ()1123111333E g E X X X ⎛⎫=++ ⎪⎝⎭()()()123111333E X E X E X =++111333μμμ=++μ=()2123111236E g E X X X ⎛⎫=++ ⎪⎝⎭()()()321613121X E X E X E ++=μμμ613121++= μ=所以1g 和2g 都是μ的无偏估计.（2） ()1123111333D g D X X X ⎛⎫=++ ⎪⎝⎭()()()123111999D X D X D X =++213σ=()2123111236D g D X X X ⎛⎫=++ ⎪⎝⎭()()()3213619141X D X D X D ++=2223619141σσσ++= 2187σ=因为()()12g g D D ＜ ，所以1g 较2g 更有效.例 4 设总体[]~0,U ξθ，在例2中已经证明θ的矩估计量1ˆ2θξ=是θ的无偏估计量. （1）证明()21ˆn n θξn +=是θ的无偏估计量； （2）比较1ˆθ与2ˆθ的有效 解 （1） 在我们已经学习的知识中我们很容易算得()()11n E ξθn =+， 由此立得()()21ˆn n E θE ξθn +⎛⎫== ⎪⎝⎭， 所以21ˆn θθn+=是θ的无偏估计量. 计算1ˆθ，2ˆθ的方差，有： ()()()()n θθn ξD n ξD ξD θD 31241442ˆ221=⋅=⋅===；()()()()()()[]{}222211ˆn n n ξE ξE n n ξn n D θD -⎪⎭⎫ ⎝⎛+=⎪⎭⎫ ⎝⎛+=⎥⎥⎦⎤⎢⎢⎣⎡⎪⎭⎫⎝⎛+⋅⎪⎭⎫⎝⎛+=⎰2102211θn n -d θnx x n n x n n-θ()n θn n θ3222≤+=所以1ˆθ较2ˆθ为有效. 3 估计量的一致性 3.1一致估计量的定义定义 设 是总体参数θ的估计量. 若对于任意的R θ∈ , 当),X ,,X θ(X θn21ˆ=n →∞时, ˆθ依概率收敛于θ, 即对于任意正数ε，有ˆlim 0n P(θθ)ε)→∞-≥=，则称ˆθ是总体参数θ的一致估计量.3.2一致估计量的举例说明例5 设总体X 服从参数为θ的指数分布，证明X 是θ的一致估计量. 证明 由总体X 服从参数为θ的指数分布可知： 而()θxθx,θf --=ln ln()221ln ⎥⎦⎤⎢⎣⎡+-=⎥⎦⎤⎢⎣⎡∂∂θx θx,θf θ24θθ）（x -=()⎥⎦⎤⎢⎣⎡-=42θθX E ()()2421ln θ-=⎥⎦⎤⎢⎣⎡∂∂X E θX,θf θE ()X D θ41=()22ln 11⎥⎦⎤⎢⎣⎡∂∂=X,θf θnE θn θ2=)X D(= 又由辛钦大数定律可知：⎪⎩⎪⎨⎧≤>=-0001x ,x eθ)f(x;θθx()()()nθn X D X D θX E )X E(2===={}111lim lim =⎭⎬⎫⎩⎨⎧=-∑=∞→∞→＜ε -μX n P ＜ε μX P n i i n n 所以X 是θ 的一致估计量. 4 一致最小方差无偏估计4.1致最小方差无偏估计的定义及定理定义 设()g θ 为可估参数,如果()T X 是()g θ 的无偏估计,且对g U 中任一个估计()X φ,有()()()()Θ X Var θθT Var ∈∀≤θϕ则称为()T X 为()g θ 的一致最小方差无偏估计(Uniformly Minimum Variance Unbiased Estimate) ,简记为UMVUE .引理 1 设()S X 是分布族(){}f X,θ,θΘ∈的充分统计量,()X φ是()g X 的无偏估计,令()()()()X S X E X T ϕ= ,则()T X 也是()g θ的无偏估计,()()()()Θ X Var θX T Var θ∈∀≤θϕ.引理 2 设()S X 是分布族(){},, f X θθ∈Θ的完备统计量,()g θ为可估参数,则()g θ 的UMVUE 存在,它是()S X 的函数且在几乎处处意义下是唯一的.定理2 设()T X 是()g θ的无偏估计,()()Var θT X <∞,则()T X 为()g θ的 UMVUE 的充要条件是对任一θ的无偏估计()X φ ,若()()∞＜X Var ϕ,则有()()()0=X ,T X Cov θϕ. 证明 令()()()()(){}()()()(){}0 000Θ∈∀∞+==∈∀∞+==θϕϕϕθϕϕ，＜X ,Var X :E X U Θ ，＜X ,Var X g X :E X φU()T X 是()g θ 的UMVUE,任取()0X U φ∈及R λ∈ ,则()()()U X T X X ∈+=' λϕϕ,且有()()()()()X T X Var T Var θ+≤λϕθθ, 即()()()()()0,2≥+X T X Cov X λVarθϕλϕ, 由R λ∈的任意性知()()(),0, Cov X T X θφθ=∀∈Θ, 反之,设()0X U φ∈都有()()(),0, Cov X T X θφθ=∀∈Θ,要证()T X 是()g θ 的 UMVUE,若()X U φ'∈,则有()()0T X X U φ'-∈. 由假设条件得()()()()()()()()()()()()()()2,000Cov T X X T X E T X X T X E T X E T X X θθθθφφφ'-='-='-=由许瓦兹不等式得()()()()()()()()()()()()22222E TX E T X X E T X E X θθθφφ''=≤从而()()()()()22X E X T E ϕθθ'≤又因为()()()()()θg X E X T E θθ='=ϕ所以()()()()X Var X T Var ϕ'≤由()()X U φ'∈(之任意性可知,()T X 是()g θ 的 UMVUE. 5 均方误差准则 5.1均方误差准则的定义定义 假如有两个估计1ˆθ和2ˆθ，这时两个估计中哪一个估计的均方误差小,我们就把哪一个估计看作比较优,这种判定估计量的准则叫均方误差准则.5.2关于均方误差准则的举例说明 例6 设12n ,,,X X X 为抽自均值为μ的总体,考虑μ的如下两个估计∑≠=--==nij j ji X n μX μ111ˆˆ这里ˆ-i μ表示去掉第i 个样本式后，对其余1n -个样本所求的样本均值. 我们看到:显然两个估计都是μ的无偏估计. 再计算其方差: 之前我们证明过()n σX Var 2=()()111ˆ212n-σX Var n-μVar j nij j -i =⎪⎭⎫ ⎝⎛=∑≠=我们看到X 比i ˆμ-的方差小，因而X 比ˆ-i μ更优. 这表明,当我们用样本均值去估计总体均值时,使用全体样本总比不使用全体样本要好.结束语常见的评价估计量好坏的判别准则也就此论文中所提到的五中常用方法：一致性，有效性，无偏性，均方误差准则，一致最小方差无偏估计，其它的判别方法虽然也有不少，但是在我们日常的生活学习中并不常见，所以在此就不用再做过多的详细介绍.虽然这些常见的判别方法被我们所学习和使用，但是都只是在理论上具有可行性，而在实际生活学习和使用中，并没有人对这些常见的判别方法给出实用性的充分证明，所以，现在很多的数学工作者，正在对这些常见方法的可行性进行较为系统严密的论证中.致谢时光如白驹过隙眨眼即逝，四年的大学生活就要结束了，我依然记得刚踏进校门的那一刻和大学里四年生活的点点滴滴，四年的大学生活让我收获了生存的知识，收获了良师和益友，交给了我以后自己的人生该怎样去走。