由最小二乘配置分析极大验后估计和最小二乘估计的异同

由最小二乘配置分析极大验后估计和最小二乘估计的异同

朱欢

内蒙古科技大学 内蒙古包头市 014010

摘要：本文主要先介绍极大验后估计，最小二乘估计，明白其的概念和特点，再介绍什么是最小二乘配置，通过最小二乘配置分析极大验后估计和最小二乘估计的异同， 关键词：极大验后估计、最小二乘估计、最小二乘配置

一、极大验后估计

1. 极大验后估计概念和原理

极大验后估计是以f (x/l )=max 为准则的估计方法，这个准则的含义在直观上比较明显，它的含义是：给定了L 的一组子样观测值l 可以按一定的概率取的参数X 的不同估计∧

X 其中最佳估计的条件概率密度f (x/l )应为最大值，一般用∧

X MA

或∧

X MA （L ）表示有极大验

后估计得到的最佳估值，称之为极大验后估值，显然，∧

X

MA

应满足

x

l x f ∂∂)

/(ln ∧=X M A

x =0

次方程称为验后方程 因为

f (x/l )=

)

()

,(2

l x l f f

)(ln

),(ln )/(ln 2

l x l f l x f f

-=

将上式对x 求导，则有

x l x f ∂∂)/(ln =x

l x f ∂∂)

,(ln

由此可知，极大验后估计的准则式等价于

max ),(=l x f

2极大验后估计特点

由于极大验后估计考虑参数X 的先验统计特性，因此，当参数的先验期望μ

x

和先验方

差D X 已知时，极大验后估计改善了最小二乘估计，此时，极大验后估计值

∧

X

MA

的误差方差

要小于其最小二乘估值

∧

X

LS

的误差方程。

二、最小二乘估计 1最小二乘估计概念和原理

被估计量是t 维未知的参数向量X ，观测向量为L n 1

⨯(n>1),其观测误差向量为 ，观测方

程

L=BX+∆

式中1

⨯n B 的秩rk （B ）=t ，E （∆）=0，D(∆)=∆D ,设X 的估值为∧

X ,则有

V=B ∧

X -L

所谓最小二乘估计，就是要求估计值∧

x 使下列二次型达到最小值，即

ψ（∧X ）=V T

PV=(B ∧X -L)T

P(B ∧

X -L)=min

其中n

n P ⨯是一个适当选取的对称正定常数阵，∧X 称为X 的最小二乘估值，记为∧

X

LS

最小二乘估计量∧

X 的估计误差为

∆

∧

x

=X-∧

X =X-(B T

PB)-1B T

P(BX+∆)=-(B T

PB)-1B T

P ∆ 由此式按协方差传播律可得X 的误差方差阵为

D(

∆

∧

x

)=(B T PB)-1B T

PP

D

∆

B(B T PB)

-1

将正定对称阵∆D 表示为∆D =RTR(R 为可逆矩阵)，并令

a=B T R -1

b=RPB(B T PB)

-1

则得：

ab=B T R -1

RPB(B T

PB)-1

=E

且由“矩阵形”许瓦茨不等式可得：

D(

∆

∧

x

)=b T

b ≥(ab)T

(ab T )-1

(ab)= (ab T )-1

有时将P 取为

D

1-∆

或

D 1

-∆

σ

20

时的估计称为马尔科夫估计，此时应将该式写为

V

T

P

∆

V=min

2、最小二乘估计性质

（1）最小二乘估计是一种线性估计，即X 的估计量∧

X

LS

是观测值的线性函数。

（2）当观测误差的数学期望为E(∆)=0时，因

E(L)=BX

所以

E(∧

X LS )= (B T

PB)-1B T

PE(L)= (B T

PB)-1

B T

PBX=X

即∧

X

LS

具有无偏性。

（3）当观测误差的方程阵为

D

∆

,而取P=

D

1-∆

或P=

D 1-∆

σ

20

时∧

X

LS

误差方差阵达到最小

值。

（4）最小二乘估计不需要X 的任何先验统计信息，当X 是非随机量，或X 虽然是随机量，但完全不考虑其先验统计信息时，由观测方程协方差传播定律可知

DL=D

D X LS

∧

∆

=D(

∆

∧

x

)

三、最小二乘配置模型分析最小二乘估和极大验后估计计异同 1、最小二乘配置的模型

若设重力异常的随即部分（信号）

1

⨯n X ，若在这n 个点上得到了重力异常观测值1

⨯n L ，

噪声（观测误差）为1

⨯∆n ，则在这几个观测点上的重力异常值g ∆应为：

g ∆=L-∆=GY+X （1）

而对于未测点，若用X ’表示这些点上的信号，则应按下式内插他们的重力异常值g ∆

g P

∆=Y G P +X ’ （2）

式中的计算公式与

G

P

得计算公式相似，可得观测公式

L=GY+X+∆ （3）

用最小二乘配置法球重力异常，就是以（3）式为数学模型来确定信号X ，X ’和倾向参数Y ’的最佳估值

X ∧

,Y ∧

和X ∧

，然后由（1）

，（2）式求得各重力异常最佳估值。在数学模型（3）中，既包含有倾向参数Y ，又包含有信号X 。这种同时求定不考虑随机性的倾向参数Y 和具有随机性信号的最优估计值地方法，就是最小二乘配置法。

2、分析二者不同

在最小乘成配置的估计公式和最小二乘配置的估计公式的推导过程中 （1）当

D

X ∆

≠0、0≠∆D x 时此时最小二乘配置的估计公式为