第二讲 估计方法

则称X为ｎ维正态随机变量。
2）多维正态分布定义： n维正态随机变量X的数学期望、方差阵为
E( X ) DX AA
T
X的分布函数、概率密度都称为ｎ维正态分布。
3）多维正态分布性质：
正态随机向量的线性函数还是正态的.
若:X N n ( , AAT ) 且有:Y BX b 则:Y N ( B b, BAAT BT )
对多维正态随机变量X：
设：X N n ( , AAT ) X1 1 D11 T 记：X , , AA X2 2 D 21 D12 D 22
则：X 1 N r ( 1 , D11 ), X 2 N n r ( 2 , D22 )
1 22
D( X 1 x2 ) D11 D12 D D21
1 22
1-3
极大似然估计
看一例： • 某位同学与一位猎人一起外出打猎，一只野兔 从前方窜过．只听一声枪响，野兔应声到下， 如果要你推测，这一发命中的子弹是谁打的？ • 你就会想，只发一枪便打中，由于猎人命中的 概率一般大于这位同学命中的概率，看来这一 枪是猎人射中的．
由于观测向量含有误差，而且观测个数有限，因 此不能求得参数的真值，只能求出参数的估值，
这就“参数估计”名称的由来。
所谓的估计问题，就是根据含有误差△的观测值L
ˆ ˆ ，构造一个函数 X ( L) ，使 X ( L) 成为未知参数向量X的 ˆ 最佳估计量，其具体数值称为最佳估值。通常 X ( L) ，简记为 X 。 ˆ
2 2
ˆ ˆ X 1 , H P2 X 2
1
ˆ ˆ h1 X 1 H A ˆ ˆ ˆ h X X
ˆ ˆ h3 H A X 2
ˆ h1 v1 X 1 H A ˆ ˆ h v X X
2 2 2
1
ˆ h3 v3 H A X 2
2）随机模型：
c c c ph1 , ph2 , ph3 s1 s2 s3
2 0 1
D P
DL
• 平差准则
• 参数的估值
V T PV V T PLV min
ˆ ( BT PB ) 1 BT PL X
思考:做间接平差时有哪些前提或要求?
测量平差过程示意图
观测值 数学模型 平差估计准则？ 法方程 平差值 精度评定
1）函数模型：
设：H P 函数模型： 1
《广义测量平差》
测量平差的任务: 测量平差分为：
经典测量平差
1、是根据含有随机误差的观测值来确定被 观测量及其函数的平差值，也就是求定未 知参数的最佳估值； 2、评定精度。 1、函数模型的系数阵是满秩的； 2、参数是非随机的； 3、观测误差呈现偶然性（随机误差）； 4、随机模型没有误差； 5、平差准则：最小二乘准则。 1、函数模型的系数阵是秩亏的； 2、参数是随机参数；
n 2 1 2
f ( x1 x2 ) (2 )
D( X 1 x2 )

T 1 exp x1 E ( X 1 x2 ) D 1 ( X 1 x2 ) x1 E ( X 1 x2 2
条件期望、条件方差
E ( X 1 x2 ) 1 D12 D ( x2 2 )
多维正态分布； 极大似然估计（对非随机参数或随机参数进行估计） ； 最小二乘估计（非随机参数）； 极大验后估计（对随机参数进行估计）； 最小方差估计（随机参数）； 广义测量平差原理。
1-1、概述
为了确定平面或三维控制网中各点坐标，对控制网的边长和方 向进行观测（观测包含误差）。未知参数向量（坐标）X与观测 向量（边长、方向）L之间有函数关系：
2）经典平差是认为未知参数是非随机量（或不考虑其先 验统计特性），而实际中有些参数的先验统计特性是 已知的(如GPS复测网，形变监测网的平差中。
以上这些问题均需要按广义测量平差的方法来解决。
测量平差
由含有误差的观测值按一定准则 求未知参数X的估值 参数分为： 非随机参数 最小二乘估计、极大似然估计 这类平差即经典平差 随机参数 极大验后估计、最小方差估计,极等 这类平差称“滤波、推估“ 随机参数和非随机参数 广义最小二乘原理 这类平差称”配置“
估计
对函数模型 的估计
对随机模型 的估计
对系统“状态” 参数的估计
观测只含有 偶然误差
观测含有 系统误差
观测含有 粗差
方差分量估计
卡尔曼滤波
最小二乘估计
附加系统 参数的估计
稳健估计
参数估计问题是：利用从总体抽样得到的信息来估计总 体的某些参数或者参数的某些函数。
总体 随机抽样 样 本
（观测值）
x
x
ˆ x X ML
0
等价
x
x
ˆ x X ML
0
上两方程称为似然方程， f ( l x ) 称为似然 函数，而 Inf ( l x ) 称为对数似然函数。
当f(l/x)是正态条件概率密度时,有
f (l x) (2 )
n 2
D( L x)

1 2

T 1 exp l E ( L x) D 1 ( L x) l E (l x 2
当X与Y是互不相关的两个正态随机变量时：
f ( x, y ) f x ( x ) f y ( y )
4、正态随机向量的条件概率密度
f ( x2 x1 ) (2 )
t 2
D( X 2 x1 )

1 2

T 1 1 exp x2 E ( X 2 x1 ) D ( X 2 x1 ) x2 E ( X 2 x1 2
应用前提：
1、观测有误差，且呈现偶然性。 2、不考虑参数的先验统计特性； 只顾及观测值的先验统计特性。
3）平差准则：
T V估计准则： T PLV min PV V
广义测量平差：
1）经典平差是假定没有模型误差的。但实际问题中，模 型误差总是存在的。 如：函数模型中存在系统误差和粗差；随机模型中方差 或协方差不准确等。另随机模型是奇异阵等。
参数趋近的概率等于1）
无偏性.（估计量的数学期望等于被估计量的数学
期望）
有效性.（由观测量得到的无偏估计量的误差方差
最小）
主要的估计方法有:
极大似然估计； 最小二乘估计； 极大验后估计； 最小方差估计； 线性最小方差估计； 贝叶斯估计等。
概率统计中的估计理论是广义测量平差的理论 基础。
3、多维正态分布
① n维正态随机向量X的联合概率密度
设有维正态随机向量： 则它的概率密度为：
f ( x) f ( x1 , x2 , , xn ) 1 (2 ) DX
n 2 1 2
N n ( X , DX )
1 T 1 exp ( x X ) DX ( x X ) 2
作出推断
（估计准则）
描述
统计量
（分布）
在参数估计问题中：假定总体分布形式已知，未知的仅仅 是一个或几个参数。
可见，根据观测值
分布
推断（估计准则）。
本章介绍一下三个内容：
1、多维正态分布以及条件概率密度；
2、估计方法； 3、广义最小二乘准则（估计准则推广）。
第一章 估计方法和广义测量平差原理 本章主要内容：
则似然方程等价于
l E ( L x ) D 1 ( L x) l E (l x min
T
带入条件期望、条件方差即得参数估值
ˆ E ( X ) D D 1 ( L / x) D D 11 D D 1 ( L / x )( L E ( L ) X ML XL LX X XL
估计误差：
ˆ ˆ X X X ( L) X X ˆ
经典最小二乘平差中，习惯上用估值（平差值）的方差衡量 精度(参数非随机）；而估计理论中，通常是用估计量的误差 方差来衡量其精度的。
由估计理论知道，最优估计量应具有以下几 个性质：
一致性.（当观测个数无限增加时，估计量向被估
② 二维正态随机向量[X Y]T，其概率密度为：
对二维正态随机向量 X Y
T 2 X X 对应数学期望和方差阵: , Y YX
XY Y2
f ( x, y )
1 2
2 X 2 Y 2 XY

2 2 ( x X ) 2 Y 2( x X )( y Y ) XY ( y Y ) 2 X exp 2 2 2 2( X Y XY )
2、多维正态分布的定义和性质
1）多维正态随机变量：
设有ｍ个互相独立的标准正态随机变量构成的随机变量
Z Z1
Z2 Zm
T
它们的有限个线性函数
X1 Z1 X Z X 2 A Z A 2 n1 nm m1 n1 nm n1 Xn Zm
统计原理，在一次随机试验中，某一事件已经发生， 比如已经得到某个具体的样本，则必然认为发生该事 件的概率最大。
显然，它满足于
f ( l ) x 0 x x Xˆ ML
) x) x 由于对数是单调增加函数，故 在相同的 x 值达到最大，即下两式是等价 的： f ( l ) Inf ( l ) Inf ( l 与f ( l
L F X） （
卫星（或其它运动体）的轨道往往可以由如下的微分方程确定
（ L t ) f ( X (t ), U (t ), (t ))
式中ｔ表示时间；X（t）表示卫星的轨道参数，称为状态向量 ；U（t）称为控制向量；Ω（t）是随机的状态噪声。L(t）为 观测值。