误差理论第五章最小二乘法

14
例5.1、已知铜棒的长度和温度之间具有线性关系： yt y0 (1 t )。为获得0C时铜棒的长度y0和铜的线 膨胀系数，现测得不同温度下铜棒的长度，如下 表，求y0、的最可信赖值。
ti / 0 C
li / mm
10 2000.36
20 2000.72
30 2000.8
40 2001.07
a11 a12 a a A 21 22 an1 an 2
a1t a2t ant
为（n×t) 系数矩阵
ˆ 则残差方程的矩阵表达式为： V L AX
等精度测量最小二乘原理的矩阵形式为： T ˆ） ˆ） V TV 最小 或 （L AX （ L AX 最小
二、等精度测量的线性参数最小二乘原理
线性参数的测量方程一般形式为： 相应的估计量为： Y1 a11 X 1 a12 X 2 a1t X t Y2 a21 X 1 a22 X 2 a2t X t Yn an1 X 1 an 2 X 2 ant X t
pv
i 1
n
2 i i ＝最小
n 2 ( p v i i ) i 1 0 x1 n ( pi vi 2 ) i 1 0 xn
18
由此可得不等精度测量线性参数最小二乘处理的正规方程：
p1a11v1 p2 a21v2 p1a12 v1 p2 a22 v2 p1a1t v1 p2 a2 t v2
d / y0 0.0000183 / 0 C
例5.2、由测量方程： 3x y 2.9, x 2 y 0.9, 2 x 3 y 1.9, 试求x、y的最小二乘法处理。
见笔记P56
17
二、不等精度测量线性参数最小二乘处理的正规方程 不等精度测量时线性参数的误差方程仍如等精度，只 在进行最小二乘法处理时，要按加权残余误差平方和 为最小，即：
②利用求极值的方法列正规方程；
③求解正规方程； ④求残余误差； ⑤计算直接测量量的精度（标准差）； ⑥求各估计量的标准差。
11
一、等精度测量线性参数最小二乘处理的正规方程
线性参数的误差方程为：
v1 l1 a11x1 a12 x2 a1t xt v2 l2 a21x1 a22 x2 a2t xt vn ln an1 x1 an 2 x2 ant xt
i 1 n
不等精度测量的最小二乘原理为： p v p2 v2
2 1 1 2
pn vn pi vi 2 最小
2 i 1
n
最小二乘原理（其他分布也适用）：
测量结果的最可信赖值应使残余误差平方和（或加权残 余误差平方和）为最小的条件下求出。
按最小二乘条件给出最终结果能充分利用误差的抵偿作 用，可以有效减少随机误差的影响，因而所得结果具有 最可信赖值。 6
1
§5-1 最小二乘法原理
一、经典最小二乘法
为求出t个不可直接测量的未知量X 1 , X 2 , 值x1 , x2 , 量量Y 进行n次测量，得到测量数据为l1 , l2 ,
l1 Y1 f1 ( X 1 , X 2 ,, X t ) l2 Y2 f 2 ( X 1 , X 2 ,, X t ) ln Yn f n ( X 1 , X 2 ,, X t )
7
三、矩阵最小二乘法
设列向量分别为： l1 l L 2 ln
对应Y的n 个直接测 量结果
x1 x ˆ 2 X xt
t个待求 X的估计 量
v1 v V 2 vn
为直接测 量量结果 的残差
y1 f1 ( x1 , x2 ,
, xt ) y2 f 2 ( x1 , x2 , , xt ) yn f n ( x1 , x2 , , xt )
此时测量数据为l1 , l2 , v1 l1 y1 , v2 l2 y2 , v1 l1 f1 ( x1 , x2 ,
第五章 线性参数的最小二乘法处理
• §5-1 最小二乘法原理
• §5-2 正规方程
• §5-3 精度估计 • §5-4 组合测量的最小二乘法处理
最小二乘法原理是一种在多学科领域中广泛应用的数据处理方法，
可解决如参数的最可信赖值估计、组合测量的数据处理、根据实验
数据拟和经验公式、回归分析问题等。本章重点阐述最小二乘法原 理在线性参数和非线性参数估计中的应用
A V 0
T
正规方 程的矩 阵形式
ˆ 代入到 ATV 0 中，得： 将 V L AX ˆ AT L AT AX ˆ AT L 令 C AT A CX
1 T 1 T T ˆ 当 C 0时，X C A L A A A L
ˆ 是x的无偏估计，从而得到正规方程的解。 X
50 2001.48
60 2000.60
解：1）列出误差方程
vi li ( y0 ay0ti )
令 y0 c, ay0 d 为两个待估参量，则误差方程为：
15
vi li (c ti d )
2、按照最小二乘的矩阵形式计算
2000.36 2000.72 2000.80 L 2001.07 2001.48 2001.60 1 1 1 A 1 1 1 10 20 30 40 50 60
要使
2 2 2 v v v i 1 2 i 1 n
vn 2 最小
n 2 ( vi ) i 1 0 x1 n ( vi 2 ) i 1 0 x n
12
将极值方程整理得：
ai1li ai1ai1 x1 ai1ai 2 x2 ai1ait xt i 1 i 1 i 1 i 1 n n n n a l a a x a a x a a x i2 i i 2 i1 1 i2 i2 2 i 2 it t i 1 i 1 i 1 i 1 n n n n ait li ait ai1 x1 ait ai 2 x2 ait ait xt i 1 i 1 i 1 i 1
y1 a11 x1 a12 x2 a1t xt y2 a21 x1 a22 x2 a2t xt yn an1 x1 an 2 x2 ant xt
其误差方程式为： v1 l1 (a11 x1 a12 x2 a1t xt ) v2 l2 (a21 x1 a22 x2 a2t xt ) vn ln (an1 x1 an 2 x2 ant xt )
表示为：
n2 2 最小 n
由于结果只是接近真值的估计值，因此上述条件又可 v12
2 1


2
v2 2
2


n
vn 2
2
最小
引入权的符号p，上式又可表示为： p1v12 p2v2 2 pn vn 2 pi vi 2 最小
i 1 n
5
因此，等精度测量的最小二乘原理表示为： v12 v2 2 vn 2 vi 2 最小
, ln，则残余误差为： , vn ln yn , 即：
误差方程 式（残差 方程式）
3
, xt ) v2 l2 f 2 ( x1 , x2 , , xt ) vn ln f n ( x1 , x2 , , xt )
若l1 , l2 , d 1 , d 2 ,
, X t的估计 , ln。即：
, xt , 可对与该t个未知量有函数关系的直接测
当n t时，该方程有唯一确定解，直接求出x1 , x2 , 方程组有冗余，不可直接求解。
, xt。
2
为减少随机误差的影响，一般取测量次数较大，即n t，
最小二乘原理：最可信赖值应使残余误差平方和最小。
设直接测量量Y1 , Y2 , , Yn的估计值为y1 , y2 , , yn , 即：
Pnn
权矩 阵
不等精度测量最小二乘原理的矩阵形式：
V T PV 最小 T ˆ）（ ˆ） 或 （L AX P L AX 最小
9
思路二：将不等精度等精度化
v1 p1 l1 p1 a11 p1 x1 a12 p1 x2 v2 p2 l2 p2 a21 p2 x1 a22 p2 x2 vn pn ln pn an1 pn x1 an 2 pn x2 vi ' li ' ai1 ' ai 2 ' a1t p1 xt a2 t ant p2 xt pn xt
c ˆ X d
则有：
0.034 1.13 C 0 . 034 0 . 0012
1
16
c 1999.97 1 T ˆ X C A L d 0 . 03654 解得： y0 c 1999.97mm
ait '
则形成了新的矩阵，其最小二乘原理形式为： 或 V 'T V ' 最小 T ˆ） ˆ） （L ' A ' X （ L ' A ' X 最小
10
§5-2 正规方程
由于n>t，因此不能直接通过求解方程得到未知参数，而 最小二乘法则将误差方程转化为确定解的代数方程组，从 而可求出这些未知参数，这个有确定解的代数方程组称为 最小二乘法估计的正规方程（或称法方程）。 线性参数的最小二乘法解的步骤： ①先列误差方程；
, ln之间不存在系统误差，相互独立并服从正态分布， , n，则l1 , l2 , , ln出现在相应真值附近 , d n区域内的概率为：
( 2 i 2 )
标准差分别为 1 , 2 ,
1 i 2 Pi e i 2
d i
(i 1,2,, n)
由概率论可知，各测量数据同时出现在相应区域 d 1 , d 2 , P Pi
i 1 n
, d n的概率为： 1

1 2
n 2
e
i 2
i 1
n
(2 i 2 )
d1d 2
d n
4
根据最大或然原理，由于测量值l1 , l2 , 要使P最大，即要求：
, ln已经出现，因此
有理由认为这n个测量值出现于相应区间的概率P为最大。
ቤተ መጻሕፍቲ ባይዱ
12 2 2 2 2 1 2
8
四、不等精度测量的线性参数最小二乘原理 思路一：
2 2 0 0 p1 0 0 1 0 p 0 2 2 0 2 0 2 2 2 0 0 p n 0 0 n
n n n n
此即为等精度测量的线性参数最小二乘法处理的正规方程。 当系数行列式不为零时，有唯一解。
特点：
1、主对角线分布着平方项系数，正数； 2、相对于主对角线对称分布的各系数两两相等。
13
若用残差表示，则正规方程可写成：
a11v1 a21v2 an1vn 0 a12v1 a22v2 an 2 vn 0 a1t v1 a2t v2 ant vn 0