5参数的最小二乘法估计

第五章

参数的最小二乘法估计

主要内容

•最小二乘法原理

•线性测量方程组中参数的最小二乘法

•非线性测量方程组中参数的最小二乘法

•组合测量

数学工具

关于最小二乘法

数据处理

↓

参数估计

↙

回归分析

↘

最小二乘法典型应用

•算术平均值，依据使残差的平方和为最小的原则

•组合测量的问题

•拟合经验公式等

最小二乘法发展

•200多年的历史；

•天文和大地测量；

•近代矩阵理论与电子计算机

•经典的最小二乘法及其在组合测量的应用

•深入的内容可参阅专门的书籍和文献

第一节

最小二乘法原理

从一组测量值中寻找最可信赖值

x

12,,,n x x x 12,,,n

σσσ221

exp()22i

i i i v p dx

σσπ

=-i x ()

,i i x x dx +∝

f x

()

_

33+

测得值

同时出现的概率为

12,,,n

x x x 最可信赖值满足

2

2i i

i

v

Min

σ

=∑2i i

wv Min =∑

22

()i

i

v x x Min

=-=∑∑21i i

w σ

∝2

11exp ()2(2)n

i i n

i i i i i

v P p dx σσπ⎡⎤

⎛⎫⎢⎥==- ⎪⎢⎥⎝⎭⎣⎦

∑∏∏最可信赖值；P 为最大；式中负指数中因子达最小

1

1

n

i

i i n

i

i w x

x w

===

∑∑微分法得最可信赖值

•（1）最小绝对残差和法：

Min

v

i

=∑Min

v i =max Min

v v i i =-min max 小结

•从一组测量数据中求得最佳结果，还可使用其它原理。例如

•最可信赖值是在残差平方和或加权残差平方和为最小的意义下求得的，称之为最小二乘法原理。

•（3）最小广义极差法：

•（2）最小最大残差法：

第二节

线性参数的最小二乘法

•先举一个实际遇到的测量问题，为精密测定三个电容值:•采用的测量方案是，分别等权、独立测得,

•列出待解的数学模型。这是一个组合测量的问题。

3

21,,x x x 323121,,,x x x x x x ++第二节线性参数的最小二乘法

如为精密测定1号、2号和3号电容器的电容量1x 2x 3

x 测得值

1y 2y 3y 4y 11221332340.3()0.4()0.5()

0.3()

x y x y x x y x x y ==-+=+=-待解的数学模型待求量为了获得更可靠的结果，测量次数总要多于未知参数的数目组合测量，指直接测量一组被测量的不同组合值，从它们相互所依赖的若干函数关系中，确定出各被测量的最佳估计值。

第二节线性参数的最小二乘法

这是一个超定方程组，即方程个数多于待求量个数，不存在唯一的确定解，事实上，考虑到测量有误差，记它们的测量误差分别为，按最小二乘法原理4321,,,v v v v 第二节线性参数的最小二乘法

分别对求偏导数，令它们等于零，得如下的确定性方程组。∑=Min v i 23

21,,x x x (x 1-0.3)+(x 1+x 3-0.5)=0(x 2+0.4)+(x 2+x 3+0.3)=0(x 1+x 3-0.5)+(x 2+x 3+0.3)=0x 1=0.325, x 2=-0.425, x 3=0.150

可求出唯一解

第二节线性参数的最小二乘法

第二节线性参数的最小二乘法以下，一般地讨论线性参数测量方程组的最小二乘解及其精度估计。

第二节线性参数的最小二乘法

一、正规方程组

设线性测量方程组的一般形式为：t it i i i x a x a x a y +++= 2211)

,,2,1(n i =第二节线性参数的最小二乘法

t nt n n n t

t t

t x a x a x a y x a x a x a y x a x a x a y +++=+++=+++=

22112222121212121111即式中，有n 个直接测得值，t 个待求量。n>t,各等权，无系统误差和粗大误差。第二节线性参数的最小二乘法

∑=-=t j j ij i i

x a y v 1

),,2,1(n i =第二节线性参数的最小二乘法

j

x ∑∑∑====-=n

i t

j j

ij i n

i i Min x a y v 1

2

1

1

2][上式分别对求偏导数，且令其等于零，经推导得

j x 应当满足

⎪⎪

⎭

⎪

⎪

⎬

⎫

=+++=+++=+++][][][][][][][][][][][][22112222211211221111y a x a a x a a x a a y a x a a x a a x a a y a x a a x a a x a a t t t t t t t t t t 式中，，分别为如下列向量

j a y 第二节线性参数的最小二乘法