最小二乘法的本原理和多项式拟合

第一节 最小二乘法的基本原理和多项式拟合

一 最小二乘法的基本原理

从整体上考虑近似函数)(x p 同所给数据点),(i i y x (i=0,1,…,m)误差

i i i y x p r -=)((i=0,1,…,m)

的大小，常用的方法有以下三种：一是误差

i i i y x p r -=)((i=0,1,…,m)绝对值的最大值i

m i r ≤≤0max ，即误差 向量

T m r r r r ),,(10 =的∞—范数；二是误差绝对值的和∑=m

i i

r 0

，即误差向量r 的1—

范数；三是误差平方和∑=m

i i

r

02

的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和∑=m

i i

r

02

来 度量误差i r (i=0，1，…，m)的整

体大小。

数据拟合的具体作法是：对给定数据 ),(i i y x (i=0,1,…，m)，在取定的函数类Φ中,求Φ∈)(x p ,使误差i i i y x p r -=)((i=0,1,…,m)的平方和最小，即

∑=m

i i

r 0

2

=[]∑==-m

i i i y x p 0

2

min

)(

从几何意义上讲，就是寻求与给定点),(i i y x (i=0,1,…,m)的距离平方和为最

小的曲线)(x p y =（图6-1）。函数)(x p 称为拟合 函数或最小二乘解，求拟合函数)(x p 的方法称为曲线拟合的最小二乘法。

在曲线拟合中，函数类Φ可有不同的选取方法.

6—1

二 多项式拟合

假设给定数据点),(i i y x (i=0,1,…,m)，Φ为所有次数不超过)(m n n ≤的多项式构成的函数类，现求一

Φ

∈=∑=n

k k k n x a x p 0

)(,使得

[]

min )(0

02

02

=⎪⎭⎫

⎝⎛-=-=∑∑∑===m

i m

i n k i k i k i i n y x a y x p I (1)

当拟合函数为多项式时，称为多项式拟合，满足式（1）的)(x p n 称为最小二乘

拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。

显然

∑∑==-=m i n

k i k i k y x a I 0

2

)(

为n a a a ,,10的多元函数，因此上述问题即为求),,(10n a a a I I =的极值 问题。由多元函数求极值的必要条件，得

n j x y x a a I

m i j i n

k i k i k j ,,1,0,0)(200 ==-=∂∂∑∑== (2)

即

n

j y x a x

n k m

i i j i k m

i k j i

,,1,0,

)(0

==∑∑∑===+ (3)

（3）是关于n a a a ,,10的线性方程组，用矩阵表示为

⎥⎥⎥⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥

⎥⎥⎥⎥⎥⎥⎦

⎤⎢⎢⎢⎢⎢⎢⎢⎢⎣⎡+∑∑∑∑∑∑∑∑∑∑∑=====+==+====m i i n i m i i i m i i n m

i n i m i n i m i n i m

i n i m i i m i i

m

i n i m i i y x y x y a a a x x x x x x x x m 00010020100

1020001 (4) 式（3）或式（4）称为正规方程组或法方程组。

可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出k a (k=0,1,…，n)，从而可得多项式

∑==n

k k

k n x a x p 0

)( (5)

可以证明，式（5）中的)(x p n 满足式（1），即)(x p n 为所求的拟合多项式。我

们把[]

∑=-m

i i i n

y x p

2

)(称为最小二乘拟合多项式)(x p n 的平方误差，记作

[]

∑=-=m

i i i n y x p r

02

22

)(

由式(2)可得

∑∑∑===-=m

i n

k m

i i k i k i y x a y r

222

)

( (6)

多项式拟合的一般方法可归纳为以下几步：

(1) 由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n ； (2) 列表计算∑==m

i j i

n j x

)

2,,1,0( 和∑==m

i i

j i

n j y x

)

2,,1,0( ；

(3) 写出正规方程组，求出n a a a ,,10；

(4) 写出拟合多项式∑==n

k k

k n x a x p 0)(。

在实际应用中，m n <或m n ≤；当m n =时所得的拟合多项式就是拉格朗日或牛