第五章 曲线拟合与最小二乘法

根据最小二乘原理，应取 a0 和 a1 使 F(a0 , a1)
，故 a0 和 a1 应满足下列条件：
有极小值
F (a0 , a1 )
a0
F (a0 , a1 )
a1
m
2 (a0
i 1
m
2 (a0
i 1
a1 xi a1 xi
yi ) 0 yi )xi
0
第五章 曲线拟合与最小二乘法
i 1
j 0
由于Q可以看作是关于 ( j=0,1,2,…, m)的多
。作拟合直线 y(x) a0 a1x ,该直线不是通过所有的
数据点 xi , yi ,而是使偏差平方和
《
m
计
F (a0 , a1 ) (a0 a1xi yi )2
算
i 1
方 为最小，其中每组数据与拟合曲线的偏差为
法
与 实 习 》
y(xi ) yi a0 a1xi yi i 1,2,, m
计
算 方
到最小,这就是最小二乘法。
法 与
y
•
实
••
习
••
》 图5-1
•
• •
曲线拟合示意图
••
•
•
•
•
••
o
x
第五章 曲线拟合与最小二乘法
与函数插值问题不同,曲线拟合不要求曲线通过
所有已知点,而是要求得到的近似函数能反映数据的
基本关系。在某种意义上,曲线拟合更有实用价值。
《
在对给出的实验(或观测)数据 (xi , yi )(i 0,1,, n)
范数 e 最小,如 e的1-范数 e 或∞-范数 1
e
即
第五章 曲线拟合与最小二乘法
n
n
e 1
i
(xi ) f (xi )
i0
i0
或
e
max i
i
max i
(xi
)
f (xi)
《 最小。为了便于计算、分析与应用，通常要求 e的
计
算 2-范数
方
1
1
法 与 实 习
e
2
n
2 i
2
与 实
，如果要求所得的近似函数曲线精确无误地通过所有的
习 》
点(xi,yi),就会使曲线保留着一切测试误差。当个别数据
的误差较大时,插值效果显然是不理想的。此外,由实验
或观测提供的数据个数往往很多,如果用插值法,势必得
到次数较高的插值多项式，这样计算起来很烦琐。
换句话说:求一条曲线,使数据第点五章均曲在线离拟合此与曲最小线二的乘上法
为方此或,我下们方不希远望处从,所给求定的的曲数线据称为(xi拟,yi)合出曲发线,构,它造既一能个
近反似映函数数据的(总x),体不分要布求,又函不数至于(x出) 完现全局通部较过大所的有波的
数动据,更点能，反只映要被求逼近所函得数的的近特似性曲,使线求能得反的逼映近数函据数的
《 基与本已趋知势函，数如从总图体5-上1所来示说。其偏差按某种方法度量达
计 算
作曲线拟合时,怎样才算拟合得最好呢
？一般希望各
方 法
实验(或观测)数据与拟合曲线的偏差的平方和最小,这
与 实
就是最小二乘原理。
习
》 两种逼近概念:
插值: 在节点处函数值相同.
拟合: 在数据点处误差平方和最小
第五章 曲线拟合与最小二乘法
函数插值是插值函数P(x)与被插函数f(x)在节处函数值
相同,即 P(xi ) f (xi ) (i 0,1,, n)而曲线拟合函数(x)不
第五章 曲线拟合与最小二乘法
第五章 曲线拟合与最小二乘法
如果已知函数f(x)在若干点xi(i=1,2,…,n)处
的值yi,便可根据插值原理来建立插值多项式作为f(x)的近
似。但在科学实验和生产实践中，往往会遇到这样一种
《
计 算
情况，即节点上的函数值并不是很精确的，这些函数值
方 法
是由实验或观测得到的数据，不可避免地带有测量误差
要求严格地通过所有数据点 (xi,也yi )就是说拟合函数(x)在
《 xi 处的偏差(亦称残差）
计 算
i (xi ) f (xi ) (i 0,1,, n)
方
法 不都严格地等于零。但是,为了使近似曲线能尽量反
与
实 习
映所给数据点的变化趋势,要求
i
按某种度量标准
》 最小。若记向量e 0 ,1,,n T ,即要求向量e 的某种
《
计 寻求次数不超过m (m<<N ) 的多项式，
算 方 法
y a0 a1x a2 x 2 an x m
与
实 习
来拟合所给定的数据，与线性拟合类似，使偏差的
》 平方和
为最小
N
m
Q ( yi a j xij )2
i 1
j0
第五章 曲线拟合与最小二乘法
N
m
Q ( yi a j xij ) 2
i0
n
i0
(xi )
f (xi)
2 2
》即
n
n
2
e 2 2
2 i
(xi ) f (xi )
i0
i0
为最小。这种要求误差（偏差）平方和最小的拟合
称为曲线拟合的最小二乘法。
（1）直线拟合
Baidu Nhomakorabea
第五章 曲线拟合与最小二乘法
设已知数据点 xi , yi , i 1,2,, m,分布大致为一条直线
即得如下正规方程组
a0m
m
a1
m i 1
xi
m
m i 1
yi
m
《
计 算
a1 i1 xi2
a0
i 1
xi
xi yi
i 1
例5. 1 设有某实验数据如下：
方 法
i
1
2
与 实 习 》
xi
1.36
1.37
yi
14.094 16.844
(5.1)
3 1.95 18.475
4 2.28 20.963
i 1
将以上数据代入上式正规方程组,得
4a0 7.32a1 70.376 7.32a0 13.8434a1 132.12985
（2）多项式拟合
第五章 曲线拟合与最小二乘法
有时所给数据点的分布并不一定近似地呈一条直
线,这时仍用直线拟合显然是不合适的,可用多项式
拟合。对于给定的一组数据 xi , yi , i 1,2,, N
y4=20.963
《计算则正规方程组为4a04 a1
4 i 1
xi
4
4 i 1
yi
4
方 法 与
a0 i1 xi a1 i1 xi2 i1 xi yi
实
习
其中
4
xi 7.32
4
xi2 13.8434
4
yi 70.376
4
xi yi 132 .12985
》
i 1
i 1
i1
用最小二乘法求以上数据的拟合函数
解:把表中所给数据画在坐标纸上,将会看到数据点
的分布可以用一条直线来近似地描述,设所求的 。
第五章 曲线拟合与最小二乘法
拟解合得直线为ay0(x) 3a.90 37a41x,记x1=a11.367, .x426=216.37, x3 =1.95
x4即=得2.2拟8,合y1直=线14.094y, y2=3.9163.78444, y73.=41682.467x5,