函数逼近与曲线拟合

n
g0 ym m1 n
gi ym xmi m1
③ 解正规方程组
l00a0 l01a1 l0k ak g0
l10
a0
l11a1
l1k ak
g1
求出 a0 , a1, , ak
lk0a0 lk1a1 lkk ak gk
④ 输出 a0 , a1, , ak
3.4 非线性数据线性化
F(x) a bx
作为 f (x) 的近似函数.
把 x i 和 y i 代入正规方程组得
8a 20b 37 20a 92b 25
解上方程组得到 a 8.6429 b 1.6071
于是，求得拟合函数为 y 8.6429 1.6071x
3.3 多变量数据拟合
若假设这些自变量为 x1, x2 , , xk 和因变量为y ，则每经过一次
曲线拟合示意图
y
•
•
•
•
••
•• ••
•
• •
•• •
o
x
与函数插值问题不同,曲线拟合不要求曲线通过所有已知 点,而是要求得到的近似函数能反映数据的基本关系。在某种 意义上,曲线拟合更有实用价值。
在对给出的实验(或观测)数据 ( xi , yi )(i 0,1, , n) 作曲线拟合时,怎样才算拟合得最好呢？
一般希望各实验(或观测)数据与拟合曲线的误差的平方 和最小，这就是最小二乘原理。
两种逼近概念: 插值: 在节点处函数值相同. 拟合: 在数据点处误差平方和最小
3.2 单变量数据拟合及最小二乘法
单变量数据拟合法的一般过程是：先根据给定函数的数 据表
x
x1
x2
…
xn
y f (x) y1
y2
…
yn
用几何描点法或凭经验选择一个近似函数 F(x) ，以反映数据
由于数据表中给定的数据
xi , yi (i 0,1, , n)
是从实验或测量中得到的，难免有一些误差，而且有个别 点的误差可能比较大。
问题：如果插值节点xi及其上的函数值yi存在误差，对插值 函数有什么影响？当个别数据的误差较大时,会得到 理想的插值效果吗？为什么？
为此,我们希望从给定的数据(xi,yi)出发,构造一个近似函数
实验或测量就会得到一组数据 x1, x2 , , xk , y ，而经过n次实验 或测量就会得到n组数据，由这n组数据构成一个数据表:
第m次实验或测量
x1
1
x11
2
x21
…
…
x2
…
x12
…
x22
…
……
xk y f (x1, x2, , xk )
x1k
y1
x2k
y2
…
…
n
xn1
xn2
…
xnk
yn
多变量数据拟合法的一般过程是：先根据 数据表选择变量
仍用直线拟合显然是不合适的,可用多项式拟合。对于给定 的一组数据 ( xi , yi ), i 0寻,1求,次数, m不超过n(n<m )的多 项式
y a0 a1x a2x2 anxn
来拟合所给定的数据，与线性拟合类似，使误差的平方和
mn
Q ( a j xij yi )2
i0 j0
可以证明，正规方程组有惟一解。
例3-1 已知一组数据如下表所示,用单变量数据拟合法求其拟 合函数.
x -1 0 1 2 3 4 5 6
y f (x) 10 9 7 5 4 3 0 -1
解
先画出散点图.
从图中可以看到，点 (xi , yi ) (i 1,2, ,8) 在一条直线附近， 这些点大体上满足直线方程。因此，可以选择线性函数来拟 合这些数据，即可以选取
第3章 函数逼近与曲线拟合
3.1 函数逼近的基本概念 3.2 单变量数据拟合及最小二乘法 3.3 多变量数据拟合 3.4 非线性数据线性化 3.5 正交多项式拟合
3.1 函数逼近的基本概念
实际中遇到的问题： （1）反映变量之间内在规律的函数关系f(x)，往往是通过实验 或观测得到的一张函数表，其表达式未知； （2）函数存在解析表达式，但由于形式过于复杂而不易使用， 不容易计算函数值。
为最小。
由于Q可以看作是关于aj ( j =0,1,2,…, n)的多元函数, 故 上述拟合多项式的构造问题可归结为多元函数的极值问题 。令
Q 0, k 0,1,2, , n
ak
得
mn
( a j xij yi )xik 0,
i0 j0
k 0,1, , n
这是关于系数 a的j 线性方程组，通常称为正规方程组。
这些都涉及到在区间 [a,b上] 用简单函数逼近已知复杂 函数的问题，这就是函数逼近问题.
插值法就是函数逼近问题的一种.
本章讨论的函数逼近，是指“对函数类 A中给定的函数
f (x记), 作 f (，x) A 要在另一类简单的便于计算的函数类
B 中求函数 p(x)， B 使p(x) 与 f (x的) 误差在某种度量
y与变量 x1, x2, , xk 的一个近似函数 F(x1, x2, , xk ) ，以反映 y 与变量
x1, x2, , xk 的函数关系，然后使用最小二乘法确定近似函数 F(x1, x2, , xk )
中的未知参数，从而得到 F(x1, x2, , xk ) 。 F(x1, x2, , xk ) 通常称为拟合函数，y f (x1, x2, , xk ) 通常称为被拟合函数。
作为 y 与变量 x1, x2 , , xk 的最小二乘拟合函数，则待定参数
a0 , a1, , ak 是正规方程组的解。
可以证明：当 n k 时，正规方程组有唯一解。
例3-2 已知一组测量数据如表所示，求其线性拟合函数。
第m次测量
x1
x2
1
1
1
2
1
2
3
2
1
4
2
2
5
2
3
解
据题意，选择线性函数
y f (x1, x2)
有些非线性拟合曲线可以通过适当的变量替换转化为线 性曲线，从而用线性拟合进行处理，对于一个实际的曲线 拟合问题，一般先按观测值在直角坐标平面上描出散点图 ，看一看散点的分布同哪类曲线图形接近，然后选用相接 近的曲线拟合方程。再通过适当的变量替换转化为线性拟 合问题，按线性拟合解出后再还原为原变量所表示的曲线 拟合方程。
意义下最小”.
函数类 通B常为 次n多项式，有理函数或分段低次多项
式等.
代数插值是根据给定的数据表，按某些条件构造
一个代数多项式 pn(x) 近似代替函数 f (x).
条件: pn (xi ) yi (i 0,1, , n)
即要求函数
y pn (x) 经过点 (xi , yi ) (i 0,1, , n)
而偏差的平方和为
n
n
m2 ( ym a0 a1xm1 a2 xm2 ak xmk )2
m1
m1
记为(a0 , a1, , ak )
据多元函数求极小值的方法，对 (a0 , a1, , ak ) 分别求关于
a0 , a1, , ak 的偏导数并令其等于0，这样便得到
n
a0
2 (y m
m1
5
xm2 xm2 19
m1
5
ymxm2 93
m1
把它们代入正规方程组得
85aa0 0184aa11
9a2 49 15a2 82
9a0 15a1 19a2 93
从方程组解得
a0 3.8 a1 2.4
于是，所求的拟合函数为
y F(x1, x2) 3.8 2.4x1 1.2x2
7 9 10 11 12
F (x1, x2 ) a0 a1x1 a2 x2 , a0 , a1, a2 为待定参数
拟合给定数据表中的数据。
由定理3.2得到正规方程组
5
5
5
na0 a1 xm1 a2 xm2 ym
a0
5
xm1 a1
m1
m1
5
5
xm1xm1 a2
m1
xm2 xm1
假定数据表中的数据呈线性关系，这时选取线性函数
F(x1, x2, , xk ) a0 a1x1 a2x2 ak xk 来近似表达 y 与变量 x1, x2, , xk 的函数关系.
把 xm1, xm2 , , xmk (m 1,2, , n) 代入线性函数F(x1, x2 , , xk ) 得到
表中数据的一般趋势，然后使用最小二乘法来确定其中的未
知参数，从而得到的近似函数 F(x).
F(x) 通常称为拟合函数，f (x) 通常称为被拟合函数。
F(x) 不一定要经过点 (xi , yi )
什么是“最好”的函数，“最好”的函数以什么标准来 衡量?
定义3.1 若记 i f (xi ) F(xi ) (i 1,2, , n)，则称 i 为
“最好”函数。
定义3.2 以“偏差的平方和达到最小”作为原则来选择近似 函数的方法称为最小二乘法。
（1）直线拟合
设已知数据点 xi , yi , i 0,分,1布,大,致m为一条直线。根据
最小二乘原理作拟合直线
,该直y(线x)不是a 通b过x 所有的数
据点
,而是使误差平x方i 和, yi
为最小。
f (x) 与 F(x) 在 xi 处的偏差。
一般情况下，使用单变量数据拟合法能选择到一个近似
函数 F(x) 使 i 等于0是办不到的，但可以找到一个函数F(x)
，使它与 f (x) 的偏差 i 的平方和达到最小，即使
n
来自百度文库
n
i 2 ( f (xi ) F (xi )) 2
i 1
i 1
达到最小。而能使偏差 i 的平方和达到最小的函数就是
m1
m1
m1
m1
n
n
n
n
n
a0 xm1 a1 xm1xm1 a2 xm2xm1 L ak xmk xm1 ym xm1
a0
m1
m1
m1
n
n
n
xm2 a1 xm1xm2 a2 xm2xm2 L
m1
n
ak xmk xm2
m1
n
ym xm2
m1
m1
m1
m1
m1
M
n
n
m1
a0
a1xm1
a2xm2
ak xmk ) 0
a1
n
2 (y m
m1
a0
a1xm1
a2xm2
ak xmk )xm1
0
…
n
ak
2 (y m a0 a1xm1 a2 xm2
m1
ak xmk )xmk
0
整理化简后联立起来得到方程组
n
n
n
n
na0 a1 xm1 a2 xm2 L ak xmk ym
n
n
n
a0
m1
xmk
a1 xm1xmk
m1
a2 xm2 xmk
m1
L
ak xmk xmk
m1
ym xmk
m1
K+1个未知数的线性代数方程组，它也称为正规方程组。
定理3.2 给定 y f (x1, x2 , , xk ) 的数据表，若数据表
表中的数据呈线性关系，这时选取线性函数
F(x1, x2, , xk ) a0 a1x1 a2x2 ak xk
F(xm1, xm2 , , xmk ) a0 a1xm1 a2 xm2 ak xmk
从而 F(x1, x2, , xk ) 与 y f (x1, x2 , , xk ) 在 xm1, xm2 , , xmk 处的偏
差为
m ym F (xm1, xm2 , , xmk )
ym a0 a1xm1 a2 xm2 ak xmk
m
(a,b) (a bxi yi )2 i0
故 和a 应b满足下列条件：
(a, b)
a
m
2
i0
(a
bxi
yi )
0
(a,
b)
b
m
2
i0
(a bxi
yi )xi
0
即得如下正规方程组
a(m
m
1)
b
i m
m 0
xi
m
i0
m
yi
a i0
xi2
b
i0
xi
i0
xi yi
令
m
s1 xi
a2 1.2
多变量线性拟合法算法
① 输入数据 xmi (m 1,2, ,n;i 1,2, ,k)和 ym (m 1,2, , n)
② 计算正规方程组的系数
n
l00 n l0i li0 xmi (i 1,2, , k) m1 n
lij xmi xmj (i, j 1,2, , k) m 1
m
s2 yi
i0
i0
m
s3 xi2 i0
m
s4 xi yi i0
方程组改写为：
(ms1a1)as3bs1bs4 s2
即按下列公式求 a 和 b
a
s2 (m
s3 1)
s1 s3
s4 s12
b
(m (m
1) 1)
s4 s3
s1 s2 s12
（2）多项式拟合 有时所给数据点的分布并不一定近似地呈一条直线,这时
5
ym xm1
m1
m1
m1
m1
而
a0
5 m1
xm2
5
a1 xm1xm2
m1
5
a2 xm2 xm2
m1
5
ym xm2
m1
5
5
5
xm1 8
xm2 9
xm1xm1 14
m1
m1
m1
5
5
xm1xm2 xm2 xm1 15
m1
m1
5
ym 49
5
ym xm1 82
m 1
,不要求(x函) 数 完全通过(所x)有的数据点，只要求所得的近似
曲线能反映数据的基本趋势，如图所示。
换句话说:求一条曲线,使数据点均在离此曲线的上方或下方 不远处,所求的曲线称为拟合曲线,它既能反映数据的总体分 布,又不至于出现局部较大的波动,更能反映被逼近函数的特 性,使求得的逼近函数与已知函数从总体上来说其误差按某 种方法度量达到最小。这就是曲线拟合问题。