第3章数值分析---曲线拟合

这里关于c0,c1,..., cn的线性方程组,可以改写为
当k
0时,
Q c0
m
0,有 [ f
i0
(xi )
n
cj
j0
j (xi )]0 (xi )
0
11
n
f (x0 )0 (x0 ) 0 (x0 ) c j j (x0 ) j0
n
f (x1)0 (x1) 0 (x1) c j j (x1) j0
误差的平方和最小 Q 令 0,i 0,1,2,..., n c 多元函数 极值理论 i 线性方程组,解出c0, c1,..., cn ? 组装出y (x)
7
例. i 0 1 2 3 4 5 6 xi 1 2 3 4 5 6 7
7 8 9 10 8 9 10 11
yi 1.3 3.5 4.2 5 7 8.8 10.1 12.5 13 15.6 16.1
(2)曲线拟合中常用的标准
用y s(x)去作为y f (x)的近似,希望误差的平方和最小,
m
即 [ f (xi ) s(xi )]2最小 (最小二乘标准) i0
5
(3)曲线拟合问题的转化
先确定一个线性无关函数族{0 (x),1(x),...,n (x)},
然后用函数族中若干函数组装成一个函数,
练习:观察物体直线运动,得以下数据
时间t 0 0.9 1.9 3 3.9 5
距离s 0
10
30
50
, 80 110
求运动方程。
17
关于多项式拟合，Matlab中有现成的程序
a polyfit (x, y, m)
其中输入参数 x,为y 要拟合的数据， 为m拟合多项式的次数， 输出参数 a为拟合多项式的系数.
矩阵G对应的行列式不为零,因此正规方程
有唯一解( P54, 定理3)
注 : 一般地,0 (x),1(x),...,n (x)线性无关,可以保证
0
(0
(
x0
),
0
(
x1
),...,
0
(
xn
)),
1
,...,
线性无关
n
P74定义7.哈尔条件
13
非线性模型举例
1线性 x x0 x1 y y0 y1
2二次
3.1函数逼近
一、问题的提出: (1)函数关系有明确表达式,但比较复杂,不易计算,需要简单表达式; (2)函数关系是通过实验、观察得出的数据给出,只能得出区间上离
散点对应的函数值,要得到区间上整体表达式.
二、问题的解决 (1)函数逼近
f (x) A c[a,b],求p(x) B(n次多项式),使得min{ f (x), p(x)}
xi2 xi2 ) c2
n
(xi2 yi )
i0
i0
i0
i0
14
3一般非线性
x x0 y y0
x1 y1
xn
设拟合曲线
非线性问题能否线性化 ?
yn yaebx
y a ebx,ln y ln a bx Y A BX
X x X 0 x0 X1 x1 X n xn
Y ln y
2
3.4曲线拟合的最小二乘法
若 f (x)是 [a, b]上的一个列表函数，在
a x0 x1 xm b
上给出 f (xi )(i 0,1, , m) ，要求 P* 使
m
f P * min
2
P
f
P
2
min P
[ f (xi ) P(xi )]2
i0
（1.20）
则称 P*(x) 为 f (x)的最小二乘拟合.
利用下面的程序，可在Matlab中完成上例的多项式拟合.
18
Y0
Y1
Yn
此时x与ln y具有线性关系,可用最小二乘法得正规方程
(
n i0
1)
n
A(
i0
Xi)B
n i0
Yi
(
n i0
Xi)
A
n
(
i0
Xi
Xi)B
n i0
( X iYi )
A
, B
?
由BA
ln b
a ,
最后求出a,
b.
P75例10
15
4其他非线性一
x x0 y y0
x1 y1
xn
最小二乘法(误差的平方和最小)
3
曲线拟合是什么？
它不同于插值,它是寻找一条曲线(有函数表 达式),满足 : (1)未必通过所有离散点; (2)只要能反映离散点的分布情况.
4
(1)曲线拟合对应的数学问题
已知y
f
x (x),
x0
x1
xm ,在某个标准下,
y y0 y1 ym
寻找y s(x)，使得y f (x)与y s(x)的距离最小.
1 ab 1
y
x
有Y a bX
yn
令Y 1 , X 1 yx
1 与 1 具有线性关系 xy
5其他非线性二
x x0 y y0 X x5 Yy
x1
Biblioteka Baidu
xn
y a bx5
有Y a bX
x 与y具有线性关系 y1
yn 令Y Y , X x5
5
x05 x15 xn5
y0 y1 yn
16
( n 11) c0 ( n
n
xi 1) c1 (
xi2 1) c2
n
yi
i0
i0
i0
i0
n
n
( 1 xi ) c0 (
n
xi xi ) c1 (
xi2 xi ) c2
n
(xi yi )
i0
i0
i0
i0
(
n
1 xi2 ) c0
(
n
n
xi xi2 ) c1 (
(2)曲线拟合
寻找一个有函数表达式的曲线, 满足： a, 未必通过所有点； b, 只能反映离散点的分布情况.
注 : 插值法、曲线拟合都是函数逼近问题的一种 1
基本概念及定义 P51-66
n维向量空间,线性空间,函数空间 线性相关或无关 赋范线性空间 内积与内积空间 权函数 正交、正交函数族、标准正交函数族 正交多项式(legendre多项式、切比雪夫多项式、等)
xn
设拟合曲线
yn
y c0 c1x
0 ( x)1
1( x)x
(
i
n 0
1)
c0
n
(
i0
xi ) c1
n i0
yi
(
i
n 0
1
xi
)
c0
n
(
i0
xi2 ) c1
n i0
(xi yi )
x x0 x1 y y0 y1
xn
设拟合曲线
yn
y c0 c1xc2 x2
0 ( x)1
1 ( x) x,2 ( x) x2
m
n
Q(c0 , c1, , cn ) [ f (xi ) c j j (xi )]2
i0
j 0
的极小点 (c0*, c1*, , cn* ) 问题.
（4.4）
由求多元函数极值的必要条件，有
I
ck
m
n
2 [ f (xi ) c j j (xi )]k (xi ) 0
i0
j 0
(k 0,1, , n).
i0
i0
c0 , c1待定
8
(3)求偏导,令为0,求出C0,C1,
令 Q c0
0，Q c1
0,求出c0 , c1
10
i0
2( yi
c0
c1xi )(0
1
0)
0
10
i0
2( yi
c0
c1xi )(xi )
0
0
10
i0 10
yi
10
( 1)c0
i0
10
10
(
i0
xi )c1
10
10
,内积( X ,Y ) xi yi
求曲线拟合函数 y (x) ,且计算出x=12时,y的值
解.(1)根据离散数据描点画散点图,由散点图中点的分布情况 大致猜测离散数据,应符合的函数关系式
y (x) c0 c1x,把它视为y的拟合
(2)构造误差的平方和
10
10
Q(c0 , c1) ( yi (xi ))2 ( yi c0 c1xi )2
c1
cn
n
c j（ j ,0） ( f ,k ), k 0,1,..., n.(正规方程组、法方程组) (4.6)
j0
12
上方程组(法方程)的系数矩阵
(0 ,0 ) (0 ,1)
G
(1
,
0
)
(1 , 1 )
(n ,0 ) (n ,1)
(0 ,n )
(1
,
n
)
.
(n ,n )
（4.7）
(x) c00 (x) c11(x) ... cnn (x)
用最小二乘标准构造出误差的平方和
m
Q(c0 , c1,..., cn ) [ f (xi ) (xi )]2 i0 m
[ f (xi ) (c00 (xi ) c11(xi ) ... cnn (xi ))]2 i0 关于c0, c1,..., cn的函数 6
0
i0
xi yi
(
i0
xi )c0
(
i0
xi2 )c1
i0
9
(3)由最小二乘法得标准方程(正规方程)
10
10
10
i0
10
i0
yi xi yi
( 1)c0 ( xi )c1
i0
i0
,
10
10
( xi )c0 ( xi2 )c1
i0
i0
10
10
yi 97.1, ( xi ) 66
i0
i0
10
10
xi yi 749.5, xi2 506
i0
i0
代入得 c0 0.276，c1 1.517
所得拟合曲线y (x) c0 c1x 0.276 1.517x
令x 12,有y 0.276 1.517*12 17.928 x12
10
理论分析:最小二乘问题就转化为求多元函数
n
f (xm )0 (xm ) 0 (xm ) c j j (xm ) 0 j0
n
移项整理得 c j（ j ,0） ( f ,0 ) j0
其中f ( f (x0 ), f (x1),..., f (xm )),
0 (0 (x0 ),0 (x1),...,0 (xm ))
同理分析 Q 0, ，Q 0得出