《数据拟合方法》PPT课件

i1 j 0
i 1
nm
m
来自百度文库 得
[ k (xi ) j (xi )]a j k (xi ) yi
j0 i1
i 1
(k 0,1,, n)
即
m
m
m
a0 k (xi )0 (xi ) a1 k (xi )1(xi ) an k (xi )n (xi )
残差向量的各分量平方和记为：
S(a0 , a1,, an )
m
[
n
a j j (xi ) yi ]2

2
2
i1 j 0
由多元函数求极值的必要条件，有
S 0 ak
(k 0,1,, n)
m
n
可得 2 k (xi )[ a j j (xi ) yi ] 0
i 1
i 1
i 1
m
k (xi ) yi i 1
(k 0,1,, n)
上式为由n+1个方程组成的方程组，称正规方程组。
引入记号 r (r (x1),r (x2 ),,r (xm ))
f ( y1, y2,, ym )
则由内积的概念可知
m
(k , j ) k (xi ) j (xi ), i 1
8
4
21
8.9
3.5
22
9
4.2
23
9.5
3.5
24
10
纤维强度随拉伸倍数增加而增加。
¿Ç ȶ yi
5.5 5
5.5
6.4 6
5.3 6.5
7 8.5
8 8.1 8.1
24个点大致分布 在一条直线附近。
故可认为强度y 与拉伸倍数x的 主要关系应为线 性关系：
y(x) 0 1x
9
8
7
6
(0 ,0 )
(1 ,0 )
(n

,0
)
(0 ,1 )
(1 ,1 )

(n ,1 )


(0 (1
(n
,n
,n

,n
) ))
a0 a1
an

(0 , f )


(1 ,

(n ,
给定一组值： x
x1
x2 … … xm
求函数
f(x) y1 y2 …… ym
使得 m
mn
[ (xi ) yi ]2 [ a j j (xi ) yi ]2
最小。 i1
i1 j0
说明：
（1）若(x)为一元函数，则函数曲线为平面图
形，称曲线拟合。
（2）(x)为拟合函数，上式最小为拟合条件
（即要求拟合曲线与各数据点在y方向的误差平 方和最小）。
（3）函数类的选取：
据实验数据分布特点选取，可选幂函数类、指数 函数类、三角函数类等。
2、最小二乘法：
以残差平方和最小问题的解来确定拟合函数的 方法。
令 i (xi ) yi (i=1,2,…m)
－－在回归分析中称为残差
残差向量：
5
4
3
2
1
1
2
3
4
5
6
7
8
9
10
其中0 , 1为待定参数
我们希望y(x) 0 1x与所有的数据点(样本点)(xi , yi )
越接近越好.
必须找到一种度量标准来衡量什么曲线最接近所有数据点。
1、数据拟合问题
研究内容：从一大堆看上去杂乱无章的数据中找出规 律性来，即设法构造一条曲线（拟合曲线）反映所给 数据点总的趋势，以消除其局部波动。这种要求曲线 尽可能逼近给定数据的过程称“拟合”。
i 1
j0
即
mn
[ a jk (xi ) j (xi ) k (xi ) yi ] 0
i1 j 0
mn
m
a jk (xi ) j (xi ) k (xi )yi
i1 j 0
i 1
mn
m
由
a jk (xi ) j (xi ) k (xi )yi
m
(k , f ) k (xi )yi i 1
显然内积满足交换律 (k , j ) ( j ,k )
正规方程组便可化为
a0(k ,0 ) a1(k ,1 ) an(k ,n ) (k , f )
(k 0,1,, n)
将其表示成矩阵形式：
m
xkn
k 1
m
xkn1
k 1

m
xk2n
k 1

a0

a1

an



f f
) )
其系数矩阵为对称阵。
由于0 (x),1(x),,n (x)为函数类 的基， 因此0 (x),1(x),,n (x)必然线性无关。
所以正规方程组的系数矩阵非奇异,即
det[(( i , j ))nn ] 0
根据Crame法则,正规方程组有唯一解，称其为最小二乘解。
第六章 数据拟合方法
电子科技大学生命学院 陈华富 2007年3月
第六章 数据拟合方法
数据拟合的最小二乘法 Bezier曲线
6.1 数据拟合的最小二乘法
一、 曲线拟合的数学描述与问题求解
例：考察某种纤维的强度与其拉伸倍数的关系,下表是实 际测定的24个纤维样品的强度与相应的拉伸倍数的记录:
± à ź À­ Éì ± ¶ Êý xi
1
1.9
2
2
3
2.1
¿Ç ȶ yi ± à ź
1.4
13
1.3
14
1.8
15
À­ Éì ± ¶ Êý xi
5
5.2
6
4
2.5
5
2.7
6
2.7
7
3.5
8
3.5
9
4
10
4
11
4.5
12
4.6
2.5
16
6.3
2.8
17
6.5
2.5
18
7.1
3
19
8
2.7
20
作为一种简单的情况，常使用多项式函数Pn(x)作 为(xi,yi) (i=1,2,…,m)的拟合函数。 拟合函数φ(x)=Pn(x)的基函数为：
0 (x) 1,1(x) x,,k (x) xk ,,n (x) xn
基函数之间的内积为：
m
m
m
(k , j ) k (xi ) j (xi )
xik xij
xk j i
i 1
i 1
i 1
m
m
(k , f ) k (xi )yi xik yi
i 1
i 1
即正规方程组为

m


m
xk
k 1

m


k
1
xkn
m
xk
k 1
m
xk2
k 1

m
xkn1
k 1