第3章曲线拟合的最小二乘法计算方法

18
结束
原函数整体的变化趋势,从而得到比原函数更简单更适用的
近似函数,这样的方法称为数据拟合
1
结束
插值与拟合是构造近似函数的两种不同方法
数据拟合最常用的近似标准是最小二乘法：设f(x)为原
计 函数, (x)为近似函数,(xi , f(xi)) (i=1,…,n)为数据点,要求选
算 择 (x)使
方 法
n
2
f (xi ) (xi )
拟合曲线为 p( x) aˆ0 aˆ1x aˆ2 x 2
5
例1 设5组数据如下表,用一多项式对其进行拟合。
x 3 5 6 8 10
计
y5212 4
算
方
解 首先作平面散点图如下：
法
y
课
5
件
4
3
2
1 x
0 1 2 3 4 5 6 7 8 9 10
6
从图中观察,这5个点大致在一条抛物线的附近,可考虑
第3章 曲线拟合的最小二乘法
§3.1 拟合曲线
计
算
通过观察或测量，得到一组离散数据
方 法
( xi , yi ), i 1,2,..., n
课
插值：找通过这些点的多项式。但对高次多项式，可能
件 产生较大的误差，如Runge现象，使得高次多项式并不能接
近原函数。
拟合：不要求近似函数过所有的数据点,而是要求它反映
y1
1 1
xx n2
a0 a1
y2 yn
AX
b
13
AT AX AT b 为法方程。
计 算 方
1 x1
1 x2
法
课
件
1 1 x1 x2
1
1 xn
11
x1 x2 xn
n
n
xi
i 1
1 xn
y1 y2 yn
n
yi
i 1 n
xi yi
i 1
最小二乘拟合多项式为：
计 算
y p2 (x) 13.454 3.657 x 0.272 x2
方 法 3 非线性曲线转化为线性拟合:
课 件
y a ebx ln y ln a bx
令Y ln y, A ln a Y A bx
又如: y a bx2 令X x2 y a bX
n
xi
i1
n
xi2
i 1
14
即法方程。
计 算 方 法
n
n
xi
n
n
i1 n
xi xi2
a0 a1
yi
i 1
n
xi yi
课
i1
i 1
i1
件
定理 （1）AX=b的法方程 AT AX ATb 恒有解；
（2）x*为Ax=b的最小二乘解的充要条件为 ATAx*=ATb.
课
4 10 4 40 100 400 1000 10000
件
Σ 32 14 87 234 659 1880 16098
5 32 234
32 234 1880
234 a0 14 1880 a1 97 16098 a2 659
7
用高斯-若当无回代消去法解此方程组,得a0=13.454, a1=-3.657,a2=0.272。
线性函数 Y lg a bX Y aX c Y ln a bX Y a bX Y a bX
11
§3.3 解矛盾方程组
1. 矛盾方程组
已知数据点为 ( xi , yi ), i 1,2,..., n
计
算 作拟合直线 p( x) a0 a1x
方 法
若直线 p( x) a0 a1x 通过点(xi,yi),则
用二次多项式 p2 (x) a0 a1x a2 x2 进行拟合。
计
i xi yi xi yi xi2 xi2yi xi3
xi4
0 3 5 15 9 45 27
81
算
1 5 2 10 25 50 125 625
方
2 6 1 6 36 36 216 1296
法
3 8 2 16 64 128 512 4096
算 用直线 p( x) a bx作为近似曲线,均方误差为
方
法
n
课
Q(a, b)
(a bxi yi )2
件
i 1
由求极值的方法得矩阵方程——拟合曲线的法方程组
n
n
xi
i1
n
n
i1
n
i1
xi x2
i
a b
yi
i 1 n
xi yi
i 1
3
由此可出求系数 aˆ , bˆ
Y ln y, A ln a Y A bx
9
i
xi
0
1
yi
Yi
15.3
2.7279
xi2
xiYi
1
2.7279
1
2
20.5
3.0204
4
6.0408
计
2
3
27.4
3.3105
9
9.9315
算
3
4
36.6
3.6000
16
14.4000
方
4
5
49.1
3.8939
25
19.4695
法
5
6
65.6
计
所以,经验公式为：y=11.4369e0.2912x
算
方 法 可化为线性拟合的非线性曲线有：
课 件 拟合曲线
y axb
y axk c
y aebx
y a b lg x y x ax b
变换关系 Y lg y, X lg x Y y, X xk Y ln y, X x Y y, X lg x Y 1 , X 1 yx
xim
xi xi2
xm1 i
xim xm1
i
xi2m
a0 a1 am
yi
xi yi
xin yi
法 课 由此求出拟合多项式的系数。
件 例：给出一组数据，用最小二乘法求如下形式经验公式
f (x) a bx3
xi 3 2 1 2 4 yi 14.3 8.3 4.7 8.3 22.7
课
件
p( xi ) a0 a1xi yi
否则
p( xi ) a0 a1xi yi
Biblioteka Baidu
此时统称 yi a0 a1xi 为矛盾方程
12
矛盾方程组：（由点和拟合曲线构成的方程组）
a0 a1 x1 y1
计 算 方 法
a0
a1 x2
y2
a0 a1 xn yn
课
件 其矩阵形式为：
1 x1
8
又如: y x 1 a b
ax b y
x
计
令Y 1 , X 1 Y a bX
算
yx
方 法 例3:已知数据为
课 件
x1234567 8
y 15.3 20.5 27.4 36.6 49.1 65.6 87.8 117.6
求一个形如 y=aebx的经验公式(a,b为常数).
解:两边取对数得： ln y ln a bx
4.1836
36
25.1016
课
6
7
87.8
4.4751
49
31.3257
件
7
8
117.6
4.7673
64
38.1384
∑
36
29.9787
204
147.1354
386 23064 bA 12497..91738574
10
解该方程组的 A=2.4368,b=0.2912
由A=lna,即得a=eA=11.436 9
17
结束
解： f (xi ) a bxi3
a bxi3 yi
计 算 方
1 x13
y1
1 1
x23 xn3
a b
y2 yn
法
课 件
AT
A
5 36
439654
AT y 15086.32 AT AX AT y
解得： a 10.675, b 0.137
拟合曲线为： f (x) 10.675 0.137 x3
i 1
最小。
4
由求极值的方法得法方程：
n
计 n
算
xi
方
法
i 1
n
xi2
课 i1
n
xi
i 1
n
xi2
i 1
n
xi3
i 1
n xi2
n
yi
i1 n
xi3
a0 a1
i 1
n
xi yi
i 1 n
xi4
a2
i 1
i 1 n
xi2
yi
i1
件
由此可出求系数 aˆ0 , aˆ1, aˆ2
证明(略)
15
一般形式为：
p( xi ) a0 a1xi am xim yi
计
矛盾方程组的矩阵形式为：
算
方 法 课 件
1 x1
1 x2
1 xn
x1m a0 y1
x2m x nm
a1 a m
y2 yn
简化为
Ax b
16
其法方程为：
计 算 方
n
xi
课
i 1
件 为最小.
当 (x)选择为多项式时,称为多项式拟合.
最小二乘拟合,特别是多项式拟合,是最流行的数据处理 方法之一.它常用于把实验数据(离散的数据)归纳总结为经 验公式(连续的函数),以利于进一步的推演分析或应用.
2
结束
§3.2 线性拟合和二次拟合函数
1. 线性拟合
计 已知数据点为 ( xi , yi ), i 1,2,..., n
拟合直线为 p( x) aˆ bˆx
计 2. 二次拟合函数 算
方 法
已知数据点为 ( xi , yi ), i 1,2,..., n
课 用二次函数 p( x) a0 a1x a2 x 2
件 作为近似拟合曲线,均方误差为
n
Q(a0 , a1, a2 )
(a0 a1 xi a2 xi2 yi )2