第五章+曲线拟合

合集下载

曲线拟合

曲线拟合

1 .0 0 .167 2 0 .233 1
1 .0 0 .286 5 0 .279 2 J( x1 ) =
1 .0 0 .392 6 0 .286 1
1 .0 0 .490 8 0 .272 3
1 .0 0 .583 7 0 .245 0
1 .0 0 .672 5 0 .208 0
1 .0 1 .0 0 .000 0 F( x1 ) = ( - 0 .082 2 , - 0 .074 3 , - 0 .045 0 , - 0 .016 5 , 0 .001 3 , 0 .017 0 ,
其中
x = R - Rm in , y = N - Nmin
R+1
N+2
式中 Rmin , R 分别为最小回流 比和 实际 回流 比 ; Nmin , N 分别 为理 论 最小 塔板 数
和实际塔板数。
本题 取 不 同 的 初 始 点 x0 , 也 可 收 敛 到 相 同 的 结 果。 如 果 取 x0 = (6. 0 , - 0. 4 , 1 .2 ) T , 远离 x* 点 , 迭代次数增加到 38 次才收敛。
yi 仍记作 y i 则该问题的目标函数为
10
∑ mi n S =
( x1
+
x2
Rx i
3
-
yi )2
i= 1
函数 f i ( x) 的梯度表达式为
Δ f i ( x) =
f i ( x) , f i ( x) , f i ( x) T
x1
x2
x3
1 .0
=
Rx i3
x2
Rx i
3
l
n(
Ri
)
取 λ= 0 .01 , μ= 2 .0 , x0 = ( 0 .6 , - 0 .4 , 0 .3 ) T , 则 目标 函 数 S0 = 0 .180 9 ,

第5章曲线拟合

第5章曲线拟合

大时,插值效果显然是不理想的。此外,由实验或观测
提供的数据个数往往很多,如果用插值法,势必得到次 数较高的插值多项式,这样计算起来很烦琐。
换句话说 :求一条曲线,使数据点均在离此曲线的 为此 ,我们希望从给定的数据 (xi,yi)出发,构造 上方或下方不远处 ,所求的曲线称为拟合曲线 ,它 一个近似函数 ,不要求函数 完全通过所 ( x) ( x) 既能反映数据的总体分布,又不至于出现局部较大 有的数据点,只要求所得的近似曲线能反映数 的波动,更能反映被逼近函数的特性 据的基本趋势,如图 5-7所示。 ,使求得的逼 近函数与已知函数从总体上来说其偏差按某种方
(3)可化为线性拟合的非线性拟合
有些非线性拟合曲线可以通过适当的变量替
换转化为线性曲线,从而用线性拟合进行处理,
对于一个实际的曲线拟合问题,一般先按观测值 在直角坐标平面上描出散点图,看一看散点的分 布同哪类曲线图形接近,然后选用相接近的曲线 拟合方程。再通过适当的变量替换转化为线性拟
合问题,按线性拟合解出后再还原为原变量所表
,
(4)超定方程组的最小二乘解 A (aij ) mn ,b是m维已知 设线性方程组Ax=b中, 向量,x是n维解向量,当m>n,即方程组中 方程的个数多于未知量的个数时,称此方程组 为超定方程组。一般来说,超定方程组无解( 此时为矛盾方程组),这时需要寻求方程组的一 个“最近似”的解. 记 r b Ax ,称使 r 2 ,即 r 最小的解 x * 为 方程组Ax=b的最小二乘解。
m F ( a 0 , a1 ) 2 ( a 0 a1 xi y i ) 0 a i 1 0 m F ( a 0 , a1 ) 2 ( a 0 a1 xi y i )xi 0 a1 i 1

曲线拟合

曲线拟合

32
30
28
26
24
22
20
18 16
18
20
22
24
26
28
30
数据拟合函数表
cfit
fit
产生拟合的目标
用库模型、自定义模型、平滑样条或 内插方法来拟合数据 产生或修改拟合选项 产生目标的拟合形式 显示一些信息,包括库模型、三次样 条和内插方法等。 显示曲线拟合工具的信息 返回拟合曲线的属性 对于拟合曲线显示属性值
•输出结果为: •p = • Columns 1 through 5 • 0.0193 -0.0110 -0.0430 0.0073 0.2449 • Column 6 • 0.2961 •说明拟合的多项式为:
0.0193x 5 0.0110x 4 0.043x 3 0.0073x 2 0.2449x 0.2961
• 算例: >> years=1950:10:1990; >> service=10:10:30; >> wage = [150.697 199.592 187.625 179.323 195.072 250.287 203.212 179.092 322.767 226.505 153.706 426.730 249.633 120.281 598.243]; >> w = interp2(service,years,wage,15,1975) w= 190.6288
Method:用于指定插值的方法,linear:线性插值(默认方 法)。Cubic三次多项插值。Spline:三次样条插值。Nearst: 最近邻插值。
• 例
>> year=1900:10:2010; >> product=[75.995,91.972,105.711,123.203,131.669,... 150.697,179.323,203.212,226.505,249.633,256.344,267.893]; >> p1995 = interp1(year,product,1995) p1995 = 252.9885 >> x = 1900:10:2010; >> y = interp1(year,product,x,'cubic'); >> plot(year,product,'o',x,y)

曲线拟合

曲线拟合
列表计算:
机动 目录
o
上页 下页 返回 结束
t
i
0 7
ti 0 7 28
ti2 0 49 140
yi 27.0 24.8 208.5
yi ti 0 137.6 717.0
140 a 28b 717 得法方程组 28 a 8b 208 .5 解得 a 0.3036 , b 27.125 , 故所求经验公式为
评价方式
• SSE(The sum of squares due to error)
– – 和方差、误差平方和 A value closer to 0 indicates a better fit.→0
ˆi )2 SSE Wi ( yi y
i 1
n
• MSE(Mean squared error)
p1=2255
q1=83.1
Sum of Sine
f(x)=a1*sin(b1*x0.0420 9
c1=1.693
fitting Exponential Fourier Gaussian Polynomial Rational
SSE 0.1224 0.01768 0.01916 0.1082 0.1374
x
150 160 170
X
165
160 140
180
190
200
Back
• 从图上虽可看出,个子高的父亲确有生出个子高的 儿子的倾向,同样地,个子低的父亲确有生出个子 低的儿子的倾向。得到的具体规律如下:
y a bx u ˆ 84.33 0.516x y
• 如此以来,高的伸进了天,低的缩入了地。他百思 不得其解,同时又发现某人种的平均身高是相当稳 定的。最后得到结论:儿子们的身高回复于全体男 子的平均身高,即“回归”——见1889年F.Gallton 的论文《普用回归定律》。 • 后人将此种方法普遍用于寻找变量之间的规律

曲线拟合

曲线拟合

向自定义函数拟合
在化工生产中获得的氯气的级分y随生产时间x下降,假定在x≥8时,y与x之间有如下形式的非线性 模型: 现收集了44组数据,利用该数据通过拟合确定非线性模型中的待定常数。 x y x y x 8 0.49 16 0.43 28 8 0.49 18 0.46 28 10 0.48 18 0.45 30 10 0.47 20 0.42 30 10 0.48 20 0.42 30 10 0.47 20 0.43 32 12 0.46 20 0.41 32 12 0.46 22 0.41 34 12 0.45 22 0.40 36 12 0.43 24 0.42 36 14 0.45 24 0.40 38 14 0.43 24 0.40 38 14 0.43 26 0.41 40 16 0.44 26 0.40 42 16 0.43 26 0.41 y 0.41 0.40 0.40 0.40 0.38 0.41 0.40 0.40 0.41 0.36 0.40 0.40 0.36 0.39
2.多项式曲线拟合函数 多项式曲线拟合函数
调用格式: p=polyfit(x,y,n) [p,s]= polyfit(x,y,n) 说明:x,y为数据点,n为多项式阶数,返回 p为幂次从高到低的多项式系数向量p。矩阵s 用于生成预测值的误差估计。
多项式曲线拟合函数
例2:由离散数据 x0.1.2.3.4.5.6.7.8.91y.3.511.41.61.9.6.4.81.52拟 合出多项式。 程序: x=0:.1:1; y=[.3 .5 1 பைடு நூலகம்.4 1.6 1.9 .6 .4 .8 1.5 2] n=3; p=polyfit(x,y,n) xi=linspace(0,1,100); z=polyval(p,xi); %多项式求值 plot(x,y,’o’,xi,z,’k:’,x,y,’b’) legend(‘原始数据’,’3阶曲线’)

5.5曲线拟合

5.5曲线拟合

xi 1
yi
9
3
4
5
6
7
8
9
10
2
7
9
8
10
9
11
11
10
9
9
8
i1 xi 53, i1 xi2 381, i1 xi3 2999, i1 xi4 25317, i1 yi 76, i1 xi yi 489, i1 xi2 yi 3547
9 9 9
a0 a1 an
i 1 m
yi
x
xi
n 1
i 1 i
x yi
m i
n x 1 i
m i
n x 1 i
1
m i
2n x 1 i
m i
n x y 1 i i
1 a1 an ,法方程可写为AT Aa AT y。
1 x2 1 xm
2、线性拟合
当n 1时,H1
m
m i
, an
R,Pn x
k a x 0 k
H n ,使得
n k 0 k k i 2
a0 , a1 ,
, an
a0 , , an R
min
m i 1
ax
yi 。

0,i 0,1, i
m
m i 1 i m i m i 1
, n得到法方程:
x 1 i xi
2 m i m i 1 n x 1 i m
2 拟合曲线为 y a0 a1 x a2 x 。
例8. 已知函数表如下,试用一次多项式拟合数据。
xi 0.6
yi
1.3 1.64 1.8
2.1
2.3 2.44

第5章-1 曲线拟合(线性最小二乘法)讲解

第5章-1 曲线拟合(线性最小二乘法)讲解
a ∑xi2 +b ∑xi= ∑xi yi a ∑xi+bn=∑ yi
求所需系数,得到方程: 29.139a+17.9b=29.7076 17.9a+11b=18.25
通过全选主元高斯消去求得:
a=0.912605
b=0.174034
所以线性拟合曲线函数为: y=0.912605x+0.174034
练习2
根据下列数据求拟合曲线函数: y=ax2+b
x 19 25 31 38 44 y 19.0 32.3 49.0 73.3 97.8
∑xi4 a + ∑xi2 b = ∑xi 2yi
∑xi2 a + n b = ∑yi
7277699a+5327b=369321.5 5327a+5b=271.4
曲线拟合的最小二乘法
1.曲线拟合的意思
Y
.
.
.
.
y=ax+b y=ax2+bx+c
X
y=ax+b y=ax2+bx+c 就是未知函数的拟合曲线。
2最小二乘法原理
观测值与拟合曲线值误差的平方和为最小。
yi y0 y1 y2 y3 y4…… 观测值 y^i y^0 y^1 y^2 y^3 y^4…… 拟合曲线值
拟合曲线为: y=(-11x2-117x+56)/84
x
yHale Waihona Puke 1.61 1.641.63 1.66
1.6 1.63
1.67 1.7
1.64 1.67
1.63 1.66
1.61 1.64
1.66 1.69
1.59 1.62

第五章+曲线拟合

第五章+曲线拟合

T 2A (A x b) 0
AAx A b

上式是n阶方程组,称为原方程组对应的正规方程组(或正则方程 组,法方程组).故超定方程组的最小二乘解一定是相应的正规方 10 程组的解
5.3 多项式拟合
对于给定的一组数据 x , y i 0,1,, m ,求作n次多项式
n
n j a x j i i 0 j 0
m m 2 i 0
2 m n n k ak xik a x k i i 0 k 0 k 0
g xi 0
因此有
g xi ak xik 0
i i
n m
Pn x a0 a1 x an x ak x k
n k 0
n
使其满足
Q Pxi yi
i 0 m 2
n ak xik yi 2 min i 0 k 0
m
式(2)
这样的曲线拟合问题叫做多项式拟合问题。满足式(2) 的多项式 Pn x 叫做最小二乘拟合多项式。特别地,当 n=1时,一次多项式拟合又叫做直线拟合。
5.3 多项式拟合(续)
由于式(2)中 Q 可看作是 a0 , a1,, an 的多元函数, 所以上述拟合多项式的构造问题可归结为多元函数的 极值问题。由多元函数极值的必要条件知,a j 0,1,, n 满足 Q 2 a x y x 0 j 0,1, , n a
5.1 曲线拟合的概念(续)
插值法是寻求近似函数的方法之一,其与曲线拟 合法的区别: 插值法满足插值条件 Px y i 0,1,, m 插值法在一定程度上解决了由函数表求其近似表 达式的问题,但是其对于大数据量的情况下,其 存在 明显的缺陷: 运算量大 高次差值时存在龙格现象 分段低次插值表达式不统一

曲线拟合问题讲解

曲线拟合问题讲解

曲线拟合问题摘要本文首先对给定数据根据不同要求进行多次直线拟合,分别求得使所拟直线预期值的偏差平方和、绝对偏差总和和最大偏差最小的三类拟合直线,然后再求得二次曲线条件下满足三类要求的二次拟合曲线,最后运用其他曲线对给定数据进行拟合,得到吻合度最高的曲线。

针对问题一,构建线性回归方程,运用最小二乘法及lingo软件使得目标函数预期值的即拟合偏差平方和达到最小,从而得到拟合曲线^0.80310480.0123077iy x-=。

针对问题二,构建给定数据的线性回归方程,使得目标函数即预期值的绝对偏差综合最小,但由于绝对偏差较难处理,采用转化的思想将对绝对偏差的求解转化为对偏差平方和开方的求解,从而得到拟合曲线^0.650.575iy x=+。

针对问题三,构建给定数据的线性回归方程,运用lingo软件使得目标函数即预期值的最大偏差最小,从而得到拟合曲线^1.13 1.879iy x=-。

针对问题四,构建给定数据的二次方程,运用lingo软件分别求得三类不同条件下的最优拟合曲线,偏差平方和达到最小:^210.097030110.138534 1.425301i iy x x-=+,绝对偏差总和达到最小:^210.041481480.27111111i iy x x+=+,观测值与预测值最大偏差为最小:^210.025568180.76590910.6923295i iy x x-=+。

针对问题五,本文做出给定数据散点图,构建不同曲线类型进行拟合,得到2R即吻合度最高的曲线类型,运用Matlab软件求得该曲线类型的方程。

本文的特色在于利用图标直观表达拟合曲线,增强文章可靠性及真实性,并构建不同的曲线类型,得到吻合度最高的拟合曲线。

关键词:曲线拟合、线性回归、lingo1.问题的重述已知一个量y 依赖于另一个量x ,现收集有数据如下:(1)求拟合以上数据的直线a bx y +=。

目标为使y 的各个观察值同按直线关系所预期的值的偏差平方和为最小。

第五章曲线拟合PPT课件

第五章曲线拟合PPT课件
第5章 曲线拟合
华南师范大学数学科学学院 谢骊玲
曲线拟合的概念
在科学和工程试验中,经常产生一组数据 (x1,y1),…,(xN,yN),如果所有的数值 {xk}, {yk} 有多位有效数字精度,则能用多项式插值; 若数据的精度不高,或者有试验误差,则 只能使用多项式拟合。
问题:如何找到一个经过数据点附近(不总是穿过) 的最佳逼近表达式?
线性最小二乘法(续2)
矩阵形式:构造矩阵F
f1(x1)
f1(x2 )
F
f1(x3 )
f1(xN )
f2 (x1) f2 (x2 ) f2 (x3 )
f2 (xN )
fM (x1)
f
M
(
x2
)
f
M
(
x3
)
fM (xN )
f1(x1)

F'
f2(x1)
f1(x2) f2(x2)
f1(x3) f2(x3)
华南师范大学数学科学学院 谢骊玲
多项式拟合
使用函数集合{fj(x)=xj-1}, j=1,…, M+1作线性最小 二乘,则得到的拟合函数f(x)为M阶多项式 f(x)=c1+c2x+c3x2+…+cM+1xM
使用最小二乘多项式拟合非线性数据的方法简单有 效,但如果数据不具有多项式特性,则求出的曲线可 能产生大的振荡。这种现象称为多项式摆动,它在高 阶多项式情况下更容易发生。由于这个原因,一般很 少使用超过6阶的多项式,除非已知被拟合的曲线是 真实的多项式。
几何意义是:数据点到曲线的垂直距离平方和最小
华南师范大学数学科学学院 谢骊玲
最小二乘拟合直线
定理5.1 设{(xk, yk)}kN1有N个点,其中横坐标{xk}是

《曲线拟合》PPT课件

《曲线拟合》PPT课件
曲线拟合
Curve fitting
医学研究中X和Y的数量关系常常不是线性的,如毒 物剂量与动物死亡率,人的生长曲线,药物动力学等, 都不是线性的。如果用线性描述将丢失大量信息,甚至 得出错误结论。
此时可以用曲线直线化估计(Curve estimation) 或非线性回归(Nonlinear regression) 方法分析。
散点图辨析
预后指数Y
60 50 40 30 20 10
0 0
对数曲线 指数曲线
10 20 30 40 50 60 70 病人住院天数X
如果条件允许最好采用非线性回 归(Nonlinear Regression)拟合幂 函数曲线与指数函数曲线
注意绘制散点图,并结合专业知 识解释
采用SAS进行曲线拟合
①幂函数: Yˆ ea X b 或 ln(Yˆ) a bln(X )
②对数:
Yˆ a bln(X )
③指数函数: Yˆ eabX
或 ln(Yˆ) a bX
④多项式: Yˆ a b1X b2 X 2 bn X n
⑤logistic:

1/(1
eabX
)

ln[

/(1
Yˆ)]
-8.0196 -4.0604 0.0000 3.9012 7.6049 11.1860 -12.8898

7.23 12.62 15.77 18.01 19.75 21.16 22.36
23.40
残差平方
0.1380 0.1017 0.0053 0.0361 1.0921 0.0563 0.0566 0.1597
(lnX)2 Y2
2.5902 57.76 0.8396 151.29 0.2609 246.49 0.0498 331.24 0.0000 349.69 0.0332 457.96 0.1132 510.76 0.2209 566.44 4.1078 2671.63

曲线拟合

曲线拟合

可做变换
Y ln y ,
X
1 x
,
A ln a ,
B b
Y A BX 就是个线性问题
将( xi , yi ) 化为( X i ,Yi ) 后易解 A 和B
a eA , b B , P(x) a eb/x
二、 一般的最小二乘法
2
2
m
2 i
m
m
[S*(
xi
)
yi
]2
min
S ( x )
则 勒 让 德 多 项 式 为:
P~n ( x)
n! (2n)!
dn dx n
[(x2
1)n ]
勒 让 德 多 项 式 有 以 下 几个 重 要 性 质 :
性 质1: 正 交 性
1 1
Pn
(
x)Pm
(
x)d(
x)
0, 2
2n
1
,
m n; m n.
性 质2: 奇 偶 性 Pn ( x) (1)n Pn ( x) 性 质3: 递 推 关 系 (n 1)Pn1( x) (2n 1)xPn ( x) nPn1( x) 性 质4: 在 所 有 最 高 项 系 数 为1的n次 多 项 式 中 , 勒 让 德 多项 式
条件.
可以证明,如果0(x), 1(x),… n(x)C[a,b]在{xi}0m上满
足哈尔(Haar)条件,则法方程(5.6)的系数矩阵G非奇异.
用最小二乘法得到的法方程组(3. 6),其系数矩阵G是
病态的,但如果0(x), 1(x),… n(x)是关于点集 {xi}(i=0,
l, ..., m)带权(xi) (i=0,l,...,m) 正交的函数族,即
课堂练习

第5章曲线拟合

第5章曲线拟合

非线性最小二乘拟合 思想:非线性——线性化 例如 对拟合函数 y aeb / x 两边取对数
ln y ln a ln e
x 1/ x
b/ x
ln a b
x
y ln y, a ln a
y a bx

在某化学反应里,测得生成物浓度y%与时间t的 数据如下,试建立y关于t的经验公式
第五章 曲线拟合法
对于例5.1中可将这7个点在图中近似看在一条直线上,设 此直线方程为: (1.1)
r a bt
式中,a,b待定。 对于各个点(tj,rj)不一定正好落在直线上,其误差为: R j a bt j rj (j=1,2,……,7) 一般不全为零。我们希望选择 7a,b,使 7 Rj 的平方和尽可能 2 2 的小,即求a*,b*,使 R R(a, b) R j (a bt j rj )
0 (t) 1,
1 (t) t
a 0.011325
解正规方程组得 a 4.48072, b 1.0567
最小二乘解 y 0.011325e
2
1.0567
t
平方误差为
1 * 2 0.11631
第五章 曲线拟合
§ 5.2 超定方程的最小二乘解
设线性方程组
t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16 y=4.00, 6.40, 8.00, 8.80, 9.22, 9.50, 9.70, 9.86, 10.00, 10.20,10.32,10.42,10.50,10.55,10.58,10.60
解: 画出时间t与浓度y的散点图
(2)取得最小值问题:
7

第五章 曲线拟合

第五章  曲线拟合

)2
j 1
j 1 i0
对ak求偏导数(k=0,1…m)
ak
nm
2
(
ai
x
i j
j1 i0
y
j
)
x
k j
0
m
m
n
化简得
ai
xik j
y
j
x
k j
i0 j 1
j 1
n
n

x
k j
Sk
y
j
x
k j
Tk
j 1
j 1 m
aiSki Tk (k 0,1m)
i0
写成矩阵形式
S0 S1 S2 Sm S1 S2 S3 Sm1 S2 S3 S4 Sm2 Sm Sm1 Sm2 S mm
i1 j 1
i 1
用矩阵形式给出即: AT Ax ATb 法方程组

用最小二乘法解下列超定方程组的近似解
2x1 x2 1 8x1 4x2 0 2x1 x2 1 7x1 x2 8 4x1 3
解: A=
2 1 8 4 2 1 7 1 4 0
2 1
AT A
如何衡量接近程度?
最小二乘原理
一、什么是最小二乘原理
是衡量接近程度的一种方法
x x0 x1 xn 已知 y y0 y1 yn
设p(x) a0 a1x an xn
n
n
求a0 , a1,an 使 Ri2 (P(xi ) yi )2 最小。
io
i0
用最小二乘原理进行曲线拟合的方法称为最小二乘法。
这里(m<n),适当的选取 a0 , a`,am 使得
n
(a0 , a1,am ) [ p(x j ) y j ]2 为最小值 j 1

实验五曲线拟合

实验五曲线拟合
由此构造一个简单易算的近似函数 p(x) f(x),满足条件 p(xi) = f(xi) (i = 0, … n),(插值条件)
这里的 p(x) 称为f(x) 的插值函数;
构造插值函数的方法为插值法。
曲线拟合
定义: 当精确函数 y = f(x) 非常复杂或未知时,在一系列节点x0 … xn 处,测得函数值 y0 , … ,yn ,由此构造一个简单易 算的近似函 数 p(x) f(x),
2求曲线拟合函数的标准?1用各点误差绝对值的和表示?2用各点误差按绝对值的最大值表示?3用各点误差的平方和表示11miiirpxy????1maxiiimrpxy?????221miiirpxy????而只要pxi??yi总体上尽可能小最小二乘拟合?式中r2称为均方误差
实验五 曲线拟合
实验内容
1、理解曲线拟合的最小二乘法原理; 2、用MATLAB实现最小二乘法。
偏差平方的均值的算术平方根,越接近0 越好
曲线拟合好坏如何评价
首要指标是目标函数误差最小(拟合度 最大);
其次是应考虑关键点的吻合,这些关键 点包括:初始点(有时是原点)、拐点、 峰值点、极值点、中间点、渐近点、终 值点等,在这些关键点上,数据观察值 点与函数值点应尽可能一致;
再次是拟合的模型应尽可能简单(模型 的形式简单,参数数少)。
“Fitting”按钮
曲线拟合
点击“Fitting”按钮, 弹出“Fitting”窗口;
点击“New fit”按 钮,可修改拟合项目 名称“Fit name”, 通过“Data set”下 拉菜单选择数据集, 然后通过下拉菜单 “Type of fit”选择 拟合曲线的类型。
SSE
The sum of squares due to error. This statistic measures the deviation of the responses from the fitted values of the responses. A value closer to 0 indicates a better fit.

5 曲线拟合

5 曲线拟合


Q x1 a 11 Q a 12 x2 2 a 1n Q xn
T T
a 21 a 22 a2n

n a 1 j x j b1 j1 am1 0 n a m 2 a 2 j x j b2 0 j1 0 amn n a m j x j bm j1
P
i0
n
2 m
( x i ) f ( x i ) 达 到 最 小
多 项 式 拟 合 (用 低 次 多 项 式 拟 合 大 量 数 据 )
由 于 y Pm ( x )不 一 定 经 过 所 有 已 知 点 ( x i, f ( x i )), 故 把 它 们 代 入 得 矛 盾 方 程 组 a 0 , a 1 , , a m 为 未 知 量 ): (以 a 0 a1 x 0 a m x 0 a 0 a1 x1 a m x1
T T
§6.2 多项式拟合
设 有 连 续 函 数 y f ( x )的 一 组 大 量 数 据 f ( xi ) xi x0 f ( x0 ) x1 f ( x1 ) xn f ( xn )
求 一 个 次 数 n的 多 项 式 ( 主 要 是 求 系 数 ) Pm ( x ) a 0 a 1 x a m x m n ) (m 使Q

i1
m
2 i


m
i1
a ij x j b i ( 6 .2) j1
n
2
达 最 小 , 则 称 该 x1 , x 2 , , x n为 矛 盾 方 程 组 的 最 小 二 乘 解 , 它是一种最优近似解. 最小二乘解的求法 : 设 x 1 , x 2 , , x n是 最 小 二 乘 解 , 则 由 高 数 知 , 多 元 函 数 Q Q ( x 1 , x 2 , , x n )必 在 该 点 偏 导 数 为 零 :

第五讲 曲线拟合

第五讲 曲线拟合

k 0, 1, 2, , n
函数逼近就是从整体上使误差尽量的小一些
如引例中就是用一条直线(一次多项式)从整体上逼近弹簧受 力与伸长量之间的函数关系(并不要求这条直线经过所有结点, 事实上也没有这样的直线能够实现这一点。)
§1 离散最小二乘的曲线拟合问题
f(x)为定义在区间[a,b]上的连续函数, xi
第五讲 曲线拟合与函数逼近
引例:Hooker定律 设F表示弹簧受力,x表示弹簧伸长量;经过试验得到下 面的一组数据,试确定弹簧受力与伸长量的关系
x(cm)
1
2 3.9
4
7
9
12
13
15
17
F ( kg) 1.5
6.6 11.7 15.6 18.8 19.6 20.6 21.1
25
20
15
F
10 5
30
0 0 2 4 6 8 x 10 12 14 16 18
25
20
15
F
10
5
0
0
2
4
6
8 x
10
12
14
16
18
给出一组离散点,确定一个简单函数近似原函数,多项式 插值提供了一种处理手段。
然而,在实际问题中,给出的结点处的离散数据或多或少的 都带有误差,插值要求多项式严格通过这些插值结点,无形 之中就将这些点处的误差保留下来; 尤其是当结点数目较多时,误差可能累积起来,从而对最终 近似效果产生较大影响(这正是高次插值产生Runge现象的 一个主要原因); 此外,即便给出的结点处的离散数据较为精确,但由于插值 条件的限制,也导致多项式插值仅仅在处理结点附近的函数 值近似问题时较为有效,即插值的局部近似效果好,整体逼 近效果差。

韦承勋——曲线拟合_最小二乘法

韦承勋——曲线拟合_最小二乘法

⏹ 多项式曲线拟合曲线拟合:推求一个解析函数y=f(x)使其通过或近似通过有限序列的资料点(xi ,yi),通常用多项式函数通过最小二乘法求得此拟合函数。

当拟合函数为多项式()0nkk k f x a x ==∑时,称为多项式拟合,特别地,当n=1时,称为线性拟合或直线拟合。

⏹ 曲线拟合的最小二乘法数据点(),i i x y ()1,2,3,,i m = 的误差为()i i i r f x y =-()1,2,3,,i m = ,定义误差向量()123,,,,Tm r r r r r = .度量拟合曲线与数据点误差大小的方法:(1) 误差向量r 的∞-范数,即1m ax i i mr ≤≤; (2) 误差向量r 的1-范数,即1mi i r =∑;(3) 误差向量r 的2-范数,即21mi i r =∑.最小二乘法中常采用第三中方法来度量误差的大小数据拟合的具体作法是:对给定数据(),i i x y ()1,2,3,,i m = ,在取定的函数类Φ中,求()f x ∈Φ,使误差21mi i r =∑最小,即()2221110min m mmn ki iik i i i i i k I r f x y a x y ====⎡⎤⎡⎤==-=-=⎢⎥⎣⎦⎣⎦∑∑∑∑. 式中I 称为误差平方和。

从几何意义上讲,就是寻求与给定点(),i i x y ()1,2,3,,i m = 的距离平方和为最小的曲线 ()y f x =(图1)。

函数()f x 称为拟合函数或最小二乘解,求拟合函数()f x 的方法称为曲线拟合的最小二乘法。

图 1211mnkk i i i k I a x y ==⎛⎫=- ⎪⎝⎭∑∑为12,,,n a a a 的多元函数,因此上述问题即为求()123,,,,n I I a a a a = 的极值问题。

由多元函数求极值的必要条件,得1020,0,1,2,mn kj k i i i i k j Ia x y x j n a ==∂⎛⎫=-== ⎪∂⎝⎭∑∑即011,0,1,2,nm mj k ji k i j k i i x a x y j n +===⎛⎫== ⎪⎝⎭∑∑∑构成线性方程组,用矩阵表示为012111101231111112342211111221111m mmmni iii i i i i m mmm n i iii i i i i m mmm n i iii i i i i n mmmmn n n n iiii i i i i x xxx a x xxx a a x xx x a x xx x ====+====+====++====⎡⎤⎢⎥⎢⎥⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎢⎥⎢⎥⎢⎥⎣⎦∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑11211m i i mi i i mi i i m n ii i y x y x y x y ====⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦∑∑∑∑ . 上述方程组称为正规方程组。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

5.3 多项式拟合(续)
由于式(2)中 Q 可看作是 a0 , a1 ,, an 的多元函数, 所以上述拟合多项式的构造问题可归结为多元函数的 极值问题。由多元函数极值的必要条件知,a j 0,1,, n 满足 Q 2 a x y x 0 j 0,1, , n a
5.4 最小二乘拟合多项式的存在唯一性
定理:设点 x0 , x1 ,, xm 互异,则法方程组式(3)之解 存在而且唯一。 证:由Cramer法则知,只需证明法方程组式(3)的系 数矩阵非奇异,即可证得其解存在唯一解。用反证 法,假设法方程组式(3)的系数矩阵奇异,考虑其对 应的齐次线性方程组 m 1 x x
一.定义 若m>n时,方程数大于未知数个数,称为超定方程组,通常 无解。
8
5.2 超定方程组的解
因超定方程组无解,故偏差(残量)
i , m )
不全为零.若能找到一组 x1 , x 2 , , x n , 使偏差平方和 Q i a ij x j bi (6.2) i 1 i 1 j 1 达最小,则称该 x1 , x 2 , , x n为超定方程组的最小二乘解 ,
i i
n m
Pn x a0 a1 x an x ak x k
n k 0
n
使其满足
Q P xi yi
i 0 m 2
n ak xik yi 2 min i 0 k 0
m
式(2)
这样的曲线拟合问题叫做多项式拟合问题。满足式(2) 的多项式 Pn x 叫做最小二乘拟合多项式。特别地,当 n=1时,一次多项式拟合又叫做直线拟合。
n
n j a x j i i 0 j 0
m m 2 i 0
2 m n n k ak xik a x k i k 0 i 0 k 0
g xi 0
因此有
g xi ak xik 0
5.3 多项式拟合(续)
例:测得温度 t i 时铜导线的电阻 R i 如下表,求电 阻R与温度t的近似函数表达式。
i
ti
Ri
5.3 多项式拟合(续)
解:



可以看出,分布形状近似为一条直线,所以,拟合 函数取为一次式 R a bt 。
5.3 多项式拟合(续)
所以法方程组为:
i 0

m
n i
5.4 最小二乘拟合多项式的存在唯一性(续)
可表示为
m j k xi ak 0 k 0 i 0
n
j 0,1,, n
式(4)
该奇次线性方程组必存在非零解。由式(4)的一组 非零解 ak k 0,1,, n 构造一个n次多项式
m xi i 0 m x n i i 0

i 0 m
m
i
x
i 0
2 i

x
i 0
m
n 1 i
a0 0 m xin 1 a1 0 i 0 an 0 m xi2 n i 0
y
y P x











o
x
5.1 曲线拟合的概念(续)
本章主要介绍曲线拟合中最为常用的最小二乘法 的基本原理,与插值法类似,拟合函数的类型可有不 同的选择,主要讨论多项式拟合问题的求解方法。
5.1 曲线拟合的概念(续)
曲线拟合问题就是:对给定的数据 x , y i 0,1,, m , 在取定的函数类 中,求 Px ,使偏差 r Px y i 0,1,, m 的平方和最小,即 m m 式(1) 2 r P x y 2 min
T 2A (A x b) 0 T T A Ax A b
上式是n阶方程组,称为原方程组对应的正规方程组(或正则方程 组,法方程组).故超定方程组的最小二乘解一定是相应的正规方 10 程组的解
5.3 多项式拟合
对于给定的一组数据 x , y i 0,1,, m ,求作n次多项式
数关系
y f x
,当然求得的只是 y Px 的近似表达式。
确定y与x之间的近似表达式 方法一 插值。几何上,插值曲线经过所有点 方法二 曲线拟合。求一连续曲线 y p ( x ), 使得 误差Q
[ p( x i ) y i ] 达到最小。
2 i0
g x ak x k
k 0 n
则由式(4)可得:
5.4 最小二乘拟合多项式的存在唯一性(续)
n m j k m n n a j xi ak a j ak xi j k j 0 i 0 j 0 k 0 k 0 i 0
k 0
n k k
n
i 0,1,, m
即n次多项式 g x a x 有m+1个互异零点 xi i 0,1,, m 而m+1>n,与代数学基本定理矛盾,故假设成立, 因此法方程组式(3)必存在唯一解。
k 0
5.4 最小二乘拟合多项式的存在唯一性(续)
注意,定理中点 xi i 0,1,, m 互异的要求,只是 充分条件,而非必要条件。在实际应用中,一般是 m>>n,此时,即使有些点 xi 相同,定理的结论往 往仍然成立。
n
5.1 曲线拟合的概念(续)
插值法是寻求近似函数的方法之一,其与曲线拟 合法的区别: 插值法满足插值条件 Px y i 0,1,, m 插值法在一定程度上解决了由函数表求其近似表 达式的问题,但是其对于大数据量的情况下,其 存在 明显的缺陷: 运算量大 高次差值时存在龙格现象 分段低次插值表达式不统一
m m n i
式(3)
称之为法方程组或正规方程组。法方程组的一个明 显特点是其系数矩阵为对称的,如果它非奇异,则 法方程组式(3)必存在唯一的一组解。
5.3 多项式拟合(续)
从式(3)中求出
ak k 0,1,, n ,从而可得多项式
n
Pn x ak x k
k 0
可以证明,上式 Pn x 确实使式(2)成立,即 Pn x 为所求的最小二乘拟合多项式。
6 1 6 ti i 0 6 Ri ti a i 0 i 0 b 6 6 2 t i ti Ri i 0 i 0
6

计算得: 解得:
7 245.3 a 565.5 245.3 9325.83 b 20049.445
i i
5.1 曲线拟合的概念(续)
通常实验数据 x , y i 0,1,, m 是带有误差的,如果 要求所得曲线精确无误通过的通过数据点,就会使曲 线保留实验误差,这是我们所不希望的。 因此,如何从函数表出发,寻找一个简单合理的 的函数近似表达式来拟合给定的一组数据,使得近似 曲线能反映数据的基本趋势,这正是我们下面要讨论 的曲线拟合方法。
a 70.572
b 0.291
可得R与t的拟合直线为 R 70.572 0.291t 。
5.3 多项式拟合(续)
R 70.572 0.291t
利用已有函数关系式,可以预测不同温度时,铜导 线的电阻值。例如,由R=0可得t=242.5;当温度为 t=242.5度时,铜导线R=0,即此时铜导线无电阻。
j
m
n
j
i 0
k 0
k k i
j
i
i

m m j k xi ak xi j yi k 0 i 0 i 0 n
j 0,1,, n
这是关于系数 a0 , a1 ,, an 的线性方程组,可写成矩阵 形式:
5.3 多项式拟合(续)
m 1 m xi i 0 m x n i i 0 m xi x yi i 0 i 0 a0 i 0 m m m 2 n 1 xi yi xi xi a1 i 0 i 0 i 0 an m m m 2n n 1 n x x x i i i yi i 0 i 0 i 0
m 2 m n 2
它是一种最优近似解 . 最小二乘解的求法 : 设 x1 , x 2 , , x n是最小二乘解 , 则由高数知,多元函数 Q Q ( x1 , x 2 , , x n )必在该点偏导数为零:
9
5.2 超定方程组的解
Q x 1 a11 Q a12 x2 2 a 1n Q x n a21 a22 a2 n n a1 j x j b1 j 1 0 am 1 n a x b am 2 2 j j 2 0 j 1 0 amn n amj x j bm j 1
5.4 最小二乘拟合多项式的存在唯一性(续)
上机作业: 用最小二乘曲线拟合法完成实习题5:2的数据拟 合,并与插值法计算的近似结果进行比较:比较节 点处两种方法的近似函数值有何不同。
第五章 曲线拟合
5.1
曲线拟合的概念 5.2 最小二乘法的基本原理 5.3 多项式拟合 5.4 最小二乘拟合多项式的存在唯一性
5.1 曲线拟合的概念
在科学实验和统计研究中,往往要从大量实验数 据 x , y i 0,1,, m 中去寻求自变量x和因变量y之间的函
相关文档
最新文档