昆明理工数值分析大课后复习最小二乘法
昆明理工大学—数值分析各年考试题及答案
昆明理工大学数值分析考试题（07）一．填空（每空3分，共30分）1． 设A 0.231x =是真值0.229T x =的近似值，则Ax 有 位有效数字。
2． 若74()631f x x x x =+++，则017[2,2,...2]f = ，018[2,2,...2]f = 。
3． A=1031⎡⎤⎢⎥-⎣⎦,则1A = ；A ∞= ；2A =2()cond A = 。
4． 求方程()x f x =根的牛顿迭代格式是 。
5．设105%x =±，则求函数()f x =的相对误差限为 。
6．A=2101202a a ⎛⎫ ⎪ ⎪ ⎪⎝⎭,为使其可分解为TL L （L 为下三角阵，主对角线元素>0），a 的取值范围应为 。
7．用最小二乘法拟合三点A(0,1),B(1,3),C(2,2)的直线是 。
（注意：以上填空题答案标明题号答在答题纸上，答在试卷上的不给予评分。
）二．推导与计算（一）对下表构造f(x)的不超过3次的插值多项式，并建立插值误差公式。
（12分）（二）已知()x x =Φ和()x 'Φ满足∣()x 'Φ-3∣<1。
请利用()x Φ构造一个收敛的简单迭代函数()x ψ，使1(),0,1,......k k x x k +=ψ=收敛。
（8分）（三）利用复化梯形公式计算21x I e dx -=⎰，使其误差限为60.510-⨯，应将区间[0，1]等份。
（8分）（四）设A= 1001005a b b a ⎡⎤⎢⎥⎢⎥⎢⎥⎣⎦，detA ≠0，推导用a ，b 表示解方程组AX=f 的Seidel(G-S) 迭代法收敛的充分必要条件。
（10分）（五）确定节点及系数，建立如下 GAUSS 型求积公式111220()()dx A f x A f x ≈+⎰。
（10分）（六）对微分方程初值问题'00(,)()y f x y y x y ⎧=⎨=⎩（１） 用数值积分法推导如下数值算法：1111(4)3n n n n n hy y f f f +-+-=+++，其中(,)i i i f f x y =，(1,,1)i n n n =-+。
数值分析简明教程课后习题答案(第二版)
0.1算法1、 （p.11，题1）用二分法求方程013=--x x 在[1,2]内的近似根，要求误差不超过10-3.【解】 由二分法的误差估计式311*10212||-++=≤=-≤-εk k k a b x x ，得到100021≥+k .两端取自然对数得96.812ln 10ln 3≈-≥k ，因此取9=k ，即至少需2、（p.11，题2） 证明方程210)(-+=x e x f x在区间[0,1]内有唯一个实根；使用二分法求这一实根，要求误差不超过21021-⨯。
【解】 由于210)(-+=x e x f x，则)(x f 在区间[0,1]上连续，且012010)0(0<-=-⨯+=e f ，082110)1(1>+=-⨯+=e e f ，即0)1()0(<⋅f f ，由连续函数的介值定理知，)(x f 在区间[0,1]上至少有一个零点.又010)('>+=x e x f ，即)(x f 在区间[0,1]上是单调的，故)(x f 在区间[0,1]内有唯一实根.由二分法的误差估计式211*1021212||-++⨯=≤=-≤-εk k k a b x x ，得到1002≥k .两端取自然对数得6438.63219.322ln 10ln 2=⨯≈≥k ，因此取7=k ，即至少需二分0.2误差1．（p.12，题8）已知e=2.71828…，试问其近似值7.21=x ，71.22=x ，x 2=2.71，718.23=x 各有几位有效数字？并给出它们的相对误差限。
【解】有效数字：因为11102105.001828.0||-⨯=<=- x e ，所以7.21=x 有两位有效数字； 因为12102105.000828.0||-⨯=<=- x e ，所以71.22=x 亦有两位有效数字；因为3310210005.000028.0||-⨯=<=- x e ，所以718.23=x 有四位有效数字；%85.17.205.0||111=<-=x x e r ε； %85.171.205.0||222=<-=x x e r ε； %0184.0718.20005.0||333=<-=x x e r ε。
数值分析16(最小二乘法2)
14/46
1范数意义下的残差最小
Sparse and Redundant Representations:
参考文献:
ห้องสมุดไป่ตู้
From Theory to Applications in Signal and Image Processing
超定方程组
3/46
13:32
离散数据的线性拟合 x x1 x2 f(x ) y1 y2
· · · · · · · · · · xm · · · · · · · · · · ym
求拟合函数: ( x ) a00 ( x) a11 ( x) ann ( x)
y1 0 ( x1 ) 1 ( x1 ) n ( x1 ) a0 y2 0 ( xm ) 1 ( xm ) n ( xm ) an y m
( u1 , vk ) ( u1 , u1 )
u1
uk -1 +uk
23/46
Gram-Schmidt正交化的矩阵编码
v1 u1 v2 v3 vk
( u1 , vk ) ( u1 , u1 )
1 k u1 ( ukk1 , uk 1 ) uk -1 +uk
x
13:32
2
进一步地如果AT A可逆, 则x ( AT A)1 AT b
5/46
最小二乘拟合问题研究包括:
模型的选取
存在唯一性 最小二乘解的计算
13:32
6/46
广义矩阵(Ax=b统一的理论解释)
数值分析上机实验最小二乘法
---------------------------------------------------------------最新资料推荐------------------------------------------------------数值分析上机实验最小二乘法数值分析实验报告五最小二乘法一、数值分析实验报告五最小二乘法一、题目设有如下数据题目设有如下数据 xj -3 -2 -1 0 1 2 3 -3 -2 -1 0 1 2 3 ( )jf x -1.76 0.42 1.2 1.34 1.43 2.25 4.38 -1.76 0.42 1.2 1.34 1.43 2.25 4.38 用三次多项式拟合这组数据，并绘出图形。
二、用三次多项式拟合这组数据，并绘出图形。
二、方法最小二t(f,[xx(1),xx(n)]) 四、结果 save and run 之后：请输入插值节点 as [x1,x2...] [-3 -2 -1 0 1 2 3] 请输入插值节点处对应的函数值 as [f1,f2...] [-1.76 0.42 1.2 1.34 1.43 2.25 4.38] 请输入要求的插值次数m =3 f = 133/100+121469856021/35184372088832*x-8042142191733/450359结果 save and run 之后：请输入插值节点 as [x1,x2...] [-3 -2 -1 0 1 2 3] 请输入插值节点处对应的函数值 as [f1,f2...] [-1.76 0.42 1.2 1.34 1.43 2.25 4.38] 请输入要求的插值次数m =3 f = 133/100+121469856021/35184372088832*x-8042142191733/4503599 627370496*x+1020815915537309/9007199254740992*x9627370496*x+1020815915537309/9007199254740992*x五、拓展：1 / 2最小二乘法计算方法比较简单，是实际中常用的一种方法，但是必须经计算机来实现，如果要保证精度则需要对大量数据进行拟合，计算量很大。
数值分析 最小二乘a
整理并代入表中的数据得：
2 y a ( x ) a ( xi ) a 0 i 1 i 1 i 1 i 1 6 6 6 6 2 3 x y x a ( xi ) a ( xi ) a 0 i 1 i 1 i 1 i 1 6 6 6 6 4 xi2 y xi2 a ( x3 i ) a ( xi ) a 0 i 1 i 1 i 1 i 1
(1)(,g)=(g,);
(2)(c,g)=c(,g); (3)(1+2,g)=(1,g)+(2,g);
若(,g)=0,称(x)与g(x)正交 ,记为g .
利用内积可以定义函数的平方模
f
2
(f, f)
b
a
f 2 ( x)dx
函数的平方模满 足 (1) 20,而且2=0(x)=0;
x
x ax b m xi 2 求 a 和 b 使得 (a, b) (ax b yi ) 最小。 i i 1
方案一：设 y P ( x )
it easy! We But Take hey, the system ofjust 线性化 /* linearization */：令 Y 1 , X 1 ，则
i 1
[
]
2
2
j 0
n
m
aj
x
i 1
jk i
m
i 1
m
yi xik
记 bk x , ck yi xik
i 1 k i i 1
m
b0 0 . . . b n 0
数值计算方法最小二乘法
数值计算方法最小二乘法最小二乘法，这个名字听上去挺严肃的，实际上它的作用可大了，简直是数据分析的小魔法。
想象一下，你在开车，路上有个小伙伴总是在给你指路，结果他指的方向总是让你偏离目标，心里那个急啊，简直想把他“丢”到窗外去。
可是，最小二乘法就是在帮助你找出那个最靠谱的路线，省得你每次都得绕远路。
说到最小二乘法，它的核心思想就像是“找最小的差距”。
你有没有想过，为什么你总是对着一堆数据发愁？其实就像拼图一样，有些数据就像拼图的边缘，而最小二乘法就是帮你找到那几块最适合的，让整个画面更完整。
想象一下，数据就像是跳跃的小猴子，东奔西跑，最小二乘法就是个聪明的猎手，能把这些猴子都抓到一起，形成一个完美的画面。
最小二乘法是怎么工作的呢？好比你在找人合影，大家的身高都不一样，你想把所有人都照得美美的。
最小二乘法就像是个高个子的摄影师，他会站在一个合适的角度，确保每个人都在最佳的光线下。
通过调整每个人的位置，减少那些因角度不佳造成的“失真”，最终拍出一张人人满意的合照。
在实际应用中，这个方法简直是无处不在。
你可以想象一下，当你在听一首歌，旋律时而高亢，时而低沉，那些音符有时候就像是散落的星星。
最小二乘法就像一个调音师，帮你把这些音符都调整到一个和谐的旋律，听起来更动听，打个比方，就像把一锅乱炖的菜，调成了一道美味的汤。
最小二乘法在科学研究中也发挥着重要的作用。
比如说，科学家们想要测量地球的温度变化，就得用到这些数据。
最小二乘法就像是一位智慧的老者，能通过历史的数据，预测未来的变化，简直厉害得让人瞠目结舌。
学会最小二乘法并不是一朝一夕的事儿。
你得对数据有一定的敏感度，就像一位优秀的厨师，能够根据食材的特点，调配出不同的味道。
最小二乘法也需要你不断尝试和练习，才能在数据的海洋中游刃有余。
不过，最小二乘法的魅力不仅在于它的应用，还在于它带来的思维方式。
它教会我们如何从复杂中找出简单的规律，像是在找宝藏一样，挖掘出数据背后的故事。
昆明理工大学—数值分析各年考试题及答案
XX 理工大学数值分析考试题〔07〕一．填空〔每空3分，共30分〕1． 设A 0.231x =是真值0.229T x =的近似值，则Ax 有 位有效数字。
2． 若74()631f x x x x =+++，则017[2,2,...2]f =，018[2,2,...2]f =。
3． A=1031⎡⎤⎢⎥-⎣⎦,则1A =；A ∞=；2A =2()cond A =。
4． 求方程()x f x =根的牛顿迭代格式是 。
5．设105%x =±，则求函数()f x =的相对误差限为。
6．A=2101202a a ⎛⎫ ⎪ ⎪ ⎪⎝⎭,为使其可分解为TL L 〔L 为下三角阵，主对角线元素>0〕，a 的取值X围应为。
7．用最小二乘法拟合三点A(0,1),B(1,3),C(2,2)的直线是。
〔注意：以上填空题答案标明题号答在答题纸上，答在试卷上的不给予评分。
〕二．推导与计算〔一〕对下表构造f(x)的不超过3次的插值多项式，并建立插值误差公式。
〔12分〕〔二〕已知()x x =Φ和()x 'Φ满足∣()x 'Φ-3∣<1。
请利用()x Φ构造一个收敛的简单迭代函数()x ψ，使1(),0,1,......k k x x k +=ψ=收敛。
〔8分〕〔三〕利用复化梯形公式计算21x I e dx -=⎰，使其误差限为60.510-⨯，应将区间[0，1]等份。
〔8分〕〔四〕设A=1001005a b b a ⎡⎤⎢⎥⎢⎥⎢⎥⎣⎦，detA ≠0，推导用a ，b 表示解方程组AX=f 的Seidel(G-S) 迭代法收敛的充分必要条件。
〔10分〕〔五〕确定节点与系数，建立如下 GAUSS 型求积公式111220()()A f x A f x ≈+⎰。
〔10分〕〔六〕对微分方程初值问题'00(,)()y f x y y x y ⎧=⎨=⎩（１） 用数值积分法推导如下数值算法：1111(4)3n n n n n hy y f f f +-+-=+++，其中(,)i i i f f x y =，(1,,1)i n n n =-+。
数值分析之最小二乘法与最佳一致逼近
就要求矩阵 G非奇异，
而 0 ( x), 1 ( x), , n ( x)在 [a, b]上线性无关不能推出 矩阵 G非奇异，必须加上另外的条件.
8
定义10
设 0 ( x), 1 ( x), , n ( x) [a, b]的任意线
性组合在点集 {xi , i 0,1,, m}(m n) 上至多只有 n 个
只在一组离散点集 {xi , i 0,1,, m} 上给定，这就是科
学实验中经常见到的实验数据 {( xi , yi ), i 0,1,, m}的
曲线拟合.
1
问题为利用 yi f ( xi ), i 0,1,, m, 求出一个函数
y S * ( x) 与所给数据{( xi , yi ), i 0,1,, m} 拟合.
13
令 S1 ( x) a0 a1 x, 这里 m 4, n 1, 0 ( x) 1, 1 ( x) x, 故
( 0 , 0 ) i 8,
i 0 4
( 0 , 1 ) (1 , 0 ) i xi 22,
i 0
4
(1 , 1 ) i xi2 74,
这样就变成了线性模型 .
19
例2
设数据 ( xi , yi )(i 0,1,2,3,4) 由表3-1给出，
表中第4行为 ln yi yi ,通过描点可以看出数学模型为 及 b. y aebx , 用最小二乘法确定 a
表3 1 i xi yi 0 1.00 5.10 1 1.25 5.79 2 1.50 6.53 3 1.75 7.45 4 2.00 8.46
4
S ( x ) 的一般表达式为线性形式.
若 k ( x)是 k 次多项式，S ( x ) 就是 n 次多项式. 为了使问题的提法更有一般性，通常在最小二乘法中 S ( x) a00 ( x) a11 ( x) ann ( x) (n m) 考虑加权平方和
昆明理工大学2017级研究生数值分析A卷
昆明理工大学2017级硕士研究生试卷(A 卷)科目： 数值分析 考试时间： 出题教师： 集体 考生姓名： 专业： 学号：不予计分；可带计算器。
一、 填空题（每空2分，共40分）1．设0x >, x 的相对误差为2%, 则ln x 的误差为 。
2．设32()2+31f x x x =-在[]1,1-上的最佳二次一致逼近多项式为 ；()f x =[]0,1上的一次最佳平方逼近多项式为 。
3．求积公式111()[(1)4(0)(1)]3f x dx f f f -≈-++⎰的代数精度为 , 余项为 。
4．线性方程组Ax b =的Jacobi 迭代法收敛,则迭代矩阵为 ；迭代公式(1)()0.90+,0,1,2,0.20.4k k x x b k +⎛⎫== ⎪⎝⎭的迭代矩阵的谱半径()=B ρ , 对应的1||||=B , 该迭代公式的敛散性 。
（收敛或发散） 5．设1436A ⎡⎤=⎢⎥⎣⎦, 其条件数1()Cond A = , 2||||A = , ||[36]||∞= 。
6．如果 , 则可通过高斯消去法将Ax b =约化为等价的上三角线性方程组。
7．求方程10xxe -=的根的牛顿法公式是 ,其收敛阶= ,弦截法迭代格式是 ,其收敛阶= 。
8．过点''(0)1,(0)0,(1)2,(1)0f f f f ====埃尔米特插值多项式为 。
9．设54()31f x x x x =+++, 均差012345[2,2,2,2,2,2]f = 。
10．对矩阵412131215A ⎛⎫ ⎪= ⎪ ⎪⎝⎭作平方根分解T A LL =，其中L = __。
二、计算题（每题10分，共50分）1．已知函数值(2)4,(1)3,(0)2,(1)0,(2)4f f f f f -=-=-===，试用抛物线插值计算(0.4)f 和(0.5)f 的值, 并写出余项表达式。
2．给出定积分10x I e dx =⎰（1）利用复合梯形公式计算上述积分值，问区间[0,1]应分成多少等份才能使其余项不超过51102-⨯？（2）若改用复合辛普森公式，要达到同样的精度区间[0,1]应分成多少等分？ 3. 设1001005a A b b a ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦，det 0A ≠，用,a b 表示解线性方程组Ax f =的高斯-塞德尔迭代 收敛的充分必要条件； 当=2,=1a b ,[123]Tf =时给出超松弛迭代 (SOR) 的分量形式。
(完整版)数值分析课后习题答案
第一章绪论习题一1.设x>0,x*的相对误差为δ，求f(x)=ln x的误差限。
解：求lnx的误差极限就是求f(x)=lnx的误差限，由公式(1.2.4)有已知x*的相对误差满足，而，故即2.下列各数都是经过四舍五入得到的近似值，试指出它们有几位有效数字，并给出其误差限与相对误差限。
解：直接根据定义和式(1.2.2)(1.2.3)则得有5位有效数字，其误差限，相对误差限有2位有效数字，有5位有效数字，3.下列公式如何才比较准确？（1）（2）解：要使计算较准确，主要是避免两相近数相减，故应变换所给公式。
（1）（2）4.近似数x*=0.0310,是 3 位有数数字。
5.计算取，利用：式计算误差最小。
四个选项：第二、三章插值与函数逼近习题二、三1. 给定的数值表用线性插值与二次插值计算ln0.54的近似值并估计误差限. 解：仍可使用n=1及n=2的Lagrange插值或Newton插值,并应用误差估计（5.8）。
线性插值时，用0.5及0.6两点，用Newton插值误差限，因，故二次插值时，用0.5，0.6，0.7三点，作二次Newton插值误差限，故2. 在-4≤x≤4上给出的等距节点函数表，若用二次插值法求的近似值，要使误差不超过，函数表的步长h 应取多少?解：用误差估计式（5.8），令因得3. 若，求和.解：由均差与导数关系于是4. 若互异，求的值，这里p≤n+1.解：，由均差对称性可知当有而当P＝n＋1时于是得5. 求证.解：解：只要按差分定义直接展开得6. 已知的函数表求出三次Newton均差插值多项式，计算f(0.23)的近似值并用均差的余项表达式估计误差.解：根据给定函数表构造均差表由式(5.14)当n=3时得Newton均差插值多项式N3(x)=1.0067x+0.08367x(x-0.2)+0.17400x(x-0.2)(x-0.3) 由此可得f(0.23) N3(0.23)=0.23203由余项表达式(5.15)可得由于7. 给定f(x)=cosx的函数表用Newton等距插值公式计算cos 0.048及cos 0.566的近似值并估计误差解：先构造差分表计算，用n=4得Newton前插公式误差估计由公式（5.17）得其中计算时用Newton后插公式（5.18)误差估计由公式（5.19）得这里仍为0.5658．求一个次数不高于四次的多项式p(x),使它满足解：这种题目可以有很多方法去做，但应以简单为宜。
数值分析 第七章最小二乘法
对于有些不能化为多项式形式的函数,照此矩阵形式,计算较 简单.
9
例:给出数据
xi yi
0.1
0.2
0.3
0.4
0. 5
0.6
0.172 0.323 0.484 0.690 1.000 1.579
现在用最小二乘法求拟合曲线 作变换 z =
y=
cx 1 + ax + bx2
1 1 a b 1 1 = + + x = a0 + a1 + a2 x , Φ = span{ ,1, x} y cx c c x x 1 10 5 5 = 5.814 2 10 5 a0 3 2 3 r 0.172 ur T 1 1 1 1 1 z = 3.096 A = 1 C = a1 M a 0.1 0.2 0.3 0.4 0.5 0.6 2 0.633 ur r T T 则最小二乘法的法方程组就可以写为: A AC = A z 求得: a0 = 0.503, a1 = 0.976, a2 = −1.967
i=1 i=1
⇒a0 ∑ ϕ j ( xi )ϕ0 ( xi ) ρ ( xi ) +L+ an ∑ ϕ j ( xi )ϕn ( xi ) = ∑ f ( xi )ρ ( xi ) ϕ j ( xi )
i=1 i=1 i=1
m
m
m
j = 0,1,L, n
这就得到了一个线性方程组,这个方程组称为最小二乘法的 法方程组(又称正规方程组). 由这个法方程组的解就可得到所要求的函数 ϕ ( x ) = a 0 ϕ 0 ( x ) + a1ϕ 1 ( x ) + L + a n ϕ n ( x )
数值分析3-4(最小二乘法)
按某种标准最小。
度量标准不同，将导致不同的拟合结果，常用的准则有如下三种：
(1)使残差的最大绝对值为最小
max i
ei
max i
yi
F(xi )
min
(2)使残差的绝对值之和为最小
ei min i
(3)使残差的平方和为最小
ei2 min i
A 4.48072, b 1.0567 a e A 11.3253103
y 11.3253 103 e1.0567t F (2) (t )
请回答: 怎样比较这两个数学模型的好坏呢？ 答：只要分别计算这两个数学模型的误差，从中挑选误差较小的模型即可。
本例经过计算可得
max i
|
(1) i
三、求解步骤
确定拟合曲线的形式 确定变量对应的数据
确定法方程 求解法方程
最困难！
四、举例
例1. 已知一组实验数据如下，求它的拟合曲线.
xi
1
2
3
4
5
fi
4 4.5 6
8 8.5
ωi
21311
解
根据所给数据，在坐标纸上标出，从图中看到各点在一条直线附近，故
可选择线性函数作拟合曲线，即令
S1( x) a0 a1 x
|
0.568
103
, max i
可由原始数据
计算出来。
拟合S数1(据x) a bx
。
( xi , yi ) (i 1,...,16) ( xi , yi )
(ti , yi )
这里0( x) 1,1( x) x 可求得 (k , j ),( y,代j入),法j方, 程k 得 0,1
数值分析大作业曲线拟合的最小二乘法
数值分析上机作业实验报告专业：建筑与土木工程姓名：学号：联系电话：课题四 曲线拟合的最小二乘法一、问题提出从随机的数据中找出其规律性，给出其近似表达式的问题，在生产实践和科学实验中大量存在，通常利用数据的最小二乘法求得拟合曲线。
在某冶炼过程中，根据统计数据的含碳量与时间关系，试求含碳量 y 与时间t 的拟合曲线。
二、要求1 、用最小二乘法进行曲线拟合；2 、近似解析表达式为()t ϕ=a 1t+a 2t 2+a 3t 33 、打印出拟合函数()t ϕ，并打印出()tj ϕ与()y tj 的误差，j=1,2...，12：4 、另外选取一个近似表达式，尝试拟合效果的比较；5 、* 绘制出曲线拟合图﹡。
三、目的和意义1 、掌握曲线拟合的最小二乘法；2 、最小二乘法亦可用于解超定线代数方程组；3 、探索拟合函数的选择与拟合精度间的关系。
四、实验结果：1.用最小二乘法做出的曲线拟合为三次多项式a1= -0.0052 ，a2= 0.2634 ，a3= 0.0178。
()tϕ= (-0.0052) t+ (0.2634) t2 + (0.0178) t3三次多项式的误差平方和=0.2583。
图形为：图形上红线表示拟合曲线，*表示实验所给的点。
源代码为：x=[0,5,10,15,20,25,30,35,40,45,50,55];y=[0,1.27,2.16,2.86,3.44,3.87,4.15,4.37,4.51,4.58,4.02,4.64]; a1=polyfit(x,y,3) %三次多项式拟合%b1= polyval(a1,x)r1= sum((y-b1).^2) %三次多项式误差平方和%plot(x,y,'*') %用*画出x,y图像%hold onplot(x,b1, 'r') %用红色线画出x,b1图像%（说明本程序调用了MATLAB中的函数polyfit、polyval、plot）2.另外选取几个近似表达式：主要选取6次、9次和12次的拟合表达式。
数值分析3-4(最小二乘法)(1)
[ S ( xi ) yi ] min
2 i 0
m
S ( x )
[ S ( xi ) yi ]
i 0
m
2
这里
S ( x ) a0 0 ( x ) a1 1 ( x ) ... a n n ( x ) (n m )
最小二乘法 还 可求解如下问题！！！
8a0 22a1 47 22a0 74a1 145.5
解得
a0 2.77, a1 1.13
于是所求拟合曲线为
S1 ( x )
2.77 1.13 x
例5. 在某化学反应里，根据实验所得生成物的 浓度与时间关系如下表，求浓度y与时间t的拟 合曲线y=F(t).
那种方法更好呢？在19世纪和20世纪初，人
们更趋向于最小二乘法。
在1953年，L.Le Cam定义了ML方法一致收 敛的一些充分条件后，人们发现：如果离散 数据点的噪声是服从高斯（正态）规律的， 则最小二乘法给出最好的结果；若噪声是服 从拉普拉斯规律的，则最小模法给出最好的 结果。
但遗憾的是，在实际中噪声的形式往往是 未知的。在上个世纪60年代，Tukey说明了在 现实情况中，噪声的形式与高斯或拉普拉斯规 律都相去甚远。
i 0
m
2
这里
F ( x) a0 a1 x ... an x
n
(n m)
例1. 已知三个点（0,0），（1,1），（2,1）， 求它的一次多项式拟合曲线. 当点增加，多项式 次数也增加后会怎 解: 令 F ( x) a0 a1 x 样？？？ OK！
( F ( xi ) yi ) (a0 ) (a0 a1 1) (a0 2a1 1)
数值分析5.2 最小二乘法
数做拟合曲线，即令
2
y S1 ( x)
2
4
6
S1( x) a0 a1x,这里m 4, n 1,0( x) 1,1( x) x,故
4
(0 ,0 ) i 8, i0 4
4
(0, f ) i fi 47,
(0 ,1 ) (1,0 ) i xi 22,
i0 4
i0 4
(1, f ) i xi fi 145.5.
给定f(x)的离散数据 {( xi , yi ), i 1,2, , m}，要确
定集合 是困难的，所以一般取 span{1, x, , xn }, 即 k(x) xk (k 0,1, ,n), 就得到最小二乘拟合多项式.
即：对给定的一组数据(xi,yi)(i=0,1,…,m), 求次数不 超过n的多项式
(0 ,0 ) (0 ,1 ) (0 ,n )
G
(1
(1 ( n
,n
,n
) )
.
(7)
要使法方程(6)有唯一解 a0 ,a1 , , an ，就要求矩
阵G 非奇异.
如果法方程(6)的系数矩阵(7)非奇异，则法方程(6)存 在唯一的解 ak ak , k 0,1, , n. 从而得到函数f(x)的 最小二乘解为
x
1
)
P0
(
x
),
Pk
1
(
x
)
(
x
k
1
)
Pk
(
x
)
k
Pk
1
(
x
)
(k
1,2,
, n 1).
这里Pk(x)是首项系数为1 的k次多项式，根据Pk(x)的 正交性，得
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
数值分析实验报告课题八曲线拟合的最小二乘法一、问题提出从随机的数据中找出其规律性，给出其近似表达式的问题，在生产实践和科学实验中大量存在，通常利用数据的最小二乘法求得拟合曲线。
在某冶炼过程中，根据统计数据的含碳量与时间关系，试求含碳量y与时间t的拟合曲线。
二、实验要求t(分）0 5 10 15 20 25 30 35 40 45 50 55 y(×10-4)0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.641、用最小二乘法进行曲线拟合；2、近似解析表达式为ϕ( t) = a1t + a2t 2 + a3t 3；3、打印出拟合函数ϕ(t)，并打印出ϕ(t j )与y(t j)的误差，j = 1,2,",12 ；4、另外选取一个近似表达式，尝试拟合效果的比较；5、* 绘制出曲线拟合图﹡。
三、实验目的1、掌握曲线拟合的最小二乘法；2、最小二乘法亦可用于解超定线代数方程组；3、探索拟合函数的选择与拟合精度间的关系。
四、实验原理——最小二乘法拟合在函数的最佳平方逼近中f(x)∈[a,b],对已知函数f(x)的一组离散数据{(xi,yi),i=0,1,…m}，yi=f(xi)，求函数拟合S*(x),记误差δi=S*(xi)-yi 要求一个函数)(*x S y =与所给数据(){}m i y x i i ,,1,0,,⋅⋅⋅=的曲线拟合，这里()()m i x f y i i ,,1,0⋅⋅⋅==，要求一个函数)(*x S y =与所给数据(){}m i y x i i ,,1,0,,⋅⋅⋅=拟合，若记误差()()()T m i i i m i y x S δδδδδδ,,,,,,,1,0210*⋅⋅⋅=⋅⋅⋅=-=，设()()()x x x n ϕϕϕ,,,10⋅⋅⋅是[]b a C ,上线性无关函数族，在()()(){}x x x span n ϕϕϕϕ,,,10⋅⋅⋅=中找一函数()x S *,使误差平方和()[]()()[]22*222min ∑∑∑=∈==-=-==mi i i x S mi mi i i iy x S y x S ϕδδ， （4.1）这里()()()()()m n x a x a x a x S <111100ϕϕϕ+⋅⋅⋅++=. （4.2）这就是一般的最小二乘逼近，用几何语言说，就称为曲线拟合的最小二乘法。
用最小二乘法求拟合曲线时，首先要确定()x S 的形式。
这不单纯是数学问题，还与所研究问题的运动规律及所得观测数据()i i y x ,有关；通常要从问题的运动规律或给定数据描图，确定()i x S 的形式，并通过实际计算选出较好的结果—这点将从下面的例题得到说明。
()x S 的一般表达式为（4.2）式表示的线性形式。
若()x k ϕ是k 次多项式，()x S 就是n 次多项式。
为了使问题的提法更有一般性，通常在最小二乘法中22δ都考虑为加权平方和()()()[]222i i mi i x f x S x w -=∑=δ（4.3）这里()0≥x w 是[]b a ,上的权函数，它表示不同点()()i i x f x ,处的数据比重不同，例如，()i x w 可表示在点()()i i x f x ,处重复观测的次数，用最小二乘法求拟合曲线的问题时，就是在形如（4.2）式的()x S 中求一函数()x S y *=，使（4.3）式取得最小。
它转化为求多元函数()()()()20010,,,⎥⎦⎤⎢⎣⎡-=⋅⋅⋅∑∑==n j i i j j mi i n x f x a x w a a a I ϕ （4.4）的极小点()**1*0,,,n a a a ⋅⋅⋅的问题。
由求多元函数极值的必要条件，有 ()()()().,,1,0,0200n k x x f x a x w a Ii k n j i i j j m i i k ⋅⋅⋅==⎥⎦⎤⎢⎣⎡-=∂∂∑∑==ϕϕ五、实验设计和实验步骤本实验利用最小二乘法和题目所给函数形式对所给数据进行拟合。
而后选用不同函数形式对所给数据进行拟合得到拟合数据和所给数据的相对误差。
而后在正交多项式函数组的基础上建立相对最佳基函数选择指标P 并且记录了相对最佳拟合函数。
现将实验步骤陈述如下: （1） 建立正交多项式函数族建立的程序思路和拟合函数系数求解。
（2） 编辑程序进行计算记录实验结果。
（3） 对所得结果进行总结和分析，找出存在的问题，探索拟合函数的选择与拟合精度间的关系。
评价本次实验的结果。
六、编程思路实验使用matlab工具编写了计算使用正交函数族φ=span(φ0(x),φ1(x)……φn(x))进行最小二乘法拟合的拟合函数各项系数的函数程序。
这是比较简单的。
并计算了其误差。
现将编程思路陈述如下：一，按照不同和拟合多项式求拟合函数及其误差：（1）利用已知条件生成相应正交多项式函数族φ=span(φ0(x),φ1(x)……φn(x))。
（2）求格拉姆矩阵（即求其对角线元素）G=（3）求（φk(x)，f(x)）（4）对应除以相应格拉姆矩阵对角线元素得到拟合函数系数向量a.（5）生成拟合函数绘图并且计算原来拟合数据中对应x点的函数值，求其误差。
（6）改变所选择拟合函数的类型进行拟合如上过程求其拟合函数误差及相应图像。
（4）探索拟合函数的选择与拟合精度间的关系。
利用已经建立的最小二乘法拟合函数来建立相应的最佳拟合函数寻找函数，是一个比价复杂的过程，这里我们仅仅使用上面的正交多项式生成的函数族φ=span(φ0(x),φ1(x)……φn(x))来寻找适宜的基函数值个数，通过误差是否达到某一个极值来反应其适宜度的变化情况，现将该程序的建立思路简述如下：（1）利用拟合数据和拟合函数值的相对误差建立判断指标P,（2）利用判断指标P随着基函数个数的变化找出拟合数据范围内的最大值，最小值和峰值。
（3）记录峰值处的拟合函数个数。
（4）在一定范围内画出判断指标P随基函数个数变化的函数图。
七、程序建立及实验结果利用正交多项式求最小二乘法拟合函数: function w=zjdxsnh(n,x,y);m=length(x);mf=zeros(1,n);mp=zeros(1,n);P=ones(n,m);aw=0;af=zeros(1,n-2);bf=zeros(1,n-2);for i=1:m;aw=x(i)+aw;endaf(1)=aw/m;for i=1:mP(2,i)=x(i)-af(1);endfor i=3:n;d=i-2;sump1=sum(P(i-1,:).^2);sump2=sum(P(i-2,:).^2);sump3=sum((P(i-1).^2).*x);af(i-1)=sump3/sump1;bf(i-2)=sump1/sump2;P(i,:)=x.*P(i-1,:)-af(i-1)*P(i-1,:)-bf(i-2)*P(i-2,:);endfor j=1:n;for k=1:m;mf(j)=mf(j)+P(j,k)^2;mp(j)=mp(j)+P(j,k)*y(k);endend%正交多项式的系数计算A=zeros(n,n+2);A(:,3)=1;A(2,4)=af(1);A(:,1)=zeros();A(:,2)=zeros();for i=3:n;d=i-1;for j=4:(n+2);A(i,j)=A(i-1,j-1)-af(i-2)*A(i-1,j)-bf(i-2)*A(i-2,j-2);endend%最终系数计算AY=zeros(1,n);a=mp./mf;AX=zeros(n,n+2);for z=1:nAX(z,:)=a(z)*A(z,:);endfor b=1:n;for t=1:b;AY(b)=AX(n-t+1,b+3-t)+AY(b);endendw=AY;由于使用的是课本上的正交多项式进行拟合，其系数的计算会带来巨大的误差，故最终的拟合多项式和原来的拟合数据发生了很大误差，这说明利用以上这一思路和实验设计来求解题目是不适合的。
即：采用生成多项式的方法和思路去寻找最小二乘法拟合是不合理的。
至于后面探索精度和拟合多项式类型之间关系的工作至此无法做起！由此本实验转换思路利用matlab强大的拟合功能来进行：所使用的代码如下：x=[0 5 10 15 20 25 30 35 40 45 50 55];y=[0 1.27 2.16 2.86 3.44 3.87 4.15 4.37 4.51 4.58 4.02 4.64];plot(x,y,'*');hold onp=polyfit(x,y,n);xx=0:1:55;yy=polyval(p,xx);plot(xx,yy);分别采用5次多项式，4次多项式和3次多项式所得拟合曲线如下：5次，4次，3次，下面是误差反应的图形：四次:对比拟合曲线得知采用五次多项式来拟合曲线其趋势相对较符合。
七、实验结果分析本次实验尝试采用自编程序的方法来进行相应的最小二乘法拟合及探索工作，但是由于选取的方法不当带来了巨大误差导致了实验的失败，最终采用已经有的成熟技术得到了实验结果。