第六章 数据拟合与函数逼近
常用函数的逼近和曲线拟合
常用函数的逼近和曲线拟合在数学中，函数逼近和曲线拟合都是常见的问题。
函数逼近是指找到一个已知函数，尽可能地接近另一个函数。
而曲线拟合则是给定一组数据点，找到一条曲线来描述这些数据点的分布。
本文将讨论常用的函数逼近和曲线拟合方法。
一、函数逼近1. 插值法插值法是最简单的函数逼近方法之一。
它的基本思想是：给定一组已知点，通过构造一个多项式，使得该多项式在这些点处的函数值与已知函数值相等。
插值法的优点是精度高，缺点是易产生龙格现象。
常用的插值多项式有拉格朗日插值多项式和牛顿插值多项式。
拉格朗日插值多项式的形式为：$f(x)=\sum_{i=0}^{n}y_{i}\prod_{j=i,j\neq i}^{n}\frac{x-x_{j}}{x_{i}-x_{j}}$其中，$x_{i}$是已知点的横坐标，$y_{i}$是已知点的纵坐标，$n$是已知点的数量。
牛顿插值多项式的形式为：$f(x)=\sum_{i=0}^{n}f[x_{0},x_{1},...,x_{i}]\prod_{j=0}^{i-1}(x-x_{j})$其中，$f[x_{0},x_{1},...,x_{i}]$是已知点$(x_{0},y_{0}),(x_{1},y_{1}),...,(x_{i},y_{i})$的差商。
2. 最小二乘法最小二乘法是一种常用的函数逼近方法。
它的基本思想是：给定一组数据点，找到一个函数，在这些数据点上的误差平方和最小。
通常采用线性模型，例如多项式模型、指数模型等。
最小二乘法的优点是适用性广泛，缺点是对于非线性模型要求比较高。
最小二乘法的一般形式为：$F(x)=\sum_{i=0}^{n}a_{i}\varphi_{i}(x)$其中，$a_{i}$是待求的系数，$\varphi_{i}(x)$是一组已知的基函数，$n$是基函数的数量。
最小二乘法的目标是使得$\sum_{i=1}^{m}[f(x_{i})-F(x_{i})]^{2}$最小，其中$m$是数据点的数量。
拟合与逼近超定方程组的最小二乘解多项式拟合非线性曲线转化为线性
y p2 ( x) 13.454 3.657 x 0.272 x 2
3.非线性曲线转化为线性: 有些非线性曲线可以转化为线性,从而用线性拟合进行处理, x 比如： y e ln y ln x
令Y ln y, A ln Y A x
1 1 1
x0 x1 xm
2 x0 2 x1
4
2 xm
n x0 a0 y0 n x1 a1 y1 n y xm an m
第七章
数据拟合与函数逼近 拟合与逼近
7.1
本章继续讨论用简单函数近似代替较复杂函数的问题.上章 提到的插值就是近似代替的方法之一,插值的近似标准是在 插值点处误差为零.但在实际应用中,有时不要求具体某些 点误差为零,而要求考虑整体的误差限制,这就引出了拟合 和逼近的概念.
7.1.1
数据拟合
对离散型函数(即数表形式的函数)考虑数据较多的情况.若 将每个点都当作插值节点,则插值函数是一个次数很高的多 项式,比较复杂.而且由于龙格振荡现象,这个高次的插值多 项式可能并不接近原函数.同时由于数表中的点一般是由观 察测量所得,往往带有随机误差,要求近似函数过所有的点 既不现实也不必要. 1 结束
x y
3 5
5 2
6 1
8 2
10 4
7
结束
解
5 4 3 2
y
首先作平面散点图如下：
1
0 1 2 3 4 5 6 7 8 9 10
x
从图中观察,这5个点大致在一条抛物线的附近,可考虑 用二次多项式 p2 ( x) a0 a1 x a2 x 2 进行拟合。
数值分析函数逼近
阜师院数科院 第六章 函数k 逼 近0
第165-页1，5 本讲稿共44页
正规方程组的几种形式（续）
在(6-4)中打开和式 m 令j=0,1,2,…,m，则 正规方程组为: k 0
j0 j1
10,,00
0,1 1,1
10,,m maa10((yy,,10))
(6-5
jmm,0 m,1 m,mam (y,m)
阜师院数科院 第六章k函 0 数逼近i 1
i 1
(j0 ,1 , ,m )
（紧接下屏） 6- 第9页，9本讲稿共44页
打开和式
m
即：
多项式拟合（续）
nao
n
k 0 xi a1
n
xi2
a2
n
ximam
n
yi
i1 i1
i1
i1
n
i1
xi
n a0 i1
m
证明 : 对任意的 (x) ck k (x) 2 i ( yi ( xi ) ( xi ) ( xi )) 2
i 1
i 1
n
n
i ( yi ( xi )) 2 2 i ( yi ( xi ))( ( xi ) ( xi ))
势？首先要建立好坏的标准。
假定a0，a1已经确定，yi* = a0+a1xi(i =1,2,…,n) 是由近似
函数求得的近似值，它与观测值
y
yi 之差ri = yi yi*=yi a0a1xi
8
(i =1,2,…,n) 称为偏差。显然， 6
图6-1
* *
偏差的大小可作为衡量近似
4
*
函数好坏的标准。偏差向量
{k(x)} 线性无关 系数矩阵非奇异 唯一解:
逼近和拟合专题教育课件
则在[a,b]上g( x) 0；
就称( x)为[a,b]上的权函数.
例2 设f ( x), g( x) C[a,b], ( x)为[a,b]上的权函数 ,则可
定义内积
( f , g) ab( x) f ( x)g( x)dx. 1,( f , g) ab f (x)g(x)dx.
容易验证内积定义中的 四个性质，并导出范数
项式正交.
（4）有递推关系
pn1( x) ( x n ) pn( x) n pn1( x), n 0,1,, (2.4)
其中 p0( x) 1，p1( x) 0，
n ( xpn , pn ) /( pn , pn ), n ( pn , pn ) /( pn1, pn1)，n 1,2,,
称为Gram矩阵，则G非奇异的充要条件是 u1, u2,, un线性
无关.
证明：1) G非奇异 以G为系数矩阵的齐次线性 方程组
n
n
( ju j , uk ) (u j , uk ) j 0,
j1
j1
只有零解。
k 1,,n.
n
n
n
2) juj 0 ( juj , juj ) 0
有限维空间 vs 无限维空间.
Rn, C[a,b],
定理 1(维尔斯特拉斯 ) 如果f ( x) C[a,b], 那么 0,
多项式p( x),使得
| f ( x) p( x) | , 对于一切a x b.
伯恩斯坦(1912)给出一种构造性证明：伯恩斯坦多项式
Bn (
f
,
x)
n
k0
f
(n ,n )
根据定理 3，0,,n线性无关 det(G) 0.
§2 正交多项式
函数的数值逼近-拟合
课程名称 计算方法实验项目名称 函数的数值逼近－拟合实验成绩 指导老师（签名 ） 日期一. 实验目的和要求1． 通过实例学习如何用拟合方法解决实际问题。
二. 实验内容和原理2-1 分析应用题一盘录像带的实测数据如下表，确定模型2t an bn =+中的系数a ，b.>> t=[0 20 40 60 80 100 120 140 160 183.5];>> n=[0 1153 2045 2800 3466 4068 4621 5135 5619 6152]; >> p=polyfit(n,t,2) p =2.5083e-06 0.0144 0.0498622.5083*10*0.0144*0.0498t n n -=++2-2 分析应用题旧车价格预测：某年美国旧车价格的调查资料如下表，其中i x 表示轿车的使用年数，i y 表示相应的平均价格。
试分析用什么形式的曲线来拟合上述的数据，并预测使用4.5年后轿车的平均价格大致为多少。
>> x=1:10;>> y=[2615 1943 1494 1087 765 538 484 290 226 204]; >> p=polyfit(x,y,2); >> a=p(1); >> b=p(2); >> c=p(3);>> Y=polyval(p,x); >> plot(x,y,'b',x,Y ,'r') >> z=polyval(p,4.5) z =955.70472-3分析应用题>> t=1790:10:1980;>> x=[3.9 5.3 7.2 9.6 12.9 17.1 23.2 31.4 38.6 50.2 62.9 76.0 92.0 106.5 123.2 131.7 150.7 179.3 204.0 226.5];>> p=polyfit(t,log(x),1);>> r=p(1)r =0.0214>> x0=exp(p(2))x0 =1.2480e-016>> x1=x0.*exp(r.*t);>> plot(t,x,'r',t,x1,'b')三. 操作方法与实验步骤（包括实验数据记录和处理）四. 实验结果与分析。
数值分析06函数逼近
函数逼近的历史与发展
早期发展
早在古希腊时期，数学家就开始研究用简单的几何图形来近 似表示复杂的曲线。随着数学的发展，函数逼近的理论和方 法不断完善和丰富。
现代进展
随着计算机科学和数值分析的兴起，函数逼近在数值计算、 信号处理、图像处理等领域的应用越来越广泛。现代的逼近 方法不仅追求形式简单，还注重逼近的精度和计算效率。
数据拟合
在数据分析和机器学习中，利用数值逼近方法对数据进行拟合， 以提高预测精度。
图像处理
在图像处理中，利用数值逼近方法对图像进行平滑、去噪等处理， 以提高图像质量。
工程计算
在工程计算中，利用数值逼近方法对复杂函数进行近似计算，以简 化计算过程和提高计算效率。
05
结论与展望
总结与评价
总结
数值分析06函数逼近课程是一门重要的数学课程，它涉及到许多实际问题的求解，如插值、拟合、最小二乘法等。 通过学习这门课程，学生可以掌握如何使用数学工具来近似描述和分析函数，从而更好地理解和解决实际问题。
数。
稳定性分析
稳定性定义
稳定性是指在逼近过程中，对于小的扰动或误差，逼近结果的变 化程度。
不稳定性影响
不稳定的逼近可能导致结果出现较大的偏差，影响数值计算的精 度和可靠性。
稳定性判据
根据稳定性判据，判断逼近函数的稳定性以及如何提高稳定性。
04
数值实例与应用
一元函数逼近实例
01
线性逼近
通过多项式逼近方法，将一元函 数在某点附近展开成线性形式， 如泰勒级数展开。
评价
这门课程的内容非常实用，对于数学专业的学生来说是一门必修课程。它不仅有助于提高学生的数学素养，还可 以为学生提供解决实际问题的能力。然而，该课程难度较大，需要学生具备较高的数学基础和思维能力。
逼近与拟合
19
5
罚函数的例
l p , p 1 范数： p (r ) r
死区线性罚函数：
r a 0 (r ) r a r a 对数门限罚函数 2 2 a log(1 ( r / a ) ) (r )
r a r a
6
7
鲁棒的罚函数
某些异常点导致残差值过大，影响逼近的效果。 若 r 大到一定程度时，罚函数为 r 的线性函数，则称 该罚函数为鲁棒的罚函数。 Huber罚函数
2 r (r ) M (2 r M )
r M r M
8
鲁棒的罚函数
9
最小范数问题
问题描述：minimize
n
最小罚问题：
minimize
( x )
i 1 i
subject to Ax b
绝对值和最小问题：范数 1 ，原问题可转换为LP问题： minimize 1T y
subject to Ax b, y x y
11
正则逼近
二元矢量优化பைடு நூலகம்题描述：
minimize(w.r.t. R )
1 2 1 0 0 1 2 1 0 1 2 2 0 x n ... ... ... ... 0 0 0 0 0 0 0 0
信号复原
已知加噪信号：
xcor x v
信号复原问题的描述：
2
minimize(w.r.t. R ) 函数 ( x ) : R n R 为正则函数或光滑函数。
13
正则逼近
函数逼近的几种算法及其应用
函数逼近的几种算法及其应用函数逼近是数值计算中的一种重要技术，用于在给定的函数空间中找到与目标函数最相近的函数。
函数逼近算法可以在不知道目标函数解析表达式的情况下，通过对给定数据进行处理来逼近目标函数的结果。
这篇文章将介绍几种常见的函数逼近算法及其应用。
1.多项式逼近：多项式逼近是一种利用多项式函数逼近目标函数的方法。
多项式逼近算法有很多种，常见的有最小二乘法、拉格朗日插值法和牛顿插值法等。
多项式逼近广泛应用于数据拟合、信号处理和图像处理等领域。
最小二乘法是一种通过最小化实际观测值与多项式模型之间的差异来确定多项式系数的方法。
最小二乘法可以用于拟合非线性和线性函数。
拉格朗日插值法和牛顿插值法是通过插值多项式来逼近目标函数的方法，可以用于填充缺失数据或者生成曲线过程中的中间点。
2.三角函数逼近：三角函数逼近是一种利用三角函数来逼近目标函数的方法。
三角函数逼近算法有傅里叶级数逼近和小波变换等。
傅里叶级数逼近是一种利用三角函数的线性组合来逼近目标函数的方法。
这种方法广泛应用于信号处理、图像处理和数学建模等领域。
小波变换是一种通过特定的基函数来逼近目标函数的方法。
小波变换可以用于信号去噪、图像压缩和模式识别等应用。
3.插值逼近：插值逼近是一种通过已知数据点在给定区间内的函数值来确定目标函数的方法。
常见的插值逼近方法有拉格朗日插值法、牛顿插值法和差值多项式法等。
插值逼近广泛应用于任何需要通过已知数据点来逼近目标函数的领域。
在实际应用中，函数逼近常用于数据分析和模型构建。
例如，在金融领域，函数逼近可以用于确定股票价格走势的模型和预测。
在工程领域，函数逼近可以用于建立复杂系统的模型和优化控制。
在计算机图形学领域，函数逼近可以用于生成真实感图像和动画。
总结起来，函数逼近是一种重要的数值计算技术，有多种算法可供选择。
多项式逼近、三角函数逼近和插值逼近是常见的函数逼近算法。
函数逼近广泛应用于数据分析、模型构建和优化控制等领域，对于解决实际问题具有重要作用。
函数逼近理论在数据拟合中的应用
函数逼近理论在数据拟合中的应用在当今数字化的时代，数据成为了我们理解和解决各种问题的重要依据。
从科学研究到商业决策，从工程设计到日常生活，我们都在不断地收集和分析数据。
而数据拟合作为处理数据的一种重要手段，其背后的函数逼近理论发挥着至关重要的作用。
首先，让我们来了解一下什么是函数逼近理论。
简单来说，函数逼近理论就是研究如何用一个相对简单的函数去尽可能地接近一个复杂的函数。
这个“接近”的程度可以通过各种度量方式来衡量，比如常见的误差指标。
那么为什么我们需要对函数进行逼近呢？想象一下，我们通过实验或者观测得到了一组数据，这些数据可能呈现出某种潜在的规律，但又不是那么清晰明确。
这时候，如果我们能够找到一个合适的函数来拟合这些数据，就能够更好地理解数据所蕴含的信息，并且可以对未来的数据进行预测。
在数据拟合中，函数逼近理论提供了多种方法和工具。
其中，多项式逼近是一种常见且直观的方法。
多项式函数形式简单，计算方便，而且在一定的区间内可以很好地逼近其他函数。
例如，我们可以用一个二次多项式来拟合一条抛物线形状的数据。
通过确定多项式的系数，使得拟合函数与实际数据之间的误差最小。
除了多项式逼近，还有三角函数逼近、有理函数逼近等方法。
三角函数逼近常用于处理具有周期性特征的数据，比如气温的季节性变化或者电信号的周期波动。
有理函数逼近则在某些情况下能够提供比多项式逼近更高的精度。
函数逼近理论在实际应用中的例子比比皆是。
在物理学中，通过对实验数据的拟合，我们可以得到描述物理现象的数学模型。
比如，通过对物体自由落体运动的时间和位置数据进行拟合，能够得出重力加速度的数值。
在经济学领域，数据拟合可以帮助我们分析市场趋势和预测经济指标。
例如，通过对历史股票价格数据的拟合，可以尝试预测未来股票的走势，为投资决策提供参考。
在工程领域，函数逼近用于设计和优化系统。
比如在航空航天工程中，对飞行器的空气动力学性能数据进行拟合，有助于改进飞行器的外形设计，提高飞行效率和稳定性。
第六章函数逼近.ppt
xi 31,
xi2 179,
i 1
i 1
4678 7532
n
xi2
n
yi
i1 n
xi3
a0
a1
i 1
n
xi yi
i 1 n
a2
i1 n
xi4
xi2 yi
第六章 函数逼近
6.1、数据拟合的最小二乘法 6.2、正交多项式 6.3、函数的最佳平方逼近
1
问题 :已知数据表
( xi ,
yi )
(i
1,2,, n) 插值
求一近似函数( x),
使其尽可能"好"地 反映数据点的基本趋势.
2
已知数据表( xi , yi )(i 1,2,, n)，近似函数为( x) 残差： i yi (xi ) (i 1,2,, n) 残差向量： (1,2, n )
i 1
n
yi xi
i 1
n
am
i1
xi 2 m
n
i1
yi
xi
m
讲例 例 :已知数据表 xi 1 2 3 4 5 6 7 yi 0.5 2.5 2.0 4.0 3.5 6.0 5.5 求它的最小二乘一次拟合多项式.
121
179 1171 8147a2 635
(4) 求解正则方程组得
a0 1.3185, a1 3.4318, a3 0.3864,
数值分析第六章函数逼近
2 i 2
拟合 函数
st . ,∑ δ = ∑[ yi −ϕ(xi )] = ∑⎡ yi −∑j=1ajϕj (xi )⎤ →min = F(a0, a1,⋯, am) ⎣ ⎦ i=1 i=1 i=1
拟合条件
n
m
2
该方法称为拟合曲线方法
适当选取函数类
{ϕ0 ( x), ϕ1 ( x),⋯, ϕn ( x)}
（*）有最小二乘解
Φ Φ ⋅a = Φ ⋅ y
⎡ (ϕ0 , ϕ0 ) (ϕ0, ϕ1) ⎢ (ϕ , ϕ ) (ϕ , ϕ ) 1 1 ΦT Φa = ⎢ 1 0 ⎢ ⋯ ⎢ ⎣(ϕm , ϕ0 ) (ϕm , ϕ1) ⎡ ϕ0 ( x1 ) ϕ1 ( x1 ) ⎢ϕ ( x ) ϕ ( x ) 1 2 ΦT y = ⎢ 0 2 ⎢ ⋯ ⎢ ⎣ϕ0 ( xn ) ϕ1 (xn ) ⋯ (ϕ0, ϕm ) ⎤ ⎡a0 ⎤ ⎢a ⎥ ⋯ (ϕ1, ϕm ) ⎥ ⎥ ⎢ 1 ⎥, ⎥ ⎢⋮ ⎥ ⋯ ⎥⎢ ⎥ ⋯ (ϕm , ϕm ) ⎦ ⎣an ⎦
T
T
T
⋯ ϕ m xn )⎦
⎡ y1 ⎤ ⎢y ⎥ ⎢ 2 ⎥, ⎢⋮ ⎥ ⎢ ⎥ ⎣ yn ⎦
例：已知一组实验数据 求拟合曲线。
X Y
1 4
2 4.5
3 6
4 8
5 9
解：观察数据特征，各点的变化接近一条二次曲线。 选用 ϕ ( x) = a0ϕ 0 ( x) + a1ϕ1( x) + a2ϕ 2 ( x), ϕ ( x) = p2( x)
主要问题的提出和解决
�
一、给出函数表
x Y x1,x2,---,xn
f(x)
P(x) y1,y2,---,yn O x1, x2,--,xj,--, xn 求拟合函数 ϕ ( x) = a0ϕ0 ( x) + a1ϕ1 ( x ) + ⋯ + amϕ m ( x ), ϕ ( x ) = p ( x )
数值分析上机报告函数逼近与数据拟合
二、方法描述
1. 函数的最佳平方逼近 设 s ( x ) a* 其中 0 , 1 , j j ( x) 为函数 f 的最佳平方逼近函数，
* j 0 n
, n 为 n+1 个
线性无关的函数。 当权函数 ( x) 1 ， 根据最佳平方逼近函数的定义， 求函数 f 的 最佳平方逼近函数，等价于求多元函数
对于定义在区间上的函数，其 Chebyshev 级数为
f ~ C0 CkTk ( x) 2 k 1
其中，
Ck 2
1
1 1 x2
1
f ( x)Tk ( x)dx
2
1
x 2 ln(2 x) 1 x2
1
Tk ( x)dx ， k 0,1, 2,
取前 n+1 项部分和
* Sn ( x)
C0 n CkTk ( x) 2 k 1
即可得到 f 在区间上的近似最佳一致逼近多项式。 3. 插值余项极小化 在插值法的计算中， 采用等距节点的 Lagrange 插值会出现 Runge 现象。 在差
2
数值分析课程上机报告
值余项极小化的方法中，取 Chebyshev 多项式的零点
移项有
b
a
[ a j j ( x) f ( x)]k ( x)dx 0 ， k 0,1,
j 0
n
,n
( , )a
j 0 k j
n
j
( f , k ) ， k 0,1,
,n
此方程是关于 a0 , a1 ,
, an 的线性方程组，也称为法方程。其中，
(k , j ) k ( x) j ( x)dx
函数的逼近—拟合
函数的逼近—拟合函数的逼近是数学中一个重要的概念，它是指通过一组已知的数据点来近似描述一个未知函数的过程。
拟合则是指通过选择合适的函数形式和参数，使得拟合函数尽可能地接近已知数据点。
在实际应用中，函数的逼近和拟合在数据分析、信号处理、机器学习等领域中起着重要的作用。
1. 函数的逼近函数的逼近通常包括两个步骤：选择逼近函数的形式和确定逼近函数的参数。
通常，我们将已知数据点表示为(x x,x x)的形式，其中x x是自变量的取值，x x是因变量的取值。
我们的目标是找到一个逼近函数x(x)来近似表示这些已知数据点的关系。
选择逼近函数的形式是一个关键的步骤。
常见的逼近函数包括多项式函数、指数函数、对数函数等。
选择逼近函数的形式通常需要考虑已知数据点和逼近函数的特点。
例如，如果已知数据点呈现线性关系，可以选择线性函数作为逼近函数。
如果已知数据点呈现指数增长或衰减的趋势，可以选择指数函数作为逼近函数。
确定逼近函数的参数是通过最小化逼近函数与已知数据点之间的差距来实现的。
常用的方法有最小二乘法和最大似然法。
最小二乘法是通过最小化逼近函数与已知数据点之间的残差平方和来确定逼近函数的参数。
最大似然法则是选择使得逼近函数生成已知数据点的概率最大的参数。
2. 拟合拟合是函数的逼近的一种具体应用，它通过选择合适的函数形式和参数，使得拟合函数能够在整个自变量的取值范围内都能够较好地逼近已知数据点。
拟合函数的目标是通过适当的调整函数的参数，使得拟合函数能够尽可能地与已知数据点吻合。
在实际应用中，拟合函数的选择通常需要根据已知数据点的特点来进行。
例如，如果已知数据点呈现多项式关系，可以选择多项式拟合。
多项式拟合可以使用最小二乘法来确定多项式的系数。
如果已知数据点呈现指数增长或衰减的趋势，可以选择指数拟合。
指数拟合可以通过对数变换来转化为线性拟合的问题。
拟合函数的参数可以通过优化算法来确定。
常见的优化算法包括梯度下降法、牛顿法等。
函数逼近与拟合
最佳均方逼近多项式
设函数f(x)在区间[a,b]上连续，Hn 是所有次数不超过n的多项式的集合， 且Pn(x)∈Hn，若
∫
其中
b
a
ρ (x )[ f ( x ) − Pn ( x )]2 dx = M n
M n = min ∫ ρ ( x )[ f ( x ) − Pn (x )] dx
b 2 Pn ∈H n a
利用最小二乘拟合曲线
编号 1 2 3 4 5 xi 0 1 2 3 4 yi 1.5 2.5 3.5 5.0 7.5
拟合为：
y = c0 e
c1 x
供调用的子函数
function z=MyExp(u) c1 = u(1); c0 = u(2); z = (c0-1.5).^2+(c0.*exp(c1)2.5).^2+(c0.*exp(2*c1)3.5).^2+(c0.*exp(3*c1)-5).^2+... (c0.*exp(4*c1)-7.5).^2;
在command window的调用
fminsearch('MyExp',[1,1]) 得到表达式后绘出曲线
{ϕ (x ), ( j = 0,1,L)}
j
如果其中任何两个函数在区间[a,b]上的 积分为0，而它们每个函数自乘的积分 不等于0，即：
∫
b
a
= 0, m ≠ n ρ (x )ϕ m ( x )ϕ n ( x )dx = ≠ 0, m = n
正交规范函数系
特别当：
∫ ρ (x )ϕ (x )ϕ (x )dx = 1
余弦函数系
函数系： 1, cos x, sin x, cos 2 x, sin 2 x, L, cos nx, sin nx, L 任意两个函数的乘积在区间[-pi,pi]或 [0,2pi]上的积分：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
T
ri = p ( xi ) − y i (i=0,1, …,m)
∑r
m
i
，即误差向量 r 的 1—
范数；三是误差平方和 i =0 的算术平方根，即误差向量 r 的 2—范数；前两种 方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2 —范数的平方， 因此在曲线拟合中常采用误差平方和 i =0 体大小。
x i2
列表如下 I 0 1 2 3 4 5 6 7 8
xi 1 3 4 5 6 7 8 9 10 53
x i3
x i4
xi yi 10 15 16 10 6 7 16 27 40 147
x i2 y i
∑
10 5 4 2 1 1 2 3 4 32
1 9 16 25 36 49 64 81 100 381
仅供 KUST 内部使用
吴老师
第六章数据拟合与函数逼近
第一节 最小二乘法的基本原理和多项式拟合 一 最小二乘法的基本原理 从整体上考虑近似函数 p ( x ) 同所给数据点 ( xi , y i ) (i=0,1,…,m)误差 的大小，常用的方法有以下三种：一是误差 ri ri = p ( xi ) − y i (i=0,1, …,m)绝对值的最大值 max 0≤i ≤ m ，即误差 向量
2
∑x
m
j i
( j = 0,1,L ,2n )
∑x
m
j i
yi
( j = 0,1, L,2n)
；
仅供 KUST 内部使用
n
吴老师
k =0 (4) 写出拟合多项式 。 在实际应用中， n < m 或 n ≤ m ；当 n = m 时所得的拟合多项式就是拉格朗日或牛 顿插值多项式。 例 1 测得铜导线在温度 Ti ( ℃)时的电阻 Ri (Ω) 如表 6-1，求电阻 R 与温度 T
n
因为
其中
KU
所以
pn ( x) 是次数不超过 n 的多项式，它有 m+1＞n 个相异零点，由代数基本定理，必 与齐次方程组有非零解的假设矛盾。 因此正规方程组 （4 ） 须有 a 0 = a1 = L a n = 0 ， 必有唯一解 。 定理 2 设 a 0 , a1 ,L, a n 是正规方程组 （4 ） 的解， 则 是满足式（1）的最小二乘拟合多项式。 证 只需证明，对任意一组数 b0 , b1 , L , bn 组成的多项式 p n ( x) = ∑ a k x k
4
KU
a1 = −3.6053
a 2 = 0.2676
仅供 KUST 内部使用
吴老师
*三 最小二乘拟合多项式的存在唯一性 定理 1 设节点 x0 , x1 ,L , xn 互异，则法方程组（4 ）的解存在唯一。 证 由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。 用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组 m +1 m x i ∑ i =0 M m ∑ xin i= 0
1 27 64 125 216 343 512 729 1000 3017
1 81 256 625 1296 2401 4096 6561 10000 25317
10 45 64 50 36 49 128 243 400 1025
得正规方程组 52 381 a 0 32 9 52 381 3017 a = 147 1 381 3017 25317 a 1025 2 解得 a 0 = 13.4597, 故拟合多项式为 y = 13.4597 − 3.6053 + 0.2676 x 2
n m i =0 m n m i =0 k =0 i =0
(4) 式（3）或式（4）称为正规方程组或法方程组。 可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。 从式（4）中解出 a k (k=0,1,…，n)，从而可得多项式
i =0
∑x
m
M
n +1 i
m yi ∑ i =0 i=0 a0 m m n +1 a L ∑ xi 1 xi yi = ∑ i =0 i =0 M M M a m n m n ∑ xi y i L ∑ xi2 n i =0 i =0 L
p n ( x) = ∑ a k x k
的近似函数关系。 i 0 19.1 Ti (℃) Ri (Ω) 76.30
1 25.0 77.80
2 30.1 79.25
3 36.0 80.80
4 40.0 82.35
5 45.1 83.90
6 50.0 85.10
解 画出散点图（图 6-2 ），可见测得的数据接近一条直线，故取 n=1 ，拟合函 数为 R = a 0 + a1T 列表如下 i Ti Ri Ti Ri Ti 2 0 1 2 3 4 5 6 19.1 25.0 30.1 36.0 40.0 45.1 50.0 245.3 76.30 77.80 79.25 80.80 82.35 83.90 85.10 565.5 364.81 625.00 906.01 1296.00 1600.00 2034.01 2500.00 9325.83 1457.330 1945.000 2385.425 2908.800 3294.000 3783.890 4255.000 20029.445
m
（7 ）
有非零解。式(7)可写为
∑ (∑ x
k =0 i =0
)a k = 0,
j = 0,1,L , n
（8）
将式（8 ）中第 j 个方程乘以 a j (j=0,1, …，n) ，然后将新得到的 n+1 个方程左
n m j+k a j ∑(∑xi )ak 0 = 0 ∑ 右两端分别 相加，得 j =0 k =0 i =0
∑r
m
2
i
∑r
m
2
i
来 度量误差 ri (i=0 ，1，…，m)的整
数据拟合的具体作法是：对给定数据 ( xi , y i ) (i=0,1,…，m)，在取定的函 数类 Φ 中,求 p ( x ) ∈ Φ , 使误差 ri = p ( xi ) − y i (i=0,1,…,m)的平方和最小，即
从几何意义上讲， 就是寻求与给定点 ( xi , y i ) (i=0,1, …,m)的距离平方和为最 小的曲线 y = p ( x ) （图 6-1）。函数 p ( x ) 称为拟合 函数或最小二乘解，求拟
KU
m i= 0
合函数 p ( x) 的方法称为曲线拟合的最小二乘法。 在曲线拟合中，函数类 Φ 可有不同的选取方法.
二 多项式拟合 Φ 为所有次数不超过 n( n ≤ m) 的多项式构 假设给定数据点 ( xi , y i ) (i=0,1,…,m) ， 成的函数类，现求一 p n ( x) = ∑ a k x k ∈ Φ
∑x ∑x
i =0 i =0 m
m
i
2 i
(5) 可以证明，式（5）中的 p n ( x) 满足式（1 ），即 p n ( x) 为所求的拟合多项式。我
k =0
们把 i =0
∑[p
m
KU
n
( xi ) − yi ]
2
称为最小二乘拟合多项式 p n ( x) 的平方误差，记作 r
2 2
ST
p n ( x) = ∑ a k x k
吴老师
当拟合函数为多项式时，称为多项式拟合，满足式（1）的 p n ( x) 称为最小二乘 拟合多项式。特别地，当 n=1 时，称为线性拟合或直线拟合。 显然 I = ∑ (∑ a k xik − yi ) 2 为 a 0 , a1 ,L a n 的多元函数，因此上述问题即为求 I = I (a 0 , a1 ,L a n ) 的极值 问题。 由多元函数求极值的必要条件，得 m n ∂I = 2∑ (∑ a k xik − yi ) xi j = 0, j = 0,1,L , n ∂a j i =0 k =0 (2) 即
k =0 n
ST
6—1
2 m
∑ r ∑ [ p( x ) − y ]
2 i= 0 i
m
m
2
= i =0
i
i
= min
,使得
2
I = ∑ [ p n ( xi ) − yi ]
n = ∑ ∑ a k xik − y i = min i =0 k =0
1
(1)
仅供 KUST 内部使用
正规方程组为
解方程组得
a 0 = 70.572 , a1 = 0.921 故得 R 与 T 的拟合直线为 R = 70.572 + 0.921T 利用上述关系式，可以预测不同温度时铜导线的电阻值。例如，由 R=0 得 T=-242.5，即预测温度 T=-242.5℃时，铜导线无电阻。
KU
∑
245.3 a 0 565.5 7 245.3 9325.83 a = 20029.445 1
n m
∑ xi ∑x
i =0 i =0 m 2 i
m
∑x
i =0 j +k i
m
M
n +1 i
m n x yi ∑ i ∑ i =0 i=0 a0 m m n +1 a L ∑ xi 1 ∑ xi yi = i =0 i =0 M M M a m m 2n n ∑ xin y i L ∑ xi i =0 i =0 L