tjm08第5章函数的近似替代与数值逼近(全)

的线性方程组， 这是关于系数 a j 的线性方程组，通常称为正规 方程组。可以证明，正规方程组有惟一解。 方程组。可以证明，正规方程组有惟一解。
tjm
1、线性拟合 、 设某函数y=f(x)，测得点列(xi,yi)，i=1,2,...,m，求 一条直线p(x)=a+bx，使点列(xi,yi)中的大多数点落在 该直线上或在其附近。a,b为待定系数。 记
N m
∂Q = 0 , k = 0 ,1, 2 , L , m ∂a k
得
( yi − ∑a j xij )xik = 0, ∑
i=1 j =0
k = 0,1,L, m
a0 N + a1 ∑ xi + L+ am ∑ xim = ∑ yi a0 ∑ xi + a1 ∑ xi2 + L+ am ∑ xim+1 = ∑ xi yi 即有 L a0 ∑ xim + a1 ∑ xim+1 + L+ am ∑ xi2m = ∑ xim yi
m
tjm
例：设有某实验数据如下：
i
xi
1 1.36 14.094
2 1.37 16.844
3 1.95 18.475
4 2.28 20.963
yi
用最小二乘法求以上数据的拟合函数。 解:把表中所给数据画在坐标纸上,将会看到数据点 的分布可以用一条直线来近似地描述,设所求的 拟合直线为 y ( x ) = a 0 + a1 x 记x1=1.36, x2=1.37, x3 =1.95，x4 =2.28, y1 =14.094, y2= 16.844, y3=18.475, y4=20.963
2 % 误差Q 达到最小或Q 误差Q = ∑ [ϕ ( xi ) − yi ] 达到最小或Q＝max ϕ ( xi ) − yi 达最 i =0 0≤ i ≤ n n
小。
tjm
当数据量特别大时一般不用插值法。 当数据量特别大时一般不用插值法。这是因为数据 量很大时所求插值曲线中的未知参数就很多， 量很大时所求插值曲线中的未知参数就很多，而且 数据量很大时，多项式插值会出现高次插值（ 数据量很大时，多项式插值会出现高次插值（效果 不理想）或分段低次插值（精度不高）；另外， ）；另外 不理想）或分段低次插值（精度不高）；另外，测 量数据本身往往就有误差，所以， 量数据本身往往就有误差，所以，使插值曲线刻意 经过这些点也不必要。 经过这些点也不必要。 而曲线拟合是， 而曲线拟合是，首先根据物理规律或描点画草图确 定一条用来拟合的函数曲线形式， 定一条用来拟合的函数曲线形式，也可选择低次多 项式形式（所含参数比较少）， ），然后按最小二乘法 项式形式（所含参数比较少），然后按最小二乘法 求出该曲线，它未必经过所有已知点， 求出该曲线，它未必经过所有已知点，但它能反映 出数据的基本趋势，且误差最小，效果比较好。 出数据的基本趋势，且误差最小，效果比较好。
tjm
⇒正规方程组为：
m m ∑ xi = im1 x2 ∑ i i =1
∑x
i =1 m i =1 m
m
i
xi2 ∑ xi3 ∑
i =1
m xi2 yi ∑ ∑ i =1 i a m=1 m 3 ∑ xi b = ∑ xi yi i =1 = c im1 m xi4 xi2 yi ∑ ∑ i =1 i =1
tjm
从给定的数据(x 出发, 从给定的数据(xi,yi)出发,构造一个近似函数ϕ(x) , 完全通过所有的数据点， 不要求函数 ϕ(x) 完全通过所有的数据点，只要求所得 的近似曲线能反映数据的基本趋势, 的近似曲线能反映数据的基本趋势,使其与已知函数 从总体上来说其偏差按某种方法度量达到最小。 从总体上来说其偏差按某种方法度量达到最小。
y • • • • • • • • • • •
曲线拟合示意图
• • • o • •
x
tjm
最小二乘原理 函数插值是插值函数P(x)与被插函数f(x)在节点处 函数插值是插值函数P(x)与被插函数f(x)在节点处 P(x)与被插函数f(x) 函数值相同, 函数值相同,即 P( xi ) = f ( xi ) (i = 0 ,1, L , n ) 而曲线拟 合函数 不要求严格地通过所有数据点 ( xi , y i ) , ϕ (x) 处的偏差(亦称残差） 也就是说拟合函数 ϕ(x) 在xi处的偏差(亦称残差）
⇒正规方程组：
m m m ∑ a + ∑ bxi = ∑ yi i =1 i =1 i =1 m m m 2 ∑ axi + ∑ bxi = ∑ xi yi i =1 i =1 i =1
⇒ 矩阵的乘积形式
m ቤተ መጻሕፍቲ ባይዱm x ∑ i i =1
m ∑ xi a ∑ yi i i =1 = m=1 m b xi2 ∑ xi yi ∑ i =1 i =1
Q( a, b) = ∑ ( p ( xi ) − yi ) 2 = ∑ ( a + bxi − yi ) 2
i =1 i =1 m m
tjm
由微积分理论，要使Q(a,b)取极小值，必须满足：
m ∂Q(a, b) ∂a = 2∑ (a + bxi − yi ) = 0 i =1 ∂Q(a, b) m = 2∑ (a + bxi − yi ) xi = 0 ∂b i =1
i=1 i
i =1 i
4
4
i
= 132.12985
将以上数据代入上式正规方程组,得
4a 0 + 7.32a1 = 70.376 7.32a 0 + 13.8434a1 = 132.12985
解得 a 0 = 3 . 9374 ,
a 1 = 7 . 4626
tjm
即得拟合直线 y = 3 . 9374 + 7 . 4626 x
y = a0 + a1 x + a2 x 2 + L + an x m
来拟合所给定的数据，与线性拟合类似， 来拟合所给定的数据，与线性拟合类似，使偏差的 N m 平方和 j 2 为最小。 为最小。
Q=
∑ (y − ∑ a
i =1 i j =0
j
xi )
tjm
由于Q j=0 由于Q可以看作是关于 ( j=0,1,2,…, m)的多元函 , m)的多元函 数 , 故上述拟合多项式的构造问题可归结为多元 函数的极值问题。 函数的极值问题。令
科学实验，统计分析， 科学实验，统计分析，获得大量数据 xi x0 x1 x2 L xn (n很大) yi y0 y1 y2 L yn 确定y 确定y与x之间的近似表达式 → 插值。几何上， 方法一 插值。几何上，插值曲线经过所有点 → 曲线拟合。 方法二 曲线拟合。求一连续曲线y = ϕ ( x ), 使得
2、二次拟合 、 设 对 某 函 数 y=f(x) ， 测 得 离 散 点 列 (xi,yi) ， i=1,2,...,m，求一条二次曲线p(x)=a+bx+cx2 ，使点列 (xi,yi)中的绝大多数点都能落在该曲线上或在其附近。 记
Q (a, b, c) = ∑ [ p ( xi ) − yi ] = ∑ (a + bxi + cxi2 − yi ) 2
1
e 的某种范数
∞
最小, 最小,如
e
的1-范数 e 范数
或∞-范数 e 范数
即
tjm
e
1
=
∑
i
n
或 e
∞
= max ε i = max ϕ ( xi ) − f ( x i )
i
i=0
εi =
∑
n
i=0
ϕ (xi ) − f (x i )
最小。为了便于计算、分析与应用， 最小。为了便于计算、分析与应用，通常要求 的2-范数
2
tjm
5．2．3曲线拟合的线性化 有些非线性拟合曲线可以通过适当的变量替换转化 为线性曲线，从而用线性拟合进行处理， 为线性曲线，从而用线性拟合进行处理，对于一个 实际的曲线拟合问题， 实际的曲线拟合问题，一般先按观测值在直角坐标 平面上描出散点图，看一看散点的分布同哪类曲线 平面上描出散点图， 图形接近，然后选用相接近的曲线拟合方程。 图形接近，然后选用相接近的曲线拟合方程。再通 过适当的变量替换转化为线性拟合问题， 过适当的变量替换转化为线性拟合问题，按线性拟 合解出后再还原为原变量所表示的曲线拟合方程。 合解出后再还原为原变量所表示的曲线拟合方程。 几类经适当变换后化为线性拟合求解的曲线拟合方 程及变换关系如下表所示： 程及变换关系如下表所示：
tjm
4 4 则正规方程组为 4a0 + a1 ∑ xi = ∑ yi i =1 i =1 4 4 4 a xi + a1 ∑ xi2 = ∑ xi y i 0∑ i =1 i =1 i =1
4
其中
∑x
i =1
i
= 7.32
∑x
i=1
4
2 i
= 13.8434
∑y = 70.376 ∑ x y
ε i = ϕ ( x i ) − f ( x i ) ( i = 0 ,1, L , n ) 不都严格地等于
但是, 零 。 但是 , 为了使近似曲线能尽量反映所给数据点 的变化趋势, 的变化趋势,要求 ε i 向量 e = [ε 0 , ε 1 ,L, ε n ]T
e
按某种度量标准最小。 按某种度量标准最小。若记 ,即要求向量
y = a 0 + a1 x + a 2 x 2