平方逼近(离散)

第六章 函数逼近
（曲线拟合）
2019/1/18 阜师院数科院
第六章目录
§1 最小二乘法原理和多项式拟合 §2 一般最小二乘拟合 2.1线性最小二乘法的一般形式 2.2非线性最小二乘拟合 §3 正交多项式曲线拟合 3.1离散正交多项式 3.2用离散正交多项式作曲线拟合 §4 函数的最佳平方逼近 §5 最佳一致逼近
i i
例1 给定一组实验数据如上，求x, y的函数关系。 解 先作草图如图6-1所示这些点的分布接近一条直线，因 此可设想，y为x的一次函数。设y = a0+a1x，从图中不难看 出，无论a0，a1取何值，直线都不可能同时过全部数据点。 怎样选取a0，a1才能使直线“最好”地反映数据点的总体趋 势？首先要建立好坏的标准。 假定a0，a1已经确定，yi* = a0+a1xi(i =1,2,…,n) 是由近似 函数求得的近似值，它与观测值 y 图6-1 8 yi 之差ri = yi yi*=yi a0a1xi * * (i =1,2,…,n) 称为偏差。显然， 6 * 4 偏差的大小可作为衡量近似 * 2 函数好坏的标准。偏差向量 x T， 6 2 8 4 r = (r , r ,…, r ) 2019/1/18 阜师院数科院 1 2 n
m
多项式拟合（续）
这是最小二乘拟合多项式的系数ak(k =0,1,…,m) 应满足的方程组， 称为正规方程组或法方程组。由函数组{1,x,x2,…,xm}的线性无关性 可以证明，上述法方程组存在唯一解，且解所对应的m次多项式 Pm(x) 必定是已给数据(xi,yi)(i =1,2,…,n) 的最小二乘m次拟合多项式。 如图6-1表明，可用一次多项式P1(x) = a0+a0x拟合例1中数据组所 给定的函数关系，将所给数据代入正规方程组可得：
2019/1/18 阜师院数科院
2.1 线性最小二乘法的一般形式
作两个推广：1. 函数系由{xm}{m(x)} 线性无关 2. 加权系数i (i =1,2,…,n) 即对(xi,yi)(i =1,2,…,n)选取函数(x)：
( x) a0 0 ( x) a11 ( x) am m ( x) ak k ( x)
:
i 1
二、多项式拟合
对于给定的一组数据(xi,yi)(i =1,2,…,n)，求一多项式(m < n)
Pm ( x) a0 a1 x am x m (6 - 1)
使 n r 2 n (P (x ) y ) 2 i m i i 得 i 1 i 1
n i 1
2019/1/18 阜师院数科院
§1 最小二乘法原理和多项式拟合
一、曲线拟合的最小二乘法基本原理 对给定的数据(xi,yi)(i =1,2,…,n)，选取近似函数形式， 即在给定的函数类Φ中，求函数(x)Φ，使偏差 ri=(xi)yi (i=1,2,…,n) 的平方和为最小，即:
亦 ri ( ( xi ) yi ) min 即
k 0
m
使 i ( yi ( xi )) 2
i 1

n

i 1
n
i ( yi

k 0
m
ak k ( xi )) 2 min
Φ

i 1
n
i ( yi ( xi ))2 (6 2)
达到最小， 对aj 求偏导数令其为0 正规方程组：
2019/1/18 阜师院数科院
2019/1/18 阜师院数科院
函数逼近（曲线拟合）概述
用简单的计算量小的函数P(x) 近似地替代 给定的函数f (x)（或者是以离散数据形式给 定的函数），以便迅速求出函数值的近似值 ，是计算数学中最基本的概念和方法，称为 函数逼近。通常被逼近的函数一般较复杂， 或只知道离散点处的值，难于分析，而逼近 函数则比较简单，如选用多项式，有理函数 ，分段多项式，三角多项式等。
:
F (a0 , a1 ,, a m ) ( Pm ( xi ) yi ) 2 min ( ( xi ) yi ) 2

移项得 : 2019/1/18
n n k j j 阜师院数科院 x a x i k i yi k 0 i 1 i 1 m
其解为a0 = 1.1, a1 = 1.02，所以： y2019/1/18 = 1.1+1.02x 就是所给数据组 阜师院数科院 的最小二 乘拟合多项式。
4a 0 20 a1 16 20 a 0 120 a1 100 .4
最小二乘二次拟合多项式举例
例2 求下面数据表的最小二乘二次拟合多项式 ：
2019/1/18 阜师院数科院
正规方程组的几种形式
n
如果G的列 向量线性无关， 则正规方程组 存在唯一解向 量a，从而可 确定：
T T
则：正规方程组还可以 表示为：G Ga G y
正规方程组的几种形式（续）
其次可引进内积表示正规方程组：
对于正规方程组： i ( yi ( xi )) j ( xi ) 0
i 1 n n i k ( xi ) j ( xi ) ak i yi j ( xi ) k 0 i 1 i 1 m n
i 1 2
-0.75
0.3295
3
-0.5
0.8826
4
-0.25
1.4392
5
6
0.25
2.5645
7
0.5
3.1334
8
0.75
3.7601
9
1
4.2836
xi
yi
-1
-0.2209
0
2.0003
解：设二次拟合多项式 9a0 0 3.75a2 18.1723 为P2(x) = a0+a1x + a2x2， 0 3.75a1 0 8.4842 将数据表直接代 入正 3.75a0 0 2.7656a2 7.1673 规方程组：
i ( yi ( xi )) j ( xi ) 0 正规方程组 正规方程组： i 1 的几种形式： m n n 首先，可用向 ( x ) ( x ) a y ( x ) i k i j i k i i j i 量和矩阵表示 k 0 i 1 i 1 正规方程组 j 0,1, , m 若记a (a0 , a1 , , am )T , y ( y0 , y1 , , yn )T
( j 0,1,, m)（紧接下屏）
n n n 即： 打开和式 2 m xi a2 xi am yi nao xi ka 01 i 1 i 1 i 1 i 1 n n n 2 n 3 n m 1 xi a0 xi a1 xi a2 xi am xi yi i 1 i 1 i 1 i 1 i 1 n n m n m 1 n m 2 n 2m m xi a0 xi a1 xi a2 xi am xi yi i 1 i 1 i 1 i 1 i 1 n
0 ( x1 ) 1 ( x1 ) m ( x1 ) 0 ( x2 ) 1 ( x2 ) m ( x2 ) G ( x ) ( x ) ( x ) 1 n m n 0 n 原矛盾方程组为： Ga y
n 2 n 2 i 1 i 1
2 2 ( ( x ) y ) min ( ( x ) y ) i i i i i 1

n

从几何上讲，就是求在给定的点x1,x2,…,xn处与点 (x1,y1), (x2,y2),…, (xn,yn)的距离平方和最小的曲线y = (x)。 这种求近似函数的方法称为离散数据曲线拟合的最小二 乘法，函数 (x) 称为这组数据的最小二乘拟合函数。通 常取Φ为一些较简单函数的集合如低次多项式，指数函 数等。例 2019/1/18 1中取Φ为一次多项式集合。 阜师院数科院
max ri min, max ri 为r的一范数
i
（3）使偏差的平方和最小，即:
2 r i min, i 2 r i 为r的2一范数
准则（1）的提出很自然也合理，但实际使用不方便， 按准则（2）求近似函数的方法称为函数的最佳一致逼近 按准则（3）确定参数，求近似函数的方法称为最佳平 方逼近, 在离散情况下,也称为曲线拟合的最小二乘法,是实 2019/1/18 阜师院数科院 践中常用的一种函数逼近方法。
F (a0 , a1 ,, a m ) 为最小，即选取参数
aj(j =0,1,…,m)使得 :
n i 1
其中Φ为不超过m次多项式的集合。这就是数据的多项 式拟合，Pm(x)称为这组数据的m次拟合多项式。 与求解矛盾线性方程组的最小二乘法的方法相同，由多 n m j 元函数求极值的必 F k 2 a k xi yi xi 0 ( j 0,1, , m) 要条件，得方程组 : a j i 1 k 0
函数逼近举例
i xi yi
1 2 1.1
2 4 2.8
3 6 4.9
4 8 7.2
常用的准则有以下三种： ri = yi yi*=yi a0a1xi （1）使偏差的绝对值 r min ， r 为向量 r 的 1 一范数 i i 之和最小，即: 0i n i
例1（续）
i
（2）使偏差的最大绝对 值达到最小，即:
其解为a0=2.0034, a1=2.2625, a2=0.0378。所以此数据组的 最小二乘二次拟合多项式为：
2019/1/18 2
P ( x) 2.0034 2.2625 x 0.0378 x
阜师院数科院
2
§2 一般最小二乘拟合
上节介绍了多项式拟合问题及其 解法。在实际应用中，针对所讨论问 题的特点，拟合函数可能为其他类型 的函数，如指数函数，三角函数，有 理函数等，待定参数也可能会出现在 指数上，分母中等，对观测数据，由 于它们的精度不一样，还会引入权系 数，这都属于一般最小二乘拟合问题。
2019/1/18 阜师院数科院
在大量的实验数据 (x ,y )(i =1,2,…,n ) 中寻找其函数 函数逼近 （曲线拟合） 概述（续）
关系y =f (x) 的近似函数P (x)，是在实践中常遇到的。 上一章介绍的插值方法就是一种逼近，要求在给定的 节点处P(x) 与f (x)相等（甚至导数值相等），因此在节 点附近，逼近效果较好，而在远离节点的地方，由 Runge现象知道，有时效果会很差，另一方面，由观测 得到的实验数据不可避免地带有误差，甚至是较大的 误差，此时要求近似函数P(x)过全部已知点，相当于保 留全部数据误差，所以使用插值法不合适。因此，对 逼近函数P(x)不必要求过给定的点，即不要求P(xi) = yi(i =1,2,…,n)，只要求P(xi) – yi 总体上尽可能小即要求 P(x)尽可能反映给定数据点的总体趋势， 在某种意义（要求或标准）下与函数最“逼近”。 下面先举例说明。 阜师院数科院 2019/1/18
函数的近似替代，求近似函数称为逼近
要求（准则或标准）不一样，逼 近的意义不一样，因此，方法不一样， 结果也不一样。插值是逼近，满足条 件Ln(xi)=yi 是在“过给定点”意义下 的逼近。要求Ln(xi)-yi 总体上尽可能小, 满足准则（3）称为最佳平方逼近,在 离散情况下,也称为曲线拟合的最小二 乘法.