第3章函数逼近与曲线拟合(演示)讲解

第三章 函数逼近与曲线拟合1 函数的逼近与基本概念1.1问题的提出多数计算机的硬件系统只提供加、减、乘、除四种算术运算指令，因此为了计算大多数有解析表达式的函数的值，必须产生可用四则运算进行计算的近似式，一般为多项式和有理分式函数.实际上，我们已经接触到两种逼近多项式，一种是泰乐多项式，一种是插值多项式.泰乐多项式是一种局部方法，误差分布不均匀，满足一定精度要求的泰乐多项式次数太高，不宜在计算机上直接使用.例如，设()f x 是[1,1]-上的光滑函数，它的Taylor 级数0()kk k f x a x∞==∑，()(0)!k k f a k =在[1,1]-上收敛。

当此级数收敛比较快时，11()()()n n n n e x f x s x a x ++=-≈。

这个误差分布是不均匀的。

当0x=时，(0)0n e =，而x 离开零点增加时，()n e x 单调增加，在1x =±误差最大。

为了使[1,1]-的所有x 满足()()n f x s x ε-<，必须选取足够大的n ，这显然是不经济的。

插值函数出现的龙格现象表明，非节点处函数和它的插值多项式相差太大。

更重要的是，实际中通过观测得到的节点数据往往有各种误差，此时如果要求逼近函数过全部节点，相当于保留全部数据误差，这是不适宜的。

如图1所示，给出五个点上的实验测量数据，理论上的结果应该满足线性关系，即图1中的实线。

由于实验数据的误差太大，不能用过任意两点的直线逼近函数。

如果用过5个点的4次多项式逼近线性函数，显然误差会很大。

实验数据 真函数 插值多项式逼近 精确的线性逼近图11.2范数与逼近一、线性空间及赋范线性空间要深入研究客观事物，不得不研究事物间的内在联系，给集合的元素之间赋予某种“确定关系”也正是这样的道理.数学上常把在各种集合中引入某些不同的确定关系称为赋予集合以某种空间结构，并将这样的集合称为空间。

最常用的给集合赋予一种“加法”和“数乘”运算，使其构成线性空间.例如将所有实n 维数对组成的集合，按照“加法”和“数乘”运算构成实数域上的线性空间，记作n R ，称为n 维向量空间.类似地，对次数不超过n 的实系数多项式全体，按通常多项式与多项式加法及数与多项式乘法也构成数域R 上一个线性空间，用nH 表示，称为多项式空间。

所有定义在[,]a b 上的连续函数集合，按函数加法和数与函数乘法构成数域R 上的线性空间，记作[,]C a b .类似地，记[,]p C a b 为具有p 阶连续导数的函数空间.在实数的计算问题中，对实数的大小、距离及误差界等是通过绝对值来度量的.实践中，我们常常会遇到对一般线性空间中的向量大小和向量之间的距离进行度量的问题，因此有必要在一般线性空间上，赋予“长度”结构，使线性空间成为赋范线性空间.定义1 设X 是数域K 上一个线性空间，在其上定义一个实值函数，即对于任意,x y X∈及K α∈，有对应的实数x 和y ，满足下列条件(1) 正定性：0x ≥，而且0x =当且仅当0x =； (2) 齐次性：x x αα=；(3) 三角不等式：x y x y +≤+； 称为X 上的范数，定义了范数的线性空间就称为赋范线性空间.以上三个条件刻划了“长度”、“大小”及“距离”的本质，因此称为范数公理.对n X 上的任一种范数，n X ∀∈x,y ，显然有±≥-x y x y . n R 上常用的几种范数有：(1) 向量的∞-范数：1max ii nx ∞≤≤=x(2) 向量的1-范数：11nii x ==∑x(3) 向量的2-范数：12221()nii x ==∑x(4) 向量的p -范数：11()nppi pi x ==∑x其中[1,)p ∈∞，可以证明向量函数()p N x x ≡是nR 上向量的范数.前三种范数是p -范数的特殊情况（lim pp ∞→∞=xx）.我们只需表明(1).事实上1111111max max nnpppp i i i i i ni n i n i i x x x x ≤≤≤≤≤≤==⎛⎫⎛⎫≤≤≤ ⎪ ⎪⎝⎭⎝⎭∑∑及max 1p →∞=，故由数学分析的夹逼定理有1lim max i p p i n x ∞→∞≤≤==x x 。

类似地对连续函数空间[,]C a b ，可定义三种常用范数： (1)∞-范数：max ()a x bff x ∞≤≤=(2) 1-范数：1()baff x dx =⎰(3) 2-范数：()1222()baff x dx=⎰可以验证这样定义的范数均满足定义1中的三个条件.二、内积与内积空间在线性空间中，仅规定了加法与数乘两种运算.为了使线性空间中的向量元素之间具有夹角的概念，我们需引入第三种运算—内积.定义2 设X 是数域K (R 或C )上的线性空间，对,u v X ∀∈有K 中一个数与之对应，记为(,)u v ，它满足以下条件——内积公理：(1)共轭对称性：(,)(,), ,u v v u u v X =∀∈(2)第一变元线性：(,)(,)(,), ,,,,u v w u w v w u v w αβαβαβ+=+∀∈∀∈K X(3)正定性：(,)0u u ≥,当且仅当0u =时,(,)0u u =则称二元函数(,)u v 为X 上u 与v 的内积.定义了内积的线性空间称为内积空间.当X 实线性空间，称X 是实内积空间；当X 复线性空间，称X 是复内积空间.如果(,)0u v =，则称u 与v 正交，这是n R 中向量相互垂直概念的推广.定理1设X 为一个内积空间，对,u v X ∀∈，有2(,)(,)(,)u v u u v v ≤ (1.1)称为Cauchy-Schwarz 不等式.证明 设0v ≠，则(,)0v v >，对如何实数λ有20(,)(,)2(,)(,)u v u v u u u v v v λλλλ≤++=++取(,)(,)u v v v λ=-，代入上式右端，得22(,)(,)(,)20(,)(,)u v u v u u v v v v -+≥即(1.1)式得证.当0v =时，(1.1)式显然成立.定理2 设X 为一个内积空间，1,,nu u X ∈，矩阵112111222212(,)(,)(,)(,)(,)(,)(,)(,)(,)n n n n n n u u u u u u u u u u u u G u u u u u u ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦(1.2)称为克莱姆（Gramer ）矩阵，则G 非奇异的充分必要条件是12,,,n u u u 线性无关.证明 G 奇异⇔存在非零向量1(,)T n a a =a ，使得0=Ga .即111111(,)(,)0(,)(,)n n j j j j j j n n j n j j j n j j u u a a u u u u a a u u ====⎛⎫⎛⎫⎪ ⎪ ⎪ ⎪ ⎪ ⎪== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭∑∑∑∑ 1111(,)0,1,,(,)0nj j k j nnj j j j j j njj j a u u k na u a u au ====⇔==⇔=⇔=∑∑∑∑即12,,,n uu u 线性相关. □定理3（Gram-Schmidt 正交化方法）如果12{,,,}n u u u 是内积空间X 中一个线性无关的序列，则可按照公式1111,(,),2,,(,)i i k i i k k k k v u u u v u v i nv v -==⎧⎪⎨=-=⎪⎩∑ (1.3) 产生一个正交序列12{,,,}n v v v ，满足(,)0i j v v = ()i j ≠，而且此序列是12span{,,,}n u u u 的一组基.在内积空间X 上可以由内积导出一种范数，即对于X ∈，记u =容易验证它满足范数的定义，其中三角不等式可以由定理1证明. 例1 nR 与nC 的内积.设T 1,,(,,)n n x y R x xx ∈=，T 1(,,)n y y y =，则内积可定义为1()ni ii x y ==∑x,y(1.4)由此导出向量2-范数为2==x若给定实数0 (1,,)ii n ω>=，称{}i ω为权系数，则在R 上可定义加权内积为1()ni i ii x y ω==∑x,y (1.5)相应的范数为2=x不难验证(1.5)给出的()x,y 满足内积定义 3.2的条件.当 1 (1,,)ii n ω==时，(1.5)就是(1.4).如果,n x y C ∈，带权内积定义为1()ni i ii x y ω==∑x,y其中i ω仍为正实数序列，i y 为i y 的共轭.也可以在[,]C a b 上定义带权的内积，为此，我们先给出权函数的定义. 定义3 设[,]a b 是有限或无限区间，在[,]a b 上的非负函数()x ρ满足条件： (1)()b k ax x dx ρ<∞⎰存在且为有限值(0,1,)k =；(2) 对[,]a b 上的非负连续函数()g x ，如果()()0bax g x dx ρ=⎰，则()0g x ≡.则称()x ρ是区间[,]a b 上的一个权函数.从定义可看出：1）()x ρ为[,]a b 上的非负可积函数，且当[,]a b 为无限区间时，要求()x ρ具有任意的衰减性；2）在[,]a b 的任一子区间上()x ρ不恒等于零.例2 [,]C a b 上的内积.设(),()[,]f x g x C a b ∈，()x ρ是[,]a b 上给定的权函数，则可定义内积((),())()()()baf xg x x f x g x dx ρ=⎰容易验证它满足内积定义的四条性质，由此内积导出的范数为112222()((),())()()ba f x f x f x x f x dx ρ⎡⎤==⎢⎥⎣⎦⎰分别称为带权()x ρ的内积和范数，特别常用的是()1x ρ≡的情形，即((),())()()b af xg x f x g x dx =⎰1222()()ba f x f x dx ⎡⎤=⎢⎥⎣⎦⎰三、逼近用简单函数组成的函数类M 中“接近”于()f x 的函数()p x 近似地代替()f x ，称()p x 是()f x 的一个逼近，()f x 称为被逼近函数，两者之差()()()E x f x p x =- (1.6)称为逼近的误差或余项.这里必须表明两点：其一是函数类M 的选取.何为简单函数？在数值分析中所谓简单函数主要是指可以用四则运算进行计算的函数，最常用的有多项式及有理分式函数；其二是如何确定p 与f之间的度量.定义4 设X 为定义在区间[,]a b 上某类函数组成的线性赋范空间，()f x 是X 中给定的函数，若在函数类[,]M a b ⊂中，求得函数()p x M ∈，使逼近误差()()()E x f x p x =-满足下列不等式E f p ε∞∞=-≤ (1.7) 则称()p x 是函数类M 中对()f x 满足精度ε的一致逼近.定义5 设X 为定义在区间[,]a b 上某类函数组成的线性赋范空间，()f x 是X 中给定的函数，若在函数类[,]M a b ⊂中，求得函数()p x M ∈，使逼近误差()()()E x f x p x =-满足下列不等式22Ef p ε=-≤ (1.8)则称()p x 是函数类M 中对()f x 满足精度ε的平方逼近.定义6 设X 是一线性赋范空间，M 是X 的一个子集.如果对于X 中给定的f，在M 中存在一元素*ϕ，使得*inf Mf f ϕϕϕ∈-=- (1.9)则称*ϕ是M 中对f 的最佳逼近.特别地，若∞⋅=⋅，称为最佳一致逼近；若2⋅=⋅，称为最佳平方逼近.本章讨论最佳一致逼近及最佳平方逼近是否存在？是否唯一？如何构造最佳逼近等.2 曲线拟合的最小二乘法在生产实际和科学实验中有很多函数，它的解析表达式是不知道的，仅能通过实验观察的方法测得一系列节点上的值i y 。