函数的数值逼近

函数的数值逼近用比较简单的函数代替复杂的函数,是函数逼近。

函数最佳逼近,即不满足插值条件而整体具有好的逼近效果的函数拟合方法。

下面先讨论函数的数值逼近的基本理论与方法，例如最佳平方逼近函数的存在性、惟一性以及最佳平方逼近函数的求法。

最后讨论曲线拟合的最小二乘解问题。

1、 预备知识1.1正交多项式的概念及几个重要性质定义1.1 设有C [a,b]中的函数组,),(,),(),(10 x x x n ΦΦΦ若满足{)1.1()()()(),(,0,⎰≠=>=ΦΦ=ΦΦbak j k j A k j k j k dx x x x ρ其中)(x ρ为权函数,则称此函数组为在区间[a,b]上带权)(x ρ的正交函数组,其中k A 为常数,若k A =1,称该函数组是标准正交的.定理1.1 设函数组{}∞=Φ0)(k k x 正交,则它们一定线性无关.证 设),,2,1()(n i x i =Φ为{}∞=Φ0)(k k x 中任意n 个函数,令,0)()()(2211=Φ++Φ+Φx C x C x C n n 上式两边与)(x k Φ作内积,由内积的性质和正交性有 ).,,2,1(0),(n k C k k k ==ΦΦ因为,0),(≠ΦΦk k 故有),,2,1(0n k C k==.得证.定理1.2 设{}],,[)(0b a C x nk k ∈Φ=它们线性无关的充分必要条件是其Gram 行列式,0≠n G 其中)2.1(),(),(),(),(),(),(),(),(),(101110101000n n n n n n n G ΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦ=证 我们主要在实内积空间讨论问题.由内积的定义可知),,(),(k j j k ΦΦ=ΦΦ故n G 对应的矩阵是对称矩阵.考虑以n a a a ,,,10 为未知元的线性方程组∑===ΦΦnk k j kn j a)3.1().,,1,0(0),(其系数行列式为n G .由线性代数知识知道：式（1.3）仅有零解),,1,0(0n k a k ==的充要条件是,0≠n G充分性 设,0≠n G 要证明{}n k k x 0)(=Φ线性无关. 作线性组合∑==Φnk kk a 0,0显然有∑∑∑=====ΦΦ=ΦΦ=ΦΦnk nk nk k j k j k k j k k n j a a a 0).,,1,0(0),(),(),(这表明),,1,0(n k a k =满足式(1.3).又因,0≠n G 故有),,1,0(0n k a k ==,按线性无关的定义知{}nk k x 0)(=Φ线性无关.必要性 设{}nk k x 0)(=Φ线性无关.要证明.0≠n G设),,1,0(n k a k =满足式(1.3).即 ∑===ΦΦnk k j kn j a).,,1,0(0),(则有 ∑∑====ΦΦ=ΦΦnk j k k nk j k kn j a a),,,1,0(0),(),(从而有 .0),(0∑∑===ΦΦnk nk kkkka a由上式可知.00∑==Φnk kk a由于{}nk k x 0)(=Φ线性无关,则有),,1,0(0n k a k ==,即齐次线性方程组(1.3)仅有零解,故.0≠n G定义1.2 给定区间[a,b]和对应的权函数)(x ρ及多项式序列∑===kj jjk k x ax g 0),,2,1,0()(其中首项系数,0≠k a 若满足{)9.1()()()(),(,0,⎰≠=>==ba k j k j A k j k j k dx x g x g x g g ρ则称之为在区间[a,b]上带权)(x ρ的正交多项式序列, )(x g k 称为k 次正交多项式. 没说明时,认为权函数)(x ρ≡1.2、最佳平方逼近2.1 最佳平方逼近函数的概念定义2.1 设],[)(b a C x f ∈及],[b a C 中的子集},,,,{10n span ΦΦΦ=Γ 其中n ΦΦΦ,,,10 线性无关. 若存在Γ∈*)(x S 使得)1.2()]()()[(min ||)()(||min ||)()(||22222⎰-=-=-Γ∈Γ∈*ba S S dxx S x f x x S x f x S x f ρ 成立,则称)(x S *为f(x)在Γ中的最佳平方逼近函数.特别地,当},,,,1{nx x span =Γ满足式(2.1)的Γ∈*)(x S n 称为f(x)的n 次最佳平方逼近多项式,简称n 次最佳平方逼近.2.2 最佳平方逼近函数的求法定理 2.1 对于任意的函数],[)(b a C x f ∈,其在Γ中的最佳平方逼近函数)(x S *是存在且唯一的.证 Γ中的函数形如∑=Φ=nj jj x a x S 0),()(由式(2.1)可知,求f(x)的最佳平方逼近函数等价于求多元函数∑⎰=Φ-=nj j j ban dxx a x f x a a a I 0210)2.2()]()()[(),,,(ρ的最小值问题.由极值存在的必要条件有)3.2(),,,1,0(0n k a Ik==∂∂积分与求导交换次序有: ∑⎰==Φ-Φ-nj k j j badx x x a x f x 0.0))()](()()[(2ρ故∑⎰===ΦΦ-nj k j j ban k dx x x a x f x 0)4.2(),,,1,0(0)()]()()[( ρ∑⎰⎰=Φ=ΦΦnj babak j k j dx x x f x dx x x x a 0.)()()()()()(ρρ所以∑==Φ=ΦΦnj k j j kn k f a 0)5.2().,,1,0(),(),(这是以n a a a ,,10为未知元的线性方程组,因为n ΦΦΦ,,,10 线性无关,其系数行列式,0≠n G 故式(2.5)有唯一解.设其解为),,,1,0(n i a i =*则∑=**Φ=ni iia x S 0)6.2(.)(下面证明)(x S *满足式(2.1).即需证明,)(Γ∈∀x S⎰⎰-≤-*babadx x S x f x dx x S x f x 22)]()()[()]()()[(ρρ成立.为此只需证明 ⎰⎰≥---=*babax S x f x dx x S x f x D .0)]()()[()]()()[(22ρρ由于⎰⎰*-=b abadxx S x dx x S x D 22)]()[()]()[(ρρdx x S x f x dx x S x f x bab a⎰⎰*+-)()()(2)()()(2ρρ⎰*-=badx x S x S x 2)]()()[(ρ⎰**--+badx x S x f x S x S x ,)]()()][()()[(2ρ由于,)()(Γ∈-*x S x S 由(2.4)知上式第二项为零. 故 .0)]()()[(2⎰≥-=*badx x S x S x D ρ这表明)(x S *为f(x)在Γ中的最佳平方逼近函数.由于式(2.5)的解),,,1,0(n i a i =*存在且唯一,所以f(x)在Γ中的最佳平方逼近函数)(x S *存在且唯一. 最佳平方逼近函数的误差由式(2.4)知 22||)()(||x S x f *-),(),(),(),(f S f S S f f S f S f S f ******-=---=--= ),(||||),(),(022∑=**-=-=nk k k f a f f S f f φ)7.2(.),(||||022∑=*-=k k k f af φ例 2.1 求函数x e x f =)(在区间[0,1]上的一次最佳平方逼近多项式)(1x S *,并计算22||)()(||x S x f *-.解 设,)(101x a a x S +=*1,1)(,,1},,1{10===Φ=Φ=Γn x x x span ρ，由式（2.5）知⎩⎨⎧Φ=ΦΦ+ΦΦΦ=ΦΦ+ΦΦ),(),(),(),(),(),(11110010110000f a a f a a ⎰==ΦΦ1000,11),(dx⎰==ΦΦ=ΦΦ10110,21),(),(xdx ⎰⎰-==Φ==ΦΦ10010211,1),(,31),(e dx e f dx x x ⎰==Φ11,1),(dx xe f x所以 ,11312121110⎥⎦⎤⎢⎣⎡-=⎥⎦⎤⎢⎣⎡⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡e a a⎩⎨⎧-=-=.618,10410e a e a 故.)618(104)(1x e e x S -+-=*由式(2.7)知22||)()(||x S x f *-=∑=-=122),(||||k k k f a f φ.1094.3)618()1)(104(132⎰-⨯=-----=e e e dx e x 3、用正交多项式作函数的最佳平方逼近设},,,,{10n span ϕϕϕ =Γ{}ni i 0=ϕ在[a,b]上带权)(x ρ正交。

问题：在Γ中求f(x)的最佳平方逼近函数 ∑=**=nk kk x a x S 0).()(ϕ由于正交一定线性无关，所以上面的讨论仍适用。

由式（2.5）知，),,,1,0(n k a k =*应为方程组∑===j k j j kn k f a 0).,,1,0(),(),( ϕϕϕ的解。

由正交性可将上式化为 ).,,1,0(),(),(n k f a k k k k ==ϕϕϕ故 其解)1.3().,,1,0(),(),(n k f a a k k k k k ===*ϕϕϕ所以 )2.3().(),(),()(0x f x S k n k kk k ϕϕϕϕ∑=*=4、曲线拟合的最小二乘法4.1曲线拟合的最小二乘问题已知一组实验数据,要求y=f(x)的近似表达式.从几何上来讲,就是求y=f(x)的一条近似曲线,故称曲线拟合问题.例如,可以用插值法,如Lagrange 插值公式L m (x )≈f(x).但因插值公式需满足插值条件L m (x i )=y i (i=0,1,……，m),即要求L m (x )严格通过给定的m+1个点。

由于实验数据一般带有误差，有的数据可能误差还较大，这样就会使所求的多项式L m (x )仍然保留着一切测试误差。

点取得越多，插值多项式的次数也越高，误差可能也越大。

正是基于上述原因，放弃使所求函数严格通过上述点（x i ,y i ）的要求，提出如下的问题：令{}{},max ,min 00i mi i mi x b x a ≤≤≤≤==在C[a,b]中选定线性无关的函数{}ni i 0=Φ，在},,,,{10n span ΦΦΦ=Γ 中寻求一个函数∑=**<Φ=ni i i m n x a x S 0)1.4(),().()(使)(x S *与y=f(x)在上述m+1个点上的偏差),1,0()(m i y x S ii i =-=*δ满足∑∑==*-==mi mi i i i i y x S x 02222])()[(||||ωδδ)2.4(,])()[(min2∑=Γ∈-=mi iiis y x S x ω其中,),,(21T m δδδδ =)3.4().()(0x a x S jj j φ∑==0)(≥x ω为所讨论区间[a,b]上的权函数,它表示不同点),(i i y x 数据的权重,例如)(i x ω可表示点),(i i y x 被重复观测的次数.满足式(4.2)的函数)(x S *称为问题的最小二乘解(或称f(x)的离散形式的最佳平方逼近函数),求)(x S *的方法称为曲线拟合的最小二乘法.4.2 最小二乘解的求法要求问题的最小二乘解,首先需确定函数类Γ,为此,需确定)(x S *的形式.通常的做法是将数据),(i i y x 描绘在坐标纸上,依据这些数据点的分布规律确定此函数的具体形式.这也等于确定了函数类Γ.其次是按式(4.2)求)(x S *,即需要确定其系数),,,1,0(n j a j =*此问题转化为求多元函数∑∑==-Φ=nj i i j j m i i n x f x a x a a a u 0210)4.4()]()([)(),,,(ω的极小点).,,(10***n a a a 由极值存在的必要条件知, ),,,1,0(n k a k =应满足),,,1,0(n k a uk=∂∂ 即 ∑∑===-Φnj i k i i jjm i ix x f x a x 0,0)()]()([)(2φω或)5.4().,,1,0()()()()()()(0n k x x f x x x x a ikimi iikijm i in j j==∑∑∑===φωφφω令)6.4(,))()((),(||||),()()(),(),()()(),(2102200⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧⎥⎦⎤⎢⎣⎡====∑∑∑===m i i i i k i m i i k i k i j m i i k j x f x f f f x x f x f x x x ωφωφφφωφφ则式(4.5)可写成)7.4().,,1,0(),(),(0n k f ak jnj kj==∑=φφφ这是关于n a a a ,,,10 的线性方程组.其矩阵形式为)8.4(,),(),(),(),(),(),(),(),(),(),(),(),(1010101110101000⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡ΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦΦn n n n n n n n f f f a a a φφφ称之为法方程(或正规方程),其系数矩阵是对称矩阵,其行列式记为n G ,按(4.6)定义的内积可证明n φφφ,,,10 线性无关的充要条件是行列式0≠n G (证法与定理1.2类似).由于n φφφ,,,10 线性无关,可知(4.8)有唯一解),,,1,0(n j a a j j ==*于是有 ∑=**Φ=ni iix a x S 0).()(可证∑=**Γ∈Φ=n i iix a x S 0)()(满足,,||||||||2222Γ∈∀-≤-*S S y S y并且平方误差为)9.4(.),(||||||||||||0222222∑=**-=-=ni iiy a y S y φδ例4.1 已知一组实验数据如下:求问题的最小二乘解.解 将上述数据描绘在坐标纸上,发现这些点近似一直线,又近似一条抛物线.首先用直线 x a a x S ***+=101)(去拟合上述数据.即在函数空间},1{x span =Γ中求)(1x S *.在此问题中,n=1,m=4,)(x ω没给则认为.)(,1)(.1)(10x x x x ==≡φφω法方程形式为.),(),(),(),(),(),(101011100100⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡φφφφφφφφφφf f a a按式(4.6)可知∑==4000,1),(i φφ ∑====41001;5.2),(),(i i x φφφφ∑===40211,875.1),(i i x φφ ∑===40;7680.8),(i i y f φ∑===41.4514.5),(i i i y x f φ从而有 .4514.57680.8875.15.25.2510⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡a a 解得.7078.1,8997.010==**a a 故.7078.18997.0)(1x x S +=*其平方误差 .1092.3),(||||||||1222221∑=-*⨯=-=i iif a f φδ其次,用抛物线22102)(x a x a a x S ****++=去拟合上述数据,即在函数空间},,1{2x x span =Γ中求)(2x S *.在此问题中, n=2,m=4,.)(,)(,1)(.1)(2210x x x x x x ===≡φφφω其法方程形式为.),(),(),(),(),(),(),(),(),(),(),(),(210210222120121110020100⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡φφφφφφφφφφφφφφφφφφφφφf f f a a a类似上面的讨论可得⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡4015.44514.57680.83828.15625.1875.15625.1875.15.2875.15.25210a a a解得.8437.0,8642.0,005.1210===***a a a故228437.08642.0005.1)(x x x S ++=*平方误差.1076.2),(||||||||1422221∑=-*⨯=-=i iif a f φδ由于)(2x S *的平方误差较小,所以用)(2x S *拟合上述数据较好.4.3 用正交多项式做最小二乘拟合当用多项式作为拟合函数时,往往会出现法方程的系数矩阵是病态的情况.为避免此问题出现,一种可行的方法是用正交多项式做最小二乘拟合.定义4.1 若函数组{}ni i x 0)(=ϕ在节点m k k x 0}{=处满足{)10.4()()()(),(0),(0),,1,0,,(),(0∑=≠=<=>==mk j i n j i m n j i A k j k i k j i i x x x ϕϕωϕϕ则称{}ni i x 0)(=ϕ是关于点集m k k x 0}{=带权),,1,0()(m k x k =ω的正交函数组.特别地,若，i P n i P x i ii )(),,,1,0()(次的多项式集合为≤=∈ ϕ则称{}ni i x 0)(=ϕ为正交多项式.可以在子空间},,,,1{n x x span =Γ中寻找一组基函数{}ni i x 0)(=ϕ,使之关于点集m k k x 0}{=带权),,1,0()(m k x k =ω正交.即满足(4.10),它们可用递推公式表示如下: )11.4().1,,2,1()()()()(),()(,1)(111110⎩⎨⎧-=--=-==-++n i x x x x x x x i i i i i ϕβϕαϕαϕϕ其中)12.4();1,,1,0()()()()(),(),(02021-===∑∑==+n i x xx x xx m k k i kmk k i k ki i i i i ϕωϕωϕϕϕϕα)13.4();1,,1,0()()()()(),(),(0210211-===∑∑=-=--n i x xx x mk k i kmk k i ki i i i i ϕωϕωϕϕϕϕβ可以用归纳法证明{}ni i x 0)(=ϕ是正交的.其中)(x i ϕ为首项系数为1的i 次多项式.即它们为正交多项式.如果用正交多项式{}ni i x 0)(=ϕ作最小二乘拟合,即在},,,,{10n span ϕϕϕ =Γ中求拟合曲线∑=**=nk kk a x P 0.)(ϕ法方程(4.8)可简化为).,,1,0(),(),(n k f a k k k k ==ϕϕϕ其解为)14.4();,,1,0()()()()()(),(),(020n k x x x x f x f a mk i kimi i kiik k k k ===∑∑==*ϕωϕωϕϕϕ故∑∑==**==nk k nk kk k k k x f a x P 00)15.4().(),(),()(ϕϕϕϕϕ即为所求问题的最小二乘解.例4.3 用正交多项式求所给数据的二次最小二乘解.解 设),()()()(221100x a x a x a x P ϕϕϕ****++=由式(4.11)~(4.13)有,5.055.21,14410====∑∑==k k kx αϕ,5.0)5.0()5.0(,5.0)(40240221=--=-=∑∑==k kk k k xx x x x αϕ.125.01)5.0(4421=-=∑∑==k k k x β所以.125.0)5.0()()()()(201122--=--=x x x x x ϕβϕαϕ由式(4.14)可知 ,75360.11)()(444020400∑∑∑∑====*===k k ik i k i i y x x y a ϕϕ,70784.1)()(40214011==∑∑==*k i k iix x y a ϕϕ.84366.0)()(422422==∑∑==*k i k i i x x y a ϕϕ故)(84366.0)(70784.1)(75360.1)(210x x x x P ϕϕϕ++=* .8437.08462.0005.12x x ++= 其结果与例4.1相同.由式(4.9)可知,平方误差为 .),(||||||||02222∑=*-=ni i i y a y ϕδ利用式(4.14)有),,(),(i i i i a y ϕϕϕ*=故.),()(||||||||022222∑=*-=ni i i i ay ϕϕδ。