用正交多项式做最小二乘拟合

合集下载

数值分析--32正交多项式与最小二乘拟合

多项式 /* generalized polynomial */. 常见多项式：
j 0 n
{ j(x) = x j } 对应代数多项式 /* algebraic polynomial */
{ j(x) = cos jx }、{ j(x) = sin jx } { j(x), j(x) }对应三角多项式 /* trigonometric polynomial */ { j(x) = e kj x , ki kj } 对应指数多项式 /* exponential
n
定理 Ba = c 存在唯一解 0(x), 1(x), … , n(x) 线性无关。
证明：若存在一组系数 {i } 使得 0 0 + 1 1 + ... + n n 0 则等式两边分别与0, 1, … , n作内积，得到：
0 ( 0 , 0 ) + 1 ( 1 , 0 ) + ... + n ( n , 0 ) 0 ( , ) + ( , ) + ... + ( , ) 0 1 1 1 n n 1 0 0 1 . . . ( , ) + ( , ) + ... + ( , ) 0 1 1 n n n n 0 0 n
1 2 49 3 y P( x) x + x 2 10 2
cond ( B ) 7623
|| B || 484,
|| B
1
||
63 4
§6 Orthogonal Polynomials & L-S Approximation
j 例：连续型拟合中，取 j ( x) x , ( x) 1, y( x) C[0, 1]

正交多项式的性质及在科学计算中的应用【范本模板】

正交多项式的性质及在科学计算中的应用摘要正交多项式是满足一定条件的多项式族.正交多项式是数学研究领域热点之一.许多数学理论的突破，如Bieberbach猜想的证明，数据拟合，数学物理、工程技术和函数逼近等领域的理论研究，都依赖于或应用了正交多项式的重要成果。

现正交多项式被广泛应用于数学物理，工程技术，科学计算，回归分析，概率分布等领域。

因此，对于正交多项式的研究具有重要的意义和价值.本文首先给出了正交多项式的定义，其次对勒让德（Legendre）多项式、切比雪夫(Chebyshev）多项式、拉盖尔(Laguerre)多项式、艾尔米特（Hermite）多项式的性质进行了探讨并对部分性质进行了证明，最后对正交多项式在数据拟合,最佳平方逼近以及在概率分析中的应用进行了讨论。

关键词：正交多项式勒让德（Legendre）多项式切比雪夫（Chebyshev）多项式拉盖尔（Laguerre）多项式艾尔米特（Hermite）多项式数据拟合最佳平方逼近概率分析The Character of Orthogonal Plynomial and its Applicationin Scientific ComputationAbstractOrthogonal polynomial is a polynomial that satisfies some conditions.Orthogonal polynomial is one of the hotspot in the field of mathematical research.Many mathematical theory，such as proof of the conjecture of Bieberbach，data fitting，mathematical physics，theory of engineering technology and function approximation are depends on the important achievements in the field or the application of orthogonal polynomials。

实验题目用正交多项式做小二乘曲线拟合

实验题目：用正交多项式做小二乘曲线拟合实验题目：用正交多项式做最小二乘的曲线拟合学生组号： 6 完成日期： 2011/11/27 1 实验目的针对给定数据的煤自燃监测数据中煤温与NO 22,之间的非线性关系，用正交多项式做最小二乘曲线拟合。

2 实验步骤2.1 算法原理设给定n+1个数据点：（yx kk,），k=0,1,···,n ，则根据这些节点作一个m 次的最小二乘拟合多项式pm（x ）=a+x a x a a mm x +++ (2)21=x a jmj j ∑=0①其中，m ≤n,一般远小于n.。

若要构造一组次数不超过ｍ的在给定点上正交的多项式函数系｛)(x Qj（ｊ＝０，１，．．．，ｍ）｝，则可以首先利用｛)(x Qj（ｊ＝０，１，．．．，ｍ）｝作为基函数作最小二乘曲线的拟合，即pm（x ）＝)(...)()(11x x x Qq Q q Q q mm+++ ②根据②式，其中的系数qj（ｊ＝０，１，．．．，ｍ）为∑∑===nk kjnk kjkjx Q x Q y q2)()(，ｊ＝０，１，．．．，ｍ ③将④代入③后展开就成一般的多项式。

构造给定点上的正交多项式)(x Qj（ｊ＝０，１，．．．，ｍ）的递推公式如下：⎪⎪⎩⎪⎪⎨⎧-=--=-==-+1,...,2,1),()()()()()(1)(11010m j x x x x x x x QQ Q Q Q j jj j j βαα ④其中αj＝dx x jk j=0，ｊ＝０，１，．．．，ｍ－１ ⑤βj＝dd j j1-，ｊ＝１，２，．．．，ｍ－１ ⑥∑==nk k jjx Q d2)(，ｊ＝０，１，．．．，ｍ－１ ⑦则实际计算过程中，根据⑤式逐步求出个正交多项式)(x Qj，并用公式④计算出q j，并将每次计算展开后累加到拟合多项式①中。

2.2 算法步骤用三个向量Ｂ,Ｔ,Ｓ,存放多项式)(1x Qj -，)(x Q j，)(1x Qj +的系数。

用正交多项式做最小二乘拟合

（5.10）
(k 1,2,, n 1).
这里 Pk (x) 是首项系数为1的 k 次多项式，根据 Pk (x) 的正交性，得
3
m

k 1
( xi ) xi Pk2 ( xi )
i0
m
( xi )Pk2 ( xi )
( xPk ( x), Pk ( x)) (Pk ( x), Pk ( x))
3.5.2 用正交多项式做最小二乘拟合
用最小二乘法得到的法方程组（5.6），其系数矩阵
G是病态的.
如果 0 (x),1(x),,n (x) 是关于点集 {xi} (i 0,1,, m) 带权 (xi ) (i 0,1,, m)
函数族，即
( j ,k )

m i0
(xi ) j (xi )k (xi )
8
m
ak*

( f , Pk ) (Pk , Pk )

( xi ) f ( xi )Pk ( xi )
i0
m
( xi )Pk2 ( xi )
i0
(k 0,1,, n),
并逐步把 ak*Pk (x)累加到 S (x) 中去，最后就可得到所求的
拟合曲线
y S (x) a0*P0 (x) a1*P1(x) an*Pn (x). 这里 n可事先给定或在计算过程中根据误差确定.
bk
sin
kx),
其中
n m,
ak

ห้องสมุดไป่ตู้
2 2m 1
2m j 0
fj
cos 2πjk 2m 1
(k 0,1,, m),
16

正交最小二乘曲线拟合法

第32卷第3期2007年5月测绘科学Science of Surveying and Mapp ingVol 132No 13May 1作者简介:丁克良(1968Ο),男,河南淮阳人,工程师,博士,主要从事现代测量数据处理和GPS 卫星导航教学和研究工作。

E Οmail:hyiding@1631com收稿日期:2006Ο11Ο07基金项目:国家自然科学基金项目(40504003)正交最小二乘曲线拟合法丁克良①,欧吉坤②,赵春梅③(①北京建筑工程学院测绘和城市信息学院测绘工程系,北京　100044;②中国科学院测量与地球物理研究所,武汉　430077;③中国测绘科学研究院大地测量与地球动力学研究所,北京　100039)【摘　要】在最小二乘曲线拟合中,自变量的误差常常被略而不计,提出采用正交最小二乘法拟合曲线。

该方法以正交距离残差平方和极小为准则,同时顾及了因变量和自变量的误差;基于间接平差原理详细推导了相关模型和算法。

实际计算表明,采用正交最小二乘法拟合曲线,拟合效果整体上优于普通最小二乘法。

【关键词】最小二乘;曲线拟合;正交最小二乘;精度评定【中图分类号】P22 【文献标识码】A 【文章编号】1009Ο2307(2007)03Ο0018Ο031　引言曲线拟合问题是诸多试验和工程实际中广泛应用的数据处理方法。

测量工作中,通常根据测定的一系列坐标点,选取一定的数学模型拟合直线、二次曲线或者其他高次曲线。

拟合的目的是根据测量点寻求曲线的特征,求解曲线的相关参数,为工程建设管理提供必要的基础信息。

如在既有铁路工程、又有公路工程测量中,常常根据一系列的测量点和线路工程的特点求解线路工程的线形特征,为线路工程维修养护、二线工程建设、行车安全分析等提供必要的基础信息[1Ο4]。

在GI S 数据获取中,通常根据一系列的实际测量点或者是地图数字化点拟合道路、水系、等高线等曲线[5,6]。

这类问题的做法通常是根据线形的特点选取一定的数学模型,以待求的线形参数作为未知参数,以测点的纵坐标或者横坐标为观测值,采用最小二乘法处理。

数值分析之最小二乘法与最佳一致逼近

就要求矩阵 G非奇异，
而 0 ( x), 1 ( x), , n ( x)在 [a, b]上线性无关不能推出矩阵 G非奇异，必须加上另外的条件.
8
定义10
设 0 ( x), 1 ( x), , n ( x) [a, b]的任意线
性组合在点集 {xi , i 0,1,, m}(m n) 上至多只有 n 个
只在一组离散点集 {xi , i 0,1,, m} 上给定，这就是科
学实验中经常见到的实验数据 {( xi , yi ), i 0,1,, m}的
曲线拟合.
1
问题为利用 yi f ( xi ), i 0,1,, m, 求出一个函数
y S * ( x) 与所给数据{( xi , yi ), i 0,1,, m} 拟合.
13
令 S1 ( x) a0 a1 x, 这里 m 4, n 1, 0 ( x) 1, 1 ( x) x, 故
( 0 , 0 ) i 8,
i 0 4
( 0 , 1 ) (1 , 0 ) i xi 22,
i 0
4
(1 , 1 ) i xi2 74,
这样就变成了线性模型 .
19
例2
设数据 ( xi , yi )(i 0,1,2,3,4) 由表3-1给出，
表中第4行为 ln yi yi ,通过描点可以看出数学模型为及 b. y aebx , 用最小二乘法确定 a
表3 1 i xi yi 0 1.00 5.10 1 1.25 5.79 2 1.50 6.53 3 1.75 7.45 4 2.00 8.46
4
S ( x ) 的一般表达式为线性形式.
若 k ( x)是 k 次多项式，S ( x ) 就是 n 次多项式. 为了使问题的提法更有一般性，通常在最小二乘法中 S ( x) a00 ( x) a11 ( x) ann ( x) (n m) 考虑加权平方和

最小二乘拟合多项式

则法方程系数矩阵为： T 常数项为：
T a y
T
n y i i 1 n x y i i y i 1 n xm y i i i 1
其他类型的拟合问题
最小二乘法并不只限于多项式，也可用于任何具体给出的函数形式。特别重要的是有些非线性最小二乘拟合问题通过适当的变换可以转化为线性最小二乘问题求解。
因此，我们需要一种新的逼近原函数的办法
解决方案：
1. 2. 不要求过所有数据点（可以消除误差影响）；尽可能地刻画数据点的趋势，靠近这些数据点。
插值与拟合的关系：问题：给定一组数据点，构造一个函数作为近似（或逼近）。解决方案：
1. 若要求所求曲线通过给定的所有数据点，就是插值问题； 2. 若不要求曲线通过所有数据点，而是要求它反映数据点的整体变化趋势，这就是数据拟合，又称曲线拟合，所求出的曲线称为拟合曲线。
a0 sn a1sn 1 an s2 n un
称为正规方程组（或法方程组）。
可以证明：当 x0 , x1, 是最小值问题的解。
法方程组可写成以下形式:
m m xk k 1 m n xk k 1
xn , 互异时，该方程组有唯一解，并
k
x
k 1 m k 1
m
2 x k
令
x
k 1
m
n 1 k
n x y i k 1 a0 i 1 m n xy n 1 x a k 1 i 1 i i k 1 an n m 2n xin yi xk k 1 i 1

最小二乘法的基本原理和多项式拟合

最小二乘法的基本原理和多项式拟合一最小二乘法的基本原理从整体上考虑近似函数)(x p 同所给数据点),(i i y x (i=0,1,…,m)误差i i i y x p r -=)((i=0,1,…,m)的大小，常用的方法有以下三种：一是误差i i i y x p r -=)((i=0,1,…,m)绝对值的最大值im i r ≤≤0max ，即误差向量T m r r r r ),,(10 =的∞—范数；二是误差绝对值的和∑=mi ir 0，即误差向量r 的1—范数；三是误差平方和∑=mi ir02的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和∑=mi ir02来度量误差i r (i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据 ),(i i y x (i=0,1,…，m)，在取定的函数类Φ中,求Φ∈)(x p ,使误差i i i y x p r -=)((i=0,1,…,m)的平方和最小，即∑=mi ir2=从几何意义上讲，就是寻求与给定点),(i i y x (i=0,1,…,m)的距离平方和为最小的曲线)(x p y =（图6-1）。

函数)(x p 称为拟合函数或最小二乘解，求拟合函数)(x p 的方法称为曲线拟合的最小二乘法。

在曲线拟合中，函数类Φ可有不同的选取方法.6—1二多项式拟合假设给定数据点),(i i y x (i=0,1,…,m)，Φ为所有次数不超过)(m n n ≤的多项式构成的函数类，现求一Φ∈=∑=nk k k n x a x p 0)(,使得[]min )(00202=⎪⎭⎫⎝⎛-=-=∑∑∑===mi mi n k i k i k i i n y x a y x p I (1)[ ] ∑ = = - mi ii y x p 02 min ) (当拟合函数为多项式时，称为多项式拟合，满足式（1）的)(x p n 称为最小二乘拟合多项式。

正交多项式最小二乘法拟合

《MATLAB 程序设计实践》课程考核一、编程实现以下科学计算算法，并举一例应用之。

（参考书籍《精通ＭＡＬＡＢ科学计算》，王正林等著，电子工业出版社，２００９年） “正交多项式最小二乘法拟合”正交多项式最小二乘法拟合原理正交多项式做最小二乘法拟合：不要求拟合函数y=f(x)经过所有点（x i ,y i )，而只要求在给定点x i 上残差δi=f(x i )-y i 按照某种标准达到最小，通常采用欧式范数||δ||2作为衡量标准。

这就是最小二乘法拟合。

根据作为给定节点x 0，x 1，…x m 及权函数ρ(x)>0,造出带权函数正交的多项式{P n （x ）}。

注意n ≤m,用递推公式表示P k （x ），即()()()()()()()01101111,,(1,2,,1)k k k k k P x P x x P x P x P x P x k n ααβ++-=⎧⎪=-⎨⎪=--=...-⎩ 这里的P k (x)是首项系数为1的k 次多项式，根据P k (x)的正交性，得()()()()()()()()()()()()()()()()()()()()2i 012i 02i 0211i 10x ,,x ,0,1,1,x ,0,1,1,x mi k i k ki k mk k k i i k k mk k k i k k i k mk k k i i x P x xP x P x a P x P x P x xP P k n P P P x P P k n P P P x ρρρβρ=+==---=⎧⎪⎪==⎪⎪⎪==⋅⋅⋅-⎨⎪⎪===⋅⋅⋅-⎪⎪⎪⎩∑∑∑∑ 根据公式(1)和(2)逐步求P k （x ）的同时，相应计算系数()()()02()(),(0,1,n (,)()mi j i k i k i kmk k iki i x x x f P a k P P x x ρϕϕρϕ=====⋅⋅⋅,∑∑）并逐步把*k a P k （x ）累加到S （x ）中去，最后就可得到所求的拟合函数曲线 ***0011n n y=S x =a P x +a P x ++a P x ⋅⋅⋅（）（）（）（）.流程图（2）（1）M文件function [p] = mypolyfit(x,y,n)%定义mypolyfit为最小二乘拟合函数%P = POLYFIT(X,Y,N)以计算以下多项式系数%P(1)*X^N + P(2)*X^(N-1) +...+ P(N)*X + P(N+1). if ~isequal(size(x),size(y))error('MATLAB:polyfit:XYSizeMismatch',...'X and Y vectors must be the same size.')end%检验X Y维数是否匹配x = x(:);y = y(:);if nargout > 2mu = [mean(x); std(x)];x = (x - mu(1))/mu(2);end%利用范德蒙德矩阵构造方程组系数矩阵V(:,n+1) = ones(length(x),1,class(x));for j = n:-1:1V(:,j) = x.*V(:,j+1);end% 对矩阵进行QR分解以求得多项式系数值[Q,R] = qr(V,0);ws = warning('off','all');p = R\(Q'*y);warning(ws);if size(R,2) > size(R,1)warning('MATLAB:polyfit:PolyNotUnique', ...'Polynomial is not unique; degree >= number of data points.')elseif condest(R) > 1.0e10if nargout > 2warning('MATLAB:polyfit:RepeatedPoints', ...'Polynomial is badly conditioned. Remove repeated data points.') elsewarning('MATLAB:polyfit:RepeatedPointsOrRescale', ...['Polynomial is badly conditioned. Remove repeated data points\n'...' or try centering and scaling as described in HELP POLYFIT.']) endendr = y - V*p;p = p.'; % 将多项式系数默认为行向量.5、运行流程图过程：clearx =[ 0.5000 1.0000 1.5000 2.0000 2.5000 3.0000] y=[1.75 2.45 3.81 4.80 8.00 8.60]x1=0.5:0.05:3.0;p=mypolyfit(x,y,2)y1=p(3)+p(2)*x1+p(1)*x1.^2;plot(x,y,'*')hold onplot(x1,y1,'r')二、编程计算以下电路问题[例8-1-3]如图所示电路，已知R=5Ω，ωL=3Ω，C1ω=5Ω,Uc=100∠0,求I .R ,I .C ,I .和U .L ，U .S ，并画其相量图。

数值分析第四版习题及答案

第一章绪论1. 设x >0,x 的相对误差为δ,求ln x 的误差.2. 设x 的相对误差为2％,求nx 的相对误差.3. 下列各数都是经过四舍五入得到的近似数,即误差限不超过最后一位的半个单位,试指出它们是几位有效数字: *****123451.1021,0.031,385.6,56.430,7 1.0.x x x x x =====⨯4. 利用公式(3.3)求下列各近似值的误差限:********12412324(),(),()/,i x x x ii x x x iii x x ++其中****1234,,,x x x x 均为第3题所给的数.5. 计算球体积要使相对误差限为1％,问度量半径R 时允许的相对误差限是多少?6. 设028,Y =按递推公式1n n Y Y -=( n=1,2,…)计算到100Y .27.982(五位有效数字),试问计算100Y 将有多大误差?7. 求方程25610x x -+=的两个根,使它至少具有四位有效数字27.982).8. 当N 充分大时,怎样求211Ndx x +∞+⎰?9. 正方形的边长大约为100㎝,应怎样测量才能使其面积误差不超过1㎝2? 10. 设212S gt =假定g 是准确的,而对t 的测量有±0.1秒的误差,证明当t 增加时S 的绝对误差增加,而相对误差却减小. 11. 序列{}n y 满足递推关系1101n n y y -=-(n=1,2,…),若0 1.41y =≈(三位有效数字),计算到10y 时误差有多大?这个计算过程稳定吗?12.计算61)f =,1.4≈,利用下列等式计算,哪一个得到的结果最好?3--13.()ln(f x x =,求f (30)的值.若开平方用六位函数表,问求对数时误差有多大?若改用另一等价公式ln(ln(x x =-计算,求对数时误差有多大?14. 试用消元法解方程组{101012121010;2.x x x x +=+=假定只用三位数计算,问结果是否可靠?15. 已知三角形面积1sin ,2s ab c =其中c 为弧度,02c π<<,且测量a ,b ,c 的误差分别为,,.a b c ∆∆∆证明面积的误差s ∆满足.s a b cs a b c ∆∆∆∆≤++第二章插值法1. 根据(2.2)定义的范德蒙行列式,令2000011211121()(,,,,)11n n n n n n n n n x x x V x V x x x x x x x xx x ----==证明()n V x 是n 次多项式,它的根是01,,n x x -,且 101101()(,,,)()()n n n n V x V x x x x x x x ---=--.2. 当x = 1 , -1 , 2 时, f (x)= 0 , -3 , 4 ,求f (x )的二次插值多项式.3.4. 给出cos x ,0°≤x ≤90°的函数表,步长h =1′=(1/60)°,若函数表具有5位有效数字,研究用线性插值求cos x 近似值时的总误差界.5. 设0k x x kh =+,k =0,1,2,3,求032max ()x x x l x ≤≤.6. 设jx 为互异节点(j =0,1,…,n ),求证:i) 0()(0,1,,);nk kj j j x l x xk n =≡=∑ii)()()1,2,,).nk jj j xx l x k n =-≡0(=∑7. 设[]2(),f x C a b ∈且()()0f a f b ==,求证21()()().8max max a x b a x b f x b a f x ≤≤≤≤≤-"8. 在44x -≤≤上给出()x f x e =的等距节点函数表,若用二次插值求x e 的近似值,要使截断误差不超过610-,问使用函数表的步长h 应取多少?9. 若2n n y =,求4n y ∆及4n y δ.10. 如果()f x 是m 次多项式,记()()()f x f x h f x ∆=+-,证明()f x 的k 阶差分()(0)k f x k m ∆≤≤是m k -次多项式,并且()0(m l f x l +∆=为正整数).11. 证明1()k k k k k k f g f g g f +∆=∆+∆. 12. 证明110010.n n kkn n k k k k f gf g f g g f --+==∆=--∆∑∑13. 证明1200.n j n j y y y -=∆=∆-∆∑14. 若1011()n n n n f x a a x a x a x --=++++有n 个不同实根12,,,n x x x ,证明{10,02;, 1.1()n k njk n a k n j jx f x -≤≤-=-=='∑15. 证明n 阶均差有下列性质: i)若()()F x cf x =,则[][]0101,,,,,,n n F x x x cf x x x =;ii) 若()()()F x f x g x =+,则[][][]010101,,,,,,,,,n n n F x x x f x x x g x x x =+.16. 74()31f x x x x =+++,求0172,2,,2f ⎡⎤⎣⎦及0182,2,,2f ⎡⎤⎣⎦.17. 证明两点三次埃尔米特插值余项是(4)22311()()()()/4!,(,)k k k k R x f x x x x x x ++=ξ--ξ∈并由此求出分段三次埃尔米特插值的误差限.18. 求一个次数不高于4次的多项式()P x ,使它满足(0)(1)P P k =-+并由此求出分段三次埃尔米特插值的误差限. 19. 试求出一个最高次数不高于4次的函数多项式()P x ,以便使它能够满足以下边界条件(0)(0)0P P ='=,(1)(1)1P P ='=,(2)1P =.20. 设[](),f x C a b ∈,把[],a b 分为n 等分,试构造一个台阶形的零次分段插值函数()n x ϕ并证明当n →∞时,()n x ϕ在[],a b 上一致收敛到()f x .21. 设2()1/(1)f x x =+,在55x -≤≤上取10n =,按等距节点求分段线性插值函数()h I x ,计算各节点间中点处的()h I x 与()f x 的值,并估计误差.22. 求2()f x x =在[],a b 上的分段线性插值函数()h I x ,并估计误差.23. 求4()f x x =在[],a b 上的分段埃尔米特插值,并估计误差.试求三次样条插值并满足条件 i) (0.25) 1.0000,(0.53)0.6868;S S '='= ii)(0.25)(0.53)0.S S "="=25. 若[]2(),f x C a b ∈,()S x 是三次样条函数,证明 i)[][][][]222()()()()2()()()bbbba a a a f x dx S x dx f x S x dx S x f x S x dx "-"="-"+""-"⎰⎰⎰⎰;ii) 若()()(0,1,,)i i f x S x i n ==,式中i x 为插值节点,且01n a x x x b =<<<=,则[][][]()()()()()()()()()baS x f x S x dx S b f b S b S a f a S a ""-"="'-'-"'-'⎰.26. 编出计算三次样条函数()S x 系数及其在插值节点中点的值的程序框图(()S x 可用(8.7)式的表达式).第三章函数逼近与计算1. (a)利用区间变换推出区间为[],a b 的伯恩斯坦多项式.(b)对()sin f x x =在[]0,/2π上求1次和三次伯恩斯坦多项式并画出图形,并与相应的马克劳林级数部分和误差做比较. 2. 求证:(a)当()m f x M ≤≤时,(,)n m B f x M ≤≤. (b)当()f x x =时,(,)n B f x x =. 3. 在次数不超过6的多项式中,求()sin 4f x x =在[]0,2π的最佳一致逼近多项式. 4. 假设()f x 在[],a b 上连续,求()f x 的零次最佳一致逼近多项式. 5. 选取常数a ,使301max x x ax≤≤-达到极小,又问这个解是否唯一?6. 求()sin f x x =在[]0,/2π上的最佳一次逼近多项式,并估计误差.7. 求()xf x e =在[]0,1上的最佳一次逼近多项式.8. 如何选取r ,使2()p x x r =+在[]1,1-上与零偏差最小?r 是否唯一?9. 设43()31f x x x =+-,在[]0,1上求三次最佳逼近多项式.10. 令[]()(21),0,1n n T x T x x =-∈,求***0123(),(),(),()T x T x T x T x . 11. 试证{}*()nT x 是在[]0,1上带权ρ=的正交多项式.12. 在[]1,1-上利用插值极小化求11()f x tg x -=的三次近似最佳逼近多项式.13. 设()xf x e =在[]1,1-上的插值极小化近似最佳逼近多项式为()n L x ,若nf L ∞-有界,证明对任何1n ≥,存在常数n α、n β,使11()()()()(11).n n n n n T x f x L x T x x ++α≤-≤β-≤≤14. 设在[]1,1-上234511315165()128243843840x x x x x x ϕ=-----,试将()x ϕ降低到3次多项式并估计误差. 15. 在[]1,1-上利用幂级数项数求()sin f x x =的3次逼近多项式,使误差不超过0.005.16. ()f x 是[],a a -上的连续奇(偶)函数,证明不管n 是奇数或偶数,()f x 的最佳逼近多项式*()n n F x H ∈也是奇(偶)函数.17. 求a 、b 使[]22sin ax b x dx π+-⎰为最小.并与1题及6题的一次逼近多项式误差作比较.18. ()f x 、[]1(),g x C a b ∈,定义 ()(,)()();()(,)()()()();b baaa f g f x g x dxb f g f x g x dx f a g a =''=''+⎰⎰问它们是否构成内积?19. 用许瓦兹不等式(4.5)估计6101x dx x +⎰的上界,并用积分中值定理估计同一积分的上下界,并比较其结果.20. 选择a ,使下列积分取得最小值:1122211(),x ax dx x ax dx----⎰⎰.21. 设空间{}{}10010121,,,span x span x x 1ϕ=ϕ=,分别在1ϕ、2ϕ上求出一个元素,使得其为[]20,1x C ∈的最佳平方逼近,并比较其结果.22. ()f x x =在[]1,1-上,求在{}2411,,span x x ϕ=上的最佳平方逼近.23.sin (1)arccos ()n n x u x +=是第二类切比雪夫多项式,证明它有递推关系()()()112n n n u x xu x u x +-=-.24. 将1()sin 2f x x=在[]1,1-上按勒让德多项式及切比雪夫多项式展开,求三次最佳平方逼近多项式并画出误差图形,再计算均方误差. 25. 把()arccos f x x =在[]1,1-上展成切比雪夫级数.26.2y a bx =+. 27.用最小二乘拟合求.29. 编出用正交多项式做最小二乘拟合的程序框图. 30. 编出改进FFT 算法的程序框图. 31. 现给出一张记录{}{}4,3,2,1,0,1,2,3k x =,试用改进FFT 算法求出序列{}k x 的离散频谱{}k C (0,1,,7).k =第四章数值积分与数值微分1. 确定下列求积公式中的待定参数,使其代数精度尽量高,并指明所构造出的求积公式所具有的代数精度:(1)101()()(0)()hh f x dx A f h A f A f h --≈-++⎰; (2)21012()()(0)()hh f x dx A f h A f A f h --≈-++⎰;(3)[]1121()(1)2()3()/3f x dx f f x f x -≈-++⎰;(4)[][]20()(0)()/1(0)()hf x dx h f f h ah f f h ≈++'-'⎰.2. 分别用梯形公式和辛普森公式计算下列积分:(1)120,84xdx n x =+⎰; (2)1210(1),10x e dx n x --=⎰;(3)1,4n =⎰;(4),6n =.3. 直接验证柯特斯公式(2.4)具有5次代数精度.4. 用辛普森公式求积分10x e dx-⎰并计算误差. 5. 推导下列三种矩形求积公式:(1)2()()()()()2ba f f x dxb a f a b a 'η=-+-⎰; (2)2()()()()()2ba f f x dxb a f b b a 'η=---⎰;(3)3()()()()()224baa b f f x dx b a f b a +"η=-+-⎰. 6. 证明梯形公式(2.9)和辛普森公式(2.11)当n →∞时收敛到积分()baf x dx⎰.7. 用复化梯形公式求积分()baf x dx⎰,问要将积分区间[],a b 分成多少等分,才能保证误差不超过ε(设不计舍入误差)?8.1x e dx-,要求误差不超过510-.9. 卫星轨道是一个椭圆,椭圆周长的计算公式是S a =θ,这里a 是椭圆的半长轴,c 是地球中心与轨道中心(椭圆中心)的距离,记h 为近地点距离,H 为远地点距离,6371R =公里为地球半径,则(2)/2,()/2a R H h c H h =++=-.我国第一颗人造卫星近地点距离439h =公里,远地点距离2384H =公里,试求卫星轨道的周长. 10. 证明等式3524sin3!5!n nn n ππππ=-+-试依据sin(/)(3,6,12)n n n π=的值,用外推算法求π的近似值.11. 用下列方法计算积分31dyy ⎰并比较结果.(1) 龙贝格方法;(2) 三点及五点高斯公式;(3) 将积分区间分为四等分,用复化两点高斯公式.12. 用三点公式和五点公式分别求21()(1)f x x =+在x =1.0,1.1和1.2处的导数值,并估计误()f x 第五章常微分方程数值解法1. 就初值问题0)0(,=+='y b ax y 分别导出尤拉方法和改进的尤拉方法的近似解的表达式，并与准确解bx ax y +=221相比较。

最小二乘法的基本原理和多项式拟合

最小二乘法的基本原理和多项式拟合Document number：NOCG-YUNOO-BUYTT-UU986-1986UT最小二乘法的基本原理和多项式拟合一最小二乘法的基本原理从整体上考虑近似函数同所给数据点 (i=0,1,…,m)误差(i=0,1,…,m)的大小，常用的方法有以下三种：一是误差(i=0,1,…,m)绝对值的最大值，即误差向量的∞—范数；二是误差绝对值的和，即误差向量r的1—范数；三是误差平方和的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和来度量误差 (i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据 (i=0,1,…，m)，在取定的函数类中,求,使误差(i=0,1,…,m)的平方和最小，即=从几何意义上讲，就是寻求与给定点 (i=0,1,…,m)的距离平方和为最小的曲线（图6-1）。

函数称为拟合函数或最小二乘解，求拟合函数的方法称为曲线拟合的最小二乘法。

在曲线拟合中，函数类可有不同的选取方法.6—1二多项式拟合假设给定数据点 (i=0,1,…,m)，为所有次数不超过的多项式构成的函数类，现求一,使得(1)当拟合函数为多项式时，称为多项式拟合，满足式（1）的称为最小二乘拟合多项式。

特别地，当n=1时，称为线性拟合或直线拟合。

显然为的多元函数，因此上述问题即为求的极值问题。

由多元函数求极值的必要条件，得(2)即(3)（3）是关于的线性方程组，用矩阵表示为(4)式（3）或式（4）称为正规方程组或法方程组。

可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。

从式（4）中解出 (k=0,1,…，n)，从而可得多项式(5)可以证明，式（5）中的满足式（1），即为所求的拟合多项式。

我们把称为最小二乘拟合多项式的平方误差，记作由式(2)可得(6)多项式拟合的一般方法可归纳为以下几步：(1) 由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n；(2) 列表计算和；(3) 写出正规方程组，求出；(4) 写出拟合多项式。

正交多项式拟合法_彭歆

４
$ ２
２
－４
拟合误差：｜｜δ｜｜２＝（φ（ｘｉ）－ｙｉ）＝２．７４×１０。
ｉ－０
４正交多项式拟合的程序实现
在作数据拟合时，我们遇上的数据较多，所以在作正
交多项式拟合时，应借助程序来完成。
用正交多项式作最小二乘拟合的算法是：
（１）先确定多项式的次数ｎ，构造第一个多项式 φ０（ｘ）＝１及在对应点处的函数值。
摘要：对曲线拟合中的正交多项式拟合法作了研究；介绍了正交多项式的概念，给出了正交多项式拟合
法及相应的程序实现；本论文的研究，对从事计算科学的工作者在做数据拟合时具有指导意义
关键词：正交多项式；正交多项式拟合法；程序实现
中图分类号：Ｏ１７
文献标识码：Ａ
文章编号：１６７２－００６７（２００７）０５－０１５８－０２
对应点处的函数值，构成一向量
ｍ（１，１）＝ｓｕｍ（ｃ（１，：）．＊ｃ（１，：））；％对向量作内积
ｍ（１，２）＝ｓｕｍ（ｔ．＊ｃ（１，：）．＊ｃ（１，：））；
ａ（１）＝ｍ（１，２）／ｍ（１，１）；％计算参数
ｌ（２，：）＝［ｚｅｒｏｓ（１，ｎ－１）１－ａ（１）］；％构造第２个正交多
项式
第１６卷第５期２００７年９月
重庆职业技术学院学报ＪｏｕｒｎａｌｏｆＣｈｏｎｇｑｉｎｇＶｏｃａｔｉｏｎａｌ＆ＴｅｃｈｎｉｃａｌＩｎｓｔｉｔｕｔｅ
Ｖｏｌ．１６Ｎｏ．５Ｓｅｐ．２００７
正交多项式拟合法
彭歆１，李坤琼２
（１．重庆渝高中学校，重庆４０００１０；２．重庆工业职业技术学院，重庆４０００５０）

最小二乘法的基本原理和多项式拟合

最小二乘法的基本原理和多项式拟合一最小二乘法的基本原理从整体上考虑近似函数)(x p 同所给数据点),(i i y x (i=0,1,…,m)误差i i i y x p r -=)((i=0,1,…,m)的大小，常用的方法有以下三种：一是误差i i i y x p r -=)((i=0,1,…,m)绝对值的最大值im i r ≤≤0max ，即误差向量T m r r r r ),,(10Λ=的∞—范数；二是误差绝对值的和∑=mi ir 0，即误差向量r 的1—范数；三是误差平方和∑=mi ir02的算术平方根，即误差向量r 的2—范数；前两种方法简单、自然，但不便于微分运算，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和∑=mi ir02来度量误差i r (i=0，1，…，m)的整体大小。

数据拟合的具体作法是：对给定数据 ),(i i yx (i=0,1,…，m)，在取定的函数类Φ中,求Φ∈)(x p ,使误差i i i y x p r -=)((i=0,1,…,m)的平方和最小，即∑=mi ir 02=[]∑==-mi i i y x p 02min)(从几何意义上讲，就是寻求与给定点),(i i y x (i=0,1,…,m)的距离平方和为最小的曲线)(x p y =（图6-1）。

函数)(x p 称为拟合函数或最小二乘解，求拟合函数)(x p 的方法称为曲线拟合的最小二乘法。

在曲线拟合中，函数类Φ可有不同的选取方法.6—1二多项式拟合假设给定数据点),(i i y x (i=0,1,…,m)，Φ为所有次数不超过)(m n n ≤的多项式构成的函数类，现求一Φ∈=∑=nk k k n x a x p 0)(,使得[]min )(00202=⎪⎭⎫⎝⎛-=-=∑∑∑===mi mi n k i k i k i i n y x a y x p I (1)当拟合函数为多项式时，称为多项式拟合，满足式（1）的)(x p n 称为最小二乘拟合多项式。

MATLAB最小二乘拟合源程序

for N = 1:length(t) Alp3 = t(N)*((t(N)-Alpha2)*(t(N)-Alpha1)-Beta1*P0_x)^2; Alpha3_1 = Alpha3_1 + Alp3; Alp4 = ((t(N)-Alpha2)*(t(N)-Alpha1)-Beta1*P0_x)^2; Alpha3_2 = Alpha3_2 + Alp4; end Alpha3 = sym((Alpha3_1)/(Alpha3_2)); % 计算得到Alpha1 fprintf('系数Alpha3为：Alpha3 = %f\n',eval(Alpha3)) % 计算系数Beta2. Beta2_1 = 0; Beta2_2 = 0; for N = 1:length(t) Bt3 = ((t(N)-Alpha2)*(t(N)-Alpha1)*P0_x-Beta1*P0_x)^2; Beta2_1 = Beta2_1 + Bt3; Bt4 = ((t(N)-Alpha1)*P0_x)^2; Beta2_2 = Beta2_2 + Bt4; end Beta2 = sym(Beta2_1/Beta2_2); % 计算得到Beta2 fprintf('系数Beta2为：Beta2 = %f\n',eval(Beta2)); % 计算正交多项式P3_x. syms x P3_x = collect((x-Alpha3)*P2_x-Beta2*P1_x); % 得到3次正交多项式. % 计算系数a0_*,a1_*,a2_*,a3_*. a0_1 = 0; a0_2 = 0; a1_1 = 0; a1_2 = 0; a2_1 = 0; a2_2 = 0; a3_1 = 0; a3_2 = 0; for ii = 1:length(t) a1 = y(ii)*P0_x; a0_1 = a0_1 + a1; a2 = P0_x^2; a0_2 = a0_2 + a2; a3 = y(ii)*(t(ii)-Alpha1)*P0_x; a1_1 = a1_1 + a3; a4 = (t(ii)-Alpha1)^2; a1_2 = a1_2 + a4; a5 = y(ii)*((t(ii)-Alpha2)*(t(ii)-Alpha1)-Beta1*P0_x);

数据拟合的非线性模型多项式拟合的正交化方法超定方程组最小二乘

( x) a00 ( x) a11( x) ann ( x)
超定方程组:
0 ( x1 ) 1( x1 ) n ( x1 ) a0 y1

0
(
x2
)
1( x2 )

n
(
x2
)

a1

y2

数据拟合的非线性模型
观测数据
x
x1 x2 ·········· xm
f
y1 y2 ·········· ym
求拟合函数 f(x, c0, c1, ···, cn )满足 m [ f ( xi , c0 , c1 ,, cn ) yi ]2 min
i 1
例1.已知人口统计数据
年 1991 1992 1993 1994 1995 1996
数量 11.58 11.72 11.85 11.98 12.11 12.24
利用最小二乘法求指数拟合 y = c e a x
6
S(a, c) [c exp( ax j ) y j ]2 min j 1
2/16
指数函数拟合人口统计数据(单位：亿)
t 1991 1992 1993 1994 1995 1996
12/16
矩阵G的QR(正交三角)分解算法
G = ( gij)m×n m > n
将矩阵按列分块，记为
G = [g1, g2 , ······,gn ]
分解算法 ① q1=g1 ② q2 = g2 – r12q1, 其中 r12 = (g2，q1)/(q1，q1)
···········································