6_函数逼近和曲线拟合
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
设f(x),g(x)∈C[a,b], (x)是[a,b]上的权系数,则可定义函数内积:
b
( f (x), g(x)) a (x) f (x)g(x)dx b
|| f (x) ||22 ( f (x), f (x)) a (x) f 2(x) dx
2021/3/4
§1 函数逼近的基本概念
例:对[0,1]上的函数 f (x) ,g1(xx)2=x及权函数 求(f , g)和||f||2。
f
(
x)
S
*( x)]dx
b
(x)[S(x) S*(x)]2 dx 0 a
注:由S
*(
x)
S
(x)
n
ak' k
(
x)
k 0
故S* (x) 是f(x)的最佳平方逼近函数。 故ab (x)[S*(x) S(x)][ f (x) S*(x)]dx
b
a
n
( x) k 0
ak' k
(x)[
f
(
x)
S
1 1
1(1
x2 )dx
x
2
(
x)
x2
(x2 , 1) (1,1)
1
(x2 , 0 ) (0,0 )
0
1
x2 (x2, x) x (x2, 1) (x, x) (1,1)
1 x3 (1 x2 )dx
1 x2 (1 x2 )dx
= x2
1
1 x2 (1
x2 )dx
x
1
1 1(1 x2 )dx
( k (x),
f
(x) )a* k
k 0
= || f (x) ||22 (a, d )
特别情况,取k (x) xk , (x) 1, f (x) [0,1] 则求S(x) a0 +a1x+a2x2 +...+an xn,即求ak (k 0,1,..., n)
( j ,k )
1 x jk dx
2021/3/4
第6章 函数逼近与曲线拟合
§1 函数逼近的基本概念 §2 正交多项式 §3 最佳平方逼近 §4 最佳一致逼近多项式 §5 曲线拟和的最小二乘法
【本章重点】
1.正交多项式定义及性质,Legendre多项式与 Chebyshev
多项式的定义及性质。
2.最佳平方逼近的原理与应用。
3.最佳一致逼近多项式的原理和性质。
2021/3/4
n
(x,y)=ixiyi i=1 n
(x,x)= ixi2 || x ||22 i=1
§1 函数逼近的基本概念
例:已知一组实验数据如下表,求向量x和y的加权内积。
xi 1 2 3 4 5 yi 4 4.5 6 8 8.5 i 2 1 3 1 1
5
解:(x,y)= ixiyi 145.5 i=1
||
f
(x) S*(x) ||22
min ||
s ( x)
f
(x) S(x) ||22
min b (x)[ f (x) S(x)]2 dx s(x) a
则称S* (x) 是f(x)在子集 C中[a的,最b]佳平方逼近函数。
2021/3/4
2021/3/4
n
设S(x) a00(x)+a11(x)+...+ann(x) a j j (x)
2021/3/4
§1 函数逼近的基本概念
六、 在区间[a,b]上的非负函数(x) 满足条件:
(1)ab xk (x)dx 存在且为有限值(k 0,1,);
(2)对[a,b]上的非负连续函数,如果
b
g ( x) ( x)dx
0,则g(x) 0.
a
则称 (x)为[a,b]上的一个权函数。
七、定义函数内积
n
(n ( x),n ( x)) (n1( x),n1( x))
§2 正交多项式
例:对区间为[-1,1]及权函数 (x) ,1求x由2 { 1,x,x2,x3}正交化得到的
正交多项式。
2021/3/4
解: 0 (x) 1
1(x)
x
(x, 0 ) (0,0 )
0
x
( x, 1) (1,1)
x
1 x(1 x2 )dx
2)切比雪夫(Chebyshev)多项式
区间为[-1,1]及权函数
(x)
1
,由{
1,x,x2,…,xn,…}
正交化得到的多项式。
1 x2
2021/3/4
Tn (x) cos(n arccos x), | x | 1
递推关系:
T0(x) 1, T1(x) x, Tn1(x) 2xTn(x) Tn1(x)
)2 ,
||
f
(x) ||
max |
a xb
f
(x) |
,
称为1 范数;
称为2 范数; 称为 范数或最大范数;
2021/3/4
§1 函数逼近的基本概念
例:x=[2,-3,1,5],f(x)=cosx ∈ [0, 3],求1,2, ∞范数。
4
解:|| x ||1 | xi | = 2 + 3 +1+ 5 = 11 ; i 1
4.最小二乘曲线拟合的原理并能求出两个参数的拟合曲线, 非线性模型能化为线性模型。
2021/3/4
§1 函数逼近的基本概念
一、函数逼近:
是指“对函数类A中给定的函数f(x),记作f(x) ∈A,要求在另
一类简单的便于计算的函数类B中求函数p(x) ∈B ,使p(x)与
f(x)的误差在某种度量意义下最小。
(n 1,2,...)
性质:(正交性)
0,
1 Tn (x)Tm (x) dx
1 1 x2
2
,
,
mn mn0 mn0
§3 最佳平方逼近
一、最佳平方逼近及其计算
定义:对f(x)∈C[a,b]及C[a,b]中的一个子集
span{0(x),1(x),...,n(x)}
若存在S* (x) ∈子集 ,使:
称为1 范数;
i 1
n
1
|| x || 2 ( xi2 ) 2 ,
i 1
称为2 范数;
||
x
||
max
1in
|
xi
|
,
称为 范数或最大范数;
四、定义函数范数: f(x) ∈C[a,b] ,则:
||
f
(x) ||1
b
a |
f
(x) |
dx
,
||
f (x) || 2 (
b
f
a
2 (x)dx
1
(3)|| x y || || x || + || y ||, x, y S;
(三角不等式)
则称||·||为线性空间S上的范数,S与||·||一起称为赋范线性空间,
记作X。
2021/3/4
Hale Waihona Puke Baidu
§1 函数逼近的基本概念
三、定义向量范数:x =(x1,x2,…,xn)T ∈Rn,则:
n
|| x ||1 | xi | ,
的线性组合。 (3)当k j时,( j (x),k (x))=0,且k (x)与任何一次数小于
k的多项式正交。
(4)成立递推关系
n1(x) (x n )n (x) nn1(x) (n 0,1, 2,...)
其中:
1(x) 0 0(x) 1
n
( xn ( x),n ( x)) (n ( x),n ( x))
1
1
x2 2
5
3 ( x)
x3
(x3, 2) (2,2 )
2
(x3, 1) (1,1)
1
(x3, 0 ) (0,0 )
0
x3
9 14
x
§2 正交多项式
几种常见的正交多项式:
1)勒让德(Legendre)多项式
2021/3/4
区间为[-1,1]及权函数 (x),由1 { 1,x,x2,…,xn,…}正交化
C[a,b]
Cn[a,b]
Hn
二、范数
连续函数空间; n阶连续导数的函数空间; n次多项式空间。
设S为线性空间,x∈S,若存在唯一实数 ||·|| ,满足条件:
(1) || x || 0,当且仅当x 0时,|| x || 0; (正定性)
(2)|| x ||| | || x ||, R;
(齐次性)
S
(x)]2
dx
即S(x),有:ab (x)[ f (x) S*(x)]2dx
b
a
(x)[
f
(x)
S
( x)]2
dx
验 证
由:D
b
a
(
x)[
f
(x) S(x)]2dx
b
a
(
x)[
f
(x) S*(x)]2dx
2021/3/4
b
a
(
x)[S
(
x)
S
*
(
x)]2
dx
b
2a
(
x)[S
* ( x)
S ( x)][
得到的多项式。
P0(x) 1,
Pn
(x)
1 2n n!
dn dxn
{(x2
1)n}
递推关系:
P0(x) 1,
P1(x) x, (n 1)Pn1(x) (2n 1)xPn(x) nPn1(x)
(n 1,2,...)
性质:(正交性)
1
1Pn (x)Pm (x)dx
0,
mn
2n21,
m
n
§2 正交多项式
1 ,
86
||
f
(
x)
||
max
0x
|
cos(
x)
|
=1,
3
2021/3/4
§1 函数逼近的基本概念
五、向量内积:x =(x1,x2,…,xn)T , y =(y1,y2,…,yn)T ∈Rn,则:
n
(x,y)=xiyi
in=1
(x,x)=
x2 i
||
x ||22
i=1
若给定实数i 0,称{ i}为权系数,则在Rn上可定义加权内积为:
n
1
|| x || 2 ( xi2 ) 2 = 22 +(- 3)2 +12 + 52 = 39 ;
i 1
||
x
||
max
1i4
|
xi
|
=
max{2,
3,1, 5}
=
5
||
f
(x) ||1
3 | cos(x) | dx 0
=
3, 2
1
||
f (x) || 2 (
3 cos2 (x)dx
0
)2
(j,k )
b a
(
x)j
(
x)k
(
x) dx
0,
jk
Ak
0,
j
k
则称多项式序列 {n (x在)}[0a,b]上带权 的(正x)交,
n (x为) [a,b]上带权 的(nx)次正交多项式。
只要给定区间[a,b]及权函数 (,x)均可由一族线性无关的幂函数
{ 1,x,x2,…,xn,…},利用逐个正交化手续构造出正交多项式序 列 {n:(x)}0
n
j0
a
j
b
a
( x)k
(x)
j
(x)dx
=
b
a
(x)
f
(x)k
(x)dx
n
( k (x), j (x) )a j ( k (x), f (x) )
k=0,1,2,…,n
j0
法方程
即:
(0 ,0 (1,0
) )
(n ,0 )
(0 ,n ) (1,n )
a0 a1
((10,,
f f
*(
x)]dx
0
§3 最佳平方逼近
平方误差为:
|| (x) ||22 || f (x) S*(x) ||22
由k , f s* 0,有s*, f s* 0
(f (x) S*(x),f (x) S*(x))
=(f (x), f (x)) ( f (x), S*(x))
n
= ||
f
(x) ||22
(j,k)
b
a (x)j(x)k(x)dx
0, j k
Ak
0,
j
k
则称 {k (x是)}在[a,b]上带权 的(正x)交函数族。
若Ak≡1,则称之为标准正交函数族。
2021/3/4
定义:设 n (x)[a,b]上首项系数an≠0的n次多项式,(x)为[a,b]上的
权函数,如果多项式序列{n (x)满}0`足关系式:
1-范数 2-范数 ∞-范数
2021/3/4
§2 正交多项式
定义:设f(x),g(x)∈C[a,b], (是x)[a,b]上的权函数且满足:
(
f
(x),
g(
x))
b
a
(
x)
f
(x)
g(
x) dx
0
则称f(x)与g(x)在[a,b]上带权 ( x)正交。
若函数族0 (x),1(x),,n (x),满足关系:
,(x) 1
解:( f (x), g(x))
b
(x) f (x)g(x)dx =
1
x
1 x2 dx = 2
2 1 0.6095
a
0
3
1
|| f (x) ||2 ( f (x), f (x))2
b
(x) f 2(x)dx
a
1
1
x2dx
2
1.1547
0
3
矩阵的范数运算:
norm(A,1) norm(A,2) norm(A,inf)
令I
I ak
(a0,a1,an,)
b
2a
(
x)[
n
j0
b (x)[ a
n
a j j (x)
j0
j0
f (x)]2dx
a j j (x) f (x)]k (x)dx = 0
求S*
即k ,
(x),使I达到最小!
s*f 0
b
a
( x)k
(x)
n
j0
a
j
j
(x)dx
=
b
a
( x)
f
(x)k
(x)dx
1
0
k j 1
( f ,k )
1 0
f
(x)xk dx
dk
记为
2021/3/4
§3 最佳平方逼近
0(x) 1
n
(
x)
xn
n1 j0
(xn, j (x)) ( j (x),j (x))
j
(
x)
(n = 1, 2,...)
2021/3/4
§2 正交多项式
性质:
(1)n ( x)是具有最高次项系数为1的n次多项式。
2021/3/4
(2)任何n次多项式Pn(x) H n均可表示为0 ( x),1( x),...,n ( x)
)
)
(n
,
n
)
an
(n , f )
记为Ga=d
§3 最佳平方逼近
系数矩阵为对称阵,方程组有唯一解,可求出ak(k=0,1,…,n), 从而得到S*(x) ,满足:
||
f
(x) S*(x) ||22
min ||
s ( x)
f
(x) S(x)||22
min
s ( x)
b
a
( x)[
f
(x)
b
( f (x), g(x)) a (x) f (x)g(x)dx b
|| f (x) ||22 ( f (x), f (x)) a (x) f 2(x) dx
2021/3/4
§1 函数逼近的基本概念
例:对[0,1]上的函数 f (x) ,g1(xx)2=x及权函数 求(f , g)和||f||2。
f
(
x)
S
*( x)]dx
b
(x)[S(x) S*(x)]2 dx 0 a
注:由S
*(
x)
S
(x)
n
ak' k
(
x)
k 0
故S* (x) 是f(x)的最佳平方逼近函数。 故ab (x)[S*(x) S(x)][ f (x) S*(x)]dx
b
a
n
( x) k 0
ak' k
(x)[
f
(
x)
S
1 1
1(1
x2 )dx
x
2
(
x)
x2
(x2 , 1) (1,1)
1
(x2 , 0 ) (0,0 )
0
1
x2 (x2, x) x (x2, 1) (x, x) (1,1)
1 x3 (1 x2 )dx
1 x2 (1 x2 )dx
= x2
1
1 x2 (1
x2 )dx
x
1
1 1(1 x2 )dx
( k (x),
f
(x) )a* k
k 0
= || f (x) ||22 (a, d )
特别情况,取k (x) xk , (x) 1, f (x) [0,1] 则求S(x) a0 +a1x+a2x2 +...+an xn,即求ak (k 0,1,..., n)
( j ,k )
1 x jk dx
2021/3/4
第6章 函数逼近与曲线拟合
§1 函数逼近的基本概念 §2 正交多项式 §3 最佳平方逼近 §4 最佳一致逼近多项式 §5 曲线拟和的最小二乘法
【本章重点】
1.正交多项式定义及性质,Legendre多项式与 Chebyshev
多项式的定义及性质。
2.最佳平方逼近的原理与应用。
3.最佳一致逼近多项式的原理和性质。
2021/3/4
n
(x,y)=ixiyi i=1 n
(x,x)= ixi2 || x ||22 i=1
§1 函数逼近的基本概念
例:已知一组实验数据如下表,求向量x和y的加权内积。
xi 1 2 3 4 5 yi 4 4.5 6 8 8.5 i 2 1 3 1 1
5
解:(x,y)= ixiyi 145.5 i=1
||
f
(x) S*(x) ||22
min ||
s ( x)
f
(x) S(x) ||22
min b (x)[ f (x) S(x)]2 dx s(x) a
则称S* (x) 是f(x)在子集 C中[a的,最b]佳平方逼近函数。
2021/3/4
2021/3/4
n
设S(x) a00(x)+a11(x)+...+ann(x) a j j (x)
2021/3/4
§1 函数逼近的基本概念
六、 在区间[a,b]上的非负函数(x) 满足条件:
(1)ab xk (x)dx 存在且为有限值(k 0,1,);
(2)对[a,b]上的非负连续函数,如果
b
g ( x) ( x)dx
0,则g(x) 0.
a
则称 (x)为[a,b]上的一个权函数。
七、定义函数内积
n
(n ( x),n ( x)) (n1( x),n1( x))
§2 正交多项式
例:对区间为[-1,1]及权函数 (x) ,1求x由2 { 1,x,x2,x3}正交化得到的
正交多项式。
2021/3/4
解: 0 (x) 1
1(x)
x
(x, 0 ) (0,0 )
0
x
( x, 1) (1,1)
x
1 x(1 x2 )dx
2)切比雪夫(Chebyshev)多项式
区间为[-1,1]及权函数
(x)
1
,由{
1,x,x2,…,xn,…}
正交化得到的多项式。
1 x2
2021/3/4
Tn (x) cos(n arccos x), | x | 1
递推关系:
T0(x) 1, T1(x) x, Tn1(x) 2xTn(x) Tn1(x)
)2 ,
||
f
(x) ||
max |
a xb
f
(x) |
,
称为1 范数;
称为2 范数; 称为 范数或最大范数;
2021/3/4
§1 函数逼近的基本概念
例:x=[2,-3,1,5],f(x)=cosx ∈ [0, 3],求1,2, ∞范数。
4
解:|| x ||1 | xi | = 2 + 3 +1+ 5 = 11 ; i 1
4.最小二乘曲线拟合的原理并能求出两个参数的拟合曲线, 非线性模型能化为线性模型。
2021/3/4
§1 函数逼近的基本概念
一、函数逼近:
是指“对函数类A中给定的函数f(x),记作f(x) ∈A,要求在另
一类简单的便于计算的函数类B中求函数p(x) ∈B ,使p(x)与
f(x)的误差在某种度量意义下最小。
(n 1,2,...)
性质:(正交性)
0,
1 Tn (x)Tm (x) dx
1 1 x2
2
,
,
mn mn0 mn0
§3 最佳平方逼近
一、最佳平方逼近及其计算
定义:对f(x)∈C[a,b]及C[a,b]中的一个子集
span{0(x),1(x),...,n(x)}
若存在S* (x) ∈子集 ,使:
称为1 范数;
i 1
n
1
|| x || 2 ( xi2 ) 2 ,
i 1
称为2 范数;
||
x
||
max
1in
|
xi
|
,
称为 范数或最大范数;
四、定义函数范数: f(x) ∈C[a,b] ,则:
||
f
(x) ||1
b
a |
f
(x) |
dx
,
||
f (x) || 2 (
b
f
a
2 (x)dx
1
(3)|| x y || || x || + || y ||, x, y S;
(三角不等式)
则称||·||为线性空间S上的范数,S与||·||一起称为赋范线性空间,
记作X。
2021/3/4
Hale Waihona Puke Baidu
§1 函数逼近的基本概念
三、定义向量范数:x =(x1,x2,…,xn)T ∈Rn,则:
n
|| x ||1 | xi | ,
的线性组合。 (3)当k j时,( j (x),k (x))=0,且k (x)与任何一次数小于
k的多项式正交。
(4)成立递推关系
n1(x) (x n )n (x) nn1(x) (n 0,1, 2,...)
其中:
1(x) 0 0(x) 1
n
( xn ( x),n ( x)) (n ( x),n ( x))
1
1
x2 2
5
3 ( x)
x3
(x3, 2) (2,2 )
2
(x3, 1) (1,1)
1
(x3, 0 ) (0,0 )
0
x3
9 14
x
§2 正交多项式
几种常见的正交多项式:
1)勒让德(Legendre)多项式
2021/3/4
区间为[-1,1]及权函数 (x),由1 { 1,x,x2,…,xn,…}正交化
C[a,b]
Cn[a,b]
Hn
二、范数
连续函数空间; n阶连续导数的函数空间; n次多项式空间。
设S为线性空间,x∈S,若存在唯一实数 ||·|| ,满足条件:
(1) || x || 0,当且仅当x 0时,|| x || 0; (正定性)
(2)|| x ||| | || x ||, R;
(齐次性)
S
(x)]2
dx
即S(x),有:ab (x)[ f (x) S*(x)]2dx
b
a
(x)[
f
(x)
S
( x)]2
dx
验 证
由:D
b
a
(
x)[
f
(x) S(x)]2dx
b
a
(
x)[
f
(x) S*(x)]2dx
2021/3/4
b
a
(
x)[S
(
x)
S
*
(
x)]2
dx
b
2a
(
x)[S
* ( x)
S ( x)][
得到的多项式。
P0(x) 1,
Pn
(x)
1 2n n!
dn dxn
{(x2
1)n}
递推关系:
P0(x) 1,
P1(x) x, (n 1)Pn1(x) (2n 1)xPn(x) nPn1(x)
(n 1,2,...)
性质:(正交性)
1
1Pn (x)Pm (x)dx
0,
mn
2n21,
m
n
§2 正交多项式
1 ,
86
||
f
(
x)
||
max
0x
|
cos(
x)
|
=1,
3
2021/3/4
§1 函数逼近的基本概念
五、向量内积:x =(x1,x2,…,xn)T , y =(y1,y2,…,yn)T ∈Rn,则:
n
(x,y)=xiyi
in=1
(x,x)=
x2 i
||
x ||22
i=1
若给定实数i 0,称{ i}为权系数,则在Rn上可定义加权内积为:
n
1
|| x || 2 ( xi2 ) 2 = 22 +(- 3)2 +12 + 52 = 39 ;
i 1
||
x
||
max
1i4
|
xi
|
=
max{2,
3,1, 5}
=
5
||
f
(x) ||1
3 | cos(x) | dx 0
=
3, 2
1
||
f (x) || 2 (
3 cos2 (x)dx
0
)2
(j,k )
b a
(
x)j
(
x)k
(
x) dx
0,
jk
Ak
0,
j
k
则称多项式序列 {n (x在)}[0a,b]上带权 的(正x)交,
n (x为) [a,b]上带权 的(nx)次正交多项式。
只要给定区间[a,b]及权函数 (,x)均可由一族线性无关的幂函数
{ 1,x,x2,…,xn,…},利用逐个正交化手续构造出正交多项式序 列 {n:(x)}0
n
j0
a
j
b
a
( x)k
(x)
j
(x)dx
=
b
a
(x)
f
(x)k
(x)dx
n
( k (x), j (x) )a j ( k (x), f (x) )
k=0,1,2,…,n
j0
法方程
即:
(0 ,0 (1,0
) )
(n ,0 )
(0 ,n ) (1,n )
a0 a1
((10,,
f f
*(
x)]dx
0
§3 最佳平方逼近
平方误差为:
|| (x) ||22 || f (x) S*(x) ||22
由k , f s* 0,有s*, f s* 0
(f (x) S*(x),f (x) S*(x))
=(f (x), f (x)) ( f (x), S*(x))
n
= ||
f
(x) ||22
(j,k)
b
a (x)j(x)k(x)dx
0, j k
Ak
0,
j
k
则称 {k (x是)}在[a,b]上带权 的(正x)交函数族。
若Ak≡1,则称之为标准正交函数族。
2021/3/4
定义:设 n (x)[a,b]上首项系数an≠0的n次多项式,(x)为[a,b]上的
权函数,如果多项式序列{n (x)满}0`足关系式:
1-范数 2-范数 ∞-范数
2021/3/4
§2 正交多项式
定义:设f(x),g(x)∈C[a,b], (是x)[a,b]上的权函数且满足:
(
f
(x),
g(
x))
b
a
(
x)
f
(x)
g(
x) dx
0
则称f(x)与g(x)在[a,b]上带权 ( x)正交。
若函数族0 (x),1(x),,n (x),满足关系:
,(x) 1
解:( f (x), g(x))
b
(x) f (x)g(x)dx =
1
x
1 x2 dx = 2
2 1 0.6095
a
0
3
1
|| f (x) ||2 ( f (x), f (x))2
b
(x) f 2(x)dx
a
1
1
x2dx
2
1.1547
0
3
矩阵的范数运算:
norm(A,1) norm(A,2) norm(A,inf)
令I
I ak
(a0,a1,an,)
b
2a
(
x)[
n
j0
b (x)[ a
n
a j j (x)
j0
j0
f (x)]2dx
a j j (x) f (x)]k (x)dx = 0
求S*
即k ,
(x),使I达到最小!
s*f 0
b
a
( x)k
(x)
n
j0
a
j
j
(x)dx
=
b
a
( x)
f
(x)k
(x)dx
1
0
k j 1
( f ,k )
1 0
f
(x)xk dx
dk
记为
2021/3/4
§3 最佳平方逼近
0(x) 1
n
(
x)
xn
n1 j0
(xn, j (x)) ( j (x),j (x))
j
(
x)
(n = 1, 2,...)
2021/3/4
§2 正交多项式
性质:
(1)n ( x)是具有最高次项系数为1的n次多项式。
2021/3/4
(2)任何n次多项式Pn(x) H n均可表示为0 ( x),1( x),...,n ( x)
)
)
(n
,
n
)
an
(n , f )
记为Ga=d
§3 最佳平方逼近
系数矩阵为对称阵,方程组有唯一解,可求出ak(k=0,1,…,n), 从而得到S*(x) ,满足:
||
f
(x) S*(x) ||22
min ||
s ( x)
f
(x) S(x)||22
min
s ( x)
b
a
( x)[
f
(x)