小波分析之函数逼近与曲线拟合

{u1 , u2 ,⋯ , un } 线性无关.
Rn带权内积的定义
• 满足 ωi > 0 (i = 1,2,⋯ , n.)的实数组{ω1 , ω2 ,⋯ , ωn } 称为权系数。 Rn上加权内积定义为：
( x, y ) = ∑ ωi xi yi
i =1
n
相应的范数为
n 2 x 2 = ∑ ωi xi i =1
n
(ϕ n , ϕ j ) = 0 ( j = 0,1, ⋯ n − 1).
a j ( j = 0,1,⋯ n − 1.)
确定出
勒让德(Legendre)多项式
• [-1,1]上权函数 ρ ( x) ≡ 1 时,由 1, x, x 2 , ⋯, x n ,⋯ 正交化得到的多项式 P0 ( x), P ( x),⋯ 1 称为勒让德多项式。其解析表达式为：
∑α
j =1
n
j
u j = 0.
Th3的证明
G非奇异当且仅当齐次方程组
∑ (u
j =1
n
j
, u k ) α j = 0, k = 1, 2, ⋯ , n.
只有零解,即 ( ∑ α j u j , u k ) = 0, k = 1, 2, ⋯ , n.
j =1
n
只有零解,即
∑α
j =1
n
j
u j = 0 只有零解,即
所有定义在[ a,b ]上的连续函数做成的集合 在函数加法、数乘下做成无穷维线性空间， 记为 C[a,b] . C[a,b] 上内积定义为:
( f , g ) = ∫ f ( x ) g ( x ) dx
a
b
Rn上的范数举例
Ex. Rn上范数： 对X=(x1，…， xn )∈Rn ， n 1. (1-范数)： x = ∑ x
R = { (a1 , a2 ,⋯ , an ) ai ∈ R, i = 1,2,⋯ , n.}
n
全体n 维实向量的集合
x = (a1 , a2 ,⋯ , an ), y = (b1 , b2 ,⋯ , bn ), ( x, y ) = a1b1 + a2b2 + ⋯ + anbn .
内积空间C[a,b]
2
= =
∑
n
x
2 i
i = 1
∞
m a x
1 ≤ i ≤ n
x
in与C[a,b]Fra bibliotek范数的扩充关系 R
= = =
• 向量范数： 范数： 范数
x x x
1
∑
n
x
i = 1
i
2
∑
n
x
2 i
i = 1
∞
max
x
1 ≤ i ≤ n
i
• 函数范数：
f f f
1
= = =
∫
b a
f ( x ) dx
b 2 a
2 ∞
内积空间
设X 是定义在实(或复)数域K上的线性空 间，若对于X中 任意一对有序元素x,y, 恒对应 数域K的值(x, y)，且满足: • (x, x) ≥0，且(x, x)=0的充要条件是x=0; • (ax, y) = a(x, y);฀ • (x+y, z) = (x, z) + (x, z).฀ ฀ 则称X为内积空间，(x, y)称为x, y的内积. 正交: 正交 若(x, y)=0,称x与y正交.
∞
=
max
f (x)
a≤ x≤b
绝对值与
n上范数的扩充关系 R
• 数a的绝对值(a离开原点0的距离)：∣a∣ • 数a与b的差异(距离)： ∣a-b∣ • 向量A=( 1, a2,…,an)的范数(A离开0向量 A=(a , 的范数 A=( 的距离) ： n • x = ∑ x i
1 i = 1
x x
0 ≤ (u + λv , u + λv) = (u, u) + 2λ(u, v) + λ 2 (v, v).
特别地,取 λ = − (u , v) (v, v) 代入上式得：
内积空间的性质
(u, v) (u, v) (u, u ) − 2 + ≥ 0, (v, v ) (v, v )
( u , v ) ≤ ( u , u )( v , v ) .
1
(n + 1) Pn +1 ( x) = (2n + 1) Pn ( x) − nPn −1 ( x)
各类最佳逼近的一般提法
• 设 Φ ⊆ C[a, b] 是某个子空间,对任 * f ( x) ∈ C[a, b]，寻找 S ( x) ∈ Φ, 满足： f ( x ) − S * ( x ) = min f ( x ) − S ( x ) .
∑α
j =1
n
j
u j = 0.
Th3的证明
又
n
∑α
j =1
j
uj = 0 ⇒
n ∑ α j u j , u k = 0, k = 1, 2, ⋯ , n. j =1
Th3的证明
故,
n ∑ α ju j , j =1 ⇔
u k = 0, k = 1, 2, ⋯ , n.
• 在一般线性空间上定义了线性空 间的范数概念，然后推广到函数 空间C[a,b]上得到度量两个函数 间距离(差异)的多个范数。相应 得到多个逼近概念和每一逼近概 念下的最佳(误差最小)多项式的 特征或求法。
线性空间
฀
设L是一个非空集合，K是实（或复）数域，并 可 在其上定义“加法”，“数乘”运算，而且满足以 下公理 • ฀ 加法交换律：x+y= y+x • ฀ 加法结合律：(x+y)+z= x+(y+z) • ฀ 存在零元：x+0=x • ฀ 存在逆元：x+(-x)=0 • ฀ 数乘：1x=x • ฀ a(bx)= (ab)x • ฀ (a+b)x=ax+bx • ฀ a(x+y)=ax+ay 则称L是数域K上的线性空间
S ( x )∈Φ
在不同的范数，不同的子空间 Φ 下形成了不同的最佳逼近.
最佳一致逼近多项式
对 f ( x) ∈ C[a, b], H n = span {1, x,⋯ , x n } ,满足：
f ( x) − P ( x) = max f ( x) − P ( x) =
* n ∞ a≤ x≤b * n P ( x)∈Hn n
(ϕ 0 , ϕ 0 ) (ϕ 0 , ϕ1 ) ⋯ (ϕ 0 , ϕ n ) (ϕ1 , ϕ 0 ) (ϕ1 , ϕ1 ) ⋯ (ϕ1 , ϕ n ) G = ⋮ ⋮ ⋮ (ϕ , ϕ ) (ϕ , ϕ ) ⋯ (ϕ , ϕ ) n 1 n n n 0
内积、范数、距离之间的关系
• 由每一内积可以导出一范数： x = ( x, x). • 由每一范数可以导出一距离： ρ ( x, y ) = x − y . 注：有的范数并没有导出它的内积。
n 维实(或复)Euclid空间Rn
฀
在向量加法、数乘下为n维线性空间. Rn且 为距离空间,赋范线性空间,内积空间. Rn的内积为:
距离空间定义
• ฀ 设X是非空集合，对于X中的任意两元素x与y ，按某一法则都对应唯一的实数ρ(x, y)，并满足 以下三条公理： • 1.非负性：ρ(x, y) ≥0,ρ(x, y) =0当且仅当x=y; • 2.对称性：ρ(x, y) =ρ(y, x)； • 3.三角不等式；对任意的x, y, z ρ(x, y) ≤ρ(x, z) + ρ(z, y), 则称ρ(x, y)为x与y间的距离（或度量），并称X是 以ρ为距离的距离空间(或度量空间),记为(X, ρ)．
C[a.b]带权内积的定义
• C[a,b]上带权 ρ (x ) 的内积和范数定义为：
( f ( x), g ( x)) = ∫ ρ ( x) f ( x) g ( x)dx,
a
b
f ( x) 2 =
∫
b
a
ρ ( x) f ( x)dx .
2
C[a,b]上线性无关函数簇的格拉姆矩 阵判定定理
• C[a,b]上函数簇 {ϕ 0 , ϕ1 , ⋯ , ϕ n } 线性无关的充要条件是其格拉姆矩阵G非奇 异。
非奇异当且仅当 {u1 , u2 ,⋯ , un } 线性无关.
Th3的证明
[证明] 首先,
n ∑ α ju j , j =1 n ∑ α ju j , j =1
u k = 0, k = 1, 2, ⋯ , n. ⇒ n ∑1 α j u j = 0 ⇒ j=
范数与赋范线性空间
฀ 设X是实(或复)线性空间，如果对于X中 每 x ||x|| 个元素x，按照一定的法则对应于实数||x||， 且满足： • ฀ ||x||≥0，||x||=0当且仅当x=0; • ฀ ||ax||=|a|||x||，a是实(或复)数; • ฀ ||x+y||≤||x|| + ||y||. 则称X是实(或复)赋范线性空间，||x||称为x的 范数.
C[a.b]带权内积的定义
• [a,b]上的非负函数 ρ (x) 称为[a,b]上的权 函数，若满足： b ① ∫ x k ρ ( x)dx 存在且为有限值(k=0,1,…). a ② 对[a,b]上的非负连续函数g (x) ，若
∫
b
a
ρ ( x ) g ( x ) dx = 0 ,
则 g ( x) ≡ 0
“函数逼近” 问题提法
• 对[a,b]上的连续函数类C[a,b]中的给 定函数f(x)，在另一“简单”函数类----n次多项式函数类Hn中求函数p(x)， 使p(x)与f(x)的误差在某种度量意义下 最小。 • p(x)与f(x)的误差的度量 的误差的度量是逼近论的核 的误差的度量 心问题。