幂法及反幂法

幂法: 幂法: n n ( 对任意的初始向量 v0 ∈ R , 且 v0 ≠ 0, 有 v0 = ∑ α i xi , 且设 α 1 ,α 2 ,
,α r 不全为零),则有 不全为零) r r n λi k k k vk = Avk1 = Akv0 = λ1 [∑ α i xi + ∑ α i ( ) x i ] ≡ λ1 [ ∑ α i x i + ε k ] λ1 i =1 i =1 i = r +1 n λ ε k = ∑ α i ( i )k x i ,且 limε k = 0, 其中 k →∞ λ1 i = r +1
则
( a ) lim
k →∞
λ
vk
k 1
= α 1 x1 ;
(v k + 1 )i ( b ) lim = λ1. k → ∞ (v ) k i
2. A的主特征值为实的 重根,即 | λ1 |=| λ2 |= =| λr |>| λr +1 |≥ ≥| λn | 重根, 的主特征值为实的r重根 问题: 问题: A = (aij ) ∈ Rn×n其特征值为λi ,对应特征向量为 xi (i = 1,, n), 设 , 线性无关.特征值满足: 即 Ax i = λ i x i (i = 1,, n) ,且 {x1,, xn },线性无关.特征值满足: | λ1 |=| λ2 |= =| λr |>| λr + 1 |≥ ≥| λn | ,求矩阵的主特征值 λ 1 及对应 求矩阵的主特征值 特征向量. 的特征向量.
i
λ1 (1) 对规范化向量序列 {uk } 对规范化向量序列: 由(2.7)及(2.8)式有 及 式有 k λ1 (α1 x1 + ε k ) vk x11 x α 1 x1 + ε k = uk = = → → k k max(λ1 (α1 x1 + ε k )) max(α 1 x1 + ε k ) max(vk ) max( x11)) max( x
k k k
k v k = λ 1 (α 1 x 1 + ε k ) 其次讨论主特征值 λ1的计算. 的计算. 若(vk )i 表示 v k 的第 个分量,则相邻迭代向量的分量的比值为 的第i个分量 个分量, 相邻迭代向量的分量的比值为
k +1 α 1 ( x1 )i + (ε k + 1 )i (v k + 1 )i λ1 [α 1 ( x1 )i + (ε k + 1 )i ] = = λ1 , ((v k )i ≠ 0) k λ1 [α 1 ( x1 )i + (ε k )i ] (v k )i α 1 ( x1 )i + (ε k )i (v ) lim k + 1 i = λ1 ( 2 .5 ) 则有 k → ∞ (v ) k i 即相邻迭代向量分量的比值收敛到主特征值 λ1,且收敛速度由 λ λ2 r =| 2 |< 1 而接近于1时,收 |来度量,r 越小收敛越快, 当 来度量, 越小收敛越快, 而接近于1 比值 r = | λ1 λ1
( 2 . 1) 1.A特征值中λ 1 为强占优,即 | λ1 |>| λ2 |≥ ≥| λn | 特征值中 为强占优, 问题: 问题: A = (aij ) ∈ Rn×n其特征值为λ i ,对应特征向量为 xi (i = 1,, n), 设 , 线性无关.特征值满足: 即 Ax i = λ i x i (i = 1,, n) ,且 {x1,, xn },线性无关.特征值满足: | λ1 |>| λ2 |≥ ≥| λn | ,即 λ 1为强占优.求矩阵的主特征值 λ1 及对应 为强占优.求矩阵的主特征值 特征向量. 的特征向量. 幂法: 幂法: 首先讨论 λ 1 及 x 1 与 { v k } 关系 {x1,, xn } 线性无关 ,即 {x1,, xn } 为Rn中一个基,于是对任意 中一个基,于是对任意 { x 的线性组合表示) 有展开式. 的线性组合表示) 的初始向量 v0 ∈ Rn 且 v0 ≠ 0 有展开式. v0用 {xi } (
2.1 幂法
§2 幂法及反幂法
适合于计算大型稀疏矩阵的主特征值(按模最大的特征值) 适合于计算大型稀疏矩阵的主特征值(按模最大的特征值) 和对应的特征向量. 和对应的特征向量. 优点: 理论依据: 优点 方法简单 理论依据:迭代法的收敛性 问题的提法: 问题的提法:n×n 设 A = (aij ) ∈ R ,其特征值为λ i ,对应特征向量为 xi (i = 1,, n), 线性无关.求矩阵A的 即 Ax i = λi x i (i = 1,, n),且 { x1 ,, xn } 线性无关.求矩阵 的主特 征值及对应的特征向量. 及对应的特征向量 征值及对应的特征向量. 幂法的基本思想: 幂法的基本思想: 任取一个非零初始向量 v0 ∈ Rn 且 v0 ≠ 0 , 由矩阵A的乘幂构造一向量序列 由矩阵 的乘幂构造一向量序列 v1 = Av0 v = Av = A2v (2.2) 2 1 0 vk +1 = Avk = Ak +1v0 ( k = 0,1, , n) 迭代向量. 称 {v k }为迭代向量.
v0 = ∑ α i xi (且设 α 1 ≠ 0)
则 v1 = Av0 = A(α1 x1 + α2 x2 + + αn xn ) = α1 Ax1 + α 2 Ax2 + + α n Axn = α1λ1 x1 + α2λ2 x2 + + αnλn xn
i =1
n
vk 当k =2,3,… 时, = Avk1 = Akv0 = α1λ1 x1 + α 2λ2 x2 + + α nλn xn ) λ k λn λ k α 2 ( 2 ) k x 2 + + α n ( n ) kk x nn ] ( 2 .3 ) = λ1 [α 1 x1 + + αn( ) x 2 λ11 λ1 λ 1 k ≡ λ 1 (α 1 x 1 + ε k ) λ λ ε k = α 2 ( 2 )k x2 + + α n ( n )k xn 其中 λ1 λ1 λi |< 1 (i = 2,, n) 由假设( 由假设(2.1)式 | λ1 |>| λ2 |≥ ≥| λn | ,得 | λ1 λi k lim lim 从而 k → ∞ ( ) = 0 ( i = 2, , n), 即 k → ∞ ε k = 0, λ1 vk λ2 lim ( 2 .4 ) 确定. 且收敛速度由比值 r = | |确定. 所以有 k → ∞ λ k = α 1 x 1 1 λ1 vk vk 说明, 充分大时, 说明,当k充分大时,有 k ≈ α 1 x1,或 k 越来越接近特征向量 充分大时 λ1 λ1 α1 x1.
v1 = Au0 = Av0 ,
A2 v 0 v2 = Au1 = , max( Av0 )
Ak v0 vk = Auk 1 = , k 1 max(A v0 )
A2 v 0 max( Av0 ) = u2 A2 v 0 规范化 max( ) Av 0 v1 max( Av0 ) u1 = = max( v1 ) max( Av0 ) A2 v 0 v2 A2v0 max( Av0 ) u2 = = = 2 max(v2 ) max(A v0 ) max( A2v0 ) max( Av0 ) vk Ak v 0 uk = = max(v k ) max( Ak v0 ) ( 2 .6 )
n
nHale Waihona Puke Baidu
k
改进幂法计算公式: 改进幂法计算公式:
( 2 .7 )
n
其中 ε k = ∑ α i (
i=2
k v0 = ∑α i xi , 及 vk = A v0 = ∑αi Ak xi = ∑α i λk xi = λ1 (α1 x1 + ε k ). 由于 i i =1 i =1 i =1 ( 2 .8 ) n λ
敛可能很慢. 敛可能很慢.
结论: 结论: 定理7 个线性无关的特征向量; 定理 (1)设 A ∈ R n× n有n个线性无关的特征向量; 个线性无关的特征向量 (2)设A的特征值满足 | λ1 |>| λ2 |≥ ≥| λn |; ) 的特征值满足 n
i =1
(3)幂法: v0 = ∑ ai xi ≠ 0, (α1 ≠ 0), vk = Avk 1 , ( k = 1,2,); )幂法:
(当 k → ∞ 时 , ε k → 0 )
) k x i → 0 (当 k → ∞ ).
(2) 对迭代向量序列 {vk } 对迭代向量序列: k Ak v0 λ1 (α 1 x1 + ε k ) α1 x1 + ε k vk = = = λ1 k max(Ak 1v0 ) max( λ1 1 (α 1 x1 + ε k 1 )) max(α1 x1 + ε k 1 ) k = max( v k ) = λ1 max(α 1 x1 + ε k ) → λ1 , (当 k → ∞ )) 于是, 于是, 1 当k → ∞ max(α 1 x1 + ε k 1 ) 即 v k绝对值最大的分量当 k → ∞ 时,趋向于特征根 λ 1 . 结论: 结论: 个线性无关的特征向量; 定理 8 (1)设 A ∈ R n× n 有n个线性无关的特征向量; 个线性无关的特征向量 (2)设A特征值满足 | λ1 |>| λ2 |≥ ≥| λn |, 且 Axi = λi xi (i = 1,, n); ) 特征值满足 {v 由改进幂法得到的规范化向量序列及 3){u (3){uk } 及 {vk }由改进幂法得到的规范化向量序列及迭代向量 序列(( ((2 ),则有 序列((2.7)式),则有 x1 lim (a ) lim uk = ; (b ) k → ∞ k = lim max( v k ) = λ1 . k →∞ k →∞ max( x1 ) λ r = | 2 | 确定. 确定. 且收敛速度由比值 λ1
从而
k→∞
i =1
lim
r
λ
vk
k 1
=
∑α
i =1
r
i
xi
λ 不全为零) 线性组合 ∑α i xi( α 1 ,α 2 , ,α r 不全为零) .
k 1
因此, 充分大时, 因此,当k充分大时, 充分大时
i =1
vk
接近于与 λ1 对应的特征向量的某个
3. 幂法的改进 的主特征值及对应的特征向量时, 用幂法计算A的主特征值及对应的特征向量时,如果 λ1 > 1 , ( 或 λ 1 < 1 ) ,迭代向量的各个不等于零的分量将随 k → ∞ 而趋于无穷 或趋于零) 这样造成计算机中的"溢出" 为了克服这个问题, (或趋于零),这样造成计算机中的"溢出".为了克服这个问题, 利用向量的方向与长度无关这一性质, 将迭代向量的长度规范化 利用向量的方向与长度无关这一性质, 将迭代向量的长度规范化 改进幂法. 以改进幂法. 所谓向量长度规范化 就是将向量的分量同除以一个常数, 规范化, 所谓向量长度规范化,就是将向量的分量同除以一个常数,使 向量长度为1 向量长度有多种度量法, 向量长度为1,向量长度有多种度量法,可以采用 || ||∞ 或 || ||2 , max(v ) ≡|| v ||∞ = max | (v )i | ≡ | (v )i0 | ,其中 0为所有绝对值最大的分量 其中i 1≤ i ≤ n
则有迭代向量序列{v k }及规范化向量序列 {uk } .
u0 = v0 ≠ 0 ( 且α 1 ≠ 0) vk = Auk 1 , k = max(vk ) 迭代 : ( k = 1,2,) 规范化 : uk = vk / k 的关系. 先考虑 {uk }, {v k } 与计算 λ1 及 x 1 的关系.
2.A的主特征值为实的 重根 2. 的主特征值为实的r重根,即 | λ1 |=| λ2 |= =| λr |>| λr +1 |≥ ≥| λn | 的主特征值为实的 重根, r vk 结论: 结论: lim k = ∑ α i x i k→∞ λ i =1 1
3. 幂法的改进 令 任取初始向量: 任取初始向量: u0 = v0 ≠ 0 ( 且α 1 ≠ 0) 迭代
归范化 中最小的指标. 中最小的指标. v → u =
性质: 性质: n v 为实数, 设t 为实数, ∈ R , 则 max( t v ) = t max( v ) 或 || tv ||∞ = t || v ||∞ .
v v (或u = 等) v2 max(v )
2.1 幂法
§2 幂法及反幂法
幂法的基本思想: 幂法的基本思想: 任取一个非零初始向量 v0 ∈ Rn 且 v0 ≠ 0 , 由矩阵A的乘幂构造一向量序列 由矩阵 的乘幂构造一向量序列 v1 = Av0 2 (2.2) v2 = Av1 = A v0 vk +1 = Avk = Ak +1v0 ( k = 0,1, , n) 称 {v k }为迭代向量. 迭代向量. 1.A特征值中λ 1 为强占优,即 | λ1 |>| λ2 |≥ ≥| λn | ( 2.1) 特征值中 为强占优, (v (v k + 1 ) i vk lim = λ1. 结论: 结论: ( a ) lim k = α 1 x1 ; ( b ) k → ∞ k →∞ λ (vk )i 1