特征值与特征向量计算第六章
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
T T
和对合性( H I )以及 H H 。
2 T
1
P136定义6-1,定理6-4
构造一个 Householder 矩阵H主要是确定向 量u
v u n 。对任意非零向量 v R ,可令 v 2 ,此时
由上可见经过7次迭代, m7的值已稳定到小数后5位, 故所求的按模最大特征值和对应的特征向量可取作:
1 44 .9995 , x1 (1,0.333 ,0.6667 )
T
注:1、归一化例题6-2
2、幂法的加速:原点平移法; Aitken加速法;Rayleigh商加速法
(1)原点平移法 最简单的加速办法是以 B A qI 来代替矩阵 A 进 行迭代, 此时适当选取平移量 q 可使过程得以加速。 易知 B 的特征值为 q, i 1,
…………..
k k Vk AVk 1 AkV0 11 1 2 k 2 2 n nn
i k [1 1 i ( ) i ] 1 i 2
k 1 n
同理可得: k 1 Vk 1 1 [1 1
i 假定 ( 1 ) j 0 ,因为 1(i 2,3,, n ) ,故得 1
1、Householder矩阵
定 义 : 设 向 量 u u1 , u2 , , un
H I 2uuT , 称为
T
,且
uT u u
2 2
1 ,则
Householder 矩阵, 简称H矩阵。
根据定义可以看出,Householder 矩阵 具有良好的性质: 对称性( H H ) ,正交性( H H I )
n
i [11 i ( ) i ] 1 i 2 mk max( Vk ) max{ } n i k 1 k max{ 1 [1 1 i ( ) i ]} 1 i 2
k 1 n
lim uk
k
max( 1 )
1
i max[ 11 i ( ) i ] 1 i 2 1 n i k 1 max[ 11 i ( ) i ] 1 i 2
但众所周知,高次多项式求根是相当困难的,而且重根 的计算精度较低。同时,矩阵A求特征多项式系数的过程对舍 入误差十分敏感,这对最后计算结果影响很大。因此,从数 值计算角度来看,上述方法缺乏实用价值。 目前,求矩阵特征值问题实际采用的是迭代法和变换法。 这里将介绍通过求矩阵特征向量求出特征值的一种迭代法---幂法,而后再介绍一些反幂法的内容。
V
(k )
,V ( k )
因为:
r (V
(k )
AV ) V
,V ( k ) A K 1V ( 0) , A K V ( 0) (k ) (k ) K ( 0) K (0) ,V A V ,A V
(k )
2k
2 2 k 1 a i i i 1 n
n
a12 a1n a11 a a a 22 2n f x det A I 21 a a a n1 n2 nn
令f﹙x﹚﹦0。 通过求解上述高次多项式方程,所得根λ即为矩阵A 的特征值,然后求解方程组﹙A﹣λI﹚X﹦0,就可得 出特征值λ对应的特征向量X。
lim uk
k
max( 1 )
1
lim mk 1
k
证: V1 Au0 AV0 , u1
V1 AV0 max( V1 ) max( AV0 )
AkV0 Vk Auk 1 max( Ak 1V0 ) Vk AkV0 uk mk max ( AkV0 )
i
, n , B
1
的特征向量与矩阵
A
相 同 。 为 了 加 速 求 得 , 应 使 1 q 模 最 大 , 且 。
q
2 q 2 1 q 1
易求得,
2 n
2
是一个很好的选择.可以验证,
2 q
1
此时 B 的模最大的特征根仍为 1 q , 且模第二大的特 征根为 2 q 或 n q , 由于 q q 2
一、幂法 定理:设矩阵A的特征值为
1 2 n
并设A有完全的特征向量系 1 , 2 ,, n (它们线性无关), 则对任意一个非零向量V0Rn 所构造的向量序列 Vk AVk1 有
(Vk ) j lim 1 k (V k 1 ) j
其中表示向量的第j个分量.
(3)Rayleigh 商加速 设对称矩阵 A 的特征值满足 1 2 n , 且含 有相互正交的特征向量 x1 , x 2 , , xn ,则在幂法迭代的 每一步可进一步计算 V( k ) 的 Rayleigh 商
r (V ( k ) )
(k ) (k ) AV , V
1 2 n
其对应的特征向量为
因为 A xk = k xk
x1 x2 , x3 ,
, xn
所以 A-1 xk = k-1 xk
故k-1就是矩阵A-1的特征值,它们满足
n
1
n1
1
1
1
对应的特征向量仍为 x k 。因此,求矩阵 A 的按模最小特征 值,就相当于求其逆阵A-1的按模最大特征值n-1 ,这只需应用 幂法即可求得。
wenku.baidu.com
四、QR算法
QR算法是目前计算任意方阵全部特征值 及特征向量最有效的方法之一,它是幂法的推 广和变形。由线性代数可知,任何实的非奇异 阵A都可以分解为正交矩阵Q和上三角矩阵R 的乘积,而且当R的对角线元取定时,这种分 解是唯一的。
QR算法的基本思想就是先对A进行QR 分解,然后通过逆序相乘对原矩阵实现一系列 正交相似变换,最后约化成一个近似的上三角 阵,其对角元就是所求矩阵A的近似特征值。 QR分解可以用 Householder 变换或平面旋转 变换来实现。
注意点: 由于求逆非常费时。故在用迭代向量 Vk A1uk 1 由uk-1求Vk时,可采用解方程组
AVk uk 1
的办法。由于每次解方程组的系数矩阵都相同,故 计算并不复杂。如果预先将作三角分解,这样使每 次迭代仅仅求解两个三角方程组就更省时了。特别 当n较大时,将大大地节省计算量。 三、幂法小结: 幂法适用范围为求矩阵的按模最大特征值及相 应的特征向量,其优点是算法简单,容易编写程序 在计算机上实现,缺点是收敛速度慢,其有效性依 赖于矩阵特征值的分布情况。反幂法的适用范围是 求矩阵的按模最小特征值及对应的特征向量。
(2)Aitken 加速方法 易知
mk max(V
(k )
2 ) 1 C 1
k
于是有: mk 2 1 mk 1 1 mk 1 1 mk 1 便可得到
1 1( k )
2 mk 2 mk mk 1 mk 2 2mk 1 mk
a
i 1
2 i
i2 k
2 (k ) r ( V ) [ 1 O ( 1 所以: 1
)]
其近似程度比 Atiken 加速方法好。
二、反幂法: 基本思路:设 A没有零特征值,则 A非奇异,即 A的逆矩 阵存在,设的特征值为 0
n
k
lim mk 1
例: 用幂法求矩阵
6 135 133 A 44 5 46 88 6 90
按模最大特征值1和对应的特征向量x1
解:
k 0 1 2 3 4 5 6 7
取初始向量V0= u0=(1,1,1)T ,计算出Vk,uk和mk,迭代 7次的结果列于下表
P129:定理6-2;归一化幂 法是定理6-3。
证明: 仅就为实数的情况来证明.假定
V0 11 2 2 n n (1 0)
于是,由矩阵特征值定义知 i i i ,得
V1 AV0 1 A1 2 A2 n An 111 22 2 nn n 2 2 V2 AV1 A2V0 11 1 2 2 2 2 n nn
矩阵特征值 与特征向量的计算主要内容
一、幂法 二、反幂法 三、幂法、反幂法小结 四、QR算法 五、Jacobi方法
问题的提出: 工程技术的许多实际问题,例如振动问题,稳定问题的 求解,有时会归结成求矩阵的特征值λ和对应的特征向量χ。 学过线性代数后,我们已知求矩阵A的特征值λ和特征向量χ 的解法,即先求出A的特征多项式:
uk
1 -0.67153 -0.66727 -0.66670 -0.66667 -0.66667 -0.66667 -0.66667
m2 44 .42377 , m3 44 .92333 , m4 44 .99572 m5 44 .99959 , m6 44 .99953 , m7 44 .99953
1 1 2
n q
2 n
n
2 1
, 因而,
过程可以加速。
这个办法也可用来求按模最小的特征值及相应 特征向量,只需令
1 n1 q 2
即可。
上述加速办法也称为移位法 .由于特征值分布 范围预先可由定理 6.1 先限定一个范围,但此范围 往往太大,实际使用时一般是通过多次实验找到合 适的 q 值使迭代过程有明显加速为止。
Vk
1 274 44.43277 44.92333 44.99572 44.99959 44.99953 44.99953 1 95 14.84322 14.97623 14.99865 14.99988 14.99983 14.99983 1 -184 -29.64262 -29.95048 -29.99722 -29.99974 -29.99968 -29.99968 1 1 1 1 1 1 1 1 1 0.34672 0.33413 0.33337 0.33334 0.33333 0.33333 0.33333
i [1 1 i ( ) i ] 1 i 2 n i k k max{ 1 [1 1 i ( ) i ]} 1 i 2
k 1 n
i k ) i 1 i 2 n i k m ax [ 1 1 i ( ) i ] 1 i 2 1 1 i (
i k 1 i ( ) i ] 1 i 2
n
i k 1 ( 1 ) j [i ( ) i ] j (Vk ) j 1 i 2 lim 1 lim 1 n k (V k i k 1 k 1 ) j 1 ( 1 ) j [i ( ) i ] j 1 i 2
n
从上述证明过程可得出计算矩阵A的按模最大特征值的方 法,具体步骤如下: (1)任取一非零向量V0Rn,一般可取V0=(1,1,.…,1)T (2)计算Vk=AVk-1 (Vk ) j (3)当k足够大时,即可得到:1
(Vk 1 ) j
若按上述计算过程,有一严重缺点,当|1|>1 (或| 1 |<1时){Vk}中不为零的分量将随K的增大而无限增大,计 算机就可能出现上溢(或随K的增大而很快出现下溢), 因此,在实际计算时,须按规范法计算,每步先对向量 Vk进行“规范化”,即取Vk中绝对值最大的一个分量记作 mk =max(Vk ),用mk遍除的所有向量Vk ,得到规范化向 量。 为说明上述算法的正确性,我们证明下述定理 定理二:在定理一的条件下,规范化向量序列{uk}收敛于 矩阵A按模最大的特征值1对应的特征向量,而向量序列 {Vk}的绝对值最大的分量mk收敛于1,即
和对合性( H I )以及 H H 。
2 T
1
P136定义6-1,定理6-4
构造一个 Householder 矩阵H主要是确定向 量u
v u n 。对任意非零向量 v R ,可令 v 2 ,此时
由上可见经过7次迭代, m7的值已稳定到小数后5位, 故所求的按模最大特征值和对应的特征向量可取作:
1 44 .9995 , x1 (1,0.333 ,0.6667 )
T
注:1、归一化例题6-2
2、幂法的加速:原点平移法; Aitken加速法;Rayleigh商加速法
(1)原点平移法 最简单的加速办法是以 B A qI 来代替矩阵 A 进 行迭代, 此时适当选取平移量 q 可使过程得以加速。 易知 B 的特征值为 q, i 1,
…………..
k k Vk AVk 1 AkV0 11 1 2 k 2 2 n nn
i k [1 1 i ( ) i ] 1 i 2
k 1 n
同理可得: k 1 Vk 1 1 [1 1
i 假定 ( 1 ) j 0 ,因为 1(i 2,3,, n ) ,故得 1
1、Householder矩阵
定 义 : 设 向 量 u u1 , u2 , , un
H I 2uuT , 称为
T
,且
uT u u
2 2
1 ,则
Householder 矩阵, 简称H矩阵。
根据定义可以看出,Householder 矩阵 具有良好的性质: 对称性( H H ) ,正交性( H H I )
n
i [11 i ( ) i ] 1 i 2 mk max( Vk ) max{ } n i k 1 k max{ 1 [1 1 i ( ) i ]} 1 i 2
k 1 n
lim uk
k
max( 1 )
1
i max[ 11 i ( ) i ] 1 i 2 1 n i k 1 max[ 11 i ( ) i ] 1 i 2
但众所周知,高次多项式求根是相当困难的,而且重根 的计算精度较低。同时,矩阵A求特征多项式系数的过程对舍 入误差十分敏感,这对最后计算结果影响很大。因此,从数 值计算角度来看,上述方法缺乏实用价值。 目前,求矩阵特征值问题实际采用的是迭代法和变换法。 这里将介绍通过求矩阵特征向量求出特征值的一种迭代法---幂法,而后再介绍一些反幂法的内容。
V
(k )
,V ( k )
因为:
r (V
(k )
AV ) V
,V ( k ) A K 1V ( 0) , A K V ( 0) (k ) (k ) K ( 0) K (0) ,V A V ,A V
(k )
2k
2 2 k 1 a i i i 1 n
n
a12 a1n a11 a a a 22 2n f x det A I 21 a a a n1 n2 nn
令f﹙x﹚﹦0。 通过求解上述高次多项式方程,所得根λ即为矩阵A 的特征值,然后求解方程组﹙A﹣λI﹚X﹦0,就可得 出特征值λ对应的特征向量X。
lim uk
k
max( 1 )
1
lim mk 1
k
证: V1 Au0 AV0 , u1
V1 AV0 max( V1 ) max( AV0 )
AkV0 Vk Auk 1 max( Ak 1V0 ) Vk AkV0 uk mk max ( AkV0 )
i
, n , B
1
的特征向量与矩阵
A
相 同 。 为 了 加 速 求 得 , 应 使 1 q 模 最 大 , 且 。
q
2 q 2 1 q 1
易求得,
2 n
2
是一个很好的选择.可以验证,
2 q
1
此时 B 的模最大的特征根仍为 1 q , 且模第二大的特 征根为 2 q 或 n q , 由于 q q 2
一、幂法 定理:设矩阵A的特征值为
1 2 n
并设A有完全的特征向量系 1 , 2 ,, n (它们线性无关), 则对任意一个非零向量V0Rn 所构造的向量序列 Vk AVk1 有
(Vk ) j lim 1 k (V k 1 ) j
其中表示向量的第j个分量.
(3)Rayleigh 商加速 设对称矩阵 A 的特征值满足 1 2 n , 且含 有相互正交的特征向量 x1 , x 2 , , xn ,则在幂法迭代的 每一步可进一步计算 V( k ) 的 Rayleigh 商
r (V ( k ) )
(k ) (k ) AV , V
1 2 n
其对应的特征向量为
因为 A xk = k xk
x1 x2 , x3 ,
, xn
所以 A-1 xk = k-1 xk
故k-1就是矩阵A-1的特征值,它们满足
n
1
n1
1
1
1
对应的特征向量仍为 x k 。因此,求矩阵 A 的按模最小特征 值,就相当于求其逆阵A-1的按模最大特征值n-1 ,这只需应用 幂法即可求得。
wenku.baidu.com
四、QR算法
QR算法是目前计算任意方阵全部特征值 及特征向量最有效的方法之一,它是幂法的推 广和变形。由线性代数可知,任何实的非奇异 阵A都可以分解为正交矩阵Q和上三角矩阵R 的乘积,而且当R的对角线元取定时,这种分 解是唯一的。
QR算法的基本思想就是先对A进行QR 分解,然后通过逆序相乘对原矩阵实现一系列 正交相似变换,最后约化成一个近似的上三角 阵,其对角元就是所求矩阵A的近似特征值。 QR分解可以用 Householder 变换或平面旋转 变换来实现。
注意点: 由于求逆非常费时。故在用迭代向量 Vk A1uk 1 由uk-1求Vk时,可采用解方程组
AVk uk 1
的办法。由于每次解方程组的系数矩阵都相同,故 计算并不复杂。如果预先将作三角分解,这样使每 次迭代仅仅求解两个三角方程组就更省时了。特别 当n较大时,将大大地节省计算量。 三、幂法小结: 幂法适用范围为求矩阵的按模最大特征值及相 应的特征向量,其优点是算法简单,容易编写程序 在计算机上实现,缺点是收敛速度慢,其有效性依 赖于矩阵特征值的分布情况。反幂法的适用范围是 求矩阵的按模最小特征值及对应的特征向量。
(2)Aitken 加速方法 易知
mk max(V
(k )
2 ) 1 C 1
k
于是有: mk 2 1 mk 1 1 mk 1 1 mk 1 便可得到
1 1( k )
2 mk 2 mk mk 1 mk 2 2mk 1 mk
a
i 1
2 i
i2 k
2 (k ) r ( V ) [ 1 O ( 1 所以: 1
)]
其近似程度比 Atiken 加速方法好。
二、反幂法: 基本思路:设 A没有零特征值,则 A非奇异,即 A的逆矩 阵存在,设的特征值为 0
n
k
lim mk 1
例: 用幂法求矩阵
6 135 133 A 44 5 46 88 6 90
按模最大特征值1和对应的特征向量x1
解:
k 0 1 2 3 4 5 6 7
取初始向量V0= u0=(1,1,1)T ,计算出Vk,uk和mk,迭代 7次的结果列于下表
P129:定理6-2;归一化幂 法是定理6-3。
证明: 仅就为实数的情况来证明.假定
V0 11 2 2 n n (1 0)
于是,由矩阵特征值定义知 i i i ,得
V1 AV0 1 A1 2 A2 n An 111 22 2 nn n 2 2 V2 AV1 A2V0 11 1 2 2 2 2 n nn
矩阵特征值 与特征向量的计算主要内容
一、幂法 二、反幂法 三、幂法、反幂法小结 四、QR算法 五、Jacobi方法
问题的提出: 工程技术的许多实际问题,例如振动问题,稳定问题的 求解,有时会归结成求矩阵的特征值λ和对应的特征向量χ。 学过线性代数后,我们已知求矩阵A的特征值λ和特征向量χ 的解法,即先求出A的特征多项式:
uk
1 -0.67153 -0.66727 -0.66670 -0.66667 -0.66667 -0.66667 -0.66667
m2 44 .42377 , m3 44 .92333 , m4 44 .99572 m5 44 .99959 , m6 44 .99953 , m7 44 .99953
1 1 2
n q
2 n
n
2 1
, 因而,
过程可以加速。
这个办法也可用来求按模最小的特征值及相应 特征向量,只需令
1 n1 q 2
即可。
上述加速办法也称为移位法 .由于特征值分布 范围预先可由定理 6.1 先限定一个范围,但此范围 往往太大,实际使用时一般是通过多次实验找到合 适的 q 值使迭代过程有明显加速为止。
Vk
1 274 44.43277 44.92333 44.99572 44.99959 44.99953 44.99953 1 95 14.84322 14.97623 14.99865 14.99988 14.99983 14.99983 1 -184 -29.64262 -29.95048 -29.99722 -29.99974 -29.99968 -29.99968 1 1 1 1 1 1 1 1 1 0.34672 0.33413 0.33337 0.33334 0.33333 0.33333 0.33333
i [1 1 i ( ) i ] 1 i 2 n i k k max{ 1 [1 1 i ( ) i ]} 1 i 2
k 1 n
i k ) i 1 i 2 n i k m ax [ 1 1 i ( ) i ] 1 i 2 1 1 i (
i k 1 i ( ) i ] 1 i 2
n
i k 1 ( 1 ) j [i ( ) i ] j (Vk ) j 1 i 2 lim 1 lim 1 n k (V k i k 1 k 1 ) j 1 ( 1 ) j [i ( ) i ] j 1 i 2
n
从上述证明过程可得出计算矩阵A的按模最大特征值的方 法,具体步骤如下: (1)任取一非零向量V0Rn,一般可取V0=(1,1,.…,1)T (2)计算Vk=AVk-1 (Vk ) j (3)当k足够大时,即可得到:1
(Vk 1 ) j
若按上述计算过程,有一严重缺点,当|1|>1 (或| 1 |<1时){Vk}中不为零的分量将随K的增大而无限增大,计 算机就可能出现上溢(或随K的增大而很快出现下溢), 因此,在实际计算时,须按规范法计算,每步先对向量 Vk进行“规范化”,即取Vk中绝对值最大的一个分量记作 mk =max(Vk ),用mk遍除的所有向量Vk ,得到规范化向 量。 为说明上述算法的正确性,我们证明下述定理 定理二:在定理一的条件下,规范化向量序列{uk}收敛于 矩阵A按模最大的特征值1对应的特征向量,而向量序列 {Vk}的绝对值最大的分量mk收敛于1,即