第3章 矩阵特征值与特征向量的计算
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Lx y (k ) ( k 1 ) x U x
( k 0, 1, )
3.1.3 乘幂法的加速（原点位移法）
(k )
x
Ax
( k 1)
j k 1 j v j1 1
n
k
j
，希望 | 2 / 1 | 越小越好。
第三章
引言
矩阵特征值与特征向量的计算
在科学技术的应用领域中，许多问题都归为求解一个 特 征系统。如动力学系统和结构系统中的振动问题，求系统的 频 率与振型；物理学中的某些临界值的确定等等。
§3.1 乘幂法及其变体
3.1.1 乘幂法
定理 设A Rnn有完全特征向量系，若1, 2,…, n为A的n个特征值且满足
1 2 n
对任取初始向量x(0) Rn，对乘幂公式
x Ax 确定的迭代序列{xk}，有下述结论：
(k )
( k 1 )
（1）当 1 2 时，对i = 1, 2, …, n
lim xi
(k 1) (k ) i k
x
1
收敛速度取决于 r
2 1
2
………
n n
…
n 1
( n , j )
j
n n
n
2
j 1
即
1 [ 1 , , n ] [ 1 , , n ]
2
( 2 , 1 )
( 3 , 1 ) ( 3 , 2 ) 3
3.1.2 反幂法
设ARnn可逆，则无零特征值，由
Ax x
有
( x 0)
A
1
x
1
x
A1 有
1 1 … n n 1 1 1
若 A 有| 1 | | 2 | … > | n |，则 对应同样一组特征向量。 A1 的主特征根 如何计算 解线性方程组
子空间迭代法：
先取p个线性无关的向量 x 1 , x 2 , x n 构成一个n*p的 初始矩阵 Y 0 [ x 1 , x 2 , , x n ] 再用可逆矩阵A左乘上式，得到
Z 1 AY 0
进一步用schimidt正交化的方法将Z1分解为
Z 1 Y1 R1
其中Y1的各列两两正交，R1为可逆上三角阵。
QR
其中Q = [1, 2, 3]为正交矩阵，R是上三角阵。
对n维向量空间，设1, …, n为Rn上n个线性无关的向量， 类似有
1 1
2 2 ( 2 , 1 ) 1
1 1 1
2 2
3 3
2
2
3
2
3 3 ( 3 , 1 ) 1 ( 3 , 2 ) 2
y ( k ) x ( k ) max( x ( k ) ) (k 1) (k ) y Bx
( k 0 , 1, )
3.2 子空间迭代法
斯密特（Schmidt）正交化过程： 设1，2，3 为R3上的三个线性无关的向量，
令 1 1 1 2 ，则1为单位长度的向量，再令
关于矩阵B的乘幂公式为
x
(k )
B x
k
(0)
( A 0 I ) x
k
n
(0)
k 1 1 v 1
j j v j j2 1
k
为加快收敛速度，适当选择参数0，使
(0 ) m ax
2 jn
的特征向量的近似值。
规范化乘幂法
令max(x)表示向量x分量中绝对值最大者。即如果有某i0，使
x i 0 max x i
1 i n
则
max (x) = xi
x
对任取初始向量x(0)，记
y
(0) (0)
max( x
(0)
)
则
x
(1 )
Ay
(0)
一般地，若已知x(k)，称公式
y ( k ) x ( k ) max( x ( k ) ) (k 1) (k ) x Ay
2 2
我们选取Pij，使得c ij c ji 0 ，因此需使 满足
tan 2 2 a ij a ii a jj
将 限制在下列范围内
4
4
如果
a ii a jj 0
a ij 0
a ij 0
4
4
直接从三角函数关系式计算sin 和cos，记
2 2 ( 2 , 1 ) 1 , 2 2 2
2
可以验证（1, 2）= 0，即1与2正交。若令
3 3 ( 3 , 1 ) 1 ( 3 , 2 ) 2
则
( 3, 1) ( 3, 2 ) 0
4）称矩阵
P ij
1 1 cos sin 1 1 sin cos i列 j列
1
1
为平面旋转矩阵
2．雅克比方法
设矩阵ARnn是对称矩阵，记A0 = A，对A作一系列旋转相似变换
2 2 2 2
(l i, j)
2 2
c ii c jj 2 c ij a ii a jj 2 a ij
2 2 2 2
引入记号
( A)
i , j1
n
a ij
2
( A)
i , j1 i j
n
a ij
2
易知
(C ) ( A ) ( C ) ( A ) 2 a ij 2 c ij
AY 0 Y 1 R 1
若已知第k步迭代矩阵为Yk，则子空间迭代法的公式为
Z k 1 AY k 1 Yk 1 Z k 1 Rk 1
3.3 雅克比 (Jacobi) 旋转法
3.3.1 预备知识
1）若B是上（或下）三角阵或对角阵， 则B的主对角元素即是B的特征值。 2）若矩阵P满足PTP = I，则称P为正交矩阵。 显然PT = P-1，且P1, P2,…, 是正交阵时， 其乘积P = P1P2…Pk仍为正交矩阵。 3) 实对称矩阵的特征值均为实数，且存在标准 正交的特征向量系。
xj
(k 2)
px
(k 1) j
qx
(k ) j
0
求出 p 、 q 后，由公式
p 1 i q 2 2 p
2
2
p 2
i
p q 2
2
解出主特征值ቤተ መጻሕፍቲ ባይዱ、2。此时收敛速度取决于 r
3 1
1
的程度。
向量 x ( k 1 ) 2 x ( k ) 、 x ( k 1 ) 1 x ( k ) 分别为相应于1，2
k ( 1 0 ) 1v1
j 0 j vj j2 0 1
n k
j 0 1 0
达到最小值。
当i (i = 1, 2, …, n)为实数，且1>2 ≥…≥n时，取
取0（常数），用矩阵B = A - 0I 来代替A进行乘幂迭代。 设i (i = 1, 2, …, n)为矩阵B 的特征值，则B与A特征值之间 应有关系式：
i i 0
(i = 1, 2, …, n)
Bv i ( A 0 I ) v i Av i 0 v i ( i 0 ) v i
c ik c ki a ik co s a jk sin c jk c kj a jk co s a ik sin
其余元素不变
k i, j
c lk a lk
(l , k i , j )
c il c jl a il a jl
k
xi
1
2
收敛速度取决于 r
3 1
(k 1) 1 的程度。向量 x
1 x
(k )
、
x
(k 1)
1 x
(k )
分别为主特征值1、2相应的特征向量的近似值。
c）若 1 2 ，则连续迭代两次，计算出x(k+1)，x(k+2)， 然后对j = 1, 2, …, n 解方程
即与1, 2正交，将其单位化为
3 3 3
2
于是向量组1, 2, 3构成R3上一组标准正交基，且
1 [ 1 , 2 , 3 ] [ 1 , 2 , 3 ]
2
( 2 , 1 ) 2
2
( 3 , 1 ) ( 3 , 2 ) 3 2
( k 0 , 1, )
定理 设ARnn具有完全特征向量系，1, 2, …, n为A 的n个特征值，且满足
1 2 n
则对任初始向量x(0)，由规范化的乘幂法公式确定的 向量序列y(k)，x(k)满足 (1)
lim max( x
k (k )
) 1
（2）y(k)为相应于主特征值1的特征向量近似值
y a a ii jj x 2 a ij sig n ( a ii a jj )
则 当
2
tan 2
x y
4
时，有下面三角恒等式：
1 1 tan 2
2
2 co s 1 co s 2
y x y
2 2
于是
2 cos 1
C P AP
T
P是一个正交阵，我们称它是（i, j）平面上的旋转矩阵 PTAP只改变A的第i行、j行、i列、j列的元素； A和C的元素仅在第i行（列）和第j行（列）不同，
其中A与C的元素有下面的关系
2 2 c ii a ii co s a jj sin a ij sin 2 2 2 c jj a ii sin a jj co s a ij sin 2 1 c c a a sin 2 a co s 2 ji ii jj ij ij 2
2
2
2
QR
( n , 1 ) ( n , 2 ) ( n , 3 ) n 2
Q为正交阵，R 为上三角阵
将n个线性无关向量变换为n个两两正交向量的方法称为
斯密特正交化方法。
斯密特正交化过程将可逆阵A分解为正交阵与上三角阵的乘积。
* 0
1 2
( 2 n )
则为 (0) 的极小值点。这时
2 1
* 0 * 0
2 1
1 2 1 2
2 2
1 2 1 2
n n
2 n
21 2 n
2 1
若已知矩阵A的特征值i的一个近似值0 ，要求i和对 应的特征向量，可考虑利用原点移位加速的反幂法。 记B = A - 0I， 对任取初始向量x(0)Rn，
2
y x y
2 2
采用下面公式计算 sin
sin 2 2 sin co s tan 2 co s 2
x x y
2 2
3.3.2 Jacobi旋转法
由于一次正交相似变换A→C=PTAP可将A的两 个非对角元素化为零。因此可选一系列正交变 换矩阵Pk，对A进行正交相似变换，直至将Ａ化 为近似对角矩阵
A的绝对值最小的特征根
x
( k 1)
A
1
x
(k )
Ax
( k 1)
x
(k )
规范化反幂法公式为
y ( k ) x ( k ) max( x ( k ) ) (k 1) (k ) y Ax
( k 0 , 1, )
为节省工作量，可先对A进行LU分解，再解三角形方程
1
的程度，r 越小收敛越快，r 1收敛慢，
且x(k)（当k充分大时）为相应于1的特征向量的近似值。
（2）当 1 2 3 时 a）若1 = 2，则主特征值1及相应特征向量的求法同（1）； b）若1 = -2，对i = 1, 2, …, n
lim xi
(k 2) (k )
( k 0, 1, )
3.1.3 乘幂法的加速（原点位移法）
(k )
x
Ax
( k 1)
j k 1 j v j1 1
n
k
j
，希望 | 2 / 1 | 越小越好。
第三章
引言
矩阵特征值与特征向量的计算
在科学技术的应用领域中，许多问题都归为求解一个 特 征系统。如动力学系统和结构系统中的振动问题，求系统的 频 率与振型；物理学中的某些临界值的确定等等。
§3.1 乘幂法及其变体
3.1.1 乘幂法
定理 设A Rnn有完全特征向量系，若1, 2,…, n为A的n个特征值且满足
1 2 n
对任取初始向量x(0) Rn，对乘幂公式
x Ax 确定的迭代序列{xk}，有下述结论：
(k )
( k 1 )
（1）当 1 2 时，对i = 1, 2, …, n
lim xi
(k 1) (k ) i k
x
1
收敛速度取决于 r
2 1
2
………
n n
…
n 1
( n , j )
j
n n
n
2
j 1
即
1 [ 1 , , n ] [ 1 , , n ]
2
( 2 , 1 )
( 3 , 1 ) ( 3 , 2 ) 3
3.1.2 反幂法
设ARnn可逆，则无零特征值，由
Ax x
有
( x 0)
A
1
x
1
x
A1 有
1 1 … n n 1 1 1
若 A 有| 1 | | 2 | … > | n |，则 对应同样一组特征向量。 A1 的主特征根 如何计算 解线性方程组
子空间迭代法：
先取p个线性无关的向量 x 1 , x 2 , x n 构成一个n*p的 初始矩阵 Y 0 [ x 1 , x 2 , , x n ] 再用可逆矩阵A左乘上式，得到
Z 1 AY 0
进一步用schimidt正交化的方法将Z1分解为
Z 1 Y1 R1
其中Y1的各列两两正交，R1为可逆上三角阵。
QR
其中Q = [1, 2, 3]为正交矩阵，R是上三角阵。
对n维向量空间，设1, …, n为Rn上n个线性无关的向量， 类似有
1 1
2 2 ( 2 , 1 ) 1
1 1 1
2 2
3 3
2
2
3
2
3 3 ( 3 , 1 ) 1 ( 3 , 2 ) 2
y ( k ) x ( k ) max( x ( k ) ) (k 1) (k ) y Bx
( k 0 , 1, )
3.2 子空间迭代法
斯密特（Schmidt）正交化过程： 设1，2，3 为R3上的三个线性无关的向量，
令 1 1 1 2 ，则1为单位长度的向量，再令
关于矩阵B的乘幂公式为
x
(k )
B x
k
(0)
( A 0 I ) x
k
n
(0)
k 1 1 v 1
j j v j j2 1
k
为加快收敛速度，适当选择参数0，使
(0 ) m ax
2 jn
的特征向量的近似值。
规范化乘幂法
令max(x)表示向量x分量中绝对值最大者。即如果有某i0，使
x i 0 max x i
1 i n
则
max (x) = xi
x
对任取初始向量x(0)，记
y
(0) (0)
max( x
(0)
)
则
x
(1 )
Ay
(0)
一般地，若已知x(k)，称公式
y ( k ) x ( k ) max( x ( k ) ) (k 1) (k ) x Ay
2 2
我们选取Pij，使得c ij c ji 0 ，因此需使 满足
tan 2 2 a ij a ii a jj
将 限制在下列范围内
4
4
如果
a ii a jj 0
a ij 0
a ij 0
4
4
直接从三角函数关系式计算sin 和cos，记
2 2 ( 2 , 1 ) 1 , 2 2 2
2
可以验证（1, 2）= 0，即1与2正交。若令
3 3 ( 3 , 1 ) 1 ( 3 , 2 ) 2
则
( 3, 1) ( 3, 2 ) 0
4）称矩阵
P ij
1 1 cos sin 1 1 sin cos i列 j列
1
1
为平面旋转矩阵
2．雅克比方法
设矩阵ARnn是对称矩阵，记A0 = A，对A作一系列旋转相似变换
2 2 2 2
(l i, j)
2 2
c ii c jj 2 c ij a ii a jj 2 a ij
2 2 2 2
引入记号
( A)
i , j1
n
a ij
2
( A)
i , j1 i j
n
a ij
2
易知
(C ) ( A ) ( C ) ( A ) 2 a ij 2 c ij
AY 0 Y 1 R 1
若已知第k步迭代矩阵为Yk，则子空间迭代法的公式为
Z k 1 AY k 1 Yk 1 Z k 1 Rk 1
3.3 雅克比 (Jacobi) 旋转法
3.3.1 预备知识
1）若B是上（或下）三角阵或对角阵， 则B的主对角元素即是B的特征值。 2）若矩阵P满足PTP = I，则称P为正交矩阵。 显然PT = P-1，且P1, P2,…, 是正交阵时， 其乘积P = P1P2…Pk仍为正交矩阵。 3) 实对称矩阵的特征值均为实数，且存在标准 正交的特征向量系。
xj
(k 2)
px
(k 1) j
qx
(k ) j
0
求出 p 、 q 后，由公式
p 1 i q 2 2 p
2
2
p 2
i
p q 2
2
解出主特征值ቤተ መጻሕፍቲ ባይዱ、2。此时收敛速度取决于 r
3 1
1
的程度。
向量 x ( k 1 ) 2 x ( k ) 、 x ( k 1 ) 1 x ( k ) 分别为相应于1，2
k ( 1 0 ) 1v1
j 0 j vj j2 0 1
n k
j 0 1 0
达到最小值。
当i (i = 1, 2, …, n)为实数，且1>2 ≥…≥n时，取
取0（常数），用矩阵B = A - 0I 来代替A进行乘幂迭代。 设i (i = 1, 2, …, n)为矩阵B 的特征值，则B与A特征值之间 应有关系式：
i i 0
(i = 1, 2, …, n)
Bv i ( A 0 I ) v i Av i 0 v i ( i 0 ) v i
c ik c ki a ik co s a jk sin c jk c kj a jk co s a ik sin
其余元素不变
k i, j
c lk a lk
(l , k i , j )
c il c jl a il a jl
k
xi
1
2
收敛速度取决于 r
3 1
(k 1) 1 的程度。向量 x
1 x
(k )
、
x
(k 1)
1 x
(k )
分别为主特征值1、2相应的特征向量的近似值。
c）若 1 2 ，则连续迭代两次，计算出x(k+1)，x(k+2)， 然后对j = 1, 2, …, n 解方程
即与1, 2正交，将其单位化为
3 3 3
2
于是向量组1, 2, 3构成R3上一组标准正交基，且
1 [ 1 , 2 , 3 ] [ 1 , 2 , 3 ]
2
( 2 , 1 ) 2
2
( 3 , 1 ) ( 3 , 2 ) 3 2
( k 0 , 1, )
定理 设ARnn具有完全特征向量系，1, 2, …, n为A 的n个特征值，且满足
1 2 n
则对任初始向量x(0)，由规范化的乘幂法公式确定的 向量序列y(k)，x(k)满足 (1)
lim max( x
k (k )
) 1
（2）y(k)为相应于主特征值1的特征向量近似值
y a a ii jj x 2 a ij sig n ( a ii a jj )
则 当
2
tan 2
x y
4
时，有下面三角恒等式：
1 1 tan 2
2
2 co s 1 co s 2
y x y
2 2
于是
2 cos 1
C P AP
T
P是一个正交阵，我们称它是（i, j）平面上的旋转矩阵 PTAP只改变A的第i行、j行、i列、j列的元素； A和C的元素仅在第i行（列）和第j行（列）不同，
其中A与C的元素有下面的关系
2 2 c ii a ii co s a jj sin a ij sin 2 2 2 c jj a ii sin a jj co s a ij sin 2 1 c c a a sin 2 a co s 2 ji ii jj ij ij 2
2
2
2
QR
( n , 1 ) ( n , 2 ) ( n , 3 ) n 2
Q为正交阵，R 为上三角阵
将n个线性无关向量变换为n个两两正交向量的方法称为
斯密特正交化方法。
斯密特正交化过程将可逆阵A分解为正交阵与上三角阵的乘积。
* 0
1 2
( 2 n )
则为 (0) 的极小值点。这时
2 1
* 0 * 0
2 1
1 2 1 2
2 2
1 2 1 2
n n
2 n
21 2 n
2 1
若已知矩阵A的特征值i的一个近似值0 ，要求i和对 应的特征向量，可考虑利用原点移位加速的反幂法。 记B = A - 0I， 对任取初始向量x(0)Rn，
2
y x y
2 2
采用下面公式计算 sin
sin 2 2 sin co s tan 2 co s 2
x x y
2 2
3.3.2 Jacobi旋转法
由于一次正交相似变换A→C=PTAP可将A的两 个非对角元素化为零。因此可选一系列正交变 换矩阵Pk，对A进行正交相似变换，直至将Ａ化 为近似对角矩阵
A的绝对值最小的特征根
x
( k 1)
A
1
x
(k )
Ax
( k 1)
x
(k )
规范化反幂法公式为
y ( k ) x ( k ) max( x ( k ) ) (k 1) (k ) y Ax
( k 0 , 1, )
为节省工作量，可先对A进行LU分解，再解三角形方程
1
的程度，r 越小收敛越快，r 1收敛慢，
且x(k)（当k充分大时）为相应于1的特征向量的近似值。
（2）当 1 2 3 时 a）若1 = 2，则主特征值1及相应特征向量的求法同（1）； b）若1 = -2，对i = 1, 2, …, n
lim xi
(k 2) (k )