第二次作业参考答案_863802551

3
.. ..
. .
βn−1
高等数值分析
βi > 0, i = 1, 2, . . . , n − 1. 由特征值交错定理知 T 的特征根都是单根, 而 T 与 A 具有相同特征根, 因此 A 的特征根都是单根,矛盾. 反之, 若 Lanczos 过程中断, A 不一定具有重特征根. 例如: 对 A = diag(1, 2, 3), b = (1 0 0)T , x0 = (0 0 0)T 执行 Lanczos 过程, 则 r0 = b =
T T 解. 设 x∗ 是方程组 Ax = b 的精确解, ek = xk − x∗ , 令 Ek = (eT k ek−1 ) . 则
xk+1 = xk − αrk + β (xk − xk−1 ) 等价于 Ek+1 (1 + β )I + αA −βI Ek = I 0
BEk ,
那么原两步迭代法收敛等价于 ρ(B ) < 1, 即 | λi (B )| < 1, 1 ≤ i ≤ n. 令 (1 + β − λ)I + αA −βI I 则 |(1 + β − λ −
高等数值分析
−λI
=0
β )I + αA|(−λ)n = 0. λ
2
当 λ = 0 时, |(1 + β − λ −
β )I + αA| = 0. λ β + αµi = 0, λ
设 µ1 ≥ µ2 ≥ · · · ≥ µn > 0 是 A的特征根, 则 1+β−λ−
λ2 − (1 + β + αµi )λ + β = 0. | λ| < 1 ⇐⇒ | 1 + β + αµi | < 1 + β < 2 于是, ρ(B ) < 1 ⇐⇒ | 1 + β + αµi | < 1 + β < 2, 1 ≤ i ≤ n 2(1 + β ) ⇐⇒ |β | < 1, − < α < 0, 1 ≤ i ≤ n µi 2(1 + β ) ⇐⇒ |β | < 1, − < α < 0. µ1
2 λ1 1≤i≤n A
≤ max | p (λi )| xk−1 − x∗
1≤i≤n
A
时, max | p (λi )| < 1, 此时方法收敛.
另外, 当 1 − αλn = −(1 − αλ1 ) 时, 即α =
2 λ1 +λn
时, max | p (λi )| 取最小值
1≤i≤n
λ1 −λn , λ1 +λn
4. 取 A ∈ Rn×n 为一对称正定矩阵（如 Hilbert 矩阵）, 取 M = A3 , A5 和 Ab 做 预处理矩阵, 观察预处理结果. 其中 A3 , A5 分别为 A 的 3,5 条主对角线构 成的矩阵, Ab = diag(A11 , A22 , · · · , All ) , Aii 是 A 的主对角线上的子矩阵, n 阶 Hilbert 矩阵 Hn = [hij ], hij = 1/(i + j − 1). 5. 设 A 为一对称矩阵. 证明：若 A 有重特征值, Lanczos过程必然会出现中断. 反之是否成立？
方法收敛最快.此时
A.
xk − x∗
A
≤
λ1 − λn x k −1 − x ∗ λ1 + λn
3. 设 A 为一 n × n 对称正定矩阵, 可用 xk+1 = xk − αrk + β (xk − xk−1 ) 求解 Ax = b, 其中 x0 , x1 可取任意初始向量. 试分析这个迭代法当 α, β 取什 么值时收敛, 最佳的 α, β 如何取.
证明. 反证法. 否则 Lanczos 可以进行到第 n 步, 并且生成了正交矩阵 Q 和
对称三对角矩阵 T 使得 QT AQ = T 其中 α1 β1 β α . . . 1 1 .. .. T = . . .. . βn−1 αn
α ∈R
dϕ T T T (x) = (∇ϕ(xk + αpk ), pk ) = pT k A (A(xk + αpk ) − b) = pk A (αApk − rk ), dα 令
dϕ (x) dα
= 0, 得 αk = (Apk , rk ) (pk , pk ) = , (Apk , Apk ) (Apk , Apk )
2. 设 A 为一 n×n 对称正定矩阵, 如在求解 Ax = b 的最速下降法中取 αk = α 为 一固定常数. 试分析其收敛性.
高等数值分析 1
解.
xk − x∗
A
= xk−1 + αrk−1 − x∗
A
= p(A) (xk−1 − x∗ )
A
其中 p(t) = 1 − αt. 设 A 的特征根为: λ1 ≥ λ2 ≥ · · · ≥ λn > 0, 则 xk − x∗ 当0<α<
又
d2 ϕ d2 α
ቤተ መጻሕፍቲ ባይዱ
= (Apk , Apk ) > 0, 因 此 当 α = αk 时 ϕ(x) 取 最 小 值. 令 xk+1 =
α∈R
xk + αk pk , 则 ϕ(xk+1 ) = min ϕ(xk + αpk ). (Ax − b, Ax − b) 的最速下降法： 于是得极小化泛函 ϕ(x) = 1 2 (1) 选初始 x0 ∈ Rn , 计算初始残差 r0 = b − Ax0 , ε > 0 为停机准则； (2) 对 k = 0, 1, 2, . . .直到 rk < ε p k = AT r k ; (pk , pk ) αk = ; (Apk , Apk ) xk+1 = xk + αk pk ; rk+1 = rk − αk Apk .
第二次作业参考答案
1. 设 A ∈ Rn×n 非奇异, 求解 Ax = b 等价于极小化 Ax − b 这个泛函的的最速下降法.
2
. 试推导极小化
解. 求解 Ax = b ⇐⇒ 极小化 Ax − b ⇐⇒ 极小化泛函
1 ϕ(x) = (Ax − b, Ax − b). 2 若已有一近似解 xk , 希望从 xk 出发, 构造一个更好的近似解 xk+1 , 即希 望从 xk 出发尽可能快地下降. 最速下降方向为 −∇ϕ(xk ) = −AT (Axk − b) = AT rk . 令 pk = AT rk , x = xk + αpk , 需寻找 αk 使得 ϕ(xk + αk pk ) = min ϕ(xk + αpk ).
T (1 0 0)T , q1 = r0 , α1 = q1 Aq1 = 1, β1 = Aq1 − α1 q1 = 0, 过程中断, 但 A 无
重特征根.
4