关于线性方程组的迭代法求解

关于线性方程组的迭代法求解

摘要线性方程组的数值求解常见于许多科学与工程计算领域。介绍了求解大型线性方程组的主要迭代算法，对一些经典迭代法（Jacobi 法、Gauss Seidel

法、SOR法、SSOR法和CG法等）进行了详细的讨论，并从理论上对收敛性进行分析。

关键词迭代法线性方程组共轭梯度法

Iterative Methods for Solving the Linear Systems

Zhu Jun

(Department of Mathematics Chaohu Colledge, Anhui Chaohu)

[Abstract] Numerical methods for linear systems are very important in many areas.Several iterative methods for solving the large linear systems are presented. Same classical iterative methods such as Jacobi,Gauss-Seidel, SOR,SSOR,and CG iterative method are discussed from the iterative formulas and convergence.

[key words] iterative methods linear systems conjugate gradien talgorithm

在科学研究和大型工程设计中出现了越来越多的数学问题，而这些问题往往需要求数值解。在进行数值求解时，经离散后，常常归纳

为求解形如Ax b

=的大型线性方程组。20世纪50年代至70年代，由于电子计算机的发展，人们开始考虑和研究在计算机上用迭代法求线性方程组Ax b

=的近似解，用某中极限过程去逐渐逼近精确解，并发展了许多非常有效的迭代方法，迭代法具有需要计算机存储单元少、程序设计简单、原始系数矩阵在计算过程中始终不变等优点。例如Jacobi 法、Gauss Seidel

-法、SOR法、SSOR法，这几种迭代法是最常见的一阶线性定常迭代法。

大量偏微分方程的离散形式是大规模线性代数方程组。其数值计算是科学工程计算的核心，占有绝大部分的总体运算时间，解大规模稀疏线性方程组的krylov子空间方法显示出与众不同的有效性。当矩阵是对称正定时，常用的方法是具有短递推的共轭梯度法（CG）。系数矩阵不对称时，常用的方法中有完全正交法（FOM）和广义最小残量方法（GMRES）。

还有很多迭代法正在被人们发现和研究，新的有效的方法层出不穷，其中基于大型稀疏非Hermitian的正定阵的系数矩阵的Hermitian和-分裂的HSS方法，HSS方法等具有非常好的实用性。Skew Hermitian

但是没有一种算法是通用的，对于具体问题必须根据所得到的线性方程组和算法的特点进行选择。

一．经典迭代法概述

20实际50年代至70年代，人们开始考虑和研究用迭代法求解线性方程组

=（1）Ax b

的近似解，发展了许多有效的方法，其中有Jacobi 法、

Gauss Seidel -法、SOR 法、SSOR 法，这几种迭代法均属一阶线性定常迭代法，即若系数矩阵A 的一个分裂:A M N =-;M 为可逆矩阵,线性方程组（1）化为

11()M N X b

MX NX b

X M NX M b ---=⇒=+⇒=+

得到迭代法的一般公式

(1)()k k X HX d +=+ （2） 其中：1H M N -=,1d M b -=.

对任意初始向量(0)X 一阶定常迭代法收敛的充分必要条件是：迭代矩阵H 的谱半径小于1，即()1H ρ<，又因为对于任何矩阵范数恒有()H H ρ≤，故又可得到收敛的一个充分条件：1H <。

1 Jacobi 迭代法

若D 为A 的对角素构成的对角矩阵,且对角线元素全不为零,系数矩阵A 的一个分解：A=D －(L+U)；这里D 为A 的对角素构成的对角矩阵，L 为严格下三角阵，U 为严格上三角矩阵。

于是Jacobi 迭代法公式的矩阵形式为

定理1.1 若（某种向量范数导出的矩阵范数），则解Ax=b 的Jacobi 迭代法收敛。

定理1.2 设A 为严格对角占优或不可约弱对角占优矩阵，则解Ax=b 的Jacobi 迭代法收敛

2 Gauss －Seidel 迭代法

对于非奇异方程组，若D为A的对角素构成的对角矩阵，且对角线元素全不为零；系数矩阵A的一个分解

定理2.1 Gauss－Seidel法收敛的充要条件是其迭代矩阵的谱半径

定理2.2 若（某种向量范数导出的矩阵范数），则解Ax=b的Gauss-Seidel迭代法收敛。

3 SOR(successive over relaxation)迭代法

对于非奇异方程组,若D为A的对角素构成的对角矩阵,且对对角线元素全不为零,系数矩阵A的一个分解

这里D为A的对角素构成的对角矩阵,L为严格下三角阵,U为严格上三角阵。

SOR迭代法的矩阵形式为

定理3.1 对任意的A，设其对角元皆为零，则对所有实数，有推论如果解Ax=b的SOR方法收敛，则有

定理3.2 设A，A对称正定，且，则解Ax=b的SOR法收敛。

定理3.3 设A，A为对称阵，且对角元，若Ax=b的SOR方法收敛，则A正定，且

4 SSOR迭代法

SSOR（synmertric successive over relaxation）迭代法的矩阵形式为

三种迭代法的比较：

（1）一般情况下，J法与G－S法比较并无优劣，收敛情况与速