大型复线性方程组预处理双共轭梯度法

稳定双共轭梯度法

稳定双共轭梯度法
稳定双共轭梯度法（Stabilized BiConjugate Gradient Method，简称SBiCG）是一种解决线性方程组问题的迭代法。

在数值计算中，解决大规模线性方程组的问题是非常常见和重要的，因此研究和发展解决线性方程组的迭代算法也是很有必要的。

SBiCG方法是对传统的双共轭梯度法（BiCG）的改进，主要是为了提高算法的稳定性和收敛性。

在BiCG方法中，由于两个反向方向的向量可能相互“干扰”，导致算法出现振荡现象，从而导致算法不能收敛。

而SBiCG方法通过增加一个平滑因子，将两个反向方向的向量“平滑”起来，从而达到提高算法稳定性和收敛性的目的。

SBiCG算法与BiCG算法在并行计算上没有太大差别，但是在迭代次数和算法收敛速度上，SBiCG方法明显优于BiCG方法。

因为SBiCG方法加入了平滑因子的概念，使得算法的稳定性和收敛性有了很大提高。

在实际应用中，SBiCG方法已经广泛应用于矩阵计算、图像处理、有限元分析等领域中。

最后，需要指出的是，SBiCG方法虽然较BiCG方法在稳定性和收敛性方面更加优秀，但是其计算量较大，需要较高的内存和计算资源。

同时，在实际应用中，也需要根据不同的问题特点和计算资源来选择适合的迭代方法。

预处理共轭梯度法

预处理共轭梯度法引言预处理共轭梯度法是一种用于解决线性方程组问题的迭代方法。

它在处理大规模稀疏方程组时表现出色，相比于传统的直接解法更具有高效性和稳定性。

本文将对预处理共轭梯度法进行全面、详细、完整且深入地探讨。

什么是共轭梯度法共轭梯度法是一种迭代优化方法，用于求解对称和正定的线性方程组Ax=b。

它的基本思想是通过找到一组相互”共轭”的搜索方向来加速迭代过程。

预处理共轭梯度法的介绍预处理共轭梯度法是对共轭梯度法的改进和优化。

它通过在每一步迭代中应用预处理矩阵M来加速收敛过程。

预处理矩阵通常是原方程系数矩阵A的逆或近似逆。

预处理共轭梯度法的核心算法可以分为以下几个步骤：步骤1：初始化•设定初始解x0和残差r0=b-Ax0。

•计算初步搜索方向d0=M*r0。

步骤2：迭代计算•对于第k次迭代：–计算步长αk。

–更新解：xk+1 = xk + αk * dk。

–计算新的残差：rk+1 = rk - αk * Adk。

–计算新的搜索方向：dk+1 = Mk+1 * rk+1。

步骤3：收敛判断•判断残差rk+1的范数是否满足收敛条件，若满足则终止迭代。

预处理矩阵的选择预处理矩阵的选择是预处理共轭梯度法的关键。

常见的预处理矩阵选择方法有以下几种：1. 不完全因式分解预处理不完全因式分解预处理是通过对系数矩阵的若干个元素进行保留或丢弃，得到一个近似逆矩阵。

常见的不完全因式分解预处理方法有不完全LU分解、不完全Cholesky分解等。

2. 迭代求解预处理迭代求解预处理方法是通过迭代方法求解预处理矩阵的逆。

常见的迭代求解预处理方法有Jacobi预处理、Gauss-Seidel预处理等。

3. 基于特征值的预处理基于特征值的预处理方法是通过对系数矩阵的特征值进行分析，选择适当的预处理矩阵。

常见的基于特征值的预处理方法有谱条件预处理、谱平滑预处理等。

预处理共轭梯度法的收敛性和稳定性预处理共轭梯度法相比于传统的共轭梯度法在收敛速度和稳定性方面有显著的改进。

.预处理共轭梯度法

.预处理共轭梯度法
预处理共轭梯度法是一种用于求解大规模线性方程组的迭代方法。

它结合了共轭梯度法和预处理技术，能够加快求解速度并提高收敛性能。

预处理共轭梯度法的基本步骤如下：
1. 选择一个合适的预处理矩阵M，将原始的线性方程组Ax=b 转化为M^{-1}Ax=M^{-1}b。

2. 初始化向量x_0和残差向量r_0=b-Ax_0，其中x_0是任意一个近似解，通常选择零向量。

3. 初始化搜索方向向量p_0=r_0，计算预处理残差向量
z_0=M^{-1}r_0。

4. 对于k=0,1,2,...,直到满足停止准则为止，执行以下步骤：
a. 计算搜索方向向量p_k。

b. 计算步长\alpha_k。

c. 更新近似解向量x_{k+1}=x_k+\alpha_k p_k。

d. 更新残差向量r_{k+1}=r_k-\alpha_k Ap_k。

e. 计算预处理残差向量z_{k+1}=M^{-1}r_{k+1}。

f. 计算搜索方向向量p_{k+1}=z_{k+1}+\beta_{k+1}p_k，其中\beta_{k+1}由Fletcher-Reeves公式计算。

5. 输出近似解向量x_k作为原始线性方程组的解。

预处理矩阵M的选择是预处理共轭梯度法的关键之一，不同的预处理矩阵会对求解速度和收敛性能产生不同的影响。

常用的预处理矩阵有Jacobi预处理、Gauss-Seidel预处理、不完全Cholesky分解预处理等。

预处理共轭梯度法具有很好的数值稳定性和收敛性能，尤其适用于求解大规模稀疏线性方程组。

解线性方程组的共轭梯度法

１＋：，ＸＹ∈ ＝０］［１ｆ “ ０（） “ ，［１０］，ｘ，；
ａｌ０ｕａ：
求解，验证了共轭梯度法的强收敛性，并给出了数值结果。
【）
，，、
１方程的离散
“ ），）＝“ Ｕ，／，）（＋一ｕ＋），）／（ｉ（ｈｕ— ｉｊｈ（＝甜】２ “ ，（＝Ｍ）ｆ，／（．ｌ２¨＋一／ …；其次，网格剖分空间区域＝０１［１，令ｈ “ｊ一ｕ “ １＋）［］Ｏ】，ｘ，为步长，＝ｈｊ，ｉ，Ｙ＝ｈ
第２８卷第４期
Ｖｌ１８０．２ＮＯ．４
新乡学院学报：自然科学版
Ｊｕｎｌｆｎｉｎｉｅｓｔ：ｔｒｌｃｅｃｄｔｎｏｒａｘａｇＵｎｖｒｉＮａｕａｉｎｅＥｉｏｏＸｉｙＳｉ
２１年８月０ｌ
…
口
Ｉ１２Ｉ
， ●
．
２
＝
ｈ：
：
１ — … ４
。．
ｌ
Ｉ
１ｌｌ
Ｉ
口．．．口口 …
，．
：
：＿＾１
０ … １—Ｊ４
方程组阶数为（～）。此方程组的系数矩阵为一大型稀疏矩阵，且为弱对角占优对称正定矩阵。假设方程 Ⅳ １组是阶的，则由ＣＧ、ＣＲ方法可知，最多迭代次就可求出方程组的精确解。Ｃ方法求解需要的迭代Ｇ次数见表１其中取初始值（＝１，。．）０，且当｝（ｆ｝ｆＩＪ， ’２ｂ—Ａ（ｆ０＝ｘｊ ’２＜ｌ时，迭代终止。由表１可见，随着方程组阶数的不断增加，ＣＧ方法需要的迭代次数也在不断增加，从而计算时问也在不断延长。对于ＣＧ方法而言，无论迭代次数还是计算时间都具有很强的优势，在求解过程中，ＣＧ方法具有很高的计算效率。

双共轭梯度法

双共轭梯度法
双共轭梯度法是一种用来加快求解最优解的迭代算法。

它被广泛应用于许多优化问题中，包括定义线性系统，特别是大型稀疏矩阵系统。

该算法最初源自于梯度下降法，但其迭代过程更快，因此有时也被称为快速梯度下降法。

双共轭梯度法实质上是一个二阶泰勒级数展开，它比一般的梯度下降法更有效，因为它不仅考虑当前梯度，而且还考虑前迭代的梯度，从而更有效的搜索最优点。

双共轭梯度法的迭代过程如下：首先，计算目标函数的梯度，然后根据当前的梯度和上一步的梯度来更新搜索的方向，然后沿着这个方向搜索，即求解此时此刻最大步长所对应的点，直到达到最优点或者达到限定的最大迭代次数。

共轭梯度法

9
10
11
12
13
14
由定理5.18，CG法最多迭代n次得到精确解
一方面，因舍入误差，n次迭代不一定得到精确解另一方面，对大型方程组，n次迭代的工作量仍太大实际上，通过比较当前残量rk的范数和初始残量r0的范数，来判断是否终止迭代
15
16
int main(){ double A[2][2]={{6,3}, {3,2}}; double b[2]={0,-1}, x[2]={0,0}, r[2], r_p[2], p[2], Ap[2]; double alpha, beta; int i,j,k; for(i=0; i<2; i++) p[i] = r[i] = b[i] - (A[i][0]*x[0] + A[i][1]*x[1]); for(k=1; k<=2; k++){ for(i=0; i<2; i++) Ap[i] = A[i][0]*p[0] + A[i][1]*p[1]; alpha = (r[0]*r[0] + r[1]*r[1]) / (Ap[0]*p[0] + Ap[1]*p[1]); for(i=0; i<2; i++) x[i] = x[i] + alpha*p[i]; for(i=0; i<2; i++){ r_p[i] = r[i]; r[i] = b[i] - (A[i][0]*x[0] + A[i][1]*x[1]); } beta = (r[0]*r[0] + r[1]*r[1]) / (r_p[0]*r_p[0] + r_p[1]*r_p[1]); for(i=0; i<2; i++) p[i] = r[i] + beta*p[i]; printf("k=%2d, ", k); for(i=0; i<2; i++) printf("x%d=%6.2f, ", i, x[i]); printf("\n"); } }

共轭梯度法原理

共轭梯度法原理共轭梯度法是线性代数中一种求解稀疏矩阵下的大规模线性方程组的方法。

它的优点是它具有迭代次数小的特点，同时也能得到比较准确的解。

共轭梯度法基于梯度下降法，但是避免了梯度下降法的缺点。

梯度下降法每一次迭代都需计算整个向量的梯度，这在高纬度数据中非常复杂，同时使用步长较大时又容易产生来回震荡的现象。

共轭梯度法的优点是在每一次迭代都会寻找一个与上次方向不同的方向，这点可以消除梯度下降法的缺陷。

令A为若干个线性矩阵的乘积，如果我们要解矩阵方程Ax=b，其中b是已知向量，求解的x向量是未知向量。

首先，我们可以用梯度下降法求出一个初值向量x0，称之为迭代初始值。

然后，我们可以利用高斯打乘法和高斯消元得到向量P，并设向量R0=Ax0-b，然后再设P逆矩阵为Pt。

共轭梯度法迭代的主要步骤如下：1. 根据目标函数和梯度函数确定初值x0；2. 初始化残差向量r0=b-Ax0，并设置迭代数k=0；3. 设置搜索方向向量p0=r0；4. 使用一维搜索方法（如Armijo步长准则）寻找最优步长αk；5. 将搜索方向向量移动到新的位置：xk+1=xk+αkp，计算新的残差rk+1=rk+αkAp；6. 如果rk+1=0或者迭代次数已达到设定值，则停止迭代；否则：7. 确定下一个搜索方向pk+1，并重复步骤4-6直到满足收敛条件。

共轭梯度法迭代的优点是每一步都在原解空间的一个线性子空间中求解，因此不需要保存全部解向量，从而大大减少了计算量和存储空间，特别适用于高纬度的线性方程组的求解。

在参数优化、图像处理和物理模拟等领域中广泛应用。

在参数优化中，共轭梯度法可以加速大规模函数的梯度计算，从而加快参数搜索的速度；在图像处理中，共轭梯度法常用于求解稀疏线性系统，例如图像压缩、图像去噪和图像恢复等；在物理模拟中，共轭梯度法可以用于求解偏微分方程组、流体力学问题和计算机视觉等领域。

双共轭梯度法预处理

双共轭梯度法预处理引言：在数值计算中，求解线性方程组是一项基本任务。

而对于大规模的稀疏矩阵，传统的直接法往往会面临存储和计算量极大的挑战。

因此，研究高效的迭代方法成为了求解线性方程组的重要课题之一。

双共轭梯度法预处理就是其中一种被广泛应用的方法。

1. 双共轭梯度法简介双共轭梯度法（Bi-Conjugate Gradient, BiCG）是一种迭代求解线性方程组的方法。

它是对共轭梯度法的扩展，适用于非对称且不正定的线性方程组。

与共轭梯度法类似，双共轭梯度法通过迭代逼近线性方程组的解。

该方法的收敛速度比传统的迭代方法更快。

2. 双共轭梯度法预处理的概念双共轭梯度法预处理是在双共轭梯度法的基础上引入预处理操作，以提高求解线性方程组的效率。

预处理是在求解过程中对矩阵进行变换，使得变换后的矩阵更易于求解。

预处理的目的是减小矩阵的条件数，从而加快求解的速度。

3. 双共轭梯度法预处理的原理双共轭梯度法预处理的基本原理是通过左右预处理矩阵的共轭来加速收敛过程。

左预处理通过将方程组左乘一个预处理矩阵，将原方程组转化为一个条件数较小的方程组。

右预处理则是通过将方程组右乘一个预处理矩阵，同样可以减小方程组的条件数。

左右预处理结合使用可以更好地加速收敛过程。

4. 双共轭梯度法预处理的步骤双共轭梯度法预处理的步骤如下：（1）选择一个合适的预处理矩阵，可以根据问题的特点和需求进行选择。

（2）进行左预处理，将原方程组左乘预处理矩阵，得到一个新的方程组。

（3）进行右预处理，将新方程组右乘预处理矩阵，得到一个进一步减小条件数的方程组。

（4）使用双共轭梯度法求解新的方程组，得到近似解。

（5）通过迭代，逐步逼近线性方程组的解。

5. 双共轭梯度法预处理的应用双共轭梯度法预处理在科学计算领域有着广泛的应用。

它可以用于求解各种类型的线性方程组，如流体力学模拟中的稀疏矩阵求解、图像处理中的图像恢复等。

通过选择合适的预处理矩阵，可以大大提高求解效率。

计算方法——共轭梯度法求解线性方程组

x( k 1) x( k ) k d ( k )
(2)
(k)
共轭梯度法中关键的两点是迭代格式(2)中最佳步长k 和搜索方向 d
(k) (k)
的确定。其
中k 可以通过一元函数f(x +d )的极小化来求得，其表达式为公式(3)；取 d (0) = r(0) = b-Ax(0)，则 d(k+1) = r(k+1) +kd(k)，要求 d(k+1)满足 (d(k+1) , Ad(k)) = 0，可得k 的表达式(4)。
计算方法上机报告
计算方法上机报告
1 共轭梯度法求解线性方程组
1.1 算法原理及程序框图当线性方程组 Ax = b 的系数矩阵 A 是对称正定矩阵是，可以采用共轭梯度法对该方程组进行求解，可以证明，式(1)所示的 n 元二次函数 1 f ( x ) x T Ax bT x (1) 2 取得极小值点 x*是方程 Ax = b 的解。共轭梯度法是把求解线性方程组的问题转化为求解一个与之等价的二次函数极小化的问题。从任意给定的初始点出发，沿一组关于矩阵 A 的共轭方向进行线性搜索，在无舍入误差的假定下，最多迭代 n 次（其中 n 为矩阵 A 的阶数），就可求得二次函数的极小点，也就求得线性方程组 Ax = b 的解。其迭代格式为公式(2)。
4
1 1
1 0 ，b 2 1 0 1 1 2
计算方法上机报告
矩阵 A 的阶数取 200 进行求解。由于该线性方程组的系数矩阵阶数比较大，而且具有一定的规律，因此首先用 matlab 编程将系数矩阵、右端项以及阶数保存在 D 盘根目录的三个文件中（生成系数矩阵，右端项以及阶数的程序见附录 2），然后运行共轭梯度法程序进行方程组的求解。最终的运行结果为图 4 和图 5。程序运行之后 D 盘根目录下生成的文件如图 6 所示。

共轭梯度法和梯度下降法

共轭梯度法和梯度下降法共轭梯度法和梯度下降法是两种常用的优化算法，它们在解决最小化目标函数的问题上具有重要作用。

本文将介绍这两种算法的原理、应用场景以及优缺点。

一、共轭梯度法共轭梯度法是一种迭代优化算法，用于求解线性方程组或非线性优化问题。

它的核心思想是通过迭代的方式寻找下降最快的搜索方向，并在每一次迭代中保证搜索方向互相正交，从而有效地加速优化过程。

共轭梯度法的优势在于对于大规模线性方程组或非线性优化问题，可以在有限的迭代次数内找到精确解。

这是由于它能够利用问题的特殊结构，充分利用历史信息，避免了重复计算。

因此，共轭梯度法在图像处理、机器学习、信号处理等领域得到广泛应用。

二、梯度下降法梯度下降法是一种基于负梯度方向进行搜索的优化算法。

它的核心思想是通过迭代的方式沿着目标函数梯度的反方向更新参数，从而逐步逼近最优解。

梯度下降法的优势在于简单易懂、易于实现，并且在许多优化问题中都能取得不错的效果。

它的应用范围非常广泛，包括线性回归、逻辑回归、神经网络等机器学习算法中的参数优化，以及函数逼近、图像处理等领域。

三、共轭梯度法与梯度下降法的区别和联系共轭梯度法和梯度下降法都是迭代优化算法，但它们之间存在一些重要的区别和联系。

1. 方向选择：共轭梯度法在每一次迭代中选择的搜索方向是互相正交的，这使得每一步的搜索方向都是全局最优的。

而梯度下降法只利用了当前位置的梯度信息，选择的搜索方向是当前位置的负梯度方向。

2. 收敛速度：共轭梯度法通常比梯度下降法收敛速度更快。

这是因为共轭梯度法充分利用了历史信息，避免了重复计算，从而加速了优化过程。

而梯度下降法通常需要更多的迭代次数才能达到相同的精度。

3. 适用场景：共轭梯度法适用于解决大规模线性方程组或非线性优化问题，特别是对于稀疏矩阵或具有特殊结构的问题效果更好。

而梯度下降法适用于一般的优化问题，特别是凸优化问题。

4. 存储需求：共轭梯度法只需要保存少量历史信息，因此在内存有限的情况下能够处理较大规模的问题。

复线性方程组的预处理MCG算法

复线性方程组的预处理MCG算法张迎春;吕全义;肖曼玉【摘要】复线性方程组在科学与工程计算的诸多领域中有着重要的应用价值,如何高效的求解复线性方程组,一直是人们所关心的问题.目前对于复线性方程组,常用的处理方式有以下两种:一种是直接对方程组迭代求解,另外一种是将其转化为实线性方程组后进行求解.本文主要从两种处理方式讨论了共轭梯度法(CG法),并理论上证明了两种处理方式下的CG法具有相同的收敛性.之后基于变形共轭梯度法(MCG 法)收敛速度的本质与CG法类似,只需将MCG法推广到复线性方程组进行研究,并且为了提高MCG法的收敛速度,提出了一种预处理MCG法.最后,通过数值算例验证了算法与理论分析的一致性,以及预处理算法的有效性.%Complex linear equations have a wide application in science and engineering, and an important issue is how to solve it with high efficiency. Until now, complex linear equations are usually solved by either iteration methods or the solution of the real equations transformed from the original equations. Conjugate gradient method (CG method) is discussed from two different viewpoints, and it is proved theoretically that these two kinds of CG methods have the same convergence. Because the convergence speed of the modified conjugate gradient method (MCG method) and conjugate gradient method are essentially similar, MCG method is extended to solve complex linear equations. Besides, a preconditioned MCG method is proposed in order to improve the convergence speed. Finally, the consistency of algorithms and theoretical analysis and effectiveness of the proposed precondition algorithm are validated by numerical examples.【期刊名称】《工程数学学报》【年(卷),期】2018(035)003【总页数】11页(P308-318)【关键词】复线性方程组;变形共轭梯度法(MCG法);预处理方法;收敛性【作者】张迎春;吕全义;肖曼玉【作者单位】西北工业大学应用数学系,西安 710072;西北工业大学应用数学系,西安 710072;西北工业大学应用数学系,西安 710072【正文语种】中文【中图分类】O241.61 引言在科学计算和工程应用等诸多领域中，会产生大量的复线性方程组求解问题，包括时薛定谔方程[1]、Helmholtz方程[2]、声散射问题[3]等．因此，对于复线性方程组的求解就吸引了越来越多研究者的关注．在文献[4,5]中，讨论了系数矩阵为一般复矩阵的情况下，将CG法推广，采用复双共轭梯度法直接求解复线性方程组，并从理论上证明了该算法在复数域上是收敛的，该算法克服了CG法只能求解对称正定的情况，但是在求解系数矩阵为对称正定的情况下，复双共轭梯度法的收敛性却不如通常的CG法好．另外，对于复对称线性方程组，目前研究比较热门的一种算法是HSS迭代算法[6]，如在文献[7–9]中，借助复系数方程组的实系数形式，采用HSS迭代算法求解复对称线性方程组，但是在每步迭代的过程中涉及到求解对称复线性方程组．为了避免这种操作，之后人们又对HSS算法进行了改进，得到了求解复对称方程组的MHSS迭代算法，虽然收敛速度加快，但是这类方法如何选取最优收敛参数却比较困难．本文探讨复线性方程组的求解问题，我们首先讨论转化为两种形式求解的关系，形式一是直接从复线性方程组入手进行求解；形式二是将复线性方程组的系数矩阵实部与虚部分离进行重组，转换为实线性方程组进行求解．另外，在求解的过程中，分别讨论了当系数矩阵为Hermite正定矩阵时，采用CG法，当系数矩阵为非Hermite正定矩阵时，采用MCG法，并在此基础上进行预处理．文中欧氏空间Rn上的内积定义：[x,y]=xTy，其中x,y∈Rn，酉空间Cn上的内积定义：[x,y]=xHy，其中x,y∈Cn，σ(A)表示A的特征值集合，表示A的共轭矩阵，∥x∥2表示向量x的2-范数．2 Hermite正定线性方程组的CG算法考虑复线性方程组其中A∈Cn×n,x∈Cn,b∈Cn，且A为n阶Hermite正定矩阵．形式一为(1)式．形式二：对复线性方程组(1)进行实部与虚部分离，可得其中A1,x1,b1分别表示A,x,b的实部，A2,x2,b2分别表示A,x,b的虚部，且2.1 Hermite正定线性方程组的CG算法首先，我们给出形式一中复线性方程组(1)的复CG算法[4](记为CCG法)：第1步：任意给定初始向量x0∈Cn，置k:=0，计算第2步：若rk=0，计算停止；否则，计算第3步：计算第4步：置k:=k+1，转第2步．其次，我们再给出形式二中线性方程组(2)的CG法[10]：第1步：任意给定初始向量∈R2n，置k:=0，计算第2步：若rk=0，计算停止；否则，计算第3步：计算第4步：置k:=k+1，转第2步．2.2 两种算法的收敛性分析由于A为n阶Hermite正定矩阵，则有如下性质：性质1[11]A为n阶Hermite正定矩阵，则A的特征值均为实数．性质2 A为n阶Hermite正定矩阵，则：1)为n阶Hermite正定矩阵；2) 为n阶对称正定矩阵．证明 1) 由于为n阶Hermite矩阵．又由性质1知，A的特征值均为正实数，则A的特征值也为正实数，故为n阶Hermite正定矩阵．2) 因为故可得即为2n阶对称矩阵．令可得则可知矩阵C与矩阵相似．又由于A和均为正定矩阵，故为正定矩阵．综上所述，为2n阶对称正定矩阵．证毕与建立实系数线性方程组中的CG法的收敛性定理[10]类似，对于CCG法，我们也有相应的结论．定理1 设A为n阶Hermite正定矩阵，则由CCG法中得到的向量序列{rk}和{zk}满足定理2 设线性方程组(1)相容，则对于任意的初始向量x0∈Cn，CCG法最多经过n次迭代求得线性方程(1)的精确解．定理3[12] 共轭梯度法产生的近似解xk满足其中x∗为方程组(2)的精确解，Ck是k阶Chebyshev多项式，且满足因为定理3中不等式右端项满足由此可知系数矩阵的条件数κ越小，CG法收敛就越快，即CG法的收敛性与系数矩阵的谱分布有关．如果系数矩阵的谱均匀地分布在一个很长的区间上，则CG法收敛很慢，如果其谱除少数几个零散的特征值外，其余大部分凝聚在少数几个点附近，则CG法收敛非常快[12]．这表明CG法的收敛速度快慢与特征值的集中度相关，类似地，由于CG法与CCG法从算法本质上来说是相同的算法，故CCG法的收敛速度的快慢也同样由系数矩阵的特征值集中度决定．当然，对于形式二，即方程(2)，采用CG算法，最多经过2n次迭代求得线性方程(1)的精确解．而这并不能真正了解它们的收敛速度的关系．下面讨论方程(1)与(2)的系数矩阵的特征值的关系．定理4 设A为2n阶Hermite正定矩阵，A的特征值集合为σ(A)={λi|λi>0,1≤i≤n}⊂R，则矩阵的全部特征值的集合为σ()=σ(A)∪σ(A)．证明设由性质2的证明可知，故的全部特征值集合为σ(=σ(A)∪σ(A)．证毕由定理4知，CG法的特征值分布与CCG法的特征值分布相同，故两种算法具有相同的收敛速度．对于复线性方程组(1)的求解，由定理2可知，CCG法最多经过n次迭代即可求得线性方程的精确解，可见用CG法求解方程(2)也最多经过n次迭代就可求得方程的精确解．此外，分析CCG法与CG法在每步迭代过程中的计算量，可以发现在两个算法中，其计算量关键在于内积的运算和矩阵与向量相乘的运算，因此，我们可以通过分析两个算法的步骤2来说明这一问题．对于CCG法，计算αk所需的乘法运算量为4n2+4n，加法运算量为4n2+2n−3，而对于CG法，计算αk所需的乘法运算量为4n2+4n，加法运算量为4n2+2n−2，类似地，可以计算出其他步骤的运算量，最后通过理论上分析，发现CCG法与CG法的运算量几乎相等，即两个算法每步具有相同的运算复杂度．2.3 数值算例对于复线性方程组(1)，分别采用CG法、CCG法进行对比分析，检验是否与理论分析一致．算例中，初始向量x0=0,rk=b−Axk，其中xk表示第k步的迭代向量，rk表示第k步的迭代误差，终止条件为满足∥rk∥2/∥r0∥2≤ 10−6．误差用r表示，迭代次数用k表示，时间用t表示，其中r= ∥rk∥2/∥r0∥2．算例使用Matlab R2010a(7.10)软件，CPU2.40GHz微机计算．例1 对于复线性方程组(1)，A为n阶随机Hermite正定矩阵，b为n维随机复列向量，其中A和b的元素均按均匀分布选取．两种算法的误差、迭代次数和时间的结果对比见表1．表1: 例1的计算结果n=1000 n=2000 n=3000 CCG法CG法CCG法CG法CCG法CG法9.02e−7 k r 8.26e−7 8.26e−7 8.91e−7 8.91e−7 9.02e−7 224 t 153 153 211 211 224 0.96 0.97 4.85 5.09 11.96 13.10从表1的数据可以看出，CG算法与CCG算法的迭代次数相同，这与理论分析是一致的．而所用时间几乎一样，故可以发现CG算法与CCG算法每步有相同的运算复杂度．故两种方式的计算效果是相同的．3 复线性方程组的MCG算法对于复线性方程组(1)，考虑A为n阶非Hermite正定矩阵的情况．由于MCG算法的收敛速度本质上与CG法类似，由上面的讨论可知，我们只需采用形式一研究MCG算法的效果即可．3.1 复线性方程组的MCG算法将文献[10]中的MCG算法推广到求解复线性方程组(1)，我们得到如下的复MCG 算法(记为CMCG算法)：第1步：任意给定初始向量x0∈Cn，置k:=0，计算第2步：若rk=0，或者r k̸=0而zk=0，计算停止；否则，计算第3步：计算第4步：置k:=k+1，转第2步．3.2 MCG算法的预处理算法采用与实线性方程组加速求解的类似方法，对复线性方程组(1)进行预处理，通过构造预处理条件子M−1，使其近似等于系数矩阵A的逆矩阵，而后在复线性方程组(1)的两边同乘以预处理矩阵，即M−1Ax=M−1b．通过这种预处理技术，使得系数矩阵的奇异值分布更集中，从而加快CMCG算法的收敛速度．在这里，取M−1为其中如下给出复线性方程组(1)的预处理复MCG算法(记为PCMCG算法)：第1步：任意给定初始向量x0∈Cn，置k:=0，计算第2步：若rk=0，或者r k̸=0而zk=0，计算停止；否则，计算第3步：计算第4步：置k:=k+1，转第2步．从PCMCG算法的迭代过程可以看出，它要比CMCG算法多求解两个复线性方程组=rk与MHpk=，下面给出这两个复线性方程组求解的迭代格式．首先，给出求解Merk=rk的迭代格式：类似地，求解MHpk=的迭代格式为：3.3 收敛性分析与文献[10]中对求解实线性方程组的MCG算法的收敛性证明类似，我们同样有下面的结论：定理5 设A∈Cn×n，则由CMCG算法中得到的向量序列{rk}和{zk}满足定理6 设线性方程组(1)相容，则对于任意的初始向量x0∈Cn，CMCG算法最多经过n次迭代求得线性方程组(1)的精确解．对于PCMCG算法中所涉及的迭代次数q，在一定的范围内，系数矩阵特征值的密集程度会随着q的增大而更集中，从而加快CMCG算法的收敛速度．下面通过数值算例来说明PCMCG算法将如何改善CMCG算法的计算结果．3.4 数值算例对于复线性方程组(1)，分别采用CMCG算法、PCMCG算法、MHSS算法[7]进行对比分析．例2、例3中的初始向量、终止准则的选取以及符号的表示与例1保持一致，a表示MHSS算法[7]中的最优收敛参数．算例使用MatlabR2010a(7.10)软件，CPU 2.40GHz微机计算．例2[7] 考虑复线性方程组该问题来源于抛物方程[13]在单位正方形区域[0,1]×[0,1]上以空间步长上R22-Padé近似的中心差分离散，R22-Padé近似满足算子方程对该算子方程分解可得到如下形式的两个方程可以看出复线性方程组(3)即为离散形式的算子方程(6)．对于复线性方程组(3)，其中τ表示时间步长，且τ=h，L可以用张量积的形式表示为L=I⊗Vm+Vm⊗I,m=右端项b的定义如下另外，我们在系数矩阵的左右两侧同乘以h2进行规范化．三种算法的误差、迭代次数和时间的结果对比见表2和表3．表2:例2的计算结果(n=210,a=0.75)算法r k t 2.41 MHSS算法[7]CMCG算法9.67e−7 370 1.84 PCMCG算法q=1 9.61e−7 54 4.03 PCMCG算法q=29.49e−7 370 1.86 PCMCG算法q=4 7.77e−7 98 8.77e−7 51 1.77表3:例2的计算结果(n=212,a=0.54)算法r k t 93.45 MHSS算法[7]CMCG算法9.78e−7 906 100.88 PCMCG算法q=1 9.41e−7 73 160.10 PCMCG算法q=2 9.68e−7 906 66.63 PCMCG算法q=4 9.64e−7 228 8.88e−7 115 53.12例3[7] 考虑复线性方程组其中M和L分别是惯性矩阵和刚度矩阵，CV和CH分别是黏性矩阵和滞后阻尼矩阵，ω是角频率，µ是阻尼系数，取M=I,CV=10I,CH=µL,µ=0.02,ω=π，其中矩阵L与例2中相同，右端项b=(1+i)A1，其中1表示所有元素都为1的向量，并在系数矩阵的左右两侧同乘以h2进行规范化．三种算法的误差、迭代次数和时间的结果对比见表4和表5．表4:例3的计算结果(n=210,a=0.08)算法r k t 1.67 MHSS算法[7]CMCG算法7.49e−7 175 1.65 PCMCG算法q=1 7.42e−7 38 1.82 PCMCG算法q=26.62e−7 175 1.66 PCMCG算法q=4 3.44e−7 91 9.40e−7 51 1.63表5:例3的计算结果(n=212,a=0.04)算法r k t 79.46 MHSS算法[7]CMCG算法9.98e−7 632 94.74 PCMCG算法q=1 8.49e−7 50 113.11 PCMCG算法q=2 7.81e−7 632 78.79 PCMCG算法q=4 4.35e−7 310 6.26e−7 166 76.94从表4和表5中的数据可知，当内迭代次数q=1时，PCMCG算法与CMCG算法的迭代次数几乎接近，这是由于此时的预处理条件子M−1=D−1为对角阵，PCMCG算法相对于CMCG算法影响很小，因此，两种算法在这种情况下迭代次数几乎相同．从表4和表5中的迭代时间数据可知，对于同一阶数的复线性方程组求解，当内迭代次数q在一定的范围内时，PCMCG算法的收敛速度随着内迭代次数的增加而相应的加快，所用时间也相应减少．特别是，当PCMCG算法的内迭代次数q=4时，收敛速度最快，迭代次数最少，并且运行时间均少于CMCG算法和MHSS算法的运行时间．结果表明：CMCG算法经预处理后，无论从运行时间还是迭代次数上，PCMCG 算法的效果都要比CMCG算法的效果好．4 结论通过理论分析，我们表明两种形式下CG法是一致的，这为之后将MCG算法推广到求解复线性方程组的研究奠定了基础；之后，我们采用与实线性方程组加速求解的类似方法，对CMCG算法进行预处理，得到了求解非Hermite正定线性方程组的PCMCG算法，数值算例表明，当内迭代次数为q=4时，PCMCG算法的收敛速度优于CMCG算法和MHSS算法．参考文献：[1] Van D K,Toyama F M.Accurate numerical solutions of the time-dependent Schr¨odinger equation[J].Physical Review E:Statistical Nonlinear&Soft Matter Physics,2007,75(2):036707[2] Benzi M,Bertaccini D.Block preconditioning of real-valued iterative algorithms for complex linear systems[J].IMA Journal of Numerical Analysis,2008,28(3):598-618[3] Rao S M.An iterative method to solve acoustic scattering problems using a boundary integral equation[J].Journal of the Acoustical of America,2011,130(4):1792-1798[4] Jacobs D A H.A generalization of the conjugate-gradient method to solve complex systems[J].IMA Journal of Numerical Analysis,1986,6(4):447-452[5] Joly P,Meurant plex conjugate gradient methods[J].Numerical Algorithms,1993,4(3):379-406[6] 蒋尔雄.矩阵计算[M].北京：科学出版社，2008 Jiang E X.Matrix Computations[M].Beijing:Science Press,2008[7] Bai Z Z,Benzi M,Fang C.Modif i ed HSS iteration methods for a class of complex symmetric linear systems[J].Computing,2010,87(3-4)：93-111 [8] Bai Z Z,Benzi M,Fang C．On preconditioned MHSS iteration methods of complex symmetric linear systems[J].Numerical Algorithms,2011,56(2):297-317[9] Bai Z Z.On preconditioned iteration methods for complex linear systems[J]．Journal of Engineering Mathematics,2015,93(1):41-60[10] 张凯院，徐仲.数值代数(第2版)[M].北京：科学出版社，2010 Zhang K Y,Xu Z.Numerical Algebra(2nd Edition)[M].Beijing:Science Press,2010 [11] 吴建平，王正华，李晓梅.稀疏线性方程组的高效求解与并行计算[M].长沙：湖南科学技术出版社，2004 Wu J P,Wang Z H,Li X M.Efficient Solution and Parallel Computation of Sparse Linear Equations[M].Changsha:Hunan Science and Technology Press,2004[12]徐树方，钱江.矩阵计算六讲[M].北京：高等教育出版社，2011 Xu S F,Qian J.Six Lectures on Matrix Computations[M].Beijing:Higher Education Press,2011[13] Axelsson O,Kucherov A.Real valued iterative methods for solving complex symmetric linear systems[J].Numerical Linear Algebra with Applications,2000,7(4):197-218。

利用共轭梯度法求解线性方程组

利用共轭梯度法求解线性方程组翟莹1012205052在自然科学和工程技术中很多问题的解决常常归结为解线性方程组，而这些方程组的系数矩阵大致可分为两种:低阶稠密矩阵和大型稀疏矩阵。

而求解方程组的方法通常为直接法和迭代法。

直接法用于较低阶方程组的求解，效率较高；迭代法更适用于高阶方程组的求解，常用的经典迭代法有高斯-赛德尔迭代法和雅各比迭代法，但收敛效率较低；共轭梯度法（CG）以较高的收敛速度而经常被采用。

从理论上讲，一个n阶方程组最多迭代n 步就可求出精确解。

1 直接法直接法就是经过有限步算术运算，无需迭代可直接求得方程组精确解的方法。

但实际计算中由于舍入误差的存在和影响，这种方法也只能得到线性方程组的近似解，该方法是求解低阶稠密矩阵方程组的有效方法。

如Cramer法则，Gauss消元法及其变形（LU分解法、Cholesky 分解法、QR分解法）等。

Matlab中，用矩阵除法“/”或“\”直接求解线性方程组（见附录一），它是一个内部包含着许许多多的自适应算法，对超定方程用最小二乘法求解；对欠定方程因为它的解不唯一，Matlab给出所有解中范数最小的一个特解；对于三对角阵方程组，采用追赶法求解。

2 迭代法迭代法就是用某种极限过程去逐步逼近线性方程组精确解的方法。

该方法具有对计算机的存贮单元需求少，程序设计简单、原始系数矩阵在计算过程中不变等优点，是求解大型稀疏矩阵方程组的重要方法。

迭代法不是用有限步运算求精确解，而是通过迭代产生近似解逼近精确解。

如Jacobi迭代、Gauss-Seidel迭代、SOR迭代法等。

在科学研究和大型工程设计中提出的求解问题，经离散后，常常归结为求解形如Ax = b 的大型线性方程组，此时系数矩阵A和b是通过测量或其它方法得到的，但是在多数情况下方程可能是病态的，即A的条件数非常大。

此时，我们仍然用Matlab中的常规算法，得到的解则可能不是真解。

通常情况下，对系数矩阵A和方程的右端b作微小的扰动，再用上述方法求解，扰动后方程组的解与原方程组的解相差甚远。

线性方程组的共轭梯度法30页PPT文档

W(3) =W*
W(1)
W(2)
沿两个相互正交的方向，进行精确一维搜索，即可得到最优解（二维情形）
罗林开
模式识别与智能系统研究所
2020/6/27
6
n维情形: 沿相互正交的n个方向,进行精确一维搜索,至多迭代n次,即可得到正定二次函数
f (w) 1 wT w rT w 2
的最优解w* r.
f (x) f (x*)f (x*)T(xx*)1(xx*)T A(xx*) 2
f (x*)1(xx*)T A(xx*) 2
因此f (x)的等高面是一簇超椭球面.
罗林开
模式识别与智能系统研究所
2020/6/27
9
x(3) =x* d(2)
x(1) d(1) x(2)
从x(1)出发,沿d(1)作一维搜索,与等高面相切于x(2),记d(2) x* x(2), 再沿d(2)作一维搜索,即可得到最优解x*.由于(d(1))Tf (x(2)) 0, 因此(d(1))T Ad(2) (d(1))T A(x* x(2)) (d(1))T(Ax* Ax(2))
f (w ) f (w *) f (w *)(w w*)
1 (w w *)T I (w w *) 2
f ( w * ) 1 || w w * ||2 . 2
因此 f ( w )的等高模式识别与智能系统研究所
2020/6/27
5
正交方向及其性质
( d ) (1) T A d ( 2 ) 0 则称这两个方向关于 A 共轭 ,或称它们关于 A 正交 . 若 R n中的 k 个方向 d (1) , d ( 2 ) ,L , d ( k ) , 它们两两关于 A 共轭 ,即

第三章线性代数方程组的共轭梯度法

对于 k = 0 ,1, 2 ,
tk
=
(r(k) )T p(k) (p(k) )T Ap(k)
x (k+1) = x (k) + t k p(k)
r(k+1) = b − Ax(k+1) = r(k) − t k Ap(k)
sk
=
− (p(k) )T Ar(k+1) (p(k) )T Ap(k)
p(k+1) = r (k+1) + sk p(k)
2：在射线x = x(k ) + tp (k )上求f ( x)的极小点x(k +1) , 即 f ( x(k +1) ) = min f ( x(k ) + tp (k ) )
t>0
3：判断 ∇ f ( x (k +1) ) ≤ ε , 或 x(k +1 ) − x(k) ≤ ε ！
是！ x* ≈ x (k +1)，停止 ; 否！ k = k + 1, 转 1.
=
x(0)
+t0p(0).
华北电力大学数理学院
School of mathematics & physics
§3 共轭梯度法
对于 k = 1,2,
现有x ( k )及共轭方向p ( k −1)，则
r(k) = b − Ax(k)
在r ( k )和p ( k −1) 确定的超平面上找共轭方向
其中
p(k) = r(k) + sk p(k−1)
华北电力大学数理学院
School of mathematics & physics
定理1：设p 1 , p 2 , p n 是关于n阶对称正定矩阵A共轭的向量组，则以 p(k)为下降方向的算

双共轭梯度法matlab_概述及解释说明

双共轭梯度法matlab 概述及解释说明1. 引言1.1 概述引言部分将介绍“双共轭梯度法(Matlab)”，该方法是一种用于解决优化问题的迭代算法，常用于求解大规模线性方程组、最小二乘问题和非线性最优化等。

本文将全面讲解双共轭梯度法的基础知识、算法流程及其在MATLAB中的应用与实现。

1.2 文章结构本文按照以下方式组织：- 第二节将介绍双共轭梯度法的基础知识，包括梯度下降法、共轭梯度法和双共轭梯度法的简介。

- 第三节将详细阐述双共轭梯度法的算法流程及具体步骤解释，包括初始化步骤、迭代更新步骤以及收敛准则和结束条件设定。

- 第四节将以MATLAB为工具，展示双共轭梯度法在实践中的应用与实现举例。

这一部分将给出MATLAB代码编写指导原则，描述一个示例问题，并说明求解过程和结果分析。

- 最后一节是结论与展望，总结了双共轭梯度法的优点和局限性，并提供对未来可能的研究方向的展望和建议。

1.3 目的本文旨在介绍双共轭梯度法的原理、算法流程及其在MATLAB中的实际应用。

读者将通过本文了解如何使用该方法解决优化问题，并深入理解算法背后的理论基础。

同时，本文还将探讨双共轭梯度法存在的局限性，并展望未来可能的研究方向，为相关领域的研究提供参考。

2. 双共轭梯度法基础知识2.1 梯度下降法简介梯度下降法是一种优化算法，用于求解无约束问题的最小值。

其基本思想是通过沿着目标函数的负梯度方向进行迭代更新，以逐步减小目标函数值。

具体而言，对于一个可微分的目标函数f(x)，初始值$x_0$被选为起点，然后通过以下公式进行迭代更新：$$x_{k+1} = x_k - \alpha_k \nabla f(x_k)$$其中$\alpha_k$是步长或学习率，$\nabla f(x_k)$表示在点$x_k$处的梯度（即函数$f(x)$在$x_k$处的导数）。

该过程将重复执行直到满足预设的终止条件。

2.2 共轭梯度法简介共轭梯度法是一种高效的迭代方法，用于解决对称正定线性系统的问题。

矩阵计算与分析-求解方程组-预处理共轭梯度法

可以证明，经过这样的预处理，F =S−1AS−T 的条件数大约是A的条件数的平方根．特别是ω = 1情形，即对称的GS迭代预处理会有好的效果．
(1) ∀u(0)∈R n， ~ ( 0 ) = g − Fu( 0 ) , ~ ~ (0) , ( 2) 令 r p(0) = r (3)对k =0 ,1 , … , ~(k ) , r ~(k ) ) r ( ~ = α k (~ p ( k ) , S −1 AS −T ~ p(k ) )
(k ) ~ ~ u( k +1 ) = u( k ) + α p k (k ) ~ ( k +1 ) = r ~(k ) − α ~ S −1 AS −T ~ r p k ( k +1 ) ~ ( k +1 ) ~ r ) ( ,r ~ βk = ~ ( k ) ~ ( k ) (r , r ) ~ ~(k ) ( k +1 ) ( k +1 ) ~ ~ p =r + βk p
9.4.5 预处理共轭梯度法
由 x
(k )
⎛ K − 1 ⎞ (0) − x * A ≤ 2⎜ ⎟ x − x* A ⎝ K + 1⎠
k
可以看到，当A病态时有K>>1， CG法收敛将很慢．为了改善收敛性，可以设法先降低矩阵的条件数，这就是预处理方法．
当 A对称正定时，希望预处理后的方程组仍保持对称正定，为此，设 S 可逆，
M = SS T (7.19) x = S −T u g= S b,
−1
M是对称正定阵，把 Ax = b改写为等价的方程组
S −1 AS −T u = S −1b , F = S AS
−1 −T
新方程组的系数矩阵保持了对称正定．令

共轭梯度法在优化问题中的应用

共轭梯度法在优化问题中的应用
共轭梯度法是一种迭代优化算法，主要应用于解决大规模线性方程组和最小化二次函数的优化问题。

具体应用包括以下几个方面：
1. 线性方程组求解：共轭梯度法可以用于求解大规模线性方程组的解。

对于线性方程 Ax = b，共轭梯度法通过迭代的方式寻找一个最优解x，使得Ax与b之间的误差最小化。

2. 凸优化问题：共轭梯度法可以用于解决凸优化问题，特别是当目标函数为二次函数时。

对于目标函数 f(x) = (1/2)x^TQx - b^Tx + c，其中Q为对称正定矩阵，b为向量，c为常数，共轭梯度法可以通过迭代的方式快速找到最优解。

3. 非线性最小化：共轭梯度法可以用于非线性最小化问题。

通过将非线性最小化问题转化为等价的线性方程组求解问题，然后使用共轭梯度法进行求解。

4. 图像处理：共轭梯度法可以应用于图像处理中的一些问题，如图像恢复、图像去噪、图像平滑等。

通过将图像处理问题转化为优化问题，利用共轭梯度法进行求解。

总之，共轭梯度法在优化问题中的应用非常广泛，特别适用于大规模问题和二次函数优化问题。

它的优点包括收敛速度快、内存消耗低等。

线性代数方程组中的预处理共轭梯度法ppt课件

4 预处理方法
• 预处理方法
•
•
•
•
•
取预优矩阵（预处理矩阵）为A的一个小带宽部分（如三对角或对角线
部分）
矩阵分裂，尤其是线性稳定迭代中的矩阵A的分裂构造预处理矩阵
通过A的各种近似分解得到预处理矩阵（如不完全分解）
通过矩阵A的多项式构造预处理矩阵
子结构，区域分裂，EBE预处理途径等等
4 预处理方法
R中的非零元素远远少于A。R需要显式存储
•
•
•
•
•
第二种高效实现分裂
A是对称的
= 0 − − E ，-E严格下三角，D0是对角线矩阵
M = ( − ) −1 ( − E )，D不完全等于D0
SSOR-PCG
谢谢！
4 预处理方法
• 预处理方法
•
•
•
不完全分解预处理方法：
主要有不完全LU分解、不完全Cholesky分解以及相应的块不完全分解等
设是A的一个近似分解
= + ，L是下三角矩阵，R称为剩余矩阵，M= 为预处理矩阵。
此方法与CG迭代方法相结合，就形成了不完全Cholesky分解预处理共轭
1 引入
• 线性代数方程组的解法
• 直接法：高斯消去法，分解法
• 迭代法：
•
•
古典迭代法：Jacobi，Gauss-Seidel，SOR，SSOR
现代迭代法：（投影方法，子空间法）
•
•
•
•
正交化的误差投影型Krylov：FOM，IOM，DIOM
对称情形误差投影型Krylov：Lanczos，CG，PCG
• 预处理方法
•
对角预处理法：

求解大型稀疏线性方程组的不完全SAOR预条件共轭梯度法

求解大型稀疏线性方程组的不完全SAOR预条件共轭梯度法温瑞萍;孟国艳;王川龙
【期刊名称】《工程数学学报》
【年(卷),期】2007(024)004
【摘要】预条件共轭梯度法是求解大型稀疏线性方程组的有效方法之一,SSOR预条件方法是基于矩阵分裂的较有效的预条件共轭梯度法.通过矩阵分裂,本文讨论不完全SAOR预条件方法,研究此方法的预条件因子及系数矩阵的预条件数,并证明了此方法的预条件数小于SSOR预条件方法的预条件数.最后通过求解离散化波松(Poisson)方程组表明了该方法的有效性.
【总页数】7页(P712-718)
【作者】温瑞萍;孟国艳;王川龙
【作者单位】太原师范学院数学系,太原,030012;忻州师范学院计算机系,忻
州,034000;太原师范学院数学系,太原,030012
【正文语种】中文
【中图分类】O221.2
【相关文献】
1.大型稀疏复线性方程组双共轭梯度法 [J], 张永杰;孙秦
2.稀疏线性方程组不完全分解预条件方法 [J], 李晓梅;吴建平
3.利用超松弛预处理共轭梯度法求解大型稀疏方程组 [J], 陈春香;尹洪东
4.求解大型稀疏线性方程组的贪婪距离随机Kaczmarz方法 [J], 杜亦疏;殷俊锋;张
科
5.求解大型稀疏线性方程组的加权拟极小残差算法 [J], 陈晓花
因版权原因，仅展示原文概要，查看原文内容请购买。