关于解一类奇异非线性方程组的牛顿法的收敛性

关于解一类奇异非线性方程组的牛顿法的收敛性
杨家岭;曹德欣
【摘要】Moore-Penrose inverse was used to construct Newton’ s method for solving a class of singular nonlinear equations. The local and semilocal convergence were established, and the radius of conver-gence ball was also obtained. The validity of the algorithm was indicated by a numerical example.%对一类奇异非线性方程组，运用Moore-Penrose广义逆建立牛顿迭代法，分析了其局部收敛性、半局部收敛性以及收敛半径的估计，数值例子也表明了算法的有效性。

【期刊名称】《郑州大学学报（理学版）》
【年(卷),期】2015(000)003
【总页数】6页(P1-6)
【关键词】奇异非线性方程组;牛顿法;Moore-Penrose逆;半局部收敛
【作者】杨家岭;曹德欣
【作者单位】中国矿业大学理学院江苏徐州221116;中国矿业大学理学院江苏徐州221116
【正文语种】中文
【中图分类】O241
许多应用数学和工程问题都可归结为对非线性方程组的求解[1-3], 其中也存在着大量的奇异非线性方程组, 并且引起了人们的广泛关注[4-7].作者考虑如下形式的奇
异非线性方程组的求解问题：
这里F:D⊂Rn→Rm, F(x)=(f1(x),f2(x),…,fm(x))T, x=(x1,x2,…,xn)T, n≤m.
牛顿迭代格式
及其变形是求解非线性方程组最有效的方法. 关于牛顿法的收敛性有两个最为重要的结果：一是著名的Kantorovich定理[8], 其半局部收敛性定理及证明方法对迭代法的研究产生了深远的影响；二是Smale点估计理论[9], 该定理给出了仅依赖于算子在初始点的信息来逼近零点的判断依据. 关于牛顿法收敛半径的估计还可以参见文献[10-11].
对于方程组(1)而言, F的Frechet导算子DF(xk)不一定可逆, 尤其是当n<m时, DF(xk)是长方形矩阵, 没有通常意义下的逆矩阵, 此时运用Moore-Penrose逆建立如下的牛顿迭代格式:
格式(3)的不动点x*是方程组F(x)=0的最小二乘解, 但若DF(x*)是满秩, 则x*是方程组F(x)=0的解.
对于n≥m情况下的奇异问题，文献[4-7]已经进行了详细的论述, 特别是文献[7]对F在初始点x0∈D处的Jacobian矩阵J(x0)为行满秩的条件下研究了(3)式的收敛性. 那么, 对于n≤m情况下的奇异问题, 在J(x0)对应为列满秩的条件下是否有相关的结论呢?在研究方法上与文献[7]又有何异同?由于列满秩的J(x0)与行满秩的J(x0)所对应的Moore-Penrose逆矩阵的性质有很大差异, 所以要想得到相关的结果就必须在方法上另找出路. 作者将重新定义Lipschitz条件, 在DF(x*), DF(x0)为列满秩, DF(x)DF(x*)†及DF(x)DF(x0)†满足新定义的Lipschitz条件下, 求解奇异非线性方程组(1)的牛顿迭代格式(3)的收敛判据, 并得出了(3)式的局部收敛性、半局部收敛性和收敛半径的估计.
设A∈Rm×n, 则A†称为A的Moore-Penrose逆, 若下列4个等式成立:
令ker A和Im A表示A的核与象,∏E表示Rn在子空间E⊂Rn上的正交投影, E⊥
表示E在Rn上的正交补空间. 则有
当A为列满秩时，有
更多关于Moore-Penrose逆的结果可参见文献[12].
另外,令B(x,r), 分别表示在Rn中以x为球心r为半径的开球和闭球. 下面给出一些定义与引理.
定义1 设常数L>0, 实数r>0, x*∈Rn且DF(x*)为列满秩，则称DF(x)DF(x*)†在B(x*,r)中满足关于L的中心Lipschitz条件, 若
引理1 设为列满秩且DF(x)DF(x*)†在B(x*,r)中满足关于L的中心Lipschitz条件, 则对任意一点x∈B(x*,r), DF(x)为列满秩.
证明由(6)式可以得到
由Banach引理得到IRm-(DF(x*)-DF(x))DF(x*)†可逆, 注意到
所以
因此∏(Im DF(x*))⊥+DF(x)DF(x*)†可逆,根据(5)式，
及
又因为DF(x*)为列满秩, 从而对任意一点x∈B(x*,r), DF(x)为列满秩.
引理2[12] 设A∈Rm×n,rank(A+E)=rank(A)且‖A†‖2‖E‖2<1,则
引理3[12] 设A∈Rm×n, 则rank(A)=ran k(A†); 再若A为列满秩或行满秩, 则有即列满秩或行满秩矩阵的Moore-Penrose广义逆具有连续性.
定理1 设F的一阶Frechet导数连续, x*∈D, F(x*)=0, DF(x*)为列满秩, 且
DF(x)DF(x*)†在B0=B(x*,r0)⊂D中满足关于L的中心Lipschitz条件,则存在开球B(x*,r), 使得对任一x0∈B(x*,r)由迭代格式(3)产生的点列{xk}有定义且收敛到x*. 证明令‖DF(x*)†‖=β, 由DF(x)的连续性知, DF(x)在上一致连续, 故对给定的及任意的存在δ, 只要‖x′-x″‖<δ, 就有
当然对∀x∈B(x*,δ)，也有
因为DF(x)DF(x*)†在B0中满足关于L的中心Lipschitz条件,所以由引理1得到对∀x∈B(x*,⊂为列满秩, 此时
取,则DF(x)在B(x*,r) 上一致连续, 并对∀x∈B(x*,r), DF(x)为列满秩. 令
A=DF(x*),E(x)=DF(x)-DF(x*), 则
并且有
所以根据引理2可得
现任取x0∈B(x*,r), 假设由格式(3)产生的点xk∈B(x*,r), 并且根据
DF(xk)†DF(xk)=IRn及Banach空间微分中值定理, 不等式(10)及DF(x)在B(x*,r)中的一致连续性可以得到
由于所以故xk+1∈B(x*,r), 从而由格式(3)产生的序列{xk}⊂B(x*,r)，并且收敛于x*. 定理2 设F的一阶Frechet导数连续, x0∈D, DF(x0)为列满秩, 且DF(x)DF(x0)†在中满足关于的中心Lipschitz条件,且对∀，有
则存在常数及M, 当‖DF(x0)†‖‖F(x0)‖时, 方程F(x)=0在中有解x∞存在, 并由迭代格式(3)产生的点列{xk}⊂且收敛于解x∞, 并且有
证明由于DF(x)DF(x0)†在)中满足关于的中心Lipschitz条件, , 故根据引理1得到DF(x)在中的每一点处皆为列满秩, 根据引理3可得对任意一点⊂为列满秩并且
DF(x)†在连续且一致连续, 所以‖DF(x)†‖在有界设为N. 又α<1, 故存在ε0>0, 使
得对所有有
再由DF(x)的一致连续性知, 对上述的ε0, 存在δ′, 使得对∀只要‖x′-x″‖<δ′, 就有现取=min{r′,δ′}，将接下来的证明分为3个部分:
(i) 对所有k=0,1,…, 下列两式成立:
(ii) {xk}是Cauchy列, 其极限并且F(x∞)=0;
(iii) ‖xk-x∞‖
(i)的证明. 由定理2的假设知, 当k=0时,
结论成立; 设j=1,…,k-1时结论成立, 即有
由(17)得
由(13)式M<1, 从而‖xk-x0‖这就证明了(16)式.
由格式(3)得
由于DF(xk-1)†DF(xk-1) =IRn, 故
所以
由(16), (14)和(11)得
再由(13)和(17)式得到
这样就根据数学归纳法证明了(15)式，从而证明了(i)的结论.
(ii)的证明.当m≥n时, 由(15)式可得
(→0, 当n→∞),
从而{xk}是Cauchy列, 故存在极限x∞. 由结论得到又根据DF(x)†和F(x)在中的连续性得
因为DF(x∞)†为列满秩, 从而F(x∞)=0.
(iii)的证明. 由(19)式得
定理2证毕.
下面给出一个相关的数值例子：
方程F(x)=0的精确解是x*=(1,1,0)T, 相应的Jacobian矩阵是
且J(x*)为列满秩矩阵. 数值试验结果参见表1和表2.
从表1可以看出实验数值稳定并逐渐趋向于方程组的解，并且从表2可知，如果初值选取恰当数值，收敛速度也较快. 另外, 从定理1和定理2的证明中可以看到, 若再有DF(x)关于某一常数满足Lipschitz条件, (11)式的条件再稍加强一些, 则可以得到格式(3)的更高阶的收敛性.
【相关文献】
[1] 贺婷婷，马飞遥.两个非线性偏微分方程强解的持续性质[J]．郑州大学学报：理学版，2015，
47(1)：14-23．
[2] Hernndez M A．Newton-Raphson’s method and convexity[J]．Zb Rad Prirod: Mat Fak Ser Mat，1992，22(1)：159-166．
[3] Dedieu J P．Estimations for the separation number of a polynomial system[J]．J Symbolic Comput，1997，24(6)：683-693．
[4] Decker D W，Keller H B, Kelley C T．Convergence rates for Newton’s method at singular points[J]．SIAM J Numer Anal，1983，20(2)：296-314．
[5] Griewank A．On solving nonlinear equations with simple singularities or nearly singular solutions[J]．Siam Rev，1985，27(4)：537-563．
[6] Allgower E L，Böhmer K．Resolving singular nonlinear equations[J]．Rocky Mount J Math，1988，18(2)：225-268．
[7] 吴国桢，王金华．关于奇异非线性方程组的Newton法的收敛性[J]．浙江大学学报：理学版，2008，35(1)：27-31．
[8] Kantorovich L V，Akilov G P．Functional Analysis[M]．Oxford: Pergamon Press，1982：536-544．
[9] Smale S．Newton’s method estimates from data at one point[M]//Ewing R E，Gross
K I，Martin C F．The Merging of Disciplines: New Directions in Pure, Applied and Computational Mathematics. New York: Springer，1986：185-196．
[10]Traub J F，Wózniakowski H．Convergence and complexity of Newton iteration for operator equations[J]．J Assoc Comput Math，1979，26(2)：250-258．
[11]王兴华．Newton 方法的收敛性[J]．科学通报：数理化专辑，1980，25(1)：36-37．
[12]Wang Guorong，Wei Yimin，Qiao Sanzheng．Generalized Inverses: Theory and Computations[M]．Beijing: Science Press，2004：5-7．。