第6章 逐次逼近法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
赣南师范学院数学与计算机科学学院
对方程组 如：令
Ax b
做等价变换 ，则
x Gx g
Ax b (M N ) x b Mx b Nx x M 1 Nx M 1b
则，我们可以构造序列 若
AM N
x( k 1) G x( k ) g
x ( k ) x * x* G x * g Ax* b
2、格式
赣南师范学院数学与计算机科学学院
3、结果
x (1) (0.7778, 0.9722, 0.9753) ' x (2) (0.9942, 0.9993, 0.9994) ' x (3) (0.9999, 0.9999, 0.9999) ' x (4) (1.0000,1.0000,1.0000) '
证明：
G D1 ( L U ) aij G max 1 aij aii i j i aii j i aij G 1 max 1 i i j aii
② A为列对角占优阵，则AT为行对角占优阵，有
( I D1 AT ) 1
( I D1 A) ( I D1 AT ) 1
赣南师范学院数学与计算机科学学院
• 迭代矩阵
x( k 1) (1 ) x( k ) ( D1Lx( k 1) D1Ux( k ) D1b) x( k 1) ( I D1L) x( k 1) ((1 ) I D1U ) x( k ) D1b ( I D1L)1 ((1 ) I D1U ) x( k ) ( I D1L)1 D1b
赣南师范学院数学与计算机科学学院
• 迭代矩阵 记
A D L U
0 a11 D 0 a nn
0 0 a21 0 L 0 a a 0 nn 1 n1
a1n 0 a12 0 U 0 an 1n 0 0
赣南师范学院数学与计算机科学学院
( k 1) x1 x2 ( k 1) ( k 1) xn
格式很简单：
1 (k ) (k ) (a12 x2 a1n xn b1 ) a11 1 (k ) (k ) (k ) (a21 x1 a23 x3 a1n xn b2 ) a22 1 (k ) (k ) (an1 x1 an n 1 xn 1 bn ) ann
G k 0 (G) 1
知，若有某种范数
由
(G) G
G
p
1
则，迭代收敛
赣南师范学院数学与计算机科学学院
6.1 Jacobi迭代
a11 x1 a1n xn b1 a x a x b nn n n n1 1
x1 x2 xn 1 (a12 x2 a1n xn b1 ) a11 1 (a21 x1 a23 x3 a1n xn b2 ) a22 1 (an1 x1 an n 1 xn 1 bn ) ann
1
即
为对角占优阵
(G ) 1
＃证毕
注：二种方法都存在收敛性问题。 有例子表明：Gauss-Seidel法收敛时，Jacobi法可能 不收敛；而Jacobi法收敛时， Gauss-Seidel法也可能 不收敛。
赣南师范学院数学与计算机科学学院
1 8 0 7 A 1 0 9 , b 8 , x (0) (0, 0, 0) ' 9 1 1 7
Ps ( )
，则
Ps ( ) I G I ( D L) 1U ( D L) 1 ( D L) U
A D L U 为对角占优阵，则 1 时 ( D L) U (D L) U 0 即 Ps ( ) 0
对Gauss－Seidel迭代格式
x( k 1) D1 ( Lx( k 1) Ux( k ) b)
x( k 1) x( k ) ( D1Lx( k 1) D1Ux( k ) D1b x( k ) ) x( k 1) (1 ) x( k ) ( D1Lx( k 1) D1Ux( k ) D1b)
赣南师范学院数学与计算机科学学院
易知，Jacobi迭代有
(D L U ) x b Dx ( L U ) x b
x D1 ( L U ) x D1b G D1 ( L U ) I D1 A , g D1b
赣南师范学院数学与计算机科学学院
赣南师范学院数学与计算机科学学院
写成分量形式，有
( k 1) x1 x2 ( k 1) ( k 1) xn
(1 ) x1
(k )
1 (k ) (k ) (a12 x2 a1n xn b1 ) a11
(1 ) x2 (1 ) xn
1、预处理
9 1 1 7 A 1 8 0 , b 7 1 0 9 8
(k ) (k ) x1( k 1) 1/ 9( x2 x3 7) ( k 1) ( k 1) x 1/ 8( x 7) 1 1 x ( k 1) 1/ 9( x ( k 1) 8) 1 1
(k )
a22
(a21 x1
(k )
a23 x3
(k )
a1n xn
(k )
b2 )
(k )
1 (k ) (k ) (an1 x1 an n 1 xn 1 bn ) ann
赣南师范学院数学与计算机科学学院
松弛迭代算法 1、输入系数矩阵A、向量b和松弛因子omega，和误差控制eps 2、x2={1,1,…..,1} //赋初值 3、while( ||A*x2-b||>eps) { for(i=0;i<n;i++) { temp-0 for(j=0;j<i;j++) { temp += A[i][j]*x2[j] } for(j=i+1;j<n;j++) { temp += A[i][j]*x2[j] } temp = -(x2[i]-b[i])/A[i][i] x2[i] = (1-omega)*x2[i]+omega*temp } } 4、输出解x2
n 1 i 1 ( k 1) (k ) ( aij x j aij x j bi ) aii j 1 j i 1
赣南师范学院数学与计算机科学学院
Gauss-Siedel迭代算法 1、输入系数矩阵A和向量b，和误差控制eps 2、x2={1,1,…..,1} //赋初值 3、while( ||A*x2-b||>eps) { for(i=0;i<n;i++) { for(j=0;j<i;j++) { x2[i] += A[i][j]*x2[j] } for(j=i+1;j<n;j++) { x2[i] += A[i][j]*x2[j] } x2[i]=-(x2[i]-b[i])/A[i][i] } } 4、输出解x2
＃证毕
赣南师范学院数学与计算机科学学院
6.2 Gauss－Seidel迭代
在Jacobi迭代中，使用最新计算出的分量值
( k 1) x1 x2 ( k 1) ( k 1) xn
xi
( k 1)
1 (k ) (k ) (a12 x2 a1n xn b1 ) a11 1 ( k 1) (k ) (k ) (a21 x1 a23 x3 a1n xn b2 ) a22 1 ( k 1) ( k 1) (an1 x1 an n 1 xn 1 bn ) ann
• 收敛条件 迭代格式收敛的充要条件是G的谱半径<1。对于Jacobi迭代，我们有一些保证收敛 的充分条件
定理：若A满足下列条件之一，则Jacobi迭代收敛。
① A为行对角占优阵
aii aij
j i i j
② A为列对角占优阵
③ A满足
a jj aij
1
a
i j
aij
ii
赣南师范学院数学与计算机科学学院
ቤተ መጻሕፍቲ ባይዱ记 则
x ( k ) x ( k 1) x ( k ) x ( k 1) x ( k ) x ( k )
可以看作在前一步上加一个修正量。若在修正量前乘以一个因子
，有
x( k 1) x( k ) x ( k )
x( k 1) x( k ) ( x( k 1) x( k ) )
同时：
x( k 1) x* Gx( k ) Gx* G( x( k ) x*) G k 1 ( x(0) x*)
所以，序列收敛
Gk 0
与初值的选取无关
赣南师范学院数学与计算机科学学院
定义6.1：（收敛矩阵） 定理：
Gk 0
矩阵G为收敛矩阵，当且仅当G的谱半径<1
赣南师范学院数学与计算机科学学院
2 1 1 A 1 1 1 1 1 2
1、Jacobi迭代
0 1/ 2 1/ 2 B D 1 ( L U ) 1 0 1 1/ 2 1/ 2 0
特征值为
5 I B 0 4
xi
( k 1)
n 1 i 1 (k ) (k ) ( aij x j aij x j bi ) aii j 1 j i 1
赣南师范学院数学与计算机科学学院
Jacobi迭代算法 1、输入系数矩阵A和向量b，初始值X0和误差控制eps 2、算出D,L,U 3、%Jacobi.m Function y=Jacobi(A,b,X0) D=diag(diag(A)); L=-tri(A,-1); U=-triu(A,1); B=D\(L+U); F=D\b; Y=B*X0+F; N=1; While(norm(y-x0)>eps) X0=y; y=B*x0+f;n=n+1; End y 4、输出解y
是否是原来的方程的解？
A=(D-L)-U
赣南师范学院数学与计算机科学学院
• 收敛条件 迭代格式收敛的充要条件是G的谱半径<1。我们看一些充分条件
定理：若A满足下列条件之一，则Jacobi迭代收敛。
① A为行或列对角占优阵 ② A对称正定阵
赣南师范学院数学与计算机科学学院
证明： 设G的特征多项式为
3
1 0, 2,3
5 i 2
1 2
2、Gauss－Siedel迭代
0 1/ 2 1/ 2 B ( D L) 1U 0 1/ 2 1/ 2 0 0 1/ 2
1 0, 2,3
赣南师范学院数学与计算机科学学院
6.3 松弛迭代
赣南师范学院数学与计算机科学学院
• 迭代矩阵
x( k 1) D1 ( Lx( k 1) Ux( k ) b) ( I D1L) x( k 1) D1Ux( k ) D1b x( k 1) ( I D1L)1 D1Ux( k ) ( I D1L)1 D1b x( k 1) ( D L)1Ux( k ) ( D L)1 b G ( D L)1U , g ( D L)1 b
对方程组 如：令
Ax b
做等价变换 ，则
x Gx g
Ax b (M N ) x b Mx b Nx x M 1 Nx M 1b
则，我们可以构造序列 若
AM N
x( k 1) G x( k ) g
x ( k ) x * x* G x * g Ax* b
2、格式
赣南师范学院数学与计算机科学学院
3、结果
x (1) (0.7778, 0.9722, 0.9753) ' x (2) (0.9942, 0.9993, 0.9994) ' x (3) (0.9999, 0.9999, 0.9999) ' x (4) (1.0000,1.0000,1.0000) '
证明：
G D1 ( L U ) aij G max 1 aij aii i j i aii j i aij G 1 max 1 i i j aii
② A为列对角占优阵，则AT为行对角占优阵，有
( I D1 AT ) 1
( I D1 A) ( I D1 AT ) 1
赣南师范学院数学与计算机科学学院
• 迭代矩阵
x( k 1) (1 ) x( k ) ( D1Lx( k 1) D1Ux( k ) D1b) x( k 1) ( I D1L) x( k 1) ((1 ) I D1U ) x( k ) D1b ( I D1L)1 ((1 ) I D1U ) x( k ) ( I D1L)1 D1b
赣南师范学院数学与计算机科学学院
• 迭代矩阵 记
A D L U
0 a11 D 0 a nn
0 0 a21 0 L 0 a a 0 nn 1 n1
a1n 0 a12 0 U 0 an 1n 0 0
赣南师范学院数学与计算机科学学院
( k 1) x1 x2 ( k 1) ( k 1) xn
格式很简单：
1 (k ) (k ) (a12 x2 a1n xn b1 ) a11 1 (k ) (k ) (k ) (a21 x1 a23 x3 a1n xn b2 ) a22 1 (k ) (k ) (an1 x1 an n 1 xn 1 bn ) ann
G k 0 (G) 1
知，若有某种范数
由
(G) G
G
p
1
则，迭代收敛
赣南师范学院数学与计算机科学学院
6.1 Jacobi迭代
a11 x1 a1n xn b1 a x a x b nn n n n1 1
x1 x2 xn 1 (a12 x2 a1n xn b1 ) a11 1 (a21 x1 a23 x3 a1n xn b2 ) a22 1 (an1 x1 an n 1 xn 1 bn ) ann
1
即
为对角占优阵
(G ) 1
＃证毕
注：二种方法都存在收敛性问题。 有例子表明：Gauss-Seidel法收敛时，Jacobi法可能 不收敛；而Jacobi法收敛时， Gauss-Seidel法也可能 不收敛。
赣南师范学院数学与计算机科学学院
1 8 0 7 A 1 0 9 , b 8 , x (0) (0, 0, 0) ' 9 1 1 7
Ps ( )
，则
Ps ( ) I G I ( D L) 1U ( D L) 1 ( D L) U
A D L U 为对角占优阵，则 1 时 ( D L) U (D L) U 0 即 Ps ( ) 0
对Gauss－Seidel迭代格式
x( k 1) D1 ( Lx( k 1) Ux( k ) b)
x( k 1) x( k ) ( D1Lx( k 1) D1Ux( k ) D1b x( k ) ) x( k 1) (1 ) x( k ) ( D1Lx( k 1) D1Ux( k ) D1b)
赣南师范学院数学与计算机科学学院
易知，Jacobi迭代有
(D L U ) x b Dx ( L U ) x b
x D1 ( L U ) x D1b G D1 ( L U ) I D1 A , g D1b
赣南师范学院数学与计算机科学学院
赣南师范学院数学与计算机科学学院
写成分量形式，有
( k 1) x1 x2 ( k 1) ( k 1) xn
(1 ) x1
(k )
1 (k ) (k ) (a12 x2 a1n xn b1 ) a11
(1 ) x2 (1 ) xn
1、预处理
9 1 1 7 A 1 8 0 , b 7 1 0 9 8
(k ) (k ) x1( k 1) 1/ 9( x2 x3 7) ( k 1) ( k 1) x 1/ 8( x 7) 1 1 x ( k 1) 1/ 9( x ( k 1) 8) 1 1
(k )
a22
(a21 x1
(k )
a23 x3
(k )
a1n xn
(k )
b2 )
(k )
1 (k ) (k ) (an1 x1 an n 1 xn 1 bn ) ann
赣南师范学院数学与计算机科学学院
松弛迭代算法 1、输入系数矩阵A、向量b和松弛因子omega，和误差控制eps 2、x2={1,1,…..,1} //赋初值 3、while( ||A*x2-b||>eps) { for(i=0;i<n;i++) { temp-0 for(j=0;j<i;j++) { temp += A[i][j]*x2[j] } for(j=i+1;j<n;j++) { temp += A[i][j]*x2[j] } temp = -(x2[i]-b[i])/A[i][i] x2[i] = (1-omega)*x2[i]+omega*temp } } 4、输出解x2
n 1 i 1 ( k 1) (k ) ( aij x j aij x j bi ) aii j 1 j i 1
赣南师范学院数学与计算机科学学院
Gauss-Siedel迭代算法 1、输入系数矩阵A和向量b，和误差控制eps 2、x2={1,1,…..,1} //赋初值 3、while( ||A*x2-b||>eps) { for(i=0;i<n;i++) { for(j=0;j<i;j++) { x2[i] += A[i][j]*x2[j] } for(j=i+1;j<n;j++) { x2[i] += A[i][j]*x2[j] } x2[i]=-(x2[i]-b[i])/A[i][i] } } 4、输出解x2
＃证毕
赣南师范学院数学与计算机科学学院
6.2 Gauss－Seidel迭代
在Jacobi迭代中，使用最新计算出的分量值
( k 1) x1 x2 ( k 1) ( k 1) xn
xi
( k 1)
1 (k ) (k ) (a12 x2 a1n xn b1 ) a11 1 ( k 1) (k ) (k ) (a21 x1 a23 x3 a1n xn b2 ) a22 1 ( k 1) ( k 1) (an1 x1 an n 1 xn 1 bn ) ann
• 收敛条件 迭代格式收敛的充要条件是G的谱半径<1。对于Jacobi迭代，我们有一些保证收敛 的充分条件
定理：若A满足下列条件之一，则Jacobi迭代收敛。
① A为行对角占优阵
aii aij
j i i j
② A为列对角占优阵
③ A满足
a jj aij
1
a
i j
aij
ii
赣南师范学院数学与计算机科学学院
ቤተ መጻሕፍቲ ባይዱ记 则
x ( k ) x ( k 1) x ( k ) x ( k 1) x ( k ) x ( k )
可以看作在前一步上加一个修正量。若在修正量前乘以一个因子
，有
x( k 1) x( k ) x ( k )
x( k 1) x( k ) ( x( k 1) x( k ) )
同时：
x( k 1) x* Gx( k ) Gx* G( x( k ) x*) G k 1 ( x(0) x*)
所以，序列收敛
Gk 0
与初值的选取无关
赣南师范学院数学与计算机科学学院
定义6.1：（收敛矩阵） 定理：
Gk 0
矩阵G为收敛矩阵，当且仅当G的谱半径<1
赣南师范学院数学与计算机科学学院
2 1 1 A 1 1 1 1 1 2
1、Jacobi迭代
0 1/ 2 1/ 2 B D 1 ( L U ) 1 0 1 1/ 2 1/ 2 0
特征值为
5 I B 0 4
xi
( k 1)
n 1 i 1 (k ) (k ) ( aij x j aij x j bi ) aii j 1 j i 1
赣南师范学院数学与计算机科学学院
Jacobi迭代算法 1、输入系数矩阵A和向量b，初始值X0和误差控制eps 2、算出D,L,U 3、%Jacobi.m Function y=Jacobi(A,b,X0) D=diag(diag(A)); L=-tri(A,-1); U=-triu(A,1); B=D\(L+U); F=D\b; Y=B*X0+F; N=1; While(norm(y-x0)>eps) X0=y; y=B*x0+f;n=n+1; End y 4、输出解y
是否是原来的方程的解？
A=(D-L)-U
赣南师范学院数学与计算机科学学院
• 收敛条件 迭代格式收敛的充要条件是G的谱半径<1。我们看一些充分条件
定理：若A满足下列条件之一，则Jacobi迭代收敛。
① A为行或列对角占优阵 ② A对称正定阵
赣南师范学院数学与计算机科学学院
证明： 设G的特征多项式为
3
1 0, 2,3
5 i 2
1 2
2、Gauss－Siedel迭代
0 1/ 2 1/ 2 B ( D L) 1U 0 1/ 2 1/ 2 0 0 1/ 2
1 0, 2,3
赣南师范学院数学与计算机科学学院
6.3 松弛迭代
赣南师范学院数学与计算机科学学院
• 迭代矩阵
x( k 1) D1 ( Lx( k 1) Ux( k ) b) ( I D1L) x( k 1) D1Ux( k ) D1b x( k 1) ( I D1L)1 D1Ux( k ) ( I D1L)1 D1b x( k 1) ( D L)1Ux( k ) ( D L)1 b G ( D L)1U , g ( D L)1 b