数值分析第4次课

当一个方程组, 由于系数矩阵或右端项有微小 扰动, 而引起解发生巨大变化时, 则称该方程组是 “病态”的. 怎样刻画线性方程组“病态”程度. 用条件数来描绘. 分以下两种情形加以讨论 只有右端项有扰动 只有系数矩阵有扰动6 只有右端源自有扰动 原方程组Ax b
扰动后方程组
14
条件数的性质 对任意n阶可逆阵A, 都有 cond(A) 1 对任意非零实数, 有 cond ( A) = cond (A) 若A为正交矩阵, 则 cond 2 (A) =1
15
例 已知方程组
1 1 x1 2 x2 3 x3 1 1 1 1 x1 x2 x3 0 3 4 2 1 1 1 x1 x2 x3 0 4 5 3
Cond ( A) || A || || A1 || ( 2 10 5 )( 2 105 1) 4 105.
条件数较大
13
1 1 , 例 方程组的系数矩阵 A 5 求其条件数. 1 1 10
解 Matlab解法： format long A=[1 1;1 1+10^(-5)] condA=cond(A,inf)
比较以上两个方程组可以看出, 它们的右端项 相同, 系数矩阵中的元素最大相对误差仅为0.01, 而得到的解却严重失真, 这表明方程组有一定程度 的病态. 其条件数为
Cond ( A) || A || || A1 || 748.
要想得到方程组的较好近似解, 就要对其中的 系数取更多位的有效数字.
1 i n j 1
|| A || 2 max ( A A)
T
3
由矩阵范数与向量范数的相容性性质知对任意n 阶方阵A, 以及任意的n维向量x, 有
|| Ax ||1 || A ||1 || x ||1 || Ax ||2 || A ||2 || x ||2 || Ax || || A || || x ||
若由迭代公式
x
( k 1 )
Mx
(k )
g
产生的向量序列 { x(k)} 收敛于向量 x, 则
k
lim x
( k 1 )
lim Mx
k
(k )
g x Mx g
即向量 x 是 方程 Ax=b 的解. 单步定常线性迭代法产生的向量序列若收敛则 必收敛到原线性方程组的解.
迭代法的收敛条件(充要条件, 充分条件)
22
§3.1 迭代法概述
基本思想
等价变形 如何做 M: 迭代矩阵
Ax b x Mx g
等价线性方程组 取初始向量 x(0)Rn, 构造如下单步定常线性迭代公式
x
( k 1 )
Mx
(k )
g ( k 0, 1, 2,)
k
lim || A( k ) A || 0
则称方阵序列{A(k)}收敛于n阶方阵A. 上面两式通常表示成
k (k )
lim x
x
k
lim A
(k )
A
24
向量序列与矩阵序列收敛的充分必要条件
定理
Rn中的向量序列{x(k)}收敛于Rn中的向量 x的充分必要条件是
k
近似解, r为x*的残量, 则
|| x x* || || r || cond( A) || x || || b ||
证明
|| b |||| Ax |||| A || || x ||
|| x x* |||| A1 (b Ax*) |||| A1r |||| A1 || || r ||
1
1
1 Cond 2 ( A) || A ||2 || A ||2 n
1
其中1, n 分别为矩阵ATA的最大和最小特征值.
12
1 1 , 例 方程组的系数矩阵 A 5 求其条件数. 1 1 10
解
5 5 10 1 10 1 A , 5 5 10 10
Cond 2 ( A) e
n 10, cond 2 ( A) 1.586 10 .
18
误差分析
残量:
设方程组 Ax=b 的一个近似解为 x*, r =b－Ax*称为残量.
当||r||很小时, 可以认为解 x* 比较准确.
19
误差分析
定理
设 x 和 x* 分别是方程组 Ax =b的准确解和
故
|| x x* || || r || || r || 1 || A || || A || cond( A) || x || || b || || b ||
20
解的相对误差主要由残量和条件数决定.
上机练习
• 第61页至62页任选一题.
21
第三章 解线性方程组的迭代法
求 Ax b 迭代法概述 Jacobi迭代法 Gauss-Seidel迭代法
实际计算常用1-范数与-范数因其计算比较简单, 理论证明常用2-范数因为它有一些好性质.
4
误差分析 中常用
方程组的状态与条件数 例 方程组I
x1 x2 2, x1 1.00001 x2 2, x1 2 x 0 2
方程组II
17
典型的病态方程组 (Hilbert方程组) 此类方程组的系数矩阵如下, 称之为Hilbert矩阵
1 1 2 A 1 n 1
1n 1 ( n 1) ( n 1) 1 ( 2n 1) 12 13
3.5 n 15
11
系数矩阵的条件数刻画了线性方程组Ax=b的 “病态”程度, 条件数越大, “病态”越严重. 通常 称条件数大的方程组为“病态”方程组. 方程组 “病态”与否只与系数矩阵有关, 而与右端项无关. 矩阵的条件数与范数的选取有关, 最常用的条件数
Cond ( A) || A || || A || Cond1 ( A) || A ||1 || A ||1
收敛性条件
以此来产生近似向量序列 x(1), x(2), ...
(k ) x x*. 当k充分大时,
23
向量序列与矩阵序列的收敛概念
定义 对于Rn中的向量序列 {x(k)}, 如果
k
lim || x ( k ) x || 0
则称向量序列{x(k)}收敛于 Rn中的向量 x.
定义对于n阶方阵序列 {A(k)}, 如果
|| x || 1 || b || || A || || A || || x || || b ||
只有系数矩阵有扰动 原方程组
Ax b
扰动后方程组
( A A)( x x ) b
系数矩阵有扰动A, 引起解的变化为x, 其相对误差为
|| x || , 它究竟有多大? || x ||
A( x x ) b b,
右端项有扰动b, 引起解的变化为x, 其相对误差为
|| x || , 它究竟有多大? || x ||
7
只有右端项有扰动
A( x x ) b b
Ax b
A x b即 x A1 b
故 又 从而
|| x |||| A1 b |||| A1 || || b ||
|| b || || b |||| Ax |||| A || || x || || x || || A ||
|| x || 这表明: 当右端项有扰动b时, 解的相对误差 || x || || b || 不超过右端项的相对误差 || b || 的||A||||A1||倍. 8
x1 9 x 36 2 30 x3
若把系数矩阵中的系数取 成 2 位有效数字的小数, 得方程组
1.00 x1 0.50 x2 0.33 x3 1 0.5 x1 0.33 x2 0.25 x3 0 0.33 x 0.25 x 0.20 x 0 1 2 3 5 55 9 x1 x 277 7 2 9 5 x3 255 9 16
§2.4 误差分析
用直接法解线性方程组, 初始数据会有误差, 计算过程同样会产生误差, 这就需要对这些误差 作一些分析.
主要数学工具: 向量范数, 矩阵范数, 条件数
1
Rn中常用的三种范数 1-范数
|| x ||1 | x1 | | x2 | ... | xn | | xi |
9
只有系数矩阵有扰动
( A A)( x x ) b
Ax b
A( x x ) A( x x ) b
x A1 A( x x )
故 || x || || A1 A( x x ) || || A1 || || A || || x x ||
x1 x2 2, x1 1.00001 x2 2.00001, x1 1 x 1 2
右端项有0.00001的差别, 最大相对误差为 0.5105, 但解分量的相对误差为50%. 平面上两条接近于平行的直线的交点，当其中一 条直线稍有变化时, 新的交点可与原交点相差甚远.5
lim x
(k ) j
x j , （j 1,2,..., n）
其中xj(k)和 xj分别表示 x(k)和 x中的第 j个分量.
定理
n阶方阵序列{A(k)}收敛于n阶方阵A的充 分必要条件是
k
lim a
(k ) ij
aij , （i , j 1,2,..., n)
25
向量序列和矩阵序列的收敛可归结为对应分 量或对应元素序列的收敛性.
i 1
n
2-范数 || x ||2 -范数
x1 x2 ... xn ( xi )
2 2 2 i 1
n
1 2 2
向量的模
1 i n
|| x || max{| x1 |, | x2 |,..., | xn |} max{| xi |}
其中 x1, x2, …, xn 分别是 x 的n个分量. 用向量范数的定义来验证, 即验证它们满足向量 范数定义中的三个性质.
2
常用的三种矩阵范数均是由向量范数诱导出的. 对于给定的向量范数1-范数, 2-范数及-范数, 可以证 明由它们诱导出的矩阵范数分别为 1-范数或列范数
|| A || 1 max | aij |
1 j n i 1
n
n
-范数或行范数 2-范数或谱范数
|| A || max | aij |
条件数
定义(条件数) 对非奇异矩阵A, 称数||A||||A1||
为矩阵A的条件数, 记为Cond(A)= ||A||||A1||. 只有右端项有扰动
|| x || || b || Cond( A) || x || || b ||
只有系数矩阵有扰动.
|| x || || A || Cond( A) || x x || || A ||
26
§3.2 几种基本的迭代法
n=4的Jacobi迭代法 a11 x1 a12 x2 a13 x3 a14 x4 b1 a x a x a x a x b 21 1 22 2 23 3 24 4 2 a31 x1 a32 x2 a33 x3 a34 x4 b3 a41 x1 a42 x2 a43 x3 a44 x4 b4 把方程组改写成如下等价形式
|| x || 1 || A || || A || || A || || x x || || A ||
|| x || 这表明: 当系数矩阵有扰动A, 解的扰动 || x x || || A || 不超过系数矩阵相对误差 || A || 的||A||||A1||倍. 10