数值分析第三章
数值分析第三章
称为1 − 范数 , 称为 2 − 范数 .
(
b 2 ∫a f ( x )dx
)，
1 2
三、内积与内积空间
R n中向量x及y定义内积 : ( x, y ) = x1 y1 + L + x n y n .
定义3 上的线性空间， 定义3 设X是数域 K ( R或C)上的线性空间，对 ∀u, v ∈ X， 中一个数与之对应， 并满足条件： 有K中一个数与之对应，记 为( u, v )，并满足条件： (1) ( u,v ) = (v , u), ∀u,v ∈ X ; (2) (αu,v ) = α ( u,v ), α ∈ R; (3) ( u + v , w ) = ( u,w ) + (v,w ), ∀u,v,w ∈ X ; (4) ( u, u) ≥ 0, 当且仅当 u = 0时， , u) = 0. (u 则称( u, v )为X上的u与v的内积. 定义了内积的线性空间 称 的共轭， 为内积空间. (v , u)为( u,v )的共轭，当 K = R时 (v , u) = ( u,v ).
2)
j =1
∑ α ju j = 0 ⇔ ( ∑ α ju j , ∑ α ju j ) = 0
j =1 n j =1
n
n
n
⇔ ( ∑ α j u j , uk ) = 0, k = 1,L, n.
j =1
∴ G非奇异 ⇒ u1 , u2 ,L, un线性无关 (反证法 )；反之亦然 .
在内积空间X上可以由内积导出一种范数, 即对u ∈ X , 记 || u ||= (u , u )， Cauchy − Schwarz不等式得出. (1.10) 易证它满足范数定义的正定性和齐次性, 而三角不等式由
数值分析第三章线性方程组解法
数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。
线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。
线性方程组的解法包括直接解法和迭代解法两种方法。
一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。
这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。
1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。
这种方法可以减少计算量，提高计算效率。
1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。
它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。
Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。
二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。
Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。
2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。
它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。
Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。
2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。
它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。
SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。
三、总结线性方程组解法是数值分析中的一个重要内容。
直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。
数值分析课件第3章
x
y
2 4 6
8 6 4 2
骄行札或务旷恰洗大而非仆椒鸿孜襟儡和跟浪陪痕骚树认邻异镍屠丰逃臃数值分析课件第3章数值分析课件第3章
初每孟缅家邱拙货另崇屎慑芝骋磨雨鹏苯核碉断策占悲异贺碴察鸿旧岿父数值分析课件第3章数值分析课件第3章
例3-4 已知实测数据表如下,确定数学模型 y=aebx, 用最小二乘法确定a，b。
帜尸砚损讹祖邱帆迄攫让汕芽柔造兔优伐具猪购冈琅高蹄熊嫌第凸貉楚章数值分析课件第3章数值分析课件第3章
伸姜积升斯钳更相傍抒匣替讯蔽炽恋喉爱著殷都皂孵羌邹捞谎寐池骇织狱数值分析课件第3章数值分析课件第3章
i
0 1 2 3 4
拙猪囤犀缎孩甸萤捷褐番舍倪酌月迢飘沟锰乡橙波旗骨渠虎偷朋袒夹惹胳数值分析课件第3章数值分析课件第3章
新隆培润已描苍淬霖绪册防嚷拇痘掂腹坏蕉吁咳洞烷携敦玻腔同翻坎镀讨数值分析课件第3章数值分析课件第3章
宽烹呼境眺泡狞瑞怕敝斧厨寞贝砚妄特痒福踊阁监桐却挠伸井竟哇含野劲数值分析课件第3章数值分析课件第3章
囊铭徒庄裸课爹压屏滴插百盗万武廷校船卿肪没弹溃想镊茨壳峨孽信骗跨数值分析课件第3章数值分析课件第3章
i
0 1 2 3 4
xi yi yi
1.00 1.25 1.50 1.75 2.00 5.10 5.79 6.53 7.45 8.46 1.629 1.756 1.876 2.008 2.135
3.1基本概念
x0
x
x
x
x
x
x
x
f(x)
p(x)
虐座韦龄椽加腕槽晶僵壤漱键椒赏琢芭尊校榆唤著里钙治纹改瞥宁岁坛草数值分析课件第3章数值分析课件第3章
2、范数与赋范线形空间
数值分析--第三章--迭代法
数值分析--第三章--迭代法迭代⼀般⽅程：本⽂实例⽅程组：⼀.jacobi迭代法从第i个⽅程组解出xi。
线性⽅程组Ax=b，先给定⼀组x的初始值，如[0,0,0]，第⼀次迭代，⽤x2=0，x3=0带⼊第⼀个式⼦得到x1的第⼀次迭代结果，⽤x1=0,x3=0,带⼊第⼆个式⼦得到x2的第⼀次迭代结果，⽤x1=0,x2=0带⼊第三个式⼦得到x3的第⼀次迭代结果。
得到第⼀次的x后，重复第⼀次的运算。
转化成⼀般的形式：（其中L是A的下三⾓部分，D是A的对⾓元素部分，U 是上三⾓部分）得到迭代公式：其中的矩阵B和向量f如何求得呢？其实，矩阵B的计算也很简单，就是每⾏的元素/该⾏上的对⾓元素⼆.Gauss-Seidel迭代法【收敛速度更快】这个可以和jacobi法对⽐进⾏理解，我们以第⼆次迭代为例（这⾥的第⼀次迭代结果都⽤⼀样的，懒得去换）从上表对⽐结果可以看出，Jacobi⽅法的第⼆次迭代的时候，都是从第⼀次迭代结果中，获取输⼊值。
上⼀次迭代结果[2.5,3.0,3.0]，将这个结果带⼊上⾯式⼦1，得到x1=2.88，；将[2.5,3.0,3.0]替换成[2.88,3.0,3.0]带⼊第⼆个式⼦的运算，这⾥得到x2=1.95，所以把[2.88,3.0,3.0]替换成[2.88,1.95,3.0]输⼊第三个式⼦计算X3=1.0.这就完成了这⼀次的迭代，得到迭代结果[2.88,1.95,1.0],基于这个结果，开始下⼀次迭代。
特点：jacobi迭代法，需要存储，上⼀次的迭代结果，也要存储这⼀次的迭代结果，所以需要两组存储单元。
⽽Gauss-Seidel迭代法，每⼀次迭代得到的每⼀个式⼦得到的值，替换上⼀次迭代结果中的值即可。
所以只需要⼀组存储单元。
转化成⼀般式：注意：第⼆个式⼦中的是k+1次迭代的第⼀个式⼦的值，不是第k次迭代得值。
计算过程同jacobi迭代法的类似三.逐次超松弛法SOR法上⾯仅仅通过实例说明，Jacobi和Seidel迭代的运算过程。
数值分析第三章小结
矩阵的特征值和特征向量的计算线性代数中对于x Ax λ=,解该方程的特征值λ和特征向量x 的方法主要是使用数值解法,本章学习另外的方法用MATLAB 来编程解某个实矩阵的特征值和特征向量. 一、幂法和反幂法 1.乘幂法幂法主要用于计算矩阵的按模为最大的特征值和对应的特征向量。
（1）思想为: n n X X X u ααα+++= 22110])([2111101∑=-+===ni i ki i kkk k X X u A u A u λλααλ当k 取得足够大时,特征值向量得计算公式为: 特征值为:迭代格式为之一⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧=====∈-------- ,2,1111111110k u y y A u uy u u R u k Tk k k k k k k k Tk k n βηη任取初始向量迭代格式之二⎪⎪⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎪⎪⎨⎧=======------≤≤- ,2,1)sgn(),,,(max ),,,(任取初始向量)()1()()(2)(11)1(11)1(1)1()0()0(2)0(10k h h h h h y A u h u y h h h h h u k r k r k Tk n k k k k k r k k k j nj k r Tn β两种迭代格式相比较, 格式一编程容易, 迭代一次所需时间也短, 迭代格式二迭代时间长, 但它在计算过程中舍入误差的影响较格式一小。
幂法的缺点是如果矩阵A 的特征根有重根时不能用。
2、反幂法目的同乘幂法, 用于计算矩阵的按模为最大的特征值和对应的特征向量。
反幂法的迭代格式为⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧=====∈-------- ,2,1任取初始向量111111110k u y y A u uy u u R u k T k k k k k k k k Tk k n βηη3.带原点位移的反幂法迭代格式为 ,2,1)max(11=⎪⎪⎩⎪⎪⎨⎧===--k m y u y m u A y k kkk k k k三、Jacobi 方法和QR 方法Jacobi 方法主要用于求实对称矩阵的全部特征值和特征向量的一种方法,所以个人觉得雅克比法更为现实更为有用。
数值分析第三章小结
第三章矩阵特征值与特征向量的计算--------学习小结一、本章学习体会本章我们学习了矩阵特征值与特征向量的计算方法即幂法、反幂法、Jacobi方法和QR方法。
下边介绍一下四种方法各自的特点和适用范围。
幂法：主要用于计算矩阵按模最大的特征值及其相应的特征向量；反幂法：主要用于计算矩阵按模最小的特征值及其相应的特征向量；Jacobi法：用于求实对称矩阵的全部特征值和特征向量的方法；QR法：则适用于计算一般实矩阵的全部特征值，尤其适用于计算中小型实矩阵的全部特征值。
归结起来，这四种方法有一个共同的特点，即都是用了迭代的方法来求矩阵的特征值和特征向量。
还有利用用MATLAB自带的解法求解特征值和特征向量，其自带函数Eig即得到结果是虚数也可以算出，并且结果自动正交化。
二、本章知识梳理在工程技术中，计算矩阵的特征值和特征向量主要使用数值解法。
本章将阐述幂法、反幂法、Jacobi 方法、和QR 方法，并且只限于讨论实矩阵的情况。
3.1 幂法和反幂法（1）幂法幂法主要用于计算矩阵的按模为最大的特征值和相应的特征向量，其思想是迭代。
设n ⨯n 实矩阵A 具有n 个线性无关的特征向量,,...,,321n x x x x 其相应的特征值n λλλ...21，，满足如下不等式 n λλλλ≥≥≥> (321)其中i i i x Ax λ= ）。
（n i ,...2,1=现在要求出1λ和相应的特征向量。
任取一n 维非零向量0u ，从0u 出发，按照如下的递推公式 1-=k k Au u ），，（...21=k 因n 维向量组n x x x ,...,21线性无关，故对于向量0u ，必存在唯一的不全为零的数组n ααα,...,21，使得n n x x x u ααα...22110++=n k n k k k k k k x A x A x A u A u A Au u ααα+++=====--......22110221=⎥⎥⎦⎤⎢⎢⎣⎡⎪⎪⎭⎫ ⎝⎛++⎪⎪⎭⎫ ⎝⎛+=+++n kn n k kn k n n k k x x x x x x 12122111222111......λλαλλααλλαλαλα 设01≠α。
数值分析第3章108页
3.1.1 函数逼近与函数空间
问题 1、数值计算中经常要计算函数值，如计算机中计算 基本初等函数及其他特殊函数；
2、当函数只在有限点集上给定函数值，要在包含该 点集的区间上用公式给出函数的简单表达式.
这些都涉及到在区间 [上a, b用] 简单函数逼近已知复杂 函数的问题， 这就是函数逼近问题.
称为连续函数空间.
2
函数类B通常为 n次多项式，有理函数或分段低次多项 式等.
数学上常把在各种集合中引入某些不同的确定关系称为 赋予集合以某种空间结构，并将这样的集合称为空间.
例如将所有实 n维向量组成的集合，按向量加法及向量 与数的乘法构成实数域上的线性空间， 记作 R n ，称为 n维 向量空间.
9
定义2 设 S为线性空间，xS，若存在唯一实数‖·‖， 满足条件：
（1） x 0, 当且仅当 x 0 时，x 0; （正定性）
（2） xx, R;
(齐次性)
（3） xyxy, x,y S . (三角不等式)
则称‖·‖为线性空间 S上的范数，S与‖·‖一起称为赋范
线性空间，记为 X .
10
例如，在 R n上的向量 x (x1,,xn)T R n,三种常 用范数为
，
n
其元素
p(x)Hn 表示为
p (x ) a 0 a 1 x a n x n ,
（1.2）
它由n 1个系数(a0,a1,,an) 唯一确定.
1, x, , xn 是线性无关的，它是 H n 的一组基，故
H nspan{ 1 ,x,L,xn},
且 (a0,a1,,an)是 p( x) 的坐标向量，H n 是 n 1维的.
满足‖·‖∞ =1 ，即 max1 x ,x{ 2}1 的向量为单位正 方形，
数值分析课件(第3章)
“最好”函数。
定义3.2 以“偏差的平方和达到最小”作为原则来选择近似 函数的方法称为最小二乘法。
例3-1 已知一组数据如下表所示,用单变量数据拟合法求其拟 合函数.
x -1 0 1 2 3 4 5 6
y f (x) 10 9 7 5 4 3 0 -1
解
先画出散点图(如图3-1所示).
从图3-1可以看到，点 (xi , yi ) (i1,2, ,8) 在一条直线附近， 这些点大体上满足直线方程。因此，可以选择线性函数来拟
表中数据的一般趋势，然后使用最小二乘法来确定其中的未
知参数，从而得到的近似函数 F(x).
F(x) 通常称为拟合函数，f (x) 通常称为被拟合函数。
什么是“最F好(”x) 的函不数一，定“要最经好过”点的函(x数i , y以i ) 什么标准来 衡量?
定义3.1 若记 i f(xi)F(xi) (i1,2,,n)，则称
若假设这些自变量为 x1,x2,,xk和因变量为y ，则每经过一次
实验或测量就会得到一组数据 x1,x2,,xk,y ，而经过n次实验 或测量就会得到n组数据，由这n组数据构成一个数据表:
第m次实验或测量
x1
1
x11
2
x21
…
…
x2
…
x12
…
x22
…
……
xk yf(x1,x2, ,xk)x1ky1x来自kns1 x i
i 1
n
s3 xi 2 i 1
n
s2 yi i 1
n
s4 xi yi i 1
a ③ 解正规方程组
na s1a
数值分析第3章
20
定义了内积的线性空间称为内积空间. 定义中（1）的右端 (u称, v为) 的(u共,轭v)， 当K为实数域R时 (u, v) .(v, u) 如果 (u, v，) 则 称0 与 正交u ，这v 是向量相互垂 直概念的推广.
b a
f
2
(
x)dx
2
33
若 0 ,1,,n是 C[a, b]中的线性无关函数族，记 span{0 ,1,,n}, 它的格拉姆矩阵为
G G(0 ,1,,n )
(0 ,0 ) (0 ,1) (0 ,n )
(1
,
0
)
(1 , 1 )
(1
,
n
)
(n ,0 )
(n ,1 )
(
n
,
n
)
（1.17）
Hn span{1, x,, xn},
且 (a0 , a1,, an ) 是 p(x) 的坐标向量，H n 是 n 1维的.
8
对连续函数 f (x) C[a,b]，它不能用有限个线性无关的 函数表示，故 C[a,b]是无限维的，但它的任一元素 f (x) 均可用有限维的 p(x) Hn逼近，使误差
与数的乘法构成实数域上的线性空间， 记作 R n，称为 n维
向量空间.
4
对次数不超过 n( n为正整数)的实系数多项式全体，
按通常多项式与多项式加法及数与多项式乘法也构成数域
R上一个线性空间，用
H
表示，称为多项式空间.
n
所有定义在 [a,b] 上的连续函数集合，按函数加法和
数值分析第三章Ch3
则 ρ(x) 称为 [a, b] 上的一个权函数。
数值逼近
数值分析
. . . .... .... .... . .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. ..
15/88
. .. . .. .. ..
则 ρ(x) 称为 [a, b] 上的一个权函数。
10/88
. .. . .. .. ..
设 S 是一个内积空间，u1, . . . , un ∈ S，
矩阵
G
=
((uu11,,...
u1) u2)
(u2, u1)
(u2, u2) ...
··· ···
(un,
(un, ...
uu12))
(u1, un) (u2, un) · · · (un, un) 称为格拉姆 (Gram) 矩阵。
间
[−π, π]族。 . . . .... .... .... .
.. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. ..
数值逼近 数值分析
19/88
. .. . .. .. ..
称多项式序列{φn}∞ n=0 是带权 ρ(x) 正 交的，如果每个 φn 是首项系数 an ̸= 0 的 n 次多项式，且 {φn}∞ n=0 是带权 ρ(x) 的正交函数族。
. .. . .. .. ..
. .四、最佳逼近
函数逼近主要讨论给定 f ∈ C[a, b]，求最
佳逼近多项式。若 P ∗(x) ∈ Hn，使误差 ∥f (x) − P ∗(x)∥ = min ∥f (x) − P (x)∥，则
P ∈Hn
称 P ∗(x) 是 f (x) 在 [a, b] 上的n 次最佳逼
《数值分析》课件-第三章
数值分析
A为正交矩阵的充要条件是下列条件之一成立：
1 A1 AT ;
2 AAT AT A E;
3 A的列向量是两两正交的单位向量; 4 A的行向量是两两正交的单位向量.
正交矩阵的性质
(1) A是正交阵,则A是非奇异的,det( A) 1;
(2) A是正交阵,则AT A1也是正交阵，且同阶 正交阵的乘积仍是正交阵；
( , ) 由Schwarz不 等 式 可 以 证 明 内 积 范数 公 理 中 的 三 角 不 等 式.
证明：三角不等式
证：在内积空间V中, , V , 有 2 ( , ) ( , ) 2( , ) ( , ) 2 2 2 ( )2 所以
数值分析
数值分析
定理2-6 : (Cauchy Schwarz不等式)
设 , 是内积空间V中任意两个向量,则有 ( , )2 ( , )( , )
等号只有当且仅当和 是线性相关时才成立.
证明 : 任取实数k, 考虑内积
( k , k ) ( , ) 2k( , ) k 2( , ) 0 利用一元二次方程根的判别式, 有4( , )2 4( , )( , ) 0 所以有( , )2 ( , )( , ) 当 k (k R,非 零),显 然 定 理 中 等 号 成 立;反 之, 如 果 等 号 成 立,则 , 必 线 性 相 关.因 为 若 , 线 性 无 关,则k R, 非 零, 都 有 k 0.从 而( k , k ) 0 所 以 等 号 不 成 立,矛 盾.
数值分析
第三章
数值分析
数值分析
第一节 内积空间与内积空间中的正交系
一、内积和内积空间的基本概念
定义2-12:设V是实数域R上的线性空间,如果α,β V
数值分析课件第三章
n n 1/2
.
若给定 i 0( i 1, , n)，称{ i }为权系数 , 则定义
加权内积 2 ( x , y ) i xi yi；范数 ||x||2 i xi i 1 i 1
称为Gram 矩阵，则 G非奇异的充要条件是 u1 , u2 ,, un线性
在内积空间X 上可以由内积导出一种范数,即对u X , 记 || u || ( u, u)， (1.10) 易证它满足范数定义的正定性，齐次性和三角不等式 .
例1 考察R n与Cn的内积. 设x ( x1 ,, xn )T , y ( y1 ,, yn )T R n，则定义
min
pn ( x )H n
b
a
[ f ( x ) pn ( x )]2dx ,
* ( x )为f ( x )在[a , b]上的最佳平方逼近多项式 . 则称pn
2. 若f ( x ) 是[a ,b]上的一个列表函数，在 a x0 x1 xm b上 给出f ( xi )( i 0,1, , m ),要求p * ( x ) span{ 0 , , n }, 使得
n n 1/2
.
若x , y Cn，则定义加权内积
( x , y ) i xi y i .
i 1
n
定义4 设 ( x )是区间[a , b]上的非负函数 , 如果满足条件
(1)
b k a x ( x )dx存在,
k 0,1,2,;
可以有限或 无限区间
(2) 对于[a , b]上的非负连续函数 g ( x ), 若 a g ( x ) ( x )dx 0, 则在[a , b]上g ( x ) 0； 就称 ( x )为[a , b]上的权函数 .
数值分析第三章线性方程组的迭代法课件
§ 3.3.2 Gauss—Seidel 迭代法的矩阵表示
将A分裂成A =D+L+U，则Ax b 等价于
(D+L+U )x = b
于是,则高斯—塞德尔迭代过程
Dx(k1) Lx(k1) Ux(k) b
因为 D 0 ,所以 D L D 0
故
(D L)x(k1) Ux(k) b
x(k1) (D L)1Ux(k) (D L)1b
e(k) x(k) x* Gx(k1) d (Gx* d) G(x(k1) x* ) Ge(k1)
于是 e(k) Ge(k1) G 2e(k2) Gk e(0)
由于 e (0)可以是任意向量,故 e(k) 收敛于0当且仅
故 (D L)x(k1) (1)D U x(k) b
显然对任何一个ω值,(D+ωL)非奇异, (因为假设 aii 0,i 1,2,, n )于是超松弛迭代公式为
x(k1) (D L)1 (1)D U x(k) (D L)1b
令 L (D L)1 (1)D U
f (D L)1b
则超松弛迭代 公式可写成
称为雅可比迭代公式, B称为雅可比迭代矩阵
雅可比迭代矩阵表示法，主要是用来讨论其收敛 性，实际计算中，要用雅可比迭代法公式的分量 形式。即
x1(k 1)
1 a11
(a12 x2(k )
a13 x3(k )
a1n xn(k )
b1 )
x2(k 1)
1 a 22
(a21 x1(k )
a23 x3(k )
§ 3.4.2超松弛迭代法的矩阵表示 设线性方程组 Ax=b 的系数矩阵A非奇异,且主对角
元素 aii 0(i 1,2,, n) , 则将A分裂成
数值分析第三章
不为零.最后,由的非奇异性得到
an(nn)3(3 3亦)不, 为零.an(n1),n1
,均
三峡大学理学院 杜廷松
9
定理3.2.1
如果方程组(2.1)的系数矩阵为非奇异,则它可 以通过高斯消去法进行求解．
例2.1 用高斯消去法解方程组
x1 2x2 x3 0
2x1 2x2 3x3 3
x1
下面具体阐述消元与回代过程.
三峡大学理学院 杜廷松
5
1 .消元过程
第一步：若
a (1) 11
0 ,可对
i 2,3,
, n 进行如下计
算，令
li1
a (1) i1
/
a (1) 11
，用li1 乘方程(2.1
)两边的第一
行加到第i行中去，得到
( A(2) , b(2) )
0a1(11)
a (1) 12
本章先讨论一些最基本的直接法，并在此基 础上讨论它的变形情况，并分析其误差，之后, 再讨论线性代数方程组的迭代法.
三峡大学理学院 杜廷松
2
§3.2 Gauss消去法
一 、高斯消去法的基本思想 二 、列主元高斯消去法
三峡大学理学院 杜廷松
3
一 、高斯消去法的基本思想
考虑 n 阶线性代数方程组
a11x1 a12 x2 a1n xn b1 .a..2.1.x..1.....a..2.2.x..2............a..2..n.x..n.....b..2.... an1x1 an2 x2 ann xn bn
jk 1
A 如果在消元过程的第一步中a1(11) 0 ,由于矩阵 非奇异,所
i 以过在对方A程(1) 两的边第进—行列第中一至行少与有第一个1元行素的行ai11交 0换,，于将是可ai1以1 通,
数值分析第三章
2
(4) 若Xn和X都是实 则 都是实r.v.,则 都是实
lim E (e
n →∞
jtX n
) = E (e
jtX
)
即ϕ X n (u ) → ϕ X (u )
3．均方收敛判定准则 ．
定理（ 准则） 定理（Cauchy准则）设 { X n , n = 1, 2,L} ⊂ H , 准则 则{Xn}均方收敛的充要条件是 均方收敛的充要条件是
2
2 2
2
2
0 ≤ D( X − Y ) = E X − Y − E ( X − Y ) = − E ( X − Y ) ≤ 0
于是 P( X − Y = c) = 1 以概率1等于常数 也就是 以概率 等于常数c,也就是 等于常数
2
从而 X − Y
2
E X −Y = c 1= 0
即 c=0
以概率1等于常数 等于常数0,也就是 故 X − Y 以概率 等于常数 也就是
aX +bY ∈H,
证明 E aX + bY = E (aX + bY )(aX + bY )
2
= E ( aX + bY )( aX + bY ) = E ( aX + bY + aXbY + aX bY )
2 2
aXbY + aXbY = 2R =2R aXbY) e(
= E a X + E b Y + E 2 Re(aXbY )
2
2
≤ E Xm − X + E Xn − X
2
1 2
2 2
+ 2E X m − X E X n − X
2
数值分析(第3章)
3.1.1 Euler格式（续）
方程（1）中含有的导数项是使方程难以求解的症结所在。数值解法的第一步就是消除
y ' ，这项手续称为离散化。实现这一手续的最简单的途径就是用差商代替导数。
设在点 xn 列出方程，并用差商
y xn 1 y xn h
代替导数 y ' xn ，则有
y xn1 y xn hf xn , y xn
若用 y xn 的近似值 yn 代入上式右端，记所求结果为 yn 1 ，这样导出的计算公式
yn1 yn hf xn , yn , n 0,1,2,
就是众所周知的欧拉（Euler）格式，若初值 y0 是已知的，则依据上式即可逐步算出数值 解 y1 , y2 , 。
' ' ' yn1 yn h 0 yn 1 yn1/ 2 2 yn1
仿照变形的 Euler 格式预报 yn 1/ 2 ，再用 yn , yn1/ 2 的加权平均得到 yn 1 ，最后利用精度概念 定出待定系数 0 , 1 , 2 ，即可得到如下三阶格式：
3.1.3 Euler两步格式
事实上， 还可以改用中心差商
y xn 1 y xn 1 2h
替代方程 y ' xn f xn，y xn 中的
导数项，再离散化，即可得如下格式
yn1 yn1 2hf xn , yn
无论是 Euler 格式还是隐式 Euler 格式，再计算 yn 1 的过程中只用到前一步的信息 yn ， 故称它们为单步法。然而上述格式还用到了更前一步的信息，即调用了前面两步的信息， Euler 两步格式因此而得名。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
高斯消元法算法: 高斯消元法算法
1. For k=1,,n-1 Do 2. 3. 4. 5. 6. 7. 8. 9. EndDo bi EndDo For i=k+1,,n Do aik aik / akk aij EndDo bi – aik×bk aij – aik×akj For j=k+1,,n Do
a11 a 21 L a n1 a12 a 22 L an2 L a1n x1 b1 x b L a2 n 2 2 = L L M M L a nn x n bn
∑a
j =1
n
ij
x j = bi
( i=1,2,,n ) 线性方程组求解: 线性方程组求解 1. 直接方法 直接方法; 2. 基本迭代法 基本迭代法; 3. 子空间方法
(1 a 22) L ( a n12)
a12 a 22 L an 2
L a1n L a2n L L L a nn
L a1 n (1) L a2n L L (1) L a nn
F11
0 L 0 1 m 1 L 0 21 = L L L L m n1 0 L 1
0 L 0 0 m 21 0 L 0 L L L L m n1 0 L 0
AX = b
X?
b
例 x1 + 2 x2 + x 3 + 4 x4 = 13
2 x + 0 x + 4 x + 3 x = 28 1 2 3 4 4 x1 + 2 x2 + 2 x3 + x4 = 20 3 x1 + x2 + 3 x3 + 2 x4 = 6
1 2 4 3
解线性方程组的克莱姆方法 1. 输入矩阵 A 和右端向量 b; 2. 计算 A 的行列式 D,如果 D=0,则输出错信息结束 则输出错信息结束, 否则进行 3 ; 3. 对 k=1,2,,n 用 b 替换 A 的第 k 列数据 并计算 列数据,并计算 替换后矩阵的行列式值 Dk; 4. 计算并输出 x1 = D1 / D,, xn=Dn/D, 结束。 结束。 高斯消元.5 4 A→ 2 6 2
4 2 3 U = 0 0.5 4 0 0 2
A=LU
Ax = b
LU x = b
LY = b Ux = Y
y1 = 6 y2 = -4 y3 = -4 x1 = -13 x2 = 8 x3 = 2
《数值分析》Ch3
高斯消元法及算法实现
Frobenius矩阵与 矩阵与LU分解 分解
直接三角分解法 向量范数与矩阵范数 向量范数与矩阵范数
线性方程组的矩阵形式
a11x1+ a12x2++ a1nxn = b1 a21x1+ a22x2++ a2nxn = b2 an1x1+ an2x2++ annxn = bn
1 4 x1 13 1 2 4 2 5 x2 2 = 5 7.5 x 3 35 9 x4 18
x4 = 2, x3=4, x2= –1, x1 = 3
x1 3 x 2 = 1 x 3 4 x4 2
2 1 10 8 1.072 5.643 3 3.712 4.623 2 2 3 1
1 O 1 1
1 O 1 m n ,n1 1 1 m O 21 M O 1 m n 1 L m n , n 1 1
Fn-1Fn-2F1 A = A(n – 1) A = (F1-1F2-1 Fn-1-1 ) A(n – 1) L U
a12 a 22
1 u11 m 21 1
u12 u11 = u22
u12 = u11u22 u22
10 8 例 列主元法 (8位浮点数 位浮点数) (8位浮点数) 1 2
10 8 1 2
不 选 主 元
3 x1 1 3.712 4.623 x2 = 2 1.072 5.643 x3 3 2
0 0 y1 6 1 1.5 1 0 y = 5 2 2 6 1 y3 32
4 x1 6 2 3 0 0.5 4 x = 4 2 0 0 2 x 3 4
基于高斯消元的LU分解算法
A=[2,3,4;3,5,2;4,3,30]; [n,r]=size(A); for i=2:n A= for k=1:i-1 2.00 3.00 m=A(i,k)/A(k,k); 1.50 0.50 for j=k+1:n 2.00 -6.00 A(i,j)=A(i,j)-m*A(k,j); end 0 0 1 2 A(i,k)=m; L = 1.5 1 0 U = 0 end 2 6 1 0 end A
1 1 En = O 1 n×n m n1 1 m 1 21 M O 1 n×n m n1
F1 = EnE3E2
第一轮消元: 第一轮消元 A(1) = F1 A
A
(1)
0 L 0 a11 1 m a 1 L 0 21 21 = L L L L L m n1 0 L 1 a n1 a11 = a12
A
(1)
a11 a12 (1) a 22 = (1) a 32 (1) a42
a13 a a a
(1) 32
(1) 23 (1) 33 (1) 43
a14 a a a
(1) 42
(1) 24 (1) 34 (1) 44
b1 b
(1) 2
b
(1) 22
(1) 3
b
(1) 4
计算: [m32 m42
第一步: 将方程组化简为三角形方程组; 第一步: 将方程组化简为三角形方程组; 第二步: 解三角形方程组,获方程组的解。 第二步: 解三角形方程组,获方程组的解。
解上三角方程组
a11 x1 + a12 x 2 +L+ a1n x n = b1 a 22 x 2 +L+ a2 n xn = b2 LLLLL a nn x n = bn 计算：xn = bn /ann
1 a11 a12 L a1n m (1 ( O a 22) L a 21) n 21 U= L= M O 1 O L (n 1 ) a nn m n 1 L m n , n 1 1
矩阵的三角分解: 矩阵的三角分解
A= LU
例3.1 消元与矩阵分解方法
(a11…ann≠0)
xk=[bk－(ak , k+1xk+1+ … + ak n)] / ak k ( k =n－1,,1 ) 除法: n次; 乘法: n(n-1)/2次,
乘、除法运算共 n(n+1)/2 次, 简记为 O( n2 )
消元过程( 消元过程 化一般方程组为上三角方程组)
a11 x1 + a12 x 2 + a13 x 3 + a14 x4 = b1 a x + a x + a x + a x = b 21 1 22 2 23 3 24 4 2 a 31 x1 + a 32 x 2 + a 33 x 3 + a 34 x4 = b3 a41 x1 + a42 x 2 + a43 x 3 + a44 x4 = b4
2 3 4 3 5 2 A= 4 3 30
4.00 -4.00 -2.00
3 4 0.5 4 0 2
定理3.1 约化主元 k+1,k+1(k) ≠ 0 (k=0,1,,n-1) 约化主元a 定理 矩阵A的各阶顺序主子式 的充分必要条件是 矩阵 的各阶顺序主子式 不为零.即 不为零 即
0 M 0 mk = m k + 1, k M m nk
1 O 1
= I – mkekT
( k = 1, 2, , n – 1)
Fk–1 = I + mk ekT ekT=[ 0 0 1 0 0 ]
Gauss消元结果 消元结果 A(n – 1) = Fn-1Fn-2F1 A Fk = I – mkekT ( k = 1, 2, , n – 1) 矩阵, 称Fk 为 Frobenius矩阵 Fk–1 = I + mk ekT 矩阵 F1-1F2-1 Fn-1-1 =
a11 x1 + a12 x2 + a13 x3 + a14 x4 = b1 (1 (1 (1 ( a 22) x 2 + a23) x 3 + a24) x4 = b21) (2 (2 ( a 33) x 3 + a34 ) x4 = b32 ) (3 ( a44 ) x4 = b4 3 )
0 m 21 [1 0 L 0] = = M m n1
m1 e1T
0 L 0 1 m 1 L 0 21 F1 = L L L L m n1 0 L 1
= I – m1e1T
F1–1 = I + m1e1T
1 O 1 Fk = m k + 1, k M m nk
增广矩阵
A= a11 a 21 a 31 a41 a12 a13 a 22 a 23 a 32 a 33 a42 a43 a14 a 24 a 34 a44 b1 b2 b3 b4
计算: [m21 m31 m41]T = [a21 a31 a41]T / a11
实现第一轮消元
n阶方程组消元过程乘法次数 阶方程组消元过程乘法次数: 阶方程组消元过程乘法次数 (n-1)n+(n-2)(n-1)+…+1×2=(n3-n)/3 × 除法次数: 除法次数: (n-1)+(n-2)+…+1=n(n-1)/2 回代过程： 回代过程：n(n+1)/2 n 高斯 克莱姆 2 6 8 3 17 51 总: n2+(n3-n)/3, 简记 O(n3) 4 36 364 5 65 2885 6 106 25206