数值分析方法第三章
王能超-数值分析-第三章
4.9
王能超 编著
二阶龙格-库塔方法
随意考察区间 xn , xn1 内一点 点 xn , xn p 的斜率 到如下计算格式：
xn＋p xn ph,0 p 1 ， 用两个
K1 , K2 的加权平均代替平均斜率 K ，
于是我们就得
yn 1 yn h 1 K1 K 2 K1 f xn , yn K 2 f xn p , yn phK1
校正
数值分析简明教程
4.16
王能超 编著
改进的亚当姆斯预报-校正系统
我们可以方便地估计出亚当姆斯预报校正系统的截断误差，从而 依据这种估计将该系统 就可改进为如下精度更高的计算方案：
' ' ' ' p y h 55 y 59 y 37 y 9 y n 1 n n n 1 n 2 n 3 / 24 预报 251 改进 mn 1 pn 1 cn pn 270 ' mn 1 f xn 1 , mn 1
y xn1 y xn hf xn , y xn
h
设用 y xn 的近似值 yn 代入上式右端，记所求结果为 yn1 ，这样导 出的计算公式
yn1 yn hf xn , yn , n 0,1,2,
就是众所周知的欧拉（Euler）格式，若初值 yn 是已知的，则依据 1 上式即可逐步算出数值解 y1 , y2 , 。
数值分析简明教程
4.13
王能超 编著
亚当姆斯格式
亚当姆斯（Adams)方法的设计思想是充分利用计算 yn之前已 1 得到一系列节点 xn , xn1 , 上的斜率值来减少计算量。譬如，我们可 以用 xn , xn1 两点的斜率的加权平均作为区间
数值分析第三章
称为1 − 范数 , 称为 2 − 范数 .
(
b 2 ∫a f ( x )dx
)，
1 2
三、内积与内积空间
R n中向量x及y定义内积 : ( x, y ) = x1 y1 + L + x n y n .
定义3 上的线性空间， 定义3 设X是数域 K ( R或C)上的线性空间，对 ∀u, v ∈ X， 中一个数与之对应， 并满足条件： 有K中一个数与之对应，记 为( u, v )，并满足条件： (1) ( u,v ) = (v , u), ∀u,v ∈ X ; (2) (αu,v ) = α ( u,v ), α ∈ R; (3) ( u + v , w ) = ( u,w ) + (v,w ), ∀u,v,w ∈ X ; (4) ( u, u) ≥ 0, 当且仅当 u = 0时， , u) = 0. (u 则称( u, v )为X上的u与v的内积. 定义了内积的线性空间 称 的共轭， 为内积空间. (v , u)为( u,v )的共轭，当 K = R时 (v , u) = ( u,v ).
2)
j =1
∑ α ju j = 0 ⇔ ( ∑ α ju j , ∑ α ju j ) = 0
j =1 n j =1
n
n
n
⇔ ( ∑ α j u j , uk ) = 0, k = 1,L, n.
j =1
∴ G非奇异 ⇒ u1 , u2 ,L, un线性无关 (反证法 )；反之亦然 .
在内积空间X上可以由内积导出一种范数, 即对u ∈ X , 记 || u ||= (u , u )， Cauchy − Schwarz不等式得出. (1.10) 易证它满足范数定义的正定性和齐次性, 而三角不等式由
数值分析第三章线性方程组解法
数值分析第三章线性方程组解法在数值分析中，线性方程组解法是一个重要的主题。
线性方程组是由一组线性方程组成的方程组，其中未知数的次数只为一次。
线性方程组的解法包括直接解法和迭代解法两种方法。
一、直接解法1.1矩阵消元法矩阵消元法是求解线性方程组的一种常用方法。
这种方法将方程组转化为上三角矩阵，然后通过回代求解得到方程组的解。
1.2LU分解法LU分解法是将系数矩阵A分解为一个下三角矩阵L和一个上三角矩阵U的乘积，然后通过解两个三角方程组求解线性方程组。
这种方法可以减少计算量，提高计算效率。
1.3 Cholesky分解法Cholesky分解法是对称正定矩阵进行分解的一种方法。
它将系数矩阵A分解为一个下三角矩阵L和它的转置的乘积，然后通过解两个三角方程组求解线性方程组。
Cholesky分解法适用于对称正定矩阵的求解，具有较高的精度和稳定性。
二、迭代解法2.1 Jacobi迭代法Jacobi迭代法是一种迭代求解线性方程组的方法。
它通过分解系数矩阵A为一个对角矩阵D和一个余项矩阵R，然后通过迭代更新未知数的值，直至达到一定精度要求为止。
Jacobi迭代法简单易懂，容易实现，但收敛速度较慢。
2.2 Gauss-Seidel迭代法Gauss-Seidel迭代法是一种改进的Jacobi迭代法。
它通过使用新计算出的未知数值代替旧的未知数值，达到加快收敛速度的目的。
Gauss-Seidel迭代法是一种逐步逼近法，每次更新的未知数值都会被用于下一次的计算，因此收敛速度较快。
2.3SOR迭代法SOR迭代法是一种相对于Jacobi和Gauss-Seidel迭代法更加快速的方法。
它引入了一个松弛因子，可以根据迭代的结果动态地调整未知数的值。
SOR迭代法在理论上可以收敛到线性方程组的解，而且收敛速度相对较快。
三、总结线性方程组解法是数值分析中的一个重要内容。
直接解法包括矩阵消元法、LU分解法和Cholesky分解法，可以得到线性方程组的精确解。
数值分析第三章线性方程组迭代法
数值分析第三章线性方程组迭代法线性方程组是数值分析中的重要问题之一，涉及求解线性方程组的迭代法也是该领域的研究重点之一、本文将对线性方程组迭代法进行深入探讨。
线性方程组的一般形式为AX=b，其中A是一个n×n的系数矩阵，x和b是n维向量。
许多实际问题，如电路分析、结构力学、物理模拟等，都可以归结为求解线性方程组的问题。
然而，当n很大时，直接求解线性方程组的方法计算量很大，效率低下。
因此，我们需要寻找一种更高效的方法来求解线性方程组。
线性方程组迭代法是一种基于迭代思想的求解线性方程组的方法。
其基本思想是通过构造一个序列{xn}，使得序列中的每一项都逼近解向量x。
通过不断迭代，可以最终得到解向量x的一个近似解。
常用的线性方程组迭代法有雅可比迭代法、高斯-赛德尔迭代法和逐次超松弛迭代法等。
雅可比迭代法是其中的一种较为简单的迭代法。
其基本思想是通过分解系数矩阵A，将线性方程组AX=b转化为x=Tx+c的形式，其中T是一个与A有关的矩阵，c是一个常向量。
然后，通过不断迭代，生成序列xn，并使序列中的每一项都逼近解向量x。
高斯-赛德尔迭代法是雅可比迭代法的改进方法。
其核心思想是利用当前迭代步骤中已经求得的近似解向量的信息。
具体而言，每次迭代时，将前一次迭代得到的近似解向量中已经计算过的分量纳入计算，以加速收敛速度。
相比于雅可比迭代法，高斯-赛德尔迭代法的收敛速度更快。
逐次超松弛迭代法是高斯-赛德尔迭代法的改进方法。
其核心思想在于通过引入一个松弛因子ω，将高斯-赛德尔迭代法中的每次迭代变为x[k+1]=x[k]+ω(d[k+1]-x[k])的形式，其中d[k+1]是每次迭代计算得到的近似解向量的一个更新。
逐次超松弛迭代法可以根据问题的特点调整松弛因子的值，以获得更好的收敛性。
除了以上提到的三种迭代法，还有一些其他的线性方程组迭代法，如SOR迭代法、共轭梯度法等。
这些方法都具有不同的特点和适用范围，可以根据问题的具体情况选择合适的迭代法。
数值分析课件第3章
x
y
2 4 6
8 6 4 2
骄行札或务旷恰洗大而非仆椒鸿孜襟儡和跟浪陪痕骚树认邻异镍屠丰逃臃数值分析课件第3章数值分析课件第3章
初每孟缅家邱拙货另崇屎慑芝骋磨雨鹏苯核碉断策占悲异贺碴察鸿旧岿父数值分析课件第3章数值分析课件第3章
例3-4 已知实测数据表如下,确定数学模型 y=aebx, 用最小二乘法确定a，b。
帜尸砚损讹祖邱帆迄攫让汕芽柔造兔优伐具猪购冈琅高蹄熊嫌第凸貉楚章数值分析课件第3章数值分析课件第3章
伸姜积升斯钳更相傍抒匣替讯蔽炽恋喉爱著殷都皂孵羌邹捞谎寐池骇织狱数值分析课件第3章数值分析课件第3章
i
0 1 2 3 4
拙猪囤犀缎孩甸萤捷褐番舍倪酌月迢飘沟锰乡橙波旗骨渠虎偷朋袒夹惹胳数值分析课件第3章数值分析课件第3章
新隆培润已描苍淬霖绪册防嚷拇痘掂腹坏蕉吁咳洞烷携敦玻腔同翻坎镀讨数值分析课件第3章数值分析课件第3章
宽烹呼境眺泡狞瑞怕敝斧厨寞贝砚妄特痒福踊阁监桐却挠伸井竟哇含野劲数值分析课件第3章数值分析课件第3章
囊铭徒庄裸课爹压屏滴插百盗万武廷校船卿肪没弹溃想镊茨壳峨孽信骗跨数值分析课件第3章数值分析课件第3章
i
0 1 2 3 4
xi yi yi
1.00 1.25 1.50 1.75 2.00 5.10 5.79 6.53 7.45 8.46 1.629 1.756 1.876 2.008 2.135
3.1基本概念
x0
x
x
x
x
x
x
x
f(x)
p(x)
虐座韦龄椽加腕槽晶僵壤漱键椒赏琢芭尊校榆唤著里钙治纹改瞥宁岁坛草数值分析课件第3章数值分析课件第3章
2、范数与赋范线形空间
数值分析--第三章--迭代法
数值分析--第三章--迭代法迭代⼀般⽅程：本⽂实例⽅程组：⼀.jacobi迭代法从第i个⽅程组解出xi。
线性⽅程组Ax=b，先给定⼀组x的初始值，如[0,0,0]，第⼀次迭代，⽤x2=0，x3=0带⼊第⼀个式⼦得到x1的第⼀次迭代结果，⽤x1=0,x3=0,带⼊第⼆个式⼦得到x2的第⼀次迭代结果，⽤x1=0,x2=0带⼊第三个式⼦得到x3的第⼀次迭代结果。
得到第⼀次的x后，重复第⼀次的运算。
转化成⼀般的形式：（其中L是A的下三⾓部分，D是A的对⾓元素部分，U 是上三⾓部分）得到迭代公式：其中的矩阵B和向量f如何求得呢？其实，矩阵B的计算也很简单，就是每⾏的元素/该⾏上的对⾓元素⼆.Gauss-Seidel迭代法【收敛速度更快】这个可以和jacobi法对⽐进⾏理解，我们以第⼆次迭代为例（这⾥的第⼀次迭代结果都⽤⼀样的，懒得去换）从上表对⽐结果可以看出，Jacobi⽅法的第⼆次迭代的时候，都是从第⼀次迭代结果中，获取输⼊值。
上⼀次迭代结果[2.5,3.0,3.0]，将这个结果带⼊上⾯式⼦1，得到x1=2.88，；将[2.5,3.0,3.0]替换成[2.88,3.0,3.0]带⼊第⼆个式⼦的运算，这⾥得到x2=1.95，所以把[2.88,3.0,3.0]替换成[2.88,1.95,3.0]输⼊第三个式⼦计算X3=1.0.这就完成了这⼀次的迭代，得到迭代结果[2.88,1.95,1.0],基于这个结果，开始下⼀次迭代。
特点：jacobi迭代法，需要存储，上⼀次的迭代结果，也要存储这⼀次的迭代结果，所以需要两组存储单元。
⽽Gauss-Seidel迭代法，每⼀次迭代得到的每⼀个式⼦得到的值，替换上⼀次迭代结果中的值即可。
所以只需要⼀组存储单元。
转化成⼀般式：注意：第⼆个式⼦中的是k+1次迭代的第⼀个式⼦的值，不是第k次迭代得值。
计算过程同jacobi迭代法的类似三.逐次超松弛法SOR法上⾯仅仅通过实例说明，Jacobi和Seidel迭代的运算过程。
数值分析第三章小结
矩阵的特征值和特征向量的计算线性代数中对于x Ax λ=,解该方程的特征值λ和特征向量x 的方法主要是使用数值解法,本章学习另外的方法用MATLAB 来编程解某个实矩阵的特征值和特征向量. 一、幂法和反幂法 1.乘幂法幂法主要用于计算矩阵的按模为最大的特征值和对应的特征向量。
（1）思想为: n n X X X u ααα+++= 22110])([2111101∑=-+===ni i ki i kkk k X X u A u A u λλααλ当k 取得足够大时,特征值向量得计算公式为: 特征值为:迭代格式为之一⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧=====∈-------- ,2,1111111110k u y y A u uy u u R u k Tk k k k k k k k Tk k n βηη任取初始向量迭代格式之二⎪⎪⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎪⎪⎨⎧=======------≤≤- ,2,1)sgn(),,,(max ),,,(任取初始向量)()1()()(2)(11)1(11)1(1)1()0()0(2)0(10k h h h h h y A u h u y h h h h h u k r k r k Tk n k k k k k r k k k j nj k r Tn β两种迭代格式相比较, 格式一编程容易, 迭代一次所需时间也短, 迭代格式二迭代时间长, 但它在计算过程中舍入误差的影响较格式一小。
幂法的缺点是如果矩阵A 的特征根有重根时不能用。
2、反幂法目的同乘幂法, 用于计算矩阵的按模为最大的特征值和对应的特征向量。
反幂法的迭代格式为⎪⎪⎪⎪⎩⎪⎪⎪⎪⎨⎧=====∈-------- ,2,1任取初始向量111111110k u y y A u uy u u R u k T k k k k k k k k Tk k n βηη3.带原点位移的反幂法迭代格式为 ,2,1)max(11=⎪⎪⎩⎪⎪⎨⎧===--k m y u y m u A y k kkk k k k三、Jacobi 方法和QR 方法Jacobi 方法主要用于求实对称矩阵的全部特征值和特征向量的一种方法,所以个人觉得雅克比法更为现实更为有用。
数值分析第三章
2
(4) 若Xn和X都是实 则 都是实r.v.,则 都是实
lim E (e
n →∞
jtX n
) = E (e
jtX
)
即ϕ X n (u ) → ϕ X (u )
3．均方收敛判定准则 ．
定理（ 准则） 定理（Cauchy准则）设 { X n , n = 1, 2,L} ⊂ H , 准则 则{Xn}均方收敛的充要条件是 均方收敛的充要条件是
2
2 2
2
2
0 ≤ D( X − Y ) = E X − Y − E ( X − Y ) = − E ( X − Y ) ≤ 0
于是 P( X − Y = c) = 1 以概率1等于常数 也就是 以概率 等于常数c,也就是 等于常数
2
从而 X − Y
2
E X −Y = c 1= 0
即 c=0
以概率1等于常数 等于常数0,也就是 故 X − Y 以概率 等于常数 也就是
aX +bY ∈H,
证明 E aX + bY = E (aX + bY )(aX + bY )
2
= E ( aX + bY )( aX + bY ) = E ( aX + bY + aXbY + aX bY )
2 2
aXbY + aXbY = 2R =2R aXbY) e(
= E a X + E b Y + E 2 Re(aXbY )
2
2
≤ E Xm − X + E Xn − X
2
1 2
2 2
+ 2E X m − X E X n − X
2
数值分析第三章小结
第三章矩阵特征值与特征向量的计算--------学习小结一、本章学习体会本章我们学习了矩阵特征值与特征向量的计算方法即幂法、反幂法、Jacobi方法和QR方法。
下边介绍一下四种方法各自的特点和适用范围。
幂法：主要用于计算矩阵按模最大的特征值及其相应的特征向量；反幂法：主要用于计算矩阵按模最小的特征值及其相应的特征向量；Jacobi法：用于求实对称矩阵的全部特征值和特征向量的方法；QR法：则适用于计算一般实矩阵的全部特征值，尤其适用于计算中小型实矩阵的全部特征值。
归结起来，这四种方法有一个共同的特点，即都是用了迭代的方法来求矩阵的特征值和特征向量。
还有利用用MATLAB自带的解法求解特征值和特征向量，其自带函数Eig即得到结果是虚数也可以算出，并且结果自动正交化。
二、本章知识梳理在工程技术中，计算矩阵的特征值和特征向量主要使用数值解法。
本章将阐述幂法、反幂法、Jacobi 方法、和QR 方法，并且只限于讨论实矩阵的情况。
3.1 幂法和反幂法（1）幂法幂法主要用于计算矩阵的按模为最大的特征值和相应的特征向量，其思想是迭代。
设n ⨯n 实矩阵A 具有n 个线性无关的特征向量,,...,,321n x x x x 其相应的特征值n λλλ...21，，满足如下不等式 n λλλλ≥≥≥> (321)其中i i i x Ax λ= ）。
（n i ,...2,1=现在要求出1λ和相应的特征向量。
任取一n 维非零向量0u ，从0u 出发，按照如下的递推公式 1-=k k Au u ），，（...21=k 因n 维向量组n x x x ,...,21线性无关，故对于向量0u ，必存在唯一的不全为零的数组n ααα,...,21，使得n n x x x u ααα...22110++=n k n k k k k k k x A x A x A u A u A Au u ααα+++=====--......22110221=⎥⎥⎦⎤⎢⎢⎣⎡⎪⎪⎭⎫ ⎝⎛++⎪⎪⎭⎫ ⎝⎛+=+++n kn n k kn k n n k k x x x x x x 12122111222111......λλαλλααλλαλαλα 设01≠α。
数值分析第3章108页
3.1.1 函数逼近与函数空间
问题 1、数值计算中经常要计算函数值，如计算机中计算 基本初等函数及其他特殊函数；
2、当函数只在有限点集上给定函数值，要在包含该 点集的区间上用公式给出函数的简单表达式.
这些都涉及到在区间 [上a, b用] 简单函数逼近已知复杂 函数的问题， 这就是函数逼近问题.
称为连续函数空间.
2
函数类B通常为 n次多项式，有理函数或分段低次多项 式等.
数学上常把在各种集合中引入某些不同的确定关系称为 赋予集合以某种空间结构，并将这样的集合称为空间.
例如将所有实 n维向量组成的集合，按向量加法及向量 与数的乘法构成实数域上的线性空间， 记作 R n ，称为 n维 向量空间.
9
定义2 设 S为线性空间，xS，若存在唯一实数‖·‖， 满足条件：
（1） x 0, 当且仅当 x 0 时，x 0; （正定性）
（2） xx, R;
(齐次性)
（3） xyxy, x,y S . (三角不等式)
则称‖·‖为线性空间 S上的范数，S与‖·‖一起称为赋范
线性空间，记为 X .
10
例如，在 R n上的向量 x (x1,,xn)T R n,三种常 用范数为
，
n
其元素
p(x)Hn 表示为
p (x ) a 0 a 1 x a n x n ,
（1.2）
它由n 1个系数(a0,a1,,an) 唯一确定.
1, x, , xn 是线性无关的，它是 H n 的一组基，故
H nspan{ 1 ,x,L,xn},
且 (a0,a1,,an)是 p( x) 的坐标向量，H n 是 n 1维的.
满足‖·‖∞ =1 ，即 max1 x ,x{ 2}1 的向量为单位正 方形，
计算方法 数值分析 第三章考点总结CH.3
第三章 解线性方程组的迭代法解线性方程组：10,(,......,)Tn Ax b x x x -== 将方程组变形为1,(,......,)T n x Bx f x x x =+= 的形式 移项法111213112122232231323333a a a x b a a a x b a a a x b ⎡⎤⎛⎫⎛⎫⎪ ⎪⎢⎥=⇒ ⎪ ⎪⎢⎥ ⎪ ⎪⎢⎥⎣⎦⎝⎭⎝⎭131211111111123212222222223331323333333000a a b a a ax x a a b x x a a a x xaa b a a a ⎛⎫⎛⎫ ⎪ ⎪ ⎪ ⎪⎛⎫⎛⎫ ⎪ ⎪ ⎪ ⎪=-+ ⎪ ⎪ ⎪⎪ ⎪ ⎪⎪⎪⎝⎭⎝⎭ ⎪ ⎪⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭很容易推广到n 阶简单迭代法（Jacobi 迭代法）1122(,,......,)nn D diag a a a =迭代：11100()1,2,...k k x B x f B I D A f D b k +--=+=--== 0x ：初值，任意。
分量式：(1)()11()nk k ii ij j j ii j ixb a x a +=≠=-∑ 1,2,...,i n = ,L U 分别表示A 的下三角和上三角部分（不含对角线）。
A=D+L+U10();0()ij n n ij ij ij L l l a i j l i j B D L U ⨯-==>=≤=-+迭代次数的控制：迭代到1*(1)k k k xx x x ε++-<≈ 取(1)()(1)1()1?()k k k k x x x I D A x D b ++---==-- (1)()1()1()()k k k k x x D Ax b D r +---=-=前述()*()()||||k k x x r cond A xb -≤，控制()()*,()k k rx x cond A - 与有关，对病态方程组，可能ε很小而解的精度不高。
数值分析课件(第3章)
“最好”函数。
定义3.2 以“偏差的平方和达到最小”作为原则来选择近似 函数的方法称为最小二乘法。
例3-1 已知一组数据如下表所示,用单变量数据拟合法求其拟 合函数.
x -1 0 1 2 3 4 5 6
y f (x) 10 9 7 5 4 3 0 -1
解
先画出散点图(如图3-1所示).
从图3-1可以看到，点 (xi , yi ) (i1,2, ,8) 在一条直线附近， 这些点大体上满足直线方程。因此，可以选择线性函数来拟
表中数据的一般趋势，然后使用最小二乘法来确定其中的未
知参数，从而得到的近似函数 F(x).
F(x) 通常称为拟合函数，f (x) 通常称为被拟合函数。
什么是“最F好(”x) 的函不数一，定“要最经好过”点的函(x数i , y以i ) 什么标准来 衡量?
定义3.1 若记 i f(xi)F(xi) (i1,2,,n)，则称
若假设这些自变量为 x1,x2,,xk和因变量为y ，则每经过一次
实验或测量就会得到一组数据 x1,x2,,xk,y ，而经过n次实验 或测量就会得到n组数据，由这n组数据构成一个数据表:
第m次实验或测量
x1
1
x11
2
x21
…
…
x2
…
x12
…
x22
…
……
xk yf(x1,x2, ,xk)x1ky1x来自kns1 x i
i 1
n
s3 xi 2 i 1
n
s2 yi i 1
n
s4 xi yi i 1
a ③ 解正规方程组
na s1a
数值分析第三章Ch3
则 ρ(x) 称为 [a, b] 上的一个权函数。
数值逼近
数值分析
. . . .... .... .... . .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. ..
15/88
. .. . .. .. ..
则 ρ(x) 称为 [a, b] 上的一个权函数。
10/88
. .. . .. .. ..
设 S 是一个内积空间，u1, . . . , un ∈ S，
矩阵
G
=
((uu11,,...
u1) u2)
(u2, u1)
(u2, u2) ...
··· ···
(un,
(un, ...
uu12))
(u1, un) (u2, un) · · · (un, un) 称为格拉姆 (Gram) 矩阵。
间
[−π, π]族。 . . . .... .... .... .
.. .. .. .. .. .. .. .. .. .. .. .. .. .. .. .. ..
数值逼近 数值分析
19/88
. .. . .. .. ..
称多项式序列{φn}∞ n=0 是带权 ρ(x) 正 交的，如果每个 φn 是首项系数 an ̸= 0 的 n 次多项式，且 {φn}∞ n=0 是带权 ρ(x) 的正交函数族。
. .. . .. .. ..
. .四、最佳逼近
函数逼近主要讨论给定 f ∈ C[a, b]，求最
佳逼近多项式。若 P ∗(x) ∈ Hn，使误差 ∥f (x) − P ∗(x)∥ = min ∥f (x) − P (x)∥，则
P ∈Hn
称 P ∗(x) 是 f (x) 在 [a, b] 上的n 次最佳逼
《数值分析》课件-第三章
数值分析
A为正交矩阵的充要条件是下列条件之一成立：
1 A1 AT ;
2 AAT AT A E;
3 A的列向量是两两正交的单位向量; 4 A的行向量是两两正交的单位向量.
正交矩阵的性质
(1) A是正交阵,则A是非奇异的,det( A) 1;
(2) A是正交阵,则AT A1也是正交阵，且同阶 正交阵的乘积仍是正交阵；
( , ) 由Schwarz不 等 式 可 以 证 明 内 积 范数 公 理 中 的 三 角 不 等 式.
证明：三角不等式
证：在内积空间V中, , V , 有 2 ( , ) ( , ) 2( , ) ( , ) 2 2 2 ( )2 所以
数值分析
数值分析
定理2-6 : (Cauchy Schwarz不等式)
设 , 是内积空间V中任意两个向量,则有 ( , )2 ( , )( , )
等号只有当且仅当和 是线性相关时才成立.
证明 : 任取实数k, 考虑内积
( k , k ) ( , ) 2k( , ) k 2( , ) 0 利用一元二次方程根的判别式, 有4( , )2 4( , )( , ) 0 所以有( , )2 ( , )( , ) 当 k (k R,非 零),显 然 定 理 中 等 号 成 立;反 之, 如 果 等 号 成 立,则 , 必 线 性 相 关.因 为 若 , 线 性 无 关,则k R, 非 零, 都 有 k 0.从 而( k , k ) 0 所 以 等 号 不 成 立,矛 盾.
数值分析
第三章
数值分析
数值分析
第一节 内积空间与内积空间中的正交系
一、内积和内积空间的基本概念
定义2-12:设V是实数域R上的线性空间,如果α,β V
数值分析-第三章小结
姓名 班级 学号第三章 非线性方程的数值解法一、学习体会本章主要介绍了非线性方程组的方程根的解法，求方程根的步骤，由于非线性方程组只有少数类型能解出根的解析表达式，只能用数值方法求出它的近似值。
求解非线性方程组的方法有作图法等，求根的方法有二分法、迭代法、牛顿法、割线法等。
在学习过程当中，我们要注意各种方法的特点与使用范围，针对不同场合下的非线性方程组，选择合适的方法有利于我们快速准确的得到所要求的结果。
二、知识梳理非线性方程的迭代解法1、对分法对分法的算法步骤如下：对k=0，1……，M 执行（1）计算k 2a kk x b +=； （2）()k f x ε<或者2k k b a ε-<则停止计算。
取s=k x ，否则转（3）； （3）若f(k a )f (k x )〈0，令k+1k+1k k a =b =a x ，，；若f(k a )f (k x )〉0则有k+1k+1k k a =b =b x ，，； （4）若k=M ，则输出M 次迭代不成功的信息；否则继续。
2、简单迭代法及其收敛性定理1：设函数()[,]x C a b ϕ∈,在(a,b)内可导,且满足两个条件:（1）当[,]x a b ∈时, ()[,]x a b ϕ∈；（2）当(,)x a b ∈时, |'()|1x L ϕ≤<, 其中L 为一常数。
则有如下结论:（1）方程=()x x ϕ在区间[,]a b 上有唯一的根s ；（2）对任取0[,]x a b ∈，简单迭代法1=()k k x x ϕ+产生的序列{}[,]k x a b ⊂且收敛于s ；（3）成立误差估计式101|-|||1|-|||1kk k k k L s x x x L L s x x x L-≤--≤-- 定理2 设=()s s ϕ，'()x ϕ在包含s 的某个开区间内连续。
如果|'()|<1s ϕ，则存在0δ>，当0[,]x s s δδ∈-+时，由简单迭代法1=()k k x x ϕ+产生的序列{}[,]k x s s δδ⊂-+且收敛于s 。
数值分析第三章线性方程组的迭代法课件
§ 3.3.2 Gauss—Seidel 迭代法的矩阵表示
将A分裂成A =D+L+U，则Ax b 等价于
(D+L+U )x = b
于是,则高斯—塞德尔迭代过程
Dx(k1) Lx(k1) Ux(k) b
因为 D 0 ,所以 D L D 0
故
(D L)x(k1) Ux(k) b
x(k1) (D L)1Ux(k) (D L)1b
e(k) x(k) x* Gx(k1) d (Gx* d) G(x(k1) x* ) Ge(k1)
于是 e(k) Ge(k1) G 2e(k2) Gk e(0)
由于 e (0)可以是任意向量,故 e(k) 收敛于0当且仅
故 (D L)x(k1) (1)D U x(k) b
显然对任何一个ω值,(D+ωL)非奇异, (因为假设 aii 0,i 1,2,, n )于是超松弛迭代公式为
x(k1) (D L)1 (1)D U x(k) (D L)1b
令 L (D L)1 (1)D U
f (D L)1b
则超松弛迭代 公式可写成
称为雅可比迭代公式, B称为雅可比迭代矩阵
雅可比迭代矩阵表示法，主要是用来讨论其收敛 性，实际计算中，要用雅可比迭代法公式的分量 形式。即
x1(k 1)
1 a11
(a12 x2(k )
a13 x3(k )
a1n xn(k )
b1 )
x2(k 1)
1 a 22
(a21 x1(k )
a23 x3(k )
§ 3.4.2超松弛迭代法的矩阵表示 设线性方程组 Ax=b 的系数矩阵A非奇异,且主对角
元素 aii 0(i 1,2,, n) , 则将A分裂成
数值分析(颜庆津)第三章 学习小结
第三章 矩阵特征值与特征向量的计算--------学习小结一、 本章学习体会通过本章的学习，我们学到了四种矩阵特征值和特征向量的计算方法，分别是幂法、反幂法、Jacobi 方法和QR 方法。
四种方法各有其特点和适用范围。
幂法主要用于计算矩阵按模最大的特征值及其相应的特征向量；反幂法主要用于计算矩阵按模最小的特征值及其相应的特征向量；Jacobi 方法用于求实对称矩阵的全部特征值和特征向量的方法；QR 方法则适用于计算一般实矩阵的全部特征值，尤其适用于计算中小型实矩阵的全部特征值。
归结起来，这四种方法亦有其共同点，那就是都是用了迭代的方法来求矩阵的特征值和特征向量。
此外，用MA TLAB 自带的解法求解特征值和特征向量也非常快速，而且不用编辑函数建立m 文件。
其自带函数Eig 功能强大，即便得到结果是虚数也可以算出，并且结果自动正交化。
二、 本章知识梳理本章对于矩阵的特征值和特征向量的算法提出了新的思路，如幂法和反幂法、Jacobi 、QR 方法等。
本章的小结主要从方法的思想，以及一些定理展开。
2.1各种方法的运用范围1、幂法：主要用于计算矩阵按模最大的特征值和其相应的特征向量；2、反幂法：主要计算矩阵按模最小的特征值以及其相应的特征向量；3、Jacobi 方法:用于求实对称矩阵的全部特征值和特征向量的方法；4、QR 方法：适用于计算一般实矩阵的全部特征值，尤其适用于计算中小型实矩阵的全部特征值。
2.2各种方法的基本思想以及迭代公式 1.幂法幂法的基本思想：设n×n 实矩阵A 具有n 个线性无关的特征向量n x x x ,....,,21，其相应的特征值,,...,21n λλλ满足不等式n λλλλ≥≥>....321，其中iix i Ax λ=)...,3,2,1(n i =。
任取一n 维非零向量u 0，从u 0出发，按照如下的递推公式...)2,1(1===k Au u k k因n 维向量组n x x x ,....,,21线性无关，故对向量u 0必存在唯一的不全为0的数组a 1,a 2,...,a n ,使得n n x a x a x a u +++= (22110)])(...)([ (1)212211122211122110221n n n k n kn n k k n k n k k k k k k x a x a x a x a x a x a x A a x A a x A a u A u A Au u λλλλλλλλ+++=+++=+++=====--设a 1≠0,由上式可以看出，当k 充分大时有111x a u kkλ≈得迭代公式：9u A u k k = （1）从实际中来看，为了避免迭代向量u k 的模过大，（当11>λ）或过小（当11<λ），通常对u kj 进行归一化，使其范数等于1。
数值分析第三章
不为零.最后,由的非奇异性得到
an(nn)3(3 3亦)不, 为零.an(n1),n1
,均
三峡大学理学院 杜廷松
9
定理3.2.1
如果方程组(2.1)的系数矩阵为非奇异,则它可 以通过高斯消去法进行求解．
例2.1 用高斯消去法解方程组
x1 2x2 x3 0
2x1 2x2 3x3 3
x1
下面具体阐述消元与回代过程.
三峡大学理学院 杜廷松
5
1 .消元过程
第一步：若
a (1) 11
0 ,可对
i 2,3,
, n 进行如下计
算，令
li1
a (1) i1
/
a (1) 11
，用li1 乘方程(2.1
)两边的第一
行加到第i行中去，得到
( A(2) , b(2) )
0a1(11)
a (1) 12
本章先讨论一些最基本的直接法，并在此基 础上讨论它的变形情况，并分析其误差，之后, 再讨论线性代数方程组的迭代法.
三峡大学理学院 杜廷松
2
§3.2 Gauss消去法
一 、高斯消去法的基本思想 二 、列主元高斯消去法
三峡大学理学院 杜廷松
3
一 、高斯消去法的基本思想
考虑 n 阶线性代数方程组
a11x1 a12 x2 a1n xn b1 .a..2.1.x..1.....a..2.2.x..2............a..2..n.x..n.....b..2.... an1x1 an2 x2 ann xn bn
jk 1
A 如果在消元过程的第一步中a1(11) 0 ,由于矩阵 非奇异,所
i 以过在对方A程(1) 两的边第进—行列第中一至行少与有第一个1元行素的行ai11交 0换,，于将是可ai1以1 通,
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
7
执行步骤
1．计算f (x)在有解区间[a, b]端点处的值，f (a)，f (b)。
2．计算f (x)在区间中点处的值f (x0)。 3．判断若f (x0) = 0，则x0即是根，否则检验：
（1）若f (x0)与f (a)异号，则知解位于区间[a, x0]， b1=x0, a1=a;
（2）若f (x0)与f (a)同号，则知解位于区间[x0, b]， a1=x0, b1=b。
分析
1. “实根”两侧f(x)反号
a
2. “实根”同侧f(x)同号
3. 若: f(x1)f(x2)反号，则 “实根”在x1和x2之间
y = f(x) bx
方法
逐步缩小“有根区间”
原理：若 f C[a, b]，且 f (a) · f (b) < 0，则 f 在 (a, b) 上必有一根。
2020/10/1
对于一般形式的方程 f ( x) 0先将方程化为
x g(x)
思 路
再从某一数 x0 出发，作序列
xk1 g( xk ) , k 0,1, 2,
若序列
xk
有极限，即lim k
xk
a
则可得a g(a) 即 f (a) 0 亦即a是方程的根。
第二章 非线性方程求根
/* Solutions of Nonlinear Equations */
求 f (x) = 0 的根
2020/10/1
1
求根问题包括下面三个问题：
• 根的存在性：即f(x)=0有没有根？若有，
有
几个根？
• 哪儿有根？确定有根区间
• 根的精确化：已知一个根的近似值后，能 否
numerical method
analytical method
2020/10/1
5
求实根近似值的常用方法
1、二分法 2、迭代法 3、牛顿法 4、弦截法
2020/10/1
6
§ 二分法 /* Bisection Method */
问题
y
求连续函数 y = f(x) 在区间[a,b]上
的唯一实根 y = 0
反复执行步骤2、3，便可得到一系列有根区间： (a, b), (a1, b1), …, (ak, bk), …
2020/10/1
求方程 -
x2-2x-1=0 +
2
-
+
2
2.5
-+
2 2.25 2.5
-+
2
2.375 2.5
-+
2
2.375 2.4375
的一个正的近似解 （精确到0.1）
3 f(2)<0，f(3)>0 2<x1<3 f(2)<0，f(2.5)>0 2<x1<2.5
有 (2n + 1) 个根时
例：已知 f(x)在[0,)上连续，且 f(0)>0， f()<0。 欲求x尽可能小的根。
求解过程
尝试： f(1) > 0 尝试： f(5) > 0 尝试： f(10) < 0
二分法： f(8) = 0
杜绝教条主义
y
但是，实际曲线 0
5
10 x
迭代法
•迭代法是数值计算中一种典型的重要方法，尤其是计算机的普遍使用， 使迭代法的应用更为广泛。
将它精确到足够精度？
问题的提出
方程：y = f (x) 方程的根：x = ? y = 0
y = 3x - 2 (x = 2/3) y = x2 - 2x + 1 (x = 1) y = 6.7410-3 - exp(-5000/x) 非线性问题 (x 1000)
y y = f (x)
x=?
0
x
x
在计算中步长h要适当取小一些,若h过长则容易丢根(若在区间范围内有两 相邻函数值符号相同而判定无根)
若间隔h值太小,则影响计算速度。
应用二分法求解
f(x) 在[a,b]上连续
f(a)f(b)<0
“数学”上是正确的， 但作为一种“数学方法”， 应用于实际的“科学问题”时， 不是“放之四海而兼准”的。
ba 2k 1
ε
k ln b a ln ε 1
ln 2
2020/10/1
11
①简单; ② 对f (x) 要求不高(只要连续即可) .
①无法求复根及偶重根 ② 收敛慢
2020/10/1
12
例：求下列方程位于区间[1,1.5]内的一个根
f (x) x3 x 1 0
k
ak
bk
xk
f (xk)的符号
1
1
1.5
1.25
-
2
1.25
1.5
1.375
+
3
1.25
1.375
1.3125
-
4
1.3125
1.375
1.3438
+
5
1.3125
1.3438
1.3281
+
6
1.3125
1.3281
1.3203
-
7
1.3203
1.3281
1.3242
2020/10/1
13
多根的求法
运用零点定理可以得到如下逐步搜索法：
•所谓迭代法就是用某种收敛于所给问题的精确解的极限过程来逐步逼近 的一种计算方法，从而可以用有限个步骤算出精确解的具有指定精度的 近似解。简单说迭代法是一种逐步逼近的方法。
循环迭代，用上一轮结果计算下一轮数据。
2020/10/1
18
§ 迭代法 /* Fixed-Point Iteration */
xk1 xk ε1 或 f ( x) ε2
不能保证 x 的精度
2
x*
x
2020/10/1
10
误差 分析：
x0
a
2
b
有误差
ba | x0 x* | 2
第1步产生的
x1
有误差
|
x1
x*
|
b
4
a
第 k 步产生的 xk 有误差
|
xk
x*
|
ba 2k 1
对于给定的精度 ,可估计二分法所需的步数 k ：
3
3 f(2.25)<0，f(2.5)>0 2.25<x1<2.5 f(2.375)<0，f(2.5)>0 2.375<x1<2.5
3
f(2.375)<0，f(2.4375)>0 2.375<x1<2.4375
3
每个有根区间的长度都是前一个有根区间长度的一半
When to stop? a
xa1 x* xb2 b
先确定方程f(x)=0的所有实根所在的区间为[a,b],从x0=a 出发, 以步长
h=(b-a)/n 其中n是正整数，在[a,b]内取定节点：
xi=x0＋ih (i=0,1,2，……，n) 计算f(xi)的值,依据函数值异号及实根的个数确定隔根区间,通过调整步 长，总可找到所有隔根区间。
y
a o
b
2020/10/1
3
科学技术中常遇到高次代数方程或超越方程的求根问题。 大于4次的代数方程无求根公式。 因此需要研究函数方程求根问题的数值方法。
•例如：求解高次方程 7x6-x3+x-1.5=0的根。
求解含有指数和三角函数的超越方程的根。 ex-cos(x)=0
Why 数值计算 ？
根：数值
无解析方法