数值计算方法第一章

第一章 绪 论本章以误差为主线，介绍了计算方法课程的特点，并概略描述了与算法相关的基本概念，如收敛性、稳定性，其次给出了误差的度量方法以及误差的传播规律，最后，结合数值实验指出了算法设计时应注意的问题．§1.1 引 言计算方法以科学与工程等领域所建立的数学模型为求解对象，目的是在有限的时间段内利用有限的计算工具计算出模型的有效解答。

由于科学与工程问题的多样性和复杂性，所建立的数学模型也是各种各样的、复杂的. 复杂性表现在如下几个方面：求解系统的规模很大，多种因素之间的非线性耦合，海量的数据处理等等，这样就使得在其它课程中学到的分析求解方法因计算量庞大而不能得到计算结果，且更多的复杂数学模型没有分析求解方法． 这门课程则是针对从各种各样的数学模型中抽象出或转化出的典型问题，介绍有效的串行求解算法，它们包括(1) 非线性方程的近似求解方法； (2) 线性代数方程组的求解方法；(3) 函数的插值近似和数据的拟合近似； (4) 积分和微分的近似计算方法； (5) 常微分方程初值问题的数值解法； (6) 优化问题的近似解法；等等从如上内容可以看出，计算方法的显著特点之一是“近似”． 之所以要进行近似计算，这与我们使用的工具、追求的目标、以及参与计算的数据来源等因素有关．计算机只能处理有限数据，只能区分、存储有限信息，而实数包含有无穷多个数据，这样，当把原始数据、中间数据、以及最终计算结果用机器数表示时就不可避免的引入了误差，称之为舍入误差．我们需要在有限的时间段内得到运算结果，就需要将无穷的计算过程截断，从而产生截断误差． 如 +++=!21!111e 的计算是无穷过程，当用!1!21!111n e n ++++= 作为e 的近似时，则需要进行有限过程的计算，但产生了截断误差e e n -．当用计算机计算n e 时，因为舍入误差的存在，我们也只能得到n e 的近似值*e ，也就是说最终用*e 近似e ，该近似值既包含有舍入误差，也包含有截断误差．当参与计算的原始数据是从仪器中观测得来时，也不可避免得有观测误差． 由于这些误差的大量存在，我们得到的只能是近似结果，进而对这些结果的“可靠性”进行分析就是必须的，它成为计算方法的第二个显著特点． 可靠性分析包括原问题的适定性和算法的收敛性、稳定性．所谓适定性问题是指解存在、惟一，且解对原始数据具有连续依赖性的问题． 对于非适定问题的求解，通常需要作特殊的预处理，然后才能做数值计算． 在这里，如无特殊说明，都是对适定的问题进行求解．对于给定的算法，若有限步内得不到精确解，则需研究其收敛性． 收敛性是研究当允许计算时间越来越长时，是否能够得到越来越可靠的结果，也就是研究截断误差是否能够趋于零．对于给定的算法，稳定性分析是指随着计算过程的逐步向前推进，研究观测误差、舍入误差对计算结果的影响是否很大．对于同一类模型问题的求解算法可能不止一种，常希望从中选出高效可靠的求解算法． 如我国南宋时期著名的数学家秦九韶就提出求n 次多项式0111a x a x a x a n n n n ++++-- 值的如下快速算法n a s =；k n a t -=；t sx s += ),,2,1(n k = 它通过n 次乘法和n 次加法就计算出了任意n 次多项式的值． 再如幂函数64x 可以通过如下快速算法计算出其值x s =；s s s ⋅=；循环6次如上算法仅用了6次乘法运算，就得到运算结果．算法最终需要在计算机上运行相应程序，才能得到结果，这样就要关注算法的时间复杂度(计算机运行程序所需时间的度量)、空间复杂度(程序、数据对存储空间需求的度量)和逻辑复杂度(关联程序的开发周期、可维护性以及可扩展性)． 事实上，每一种算法都有自己的局限性和优点，仅仅理论分析是很不够的，大量的实际计算也非常重要，结合理论分析以及相当的数值算例结果才有可能选择出适合自己关心问题的有效求解算法． 也正因如此，只有理论分析结合实际计算才能真正把握准算法．§1.2 误差的度量与传播一、误差的度量误差的度量方式有绝对误差、相对误差和有效数字．定义1.1 用*x 作为量x 的近似，则称)(:**x e x x =-为近似值*x 的绝对误差． 由于量x 的真值通常未知，所以绝对误差不能依据定义求得，但根据测量工具或计算情况，可以估计出绝对误差绝对值的一个较小上界ε，即有ε≤-=x x x e **)( (1.1) 称正数ε为近似值*x 的绝对误差限，简称误差． 这样得到不等式εε+≤≤-**x x x工程中常用ε±=*x x表示近似值*x 的精度或真值x 所在的范围．误差是有量纲的，所以仅误差数值的大小不足以刻划近似的准确程度． 如量m m cm s μ50001230000005.023.15.0123±=±=±= (1.2)为此，我们需要引入相对误差定义1.2 用0*≠x 作为量x 的近似，称)(:**x e xx x r =-为近似值*x 的相对误差． 当*x 是x 的较好近似时，也可以用如下公式计算相对误差***)(xx x x e r -= (1.3) 显然，相对误差是一个无量纲量，它不随使用单位变化． 如式(1.2)中的量s 的近似，无论使用何种单位，它的相对误差都是同一个值．同样地，因为量x 的真值未知，我们需要引入近似值*x 的相对误差限)(*x r ε，它是相对误差绝对值的较小上界． 结合式(1.1)和(1.3)，*x 相对误差限可通过绝对误差限除以近似值的绝对值得到，即***)()(x x x r εε= (1.4)为给出近似数的一种表示法，使之既能表示其大小，又能体现其精确程度，需引入有效数字以及有效数的概念．定义1.3 设量x 的近似值*x 有如下标准形式 p n m a a a a x 21*.010⨯±=()p m p n m n m m a a a a ----⨯++⨯++⨯+⨯±101010102211 ＝(1.5)其中}9,,1,0{}{1 ⊂=p i i a 且01≠a ，m 为近似值的量级． 如果使不等式n m x x -⨯≤-1021* (1.6)成立的最大整数为n ，则称近似值*x 具有n 位有效数字，它们分别是1a 、2a 、… 和 n a ． 特别地，如果有p n =，即最后一位数字也是有效数字，则称*x 是有效数．从定义可以看出，近似数是有效数的充分必要条件是末位数字所在位置的单位一半是绝对误差限． 利用该定义也可以证明，对真值进行“四舍五入”得到的是有效数． 对于有效数，有效数字的位数等于从第一位非零数字开始算起，该近似数具有的位数． 注意，不能给有效数的末位之后随意添加零，否则就改变了它的精度．例1.1 设量π=x ，其近似值141.3*1=x ，142.3*2=x ，722*3=x ． 试回答这三个近似值分别有几位有效数字，它们是有效数吗？ 解 这三个近似值的量级1=m ，因为有312*110211021005.000059.0--⨯=⨯=≤=- x x413*2102110210005.00004.0--⨯=⨯=≤=- x x571428571428.3*3=x 312*310211021005.0001.0--⨯=⨯=≤=- x x所以*1x 和*3x 都有3位有效数字，但不是有效数． *2x 具有4位有效数字，是有效数．二、误差的传播这里仅介绍初值误差传播，即假设自变量带有误差，函数值的计算不引入新的误差． 对于函数),,,(21n x x x f y =有近似值),,,(**2*1*n x x x f y =，利用在点),,,(**2*1n x x x 处的泰勒公式(Taylor Formula)，可以得到)(),,,()(*1**2*1**i i ni n i x x x x x f y y y e -≈-=∑= )(),,,(*1**2*1i ni n i x e x x x f ∑== (1.7) 其中ii x ff ∂∂=:，*i x 是i x 的近似值，)(*i x e 是*i x 的绝对误差),,2,1(n i =． 式(1.7)表明函数值的绝对误差近似等于自变量绝对误差的线性组合，组合系数为相应的偏导数值．从式(1.7)也可以推得如下函数值的相对误差传播近似计算公式)(),,,()(***1**2*1*i r ini n i r x e y x x x x f y e ∑=≈ (1.8)对于一元函数)(x f y =，从式(1.7)和(1.8)可得到如下初值误差传播近似计算公式)()()(***x e x f y e '≈ (1.9))()()(*****x e yx x f y e r r '≈ (1.10)式(1.9)表明，当导数值的绝对值很大时，即使自变量的绝对误差比较小，函数值的绝对误差也可能很大．例1.2 试建立函数n n x x x x x x f y +++== 2121),,,(的绝对误差(限)、相对误差的近似传播公式，以及{}ni i x 1*0=>时的相对误差限传播公式．解 由公式(1.7)和(1.8)可分别推得和的绝对误差、相对误差传播公式如下∑∑==≈ni i ini ni x e x e x x x f y e 1**1**2*1*)()(),,,()(＝ (1.11)∑∑==≈ni i r i i r i ni ni r x e yx x e y x x x x f y e 1******1**2*1*)()(),,,()(＝ (1.12)进而有∑∑∑===≤≤≈ni in i in i ix x e x e y e 1*1*1**)()()()(ε于是有和的绝对误差限近似传播公式 ∑=≈ni i x y 1**)()(εε当{}ni i x 1*0=>时，由式(1.3)推得相对误差限的近似传播公式)(max )(max )(max )()()(*11***11***11****1**i r ni ni i ir n i ni i i r n i ni i r i ni ir x yx x y x x x y x yxy εεεεεε≤≤=≤≤=≤≤====≤=≈∑∑∑∑例1.3 使用足够长且最小刻度为1mm 的尺子，量得某桌面长的近似值3.1304*=a mm ，宽的近似值8.704*=b mm (数据的最后一位均为估计值)． 试求桌子面积近似值的绝对误差限和相对误差限．解 长和宽的近似值的最后一位都是估计位，尺子的最小刻度是毫米，故有误差限5.0)(*=a εmm ，5.0)(*=b εmm面积ab S =，由式(1.7)得到近似值***b a S =的绝对误差近似为)()()(*****b e a a e b S e +≈ 进而有绝对误差限55.10045.03.13045.08.704)()()(*****=⨯+⨯=+≈b a a b S εεε mm 2相对误差限 %11.00011.08.7043.130455.1004)()(***=≈⨯=≈S S S r εε§1.3 数值实验与算法性能比较本节通过几个简单算例说明解决同一个问题可以有不同的算法，但算法的性能并不完全相同，他们各自有自己的适用范围，并进而指出算法设计时应该注意的事项．算例1.1 表达式)1(1111+=+-x x x x ，在计算过程中保留7位有效数字，研究对不同的x ，两种计算公式的计算精度的差异．说明1：Matlab 软件采用IEEE 规定的双精度浮点系统，即64位浮点系统，其中尾数占52位，阶码占10位，尾数以及阶码的符号各占1位． 机器数的相对误差限(机器精度)eps=2－52≈2.220446×10－16，能够表示的数的绝对值在区间(2.2250739×10－308，1.797693×10308)内，该区间内的数能够近似表达，但有舍入误差，能够保留至少15位有效数字． 其原理可参阅参考文献[2, 4]．分析算法1： 111)(1+-=x x x y 和算法2： )1(1)(2+=x x x y 的误差时，精确解用双精度的计算结果代替． 我们选取点集301}{=i i π中的点作为x ，比较两种方法误差的差异．从图1.1可以看出，当x 不是很大时，两种算法的精度相当，但当x 很大时算法2的精度明显高于算法1． 这是因为，当x 很大时，x 1和11+x 是相近数，用算法1进行计算时出现相近数相减，相同的有效数字相减后变成零，于是有效数字位数急剧减少，自然相对误差增大． 这一事实也可以从误差传播公式(1.12)分析出． 鉴于此，算法设计时，应该避免相近数相减．在图1.2中我们给出了当x 接近1-时，两种算法的精度比较，其中变量x 依次取为{}3011=--i i π． 从图中可以看出两种方法的相对误差基本上都为710-，因而二者的精度相当．图1.1 算例1.1中两种算法的相对误差图（+∞→x ）图1.2 算例1.1中两种算法的精度比较)1(-→x算例1.2 试用不同位数的浮点数系统求解如下线性方程组⎩⎨⎧=+=+2321200001.02121x x x x 说明2：浮点数系统中的加减法在运算时，首先按较大的阶对齐，其次对尾数实施相应的加减法运算，最后规范化存入计算机．算法1 首先用第一个方程乘以适当的系数加至第二个方程，使得第二个方程的1x 的系数为零，这时可解出2x ；其次将2x 带入第一个方程，进而求得1x (在第三章中称该方法为高斯消元法)． 当用4位和7位尾数的浮点运算实现该算法，分别记之为算法1a 和算法1b ．算法 2 首先交换两个方程的位置，其次按算法1计算未知数 (第三章中称其为选主元的高斯消元法)． 当用4位和7位尾数的浮点运算实现该算法，分别记之为算法2a 和算法2b ．方程组的精确解为...25000187.01=x ，...49999874.02=x ，用不同的算法计算出的结果见表1.1．对于算例1.2，表中的数据表明，当用4位尾数计算时，算法1给出错误的结果，算法2则给出解很好的近似． 这是因为在实现算法1时，需要给第一个方程乘以00001.0/2－加至第二个方程，从而削去第二个方程中1x 的系数，但在计算2x 的系数时需做如下运算661610000003.0104.0103.0104.03200001.02⨯⨯⨯⨯=+⨯＋＝－＋－－(1.13)对上式用4位尾数进行计算，其结果为6104.0⨯－． 因为舍入误差，给相对较大的数加以相对较小的数时，出现大数“吃掉”小数的现象． 计算右端项时，需做如下运算661610000002.0102.0102.0102.02100001.02⨯⨯⨯⨯=+⨯＋＝－＋－－(1.14)同样出现了大数吃小数现象，其结果为6102.0⨯－． 这样，得到的变形方程组⎩⎨⎧⨯-=⨯-⨯=⨯+⨯62612114102.0104.0101.0102.0101.0x x x 中没有原方程组中第二个方程的信息，因而其解远偏离于原方程组的解． 该算法中之所以出现较大数的原因是因为运算00001.0/2－，因而算法设计中尽可能避免用绝对值较大的数除以绝对值较小的数． 其实当分子的量级远远大于分母的量级时，除法运算还会导致溢出，计算机终止运行．虽从单纯的一步计算来看，大数吃掉小数，只是精度有所损失，但多次的大数吃小数，累计起来可能带来巨大的误差，甚至导致错误． 例如在算法1a 中出现了两次大数吃小数现象，带来严重的后果． 因而尽可能避免大数吃小数的出现在算法设计中也是非常必要的．当用较多的尾数位数进行计算，舍入误差减小，算法1和2的结果都有所改善，算法1的改进幅度更大些．算例1.3 计算积分⎰+=1055dx x x I n 有递推公式),2,1(511 =-=-n I nI n n ，已知56ln 0=I ． 采用IEEE 双精度浮点数，分别用如下两种算法计算30I 的近似值．算法1 取0I 的近似值为6793950.18232155*0=I ，按递推公式*1*51--=n n I nI 计算*30I算法2 因为)139(5156)139(611039103939+⨯=<<=+⨯⎰⎰dx x I dx x ，取39I 的近似值为3333330.004583332001240121*39≈⎪⎭⎫ ⎝⎛+=I ，按递推公式⎪⎭⎫ ⎝⎛-=-**1151n n I n I 计算*30I 算法1和算法2 的计算结果见表1.2． 误差绝对值的对数图见图1.3．图1.3 算例1.3用不同算法计算结果的误差绝对值的对数图从表1.2中的计算结果可以看出，算法1随着计算过程的推进，绝对误差几乎不断地以5的倍数增长，即有0*02*221*1*555I I I I I I I I n n n n n n n -≈≈-≈-≈-----成立． 对于逐步向前推进的算法，若随着过程的进行，相对误差在不断增长，导致产生不可靠的结果，这种算法称之为数值不稳定的算法． 对于算法1绝对误差按5的幂次增长，但真值的绝对值却在不断变小且小于1，相对误差增长的速度快于5的幂次，导致产生错误的结果，因而算法1数值不稳定，不能使用． 而算法2随着计算过程的推进，绝对误差几乎不断地缩小为上一步的1/5，即有m m n m n n n n n n n I I I I I I I I 5/5/5/*22*21*1*++++++-≈≈-≈-≈-成立． 绝对误差不断变小，真值的绝对值随着过程向前推进却在变大，这样相对误差也越来越小，这样的方法称之为数值稳定的算法． 算法1和算法2的误差对数示意图见图1.3． 这个算例告诉我们应该选用数值稳定的算法．知识结构图⎪⎪⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎪⎪⎨⎧⎪⎩⎪⎨⎧⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎨⎧⎩⎨⎧⎪⎩⎪⎨⎧⎩⎨⎧算法设计要点数值方法的稳定性数值方法的收敛性算法多元函数一元函数传播有效数字相对误差（限）绝对误差（限）度量截断误差舍入误差误差的产生误差误差与算法 习题一1 已知有效数105.3*1-=x ，4*210125.0⨯=x ，010.0*3=x ． 试给出各个近似值的绝对误差限和相对误差限，并指出它们各有几位有效数字．2 证明当近似值*x 是x 的较好近似时，计算相对误差的计算公式x x x -*和**x x x -相差一个和2*⎪⎪⎭⎫ ⎝⎛-x x x 同阶的无穷小量．3 设x 的近似值*x 具有如式(1.5)的表示形式，试证明 1) 若*x 具有n 位有效数字，则相对误差n r a x e -⨯≤11*1021)(； 2) 若相对误差n r a x e -⨯+≤11*10)1(21)(，则*x 至少具有n 位有效数字．4 试建立二元算术运算的绝对误差限传播近似计算公式．5 试建立如下表达式的相对误差限近似传播公式，并针对第1题中数据，求下列各近似值的相对误差限．1) *3*2*1*1x x x y +=； 2) 3*2*2x y =； 3) *3*2*3/x x y = 6 若例题1.3中使用的尺子长度是80mm ，最小刻度为1mm ，量得某桌面长的近似值3.1304*=a mm ，宽的近似值8.704*=b mm ． 试估计桌子长度、宽度的绝对误差限，并求用该近似数据计算出的桌子面积的绝对误差限和相对误差限． 7 改变如下计算公式，使其计算结果更为精确． 1) 0,cos 1≠-x xx 且1<<x 2) 1,1ln )1ln()1(ln 1>>--++=⎰+N N N N N xdx N N3) 1,133>>-+x x x8 (数值试验)试通过分析和数值试验两种手段，比较如下三种计算1-e 近似值算法的可靠性．算法1 ∑=--≈m n nn e 01!)1(； 算法2 101!1-=-⎪⎭⎫ ⎝⎛≈∑m n n e ； 算法3 101)!(1-=-⎪⎪⎭⎫ ⎝⎛-≈∑m n n m e ；9 (数值试验)设某应用问题归结为如下递推计算公式72.280=y ，251-=-n n y y ， ,2,1=n 在计算时2取为具有5位有效数字的有效数*c ． 试分析近似计算公式**1*5c y y n n -=-的绝对误差传播以及相对误差传播情况，并通过数值实验验证 (准确值可以用IEEE 双精度浮点运算结果代替)，该算法可靠可用吗？（注：可编辑下载，若有不当之处，请指正，谢谢!）。