曲线拟合的最小二乘法

第 1 页/共 19 页
目录
第一章 Gauss 消去法„„„„„„„„„„„„3 第一节 第二节 第三节 第四节 线性代数方程组数值解法„„„„„3 选主元„„„„„„„„„„„„„5 Gauss 消去法„„„„„„„„„„6 C 语言实现 Gauss 消去法„„„„„8
第二章 直线拟合„„„„„„„„„„„„„10 第三章 M 次代数曲线拟合„„„„„„„„„12 第四章 曲线拟合„„„„„„„„„„„„„13 第五章 C 语言实现 M 次代数曲线拟合„„„„13 第六章 论文总结„„„„„„„„„„„„„18
x1 2 x2 2 x3 1, x1 x2 x3 1, 2 x 2 x x 1, 2 3 1
取初值为零向量迭代二次
三、逐次超松弛迭代（SOR 迭代）松弛法实质是高斯—塞德尔迭代的
一种加速方法，它将前一步的结果与高斯—塞德尔迭代值适当加权平均，以期望 得到更好的近似值：
k k 1
考察解（1.1）的 Jacobi 迭代（1.2） ，一般地说，
k 1 k k 1 k , x2 ，而用 x1 , x2
迭代后的新值比前一次的旧值更精确些。Gauss 和 Seidel 充分利用这个信息，在
，而用 x1 ；在求 x3 时，不再用 x1
第 4 页/共 19 页
xi k 1
1 aii
i 1 n k 1 b a x aij xjk i ij j j 1 j i 1
xi
k 1
xi
k 1
1 xi
k
xi( k 1) (1 ) xi( k )
若 ai k m, 则 m a .i i; k l
若l k , 则交换 k a和 a j , k k 1 , j i,j 交换 , n ; 和 k b
l
b
步4 返回主模块 程序 1.1 {max=a[k][k]; for(i=k+1;i<n;i++) if(fabs(max)<fabs(a[i][k])) {max=a[i][k]; l=i; } if(max==0) q=1; else
输入 输出 步1 步2 步3
ai j, i, j ai j, i, j
k , k 1, k , k 1,
, ni ; b, i , ni ; b, i
k , k 1, k , k 1,
,n . ,n .
m akk ; l k.
对i k 1, k 2 ,
执行 ,n
一、Jacobi 迭代：对一般形式的三元线性代数方程组
a11 x1 a12 x2 a13 x3 b1 a21 x1 a22 x2 a23 x3 b2 a x a x a x b 31 1 32 2 33 3 3
1.1
设aii 0, i 1, 2,3, 从上面三个方程分别解出x1 , x2 , x3 : 1 a12 x2 a13 x3 b1 x1 a 11 1 a21 x1 a23 x3 b2 x2 a22 1 a31 x1 a32 x2 b3 x3 a33 按下列方式写出迭代公式 k 1 a12 x2 k 1 a13 x3 k 1 b1 x1 a11 k 1 k 1 k 1 a21 x1 a23 x3 b2 x2 a 22 k 1 a31 x1k 1 a32 x2 k 1 b3 x3 a33


1.2

称（1.2）为（1.1）的Jacobi迭代公式。
(1.1)和(1.2)可分别简写为 ai1 x1 ai 2 x2 ai 3 x3 bi i 1, 2,3 和
3 k 1 bi aij x j j 1, j i 对n元线性代数方程组
数akk 在Gauss消去法中有着突出的作用，称为约化的主元。第k步消元时
k 1
k 1 k 1 k 1 要用akk 作除数，如果akk =0消元会失败，即使主元akk 0，但很小时，舍入误差也会
使计算结果面目全非，这是Gauss消去法的一个严重缺陷，避免这类情况发生的基本方法是 “选主元” 算法 1.1：选列主元子模块 功能 选列主元
按下列方式写出迭代公式
xi k
n 1 k 1 aij x j bi aii j 1, j i
i 1, 2,3
, n
1.4
(1.4)即为(1.5)的 Jacobi 迭代公式。
二、Gauss-Seidel 迭代
求 x2 时，不再用 x1
第 2 页/共 19 页
第一章
Gauss 消去法
解线性代数方程组是计算数学的基本问题。 其困难在于解大规模线性代数方 程组时，不仅计算量大，而且舍入误差的影响使问题变得十分复杂。
第一节 线性代数方程组数值解法
解线性代数方程组的方法很多， 重点是个人的喜好不同， 会选择不同的解法。 这里介绍的是迭代法和消去法。
xi
k
1 aii
i 1, 2,3
第 3 页/共 19 页
a x
j 1 ij
n
j
bi (i 1, 2,3,„n),
1.3
从第i个方程中解出
xi
n 1 aij x j bi aii j 1, j i
i 1, 2,
, n ,




1.5


称（1.5）为解（1.1）的 Gauss-Seidel 迭代公式。 同理，我们也可以导出解（1.3）的 Gauss-Seidel 迭代公式
xi k
n 1 i 1 k a x aij x (jk 1) bi ij j aii j 1 j i 1
i 1, 2,3,
, n
1.6
Gauss-Seidel 迭代是充分利用新值建立起来的迭代公式， 所以， 一般情况下， 它比 Jacobi 迭代收敛快。但这也不是绝对的，在某些情况下，Gauss-Seidel 迭代 比 Jacobi 迭代收敛慢，甚至可举出 Jacobi 迭代收敛而 Gauss-Seidel 迭代发散的例 子：
k k
计算；从而建立了计算公式 k 1 k 1 k 1 a12 x2 a13 x3 b1 , x1 a 11 k 1 k 1 a21 x1 k a23 x3 b2 x2 a 22 k 1 k a31 x1 k a32 x2 b3 x3 a33
副标题：求解线性方程组和曲线拟合
摘要：本论文主要涵盖 Gauss 消去法、列主元模块、求解 线性方程组、Jacobi 迭代、逐次超松弛（SOR）迭代、直 线拟合、M 次多项式拟合、曲线拟合等方面的知识点
电科 081 班 鲁冬梅 学号 080712110088
2011/11/29
曲线拟合的最小二乘法
i 1 n ( k 1) b a x aij x (jk ) i ij j aii j 1 j i 1

式中系数 W 称为松弛因子，为保证迭代收敛，要求0 2
第二节 选主元
由于下一节将要讲述的 Gauss 消去法中应用到选主元的知识， 所以这一节我 们将讲述选主元的相关知识。
记 aij aij i, j 1, 2,3, 4 , b1 b1
0 0
第 6 页/共 19 页
步1.把 1.7 1 写成 1.81 , 从（1.7） i中消去x1 :
0 0 0 0 a11 x1 a12 x2 a13 x3 a14 x4 b1 0 1 1 1 1 a22 x2 a23 x3 a24 x4 b2 1 1 1 1 a32 x2 a33 x3 a34 x4 b3 1 1 1 1 a42 x2 a43 x3 a44 x4 b4
ai1
0 0
a11
1.7 1 1.7 i 得 1.8i i 2,3, 4
1.8
步 1 的计算公式：
0 0 0 0 aij ai1 a11 a1 j aij i, j 2,3, 4 ; 1 0 0 0 0 i 2,3, 4 . bi ai1 a11 b1 bi 1
函数有三种表示法：解析式，函数表和图像法。当 f x 的解析式 很复杂，或者只知道的 f x 一个函数表时，直接研究 f x 很困难，一 个自然的想法是用一个易于计算的简单函数作为 f x 的近似函数 （去 逼近 f x ） ，然后通过研究这个简单函数得到关于 f x 的有关信息。 本论文详细介绍曲线拟合的最小二乘法，并编程实现之（采用 C 语 言） 。 19 世纪初，Gauss 研究天文时独立于 Legender 发明了最小二乘 法，他在 1812 年给 Laplace 的信中写到：自 1802 年起几乎每天用最 小二乘法计算新行星轨道。从 Gauss 开始，200 多年来，最小二乘法 一直是科技工作者整理实验数据、建立数学模型的有力工具。 本论文分为五章：第一章主要介绍 Gauss 消去法。因为本论文中 的 M 次代数曲线拟合需要解线性代数方程组。综合各个算法的特点， 为了求解的方便，故选择 Gauss 消去法。第二章到第四章，分章介绍 不同的拟合知识。第五章则具体的介绍 M 次代数曲k) {temp=b[l][0];b[l][0]=b[k][0];b[k][0]=temp; for(j=k;j<n;j++) {temp=a[l][j];a[l][j]=a[k][j];a[k][j]=temp; } }