解超定方程组的矩阵形式为
matlab2_matlab教程
x1+2x2+3x3=1 2x1+3x2+4x3=2 a=[1 2 3;2 3 4];b=[1;2]; x=a\b x= 1.00 0 x=
x1 1 2 3 1 x2 = 2 3 4 2 x3
a
x = b
x=pinv(a)b
0.83 0.33
0
-0.17
六、微分方程求解
微分方程求解的仿真算法有多种，常用 的有Euler（欧拉法）、Runge Kutta(龙 格-库塔法。 Euler法称一步法，用于一阶微分方程
a=[1 2 3;4 5 6;7 8 9]; b=[2 4 6;1 3 5;7 9 10]; a.*b ans = 2 8 18 4 15 30 49 72 90
a=[1 2 3;4 5 6;7 8 9]; b=[2 4 6;1 3 5;7 9 10];
a*b ans = 25 55 85
37 85 133
二、数据的保存与获取
把matlab工作空间中一些有用的数 据长久保存下来的方法是生成mat数 据文件。 save —— 将工作空间中所有的变 量存到matlab.mat文件中。 默认文件名
save data——将工作空间中所
有的变量存到data.mat文件中。
save data a b ——将工作空间 中a和b变量存到data.mat文件中。
rand —— 随机矩阵
eye —— 单位矩阵
zeros ——全部元素都为0的矩阵
ones ——全部元素都为1的矩阵
还有伴随矩阵、稀疏矩阵、魔方 矩阵、对角矩阵、范德蒙等矩阵的创 建，就不一一介绍了。
注意：matlab严格区分大小写字母，因
此a与A是两个不同的变量。 matlab函数名必须小写。
矩阵的广义逆的定义与性质
矩阵的广义逆的定义与性质矩阵的广义逆是矩阵理论中的一个重要概念。
在实际应用中，经常遇到矩阵求逆运算的情况，但并不是所有的矩阵都存在逆矩阵。
广义逆的引入扩展了矩阵逆的概念，使得更多的矩阵问题得以解决。
1. 广义逆的定义对于任意一个矩阵A，如果存在一个矩阵X，使得AXA=A，那么称X是A的一个广义逆。
通常用符号A+表示矩阵A的广义逆。
注意到，当A存在逆矩阵时，A的广义逆即为它的逆矩阵。
但当A不存在逆矩阵时，仍然可以存在广义逆，用来解决求逆运算的问题。
2. 广义逆的性质（1）广义逆的基本性质如果X是矩阵A的一个广义逆，则满足以下性质：① XAX=X；② (AX)T=AX；③ (XA)T=XA；④ X和A的秩分别为r和k，则XAX和AXA的秩均为r。
（2）广义逆的存在性与唯一性矩阵A的广义逆存在的充要条件是A的列秩等于A的行秩。
此时A的广义逆是唯一的。
上述条件的证明比较复杂，可以简单地介绍一下：假设矩阵A的列秩为r，行秩为k，不失一般性地假设r<=k。
设A的一个秩为r的列子矩阵为B，满秩列子矩阵为C，则有C=BQ，其中Q为r*k的满秩子矩阵。
因为C的列向量线性无关，所以存在一个r*k矩阵Y，满足CY=I。
对于任意一个矩阵X，我们可以分解成两部分：X=XBC+X(1-BC)，其中X(1-BC)表示X中不在B和C的列向量。
由于C=BQ，我们有：XA=XBCA+X(1-BC)A，AX=AXB+AX(1-B)。
由于BCA和XB线性无关，所以XBCA+XB=0的充要条件是XBCA+XB=0。
同理可得AX(1-B)=0的充要条件是AX(1-B)=0。
因此，矩阵A的广义逆可以表示为：A+=C((BTA-1B)-1BT)+M，其中M是任意r*(n-r)矩阵。
（3）广义逆的计算求矩阵A的广义逆，一种简单的方法是使用Moore-Penrose广义逆公式：A+=(ATA)-1AT。
该公式的正确性可以通过验证性质①得到，即有XAX=X，因此X=(ATA)-1AT满足广义逆定义。
超定方程组最优解（最小二乘解）推导
超定⽅程组最优解（最⼩⼆乘解）推导⼀、超定⽅程组##超定⽅程组即为有效⽅程个数⼤于未知数个数的⽅程组。
（这⾥只讨论多元⼀次的情况）超定⽅程组可以写成矩阵的形式：Ax=b其中A为m×n的矩阵，其与b组成的增⼴矩阵[A|b]的秩⼤于n。
x为n维列向量未知数。
⼆、超定⽅程组的最⼩⼆乘解##超定⽅程组是⽆解的，但是我们可以求得其最⼩⼆乘解，就是将等式左右两端乘上A的转置。
\begin{equation}\begin{split}A TAx=A Tb\end{split}\end{equation}该⽅程有增⼴矩阵[A T A|A T b]的秩等于n，即该⽅程的未知数的个数等于有效⽅程的个数，所以该⽅程有唯⼀解且为原⽅程的最⼩⼆乘解。
平时记住结论直接⽤就好三、推导过程##（记录，⼤家不要看：其实⼩⽣也是只知道结论不知道结论是怎么来的，不过有⼀天看斯坦福⼤学的机器学习公开课的第⼆节，看到了推导过程。
）1.前置结论###1. trAB=trBA2. trABC=trBCA=trCAB3. ∇A trAB=B T4. trA=trA T5. tra=a6)∇A trABA T C=CAB+C T AB Ttr代表矩阵的迹，⼤写字母为矩阵⼩写字母表⽰实数，∇表⽰求导。
2.公式推导###作差[]Ax−b=a T1x−b1⋮a T m−b m构建最⼩⼆乘\begin{equation}\begin{split}\frac{1}{2}(Ax-b)^T(Ax-b) = \frac{1}{2}\sum_{i=1}m(a_i Tx-b_i)^2\end{split}\end{equation}对x求导\begin{equation}\begin{split}\nabla_x \frac{1}{2}(Ax-b)^T(Ax-b) = \nabla_x tr(x TA TAx-x TA Tb-b TAx+b Tb)\end{split}\end{equation}利⽤前置结论2)4)5)\begin{equation}\begin{split}\nabla_x \frac{1}{2}(Ax-b)^T(Ax-b) = \nabla_xtr[xx TA TA-\nabla_xb TAx-\nabla_xb TAx]\end{split}\end{equation}其中利⽤前置结论6)注：⼤括号下的A为前置结论中的A，⼤括号上的A为矩阵A。
线性方程组的解法
线性方程组的解法1 引言在科学研究和大型工程设计中出现了越来越多的数学问题，而这些问题往往需要求数值解。
在进行数值求解时，经离散后，常常归结为求解形如Ax= b的大型线性方程组。
而如插值公式，拟合公式等的建立，微分方程差分格式的构造等，均可归结为求解线性方程组的问题．在工程技术的科学计算中，线性方程组的求解也是最基本的工作之一．因此，线性方程组的解法一直是科学和工程计算中研究最为普遍的问题，它在数值分析中占有极其重要的地位。
20世纪50年代至70年代，由于电子计算机的发展，人们开始考虑和研究在计算机上用迭代法求线性方程组Ax =b的近似解，用某种极限过程去逐渐逼近精确解，并发展了许多非常有效的迭代方法，迭代法具有需要计算机存储单元少、程序设计简单、原始系数矩阵在计算过程中始终不变等优点。
例如Jacobi方法、Gauss—Seidel 方法、SOR方法、SSOR 方法，这几种迭代方法是最常用的一阶线性定常迭代法。
2 主要算法20世纪50年代至70年代，人们开始考虑和研究用迭代法求解线性方程组。
Ax = b (1)的近似解，发展了许多有效的方法，其中有Jacobi方法、Gauss—Seidel方法，SOR方法、SSOR方法，这几种迭代方法均属一阶线性定常迭代法，即若系数矩阵A的一个分裂：A =M-N ；M 为可逆矩阵，线性方程组(1)化为：(M－N)X =b；→M X = NX + b；→X= M -1NX+ M-1b得到迭代方法的一般公式：X（k+1）=HX（k）+d （2）其中：H =MN-1，d=M-1b，对任意初始向量X（0）一阶定常迭代法收敛的充分必要条件是: 迭代矩H的谱半径小于1，即ρ(H) < 1；又因为对于任何矩阵范数恒有ρ(H)≤‖H‖，故又可得到收敛的一个充分条件为：‖H‖< 1。
2.1 Jacobi迭代法若D为A的对角素构成的对角矩阵，且对角线元素全不为零。
系数矩阵A的一个分解：A =D －(L +U); 这里D 为A 的对角素构成的对 角矩阵, 为严格下三角阵，U 为严格上三角阵。
62第二节 超定方程组的解
2x1 4x2 11.0478 3x1 5x2 2.9119
x1 2x2 5.5239
b1 b2 b3
解得最小二乘解为
x1 x2
3.0403 1.2418
2x1 x2 7.3224 b4
m
n
m
故误差平方和为 I r 2 2
数学学院 信息与计算科学系
nm
m
即有 ( aij aik )xk aij bi ( j 1,2,..., n)
k 1 i1
i 1
此线性方程组写成矩阵形式就是
AT Ax AT b
故x*是 ATAx=ATb 的解.
定理得证.
这里 ATAx=ATb 是关于x1,x2, …,xn的线性 方程组，称为正规方程组或法方程组.
数学学院 信息与计算科学系
解的存在唯一性
由于ATA是n 阶方阵，且是对称阵，当R(A)=n 时， 对任意 y≠0，有Ay≠0 ，所以
yT ( AT A) y ( Ay, Ay) Ay 2 0 2
可见ATA是正定矩阵，必有det(ATA)>0。故法方程
AT Ax AT b
的解存在且唯一.
2 2 yT AT (b Ax* )
2
Ay
2 2
b Ax*
2
Ay 2
b Ax*
2
2
2
2
所以x*是Ax=b 的最小二乘解.
数学学院 信息与计算科学系
必要性 误差向量r=b-Ax 的第 i 个分量为
n
ri bi aik xk (i 1,2,..., m),
数值线性代数
数值线性代数数值线性代数是应用数学中的一个重要分支，它研究的是利用数值方法解线性代数问题。
线性代数是数学中的基础课程，涉及向量、矩阵、线性方程组等概念。
数值线性代数则是将线性代数的理论应用于实际问题的数值计算中。
1. 矩阵和向量在数值线性代数中，矩阵和向量是最常见的数据结构。
矩阵是一个二维的数据表，可以用来表示线性方程组的系数矩阵。
向量则是一个一维的数据结构，可以表示线性方程组中的未知数。
2. 线性方程组的求解解线性方程组是数值线性代数的一个重要问题。
线性方程组可以通过矩阵和向量的乘法表示为Ax=b的形式，其中A是系数矩阵，x是未知向量，b是已知向量。
数值线性代数中的求解方法包括直接法和迭代法。
直接法通过行变换将线性方程组化简为上三角形式或对角形式，然后通过回代求解。
直接法的优点是计算量小，适用于系数矩阵稀疏的情况。
常用的直接法有高斯消元法和LU分解法。
迭代法则是通过不断迭代，逐渐逼近线性方程组的解。
迭代法的优点是适用于大规模线性方程组和稀疏矩阵，但收敛速度相对较慢。
常用的迭代方法有雅可比迭代法、高斯-赛德尔迭代法和共轭梯度法等。
3. 特征值和特征向量特征值和特征向量是数值线性代数中的重要概念。
给定一个方阵A，非零向量x称为A的特征向量，如果Ax=\lambda x，其中\lambda 是一个常数，称为对应于特征向量x的特征值。
求解特征值和特征向量是数值线性代数中的一个经典问题。
计算特征值和特征向量的方法有多种，常用的有幂法、反幂法和QR算法。
幂法是通过迭代的方式逼近特征值和特征向量，反幂法则是通过求解(A-\mu I)x=b的形式，其中\mu 是一个近似特征值。
QR算法通过将矩阵A分解为QR形式，然后迭代求解R的特征值。
5. 最小二乘问题在实际应用中，往往需要求解超定线性方程组或最小二乘问题。
超定线性方程组是未知数的个数多于方程个数的线性方程组，最小二乘问题则是通过最小化求解线性方程组的残差平方和来获得最优解。
线性方程组三种求解方法
线性方程组三种求解方法
线性方程组是由一组线性方程所组成的集合，它是计算机科学中最基本的抽象模型之一。
线性方程组的求解有多种方法，最常用的方法有三种：高斯消元法，全选主元法和乘法因子法。
高斯消元法是一种消除法。
它能将线性方程组变换成求解矩阵的方法，将线性方程组中的未知数从一个方程参与到另一个方程，以实现变量间的互换，当这种变形在线性方程的个数和方程式的系数不相等的时候，系数矩阵就得到了转换，最后实现方程的求解。
由于本质上利用线性变换方法，有可能不能够求解它，而异常解会出现，所以不适合解决线性方程组。
全选主元法是一种消元法，也是线性方程组求解的重要方法。
全选主元法的基本思路是：从一个给定的方程组开始，选出一个最大的系数做主元，将这个未知数代入另一个方程，不断地进行计算，直到求出所有的未知数的值，最后得到相应的解。
全选主元法的优点是计算次数少，能够求出超定方程组的解。
乘法因子法是一种简化法，也是解高维度方程组的有效方法，它是一种缩减矩阵法，把一组方程简化成新形式，其思路是把一个系数矩阵和它的乘法因子矩阵相乘，乘法因子矩阵通过消去系数矩阵中一些行和一些列，来使原始方程组变得简洁，使得求解系数矩阵变得可能，最后可以实现方程组的求解。
总的来说，三种线性方程组的求解方法都有其优势，它们都是有效的解决方案，根据实际情况应用不同的方法可以求出合适的解，同时，在计算机应用中，更多的方法也在发展和探索当中。
超矩阵与超行列式 -回复
超矩阵与超行列式-回复超矩阵与超行列式是超代数中的重要概念。
在这篇文章中，我们将逐步回答关于超矩阵与超行列式的问题，深入探讨其定义、性质和应用。
首先，我们来了解一下什么是超矩阵。
在代数学中，矩阵是由行和列组成的矩形数组。
而超矩阵是矩阵的推广，它是由超行和超列组成的矩形数组。
超行和超列是超向量的推广，表示一组具有超变量的元素。
超向量和超变量是超代数中的基本元素，与普通向量和变量类似，只不过引入了超数的概念。
一个超矩阵可以写成如下形式：[A B]，其中A是一个普通的矩阵，B 是一个超列向量。
同样地，一个超矩阵也可以写成[A，B]，其中A是一个超行向量，B是一个普通的矩阵。
需要注意的是，超矩阵的行和列的数量可以是普通的整数，也可以是超数。
接下来，我们来讨论超行列式的概念。
在传统的线性代数中，行列式是一个标量，它表示矩阵的某种性质，例如矩阵的可逆性。
而超行列式是超矩阵的推广，它也是一个标量，用于表示超矩阵的一些特征。
超行列式的定义与传统的行列式类似，只是在计算过程中需要考虑超变量的交换规则。
具体来说，对于一个n×n的超矩阵[M]，它的超行列式可以表示为：M = Σ(±1)^σP(1,σ(1)) ·P(n,σ(n))，其中Σ表示对所有置换σ的求和，P(i,σ(i))表示第i行与第σ(i)行之间的合并奇偶性，±1表示奇数和偶数的符号。
需要注意的是，超变量的交换规则与普通的变量的交换规则不同，这是超代数与普通代数的一个根本差异之处。
超行列式有一些重要的性质。
首先，如果一个超矩阵的超行或超列是一个普通的矩阵，那么它的超行列式就等于该矩阵的行列式。
其次，超行列式具有线性性质，即对于两个超矩阵[M]和[N]，以及两个实数α和β，有α[M] + β[N] = α^k M + β^k N ，其中k是超矩阵[M]和[N]的维数。
最后，我们来介绍一些关于超矩阵和超行列式的应用。
超矩阵和超行列式在量子力学、超对称理论和超引力理论等物理领域中有着广泛的应用。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
36 第六章 习题解答与问题
一、习题解答
1．用最小二乘法求解超定方程组
2411353264214
x y x y x y x y +=-=+=+=⎧⎨⎪⎪
⎩⎪⎪
解：超定方程组的矩阵形式为
⎥⎥
⎥⎥
⎦
⎤⎢⎢⎢⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡-14631124215342y x 将方程两端同乘以系数矩阵的转置矩阵，可得正规方程组
⎥⎦
⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡6993493330y x 解之，得 x = 2.9774，y = 1.2259。
2．观测一个作直线运动的物体，测得以下数据：
在表中，时间单位为秒，距离单位为米。
假若加速度为常数，求这物体的初速度和加速度。
解：设物体运动的初速度和加速度分别为v 0和a ，初始时刻距离为0，则距离函数为
2
02
1)(at t v t S +
= 用后5
可得，v 0 = 10.6576，a = 4.6269 3．用最小二乘法求一个形如 y A e
B x
=的经验公式，使与下列数据相拟合
解：令
z = ln y 。
故，所求经
难公式为 = 84.25 e – 0.4564 x。
4 已知实验观测数据(x i ，y i ) ( i = 1，2，…，m )。
令
37
1)(0=x ϕ，∑=-=m
i i x m x x 1
11)(ϕ
取拟合函数为
)()()(1100x a x a x ϕϕϕ+=
试利用曲线拟合的最小二乘法确定组合系数 a 0，a 1 （推导出计算公式）。
解：记
T m x x x )]()()([020100ϕϕϕϕ
= T m x x x )]()()([121111ϕϕϕϕ
=
T m y y y y ][2
1
=
显然，0ϕ
是元素全为“1”的列向量。
将所有实验数据的X 坐标代入拟合函数，并令其分别等于实验数据的Y 坐标值，得超定方程组
[]y a
a
=⎥⎦
⎤
⎢⎣
⎡1
010
ϕϕ
将方程组两端同乘以矩阵T ][10
ϕϕ
，得正规方程组 ⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡),(),(),(),(),(),(10101010
11000y y a a ϕϕϕϕϕϕϕϕϕϕ 记∑==m
i i x m x 1
1，由于系数矩阵中两个非对角元素为
0)(),(),(1
1
0110=-=-==∑∑==x m x x x m
i i m i i ϕϕϕϕ
所以
),(),(0000ϕϕϕ y a =，)
,(),(1111ϕϕϕ y a =
5．对某个物体的长度测量n 次后，得n 个近似值 x 1，x 2，……x m ，通常取平均值作为所
求长度的值。
试用最小二乘法原理说明其理由。
解：利用最小二乘原理，设物体的长度为x ，记
δk = x – x k ( k = 1，2，……，m )
则残差平方和为
∑=-=m
k k x x x S 1
2)()(
为了求上面函数极小值，由极值必要条件，令S’(x ) = 0，得
0)(1
=-∑=m
k k
x
x
由此得
∑==m
k k x m x 1
1
6．求 f (x ) = e x
在区间[–1，1]上的三次最佳逼近多项式。
解：利用勒让德多项式作基函数，即 P (x ) = a 0 p 0(x ) + a 1 p 1(x ) + a 2 p 2(x ) + a 3 p 3(x )，其
38 中
p 0(x ) = 1，p 1(x ) = x ， 2123)(22-=x x p ，x x x p 2
3
25)(33-=
利用正交性，得系数为
⎰-+==
11)()(2
12),(),(dx x f x p n p p f p a n n n n n ( n = 0，1，2，3) 而
11
11
10)()(----==⎰⎰
e e dx e dx x
f x p x 11
11112)()(---==⎰⎰
e dx xe dx x
f x p x
⎰⎰----=-=
1
1121
127)2123()()(e e dx e x dx x f x p x
e e dx e x x dx x
f x p x 537)2325()()(1113113-=-=---⎰⎰ ≈-⨯=-)(2110e e a 1.1752，≈⨯=-11223
e a 1.1036，
≈-⨯=-)7(2512e e a 0.3578，≈-⨯=-)537(27
13e e a 0.0705
所以，
P (x ) = 1.1752 + 1.1036 x+ 0.3578)2123(2-x +0.0705)2325(3x x -
=0.9963+0.9978 x + 0.5367 x 2 + 0.1762 x
3
7．在著名的高次插值的龙格反例中，2
51
)(x
x f +=在区间[–5，5]上的10次拉格朗日插值出现振荡现象。
为了使插值余项极小化，可以利用切比雪夫多项式的极性。
试推导11次切比雪夫多项式零点所对应[–5，5]的上的插值结点。
解：由11次切比雪夫多项式零点，得
)2
1112cos(5π
+=k x k ( k = 0，1，2， (10)
二、例题
1
求二次多项式拟合函数
2．利用数据表
012试列出超
定方程组并导出对应的正规方程组（不用求解正规方程组）。
39
解：超定方程组为：⎥⎥
⎥⎥⎥
⎥⎦
⎤⎢⎢⎢
⎢⎢⎢⎣⎡=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎥⎥⎥⎥⎥⎥⎦⎤
⎢⎢⎢⎢⎢⎢⎣⎡--++--2112210421111001111421k k k k k y y y y y a a a ，
正规方程组为：⎥⎥⎥
⎦
⎤
⎢⎢⎢⎣⎡=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡3212103401001001005b b b a a a
其中， b 1 = y k-2 + y k-1 + y k + y k+1 + y k+2，
b 2 = -2y k-2 – y k-1 – y k+1 +2y k+2，
b 3 = 4y k-2 + y k-1 + y k+1 + 4y k+2
3．求区间[ – 1，1 ]上的二次正交多项式
4．正交化过程 5． 练习题
1． 设B 点是线段AC 上的一点，记AB 长为x 1，BC 长为x 2，经测量得数据如下：
AB=15.5，BC=6.1，AC=20.9
试用最小二乘原理计算出 x 1，x 2的长度。
2．求a ，b 使
⎰
-+2
/0
2]sin [πdx x b ax 最小。
3．利用数据表
01程组并导出对应的正规方程组。
求常数项系数a 0。