16 广义逆阵与线性方程组求解及最小二乘法
矩阵论-广义逆与线性方程组
满足
0
x0
min Axb
x,
其中，• 为Cn中内积诱导的范数.
3.方程组不相容时，需要求出这样的x
满足
0
Ax0 -b
min xC n
Ax b
,
这时，称x0为方程组的最小二乘解.
4.一般,矛盾的方程组的最小二乘解并不唯一，需要求出具有
极小范数的向量x0，即x0使 x0
min min Ax-b
例3
求Ax=b的极小范数解,其中A=
1 0
2 -1
-1
2
,
b
1 2 .
解：由r(A)=r(A,b)=2知方程组相容.
5 4
有例2知,
A
+
=
1 14
6 3
2
,
从而极小范数解为
8
5 4
13
x
A
+
b
1 14
6 3
82
1 2
1 14
10 19
.
三、不相容线性方程组的最小二乘解与A{1,3}
第四节 广义逆与线性方程组
考察非齐次线性方程组
Ax=b
(1)
其中A Cmn , b Cm给定, x Cn待定.
若存在x Cn使(1)式成立，则称此方程组相容,否则称为 不相容或矛盾.
关于方程组(1)的几个问题： 1.方程组(1)相容的条件是什么？相容时，如何求其通解？
2.方程组相容时，如何求其通解中极小范数解？即解x
X=A(1) DB(1) +Y-A(1)AYBB(1).(2) 其中Y Cnq为任意.
证明：：若AA(1)DB(1)B D,令X=A(1)DB(1)则满足AXB=D. :若AXB=D有解,则D=AXB=AA(1) AXBB(1) B=AA(1) DB(1) B.
高等工程数学--矩阵的广义逆
FGG H (GGH )1 ( F H F )1 F H FG
FG A
研究生MOOC课程
9/66
第18讲 矩阵的广义逆及其应用
高等工程数学
一、广义逆的定义与性质
A AA G F FGG F
GH (GG H )1 ( F H F )1 F H FGG H (GG H )1 ( F H F )1 F H G (GG ) ( F F ) F A
Ir O GA O O
研究生MOOC课程
24/66
第18讲 矩阵的广义逆及其应用
高等工程数学
二、广义逆的求解
Ir O AG GA O O
所以有 1) AGA A；
2) GAG G；
3) (AG)H AG； 4) (GA)H GA. 即G是A的广义逆
高等工程数学
一、广义逆的定义与性质
m n 设 ，则 A的加号逆 A存在且唯 定理1 A
证明
一 由例 3 知，对任意矩阵 A 都存在广义逆A . 下证唯一性. 假设 F 与 G 都是 A的广义逆，则由广义逆的定义有:
ቤተ መጻሕፍቲ ባይዱ
F FAF F(AF)H FFHAH
FFH(AGA)H
H H H H 1 1
AA FGG F
FGG (GG ) ( F F ) F
H H H 1 1 H
F ( F H F )1 F H
所以有
研究生MOOC课程
( AA )H AA
10/66
第18讲 矩阵的广义逆及其应用
高等工程数学
一、广义逆的定义与性质
A A G F FG
16 广义逆阵与线性方程组求解及最小二乘法
知
于是Байду номын сангаас而 这与是的极小范数解矛盾. 唯一性:若有,则 即 ; 又,则
因此,即. 引理7 集合A{1,4}由矩阵方程
（6.4.11）
的所有解X组成,其中.
证：若X满足方程（6.4.11）,则
,等式1)成立;
,等式4)成立.
所以,
.
反之, 若,则有
定理6.29 设,则 （6.4.12）
证 方程（6.4.11）的通解为
作业：P344－346，1，2，5
四. 矛盾方程组的极小范数解与广义逆矩阵
虽然最小二乘解不是唯一的,但是极小范数最小二乘解却是唯一的, 并且可由Moore-Penrose逆表出.
定理6.33 设,则是方程组(6.4.1)的唯一极小范数最小二乘解.反 之, 设,若对所有是方程组(6.4.1)的极小范数最小二乘解.则.
证: 取,由定理6.32的证明和式(6.4.17)知, 方程组(6.4.1)的最小 二乘解是
证: 根据定理6.33并利用习题6.2中第14题的结果知,线性方程组 (6.4.22)的唯一极小范数最小二乘解为
从而矩阵方程(6.4.5)的极小范数最小二乘解为 证毕
矛盾方程（组）的解---最小二乘法
一、从实验数据处理谈起
设有一组实验数据(t1，s1)，(t2，s2)，……，(tn，sn)， 希望由实验数据拟合给定规律，从而测出待测量的有关参 数。
假定规律为：，由于存在误差，令 ， 则：Ax=b实际无解，或者说矩阵方程Ax=b成为矛盾 方程（不自洽、非相容），虽说无解，但在物理上看，我们 需要而且也理当有“解”。怎么办？ 一般处理是，定义一种目标函数，例如： 使误差最小化。wi=1(i=1～n)时
2、 最小二乘法（解） 对于矛盾方程Ax=b，最小二乘法是求其“解”的一种方 法。即求使的解。 引理：,A{1,3}由如下方程的通解构成： 其中，A(1,3)为A{1,3}中的某个矩阵。 证：1。方程既然相容，设X是其某个解，则 即方程的解必在A{1,3}中。
矩阵的广义逆和极小二乘解法
矩阵的广义逆和极小二乘解法矩阵是线性代数中非常基础的概念之一，其应用非常广泛，涉及到各个领域，如计算机科学、工程学、物理学、统计学等等。
然而，在矩阵的运算之中，我们常常会遇到矩阵的求逆问题。
然而，实际上，在一些情况下，矩阵并没有逆矩阵，这时候，我们就需要引入矩阵的广义逆(Generalized Inverse)，来解决问题。
1.矩阵的广义逆在一些情况下，我们无法找到一个矩阵A的逆矩阵，这时候，我们可以引入矩阵的广义逆概念。
对于矩阵A，如果存在一个矩阵B，使得B满足以下条件:AB = A,BA = B,(AB)^T = AB,(BA)^T = BA，那么我们称矩阵B是矩阵A的广义逆。
矩阵A不一定存在逆矩阵，但是一定存在广义逆矩阵。
矩阵的广义逆具有如下性质:(1)A A+ A=A;(2) A+A A+= A+;(3) (A A+)A= A;(4) (A+A)A+= A+.在数值计算中，广义逆矩阵的应用非常广泛，常常用于求解那些没有精确解的问题，如线性回归、最小二乘法等等。
2. 矩阵的极小二乘法矩阵的极小二乘法(Least Squares)是一种数据拟合方法，用于寻找一条曲线(or 平面)最能拟合给定的数据点。
假设我们有n个数据点(x, y)，我们想寻找一条形如y = A + Bx的线性函数，使得它最能拟合这n个数据点。
在这个问题中，我们令y为坐标轴上的纵坐标，x为坐标轴上的横坐标，A为垂直截距，B为斜率。
同时，我们假设y和x之间的关系是线性关系，即y ≈ A + Bx。
对于给定的n个数据点(x1, y1), (x2,y2),…, (xn, yn)，我们可以将其表示为一个矩阵形式:y = [y1 y2 … yn]^T,X = [1 x1; 1 x2; … ; 1 xn];其中y是一个n维列向量，X是一个n行2列的矩阵，对于每一行i，它表示为[1 xi]。
我们的目的是寻找一个2维列向量β，使得它最能拟合y，即：y ≈ Xβ在这里，我们考虑一个误差函数，它描述了我们模型的预测值与真实值之间的差异。
广义逆矩阵与线性最小二乘
广义逆矩阵与线性最小二乘广义逆矩阵及其应用是线性代数中一个重要的研究方向。
在许多实际问题中，我们需要找到一种方法来解决超定方程组的问题。
而广义逆矩阵就是解决这类问题的有效工具之一。
本文将介绍广义逆矩阵的定义和性质，并探讨其在线性最小二乘问题中的应用。
一、广义逆矩阵的定义广义逆矩阵，也被称为伪逆矩阵，是矩阵理论中的一种扩展。
对于任意的实矩阵A，它的广义逆矩阵记作A⁺。
如果存在一个矩阵B，满足以下条件：1）ABA=A；2）BAB=B；则矩阵B为A的广义逆矩阵。
二、广义逆矩阵的性质广义逆矩阵具有以下性质：1）(A⁺)⁺=A，即广义逆矩阵的广义逆矩阵等于原矩阵本身；2）(AB)⁺=B⁺A⁺，即矩阵乘法的广义逆等于矩阵广义逆的乘法；3）(Aᵀ)⁺=(A⁺)ᵀ，即转置矩阵的广义逆等于广义逆的转置；4）如果A是满秩矩阵，则A⁺=A⁻¹，即广义逆矩阵等于逆矩阵。
三、广义逆矩阵的应用1. 线性最小二乘线性最小二乘问题是指在一组超定方程中，通过最小化误差的平方和，找到最佳的解。
设A为一个m×n的实矩阵，b为一个m维实向量，我们的目标是找到一个n维实向量x，使得||Ax-b||²取得最小值。
利用广义逆矩阵，线性最小二乘问题可以转化为求解如下方程的问题：A⁺Ax = A⁺b其中，A⁺表示A的广义逆矩阵。
解x = A⁺b即可得到最小二乘解。
2. 线性方程组的逼近解对于一个不一定可逆的矩阵A，我们可以通过广义逆矩阵来逼近求解线性方程组Ax=b。
即使A不是方阵，也可以通过广义逆矩阵来找到一个近似解。
通过求解A⁺Ax=A⁺b，我们可以得到一个逼近解x = A⁺b。
这在实际问题中往往是非常有用的，特别是当我们无法求解方程组的精确解时。
四、总结广义逆矩阵是一种重要的工具，在线性代数中广泛应用于解决超定方程组的问题。
它具有许多重要的性质，使得它成为线性最小二乘和逼近解的有力工具。
通过合理利用广义逆矩阵，我们可以在实际问题中找到最佳的解，为相关领域的研究和应用提供了新的途径。
广义逆与线性方程组解
⼴义逆与线性⽅程组解4-2 ⼴义逆与线性⽅程组解⼴义逆是对任何矩阵(不要求是⽅阵)定义的⼀种逆矩阵。
故名为⼴义逆。
⼀⼴义逆矩阵A－1）定义：设A为n×m矩阵，秩R(A)= r<min(m,n), 满⾜如下⽅程的GAGA = A （4－2－1） 定义为A的⼴义逆，G为m×n矩阵，并记为A－，⼀般不唯⼀，称为A－型⼴义逆。
仅当A为m阶⾮奇异⽅阵，凯利逆A－必然满⾜定义式（4-2-1），故A-1是A的⼴义逆。
存在凯利逆时，⼴义逆A－= A-1 唯⼀。
2) A－型⼴义逆有如下性质：（1）（其中之⼀，即）（2）（3）（4）（4）若矩阵P正定，则（6） G为ATA的⼴义逆，则GT也是ATA的⼴义逆。
3）⼴义逆A－的计算 A－的计算有许多种⽅法，这⾥仅介绍⼀种常⽤的简便⽅法。
当的秩R(A) = r <min(n,m), 可得矩阵 A分块写成 其中R（A11）= r, A11为⾮奇异⽅阵。
则其⼴义逆为（4－2－2） 在证明此A－为A的⼴义逆之前，先证明如下等式：（4－2－3） 根据A的奇异性质，R(A)=R(A11)= r,故有(A21 A22) = M(A11 A12) 此式说明 (A21 A22) ⾏是 M(A11 A12) 的线形组合，令 M =,则（4-2-3）式成⽴，按定义式有 可见（4-2-2）式确为A的⼀个⼴义逆例4－1. 设有矩阵R(A) = 2取, 则== A⼆⼴义逆 A+1.定义 如果对A－作某些限制，就可得到⼀种唯⼀的⼴义逆，称为伪逆，并⽤A+表⽰。
A+定义伪满⾜下列四个⽅程：（4－2－4）的⼴义逆。
伪逆A+也称为Moore-Penrose⼴义逆。
A+唯⼀，证明如下。
设G1和G2为两个A+,按定义（4-2-4）式有由此，由⼴义逆A+也是⼀个A－，是⼀个同时满⾜（4-2-4）式种等式的⼴义逆，其逆唯⼀。
除凯利逆A-1和伪逆A+外，⼴义逆A－不唯⼀。
2．⼴义逆A+的计算 在⼀般情况下，，在测量计算A+常⽤如下⽅法：（1）当A为对⾓阵时，则有，（4－2－4）例4-2设，则（2）（4－2－6）证：(4-2-6)式中(AAT)－和(ATA)－虽不唯⼀，但A+唯⼀。
广义逆的计算与最小二乘估计
广义逆的计算与最小二乘估计
广义逆的计算与最小二乘估计是具有重要应用价值的估计方法。
它
们在数值计算中有着广泛的用途和广泛的应用领域。
（1）什么是广义逆？
广义逆（Generalized Inverse）是一种数值计算方法，用于估计未知数据。
广义逆的计算是指对给定的m × n成像矩阵A，计算出一个n × m
合成矩阵B，使得AB有效地估计未知数据（满足B×A为单位矩阵）。
（2）什么是最小二乘法？
最小二乘法（Least Squares）是数值计算中的另一种常见方法，专门用
于估计未知参数向量x。
其方法是以尽量减小误差的平方和C(x)为目标函数，选取最佳参数向量x，以最小化残差向量e=Ax-b，等效地解决
未知参数误差拟合问题。
（3）广义逆的计算与最小二乘估计的比较
1）准确性比较：在数值计算中，广义逆的计算和最小二乘估计的准确
性基本一致，取决于矩阵A的数据量，以及其均一性等。
2）算法对比：在数字计算中，最小二乘估计的算法主要是基于泰勒公
式展开求解，而广义逆的算法主要是基于矩阵分解或者特征分解的方
法去近似求解。
3）应用范围：广义逆的计算适用范围更广泛，但最小二乘估计对数据
集的要求更高，而且最小二乘估计是无偏的，所以更适用于误差数据
的拟合。
综上所述，广义逆的计算与最小二乘估计是具有重要应用价值的估计方法，它们在数值计算中有着广泛的用途和广泛的应用领域。
在算法本身和应用范围上，它们各有优势，从而在实际数值计算中可选择合适的方法，达到更好的结果。
线性流形上广义反次对称矩阵反问题的最小二乘解
线性流形上广义反次对称矩阵反问题的最小二乘解*肖庆丰1，张忠志2，胡锡炎1(1. 湖南大学 数学与计量经济学院，湖南 长沙 410082;2．东莞理工学院软件学院，广东 东莞 523106)E-mail ：qfxiao@摘 要：讨论了线性流形上广义反次对称矩阵反问题的最小二乘解及其逼近问题，得到了最小二乘解的一般表达式。
给出了线性流形上矩阵反问题可解的充分必要条件，得到了最佳逼近问题解的表达式。
关键词：线性流形；广义反次对称矩阵；最小二乘解；最佳逼近。
中图分类号：0241.6文献标识码：A由于矩阵反问题在计算物理、航空工程、振动设计、系统设计等领域有着广泛的应用，因此，这个问题日益为人们所重视。
近年来，已取得一系列成果。
文[1，2]研究了实对称、双对称矩阵反问题的最小二乘解，文[3]就一类次反对称矩阵反问题的最小二乘解进行了研究。
本文在线性流形上讨论广义反次对称矩阵反问题的最小二乘解，推广了文[3]的结果。
令R表示所有nxm 型实矩阵集合，SR，ASR分别表示n 阶实对称与实反对称矩阵集合；OR 表示n 阶正交矩阵的全体组成的集合；KSR 、KASR分别表示n 阶实次对称与实反次对称矩阵集合；A 表示矩阵的Moore-Penrose 广义逆；I n 表示n 阶单位阵；nxmnxnnxnnxnnxnnxn+A 表示矩阵A 的Frobenius 范数；rank(A)、tr(A)分别表示矩阵A 的秩与迹。
A=（a ij ）,B=（b ij ）mn R ×∈，表示A 与B 的Hadamard 积，其定义为B A ∗)(ij ij b a B A =∗；<A ，B>表示A 与B 的内积，定义为〈A ，B 〉=tr(B T A)，由此内积诱导的范数为><=><=A A tr A ,A A T显然，上述范数为Frobenius 范数，R构成一个完备的内积空间。
nxm记e i 为n 阶单位阵I n 的第i 列，取，虽然S )e ,e ,e (S 11n n n L −=n 是对称正交阵。
线性代数中的广义逆
线性代数中的广义逆线性代数中的广义逆是一种特殊的矩阵运算，它在解决线性方程组、最小二乘问题以及矩阵逆的计算中具有重要作用。
本文将详细介绍广义逆的定义、性质和应用，以加深对该概念的理解。
一、广义逆的定义与性质广义逆是针对非方阵而言的。
对于一个m×n的矩阵A，在矩阵A的扩展实数域中，若存在一个n×m的矩阵B，使得AB和BA均为投影矩阵，则称B为A的广义逆，记作A^+。
广义逆具有以下性质：1. 幂等性：(A^+)^+ = A^+2. 逆性：(AB)^+ = B^+A^+3. 秩性：(A^+)A和A(A^+)的秩相等4. 唯一性：若A^+和B^+都是A的广义逆，则A^+ = B^+二、广义逆的应用广义逆在线性方程组的求解中扮演着重要角色。
对于一个m×n的线性方程组Ax=b，其中A为系数矩阵，x为未知数向量，b为已知向量。
若A的行秩等于列秩，则该方程组有唯一解。
然而，在实际问题中，方程组常常出现行秩小于列秩的情况，此时无法直接求解。
利用广义逆的概念，我们可以构造最小二乘解。
最小二乘解是指使得||Ax-b||^2（欧氏范数下的二范数）最小的解。
通过广义逆的求解方法，可以找到最接近方程组Ax=b的解x*，即使得||Ax*-b||^2取得最小值。
特别地，当A的列秩等于n（A是满秩列）时，最小二乘解与精确解重合。
广义逆还在矩阵逆的计算中起到重要作用。
当方阵A不可逆时，可以使用广义逆来近似计算逆矩阵。
通过广义逆的逆性质，我们可以得到A的近似逆矩阵A^+的逼近解析表达式。
三、广义逆的计算方法1. 伪逆法：通过奇异值分解（SVD）求解广义逆，即A^+=VΣ^+U^T，其中U、Σ、V分别是A的左奇异向量矩阵、对角奇异值矩阵和右奇异向量矩阵。
2. 矩阵分块法：将矩阵A分块，利用分块矩阵性质求解广义逆。
3. Moore-Penrose逆矩阵：Moore-Penrose逆矩阵是一种特殊的广义逆矩阵，是广义逆的一种常用表示形式。
广义逆矩阵作用
广义逆矩阵作用广义逆矩阵，也叫伪逆矩阵，是矩阵理论中的一个重要概念。
在线性代数和应用数学中，矩阵的逆矩阵是一个很常见的概念，但是有些矩阵并不存在逆矩阵。
为了解决这个问题，广义逆矩阵应运而生。
广义逆矩阵是对非方阵进行求逆运算的一种方法。
一般来说，如果一个矩阵存在逆矩阵，那么它的逆矩阵一定是唯一的。
但是对于非方阵，它们并没有逆矩阵，只能求得广义逆矩阵。
那么广义逆矩阵有什么作用呢？首先，广义逆矩阵可以用来求解线性方程组的最小二乘解。
在实际问题中，经常会遇到超定线性方程组，即方程的个数大于未知数的个数。
这时候，线性方程组一般是无解的，但是可以使用广义逆矩阵来求解最小二乘解，使得方程组的残差最小化。
广义逆矩阵还可以用于解决矩阵方程。
矩阵方程是指形如AX=B的方程，其中A是一个矩阵，X和B是向量或矩阵。
如果A存在逆矩阵，那么方程可以直接求解，即X=A^(-1)B。
但是如果A不存在逆矩阵，就需要使用广义逆矩阵来求解。
广义逆矩阵的求解方法有很多种，其中最常用的方法是Moore-Penrose广义逆矩阵。
Moore-Penrose广义逆矩阵是广义逆矩阵的一种特殊形式，它具有很多良好的性质。
对于任意一个矩阵A，它的Moore-Penrose广义逆矩阵可以通过以下方法求得：首先计算A的转置矩阵A^T，然后计算A^TA的逆矩阵(A^TA)^(-1)，最后再将结果与A^T相乘，即可得到A的Moore-Penrose广义逆矩阵。
广义逆矩阵在实际应用中有着广泛的应用。
例如，在信号处理领域中，广义逆矩阵可以用于解决信号重构问题，通过最小二乘法使得信号的重构误差最小。
在机器学习和数据挖掘中，广义逆矩阵可以用于降维和特征选择，帮助提取数据中的关键特征。
广义逆矩阵还在控制理论和系统工程中扮演重要角色。
在控制系统设计中，经常需要求解线性方程组，而广义逆矩阵可以用于求解最优控制器的增益矩阵。
在系统工程中，广义逆矩阵可以用于求解线性约束问题，例如最小二乘估计以及线性规划等。
广义逆的性质与应用
广义逆的性质与应用广义逆是矩阵理论中的重要概念，广义逆的性质与应用涵盖了多个领域，包括线性代数、最小二乘法、控制论、信号处理等。
本文将介绍广义逆的定义、性质及其在不同领域中的应用。
一、定义与性质1.1 定义广义逆也被称为伪逆或摩尔－彭若斯广义逆，是对于非方阵的矩阵而言的一种逆。
对于任意的m x n矩阵A，它的广义逆记作A^+ ，满足以下条件：1) AA^+A = A2) A^+AA^+ = A^+3) (AA^+)^T = AA^+4) (A^+A)^T = A^+A1.2 性质广义逆具有以下一些重要性质：1) 如果A是可逆矩阵，则A的广义逆等于A的逆。
2) A的广义逆是唯一的。
3) 两个矩阵的广义逆的乘积等于它们各自广义逆的乘积。
4) 广义逆具有非负性：如果A的元素都是非负的，则A的广义逆的元素也都是非负的。
5) 当A是满秩矩阵时，AA^+ = I，即A乘以它的广义逆等于单位矩阵。
二、应用领域2.1 最小二乘法最小二乘法是一种常用于解决拟合问题的数学方法，广义逆在最小二乘法中起着重要作用。
对于线性方程组Ax=b，其中A是一个非方阵，x和b是两个向量，如果该方程组无解，我们可以通过广义逆来寻找一个最优解，即使得Ax尽量接近b的解x^* = A^+b。
2.2 控制论广义逆在控制论中的应用主要是在系统建模和控制器设计中。
在一些复杂的系统中，往往无法直接求解系统的解析解。
通过广义逆，我们可以得到一种近似解，在控制器设计中，可以利用广义逆来求解动态系统的逆动力学问题。
2.3 信号处理广义逆在信号处理中也起着重要作用，特别是在图像恢复、压缩感知以及信号降噪等方面的应用。
通过广义逆，可以对噪声干扰下的信号进行恢复和重构，提高信号的质量和准确性。
2.4 数据挖掘在数据挖掘中，广义逆被广泛应用于矩阵分解、推荐系统和聚类分析等领域。
通过广义逆，可以对大量的数据进行降维处理，提取有效的特征，并用于分类和预测任务。
三、总结广义逆作为矩阵理论的重要内容，具有广泛的应用价值。
利用矩阵的广义逆求线性方程组的解
从而原方程的基础解系可取 ａ
１
＝（１ ，２，０， ０） ，ａ
２
＝（－５，０，５，２） ，其全 部解为 ｋ １ ａ １ ＋ｋ ２ ａ ２ 其中 ｋ １ ｋ ２ 为任意数。 运算并不简单，但方法可取。
E G0 A = Q0−1 r 0
0 Q0 ， 0
−1 M −1 (G0 A) M = ( M −1Q0 ) ，
* 0 可见 Ｅ ｎ－Ｇ ０Ａ 是对 经行 0 En− r
与列的互换后所得矩阵，因而仍然恰有
r 个零列。
推论 １ 若 ｍ × ｎ 矩阵 r ＜ ｎ 的秩 则 Ｅｎ－Ｇ０Ａ中的 ｎ－ r 个非零列向量恰是 齐次线性方程组 Ａ Ｘ ＝ ０ 的一个基础解 系。
1 0 G0 A = 所以 0 0
r Q0−1 = R1 O
R2 ， R3
一个 Ｐ Ｓ Ｑ 分解式。 （显然， 上述分解式 一般不唯一） 。 定义 １．３ 称主对角线上的元素全为 １ 的上三角形矩阵为特殊上三角形矩 阵；称后 ｋ 行的分块为（０，Ｅｋ）的 ｎ 阶特 殊上三角形矩阵为 ｎ 阶单位特殊上三角 形矩阵。
1 5 1 0 1 − 2 0 2 0 0 0 1 − 5 2 1 0 0 0 0 1 0 0 0 0 → 0 1 0 0 0 0 1 0 0 0 0 0 1 0
1 基本概念
定义 １．１ 设 Ａ 为 ｍ × ｎ 矩阵。如 果 ｎ × ｍ 矩阵 Ｇ 满足 ＡＧＡ＝Ａ，称 Ｇ 为 Ａ 的一个广义逆。 定义 １．２ 设 ｍ × ｎ 矩阵 Ａ 的秩为 ｒ，若存在 ｍ 阶可逆矩阵 Ｐ 和 ｎ 阶可逆矩
E 阵Ｑ 使A= P r 0 0 Q 则称此式为 Ａ 的 0
第六章 广义逆矩阵
1.定义:设L是Cn的子空间,则称沿着L⊥到L的投影算子 定义: 定义 PL,L⊥为正交投影算子,简记为PL;正交投影算子在Cn 的基e1,…,en下的矩阵称为正交投影矩阵,记为PL . 2. 定理 矩阵P为正交投影矩阵的充要条件是P为幂等 Hermite矩阵.
3. 正交投影矩阵 L的构造方法 正交投影矩阵P
设 dimL=r , 则 dimL⊥=n-r . 在 子 空 间 L 和 L⊥ 中 分 别 取 基 底 X=(x1,…,xr)和Y=(y1,…,yn-r) 满足 XHY=Or×(n--r),于是
( X H X ) 1 X H PL = [ X , O][ X , Y ]1 = [ X , O] H 1 H (Y Y ) Y = X ( X H X ) 1 X H A 1 说明:令 [ X , Y ] = ,则有 B
定理二:设矩阵A给定,则A+满足如下性质 定理二:设矩阵 给定, 给定
1. 2. 3. 4. 5. 6.
rank A+=rank A (A+)+=A (AH)+=(A+)H, (AT)+=(A+)T (AHA)+=A+(AH)+, (AAH)+=(AH)+A+ A+=(AHA)+AH=AH(AAH)+ R(A+)=R(AH), N(A+)=N(AH)
A I = [ X , Y ][ X , Y ] = [ X , Y ] = XA + YB B X H = X H XA + X H YB = ( X H X ) A 两边左乘 XH 得
矩阵论-第五章-广义逆及最小二乘
广义逆或 moore-Penrose 逆。 1) AA+ A = A 2) A+ AA+ = A+ 3) ( AA+ ) H = AA+ 4) ( A+ A) H = A+ A (5.2-1) (5.2-2) (5.2-3) (5.2-4)
从定义中可以看到， 若 A 是可逆阵 （此时自然有 m = n ） ， 则 A−1 是 满足这四个方程的，这就是说 A+ 包括了 A−1 这个特例。(3)(4)两个方 程，说明了要求 AA+ 和 A+ A 都是 H 阵。在实空间中，自然就要求其成
第五章
广义逆及最小二乘解
在应用上见得最频繁的、大约莫过于线性方程组了。作一番调查或 整理一批实验数据，常常归结为一个线性方程组：
Ax = b
然而是否是相容方程呢？倘若不是， 又如何处理呢？最小二乘解是常 见的一种处理方法。其实它不过是最小二乘法的代数形式而已。 广义逆从 1935 年 Moore 提出以后，未得响应。据说： (S.L.Campbell ＆ C.D.Meyer.Jr Generalized Inverses of Linear Transformations 1979 P9)原因之一，可能是他给出的定义，有点晦 涩。其后，1955 年 Penrose 给出了现在大都采用的定义以后，对广 义逆的研究起了影响，三十年来，广义逆无论在理论还是应用上都有 了巨大发展，一直成为了线性代数中不可缺少的内容之一。 为了讨论的顺利进行，我们在第一节中先给出点准备，作出矩 阵的奇值分解。
∃U (m × n),V (n × n),U HU = I m ,V HV = I n ，使 ⎛Δ 0⎞ U H AV = ⎜ r ⎟ (m × n) ⎝0 0⎠
最小二乘广义逆求解方法研究及应用
最小二乘广义逆求解方法研究及应用张亚飞;韩凯歌;沈艳【摘要】广义线性系统是自动控制理论的一个重要组成部分，在研究广义线性系统的诸多问题中常常需要计算系统状态矩阵的广义逆，因而广义逆矩阵的求解方法就显得格外重要。
文中给出了矩阵最小二乘广义逆的2种求解方法，分别证明了2种方法的正确性，最后举出广义线性控制系统的实际算例。
通过用这2种方法求解系统状态矩阵的最小二乘广义逆，验证了所给方法的有效性和可行性，同时方法简单易行，适合计算机编程计算。
%A generalized linear system is an important part of automatic control theory , and the generalized inverse of status matrix needs to be calculated usually in the research of generalized linear system , thus the solving methods of generalized inverse is especially significant .This paper discusses two methods to get the least square generalized inverse of matrix , both the processes of proof are given .A generalized linear system as an example shows that the two methods are valid and practical .The least square generalized inverse is obtained by the two methods respective-ly.It also validates that the two methods are simple and easy , suitable for programming and computing .【期刊名称】《应用科技》【年(卷),期】2014(000)003【总页数】4页(P60-63)【关键词】广义系统;Moore-Penrose方程;矩阵广义逆;最小二乘广义逆;行式【作者】张亚飞;韩凯歌;沈艳【作者单位】哈尔滨工程大学理学院，黑龙江哈尔滨150001;哈尔滨工程大学理学院，黑龙江哈尔滨150001;哈尔滨工程大学理学院，黑龙江哈尔滨150001【正文语种】中文【中图分类】O151.211920年穆尔（Moore）首先提出了广义逆的概念，其后的30年并未受到人们的重视，直到1955年英国物理学家彭诺斯（Penrose）明确提出与Moore的广义逆等价的定义，广义逆的概念才引起数学界的重视，从此以后广义逆矩阵进入了一个新的研究阶段。
最小二乘广义逆法
j=j+1;
if (j<=7)
jt=1;
else z=h2;
}
}
alpha=z; y1=0.0; y2=0.0;
for (i=0; i<=n-1; i++)
{
dx[i]=-alpha*dx[i];
x[i]=x[i]+dx[i];
y1=y1+fabs(dx[i]);
y2=y2+fabs(x[i]);
for (c = 0; c < n; c++)
{
i = (c + 1)%5;
j = (c + 2)%5;
l = (c + 3)%5;
k = (c + 4)%5;
d[nExpression] = ExpressionSolve(x, i, j, l, k); nExpression++;
d[nExpression] = ExpressionSolve(x, i, l, j, k); nExpression++;
for (c = 0; c < n; c++)
{
i = (c + 1)%5;
j = (c + 2)%5;
l = (c + 3)%5;
k = (c + 4)%5;
CoefficientSolve(x, p, i, j, l, k);nCoefficient++;
CoefficientSolve(x, p, i, l, j, k);nCoefficient++;
{
xc[i] = x[i]*xu[i];
毕业论文广义逆矩阵与线性方程组的求解
广义逆矩阵与线性方程组的求解The solution of linear equations by the generalized inverse matrix专业: 数学与应用数学作者:指导老师:学校二○一摘要本文首先对矩阵的广义逆进行定义及其分类, 然后主要对一些重要的广义逆的性质和求解进行详细的讨论, 其中包括对减号逆的求解、Moore-Penrose 逆的存在性与唯一性的证明、左逆与右逆的性质与求解等等. 通过对这些重要的广义逆矩阵的性质和求解方法的研究, 最后探讨矩阵的广义逆在解线形方程组中的应用.关键词: 广义逆矩阵；线性方程组；相容方程组；通解AbstractThis article first to define the generalized inverse matrix and its classification, and then mainly on some important properties of generalized inverses and solution of a detailed discussion, including a minus sign for solving inverse, Moore-Penrose inverse of the existence and uniqueness of proof, the left inverse and right inverse of the nature of and solution and so on. On these important properties of generalized inverse matrix of the theory and method, the last of the generalized inverse matrix in the solution of linear equations.Keywords: generalized inverse matrix；linear equations；compatibility equations；general solution目录摘要 (I)ABSTRACT (II)0 引言 (2)1 矩阵的几种广义逆 (1)1.1)1(A的定义与计算 (3)1.5加号逆+A的性质及计算 (4)1.6左逆与右逆的定义 (5)2 用广义逆矩阵求解线性方程组 (7)2.1左右逆的应用 (7)2.2相容方程组的通解与-A的应用 (8)2.3+A的应用 (11)参考文献 (14)0 引言广义逆矩阵是通常逆矩阵的推广, 推广的必要性, 首先是从线性方程组的求解问题出发的, 设有线性方程组b Ax = （0.1）当A 是n 阶方阵, 且0det ≠A 时, 则方程组（0.1）的解存在, 并唯一. 1x A b -= （0.2）但是, 在许多实际问题中所遇到的矩阵A 往往是奇异方阵或是任意的n m ⨯矩阵 （一般n m ≠）, 显然不存在通常的逆矩阵1-A , 这就促使人们去想象能否推广逆的概念, 引进某种具有普通逆矩阵类似性质的矩阵G , 使得其解仍可以表示为类似于式（0.2）的紧凑形式? 即Gb x = （0.3）1920年摩尔（E.H.Moor ）首先引进了广义逆矩阵这一概念, 其后三十年未能引起人们的重视, 指直到1955年, 彭诺斯（R.Penrose ）以更明确的形式给出了Moore 的广义逆矩阵的定义后, 广义逆矩阵的研究才进入了一个新的时期, 由于广义逆矩阵在数理统计、系统理论、最优化理论、现代控制理论等许多领域中的重要应用为人们所认识,因而大大推动了对广义逆矩阵的研究, 使得这一学科得到迅速的发展, 已成为矩阵的一个重要分支. (见参考文献[1][2])1 矩阵的几种广义逆1955年, 彭诺斯（R.Penrose ）指出, 对任意复数矩阵n m A ⨯, 如果存在复矩阵m n A ⨯,满足A AXA = (1.1) X XAX = (1.2)AX AX H =)( (1.3)XA XA H =)( (1.4)则称X 为A 的一个 Moore —Penrose 广义逆, 并把上面四个方程叫做 Moore —Penrose 方程, 简称 M —P 方程.由于 M —P 的四个方程都各有一定的解释, 并且应用起来各有方便之处， 所以出于不同的目的, 常常考虑满足部分方程的 X , 叫做弱逆, 为引用的方便, 我们给出如下的广义逆矩阵的定义.定义1.1 设n m C A ⨯∈, 若有某个m n C X ⨯∈, 满足 M —P 方程（1.1）～（1.4）中的全部或其中的一部分, 则称X 为A 的广义逆矩阵.(见参考文献[3])例如有某个X , 只要满足式（1.1） , 则X 为A 的{}1广义逆, 记为{}1A X ∈； 如果另一个Y , 满足式(1.1), (1.2)则Y 为A 的{}2,1广义逆, 记为{}2,1A Y ∈； 如果{}4,3,2,1A X ∈, 则X 同时满足四个方程, 它就是 Moore —Penrose 广义逆, 等等. 总之, 按照定义 1.1可推得, 满足1个, 2个, 3个, 4个Moore —Penrose 方程的广义逆矩阵共有1544342414=+++C C C C 种, 但应用较多的事一下五种{}1A , {}2,1A , {}3,1A , {}4,1A , {}4,3,2,1A .其中每一种广义逆矩阵又都包含着一类矩阵, 分述如下:1．{}1A : 其中任意一个确定的广义逆, 称作减号逆, 或g 逆, 记为-A ； 2．{}2,1A : 其中任意一个确定的广义逆, 称作自反广义逆, 记为r A ； 3．{}3,1A : 其中任意一个确定的广义逆, 称作最小范数广义逆, 记为m A ； 4．{}4,1A : 其中任意一个确定的广义逆, 称作最小二乘广义逆, 记为i A ；5．{}4,3,2,1A : 唯一，称作加号逆, 或伪逆, 或 Moore-Penrose 逆, 记为+A .为叙述简单起见, 下面我们以n R 及实矩阵为例进行讨论, 对于n C 及复的矩阵也有相应结果.本文着重介绍减号逆-A 和加号逆+A 以及左逆与右逆的性质及计算, 并讨论它们在解线性方程组中的应用.1.1 (1)A 的定义与计算定义 1.1.1 设m n A C ⨯∈, 若m n C G ⨯∈满足AGA A =, 则称G 为A 的{1}-逆记为(1)A ,由定义可知{}{}m n C G A AGA G A ⨯∈==,|1.例如设1100A ⎛⎫= ⎪⎝⎭, 则100a G ⎛⎫= ⎪⎝⎭就是A 的{1}-逆, 这里a 可以任取. 不难看出A 的{1}-逆并不唯一.定理 1.1.1 设m n r A C ⨯∈, P , Q 分别为m 阶与n 阶非奇异方阵, 且000rIPAQ ⎛⎫= ⎪⎝⎭则 122122{1}(,1,2)r ijI G A Q P G i j G G ⎧⎫⎛⎫⎪⎪==⎨⎬ ⎪⎝⎭⎪⎪⎩⎭为任意阶数的矩阵. （证明见参考文献[7]） 例1 求矩阵101002221453A -⎛⎫⎪= ⎪ ⎪-⎝⎭的广义逆)1(A .解 构造分块矩阵340AI B I ⎛⎫=⎪⎝⎭, 通过适当变化, 将A 进行行列变换化为000rI ⎛⎫⎪⎝⎭形式, 并求出变换P , Q .31314110111001000100022201002220101453001044400110000001011000010000001000000010000001000000010000001000r r c c c c ++--⎛⎫⎛⎫⎪⎪⎪ ⎪ ⎪ ⎪- ⎪⎪−−−→- ⎪ ⎪ ⎪⎪⎪⎪⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭323242221/21000100010012000001211011000011100000100000001000r r c c c c r ---⎛⎫⎪⎪⎪- ⎪−−−→- ⎪ ⎪-- ⎪⎪ ⎪⎝⎭,因此有10001/20121P ⎛⎫ ⎪= ⎪ ⎪-⎝⎭, 1011011100100001Q -⎛⎫⎪--⎪= ⎪⎪⎝⎭.于是我们取12G , 21G , 22G 均为0得()⎪⎪⎪⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎪⎪⎭⎫⎝⎛=00000002100010000000100011P Q A .1.2 加号逆+A 的性质及计算定义1.2.1设n m R A ⨯∈, 若存在m n ⨯ 阶矩阵 X , 它同时满足： 1) A AXA = 2）X XAX = 3）()AX AX T= 4）()XA XA T=则称X 为 A 的加号逆, 或伪逆, 或 M oore-Penrose 逆, 记为+A .从定义中可看出, 加号逆必同时是减号逆、自反广义逆、最小范数广义逆和最小二乘广义逆, 在四个条件中, X 与A 完全处于对称地位. 因此A 也是+A 的加号逆, 即有()A A =++; 另外可见, 加号逆很类似于通常的逆阵, 因为通常的逆1-A 也有下列四个类似的性质:1.A A AA =-12. 111---=A AA A3. I AA=-14. I A A =-1由定义1.2.1 中的条件 3）和 4）还可看出, +AA 与A A +都是对称矩阵.前面已经介绍了什么样的矩阵称为M P -广义逆矩阵, 下面将讨论M P -广义逆矩阵的唯一性.定理1.2.1对任意m n A C ⨯∈, A +存在且唯一.证明 设()rank A r =, 若0r =则A 是m n ⨯阶零矩阵, 显然n m ⨯阶零矩阵满足条件.若0r >则A 的满秩分解为A FG =, 其中m r r F C ⨯∈, r n r G C ⨯∈, 于是11()()H H H H B G GG F F F --=即为所求的A +. 因为(1) ()11()()H H H H ABA FG G GG F F F FG FG A --===； (2) 1111()()()()H H H H H H H H BAB G GG F F F FGG GG F F F ----=11()()H H H H G GG F F F B --==；(3) 111()(()())(())H H H H H H H H H AB FGG GG F F F F F F F ---== 1()H H F F F F AB -==；(4) 111()(()())(())H H H H H H H H H BA G GG F F F FG G GG G ---== 1()H H G GG G BA -==. 由此说明了P M -广义逆的存在性.又设,{1,2,3,4}X Y A ∈则有()()()()H H H H H X XAX X AX XX AYA X AX AY XAY =====()()()()H H H H H H H XA YAY XA YA Y A X A Y Y YAY Y =====. 这便说明了A +的唯一性.定理 1.2.2 设A 为秩为r 的m n ⨯矩阵, 其满秩分解为A FG =, 其中m rr F C ⨯∈,r nr G C ⨯∈, 则11()()H H H H A G GG F F F +--=.A +的唯一性前面已经作出了说明, 此定理的证明见参考文献[7]1.3 左逆与右逆的定义定义 1.3.1 设A 是m n ⨯矩阵, 若有n m ⨯矩阵G 满足m AG I =(或n GA I =), 则称G 为A 的右逆(或左逆), 记为1R A -(或1L A -).定理1.3.1 设A 是m n ⨯的矩阵, A 有右(左)逆1R A -(1L A -)的充要条件是()rank A m =(()rank A n =).若A 有右(左)逆, 则其中一个右(左)逆是11()H H R A A AA --=(11()H H L A A A A --=), 通式为11()H H R A VA AVA --=(11()H H L A A VA A V --=)其中V 是任意满足()()()()()H H rank A rank AVA rank A rank A VA ==的矩阵.证明 充分性: 已知()rank A m =, 则()H rank AA m =, H AA 是可逆矩阵, 若记1()H H G A AA -=, 则1()H H m AG AA AA I -==, 因此G 是A 的右逆.必要性: 设G 是A 的一个右逆, 则AG =m I . 由于()()()m m rank I rank AG rank A m ==≤≤,因此()rank A m =.设V 是任意满足()()H rank A rank AVA =的矩阵, 最后证明右逆的通式可以表示成为11()H H R A VA AVA --=的形式.由于1()H H m AVA AVA I -=, 因此1()H H VA AVA -是A 的右逆. 设G 是A 的任意右逆,记H V GG =, 则H H H m AVA AGG A I ==因此()()H rank A rank AVA m ==. 又因为1()H H VA AVA -=H H m m GG A I GI G ==,由上分析可知A 的任意右逆G 都可找到V 使其表示为1()H H G VA AVA -=的形式.因此矩阵A 的右逆的通式为11()H H R A VA AVA --=.对于左逆同理证明.例2求矩阵111000A ⎛⎫⎪= ⎪ ⎪⎝⎭的左逆1L A -. 解 由于1111021101001100H A A ⎛⎫⎛⎫⎛⎫ ⎪== ⎪ ⎪ ⎪⎝⎭⎝⎭ ⎪⎝⎭, 所以我们有11121110010()11100110H HL A A A A ---⎛⎫⎛⎫⎛⎫=== ⎪ ⎪ ⎪-⎝⎭⎝⎭⎝⎭例3 设 ⎥⎦⎤⎢⎣⎡--=210121A ,试求其右逆. 解 易知rank 2=A ,即A 是最大秩矩阵，有11210121210121210121--⎪⎪⎪⎭⎫ ⎝⎛⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡--⎥⎦⎤⎢⎣⎡--⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡-=R A =⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡824365141.2 用广义逆矩阵求解线性方程组考虑非齐次线性方程b Ax = （2.1） 其中n m C A ⨯∈, m C b ∈给定, 而m C x ∈为待定向量. 若()rankA b A rank =, 则方程（2.1）有解, 或称方程组相容, 否则, ()rankA b A rank ≠, 则方程（2.1）无解, 或称方程组不相容或矛盾方程组.2.1 左右逆的应用定理2.1.1 设Ax b =是相容性线形方程组, A 是行满秩矩阵, 1R A -是它的一个右逆.显然11()R R A A b AA b b --==, 因此1R A b -是线形方程组的解. 又若A 为列满秩矩阵, 1L A -是它的一个左逆, 则1L A b -是线形方程组的解.例4 求方程组Ax b =的解其中111000A ⎛⎫⎪= ⎪⎪⎝⎭, 210b ⎛⎫ ⎪= ⎪ ⎪⎝⎭. 解 显然方程组是相容的. 由于从前面已经知道1010110L A -⎛⎫= ⎪-⎝⎭,因此方程组的解为120101111010L x A b -⎛⎫⎛⎫⎛⎫ ⎪=== ⎪ ⎪ ⎪-⎝⎭⎝⎭⎪⎝⎭.2.2 相容方程组的通解与-A 的应用线性方程组相容时, 若系数矩阵n m C A ⨯∈, 且非奇异（即0det ≠A ）, 则有唯一的解b A X 1-= （2.2） 但当A 为奇异方阵或长方矩阵时, 它的解不是唯一的, 此时1-A 不存在或无意义，那么我们自然会想到, 这时是否能用某个矩阵G 把一般解（无穷多）表示成 Gb X = （2.3） 的形式呢? 这个问题是肯定的. 我们将会发现A 的减号逆A 充当了这一小角色.对于一个m n ⨯阶相容的线性方程组, 不论系数矩阵A 是方阵还是长方矩阵, 是满秩的还是降秩的, 我们都有一个标准的求解方法, 并且能把它的解表达成非常简洁的形式. 下面定理形式给出.定理2.2.1 如果线性方程组（2.1）是相容的, -A 是A 的任一个减号逆, 则线性方程组（2.1）的一个特解可表示成b A X -= 而通解可以表示成()z A A I b A X ---+= （2.4）其中z 是与X 同维的任意向量.(见参考文献[6])证 因为b AX =相容, 所以必有一个n 维向量, 使 b AW = 成立, 又由于是-A 是A 的一个减号逆, 所以A A AA =-,则有AW AW AA =-.亦即b b AA =-.由此得出b A X -= （2.5） 是方程组（2.1）的一个特解.其次, 在式子（2.4）两端左乘A . 则有b AA Z A A I A b AA AX ---=-+=)(由于b b A A =-)(, 所以式（2.4）确定的X 是方程组（2.1）的解, 且当x ~为任意一个解时, 令b A X Z --=~, 有)~)(()(b A X A A I Z A A I -----=- =Ab A X A A b A X ---+--~~ =b A b A b A X ---+--~=b A X --~从而得()Z A A I b A X ---+=~证毕.这表明由式（2.4）确定的解时方程组（2.1）的通解. 例5 求解⎩⎨⎧=+-=-+221232321x x x x x解 将方程组写成矩阵形式 b AX = 其中⎥⎦⎤⎢⎣⎡--=210121A ,⎥⎦⎤⎢⎣⎡=21b 由于()rankA b A rank ==2, 所以方程组是相容的, 现在只要要求得A 的一个减号就可以了, 由例1.3.2知矩阵A 的一个减号逆为⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=-8326451411RA 利用公式（2.4）, 我们就可立即求得方程组的通解：()Z A A I b A X R R 11---+=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡++-++---+=321321321213192461036913141z z z z z z z z z 也即()()()⎪⎪⎪⎩⎪⎪⎪⎨⎧++-=++-=--+=32133212321123191412461014136913141z z z x z z z x z z z x其中⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=321z z z Z 为任一向量. 例6 求方程组Ax b =其中101102221453A -⎛⎫ ⎪= ⎪ ⎪-⎝⎭, 101b ⎛⎫⎪= ⎪ ⎪-⎝⎭的解.解 不难看出, 该方程组是相容的, 由于前面已经求得(1)1000120000000A ⎛⎫ ⎪⎪= ⎪ ⎪⎝⎭， 所以方程组的通解为1342343344110010001011011012001000120002220000010000114530000001000y y y y y y x y y y y +-⎡⎤⎛⎫⎛⎫⎛⎫⎛⎫⎛⎫-⎛⎫⎛⎫⎢⎥ ⎪ ⎪ ⎪⎪⎪-- ⎪ ⎪⎢⎥ ⎪ ⎪ ⎪ ⎪ ⎪=+-= ⎪ ⎪⎢⎥ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪ ⎪--⎢⎥ ⎪⎪ ⎪⎪⎪⎝⎭⎝⎭⎢⎥⎝⎭⎝⎭⎝⎭⎝⎭⎝⎭⎣⎦其中3y , 4y 为任意实数.2.3 +A 的应用（一）判别线性方程组有解.普通线性代数中判别方程组b AX =有解的方法是用矩阵的秩，即()rankA b A rank =时有解;而有了广义逆矩阵理论之后, 便可用广义逆矩阵的方法判别, 并可同时求出解.结论1: 线性方程组b AX =有解b AA b +=⇔． 证 若线性方程组b AX =有解．不妨设其解为a ，则()()b AA Aa AA a A AA Aa b +++====反之, 若有b AA b +=, 则()()b A X A b A X b A X A b AA b AX ++++=⇒≠=-⇒=-⇒==000即b A X +=为线性方程组的一个解． （二）求齐次线性方程组的解空间利用广义逆矩阵可以求出齐次方程组的一切解结论2: 齐次线性方程组0=AX 的解空间=W {()Y Y A A E +-为任意列向量} 证 任取()W A A E a ∈-=+β, 有()()0=-=-=++ββA AA A A A E A Aa , 则a 为齐次线性方程组的解. 反之.若a 为方程组的解, 即0=Aa (2.3.1)两边左乘以A A +, 得0=+AAa A (2.3.2 )联立以上两式有()0=-+a A A E A (2.3.3)由（2.3.3）知: ()a A A E +-为方程组的解, 且()W a A A E ∈-+.(三) 判别齐次线性方程组有唯一解一般由个方程以及个未知数组成的齐次线性方程组0=AX 有唯一解的充分必要条件是0≠A . 但是当方程组的个数与未知数的个数不相等时, 不是方阵, 不能有用行列式判别. 可以用广义逆矩阵的方法判别如下：结论3: 齐次线性方程组0=AX 有唯一解E A A =⇔+证 ⇒ 若齐次线性方程组有唯一解, 则唯一解即为零解. 若E A A ≠+, 则0≠-+A A E由结论2知, 0≠∃Y , 使得()0≠-=+Y A A E a , 为方程组的解, 这与方程组有唯一零 解矛盾. 所以E A A =+.⇐ 若E A A =+, 则0=-+A A E , 由结论2知此时解空间有唯一零解. （四）求非齐次线性方程组的解空间结论4: 非齐次线性方程组b AX =的解空间=H {()Y Y A A E b A ++-+为任意 列向量}.事实上, 由线性方程组的一般理论知, 非齐次方程组的通解应该为对应齐次 的通解和自身的一个特解之和. 结论1、2告诉我们: b A +为其自身的一个特解； 而()Y Y A A E +-为对应齐次的通解(Y 取任意列向量). 显然即为其解空间.例7 求b AX =的通解. ⎪⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎭⎫ ⎝⎛=201,420021b A解 因为 ()2,1201⎪⎪⎪⎭⎫ ⎝⎛==FG A , 5=H GG , 5=F F H ,所以()b b AA A =⎪⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎭⎫ ⎝⎛⎪⎪⎪⎭⎫ ⎝⎛=⎪⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛⎪⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛=+--+2012012001000010052512014022012514200214022012512,0,1552111 通解为()Y Y A A E X ⎪⎪⎭⎫ ⎝⎛--+⎪⎪⎭⎫ ⎝⎛=-+⎪⎪⎭⎫ ⎝⎛=+12245121512151. 其中Y 为任意列向量．致谢 本文是在 的指导和帮助下完成的, 在此对汪教授表示衷心的感谢!参考文献[1] 姜同松编. 高等代数解题方法[M]. 石油大学出版社. 2001.[2] 北京大学数学系几何与代数教研室代数小组编. 高等代数[M]. 北京：高等教育出版社，1988．[3] 蔡剑芳. 高等代数综合题解[M]. 湖北科学技术出版社. 1986.[4] 王品超. 高等代数新方法[M]. 济南：山东教育出版社. 1989.[5] 黄有度, 狄成恩, 朱士信. 矩阵理论及其应用[M]. 合肥: 中国科学技术大学出版社, 1995.[6] 林升旭. 矩阵论学习辅导与典型题解析[M]. 武汉: 华中科技大学出版社, 2003.[7] 苏育才, 姜翠波, 张跃辉. 矩阵理论[M]. 北京: 科学出版社, 2006.[8] 李新, 何传江. 矩阵理论及其应用[M]. 重庆: 重庆大学出版社, 2005.[9]Verler.W.J.Vectors Structures and Solutions of linear Matrix Equation, linear Algebra Appl；1975.180-187．[10] Dai Hua.On the symmetric Solutions of linear Matrix Equation, linear Algebra Appl.1990(131)1-7．。
矩阵广义逆在线性方程组求解中的应用研究
龙源期刊网 矩阵广义逆在线性方程组求解中的应用研究作者：周卫春来源：《中国市场》2013年第02期［摘要］许多问题往往都可以转化为线性方程组的求解问题，如何求解线性方程组成为许多问题求解的关键。
基于矩阵的广义逆，本文研究了矩阵的广义逆在线性方程组求解中的应用。
本文首先提出了矩阵的广义逆的概念，然后采用矩阵的广义逆指出了线性方程组存在解和不存在解时的条件，并且给出了具体的求解流程图，最后提供了具体的求解实例。
本文的研究对于分析线性方程组的求解问题具有一定的指导意义。
［关键词］矩阵；广义逆；线性方程组［中图分类号］O151［文献标识码］A［文章编号］1005-6432（2013）2-0037-03现实生活中的好多问题往往经过简化都可以转化为线性方程组的求解问题。
对于线性方程组Ax=b，如果矩阵A是方阵且可逆，那么线性方程组Ax=b的解x=A-1b。
对于矩阵A不是方阵或者不可逆的时候，那么是不是也存在类似的解的表达形式呢？对于这类问题，E.H.Moore 于1920年在美国数学会上提出了他的广义逆矩阵的一个论文摘要。
论文发表在他死后的1935年。
20世纪30年代，我国的曾远荣先生把它推广到了Hilbert空间线性算子中。
1955年，R.Penrose发表了和E.H.Moore等价的广义逆矩阵理论，同年Rao提出了更一般的广义逆矩阵的概念。
广义逆矩阵的引入，不论是从理论上还是从实际的应用都使得线性方程组理论更加系统化。
1相关定义与定理矩阵的广义逆是矩阵的逆的推广，因此对于矩阵的广义逆，首先应该满足对于奇异矩阵或者非正方形矩阵也存在，其次应该具有和通常的逆矩阵类似的性质，最后是当求解那些具有可逆矩阵的广义逆时应该可以还原成通常意义下的矩阵的逆。
广义逆矩阵及其在线性方程组中的应用毕业论文(可编辑)
广义逆矩阵及其在线性方程组中的应用毕业论文毕业论文题目广义逆矩阵及其在线性方程组中的应用毕业设计(论文)原创性声明和使用授权说明原创性声明本人郑重承诺:所呈交的毕业设计(论文),是我个人在指导教师的指导下进行的研究工作及取得的成果。
尽我所知,除文中特别加以标注和致谢的地方外,不包含其他人或组织已经发表或公布过的研究成果,也不包含我为获得及其它教育机构的学位或学历而使用过的材料。
对本研究提供过帮助和做出过贡献的个人或集体,均已在文中作了明确的说明并表示了谢意。
作者签名: 日期:指导教师签名: 日期:使用授权说明本人完全了解大学关于收集、保存、使用毕业设计(论文)的规定,即:按照学校要求提交毕业设计(论文)的印刷本和电子版本;学校有权保存毕业设计(论文)的印刷本和电子版,并提供目录检索与阅览服务;学校可以采用影印、缩印、数字化或其它复制手段保存论文;在不以赢利为目的前提下,学校可以公布论文的部分或全部内容。
作者签名: 日期:线性方程组的逆矩阵求解方法只适用于系数矩阵为可逆方阵,但是对于一般线性方程组,其系数矩阵可能不是方阵或是不可逆的方阵,这种利用逆矩阵求解线性方程组的方法将不适用。
为解决这种系数矩阵不是可逆矩阵或不是方阵的线性方程组,我们对逆矩阵进行推广,研究广义逆矩阵,利用广义逆矩阵求解线性方程组。
广义逆矩阵在数据分析、多元分析、信号处理、系统理论、现代控制理论、网络理论等许多领域中有着重要的应用,本文针对广义逆矩阵的定义、性质、计算及其在线性方程组中的应用进行研究,利用广义逆矩阵求解线性方程组的通解及极小范数解。
关键词:广义逆矩阵;Moore-Penrose 方程;线性方程组;满秩分解ABSTRACTThe method to solve linear equations using the inverse matrix is only feasible when the coefficient matrix is reversible. But for the general system of linear equations, the coefficient matrix may be a irreversible matrix or a rectangular matrix, in this case, we can not use this method to solve the system of linear equationsIn order to find solutions of this system, we promote the inverse matrix to generalized inverse matrix, and than use the generalized inverse matrix to solve the system of linear equations.The generalized inverse matrix is important in many area, such as Data analysis, Multivariate analysis, Signal processing, System theory, Modern control theory, Network theory and so on. This paper studies the definition, properties, calculation of the generalized inverse matrix , and the applications in soluting the system of linear equations. Utilizing the generalized inverse matrix, we study the soluting of the general system of linear equations and the minimum norm solution.Key words: generalized inverse matrix; Moore-Penrose eqations; linear equations; full rank decomposition目录摘要 (Ⅰ)ABSTRACT (Ⅱ)前言 (1)广义逆矩阵 (2)§ 2.1 广义逆矩阵的定义 (2)§ 2.2 广义逆矩阵的性质 (3)广义逆矩阵的计算 (12)§3.1 一般广义逆求解…………………………………………………………12§3.2 Moore-Penrose 广义逆…………………………………………………19广义逆矩阵在线性方程组中的应用 (24)§4.1 相容方程组的求解………………………………………………………25§4.2 不相容方程组的极值问题解……………………………………………28结论………………………………………………………………………………33参考文献…………………………………………………………………………34致谢………………………………………………………………………………35前言逆矩阵的概念只对非奇异矩阵才有意义,但在实际问题中,遇到的矩阵不一定是方阵,即使是方阵也不一定非奇异,这就需要将逆矩阵的概念进行推广。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(6.4.3) 其中是欧氏范数.称该极值问题为求矛盾方程组的最小二乘问题,相 应的解称为最小二乘解. ⑷一般地,矛盾方程组的最小二乘解是不唯一的.但其中具有极小范 数的解
(6.4.19) 的解,因而方程组(6.4.1)的极小范数最小二乘解就是方程组 (6.4.19)的极小范数解.由定理6.30和定理6.9得, 方程组(6.4.19)的唯 一极小范数最小二乘解是
反之,若对所有是方程组(6.4.1)的极小范数最小二乘解,则有
从而. 需要指出的是,若方程组(6.4.1)相容,则最小二乘解与一般意义下
才是唯一的.因为,若是最小二乘解,则对于任意,也是最小二乘解. 推论 是方程(6.4.1)的最小二乘解的充要条件是, 为
的解. 证: 因为
(6.4.18)
由(6.4.17)知, 是方程(6.4.1)的最小二乘解的充要条件是
所以. 方程组(6.4.18)成为矛盾方程组(6.4.1)的法方程(或正规方程组)
证: 根据定理6.33并利用习题6.2中第14题的结果知,线性方程组 (6.4.22)的唯一极小范数最小二乘解为
从而矩阵方程(6.4.5)的极小范数最小二乘解为 证毕
矛盾方程（组）的解---最小二乘法
一、从实验数据处理谈起
设有一组实验数据(t1，s1)，(t2，s2)，……，(tn，sn)， 希望由实验数据拟合给定规律，从而测出待测量的有关参 数。
依次取为的各列,得 由引理7, .
三. 矛盾方程组的最小二乘解与广义{1,3}-逆 引理8 设,集合A{1,3}由矩阵方程
（6.4.13） 的所有解X组成,其中.
证:类似引理7证明. 定理6.31设,则
（6.4.14） 证:方程（6.4.13）的通解为
令即得.# 定理6.32设则
(6.4.15) 是方程组（6.4.1）的最小二乘解,其中.反之,设,若对所有是方程组 （6.4.1）的最小二乘解,则. 证:因为
方程的通解为 显然最小二乘解并不一定都具有A(1,3)b的形式。 反之，若对于，即 推论：x是方程Ax＝b的最小二乘解的充要条件是，x为方程 的解。 证：，而，故
最小二乘解一般不唯一。 3、 极小范数最小二乘解 定理2 ：设 ，则x＝Ab是方程Ax＝b的极小范数最小二乘解。 反之，若存在，若对于所有，x＝Xb均成为方程Ax＝b的极小 范数最小二乘解，则X＝A。 证：最小二乘解满足Ax＝AA(1,3)b，其极小范数解唯 一，且为，反之，均成为唯一的极小范数最小二乘解，所 以：X＝A。 定理3：矩阵方程AXB＝D的极小范数最小二乘解唯一，且为 证明略（教材P86）
四. 矛盾方程组的极小范数解与广义逆矩阵
虽然最小二乘解不是唯一的,但是极小范数最小二乘解却是唯一的, 并且可由Moore-Penrose逆表出.
定理6.33 设,则是方程组(6.4.1)的唯一极小范数最小二乘解.反 之, 设,若对所有是方程组(6.4.1)的极小范数最小二乘解.则.
证: 取,由定理6.32的证明和式(6.4.17)知, 方程组(6.4.1)的最小 二乘解是
的解一致,而极小范数最小二乘解与极小范数解一致. 例6.10 取例6.4的矩阵A和,求方程组(6.4.1)的极小范数最小二乘
解.
解: 由例6.5的结果知, 方程组(6.4.1)的极小范数最小二乘解为
五.矩阵方程的极小范数最小二乘解
定理6.33的结果可以推广到矩阵方程组(6.4.5)的情形.设矩阵范数 为
(6.4.20) 又设是将矩阵A按行拉直所得的列向量,即
(6.4.21) 显然矩阵A的范数(6.4.20)等于对应向量的欧氏范数.利用矩阵直积 和拉直的关系,可将矩阵方程(6.4.5)化为线性方程组
(6.4.22) 定理6.34 若矩阵方程(6.4.5)不相容,则它的极小范数最小二乘解, 即满足
的唯一解为
假定规律为：，程（不自洽、非相容），虽说无解，但在物理上看，我们 需要而且也理当有“解”。怎么办？ 一般处理是，定义一种目标函数，例如： 使误差最小化。wi=1(i=1～n)时
2、 最小二乘法（解） 对于矛盾方程Ax=b，最小二乘法是求其“解”的一种方 法。即求使的解。 引理：,A{1,3}由如下方程的通解构成： 其中，A(1,3)为A{1,3}中的某个矩阵。 证：1。方程既然相容，设X是其某个解，则 即方程的解必在A{1,3}中。
2。设X为A的一个{1,3}-逆矩阵，则 即，A的{1,3}-逆矩阵必满足方程AX=AA(1,3) 令，则 定理：矩阵方程Ax=b的最小二乘解为 ，其中A(1,3)为A的任何 一个{1,3}-逆矩阵，反之，存在X，对于任何均有Xb成 Ax=b的最小二乘解，则。 证明： 所以，，
故取得极小值的条件是x为方程 的解。任取一个，我们 知道。而对于，有（但最小二乘解是否一定具有A(1,3)b的形 式呢？）
令即得. 定理6.30 设方程组（6.4.1）相容,则 是极小范数解,其中.反之,设,若对所有 是方程组（6.4.1）的极小范数解,则. 证: 若相容,则.由(6.4.10)知,对任意, 都是解,由推得,存在使得,所以 ,由引理6, 是方程（6.4.1）的唯一极小范数解.所有 反之,若对都是方程组（6.4.1）的极小范数解,则有
作业：P344－346，1，2，5
而 ，所以 (6.4.16)
其中为欧氏范数.显然,(6.4.16)取得极小值的充要条件是 (6.4.17)
任取,根据定理6.5之(6),有 ⑴
⑵ 所以 .因此当时,
即(6.4.17)成立. 反之,若对所有满足(6.4.17),即
则有,容易推得. 一般地,最小二乘解不是唯一的,仅当A是列满秩时, 最小二乘解
(6.4.4) 是唯一的,称为极小范数最小二乘解. 广义逆矩阵与线性方程组的求解有密切关系.利用广义逆矩阵可以 给出上述诸问题的解. 反之, 由线性方程组的解又可以确定广义逆矩 阵.
1. 线性方程组的相容性、通解与广义{1}-逆
定理6.26 设,则矩阵方程 (6.4.5)
相容的充要条件是 (6.4.6)
容易验证,所以方程组相容,其通解为
其中,任意. 因此, 由{1}-逆可构造相容方程组的解,反之由相容方程组的解也 可给出{1}-逆. 定理6.28 设.若对于使方程(6.4.1)相容的所有,都有解,则. 证：记为A的第j列，则方程组
相容.由于是方程组的解,即
从而
证毕
二. 相容线性方程组的极小范数解与广义{1,4}-逆 引理6 相容方程组(6.4.1)的极小范数解唯一,且这个唯一解在 中. 证: 设的极小范数解. 存在性:先证.反设, 则由
(6.4.8) 定理6.27 线性方程组(6.4.1)相容的充要条件是
(6.4.9) 且其通解为
(6.4.10) 注: ⑴由线性代数理论,方程组(6.4.1)的通解为 其中,是特解.此处,是(6.4.1)的特解,而是 ⑵由(6.4.9)可推得方程(6.4.1)相容的充要条件是. 例6.9 设
, 求解线性方程组. 解: 由例6.4,取有的一个{1}-逆
第十六讲
CH6.4 广义逆矩阵与线性方程组求解
考虑非齐线性方程组 (6.4.1)
其中给定.为待定向量, 如果存在向量使(6.4.1)成立,则称方程组 相容,否则称不相容或矛盾方程组.
问题: ⑴方程组(6.4.1)相容的条件是什么? 相容时求出其通解(如果解 不唯一的话); ⑵如果方程组(6.4.1)相容,其解可能有无穷个,求出具有极小范数 的解,即
其中. 当方程(6.4.5)相容时,其通解为 (6.4.7)
其中. 证: 充分性: 若条件(6.4.6)成立,显然是(6.4.5)的解.
必要性: 若是(6.4.5)的任意解, 则有 .
当方程(6.4.5)相容时, 容易验证(6.4.7)是它的解.
另外,若是方程(6.4.5)的任意解,则
这为(6.4.7)的形式,因而是方程(6.4.5)的通解. 推论 设,则
知
于是 而 这与是的极小范数解矛盾. 唯一性:若有,则 即 ; 又,则
因此,即. 引理7 集合A{1,4}由矩阵方程
（6.4.11）
的所有解X组成,其中.
证：若X满足方程（6.4.11）,则
,等式1)成立;
,等式4)成立.
所以,
.
反之, 若,则有
定理6.29 设,则 （6.4.12）
证 方程（6.4.11）的通解为