16 广义逆阵与线性方程组求解及最小二乘法

假定规律为：，由于存在误差，令 ， 则：Ax=b实际无解，或者说矩阵方程Ax=b成为矛盾 方程（不自洽、非相容），虽说无解，但在物理上看，我们 需要而且也理当有“解”。怎么办？ 一般处理是，定义一种目标函数，例如： 使误差最小化。wi=1(i=1～n)时
2、 最小二乘法（解） 对于矛盾方程Ax=b，最小二乘法是求其Fra Baidu bibliotek解”的一种方 法。即求使的解。 引理：,A{1,3}由如下方程的通解构成： 其中，A(1,3)为A{1,3}中的某个矩阵。 证：1。方程既然相容，设X是其某个解，则 即方程的解必在A{1,3}中。
依次取为的各列,得 由引理7, .
三. 矛盾方程组的最小二乘解与广义{1,3}-逆 引理8 设,集合A{1,3}由矩阵方程
（6.4.13） 的所有解X组成,其中.
证:类似引理7证明. 定理6.31设,则
（6.4.14） 证:方程（6.4.13）的通解为
令即得.# 定理6.32设则
(6.4.15) 是方程组（6.4.1）的最小二乘解,其中.反之,设,若对所有是方程组 （6.4.1）的最小二乘解,则. 证:因为
四. 矛盾方程组的极小范数解与广义逆矩阵
虽然最小二乘解不是唯一的,但是极小范数最小二乘解却是唯一的, 并且可由Moore-Penrose逆表出.
定理6.33 设,则是方程组(6.4.1)的唯一极小范数最小二乘解.反 之, 设,若对所有是方程组(6.4.1)的极小范数最小二乘解.则.
证: 取,由定理6.32的证明和式(6.4.17)知, 方程组(6.4.1)的最小 二乘解是
(6.4.2) 其中是欧氏范数.可以证明,满足该条件的解是唯一的,称为极小范 数解. ⑶如果如果方程组(6.4.1)不相容, 则不存在通常意义下的解,但 许多实际问题,需要求出极值问题
(6.4.3) 其中是欧氏范数.称该极值问题为求矛盾方程组的最小二乘问题,相 应的解称为最小二乘解. ⑷一般地,矛盾方程组的最小二乘解是不唯一的.但其中具有极小范 数的解
知
于是 而 这与是的极小范数解矛盾. 唯一性:若有,则 即 ; 又,则
因此,即. 引理7 集合A{1,4}由矩阵方程
（6.4.11）
的所有解X组成,其中.
证：若X满足方程（6.4.11）,则
,等式1)成立;
,等式4)成立.
所以,
.
反之, 若,则有
定理6.29 设,则 （6.4.12）
证 方程（6.4.11）的通解为
(6.4.20) 又设是将矩阵A按行拉直所得的列向量,即
(6.4.21) 显然矩阵A的范数(6.4.20)等于对应向量的欧氏范数.利用矩阵直积 和拉直的关系,可将矩阵方程(6.4.5)化为线性方程组
(6.4.22) 定理6.34 若矩阵方程(6.4.5)不相容,则它的极小范数最小二乘解, 即满足
的唯一解为
的解一致,而极小范数最小二乘解与极小范数解一致. 例6.10 取例6.4的矩阵A和,求方程组(6.4.1)的极小范数最小二乘
解.
解: 由例6.5的结果知, 方程组(6.4.1)的极小范数最小二乘解为
五.矩阵方程的极小范数最小二乘解
定理6.33的结果可以推广到矩阵方程组(6.4.5)的情形.设矩阵范数 为
令即得. 定理6.30 设方程组（6.4.1）相容,则 是极小范数解,其中.反之,设,若对所有 是方程组（6.4.1）的极小范数解,则. 证: 若相容,则.由(6.4.10)知,对任意, 都是解,由推得,存在使得,所以 ,由引理6, 是方程（6.4.1）的唯一极小范数解.所有 反之,若对都是方程组（6.4.1）的极小范数解,则有
才是唯一的.因为,若是最小二乘解,则对于任意,也是最小二乘解. 推论 是方程(6.4.1)的最小二乘解的充要条件是, 为
的解. 证: 因为
(6.4.18)
由(6.4.17)知, 是方程(6.4.1)的最小二乘解的充要条件是
所以. 方程组(6.4.18)成为矛盾方程组(6.4.1)的法方程(或正规方程组)
作业：P344－346，1，2，5
(6.4.19) 的解,因而方程组(6.4.1)的极小范数最小二乘解就是方程组 (6.4.19)的极小范数解.由定理6.30和定理6.9得, 方程组(6.4.19)的唯 一极小范数最小二乘解是
反之,若对所有是方程组(6.4.1)的极小范数最小二乘解,则有
从而. 需要指出的是,若方程组(6.4.1)相容,则最小二乘解与一般意义下
而 ，所以 (6.4.16)
其中为欧氏范数.显然,(6.4.16)取得极小值的充要条件是 (6.4.17)
任取,根据定理6.5之(6),有 ⑴
⑵ 所以 .因此当时,
即(6.4.17)成立. 反之,若对所有满足(6.4.17),即
则有,容易推得. 一般地,最小二乘解不是唯一的,仅当A是列满秩时, 最小二乘解
方程的通解为 显然最小二乘解并不一定都具有A(1,3)b的形式。 反之，若对于，即 推论：x是方程Ax＝b的最小二乘解的充要条件是，x为方程 的解。 证：，而，故
最小二乘解一般不唯一。 3、 极小范数最小二乘解 定理2 ：设 ，则x＝Ab是方程Ax＝b的极小范数最小二乘解。 反之，若存在，若对于所有，x＝Xb均成为方程Ax＝b的极小 范数最小二乘解，则X＝A。 证：最小二乘解满足Ax＝AA(1,3)b，其极小范数解唯 一，且为，反之，均成为唯一的极小范数最小二乘解，所 以：X＝A。 定理3：矩阵方程AXB＝D的极小范数最小二乘解唯一，且为 证明略（教材P86）
(6.4.4) 是唯一的,称为极小范数最小二乘解. 广义逆矩阵与线性方程组的求解有密切关系.利用广义逆矩阵可以 给出上述诸问题的解. 反之, 由线性方程组的解又可以确定广义逆矩 阵.
1. 线性方程组的相容性、通解与广义{1}-逆
定理6.26 设,则矩阵方程 (6.4.5)
相容的充要条件是 (6.4.6)
第十六讲
CH6.4 广义逆矩阵与线性方程组求解
考虑非齐线性方程组 (6.4.1)
其中给定.为待定向量, 如果存在向量使(6.4.1)成立,则称方程组 相容,否则称不相容或矛盾方程组.
问题: ⑴方程组(6.4.1)相容的条件是什么? 相容时求出其通解(如果解 不唯一的话); ⑵如果方程组(6.4.1)相容,其解可能有无穷个,求出具有极小范数 的解,即
其中. 当方程(6.4.5)相容时,其通解为 (6.4.7)
其中. 证: 充分性: 若条件(6.4.6)成立,显然是(6.4.5)的解.
必要性: 若是(6.4.5)的任意解, 则有 .
当方程(6.4.5)相容时, 容易验证(6.4.7)是它的解.
另外,若是方程(6.4.5)的任意解,则
这为(6.4.7)的形式,因而是方程(6.4.5)的通解. 推论 设,则
容易验证,所以方程组相容,其通解为
其中,任意. 因此, 由{1}-逆可构造相容方程组的解,反之由相容方程组的解也 可给出{1}-逆. 定理6.28 设.若对于使方程(6.4.1)相容的所有,都有解,则. 证：记为A的第j列，则方程组
相容.由于是方程组的解,即
从而
证毕
二. 相容线性方程组的极小范数解与广义{1,4}-逆 引理6 相容方程组(6.4.1)的极小范数解唯一,且这个唯一解在 中. 证: 设的极小范数解. 存在性:先证.反设, 则由
证: 根据定理6.33并利用习题6.2中第14题的结果知,线性方程组 (6.4.22)的唯一极小范数最小二乘解为
从而矩阵方程(6.4.5)的极小范数最小二乘解为 证毕
矛盾方程（组）的解---最小二乘法
一、从实验数据处理谈起
设有一组实验数据(t1，s1)，(t2，s2)，……，(tn，sn)， 希望由实验数据拟合给定规律，从而测出待测量的有关参 数。
(6.4.8) 定理6.27 线性方程组(6.4.1)相容的充要条件是
(6.4.9) 且其通解为
(6.4.10) 注: ⑴由线性代数理论,方程组(6.4.1)的通解为 其中,是特解.此处,是(6.4.1)的特解,而是 ⑵由(6.4.9)可推得方程(6.4.1)相容的充要条件是. 例6.9 设
, 求解线性方程组. 解: 由例6.4,取有的一个{1}-逆
2。设X为A的一个{1,3}-逆矩阵，则 即，A的{1,3}-逆矩阵必满足方程AX=AA(1,3) 令，则 定理：矩阵方程Ax=b的最小二乘解为 ，其中A(1,3)为A的任何 一个{1,3}-逆矩阵，反之，存在X，对于任何均有Xb成 Ax=b的最小二乘解，则。 证明： 所以，，
故取得极小值的条件是x为方程 的解。任取一个，我们 知道。而对于，有（但最小二乘解是否一定具有A(1,3)b的形 式呢？）