线性代数几个基本基础概念

矩阵既是坐标系，又是变换.
数学定义：
矩阵就是由 m行 n列数
放在一起组成的数学对象
数学书上的语言是经过千锤百炼的。这 种抽象的语言，精准的描述了人类对数学某 些局部理解的精微.
这些描述的语言可能可以有更完善的改 进，就像编写的程序有些地方的语句可以改 得更巧妙更坚固一样.
数学容许我们每个人按自己的理解方 式来理解, 这就看你怎样对它加工，使它 明确、使它华丽、使它完美. 使它更易于 理解和使用. 这个过程也就是一个人学懂 数学的过程.
1. 由很多（实际上是无穷多个）位置点组成； 2. 这些点之间存在相对的关系； 3. 可以在空间中定义长度、角度； 4. 这个空间可以容纳运动.
这里我们所说的运动是从一个点到另一个点的 跳跃（变换）,而不是微积分意义上的“连续” 性的运动.
容纳运动是空间的本质特征
“空间”是容纳运动的一个对象 集合，而空间的运动由变换所规定.
span(1, 2, , n )
1 3 5 0 7
Amn 0 0 0 1 2 n=5
1 3 5 1 9
Row space
C( AT ) {AT x : x Rm} Rn

span(1T
,

T 2
,
,

T m
)
1 3 5 0 7
Amn 0 0 0 1 2
x k22 k33 k55
dim N(R) n r
- 3
5
7

1


0


0

其中2 =

0 0

,3



1 0

,5


0

2
0
0
1
dim N(R) n r 5 2 3
矩阵是什么？
矩阵
1. 矩阵只是一堆数，如果不对这堆数建立一 些运算规则.
2. 矩阵是一列列向量，如果每一列向量列举 了对同一个客观事物的多个方面的观察值.
3. 矩阵是一个图像，它的每一个元素代表相 对位置的像素值.
4. 矩阵是一个线性变换，它可以将一些向量 变换为另一些向量.
要回答“矩阵是什么”，取决于你从什 么角度去看它.
Null space N ( A) {x : Ax 0, x Rn}
N (R) {x : Rx 0, x Rn}
1 3 5 0 7
Rmn 0 0 0 1 2 1, 2, 3, 4, 5
0 0 0 0 0 有三个自由变量：x2 , x3, x5. 方程 Rx 0 有解：
变换
M b M (I b) M b a
坐标
M b (MI )b M b
b
a
a Ia Mb
(RM ) (RM )I TI
T M
I
从变换的观点来看，对坐标系M施加R变换， 就是对组成坐标系M的每一个向量施加R变换.
从坐标系的观点来看，对坐标系M的每一个 基向量，把它在I坐标系中的坐标找出来,然后通 过R组成一个新的（坐标系）矩阵.
则存在可逆矩阵B使得
BA R A B1R
Notice
C( A) C(R)
例1
1 3 5 0 7 m=3
Rmn 0 0 0 1 2 n=5
0 0 0 0 0 r=2
Pivot rows 1 and 2 Pivot columns 1 and 4
rankR dim C(R) dim C(RT ) 2
0, 0, 0, 0, 0
y (0, 0, y3 ) N (RT )
dim N (RT ) m r
例2
1 0 3
1 0 3
设 A33 0 1 2 R33 0 1 2
1 1 5
0 0 0
行基 1=（1，0，3） 2 =（0，1，2）
量组成A的一个完备的标准正交特征向量系.
对于实的非对称矩阵A，不再有像式（1）的分解，
但却存在两个正交矩阵P和Q，使 PT AQ 为对角矩阵，
即有下面的正交对角分解定理.
定理 设 A Rnn 非奇异，则存在正交矩阵P和Q，
使得
PT AQ diag(1,2 ,...n )
(2)
其中 i 0(i 1, 2,...n)
例4
若
A

1 3
2 6
分解
x

4 3
得
xr
xn

2 4

2 1
1 Axr 3
2 6
2 4

10
1 3

C(
AT
)
1 2 2 0 Axn 3 6 1 0 N(A)
三、矩阵的奇异值分解
应用领域
1.最优化问题； 特征值问题； 最小二乘问题； 广义逆矩阵问题等.
2.统计分析； 信号与图像处理； 系统理论和控制等.
矩阵的正交对角分解
若A是n阶实对称矩阵，则存在正交矩阵Q，使得
QT AQ diag(1, 2 ,...n )
(1)
其中 i (i 1, 2,...n) 为矩阵A的特征值，而Q的n个列向
(3)
称式（3）为正交矩阵A的正交对角分解
引理：
1.设
A

C mn r
(r

0),
则 AT A 是对称矩阵，
且其特征值是非负实数.
2. rank( AT A) rankA
3. 设
A

C mn r
(r

0),
则
A0
的充要条件是
AT A 0
定义 设 A是秩为 r的m n 实矩阵，AT A
P1AP B学理论描述、证 明不能令人满意和信服 ！
一、线性空间和矩 阵的几个核心概念
空间
基本定义: 存在一个集合，在这个集合上定义某某概
念，然后满足某些性质”，就可以被称为空间.
为什么要用“空间”来称呼一些这样的集 合呢？奇怪!
三维的空间
数无形时少直观, 形无数时难入微, 数形结合百般好, 隔离分家万事休.
--------华罗庚
将抽象思维形象化 将理论知识实用化
二、矩阵的四个基本子空间
基本定义
记：
1
Amn

2



1
2
n

m

Column space
C( A ) {Ax : x Rn} Rm
同一个线性变换的矩阵具有性质： 若A和B是同一个线性变换的两个不同矩阵，
则一定存在非奇异矩阵P，使得
A P1BP
即同一个线性变换在不同的坐标系下表现为不同 的矩阵，但其本质相同，所以特征值相同.
相似矩阵，就是同一个线性变换的不同的 描述矩阵. 或者说相似矩阵都是同一个线性变 换的描述 .
线性变换可以用矩阵的形式呈现，也就是 说，矩阵是形式，而变换 ——也就是各种映射 才是本质， 而代数的重要任务之一就是研究各 种数学结构之间的关系——也就是映射.
矩阵与线性变换
在线性空间中，当选定一组基之后，不 仅可以用一个向量来描述空间中的任何一个 对象，而且可以用矩阵来描述该空间中的任 何一个运动（变换）.也即对于任何一个线性 变换，都能够用一个确定的矩阵来加以描述.
.
在线性空间中选定基之后，向量刻画对象，
矩阵刻画对象的运动.
而使某个对象发生对应运动的方法，就是
则有 QT ( AT A)Q 2 或者 ( AQ 1)T AQ 再令 P AQ 1 ,于是有
PT P ( AQ 1)T ( AQ 1) I 即P为正交矩阵，且使
PT AQ diag(1,2 ,...n ) 改写式(2)为
A P diag(1,2,...n ) QT
1 X ,2 X L(1,2 ) X
C(AT ) N ( A)
(1,0,3)
C(AT ) L(1,2 )
(0,1,2)
(3,2,-1)
N(A)
1 例3 A 2
2 4
3 6

1
2
3
则 C ( A) span(1 )
由 AT y
线性代数的几个基本概念
(一)
引言
F
(a, b，c)
实用 直观
抽象
几何的抽象化
数学的表述方式和抽象性产生了全面的升华 !
按照现行的国际标准，线性代数是通 过公理化、系统性表述的，具有很强的逻 辑性、抽象性，是第二代数学模型.
通常的教学模式 概念——相应定理公式——例题求解
直觉性丧失！
问题
用代表那个运动的矩阵，乘以代表那个对象的
向量.用矩阵与向量的乘法施加运动.
矩阵是线性空间中的线性变换的一个描述
线性变换不同于线性变换的一个描述
对于同一个线性变换，选定一组基，就可 以找到一个矩阵来描述这个线性变换；换一组 基，就得到一个不同的矩阵.
所有这些矩阵都是这同一个线性变换的描 述，但又不是线性变换本身.
的特征值为 r(r 0)
1 2 r r1 n 0
则称 i i (i 1, 2, , r) 为A的奇异值.
奇异值分解定理
设A是秩为 r(r 0) 的 m n 实矩阵,
则存在 m 阶正交矩阵 U 与 n 阶正交矩阵 V ,
使得
U T AV
0 解得
y

2 1
则 N ( AT ) span( y)
显然 C ( A) N ( AT )