工程矩阵的通俗理解

其中 k 是数域 P 中的任意数，ɑ、ß 、γ是 V 中的任意元素，则称(ɑ,ß )为ɑ与 ß的内积，定义了内积的线性空间 V 称为内积空间。特别地，称实数域 R 上的内积空间 V 为 Euclid 空间（欧式空间）；称复数域 C 上的内积空间 V 为酉空间。
这是线性空间上内积的抽象定义，落实到具体线性空间，在其上可以有不同的内积定义，只要符合内积定义的这四个条件，就是内积。比如，线性 空间 R
由矩阵算子范数的定义形式可知，矩阵 A 把向量 x 映射成向量 Ax，取其在向量 x 范数为 1(||x||v =1)所构成的闭集下的向量 Ax 范数最大值作为矩阵 A 的范数，即矩阵对向量缩放的比例的上界，矩阵的算径（最大特征值 的绝对值） ， 矩阵算子范数对应一个取到向量 Ax 范数最大时的向量 x 方向， 谱半径对应最大特征值下的特征向量的方向。 而矩阵的奇异值分解 SVD， 分解成左右各一个酉阵，和拟对角矩阵，可以理解为对向量先作旋转、再缩放、最后再旋转，奇异值，就是缩放的比例，最大奇异值就是谱半径的 推广，所以，矩阵算子范数大于等于矩阵的最大奇异值，酉阵在此算子范数的意义下，范数大于等于 1。此外，不同的矩阵范数是等价的。
n n n n n
线性空间有哪些结构与性质呢？ 首先是线性空间的维数，我们生活的空间是四维的“空间＋时间”，一个抽象的线性空间的维数该如何确定？线性空间 V 中有 n 个线性无关的向量 ɑ1、ɑ2、…ɑn，并且 V 中任一向量都可由ɑ1、ɑ2、…ɑn 线性表出，则 dim(V)=n 。 其次，需要确定线性空间的一组“基”和“坐标”，在 n 维线性空间 V 中，只需要找到 n 个线性无关的向量ξ1、ξ2、…ξn，即可组成 V 的一组 “基”，V 中的任一向量 ß ，都可以地表示为基ξ1、ξ2、…ξn 的线性组合 ß = x1ξ1+x2ξ2+…+xnξn 其中系数 x1、x2、…、xn 称为 ß在基ξ1、ξ2、…ξn 下的坐标，记为（x1、x2、…、xn） 。取定的基不同，坐标就不同，同一向量在不同基下 的坐标，存在一个过渡矩阵 P（P 是可逆的）。 还有，线性空间也是集合，集合有子集、集合的运算等，线性空间子空间，子空间的交与和。 此外，与几何空间相比，线性空间中的向量的度量性质如长度、夹角等，由内积的概念导出，下一节将具体阐述“内积空间”。
范数理论是矩阵分析的基础，度量向量之间的距离、求极限等都会用到范数，范数还在机器学习、模式识别领域有着广泛的应用。
矩阵的特征值与特征向量
一个 m×n 的矩阵是 n 维线性空间 V1 到 m 维线性空间 V2 的一个线性映射的表示，当 m=n 时，线性变换的矩阵是一个 n×n 方阵。线性变换在不同基 下所对应的矩阵是相似的，即 B = P AP（P 为由一组基到另一组的过渡矩阵，过渡矩阵可逆）我们希望能找到一组基，使得线性变换在这组基下所 对应的矩阵具有简单的结构，如对角矩阵或 jordan 形矩阵，因为这样结构简单的矩阵便于研究与计算。 首先，我们考虑能否相似于一个对角矩阵，即矩阵可对角化。有了这个目标，可以采用逆向思维的方法，B = P AP，PB = AP，把 P 写成列向量的 形式 P = (ɑ1,ɑ2,… ,ɑn),则 PB=AP 写成：
-1
任何方阵都相似于一个 jordan 形矩阵。相似的矩阵具有相同的特征值（因为他们有相同的特征多项式|λI-A|＝|λI- P AP |），特征向量用来求 过渡矩阵 P，特征值是相似矩阵的不变量，而特征向量是不一样的，因基的不同而不同。
-1
当矩阵是一个 Hermite 矩阵，A = A，讨论矩阵的合同 B=P AP，Hermite 一定合同于一个对角矩阵，（非 Hermite 矩阵，合同就退化为一般的相抵， 其实都是对矩阵作初等变换） 。 相合关系是由二次型引出的， 一个二次型对应一个 Hermite 矩阵， x Ax ， 对 x 作一次线性替 x=Py， (Py) A(Py) = y P APy = y By，B=P AP。我们希望能找到一个线性替换，使得 A 相合于一个对角形式，存在酉变换，合同相似于实对角矩阵，对角线上的元素是特征值， 存在一般的线性替换，使得 A 相合于“相合标准型”，得到矩阵的惯性指数，即正特征值个数、负特征值个数、零特征值个数。
定义 设 V 是数域 P 上的线性空间，V 到 P 的一个代数运算（V×V－>P），记为 (ɑ,ß ) 。如果(ɑ,ß )满足下列条件： 1) (ɑ,ß ) = 共轭(ß ,ɑ)；
2) 3) 4)
(ɑ+ß ,γ) = (ɑ,γ) + (ß , γ )； (kɑ,ß ) = k(ɑ,ß )； (ɑ,ɑ)≥0，当且仅当ɑ=0 时(ɑ,ɑ)=0，
其中к、ｍ是数域 P 中的任意数，ɑ、ß 、γ是 V 中的任意元素，则称 V 为数域 P 上的线性空间，线性空间的元素也称为向量。
线性空间的定义是非常抽象的，就是在一个数域 P 以及一个非空集合 V 上，定义了两种代数运算，即加法、数乘，并满足下面的八条规则（前四条 是加法规则，后四条是数乘规则），就构成所谓的“线性空间 V”，V 是一个集合，里面的元素即线性空间 V 中的元素称为向量。这里的线性空间 的定义是抽象的，也就是说，只要一个集合符合以上的定义，都可以称为线性空间，集合里面的元素也是抽象的。比如，区间[a,b]上全体连续实 函数作成的集合，按函数的加法、数与函数的数量乘法构成实数域 R 上的线性空间，记为 C[a,b]，线性空间中的向量是连续实函数；再比如，数域 P 上次数小于 n 的一元多项式再添上零多项式，记为 P[x]n，按通常的多项式加法和数与多项式的乘法构成数域 P 上的线性空间，线性空间中的向 量是次数小于 n 的多项式。 虽然不同的线性空间，线性空间中的向量各有不同，但只要给定一组“基”，向量在这组“基”下的坐标，都同构于我们所熟悉的 P 。这是一个 非常重要的结论，因为所有的线性空间都同构于 P ，研究 P 的结构与性质，其他具体的线性空间的结构与性质可以从 P 得到同样的结论。所以， 我们研究 P 结构与性质，就是在研究抽象的线性空间的结构与性质。
n
什么是范数 在介绍主题之前，先来谈一个非常重要的数学思维方法：几何方法。在大学之前，我们学习过一次函数、二次函数、三角函数、指数函数、对 数函数等，方程则是求函数的零点；到了大学，我们学微积分、复变函数、实变函数、泛函等。我们一直都在学习和研究各种函数及其性质，函数 是数学一条重要线索，另一条重要线索——几何，在函数的研究中发挥着不可替代的作用，几何是函数形象表达，函数是几何抽象描述，几何研究 “形”，函数研究“数”，它们交织在一起推动数学向更深更抽象的方向发展。 函数图象联系了函数和几何，表达两个数之间的变化关系，映射推广了函数的概念，使得自变量不再仅仅局限于一个数，也不再局限于一维， 任何事物都可以拿来作映射，维数可以是任意维，传统的函数图象已无法直观地表达高维对象之间的映射关系，这就要求我们在观念中，把三维的 几何空间推广到抽象的 n 维空间。 由于映射的对象可以是任何事物，为了便于研究映射的性质以及数学表达，我们首先需要对映射的对象进行“量化”，取定一组“基”，确定 事物在这组基下的坐标，事物同构于我们所熟悉的抽象几何空间中的点，事物的映射可以理解为从一个空间中的点到另一个空间的点的映射，而映 射本身也是事物，自然也可以抽象为映射空间中的一个点，这就是泛函中需要研究的对象——函数。 从一个线性空间到另一个线性空间的线性映射，可以用一个矩阵来表达，矩阵被看线性作映射，线性映射的性质可以通过研究矩阵的性质来获 得，比如矩阵的秩反映了线性映射值域空间的维数，可逆矩阵反映了线性映射的可逆，而矩阵的范数又反映了线性映射的哪些方面的性质呢？矩阵 范数反映了线性映射把一个向量映射为另一个向量，向量的“长度”缩放的比例。 范数是把一个事物映射到非负实数，且满足非负性、齐次性、三角不等式，符合以上定义的都可以称之为范数，所以，范数的具体形式有很多 种（由内积定义可以导出范数，范数还也可以有其他定义，或其他方式导出），要理解矩阵的算子范数，首先要理解向量范数的内涵。矩阵的算子 范数，是由向量范数导出的，由形式可以知：
H H H H H H
H
H
在看现代控制理论的时候，看到欧式范数这个概念，太熟悉的字眼，但又一下子讲不清楚其概念，特地查了查资料，有一位清风兄的日志里写的比 较清楚，精简一下转过来，自己再加以修改。
-1 -1
λ1…λn 是矩阵 A 的特征值，ɑ1,ɑ2,… ,ɑn 是特征值所对应的特征向量，特征向量按列排成过渡矩阵 P。关键在于求矩阵的特征值和特征向量， 如果矩阵有 n 个线性无关的特征向量，则由特征向量按列排成的过渡矩阵可逆，就可对角化，且对角矩阵就是对应的特征值，排列顺序与过渡矩阵 P 中的特征向量的顺序一致。如果矩阵没有 n 个线性无关的特征向量，则可以相似于一般的 jordan 形矩阵，通过线性无关的特征向量、jordan 形 矩阵构造一个过渡矩阵 P，使得 P AP 是一个 jordan 形矩阵。
1/2
这里，有一个问题值得思考：不同的线性空间，只要它们维数相同，它们之间就是同构的，都同构于 P ；由此，我们联想到，同一线性空间上不 同的内积定义，导出不同的内积空间，两个向量在一种内积定义下是正交的，那在另一种内积定义下是否也正交呢，不同的内积定义，他们之间又 有怎样的关系呢？是等价的？还是什么其他关系或者根本就没关系？（请教过老师，他说：只能说目前还没有相关的结论，不能轻易下结论。老师 很严谨）
什么是线性空间
定义 设 V 是一个非空集合， P 是一个数域。 在 V 上定义了一种代数运算 （V×V－>V） ， 称为加法， 记为 “＋” ； 定义了另一种代数运算 （P×V－>V） ， 称为数量乘法（简称数乘），记为“〃”。如果加法与数量乘法满足如下规则： 1) 2) 3) 4) 5) 6) 7) 8) ɑ + ß = ß + ɑ； (ɑ+ß )+γ = ɑ+(ß +γ)； 在 V 中有一个元素 0（称为零元素），对于 V 中任一元素ɑ都有ɑ+0 = ɑ； 对 V 中任一元素ɑ，都有 V 中的元素 ß ，使得ɑ＋ß =0（ß称为ɑ的负元素，记为-ɑ）； 1〃ɑ = ɑ； к〃(ｍ〃ɑ)=( кｍ)〃ɑ； （к+ｍ）〃ɑ =к〃ɑ+ｍ〃ɑ； к〃(ɑ+ß ) =к〃ɑ+к〃ß ；