内积与范数

范数：用于度量“量”大小的概念

1. 引言

实数的绝对值：a 是数轴上的点a 到原点0的距离；

复数的模：a bi +=是平面上的点()b a ,到原点()0,0的距

离；

还有其他刻画复数大小的方法（准则）：如 １）b a +； ２）{}max ,

a b

2. 向量的范数：p-范数

1

1n

p

p k p

k x

x =⎛⎫= ⎪⎝⎭

∑ （1）

示例：

1211234515,2345,5x x x x ∞

⎛⎫⎧=+-+++= ⎪-⎪ ⎪⎪ ⎪=⇒==⎨ ⎪⎪

= ⎪⎪⎩ ⎪⎝⎭

3. 矩阵（算子）的范数

01max max x x Ax

A Ax

x

≠=== （2）

矩阵的谱半径:设M 是n 阶矩阵，称

()()()(){}12max ,

,,

n M M M M ρλλλ=L （3）

为该矩阵的谱半径。 记

()1212,,,T T n T n A ββαααβ⎛⎫ ⎪ ⎪==

⎪ ⎪ ⎪⎝⎭

L M ， 那么，

{}{}()1211111211112

max ,,,max max ,,,n k n p p x k

T

A A Ax A A A A αααβββρ∞=⎧=⎪⎪

=⇒=⎨⎪=⎪⎩L L （3）

4. 矩阵的条件数：用于刻画矩阵“病态”程度的概念

()1

cond A A A -=⨯

5.利用范数定义点之间的距离

(),,,n n x R y R d x y y x

∈∈⇒=-

向量的内积、范数及n 维空间距离的度量

令

P

是一数域，

P n

是

P

上的向量空间，如果函数

()ϕx y P P P n n ，:⨯→有如下性质：

１、共轭对称性：∀∈x y P n ，，()()ϕϕy x x y ，，=； ２、非负性：∀∈x P n ，()ϕx x ，≥0，()ϕx x x ，=⇔=00；

３、线性性：∀∈x y z P n ，，，∀∈a b P ，，

()()()ϕϕϕax by z a x z b y z +=+，，，；

则称()ϕx y ，是P n 上的一个向量内积（inner product ），向量空间P n 上的向量内积通常用符号()x y ，表示，定义了内积的向量空间

P n

称为内积空间（inner product space ）。记做

()()P n

，·，·表示。

例１．１

∀=∈⨯Q Q P T n n ，Q >0，∀∈x y P n ，，容易验证函数

()ϕx y x Qy T ，=

（１．１）

定义了P n 上的一个内积。

令P 是一数域，P n 是P 上的向量空间，如果函数()ϕx P P n :→有如下性质：

１、非负性：∀∈x P n ，()ϕx ≥0，()ϕx x =⇔=00； ２、齐次性：∀∈x P n ，∀∈a P ，()()ϕϕax a x =； ３、三角不等式：∀∈x y P n ，，()()()ϕϕϕx y x y +≤+；

则称()ϕx 是P n 上的一个向量范数（norm ），向量空间P n 上的范数通常用符号

x

表示。定义了范数的向量空间P n 称为赋范空

间（normed space ）。记做()P n ，·表示。 例１．２

∀=∈⨯Q Q P T n n ，Q >0，∀∈x P n ，容易验证函数

()ϕx x Qx T = （１．２）

定义了

P n

上的一个范数，这样定义的范数称为由内积

（１．１）诱导的范数。 例１．３

()

R C n n 上常用的向量范数：

()∀=∈x x x x n T

12，，，Λ()R C n n ，

１、１—范数：x x k

k n

11

==∑； ２、２—范数：x

x x

T 2

=；

３、∞—范数：

{}x

x x x k n

n

∞

≤≤=max 112，，，Λ；

令

P 是一数域，P n 是P 上的向量空间，如果实值函数

()d x y P P R n n ，:⨯→有如下性质：

１、对称性：∀∈x y P n ，，()()d y x d x y ，，=； ２、非负性：∀∈x y P n ，，()d x y ，≥0，()d x y ，=0

⇔=x y

３、三角不等式：∀∈x y z P n ，，，()d x z ，≤()d x y ，+

()d y z ，；

则称()d x y ，是

P n

上的一个距离（函数）（distance

function ）或度量（metric ），定义了度量的向量空间P n 称为度量空间（metric space ），记做()P d n ，表示。 例１．4

()R C n n 上常用的（由范数诱导的）度量：

∀∈x y ，()R C n n ，

１、１—范数诱导的度量：()d x y x y ，=-1； ２、２—范数诱导的度量：()d x y x y ，=-2

；

３、∞—范数诱导的度量：()d x y x y

，=-∞

；

§１．２ 矩阵的范数

矩阵A P n m ∈⨯是线性映射（当n m =时为线性变换）σ：P P m n

→的一种表现形式。因此，除了可以把矩阵看做向量而定义其范数外，更为基本、更为重要的是表征其线性映射的算子范数（operator norm ），以A P n n ∈⨯的情况为例：

A Ax x =≠sup 0

（１．３）

其中（１．３）右端的范数

·

是赋范空间()P n ，·中向量的范

数，由矩阵算子范数的定义（１．３）容易证明（对映像大小的估计）不等式：

Ax A x ≤， ∀∈x P n ， （１．４）

称满足不等式（１．４）的矩阵范数是与对应的向量范数相容的。

例１．５ 常用的矩阵范数： １、１—范数（列范数）：