03-2.3 欧氏距离和马氏距离

Ø 由此可见，马氏距离是一个与各变量单位无关的纯数值。
v 特点(2) 若Σ diag 11, 22,, pp ，则
d
2
x,
y
x1 y1 2
11
xp yp 2
pp
(=
x1 1 11
y1
1 11
2
xp p pp
yp p pp
2 )
即当各分量不相关时马氏距离即为各分量经标准化后的欧氏距离。
《多元统计分析》MOOC
2.3 欧氏距离和马氏距离
王学民
一、欧氏距离
v x x1, x2,, xp 和y y1, y2,, y p 之间的欧氏距离为
d x, y x1 y1 2 x2 y2 2 x p y p 2
v 平方欧氏距离为
d 2 x, y x1 y1 2 x2 y2 2 x p y p 2
⋮
200米(秒) x2
20.81 20.06 20.81 20.68 20.58 20.43 21.52 20.22 20.8 21.04 21.05
⋮
400米(秒) x3
46.84 44.84 46.82 45.04 45.91 45.21 48.3 45.68 46.2 47.3 46.1
⋮
800米(分) x4 1.81 1.74 1.79 1.73 1.8 1.73 1.8 1.76 1.79 1.81 1.82 ⋮
其中C diag c1, c2,, cp , ci 0, i 1,2,, p ，b为p维常数向量。
这里限制C为对角矩阵 是为了更易于理解。
7
比例单位变换
v 如x的分量是长度、重量、速度、费用和用时等，则变量的单位变换可 表达为
y1 c1x1 c1 0
y2
c2 x2
Ø 如果各分量的单位不全相同，则标准化可不受单位不同的影响。
3
两个外点哪个更离群
4
二、马氏距离
欧氏距离经变量的标准化 之后虽能够消除各变量的 单位或方差不同的影响， 但不能消除变量之间相关 性带来的不利影响。
5
马氏距离的定义
v x x1, x2,, xp 和y y1, y2,, y p 之间的平方马氏距离定义为
y2
c2x2
b2
0 cBiblioteka 0 x2 b2
y
p
c
p
x
p
bp
0
0
c
p
x
p
bp
y Cx b
9
v 对x的各分量作标准化变换可以表达为
x* D1 x μ D1 x D1 μ
具有y=Cx+b的变换形式，马氏距离仍保持不变。
D diag 11 ,, pp
0
c2
y
p
c
p
x
p
0
0
y Cx
0 x1
0
x2
c
p
x
p
8
带有常数项的单位变换
v 例子 摄氏温度与华氏温度的换算公式：
F＝(C×9／5)＋32 ， C＝(F－32)×5／9 式中F——华氏温度，C——摄氏温度。
v
y1 c1x1 b1 c1 0 0 x1 b1
1500米(分) x5 3.7 3.57 3.6 3.6 3.75 3.66 3.85 3.63 3.71 3.73 3.74 ⋮
5000米(分) x6
14.04 13.28 13.26 13.22 14.68 13.62 14.45 13.55 13.61 13.9 13.49
⋮
10000米(分) x7
10
29.36 27.66 27.72 27.45 30.55 28.62 30.28 28.09 29.3 29.13 27.88
⋮
马拉松(分) x8
137.72 128.3 135.9 129.95 146.62 133.13 139.95 130.15 134.03 133.53 131.35
⋮
2
v
d 2 x, μ x μ x μ
x1 1 2 x2 2 2 x p p 2
平均大小
E x1 1 2 E x2 2 2 E x p p 2
V x1
V x2 V x p
v 如果对各分量都作标准化变换，则各分量方差同为1，于是：
Ø 平方和中各分量所起的平均作用都一样。
d 2 x, y x y Σ 1 x y
v x x1, x2,, xp 到总体π的平方马氏距离定义为
d 2 x, ( d 2 x, μ) x μ Σ 1 x μ
6
马氏距离的特点
v 特点(1) 马氏距离对下列形式的p维向量x度量单位的改变具有不变 性： y=Cx+b
x y x y
v 如果各变量的单位不全相同，则上述欧氏距离是没有意义的。
1
各国家或地区男子径赛记录的数据（1984年）
国家和地区
阿根廷 澳大利亚 奥地利 比利时 百慕大 巴西 缅甸 加拿大 智利 中国 哥伦比亚
⋮
100米(秒) x1
10.39 10.31 10.44 10.34 10.28 10.22 10.64 10.17 10.34 10.51 10.43