模式识别-模板匹配法
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
• 即样本的相似程度，是模式识别的重要依据 • 通常以样本特征向量在特征空间中的距离作为样本的相似度
欧氏距离 平方和距离 样本相似度 绝对值距离 加权距离
模式识别，第二章
9
基本概念
• 欧氏距离
设有两个n维特征向量X1和 X2 X1 X2
X [ x , x , x ]
1 12 12 1n
T
X [ x , x , x ]
2 21 22 2n
T
则此二样本的欧氏距离定义为：
X X X
1
2 2 2
x x x x x x
2 11 21 12 22 1n 2n
模式识别，第二章
10
基本概念
• 平方和距离
X x x
R [r , r , r ]
1 2 m
T
观测向量
观测值
• 观测空间
由观测向量的维数决定的m维几何空间
模式识别，第二章
5
基本概念
• 特征向量
对观测向量进行特征选择和提取，得到反映事物本质特性 的特征构成的向量
X [ x , x , x ]
1 2 n
c i 1 i
例如：乙肝病诊断
P( ) 0.99, P( ) 0.01
1 2
手写体数字识别
P( ) P( ) 0.1
1 10
模式识别，第二章
19
统计模式识别基础
• 类概率密度
指在已知样本类别为ωi 的条件下，特征向量在特征空间X 处发生的概率，记为P( X / ωi )。 显然： P( X
• 解决办法
• 将特征向量视为具有一定空间概率分布的随机向量 • 利用概率统计的方法进行分类器设计
模式识别，第二章
18
统计模式识别基础
• 先验概率
设有C个类别的识别问题（ω1， ω2 ， ﹒﹒﹒ ， ωc ），则 ωi 类发生（出现）的概率P (ωi ) 称为第 i 类的先验概率。
显然：
P ( ) 1
模式识别，第二章
16
统计模式识别基础
• 问题
• 模板匹配法将每一类模式的特征向量视为只有唯一标准的模
板向量
• 实际应用中，由于样本的不确定性，每一类模式在特征空间
中分布为一区域
• 造成样本分布不确定的原因：
• 样本本身的空间分布 • 传输处理过程中的噪声和干扰
模式识别，第二章
17
统计模式识别基础
模式识别，第二章
13
模板匹配法原理及过程
• 识别过程
• 对待识样本进行特征提取，得到特征向量Ｘ • 计算待识样本特征向量Ｘ与模板向量X1， X2， ﹒﹒﹒ XC之间的
距离 D1， ，﹒﹒﹒，DC
• 若Di = min { Dj }，j=1, 2 , ﹒﹒﹒,C，且
属于第i类,，记为Ｘ∈Ｗi
Di <ε，则判样本Ｘ
• 参数估计法
• 仅知道各类样本的类概率密度P( X / ωi )的函数形式，函数
中的参数末知
• 由学习样本估计类概率密度函数中的参数
模式识别，第二章
24
统计模式识别基础
• 非参数估计法
• 几乎无先验知识，类概率密度函数形式均末知 • 直接由学习样本进行分类器设计
• 线性判别函数
• 基于对学习样本的分析，得到线性判别函数 • 由线性判别函数决定的分界面，将特征空间划分为若干区域 • 根据待识样本落入哪个区域来进行分类
模式识别，第二章
25
统计模式识别基础
鲑鱼 鲈鱼
线性判别函数
决定的分界面
模式识别，第二章
T
• 特征空间
特征向量
特征值
由特征向量的维数决定的n维几何空间（n<m），每个特征
向量即是特征空间中的一个点
模式识别，第二章
6
鲑鱼
鲈鱼
特征空间
模式识别，第二章
7
基本概念
• 特征选择
• 去除次要的特征，筛选出重要的特征
• 特征提取
• 通过压缩变换或映射，降低特征维数
模式识别，第二章
8
基本Байду номын сангаас念
• 样本的相似度
模式识别
Pattern Classification
第二章: 模板匹配法
3
基本概念
• 模板匹配法
• 统计决策方法的特殊情况，也是最简单的情况 • 待分类的每一类模式只有一个唯一的标准（印刷体字符、标
准普通话）
模式识别，第二章
4
基本概念
• 观测向量
对样本进行观测、采样、量化得到的原理数据构成的向量
1 11 21 2 12 22 n 1n 2n
• 可根据各个特征在识别中的重要程度设置各加权系数
模式识别，第二章
12
模板匹配法原理及过程
• 学习过程
• 对每一类已知类的学习样本进行特征提取，得到模板向量X1，
X2， ﹒﹒﹒ XC（C为类别数）
• 设置识别门限值ε • 以待识样本与模板向量之间的相似度（距离）为识别准则
/ )dx 1
i
P( X / ωi ) 随X的变化函数称为第 i 类的类概率密度函数。
模式识别，第二章
20
统计模式识别基础
一维二类情况下的类概率密度函数
模式识别，第二章
21
统计模式识别基础
• 模板匹配法情况下的类概率密度函数？ • 先验知识
• 先验概率和类概率密度的总称 • 统计方法即是基于样本先验知识的模式识别方法
模式识别，第二章
22
统计模式识别基础
• 根据先验知识的多少，将统计方法分为：
Bayes决策法 参数估计法 统计决策法 非参数估计法 线性判别函数
模式识别，第二章
23
统计模式识别基础
• Bayes决策法
• 已知各类样本的先验概率P(ωi )及类概率密度P( X / ωi ) • 通过先验概率估计后验概率
• 若所有Di（ i=1, 2 , ﹒﹒﹒,C ）均大于ε，则拒识。
模式识别，第二章
14
模板匹配法原理及过程
• 为提高模板匹配法的鲁棒性，可采用弹性模板匹配 • 将模板样本进行平移、旋转、缩放得到多个模板向量
模式识别，第二章
15
模板匹配法的应用
• 人脸识别、模板脸 • 印刷体字符识别 • 标准普通话识别
2 11 21
x x x x
2 2 12 22 1n 2n
2
• 绝对值距离（曼哈顿距离）
X x x x x x x
11 21 12 22 1n 2n
模式识别，第二章
11
基本概念
• 加权距离
D x x x x x x
欧氏距离 平方和距离 样本相似度 绝对值距离 加权距离
模式识别，第二章
9
基本概念
• 欧氏距离
设有两个n维特征向量X1和 X2 X1 X2
X [ x , x , x ]
1 12 12 1n
T
X [ x , x , x ]
2 21 22 2n
T
则此二样本的欧氏距离定义为：
X X X
1
2 2 2
x x x x x x
2 11 21 12 22 1n 2n
模式识别，第二章
10
基本概念
• 平方和距离
X x x
R [r , r , r ]
1 2 m
T
观测向量
观测值
• 观测空间
由观测向量的维数决定的m维几何空间
模式识别，第二章
5
基本概念
• 特征向量
对观测向量进行特征选择和提取，得到反映事物本质特性 的特征构成的向量
X [ x , x , x ]
1 2 n
c i 1 i
例如：乙肝病诊断
P( ) 0.99, P( ) 0.01
1 2
手写体数字识别
P( ) P( ) 0.1
1 10
模式识别，第二章
19
统计模式识别基础
• 类概率密度
指在已知样本类别为ωi 的条件下，特征向量在特征空间X 处发生的概率，记为P( X / ωi )。 显然： P( X
• 解决办法
• 将特征向量视为具有一定空间概率分布的随机向量 • 利用概率统计的方法进行分类器设计
模式识别，第二章
18
统计模式识别基础
• 先验概率
设有C个类别的识别问题（ω1， ω2 ， ﹒﹒﹒ ， ωc ），则 ωi 类发生（出现）的概率P (ωi ) 称为第 i 类的先验概率。
显然：
P ( ) 1
模式识别，第二章
16
统计模式识别基础
• 问题
• 模板匹配法将每一类模式的特征向量视为只有唯一标准的模
板向量
• 实际应用中，由于样本的不确定性，每一类模式在特征空间
中分布为一区域
• 造成样本分布不确定的原因：
• 样本本身的空间分布 • 传输处理过程中的噪声和干扰
模式识别，第二章
17
统计模式识别基础
模式识别，第二章
13
模板匹配法原理及过程
• 识别过程
• 对待识样本进行特征提取，得到特征向量Ｘ • 计算待识样本特征向量Ｘ与模板向量X1， X2， ﹒﹒﹒ XC之间的
距离 D1， ，﹒﹒﹒，DC
• 若Di = min { Dj }，j=1, 2 , ﹒﹒﹒,C，且
属于第i类,，记为Ｘ∈Ｗi
Di <ε，则判样本Ｘ
• 参数估计法
• 仅知道各类样本的类概率密度P( X / ωi )的函数形式，函数
中的参数末知
• 由学习样本估计类概率密度函数中的参数
模式识别，第二章
24
统计模式识别基础
• 非参数估计法
• 几乎无先验知识，类概率密度函数形式均末知 • 直接由学习样本进行分类器设计
• 线性判别函数
• 基于对学习样本的分析，得到线性判别函数 • 由线性判别函数决定的分界面，将特征空间划分为若干区域 • 根据待识样本落入哪个区域来进行分类
模式识别，第二章
25
统计模式识别基础
鲑鱼 鲈鱼
线性判别函数
决定的分界面
模式识别，第二章
T
• 特征空间
特征向量
特征值
由特征向量的维数决定的n维几何空间（n<m），每个特征
向量即是特征空间中的一个点
模式识别，第二章
6
鲑鱼
鲈鱼
特征空间
模式识别，第二章
7
基本概念
• 特征选择
• 去除次要的特征，筛选出重要的特征
• 特征提取
• 通过压缩变换或映射，降低特征维数
模式识别，第二章
8
基本Байду номын сангаас念
• 样本的相似度
模式识别
Pattern Classification
第二章: 模板匹配法
3
基本概念
• 模板匹配法
• 统计决策方法的特殊情况，也是最简单的情况 • 待分类的每一类模式只有一个唯一的标准（印刷体字符、标
准普通话）
模式识别，第二章
4
基本概念
• 观测向量
对样本进行观测、采样、量化得到的原理数据构成的向量
1 11 21 2 12 22 n 1n 2n
• 可根据各个特征在识别中的重要程度设置各加权系数
模式识别，第二章
12
模板匹配法原理及过程
• 学习过程
• 对每一类已知类的学习样本进行特征提取，得到模板向量X1，
X2， ﹒﹒﹒ XC（C为类别数）
• 设置识别门限值ε • 以待识样本与模板向量之间的相似度（距离）为识别准则
/ )dx 1
i
P( X / ωi ) 随X的变化函数称为第 i 类的类概率密度函数。
模式识别，第二章
20
统计模式识别基础
一维二类情况下的类概率密度函数
模式识别，第二章
21
统计模式识别基础
• 模板匹配法情况下的类概率密度函数？ • 先验知识
• 先验概率和类概率密度的总称 • 统计方法即是基于样本先验知识的模式识别方法
模式识别，第二章
22
统计模式识别基础
• 根据先验知识的多少，将统计方法分为：
Bayes决策法 参数估计法 统计决策法 非参数估计法 线性判别函数
模式识别，第二章
23
统计模式识别基础
• Bayes决策法
• 已知各类样本的先验概率P(ωi )及类概率密度P( X / ωi ) • 通过先验概率估计后验概率
• 若所有Di（ i=1, 2 , ﹒﹒﹒,C ）均大于ε，则拒识。
模式识别，第二章
14
模板匹配法原理及过程
• 为提高模板匹配法的鲁棒性，可采用弹性模板匹配 • 将模板样本进行平移、旋转、缩放得到多个模板向量
模式识别，第二章
15
模板匹配法的应用
• 人脸识别、模板脸 • 印刷体字符识别 • 标准普通话识别
2 11 21
x x x x
2 2 12 22 1n 2n
2
• 绝对值距离（曼哈顿距离）
X x x x x x x
11 21 12 22 1n 2n
模式识别，第二章
11
基本概念
• 加权距离
D x x x x x x