模式识别 5

利用已知类别学习样本来获得权向量的训练过程如下已知
已知
这样就可以通过有限的样本去决定权向量
利用方程组来求解权向量
对二类判别函数
已知训练集
设
判别函数可联立成
求出
训练过程就是对已知类别的样本集求解权向量这是一个线性联立不等式方程组求解的过程。

求解时：
①
②
③
欲对不等式方程组
标函数)
向量的问题就转化为对一向量函数求极值的问题决此类问题可采用
从
▽
则下一步的
W
▽
目标函数
这就是最佳ρ
量太大，因此此公式很少用。

感知器法是五十年代由
学习判别函数生成方法，由于
其用于脑模型感知器
感知准则函数。

其特点是随意确定的判别函数初始值，在对样本分类训练过程中
至最终确定。

即感知器迭代公式
16
W
例如
假设起始权向量
实际上感知器算法所示迭代修正过程是很容易理解的。

由于
W
然处于该侧，则W
会使W
分类向量之和穿过超平面
动。

感知准则函数方法只是对线性可分样本集有效而
此又研究出其它方法，如
等，我们不再讨论，读者可参考有关书籍例题：有两类样本
解：先求四个样本的增值模式假设初始权向量
第一次迭代：
第一次迭代后,权向量w
三、
定义误差向量
把平方误差作为目标函数
(J W
W
解上方程得
这样把求解
解，这一方程
异的，所以可以得到W的唯一解。

五、因此下降算法不论
生一个解。

若训练样本无限的重复出现，则简化为
ρ
满意的
Fisher准则的基本原理
样本在该轴上投影的交迭部分最少，从而使分类效果为最佳。

投影样本之间的分离性用投影样本之差表示
|Y
投影样本类内离散度:
现在我们已把一个现在一维空间设计阈值
若第W 并且满足条件: 则权向量所以权向量不需要修正若有某个或某几个子类不满足条件即：
所以设则修改权向量③数）为止46
3.未知子类数目时的设计方法
当每类应分成的子类数也不知时，这是最一般情况，方法很多，举例如下。

树状分段线性分类器:
设两类情况分成两个区。

2),
Y
树状决策框图48
上图是这些函数在一维时的图形，第三条是振荡曲线，x
x
3
2
1
2. 输入样本
1.若x
2. 若x
3. 若x
设有两类样本
ω
特征为二维的，所以电位函数为：K(x,x
①
②
④
K
K
⑤
K
K
⑥
K
K
同理得到
经一个完整的循环可得判别函数为：g(x)= exp{-(
线性不可分的样本分开。

算量。