题1：在一个10类的模式识别问题中,有3类单独满足多类情况1,其余的

题1：在一个10类的模式识别问题中，有3类单独满足多类情况1，其余的类别满足多类情况2。问该模式识别问题所需判别函数的最少数目是多少？

答：将10类问题可看作4类满足多类情况1的问题，可将3类单独满足多类情况1的类找出来，剩下的7类全部划到4类中剩下的一个子类中。再在此子类中，运用多类情况2的判别法则进行分类，此时需要7*（7-1）/2=21个判别函数。故共需要4+21=25个判别函数。

题2：一个三类问题，其判别函数如下：

d1(x)=-x1, d2(x)=x1+x2-1, d3(x)=x1-x2-1

1.设这些函数是在多类情况1条件下确定的，绘出其判别界面和每一个模式类

别的区域。

2.设为多类情况2，并使：d12(x)= d1(x), d13(x)= d2(x), d23(x)= d3(x)。绘出其

判别界面和多类情况2的区域。

3.设d1(x), d2(x)和d3(x)是在多类情况3的条件下确定的，绘出其判别界面和

每类的区域。

答：三种情况分别如下图所示：

1．

2．

3．

题3：两类模式，每类包括5个3维不同的模式，且良好分布。如果它们是线性可分的，问权向量至少需要几个系数分量？假如要建立二次的多项式判别函数，又至少需要几个系数分量？（设模式的良好分布不因模式变化而改变。）

答：（1）若是线性可分的，则权向量至少需要14N n =+=个系数分量； （2）若要建立二次的多项式判别函数，则至少需要5!

102!3!

N =

=个系数分量。

题4：用感知器算法求下列模式分类的解向量w : ω1: {(0 0 0)T, (1 0 0)T, (1 0 1)T, (1 1 0)T} ω2: {(0 0 1)T, (0 1 1)T, (0 1 0)T, (1 1 1)T}

解：将属于2w 的训练样本乘以(1)-，并写成增广向量的形式

x1=[0 0 0 1]',x2=[1 0 0 1]',x3=[1 0 1 1]',x4=[1 1 0 1]';

x5=[0 0 -1 -1]',x6=[0 -1 -1 -1]',x7=[0 -1 0 -1]',x8=[-1 -1 -1 -1]';

迭代选取1C =，(1)(0,0,0,0)w '=，则迭代过程中权向量w 变化如下：

(2)(0 0 0 1)w '=；(3)(0 0 -1 0)w '=；(4)(0 -1 -1 -1)w '=；(5)(0 -1 -1 0)w '=；(6)(1 -1 -1 1)w '=；(7)(1 -1 -2 0)w '=；(8)(1 -1 -2 1)w '=；(9)(2 -1 -1 2)w '=； (10)(2 -1 -2 1)w '=；(11)(2 -2 -2 0)w '=；(12)(2 -2 -2 1)w '=；收敛

所以最终得到解向量(2 -2 -2 1)w '=，相应的判别函数为123()2221d x x x x =--+。

题5：用多类感知器算法求下列模式的判别函数： ω1: (-1 -1)T ，ω2: (0 0)T ，ω3: (1 1)T

解：采用一般化的感知器算法，将模式样本写成增广形式，即

1231011,0,1111x x x -⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪=-== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭

取初始值123000w w w ⎛⎫

⎪

=== ⎪ ⎪⎝⎭

，取1C =，则有

第一次迭代：以1x 为训练样本，123(1)(1)(1)0d d d ===，故

123111(2)1,(2)1,(2)1111w w w -⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪

=-== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪--⎝⎭⎝⎭⎝⎭

第二次迭代：以2x 为训练样本，123(2)1,(2)1,(2)1d d d ==-=-，故

123111(3)1,(3)1,(3)1002w w w -⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪

=-== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪-⎝⎭⎝⎭⎝⎭

第三次迭代：以3x 为训练样本，123(3)2,(3)2,(3)0d d d =-==，故

123102(4)1,(4)0,(4)2011w w w -⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪

=-== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪--⎝⎭⎝⎭⎝⎭

第四次迭代：以1x 为训练样本，123(4)2,(4)1,(4)5d d d ==-=-，故

112233(5)(4),(5)(4),(5)(4)w w w w w w ===

第五次迭代：以2x 为训练样本，123(5)0,(5)1,(5)1d d d ==-=-，故

123102(6)1,(6)0,(6)2102w w w -⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪

=-== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪--⎝⎭⎝⎭⎝⎭

第六次迭代：以3x 为训练样本，123(6)3,(6)0,(6)2d d d =-==，故

112233(7)(6),(7)(6),(7)(6)w w w w w w ===

第七次迭代：以1x 为训练样本，123(7)1,(7)0,(7)6d d d ===-，故

112233(8)(7),(8)(7),(8)(7)w w w w w w ===

第八次迭代：以2x 为训练样本，123(8)1,(8)0,(8)2d d d =-==-，故

112233(9)(8),(9)(8),(9)(8)w w w w w w ===

由于第六、七、八次迭代中对312,,x x x 均以正确分类，故权向量的解为：

1231021,0,2102w w w -⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪

=-== ⎪ ⎪ ⎪ ⎪ ⎪ ⎪--⎝⎭⎝⎭⎝⎭

，可得三个判别函数为：

112231210

222

d x x d d x x =---==+-

题6： 采用梯度法和准则函数2

(,,)21

()8t t

w x b J w x b w x b x

⎡⎤=---⎣⎦，式中实数b 〉0，试导出两类模式的分类算法。

解：

)]sgn(*[*|]|)[(||

||412b x w x x b x w b x w x w J t

t t -----=∂∂ 其中：⎩⎨⎧≤-->-=-0

,10

,1)sgn(b x w b x w b x w t

t t

得迭代式：

2

(1)()[(())|()|]*[*sgn(())]4||||

t t t

C w k w k w k x b w k x b x x w k x b x +=+

----- 200(1)()()

t t t w x b w k w k C b w x x w x b x ⎧->⎪

+=+-⎨-≤⎪⎩

题7：用LMSE 算法求下列模式的解向量： ω1: {(0 0 0)T , (1 0 0)T , (1 0 1)T , (1 1 0)T }

ω2: {(0 0 1)T , (0 1 1)T , (0 1 0)T , (1 1 1)T }

解：写出模式的增广矩阵X ：