《模式识别》线性分类器设计实验报告
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
《模式识别》实验报告
三、线性分类器实验
1.(a)产生两个都具有200 个二维向量的数据集X1 和X1 ’。向量的前半部分来自m1=[-5;0]的正态分布，并且S1=I 。向量的后半部分来自m2=[5;0]的正态分布，并且S1=I。其中I是一个2×2 的单位矩阵。
(b)在上面产生的数据集上运用Fisher 线性判别、感知器算法和最小平方误差判别算法，需要初始化参数的方法使用不同的初始值。
(c)测试每一种方法在X1 和X1 ’ 上的性能（错误率）。
(d)画出数据集X1 和X1 ’，已经每种方法得到对应参数向量W 的分界线。Fisher线性判别
图1 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，
参数向量w = [-9.9406, 0.9030]’
错误率error=0，
感知器算法：
图2 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1;0.1]；迭代次数iter=2
参数向量w = [-4.8925, 0.0920]’
错误率error=0
图3 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 1]；迭代次数iter=2
参数向量w = [-3.9925, 0.9920]’
错误率error=0
图4 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[10; 10]；迭代次数iter=122
参数向量w = [-5.6569, 7.8096]’
错误率error=0
图5 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[50; 50]；迭代次数iter=600
参数向量w = [-27.0945, 37.4194]’
错误率error=0
图6 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[50; 100]；迭代次数iter=1190
参数向量w = [-54.0048, 74.5875]’
错误率error=0
最小平方误差判别算法：
图7 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1; 0.1]；参数向量w = [-0.1908, -0.0001]’
错误率error=0
图8 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.5; 0.5]；参数向量w = [-0.1924, 0.1492]’
错误率error=0
图9 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 0.5]；参数向量w = [-0.1914, 0.0564]’
错误率error=0
图10 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 1]；参数向量w = [-0.1943, 0.3359]’
错误率error= 0.0050
2.重复1.中的实验内容，数据集为X2 和X2 ’。向量的前半部分来自m1=[-2;0]的正态分布，并且S1=I。向量的后半部分来自m2=[2;0]的正态分布，并且S1=I。Fisher线性判别
图11 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，
参数向量w = [-3.9763, 0.3612]’
错误率error=0.1125，
感知器算法：
图12 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1;0.1]；迭代次数iter=10000
参数向量w = [-0.2302, 0.0322]’
错误率error= 0.0200
图13 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1;1]；迭代次数iter=10000
参数向量w = [-0.0319, 0.0070]’
错误率error= 0.0225
图14 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[10;10]；迭代次数iter=10000
参数向量w = [-0.0241, -0.0479]’
错误率error= 0.1900
最小平方误差判别算法：
图15 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1; 0.1]；参数向量w = [-0.1908, -0.0001]’
错误率error=0.02
图16 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.5; 0.5]；参数向量w = [-0.3505, 0.2484]’
错误率error= 0.0425
图17 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 0.5]；参数向量w = [-0.3108, 0.2273]’
错误率error= 0.0450
3.重复1.中的实验内容，数据集为X3 和X3 ’。向量的前半部分来自[-1;0]的正态分布，并且S1=I。向量的后半部分来自[1;0]的正态分布，并且S1=I。Fisher线性判别
图18 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，
参数向量w = [-1.9881, 0 0.1806]’
错误率error= 0.2475，
感知器算法：
图19 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1;0.1]；迭代次数iter=10000
参数向量w = [-0.0187, 0.0175]’
错误率error= 0.2250
图20 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1;1]；迭代次数iter=10000
参数向量w = [-0.3430, 0.0430]’