统计学习实验报告4

实验报告

1. 实验内容

实现感知机的原始形式算法和对偶形式，证明数据可分性

2. 实验目的

理解感知机算法。

3. 实验原理

感知机原理：学习w ，并使下式最小化。

{}|()T T n n n n n t n t sign ∈-≠∑w x w x N

N =

利用梯度下降法可对w 进行更行

4. 实验结果

如果将w 赋初值为(0,0,0)得到如下结果：

W0=Wd=(1,1,-3)，即对偶和原是形式得到的结果一致。

5. 结果分析

由实验结果可以看出，数据点可以由直线进行分类，满足线性可分。同时，感知机算法的original form和dual form都实现了对点的正确分类。

同时注意到，如果将初始值改为(1,10,0)则结果如下：

即不同的初始值会对结果造成影响。因此需要一个指标衡量不同的超平面性能，SVM 最大距离是直观而且合理的。