自组织特征映射网络(SOM)课件

人工神经网络自组织特征映射网络简介二〇一二年十二月

目录：

1. 由自组织竞争神经网络谈起

2. 自组织特征映射网基本概念

3. 自组织特征映射网拓扑结构

4. 自组织特征映射网学习算法

5. 自组织特征映射网的应用

从自组织竞争神经网络谈起：此类网络是模拟生物神经系统“侧抑制”现象的一类人工神经网络。自组织特征映射网是此类网络的主要类型之一。

在生物神经系统中，存在着一种“侧抑制”现象，即当一个神经细胞兴奋后，会对其周围的神经细胞产生抑制作用。这种“侧抑制”使神经细胞之

间呈现出竞争。开始时可能多个细胞同时兴奋，但一个兴奋程度最强的神经

细胞会逐渐抑制周围神经细胞，其结果使其周围神经细胞兴奋度减弱，从而

兴奋度最高的细胞是这次竞争的“胜者”，而其他神经细胞在竞争中失败。

自组织竞争神经网络就是模拟

上述生物神经系统功能的人工神经

网络。如右图所示，输出层各神经

元之间都有双向连接线，各连接线

被赋予相应的权值。从而实现对生

物网络神经元相互竞争和抑制现象

的模拟。

x1x

2

x i ············

自组织竞争神经网络通过对“侧抑制”现象的模拟，具备自组织功能，能无导师学习。

自组织功能无导师学习 自组织竞争神经网络的一大特点是：具有自组织功能，能够自适应地改变网络参数和结构，从而实现无导师学习。

自组织竞争网络无导师学习方式更类似于人类大脑神经网络的学习，大大拓宽了神经网络在模式识别和和分类上的应用。

无导师指导的分类称为聚类，由于无导师学习的训练样本中不含有期望输出，因此没有任何先验的知识。

特殊网络结构 自组织竞争网的无导师指导学习是通过其特殊的网络结构实现的。自组织竞争网在结构上属于层次型网络，共同特点是都具有竞争层。

自组织竞争网络的竞争层，各神经元之间存在横向连接，各连接被赋予权值。通过竞争学习规则，达到自组织，实现对输入样本的自动分类。

特殊学习规则 竞争学习规则：竞争层神经元之间相互竞争以求被激活，结果在每一轮竞争中只有一个神经元被激活。这个被激活的神经元称为“获胜神经元”，而其它神经元的状态被抑制。然后获胜神经元及其附近神经元的对应权值将被调整以反映竞争结果。

主要的竞争学习规则有“胜者为王”和Kohonen规则等。“胜者为王”只修改获胜神经元权值，Kohonen规则修改获胜神经元邻域内各神经元权值。

自组织竞争神经网络的主要类型包括：自组织特征映射网络、对偶传播神经网络、自适应共振理论网等。

自组织竞争神经网络

自组织特征映射网络自适应共

振理论对偶传播神经网络自组织特征映射网络

•1981年，科霍恩(Kohonen)教授首先

提出自组织特征映射网（SOM ）。

SOM 的运行基于Kohonen 规则。自适应共振理论

•ART 是一种能自组织地

产生对环境认识编码的

神经网络理论模型。

•ART 来源于无意识推理

学说的“协作-竞争网

络交互模型”。•ART 理论已提出了三种

模型结构，即ART1，

ART2，ART3。

•ART 理论可以用于语音、

视觉、嗅觉和字符识别

等领域。对偶传播神经网络•对传网是三层结构的前向网（输入层、隐含层、输出层），形式上与BP 网类似，但工作机理不同。隐含层采用无导师的竞争学习算法，输出层用采用有导师的学习算法。•最突出的优点是将有监督和无监督的训练算法有机结合起来，从而提高训练效率。

目录：

1. 由自组织竞争神经网络谈起

2. 自组织特征映射网基本概念

3. 自组织特征映射网拓扑结构

4. 自组织特征映射网学习算法

5. 自组织特征映射网的应用

自组织特征映射网的前世今生：1981年由芬兰学者科霍恩首先提出，自提出以来取得快速发展，目前广泛应用多个领域。

概念提出 1981年，科霍恩(Kohonen)教授提出一种自组织特征映射网(Self-Organizing feature Map,简称SOM，又称Kohonen网）。科霍恩认为，一个生物神经网络在接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式具有不同的响应特征，而且这个过程是自动完成的。以此为基础，科霍恩创建了SOM。

生物学基础 侧抑制现象：这种侧抑制使神经细胞之间呈现出竞争，一个兴奋程度最强的神经细胞对周围神经细胞有明显的抑制作用，其结果使其周围神经细胞兴奋度减弱，从而该神经网络是这次竞争的“胜者”，而其他神经细胞在竞争中失败。

生物神经网络接受外界的特定时空信息时，神经网络的特定区域兴奋，而且类似的外界信息在对应区域是连续映象的。SOM经训练后，其竞争层神经元，功能类似的相互靠近，功能不同的相互较远，这与生物神经网络的组织构造非常类似。

发展应用 自提出以来，自组织特征映射网得到快速发展和改进，目前广泛应用于样本分类、排序和样本检测等方面，和工程、金融、医疗、军事等领域，并成为其他人工神经网络的基础。

自组织特征映射网的运行原理：SOM 网的运行分为训练和工作两个阶段进行。

在训练开始阶段，竞争层哪个位置的神经

元将对哪类输入模式产生最大响应是不确定的。当输入模式的类别改变时，二维平面的获胜神经元也会改变。在获胜神经元周围的邻域内的所有神经元的权向量均向输入向量的方向作不同程度调整，调整力度依邻域内节点与获胜节点的远近而逐渐衰减。

网络通过自组织方式，用大量训练样本调

整网络的权值，最后使输出层各神经元成为对特定模式类敏感的神经网络。从而竞争层各神经元的连接权向量的空间分布能够正确反映输入模式的空间概率分布。 SOM网训练结束后，输出层各节点与输入模式类的特定关系就固定下来，因此可用作模式分类器。当输入一个模式时，网络输出层代表该模式类的特定神经元将产生最大响应，将该输入自动归类。当输入模式不属于网络训练时见过的任何模式时，SOM网将它归入最接近的模式类。

训练阶段工作阶段