自组织神经网络SOM

合集下载

自组织特征映射神经网络.(SOM)

六、SOM网络应用于模式分类
%用训练好的自组织竞争网络对样本点分类 Y=sim(net,p); %分类数据转换输出 Yt=vec2ind(Y) pause %待分类数据 dataConvert=importdata('SelfOrganizationCompetitionSimulation.dat'); data=dataConvert'; %用训练好的自组织竞争网络分类样本数据 Y=sim(net,data); Ys=vec2ind(Y) 由于自组织特征映射神经网络采用的是无教师学习方式，没有期望输出，因此训练过程中不用设置判断网络是否结束的误差项。只要设置网络训练次数就可以了，并且在训练过程中也只显示训练次数。运行上述程序后，系统显示运行过程，并给出聚类结果：
ijijijsommatlabmatlab中自组织神经网络的重要函数和基本功能函数名newsom创建一个自组织特征映射神经网络plotsom绘制自组织特征映射网络的权值矢量vec2ind将单值矢量组变换成下标矢量compet竞争传输函数midpoint中点权值初始化函数learnsom自组织特征映射权值学习规则函数sommatlabmatlab中自组织神经网络的重要函数和基本功能newsom功能
I’m Teuvo Kohonen
与自组织竞争网络不同的是，在自组织映射神经网络中邻近的神经元能够识别输入空间中邻近的部分。
二.自组织特征映射神经网络结构
SOM神经网络结构
三、自组织特征映射学习算法原理
Kohonen自组织特征映射算法，能够自动找出输入数据之间的类似度，将相似的输入在网络上就近配置。因此是一种可以构成对
d
j
(x
i 1
n

数据分类的目的和方法有哪些？

数据分类是一种重要的数据分析技术，其目的是根据数据的特征和属性，将其划分为不同的类别或组群，以便更好地理解和利用这些数据。

数据分类在各个领域都有广泛的应用，如商业、医疗、金融、科研等。

一、数据分类的目的1. 数据理解和组织：通过数据分类，人们可以更好地理解数据的内在结构和关系，将数据组织成有序的形式，方便后续的数据分析和处理。

2. 数据挖掘和预测：通过对历史数据进行分类，可以发现数据中的模式和趋势，为未来的数据分析和预测提供依据。

数据分类有助于识别数据的特征和规律，从而进行更深入的数据挖掘。

3. 决策支持：数据分类可以为决策提供有力支持。

通过对数据进行分类，可以识别出不同类别的数据特征和属性，为决策者提供有价值的参考信息。

4. 提高数据处理效率：通过对数据进行分类，可以针对不同类别的数据采用不同的处理方法，从而提高数据处理的效率和准确性。

二、数据分类的方法数据分类的方法主要分为监督学习和非监督学习两类。

监督学习是指在数据分类前已经知道数据的标签或类别，而非监督学习则是在没有先验知识的情况下，根据数据之间的相似性和关联性进行分类。

1. 监督学习方法：（1）决策树分类：决策树是一种常用的监督学习分类方法。

它通过构建一棵决策树，将数据按照不同的特征和属性进行划分，从而达到分类的目的。

决策树分类方法简单易懂，可视化效果好，但在处理高维度和大规模数据时可能会受到限制。

（2）支持向量机（SVM）：SVM 是一种基于统计学习理论的分类方法。

它通过寻找一个最优超平面，将数据划分为不同的类别。

SVM 在处理高维度和非线性数据时表现出色，且具有较好的泛化能力。

（3）神经网络：神经网络是一种模仿生物神经元结构和功能的信息处理技术。

通过多层的神经网络模型对数据进行逐层的学习和训练，最终实现数据的分类。

神经网络具有强大的学习能力和复杂的模式识别能力，在处理复杂数据分类问题上具有很好的性能。

（4）K近邻（KNN）：KNN 是一种基于实例的学习算法。

第4章 SOM自组织特征映射神经网络

第4章 SOM自组织特征映射神经网络生物学研究表明，在人脑的感觉通道上，神经元的组织原理是有序排列的。

当外界的特定时空信息输入时，大脑皮层的特定区域兴奋，而且类似的外界信息在对应的区域是连续映像的。

生物视网膜中有许多特定的细胞对特定的图形比较敏感，当视网膜中有若干个接收单元同时受特定模式刺激时，就使大脑皮层中的特定神经元开始兴奋，输入模式接近，与之对应的兴奋神经元也接近；在听觉通道上，神经元在结构排列上与频率的关系十分密切，对于某个频率，特定的神经元具有最大的响应，位置相邻的神经元具有相近的频率特征，而远离的神经元具有的频率特征差别也较大。

大脑皮层中神经元的这种响应特点不是先天安排好的，而是通过后天的学习自组织形成的。

据此芬兰Helsinki大学的Kohonen T.教授提出了一种自组织特征映射网络（Self-organizing feature Map，SOM），又称Kohonen网络[1-5]。

Kohonen认为，一个神经网络接受外界输入模式时，将会分为不同的对应区域，各区域对输入模式有不同的响应特征，而这个过程是自动完成的。

SOM网络正是根据这一看法提出的，其特点与人脑的自组织特性相类似。

4.1 竞争学习算法基础[6]4.1.1 自组织神经网络结构1．定义自组织神经网络是无导师学习网络。

它通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。

2．结构层次型结构，具有竞争层。

典型结构：输入层＋竞争层。

如图4-1所示。

竞争层图4-1 自组织神经网络结构输入层：接受外界信息，将输入模式向竞争层传递，起“观察”作用。

竞争层：负责对输入模式进行“分析比较”，寻找规律，并归类。

4.1.2 自组织神经网络的原理1．分类与输入模式的相似性分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中，无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开来，实现模式样本的类内相似性和类间分离性。

自组织特征映射神经网络(SOM)

二、学习算法
1 算法 I: (i) 初始化：
- 各权矢量
W j 的确定
wji (0) ← Small random numbers（也可根据先验知识）； , k ← 0; (ii) 输入 X(k) , 对 W 做下述操作： j c 求出与 X(k) 最接近的权矢量 W ， q 2 1/ 2 min{ W j − X (k ) = Wq − X (k ) = d q , ( X − Y = ( ∑ i ( xi − yi ) ) ) j d 定义单元 q 所在的邻域为 Nq (tk ), 将 Nq (tk ) 中各单元的权进行修改, 其它权值不变:
的改进使其与当前单元对应的权值修改次数有关随修改次数增加使关于算法的收敛性简述设可将输入样本集合划分为每个中有一个中心矢量聚类中心在物理上竞争学习算法competitivelearningcl典型的无教师学习unsupervisedlearning算法
CH.6
自组织特征映射神经网络
Neural Network
⎡P ⎢ 1,1 ⎢ P2,1 ⎢ P ⎢ ⎣ 3,1
共7396个训练矢量。码本规模：N=512 用 SOM 网络进行矢量量化，实现图像数据压缩
(3) 学习算法
(取定 L、N) (i) 初始化： Wj (0) ← [0,255] 之间的随机数; (ii) 构造图像矢量样本集 { X(k) }, (iii) 输入 X(k), 由各 U j计算出 (iv) 由输出单元 U 在所有 out (v) (vi)
d1 U1
…
dj
Uj
Wj
… U N
dN
SOM
xn
dj
中，找出最小距离
(3) 于是令：
⎧1 , if j = q yj = ⎨ ⎩0 , if j ≠ q

som算法

1 SOM算法工作原理
神经元交互模式
在竞争层中，神经元的竞争是这样进行的：对于获胜的那个神经元g，在其周围Ng的区域内，神经元在不同程度上都得到了兴奋，而在Ng区域以外的神经元都得到了抑制，即“以获胜神经元为圆心，对近邻的神经元表现出兴奋性侧反馈，而对远邻的神经元表现出抑制性侧反馈，近邻者相互激励，远邻者相互抑制”。整体上表现出中间强度大，两边逐渐衰减，而远离中心的受到抑制的趋势。
ቤተ መጻሕፍቲ ባይዱ
2 SOM算法实现的基本流程
SOM聚类算法实现的具体流程图
3.SOM算法的优缺点
优点
1.对输入模式的自动聚类作用。 2.网络结构简单，具有很好的生物神经元特征。 3.容错性。 4.具有特征映射的能力。 5.具有可视化的优点。 6.网络具有自稳定性。 7.输出的排序性。 8.具有自联想性。
缺点
1.聚类数目和初始网络结构固定，需要用户预先指定聚类数目和初始的权值矩阵。 2.可能会出现一些始终不能获胜的“死神经元”，和一些因为经常获胜被过度利用的神经元，不能充分利用所有神经元信息而将导致影响聚类质量； 3.要想往SOM网络中加入新的类别必须先完整的重新学习之后方可进行； 4.数据的输入顺序会影响甚至决定了输出的结果，数据量少时尤为明显。 5.连接权值初始值、计算策略、参数选择不当时会导致网络收敛时间过长，甚至难以达到收敛状态。
1 SOM算法工作原理
SOM二维网络拓扑结构图
SOM 是竞争式学习网络，每当一个向量被提交，具有最近权值向量的那个神经元将竞争获胜。获胜神经元及其邻域内的神经元将移动它们的权值向量从而离输入向量更近一些。权向量有两个趋势：首先，它们随着更多的输入向量被提交而分布到整个输入空间。其次，它们移向邻域内的神经元。两个趋势共同作用使神经元在那一层重新排列，从而最终输入空间得到分类。

自组织神经网络

详细描述
自组织神经网络通常包含大量的神经元和参数，这使得训练过程变得非常耗时。传统的优化算法往往需要长时间的迭代才能找到最优解，这限制了自组织神经网络的应用范围。
泛化能力不足
总结词
自组织神经网络的泛化能力不足是另一个挑战，这主要是由于其容易过拟合训练数据。
详细描述
由于自组织神经网络具有强大的拟合能力，它很容易过拟合训练数据，导致对测试数据的泛化能力下降。这限制了自组织神经网络在实际问题中的应用效果。
缺乏有效的学习规则
总结词
目前自组织神经网络缺乏有效的学习规则，这限制了其自适应能力和进化速度。
详细描述
自组织神经网络的学习规则决定了其结构和参数的调整方式，但目前大多数学习规则的效果并不理想。如何设计更有效的学习规则，以提高自组织神经网络的自适应能力和进
化速度，是当前研究的重点之一。
未来发展方向与趋势
K-均值聚类算法
总结词
K-均值聚类算法是一种无监督的机器学习算法，用于将输入数据划分为K个聚类。
VS
详细描述
K-均值聚类算法通过迭代的方式将输入数据划分为K个聚类，每个聚类由其质心表示。算法通过计算每个数据点到各个质心的距离，将数据点划分到最近的质心所在的聚类中，并更新质心位置。K-均值聚类算法具有简单、高效的特点，广泛应用于数据挖掘、图像分割和机器视觉等领域。
自适应共振理论模型
总结词
自适应共振理论模型是一种基于自适应滤波原理的神经网络模型，能够自适应地学习和识别输入数据中的模式。
详细描述
自适应共振理论模型通过调整神经元之间的连接权重，使得神经网络能够自适应地跟踪和识别输入数据中的模式。该模型具有较强的鲁棒性和适应性，能够处理噪声和异常值，广泛应用于信号处理、语音识别和自然语言处理等领域。

[医学]自组织神经网络(SOM)方法及其应用

4.1竞争学习的概念与原理
4.1.1 基本概念
分类——分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中去。
聚类——无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而
将不相似的分离开。
4.1.1 基本概念
• 相似性测量＿欧式距离法
X X i (X X i)T(X X i)
w1
训练次数
W1
W2
1 18.43 -180
2 -30.8 -180
3 7 -180
4 -32 -180
5 11 -180
6 24 -180
7 24 -130
8 34 -130
9 34 -100
10 44 -100
11 40.5 -100
12 40.5 -90
3 7 -180
4 -32 -180
5 11 -180
6 24 -180
7 24 -130
8 34 -130
9 34 -100
10 44 -100
11 40.5 -100
12 40.5 -90
13 43 -90
14 43 -81
15 47.5 -81
6 24 -180
7 24 -130
8 34 -130
9 34 -100
10 44 -100
类1
类2
类1

类2

T
T

(a)基于欧式距离的相似性测量 (b)基于余弦法的相似性测量
4.1.1 基本概念
• 相似性测量＿余弦法
cos

自组织特征映射神经网络

结合深度学习
1 2
深度自组织特征映射
将深度学习技术与自组织特征映射相结合，通过逐层特征提取和抽象，提高分类精度和特征表达能力。
卷积自组织特征映射
借鉴卷积神经网络的思想，设计卷积层和池化层，对输入数据进行局部特征提取和空间信息的保留。
3
循环自组织特征映射
结合循环神经网络，实现序列数据的自组织特征映射，解决序列分类和时间序列预测问题。
05 自组织特征映射神经网络的发展趋势与未来展望
改进算法
优化学习率调整
通过动态调整学习率，提高神经网络的收敛速度和稳定性，减少训练时间。
引入正则化技术
通过正则化技术，如L1、L2正则化，防止过拟合，提高模型的泛化能力。
集成学习与多模型融合
将多个自组织特征映射神经网络集成在一起，通过多模型融合提高分类性能。
跨领域应用拓展
01
02
03
图像识别
应用于图像分类、目标检测等任务，提高图像处理的自动化和智能化水平。
语音识别
应用于语音信号的特征提取和分类，实现语音识别系统的优化。
自然语言处理
应用于文本分类、情感分析、机器翻译等任务，推动自然语言处理技术的发展。
06 自组织特征映射神经网络与其他神经网络的比较
数据输入
卷积神经网络（CNN）特别适合处理图像等具有网格结构的数据，而SOM则适用于各种类型的数据，包括图像、文本和数值数据。
拓扑结构
CNN的神经元排列具有固定的层次结构，而SOM的神经元可以形成任意拓扑结构，这使得SOM在某些任务上具有更大的灵活性。
THANKS FOR WATCHING
感谢您的观看
特征提取
信息检索

1.4SOM模型

输出神经元 x1 xn 输入神经元
SOM模型学习算法描述
初始化
随机选取某个较小的权值。各个输出神经元j 的邻接输出神经元集合 NEj的选取如图。NEj(t) 表示在时刻t时输出单元 j的邻接单元的集合,它是随时间的增长而不断缩小的。
SOM模型学习算法描述
输入
输入单元接受一组新的输入 X=(x1，x2，x3，...，xn) 计算输入X和每个输出神经元连接权向量 Wj之间的距离dj
SOM模型提出的生物背景
在人的感觉通道上一个重要的组织原理是神经元有序地排列着，并且往往可以反映出所感觉到外界刺激的某些物理特性。如在听觉通道的每一个层次上，其神经元及神经纤维在结构上的排列与外界刺激的频率关系十分密切，对于某个频率，相应的神经元具有最大的响应，这种听觉通道上的有序排列一直延续到听觉皮层，尽管许多低层次上的组织是预先排好的，但高层次上的神经组织则是通过学习自组织而形成的。
中获得数据分布的大体本质特征。
SOM模型的输入、输出
某输入信号模式X=(x1，x2，…，xn)T 连接到所有的输入神经元。输出神经元i 与所有输入神经元之间连接的权向量为： Wi=(wi1，wi2，…，win)T。输出神经元i的输出值oi：
oi

j 1
n
wij x j WiT X
SOM模型学习算法概述
(t ) 为学习常数，随时间单调下降 0 (t ) 1
SOM模型的说明
假设样本输入和连接权值都是归一化的，
则选择最小距离的神经元就是选择具有最大输出的神经元。上面的二维SOM模型可以推广到更高维映射的情况。 SOM模型的特征映射是一种有序的映射，因此它适合于进行特征提取和特征变换。

自映射组织

自组织映射（SOM）也被称作Kohonen网络，它是非监督的、竞争学习的聚类网络，在其中一次仅有一个神经元（或一组中仅有一个神经元）“激活”。

自组织映射是模仿在大脑中发生的某些映射的人工系统。

这类自组织神经网络的基本思想是（从原始事件空间）输入被自适应单元的简单网络接受。

信号表示以一种使得响应保持原始事件相同的拓扑排序的方式（自动）映射为一系列输出。

因此，网络能获得可观察时间属性的正确拓扑映射的自动形成。

换言之，自组织映射以拓扑有序的方式将（任意维）输入模式变换为一维或二维的特征映射。

例如，当某类模式输入时，其输出层某一节点得到最大刺激而获胜，获胜节点周围的一些节点因侧向作用也受到较大刺激。

这时网络进行一次学习操作，获胜节点及其周围节点的连接权矢量向输入模式的方向作相应的修正。

当输入模式类别发生变化时，二维平面上的获胜节点也从原来节点转移到其它节点。

这样，网络通过自组织方式用大量训练样本数据来调整网络的连接权值，最后使得网络输出层特征图能够反映样本数据的分布情况。

自组织映射的缺点主要有：
（1）因为要将输入数据映射到一个低维、规则的数据网格上,因此数据网格的大小是已知的；
（2）神经网络只有一层，无法体现数据本身的层次结构；
（3）输入数据较少时，训练的结果通常依赖于样本的输入顺序，并且训练中有些神经元始终不能获胜并最终成为“死神经元”；
（4）应用于矢量量化具有收敛速度慢、计算量大的缺点；
（5）网络连接权的初始状态、神经元个数等参数选择对网络的收敛性和分类效果有较大影响。

自组织神经网络

4 自组织神经网络
采用有导师学习规则的神经网络是以网络的误差或能量函数作为算法准则。而在很多情况下，人在认知过程中没有预知的正确模式，人获得大量知识常常是靠“无师自通”，即通过对客观事物的反复观察，分析与比较，自行揭示其内在规律，并对具有共同特征的事物进行正确归类。对于人的这种学习方式，基于有导师学习策略的神经网络是无能为力的。
4.2自组织特征映射（SOM）神经网络
4.2.1SOM网络的生物学基础
生物学研究表明：人的大脑皮层中，存在许多不同功能的神经网络区域，每个功能区域完成各自的特定功能，如视觉、听觉、语言理解和运动控制等等。
当人脑通过感官接受外界的特定时空信息时，将引起大脑皮层的特定区域兴奋。每个区域有若干神经元组成，当该区域兴奋时，总是以某一个神经元（细胞）为兴奋中心，呈现出墨西哥帽（Mexican Hat）式兴奋分布。
样本）；分类：将待识别的输入模式划分为各自的模式中去；聚类：无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划
归一类；相似性：输入模式的聚类依据。 4.1.1.2 相似性测量
神经网络的输入模式用向量表示，比较不同模式的相似性可转化为比较两个向量的距离，因而可用模式向量间的距离作为聚类判据。
这种权值（或说侧抑制关系）一般是固定的，训练过程中不需要调整，在各类自组织网络拓朴图中一般予以省略。（不省略时，也只看成抑制关系的表示，不作为网络权来训练）。
最强的抑制关系是竞争获胜者“惟我独兴”，不允许其它神经元兴奋，这种抑制方式也称为胜者为王。
4.1.1.4 向量归一化不同的向量有长短和方向区别，向量归一化的目的是将向量变成方向
(3)网络输出与权值调整
胜者为王竞争学习算法规定，获

自组织映射神经网络(SOM)降尺度方法对江淮流域逐日降水量的模拟评估

自组织映射神经网络(SOM)降尺度方法对江淮流域逐日降水量的模拟评估周璞;江志红【摘要】利用1961～2002年ERA-40逐日再分析资料和江淮流域56个台站逐日观测降水量资料,引入基于自组织映射神经网络(Self-Organizing Maps,简称SOM)的统计降尺度方法,对江淮流域夏季(6～8月)逐日降水量进行统计建模与验证,以考察SOM对中国东部季风降水和极端降水的统计降尺度模拟能力.结果表明,SOM通过建立主要天气型与局地降水的条件转换关系,能够再现与观测一致的日降水量概率分布特征,所有台站基于概率分布函数的Brier评分(Brier Score)均近似为0,显著性评分(Significance Score)全部在0.8以上;模拟的多年平均降水日数、中雨日数、夏季总降水量、日降水强度、极端降水阈值和极端降水贡献率区域平均的偏差都低于11％;并且能够在一定程度上模拟出江淮流域夏季降水的时间变率.进一步将SOM降尺度模型应用到BCC-CSM 1.1(m)模式当前气候情景下,评估其对耦合模式模拟结果的改善能力.发现降尺度显著改善了模式对极端降水模拟偏弱的缺陷,对不同降水指数的模拟较BCC-CSM1.1(m)模式显著提高,降尺度后所有台站6个降水指数的相对误差百分率基本在20％以内,偏差比降尺度前减小了40％～60％;降尺度后6个降水指数气候场的空间相关系数提高到0.9,相对标准差均接近1.0,并且均方根误差在0.5以下.表明SOM降尺度方法显著提高日降水概率分布,特别是概率分布曲线尾部特征的模拟能力,极大改善了模式对极端降水场的模拟能力,为提高未来预估能力提供了基础.【期刊名称】《气候与环境研究》【年(卷),期】2016(021)005【总页数】13页(P512-524)【关键词】统计降尺度;SOM(Self-Organizing Maps);江淮流域;极端降水【作者】周璞;江志红【作者单位】南京信息工程大学气象灾害教育部重点实验室/气候与环境变化国际联合实验室/气象灾害预报预警与评估协同创新中心,南京210044;南京信息工程大学气象灾害教育部重点实验室/气候与环境变化国际联合实验室/气象灾害预报预警与评估协同创新中心,南京210044【正文语种】中文【中图分类】P468周璞，江志红. 2016. 自组织映射神经网络（SOM）降尺度方法对江淮流域逐日降水量的模拟评估［J］. 气候与环境研究，21 （5）： 512-524. Zhou Pu，Jiang Zhihong. 2016. Simulation and evaluation of statistical downscaling of regional daily precipitation over Yangtze-Huaihe River basin based on self-organizing maps ［J］. Climatic and Environmental Research （in Chinese），21 （5）： 512-524，doi：10.3878/j.issn.1006-9585.2016.16097.在全球变暖背景下，地表蒸发加剧，全球和区域水循环加剧，造成极端降水事件增多（Trenberth，1998； Trenberth et al.，2003）。

基于SOM神经网络的教学认知诊断模型研究

基于SOM神经网络的教学认知诊断模型研究1. 内容概括本论文深入探讨了基于自组织映射（SOM）神经网络的教学认知诊断模型的研究。

SOM作为一种无监督学习方法，擅长从高维数据中提取关键特征，并将数据组织成拓扑结构相似的聚类。

在教学领域，这种能力使得SOM能够有效揭示学生的学习模式、识别知识盲点，并为个性化教学提供有力支持。

认知诊断旨在评估学生的学习状态和理解程度，是教学过程中的重要环节。

传统诊断方法往往依赖于教师的主观判断，缺乏客观性和全面性。

本研究引入SOM神经网络，构建了一个自动化、高效的诊断系统。

论文首先介绍了SOM神经网络的基本原理和教学应用现状，阐述了其在教学认知诊断中的潜力和价值。

通过理论分析和实证研究，详细探讨了模型的构建过程、学习算法以及优化策略。

实证研究部分，选取了某小学的数学课程作为研究对象，收集了学生的课堂表现、作业成绩等数据，并运用SOM神经网络进行了诊断分析。

研究结果表明，基于SOM神经网络的教学认知诊断模型能够准确识别学生的学习水平、掌握程度和知识盲点，为教师提供了有针对性的教学建议。

该模型还具有操作简便、成本低廉等优点，有望在教育领域得到广泛应用。

论文总结了研究成果，指出了研究的局限性和未来研究方向。

随着人工智能技术的不断发展和教育信息化的深入推进，基于SOM神经网络的智能诊断系统将在教育评价和教学指导方面发挥更加重要的作用。

1.1 研究背景在21世纪的教育领域，教学方法和手段的创新成为了教育改革的核心。

随着信息技术的发展，计算机科学与人工智能技术逐渐渗透到各个学科领域，为教育带来了新的机遇。

自组织映射(SOM)神经网络作为一种强大的学习工具，已经在图像识别、语音识别等领域取得了显著的成果。

研究者们开始将SOM神经网络应用于教育领域，以期提高教学质量和效果。

教学认知诊断模型是一种通过对学生学习过程中产生的数据进行分析，从而对学生的认知过程进行评估和优化的教学辅助工具。

SOM自组织映射

SOM自组织映射1 定义无监督系统是基于竞争性学习，其中输出神经元之间竞争激活，结果是在任意时间只有一个神经元被激活。

这个激活的神经元被称为胜者神经元（winner-takes-all neuron）。

这种竞争可以通过在神经元之间具有横向抑制连接（负反馈路径）来实现。

其结果是神经元被迫对自身进行重新组合，这样的网络我们称之为自组织映射（Self-Organizing Map，SOM）。

2 有关拓扑映射神经生物学研究表明，不同的感觉输入（运动，视觉，听觉等）以有序的方式映射到大脑皮层的相应区域。

这种映射我们称之为拓扑映射，它具有两个重要特性：1、在表示或处理的每个阶段，每一条传入的信息都保存在适当的上下文（相邻节点）中2、处理密切相关的信息的神经元之间保持密切，以便它们可以通过短突触连接进行交互，以神经生物学激励的方式通过自组织进行学习。

3 建立自组织映射SOM的主要目标是将任意维度的输入信号模式转换为一维或二维离散映射，并以拓扑有序的方式自适应地执行这种变换。

从这里的描述感觉这是超越了PCA的极限降维。

只不过需要满足的限定条件比较多。

在竞争性学习过程中，神经元有选择性地微调来适应各种输入模式（刺激）或输入模式类别。

如此调整的神经元（特指获胜神经元），使得这部分获胜神经元顺序变得有序，并且在该网格上创建对于输入特征有意义的坐标系。

因此，SOM形成输入模式所需的拓扑映射。

我们可以将其视为主成分分析（PCA）的非线性推广。

3.1映射的组织结构输入空间中的点x映射到输出空间中的点I(x)，如图所示本质上是一种只有输入层--隐藏层的神经网络。

隐藏层中的一个节点代表一个需要聚成的类。

训练时采用“竞争学习”的方式，每个输入的样例在隐藏层中找到一个和它最匹配的节点，称为它的激活节点，也叫“winning neuron”。

紧接着用随机梯度下降法更新激活节点的参数。

同时，和激活节点临近的点也根据它们距离激活节点的远近而适当地更新参数。

自组织映射知识

自组织映射（self-organizing feature mapping）自组织神经网络SOM（self-organization mapping net）是基于无监督学习方法的神经网络的一种重要类型。

自组织映射网络理论最早是由芬兰赫尔辛基理工大学Kohen于1981年提出的。

此后，伴随着神经网络在20世纪80年代中后期的迅速发展，自组织映射理论及其应用也有了长足的进步。

它是一种无指导的聚类方法。

它模拟人脑中处于不同区域的神经细胞分工不同的特点，即不同区域具有不同的响应特征，而且这一过程是自动完成的。

自组织映射网络通过寻找最优参考矢量集合来对输入模式集合进行分类。

每个参考矢量为一输出单元对应的连接权向量。

与传统的模式聚类方法相比，它所形成的聚类中心能映射到一个曲面或平面上，而保持拓扑结构不变。

对于未知聚类中心的判别问题可以用自组织映射来实现。

[1]自组织神经网络是神经网络最富有魅力的研究领域之一，它能够通过其输入样本学会检测其规律性和输入样本相互之间的关系，并且根据这些输入样本的信息自适应调整网络，使网络以后的响应与输入样本相适应。

竞争型神经网络的神经元通过输入信息能够识别成组的相似输入向量；自组织映射神经网络通过学习同样能够识别成组的相似输入向量，使那些网络层中彼此靠得很近的神经元对相似的输入向量产生响应。

与竞争型神经网络不同的是，自组织映射神经网络不但能学习输入向量的分布情况，还可以学习输入向量的拓扑结构，其单个神经元对模式分类不起决定性作用，而要靠多个神经元的协同作用才能完成模式分类。

学习向量量化LVQ（learning vector quantization）是一种用于训练竞争层的有监督学习（supervised learning）方法。

竞争层神经网络可以自动学习对输入向量模式的分类，但是竞争层进行的分类只取决于输入向量之间的距离，当两个输入向量非常接近时，竞争层就可能把它们归为一类。