竞争型神经网络要点
自组织竞争神经网络
第23页
3.搜索阶段：
由Reset信号置获胜阶段无效开始，网络进入搜索 阶段。此时R为全0，G1=1 ，在C层输出端又得到了此 次输入模式X。所以，网络又进入识别及比较阶段，得 到新获胜节点（以前获胜节点不参加竞争）。这么重 复直至搜索到某一个获胜节点K，它与输入向量X充分 匹配到达满足要求为止。模式X编制到R层K节点所连 模式类别中，即按一定方法修改K节点自下而上和自上 而下权向量，使网络以后再碰到X或与X相近模式时， R层K节点能很快取得竞争胜利。若搜索了全部R层输 出节点而没有发觉有与X充分靠近模式，则增设一个R 层节点以表示X或与X相近模式。
⑥ 警戒线检测。设向量X中不为0个数用||X||表示，可
有 n || X || xi
n
||C'|| w' j *iXi i1
(5.3.1)
i 1
n
||C'|| w' j *iXi
(5.3.2)
i1
若||C||/||X||>成立，则接收j*为获胜节点，转⑦。
不然发Reset信号，置j*为0（不允许其再参加竞争），
信号1：输入X第i个分量Xi。 信号2：R层第j个单元自上而下返回信号Rj。 信号3：G1控制信号。 设C层第i个单元输出为Ci。 Ci依据“2/3规则”产 生，即Ci含有三个信号中多数相同值。 网络开始运行时， G1 =1，R层反馈信号为0。
自组织竞争神经网络
第18页
2.R 层结构：
R层功效结构相当于一个前向竞争网络，假设输出 层有m个节点，m类输入模式。输出层节点能动态增加， 以满足设置新模式类需要。设由C层自下而上连接到R 层第j个节点权向量用Wj={w1j,w2j,..,wnj} 表示。C层输出向量C沿Wj向前馈送，经过竞争在R层 输出端产生获胜节点，指示此次输入向量类别。
利用基本竞争型网络进行分类
利用基本竞争型网络进行分类1.课程设计目的（1）加深对模式识别基本理论知识的理解。
（2）培养独立开展科研的能力和编程能力。
（3）掌握基本竞争型网络的结构及其在模式识别中的应用。
2.课程设计要求（1）掌握课程设计的相关知识、概念清晰。
（2）程序设计合理、能够正确运行。
3.相关知识3.1神经网络人的思维有逻辑性和直观性两种不同的基本方式。
逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。
然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。
这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。
人工神经网络就是模拟人思维的第二种方式。
这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。
虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。
3.2人工神经网络的工作原理人工神经网络首先要以一定的学习准则进行学习，然后才能工作。
现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。
所以网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。
首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。
在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。
这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。
如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。
自组织竞争神经网络
dj =
n
∑ (x
i =1
i
− wi j ) 2
∆wi j = η h( j , j*)( xi − wi j )
j − j*2 h ( j , j *) = exp − σ2
自组织竞争神经网络算法能够进行有效的自适应分类，但它仍存在一些问题： 学习速度的选择使其不得不在学习速度和最终权值向量的稳定性之间进行折中。 有时有一个神经元的初始权值向量离输入向量太远以至于它从未在竞争中获胜， 因 此也从未得到学习，这将形成毫无用处的“死”神经元。
网络结构
%1.ÎÊÌâÌá³ö X=[0 1;0 1]; clusters=8; points=10; std_dev=0.05; P=nngenc(X,clusters,points,std_dev); plot(P(1,:),P(2,:),'+r'); title('ÊäÈëÏòÁ¿'); xlabel('P(1)'); ylabel('P(2)'); %2.ÍøÂçÉè¼Æ net=newc([0 1;0 1],8,.1) w=net.IW{1}; plot(P(1,:),P(2,:),'+r'); hold on; circle=plot(w(:,1),w(:,2),'ob') %3.ÍøÂçѵÁ· net.trainParam.epochs=7; net=train(net,P) w=net.IW{1}; delete(circle); plot(w(:,1),w(:,2),'ob'); %4.ÍøÂç²âÊÔ p=[0.5;0.2]; a=sim(net,p)
人工智能 大模型算法
人工智能大模型算法随着人工智能技术的飞速发展，大模型算法已经成为这一领域的重要组成部分。
这些算法能够处理大规模数据，进行深度学习和模式识别，从而在各个领域中发挥重要作用。
本篇文章将详细介绍人工智能中的大模型算法，帮助读者全面了解这一技术的原理和应用。
一、大模型算法概述大模型算法是一种基于大规模数据的深度学习算法，通过训练模型来识别和预测各种数据模式。
这类算法能够处理海量数据，并在大量训练样本的帮助下，提高模型的准确性和可靠性。
大模型算法的应用范围广泛，包括自然语言处理、图像识别、声音识别等领域。
二、大模型算法原理大模型算法的核心是神经网络，这是一种模拟人脑工作方式的计算方法。
神经网络由多个神经元组成，每个神经元负责处理一种特定的数据模式。
通过训练，神经网络能够学会识别各种模式，并据此进行预测和决策。
在人工智能领域，大模型算法通常采用深度学习技术，通过大量的训练数据来优化模型参数，提高模型的准确性和泛化能力。
深度学习技术能够模拟人脑的学习方式，通过反复学习和调整，使模型逐渐适应各种复杂的数据模式。
三、大模型算法的类型1. 深度神经网络（DNN）：DNN是最常见的一种神经网络，通过多层神经元的组合和连接，实现复杂的模式识别和预测功能。
2. 卷积神经网络（CNN）：CNN在图像识别中具有优异的表现，通过卷积层、池化层等结构，有效地提取图像特征。
3. 循环神经网络（RNN）：RNN在处理序列数据中具有独特优势，能够捕捉到时间序列中的长期依赖关系。
4. 生成对抗网络（GAN）：GAN是一种竞争性神经网络架构，通过生成器和判别器的对抗训练，生成逼真的数据。
四、大模型算法的应用大模型算法在各个领域都有广泛的应用，包括但不限于：1. 自然语言处理：通过大模型算法，可以实现对文本、语音、图像等的自然语言理解与生成。
如机器翻译、智能问答、自动写作等。
2. 医疗诊断：大模型算法可用于医学图像分析，如CT、MRI扫描等，提高医生对疾病诊断的准确性。
遗传算法与智能算法综述
遗传算法与智能算法综述摘要：随着计算机技术的飞速开展，智能计算方法的运用范围也越来越普遍，本文引见了以后存在的一些智能计算方法，论述了其任务原理和特点，同时对智能计算方法的开展停止了展望。
关键词：人工神经网络遗传算法模拟退火算法群集智能蚁群算法粒子群算1 什么是智能算法智能计算也有人称之为〝软计算〞，是们受自然〔生物界〕规律的启迪，依据其原理，模拟求解效果的算法。
从自然界失掉启迪，模拟其结构停止发明发明，这就是仿生学。
这是我们向自然界学习的一个方面。
另一方面，我们还可以应用仿生原理停止设计(包括设计算法)，这就是智能计算的思想。
这方面的内容很多，如人工神经网络技术、遗传算法、模拟退火算法、模拟退火技术和群集智能技术等。
2 人工神经网络算法〝人工神经网络〞(ARTIFICIAL NEURAL NETWORK，简称ANN)是在对人脑组织结构和运转机制的看法了解基础之上模拟其结构和智能行为的一种工程系统。
早在本世纪40年代初期，心思学家McCulloch、数学家Pitts就提出了人工神经网络的第一个数学模型，从此开创了神经迷信实际的研讨时代。
其后，F Rosenblatt、Widrow和J. J .Hopfield等学者又先后提出了感知模型，使得人工神经网络技术得以蓬勃开展。
神经系统的基本结构是神经元(神经细胞)，它是处置人体内各局部之间相互信息传递的基本单元。
据神经生物学家研讨的结果说明，人的一个大脑普通有1010～1011个神经元。
每个神经元都由一个细胞体，一个衔接其他神经元的轴突和一些向外伸出的其它较短分支——树突组成。
轴突的功用是将本神经元的输入信号(兴奋)传递给别的神经元。
其末端的许多神经末梢使得兴奋可以同时传送给多个神经元。
树突的功用是接受来自其它神经元的兴奋。
神经元细胞体将接遭到的一切信号停止复杂处置(如：加权求和，即对一切的输入信号都加以思索且对每个信号的注重水平——表达在权值上——有所不同)后由轴突输入。
自组织神经网络
❖
PR
- Rx2 矩阵确定输入范围
❖
Di
- 第i层神经元个数,缺省为5× 8
❖ TFCN
- 拓扑函数,缺省为 'hextop'.
❖ DFCN
- 距离函数,缺省为 'linkdist'.
❖
OLR
- 排序阶段学习率,缺省为0.9.
❖ OSTEPS - 排序阶段最大学习步骤,缺省为1000.
❖
TLR
- 调整阶段学习率,缺省为0.02;
例：LVQ网络的设计
❖ 设定输入样本和期望输出 ❖ 构建并设置网络参数 ❖ 根据训练样本对网络进行训练 ❖ 用训练样本测试网络 ❖ 用新样本测试网络 ❖ 讨论比例的影响
小结
❖ 何谓自组织：没有答案的学习
❖ 自组织竞争神经网络的基本概念
神经元：输入与权值的负距离加上阈值 网络结构：竞争网络 学习方法：Kohonen和阈值学习规则 用途：聚类
❖
TND
- 调整阶段最大学习步骤,缺省为1
例八：SOFM网络的构建和训练
❖ 构建网络 ❖ 设置训练样本 待聚类样本 ❖ 观察训练前网络的状态 ❖ 根据样本进行训练
排序阶段 粗调 调整阶段 细调
❖ 观察训练后网络的状态
例九：一维SOFM网络设计
❖ 输入为二维向量,神经元分布为一维 ❖ 将二维空间的特征映射到一维拓扑结构 ❖ 步骤
* IW 1 ,1 ( q 1 )
若分类不正确：
修正第 i个神经元的权值更远离
该样本
i i － ( p ( q ) i ) * IW 1,1 ( q )
* IW 1 ,1 ( q 1 )
* IW 1 ,1 ( q 1 )
神经网络ppt课件
通常，人们较多地考虑神经网络的互连结构。本 节将按照神经网络连接模式，对神经网络的几种 典型结构分别进行介绍
12
2.2.1 单层感知器网络
单层感知器是最早使用的，也是最简单的神经 网络结构，由一个或多个线性阈值单元组成
这种神经网络的输入层不仅 接受外界的输入信号，同时 接受网络自身的输出信号。 输出反馈信号可以是原始输 出信号，也可以是经过转化 的输出信号；可以是本时刻 的输出信号，也可以是经过 一定延迟的输出信号
此种网络经常用于系统控制、 实时信号处理等需要根据系 统当前状态进行调节的场合
x1
…… …… ……
…… yi …… …… …… …… xi
再励学习
再励学习是介于上述两者之间的一种学习方法
19
2.3.2 学习规则
Hebb学习规则
这个规则是由Donald Hebb在1949年提出的 他的基本规则可以简单归纳为：如果处理单元从另一个处
理单元接受到一个输入，并且如果两个单元都处于高度活 动状态，这时两单元间的连接权重就要被加强 Hebb学习规则是一种没有指导的学习方法，它只根据神经 元连接间的激活水平改变权重，因此这种方法又称为相关 学习或并联学习
9
2.1.2 研究进展
重要学术会议
International Joint Conference on Neural Networks
IEEE International Conference on Systems, Man, and Cybernetics
World Congress on Computational Intelligence
复兴发展时期 1980s至1990s
竞争性神经网络的原理及应用
竞争性神经网络的原理及应用竞争性神经网络是一类典型的无监督学习算法，它在人类的神经系统中有着广泛的应用。
竞争性神经网络作为一种较新的技术，其目标在于模拟人类神经系统的行为，实现自主学习和不断变化的能力。
本文将介绍竞争性神经网络的原理及其应用。
一、竞争性神经网络的原理竞争性神经网络是通过模拟人类神经系统的行为来进行学习的。
它的基本原理是，将一组数据输入系统中，每个神经元之间相互竞争，最终经过竞争得出“优胜者”。
竞争性神经网络中最常用的模型是Kohonen自组织映射网络。
在Kohonen自组织映射网络中，每个神经元都与一个向量相关联，称为权重向量。
每次输入向量并给出一个胜出神经元，胜出神经元的权重向量通过调整来接近输入向量，而其他神经元的权重向量则保持不变。
Kohonen自组织映射网络的工作过程如下：（1）初始化每个神经元的权重向量；（2）给定输入向量；（3）计算每个神经元与输入向量的距离；（4）选择距离最近的神经元作为胜出神经元；（5）调整胜出神经元及其周围神经元的权重向量。
上述过程重复多次，神经元的位置会不断调整，最终形成一个由许多神经元构成的二维网格。
这个过程中，神经元的权重向量会不断调整，使得相似的输入向量聚集在相邻的神经元上。
二、竞争性神经网络的应用竞争性神经网络的应用十分广泛，在模式分类、数据挖掘、机器人控制、图像处理等领域中都有着重要的应用。
1. 模式分类竞争性神经网络可以通过自组织学习的方式进行模式分类。
在输入向量空间中聚集在一起的向量归为同一类别，从而对其它向量进行分类。
例如，通过对由红色和蓝色像素组成的图像进行训练，可以将红色像素和蓝色像素分别归类，并将其它颜色的像素归类到与其最接近的类别中。
2. 数据挖掘竞争性神经网络可以在数据挖掘领域中用来确定数据的特征。
这种网络可以在输入向量空间中分离出各种特征，并将其归为不同的类别。
例如，在一个由客户购买历史、性别、年龄等组成的数据集中使用竞争性神经网络，将各种特征分离出来，并将客户划分为不同的类别。
智能信息处理技术
智能信息处理技术人工智能有三大研究学派：符号主义、联结主义和行为主义。
前面的章节已经讨论了符号主义的典型技术与应用，下面将对联结主义的主要观点与技术作讨论。
联结主义又称为仿生学派或生理学派，其原理为神经网络及神经网络间的连接机制和学习算法。
联结主义主要进行结构模拟，认为人的思维基元是神经元，而不是符号处理过程，认为大脑是智能活动的物质基础，要揭示人类的智能奥秘，就必须弄清大脑的结构，弄清大脑信息处理过程的机理。
6.1 神经网络神经网络是借鉴人脑的结构和特点，通过大量简单处理单元互联组成的大规模并行分布式信息处理和非线性动力学系统。
神经网络由具有可调节权值的阈值逻辑单元组成，通过不断调节权值，直至动作计算表现令人满意来完成学习。
人工神经网络的发展可以追溯到1890年，美国生物学家阐明了有关人脑的结构及其功能。
1943年，美国心理学家W.Mcculloch和数学家W.Pitts提出了神经元网络对信息进行处理的数学模型（即M- P模型），揭开了神经网络研究的序幕。
1949年，Hebb提出了神经元之间连接强度变化的学习规则，即Hebb 规则，开创了神经元网络研究的新局面。
1987年6月在美国召开的第一次神经网络国际会议（ICNN）宣告了神经网络计算机学科的诞生。
目前神经网络应用于各行各业。
6.1.1 神经网络的模型和学习算法1.神经网络的模型神经网络由神经元来模仿单个的神经细胞。
其中，x表示外部输入，f为输i表式连接权植。
图6-1为一个神经出，圆表示神经元的细胞体，θ为阈值，ωi元的结构。
图6-1 一个神经元的结构输出f取决于转移函数φ，常用的转移函数有三种，根据具体的应用和网络模型进行选择。
神经网络具有以下优点：（1）可以充分逼近任意复杂的非线性关系。
（2）具有很强的鲁棒性和容错性。
（3）并行处理方法，使得计算快速。
（4）可以处理不确定或不知道的系统，因神经网络具有自学习和自适应能力，可根据一定的学习算法自动地从训练实例中学习。
神经元网络的模型和算法
神经元网络的模型和算法神经元网络是一种模拟生物神经系统的人工神经网络，具有很强的自适应能力和学习能力。
它由大量的神经元和相互之间的连接构成，可以处理各种复杂的信息。
本文将介绍神经元网络的模型和算法。
一、神经元模型神经元是神经元网络中的基本单元，它接受输入信号并产生输出信号。
神经元模型主要分为阈值型神经元模型和sigmoid型神经元模型两种。
阈值型神经元模型是最简单的神经元模型，它的输入和输出都是二进制变量，当输入超过一定阈值时，输出为1，否则为0。
这种模型适合处理离散的信息。
sigmoid型神经元模型则采用连续的输出，它的输出是一个0到1之间的实数，它的输入可以是离散的或连续的。
sigmoid型神经元模型主要用于处理连续的信息，如图像和声音信号。
二、神经元网络结构神经元网络是由大量的神经元和神经元之间的连接构成的。
神经元网络可以分为前馈神经元网络和反馈神经元网络两种。
前馈神经元网络是最简单的神经元网络，它的神经元之间的连接只允许从输入层到输出层，不允许有环，这种网络模型适合处理输入和输出之间的映射关系。
反馈神经元网络的神经元之间的连接可以形成环，每个神经元的输出可以成为下一个时刻另一个神经元的输入，这种神经元网络适用于处理时序信息和自适应控制。
三、神经元网络算法神经元网络的学习算法主要分为有监督学习算法和无监督学习算法两种。
有监督学习算法是指在训练样本中提供了期望输出的算法，最常用的算法是反向传播算法。
反向传播算法是通过神经网络的前向传播和误差反向传播两个过程来更新神经元之间的权重，以达到误差最小化的目的。
无监督学习算法是指在训练样本中没有提供期望输出的算法，常用的算法有自组织映射算法和竞争型学习算法。
自组织映射算法是一种无监督学习算法，它可以用于挖掘输入数据的潜力拓扑结构。
竞争型学习算法是指在网络中的神经元之间进行竞争，以选择最优的神经元作为输入的输出，从而实现无监督学习。
四、应用神经元网络的应用非常广泛，主要应用于模式识别、人工智能、控制系统、预测等领域。
第五章：自组织神经网络
x 0 x 1
F (x)
0
x0
1 x 1
5.2 竞争型自组织网络
（6）返回（5），计算到第j神经元的输出值远大于其他的 (m-1)个元的输出为止。
（7）对与神经元j相连接的权值进行调整
wij
: wij
wij
wij , wij
(uik
M
wij )
（8）另选一个样本，返回（3），直到所有样本全部学习完
预备知识
Xˆ
Wˆ j
*
min
j1, 2, . . . ,m
Xˆ Wˆ j
Xˆ Wˆ j* (Xˆ Wˆ j* )T (Xˆ Wˆ j* )
Xˆ T Xˆ 2Wˆ Tj* Xˆ Wˆ Tj* Wˆ Tj*
2(1
WT j*
Xˆ )
从上式可以看出，欲使两单位向量的欧式距离
最小，须使两向量的点积最大。即：
vvikkj
1sj 0
si (
j
1,2,, m)i
j
（3）比较阶段：学习后，已经直接将学习样本本身存在 t ji 中
运行：设获胜元为j=g，比较uik 与t jg 是否完全相同。是：分类正
确；否：将获胜元置为0，进入下一步寻找阶段。
似的分离开。
预备知识
• 相似性测量＿欧式距离法
X Xi (X Xi )T (X Xi )
类1
类2
• •
•
• •
• T
(a)基于欧式距离的相似性测量
• •
(b)基于
类2 • •
•
相似性测量
预备知识
• 相似性测量＿余弦法
co s XT Xi
X Xi
类1
•• ••
自组织竞争网络
2．竞争学习原理
设输入模式为二维向量，归一化后 其矢端可以看成分布在单位圆上的点， 用“o”表示。竞争层4个神经元对应的 4个内星权向量归一化后在单位圆上用 *表示。输入模式点分布大体上聚集为 4簇，可分4类。而训练样本中无分类 指导信息，网络如何自动发现样本空 间的类别划分?
如果对r层所有的模式类若相似度都不能满足要求说明当前输入模式无类可归需在输出层增加一个神经元来代表并存储该模式类为此将其内星权向量bj设计成当前输入模式向量外星权向量tj各分量全设为4学习阶段对发生共振的获胜神经元对应的模式类加强学习使以后出现与该模式相似的输入样本时能获得更大的共振
人获得大量知识常常是靠“无师自通”，即通过 对客观事物的反复观察、分析与比较，自行揭示其 内在规律，并对具有共同特征的事物进行正确归类。
思路：将高维输入数据分成若干区域，对每个区域 确定一个向量中心做为聚类中心，该区域的输入向 量可以用该中心向量代表，从而形成以各中心向量 为聚类中心的点集。
式中C1为与输出层神经元数m有关的正常数，B1为 大于1的常数，tm为预先选定的最大训练次数。
4．学习率η(t)的设计
η(t) 在训练开始时可以取值较大，之后以较快的速 度下降，这样有利于很快捕捉到输入向量的大致结 构。然后又在较小的值上缓降至趋于0值，这样可以 精细地调整权值使之符合输入空间的样本分布结构， 按此规律变化的 η(t) 表达式如下
将上式展开，并利用单位向量的特点，可得
可见，欲使两单位向量的欧式距离最小，须使两
向量的点积
最大。
(3)网络输出与权值调整
竞争神经网络
17
SOFM模型
➢ 网络结构
• 输入层和输出层（竞争层）
• 输入为 Xt x1, x，2 ,输xn出T 可
以是任意维， 但一般取二维 其 中分布m个神经元。 • 输入节点i通过权值 w与ij 输出层 的m个节点连接，每个输出节点j 对应一组权向量：
22
SOFM模型
在竞争学习过程中，通过邻域的作用逐渐地 扩大排他性，最终仅一个神经元竞争获胜
23
竞争学习算法
① 初始化：对各节点的权赋以小的随机数作为初始值 w ji 0,i 1, p;
归一化权值和输入样本
j 1, m
定初始领域 ，学N习c 速0率 ，迭代总0数 T，t=0
② 随机选取某样本输入 X t x1t , x2 t x p t
Neuron 3 is the winner and its weight vector W3 is updated according to the competitive learning rule.
w13 ( x1 w13 ) 0.1 (0.52 0.43) 0.01 w23 ( x2 w23 ) 0.1 (0.12 0.21) 0.01
6
Competitive Learning
➢ 竞争网络结构 y1
y2
y3 ----
ym
竞争层
输入层
-每个输入节点与每个输
出节点全连接
-竞争层的每一个节点接 x1
x2
x3 ------
xn
受一个输入加权和
7
Competitive Learning
竞争学习过程 ──“winner takes all” 确定winner (competitive phase) ：按一定的准则计 算每个输出节点与输入节点之间的权矢量与输入矢量之 间的逼近度,最逼近的为winner. 调整权矢量(reward phase) ：按一定的准则调整 winner的权矢量 – In simple competitive learning ，only the winner is allowed to learn (change its weight).
2011神经网络基本要点回顾
第1章1.人工神经网络（Artificial Neural Network，ANN），是由大量处理单元（神经元）互联而成的网络，是对人脑的抽象、简化和模拟，反映人脑的基本特性。
P12.神经元模型应具备三个要素：P7-P8。
3.常用的激励函数有以下三种：（1）阈值函数（阶跃函数、符号函数等）；（2）分段线性函数（饱和型函数）；（3）Sigmoid函数；（4）对称的Sigmoid函数（双曲型函数）；（5）高斯函数。
P8激励函数采用阶跃函数的人工神经元模型即为MP（McCulloch-Pitts）模型。
4.人工神经网络的分类：（1）按网络性能角度可分为连续型与离散型网络、确定性与随机性网络；（2）按网络结构角度可分为前向网络与反馈网络；（3）从学习方式角度可分为有导师学习网络与无导师学习网络。
P105.神经网络的学习也称为训练，指的是通过神经网络所在环境的刺激作用调整神经网络自由参数，使神经网络以一种新的方式对外部环境做出反应的一个过程。
能够从环境中学习和在学习中提高自身性能是神经网络的最有意义的性质。
6.学习方式可分为：有导师学习和无导师学习。
（1）有导师学习，又称为有监督学习，在学习时需要给出导师信号或称为期望输出。
（2）无导师学习，包括强化学习与无监督学习（或称自组织学习）。
P137.神经网络学习规则有：Hebb学习、纠错学习、基于记忆的学习、随机学习、竞争学习等。
P13-P148.人工神经网络的计算能力有三个显著的特点：（1）非线性特性；（2）大量的并行分布结构；（3）学习和归纳能力。
P169.一个人工智能系统有三个关键部分：表示、推理和学习。
P19机器学习包括两种截然不同的信息处理方向：归纳和演绎。
第2章1.感知器是神经网络用来进行模式识别的一种最简单模型，但是由单个神经元组成的单层感知器只能用来实现线性可分的两类模式的识别。
它与MP模型的不同之处是假定神经元的突触权值是可变的，这样就可以进行学习。
竞争型脉冲耦合神经网络及用于多约束QoS路由求解
ｎｅｔｗ ｏｒｋ ｄｉｓｔｒｉｂｕｔｉｏｎ ｓｔｒｕｃｔｕｒｅ．Ｔ ｈ ｕｓ，ｔｈｅ ｍ ｅｔ ｈ ｏｄ ｈａｓ ｂｅｔｔｅｒ ｃｏｍｐｕｔａｔｉｏｎａ ｌ ｐｅｒｆｏｒｍ ａ ｎ ｃｅ ａｎｄ ｄｏｍ ｉｎａｎｃｅ．
Ｎ ＩＥ Ｒ ｅｎ—ｃａｎ，ＺＨ ０Ｕ Ｄ ｏｎｇ—ｍ ｉｎｇ，ＺＨ ＡＯ Ｄ ｏｎｇ—ｆｅｎｇ，ＴＡＮ Ｙｉｎｇ—ｆａｎｇ （Ｄｅｐａｒｔｍｅｎｔ ｏｆ Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｉｎｆｏｒｍａｔｉｏｎ Ｃｏｌｌｅｇｅ，Ｙｕｎｎａｎ Ｕｎｉｖｅｒｓｉｔｙ，Ｋｕｎｍｉｎｇ ６５００９１，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：Ｂａｓｅｄ ｏｎ ｔｈｅ ＰＣＮＮ （ｐｕｌｓｅ—ｃｏｕｐｌｅｄ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ），ｔ ｈｅ ＣＰＣＮＮ （ｃｏｍｐｅｔ ｉｔｉｖｅ ＰＣＮＮ）ｍｏｄｅｌ ｗａｓ ｐｒｏｐｏｓｅｄ．
Ｆｉｒｓｔ，ｔｈｅ ｐｒｏｐｅｒｔｉｅｓ ｏｆ ｐｕｌｓｅ·ｗ ａｖｅ ｐｒｏｐａｇａｔｉｏｎ ｉｎ ｔｈｅ ＣＰＣＮＮ ｗｅｒｅ ａｎａ ｌｙｚｅｄ ｆｏｒ ｔ ｈ ｅ ｓｏｌｕｔｉｏｎ ｏｆ ｎｅｔｗｏｒｋ ｓｈｏｒｔｅｓｔ ｒｏｕｔｅ． Ｔｈｅｎ ｔｈｅ ｔｈｅｏｒｉｅｓ ｏｆ ｇｅｎｅｒａｔ ｉｏｎ，ｄｅｃｏｍ ｐｏｓｉｎｇ ａｎｄ ｓｔａｔｅｓ ｃｏｎｖｅｒｓｉｏｎ ｏｆ ｐｕｌｓｅ—ｗａｖｅ ｔａｓｋ ｗ ｅｒｅ ｓｕｇｇｅｓｔｅｄ ｔｏ ｒｅａｌ ｉｚｅ ｔ ｈ ｅ
法【４，５】、Ｈｏｐｆ ｉｅｌｄ 神 经 网络『６］、累积 竞争 神经 网络 【 可求得 其近 似最 优解 。
神经网络——五个基本学习算法
五个基本的学习算法：误差—修正学习；基于记忆的学习；Hebb 学习；竞争学习和Boltzmann 学习。
误差修正学习植根于最优滤波。
基于记忆的学习通过明确的记住训练数据来进行。
Hebb 学习和竞争学习都是受了神经生物学上的考虑的启发。
Boltzmann 学习是建立在统计学力学借来的思想基础上。
１． 误差修正学习神经元k 的输出信号)(n y k 表示，)(n d k 表示的是期望响应或目标输出比较。
由此产生)(n e k 表示的误差信号，有)()()(n y n d n e k k k -= 这一目标通过最小化代价函数或性能指标)(n ξ来实现。
定义如下)(21)(2n e n k =ξ 也就是说)(n ξ是误差能量的瞬时值。
这种对神经元k 的突触权值步步逼近的调节将持续下去，直到系统达到稳定状态。
这时，学习过程停止。
根据增量规则，在第n 时间步作用于突触权值的调节量)(n w kj ∆定义如下：)()()(n x n e n w j k kj η=∆ ２． 基于记忆的学习在一个简单而有效的称作最近邻规则的基于记忆的学习类型中，局部邻域被定义为测试向量test X 的直接邻域的训练实例，特别，向量 {}N N X X X X ,,,21'⋅⋅⋅∈被称作test X 的最邻近，如果),(),(min 'test N test i iX X d X X d = 这里，),(test i X X d 是向量i X 和test X 的欧几里德距离。
与最短距离相关的类别，也就是向量'N X 被划分的类别。
３． Hebb 学习我们定义Hebb 突触为这样一个突触，它使用一个依赖时间的、高度局部的和强烈交互的机制来提高突触效率为前突触和后突触活动间的相互关系的一个函数。
可以得出Hebb 突触特征的４个重要机制：时间依赖机制；局部机制；交互机制；关联或相关机制。
４． 竞争学习获胜神经元k 的输出信号k y 被置为１；竞争失败的所有神经元输出信号被置为０。
竞争型径向基过程神经网络时序分类器
ｗ ｉｈ ｎ ｔ ｅ ｏ ｔ ｕ ａ ｅ ｅｅ ｏ ｉ ｅ ｅｇ ｔｉ ｕ ｐ ｔｌｙ ｒｗ ｒ ｍ ｔ ｄ，ａ ｄ ｔ ｅ ｎ ｔ ｏｋ ｓｒ ｃｕ ｅ ａ ｄ ｔ ｉｉ ｇ ｐ ｃ ｓ ｅｅ ｓ ｌ ｅ ．Ｔ ｅ ａｇ ｒ ｈ ｈ ｔ ｎ ｈ ｅｗ ｒ ｔ ｔｒ ｎ ｒ ｎ ｎ ｒ ｅ ｓ ｗ ｒ ｉ ｉ ｄ ｈ ｏ ｔ ｍ ｕ ａ ｏ ｍｐ ｆ ｉ ｌ ｉ
中图分类号 ：３ ７ 文献标志码 ： 文章 编号 ： ０ －０ ３ ２ １ ） ３ ７ １ ４ ０４ Ａ １ ６７４ （ ０ ２ ０ ￣ ４ － ０ ０
Ａ ｉ ｅ ｓ ｒｅ ｌ ｓ ｉ ｅ ｓ ｄ ｏ ｔｍ ｅ ｉ ｓ ｃ ａ ｓｆ ｒ ｂａ ｅ ｎ ａ ｉ
ｃ ｍ ｐ ｔｔｖ ａ ｉ ｌｂ ｓｓ ｐ ｏ ｅ ｓ ｎ ｕ ａ ｅ ｗｏ ｋ ｏ ｅ ｉｉ ｅ ｒ ｄ ａ ａ ｉ ｒ ｃ ｓ ｅ ｒ ｌｎ ｔ ｒ
关键词 ： 时序分类器 ； 竞争型神经 网络 ；径向基 ； 时空聚合运算 ； 过程神经网络
ｄ ｉ１．９ ９ ｊｉ ｎ １０ ７ ０ ．０ １５ ６ ｏ：０ ３ ６／．ｓ ．０ ６— ０ ３ ２ １０ ０６ ｓ
网络 出版 地 址 ：ｔ ：／ ｗｗ ｃ ｋ．ｅ ｋｍｓｄｔｉ２ ．３ ０ Ｕ ２ １０ ２ ．５ ６０ １ｈｍ ｈ ｐ／ ｗ ．ｎ ｉｎｔ ｃ ／ ｅ ｌ ３ １９ ． ．０ ２ ６０ １２ ．０ ． ｔｌ ｔ ／ ａ／
第３ ３卷第 ６期
２１ ０ ２年 ６月
哈
尔
滨
工
程
大
学
学
报
Ｖｏ ． ３ № ． １３ ６
Ｊ ｕ ｎ ｌｏ ｒ ｉ ｇｎ ｅ ｎ ｉｅｓｔ ｏ ｒ ａ ｆＨａｂｎ Ｅｎ ｉｅ ｒ ｇＵｎｖ ｒｉ ｉ ｙ
神经元竞争机制与神经系统发育
神经元竞争机制与神经系统发育神经系统是人体最为复杂的系统之一，它通过神经元之间的相互作用传递信息，调节体内各种生理过程，从而协调机体各部分的功能。
每个人的神经系统都是在与环境相互作用中逐渐发育成熟的，而神经元之间的竞争机制则是神经系统发育的一个重要方面。
神经元竞争机制指的是神经元之间为了在成为突触的竞争中取得胜利，展开的一种竞争过程。
在这个过程中，神经元会通过不断的突触增生和减少，以及突触强度的调节，来调整其对于特定突触的连接强度，从而在神经元网络中稳固地占据一席之地。
神经元竞争机制的基础可以追溯到神经系统发育的早期。
在胚胎期，神经元开始对它们的突触目标区域进行探索，通过薄层电镜等技术，研究人员发现，神经元会在寻找其突触目标区域时，会和其它神经元的轴突重叠，形成“超级交叉”，而在接下来的成长过程中，神经元会利用突触调节机制选出有效的连接，而不断调整对于无效连接的抑制力度。
神经元的竞争机制在神经系统的发育中扮演着至关重要的角色。
首先，这种竞争机制能够确保神经元网络的稳定性。
在不断的竞争中，神经元最终都会与它们有效的突触目标区域建立稳固的连接，从而保证了神经元网络的正确性和稳定性。
此外，神经元竞争机制还能够对于神经元的发育和成熟起到促进作用。
在竞争过程中，神经元要不断地对于自己的突触和其它神经元的连接进行调整，这也意味着神经元必须不断探索和适应新的环境，这样才能够更好地适应复杂的神经系统环境。
但是，神经元竞争机制也会带来一些负面的影响。
例如，如果神经元在不断的突触竞争中失败，它们就有可能在神经系统中丧失其地位，导致神经元网络的不平衡和不稳定。
总之，神经元竞争机制是神经系统发育过程中一个非常重要的机制。
在这个过程中，神经元必须经过不断的竞争和调整，从而才能够在复杂的神经网络中稳固地占据一席之地。
研究这种竞争机制的原理和机制不仅可以为神经系统发育提供深刻的认识，也有可能为神经系统相关疾病的治疗和预防提供新的思路和途径。
kohonen神经网络
5
kohonen概念与原理
竞争层
输入层
kohonen神经网络的典型结构
6
竞争学习的概念 分类——分类是在类别知识等导师信号的指 导下，将待识别的输入模式分配到各自的模
式类中去。
聚类——无导师指导的分类称为聚类，聚类 的目的是将相似的模式样本划归一类，而将 不相似的分离开。
7
相似性度量＿欧式距离法
类1 T (a)基于欧式距离的相似性测量 类2
8
• 相似性测量＿余弦法 两个模式向量越接近，其夹角越小， 余弦越大。当两个模式向量完全相同 时，其余弦夹角为 1。如果对同一类 类1 类2 内各个模式向量间的夹角作出规定， 不允许超过某一最大夹角 a ，则最大 夹角就成为一种聚类判据。同类模式 T 向量的夹角小于a，两类模式向量的 (a) 基于欧式距离的相似性测量 夹角大于 a。余弦法适合模式向量长 度相同和模式特征只与向量方向相关 的相似性测量。
两个模式向量的欧式距离越小，两个 向量越接近，因此认为这两个模式越 相似，当两个模式完全相同时其欧式 距离为零。如果对同一类内各个模式 向量间的欧式距离作出规定，不允许 超过某一最大值T，则最大欧式距离T 就成为一种聚类判据，同类模式向量 的距离小于T，两类模式向量的距离大 于T。
X X i ( X X i )T ( X X i )
刘娇
陈爽
kohonen神经网 络
竞争学习
kohonen神经网 络背景
kohonen神经网 络概念与原理
kohonen神经网 络应用
2
背景
在生物神经系统中，存在着一种侧抑制现象，即 一个神经细胞兴奋以后，会对周围其他神经细胞 产生抑制作用。这种抑制作用会使神经细胞之间 出现竞争，其结果是某些获胜，而另一些则失败。 表现形式是获胜神经细胞兴奋，失败神经细胞抑 制。 kohonen神经网络就是模拟上述生物神经系统功 能的人工神经网络。
神经网络基本知识
神经网络基本知识、BP神经网络一．概述1.1神经网络的定义人工神经网络(Artificial Neural Networks，简写为 ANNs)是由大量类似于生物神经元的处理单元相互连接而成的非线性复杂网络系统。
它是用一定的简单的数学模型来对生物神经网络结构进行描述，并在一定的算法指导下，使其能够在某种程度上模拟生物神经网络所具有的智能行为，解决传统算法所不能胜任的智能信息处理的问题。
它是巨量信息并行处理和大规模并行计算的基础，神经网络既是高度非线性动力学系统，又是自组织自适应系统，可用来描述认知、决策和控制的智能行为。
1.2 神经网络的发展历史对人工神经网络的研究始于 1943 年，经历 60 多年的发展，目前已经在许多工程研究领域得到了广泛应用。
但它并不是从一开始就倍受关注，它的发展道路曲折、几经兴衰，大致可以分为以下五个阶段：①奠基阶段：1943 年，由心理学家 McCulloch 和数学家 Pitts 合作，提出第一个神经计算模型，简称 M-P 模型，开创了神经网络研究这一革命性的思想。
②第一次高潮阶段：20 世纪 50 年代末 60 年代初，该阶段基本上确立了从系统的角度研究人工神经网络。
1957 年 Rosenblatt 提出的感知器(Perceptron)模型，可以通过监督学习建立模式判别能力。
③坚持阶段：随着神经网络研究的深入开展，人们遇到了来自认识、应用实现等方面的难题，一时难以解决。
神经网络的工作方式与当时占主要地位的、以数学离散符号推理为基本特征的人工智能大相径庭，但是更主要的原因是：当时的微电子技术无法为神经网络的研究提供有效的技术保证，使得在其后十几年内人们对神经网络的研究进入了一个低潮阶段。
④第二次高潮阶段：20 世纪 70 年代后期，由于神经网络研究者的突出成果，并且传统的人工智能理论和 Von.Neumann 型计算机在许多智能信息处理问题上遇到了挫折，而科学技术的发展又为人工神经网络的物质实现提供了基础，促使神经网络的研究进入了一个新的高潮阶段。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
这样，当经过越来越多的训练样本学习后，每一个网
络层中的神经元的权值向量很快被调整为最接近某一类输
入向量的值。最终的结果是，如果神经元的数量足够多， 则具有相似输入向量的各类模式作为输入向量时，其对应
的神经元输出为 1；而对于其它模式的输入向量，其对应
的神经元输出为 0。所以，竞争型网络具有对输入向量进 行学习分类的能力。
在 MATLAB 工具箱中，创建竞争型神经网络的函数是 newc。
采用newc创建竞争型神经网络，其权值的初始化函数 为midpoint，阈值的初始化函数为initcon。
竞争型神经网络的学习
竞争型神经网络按 Kohonen 学习规则对获胜神经元的权
（1）Kohonen权值学习规则
值进行调整。假若第i个神经元获胜，则输入权值向量的第i
解：图中的两类模式单单从它 们在二维平面上的位置特征看，没 1 有明显的分类特征，所以以竞争型 神经网络进行分类，其模式输入向 0 -1 1 p 量仅仅靠二维平面上的位置信息是 -1 不够的。但两类模式的形状特征不 一样，于是在输入向量中可增加一 CNN训练：Example71Tr 维表示形状的特征值，我们假设三 角形的特征值为 0 ，而矩形的特征 CNN仿真 ：Example71Sim 值为 1 ，于是，一个训练样本的输 入向量是三维的。
行元素（即获胜神经元的各连接权）按下式进行调整：
i
IW(k ) i IW(k 1) p(k ) i IW(k 1)
而其它神经元的权值不变。 Kohonen学习规则通过输入向量进行神经元权值的调整， 因此在模式识别的应用中是很有用的。通过学习，那些最 靠近输入向量的神经元权值向量被修正，使之更靠近，其 结果是获胜的神经元在下一次相似的输入向量出现时，获 胜的可能性会更大；而对于那些相差很远的输入向量，获 胜的可能性将变得很小。
n1为竞争层传输函数的输入，其值为输入向量p和输入 权值向量IW距离的负数与阈值 b1 之和。如果所有的阈值向 量为0，则当输入向量 p和输入权值向量 IW相等时， n1 为最 大值0。 对于n1中最大的元素，竞争层传输函数输出1（即竞争的 “获胜者”输出为 1），而其它元素均输出 0 。如果所有的 阈值向量为0，则当神经元的权值向量最接近输入向量时， 它在n1各元素中的负值最小，而值最大，从而赢得竞争，对 应的输出为1。
进行阈值修正时，神经元输出向量的平均值越大，
其“良心”值越大，所以凭“良心”获得的阈值就小，而 让那些不经常获胜的神经元的阈值逐渐变大。其算法如下： c (k)= (1-lr)*c(k-1) + lr*a(k-1)
b (k)= exp(1-log(c (k))) – b (k-1)
式中，c 为“良心”值；a为神经元输出的平均值；lr为学习率。
p2
1
例7.2 以竞争型神经网络完成图示三类模式的分类。
y 第1类 1 模式 第2类 1 模式 x
，
0.1961 p1 0 . 9806
0.1961 p2 0 . 9806
，
-1 第3类 模式
0 -1
0.9806 p3 0.1961 ，
在 MATLAB 工具箱中，learncon 函数用于进行阈值的修正。
竞争型神经网络存在的问题
对于模式样本本身具有较明显的分类特征，竞争型神 经网络可以对其进行正确的分类，网络对同一类或相似 的输入模式具有较稳定的输出响应。但也存在一些问题： （1）当学习模式样本本身杂乱无章，没有明显的分类 特征时，网络对输入模式的响应呈现振荡的现象，即对 同一类输入模式的响应可能激活不同的输出神经元，从 而不能实现正确的分类。当各类模式的特征相近时，也 会出现同样的状况。 （2）在权值和阈值的调整过程中，学习率的选择在学 习速率和稳定性之间存在矛盾，而不象前面我们介绍的 其它学习算法，可以在刚开始时采用较大的学习率，而 在权值和阈值趋于稳定时，采用较小的学习率。而竞争 型神经网络当增加新的学习样本时，权值和阈值可能需 要比前一次更大的调整。
竞争型神经网络的MATLAB仿真程序设计
竞争型神经网络适于具有明显分类特征的模式分类。其 MATLAB仿真程序设计，主要包括： （1）创建竞争型神经网络。首先根据给定的问题确定训 练样本的输入向量，当不足以区分各类模式时，应想办法增 加特征值；其次，根据模式分类数，确定神经元的数目。
（2）训练网络。训练最大次数的默认值为 100，当训练 结果不能满足分类的要求时，尝试增加训练的最大次数。 （3）以测试样本进行仿真。 例7.1 以竞争型神经网络完成图示两类模式的分类。
在 MATLAB 工具箱中，learnk 函数用于实现 Kohonen 学习规则。
（2）阈值学习规则
竞争型神经网络的一个局限性是，某些神经元可能 永远也派不上用场，换句话说，某些神经元的权值向量从 一开始就远离所有的输入向量，从而使得该神经元不管进 行多长的训练，也永远不会赢得竞争。这些神经元称之为 “死神经元”，实现不了任何有用的函数。 为了避免这一现象的发生，对那些很少获胜（甚至 从来不曾获胜）的神经元赋以较大的阈值，而对那些经常 获胜的神经元赋以较小的阈值。正的阈值与距离的负值相 加，使很少获胜的神经元竞争层传输函数的输入就象获胜 的神经元一样。这一过程就象人们“同情”弱者一样，表 现出一个人的“良心”。 这一过程的实现，需要用到神经元输出向量的平均 值，它等价于每个神经元输出为1的百分比，显然，经常获 胜的神经元，其输出为1的百分比大。
7 竞争型神经网络
Competitive Neural Network
竞争型神经网络是基于无监督学习（Unsupervised learning）方 法的神经网络的一种重要类型，它经常作为基本的网络形式，构成 其它一些具有自组织能力的网络，如自组织映射网络、自适应共振 理论网络、学习向量量化网络等。 生物神经网络存在一种侧抑制的现象，即一个神经细胞兴奋后， 通过它的分支会对周围其他神经细脑产生抑制，这种抑制使神经细 胞之间出现竞争：在开始阶段，各神经元对相同的输入具有相同的 响应机会，但产生的兴奋程度不同，其中兴奋最强的一个神经细胞 对周围神经细胞的抑制作用也最强，从而使其它神经元的兴奋得到 最大程度的抑制，而兴奋最强的神经细胞却“战胜”了其它神经元 的抑制作用脱颖而出，成为竞争的胜利者，并因为获胜其兴奋的程 度得到进一步加强，正所谓“成者为王，败者为寇”。
竞争型神经网络在学习算法上，它模拟了生物神经网络中神 经元之间的兴奋、抑制与竞争的机制，进行网络的学习与训练。
竞争型神经网络模型
输入向量 竞争层
1 IW S R
p R1
1 ||ndist||
S 1
1
a1 n1 S11
C
S1
S11 1
1 R
b1
S11
可以看出竞争型神经网络为单层网络。||ndist|| 的输入为输入向 量p和输入权值向量IW，其输出为S11的列向量，列向量中的每个 元素为输入向量 p 和输入权值向量 IW 距离的负数（ negative ），在 神经网络工具箱中以距离函数negdist进行计算。
0.5812 p5 0 . 8137
0.9806 p4 0 . 1961
0.8137 p6 0 . 5812
，
CNple72Sim
（3）网络的分类性能与权值和阈值的初始值、学习率、 训练样本的顺序、训练时间的长短（训练次数）等都有 关系，而又没有有效的方法对各种因素的影响加以评判。 （ 4 ）在 MATLAB 神经网络工具箱中，以 trainr 函数进行 竞争型神经网络的训练，用户只能限定训练的最长时间 或训练的最大次数，以此终止训练，但终止训练时网络 的分类性能究竟如何，没有明确的指标进行评判。
结果那些不经常产生响应的神经元的阈值相对于那些
经常产生响应的神经元，其阈值不断增大，使其产生响应的 输入空间也逐渐增大，即对更多的输入向量产生响应，最终，
各神经元对输入向量产生响应的数目大致相等。
这样做有两点好处： 其一，如果某个神经元因为远离所有的输入向量而始 终不能在竞争中获胜时，其阈值将会变得越来越大，使其终 究可以获胜。当这一情况出现后，它将逐渐向输入向量的某 一类聚集，一旦神经元的权值靠近输入向量的某一类模式， 该神经元将经常获胜，其阈值将逐渐减小到 0，这样就解决 了“死神经元”的问题。 其二，它强迫每个神经元对输入向量的分类的百分比大 致相同，所以，如果输入空间的某个区域比另外一个区域聚 集了更多的输入向量，那么输入向量密度大的区域将吸引更 多的神经元，从而获得更细的分类。