Hopfield神经网络在TSP问题中的应用

n 。
图 2.1
Hopfield 网络结构图
对于离散型 Hopfield 网络， 各节点一般选取同样的转移函数， 且为符号函数， 即：
f1 ( x ) f 2 ( x ) … f n ( x ) sgn( x )
(式 2.1)
为了分析方便，选取各节点的门限值(即阈值)全部为 0，即：
vi (t 1) vi (t ) i (1, 2, …,n), i j
（式 2.7）
若以某种确定性次序来选择 N， ，使其按照(2.6)变化，称顺序更新；若按照 预先设定的概率来选择神经元 N j ， ，则称其为随机更新。
·并行方式 在任一时刻 t，部分单元按(2.4)改变状态，其中有一种重要的特殊情况是在 某时刻，所有神经元同时按照(2.4)改变状态，即：
1 = 2 =…= n =0
(式 2.2)
同时，x ( x1 , x2 , …, x n )，x {1, 1} n 为网络的输入；y ( y1 y2 , …, y n )，y {1, 1} n 为网络的输出；v(t ) (v1 (t ), v2 (t ), …, v n (t ))，v(t ) {1, 1} n 为网络在 t 时刻的状态， 其中 t （0,1,2…）为离散时间变量； wij 为从 N i 到 N j 的连接权值，Hopfield 神 经网络是对称的，即有
n v j (t 1) sgn wij v j (t ) i 1 j {1, 2, …,n}
（式 2.8）
这时，可把状态转移方程写成向量形式：
v(t 1) sgn(v(t ) w)
（式 2.9）
2.2 连续型 Hopfield 神经网络 这种网络的每个神经元的输入与输出关系为连续可微的单调递增函数， 它的 每个神经元的输入是一个随时间变化的状态变量， 它与外界输入和其他神经元来 的信号有直接关系， 同时也与其它神经元同它之间的连接权有关系，状态变量宜 接影响输入变量，使系统变成一个随时间变化的动态系统。 连续型 Hopfield 神经网络在网络的结构上与离散型相同， 其状态方程在形式 上也一样。若定义网络中第 j 个神经元 N j 的总输入为 u j ，输出状态为 v j ，那么 网络的状态转移方程可写为：
Hopfield 神经网络在 TSP 问题中的应用
摘要 ：首先介绍了人工神经网络，并给出了一种神经元数学模型。对其中的 Hopfield 神经网络模型进行了描述，分别对离散型和连续型的工作原理作了详细 介绍。结合 Hopfield 算法在求解 TSP 问题中的应用，总结出 Hopfield 神经网络 应用于 TSP 优化问题的步骤。最后通过编程对 TSP 问题求解，得出了准确结果。 关键词：人工神经网络；Hopfield 神经网络；能量函数；TSP 中图分类号：TP301.6
wij w ji ， i, j (1, 2,3, …,n)
(式 2.3)
整个网络所有 n 个节点之间的连接强度用矩阵 W 表示，显然 W 为 n×n 方 阵。 由图 2.1 可见 Hopfield 网络为一层结构的反馈网络，能处理双极型离散数据 （即输入 x∈{-l，+1})，及二进制数据(x∈{0，1})。当网络经过训练后，可以认 为网络处于等待工作状态， 而对网络给定初始输入 x 时，网络就处于特定的初始 状态，由此初始状态开始运行，可以得到网络输出即网络的下一状态。然后，这 个输出状态通过反馈回送到网络的输入端，作为网络下一阶段运行的输入信号， 而这个信号可能与初始信号 x 不同，由这个新的输入又可得到下一步的输出，这 个输出也可能与上一步输出不同。如此下去，网络的整个运行过程就是上述反馈 过程的重复。如果网络是稳定的，那么，随着许多次反馈运行，网络状态的变化 减少，直到后来不再变化，达到稳定状态，此时，在网络的输出端可得到稳定的 输出，可用以下公式表示为：
v j (0) x j n v j (t 1) f j wij vf j 是由(2.1)定义，为方便，一般 j 值取 0。从某个时刻 t 之后网络状态 不再变迁，既有 v(t 1) v(t ) ，那么，输出有
息传递有正负两种连接。正连接相互激发，负连接相互抑制。各个神经元之间的 连接强度和极性可以有所不同， 并且都可以进行调整，因此人脑才可以有存储信 息的功能。神经元的数学模型有很多，下面给出了一个简化的神经元数学模型， 如图1.1所示。
wi1 wi 2
win
图1.1
神经元的结构型
其中 x1 , x2 ,... xn 为输入信息， ui 为神经元内部状态， i 为阈值， wij 为 ui 到 u j 连接的权值， si 表示外部输入信号，(在某些情况下，它可以控制神经元 ui ，使 可以保持在某一状态)， f () 为激发函数， yi 为输出，上述模型的数学形式可以 描述为：

d i i wij x j (t ) i dt j yi (t ) f ( i (t ))
(式1.5) (式1.6)
此时神经元的状态与输入成比例，而且向某一个初态衰减。
2 HopField 神经网络
Hopfield 网络是一种互连型网络的一种，它引入类似于 Lyapunov 函数的能 量函数概念， 把神经网络的拓扑结构(用连接权矩阵表示)与所求问题(用目标函数 描述)相对应，并将其转换为神经网动力学系统的演化问题。其演变过程是一个 非线性动力学系统， 可以用一组非线性差分议程描述(离散型)或微分方程(连续型) 来描述。系统的稳定性可用所谓的“能量函数”进行分析。在满足条件的情况下， 某种“能量函数 ”的能量在网络运行过程中不断地减少，最后趋于稳定的平衡状 态。 因为人工神经网络的变换函数是一个有界函数， 故系统的状态不会发生发散 现象。目前，人工神经网络经常利用渐进稳定点来解决某些问题。如果把系统的 稳定点视为一个记忆的话， 那么从初态朝这个稳定点的演变过程就是一个寻找记 忆的过程。 如果把系统的稳定点视为一个能量函数的极小点，而把能量函数视为 一个优化问题的目标函数， 那么从初态朝这个稳定点的演变过程就是一个求解该 优化问题的过程。因此，Hopfield 神经网络的演变过程是一个计算联想记忆或求 解优化问题的过程。实际上，它的解决并不需要真的去计算，而是通过构成反馈 神经网络，适当地设计其连接权和输入就可以达到这个目的。 2.1 离散型 HopField 神经网络 Hopfield 最早提出的网络是二值神经网络， 神经元的输出只取 1 和 0 两个值， 也称为离散 Hopfield 网络。 在离散 Hopfield 网络中， 采用的神经元是二值神经元， 输出的离散值 1 和 0 分别表示神经元处于激活和抑制状态。 离散 Hopfield 神经网络是离散时间系统， 它可以用一个加权无向图表示， 图
respectively.From Analysis of the Hopfield algorithm for TSP Applications,we summed up the Hopfield neural network applied to TSP optimization steps. Finally, through the program to solve the TSP problem ,we draw the accurate result. Keywords：Artificial Neural Networks；Hopfield neural network；Energy function； TSP
Hopfield neural network in the application of TSP Problem
Abstract ： First this paper introduced the artificial neural network, and presents a mathematical model of neurons. Then describe the Hopfield neural network model, and introduce the discrete and continuous Working principle in detail
1 人工神经网络
“神经网络”或“人工神经网络”是指用大量的简单计算单元(即神经元)构 成的非线性系统， 它在一定程度和层次上模仿了人脑神经系统的信息处理、存储 及检索功能，因而具有学习、记忆和计算等智能处理功能。神经网络具有一些显 著的特点：具有非线性映射能力；不需要精确的数学模型；擅长从输入输出数据 中学习有用知识；容易实现并行计算；由于神经网络由大量简单计算单元组成， 因而易于用软硬件实现； 等等。正因为神经网络是一种模仿生物神经系统构成的 新的信息处理模型， 并具有独特的结构，所以人们期望它能解决一些用传统方法 难以解决的问题。 人的大脑是由大量神经细胞或神经元组成的。 每个神经元可以看作为一个小 的处理单元， 这些神经元按照某种方式相互连接起来，构成大脑内部的生理神经 元网络系统， 他们中各个神经元之间连接的强弱不是固定不变的，而是按照外部 的信号激励程度做自适应的变化， 而每个神经元又随着接收到的多个激励信号的 综合大小呈现兴奋或抑制状态。 大脑的学习过程就是神经元之间连接强度随外部 激励信号做自适应变化的过程。 大脑处理信息的结果由神经元状态表现出来。由 此见，神经元是信息处理的最小单位。神经元虽然类型很多，但其基本结构是相 似的。神经元，也就是神经细胞，由细胞体、树突、轴突和突触组成。从细胞体 上伸出许多树突和一条长的轴突， 树突和轴突分别负责传入和传出兴奋或抑制信 号到细胞体。神经元的树突短而且分支很多，是信号的输入端；轴突较长，是信 号的输出端，其未端化为许多细小的分支，称为神经术梢。一个神经元通过轴突 与其它细胞的树突相连。 神经术梢与树突接触的界面称为突触，它是一个神经元 与另一个神经元联系的特殊结构部位，突触包括突触前(成分)、突触间隙和突触 后(成分)三个部分。突触前(成分)是第一个神经元的轴突术梢部分，而突出后(成 分)是第二个神经元的受体表面。 突触前(成分)通过化学接触或电接触，将信号传 往突触后(成分)的受体表面， 实现神经元之间的信息传输。 树突和轴突一一对接， 从而靠突触把众多的神经元连接成一个神经元网络。 神经元群或者神经网络系统对外界有兴奋或抑制两种反应， 兴奋指的是由相 对静止变为相对活动， 而抑制则是指由相对活动变为相对静止。神经元之间的信