随机神经网络发展现状综述

的 GNN 随机神经网络结构图, 图中只画出第 i 个神 经元在 t 时刻接受和发出信号的情形 . 网络中其他 节点的状态和此点类似 . 图中用虚线省略 .
图 1 第 i 个 随机神经元被作用的结构 Fig. 1 Structure of the i _th acted neuron. s in RNN
Survey of current progress in random neural n etwork
CONG Shuang, WANG Yi_wen
( Department of Automation, University of Science & Technology of China, Hefei Anhui 230027, China)
n j=1
+
w+ ( i , j ) - w- ( i , j ) qj
r ( j) + K (j )
,
( u, v) = w ( u, v) - G#
n
old
5E , 5 w( u, v)
1 2 E1 a i ( qi - yik ) ( qi 为网络输 2 i= 出 , a i \ 0) 为最小. 这种算法每一步计算的复杂度 使得性能函数 E k = 为 O( n 2) , 小于梯度迭代法计算的复杂度 O( n 3 ) . 31 2 随 机神 经 网络 强 化 学习 算 法 ( Reinforcement learning algorithm of RNN) 3. 2. 1 R 规则( R_rule) 1996 年 , Halici 提出了随机神经网 络强化学习 算法的概念[ 7] . 1997 年 Halici 又提出了基于/ 奖励0 和基于 / 奖惩 0 两种 RNN 模 型的线 性权 值更 新规
E(
P+ ij
+
P-ij )
w ij
+ d( i ) = 1, 1 [ i [ n.
r iP ij ,
若令 = = 用来表示节点发射正、 负信号的速率, 它们与一般神经网络模型中的连接 权值相似, 并且是非负的. 从网络外部到达 神经元 i 的正、 负 信号 的 强度 分 别服 从 参 数为 +i , K i 的 Poisson 过程 . 根据以上的描述, 可以画出如图 1 所示
1
随机神经网络的发展 ( Progress in random neural network)
按照神经生理学的观点 , 生物神经元本质上是
经网络 (GNN) . GNN 的重要意义在于: 仿照实际的生物神经网 络接收信号流激活而传导刺激的生理机制而定义网 络 . 对于实际的生物细胞来说, 它们发射信号与否与 自身 存 在 的 电 势 有 关. 历 史 上 , 曾 经 有 著 名 的 Hodgkin_Huxley 方程 [2] 描 述过这 一行为 , 但没 有一 个独立的数学模型能够准确的描述神经元发射信号 这一特征. Gelenbe 的 RNN 模型填补了这个空白 . 1991 年 Gelenbe 等人 提出了一种前向型二值 随机神经网络( Bipolar random neural network, BRNN) 模型 . BRNN 是由一对互补的 标准的 GNN 构成, 这 对互补的 GNN 神经元节点的作用刚好相反: 正神经 元的运行机制同 GNN 初始定义相同 , 负神经元的运 行机制与 GNN 初始定义对 称 相 反 . 当 负 信 号
第 21 卷第 6 期 2004 年 12 月
文章编号 : 1000- 8152(2004) 06- 0975- 06
控制理论与应用
Control Theory &Applicat ions
Vo1. 21 No. 6 Dec. 2004
随机神经网络发展现状综述
丛 爽, 王怡雯
( 中国科学技术大学 自动化系 , 安徽 合肥 230027)
GNN 是一种具有 n 个神经元的开放随机网络 .
法[ 6] . 其主要目的是为了得到一个适当的权值矩阵, 使得输入为一 对兴奋和抑制的信号流 速率的矢量 时 , 网络输出为期望值 , 或者其与期望值的二次方差 最小 . 即对于 Q 组输入输出对 ( P , Y) , ( P k = ( +k , K k ) , k = 1, 2, , ; Q 为 n 对兴奋和抑制的信号流速率 构成的矢量; yk 为 n 个网络节点的期望输出构成的 矢量) , 网络在训练过程中调整 n @ n 的权值矩阵规 则为 w= 规则为 e
摘要 : 随机神经网络 ( RNN) 在人工神经网络中是一类比较 独特、 出现较晚的 神经网络 , 它的网 络结构、 学习 算 法、 状态更新规则以及应用等方面都因此具有自身 的特点 . 作为 仿生神 经元数 学模型 , 随机 神经网 络在联 想记忆、 图像 处理、 组合优化问题上都显示出较强的优势 . 在阐述 随机神 经网络 发展现 状、 网 络特性 以及广 泛应用 的同时 , 专门将 RNN 分别与 Hopfield 网络、 模拟退火算 法和 Boltzmann 机在 组合 优化问 题上 的应用 进行 了分析 对比 , 指 出 RNN 是解决旅行商 ( TSP) 等 问题的有效途径 . 关键词 : 随机神经网络 ( RNN) ; Hopfield 网络 ; 模拟退火算法 ; Boltzmann 机 ; 组合优化问题 中图分类号 : TP183 文献标识码 : A
R+ m ( a m ) 随着迭代步数的增加而日趋复杂并且这种 算法不是各态遍历的 , 另外网络的收敛和初始的条 件有关 .
+
j = k; P m ( i , j )- G R+m ( k) P m( i , j ) , j X k, j = 1, , , N i . 这里 , m 表示尝试的次数. k 表示在第 m 次尝试时到 达的某个节点. R+ m( a m ) 是从外界获得的强化, 即奖
+ w ij
+ r iP ij ,
第 6期
丛爽等 : 随机神经网络发展现状综述
977
则[8] . / 奖励0 线性权值更新规则又称 R 规则 , 即 P m+ 1 ( i , j ) =
+ P Hale Waihona Puke Baidu ( i , k)+ G R+ m ( k) ( 1- P m ( i , k) ) ,
+ 励. G 为奖励的学习速率 . 这个算法的缺点是, 强化
Abstra ct: Random neural network ( RNN) is a special kind of artificial neural network, which is developed recently and has its own peculiarities on the structure, the learning algorithm, the state_updating rule and the applications. As a biological neu2 ral mathematical model, RNN has particular advantages of associative memory, image processing and combinatorial optimization. The current progress, the characteristics and the broad applications are elaborated in this paper. The applications on the combina2 torial optimization problems solved by different networks such as Hopfield network, simulated annealing algorithm, Boltzmann machine and RNN are analyzed and contrasted. RNN is pointed out to be an effective approach to travelling saleman problem ( TSP) . Key wor ds: random neural network( RNN) ; Hopfield network; simulated annealing algorithm; Boltzmann machine; com2 binatorial optimization
new
在这个网络中, 神经元 i ( i = 1, 2, , , n) 的状态由 其在 t 时刻的兴奋水平 ki ( t ) I Z 来表示, 它是一个 非负整数, 称之为/ 势0 . GNN 中的正信号 ( + 1) 表示 兴奋, 负信号( - 1) 表示抑制. 当正信号到达第 i 个 节点, 该神经元的势加 1, 负信号到达使之减 1( 到 0 时不再减 ) . 同时 , 如果一个神经元的势是正值 , 它将 不断地释放信号, 释放信号的时间间隔服从均值为 1/ r i ( r i > 0) 的指数分布, 并同时使自己的势减 1. 若神经元释放一个信号, 它作为正、 负信号被传 递到神经元 j 的概率分别为 P + 和 P , 这个信号也可 ij ij 能离开网络 , 此概率为 d( i ) . 神经元通过彼此发送 和接受正或负信号来完成信息交换, 而不自身传递 信号 , 所以有 P +ii = P jj = 0( 1 [ i , j [ n) . 而信号在 传递过程中存在损耗 , 即 d( i ) > 0, 显然 ,
3
31 1
RNN 的 学习 算法 ( Learning algorithm of RNN)
随机神 经网 络标 准学 习 算法 ( Learning algo2 rithm of GNN) 1993 年 Gelenbe 提出了随机神经网络的学习算
2
GNN 模 型 描 述 ( Description of Gelenbe RNN)
收稿日期 : 2003- 05- 07; 收修改稿日期 : 2003- 11- 19. 基金项目 : 安徽省自然科学基金项目 ( 03042301) .
976
控
制
理
论
与
应
用
第 21 卷
到来时, 可以增加这个神经元的势 , 正信号到来时则 抵消负信号的作用. 已被证明 BRNN 可以作为连续 函数的广义函数逼近器. 1994 年, Gelenbe 等人[4] 又提出动态随机神经网 络( Dynamical neural network, DRNN ) , 它是 建 立 在 GNN 基础上 , 通过设定初始值以及增加一个 Cohen_ Grossberg 型的动态方程作为负反馈回路来提 高网 络性能解决 问题的 . DRNN 和 GNN 的主 要区别 在 于: GNN 外界信号的输入在初始化以后就保持恒定 不变, 是一个开环系 统, 而 DRNN 是一个闭环 负反 馈系统 . DRNN 已被成功的应用于解最优化的标志 性问题 ) ) ) 旅行商问题( TSP) 上. 1999 年, Gelenbe 等人[5] 再次提出多类别随机神 经 网 络 ( Multiple class random neural networks, MCRNNs) . 这个网络是 GNN 网络模型的一种合成 , 是为了建立一个神经网络的数学构架来同时处理不 同种类的信息. 不同的信号代表复合网络中的不同 类别 , 可以表示声音处理网络中的不同频率, 图像处 理网络中的不同颜色, 或者多传感器信号中不同传 感器的信号输入 .
[3]
随机的. 因为神经网络重复地接受相同的刺激 , 其响 应并不相同 , 这意味着随机性在生物神经网络中起 着重要 的作用 . 随 机神经 网络 ( Random neural net2 work, RNN) 正是仿照生物神经网络的这种机理进行 设计和应用的. 人们所说的随机神经网络一般有两 种: 一种是采用随机性神经元激活函数 ; 另一种是采 用随机型加权连接 , 即是在普通人工神经网络中加 入适当的随机噪声 , 例如在 Hopfield 网络中 加入逐 渐减少的白噪声 . 第一种主要是指由美国佛罗里达 大学 (UCF) 教授 Erol Gelenbe 于 1989 年提出的一种 随机神经网络 [1] , 也是人们 公认的 Gelenbe 随 机神