Kosko型双向联想记忆与Hopfield神经网络的关系
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Ｈｏ ｉｌ ｅ ｗｏ ｋ． Ｔｈｅ ｅ ｈｅ ｒ ｌ ｔｏ ｆ ｔ ｍ ｓ ｅ ｐｏ ｅ ｐｆｅ ｄ ｎ ｔ ｒ ｒ ｂｙ ｔ ｅａ ｉ ｎ ｏ ｈｅ ｉ ｘ ｓ ｄ． Ｋｅ ｗｏ ｄ Ｈｏｐ ｉｌ ｒ ｉｉ ｉｌｎｅ ａ ｔ ｒ ｙ ｒ ｓ： ｆｅｄ ａ ｔｆｃ ａ ｕｒ ｌｎｅ ｗｏ ｋｓ；ｂｉ ｉｅ ｔｏ ｌａ ｓ ｃａ ｉ ｅ ｍ ｅ ｏ ｉ ｓ ｎｅ ｇ ｕ ｔｏ ｄ ｒ ｅ ｉ ｎａ ｓ ｏ ｉｔｖ ｍ ｒｅ ；ｅ ｒ ｙ ｆ ｎｃ ｉ ｎ
第３ ３卷
第 ２期
电气 电子 教 学 学 报 Ｊ ＯＵＲＮＡＬ ＯＦ ＥＥ Ｅ
Ｖ０ ． ３ ＮＯ ２ １３ ．
ＡＤ ． Ｏ ｌ ｒ ２ １
２１ ０ １年 ４月
Ｋｏｋ ｓ ｏ型 双 向联 想 记 忆 与 Ｈｏ ｆ ｌ 经 网 络 的 关 系 ｐ ｉ ｄ神 ｅ
张 建 国 ， 勤 业 殷
０ 引 言
“ 经 网络 ” 一 门重 要 的研 究生 课 程 ， 分 高 神 是 部 校也 为高Байду номын сангаас 级本科 生 开设 。Ｈｏ ｆ ｌ ｐｉ ｄ神经 网络 Ｌ 是 ｅ １ ］
一
的介 绍方 法 ， 即直接 给 出 Ｂ ＡＭ 网络 能 量 函数 的 定
义 ， 不 展 开 论 述 这 样 定 义 的 理 由 是 什 么 ， 通 过 构 而 且 造 一 个 大 的 零 块 对 角 阵 （ 分 块 矩 阵 对 角 线 上 的 方 即
关 键 词 ： ｐｉ ｄ神经 网络 ； 向联 想 记 忆 ； 量 函 数 Ｈｏ ｆ ｌ ｅ 双 能 中图 分 类 号 ： １ ３ ＴＰ ８ 文献标识码 ： Ａ 文章 编号 ：０ ８０ ８ （０ １ ０—０ ８０ １０ —６ ６ ２ １ ） ２０ ９ —４
Ｒｅ ａ ｉ ｎ ｂ ｔ ｅ ｌ ｔｏ ｅ ｗｅ ｎ Ｋｏ ｋ ｄｉ ｅ ｔｏ ａ ｓ ｃ ａ ｉ ｅ Ｍ ｅ ｏ ｉ ｓ ａ ｄ Ｈｏ ｉ ｌ ｔ ｒ ｓ ｓ ｏ Ｂｉ ｒ ｃ ｉ ｎ ｌＡｓ ｏ ｉ ｔｖ ｍ ｒ ｅ ｎ ｐｆｅ ｄ Ｎｅ ｗｏ ｋ
ｎｅ ｗｏ ｋｓ ｔ ｒ ．Ｗ ｈｅ ｉ Ｓ ｉ ｒ ｄｕ ｅ ｗｉｈ ｔ ｒ ｄ ｔｏｎ ｌ ｅ ｃ ｉ ｉ ｎ， ｓ ｕ ｅ ｓ ｓ ａ ｌ ｖ ｗｏ ｕ ｓ ｉ ｓ， ｎ ｔ ｎｔ ｏ ｃ ｄ ｉ ｔ ｈｅ ｔ ａ ｉｉ ａ ｄ ｓ ｒｐｔｏ ｔ ｄ ｎｔ ｕ ｕ ｌｙ ｈａ ｅ ｔ ｑ ｅ ｔｏｎ
ｗ ｈｙ ｔ ｎｅ ｇ ｕｎ ｔｏｎ ｉ ｉ ｅ ｓａ ｄ ｆｎｉｉ ｎ ａ ｈａ ｓ ｔ ｅ ｒ ｌ ｔｏｎ ｂ ｔ ｅ ｎ Ｋｏｓ ｈｅ ｅ ｒ ｙ ｆ ｃ ｉ ｓ ｇ ｖ ｎ ａ ｅ ｉ ｔｏ ｎｄ ｗ ｔｉ ｈ ｅ ａ ｉ ｅ ｗ ｅ ｋｏ ＢＡ Ｍ ｎｄ Ｈ ｏ ｉｌ ａ ｐｆｅ ｄ
很容易产生两个疑问： 能量 函数 为什 么 是 定 义 的 ？ Ｂ ＡＭ 网 络 与 Ｈｏ ｆ ｌ ｐ ｉ ｄ网络 的 内在 联 系 是 什 么 ？本 文 在 说 明 Ｋｏ ｋ ｅ ｓ ｏ型 Ｂ ＡＭ 网络 就是 一 种 特 殊 的 Ｈｏ ｆ ｌ ｐ ｉ ｄ网络 后 ， Ｈｏ ｆ ｌ ｅ 从 ｐｉ ｄ网络 的 能 量 函 数 出发 推 导 出 Ｂ ｅ ＡＭ 网络 的 能 量 函数 ， 而 揭 示 了它 与 Ｈｏ ｆ ｌ 络 之 间 的 内在 联 系 。 从 ｐ ｉ ｄ网 ｅ
ＺＨＡＮＧ Ｊａ — ｕ ，ＹＩ ｎ ｙ ｉｎ ｇ ｏ Ｎ Ｑｉ— ｅ
（ ｃ ｏ ｌ ｆ Ｅ ｅ ｔ ｎｃａ ｄ Ｉ ｆ ｒ ｔ ｎＥｎ ｉｅ ｒ ｇ，Ｘｉｎ Ｊ ａ ｔ ｎ ｉｅ ｓｔ Ｓ ｈ ｏ ｌｃｒ ｉ ｎ ｎ ｏ ｍａ ｉ ｇ ｎ ｅ ｉ ｏ ｏ ｏ ｎ ａ ＇ ｉｏｏ ｇ Ｕｎｖ ｒｉ ｙ，Ｘｉ ｎ ７ ０ ４ ，Ｃ ｉａ ａ ＇ １ ０ ９ ｈｎ ）
阵是零 矩 阵 ） 可 以将 任 意 连 接权 矩 阵对 称 化 ， 样 ， 这
双 向联 想过 程就 能转 换 为对一 组增 广状 态 向量 的 自 联 想记 忆 过程 。但 由 于这 些 并 非 是 文献 Ｅ ］ 论 的 ２讨
重点 ， 此 教材 都未 进一 步展 开讨 论 。 因
种应用 广泛 的单 层 反 馈 神 经 网 络 ， 以用 于 优 化 可
（ 安交通 大 学 电子与 信 息工程 学 院 ， 西 西安 ７０４ ） 西 陕 １ ０ ９
摘 要 ： 入 理解 Ｋｏｋ 深 ｓｏ型双 向联 想 记 忆 （ ＡＭ） Ｂ 网络 是 学 习 使 用 其 它 双 向联 想 记 忆 的基 础 。如 果 我 们 按 照 传 统 的 方 法 介 绍 Ｂ ＡＭ 网络 ， 生 学
Ａｂ ｔａ ｔ Ｋｏ ｋ ｄ ｒ ｃ ｉ ｎ ｌＡｓ ｏ ｉｔｖ ｅ ｒ （ ＡＭ ） ｎ ｔ ｒ Ｓ ｏ ｅ ｏ ｈ ｏ ｔ ｆ ｎ ａ ｎ ａ ＡＭ ｓ ｒ ｃ ： ｓ ｏ Ｂｉ ｉｅ ｔｏ ａ ｓ ｃ ａ ｉ ｅ Ｍ ｍｏ ｙ Ｂ ｅ ｗｏ ｋ ｉ ｎ ｆｔ ｅ ｍ ｓ ｕ ｄ ｍｅ ｔ ｌＢ
ｎｅ ｗ ｏ ｋｓ。ａ ｄ ｔ ｎ ｈ ｅ ｅ ｇ ｆ ｃ ｉ ｏ ＢＡ Ｍ ｉ ｎａ ｕｒ ｌｙ ｃ ｉｅ ｂａ ｅ ｏ ｔ ｅ ｅ ｇ ｆ ｃ ｉｎ ｆ ｔ ｒ ｎ ｈｅ ｔ ｅ ｎ ｒ ｙ ｕｎ ｔｏｎ ｆ ｓ ｔ ａ ｌ ａ ｑｕ ｒ ｄ ｓ ｄ ｎ ｈｅ ｎ ｒ ｙ ｕｎ ｔｏ ｏ
ｎ ｔ ｒ ｓ ｎ ｔ ｉ ａ ｅ ｔｉ ｈ ｗｎ ａ ｈ ｔｆｒｔＫｏ ｋ ｅｗｏ ｋ ．Ｉ ｈｓｐ ｐ ｒｉ ｓｓ ｏ ｔｔ ａ ｉｓ ｓ ｏ ＢＡＭ ｅｗｏ ｋ ｉ ｊ ｓ ｎ ｙ ｅｏ ｐ ｉｌ ｅ ｒ ｌ ｎ ｔ ｒ ｓ ｕ ｔｏ ｅ ｔ ｐ ｆＨｏ ｆ ｄ ｎ ｕ ａ ｅ