基于分段随机扰动幅值的随机并行梯度下降算法研究_吴健

２ 随机并行梯度下降算法
２．１ 随 机 并 行 梯 度 下 降 算 法 基 本 原 理
ＳＰＧＤ 算法是 一 种 迭 代 算 法，通 过 优 化 性 能 指
标［取斯特雷尔比 （ＳＲ，ＲＳ）］，实 现 变 形 镜 驱 动 电 压
控制。性能指标的变化量表示为
式中，
δＲＳ ＝ ＲＳ＋ （ｎ）－ ＲＳ－ （ｎ），
摘要 为了提高随机并行梯度下降（ＳＰＧＤ）算法的 收 敛 速 度，提 出 了 分 段 随 机 扰 动 幅 值 的 改 进 方 法 。 从 理 论 上 分 析了固定增益系数时，随 机 扰 动 幅 值 对 ＳＰＧＤ 算 法 收 敛 速 度 的 影 响 ；提 出 了 分 段 随 机 扰 动 幅 值 的 改 进 方 法 ；基 于６１单元变形镜，建立无波前探测自适应光学系 统 模 型，对 前 ６５ 阶 Ｚｅｒｎｉｋｅ多 项 式 模 拟 的 满 足 Ｋｏｌｍｏｇｏｒｏｖ谱 的 大气湍流畸变波前进行校正。结果表 明，采 用 分 段 随 机 扰 动 幅 值 的 ＳＰＧＤ 算 法 比 固 定 最 佳 随 机 扰 动 幅 值 时 传 统 ＳＰＧＤ 算法的收敛速度提高了近１．６倍，证明了该改进算法的可行性。 关 键 词 自 适 应 光 学 ；波 前 校 正 ；随 机 并 行 梯 度 下 降 ；分 段 随 机 扰 动 幅 值 中 图 分 类 号 ＴＰ２７３．２ 文 献 标 识 码 Ａ ｄｏｉ：１０．３７８８／ＣＪＬ２０１４４１．０７１２００１
Ｒｅｓｅａｒｃｈ ｏｆ Ｓｔｏｃｈａｓｔｉｃ Ｐａｒａｌｌｅｌ Ｇｒａｄｉｅｎｔ Ｄｅｓｃｅｎｔ Ａｌｇｏｒｉｔｈｍ Ｂａｓｅｄ ｏｎ Ｓｅｇｍｅｎｔａｔｉｏｎ Ｒａｎｄｏｍ Ｄｉｓｔｕｒｂａｎｃｅ Ａｍｐｌｉｔｕｄｅ
Ｗｕ Ｊｉａｎ１ Ｙａｎｇ Ｈｕｉｚｈｅｎ２ Ｇｏｎｇ Ｃｈｅｎｇｌｏｎｇ２
烄 １ Ｓｃｈｏｏｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ ａｎｄ Ｅｌｅｃｔｒｉｃａｌ Ｅｎｇｉｍｅｅｒｉｎｇ，Ｃｈｉｎａ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ｍｉｎｉｎｇ ａｎｄ Ｔｅｃｈｎｏｌｏｇｙ， 烌
（６）
式中 Ｎ 为变 形 镜 驱 动 器 个 数，取 ６１；ｕｊ 为 第ｊ 个 驱
动器的驱 动 电 压；Ｓｊ（ｒ）为 第ｊ 个 驱 动 器 的 影 响 函
数 ，服 从 高 斯 分 布 ［１０］：
Ｓｊ（ｘ，ｙ）＝
｛ ｛ ｝｝ ｅｘｐ ｌｎ Ｐ 槡［ｘ－ｘｃ（ｊ）］２ ＋ ［ｙ－ｙｃ（ｊ）］２ α ， ｒｄ
Ｘｕｚｈｏｕ，Ｊｉａｎｇｓｕ ２２１１１６，Ｃｈｉｎａ
烆２ Ｓｃｈｏｏｌ ｏｆ Ｅｌｅｃｔｒｏｎｉｃ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｈｕａｉｈａｉ Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｔｅｃｈｎｏｌｏｇｙ，Ｌｉａｎｙｕｎｇａｎｇ，Ｊｉａｎｇｓｕ ２２２００５，Ｃｈｉｎａ烎
Ａｂｓｔｒａｃｔ Ｔｈｅ ｉｍｐｒｏｖｅｄ ｍｅｔｈｏｄ ｏｆ ｒａｎｄｏｍ ｐｅｒｔｕｒｂａｎｃｅ ａｍｐｌｉｔｕｄｅ ｓｅｃｔｉｏｎ ｉｓ ｐｒｏｐｏｓｅｄ ｔｏ ｉｎｃｒｅａｓｅ ｔｈｅ ｃｏｎｖｅｒｇｅｎｃｅ ｓｐｅｅｄ ｏｆ ｓｔｏｃｈａｓｔｉｃ ｐａｒａｌｌｅｌ ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ（ＳＰＧＤ）ａｌｇｏｒｉｔｈｍ．Ｔｈｅ ＳＰＧＤ ａｌｇｏｒｉｔｈｍ ｃｏｎｖｅｒｇｅｎｃｅ ｒａｔｅ，ｗｈｉｃｈ ｃａｎ ｂｅ ｅｆｆｅｃｔｅｄ ｂｙ ｔｈｅ ｒａｎｄｏｍ ｄｉｓｔｕｒｂａｎｃｅ ａｍｐｌｉｔｕｄｅ，ｉｓ ａｎａｌｙｚｅｄ ｗｈｅｎ ｔｈｅ ｇａｉｎ ｃｏｅｆｆｉｃｉｅｎｔ ｉｓ ｆｉｘｅｄ．Ｔｈｅ ｓｅｇｍｅｎｔａｔｉｏｎ ｒａｎｄｏｍ ｐｅｒｔｕｒｂａｎｃｅ ａｍｐｌｉｔｕｄｅ ｍｅｔｈｏｄ ｉｓ ｐｕｔ ｆｏｒｗａｒｄ．Ｔｈｅ ａｄａｐｔｉｖｅ ｏｐｔｉｃｓ ｓｙｓｔｅｍ ｗｉｔｈｏｕｔ ｗａｖｅｆｒｏｎｔ ｓｅｎｓｏｒ ｉｓ ｂｕｉｌｔ ｗｉｔｈ ａ ６１－ｅｌｅｍｅｎｔ ｄｅｆｏｒｍａｔｉｏｎ ｍｉｒｒｏｒ ｔｏ ｃｏｒｒｅｃｔ ｔｈｅ ｗａｖｅｆｒｏｎｔ ａｂｅｒｒａｔｉｏｎｓ，ｗｈｉｃｈ ｉｓ ｓｉｍｕｌａｔｅｄ ｂｙ ｔｈｅ ６５－ｏｒｄｅｒ Ｚｅｒｎｉｋｅ ｐｏｌｙｎｏｍｉａｌｓ ａｎｄ ｔｈｅ ａｂｅｒｒａｔｉｏｎｓ ｍｅｅｔ ｔｈｅ Ｋｏｌｍｏｇｏｒｏｖ ｓｐｅｃｔｒｕｍ．Ｃｏｍｐａｒｅｄ ｗｉｔｈ ｔｈｅ ｂｅｓｔ ｆｉｘｅｄ ｉｎｉｔｉａｌ ｐｅｒｔｕｒｂａｎｃｅ ａｍｐｌｉｔｕｄｅ ＳＰＧＤ ａｌｇｏｒｉｔｈｍ，ｔｈｅ ｃｏｎｖｅｒｇｅｎｃｅ ｓｐｅｅｄ ｉｎｃｒｅａｓｅｓ １．６ ｔｉｍｅｓ ｂｙ ａｄｏｐｔｉｎｇ ｔｈｅ ＳＰＧＤ ａｌｇｏｒｉｔｈｍ ｂａｓｅｄ ｏｎ ｔｈｅ ｓｅｇｍｅｎｔａｔｉｏｎ ｒａｎｄｏｍ ｐｅｒｔｕｒｂａｎｃｅ ａｍｐｌｉｔｕｄｅ．Ｔｈｅ ｉｍｐｒｏｖｅｄ ａｌｇｏｒｉｔｈｍ ｉｓ ｖｅｒｉｆｉｅｄ ｔｏ ｂｅ ｆｅａｓｉｂｌｅ． Ｋｅｙ ｗｏｒｄｓ ａｄａｐｔｉｖｅ ｏｐｔｉｃｓ；ｗａｖｅｆｒｏｎｔ ｃｏｒｒｅｃｔｉｏｎ；ｓｔｏｃｈａｓｔｉｃ ｐａｒａｌｌｅｌ ｇｒａｄｉｅｎｔ ｄｅｓｃｅｎｔ；ｓｅｇｍｅｎｔａｔｉｏｎ ｒａｎｄｏｍ ｐｅｒｔｕｒｂａｎｃｅ ａｍｐｌｉｔｕｄｅ ＯＣＩＳ ｃｏｄｅｓ ２２０．１０００；２２０．１０８０；３００．６１７０
０７１２００１－１
中 国 激 光
收 敛 速 度 较 慢 ，当 校 正 单 元 数 增 加 时 ，速 度 慢 显 得 尤 为突出。
先前 对 ＳＰＧＤ 算 法 的 研 究 大 致 可 以 分 为 三 个 方 面 ：１）从 控 制 器 处 理 机 出 发 ，进 行 电 路 优 化 设 计 ， 其主要有 基 于 ＳＰＧＤ 控 制 算 法 的 单 指 令 多 数 据 流 （ＳＭＤ）结构实时并行处理机的研究［６］；２）从变 形 镜 单元数出发，采用单 元 数 少 的 变 形 镜 进 行 较 大 畸 变 波 前 的 校 正 ，逐 级 增 加 变 形 镜 单 元 数 进 行 畸 变 校 正 ， 最终达到所需要的校正精 度［７］；３）从 算 法 本 身 的 主 要影响因素增益系 数 和 随 机 扰 动 幅 值 出 发，增 益 系 数固定时，随机扰 动 幅 值 存 在 最 优 取 值 范 围，反 之， 增益系数存在最优取值范围。
收 稿 日 期 ：２０１３－１２－０２；收 到 修 改 稿 日 期 ：２０１４－０１－２８ 基 金 项 目 ：中 国 科 学 院 自 适 应 光 学 重 点 实 验 室 基 金 （ＬＡＯＦ２０１３０２） 作 者 简 介 ：吴 健 （１９９０— ），男 ，硕 士 研 究 生 ，主 要 从 事 自 适 应 光 学 技 术 方 面 的 研 究 。Ｅ－ｍａｉｌ：６４４３２３９９１＠ｑｑ．ｃｏｍ 导 师 简 介 ：龚 成 龙 （１９６４— ），男 ，硕 士 ，教 授 ，主 要 从 事 控 制 科 学 与 工 程 等 方 面 的 研 究 。Ｅ－ｍａｉｌ：ＧｏｎｇＣＬ１２６＠１２６．ｃｏｍ
１ 引 言
目前自适应光学 （ＡＯ）系 统 大 都 采 用 波 前 传 感 器对畸变波前实时 探 测 并 重 构，再 通 过 波 前 校 正 器 校正畸变波 前 。 ［１］ 与 常 规 自 适 应 光 学 技 术 相 比，无 波前 探 测 自 适 应 光 学 技 术 具 ［２］ 有 系 统 结 构 简 单、不
验 仿 真 分 析 可 知，Ｄ／ｒ０ 分 别 为 ５，１０，１５ 时，迭 代 １０００，２０００，５０００次，即 可 实 现 ＲＳ 的 完 全 收 敛 ），将
随机扰动幅值分为 Ｌ 段 （Ｌ 可 取 １／ｃ 中 的 任 何 整 数
值，ｃ为 系 数ｂ 变 化 间 隔，文 中 分 别 取 ０．０１，０．０２，
０．０５，０．１，０．２，ｂ为影 响 系 数，即ｂ＝１－Ｌ×ｃ）。 算
法每迭代 Ｎ／Ｌ 次，随机扰动幅值即为初始随机扰动
幅 值 与 按 间 隔 值 递 减 的 系 数ｂ 之 积 ，即
Ａ ＝ Ｂ ×ｂ，
（５）
式中 Ａ 为随机扰动幅值，Ｂ 为初始随机扰动幅值。
根据 经 验 和 前 人 的 研 究，文 中 选 取 固 定 的 增 益
最优的 电 压 向 量 ｕ（ｒ）寻 找，使 得 残 余 波 前 最 小，系
统性能达到最优。
２．２ 基于分段随 机 扰 动 幅 值 的 随 机 并 行 梯 度 下 降
算法
根据文献［４］，当增益系数固 定 时，ＲＳ 的 收 敛 速 度随着随机扰动 幅 值 的 变 化 而 变 化。 校 正 初 期，畸
变较大，采用较大的 随 机 扰 动 幅 值 实 现 对 畸 变 波 前
（１）பைடு நூலகம்
ＲＳ＋ （ｎ）＝ ＲＳ［ｕ（ｎ）＋δｕ（ｎ）］，
（２）
ＲＳ－ （ｎ）＝ ＲＳ［ｕ（ｎ）－δｕ（ｎ）］，
（３）
式中 δｕ（ｎ）＝ ｛δｕ１（ｎ），δｕ２（ｎ），…，δｕｋ（ｎ）｝为 每 次
迭代时，随机生成电压扰动向 量，ｋ 为 驱 动 器 个 数，ｎ
为迭代次数，其 满 足 伯 努 利 分 布，即 幅 值 的 绝 对 值
相 等 、概 率 相 等 。
第ｎ 次迭代，变形镜驱动器的控制电压更新为
ｕ（ｎ＋１）＝ｕ（ｎ）＋γδＲＳ（ｎ）δｕ（ｎ）， （４）
式中γ 为增益系数。实际应用中，若目标函数向极大
化方向优化，γ 为正值；反之取负值。
利用δＲＳ 与控制参 数 δｕ 的 变 化 量 对 控 制 参 数
进行梯度估计，以迭 代 方 式 在 梯 度 下 降 方 向 上 进 行
第 ４１ 卷 第 ７ 期 ２０１４ 年 ７ 月
中 国 激 光 ＣＨＩＮＥＳＥ ＪＯＵＲＮＡＬ ＯＦ ＬＡＳＥＲＳ
Ｖｏｌ．４１，Ｎｏ．７ Ｊｕｌｙ，２０１４
基于分段随机扰动幅值的随机并行梯度 下降算法研究
吴 健１ 杨慧珍２ 龚成龙２
（ ） １ 中国矿业大学信息与电气工程学院，江苏 徐州 ２２１１１６ ２ 淮海工学院电子工程学院，江苏 连云港 ２２２００５
的 快 速 校 正 ；校 正 后 期 ，采 用 较 小 的 随 机 扰 动 幅 值 来
获得较高的校正精度。