基于均匀设计与 Powell 算法的全局最优化算法及并行实现

uij = ( i ×hj ) mod n ( 2)
s *
2
2. 1
并行算法的实现及性能分析
将均匀设计思想与 Powe ll 算法结合 均匀设计可以根据均匀设 计原则 在可行 域内均 匀分布 优
化初始点 , 而 Powell 算法具有很好的求得局部最优值能力。本 文将上述两者结合起来设 计寻求 模型的 全局最 优解方 法。 该 方法的基本思路如下 : ( 1) 采用均匀设计方法 , 在优 化模型的设 计变量 空间内 均 匀分布一系列点 , 这些点在变量空间内均匀分散。 ( 2) 将可行域内 的上述 系列 布点 作为 Powell 优 化计 算 的 初始点 , 通过 Powell 算法分别从各 初始点开始对 模型 ( 1) 进 行 优化计算 , 得到优化模型的一系列局部最优点和局部最优值。 ( 3) 取所有局部最优值中的最优值 , 认为在一定程度上获 得了优化模型 ( 1) 的全局最优解。 显然 , 均匀布点数 n 越多 , 所得的结果越逼近全局最优解 , 但计算量也会随之增加。因此 , 合理确定布点数也是值得研究 的问题。 2. 2 并行化 按照算法设计中所述基本思路 , 将初始点平均分配给多个 进程 , 让这些进 程并 行 计 算 , 最 后 将 结 果汇 集 到 root 进 程 0。 如此实现以后通信量少 , 并行度高。并行化部分代码如下 :
收 稿日期 : 2005- 12- 20; 修 返日期 : 2006- 05- 16
基 金项 目 : 国 家自 然科学 基金 资助项 目 ( 60533020) ; 中国 科学院 知识 创新工 程信 息化建
设重大 专项基 金资 助项目 ( INF10 5-SCE) ; 国家 科技 部科技 大平 台资助 项目 ( 2004 DKA50720 ) 作 者简介 : 汪 文英 ( 1982 - ) , 男 , 安徽 桐城人 , 硕 士 , 主要 研究方 向为 并行计 算与 软件 ( wwy@ sccas. cn) ; 沈 斌 ( 1979- ) , 男 , 硕 士 , 主 要研 究 方向 为 计算化 学 ; 陆 忠 华 ( 1965 - ) , 女 , 研 究 员 , 博士 , 主 要 研 究 方 向 为 生 物 数 学、 并 行 算 法 ; 迟 学 斌 ( 1963- ) 男 , 超 级 计 算 中 心 主 任 , 研 究 员 , 博 导 ; 余 慧 ( 1982 - ) , 女 , 博士研 究生 , 主 要研 究方向 为电子 雷达 技术 .
题 , 均匀 设计 具有 让试验 点在 高维 空间 内均 匀分 散的 特点 , 而 Powell 算法 具有 很好 的求 解局 部最优 解 的 能力 , 将 两种 方法 进行 有效改 进后 使之 相结 合 , 设计 出并 行全 局最 优化 算法 。通过 经典 的全 局最 优化 函数 对 算 法进 行 了 比较 测试 , 发 现该 算法 具有 比以 前的算 法更 好的 寻优 能力 , 并 对算 法时 间、 空间 复杂 度以 及并 行性 进 行 分析 和 测 试。基 于均 匀设 计与 Powell 算法 的全 局最 优化 并行 算法具 有寻 优能 力强 , 时 间开 销与 问题 因素 个数 的 平方 和 布 点数 成线 性复 杂度 , 空 间开 销与 因素个 数和 布点 数成 线性 复杂 度 , 并行 效率 好的 特点 。 关键 词 : 并 行计 算 ; 均匀 设计 ; Powell 算法 ; 全局 最优 化 中图 分类 号 : TP301. 6 文 献标 志码 : A 文 章编 号 : 1001 - 3695( 2007) 05- 0169- 04
其中 , X = [ x1 , x2 , … , xn ]
为 设 计 变量 向 量 ; n 为 设计 变 量 维
*
数; F( X) 为目标函数 ; Gl ( X) 为约束条件 ; L 为约束总 数。 全局 最优 解就是 在所求 问题的 可行域 Ω内 , 找 出一个 点 X , 使 得 在整个可行域内 , 该点的函数值为 最优 , 即对于 任意的 X ∈Ω , 均有 F( X) ≥ F ( X ) 。 1. 2 均匀设计 均匀设计是 20 世纪 80 年代 , 由我国科学家方开泰和王元 开创的一种全新的试验设 计方法。其 思路是 让试验 点在试 验 范围内充分均匀分散 , 这种从均匀性出发的设计被称为均匀设 计。 均匀设计主要通过对均 匀设计 表的设 计来体 现。均匀 设 计表是一种规格化的表格 , 是均匀试验设计的基本工具。均匀 设计表有一个代号 Un ( q ) 。其中 U 表示均匀设计 , s 表示因素 个数 , q 为试验水平数 , n 表示所作试验次数。均匀设计的最大 特点是试验次数等于最大水平数 , 而正交设计试验次数是实验 水平数的平方 , 这也是均匀设计的优势。 参照方开泰教授与王元院 士设计 的好格 子点法 并进行 适 当的改进后构造均匀设计表 , 构造方法如下: ( 1) 设自变量 x 是 m 维向量 , 即 x = { X1 , X2 , … , Xm} , 给定 n 个点 ( n > 1) 和 m 维向量 H 。 H = { h1 , h2 , … , hj , … , hm} , n 和 hj 的最优公约数为 1。 ( 2) 上面得到的向量 H 是均匀设计表的第 1 行, 均匀 设计 表的第 j 列由下面方法生成 :
题, 全局优化方法非常重要。全局最优化问题可以描述成如下 的数学模型 :
Find X = [ x1 , x2 , … , x3 ] ∈ Rn Min F( X) s. t Gl ( X) ≤ 0 l = 1, 2, … , L
T
然后 , 重复以下各步骤直至函数值不再减少 : ( 1) 记初始位置为 P0 。 ( 2) 对 i = 0, … , n - 1, 将 Pi 移至 目标 函数 ui 方向 的最 优
tronics, Chinese Academy of Sciences, Beijing 100080 , China)
1 1 1 1 2
( 1 . Supercomputing Center, Computer Network Information Center, Chinese Academy of Sciences, Beijing 100080 , China; 2 . Institute of Elec-
Global Optimization Algorithm Based on Uniform Design and Powell Method and Parallel Implementation
WANG Wen-ying , SHEN Bin , LU Zhong-hua , CHI Xue-bin , YU Hui
1
1
1
慧
( 1. 中国 科学 院 计 算机 网络 信息 中心 超 级计 算中 心 , 北 京 100080 ; 2 . 中 国科 学院 电子 学研 究所 , 北京 100080) 摘 要 : 复 杂函 数的 全局 最优 化问 题是 在求 解各种 复杂 工 程 与科 学 计 算 问题 中 提 炼 出 来 的 亟 待解 决 的 计 算 问
0
引言
最优化理论方法是应用数学的一门分支 , 研究决策问题的
最佳选择 , 构造寻找最佳 解的计 算方法 , 探讨 这些计 算方法 的 理论性质及计算表现。目前 , 求解线性规划、 非线性规划、 随机 规划、 非光滑规划、 多目标规划、 组合优化等各种最优化问题的 新方法不断 涌现。除 了 自然 科学 的 各个 领 域之 外 , 在建 筑 设 计、 金融设计、 医药设 计、 生 产管理、 交通运输等 诸多方面均 涉 及最优化的应用。随着高速计 算机的 普及和 优化方 法的不 断 进步 , 规模越来越大的优化问题得到解决。 面对最优化问题 , 目前的困难主要表现在两个方面 : ①目标 函数常常多峰, 随着优化问题规模的增大 , 局部最优解的数目将
・ 170・ 1
1. 1
计 算 机 应 用 研 究
2007 年
背景介绍
全局最优化模型 对于解决实际 优化 问 题 , 特别 是 对于 科学 与 工程 计 算 问
标函数特性的一类优化问题, 在实际工程与科学计算中十分有 用。它的主要计算步骤如下 : 首先 , 将方向集 ui 初始化为坐标向量
ui = e i i = 0, … , m - 1
( 1)
值点 , 并记为 Pi + 1 。 ( 3) 对 i = 0, … , n - 2, 置 ui = ui + 1 。 ( 4) 置 um - 1 = P m - P0 。 ( 5) 将 Pm 移至函数在 um - 1 方向 上的最 优点 , 并记 该点 为 P0 。 Powell 算法在 搜索 局 部 最优 值 的 过 程 中 , 常 会 越 过 可 行 域 , 本文对 Powell 算法进行 了限制 , 使 得搜索 很好的 限制在 可 行域内。
第 24 卷 第 5 期 2007 年 5 月
计 算 机 应 用 研 究 Application Research of Computers
Vol. 24, No. 5 May 2007
基 于 均 匀 设 计 与 Powell 算 法 的 全局最优化算法及并行实现
汪文英 , 沈
1
*
2Байду номын сангаас
斌 , 陆忠华 , 迟学斌 , 余
Abstract: The matters of global optimization of complex function were in dire need of computation, which were depurated from complex scientific and engineering calculation. Powell algorithm had very strong ability to find the locally optimal solution, while and uniform design made the test points distribute evenly in higher space. Tow methods after some efficient improvement were combined, and a parallel global optimization algorithm, of which the time complexity and the parallel efficiency was test, using some classical global optimization functions. The algorithm designed has the characters such as strong ability in find global optimal solution, low time complexity that was directly proportional to square of the num ber of independent variables of goal function and the number of start points for computation, low space complexity that was in direct proportional to the number of independent variables of goal function and the number of start points for com putation, and good parallel efficiency. Key words: parallel computation; uniform design; powell algorithm; global optimization 会迅速增加 , 往往得到的是 局部最 优解 , 而不 能得到 全局最 优 解。如何有效地跳出局部最优 点而又 不大幅 度地增 加计算 代 价 , 是目前的一个难题。②许多在串行计算环境下的最优化算 法并不适合于并行环境 , 并行化难度大。 首先利用均匀设计具有使 实验点 高维空 间均匀 分散的 特 点 , 与 Powell 算法结合 , 并适当改进 , 经过经典的全局最优化函 数测试发现它能够跳出局部最优陷阱 , 从而准确地找到全局最 优点。最后 , 对算法的时间 空间复 杂度进 行了测 试 , 数 据统 计 显示本文算法时间复杂度与计 算问题 需要考 虑的因 素个数 的 二次方和布点数成线性关系, 空间复杂度与因素个数和布点数 成线性关系。对 算法 进 行了 并行 化 , 经 测试 得知 并 行效 率 很 高。该算法具有很好的求解大型优化问题的潜力。