参数设计的模拟退火并行计算法

j= 1
最后按置信概率 (1-
Α) ◊
选择出前 q1
个较好的取值,
不妨记为
y
i k
(
i=
1, 2, …, q1) , 此处 q1 满足 T q1Φ
(1-
Α) , T q1+ 1> (1- Α) , 显然 q1< qΖ
经上述得到的区域记为 D 1, 则 D 1< D 0 且以概率 (1- Α) ◊ 包含全局极小点 (x 3 , y 3 ) , 这样可以在新的
1
3
5
5 10
4
1
6
11
8
2
3
1
1
2
3
2
6
6 12 10
9
2
8
7
2
3
3
3
1
2
2
7
7
1
3
4 11
5
6
2
1
1
1
3
2
2
8
8
3
9 12
7
2
5
2
1
3
3
2
1
2
9
9
5
2
7
3
12
4
3
2
1
2
1
3
1
10 10
7
8
2 12
9
3
3
2
2
1
3
3
1
11 11
9
1 10
8
6
2
3
3
1
3
2
2
1
12 12 11
7
5
4
3
1
3
3
2
2
1
1
1
上述编码值与实际参数间的译码函数为: © 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
2 模拟退火并行计算方法
该算法的基本思想是: 在均匀设计基础上产生多个初始计算方案, 然后采用一种并行计算策略, 通过
区间估计和 Pareto 排列图分析法不断缩小搜索范围, 直至满足收敛条件为止Ζ
211 均匀设计方案
按照实际问题选用混合均匀设计表 U Λ(p n×qm ) 产生 D 0 上的 Λ 个均匀设计点集 (x 1, y 1) , (x 2, y 2) , …,
对离散变量部分应用 Pareto
排列图分析, 如第 k
个分量, 统计 Λ 次结果 Γkj ( j =
1,
2,
…,
Λ)
中取到
y
i k
(
i
= 1, 2, …, q) 的频率 v 1, v 2, …, vq, 然后由大到小排列, 并计算相应频率累加和:
i
∑ T i =
v j , i = 1, 2, …, q
由于目标函数 f (·) 中含有离散的自变量, 导数信息难以提供, 故传统的梯度优化方法无能为力Ζ1983 年, S. K irkp a trick 等人[3]基于统计热力学原理提出了模拟退火算法 (SA : Sim u la ted A nnea ling) , 并首先用 于寻求多变量函数的整体极值, 取得了很大成功Λ其后D. H. Ro thm an、L. Ingber 和D. R. V elis 等人进行了 卓有成效的工作Ζ
GAO Q i2sheng1, ZHAN G S i2y ing2, PAN D e2hu i2, L IU X iao 2hua3
( 1. Q ingdao U n iversity, Q ingdao 266071; 2. N o rthea stern U n iversity, Shenyang 110006; 3. Yan ta i T eachers In stitu te, Yan ta i 264025)
第8期
参数设计的模拟退火并行计算法
43
连续部分
离散部分
x
i j
=
xj +
xθ j p-
xj 1
×
(a
i j
-
1) , i = 1, 2, …, Λ; j = 1, 2, …, n
bj
的第
i 个水平对应于 y j
的第
i
个取值
y
i j
(i=
1, 2, …, q) Ζ
212 并行计算策略之一
设已给定了一种退火模式[6, 7], 即已经给定了一组退火参数的取值及它们的变化规则Ζ在D 0 上产生 Λ
End 模拟退火算法在一定条件下可以保证以接近 1 的概率收敛到全局极小点, 但由于在执行过程中, 每次 只保留一个当前解, 致使算法收敛速度较慢Ζ 均匀设计 (U n ifo rm D esign) 是我国数学家王元和方开泰[4]首 次提出的, 其关键是将数论方法应用于试验设计, 以均匀分散为准则, 使试验点均匀地分布在试验范围内, 使每个试验点有充分的代表性Ζ 这样, 均匀设计的试验点比正交设计的试验点分布得更均匀Ζ 又由于不再 考虑“整齐可比性”, 因而大大减少试验次数Ζ 王元和方开泰基于均匀设计提出了新的试验优化方法——序 贯优化算法, 并证明了其收敛性, 但该方法容易陷入局部极小点Ζ 将两者结合, 基于均匀设计形成模拟退火 并行计算策略, 可克服各自的不足, 大大提高优化效率和解的性能Ζ 产品参数设计实例证明了这一点Ζ
42
系统工程理论与实践
2000 年 8 月
在 X 0 的邻域内模拟产生随机扰动△X ; 计算扰动所引起的目标函数 (能量) 值的变化△E; 确定是否接受扰动Ζ记 p = m in (1, exp (- △E T ) ) , 任取[ 0, 1 ]上均匀分布的一个随机数 Ν, 若 p
Ε Ν, 则扰动就被接受; 否则就被拒绝; 确定新的模型参数值Ζ 若扰动被接受, 则 X 0= X 0+ △X ; 否则 X 0= X 0; T = ΑT
(x Λ, y Λ) 作为初始计算点, 这里
D0=
x
(0) 1
,
xθ
(0) 1
×…×
x
(0) n
,
xθ
(0) n
×
y
(0) 1
,
yθ1(0)
×…×
y
(0) m
,
θy m(0)
Λ 为试验次数, p 为连续变量的水平数 (通常 Λ= p ) , q 为离散变量的水平数Ζ如当 n= m = 3, q= 3 时, 可选
1 问题的提出
在质量工程中, 对可计算性项目的参数设计, 通常可归结为如下一类非线性规划问题: m inf (x , y ) s. t. x i Φ x i Φ xθ i, i = 1, 2, …, n y j Φ y j Φ yθj , j = 1, 2, …, m
其中 x ∈R n 是连续变量, 代表参数中心值; y ∈R m 是离散变量, 代表相应容差等级; f ∶R n×R m →R 代表田 口的质量损失和成本[1, 2]Ζ
Abstract: A sim u la ted annea ling concu rren t com p u ting a lgo rithm ba sed on un ifo rm design is p ropo sed, a im ing a t a k ind of non linea r p rog ramm ing w h ich is pop u la r in p a2 ram eter in p a ram eter design. T he resu lt show s tha t it is a sim p le and effective a lgo rithm fo r qua lity eng ineering. Keywords: p a ram eter design; sim u la ted annea ling; concu rren t a lgo rithm
摘要: 针对参数设计中的一类非线性规划问题, 基于均匀设计的思想, 提出一种全局优化的模拟退 火并行计算方法Λ 实例计算表明, 该算法简单、有效, 便于质量工程人员使用Λ 关键词: 参数设计; 模拟退火; 并行计算 中图分类号: O 21311α
D im u lsted A nnea ling Concu rren t A lgo rithm of Pa ram eter D esign
i= 1
计算概率 v 1, v 2, …, v Λ, 由大到小依次排列, 并计算相应概率累加值, 应用排列图按置信概率 (1- Α) ◊ 选
© 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
44
系统工程理论与实践
213 并行计算策略之二
依上述得到 Λ 个计算结果 (Ν1, Γ1) , (Ν2, Γ2) , …, (ΝΛ, ΓΛ) , 且目标函数依次为 f 1, f 2, …, f Λ 后, 构造 每个个体的适应度 g j = f 0- f j , f 0 是保证 g j 非负的一个定值, 按
vj =
gj
Λ
∑g i
区域D 1 上进行新一代并行计算, 具体计算步骤如下:
Step 1 在D k 上产生 Λ 个均匀设计点集 (x 1, y 1) , (x 2, y 2) , …, (x Λ, y Λ) 作为 k 代种群;
Step 2 应用模拟退火算法进行并行计算, 得到 Λ 个结果 (Ν1, Γ1) , (Ν2, Γ2) , …, (ΝΛ, ΓΛ) ;
形成新的搜索区域, 并进行下一代模拟退火计算, 依次类推直至满足收敛条件为止, 这里 RN D 代表 (0, 1) 上均匀分布的随机数, pm 称为变异系数 (一般取 1◊ ～ 5◊ ) Ζ 214 收敛性分析
个均匀设计点集 (x 1, y 1) , (x 2, y 2) , …, (x Λ, y Λ) 作为初始计算点, 同时进行模拟退火计算, 那么可得到 Λ 个
计算结果, 记为 (Ν1, Γ1) , (Ν2, Γ2) , …, (ΝΛ, ΓΛ) , 且目标值依次为 f 1, f 2, …, f ΛΖ 显然它们可视为独立同分布的
2000 年 8 月
系统工程理论与实践
文章编号: 100026788 (2000) 0820041204
参数设计的模拟退火并行计算法
第 8 期
高齐圣1, 张嗣瀛2, 潘德惠2, 刘晓华3
(11 青岛大学复杂性科学研究所, 山东 青岛 266071; 21 东北大学工商管理学院, 辽宁 沈阳 110006; 31 烟台师范学院 数学系, 山东 烟台 264025)
随机向量, 且优化问题的全局极小点 (x 3 , y 3 ) 可以合理地近似为 (E Νj , E Γj ) Ζ
为不断缩小搜索范围, 对连续变量和离散变量分别作如下处理Ζ
对连续变量部分作区间估计, 记
Λ
Λ
∑ ∑ Νλi =
1 Λ
Νji ,
j= 1
s2i =
1 Λ
j= 1
(Νji
-
λΝi) 2
由中心极限定理有
2000 年 8 月
择较好的个体, 不妨记为 (Ν1, Γ1) , (Ν2, Γ2) , …, (ΝΛ1, ΓΛ1) , 显然 Λ1< ΛΖ 进而按如下公式 x ′i = Νim in - RN D pm (Νim ax - Νim in ) xθ′i = Νimax + RN D pm (Νimax - Νim in ) Νim in = m in Ν1i , Ν2i , …, ΝΛi 1 , Νimax = m ax Ν1i , Ν2i , …, ΝΛi 1 y ′j = m in Γ1j , Γ2j , …, ΓΛj 1 yθ′j = m ax Γ1j , Γ2j , …, ΓΛj 1 i = 1, 2, …, n; j = 1, 2, …, m
Νλi si
x
3 i
～
N
(0, 1)
Λ
其中
x
3 i
是 x 3 的第 i 个分量, 则 x 3 的置信概率为 (1-
Α) ◊ 的区间估计为
Νλ - U Α s < x 3 < Νλ + U Α s
Λ
Λ
其中 Νλ= (Νλ1, Νλ2, …, Νλn) , s= (s1, s2, …, sn) , U Α 为正态分布临界值Ζ
用 U 12 (127×37) , 见表 1Ζ
表 1 混合水平均匀设计表U 12 (127×37)
a1
a2
a3
a4
a5
a6
a7
b1
b2
b3
b4
b5
b6
b7
1
1
2
6
8
9
10 12
1
1
2
2
3
3
3
2
2
4 12
3
5
7 11
1
1
3
1
2
2
3
3
3
6
5 11
1
4 10
1
2
2
3
1
1
3
4
4
8 11
6 10
1
9
1
2
3
2
3
Step 3 按区间估计和排列图法分别对连续、离散变量取值范围进行收缩, 得到 D k+ 1;
Step 4 检验下列收敛条件
百度文库
xθ (k+ 1) - x (k+ 1) x (k+ 1)
Φ Ε和 q1 = 1
是否满足, 这里 Ε为预先给定的精度Ζ 若收敛条件满足则输出(Ν, Γ) 作为(x 3 , y 3 ) 的近似值; 否则转 Step 1Λ
模拟退火算法的一般框架: 给定起、止“温度”T , T 0; 和退火速度 Α; 模拟参数初始化 X 0; W h ile (T > T 0) do
α 收稿日期: 1999201204 资助项目: 国家自然科学基金
© 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.