序优化方法

序优化流程总结
• • • • • • • Step 1:从设计空间Θ中随机选出N个设计; Step 2: 用户定义g值和k值; Step 3: 采用粗略模型评估设计; Step 4: 估计噪声水平和问题类型; Step 5: 计算满足 Pr{|G∩S|≥k} ≥ 0.95的s值; Step 6: 选择 top-s观测设计; Step 7: OO 理论保证了至少有k个“足够好”的设计以很高 的概率存在于选择子集S中; • Step 8:精确评估选择子集S中ｓ个设计，选出最好的设计. • 通常节省至少一个数量级的计算量. • 可以快速扫描出一些 “足够好”的设计, 容易和其它优化 方法结合.
x (h)
x (i)
向量序优化（续）
• g, k , s值, 噪声水平, 和问题类型之间的关系也 列成表格 [Zhao, Ho, Jia 2005].
飞机引擎
• 关键性部件,昂贵, 故障, 拆卸修理.
维修系统
wait workshop Part 1 Engine Arrives Random arrival
• 并行计算
• 使用简化模型, 多模型，合作搜索等
序优化的问题
• “序”在 最好的1% 里不一定在最优“值”的 1%里 • 实际性能不等于 (模型性能 + i.i.d. noise) • 大小为1010的搜索空间的1%里仍与最优的 距离为108
有约束序优化(COO)
• 基于仿真的约束: E[Ji(θ)]≤0
True performance
General(1) Neutral
General(2)
Flat
Jmin Ordered design index
s值的确定
• 给定g, k, 噪声水平, 和问题类型, s值可以查表计 算 [LauHo1997], s.t. Pr{|G∩S|≥k} ≥ 0.95。
示例
…
inventory Part 1 Assem ble Engine Leaves
decompose
Part 2
… ……
Part 2
…
Part n
Part n
…
Uncertain wait and repair time Engine to repair Usable parts Parts to repair
COO的应用
• • • • 随机采样 N=1000 设计. 性能评估耗时: 每个设计30 分钟, 总共500 小时. 粗略模型: 每个设计1.8 秒,总共30 分钟. 基于粗糙集理论的可行性模型, 精度为 98.5% [Song, Guan, Zhao, Ho 2005]. • 扫描可行解 （具有小误差）. • 然后应用 OO 搜索 “足够好”的可行解 (top-5%).
• 离散参数
– 巨大的搜索空间: 维数灾 – 没有梯度信息
仿真时间
实际系统 维修系统 计算机网络中拥塞 控制和缓冲管理 大型电力网安全评 估和优化 交通系统的调度 涡轮叶片设计问题 性能
精确评估一个维修方案的平均费用， 1000 次独立仿真 12000个结点的计算机网络，1000秒 动态的仿真 具有5000条母线和300台发电机的大 型电网，发生故障后30秒动态的仿真 具有20个十字路口的路网，24小时 动态的仿真 3D仿真，采用有限元方法
选择规则的比较
• 哪个选择规则给出满足 Pr{|G∩S|≥k}≥0.95 的选择集最小? • 通过理论研究和大量的实验 • 当问题给定时容易判断好的选择规则 • 好的选择规则的性质. • 一般地说，Horse Race 都是一个好的选 择规则.
排序性能曲线 (OPC)
问题类型
Jmax Steep
问题类型
难 中等 易 实际性能
J1 (c) J2 J2 J2 J1 (b)
J1 (a)
f(x)
f(x)
f(x)
hard
neutral
easy
f(x):每层的设计数 x: 层号
x (d)
x (e)
x (f)
F(x)
F(x)
F(x)
flat
neutral
steep
F(x):前x层的设计数 x: 层号
x (g)
直接应用 OO Θ G S G S 有约束 OO
ˆ Θ f 估计的可行解集
非可行解很多
非可行解较少
Hale Waihona Puke 有约束序优化（续）• 基本思想: 首先采用可行性模型扫描得到 可行解, 出错几率小. • 然后在估计的可行解集中应用OO. • 与没有可行性模型直接应用OO 相比较， 要求的选择集较小. • 选择集的大小也依赖可行性模型的精度. [Guan, Song, Ho, Zhao 2006].
目标放宽
• 采用目标放宽解决“Hard ”问题 – 最好 vs. 足够好 – 确定 vs. 高概率 – 精确解 vs. 近似解 – 合理的决策 vs. 启发式
基本思想- 总结
• 序的比较
– 采用粗略的模型比较设计, 计算快而性能估计较粗略. – 对于同一寻优目标的两个设计方案A、B而言，决定A 和B的大小关系往往要比知道A-B的大小容易得多.
Semi-Final Quarter-Final
θ1
θ4
θ1
θ2
θ3
θ4
• Round Robin play (RR)
Round 1: θ1 vs. θ2, θ3 vs. θ4 Round 2: θ1 vs. θ3, θ2 vs. θ4 Round 3: θ1 vs. θ4, θ2 vs. θ3
...
Order new parts Repaired parts Usable Engine
待优化参数: 每个季度的车间机器数和库存零件数. 目标函数: 维修费用 (机器费用, 库存费用, 订购新零件费用) 约束: Pr{Turn Around Time (TAT) i.e., 离厂时间 – 到厂时间 > T0}≤ P0
• 目标放宽
– 获得全局最优实际上是不可行的. 更合理的目标是获 得一个足够好的设计 (top-n%). – 以足够高的概率获得“足够好”的解要比获得问题的最 优解容易得多.
• 不仅符合直觉, 而且可以采用数学方式证明.
序优化方法的基本步骤
• 从总的决策空间（设计空间）中按机会均等原 则选出N个决策； • 利用特定的选择规则，从N个决策中选出一个 子决策集S。子决策集的大小，应大到至少有一 个“足够好”的决策以很高的概率存在于选出的 子决策集中。定义选出的子决策集为S，其元素 个数为ｓ； • 对选出的子集S中的每个解进行精确评估，从ｓ 个解中选出最好的解。
序优化
• 序优化是传统优化技术的补充
• 现代社会中有许多问题，不一定是实变量或基于微 分/差分方程. • 系统的数学模型涉及整数、离散、组合，甚至符号 变量.
• 人造复杂系统
• 国际机场、交通系统、制造系统、服务系统等 • 这类系统很难采用微分/差分方程建模
• 带有不确定性因素的组合优化问题 ——“hard”问题
• • • • • 200 设计 实际性能 J(θi)=i, i=1,2…200. ˆ 观测性能 J (θi ) = J (θi ) + w i.i.d. 均匀分布噪声 U[0,W]. 在top-12 (6%)观测设计中平均有多少设计 是真正的top-12?
示例（续）
• • • • W=100, Pr{|G∩S|≥3}≥0.95. |G∩S|≈5. W=10000 (Blind Pick), |G∩S|≈1. |G∩S| 关于噪声是鲁棒的. 粗略模型可以找到一些足够好设计, 节省 一个数量级的计算量 (从 200 降到12).
实际性能
420 400
Maintenance cost
380 360 340 320 300 280 260 0 0.1 P0=0.05 0.2 0.3 0.4 0.5 0.6 Pr{TAT>Τ0 } 0.7 0.8 0.9
Infeasible designs
Feasible designs
直接应用序优化效率低.
基本思想 (I)
• 序的比较
v.s.
－－哪一个更重? －－重多少, 以盎司或克为单位? 回答哪个设计更好比回答好多少更容易.
“序” vs. “值”
确定A>B?比确定A-B=?容易
“序” vs. “值”（续）
基本思想(II)
• 目标放宽
v.s.
——更容易击中哪个镖靶? 为什么? 获得“足够好的”设计比获得最优设计更容易.
• 将定性和定量相融合
与遗传算法的关系
• GA需要对种群进行性能评价; 然后选择 好的个体进行复制、交叉、变异 • OO 可以大大加速评估和选择的过程，减 少计算量，提高效率 • GA 促进OO的自适应和学习
序优化总结
• OO 互补于
• 传统的优化方法 • 遗传算法, 模糊逻辑, 和人工智能
• 目标放宽 vs. 放宽 “最优”的定义 • 使函数评估更容易 vs. 从函数评估中学习
人造复杂系统
交通系统
制造系统
电力网络
通讯系统
ERP系统
“hard”问题的特征
• 缺乏结构：组合的, 离散的, 符号变量 • 不确定性：问题的内在属性;复杂的、病 态的；耗时的 • 巨大的搜索空间： 组合爆炸; 不易参数化
==>只有采用仿真解决这类优化问题
主要困难
• 基于仿真的性能评价
– 仿真时间长 – 观测有噪声
控制科学与工程专题
序优化方法及其应用
主要内容
• 背景： 基于仿真的优化 • • • • 序优化 约束序优化 向量序优化 应用实例
– 飞机引擎维修系统的性能优化 – 电力系统多个阻尼控制器协调设计
• 结论
关于科学
• 描述性科学
• 涉及“事物怎么样?” • 比如物理、化学、生物、经济学等
• 规定性科学
Pr{|G∩S|≥1} |S|, 选择集的大小
≥0.50 10
≥0.70 16
≥0.95 39
从 N=1000 减少到 |S|, COO 节省至少 25倍的计算量
VOO的应用
• 动机: 约束Pr{TAT>T0}≤P0中合适的P0值 不知道. • 目标函数
– J1: Pr{TAT>T0} – J2: 维修费用
• 处理“事物应该怎么样?” • 规定性科学的核心是工程设计和优化 ==> 工程设计 ==> 优化 – 使事情更好
优化
• 优化
• 优化是古老的科学. • 直到出现计算机，优化才真正体现其作用. • 优化的成功应用 ==>获得诺贝尔奖的线性规划 ==>阿波罗登月等航天器导航控制
• 传统的优化技术
• 面向计算机的解 • 递推和迭代 • 实变量和基于微积分（导数）
仿真时间 30 分钟 1.5 小时 2小时 2小时 7天
序优化 (OO)
• 序优化是处理基于仿真优化的重要工具. • 何毓琦教授等在1992年提出 [Ho, Sreenivas and Vakili1992]. • 在过去十多年里，有 200多篇论文发表和许多 成功应用. • 参考文献： • Ho, Y.-C., Zhao, Q.-C., and Jia, Q.-S., Ordinal Optimization: Soft Optimization for Hard Problems, Springer, 2007 • /~ho/
基本概念
Θ: 设计空间
Θ G k S
G: “足够好”子集 S: 选择子集 : 真正的最优 : 估计的最优 Pr{|G∩S|≥k} : 目标概率
选择规则
• Blind Pick (BP)
Final
θ1
• Horse Race (HR) • Pairwise Tournament Elimination (TE)
向量序优化(VOO)
• 基于仿真的多目标优化 • 设计的“序”是什么？ • 层的概念
θ8 θ1
J2
1st Layer: Pareto边界
3rd Layer
同一层的设计具有不可比 性. 不同层的设计，层号小的 设计好.
θ5 θ2 θ3 θ4
J1
θ6 θ7
2nd Layer 1st Layer
“足够好”子集: 前n层的设 计. 选择子集:前n层的观测设 计.
与R&S的差别
• 群体大小是以亿计而不是几十 • 不关心最好的与其余的距离 • 不关心观测的“序”是实际的“序”的最大似 然估计（MLE）吗?
R&S——排序和选择统计学
与模糊集的关系
• 目标放宽
– 以足够高的概率获得“足够好”的解代替获得 确定最优解
• 定义放宽
– 模糊“足够好”或“高概率”的界限
• 随机采样 N=1000 设计. • G: 前两层的设计. • S: 观测的top-s层的设计, s 由VOO 给出， 满足 Pr{|G∩S|≥k}≥0.95.