多尺度量子谐振子优化算法物理模型
合集下载
相关主题
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
* The National Natural Science Foundation of China under Grant No. 60702075 (国家自然科学基金); the Postdoctoral Science Foundation of China under Grant Nos. 20090451420, 20070410385 (中国博士后科学基金); the Youth Science & Technology Foundation of Sichuan Province under Grant No. 09ZQ026-068 (四川省青年科学基金).
2 MQHOA 算法流程和数学描述 2.1 MQHOA 算法的基本流程
MQHOA 算法的基本过程如下(一维目标函数): 步骤 1 初始化 k、m、σmin 在目标函数定义域范 围内随机生成 k 个初始采样中心位置 ki并设定初始 尺度 σs = MAX - MIN[MINMAX ] 为目标函数搜索 定义域。 步骤 2 按 k 个高斯分布 N(kiσs2) 在目标函数定 义域各生成 m 个采样位置,根据采样位置对应的目 标函数值从新生成的 k ´ m 个采样位置中选出 k 个较 优的采样位置更新 ki 。 步骤 3 如果 k 个较优采样位置 ki 之间的标准差 σk 满足 σk > σs则返回步骤 2(QHO 迭代)。 步骤 4 如果 σs > σmin则尺度减半为 σs = σ2s并返 回步骤 2(M 迭代)。 步骤 5 依据目标函数取 k 个采样中心位置 ki 中 的最优位置为结果输出。 其中 k 为群体参数,m 为采样参数。算法在初 始化时通常将目标函数定义域作为初始采样尺度开 始迭代,σs 为 s 尺度下高斯采样的 σ 值,它在进行尺 度迭代时逐次减半,直到搜索尺度 σs 小于预设的最 小尺度 σmin 时停止。 σmin 事实上就是求解精度,文中 通常取为 0.000 001。迭代进行时当前 k 个较优解采 样位置的标准差为:
E-mail: fcst@vip.163.coBiblioteka Baidu http://www.ceaj.org
Tel: +86-10-89056056
多尺度量子谐振子优化算法物理模型*
王 鹏 1+,黄 焱 2,3
1. 成都信息工程学院 并行计算实验室,成都 610225 2. 中国科学院 成都计算机应用研究所,成都 610041 3. 中国科学院大学,北京 100049
王 鹏,黄 焱.多尺度量子谐振子优化算法物理模型[J].计算机科学与探索,2015,9(10):1271-1280.
ISSN 1673-9418 CODEN JKYTA8 Journal of Frontiers of Computer Science and Technology 1673-9418/2015/09(10)-1271-10 doi: 10.3778/j.issn.1673-9418.1502003
WANG Peng, HUANG Yan. Physical model of multi-scale quantum harmonic oscillator optimization algorithm. Journal of Frontiers of Computer Science and Technology, 2015, 9(10):1271-1280.
2010 年作者在文献[14]中提出了利用谐振子构 造算法的初步设想(当时称为模拟谐振子算法 SHO), 算法提出后引起了一些研究者的关注:文献[15]提出 用模拟谐振子算法来解决资源受限的多项目调度问 题,通过对比模拟谐振子算法和粒子群算法所得结 果,验证了前者的有效性;文献[16]基于模拟谐振子 提出了一种优化 K-means 聚类算法,该算法克服了 K-means 聚类算法对初始聚类中心选择敏感的问题, 能够获得全局最优的聚类划分;文献[17]利用有限马 尔科夫链理论对模拟谐振子算法的解状态矩阵变化 进行了分析,证明了当运算时间趋于无穷时,算法会 逐渐收敛于全局最优解;文献[18]将模拟谐振子算法 应用于求解整数规划问题,通过实验结果说明了该算 法在问题规模较大时具有高质量的搜索效率和精度。 文献[19]给出了多尺度量子谐振子优化算法(multi-scale quantum harmonic oscillator optimization algorithm, MQHOA)的完整实现方法,并成功应用于高维函数 优化问题,对于 15 种标准测试函数进行实验均能以 指定的精度(0.000 001)100%的概率获得全局最优解。
1 引言
利用物理模型构造优化算法是一种非常有效的 算法构造方法,其中最著名的优化算法是基于 1953 年提出的 Metropolis 选择准则[1]构造的模拟退火算法 (simulated annealing,SA),后来 Kirkpatrick 等人将其 成功地应用于组合优化问题[2-3]。模拟退火算法通过 多次等温迭代使算法达到低温条件下的平衡态。但 是该算法计算时间较长,控制参数较多,并且对参数 敏感,其参数的变化本身就是一个需要进行研究的 课题[4],因此在实际应用时多与其他优化算法结合使 用 。 基 于 量 子 理 论 的 退 火 算 法 —— 量 子 退 火 算 法 (quantum annealing,QA)于 20 世纪 90 年代被提出[5], 并引起了物理学界和计算机科学界的广泛关注。文 献[6]分析了量子退火算法在 DMC(diffusion Monte Carlo)过程中通过量子隧道效应跳出局部最优区域 的过程,对于量子隧道效应的利用是不少量子算法 实现全局优化的重要方法。文献[7]对比了经典退火 算法和量子退火算法对谐振子势能、双阱势能和抛 物线势能函数的优化性能。文献[8]利用 Ising 模型这 一描述相互作用粒子最简单的模型,并利用材料在 温度降低后系统从混乱到有序,在外加磁场的作用 下呈现出顺磁性这一原理构造了优化算法。量子波 函数的概率解释与优化算法随机求解过程的相似 性,使得基于量子物理模型的优化算法成为未来构 造新的优化算法的一个重要研究方向。量子退火算 法利用了量子波函数的概率特性,物理模型较为完 备,但是模型的数学过程复杂,算法实现困难,并且 算 法 实 际 性 能 也 未 能 得 到 有 效 的 证 实 [9],因 此 应 用 并不广泛[10]。近年来还出现了一种新的量子粒子群
算 法(quantum-behaved particle swarm optimization, QPSO)[11-12],该算法利用 δ 势阱下的量子波函数构造 粒子进化公式,通过不断减小特征长度逐步实现局 域化的新解采样,从而达到算法收敛的目的。该算 法需要人为指定迭代次数,并且由于使用的 Bi(t) δ U 势阱对应的波函数收敛速度过快,对算法求解精度 造成了影响。文献[13]使用了谐振子势阱构造算法, 但是该算法并未有效利用量子谐振子的波函数完整 模型,对于多个函数的测试表明算法的稳定性和精 度都不高。
王 鹏 等:多尺度量子谐振子优化算法物理模型
1273
MQHOA 算法利用谐振子运动的物理含义与优 化问题之间的对应关系,根据量子谐振子波函数的 概率解释构造出了一种新的具有简单数学结构和明 确物理含义的优化算法。本文重点对这一算法的物 理 模 型 进 行 研 究 ,并 针 对 复 杂 函 数 优 化 问 题 将 MQHOA 算法的结果与 SA 算法和 QPSO 算法的结果 进行对比。
Received 2015-01, Accepted 2015-03. CNKI 网络优先出版:2015-04-14, http://www.cnki.net/kcms/detail/11.5602.TP.20150414.1133.003.html
1272
Journal of Frontiers of Computer Science and Technology 计算机科学与探索
Abstract: Multi-scale quantum harmonic oscillator optimization algorithm (MQHOA) is a novel algorithm inspired by the physical model of harmonic oscillator and the probability interpretation of quantum harmonic oscillator’s wave function. This paper demonstrates the uncertainty relationship between global searching accuracy and local searching accuracy, and defines the wave function of MQHOA according to quantum model. Quantum harmonic oscillator convergence and multi-scale convergence are nested, and are the basic convergence processes of MQHOA to gradually approach the global optimal solution. The comparison experiments with quantum-behaved particle swarm optimization (QPSO) and simulated annealing (SA) on 15 benchmark functions show that MQHOA has good performance in adaptability, stability and accuracy when tackling with function global optimization algorithm. Key words: multi-scale quantum harmonic oscillator optimization algorithm (MQHOA); optimization algorithm; uncertainty relationship; Gauss random number
Physical Model of Multi-Scale Quantum Harmonic Oscillator Optimization Algorithm������
WANG Peng1+, HUANG Yan2,3
1. Parallel Computing Lab, Chengdu University of Information Technology, Chengdu 610225, China 2. Chengdu Institute of Computer Application, Chinese Academy of Sciences, Chengdu 610041, China 3. University of Chinese Academy of Sciences, Beijing 100049, China + Corresponding author: E-mail: wp002005@163.com
2015, 9(10)
摘 要:依据谐振子物理模型及量子谐振子波函数的概率解释构造了一种新的全局优化算法——多尺度量子 谐振子优化算法(multi-scale quantum harmonic oscillator optimization algorithm,MQHOA)。定义了算法的 波函数,并利用算符方法证明了全局搜索精度和局部搜索精度之间的测不准关系, 指出算法必须包含量子谐 振子收敛和多尺度收敛两个嵌套的基本收敛过程,才能实现对全局最优解的逐步逼近。通过与量子粒子群算 法和模拟退火算法对 15 种标准测试函数进行实验比对,证明了 MQHOA 在求解函数全局优化问题时具有更好 的适应性、稳定性和精确性。 关键词:多尺度量子谐振子优化算法(MQHOA);优化算法;测不准关系;高斯随机数 文献标志码:A 中图分类号:TP18
2 MQHOA 算法流程和数学描述 2.1 MQHOA 算法的基本流程
MQHOA 算法的基本过程如下(一维目标函数): 步骤 1 初始化 k、m、σmin 在目标函数定义域范 围内随机生成 k 个初始采样中心位置 ki并设定初始 尺度 σs = MAX - MIN[MINMAX ] 为目标函数搜索 定义域。 步骤 2 按 k 个高斯分布 N(kiσs2) 在目标函数定 义域各生成 m 个采样位置,根据采样位置对应的目 标函数值从新生成的 k ´ m 个采样位置中选出 k 个较 优的采样位置更新 ki 。 步骤 3 如果 k 个较优采样位置 ki 之间的标准差 σk 满足 σk > σs则返回步骤 2(QHO 迭代)。 步骤 4 如果 σs > σmin则尺度减半为 σs = σ2s并返 回步骤 2(M 迭代)。 步骤 5 依据目标函数取 k 个采样中心位置 ki 中 的最优位置为结果输出。 其中 k 为群体参数,m 为采样参数。算法在初 始化时通常将目标函数定义域作为初始采样尺度开 始迭代,σs 为 s 尺度下高斯采样的 σ 值,它在进行尺 度迭代时逐次减半,直到搜索尺度 σs 小于预设的最 小尺度 σmin 时停止。 σmin 事实上就是求解精度,文中 通常取为 0.000 001。迭代进行时当前 k 个较优解采 样位置的标准差为:
E-mail: fcst@vip.163.coBiblioteka Baidu http://www.ceaj.org
Tel: +86-10-89056056
多尺度量子谐振子优化算法物理模型*
王 鹏 1+,黄 焱 2,3
1. 成都信息工程学院 并行计算实验室,成都 610225 2. 中国科学院 成都计算机应用研究所,成都 610041 3. 中国科学院大学,北京 100049
王 鹏,黄 焱.多尺度量子谐振子优化算法物理模型[J].计算机科学与探索,2015,9(10):1271-1280.
ISSN 1673-9418 CODEN JKYTA8 Journal of Frontiers of Computer Science and Technology 1673-9418/2015/09(10)-1271-10 doi: 10.3778/j.issn.1673-9418.1502003
WANG Peng, HUANG Yan. Physical model of multi-scale quantum harmonic oscillator optimization algorithm. Journal of Frontiers of Computer Science and Technology, 2015, 9(10):1271-1280.
2010 年作者在文献[14]中提出了利用谐振子构 造算法的初步设想(当时称为模拟谐振子算法 SHO), 算法提出后引起了一些研究者的关注:文献[15]提出 用模拟谐振子算法来解决资源受限的多项目调度问 题,通过对比模拟谐振子算法和粒子群算法所得结 果,验证了前者的有效性;文献[16]基于模拟谐振子 提出了一种优化 K-means 聚类算法,该算法克服了 K-means 聚类算法对初始聚类中心选择敏感的问题, 能够获得全局最优的聚类划分;文献[17]利用有限马 尔科夫链理论对模拟谐振子算法的解状态矩阵变化 进行了分析,证明了当运算时间趋于无穷时,算法会 逐渐收敛于全局最优解;文献[18]将模拟谐振子算法 应用于求解整数规划问题,通过实验结果说明了该算 法在问题规模较大时具有高质量的搜索效率和精度。 文献[19]给出了多尺度量子谐振子优化算法(multi-scale quantum harmonic oscillator optimization algorithm, MQHOA)的完整实现方法,并成功应用于高维函数 优化问题,对于 15 种标准测试函数进行实验均能以 指定的精度(0.000 001)100%的概率获得全局最优解。
1 引言
利用物理模型构造优化算法是一种非常有效的 算法构造方法,其中最著名的优化算法是基于 1953 年提出的 Metropolis 选择准则[1]构造的模拟退火算法 (simulated annealing,SA),后来 Kirkpatrick 等人将其 成功地应用于组合优化问题[2-3]。模拟退火算法通过 多次等温迭代使算法达到低温条件下的平衡态。但 是该算法计算时间较长,控制参数较多,并且对参数 敏感,其参数的变化本身就是一个需要进行研究的 课题[4],因此在实际应用时多与其他优化算法结合使 用 。 基 于 量 子 理 论 的 退 火 算 法 —— 量 子 退 火 算 法 (quantum annealing,QA)于 20 世纪 90 年代被提出[5], 并引起了物理学界和计算机科学界的广泛关注。文 献[6]分析了量子退火算法在 DMC(diffusion Monte Carlo)过程中通过量子隧道效应跳出局部最优区域 的过程,对于量子隧道效应的利用是不少量子算法 实现全局优化的重要方法。文献[7]对比了经典退火 算法和量子退火算法对谐振子势能、双阱势能和抛 物线势能函数的优化性能。文献[8]利用 Ising 模型这 一描述相互作用粒子最简单的模型,并利用材料在 温度降低后系统从混乱到有序,在外加磁场的作用 下呈现出顺磁性这一原理构造了优化算法。量子波 函数的概率解释与优化算法随机求解过程的相似 性,使得基于量子物理模型的优化算法成为未来构 造新的优化算法的一个重要研究方向。量子退火算 法利用了量子波函数的概率特性,物理模型较为完 备,但是模型的数学过程复杂,算法实现困难,并且 算 法 实 际 性 能 也 未 能 得 到 有 效 的 证 实 [9],因 此 应 用 并不广泛[10]。近年来还出现了一种新的量子粒子群
算 法(quantum-behaved particle swarm optimization, QPSO)[11-12],该算法利用 δ 势阱下的量子波函数构造 粒子进化公式,通过不断减小特征长度逐步实现局 域化的新解采样,从而达到算法收敛的目的。该算 法需要人为指定迭代次数,并且由于使用的 Bi(t) δ U 势阱对应的波函数收敛速度过快,对算法求解精度 造成了影响。文献[13]使用了谐振子势阱构造算法, 但是该算法并未有效利用量子谐振子的波函数完整 模型,对于多个函数的测试表明算法的稳定性和精 度都不高。
王 鹏 等:多尺度量子谐振子优化算法物理模型
1273
MQHOA 算法利用谐振子运动的物理含义与优 化问题之间的对应关系,根据量子谐振子波函数的 概率解释构造出了一种新的具有简单数学结构和明 确物理含义的优化算法。本文重点对这一算法的物 理 模 型 进 行 研 究 ,并 针 对 复 杂 函 数 优 化 问 题 将 MQHOA 算法的结果与 SA 算法和 QPSO 算法的结果 进行对比。
Received 2015-01, Accepted 2015-03. CNKI 网络优先出版:2015-04-14, http://www.cnki.net/kcms/detail/11.5602.TP.20150414.1133.003.html
1272
Journal of Frontiers of Computer Science and Technology 计算机科学与探索
Abstract: Multi-scale quantum harmonic oscillator optimization algorithm (MQHOA) is a novel algorithm inspired by the physical model of harmonic oscillator and the probability interpretation of quantum harmonic oscillator’s wave function. This paper demonstrates the uncertainty relationship between global searching accuracy and local searching accuracy, and defines the wave function of MQHOA according to quantum model. Quantum harmonic oscillator convergence and multi-scale convergence are nested, and are the basic convergence processes of MQHOA to gradually approach the global optimal solution. The comparison experiments with quantum-behaved particle swarm optimization (QPSO) and simulated annealing (SA) on 15 benchmark functions show that MQHOA has good performance in adaptability, stability and accuracy when tackling with function global optimization algorithm. Key words: multi-scale quantum harmonic oscillator optimization algorithm (MQHOA); optimization algorithm; uncertainty relationship; Gauss random number
Physical Model of Multi-Scale Quantum Harmonic Oscillator Optimization Algorithm������
WANG Peng1+, HUANG Yan2,3
1. Parallel Computing Lab, Chengdu University of Information Technology, Chengdu 610225, China 2. Chengdu Institute of Computer Application, Chinese Academy of Sciences, Chengdu 610041, China 3. University of Chinese Academy of Sciences, Beijing 100049, China + Corresponding author: E-mail: wp002005@163.com
2015, 9(10)
摘 要:依据谐振子物理模型及量子谐振子波函数的概率解释构造了一种新的全局优化算法——多尺度量子 谐振子优化算法(multi-scale quantum harmonic oscillator optimization algorithm,MQHOA)。定义了算法的 波函数,并利用算符方法证明了全局搜索精度和局部搜索精度之间的测不准关系, 指出算法必须包含量子谐 振子收敛和多尺度收敛两个嵌套的基本收敛过程,才能实现对全局最优解的逐步逼近。通过与量子粒子群算 法和模拟退火算法对 15 种标准测试函数进行实验比对,证明了 MQHOA 在求解函数全局优化问题时具有更好 的适应性、稳定性和精确性。 关键词:多尺度量子谐振子优化算法(MQHOA);优化算法;测不准关系;高斯随机数 文献标志码:A 中图分类号:TP18