基于云推理的协方差矩阵自适应进化策略算法
高效秩-μ更新自动协方差矩阵自适应演化策略
高效秩-μ更新自动协方差矩阵自适应演化策略杨胜飞;苟刚【摘要】自动协方差矩阵自适应演化策略(active-CMA-ES)使用不成功的突变信息使计算协方差矩阵秩-μ更新的时间增加.cholesky因子更新协方差矩阵可有效减少计算时间,但目前只实现协方差矩阵cholesky因子秩-1更新.针对该问题,实现了协方差矩阵cholesky因子秩-μ更新.结合高效秩-1更新应用于active-CMA-ES 形成chol-active-CMA-ES.在一组基准测试函数中比较算法与其他CMA-ES变体的性能.实验结果表明,该算法在大部分测试函数中优于其他CMA-ES变体.协方差矩阵更新的时间比active-CMA-ES快约2.5倍至8.7倍.【期刊名称】《计算机应用与软件》【年(卷),期】2019(036)002【总页数】5页(P120-124)【关键词】自动协方差矩阵自适应演化策略;cholesky因子;秩-μ更新【作者】杨胜飞;苟刚【作者单位】贵州大学计算机科学与技术学院贵州贵阳550025;贵州大学计算机科学与技术学院贵州贵阳550025【正文语种】中文【中图分类】TP30 引言协方差矩阵自适应演化策略(CMA-ES)是应用最多、性能最好的演化策略(ES)[1]之一，由Hansen和Ostermeier[2-3]提出，主要应用实值优化问题，使函数值达到最小值且搜索成本最低。
CMA-ES易陷入局部最优，乔帅结合云推理改善陷入局部最优[4]，胡冠宇引入混沌算子使其具有良好全局搜索能力[5]。
CMA-ES的一般思想是在目标方向中使用成功搜索步骤的信息更改协方差矩阵的突变分布，不成功方向的信息随时间而丢弃。
CMA-ES发展不同的变体，如MA-ES[8]和使用不同的演化策略(μ+λ) [6]的精英CMA-ES[7],使用五分之一成功规则，可应用于求解多目标优化问题。
对于CMA-ES的不同变体，普遍存在更新协方差矩阵(秩-1和秩-μ)时间复杂度高的问题，计算协方差矩阵的秩-1和秩-μ时间为Θ((μ+1)n3)。
随机分形搜索算法
随机分形搜索算法葛钱星;马良;刘勇【摘要】现有的元启发式算法大多是模仿生物的群体运动来解决优化问题.为了进一步给优化算法的设计提供新的思路,受自然生长现象的启发,提出了一种新型的元启发式算法—随机分形搜索算法.该算法利用分形的扩散特性进行寻优,其优化原理完全不同于现有的元启发式算法.其中,算法的扩散过程采用高斯随机游走方式来开发问题的搜索空间,而更新过程则分别对个体的分量及个体本身采用相应的更新策略来进行更新,以此进行全局搜索和局部搜索,从而形成了一个完整的优化系统.通过对一系列典型的测试函数优化问题的求解实验并与其他算法进行比较,结果表明随机分形搜索算法不仅具有较高的计算精度,而且具有较快的收敛速度.【期刊名称】《计算机技术与发展》【年(卷),期】2019(029)004【总页数】6页(P1-6)【关键词】随机分形;随机分形搜索算法;扩散;更新;最优化【作者】葛钱星;马良;刘勇【作者单位】上海理工大学,上海 200093;上海理工大学,上海 200093;上海理工大学,上海 200093【正文语种】中文【中图分类】TP301.60 引言近年来，元启发式算法取得了巨大的发展，出现了许多有代表性的方法。
例如，遗传算法(genetic algorithm，GA)是基于生物进化论中“自然选择、适者生存”规律而提出的优化方法；粒子群优化算法(particle swarm optimization，PSO)是基于鸟群觅食行为规律而提出的群体智能优化方法[1]；人工蜂群算法(artificial bee colony，ABC)是基于蜜蜂群觅食行为特性而提出的优化方法[2]；蚁群算法(ant colony，AC)是基于蚁群在觅食过程中的行为特性而提出的仿生类算法[3]；引力搜索算法(gravitational search，GSA)是基于万有引力定律而提出的智能优化算法[4-5]；布谷鸟搜索算法(cuckoo search,CS)是基于布谷鸟的寄生育雏的行为特性而提出的元启发式算法[6-7]。
协方差矩阵自适应进化策略
协方差矩阵自适应进化策略协方差矩阵自适应进化策略，简称CMA-ES，是一种强大的优化算法，广泛应用于机器学习、自然语言处理以及仿真等领域。
CMA-ES算法通过自适应调整方向和步长来优化函数，从而不依赖于函数梯度，具有高效率和全局收敛性等优点。
下面，我将为大家分别从以下几个方面介绍协方差矩阵自适应进化策略：算法原理、步骤和优势。
算法原理CMA-ES算法的主要思想是使用高斯概率分布模拟搜索空间中的当前最优位置，并根据当前搜索点的历史信息来自适应地调整搜索策略。
具体来说，CMA-ES算法维护当前搜索点的均值向量μ和协方差矩阵Σ，并通过样本生成、适应度评估、进化策略更新μ和Σ等步骤来迭代优化。
步骤CMA-ES算法的步骤如下：1、初始化均值向量μ和协方差矩阵Σ。
可以将μ设置为搜索空间的中心位置，Σ设置为单位矩阵。
2、使用高斯分布生成N个样本，对每个样本进行适应度函数的评估。
3、根据适应度排序和选择操作，生成新的均值向量和协方差矩阵。
4、根据新的均值向量和协方差矩阵，重复步骤2和3，直到达到收敛标准。
优势相比于其他优化算法，CMA-ES算法拥有以下优势：1、不依赖梯度信息。
CMA-ES算法的搜索过程不需要计算或估计目标函数的梯度，适用于无法计算梯度或梯度计算困难的问题。
2、适应性强。
CMA-ES算法可以自适应地调整搜索策略，根据当前搜索点历史信息更新协方差矩阵，从而适应不同的优化问题。
3、更高的收敛速度和精度。
CMA-ES算法使用高斯分布模拟搜索空间，可以很好地探索和利用搜索空间的信息，从而具有更高的收敛速度和精度。
综合而言，协方差矩阵自适应进化策略是一种高效的优化算法，具有强大的适应性和全局收敛性。
在机器学习、自然语言处理等领域中，CMA-ES算法已经得到广泛应用，并取得了优异的优化效果。
模糊云资源调度的CMAPSO算法
模糊云资源调度的CMAPSO算法作者：李成严，宋月，马金涛来源：《哈尔滨理工大学学报》2022年第01期摘要：针对多目标云资源调度问题，以优化任务的总完成时间和总执行成本为目标，采用模糊数学的方法，建立了模糊云资源调度模型。
利用协方差矩阵能够解决非凸性问题的优势，采取协方差进化策略对种群进行初始化，并提出了一种混合智能优化算法CMAPSO算法（covariance matrix adaptation evolution strategy particle swarm optimization，CMAPSO ），并使用该算法对模糊云资源调度模型进行求解。
使用Cloudsim仿真平台随机生成云计算资源调度的数据，对CMAPSO算法进行测试，实验结果证明了CMAPSO算法对比PSO算法（particle wwarm optimization），在寻优能力方面提升28%，迭代次数相比提升20%，并且具有良好的负载均衡性能。
关键词：云计算;任务调度;粒子群算法; 协方差矩阵进化策略DOI：10.15938/j.jhust.2022.01.005中图分类号： TP399 文献标志码： A 文章编号： 1007-2683（2022）01-0031-09CMAPSO Algorithm for Fuzzy Cloud Resource SchedulingLI Chengyan，SONG Yue，MA Jintao（School of Computer Science and Technology， Harbin University of Science and Technology， Harbin 150080，China）Abstract：Aiming at the multiobjective cloud resource scheduling problem， with the goal of optimizing the total completion time and total execution cost of the task， a fuzzy cloud resource scheduling model is established using the method of fuzzy mathematics. Utilizing the advantage of the covariance matrix that can solve the nonconvexity problem， adopting the covariance evolution strategy to initialize the population， a hybrid intelligent optimization algorithm CMAPSO algorithm （covariance matrix adaptation evolution strategy particle swarm optimization，CMAPSO） is proposed to solve the fuzzy cloud resource scheduling model. The Cloudsim simulation platform was used to randomly generate cloud computing resource scheduling data， and the CMAPSO algorithm was tested. The experimental results showed that compared with the PSO algorithm （particle swarm optimization）， the optimization capability of CMAPSO algorithm is increased by 28%， the number of iterations of CMAPSO algorithm is increased by 20%， and it has good load balancing performance.Keywords：cloud computing; task scheduling; particle swarm algorithm; covariance matrix adaptation evolution strategy0引言云計算是一种商业计算的模型和服务模式[1]，而云计算资源调度的主要目的是将网络上的资源进行统一的管理和调式，再给予用户服务调用。
自适应协方差矩阵进化策略算法
自适应协方差矩阵进化策略算法作者：程沙沙来源：《中国管理信息化》2014年第12期[摘要] 自适应协方差矩阵进化策略（CMA-ES）算法是Nikolaus Hansen等人提出的一种新的进化算法，通过模拟自然界生物进化过程，达到寻优目的。
多个测试函数结果表明，该算法具有全局性能好、寻优效率高的特点，为解决高计算代价复杂工程优化问题的求解提供了新的途径。
[关键词] 优化算法；自适应协方差矩阵进化策略算法；测试函数doi ： 10 . 3969 / j . issn . 1673 - 0194 . 2014 . 12. 057[中图分类号] TP301.6 [文献标识码] A [文章编号] 1673 - 0194（2014）12- 0091- 03本文拟通过测试基准函数来研究CMA-ES算法的全局性和高效性。
1 CMA-ES算法基本原理CMA-ES算法通过动态的步长参数σ和动态的正定协方差矩阵C来引导种群的突变进化方向，其基本方程如下：xk（g+1）=m（g）+σ（g）N（0，C（g））（1）式中，xk（g+1）∈Rn是g+1代中的第k个个体；m（g）是g代种群适应度的平均值；σ（g）是g代种群进化的步长；C（g）是第g代种群进化的协方差矩阵。
具体实施步骤如下：步骤1 启动Matlab环境下的优化程序，设置CMA-ES算法相关参数。
步骤2 从给定的或者随机产生的一个初始搜索点出发，以该初始点为搜索中心，按照一定的概率密度随机生成第一代种群（λ个），并评价该种群中所有个体的适应度。
步骤3 根据适应度大小选择适应度较好的μ个个体组成新的种群来更新进化策略参数σ和C。
利用进化策略参数调整下一代种群的进化方向，从而进行突变生成下一代种群。
步骤4 对当前种群所有个体进行适应度评价，根据适应度大小选出最优解，对当前最优解进行收敛条件判断。
如满足收敛条件则退出计算，当前最优解即为全局最优解；否则，返回步骤3。
受篇幅限制，CMA-ES算法基本原理详见文献。
基于CMAES-SVR的WLAN室内定位算法研究
0
引言
移动智能终端的广泛应用和无线网络的迅速发展与普及，
促进了基于位置服务应用需求的大幅增长，在定位导航、医疗 救护、物流货运等生产生活领域均展示出了基于位置服务的巨 大发展潜力和应用前景
错误 ! 未找到引用源。
。而如何确定用户的位置信
息是基于位置服务的核心问题。由于室内环境复杂多变，全球 定位系统（global position system，GPS）不能满足人们对于室 内定位精度的要求。目前室内定位技术依据不同的介质可分为 基于特定设备的定位方法基于 WLAN 信号的定位方法，以及
基于 CMAES-SVR 的 WLAN 室内定位算法研究 ———————————————————————————————————————————————— 引用格式 饶华, 王忠, 李欣. 基于 CMAES-SVR 的 WLAN 室内定位算法研究[J/OL]. 2019, 36(12). [201810-10]. /article/02-2019-12-040.html.
错误!未找到引用源。 ~错误!未找到引用源。
进行 N 次采样，得到 RSS 信号 rssi , j rssi , j ,1, rssi , j ,2 , 服从高斯分布，即
rssi , j ~ N ( , 2 )
, rssi , j , N
(1)
1 N
1 rssi, j ,k , N k 1
第 36 卷第 12 期 录用定稿
计算机应用研究 Application Research of Computers
Vol. 36 No. 12 Accepted Paper
基于 CMAES-SVR 的 WLAN 室内定位算法研究
CMA—ES算法优化网络安全态势预测模型
CMA—ES算法优化网络安全态势预测模型作者：杨明胡冠宇刘倩来源：《哈尔滨理工大学学报》2017年第02期摘要：针对网络安全态势预测问题，提出了一种预测方法。
该方法采用协方差矩阵自适应进化策略（CMAES）算法来优化径向基神经网络（RBF）预测模型中的参数，使得RBF预测模型具备更好的泛化能力，可以快速的找出复杂时间序列中的规律。
仿真实验结果表明，采用CMAES优化的RBF预测模型能够准确预测出一段时间内的网络安全态势值，预测精度高于传统预测手段。
关键词：网络安全态势预测； CMAES优化算法； RBF神经网络；时间序列预测DOI：1015938/jjhust201702026中图分类号： TP3930文献标志码： A文章编号： 1007-2683（2017）02-0140-05Abstract：A method for network security situation prediction is proposed， where the covariance matrix adaptation evolution strategy algorithm （CMAES） is used to optimize the parameters of the radial basis function neural network forecasting model （RBF）， which makes the forecasting model have superior ability， and can quickly find out the rules of the complex time series The simulations results show that the proposed method can accurately predict the network security situation， and has better prediction accuracy than traditional prediction methodsKeywords：network security situation prediction； covariance matrix adaptation evolution strategy algorithm； Radial basis function neural network； time series prediction0引言随着网络技术的广泛使用和快速发展，网络系统开始呈现出越来越复杂的趋势。
求解全局优化问题的正交协方差矩阵自适应进化策略算法【优质】
求解全局优化问题的正交协方差矩阵自适应进化策略算法摘要:针对协方差矩阵自适应进化策略(cmaes)求解高维多模态函数时存在早熟收敛及求解精度不高的缺陷, 提出一种融合量化正交设计(od/q)思想的正交cmaes算法。
首先利用小种群的cmaes 进行快速搜索, 当算法陷入局部极值时, 依据当前最好解的位置动态选取基向量, 接着利用od/q构造的试验向量探测包括极值附近区域在内的整个搜索空间, 从而引导算法跳出局部最优。
通过对6个高维多模态标准函数进行测试并与其他算法相比较, 其结果表明, 正交cmaes算法具有更好的搜索精度、收敛速度和全局寻优性能。
关键词:协方差矩阵自适应进化策略;正交设计;高维多模态;进化策略;函数优化hybrid orthogonal cmaes for solving global optimization problemshuang ya.fei 1,2 * , liang xi.ming 1, chen yi.xiong 11. school of information science and engineering, central south university, changsha hunan 410083, china ;2. school of electric and information engineering, changshauniversity of science and technology, changsha hunan 410114, chinaabstract:in order to overcome the shortcomings of covariance matrix adaptation evolution strategy(cmaes), such as premature convergence and low precision, when it is used inhigh-dimensional multimodal optimization, an hybrid algorithm combined cmaes with orthogonal design with quantization(od/q) was proposed in this study. firstly, the small population cmaes was used to realize a fast searching. when orthogonal cmaes algorithm trapped in local extremum, base vectors for od/q were selected dynamically based on the position of current best solution. then the entire solution space, including the field around extreme value, was explored by trial vectors generated by od/q. the proposed algorithm was guided by this process jumping out of the local optimum. the new approach is tested on six high-dimensional multimodal benchmark functions. compared with other algorithms, the new algorithm has better search precision, convergent speed and capacity of global search. in order to overcome the shortcomings of covariance matrix adaptation evolutionstrategy (cmaes), such as premature convergence and low precision, when it is used in high.dimensional multimodal optimization, a hybrid algorithm combined cmaes with orthogonal design with quantization (od/q) was proposed. firstly, the small population cmaes was used to realize a fast searching. when orthogonal cmaes algorithm trapped in local extremum, base vectors for od/q were selected dynamically based on the position of current best solution. then the entire solution space, including the field around extreme value, was explored by trial vectors generated by od/q. the proposed algorithm was guided by this process jumping out of the local optimum. the new approach was tested on six high.dimensional multimodal benchmark functions. compared with other algorithms, the new algorithm has better searching precision, convergence speed and capacity of global search. key words:covariance matrix adaptation evolution strategy (cmaes); orthogonal design; high.dimensional multimodal; evolutionary strategy (es); function optimization0 引言科学、工程和商业等领域存在大量全局优化问题, 通常可将它们描述为有界约束函数:协方差矩阵自适应进化策略(covariance matrix adaptation evolution strategy, cmaes)是在进化策略(evolution strategy, es)的基础上发展起来的一种高效搜索算法 ［1］ , 它将es的可靠性、全局性与自适应协方差矩阵的高引导性结合起来, 对求解非凸非线性优化问题具有较强的适应性, 目前以其良好的寻优性能在优化领域备受关注 ［2-5］ 。
基于云推理的协方差矩阵自适应进化策略算法
基于云推理的协方差矩阵自适应进化策略算法乔帅;续欣莹;阎高伟【摘要】In order to overcome the shortcomings of covariance matrix adaptation evolution strategy (CMA-ES)such as premature conver-gence and low precision when being used in some optimisation problems,by making use of the good ability of cloud model in dealing with un-certainty problems,we improve the step-size control process of CMA-ES and find a cloud reasoning-based improved CMA-ES algorithm.After building the cloud reasoning model of step-size control,the improved algorithm achieves step-size control by using uncertainty reasoning of cloud model,and avoids the deficiency of original algorithm that it uses deterministic function mapping for step-size scale but ignores the un-certainty in evolution process.Finally,through test functions we verify that the improved algorithm has higher optimisation performance.%针对协方差矩阵自适应进化策略（CMA-ES）在求解某些问题时存在早熟收敛、精度不高等缺点，通过利用云模型良好的不确定性问题处理能力对 CMA-ES 的步长控制过程进行改进，得到一种基于云推理的改进 CMA-ES 算法。
用MATLAB实现进化策略算法——求特定方程的极小值
用MATLAB实现进化策略算法——求特定方程的极小值许兴鹍
【期刊名称】《广东交通职业技术学院学报》
【年(卷),期】2007(006)001
【摘要】文中描述了一种利用进化策略算法对特定函数进行求值的解决方法,其中,编程工具为MATLAB.首先,对进化策略算法进行了系统阐述,其中,包括进化策略算法基本原理,阐述了交叉、变异、选择的工作原理;接着,就实际函数求极小值的问题的具体实现进行了描述;最后,根据实验的结果,讨论了对该算法的一些改进.
【总页数】4页(P53-56)
【作者】许兴鹍
【作者单位】广东交通职业技术学院,广东广州,510650
【正文语种】中文
【中图分类】O17
【相关文献】
1.用基于模拟退火算法的进化策略求解非线性方程组 [J], 邬丽丽;王知人;朱成娟
2.用个体独立优化进化策略求非线性方程的近似根 [J], 王冬冬;周永权
3.求列表极小值的量子算法 [J], 宋辉;戴葵;王志英;潘莉
4.基于矩阵的求最短路的逐次逼近算法及MATLAB实现 [J], 李伟鹏
5.求线性方程组AX=b通解的Matlab实现程序 [J], 高东杰
因版权原因，仅展示原文概要，查看原文内容请购买。
自适应学习算法设计
▪ 自适应学习算法的应用场景
1.自适应学习算法广泛应用于深度学习、自然语言处理、计算 机视觉等领域。 2.在大数据和人工智能时代，自适应学习算法成为许多机器学 习任务中的首选优化算法。 3.自适应学习算法的应用前景广阔，未来将进一步拓展到更多 的领域和任务中。 ---
自适应学习算法概述
▪ 自适应学习算法的优缺点分析
算法复杂度与性能评估
▪ 实验设计与数据分析
1.设计合适的实验是评估算法性能的重要环节，需要考虑实验 数据集、对比算法、参数设置等因素。 2.数据分析是实验评估的关键步骤，需要运用合适的统计方法 和数据可视化技术，以便准确地解读实验结果。 3.在实验设计中，需要注意避免偏差和干扰因素，以确保实验 结果的可靠性和准确性。
1.梯度下降法：利用梯度信息，对模型参数进行迭代优化。 2.自适应学习率：使用Adam、RMSProp等自适应学习率方法 ，提高参数优化效率。 3.批量归一化：通过批量归一化操作，加速参数收敛，提高模 型训练稳定性。
▪ 集成学习方法
1.Bagging与Boosting：利用Bagging和Boosting方法，集 成多个基模型，提高整体预测性能。 2.Stacking：采用Stacking方法，将多个基模型进行分层集成 ，进一步优化模型性能。
实例分析与算法应用
▪ 算法训练与评估
1.使用合适的训练集和测试集对算法进行训练和评估，确保算法的可靠性和鲁棒性 。 2.采用多种评估指标对算法性能进行全面评估，包括准确率、召回率、F1分数等。
▪ 算法应用与部署
算法设计的基本原则
▪ 利用分治策略
1.分解问题：将复杂问题分解为更小、更易于解决的子问题。 2.合并解：将子问题的解合并成原问题的解。
【国家自然科学基金】_代价敏感支持向量机_基金支持热词逐年推荐_【万方软件创新助手】_20140802
科研热词 支持向量机 客户细分 客户价值 代价敏感学习
推荐指数 2 2 2 2
2010年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
科研热词 推荐指数 支持向量机 4 代价敏感 2 非对称误分类代价 1 非对称拒识代价 1 进化算法 1 模糊推理系统 1 故障检测 1 接收机工作特性分析 1 孤立点检测 1 参数选择 1 协方差矩阵自适应进化策略 1 代价敏感支持向量机 1 代价敏感学习 1 不平衡分类 1 smote算法 1 k近邻方法 1
2013年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
2013年 科研热词 推荐指数 支持向量机 2 拒识代价 2 代价敏感 2 非对称拒识代价 1 误分类代价 1 结构风险最小化 1 结构化支持向量机(stasvm) 1 特征提取 1 极限学习机 1 敏感分类器 1 多数投票 1 基因表达数据 1 分类可靠性 1 人眼检测 1 不平衡数据 1
2014年 序号 1 2 3 4
科研热词 计算机视觉 行人检测 核函数 代价敏感
推荐指数 1 1 1 1
2011年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
科研热词 支持向量机 非平衡数据问题 贝叶斯一致性 粒子群 类不平衡样本集 氧化铝蒸发过程 数据漂移 客户细分 大规模数据 加权边缘 代价敏感支持向量机 代价敏感学习 代价敏感分类 代价敏感 不均衡数据
推荐指数 3 1 1 1 1 1 1 1 1 1 1 1 1 1 1
Байду номын сангаас
2012年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14
基于改进cma-es算法的机器人轨迹规划
Robot Trajectory Planning Based on Improved CMA - ES Algorithm
ZHAO Yun -t a o 1'2, MEI Wei1'2, LI Wei - gang1'2 , LIU Peng1
(1. Engineering Research Center for Metallurgical Automation and Detecting Technology of Ministry of Education, Wuhan University ofScience and Technology, Wuhan Hubei 430081 , China；
A BSTR A C T ：Aiming at the problem thatthejointstateofindustrial robot can not reach the maximum constraint and affect the work efficiency，a time optimal trajectory planning method based on improved covariance matrix adaptation evolution strategy algorithm is proposed. Firstly, the 1/5 success rule was introduced to adjust the population scale and the step size of the covariance matrix adaptation evolution strategy algorithm CMA - ES in order to improve the optimization efficiency ofthe algorithm. Then the PUMA560 industrial robot was taken as an example toplan the tra ditional 3 - 5 - 3 polynomial interpolation trajectory. Finally, with the minimum time as the goal, the penalty func tion method was used todeal with the speed and acceleration constraints, and the improved CMA - ES algorithm was used to optimize the trajectory of the robot. The simulation results show that the performance of the improved algo rithm isenhanced, the trajectory time optimized by the improved CMA - ES algorithm issignificantly less than the un - optimized, and the convergence speed ofthe algorithm isfast. The algorithm has the validity and feasibility, and it improves the working efficiency of the robot. K EY W O R D S ：Robot；1/5 success rule；Time - optimal trajectory planning
连续昂贵多目标优化问题综述
第 22卷第 5期2023年 5月Vol.22 No.5May 2023软件导刊Software Guide连续昂贵多目标优化问题综述张峰，陈新中（中国电子科技集团公司第二十八研究所，江苏南京 210007）摘要：许多实际工程优化问题通常需要同时优化多个相互冲突的目标，并且目标函数的计算主要依赖十分耗时的仿真实验，此类问题一般可称为昂贵多目标优化问题。
代理辅助进化算法通过使用机器学习方法建立代理模型，并辅助算法进行评估，因而使代理辅助进化算法成为解决此类问题的热门方法。
根据问题规模大小将相关算法划分成两类，描述每类问题特点，分类梳理相关算法，并说明每个算法的优缺点，以便人们能直观地了解连续昂贵多目标优化问题研究进展，更好地开展后续研究工作。
关键词：多目标优化；昂贵多目标优化；代理辅助进化算法；代理模型；机器学习DOI：10.11907/rjdk.221626开放科学（资源服务）标识码（OSID）：中图分类号：TP18 文献标识码：A文章编号：1672-7800（2023）005-0248-05Survey of Continuous Expensive Multiobjective Optimization ProblemsZHANG Feng， CHEN Xin-zhong（The 28th Research Institute of China Electronics Technology Group Corporation， Nanjing 210007， China）Abstract：Many practical engineering optimization problems usually involve optimizing multiple conflicting objectives at the same time， and the calculation of the objective function mainly relies on time-consuming simulation experiments， such problems can generally be called ex‐pensive multiobjective optimization problems. Surrogate-assisted evolutionary algorithms use machine learning methods to build surrogate mod‐els and assist algorithms for evaluation， which makes surrogate-assisted evolutionary algorithms a popular method to solve such problems. Ac‐cording to the scale of the problem， the relevant algorithms are divided into two categories， the characteristics of each type of problem are de‐scribed， the related algorithms are classified and sorted out， and the advantages and disadvantages of each algorithm are explained， so that people can intuitively understand the research progress of continuous expensive multiobjective optimization problems and better carry out fol‐low-up research work.Key Words：multiobjective optimization； expensive multiobjective optimization； surrogate-assisted evolutionary algorithm； surrogate mod‐el； machine learning0 引言许多实际工程优化问题，通常涉及同时优化多个相互冲突的目标，此类问题可称为多目标优化问题（Multiobjec‐tive Optimization Problem，MOP）［1-4］。
自适应协方差矩阵进化策略算法
ｄ ｏ ｉ ： １ ０ ． ３ ９ ６ ９ ８． ｉ ＠ ８ ｎ ． １ ６ ７ ３—０ １ ９ ４ ． ２ ０ １ ４ ． １ ２ ． ０ ５ ７ ［ 中图分类号】Ｔ Ｐ ３ ０ １ － ６ ［ 文献标识码］Ａ ［ 文章编号 ］１ ６ ７ ３ — ０ １ ９ ４ （ ２ ０ １ ４ ） １ ２ － ０ ０ ９ １ — ０ ３
‘ Ｈ ＝ ， 挖 ‘ ｇ ＋ 口 。 Ｗ（ Ｄ ， Ｃ ） （ １ ）
源／ 目的 地址 、 流 向进 行 审核 ． 严 格控 制外 网用 户 非 法 访 问 。对 校 ５ ． ７ 遵循“ 最小授权 ” 原则和采用 “ 信 息加 密 ” 技 术 园 网 用 户 进行 流量 控 制 ． 依 据 时 间安 全 规 则 变 化 策 略 ． 控制 内网
程 沙沙
（ 广 西建 设 职 业 技 术 学 院 ， 南宁 ５ ３ ０ ０ ０ ３ ）
［ 摘 要】自适 应 协 方 差 矩 阵 进化 策略 （ ＣＭａ － ￣ Ｓ ） 算 法是 Ｎｉ ｋ ｏ ｌ ａ ｕ ｓ Ｈａ ｎ ｓ ｅ ｎ等人 提 出 的一 种新 的进 化 算 法 ． 通 过 模 拟 自然界 生物 进 化 过 程 ， 达 到 寻 优 目的 。多个 测 试 函数 结 果 表 明 ， 该算 法具 有 全 局 性 能 好 、 寻 优 效 率 高的特 点 ． 为 解 决 高计 算 代 价 复
小限度 ． 及 时 删 除 不 必 要 的 账 号 等
用 户访 问外 网时 间 。定 期 查 看 防 火 墙 访 问 日志 ． 对 防火 墙 的管 理 安 全 漏 洞 就 会 越 多 。 “ 最 小 授权 ” 原 则 是 指 网 络 中 的 账号 设 置 、 服
【国家自然科学基金】_自适应有限元方法_基金支持热词逐年推荐_【万方软件创新助手】_20140730
2009年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 介质 自适应方法 理查德方程 非协调元 间断有限元方法 超逼近及超收敛 自适应迎风有限元 自适应多尺度有限元方法 自适应多尺度基函数 自由枝晶生长 相场模型 界面能各向异性 材料计算 有限元方法 数值模拟 拉力系数 抛物型积分微分方程 多尺度模拟 多尺度有限元方法 圆柱绕流 后验误差估计 各向异性 双曲守恒律方程 动力学各向异性 分子动力学 navier-stokes方程
2013年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51
推荐指数 2 2 2 2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1
2010年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16
科研热词 间断有限元方法 面齿轮 非线性振动 裂纹 自适应计算 自适应有限元方法 自适应方法 稳定性和收敛性 特征线方法 椭圆边值问题 多尺度模拟 后验误差估计 双曲守恒律方程 动态响应 动力学行为 burgers方程
2012年 序号 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37
科研热词 推荐指数 自适应有限元法 2 高阶矢量有限元方法 1 高阶hellan-herrmann-johnson方法 1 高精度逼近 1 非饱和渗流 1 随钻电阻率测井 1 间断galerkin方法 1 边值问题 1 跳跃机器人 1 起伏地形 1 计算复杂度 1 落地冲击 1 自适应过程 1 自适应有限元方法 1 自适应有限元 1 自适应方法 1 正演模拟 1 欠松弛 1 柔性脚 1 有限元法 1 有限元方法 1 有限元 1 时间步长自适应 1 时空离散 1 断层 1 数值模拟 1 收敛性 1 指数收敛 1 局部平均 1 对流扩散方程 1 变量变换 1 发光 1 双网 1 mt 1 kirchhoff板弯问题 1 em算法 1 af 1
协方差矩阵自适应进化算法
协方差矩阵自适应进化算法哎呀，说起这个协方差矩阵自适应进化算法嘛，咱先不讲那些高深的理论，咱们用方言来摆摆龙门阵。
四川话来说哈，这个算法嘛，就像咱们四川的火锅一样，各种食材（参数）都得搭配得刚刚好，才能煮出一锅好味道。
协方差矩阵就像那个火锅底料，得调得适中，不然要么太辣要么太淡，吃起来就不对味儿了。
自适应进化呢，就像咱们四川人调火锅底料一样，根据口味慢慢调整，直到找到那个最合适的味道。
再来说说贵州话吧，这个算法嘞，有点像咱们贵州的苗家酸汤鱼。
那个酸汤啊，就是关键，要酸得恰到好处，才能让鱼肉更加鲜美。
协方差矩阵就是这个酸汤的配方，得精准控制，才能煮出好味道。
自适应进化呢，就像是咱们贵州人试味道一样，一点一点地调整，直到找到那个最对胃口的味道。
陕西方言来说嘛，这个算法就像咱陕西的羊肉泡馍。
那羊肉得炖得烂烂的，馍要掰得碎碎的，再浇上那香浓的羊肉汤，哎呀，美得很！协方差矩阵就是这个羊肉汤的调料，得放得适量，才能让整个泡馍味道醇厚。
自适应进化呢，就像咱陕西人炖羊肉一样，火候要掌握好，慢慢地熬，才能熬出那个醇香的味道。
最后说说北京话吧，这个算法啊，就像咱北京的烤鸭。
那鸭子得选得好，烤得也要恰到好处，皮儿得脆脆的，肉儿得嫩嫩的，吃起来那叫一个香！协方差矩阵就是这个烤鸭的腌料配方，得用得得当，才能让鸭子味道十足。
自适应进化呢，就像咱北京人烤鸭子一样，得掌握好火候和技巧，才能烤出那只皮脆肉嫩的烤鸭来。
所以啊，这个协方差矩阵自适应进化算法嘛，就像咱们各地的美食一样，都得掌握好那个度，才能做出好味道来。
不管是四川的火锅、贵州的酸汤鱼、陕西的羊肉泡馍还是北京的烤鸭，都得用心去调、去炖、去烤，才能做出那个让人回味无穷的味道来。
同理啊，这个算法也得用心去调整、去优化，才能找到那个最合适的参数组合，让算法性能达到最优。
WSN中节点分布的协方差矩阵自适应优化策略
WSN中节点分布的协方差矩阵自适应优化策略张梦蓓;乔帅【摘要】针对无线传感器网络( WSNs )中传感器节点的分布优化问题，提出了一种基于协方差矩阵自适应进化策略( CMA-ES)的网络节点分布优化方法。
首先，以最大化网络的区域覆盖率为目标建立问题的求解模型，然后，采用CMA-ES算法对模型求解得到网络最优的节点位置分布方案。
仿真对比实验表明：CMA-ES算法可以很好地解决无线传感器网络节点的分布优化问题，相比于传统遗传算法、基本粒子群算法和差分进化算法，表现出较快的寻优速度和更高的区域覆盖率。
%Aiming at the node distribution optimization problem of Wireless Sensor Networks ( WSNs) ,then a method for net-work node distribution optimization based on Covariance Matrix Adaptation Evolution Strategy ( CMA-ES) was proposed. Firstly, for the goal of maximizing network area coverage rate,the solving model was established,and then the model was solved using CMA-ES algorithm,and the optimal node distribution scheme for WSNs was got. Simulation comparative experiments show that CMA-ES algorithm can efficiently solve the distribution optimization problem of wireless sensor network node,comparing with traditional genetic algorithm,particle swarm optimization algorithm and differential evolution algorithm,and CMA-ES achieves faster optimiza-tion speed and higher area coverage rate.【期刊名称】《仪表技术与传感器》【年(卷),期】2016(000)002【总页数】4页(P80-82,86)【关键词】无线传感器网络;协方差矩阵自适应进化策略;分布优化;区域覆盖率【作者】张梦蓓;乔帅【作者单位】太原理工大学信息工程学院，山西太原 030024;太原理工大学信息工程学院，山西太原 030024【正文语种】中文【中图分类】TP393无线传感器网络[1]由大量的低耗、廉价、微型的传感器节点组成，各传感器节点通过信息感知与相互通信完成各项监测任务，在众多领域广泛应用。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第33卷第8期2016年8月计算机应用与软件Computer Applications and SoftwareVol.33 No.8Aug.2016基于云推理的协方差矩阵自适应进化策略算法乔帅续欣莹阎高伟(太原理工大学信息工程学院山西太原〇3〇〇24)摘要针对协方差矩阵自适应进化策略（C M A-E S)在求解某些问题时存在早熟收敛、精度不高等缺点，通过利用云模型良好的不确定性问题处理能力对C M A-E S的步长控制过程进行改进,得到一种基于云推理的改进C M A-E S算法。
该算法通过建立步长控 制的云推理模型，采用云模型的不确定性推理来实现步长的控制，避免了原算法采用确定的函数映射进行步长伸缩变化而忽视进化 过程中不确定性的不足。
最后通过测试函数验证了改进算法具有较高的寻优性能。
关键词协方差矩阵自适应进化策略云推理步长控制全局优化中图分类号T P306.1文献标识码A D01：10. 3969/j. issn.1000-386x. 2016. 08. 054IMPROVED CMA-ES ALGORITHM BASED ON CLOUD REASONINGQiao Shuai Xu Xinying Yan Gaowei(College of Information Engineering, Taiyuan University of Technology, Taiyuan 030024 , Shanxi, China)Abstract In order to overcome the shortcom ings o f covariance m a trix adaptation evo lu tion strategy (C M A-E S)such as prem ature convergence and low precision when being used in some o p tim isation p ro b le m s,b y m a kin g use o f the good a b ility o f cloud m odel in dealing w ith u nce rta in ty p ro b le m s,w e im prove the step-size control process o f C M A-E S and fin d a cloud reasoning-based im proved C M A-E S a lg o rith m.A fte r b u ild in g the cloud reasoning m odel o f step-size c o n tro l,the im proved a lgo rithm achieves step-size con trol by using u n ce rta in ty reasoning of cloud m o d e l,a n d avoids the d e ficie n cy o f o rig in a l a lgo rithm that it uses d e te rm in istic fu n c tio n m apping fo r step-size scale b u t ignores the u nce rta in ty in evo lu tio n process.F in a lly,through test fu n ctio n s we v e rify th a t the im proved a lgo rithm has h ig h e r o p tim isation perform ance. Keywords Covariance m a trix adaptation evo lu tion strategy (C M A-E S)C loud reasoning Step-size con trol G lobal op tim isation〇引言协方差矩阵自适应进化策略（C M A-E S)是一种高效的群体 随机搜索进化策略算法,具有不依赖种群大小、收敛速度快、全 局性能好等优点，以其优良的寻优性能在实值优化领域备受关 注[1]。
同其他进化类算法一样，其在求解某些复杂的多峰函数 问题时仍存在易早熟收敛、求解精度不高等缺点。
目前,许多学者从不同的角度对算法进行了改进。
文献 [2]为算法设置重启，通过动态地增大种群规模来获得较强的 全局搜索性能;文献[3]通过正交设计构造正交试验向量来引 导算法跳出局部最优;文献[4]通过限制协方差矩阵为对角阵 来降低算法的时空复杂度。
云模型具有良好的不确定性建模与处理能力W。
近年来，众多学者将云模型应用于进化算法领域，取得了一定的成果。
其中，文献[6]提出云遗传算法（C G A)，利用Y条件云实现交叉 操作,基本云实现变异操作，最后证明了算法的有效性,具有一 定的参考价值。
文献[7]提出了基于云模型的进化算法，在定 性知识的控制下自适应地控制遗传和变异的程度，较好地避免 了传统G A易陷人局部和早熟收敛等问题。
文献[8]将云模型 与粒子群算法（PS0)结合，通过将粒子分群，利用X条件云自适 应地控制普通粒子的惯性权重，具有较高的计算精度和较快的收敛速度。
进化过程充满了不确定性，C M A-E S中种群进化的步长采 用确定函数映射进行伸缩变化，其不能很好地反映进化过程的 不确定性。
本文基于云模型对不确定性问题良好的处理能力，通过利用云模型的不确定推理对C M A-E S步长控制进行改进, 得到了一种基于云推理的C M A-E S改进算法。
该算法利用云模 型对不确定性问题良好的建模和推理能力来克服C M A-E S中步 长确定性控制过程的不足,通过建立求解问题的步长控制云推 理模型，来更好地处理和利用进化过程中的不确定性。
最后通 过测试函数的数值优化实验，验证了算法在求解成功率、求解精 度、稳定性和收敛速度等方面的良好性能。
1 CMA-ES 算法C M A-E S算法是在进化策略(E S)算法的基础上发展起来的 一种算法,其继承了基本E S的优点，并与高引导性的协方差矩 阵结合起来。
C M A-E S的主要操作是变异，变异操作通过采样 多维正态分布来实现，算法的实现过程为：算法1 C M A-E S算法收稿日期:2015 -03 - 27。
国家自然科学基金项目（61450011);山西省自然科学基金项目（2011011012 - 2)。
乔帅，硕士生，主研领域:智能信息处理与进化计算。
续欣莹,副教授。
阎高伟,教授。
第8期乔帅等:基于云推理的协方差矩阵自适应进化策略算法243步骤1参数设置及初始化。
设置求解问题的静态参数A、K、wi=1，…七八人、〜人、(^等；动态参数m e R N，C= I e RN xN，ae/T，进化路径& =〇，凡=0,代数客=0。
步骤2正态采样。
采样多维正态分布生成由A个个体组 成的种群，采样过程为：^u+D=m(g)+〇.(g) .yyA(〇?c u))A：= 1,2,.",A(1)步骤3评价与选择。
根据适应度函数逐个评价种群中的 个体，并根据评价的结果进行排序，选出排名靠前的M个个体组 成当前最优子群。
步骤4根据步骤3的最优子群信息更新种群分布参数 如下：步骤4. 1移动均值。
均值m的更新计算如下：，+1) = |>，a+1)(2)i =1其中，#+1)表示第^ + 1代种群中排名第〖的个体。
步骤4.2协方差矩阵调整。
以+1) =(l-c>，) +h(f+ l)^cc(2-cc)^ftW g+ l)-m^)/cr^(3) Cu+1) = (1 _C l _C/J C U) ++S(h(f+ 1))C(g)) +i = l其中 y!f A+1) =(4l+1)步骤4.3全局步长控制。
P(f+ 1)=^-c J p(f +、八“2-~)〜广)-士(，+1)-m^)/a{g)(5)，+1) =，)exP(C A|^+1) ||/五（||_,/|| ) -l)/〇(6)步骤5判断是否达到停止条件，若是，则停止，否则返回 步骤2。
可见，协方差矩阵的更新结合“秩1”和“秩两种机制，可 以很好地适应大小种群的变化，通过高引导性的协方差矩阵和 有效的全局步长，使得进化过程具有很高的效率。
图1描述了 C M A-E S算法的迭代寻优过程，其中“★”代表了搜索空间的全 局最优解，“…•”表示求解问题的等高线，“ •”代表了种群中的 个体，“一•一”代表了种群的分布形状。
更详细的C M A-E S算 法描述见文献[1]。
上的一个定性概念，若定量值％ E t/且％是定性概念C的一次 随机实现，％对C的确定度/^(：〇E [0，1]是有稳定倾向的随机 数，则％在论域t/上的分布称为云，每一个％称为一个云滴。
云模型结合随机性和模糊性，仅仅使用期望仏、熵和超熵z/e三个数字特征就勾画出由大量云滴组成的云图来表示一 个定性概念，如图2所示，表示为C在多种云模型形态中，正态云模型具有普遍适应性[9]。
图2正态云图及其数字特征2.2云发生器(1)正向云发生器正向云发生器实现从定性到定量的映射，它根据云模型的 3个数字特征（仏，—，）产生满足条件的一定数量的云滴[5]。
(2)逆向云发生器逆向云发生器是实现从定量到定性的映射，它可以将一定 数量的精确数据转换为用3个数字特征（心，表示的定 性概念。
在多种逆向云算法中，刘常昱等人[W]提出的无确定度 逆向云算法在准确性和稳定性方面都优于现有的其他算法，应 用最为广泛。
(3) Z条件云与F条件云发生器X条件云与Y条件云发生器构成了云推理规则的前件云 和后件云。
云规则发生器根据前件云，后件 云及前件云定量值〜产生满足确定度一的后件云滴办(〜，M)。
“I f4 T h e n厂’的规则形式可以构成单 条件单规则发生器，具体算法如下：(1)生成以为期望，为标准差的正态随机数-{x A-E x A)2(2)计算确定度M= e；(3)生成以—s为期望，为标准差的正态随机数—(4)若〜彡瓦〜，贝=瓦化-仏、X /-21n(y a)；(5)右〜> ，则+ £V i b x \/ — 21n(^t) 〇如果有多条“H4 Then的规则，则可以构成单条件多规则云发生器。
对于某一个前件输入定量值，如果激活多条云规 则，则相应的后件有多个输出定量值，可采取加权平均的方法得 到一个最终的后件输出定量值[11]。