• 沒有找到結果。

多目标进化算法性能评价指标研究综述

N/A
N/A
Protected

Academic year: 2022

Share "多目标进化算法性能评价指标研究综述"

Copied!
30
0
0

加載中.... (立即查看全文)

全文

(1)

第4卷 第8期

年8月 计  算  机  学  报

CHINESEJOURNALOFCOMPUTERS 4N  

收稿日期在线发布日期本课题得到浙江省自然科学基金项目浙江省重点研发计划项目

国家自然科学基金项目资助.王丽萍,博士教授中国计算机学会会员主要研究领域为计 智能决策优化. 宇,硕士研究生主要研究方向为计算智能决策优化.邱启仓,硕士主要研究方向为 智能控制.邱飞岳(通信作者博士教授主要研究领域为智能控制深度学习.

多目标进化算法性能评价指标研究综述

王丽萍

   

  邱启仓

  邱飞岳

浙江工业大学计算机科学与技术学院 杭州 

之江实验室 杭州 

浙江工业大学教育科学与技术学院 杭州 

  多目标进化算法根据性能评价指标衡量其优劣主要从算法所求解集的质量算法求解效率以及算法鲁 性三方面来评价并侧重于解集的质量现有的相关工作缺乏对评价指标数学性质的分析.本文将评价指标按性 能标准分为四类计数指标收敛性指标多样性指标综合性指标其中计数指标统计符合指标要求的解个数或比 收敛性指标衡量解集与参考集的贴近程度多样性指标衡量解集分布的均匀程度与求解极端值的能力并按性 类型分为分布性指标延展性指标和同时衡量前两者的指标综合性指标同时衡量收敛性和多样性并按适用范 围分为通用指标和专用指标.本文对比分析了7种指标的参考集比较函数以及时间复杂度并从高维目标适应 离群点敏感性参考集合理性指标值最优性四个方面对部分指标进行了分析为研究者们选择合适的指标提 供方法以应对不同环境下的复杂问题.最后展望了多目标进化算法性能评价有待进一步研究的方向.

关键词 多目标优化进化算法评价指标收敛性多样性

中图法分类号   

犛 狌 狉 狏 犲 狔 狅 狀 犘 犲 狉 犳 狅 狉 犿 犪 狀 犮 犲 犐 狀 犱 犻 犮 犪 狋 狅 狉 狊 犳 狅 狉 犕 狌 犾 狋 犻  犗 犫 犼 犲 犮 狋 犻 狏 犲 犈 狏 狅 犾 狌 狋 犻 狅 狀 犪 狉 狔 犃 犾 犵 狅 狉 犻 狋 犺 犿 狊

WANGLiPing RENYu QIUQiCang QIUFeiYue

 

 

 

犃犫狊狋狉犪犮狋 Theperformanceofmultiobjectivealgorithmsisevaluatedbyindicatorswhichmainly takethreeaspectsintoconsideringandfocusesonthefirstaspectthequalityofthesolutionset obtainedbythealgorithmstheefficiencyofthealgorithmsandtherobustnessofthe algorithms.Existingrelatedworklacksmathematicalanalysisforindicators.Inthispaperwe categorizetheindicatorsintofourgroupsbasedonperformancecriteriacountingindicators convergenceindicatorsdiversityindicatorsandcomprehensiveindicators.Thecountingindicators tallytheamountortheratioofnondominatedsolutionsorelitesolutionsthatsatisfythecriterion ofthemetricstherearetwomaindifferencesofcountingindictorsandnoncountingindicators oneiswhethertherangeofindicatorsisdiscretetheotheriswhetherthevaluesofallobjectives areonlyusedforcomparisonbutnotdirectlyparticipateinthecalculation.Theconvergenceindicators evaluatetheconvergencyofthesolutionsetmainlybycalculatingthedistanceofthesolutionset totheapproximationofParetoFrontorthereferencesetunivariateconvergenceindicators evaluatetheclosenessbetweenthesolutionsetandParetoFrontandbinaryconvergencemetrics evaluatetheclosenessbetweentwodifferentsolutionsets.Accordingtopropertythediversity

《 计

(2)

indicatorsarefurtherdividedintodistributionindicatorsspreadindicatorsandindicatorsmeasuring bothdistributionsandspreadthedistributionofthesolutionsetconsiderstheuniformityinthe objectivespaceandthespreadofthesolutionsetmeasuresthecapabilitytoobtainextreme solutions.Thecomprehensiveindicatorsevaluatetheconvergenceandthediversityofthesolution setatthesametimewhicharefurtherdividedintogeneralindicatorsandspecialindicatorsby scopeofapplicationwhatsmorespecialindicatorsincludethatusedforuserbasedevolutionary algorithmsdynamicevolutionalgorithmsandmultimodalevolutionaryalgorithms.Wealso illustratethereferencesetthecomparisonfunctionandthetimecomplexityof77indicators.

Specificallythereferencesetisusedtoassistinthecalculationoftheperformanceindicators valuethecomparisonfunctioncantellresearcherswhetherthevalueofindicatorsbiggerisbetter orsmallerandthetimecomplexityreflectsthedifficultytocalculatetheindicators.Thenwe analyzesomeindicatorsfromfouraspectsmanyobjectiveadaptabilitywhethertheindicators areapplicativeinhighdimensionalobjectivespaceoutliersensitivityassessingwhetherthe valuesoftheindicatorsareaffectedbadlybyoutliersreferencesetrationalitydiscussingthe reasonablerangeofvaluesforthereferencesitevalueoptimalitysomemathematicalwork fortheoptimalvaluetheindicatorscanreach.Throughtheseanalysesweofferapproachesfor researcherstochoosetherightindicatorstodealwithcomplexproblemsunderdifferentcircumstances.

Finallyweendupwithdiscussingsomedirectionsaboutperformanceindicatorsthatshow potentialfromninedifferentaspectscomprehensiveindicatorswithoutanypriorinformationa newtypeofmultivariateindicatorsforevaluatingtheperformanceofmultitaskingoptimization indicatorsusedformanyobjectiveevolutionaryalgorithmsperformancemeasurementinlargescale optimizationtheevaluationoftherobustnessofalgorithmsnovelindicatorsusedforuserbased dynamicandmultimodalevolutionaryalgorithmstoovercomethedeficiencyoftheexistingindicators andlastbutnotleastresearchonthemathematicalpropertiesofperformanceindicators.

犓犲狔狑狅狉犱狊 multiobjectiveoptimizationevolutionaryalgorithmsperformanceindicators convergencediversity

1    

多目标优化问题MultiobjectiveOptimization ProblemsMOPs是指同时优化多个目标的问题

些目标相互矛盾一个目标性能的提升意味着另一个 或多个目标性能的下降.近几十年来研究者们提出 了许多求解MOPs的方法其中主要方法是多目标进 化算法MultiobjectiveEvolutionaryAlgorithms MOEAs这是一类基于种群的启发式搜索方法模 拟了生物的选择与进化过程采用随机搜索的策略 无需知道MOPs的先验性知识即可进行求解代表 性的MOEAs有基于支配关系的NSGAII

NondominatedSortingGeneticAlgorithmII SPEA2StrengthParetoEvolutionaryAlgorithm2 以及PESAIIParetoEnvelopbasedSelection AlgorithmII基于分解的MOEAMulti

objectiveEvolutionaryBasedonDecomposition MOEADM2MDecompositionofaMultiobjective NumberofSimpleMultiobjectiveSubproblems以及 RVEAReferenceVectorguidedEvolutionary Algorithms基于性能评价指标的IBEA

IndicatorBasedEvolutionaryAlgorithmSMS EMOASMetricSelectionbasedEvolutionary MultiobjectiveAlgorithm以及HypEHyper volumebasedEvolutionaryalgorithm.这些算法在

众多实际领域中均有应用如物流工程能源与 动力工程自动化控制等.

为了更好地选择算法求解不同类型的MOPs 如何衡量这些不同MOEAs的性能成为了一大热门 课题但是求解MOPs不同于求解单目标优化问题

SingleobjectiveOptimizationProblemSOP后 者只需寻找出所求得解集中的最小值或是最大值即 可来比较算法性能优劣而前者由于多个目标之间的

8期 王丽萍等多目标进化算法性能评价指标研究综述

《 计

(3)

矛盾性所得最优解并非单个解而是由一组非支配 解构成的集合以最小化MOPs为例如算法求得一 组解犛0.10.90.40.60.90.1另 一算法求得犛0.20.80.60.40.8 0.2此时无法通过直接比较两组解集来判断算法

性能优劣所以设计一种适用于MOPs的性能评价 指标变得十分重要.

比较不同MOEAs的性能优劣可以考虑以下三 个方面算法所求解集的质量算法的求解效率 以及算法的鲁棒性.

MOEAs所求解集的质量主要衡量解集 的非支配解数量收敛性Convergence和多样性

Diversity.收敛性衡量的是算法所求得的Pareto 近似最优解集犛到真实Pareto前沿的贴近程 度多样性衡量的是解集犛的分布性与延展性

DistributionandSpread

MOEAs的求解效率包括分析算法的时间 复杂度统计算法运行的实际时间开销以及评估 评价指标的数值与迭代次数的关系.当多种不同算 法所求解集质量相近时比较算法的求解效率会更 有意义.此外算法的求解效率在动态相关的实际问 题中较为关注.

MOEAs的鲁棒性算法的强鲁棒性是指对 更多具有不同特征的问题具有良好的求解能力对于 算法参数以及随机的初始种群具有较低的敏感性并 且算法所求得解集比较稳定.针对某一MOEAs进 行多次独立的实验其鲁棒性可以从评价指标的方 差得到体现.

MOEAs的评价指标主要通过衡量解集的质量 来比较其性能优劣.不少学者针对MOEAs所求得 解集质量的某一或某些性能进行了相关研究提出 了一系列的评价指标.

VanVeldhuizen等人提出了一系列用于统计 非支配解的数量或是比例的计数指标这些指标并 未考虑真实Pareto前沿的信息故VanVeldhuizen 等人提出了错误率ErrorRatioER与Pareto 近似前沿犘ApproximationofParetoFront的 信息进行了交互.Zitzler等人提出了覆盖率

Coverage用于比较两个解集之间的相互关系 而非衡量解集与真实Pareto前沿的关系适用于真 实Pareto前沿信息未知的情况下算法性能的比较.

VanVeldhuizen等人提出了经典的收敛性 指标世代距离GenerationalDistanceGDGD计

算的是解到相距最近参考点的平均距离其中参考 集由真实Pareto前沿均匀采样而得.类似地有收敛 性指标γtheConvergenceMetric和犕它 们与GD的区别在于计算的距离类型不同.Schott 提出了收敛性指标七点平均距离SevenPoints AverageDistanceSPADSchott认为在实际问题

中难以获取真实Pareto前沿的准确信息故用参考 集犚取代了Pareto近似前沿犘来对解集的收敛性 进行评价.

Deb等人提出了多样性指标Δ′计算的是连 续解之间的距离与其平均值之差Schott提出了 类似的多样性指标空间指标SpacingSP计算的 是相距最近的两个解与其平均值之差的平方但Δ′ 与SP均只针对解集的分布性而未考虑延展性故 Deb等人提出了多样性指标ΔΔ在Δ′的基础上 将Pareto前沿边界点对算法性能的影响纳入考虑 因此能够同时衡量解集的分布性与延展性但Δ只 在2维的MOPs中适用为了应对更高维度的目标 空间Zhou等人提出了多样性指标Δ计算的是 在某一目标上相距最近的解与边界点的距离.

CoelloCoello等人提出了综合性指标反世 代距离InvertedGenerationalDistanceIGDIGD 计算的是参考点到相距最近的解的平均距离距 离所有解都较远的参考点具有较大的IGD值因 此在反映解集收敛性的同时也能反映解集的多样 性.Schutze等人则结合了GD与IGD提出了综 合性指标Δ修改GD与IGD为GD与IGD以减 弱解集犛中解的数量对指标值的影响Δ计算的是 GD与IGD之间的豪斯多夫距离Hausdorff Distance.Zitzler等人提出了著名的综合性指标

超体积指标HypervolumeHV计算的是由所有 非支配解与最低点NadirPoint构成的超立方体的 超体积之和.

上述综合性指标能够很好地反映MOEAs求解 静态非多模态的全局MOPs时所得解集的质量但 是对于偏好多目标优化问题PreferenceBased MOPsPMOPs动态多目标优化问题Dynamic MOPsDMOPs以及多模态多目标优化问题

MultimodalMOPsMMOPs这些综合性指标均 不再适用.这是因为在PMOPs中只需求解决策者 感兴趣的局部解解集的质量与全局解的多样性存 在矛盾DMOPs不再是静态的多目标优化问题 上述综合性指标均难以应对Pareto前沿的动态变

计  算  机  学  报

《 计

(4)

求解MMOEAs时不仅需要在目标空间中求 得优质解集更要在决策空间中求得最佳分布

针对PMOPsWickramasinghe等人提出了综 合性指标HVUMHVforUserpreferenceEMO Algorithms通过人为划定偏好区域Regionof InterestROI以计算区域内的HV值.Mohammadi 等人针对HVUM受参考点影响较大的问题提 出了基于复合Pareto前沿CompositeFrontCF 的综合性指标IGDCF通过合成Pareto前沿来代 替真实Pareto前沿以评估落在局部Pareto前沿上 的解集质量.喻果则提出了无需人为划定偏好区 域的综合性指标PMDA.

针对DMOEAsZhou等人提出了综合性指 标平均反世代距离MeanIGDMIGD将基于代 数的时间变量狋纳入了评价指标的计算.类似地有 综合性指标平均超体积MeanHVMHV.Zou 等人则提出了综合性指标平均超体积差异

MeanHVDMHVD

针对MMOEAsZhou等人提出了新的反世 代距离IGDX计算的是决策空间中的IGD值.Yue 等人提出了综合性指标Pareto集合逼近Pareto SetProximityPSP计算的是决策空间中的覆盖

率比率CoverRateCR与IGDX的比值CR由 多样性指标最大延展度MaximumSpreadMS 改进而得.

随着评价指标的不断提出一些关于评价指标 的综述也相继发表.如Knowles等人根据解集的 优胜关系对评价指标进行分析与比较.Zitzler等 人分析了不用类型评价指标的限制并使用数学 框架对评价指标进行了分类.Yen等人通过双重 淘汰锦标赛选择组合评价指标以集成的方式评价 MOEAs.Okabe等人将评价指标分类为计数距 离体积分布性和延展性指标.Laszczyk等人在 Okabe等人的分类基础上又新增了支配目标 值密度统计分区这5个类别并试图统一评价指 标的命名方式.Jiang等人将评价指标分为了计 数收敛性多样性和综合性指标并研究了部分具 有代表性的评价指标在不同凹凸性的Pareto前沿 上的一致性与矛盾性.Li等人和本文延用了 Jiang等人的分类标准文献54中将多样性中 的分布性命名为均匀性本文则增加了针对特定问 题的综合性指标.文献5055分别在文中提出了新 的评价指标.上述这些文献在某些方面缺乏对指标

的数学性质探讨.

本文的贡献主要如下对具有代表性的 MOEAs评价指标进行了整理与归纳给出了它们 的参考集比较函数与时间复杂度从高维目标 适应性离群点敏感性参考集合理性指标值最优 性四个方面对部分指标进行了分析与比较提 出了一些关于评价指标的性质与定理并对文中涉 及的所有定理进行了数学证明.

本文第1节引言部分简要介绍MOEAs评价指 标的研究现状第2节背景详细介绍多目标优化的 相关概念第3节着重介绍各个指标的相关概念与 计算方式根据计数收敛性多样性综合性这四种 类型划分评价指标并探讨它们的优势与不足第4 节选取一些具有代表性的指标分析目标维度离群 点参考集指标值四个方面对这些评价指标的影 响给出并证明一些关于评价指标的定理第5节结 语提出MOEAs评价指标有待进一步研究的方向.

2   多目标优化相关概念

不失一般性地以最小化MOPs为例定义MOPs 的相关概念如下

定义1. 多目标优化问题.对于一个具有狀维 决策变量犿2维目标的MOPs其数学模 型的定义为

min犉…,  犌0犻∈…,

 犎=0犻∈…,狇 烅烄

其中狓=…,∈Ω狓为决策变量Ω为 决策空间Ω=犻

=1和犝分别为狓的上下 边界.!为犿维的目标空间为目标向量代 表Ω→!的映射关系和犎犼分别为问题 的约束条件.

定义2. Pareto支配.设狓…, 和狓…,是目标空间中满足约束条件 的两个决策向量Pareto弱支配狓记作狓狓 满足

犻犳犻∈…,} (Pareto支配狓记作狓狓满足

犻犳犼<犳 其中犻∈…,犼∈…,

Pareto强支配狓记作狓狓满足

8期 王丽萍等多目标进化算法性能评价指标研究综述

《 计

(5)

犻<犳犻∈…,} ( 定义3. Pareto最优解.若在可行域Ω中的解 狓满足约束条件且不被任何其他解支配则称狓

为Pareto最优解

∈Ω∧

Ω狓狓 定义4. Pareto最优解集.所有Pareto最优解 构成的集合称为Pareto最优解集ParetoOptimal SolutionSetPS

犘犛=|狓∈Ω∧

Ω狓狓} ( 定义5. Pareto近似最优解集.由MOEAs在 某次求解过程中所求得的最优解集称为Pareto 近似最优解集ApproximationofParetoOptimal SolutionSet简称解集.

犛=犻∈…, 其中犖为人为设定的参数.

定义6. 非支配解.若解集犛中的解狓不被 解集犛中的其他解Pareto支配则称狓为解集犛中 的非支配解.

狓∈犛∧

狔狓 定义7. Pareto近似最优非支配解集.Pareto 近似最优解集犛中所有非支配解所构成的集合称 为Pareto近似最优非支配解集Approximationof ParetoOptimalNondominatedSolutionSetNS

简称非支配解集记为犖犛.

犖犛=狓|狓∈犛∧

狔狓} ( 定义8. Pareto前沿.Pareto最优解集犘犛中 的所有Pareto最优解狓在目标空间!上的映射 称为Pareto前沿ParetoFrontPF或称真实 Pareto前沿.

犘犉=!|狓∈犘犛} (10 定义9. 参考集.人为设定的参考点的集合称 为参考集ReferenceSet其中外部参考集不包 括其它解集.

定义10. Pareto近似前沿.在真实Pareto前 沿上均匀采样得到一组参考点的集合称为Pareto 近似前沿ApproximationofParetoFront

定义11. Pareto极端点.在Pareto最优解集 犘犛中的某个目标上不存在比解狓更优的解则称 解狓为Pareto极端点ParetoExtremePoint记 为狓.所有Pareto极端点构成的集合称为Pareto 极端点集记为犘犅犛.

犘犅犛=|狓∈Ω|犽∈…,

Ω<犳} (11 定义12. Pareto前沿边界.Pareto极端点集 PBS在目标空间!上的映射称为Pareto前沿边界

ParetoFrontBoundaryPFB简称边界.

犘犉犅=!|狓∈犘犅犛}(12 13. 边界点.在解集犛中的某个目标上不 存在比解狓更优的解则称解狓为边界点Boundary Point或称为极端点ExtremePoint记为狓 所有边界极端点构成的集合称为边界极端点 集记为犅犛.

犅犛=|狓∈犛|犽∈…,

<犳 13 定义14. 理想点.取解集犛中各个目标上的 最小值组成一个新的点称为理想点IdealPoint 记为狕

=min犳狓∈犛犻∈…,}(14 定义15. 最低点.取Pareto最优解集犘犛中 各个目标上的最大值组成一个新的点称为最低点

NadirPoint记为狕

=max犳∈犘犛犻∈…,15 假定表达式犃犅代表定义犅以定义犃为基 础则上述15个定义存在如下的关系1 2346674810 41111125131415

根据上述定义给出本文涉及的一些相关性质 定理及其数学证明

性质1. Pareto近似最优解集是算法运行到 最大进化代数时所求得解的有穷集合.

性质2. 当Pareto前沿非离散时Pareto最优 解集是实际问题所能求得的全部解的无穷集合.

性质3. Pareto前沿唯一性.一个MOPs问题 有且只有唯一的Pareto前沿分段或不分段

证明. 即证一个MOP只存在唯一的Pareto 最优解集假设存在两个在目标空间上的映射不尽 相同的Pareto最优解集分别为犘犛犘犛则必然

狓∈犘犛狓∈犘犛使得狓互不支配而犘犛 中包含了所有非支配解故有犘犛=犘犛∪犘犛即 犘犛与犘犛都不是Pareto最优解集与假设矛盾假 设不成立原命题得证.当涉及多模态多目标优化问 题时该证明依然成立. 证毕.

性质3的存在为定义10的Pareto近似前沿提 供了人为采样的可行性.

性质4. 一个MOPs问题可以存在多个Pareto

计  算  机  学  报

《 计

參考文獻