基于粒子群-神经网络算法的股票预测系统 姓名：杨子天

南京信息工程大学 硕士学位论文

基于粒子群-神经网络算法的股票预测系统 姓名：杨子天

申请学位级别：硕士 专业：系统分析与集成

指导教师：肖冬荣

20090501

摘要

摘要

股票市场作为一个经济产物，已成为衡量一个国家经济发展程度的重要指标。

它不仅是宏观经济的晴雨表，也是分析微观经济的重要指标。由于它高获利性和高 风险性并存的特点，研究出一种快捷、有效的股票预测系统，对股票投资将有很大 的意义。

本文选取了人工神经网络作为预测的基本方法，针对神经网络收敛速度慢、泛 化能力弱的缺点，提出了用粒子群（ＰＳＯ）算法训练人工神经网络，以达到股票预 测与分析的目的。本文首先详细介绍了ＰＳＯ算法，并对其提出了一些改进方法。然 后讨论了经ＰＳＯ训练过的神经网络输入输出数据处理、预测方法的选择等，为股票 预测提供了一种新的思路和研究方法，具有一定的理论意义和实际应用价值。

本课题的理论意义在于：尝试用粒子群算法训练神经网络，优化人工神经网络 感知机网络权值，克服以前神经网络预测的一些缺点，同时对粒子群算法本身的一 些缺点提出了一些改进方案。本项目研究的应用价值体现在：（１）提供一种基于ＰＳｏ－

神经网络的综合评估方法，有利于提高评估的科学性；（２）为股票市场的个人投资 者和机构投资者的投资活动和投资决策提供新的思路和实用方法。

关键词：粒子群优化算法，神经网络，股票预测

Ａｂｓｔｒａｃｔ

Ａｓ．ｔｈｅ ｏｂ｛ｅｃｔ ^{ｂｏｒｎ ｉｎ} ｅｃｏｎｏｍｙ ｍａｒｋｅｔ，ｓｔｏｃｋ ^{ｍａｒｋｅｔ ｈａｓ ｂｅｅｎ ａｌｌ} ｉｍｐｏｒｔａｎｔ ^{ｉｎｄｅｘ ｆｏｒ} ｍｅａｓｕｒｉｎｇ ^ｔｈｅ ｅｃｏｎｏｍｉｃ ｄｅｖｅｌｏｐｍｅｎｔ ｄｅｇｒｅｅ ｉｎ ^ｏｎｅ ｃｏｕｎｔｒｙ．Ｎｏｔ ｏｎｌｙ ｈａｓ ｉｔ ｅｆｆｅｃｔｅｄ ^ｏｎ ｔｈｅ ｍａｃｒｏ—ｅｃｏｎｏｍｙ，ｂｕｔ ^ａｌｓｏ ｔｈｅ ｃｒｉｔｉｃａｌ ｉｎｄｅｘ ｆｏｒ ａｎａｌｙｚｉｎｇ ｍｉｃｒｏ—ｅｃｏｎｏｍｙ．Ｉｔ ｉｓ ｑｕｉｔｅ ｍｅａｎｉｎｇｆｕｌ ^{ｔｏ ｗｏｒｋ ｏｕｔ ａｋｉｎｄ} ｏｆ ｆａｓｔ ａｎｄ ｖａｌｉｄ ｓｙｓｔｅｍ ^ｏｎｓｔｏｃｋ ｍａｒｋｅｔｆｏｒｅｃａｓｔ．

Ｔｈｅ ｆｕｎｄａｍｅｎｔａｌ ｗａｙ ｏｆ ｆｏｒｅｃａｓｔ ｉｎ ｔｈｅ _{ｅｓｓａｙ} ｉｓ ｔｈｅ ｕｓｅ ｏｆ ａｒｔｉｆｉｃｉａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ．Ｔｏ ａｂａｎｄｏｎ ｔｈｅ ｄｅｆｅｃｔｓ，ｉｎｃｌｕｄｉｎｇ ｓｌｏｗ ｃｏｎｖｅｒｇｅｎｃｅ ａｎｄ ｗｅａｋ ｇｅｎｅｒａｔｉｖｅ ａｂｉｌｉｔｙ，ｔｈｅ ｅｓｓａｙ ｐｏｉｎｔｓ^ｏｕｔ ｔｈｅ ＰＳＯ ａｌｇｏｒｉｔｈｍ ｔｒａｉｎｉｎｇ ^ｏｎ ａｒｔｉｆｉｃｉａｌ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ ａｓ ｔｏ ａｃｈｉｅｖｅ ｔｈｅ ｓｔｏｃｋ ｆｏｒｅｃａｓｔ ａｎｄ ａｎａｌｙｚｅ．Ｔｈｅ ｅｓｓａｙ ｇｉｖｅｓ ｅｘｐｌａｎａｔｉｏｎ ｏｆ ａｌｇｏｒｉｔｈｍ ^{ｏｆ ＰＳＯ．ａｎｄ} ｔｈｅｎ ｉｎｃｌｕｄｅｓ ｓｏｍｅ ｍｅａｎｓ ｏｆ ｉｍｐｒｏｖｅｍｅｎｔ．Ａｔ １ａｓｔ，ｉｔ ｄｉｓｃｕｓｓｅｓ ｔｈｅ ｃｈｏｉｃｅ ｏｆ ｗａｙｓ ｏｆ ｆｏｒｅｃａｓｔ，ｔｈｅ ^ｄａｔａ ｐｒｏｃｅｓｓｉｎｇ ｏｆ ｉｎｐｕｔ—ｏｕｔｐｕｔ ｔｈｒｏｕｇｈ ｔｈｅ ｎｅｕｒａｌ

ｎｅｔｗｏｒｋ

ｓｈｏｗｉｎｇ ｄｅｆｍｉｔｅ ｔｈｅｏｒｅｔｉｃａｌ

ｓｉｇｎｉｆｉｃａｎｃｅ ａｎｄ

Ｔｈｅ ｔｈｅｏｒｅｔｉｃａｌ ｓｉｇｎｉｆｉｃａｎｃｅ ^{ｏｆ ｔｈｅ} ｓｕｂｊｅｃｔ ^{ｉｓ ｔｏ ｈａｖｅ ａ} ｔｒｙ ｏｆ ＰＳＯ ａｌｇｏｒｉｔｈｍ ｔｒａｉｎｉｎｇ ^ｏｎ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ，ｏｐｔｉｍｉｚｉｎｇ ^{ｓｅｎｓｅ} ｏｆ ａｒｔｉｆｉｃｉａｌ ｎｅｕｒａｌ

ｎｅｔｗｏｒｋ

ｎｅｔｗｏｒｋ

ｎｅｔｗｏｒｋ

ａｄｖａｎｔａｇｅ

ａｎｄ

Ｋｅｙ

Ｗｏｒｄｓ：Ｐａｒｔｉｃｌｅ

ｎｅｔｗｏｒｋ，Ｓｔｏｃｋ

Ⅱ

果。

学位论文独创性声明

本人郑重声明：

１、坚持以“求实、创新＂的科学精神从事研究工作。

２、本论文是我个人在导师指导下进行的研究工作和取得的研究成

３、本论文中除引文外，所有试验、数据和有关材料均是真实的。

４、本论文中除引文和致谢的内容外，不包含其他人或其它机构已

经发表或撰写过的研究成果。 ^、

５、其他同志对本研究所做的贡献均已在论文中作了声明并表示了 谢意。

作者签名

学位论文使用授权声明

‘＼

一Ｉ １孵

办彩 ７、Ｓ、Ｐ

本人完全了解南京信息工程大学有关保留、使用学位论文的规定，

学校有权保留学位论文并向国家主管部门或其指定机构送交论文的电 子版和纸质版：有权将学位论文用于非赢利目的的少量复制并允许论 文进入学校图书馆被查阅；有权将学位论文的内容编入有关数据库进 行检索：有权将学位论文的标题和摘要汇编出版。保密的学位论文在 解密后适用本规定。

作者签名：

日 期：

扭一

关于学位论文使用授权的说明

。本人完全了解南京信息工程大学有关保留、使用学位论文的规定，即学校 有权保留送交论文的复印件，允许论文被查阅和借阅学校可以公布论文的全部

或部分内容，可以采用影印、缩印或其他复制手段保存论文。

（保密的论文在解密后应遵守次规定）

作者签名

导师签名：

日飙弓阻卫

绪论

１．１研究背景

第一章绪论

随着这几年我国经济的飞速发展，股票市场作为社会主义市场经济的重要组成 部分，在我国的经济发展中发挥着重要的作用。研究股票的预测能够指导投资者进 行有益的投资，不仅可以为个人提供利润，更可以为国家经济的发展做出贡献。但 股票价格的形成机制是颇为复杂的，必须看到股票投资的高利润与高风险并存的特 点。

影响股票价格的因素非常多。国家经济、政治等因素，国际金融条件，都能对 我国股市的走势起到决定性的影响。对于个股来说，不仅受大盘走势的影响，发行 公司本身的经营状况和财务状况也是非常重要的影响因素。个别因素的波动都可能 会使股票价格剧烈波动，使股票价格的走势变化莫测，很难把握。

在我国，个人投资者人数多，相对于机构投资而言，他们经验不足，专业水平 低，对于风险的承受能力差，但是由于数量巨大，个人投资者的投资行为对于我国 股票市场的健康有序发展起着至关重要的作用。如何能为他们提供一种简单明了，

并且行之有效的股票分析预测方法，是本文选题的基本目的。

股票预测分析，指的是以准确的调查统计资料和股市信息为依据，从股市的历 史、现状和规律出发，运用科学的方法，对股票未来发展前景进行测定，是投资者 衡量其投资风险及评估其投资价值的前提和依据。通过股票预测分析，可以使投资 者对在各种因素的影响下投资收益的不确定性有正确的把握，为股票投资决策提供 一种科学的依据，使投资者在投资的过程减少一些盲目性，达到利润的最大化。

１．２国内外研究现状

自上世纪８０年代以来，智能优化算法（如人工神经网络、混沌算法、遗传算法等）

通过模拟或揭示某些自然现象和过程而发展起来，为优化理论提供了新的思路和手 段，并在科学、经济以及工程领域得到了广泛应用。在股票市场中，股票价格运动 是随机性与规律性的辩证统一，从局部和短期而言表现为较强的随机特征，而从全 局和长期而言表现为较强的规律性。股票价格走势完全可以通过智能优化算法模仿 和学习，其走势实质是一种复杂时序函数。人工神经网络可以通过调节连接权值以 任意精度逼近任何连续函数，因此也可以逼近股票价格随时间变换的这种函数，以 达到预测的目的。

Ｗｈｉｔｅ（１９８８）…曾经尝试利用神经网络来预测ＩＢＭ普通股每日报酬率，但是结

。果不是很理想，他认为原因可能是神经网络陷入局部极最小值而无法逃脱。

ｒ０１

‘

Ｂｅｒｇｅｒｓｏｎ ａｎｄ Ｗｕｎｓｅｈ（１９９２）“。利用Ｓ＆Ｐ指数训练神经网络，用￥１０，０００进行 投资指导，２５个月后，基金增长至Ｕ￥７６，０３４，达到了６６０％的增长率。Ｂａｂａ ^ａｎｄ

ｒ０１

Ｋｏｚａｋｉ（１９９２）”。使用１５个输入变量、２个隐含层及１个输出变量的神经网络来预测 日本股价趋势。训练范例分成上涨及下跌趋势的学习，在趋势决定后，预测股价涨 跌方向的正确率相当高，但是，若趋势决定错误时，神经网络的预测能力减弱，无 法正确预测股价。

Ｇｅｎｃａｙ（１９９６）利用移动平均线法作为神经网络判断股票操作的指标，并在长期 移动平均线与短期移动平均线接近时，设定一个买卖区间，其研究结果显示，利用

ｒ■１

ＢＰ算法比线性模式具有较佳的预测能力。Ｋｕｔｓｕｒｅｌｉｓ（１９９８）”。研究了从１９９１至Ｕ１９９８ 年的Ｓ＆Ｐ指数变化，神经网络的输出为１０天的变化百分率，对指数上升趋势的预测精 度９３．３％，下降趋势的预测精度为８８．０７％。

虽然上述方法对于国内现在的股票市场的预测有着一定得借鉴意义，但是由于 经济结构的差别、股票市场发展过程和成熟度的不同，我国股票市场有着许多自身 的中国特色，在这样的条件下，国外的一些研究成果还不能直接应用于中国的股票 市场预测与分析。

１．３本文工作及章节安排

基于以上分析，本论文主要工作包括：

（１）对粒子群算法进行阐述，同时分析它的缺点并且改进

（２）分析人工神经网络，并且用将ＰＳＯ作为学习算法来优化人工神经网络感知 机网络权值

（３）对网络的输入输出变量进行归一化处理，使各变量在网络中处于同等地位；

（４）对个股价格走势进行预测。

本文章节安排如下：

第一章，绪论，介绍股票预测的研究意义，分析国内外利用神经网络技术进行 股票预测的研究发展现状以及存在的问题，提出解决问题的思路，确定论文的工作 安排。

第二章，初步介绍粒子群（ＰＳ０）算法的基本原理，包括算法的流程和参数的设 置，并且与其他的一些进化算法进行了简单的比较，最后提出了一些具体的应用方 向。

２

绪论

第三章，详细介绍了原始粒子群优化算法，提出了粒子群算法的两种模型：全 局模型和局部模型，同时也提出了粒子群算法的两种模式：同步模式和异步模式。

在对粒子群算法的改进方法方面，主要是从算法离散化、提高收敛速度、提高种群 多样性三个方面着手。最后引出标准和约束系数两种粒子群算法收敛性的分析。

第四章，先介绍了神经网络的概念，和神经网络应用的基本原理，接着将粒子 群算法应用到优化感知机网络权值的训练中，得出粒子群优化神经网络算法，并且 给出性能评价的指标。确定基于粒子群训练神经网络算法。

第五章，运用第四章得出的算法，运用于股票预测中，与历史真实值进行比较，

得出系统的性能指标。 ^：‘

结束语部分总结全文，指出文章中存在的一些问题，并对今后的工作进行展望。

３

第二章粒子群优化算法概述

粒子群优化算法是由Ｋｅｎｎｄｙ和Ｅｂｅｒｈａｒｔ等于１９９５年提出的一种基于种群搜索 的自适应化计算技术‘朝。算法最初是从飞鸟和鱼类集群活动的规律性启发，利用群 体智能建立了一个简化模型，用组织社会行为代替了进化算法的自然选择机制，通 过种群见的个体协作来实现对问题的最优解的搜索。

２．１基本粒子群算法

２．１．１基本原理

粒子群优化算法来自于对鸟群的捕食行为的模拟。设想这样一个场景：一群鸟 在随机搜索食物，在这个区域里只有一块食物，所有的鸟都不知道食物在那里，但 是它们知道当前的位置离食物还有多远，那么找到食物的最优策略是什么昵？最简单 有效的就是搜寻目前离食物最近的鸟的周围区域。粒子群优化算法ＰＳＯ从这种模型

中得到启示并用于解决优化问题。

在ＰＳＯ模型中，每个优化问题的解都是搜索空间中一个“粒子”的状态。每个 粒子都由一个由被优化函数决定的适应值（ｆｉｔｎｅｓｓ ｖａｌｕｅ），同时还有一个速度决定它 们的飞行的方向和距离。粒子根据自身及同伴的飞行经验进行动态调整，也可以说 是通过跟踪两个位置来更新自身。一个是粒子本身所找到的最优解ｐｂｅｓｔ，即个体最 好位置；另一个是整个种群当前找到的最优解ｈｇｅｓｔ，即全局最好位置。

ＰＳＯ算法运行过程中，随机产生一个初始种群并赋予每个粒子一个随机速度，

并根据公式（２．１）和（２．２）来更新粒子的速度和位置。

ｖ讨Ｏ＋１）＝ＣＯ｝ｖ，４ｔ）＂１＂Ｃｌ（ｐＩ幸（ｐ甜Ｏ）一ｘ耐Ｏ））＋Ｃ２（ｐ２宰（ｐｇｄ（ｔ）一ｘ驴Ｏ））（２．１）

Ｘ，ｄ（ｔ＋１）＝ｘ，４ｔ）＋啪Ｏ＋１）

其中，ｖ耐是粒子的速度，ＣＯ是惯性因子，ｃｌ、Ｃ２为学习因子，９ｌ、缈２是介 于（０，１）之间的随机数，Ｉｉｄ是粒子的当前位置，ｐｉｄ代表粒子当前最好的位置，

脚代表种群当前最好位置，也就是全局最优。

公式（２．１）中的第一部分称为动量部分，表示粒子对当前自身运动状态的信任，

并为粒子提供了一个必要的动量，使其依据自身速度进行惯性运功。第二部分称为 认知部分，代表了粒子自身的思考行为，鼓励其飞向自身曾经发现的最佳位置。第 三部分称为社会部分，表示粒子问的信息共享与相互合作，它引导粒子飞向粒子群 的最佳位置。这三个部分之间的相互平衡和制约决定了算法的主要性能。惯性因子∞

是粒子上一次的速度对本次飞行速度的影响因子，它主要用于平衡粒子群的全局搜

４

粒子群优化算法概述

索能力和局部搜索能力。有研究表明ＣＯ对优化性能的影响很大，较大的ＣＯ值有利于 跳出局部极小点，而较小的∞值有利于算法收敛‘引。ＰＳＯ算法的这些观点某种程度 上可以通过白理学加以解释：在寻求一致的认知过程中，个体往往记住它们的信念，

同时考虑同伴们的信念；当个体察觉同伴的信念较好时，它将根据同伴的信念进行 适应性地调整。

２．１．２算法流程

ＰＳＯ算法运行时首先初始化一群粒子（群规模为Ｐ），包括随机位置和速度；并 根据适应函数计算每个粒子的适应度；接着，将每个粒子的适应值与自身经历过的 最好位置ｐｂｅｓｔ作比较，如果较好，则将当前位置作为自身最好位置ｐｂｅｓｔ；将每个粒 子的适应值与种群所经历的最好位置ｇｂｅｓｔ作比较，如果较好，则作为种群最好位置 ｇｂｅｓｔ；最后根据公式（２．１）和（２．２）更新粒子的速度和位置，并继续计算下一个粒子。

图２．１给出了算法的具体流程。

（嗡燃誊］

●

，

（讣辫话廊值× ^{Ｉ Ｆ。个粒厂Ｉ}

厂

《、 ‘Ｉ ^彳Ｆ

Ｌ嘴孽ｊ

^{（篓鬟竺雾黑］} 彳产

（如嚣翟嚣产文堡兹答黜）

之多 妙－ _》

Ｃ优化Ｇ最ｂｅ．驳终解］

２．１．３参数设置

图２．１粒子群算法的流程图

基本ＰＳＯ算法包含以下参数：种群规模Ｐ，粒子维度ｄ，粒子活动范围Ｘ，惯 性权重∞，学习因子ｃ１和Ｃ２，最大速度Ｖｍａｘ，最大迭代次数Ｍａｘｌｔｅｒａｔｉｏｎ。

（１）Ｐ：种群中的粒子总数，通常设为１０－４０间的一个值。

５

粒子群优化算法概述

（２）ｄ：由具体优化问题决定，就是问题解空间的维度。

（３）Ｘ：粒子的活动范围，由优化问题决定，每一维可是设定不同的范围．

（４）Ｖｍａｘ：最大速度，决定粒子在一个循环中最大的移动距离，通常设定为 粒子活动范围的宽度，例如，对于粒子（ｘｌ，Ｘ２），ｘｌ属于【一１０，１０】，那么Ｖｍａｘ的 大小就是２０。如果Ｖｍａｘ太高，粒子可能会飞过较好解，从而丧失局部搜索能力；

如果Ｖｍａｘ太小，粒子不能在局部区问之外进行足够的探索，导致陷入局部极值。

（５）权重因子∞：使粒子保持运动惯性，使其有扩展搜索空间的趋势，有能力 探索新的区域。ＣＯ一般取小于或等于１．４的定值，也可设计为在迭代中随时间线性 减少。

（６）学习因子ＣＩ和Ｃ２代表将每个粒子推向ｐｂｅｓｔ和曲ｅｓｔ位置的统计加速项的 权重。较低值允许粒子在被拉回之前可以在目标区域外徘徊，而较高值则导致粒子 突然的冲向或越过目标区域。一般取。Ｃｌ等于Ｃ２，并且范围在０和４之问。

（７）最大迭代次数：算法的终止条件，该值由具体的问题确定。

２．２全局模式与领域模式

Ｋｅｎｎｅｄｙ等人在观察鸟群觅食的过程中注意到，通常飞鸟并不一定看到鸟群中 其他所有飞鸟的位置和动向，往往只是看到相邻的飞鸟的位置和动向。因此他在研 究粒子群算法时，同时开发了两种模式：全局模式（ｇｂｅｓｔ）和临域模式（１ｂｅｓｔ）。在 全局模式中，每个粒子的轨迹受粒子群中所有粒子的所有的经验和意识的影响：而在 局部模式中，粒子的轨迹只受自身的认知和邻近的粒子状态的影响，而不是被所有 粒子的状态影响。全局模式提供了较快的收敛速率，但付出了不够鲁棒的代价。

邻域模式本身存在着两种不同的方式一种方式是由两个粒子空间位置决定“邻 居”，它们的远近用粒子间距离来度量；邻域的另一种方式是编号方法，粒子群中的 粒子在搜索之前就被编以不同的号码，例如ｌ号与最后一个粒子和２号相邻，２号

ｒ々１

粒子则与ｌ号、３号相邻；形成环状拓扑社会结构…。根据社会学家的研究，这两 种领域的概念都是由社会背景的。对于第一种方式，在每次迭代之后都需要计算每 个粒子与其他粒子问的距离来确定邻居中包括哪些粒子，这导致算法的复杂度增强，

算法运行效率降低；而第二种方式由于事先对粒子进行了编号，因而在迭代中粒子 的邻域不会改变。这导致在搜索过程中，当前粒子与指定的“邻居”粒子迅速聚集，

而整个粒子群就被分成几个小块，表面上看似乎是增大了搜索的范围，实际上则大 大降低了收敛速度。

实验发现在临域模式中邻居的数目不同对算法的性能也会产生影响。图２．２给 出了在不同的邻居数下对多模态Ｇｒｉｅｗａｎｋ函数的优化性能曲线。从图中可以看出，

６

粒子群优化算法概述

全局模式收敛速度快，但容易陷入局部极值；邻域模式收敛速度较慢，但却具有较 强的全局搜索能力。可见在全局模式和临域模式两者间存在着一种平衡，也就是局 部搜索速度全局搜索能力的平衡。两者虽然不可兼得，但却可以针对不同问题选择 不同的模式。例如，对于较简单的单模态优化问题，可以使用全局模式提高算法的 收敛速度。

ｂ■—ｂ蚺

图２．２ Ｇｒｉｅｗａｎｋ函数最小值优化问题在不同邻域下的性能比较

２．３与其它进化算法的比较

粒子群算法与其它进化算法有许多相似的地方。首先，粒子群算法和其它进化 算法相同，都使用了“种群”的概念，用于表示一组解空间中的个体集合。两者都 随机初始化种群，而且都使用适应值来评价系统，而且都根据适应值来进行一定的 随机搜索。两个系统都不能保证一定找到最优解。如果将粒子所持有的最好位置也 看作种群的组成部分，则粒子群的每一步迭代都可以看作是一种弱化的选择机制。

在（Ｉ“＋Ａ）进化策略算法中，子代与父代竞争，若子代具有更好的适应值，则子 代将替代父代，而ＰＳＯ算法的进化方程式也具有与之类似的机制，其唯一的区别在 于，粒子群算法只有当粒子的当前位置与经历的最好位置相比具有更好的适应值时，

其粒子所经历的最好位置才会唯一地被该粒子当前的位置所替代。可见，ＰＳＯ算法 中也隐藏这一定形式的“选择”机制。

在遗传算法中存在着交叉（ｃｒｏｓｓｏｖｅｒ）和变异（ｍｕｔａｔｉｏｎ）操作，粒子群算法中

７

虽然在表面上不具备这样的操作，但在本质上却有相通之处。粒子群算法的速度更 新方程与实数编码的遗传算法的算术交叉算子很类似。通常，算术交叉算子由两个 父代个体的线性组合产生两个子代个体；而在ＰＳＯ算法的速度更新方程中，如果不 考虑第一项，也就是带惯性权重的速度项，就可以将方程理解成由两个父代个体产 生一个子代个体的算术交叉运算。从另一个角度上看，同样不考虑第一项，速度更 新方程也可以看作是一个变异算子，其变异的强度大小取决于个体位置和全局最好 位置之间的距离，可以把个体最好的位置和全局最好位置看作父代，变异就可以看 作是由两个父代到子代的变异。至于前面略去的惯性速度项，也可以理解为一种变 异的形式，其变异的大小与速度相乘的惯性因子相关，惯性因子越接近１，则变异 强度越小；越远离ｌ，则变异强度越大。通常在进化算法的分析中，人们习惯于将 每一步进化迭代理解为用新个体代替旧个体的过程。

与遗传算法等其他进化算法比较，ＰＳＯ的具有独特的信息共享机制。在遗传算 法中，染色体互相共享信息，所以整个种群的移动是比较均匀的向最优区域移动。

在ＰＳＯ中，只有自身最优和全局最优提供信息给其他的粒子，这是单向的信息流动。

整个搜索更新过程是跟随当前最优解的过程．与遗传算法比较，所有的粒子很可能更 快的收敛于最优解。ＰＳＯ算法与其他进化算法另一个重要不同点在于它在进化过程 中同时保留和利用位置与速度信息，而其它进化算法仅保留和利用位置信息。

从以上分析中看，基本ＰＳＯ算法与其他进化算法有相似之处，但同时也具备其 它算法不具备的特性，特别的是，ＰＳＯ算法同时将粒子的位置与速度模型化，并给 出了它们的进化方程。

２．４具体应用

ＰＳＯ算法的优势在于算法的简洁性，易于实现，没有很多参数需要调整，且不 需要梯度信息。ＰＳＯ算法是非线性连续优化问题、组合优化问题和混合整数非线性 优化问题的有效优化工具。

ｌ、函数优化：

大量的问题最终可归结为函数的优化问题，通常这些函数是非常复杂的，

主要表现为规模大、维数高、非线性、非凸和不可微等特性，而且有的函数存 在大量局部极小。许多传统确定性优化算法收敛速度较快，计算精高，但对初 值敏感，易陷入局部最小。而一些具有全局性的优化算法，如遗传算法、模拟 退火算法、进化规划等，受限于各自的机理和单一结构，对于高维度复杂函数 难以实现高效优化。ＰＳＯ算法通过改进或结合其它算法，对高维复杂函数可以 实现高效优化。

８

粒子群优化算法概述

２、神经网络的训练

ＰＳＯ算法用于神经网络的训练中，主要包括３个方面：连接权重、网络拓 扑结构及传递函数、学习算法。每个粒子包含神经网络的所有参数，通过迭代 来优化这些参数，从而达到训练的目的。与ＢＰ算法相比，使用ＰＳＯ算法训练 神经网络的优点在于不使用梯度信息，可使用一些不可微的传递函数。多数情 况下其训练结果优于ＢＰ算法，．而且训练速度非常快。

３、参数优化：

ＰＳＯ算法已广泛应用于各个连续问题和离散问题的参数优化。例如，在模 糊控制器的设计、机器人路径规划、信号处理和模式识别等问题上均取得了不 错的效果。

４、组合优化：

许多组合优化问题中存在序结构如何表达以及约束条件如何让处理等问 题，离散二进制版ＰＳＯ算法不能完全适用。研究者们根据问题的不同，提出了 相应问题的粒子表达方式，或通过重新定义式（１）和式（２）中的“＋”和“・＂

算予来解决不同问题。目前，已提出了多种解决ＴＳＰ、ＶＳＰ以及车间调度等问 题的方案。

其它应用：

除了以上邻域外，ＰＳＯ算法的包括系统设计，多目标优化、分类、模式识 别、调度、信号处理、决策、机器人应用等。其中具体应用实例有：模糊控制 器设计、车间作业调度、机器人实时路径规划、自动目标检测、时频分析等。

９

第三章粒子群算法原理与收敛性分析

粒子群算法（ＰＳＯ）的发展十分迅速，研究者对其改进也非常多，但其基本原 理相差无几。本章首先阐述原始ＰＳＯ算法的原理；其次，对ＰＳＯ算法发展概况进行 了收敛性分析。

３．１原始粒子群优化算法

３．１．１算法原理

如第二章所述，粒子群算法兼有进化计算和群智能的特点。起初，Ｋｅｎｎｅｄｙ和 Ｅｂｅｒｈａｒｔ只是设想模拟鸟群觅食的过程，但是后来发现ＰＳＯ算法是一种很好的优化 工具旧。。与其他进化算法类似，该算法模拟鸟群群飞行觅食的行为，通过鸟之间的 集体协作与竞争使群体达到目的。在ＰＳＯ算法系统中，每个备选解被称为一个“粒 子”，多个粒子共存、合作寻优（近似鸟群寻找食物）。ＰＳＯ算法先生成初始种群，

即在可行解空中随机初始化一群粒子，每个粒子都为优化问题的一个可行解，并由 目标函数为之确定一个适应值（ｆｉｔｎｅｓｓ ｖａｌｕｅ）。每个粒子将在解空间中运动，并由一 个速度决定其方向和距离。通常粒子将追随当前的最优粒子而动，并经逐代搜索最 后得到最优解。在每一代中，粒子将跟踪两个极值，一为粒子本身迄今找到的最优 解ｐｂｅｓｔ，另一为全种群迄今找到的最优解ｇｂｅｓｔ。

数学描述为：设搜索空间为Ｄ维，总粒子数为ｒｌ，第ｉ个粒子位置表示为向量 船＝（Ｘｉｌ，Ｘｉ２…ｘｉｏ），第ｉ个粒子迄今为止搜索到的最优化位置为 ｐｂｅｓｔ，＝（尸ｎ，Ｐｉ２…ＰｆＤ），整个粒子群迄今为止搜索到的最优位置为 ｇｂｅｓｔ＝（ｇｌ，９２…ｇｏ），第ｉ个粒子的位置变化率（速度）为向量ｖｉ＝（＇Ｖｉｉ，Ｖｉ２…ｖＪｏ）。

粒子的每维速度和位置按如下公式进行变化：

啪ｐ＋１）＝Ｗｄ（ｔ）＋ＣＩ誊ｒｌ幸（ｐ‘，ｐ）一ｘ，４ｔ））＋ｃ２幸ｒ２事（ｐｇｄ（ｔ）一翮（ｆ））（３．Ｉ）

Ｘｉｄ（ｔ＋１）＝ｘ甜“）＋Ｖ，ａ（ｔ＋１） ^{ｌ≤ｆ≤ｎ １≤ｄ≤Ｄ （３．２）}

其中，ｃｌ，ｃ２为正常数，称为加速因子，ｃ１调节粒子飞向自身最好位置方向的 步长；Ｃ２调节粒子向全局最好位置飞行的步长；ｒｌ，ｒ２为【０，１】之问的随机数。为 了减少在进化过程中，粒子离开搜索空的可能性，通常，第ｄ（１≤ｄ≤Ｄ）维的位

置变化范围限定在［弘删，Ｘ舰ａｘａ】内，速度变化范围限定在卜玩鲫矧，Ｖ血ｕｘｘｄ］内（即

在迭代中若Ｖｉｄ和Ｘｉｄ超出了边界值，将之设为边界值）。粒子群初始位置和速度随机 产生，然后按式（３．１），式（３．２）进行迭代，直至找到满意的解。

程序伪代码如下：

１０

粒子群算法原理与收敛性分析

Ｆｏｒｅａｄｈ_{ｐａｎｉｃｌｅ} Ｄｏ｛

． Ｉｎｉｔｉａｌｉｚｅ ｐａｒｔｉｃｌｅ

｝ ｏｏ｛

Ｆｏｒ ｅａｃｈ ｐａｒｔｉｃｌｅ｛

Ｃａｌｃｕｌａｔｅ ｆｉｔｎｅｓｓ ｖａｌｕｅ

Ｉｆ ｔｈｅ ｆｉｔｎｅｓｓ ｖａｌｕｅ ｉｓ ｂｅｔｔｅｒ ｔｈａｎ ｔｈｅ ｂｅｓｔ ｆｉｔｎｅｓｓ ｖａｌｕｅ（ｐｂｅｓｔ）ｉｎ

ｈｉｓｔｏｒｙ

Ｓｅｔｃｕｒｒｅｎｔｖａｌｕｅａｓｔｈｅ ｎｅｗ ｐｂｅｓｔ

）

Ｃｈｏｏｓｅ ｔｈｅ ｐａｎｉｃｌｅ ｗｉｔｈ ｔｈｅ ｂｅｓｔ ｆｉｔｎｅｓｓ ｖａｌｕｅ ｏｆ ａｌｌ ｔｈｅ ｐａｒｔｉｃｌｅｓ ａｓ ｔｈｅ ｇｂｅｓｔ

Ｆｏｒ ｅａｃｈ ｐａｎｉｃｌｅ｛

Ｃｈｏｏｓｅ ｔｈｅ ｐａｎｉｃｌｅ ｖｅｌｏｃｉｔｙ ａｃｃｏｒｄｉｎｇｅｑｕａｔｉｏｎ（２．１）

Ｕｐｄａｔｅ ｐａｒｔｉｃｌｅ ｐｏｓｉｔｉｏｎ ａｃｃｏｒｄｉｎｇ ｅｑｕａｔｉｏｎ（２．２）

）

｝Ｗｈｉｌｅｍａｘｉｍｕｍ ｉｔｅｒａｔｉｏｎｓ ｏｒｍｉｎｉｍｕｍ ｃｒｉｔｅｒｉａ ｉｓ ｎｏｔａｔｔａｉｎｅｄ

ＰＳＯ算法的研究大致可分为五个部分：算法本身、拓扑结构、参数选取、与其他进 化技术的融合及应用。

３．１．２算法流程

基本粒子群算法的流程如下：

依照初始化过程，对粒子群的随机位置和速度进行初始设定。

计算每个粒子的适应值。

对于每个粒子将其适应值与所经历过的最好位置ｐｂｅｓｔｔ的适应值进行比较，

若较好，则将其作为当前的最好位置。

对于每个粒子将其适应值与全局所经历的最好位置ｇｂｅｓｔ的适应值进行比 较，若最好，则将其作为当前的全局最好位置。

根据方程（３．１）和方程（３．２）对粒子的速度和位置进行进化。

如未达到结束条件（通常为足够好的适应值或达到一个预设最大代数），则 返回步骤（２）。

）））

）

））

１ ２ ３

４

５ ６

，～／＼／～

（／ｋ／～

３．１．３社会认知行为分析

在式（３．１）所描述的速度进化方程中，其第一部分为粒子先前的速度；其第二．

部分为“认知”部分，因为它仅考虑了粒子自身的经验，表示粒子本事的思考。如 果基本粒子群算法的速度进化方程仅包含认知部分，即

ＶＪｄ（ｔ＋１）＝ｖｉａ（ｔ）＋ｃｌ警ｒｌ宰（ｐ耐Ｏ）一黝Ｏ））

则其性能变差。主要原因是不同的粒子间缺乏信息交流，即没有社会信息共享，粒 子问没有交互，使得一个规模为Ｎ的群体运行了Ｎ单个粒子，因而得到最优解的概 率非常小。

式（２．１）的第三部分为“社会”部分，表示粒子问的社会信息共享。若速度进 化方程中仅包含社会部分，即

Ｖ，ｄ（ｔ＋１）＝ＶＪｄ（ｔ）＋Ｃ２乖ｒ２宰（ｐ鲥◇）一Ｘ，４０） ^{（３．４）}

则粒子没有认知能力，也就是“只有社会（Ｓｏｃｉａｌ．ｏｎｌｙ）”的模型。这样，粒子在相 互的作用下，有能力到达探索空问，虽然它的收敛速度比基本粒子群算法更快，但 对于复杂问题，则容易陷入局部最优点。

３．１．４全局模型与局部模型

以上算法描述中，粒子跟踪两个极值，自身机制ｐｂｅｓｔ和种群全局极值曲ｅｓｔ，

称为全局版本（ｇｌｏｂａｌ ｖｅｒｓｉｏｎ）ＰＳＯ算法。另一种为局部版本（１０ｃａｌ ｖｅｒｓｉｏｎ）ＰＳＯ

算法，指粒子除了嘴碎自身ｐｂｅｓｔ外，不跟踪全局极值曲ｅｓｔ，而是追随拓扑邻近粒 子当中的局部极值ｌｂｅｓｔ。在该版本中，每个粒子需记录自己和它邻居的最优值，而 不需要记录整个群体的最优值，对于局部版本，式（３．１）更改为：

ｖ，ａ（ｔ＋１）＝ｗｄ（ｔ）＋ｅｌ幸ｒｌ木（ｐ耐Ｏ）－ｘ，４ｔ））＋Ｃ２掌，２木（ｐ埘０）一黝Ｏ））（３．５）

其中ｐＪａ为局部最优点。

比较全局和局部版本两种算法，可以注意到，它们收敛速度和跳出局部最优的 能力有所差异。优于全局拓扑结构中所有粒子都信息共享，粒子向当前最优解收敛 的趋势非常显著，因而全局模型通常收敛到最优点的速度较局部结构快，但更易陷 入局部最优，表现为整个种群一致收敛到当前第一个较好的解。局部拓扑结构模型 则允许粒子与其邻居比较当前搜索到的最优位置，从而相互之间施加影响，即便其 值比种群最好值要差，该影响可以使较差个体进化为较好的个体。局部版比全局不 收敛慢，但不容易陷入局部最优。

１２

粒子群算法原理与收敛性分析

３．１．５同步模式与异步模式

同步模型（ｓｙｎｃｈｒｏｎｉｚａｔｉｏｎ）中，每代所有粒子都并行移动后，再选择种群最优 粒子。而在异步（ａｓｙｎｃｈｒｏｎｉｚａｔｉｏｎ）模型中，当粒子的任何一个邻居更新后，都与 最优粒子进行比较，以便及时更新最优粒子。理论上，异步模型比同步模型能更快 地找到问题的解。文献【９】指出，在多数情况下，异步模型比同步模型能更快地找到 问题的解‘引。

３．３对粒子群算法的改进

当前，许多学者对基本粒子群优化算法作了各式各样的改进，概括起来主要有 以下三种途径：算法离散化、提高收敛速度、提高种群多样性等。

３．３．１离散二进制粒子群算法

二进制编码作为一种比较重要的编码形式，首先由Ｊ．Ｋｅｎｎｅｄｙ和Ｅｂｅｒｈａｒｔ在１９９７ 年将基本粒子群算法应用于二进制编码，并做了大量的数值研究‘１０，１¨，主要用来解

决工程实际中的组合优化问题‘１剔。他们在提出的模型中，将每一维翮和ｐｂｓｅｔ，ｄ限

粒子的位置Ｘｉｄ更有可能选１，Ｖｉｄ低一点则选０，，阀值【Ｏ，１】之间。为此，Ｋｅｎｎｅｄｙ 引入了模糊函数Ｓｉｇｍｏｉｄ（ｘ），其定义为：

ｓ／ｇ（伽卜鬲袁丽

黝”１）＿Ｐ鬻ＨＤ’ ^＠７，

其中，，．∈［０，１】为均匀分布的随机数。通过这种方式，我们将黝（ｆ）限制在集合

｛０，１＞中。需要说明的是，在基本粒子群算法中，ｗａ（ｔ）表示速度，能够对当前位置，

脚Ｏ）的方向和位置随机产生一定的影响，使得算法在给定区域上进行搜索。而在二

ｐ（△）＝Ｓｉｇ（ｖ，ｄ）（１一所窖（’，ｄ）） ^{（３．８）}

为了防止Ｓｉｇｍｏｉｄ（ｘ）函数饱和，可以将ｖ廿（ｆ）钳位在【４．０，Ｈ．ｏ】之间。实验结

？

果显示，在大多数测试函数中，二进制ＰＳＯ算法都比遗传算法速度快，尤其在问题 的维数增加时。

３．３．２粒子群算法收敛速度的改进

３．３．２．１带惯性权重（ｉｎｅｒｔｉａ ｗｅｉｇｈｔ）粒子群算法

探测是指粒子在较大程度上离开原先的寻优轨迹，偏到新的方向进行搜索；开 发则指粒子在较大程度上继续原先的寻优轨迹进行细部搜索。为了更好的控制算法 的探测和开发能力，ｓｈｉ等人引入了惯性权重ＣＯ“山”。，则（３．１）式改变为：

ｗａ（ｔ＋１）＝ＣＯ宰＂ｄＯ）＋ｃｌ木，．１牛（ｐ耐（ｒ）－－Ｘ，ｄ（ｔ））＋Ｃ２木ｒ２幸（ｐｇａ（ｔ）一翮Ｏ））（３．９）

由（３．２）、（３．９）式组成的迭代算法通常被认为是标准ＰＳＯ算法。

显而易见，惯性权重ＣＯ描述了粒子上一代速度对当前速度的影响。控制其取值 大小可调节ＰＳＯ算法的全局与局部寻优能力。∞值较大，全局寻优能力强，局部寻 优能力弱，反之，则局部寻优能力增强，而全局寻优能力减弱。基本的ＰＳＯ算法可 以看作ＣＯ＝１．因此在迭代后期缺少局部搜索能力。实验结果表明，ＣＯ在［Ｏ．８，１．２］

之间时，ＰＳＯ算法有更快的收敛速度。文献【１５】中试验了将∞从０．９到０．４的线性下 降，使得ＰＳＯ算法在开始时探索较大的区域，较快地定位最优解的大致位置，随着 ＣＯ逐渐减小，粒子速度减慢，开始精细的局部搜索（这里ＣＯ类似与模拟退火算法中 的温度参数）。该方法加快了收敛速度，提高了ＰＳＯ算法的性能。当待解问题很复 杂时，该算法使得ＰＳＯ算法在迭代后期全局搜索能力不足，导致不能找到要求的最

ｒ＇ｃ１

优解，这种情况可以用自适应改变惯性权重来克服““。

目前，采用较多的惯性权值是ｓｈｉ建议的线性递减权值（１ｉｎｅａｒｌｙ ｄｅｃｒｅａｓｉｎｇ

ｗｅｉｇｈｔ，简称ＬＤＷ）策略，即

ＣＯ＝ＣＯｍａｘ－（ｃｏｍａｘ－ＣＯｍｉ小幸—三二三一 ^{（３．１０）}

，．“刀ｍａｘ

其中，ＣＯｍａｘ为最大惯性权重，ＣＯ ｍｉｎ为最小惯性权重，ｒｕｎ为当前迭代次数，

ｒｕｎｎｌａｘ为算法迭代总次数。如果ＣＯ＝０，则粒子速度之取决于它当前位置ｐｂｅｓｔ和 曲ｅｓｔ，速度本身没有记忆。假设一个粒子位于全局最好位置，它将保持静止。而其 它粒子则飞向它本身最好位置ｐｂｅｓｔ和ｇｂｅｓｔ的加权中心。这种条件下，粒子群将收 缩到当前全局最好位置，更像一个局部算法。如果∞≠０，则粒子有扩展搜索空间 的趋势，从而针对不同的搜索问题，可以调整算法全局和局部搜索能力。惯性权重ＣＯ 的引入使ＰＳＯ算法的性能的到了很大提高，也使ＰＳＯ算法得以比较成功地应用于很 多实际问题。

１４

粒子群算法原理与收敛性分析

对于惯性权重ＣＯ来说，其每一代所需要的比例并不相同，线性递减惯性权值只 是对某些问题有效。为此，ｓｌｌｉ等提出用模糊控制器来动态自适应地改变惯性权重的 技术。控制器的输入是当前惯性权重ＣＯ和当前最好性能评价（ＣＢＰＥ），ＣＢＰＥ衡量 ＰＳＯ算法目前找到的最好候选的性能；输出的是国的改变量。由于不同的问题有 不同范围的性能评价值，因此需要对ＣＰＢＥ进行如下的规范化：

ＮＣＢＰＥ：丝丝二竺丝翌垫

ｃＢＰＥｍ强一ＣＢＰＥｒａｉｎ

ＣＢＰＥ是规范化后的评价值，ＣＢＰＥｍｉｎ和ＣＢＰＥｍａｘ依问题而定，且需事先得知或 者可估计。模糊ｃｏ法与线性下降０３方法的比较结果显示，后者不知道应该降低ｃｏ的 合适时机，而自适应模糊控制器能预测使用什么样的ｃｏ更合适，可以动态地平衡全 局和局部搜索能力。

３．３．１．２带收缩因子（ｃｏｎｓｔｒｕｃｔｉｏｎ ｆａｃｔｏｒ）的粒子群算法

Ｃｌｅｒｃ建议采用收缩因子的方法㈨１＂，通过正确选择控制参数ｃｌ，ｃ２和∞来保

其速度更新方程为：

ｍＯ＋１）＝Ｚ（ｗａ（ｔ）＋ｃｌ幸，ｌ车（ｐａ（ｔ）一黝（ｆ））＋ｃ２幸ｒ２幸（ｐｇｇ（ｔ）一肋（ｆ）））（３．１２）

其中“收缩因子”为：

ｚ

２Ｉｌ二萄’９

在使用Ｃｌｅｒｃ的收缩因子方法时，通常取９为４．１，从而使收缩因子Ｚ等于０．７２９。

Ｃｌｅｒｃ在推导出收缩因子法时，不再需要最大速度限制。但是，后来研究发现设定最 大速度限制可以提高算法的性能。从数学上分析，惯性权值ｃｏ和限定因子Ｚ这两个 参数是等价的。

３．３．１．３基于遗传思想改进粒子群算法

Ａｎｇｅｌｉｎｅ提出的混合ＰＳＯ算法，主要用ＰＳＯ算法的基本机制以及演化计算所采 用的自然选择机制‘１引。由于ＰＳＯ算法搜索过程依赖ｇｂｅｓｔ和ｐｂｅｓｔ，所以搜索区域有 可能被它们限制住了。自然选择机制的引入将会逐渐减弱其影响‘１引。测试结果显示 该算法提高了ＰＳＯ算法的局部搜索能力，但同时削弱了全局搜索能力。

１５

Ａｎｇｅｌｉｎｅ提出了杂交粒子群算法，粒子群中的粒子被赋予了一个杂交概率，这 个杂交概率是用户确定的，与粒子的适应值无关。在每次迭代中，依据杂交概率选 取指定数量的粒子放入一个池中ｓ池中的粒子随机地两两杂交，产生相同数目的子 代，并用子代粒子取代父代粒子，以保持种群的粒子数目不变。

让ａ和ｂ表示被选择的两个亲代个体的指针，那么杂交算法的计算公式表示如 下：

ｘ４ｔ＋１）＝ｒｉＸａ（ｔ）＋（１．０一ｒｔ）Ｘｂ（ｔ）

．确Ｏ＋１）＝ｒｌＸｂ（ｔ）＋（１．０一ｒＯｘｏ（ｔ）

州）２潞筠№）ｌＩ

（３．１４）

（３．１５）

（３．１６）

圪（Ⅲ）＝网ｖｏ（ｔ）＋ｖ４ｔ）㈨６

这里，．１～ｕ（ｏ，１）。经过杂交操作，在由亲代个体形成超立方体中随机产生了两 个新的位置。速率的交叉处将两个亲代个体的速度之和的长度规格化，因此只有方 向受到影响，数量却没有被影响。

Ｌｏｖｂｊｅｒｇ“”等人的研究结果表明繁殖操作降低了单峰值函数的收敛率。因此，

应用了繁殖算子的ＰＳＯ算法比原始的ＰＳＯ算法效率更低。但是在拥有多个局部最小 值的函数中情况恰恰相反。所以应用了繁殖算子的ＰＳＯ算法比较先进。

３．３．３粒子群算法增加多样性的改进

３．３．３．１动态邻域的粒子群群算法

在基本的局部版ＰＳＯ算法中，粒子的邻域是基本粒子序号划分的。也就是说，

粒子ｘｌ和ｘ２在一个半径为１的邻近区域内可以看成是相邻的，而不管它们的空问位 置如何，根据粒子的空间位置，在每次运算规则迭代中，种群中一个粒子到其它粒 子之间的距离都被计算出来，并且用变量ｄ。般来标记任何两个粒子之间的距离的最

大值。对于每一个粒子来说，ｌＩ勋一渤ｌｌ／ｄ瑚。的比值也被计算出来，这里０勋一勋０是

文献［２１】基于动态邻域的改进粒子群算法的收敛精度均比基本粒子群算法要好，当

ｒｎ●１

然，对于不同的测试函数，其效果不太相同““。

１６

粒子群算法原理与收敛性分析

３．３．３．２邻域拓扑粒子群群算法

种群拓扑结构是整个种群所有的粒子之间的连接方式（相互连接的粒子进行通 信）。而邻域结构则是单个粒子与其它通信粒子的连接方式。由此定义可知，粒子 的行为中要由其局部邻域结构影响，该局部邻域可视为种群拓扑结构中的部分区域。

种群邻域结构的限定可阻止信息在整个种群中的流动，从而保持种群多样性，它可

ｒ＾＾１

控制算法的探测和开发能力““。种群拓扑结构对ＰＳＯ算法性能的影响有两个层面：

其一，可选择不同的局部邻域结构；其二，可定义不同的局部邻域之问的通信方式

【２３］

ｏ

ｒｎ＾１

Ｋｅｎｎｅｄｙ测试了如同３．１所示的几种邻域拓扑结构“”。结果表明，拓扑非常影 响算法的性能，且最佳的拓扑形式因问题而定。如对有很多局部最优的函数，轮形 拓扑邻域算法能得到最好的结果，Ｋｅｎｎｅｄｙ推测，这是由于较慢的信息流；而对于 单峰函数，星型拓扑领域算法可以产生较好的结果，它有较快的信息流动（这里的 拓扑都是在粒子序号空间下的拓扑）。

０妨躲棼

３．３．３．３保证种群多样性的粒子群算法

为了避免粒子群算法所存在的过早收敛问题，Ｊ．Ｒｉｇｅｔ提出了一种保证种群多样 形的粒子群算法（Ａｔｔｒａｃｔｉｖｅａｎｄ Ｒｅｐｕｌｓｉｖｅ Ｐａｒｔｉｃｌｅ ＳｗａｒｍＯｐｔｉｍｉｚｅｒ，简称ＡＲＰＳＯ算 法）［２５１。该算法引入・・吸引”（Ａｔｔｒａｃｔｉｖｅ）和“扩散”（Ｒｅｐｕｌｓｉｖｅ）两个算子，动态 地调整“勘探”与“开发”比例，从而能更好地提高算法效率。该算法的速度进化 方程为：

形Ｏ＋１）＝形（ｆ）－４－ｄｉｒ（ｃｌｒｌ（Ｐ，一石Ｏ）＋ｃ２ｒ２（ｅｇ—ＸＯ））） ^{（３．１８）}

其中：

１７

折：』＿１，咖＞０，咖绷砂＜妣

【１，咖＜ｏ，ｄｉｖｅｒｓｉｔｙ＞如

并且提出了种群多样性函数

磐嘶＠卜南善

（３．１９）

（３．２０）

其中，Ｓ为种群，Ｊｓｌ为种群所含粒子的个数，｜Ｌ为搜索空间的最长半径，Ｎ为问题

的维数，肋为第ｉ个粒子的第ｊ个分量。在算法运行过程中，如果种群多样性函数

满足ｄｉｖｅｒｓｉｔｙ（Ｓ）＜机，则ｄｉｒ＝一ｌ，从而种群不再向整体最优位置靠近，而是纷纷

远离该最优位置，从而执行了“扩散”操作，而当种群多样性逐步增大，直至超出 上限赢神时，ｄｉｒ＝ｌ，从而种群又开始向整体最优位置靠拢，即执行了“吸引”操作。

３．３．４其它改进粒子群算法

３．３．４．１保证收敛改进粒子群算法

若粒子的当前位置恰是全局最好位置，那么速度更新方程式就只剩下ｖ，４ｔ），这 将会导致早熟。Ｅｖａｎ^ｄｅｎＢｅｒｇｈ提出了具有局部收敛性能的改进粒子群算法ＧＣＰＳＯ

ｒｎｃｌ

算法（ＧｕａｒａｎｔｅｅｄＣｏｎｖｅｒｇｅｎｃｅ Ｐａｒｔｉｃｌｅ ＳｗａｒｍＯｐｔｉｍｉｚｅｒ）“…，其策略是对全局最好 粒子用一个新的更新方程，方程将该粒子的位置复制到全局极值点，并且使其在全 局最好位置附近产生一二随机搜索，而其它粒子仍用原方程更新。该方法较基本ＰＳＯ 算法在收敛速度上有很大提高，尤其是当粒子数较少时，在单峰函数中性能提高明 显。同时，文献【２７】讨论了ＧＣＰＳＯ算法的局部收敛性能，并指出了该算法不具有全

ｒｉ＊■ｄ－／１

局收敛性能““。为了进一步讨论ＧＣＰＳＯ算法的性能，文献【２２】考虑了ＧＣＰＳＯ算法 在不同邻域结构中的表现。

３．３．４．２保证全局收敛的随机粒子群算法

在式（３．６）、式（３．２）所描述的基本ＰＳＯ算法中，并考虑一维的情况，当∞＝０ 时，粒子的飞行速度只取决于粒子的当前位置ｘ和）、历史最好位置ｐ，和粒子群的历 史最好位置船，速度本身无记忆性。这样，对于位于全局最好位置的粒子将保持静

止，而其它粒子则趋向它本身最好位置ｐ和全局最好位置肛的加权中心。也就是

１８

粒子群算法原理与收敛性分析

粒子具有了扩展搜索空问的趋势，即具有一定的全局搜索能力。∞越大，全局搜索 能力越强。

根据上述分析，∞＝０时，进化方程为：

Ｚ（ｆ＋１）＝石（ｆ）＋ｃｌ厂ｌ（尸，一工（ｆ））＋ｃ２ｒ２（Ｐｇ—Ｘ（ｆ））

与基本ＰＳＯ算法相比，式（２．２１）描述的进化方程使得全局搜索能力减弱，而局部 搜索能力加强。同时，当ｘｊ（ｔ）＝Ｐｊ＝Ｂ时，第ｊ个粒子将停止进化。为了改善式（３．２１）

的全局搜索能力，可保留尸ｇ作为粒子群的历史最好位置，而在搜索空间Ｓ重新随机 产生粒子ｊ的位置ｘＪ（ｔ＋１），其它粒子ｉ以式（３．１８）进化产生知Ｏ＋１）（ｆ≠／），则

局＝ＸＯ＋１）

肛ｊ只，厂（尸，）＜／（彤（７＋１）） ^（３忽）

【．Ｋ（ｆ＋１），ｆ（ｅｏ≥厂（石＠＋１））

、 ’

ｐ＇ｇ ^２

ａｒｇｍｉｎ｛ｆ（ＰＯ／待１’ｓ？

ｐ＇ｇ＝ａｒｇ

ｍｉｎ｛ｆ（Ｐ＇ｇ），ｆ（Ｐｇ）ｌ

、 ’

若／，ｇ＝Ｐｊ，则随机产生的粒子ｊ处于粒子最好位置，无法按式（３．２１）进化，

继续在搜索空间Ｓ随机产生，其它粒子在更新Ｂ、另后按式（３．１８）进化；若 Ｐｇ≠乃，且Ｂ已更新，即存在ｋ≠／，使得ｘｋ（ｔ＋１）＝Ｐｋ＝Ｐｇ，则粒子ｋ停止

进化，在搜索空间Ｓ重新随机产生，其余粒子在更新尸ｇ、毋后按式（３．２１）进 化。这样在进化的某些代，至少有一个粒子Ｊ满足Ｘｋ（ｔ＋１）＝Ｐｋ＝Ｐｇ，也就是

说，至少有一个需在Ｓ中重新随机产生，这样就势必增加了全局搜索能力。

３．３．４．３其它粒子群混合算法

高鹰““等人则引入免疫机制的概念，提高了粒子群的多样性和自我调节能力，

ｒ＾＾’ ｒ●＾１

以增强粒子的全局搜索能力。Ｂａｓｋａｒ“…、Ｂｅｒｇｈ“刘等人各自提出了自己的协同ＰＳＯ 算法，通过使用多群粒子分布优化问题的不同维、多群粒子协同优化等办法来对基 本算法进行改进尝试。ＡＩ．ｋａｚｅｍｉ¨ｗ所提出的Ｍｕｌｔｉ－Ｐｈａｓｅ ＰＳＯ算法在粒子群中随机 选取部分个体向ｇｂｅｓｔ飞，而其它个体向反方向飞，以扩大搜索空间。

除以上的混合算法之外，还出现了量子ＰＳＯ、模拟退火ＰＳＯ、耗散ＰＳＯ、自适 应ＰＳＯ等混合改进算法，也有采取ＰＳＯ与基于梯度的优化方法结合的办法。

１９

３．４标准粒子群算法收敛性分析

瞄№。呻－ｍ婵Ｊ Ｌｘ，（。ｔ）］Ｊ杞蚓ｎ２８，

：Ｇ『协ｏ）］＋Ｂ『－ｐ，ｏ）］

……

【－舶（ｆ）ｊ Ｌｐ，（ｏＪ

粒子群算法原理与收敛性分析

定的，即ＰＳＯ算法收敛。同样，即使∞，够为时变函数，只要满足一定条件，也可 保证ＰＳＯ算法渐近收敛。

根据以上讨论，在满足一定的条件下，ＰＳＯ算法具有渐近收敛特性，而 ９＝ＣＩＦＩ＋ｃ２ｒ２，ｒｌ、ｒ２∈（Ｏ，１）为均匀分布的随机数，所以妒∈（０，Ｃｌ＋Ｃ２），但上述参 数选择只能保证ＰＳＯ算法的渐近收敛性，至于是否收敛于局部最优或全局最优则没 有保证。另外，在上述分析中，均假设风不变，但是在实际ＰＳＯ算法中正是因为阳 的不断进化保证了全局最优化。上述分析结果保证了ＰＳＯ算法一旦在进化中探索到 全局最优点ｘ宰，则所有粒子均渐近收敛于该点。

３．５约束系数粒子群算法收敛性分析

Ｃｌｅｒｃ和Ｋｅｎｎｅｄｙ发表了一篇描述不同ＰＳＯ算法版本的论文，算法都能保证收 敛。这些模型通过使用“压缩系数”来保证算法的收敛。为简化下述公式的推导，

给出粒子群算法的简化模型，假设：

（１）

用ｐＪｄ取代竺旦型』望里，且为常数，设为ｐ。

妒ｌ＋妒２

（２） ９＝妒１＋９２，常数ｆ１．ｑｏ＞０。

（３） 搜索空间为ｌ维空间，从而可去掉下标。

（４） 种群数为１，即只有一个粒子。

这样，经过简化的粒子群算法的进化方程为

』ｙ（‘＋１）＝ｙ（‘）＋妒（ｐ—ｘ（ｆ））

Ｉ

该表达式可以转化为离散动态系统：

ｊ阢ｌ－阱缈

‘ Ｌｊ．ｊ斗Ｊ

【ｙｔ＋１＝－－＇ｇｔ＋（１一妒）弘

其中弘＝Ｐ一石。

从式（３．３４）通过计算可以得到下式：

ｖｆ＋２＝Ｖｔ＋１＋缈ｐ＋１＝Ⅵ＋１—９ｖｆ＋（１一ｔｐ）ｖｔ＋１－（１～缈）协（３．３５）

经过整理，可得：

ｖ，＋２＋（９—２）ｗ＋１＋Ⅵ＝０ ^{（３．３６）}

如果假设Ｖｔ为一个连续过程，则式（３．３６）将是一个典型的二阶微分方程

窘他∽嘲詈地幽阱忙ｏ

２１

其中，ｅｌ。，ｅ２为下式的根：

允２＋（妒一２）允＋１＝０ 经过计算，可以得到：

Ｌ ｌ～１卞巫ｘ／ｑ，２－４ｔｐ

ｌ

Ｌ１一三一显互‘

【

从而得到微分方程（３．３７）的通解为：

Ⅵ＝Ｃｌｅ：＋ｃ２ｅ；

由式（２．３８）可以得到：

（３．３８）

（３．３９）

（３．４０）

＂：竺二！二竺 ^{（一．４１３ ４１）}

协＝一

’

妒

将ｖｆ的通解式（２．３９）代入式（２．４０），得到：

ｙｔ：—ｃ，ｅ：．（ｅ，－１）＋—ｃｚｅ；（ｅ２－１）

其中系数ｃｌ，Ｃ２由Ｖｏ，ｙｏ决定，即如果巳≠ｅ２时，

Ｃｌ

Ｃ

一妒ｙｏ一（１一ｅｚ）ｖｏ

Ｐ２一ＰＩ

２：—ｒｐｙｏ＋（１—－ｅＯｖｏ

ｅ２一Ｐｌ

如果ＰＩ＝ｅ２时，

为了保证连续性，则需要式（２．４４）成立。

ｖｏ＋２ｙｏ＝０

即，为了保证系统收敛，下式必须成立。

（３．４３）

（３．４４）

（３．４５）

删＜１

㈣＜１

就是说，Ｃｌｅｒｃ表示系统的收敛行为受两个特征值ｅｌ和ｅ２的约束，当

ｍａｘ（１Ｐｔｌ，ｌｅ２）＜１时成立。也可以为公式定义第二种系统，使特征值ｅ：和ｅ＇２

叶＋ｌ 晚里

２

＝

Ｉｌ Ｖ

ｙ

，●●●●●Ｊ、●●●，●～

粒子群算法原理与收敛性分析

该系统可以通过定义《＝ｚｌｇｌ及《＝ｚ２ｅ２获得，有多种方法可以确定ｚｌ和Ｚ２的 值。为进一步控制系统的收敛，Ｃｌｅｒｃ归纳了使用５个控制系数ａ，卢，ｙ，艿及７７

的一般化的系统：

Ｖｔ＋ｌ＝ａｙｌ＋卢渺

ｙｔ＋１＝－ｙｖ，＋（６一叼９）弘

根据不同参数的选择，系统可分为以下几种类型：

（１）模型１：当５个参数满足

』ａ一

【ｐｙ＝７７２

当ａ＝卢＝６＝ｙ＝７７时，条件成立。该模型的压缩版用以下系统实现：

』Ｖ…２ ^{ｚ（ｖ，，缈）}

【．ｙｔ＋ｌ＝一ｚ（协＋（１一妒）矽）

其中 、

ｚ

５丽２ｋ ^{肛（０，１）}

（２）模型２：当５个参数满足

Ｊ舭卢（３．５０）

【ｙ＝ｒ／＝６

如果再设Ｚ１＝Ｚ２＝Ｚ，则结果可以简化为

ｆａ＝（２—９）ｚ＋妒一１

卜廊＝南

该模型的压缩版本如下实现：

』协＋ｌ

【少＋ｌ＝一Ⅵ＋（１一缈）弘

其中

ｚ。Ｆ：二；丽２ｋ

（３）模型３：当５个参数满足

ａ＝卢＝ｙ＝ｒ／

其中

ａ：兰鱼±！兰！±兰塑！竺二三！二！兰！二墨１２』竺：二兰竺

２（９—１）

遥常对该系统增加另一约束条件６＝１。

（４）模型４：当５个参数满足

Ｉ

【７７＝２１＇

当Ｚｌ＝Ｚ２＝Ｚ时，且２坤＞占，则有

Ｊ６：ｚＴ２－６ｐ＋ｘ／ｒｐ２－４ｃｐ：ｚＰｌ

｛ ｚ——

ｌ

ｙ：ｚ＿２－ｔｐ＋３ｘ／９２＿４１ｐ

不同约束模型有相同的：防止速度无限增长导致的系统“爆炸”。这些模型的之 间的差异主要在于它们的收敛率。使用上述压缩模型的好处是不必使用区间【ｖｍｉｎ，

ｖｍａｘ］来限制粒子的速度以保证ＰＳＯ算法收敛。因为［ｖｍｉｎ，ｖｍａｘ］的最优值是与具 体问题相关，难以确定具体的最优值，因此这种压缩方法是ＰＳＯ算法通用化。

２４