巨集啟發式方法回顧

由 於 傳 統 鄰 域 搜 尋 方 法 會 有 陷 入 局 部 最 佳 解 的 現 象 ， 近 年 來 許 多 標 榜 更 有 智 慧 的「 巨 集 啟 發 式 演 算 法(Meta-Heuristics Algorithms)」陸 續 被 學 者 提 出 ， 並 應 用 於 許 多 複 雜 問 題 的 求 解 。 本 節 概 略 介 紹 幾 種 著 名 的 及 新 發 展 的 巨 集 啟 發 式 方 法 ， 包 括 ： 禁 制 搜 尋 法(Tabu Search, TS) 、 門 檻 型 演 算 法 (Threshold Algorithms) 、 螞 蟻 搜 尋 最 佳 化 (Ant Colony Optimization, ACO) 及 包 容 性 深 廣 度 搜 尋 法 (Generic Intensification and Diversification Search, GIDS)。

一 、 禁 制 搜 尋 法

禁 制 搜 尋 法 (TS) 的 觀 念 架 構 最 早 是 由 Glover 【 18 】 及 Hansen(1986)所提出，經過多年來的發展與演進，TS 法已經成為 當 代 最 著 名 的 巨 集 啟 發 式 方 法 之 一。TS 法的理念是想構建一個智 慧 型 的 問 題 求 解 程 序 ： 在 現 有 解 的 鄰 域 進 行 搜 尋 ， 並 應 用 人 工 智 慧 的 記 憶 機 制 ， 將 已 經 搜 尋 過 的 解 及 其 特 徵 記 錄 在 禁 制 列(Tabu List)，以避免重複性或毫無目標的搜尋；等到整個鄰域都搜尋完 畢 後，再 選 擇 一 個 最 佳 的 方 向 進 行 移 動，以 逐 漸 逼 近 最 佳 解。TS 法 發 展 至 今 已 形 成 相 當 複 雜 的 執 行 架 構(Glover & Laguna【19】)，

其 所 應 用 的 高 階 策 略 主 要 包 含 了 以 下 四 個 概 念 。

(一) 記憶結構(Memory Structures)管理：記憶結構乃是 TS 法之特

色 與 核 心 ， 又 分 成 短 期 記 憶(Short Term/Recency-Based Memory)與 長 期 記 憶 (Long Term/ Frequency-Based Memory) 兩 種 結 構 。 短 期 記 憶 以 禁 制 列 為 基礎 ， 將 最 近 搜 尋 過 的 解 或 移 動 之 屬 性(Attributes)記 錄 在 禁 制 列 ， 以 避 免 後 續 搜 尋 的 解 重 複 先 前 的 搜 尋 途 徑。然 而，經 過 一 段 禁 制 期 間(Tabu Tenure) 之 後 ， 禁 制 的 屬 性 即 可 恢 復 自 由 。此 外 ， 短 期 記 憶 亦 可 利 用 渴 望 水 準(Aspiration Levels)的機制來打破禁制列的限制；亦 即 當 搜 尋 的 新 解 優 於 目 前 最 佳 解 時， 雖 然 其 屬 性 在 禁 制 列 之 中 ， 仍 允 許 移 動 至 該 解 。 至 於 長 期記 憶 結 構 則 以 記 錄 屬 性 出 現 的 次 數 為 主 ， 再 配 合 深 度 或 廣 度 搜 尋 策 略 ， 以 擴 大 TS 法 的 搜 尋 範 圍 。

(二) 深 度 搜 尋 與 廣 度 搜 尋 (Intensification and Diversification Search)：深度搜尋策略係在搜尋過程中將較佳的數個解記錄 在 精 英 列(Elite List)內，當短期記憶搜尋無法改善時，再從精 英 列 中 選 擇 一 個 解 做 為 下 階 段 搜 尋的 起 點 ， 重 新 開 始 。 精 英 列 不 一 定 要 記 錄 一 個 完 整 的 解 ， 也可 以 只 記 錄 經 常 出 現 的 部 份 解(Parts of Solution)。廣度搜尋策略則需要配合長期記憶 結 構 記 錄 搜 尋 過 程 中 解 或 屬 性 出 現的 次 數 ， 當 短 期 記 憶 搜 尋 無 法 改 善 時 ， 選 擇 次 數 較 少 之 屬 性方 向 重 新 進 行 短 期 記 憶 搜 尋 。 計 算 出 現 次 數 時 ， 需 乘 以 一 懲 罰 值(Penalty)， 以 控 制 其 搜 尋 方 向 。

(三) 策略交替運用(Strategic Oscillation）：是一個調和深度搜尋與 廣 度 搜 尋 的 機 制，藉 由 臨 界 水 準(Critical Level)來控制深度搜 尋 與 廣 度 搜 尋 的 切 換 時 機 。

(四) 搜 尋 路 徑 連 結 (Path Relinking)： 先 設 定 一 個 目 標 解 (Guiding Solution)， 然 後 藉 由 深 度 搜 尋 、 廣 度 搜 尋 與 渴 望 水 準 控 制 搜 尋 路 徑 朝 向 目 標 解 前 進 。

TS 法嘗試將人類的思考邏輯轉化成各種高階指導策略，配 合 記 憶 結 構 且 靈 活 運 用 深 度 搜 尋 與 廣 度 搜 尋 ， 是 TS 法成功之關 鍵 。 讀 者 可 參 考 Glover & Laguna【19】之大作以了解 TS 法的執 行 細 節 。

二 、 門 檻 型 演 算 法(Threshold Algorithms)

模 擬 鍛 鍊 法(SA)、門檻接受法(TA)、大洪水法(GDA)與紀錄更 新 法(RRT)皆 屬 於 門 檻 型 演 算 法 。 此 類 方 法 之 基 本 觀 念 乃 是 在 鄰 域 搜 尋 陷 入 局 部 最 佳 解 時，採 取 較 鬆 的 接 受 法 則(通常為一門檻值) 接 受 劣 於 現 解 之 鄰 解 ， 以 便 脫 離 局 部 最 佳 解 的 束 縛 而 繼 續 搜 尋 下 去。SA、TA、GDA 與 RRT 等方法的執行架構與傳統鄰域搜尋法 之 架 構 相 似 ， 差 異 之 處 僅 在 於 使 用 的 接 受 法 則 不 同 。 傳 統 的 鄰 域 搜 尋 法 僅 接 受 較 佳 的 鄰 解 ， 門 檻 型 演 算 法 則 可 接 受 暫 劣 之 鄰 解 。

模 擬 鍛 鍊 法 的 基 本 觀 念 最 早 是 由 Metropolis et al.(1953)所提 出，然 後 由 Kirkpatrick et al.【25】加以應用到組合最佳化問題之 求 解 上 ， 因 而 產 生 了 目 前 所 謂 的 模 擬 鍛 鍊 法 。SA 法 的 執 行 關 鍵 在 於 接 受 法 則 與 降 溫 過 程(Cooling Process)的機制設計。SA 法的 接 受 法 則 為 機 率 性 接 受 暫 劣 解 ： 利 用 一 個 隨 機 產 生 的 數 值 與 門 檻 值 做 比 較 ， 此 門 檻 值 是 鄰 解 與 現 有 解 之 目 標 值 差 額 及 溫 度 的 函 數 ； 此 處 所 謂 「 溫 度 」 對 SA 而言是一個抽象的觀念，僅做為控 制 門 檻 值 高 低 的 參 數 ； 降 溫 則 是 為 了 使 SA 能夠逐漸收斂。

門 檻 接 受 法(Dueck & Scheuer【15】)、大洪水法(Dueck【16】) 與 紀 錄 更 新 法(Dueck【16】)的觀念雖源自於 SA，但採用確定性 的 接 受 法 則 。 茲 以 圖 2.4 的示意圖說明 TA、GDA 與 RRT 等方法 之 接 受 法 則 異 同 ：TA 法事先產生一組固定的門檻值數列(通常為 遞 減) ， 依 次 使 用 數 列 中 的 門 檻 值 ， 其 接 受 法 則 為 C(Xnew) <

C(Xcurrent) + Tk；GDA 法設定一個起始水位，只要有改善就降低 水 位(固定的下降速度)，其接受法則為 C(Xnew) < L；至於 RRT 法 則 是 將 目 前 的 暫 優 解 設 為 記 錄 值 ， 取 記 錄 值 之 固 定 百 分 比 率 做 為 門 檻 值 ， 其 接 受 法 則 為 C(Xnew) < C(Xcurrent) + R×p。

圖 2.4 TA、GDA 與 RRT 接受法則示意圖【5】

表 2.3 以最小化問題之求解來說明 SA、TA、GDA 與 RRT 等 方 法 之 重 要 執 行 機 制 的 異 同 ， 其 中 C(X)為現有解 X 之目標值，

C(X')為鄰解 X'的目標值。此外，表 2.3 中的控制參數係指用以控 制 演 算 法 執 行 與 停 止 之 參 數；接 受 法 則 為 判 斷 是 否 將 鄰 解 X'列為 候 選 解 之 準 則 ； 收 斂 法 則 是 為 了 確 定 搜 尋 過 程 會 收 斂 ， 在 現 有 解 移 動 後 對 其 控 制 參 數 進 行 調 整 之 方 式 ； 停 止 法 則 係 規 範 演 算 法 停 止 搜 尋 之 標 準 。

表 2.3 SA、TA、GDA 與 RRT 之比較

方 法 SA TA GDA RRT

控 制 參 數

。 溫 度(T)

。 機 率 值 (0 < r < 1)

。 次 數(K)

。 門 檻(Tk)

。 次 數(K)

。 水 位(L)

。 速 度(S)

。 誤 差 率(p < 1)

。 記 錄 值(R)

。 次 數(K) 接 受

法 則

機 率 性 接 受 ：

[

]

r <exp ^{( )− ( )}

確 定 性 接 受 ： C(X') < C(X) + Tk

確 定 性 接 受 ： C(X') < L

確 定 性 接 受 ： C(X') < C(X) +R*p

收 斂

法 則 T 遞 減 Tk 遞 減 L = L – S 更 新 R 值

停 止

法 則 完 成 K 次 迴 圈 完 成 K 次 迴 圈 所 有 C(X') > L 完 成 K 次 迴 圈

資 料 來 源 【5】

Fisher【17】曾將 VRP 求解方法的發展分為三個時期：簡單 啟 發 式 方 法 、 數 學 規 劃 基 礎 方 法 、 人 工 智 慧 方 法 。 其 中 ， 第 三 時

期 的 人 工 智 慧 方 法 包 含 了「 專 家 系 統 」與「 包 容 性 搜 尋 法(Generic Search Methods)」兩者。所謂的包容性搜尋法，即是允許搜尋過 程 中 接 受 暫 劣 解 的 一 種 方 法 ， 門 檻 型 演 算 法 與 前 述 的 禁 制 搜 尋 法 皆 被 Fisher 歸類為包容性搜尋法的一種。

三 、 螞 蟻 演 算 法(Ant Colony Optimization, ACO)

螞 蟻 演 算 法 的 基 本 概 念 是 利 用 螞 蟻 外 出 覓 食 時 ， 會 在 行 經 巢 穴 與 食 物 間 的 路 徑 上 ， 留 下 一 種 稱 為 費 洛 蒙(pheromone)的 荷 爾 蒙 ， 因 此 螞 蟻 行 經 一 路 徑 的 機 會 與 該 路 徑 遺 留 的 費 洛 蒙 素 濃 度 成 正 比 ， 即 當 有 更 多 的 螞 蟻 走 過 該 路 徑 時 ， 遺 留 的 費 洛 蒙 含 量 就 越 多 ， 而 當 費 洛 蒙 素 濃 度 高 時 ， 便 會 吸 引 更 多 的 螞 蟻 行 走 該 路 徑 。 假 設 螞 蟻 面 臨 選 擇 路 徑 時 ， 決 定 行 走 某 一 路 徑 的 機 率 將 與 遺 留 在 該 路 徑 的 費 洛 蒙 含 量 有 關 ； 另 外 ， 路 徑 越 短 時 ， 螞 蟻 通 過 該 路 段 的 時 間 就 越 短 ， 造 成 最 短 路 線 上 會 遺 留 較 高 的 費 洛 蒙 含 量 ， 吸 引 較 多 的 螞 蟻 ， 最 後 螞 蟻 將 沿 最 短 路 徑 ， 求 得 最 佳 解 。

螞 蟻 演 算 法 即 在 模 仿 螞 蟻 覓 食 的 行 為 ， 並 且 利 用 螞 蟻 群 體 合 作 的 原 理 來 解 問 題 以 獲 得 最 佳 決 策 之 搜 尋 工 作 。 此 演 算 法 又 稱 為 蟻 群 演 算 法 ， 其 最 初 是 由 Macro Dorigo 於 1992 年所提出，當時 稱 該 演 算 法 為 螞 蟻 系 統(Ant System, AS)，直到 Dorigo et al.【14】

將 此 演 算 法 的 精 神 延 伸 到 求 解 非 連 續 式 最 佳 化 問 題 上 ， 並 命 名 為 ACO，其是求解最佳化問題的巨集啟發式方法。在求解的過程是 利 用 多 點 搜 尋 方 式 跳 脫 區 域 解 。

四 、GIDS 方法

卓裕仁【5】結合多種巨集啟發式方法的特性與優點，將接受 劣 解 、 變 換 鄰 域 、 擾 動 成 本 與 多 重 起 點 等 巨 集 策 略 融 合 在 深 度 搜 尋 與 廣 度 搜 尋 的 概 念 中，發 展 出 一 套「 包 容 性 深 廣 度 搜 尋(Generic Intensification and Diversification Search, GIDS)」的巨集啟發式方 法 。

GIDS 法 共 包 含 ： (1) 多 起 始 解 構 建 (Multiple Initialization Constructor, MIC) 、 (2) 深 度 化 包 容 搜 尋 (Generic Search for

Intensification, GSI)與(3)廣度化擾動搜尋(Perturbation Search for Diversification, PSD)三個策略群組。整套 GIDS 法係以傳統鄰域 搜 尋 為 實 際 執 行 求 解 之 工 具，以 深 度 搜 尋 之 GSI 群組為核心，再 搭 配 廣 度 搜 尋 之 PSD 與 MIC 群組。此外，並設計了五種模組來 執 行 GIDS 之策略群組：再 MIC 群組構建有加權起始(Weighted Initialization, WI)模 組 與 鄰 域 搜 尋 (Neighborhood Search, NS)模 組 ； 在 GSI 群組設計有 G1 與 G2 兩種包容搜尋(Generic Search) 模 組 ； 在 PSD 群組中則購建有成本擾動(Cost Perturbation, CP)模 組 。GIDS 之解題概念如圖 2.5 所示。

圖 2.5 GIDS 之解題概念架構【5】