類神經網路之文獻探討

類神經網路(Artificial Neural Networks，ANN)屬人工智慧(Artificial Intelligence，AI)重要的一支，其以類似人腦神經結構的一個平行計算 模式，其具有大量互相連結的處理單元 (Processing Elements)簡稱神經 元，通常以平行的方式操作且置放於整個網路結構中，透過樣本或資 料的訓練展現出學習(Learn)、回想(Recall)、歸納演算(generalize) 的能力。其在模式配對(pattern matching) 、分類(classification)、

函數近似(function approximation)、最佳化(optimization)、預測 (prediction)等都有很好的效果[9]。

2.4.1 多層感知機

多層感知機(Multilayer Perceptron，MLP)是屬於多層前饋式網 路大多是用靜態的倒傳遞演算法訓練，為監督式學習方法。 其容 易使用且可以近似估計任何輸入與輸出的映射，但其缺點為訓練緩

慢且需要大量的訓練資料。其網路結構圖如圖六[38]。隱藏層的神 經元數目往往需要以試誤法，而隱藏層的層數可以依問題的複雜度 從一層而加到數層。本研究將以多層感知機做為實驗的對照組之 ㄧ。

圖六：多層感知機神經網路拓墣

2.4.2 自組織特徵映射網路(Self-Organizing Feature Map，SOFM) 自組織特徵映射網路(Self-Organizing Feature Map，SOFM)於 1982 年首先由 Kohonen 提出，屬於前饋式、非監督式神經網路，

同時也是競爭式網路[9]。SOFM 是以特徵映射的方式將任意維度 的輸入向量映射至一維或二維矩陣方式排列的特徵映射圖上。因輸 入向量在神經元間會彼此競爭，優勝的神經元可以獲得調整連結權 重的機會。從另一個角度來看，SOFM 的過程也是ㄧ個群聚的過 程。在 SOFM 網路學習的過程，神經元間有鄰近的關係，讓優勝 的神經元在調整連結權重時，鄰近的神經元也會隨之進行連結權重

• 鄰近區域形狀: 以優勝神經元為中心點，鄰近半徑長度 為半徑，所圍繞的區域形狀可以有不同的選擇，如矩形 和六角型等，隨著訓練次數的逐漸縮小。

2.4.3 類神經網路與基因演算法之結合

John Holland(1975) [39]所提出的基因演算法(Generic

Algorithm，GA) 是人工智慧學中非常重要的部份，透過模仿自然的 演化法則而發展出的啟發式演算法，並應用在解搜尋問題和最佳化 的部份。而最佳化類神經網路的輸入項、架構或參數設定，可以透 過基因演算法的快速計算而獲得。 相關文獻如下：

• Hiroaki Kitano (1990)[40]提出使用基因演算法來設計類神經網 路的拓墣(架構)，結果顯示基因演算法收斂的越快，類神經網 路的績效也越好。

• Dasgupta D. et al. (1992)[41]提出結構化基因演算法(Structured Generic Algorithm)做為應用類神經網路的設計，其可以有效的 決定網路的拓墣和大小以及最佳化的連結權重的資料集合。

• P.A. Castillo et al. (2000)[42]基因演算法可最佳化權重和隱藏 層的處理單元(神經元)數，基因演算法可以快速的搜尋 MLP 的參數空間和倒傳遞演算法。

2.4.4 混合式類神經網路

混合式類神經網路是指類神經網路結合一個以上的人工智慧的方 法學(如模糊理論、類神經網路、基因演算法等)，透過方法學的整合，

可以對特定問題提出更有效的解答。整理數篇相關文獻如下:

作者(時間) 研究主題 混合方式 優於

R. Lamedica(1996) [43]

電力異常負載短期 預測

SOFM+MLP MLP Mikko Kolehmainen

(2000) [44]

空氣品質參數預測 SOFM+MLP N/A

Haibo Chen(2001) [36] 交通流量預測 SOFM+MLP SOM/ARIMA ARIMA, RBF, MLP Membership Function）來決定「權數」，即時間距離較近者給於 較大之權數值，但兩權數值之合為 1。