類神經網路架構

類神經網路具備著一些優良的特性其中包括(1)高速的計算能力(2) 自我學習能力(3)高容量的記憶力(4)容錯的能力。

人工神經元輸出值與輸入值的關係式，可以表示如下：



 



 





j ij j i

i f W X

Y  (2.1) 其中，Y_i為人工神經元模型的輸出訊號；f 為人工神經元模型的轉換函 數(transfer function)，將人工神經元的輸出，經由轉換函數處理後，得 到輸出訊號；Wij為人工神經元模型連結加權值；Xj為人工神經元模型 的輸入訊號；_i為人工神經元模型的閥值。

本研究使用MATLAB 類神經網路軟體，選擇其中的工具程式庫之 倒傳遞網路作為颱風推算的工具。倒傳遞類神經網路(back-propagation neural network，BPNN)，屬於前向監督式學習網路，其基本原理是利 用最陡坡降法(gradient steepest descent method)，疊代修正誤差函數而使 誤差函數達到最小。倒傳遞類神經網路的總體運作學習方式有兩種，

一為學習過程，就是網路依既定的學習演算法，從使用的輸入資料中 學習，並藉以調整網路連結的加權值；使得網路演算結果與目標輸出 值相同；另一種為回想過程，網路依照設定的回想法則，以輸入資料 來決定網路的輸出值。

2-12

倒傳遞類神經網路學習演算法中，加權值矩陣為 W₁及 W₂，偏權 值量為₁及₂，輸入量為 X，目標輸出量為 T，轉換函數則採用雙曲函 數(hyperbolic tangent function)，而網路輸出量為 Y，網路的學習過程大 致可分為下列幾個單元：

2-13

其中 為學習速率(learning rate)，主要控制每次誤差函數最小化的速率 快慢，ⁿ_j為W_ij所連結第 n 層之處理單元差距量，A_i^n1為W_ij所連結第n-1 Neural Network, BPNN)，關於倒傳遞神經網路的理論與演算詳見 Eberhar and Dobbins (1990)的說明與推導。倒傳遞類神經網路對於線性 及非線性函數有良好的模擬能力，而類神經網路在適當的結構組織下

2-14

1

bS 為網路偏權值矩陣。式(15)簡單的表示方法為 ” S-P ”，所以一個具 有2 個隱藏層神經元的個數分別為 10 及 20，且一個輸出單元時，簡單 的表示法為1-10-20-1。

在使用倒傳遞網路的首先必須決定隱藏層的層數，以確定網路的 大小，方能建構一個好的模式。在許多理論研究的結果與工程領域的 模擬應用上都顯示，大多數問題可藉由單層隱藏層的架構來處理，2 層以上的架構是用來處理更複雜的問題以及非線性的關係，隱藏層層 數的決定在不同的研究或問題中有不同的結論(Chester, 1990; Hayashi 等, 1990; Kurkova, 1992; Hush 和 Horne, 1993)。

類神經網路架構的建置包括輸入層、隱藏層及輸出層，輸入層與 輸出層都可以由現有的資訊以及問題本身決定，系統的控制因子或影 響因子決定輸入層的神經元個數，系統的預測變數決定輸出層的神經 元個數。輸入項資料建議先經過前處理，將資料正規化至一定的範圍 間，如此可在網路訓練前考慮輸入參數與輸出值的極端狀況，來確定 網路輸入與輸出的值域，且經過處理後的訓練資料，可以讓訓練時權 重調整的速率相近。當決定隱藏層的層數後，各隱藏層神經元個數的 多寡對網路有相當大的影響，過少的神經元個數無法建構適當的網路 來描述問題，過多的神經元個數則造成網路自由度過高，進而難以控 制網路訓練的目標造成過度學習的狀況，甚至隱含了雜訊的描述，而 失去歸納推演的能力。選取的隱藏層神經元個數一般須經由測試來避 免網路結構太過複雜或太過簡單，以往昔研究結果建議可採用 Huang 和Foo (2002)提出的經驗公式

1