倒傳遞類神經網路之簡介

倒傳遞神經網路屬於階層式連接型網路，其主要架構可分為三 部份。如圖A-1所示。

圖 A-1 倒傳遞網路之基本架構 1. 輸入層

主要用以表示網路的輸入變數，其數目的多寡由題目而定，

輸入函數多用線性函數所表示。

2. 隱藏層

用以表示輸入單元間交互作用的情況，對於此層的數目並沒 有一定的定論，通常需測試後決定，其網路層數可以為零到

用線性轉換函數。

（1） 位階臨界轉換函數（Step Threshold Transfer Function）：

臨界函數的輸出只隨輸入值的正負號所改變，若輸入值為

a. 監督式學習（Supervised learning network）

從問題中所取得的訓練範例（同時具有輸入及輸出變 數），在網路中學習輸入與輸出變數間的對映規則，以 應用於新的案例。利用此種學習方式之網路有倒傳遞 網路與機率神經網路（Probabilistic Neural Network）等。

b. 無監督式學習（Unsupervised learning network）

從問題中取得只有輸入變數值的訓練範例，讓網路學 習範例的內在集群規則，在預測新案例時輸入新的變 數值，並推論其屬於原本訓練範例中的哪一個集群。

自組織映射圖網路（Self-Organizing Map）、自適應共 振理論網路（Adaptive Resonance Theory Network）皆 屬之。

c. 聯想式學習（Associate learning network）

從問題中取得狀態變數值的訓練範例，並學習範例的 內在記憶規則，也就是以不完整的狀態變數值，去推 論其完整的狀態變數值。霍普菲爾網路（Hopfield Neural Network）、雙向聯想記憶網路（Bi-directional Associative Memory）皆屬之。

（2）回想過程（Recalling）：經過學習過程的學習之後，類神 經網路會將學習之結果儲存在網路的連接權數中，因此我們將 資料輸入網路之後，經過一些數學運算即可獲得輸出的結果。

倒傳遞網路屬監督式學習，而監督式學習的主要目的在於降低

網路推論輸出單元與其目標輸出值單元間之差距，一般會採用能量 函數（或稱之為誤差函數）來表示網路學習的品質，其能量函數（誤 差函數）的表示如下：

⁼

∑

k

k

k Y

T

E ²

2

1 （A-4）

其中

T_k ：第k個輸出單元的目標輸出值

Y_k：第k個輸出單元的推論輸出值

而此一能量函數（誤差函數）的最主要目的是在於修正網路上

連結的權重（W_ij）並經由權重的修正再使得能量函數（E）達到最 小化，即網路的推論輸出值趨近於實際的目標輸出值。其學習過程 是透過最陡坡降法的方式使得能量函數（誤差函數）趨於最小化。

其權重休正值如式3-6所示：

W ∂^E

−

=

∆ η （A-5）

其中 η：學習速率（learning rate），用來控制當權重在迭代時

_{k j}

則網路隱藏層處理單元與輸入層處理單元間之權重修正量為：

例都完成了訓練過程，這樣稱為一個學習循環（learning cycle）。通 常網路訓練需要多個循環才會達到收斂的效果。

在本研究中，為了節省網路訓練的時間，因此採用批次學習

（batch learning）法則，就是將訓練範例的誤差修正量一直累積到

一個學習循環結束後才進行誤差修正量的更新動作。