• 沒有找到結果。

第二章 文獻探討

2.5 類神經網路

2.5.1 類神經網路基本架構

類神經網路最小單位為人工神經元(如圖 5),又稱為人工神經細胞(Artificial neuron)

或處理單元(Process element),經由人工神經元組成層(Layer),再經由層架構形成 網路(Network)。

圖 5 人工神經元模型

人工神經元之間傳遞訊息的路徑稱為連結(Connection),人工神經元之輸入與輸出的 關係式可用輸入值的加權乘積和之函數表示(如公式 1)。

(公式 1)

其中:

Yj:人工神經元模型之輸出信號。

f :人工神經元模型之轉換函數(Transfer function)。此轉換函 數是將輸入值和連結加 權值做運算並轉換成該處理單元輸出值的一種數學轉換公式。

θj

Xi 輸入訊號 Yj 輸出訊號

Wij

j 處理單元

Wi j :人工神經元模型之神經節強 度,又稱連結加權值。表示第 i 處理單元對第 j 個 處理單元之影響程度。

Xi :人工神經元模型之輸入信號。

θ

j :模仿生物神經細胞的細胞核偏權值(Bias),即輸入訊號的加權乘積和必須要大 於偏權值後,才能被傳輸至其它人工神經元中。

神經元會加總輸入的結果,經由轉換函數運算,若超過閾值,則輸出衝動;若未超過 閾值,則保持沉默,箭號表示資料流向是向前傳遞的。接著由數個最小單位人工神經 元組成層架構,層架構最主要的功能為:

1、正規化輸出:

正規化輸出的目的在於將同一層中的處理單元之原始輸出值所組成的向量加以正規 化,再做為「層」的輸出。

2、競爭化輸出:

競爭化輸出之目的在於將同一層中的處理單元,選擇一個或若干個最強的處理單元,

令其值為 1,其餘為 0,再作為「層」的輸出。那些輸出值為 1 的處理單元稱為優勝 單元(Winner)(王朝曦,民 93 年)。

依各層的特質又可以區分為輸入層、輸出層和隱藏層三種,其架構(如圖 6)各層功 能及特性(Tomida et al., 2002):

圖 6 類神經網路架構圖

1、輸入層:

輸入層每個神經元只接受一個輸入變數作為其輸入值,並將輸出送至下一層的每個神 經元,所以輸入層神經元的個數等於輸入變數的個數。輸入層有兩種類型,第一種輸 入層中的神經元具有配重值與偏移量,且具有轉換函數;第二種輸入層中的神經元只 有接收輸入變數的功能,輸出值便是輸入變數,不具有運算的功能。

2、輸出層:

輸出層每個神經元的輸出值便是網路的輸出值,所以輸出層神經元的個數等於網路的 輸出值個數。

3、隱藏層:

介於輸入層與輸出層之間的層便是隱藏層,隱藏層的層數可以是零,也可以很多層,

不過最常見的為一層,隱藏層神經元的個數也沒有一定,使用者視資料的複雜度調整 隱藏層的層數與該隱藏層神經元的個數。

輸入層 隱藏層 輸出層

最後由層架構所組成類神經網絡,大致上常用的分類方式可依學習策略分類與網路架 構分類兩種:

1、依學習策略分類:

(1)監督式學習網路(Supervised learning network):

訓練的範例為一組已知的輸入及輸出值,讓網路來學習輸入與輸出變數之間的關係,

以應用在新的範例上。倒傳遞網路(Back-Propagation Network)即屬此類。

(2)非監督式學習網路(Unsupervised learning network):

從訓練範例中(只有輸入變數)學習範例本身的內在分類規則,以應用在新的範例進 行分類,自組織映射圖網路即屬此類。

(3)聯想式學習網路(Associated learning network):

從問題領域中取得訓練範例,並從中學習其聯想的記憶規則,常應用在當接收到不完 整訊息或訊息中有雜訊時,用其聯想的方式來推論其原始訊息內容 ,霍普菲爾網路

(Hopfield Network)即屬此類。

(4)最佳化應用網路(Optimization application network):

針對問題設計變數值,在有限制的條件下,達到最佳設計目標,通常用於設計與排程

相關文件