第三章 研究方法
3.2 類神經網路
要了解大腦是如何思考運作的,就必頇要知道生物神經網路的奧 秘,而類神經網路就是人類製造出來的,用來模仿生物神經網路的資 訊處理系統,因此,要了解類神經網路就必頇先了解生物神經網路,
生物神經網路是由許許多多約 1011個神經細胞,又稱為神經元(Neuron) 所組成的,神經元是腦組織的基本單元,如圖 3-4,標示出神經元的 主要部分名稱。接下來就要簡單介紹神經元內部運作的機制。
3.2.1 生物神經元
當外界各種不同形式的資訊或能量訊號(例如,聲、光、電、熱 等等刺激),透過感官器官轉換成電的訊號後,便會進入神經細胞中,
而在神經元內此輸入訊號是經由突觸(Synapse)間內部電位變化後,透 過樹突(Dentrites)傳送至細胞本體(Soma),再由軸突(Axon)傳送到樹突,
成為下一個神經元的輸入訊號。其中,突觸內的影響強度就是生物神 經網路儲存資訊的地方,生物神經網路的學習就是在調節突觸的強度。
因此,我們可以說樹突是細胞的輸入路徑,透過細胞本體間許許多多 聯絡的突觸來接受周圍細胞本體所傳出的訊號,那麼軸突就相當於細 胞本體的輸出路徑。
19
3.2.2 人工神經元
而類神經網路則是利用生物神經元的概念,創造出了人工神經元,
如圖 3-5。其中,輸入(P)乘上權重值(W)加上偏權值(b),這個總和是 轉移函數(f)的自變數,輸出(a)則是轉移函數的應變數。值得注意的是,
神經元的權重值(W)和偏權值(b)都是可調整(Adjustable)的參數。跟生 物神經元相比,權重值和偏權值就像突觸的連接強度,細胞本體則對 應於加法器和轉移函數。其中,圖 3-6 列出了常用的轉移函數,以及 其圖示。
生物神經網路是由許許多多的人工神經元聯結所組成,因此,類 神經網路則是由許許多多的人工神經元聯結所組成的。所以類神經網 路是要對生物神經網路作出最簡單的模擬,而人工神經元則是最基本 的類神經網路單元,我們又可稱它為處理單元(Processing Element,PE) 或結點(Node)。
3.2.3 類神經網路架構
我們可以引用 Robert Hecht-Nielson(1990)對類神經網路所下的定 義:“類神經網路是一種計算系統,由許多高度聯結的節點(或處理 單元)所組成,用來處理資訊並對外部的輸入以網路動態來回應。”
因此若把類神經網路視為黑盒子,則此黑盒子是由許許多多節點 所聯結成。其中,每一個節點都是獨立地進行運作,可視為一個單獨 的處理器,而且這些處理器都是以並行方式運行的。由圖 3-7 可知,
當我們將類神經網路視為一個透過輸入層的所有節點來輸入特定訊
號的黑盒子時,類神經網路透過節點之間的相互聯接關係來作訊號的 處理,而且整個處理過程對我們而言是隱藏的,且將最終處理結果由 輸出層傳出。值得注意的是,在類神經網路中,訊號處理過程是以數 值方式來進行的,網路可以儲存訊號,而且所儲存的資訊是數值型態 的,因此,類神經網路可以用來作為多變數經驗建模的工具。
3.2.4 類神經網路如何運作
要了解類神經網路是如何運作,也就是網路是如何學習而具有功 能,就要從圖 3-7 來了解,在這個圖中,網路是如何來決定權重值(W) 和偏權值(b),而要回答這個問題就必頇了解網路內部是如何運作的。
基本上,類神經網路的運作分成兩個過程:
訓練過程─訓練目的在決定網路的權重值與偏權值。
模擬過程─目的在決定網路的預測輸出值或驗證網路的準確度。
類神經網路運作就是透過訓練,不斷地調整節點之間的權重值與 偏權值,使網路所計算的輸出為目標輸出,其運作目的就是要讓網路 能映射出正確的輸入─輸出關係模式。
3.2.5 學習規則
在訓練過程中,網路遵循所謂的學習規則(Learning Rule)。同樣地,
各種類型的網路各有其不同的學習規則。
學習規則(Learning Rule)的定義如下:「用來修改網路權重值和偏
21
權值的步驟,也可說是一種訓練演算法。」使用學習規則來訓練網路 執行一些特定的任務。一般將學習規則分成兩大類:監督式學習 (Supervised Learning)和無監督式學習(Unsupervised Learning)。
監督式學習─
在監督式學習中,提供適當的網路行為訓練範例給學習規則,此 訓練範例如下:
{p1,t1},{p2,t2},…, {pQ,tQ}
其中 pQ是網路的輸入,而 tQ是相對應正確的輸出(或稱目標),當輸 入給網路時,網路的輸出就會與目標做比較。接著,學習規則被用來 調整網路的權重值和偏權值,目的是為了讓網路的輸出更接近於目 標。
無監督式學習─
在無監督式學習中,權重值和偏權值的修改只回應出網路的輸入,
沒有目標輸出可以獲得。此種演算法大部分會執行聚類(Cluster)運作。
這種演算法可將輸入圖樣分成有限個數的種類。在向量量化中使用此 種學習非常有用。