第二章 理論基礎與文獻回顧
第四節 類神經網路
國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
第四節 類神經網路
一、類神經網路簡介
類神經網路(Artificial Neural Network，又稱人工類神經網路或類神經網 路)，用來模仿生物類神經網路的資訊處理系統。生物神經元包含下列幾個 部分(如圖 2-10)(蘇昭安，2003；江正瑋，2003)：
(1) 神經核(Soma)：神經細胞呈核狀的處理機構。
(2) 神經軸(Axon)：負責將神經細胞核所輸出的訊號傳送到輸出神經 樹。
(3) 神經樹(Dendrite)：負責與其他神經元之間訊號的輸入與輸出。
(4) 神經節(Synapse)：位於不同神經元之間的交接處，為神經樹上的點 狀連結機構。
圖 2-10、生物神經元模型 (江正瑋，2003)
類神經網路主要是由許多神經元(Artificial Neurons)或節點(Nodes)所組 成，神經元是生物神經元的簡單模擬，獲取資訊後經由簡單的運算程序輸 出結果到其它的神經元。類神經網路的目的是模擬生物神經元間之運算能
‧
力，並透過自我學習與其非線性映射能力，有效解決問題(Demuth and Beale, 2002)。類神經網路的優點在於它是資料導向(Data-oriented)而非模式導向(一)輸入層(Input Layer):
「層」是由多個節點所組成，使網路內節點間的連結可以簡化成層與 層之間的連結。輸入層在網路架構中為接受資料並輸入訊息的一方，通常 以一層表示，處理單元的數目視其內容而定用以表現網路的輸入變數。
(二)輸出層(Output Layer)
在網路架構中為提供資料輸出的一方，通常以一層表示，為接受網路 處理後的結果，其處理單元數目視輸出的內容而定，用以表現網路的輸出 變數。
(三)隱藏層(Hidden Layer)
介於輸入與輸出層之間，使用非線性轉換函數，其層內之節點數並無 標準方法可以決定，通常須以詴驗的方式來決定其最佳數目，並提供類神 經網路處理單元間的交互作用與問題的內在架構的能力。隱藏層的層數並 無一定標準，較多的隱層藏代表類神經網路所處理的問題複雜度較高，而
‧
‧ 國
立 政 治 大 學
‧
N a tio na
l C h engchi U ni ve rs it y
30
圖 2-12、神經元模型(施柏屹，2000)
類 神 經 網 路 常 使 用 的 非 線 性 轉 換 函 數 如 圖 2-13 ， 包 含 兩 值 函 數 (Two-Value Function)，雙彎曲函數(Sigmoid Function)與雙曲線正切函數 (Hyperbolic Tangent Function)。其中雙曲線正切函數最常被使用，可將輸入 資料轉換為-1 與 1 之間。
圖 2-13、常用的轉換函數(蘇昭安，2003)
類神經網路的運算過程包含學習過程(訓練)與測詴過程(回想)，所謂的 學習過程就是類神經網路跟據已知的訓練樣本學習及模擬樣本間的輸入與 輸出的對應關係，調整權值，建立輸入與輸出之間的非線性映射關係；而 測詴過程則是類神經網路經學習後，當有新的樣本資料輸入時，它會根據
‧
倒傳遞類神經網路(Back-Propagation Neural Network)是將 Widrow-Hoff 學習規則廣義化到多層具非線性可微分轉移函數網路中而創造出來的，是 目前網路學習模式中最具代表性，且應用最廣泛的模式，因其所採用的演 算法為誤差反向傳播算法(Error Back-Propagation，簡稱 BP 算法)而得名。
BP 算法結構簡單，容易應用，主要運用於模式辨別與分類、函數逼近、數 據壓縮、影像處理及預測等領域(蘭雪梅，2003)。
倒傳遞類神經網路是將一組樣本的輸入與輸出問題變為一個非線性最 佳化的問題，倒傳遞網路具有偏權值，隱藏層具有雙彎曲轉移函數，輸出 層具有線性轉移函數，其基本原理是利用微積分中的梯度陡降法(Gradient Steepest Descent Method)，網路的權重值往負梯度的方向移動，計算並逐次 調整網路權值，使輸出預測值與實際目標值之間的誤差最小化，以得到精
‧
‧
由於倒傳遞類神經網路為監督式學習(Supervised Learning)網路，故類 神經網路輸出值與目標輸出值的差異量必須越小越好，因此當正向傳遞後
=學習速率(learning rate)，控制連結權重值修正量的幅度，太大 或太小都會導致網路收斂困難。
此外倒傳遞類神經網路反向傳遞的演算流程如下：
‧
步驟一：計算輸出、隱藏層的差距量；使用微積分中的鏈鎖率(Chain Rule)，
將(2-25)式中的 E
‧
‧
‧
多項式(楊銘仁，2004)、球諧函數(彭德熙，2008)與類神經網路(Leandro et al., 2007; Habarulema et al., 2007; Habarulema et al., 2009a; Habarulema et al., 2009b)等，下面依建構方法分別回顧與整理供後續研究之參考。
一、網格式
Lin(1999)使用 UNSW(University of New South Wales)網格式演算法來 構建區域電離層模型，其特點為(1)以特殊的指數函數取代權函數，(2)把前