第三章 研究方法
第二節 研究方法與類神經網路
類神經網路(葉怡成,2003)是一種包括軟體與硬體的計算系統,它使用大量簡單且 相連的人工神經元來模仿生物神經網路的運算能力。人工神經元是生物神經元的簡單模 擬,它從外界環境或者其它人工神經元取得資訊加以運算,並輸出其結果到外界環境或 者其它人工神經元。
類神經網路(Artifical Neural Networks,ANNs)(張斐章、張麗秋,2010)是一巨量平 行分布的計算單位(神經元)所連結組成的網路架構,具有從輸入的訊息中獲取並累積經 驗、儲存知識,進而能加以利用的智慧型演算程序。而有別於傳統數學模式在面對複雜、
非線性的問題時,必須經由一些假設、簡化環境後才能建構出方程式,因此,傳統數學 模式常常需要在簡化的模式與正確的模式中做一取捨。其中,正確的模式可能難以建構 方式取得,而簡化的模式又與現實有所差異;而類神經網路則可藉由學習與記憶的方式 來處理複雜且具不確定性的問題。
倒傳遞類神經網路乃是運用監督式學習所衍生創造出的類神經網路,為一種平行 監督式的學習網路,其架構為多層感知器(Multilayer Perceptron,MLP),運用的學習 演算法為誤差倒傳遞(Error Back Propagation)演算法,故組合為倒傳遞類神經網路 (Back-Propagation Neural Network,BPNN),現多用於儀器診斷、股市指數預測、信用 評等風險等問題領域,也是目前學術上運用最為廣泛的類神經網路模式,其基本架構 如圖 3.1。
圖3.1 倒傳遞類神經網路基本架構圖 資料來源:葉怡成(2003)
一、倒傳遞類神經網路基本架構(呂沁玲,2009):
倒傳遞類神經網路的基本架構中,主要可以分為資料前傳及誤差倒傳這兩部分。
而資料前傳就是指將輸入層的輸出資料數值經過集成函數傳入隱藏層的神經元中,而 隱藏層的神經元再透過轉換函數將由集成函數中所得的資料數值轉換成輸出值,則此 一輸出資料數值再透過集成函數傳送到輸出層,輸出層再利用轉換函數將從集成函數 中所得到的資料數值再轉換成輸出值。而誤差倒傳就是把從輸出層中所得到的數值與
實際數值作一比較,再根據彼此所得的誤差值調整從輸出層到隱藏層,隱藏層到輸入 層的權重配比。因此倒傳遞類神經網路計算流程如圖 3.2。
圖3.2 倒傳遞類神經網路計算流程圖 資料來源:張斐章、張麗秋(2003)
二、倒傳遞類神經網路計算步驟程序(蔡岱蓉,2009):
步驟 1:正規化輸入值
由於輸入變數間之值域相差甚大,可能導致某些值域較小的輸入變數失去作用,使 得網路在訓練權重時產生之誤差變大,故對於每個輸入變數必須加以正規化處理,將變 數的最小值、最大值反映到期望的最小值、最大值,這樣的方法稱為區間應對法,公式
如下3.1:
k
步驟 9:更新各層間的權重與偏權值
步驟 10:測試是否已達網路停止條件。若未達到網路停止條件,執行步驟 2,若以達 到網路的停止條件,則結束網路的學習。
其中,在步驟 3及步驟 10中所提到的終止條件,可區分為四種方法:
(一)梯度法(Gradient):
倒傳遞網路的學習是向最大斜率方向改變,當梯度不變或梯度改變量很小時,此 時的權數不會再改變,則學習就停止。
(二)誤差均方根識別法(Root Mean Square, RMS):
當網路之均方根誤差值小於某一設定之收斂值時,表示該網路達到某一收斂程度,
則停止學習。
(三)交互驗證法(Cross-Validation):
將樣本區分為訓練及測試數據,一組作為訓練樣本而一組用來測試,若訓練與測 試的誤差水準同時小於某一設定值,就可以停止學習。若訓練好而測試不好,則 表示過度學習;若訓練不好而測試好,則表示學習不足。
(四)學習次數(Iterations):
指定網路完成所預設的學習次數,可以當作網路結束學習的條件之一。本研究則 利用此方法當做網路停止條件。