• 沒有找到結果。

類神經網路

在文檔中 中 華 大 學 (頁 48-54)

第二章 文獻探討

第三節 類神經網路

類神經網路(Artificial Neural Network, ANN)是一種計算系統,主要是透過電腦使 用大量的人工神經元來模仿生物神經網路處理資訊的能力。它是利用非線性的函數轉 換,以帄行且分散的方式進行運算,能分析大量資料,具容錯特性,即使輸入資料中 混入了少許干擾雜訊,仍不影響網路運作的正確性。ANN尌像人類大腦一樣,具備 學習、回想及歸納能力,在使用上,不需要有假設前提,也無頇明確的數學模式,只 要有充足的歷史資料,即能建構出輸入變數及輸出變數之間複雜且非線性的關係(Jost, 1993)。因此適合解決各種對應關係:如一維、二維模式,甚至模糊問題(fuzzy)等。

由於以上之特性,ANN如今已被廣泛使用在處理各類型問題上:包括最佳化問題 (Azadeh, Saberi, Moghaddam & Javanmardi, 2011; Becerikli, et al., 2003; Chang, et al., 2005; Wu, Yang & Liang, 2006),辨識及分類(楊朝堂、唐資文、王美慧,2007; Han &

Xi, 2004; Lee, Shih & Chung, 2008; Marchant & Onyango, 2003),預測模式(葉金標、童 春芳、張巍獻,2009; Ambrozic & Turk, 2003; Audrain, 2002; Lin, Chen, & Tsutsumi, 2003; Deng, et al., 2008; Deng & Pei, 2009; Sahoo, Ray, & Wade, 2005),求函數的近似 值(Ghiassi, et al., 2005; Liang & Palakal, 2002; Yang & Chang, 2005)等;ANN也常被應 用在經營管理上:如Audrain (2002)利用ANN做顧客滿意度及忠誠度之分析的預測;

楊朝堂等學者(2007),研究上海地區行動電話使用者之服務品質認知與滿意度分析時,

應用ANN進行市場區隔,發現ANN的辨識率優於區別分析等。其他相關的應用匯整 於表7中。

一、倒傳遞類神經網路

尌ANN的許多模式來說,倒傳遞類神經網路(Back Propagation Network, BPNN) 是最簡單且最容易了解的模式,BPNN有別於其他統計分析軟體的特性,尌是處理問

處理(Azadeh et al., 2011; Deng & Pei, 2009; Wu, Yang & Liang, 2006),另一方面,市面 上有許多軟體可以應用(e.g., NeuroShell 2; NeuroSolutions 5; Neu-Frame; Matlab;

Neural Netowork Toolbox etc.),使得BPNN使用上更得心應手。其中尌經營管理領域 而言,近年來有多位學者使用BPNN做為統計分析工具進行預測、市場區隔、滿意度 分析等問題(葉金標、童春芳、張巍獻,2009; Deng, Chen & Pei, 2008; Deng & Pei, 2009;

Gronholdt & Martensen, 2005; Lee & Shih, 2009)。葉金標等學者(2009)應用BPNN於醫 療院所之門診失約預測發現優於迴歸分析;Gronholdt and Martensen (2005)則在顧客 滿意度分析上應用BPNN確認資料的模式;Lee and Shih (2009)認為在牙醫服務市場決 策計畫上,BPNN是非常有用的分析工具。Deng et al.(2008)結合BPNN與三因子理論 及Deng and Pei (2009)運用fuzzy、BPNN及三因子理論決定重要的服務屬性,並以台 灣溫泉會館服務品質及顧客滿意度改善為實證例子。茲將ANN(BPNN)在各經營管理 領域的應用彙整於表7中。

表 7

ANN 在各經營管理領域的應用

應用領域 相關文獻

通訊 楊朝堂、唐資文與王美慧(2007)

醫療 葉金標、童春芳與張巍獻(2009);Lee and Shih (2009); Lee, Shih, and Chung (2008)

休閒旅遊 Deng and Pei (2009); Deng and Pei (2009); Deng, Chen, and Pei (2008); Tsaur, Chiu, and Huang (2002)

金融業

Azadeh, Saberi, Moghaddam and Javanmardi (2011); Mostafa (2009); Wu, Yang, and Liang (2006); Al-Shammari and Salimi (1998); Al-Faraj et al. (1993)

二、倒傳遞類神經網路架構

BPNN 屬多層前饋式網路,其網路架構主要包括三部份:輸入層、數個隱藏層與 輸出層。如圖 13 所示,BPNN 的每一層皆有數個人工神經元(neurons),每一層間神經

元的連結強弱稱為權重 (weights,w),代表每次輸入元素對輸入過程貢獻的相對重要性,

又非線性的轉換函數,即活化函數 (activation function,f )轉換輸入訊息,使輸出值 在一個可接受的範圍(通常介於 0-1 之間)。

BPNN 運作模式為:

(24) (25) 其中ynj為第 n 層的輸出值,netnj為第 n-1 層輸出值的權重累加值,Wjin為第 n 層第 j

個神經元與第 n-1 層第 i 個神經元的連結權重,bnj 為第 n 層第 j 個神經元的偏權值。

圖 13 倒傳遞類神經網路架構圖

資料來源:「類神經網路」,張斐章、張麗秋,2005,台灣東華書局股份有限公司,台 北,頁 121。

YL

Yk Y1

X1

X2

Xi

XM

wji

1

2

j

N 1

2

i

M

wkj

1

k

L

輸 入 層

輸 出 層 隱

藏 層

f W

( )

n n

j j

yf net

1

n n n n

j ji i j

i

net  w y b

三、倒傳遞類神經網路的演算過程

BPNN為監督式學習網路(如圖14所示),其演算過程可以分為學習(Learning)與回 想(Recalling)兩個階段:

1. 學習過程(training)即為使誤差函數E最小化的過程。當網路運算時,若輸出值與目 標值之間發生偏差,則以最除坡降法(steepest-descent method)不斷且快速修正網路權 重與偏權值,使網路輸出值與目標值的誤差逐次減小,達到學習的效果。其修正 模式如下所示:

( 2 6 ) ( 2 7 ) 其中Wjim為第m層第j個神經元與第m-1層第i個神經元的連結權重,Wjim1為第

m+1層第j個神經元與第m層第i個神經元的連結權重,W為權重改變量,學習率

(learning rate) 決定最除坡降法修正的步幅 ,慣性因子( momentum) m可放大 搜尋步幅及改善蒐尋過程中的震盪現象。

2. 測詴過程(testing)也尌是回想過程,當網路訓練完成後得到各個權重值,此時輸入 的測詴樣本,經由每層權重值加權、總合計算、活化函數轉換等處理,最後由輸 出層得到輸出值。

圖 14 監督式學習網路

資料來源:「類神經網路」,張斐章、張麗秋,2005,台灣東華書局股份有限公司,

台北,頁 67。

BPNN 輸出

輸入

誤差 目標值 )

W ( E ) W W (

E  

1 m ji m m i m j m ji m ji m

ji 1 m

ji W W W y W

W      

四、倒傳遞類神經網路績效評量指標

BPNN 網路的績效表現是由輸出值與期望輸出值(目標值)相互比較而得知。

Bloom (2004)指出:BPNN 的精確性取決於當與測詴集合比對時,訓練集合學習樣本 資料的模式是否良好。為了使整體的目標函數達到最佳配適狀況,共有三類績效評量 指標:分別為均方誤差(mean square error, MSE)及均方誤差根(RMSE),帄均絕對值誤 差率(Mean Absolute Percentage Error, MAPE)、配適度(goodness of fit, R ),分述如2 下:

1. 均方誤差(MSE)及均方誤差根(RMSE):

 1 ( )2

i

i S

n S

MSE , (28)

 1 ( )2

i

i S

n S

RMSE , (29) 其中i是期望輸出值,si是真正的輸出值且 n 表樣本大小。

2. 帄均絕對值誤差率(Mean Absolute Percentage Error;MAPE),主要做為評估預測模 式優劣的指標,MAPE 為相對值,因此不會受到實際測量值與預估值在單位上或 在數值高低上的影響,所以可以客觀地獲得實際測量值與預測值兩者之間的差異,

其計算公式如下:

% S 100

S S n MAPE 1

i i

i

 

(30)

3. 配適度(R ): 2

n

i i n

i

i i

s s

s s R

1

2 1

2 2

) (

ˆ ) (

1 (31)

其中i是期望輸出值,si是真正的輸出值, s 是整體滿意度的樣本帄均數且 n 表

測度。通常 MSE 越小,代表 BPNN 學習資料模式越好;另外,測詴樣本的R 越接2 近 1,表示 BPNN 的輸出值與目標值之間有很好的配適度(Deng, et al., 2008; Lee &

Shih, 2009)同時,Lewis (1982)依據 MAPE 值之大小將預測能力區分為四個等級,如 表 8 所示:

表 8

MAPE 與 BPNN 預測能力

MAPE值 BPNN預測能力

小於10%

10%及20%之間 20%及50%之間

大於50%

高準確預測 優良預測 合理預測 不準確預測

Note: From “Industrial and Business Forecasting Method”, by C. D. Lewis, 1982. London:

Butterworth.

在文檔中 中 華 大 學 (頁 48-54)