第二章 文獻回顧
2.3 類神經網路
2.3.1 類神經網路的原理
人類的大腦大約由一千億個神經細胞(nerve cells)組成,而每個 神經細胞又有104個神經突觸(synapses)與其他細胞互相連結成一個非 常複雜的神經網路。當人類的感官受到外界刺激經由神經細胞傳遞訊 號到大腦,大腦便會下達命令傳遞至相關的受動器(effector)做出反應
(例如:手的皮膚接觸到燙的物體立即放開並感到疼痛等),這樣的 過程往往需要經由反覆的訓練,才能做出適當的判斷,並且記憶於腦 細胞中。如果大腦受到較嚴重的損害(例如腦震盪患者),便需要藉 由復健的方式,重新學習。類神經網路的運作便源於此,藉由不同的 演算法訓練類神經網路使得神經網路的輸出能達到我們所要求的結 果。如圖 2-3 為一生物神經元的模型,圖中神經核(soma)為神經細胞 呈核狀的處理機構,軸索(axon)為神經細胞成軸索狀的輸送機構,樹 突(dendrites)為神經細胞成樹枝狀的輸出入機構;突觸(synapses)則為 神經細胞神經樹上乘點狀的連結機構。
而類神經網路是由許多的人工神經元(artificial neuron)(又稱類神 經元、人工神經細胞、處理單元(processing element)等)所組成。一
第二章 文獻回顧
個人工神經元的模型顯示如圖2-4 所示,每一個處理單元的輸出以扇 形送出,成為其它許多處理單元的輸入,而處理單元輸出值與輸入值 的關係式如(2-12)式所示,一般用輸入值的加權乘積和之函數來表示 之。圖2-4 與(2-12)式中的參數說明如表 2-2。
圖2-3 生物神經元的模型
(資料來源:鄭錦桐,李錫堤(1996)[23])
神經核(soma)
軸索(axon) 突觸(synapses)
樹突(dendrites)
第二章 文獻回顧
圖 2-4 人工神經元模型
) (n i j
i ij
j
f W X
Y
= ∑ −θ ……….……….(2-12)其中 f 為轉換函數,可表為(2-13)式與圖 2-5
e
xx
f
−= + 1 ) 1
( ……….(2-13)
-10 -5 5 10
0.2 0.4 0.6 0.8 1
圖 2-5 隱藏層輸出層非線性轉換函數
Wij
X1
X2
X3
Xi
‧‧‧
θj netj f Yj
第二章 文獻回顧
(2-12)亦可表示為 )
( j
j
f net
Y
= ………...………….(2-14)其中
net 為加法單元(summation)
j ,可表為j i n
i ij
j
W X
net
= ∑ −θ ………..(2-15)表2-2 人工神經元參數說明一覽表
參數 說明
X
i 稱為神經元的輸入(Input),用來模仿生物神經元模型的輸入 訊號(input signal)。W
ij稱為鍵結加權值(weights),類神經網路的訓練就是在調整鍵 結加權值,使其變得更大或是更小,通常由隨機的方式產生 介於+1 到- 1 之間的初始值。其值越大,則代表連結的神經 元更容易被激發,對類神經網路的影響也更大;反之,則代 表對類神經網路並無太大的影響,而太小的鍵結值通常可以 移除以節省電腦計算的時間與空間。用來模仿生物神經元模 型的神經鏈結強度。
θi 稱為閥值(bias),有偏移的效果。模仿生物神經元模型的閥值 (threshold value),又稱偏權值。
net
j 稱為加法單元(summation),此部分是將每一個輸入與鍵結 值相乘後做一加總的動作。f
又稱之為活化函數(activation function)通常是非線性函數,
有數種不同的型式,其目的是將 netj的值做映射得到所需要 的輸出。用來模仿生物神經元模型的轉換函數(transfer function)。
Y
j 稱之為輸出(output),亦即我們所需要的結果。用來模仿生物 神經元模型的輸入訊號(Output signal)。第二章 文獻回顧
將上述的神經元組合起來即成為一個類神經網路(如圖 2-6 為一 典型的BPN 模型)。目前為止,許多的學者針對欲解決問題的不同,
提出許多的 ANN 模型,每一種 ANN 演算法並不相同。常見的網路 有:倒傳遞網路(Back-propagation Network)、霍普菲爾網路(Hopfield Network)、半徑式函數網路(Radial Basis Function Network),這些網路 並非適用所有的問題,須針對欲解決問題選擇適當的網路方法。本研 究選擇ANN 中之 BPN 與 AASN 作為個案分析之方法。
圖2-6 倒傳遞網路(BPN)模型