類神經網路(Artificial Neural Network)

Artificial Neural Network 的原理與基本構造皆與神經生物學中的神經元構 造相似。一個類神經網路是由許多個人工神經元(artificial neurons) 與其連結所組 成, 並 且 可 以 組 成 各 種 網 路 模 式 (network model), 或 稱 網 路 典 範 (network paradigm)(葉怡成,2000)。根據 Freeman and Skapura(1992) 的定義, 類神經網路是 模仿生物神經網路的資訊處理系統, 它使用了大量簡單的相連人工神經元來模 仿生物神經網路的能力。而在一個網路模型當中, 一個人工神經元將從外界環境 或其他人工神經元取得資訊, 依據資訊的相對重要程度給予不同的權重(weight), 並予以加總後再經由人工神經元中的數學函數轉換, 輸出其結果到外界環境或 其他人工神經元當中。其運作概念可整理如圖2.5:

圖2.5 神經元的構造 資料來源：本研究整理

在圖3.2 中,X1,X2, ...Xn 代表輸入值,Wij 代表連接鍊的權數, Zj =ΣWijXi 代 表加權和,f(Zj)則是代表一轉換函數, 最後 Yj 則是神經元的輸出值。

目前著名的類神經網路模式有許多種, 葉怡成( 2000 ) 將它分成下列四大 項:

１.監督式學習網路(supervised learning network):

從問題領域中取得訓練範例(有輸入變數值, 也有輸出變數), 並從中學習輸 入變數與輸出變數的內在對映規則, 以應用於新的案例(只有輸入變數值, 而需 推論輸出變數值的應用)。

２.非監督式學習網路(unsupervised learning network):

從問題領域中取得訓練範例(只有輸入變數值), 並從中學習範例的內在聚類 規則, 以應用於新的案例(有輸入變數值, 而需推論它與那些訓練範例屬同一聚 類的應用)。

３.聯想式學習網路(associate learning network):

從問題領域中取得訓練範例(狀態變數值), 並從中學習範例的內在記憶規則, 以應用於新的案例(只有不完整的狀態變數值, 而需推論其完整狀態變數值的應 用)。

４.最適化應用網路(optimization application network):

類神經網路除了「學習」應用外, 還有一類特殊應用最適化應用: 對一問題 補傳統統計模式建構時須設立許多假設條件的缺點(Rumelhart et al., 1986)。因此, 近年來類神經網路在社會科學上已成為非常普遍使用的工具。此外許多廣泛的議 題也都使用類神經網路進行分析、研判。例如在市場區隔、破產預測、信用預測、

信用評估、利率預測、保險問題中的道德危機等問題(Berry & Linoff,1997; Vellido et al., 1999)。直至現今, 已有許多的類神經網路模式被提出, 而根據 Vellido et al.(1999) 的研究, 於 1992 到 1998 年之間, 在商業上使用類神經網路作為研究方

法者, 約有 78%的研究使用倒傳遞類神經網路(Back–Propagation Network, BPN) 來進行分析、研判。由於倒傳遞類神經網路具有學習準確度高, 回想速度快等優 點, 故本研究中將以倒傳遞類神經網路模式作為分析工具之一。

５.倒傳遞類神經網路(Back Propagation Network, 以下簡稱 BPN 或 BP):

在眾多的網路模式中, 屬於監督式學習的倒傳遞類神經網路最具代表性、應 用也最為廣泛, 適合運用於預測問題之研究。1974 年 P.Werbos 提出加入隱藏層 設計之網路學習演算法啟始, 但在當時並沒有被重視, 到了 1985 年 Parker 再次 提出倒傳遞網路, 同年 Rumelhart 和 Hinton 等人於 1986 年提出通用差距法則 (General Delta Rule), 並發表倒傳遞類神經網路理論後, 其價值正式被肯定, 發 展至今已是目前最常被使用的類神經網路之一, 因為此網路具有學習度高、回想 速度快、輸出值可以為連續值等優點, 能處理複雜的樣本識別與高度非線性的合 成問題,因而廣泛應用於各個領域。倒傳遞類神經網路之構造如圖 2.6 所示。

圖2.6 倒傳遞神經網路架構圖 資料來源：本研究整理

倒傳遞類神經網路架構圖包括: 輸入層、隱藏層及輸出層。 (localoptimal) 等情況(Freemanand Skapura, 1992)。因此, 當建立網路模式時, 對 於相關參數的設定常須進行多方面的考量。

倒傳遞類神經網路的基本運算原理是利用最陡坡降(gradient steepest descent method)的觀念, 將網路實際輸出與目標輸出之差異函數最小化, 並透過加權值 的不斷調整, 來達成網路的訓練。亦即, 最陡坡降法是用來調整權數變動的幅度 (ΔWij):

在方程式中, η為學習率;E 為誤差函數; E = 12Σ(Tj − Aj)²; Tj 表實際值; Aj 精確度與學習速度(Vellidoet al., 1999)。

而在本研究中, 嘗試採用 Qnet 2000 套裝軟體。Qnet 是倒傳遞類神經建模系

第六節 相關研究

人工智慧演算法應用於特殊教育的起源甚早， 然而早期多著重於應用專家 系統(Expert Systems)於特殊教育的相關工作(Wu et al.,2008)。除了專家系統外，

資料探勘也是深受期待能夠對特教領域有所助益的技術。國外學者 Tsantis and Castellani(2001)曾列舉資料探勘技術於公共衛生、電信通訊與財務金融方面的成 功案例，並據此提出資料探勘技術也應可以應用於協助各級的教育，特別是特殊 教育。然而，根據研究者文獻搜尋所得，資料探勘於教育或學習方面的應用頗多 (Romero andVentura, 2007)，但於特殊教育上之應用卻相當有限(吳東光、孟瑛 如，2007)。在資料探勘領域中，分類乃傳統最受關注的技術之一。