教育測驗資料實驗結果

教育測驗資料的資料集「扇型」 。第一個部份

以樣本在二維空間中的散布圖，比較三種切集方式於建立階層式辨識結構上，

對於樣本點的散布情形。第二部份則是比較本研究所提出的方法。其中在 HC2 及 HC3 中，各萃取 1 到 10 個維度數，取各自的最高辨識正確率並比較之。

利用 NWFE 將教育測驗「扇型」單元的資料從原始空間 21 維度空間做特徵

萃取並且轉換到 2 維 的樣 形 圖 5-47 5-50，每類

的樣本點數個為 20 個。圖 5-47 是利用 NWFE 將原始樣本點轉換到 2 維的特徵 空間後，在「扇型」單元裡八個類別的資料其散布圖形。圖 5-48 至圖 5-50 分別 為利用 NWFE 將原始樣本點轉換到取 ，再使用 Max-cut-EDM 法、Max-cut-NWSM 法及 Max-acc-CVM 法將 單元裡八個類別轉換為兩 個類別的得到的散布圖形。

從圖 5-48 至圖 5-50，可以很明顯的發現在二維的特徵空間中，使用不同建 立階層式辨識結構的方法所得到的散布圖形皆不盡相同。

單元。將其分為兩個部份來看

的特徵空間後 本散布情 ，如 至圖

2 維的特徵空間後

「扇型」

10 20 30 40 50 60

10 20 30 40 50 60 -10

0 10 20 30

Feature 1

F eat ur e 2

Class 1 Class 2

圖 5-49 使用 2 維 NWFE 特徵萃取進行 Max-cut-NWSM 法得到之散布圖形

10 20 30 40 50 60

-10 0 10 20 30

Feature 1

F eat ur e 2

Class 1 Class 2

圖 5-50 使用 2 維 NWFE 特徵萃取進行 Max-acc-CVM 法得到之散布圖形

利用第四章中實驗 7、8 所得的結果，分別將 Indian Pine Site 實驗列示於表 5-7 及表 5-8。

由表 5-7、表 5-8 得知，在 HC2 與 HC3 中，其辨識效果大都比 HC1 來的好。

證實了在階層式辨識系統中加入特徵萃取，其辨識效果比沒有加入特徵萃取來 的好。

由表 5-7 及表 5-8 得知，在 HC1 結構中使用 Max-cut-EDM 法的辨識正確率 明顯較差，但在使用 Max-cut-NWSM 法及 Max-acc-CVM 法於 HC1 結構時，有 部分的辨識正確率有所提升。

在結構 HC2 至 HC3 裡，大致上使用 Max-acc-CVM 法和 Max-cut-NWSM 法 會比使用 Max-cut-EDM 法的效果好。

根據郭伯臣(民 94)研究中指出，對於教育測驗資料「扇形」單元，當訓練

本數為 法

並使用 HML 於 HC2 有 79.36%的辨識正確率，和使用 Max-acc-CVM 法並使用 HML 於 HC3 有 80.09%的辨識正確率，明顯的比原本的辨識效果來得好。

原本的研究也指出，當訓練樣本數為 20 時，最高有 85%的辨識正確率。而 在本實驗中使用 Max-cut-NWSM 法並使用 HML 於 HC2 有 90.12%的辨識正確 率，使用 Max-acc-CVM 法並使用 HML 於 HC2 有 88.16%的辨識正確率，和使 用 Max-acc-CVM 法並使用 HML 於 HC3 有 89.30%的辨識正確率，其辨識效果 比原本的來得好。本研究所提出的方法對於測驗資料「扇形」單元而言效果有 顯著的提升。

樣 10 時，最高有 73%的辨識正確率，而在本實驗中使用 Max-cut-NWSM

5-7 教育測驗資料「扇形」單元於實驗 7 的實驗結果

Max-cut-EDM 21.78 35.10 57.02 Max-cut-NWSM 21.78 32.93 66.62 HC1

Max-acc-CVM 21.78 44.08 56

Max-cut-EDM 75.74(3) 68.88(4) 71.08(6) Max-cut-NWSM 79.36(5) 73.47(3) 70.43(5) HC2

Max-acc-CVM 73.82(3) 73.11(3) 74.15(9)

Max-cut-EDM 72.27(3) 65.64(2) 64.34(9) Max-cut-NWSM 61.57(2) 67.99(2) 63.65(10) H

Max-acc-CVM 80.09(4) 67.57(5) 65.40(3) C3

Max-cut-EDM 27.48 39.25 71.72 Max-cut-NWSM 27.48 35.99 75.60 HC1

Max-acc-CVM 27.48 51.46 71.52

Max-cut-EDM 85.29(5) 78.47(4) 80.56(8) Max-cut-NWSM 90.12(5) 84.49(3) 80.56(8) HC2

Max-acc-CVM 88.16(3) 84.49(3) 81.72(8) Max-cut-EDM 82.94(5) 77.96(2) 70.83(3) Max-cut-NWSM 70(5) 80.10(2) 73.50(4) HC3

Max-acc-CVM 89.30(5) 81.22(2) 81.22(2)

第六章 結論與未來方向

教育測驗資料「扇形」單元之後發

現，本研究所提出的三種階層式辨識系統 C ，若是在階層式辨

識系 加 徵萃取 、HC3)時 到的辨識效 的比

HC1 來的好。證實了在小樣本的情況之下，將特徵萃取加入階層式辨識系統會

比沒有將特徵 式辨 效果有 善。

本研究使用三種切集方式來建立階層式辨識結構，結果發現，本研究所提

出的 Max-cu Max 法比原 ut-EDM 2 及

HC3 辨 識 效 果 大 都 來 得 好 ， 證 實 了 使 用 不 同 的 來 建 立 識 結 構，是可以提升辨識正確率的。

在實驗中發現，辨識器的選擇也是影響辨識正確率的一項因素，在本研究 中使用三種辨識器融入階層式辨識系統中，是否可以找到更適合高維度資料的

辨 ？ 有 每個節點裡都有一個二元的辨識器，

要如何去找尋最適合此節點的二元辨識器呢？未來的研究中將探討如何在階層 式辨識系統的各節點裡，自動化的去找尋最佳的二元辨識器，進而提升辨識正 確率。

經由使用兩種高光譜遙測影像資料集及

H 1、HC2 及 HC3

統內 入無參數加權特 (HC2 ，所得 果明顯

萃取加入階層 識系統， 明顯的改

t-NWSM 法及 -acc-CVM 本 Max-c 法在 HC 切 集 方 式 階 層 式 辨

L-1 個節點，

識系統呢 在辨識系統中

參

中文部

範

，第十三輯下 期

Machine Learning, vol. 45, no. 1, pp.5–32.

Chang, C.-C., & Lin, C.-J.

., Kuo, B-C., & Shih, S-C. (2004). A Two-stage Feature Extraction for Hyperspectral Image Data Classification. International Geoscience and Remote Sensing Symposiums, Sep 20-24.

Cover, T. M. & Hart, P. E. (1967). Nearest Neighbor Pattern Classification. IEEE Transactions on Information Theory, vol. 13, no. 1, pp.21-27.

Cristianini, N. & Shave-Taylor, J. (2000). Support Vector Machines and other kernel-based learning methods, Cambridge University Press.

Cristianini, N. & Shawe-Taylor, J. (2000). An introduction to support vector

考文獻

Breiman, L. (2001). Random Forests,

(2004). LIBSVM: a library for support vector machines.

Software available at http://www.csie.ntu.edu.tw/ ~cjlin/libsvm.

Chen, Y. Crawford, M.M. & Ghosh, J. (2004). Integrating Support Vector Machines in a Hierarchical Output Space Decomposition Framework, IEEE International Geoscience and Remote Sensing Symposium. Alaska AK. Sep. Volume II: pp.

949 – 952

Chen, G-S., Ko, L-W

Machines. Cambridge Univ idge, UK.

Earl Gose, Richard Johnsonbaugh, & Steve Jost.( 1996). Pattern recognition and Image Analysis, Prentice Hall Inc., New Jersey

Fisher, R. A. (1936). The use of multiple measures in taxonomic problems. Ann.

Eugenics, vol. 7, pp. 179-188.

Fukunaga, K. (1990). Introduction to Statistical Pattern Recognition. San Diego, CA:Academic Press.

Herbrich, R. (2002). Learning Kernel Classifiers. The MIT Press.

Hughes, G. F. (1968). On the mean accuracy of statistical pattern recognition. IEEE Inform. Theory

ve

Kuma of Multiple

Kuo,

for Hyperspectral Data Classification. International Geoscience

Kuo,

Sensing, vol. 42, no.

Landg emote Sensing.

Shaw

ersity Press, Cambr

.

Trans. , vol. 14, pp. 55 - 63, Jan.

Kumar, S. & Ghosh, J. (1999). GAMLS: A generalized framework for associati modular learning systems.

r, S., Ghosh, J. & Crawford, M. (2002). Hierarchical Fusion

Classifiers for Hyperspectral Data Analysis. International J. Pattern Analysis and Applications, vol. 5, no. 2, pp. 210–220.

B-C., Landgrebe, D.A., Ko, L-W., & Pai, C-H. (2003). Regularized Feature Extractions

and Remote Sensing Symposium, Toulouse. France, July.

B-C. & Landgrebe, D. A. (2004). Nonparametric Weighted Feature Extraction for Classification. IEEE Trans. on Geoscience and Remote

5, pp. 1096-1105, May.

rebe, D. A. (2003). Signal Theory Methods in Multispectral R John Wiley & Sons, Hoboken, NJ: Chichester.

e-Taylor, J. & Cristianini, N.(2004) Kernel methods for pattern analysis.

Cambridge University Press, Cambridge, UK.

Todd, , Ithaca, NY 14853,

Vapni Theory. Springer, New York.

M. J. (2001).Semidefinite Optimization, Cornell University Tech. Rep.

k , V. (1995). The Nature of Statistical Learning