每個特徵萃取均萃取出1 到 10 個特徵，並且計算出不同的特徵數辨識正確
率。在每個特徵萃取中，均以10 個樣本集結果的平均作為該特徵萃取的結果，
以減輕抽樣的誤差。每個特徵萃取中，均有1 到 10 不同特徵數的辨識結果，選 取其中最佳的平均辨識正確率作為該特徵萃取的代表。括號中的數字代表擁有 最佳辨識正確率所使用的特徵數。
在高光譜影像資料方面，表4-1 與表 4-2 分別記錄 Washington DC Mall 資料
集實驗一和實驗二兩種實驗，不同的特徵萃取要素配合 ML 分類器、1NN，和
SVM 三種分類器組合的效能。
為了方便起見，符號A_B_C 表示使用”A”分散矩陣形式，” B”正規化技術，
以及”C”特徵值分解方法。
由表4-1 與表 4-2 可以發現以下幾點：
1. 不同的正規化方法需要對應不同的特徵值分解方法，以達到最佳的效能。舉 例來說，在表4-2 線性區別分析的情況下，PINV, RDA, MECS, NLDA 以及 RFE 最佳的特徵值分解方法分別是 SVD, QZ, SVD, EIG 以及 EIG。
2. 在沒有降維的情況下，1NN 和 SVM 分別擁有在 ill-posed 以及 poorly-posed 最佳的辨識正確率。這兩種方法勝過大部分在辨識過程中使用特徵萃取的方 式。在 ill-posed 下，只有 LDA_RDA_QZ, LDA_RFE_EIG, LDA_RFE_QZ, NWFE_RFE_EIG 和 NWFE_RFE_QZ 可以改進 1NN 分類器。在 poorly-posed 下 ， 只 有 LDA_RFE_EIG, LDA_RFE_QZ, NWFE_RFE_EIG 和 NWFE_RFE_QZ 可以改進 SVM。
3. 在 LDA 以及 NWFE 兩種不同的分散矩陣計算方法下，RFE 均能勝過其他的 特徵萃取技術。
4. 在 ill-posed 下，NWFE_RFE_EIG 和 NWFE_RFE_ QZ 配合 ML 分類器可以 擁 有 最 佳 的 效 能 。 在 poorly-posed 下 ， LDA_RFE_EIG, LDA_RFE_QZ NWFE_RFE_ EIG 和 NWFE_RFE_QZ 配合 ML 分類器擁有相似的效能，並
勝過其他的特徵萃取方法。這顯示了無參數加權特徵萃取型式的分散矩陣在 ill-posed 以及 poorly-posed 下更加的穩定。
為了評估方法的一致性和穩定性，圖4-1 到圖 4-4 用以呈現當特徵數目增加 時分類的辨識正確率。圖 4-1 和圖 4-2 分別顯示以 LDA 和 NWFE 為基礎在 ill-posed 下 配 合 ML 分 類 器 的 特 徵 萃 取 辨 識 正 確 率 。 在 圖 形 中 顯 示 ， LDA_RFE_QZ 擁 有 在 以 LDA 為 基 礎 的 特 徵 萃 取 下 最 佳 的 效 能 ， 和 NWFE_RFE_EIG 擁有在以 NWFE 為基礎的特徵萃取下最佳的效能。
圖4-3 和圖 4-4 分別顯示以 LDA 和 NWFE 為基礎在 poorly-posed 下的特徵 萃取配合ML 分類器的辨識正確率。在圖 4-3 中顯示，LDA_RFE_QZ 仍然是在 以 LDA 為基礎的特徵萃取下最佳的選擇。在圖 4-4 中顯示，NWFE_RFE_EIG 和NWFE_PINV_EIG 的組合擁有在以 NWFE 為基礎的特徵萃取下最佳的效能。
圖5-1 是 Washington DC Mall 高光譜影像資料的一部分，被選取出來當成測 試樣本，用以估計所有特徵萃取的效能。一方面是為了了解真正辨識出來的情 況，另一方面是為了比較辨識結果是否與所抽取的10 個資料集有差異。
基於以上所述，ML 分類器配合特徵萃取較其他分類器的效能佳，因此選擇 ML 分類器進行辨識。圖 5-2 到圖 5-33 為圖 5-1 在 ill-posed，也就是每個類別之 訓練樣本點數為 20 的情況下，使用不同的特徵萃取在 ML 分類器下的辨識結 果。圖5-34 與圖 5-35 分別是 1NN 與 SVM 沒有經過特徵萃取步驟所辨識出來的 結果。由圖 5-2 到圖 5-33 可以發現圖 5-1 辨識出來的結果與測試資料集的辨識 正確率相符。圖5-34 與圖 5-35 是用來與 ML 分類器做比較，可以發現與 ML 分 類器最佳的情況下相比，1NN 與 SVM 的分類結果顯然辨識正確率較低，也與表 4-1 與表 4-2 的結果相同。由表 4-1 和表 4-2 與圖 5-2 到圖 5-33 中所顯示的結果 是相符的。DA_RFE_EIG，LDA_RFE_QZ，NWFE_RFE_EIG 和 NWFE_RFE_QZ 擁有較佳的辨識正確率。
在教育測驗資料方面，表4-3 與表 4-4 分別記錄「擴分、約分」資料集在類 別樣本點數分別為10 和 20 兩種情況下，不同的特徵萃取要素配合 ML 分類器、
1NN，和 SVM 三種分類器組合的效能。
1. 對 ML 以及 1NN 分類器而言使用特徵萃取能改進效能。
2. 與高光譜影像資料相似，不同的正規化方法需要對應不同的特徵值分解方 法，以達到最佳的效能。
3. 在正規化技術方面 RDA、Mixed-LOOC 以及 RFE 擁有較佳的效能。
4. 在分類器上 ML 分類器需要較低的特徵維度數以達到最佳的辨識正確率，
1NN 所需的特徵維度數較 ML 高，SVM 則需要較兩者更多的特徵維度數才 能達到最佳的效能。
表 4-1 Washington DC Mall 實驗一在ill-posed 情況下的平均辨識正確率 特徵萃取 正規化 特徵值分解 分類器
ML 1NN SVM None None None 0.143 0.838 0.830
PCA None None 0.729(10) 0.747(9) 0.713(9) GSVD 0.587(6) 0.562(6) 0.368(7)
EIG 0.465(3) 0.612(6) 0.545(10) SVD 0.767(6) 0.775(6) 0.769(7) PINV
QZ 0.347(5) 0.432(7) 0.386(10) EIG 0.640(10) 0.786(10) 0.626(10) SVD 0.640(10) 0.786(10) 0.626(10) RDA
QZ 0.804(10) 0.868(10) 0.719(10) EIG 0.767(6) 0.775(6) 0.758(10) SVD 0.767(6) 0.775(9) 0.764(10) MECS
QZ 0.578(10) 0.583(10) 0.573(10) EIG 0.795(6) 0.808(6) 0.799(8) SVD 0.767(6) 0.777(7) 0.776(10) NLDA
QZ 0.758(10) 0.758(9) 0.750(8) EIG 0.875(4) 0.872(4) 0.854(10) SVD 0.771 (5) 0.779(7) 0.763(10) Mixed-LOOC
QZ 0.875(4) 0.860(4) 0.852(10) EIG 0.901(4) 0.892(4) 0.864(6) SVD 0.797(8) 0.771(6) 0.764(9) LDA
RFE
QZ 0.901(4) 0.892(5) 0.864(9) EIG 0.478(3) 0.620(8) 0.535(8) SVD 0.768(6) 0.788(8) 0.772(10) PINV
QZ 0.162(10) 0.166(2) 0.176(8) EIG 0.758(8) 0.762(10) 0.744(8) SVD 0.758(8) 0.762(10) 0.743(10) MECS
QZ 0.452(8) 0.465(10) 0.420(8) EIG 0.794(6) 0.810(10) 0.784(7) SVD 0.764(6) 0.787(9) 0.760(9) NLDA
QZ 0.794(6) 0.805(8) 0.785(9) EIG 0.916(6) 0.898(4) 0.875(8) SVD 0.803(7) 0.778(10) 0.755(10) NWFE
RFE
QZ 0.916(6) 0.898(4) 0.866(10)
表 4-2 Washington DC Mall 實驗二在 poorly -posed 情況下的平均辨識正確率 特徵萃取 正規化 特徵值分解 分類器
ML 1NN SVM None None None 0.143 0.880 0.873
PCA None None 0.782(10) 0.733(10) 0.751(10) GSVD 0.839(6) 0.646(6) 0.760(9)
EIG 0.839(6) 0.688(6) 0.822(10) SVD 0.850(10) 0.737(10) 0.818(10) PINV
QZ 0.839(6) 0.679(10) 0.824(8) EIG 0.721(8) 0.688(10) 0.686(9) SVD 0.721(8) 0.737(10) 0.686(9) RDA
QZ 0.808(10) 0.684(10) 0.738(9) EIG 0.815(6) 0.737(6) 0.808(10) SVD 0.827(7) 0.737(6) 0.803(10) MECS
QZ 0.839(10) 0.711(10) 0.802(9) EIG 0.854(6) 0.821(6) 0.831(7) SVD 0.818(7) 0.738(6) 0.801(9) NLDA
QZ 0.808(10) 0.734(10) 0.783(9) EIG 0.900(6) 0.897(4) 0.899(7) SVD 0.817(8) 0.813(8) 0.808(8) Mixed-LOOC
QZ 0.917(10) 0.889(10) 0.897(8) EIG 0.926(5) 0.824(5) 0.907(6) SVD 0.840(8) 0.816(9) 0.814(9) LDA
RFE
QZ 0.926(8) 0.824(5) 0.905(6) EIG 0.833(6) 0.707(8) 0.825(7) SVD 0.817(6) 0.742(8) 0.806(10) PINV
QZ 0.833(6) 0.705(9) 0.839(9) EIG 0.808(10) 0.734(10) 0.783(9) SVD 0.808(10) 0.734(10) 0.775(9) MECS
QZ 0.808(10) 0.709(10) 0.787(10) EIG 0.846(6) 0.781(6) 0.817(8) SVD 0.813(6) 0.733(10) 0.798(9) NLDA
QZ 0.846(6) 0.792(6) 0.813(7) EIG 0.926(8) 0.842(7) 0.906(9) SVD 0.857(6) 0.834(10) 0.824(10) NWFE
RFE
QZ 0.926(8) 0.842(7) 0.904(8)
0.6
0.6
表 4-3 實驗三中教育測驗資料的平均辨識正確率 特徵萃取 正規化 特徵值分解 分類器
ML 1NN SVM None None None 0.076 0.481 0.667
PCA None None 0.429(4) 0.471(10) 0.488(10) GSVD 0.361(4) 0.457(10) 0.477(10)
EIG 0.567(4) 0.661(9) 0.665(10) SVD 0.533(4) 0.620(8) 0.600(9) PINV
QZ 0.525(4) 0.638(9) 0.658(10) EIG 0.575(4) 0.664(9) 0.652(9) SVD 0.535(4) 0.620(8) 0.614(10) RDA
QZ 0.575(4) 0.636(9) 0.648(10) EIG 0.499(4) 0.608(9) 0.587(10) SVD 0.499(4) 0.603(9) 0.589(10) MECS
QZ 0.499(4) 0.609(7) 0.581(10) EIG 0.551(4) 0.650(7) 0.591(8) SVD 0.525(4) 0.612(7) 0.588(9) NLDA
QZ 0.551(4) 0.649(7) 0.596(9) EIG 0.542(4) 0.663(7) 0.629(9) SVD 0.504(4) 0.612(7) 0.573(8) Mixed-LOOC
QZ 0.542(4) 0.662(7) 0.623(9) EIG 0.575(4) 0.648(7) 0.638(10) SVD 0.510(4) 0.604(8) 0.588(10) LDA
RFE
QZ 0.575(4) 0.624(7) 0.614(9) EIG 0.536(4) 0.626(8) 0.618(8) SVD 0.534(4) 0.613(8) 0.574(10) PINV
QZ 0.497(4) 0.606(8) 0.606(10) EIG 0.466(4) 0.518(8) 0.532(10) SVD 0.466(4) 0.518(8) 0.524(10) MECS
QZ 0.466(4) 0.515(8) 0.513(10) EIG 0.520(4) 0.603(9) 0.570(9) SVD 0.496(4) 0.583(7) 0.571(10) NLDA
QZ 0.520(4) 0.613(7) 0.551(9) EIG 0.543(4) 0.636(7) 0.601(10) SVD 0.497(4) 0.594(9) 0.573(8) NWFE
RFE
QZ 0.543(4) 0.593(6) 0.581(10)
表 4-4 實驗四中教育測驗資料的平均辨識正確率 特徵萃取 正規化 特徵值分解 分類器
ML 1NN SVM None None None 0.077 0.528 0.780
PCA None None 0.505(6) 0.500(10) 0.524(10) GSVD 0.444(6) 0.510(10) 0.556(10)
EIG 0.751(6) 0.760(7) 0.768(10) SVD 0.693(6) 0.665(7) 0.686(10) PINV
QZ 0.751(6) 0.747(7) 0.747(10) EIG 0.750(6) 0.759(7) 0.754(10) SVD 0.693(6) 0.666(7) 0.683(10) RDA
QZ 0.750(6) 0.749(7) 0.740(10) EIG 0.671(6) 0.664(7) 0.674(10) SVD 0.671(6) 0.653(7) 0.664(10) MECS
QZ 0.671(6) 0.664(7) 0.674(10) EIG 0.700(6) 0.709(7) 0.707(10) SVD 0.677(6) 0.672(7) 0.664(9) NLDA
QZ 0.700(6) 0.705(7) 0.682(10) EIG 0.731(6) 0.731(7) 0.718(10) SVD 0.686(6) 0.670(7) 0.672(10) Mixed-LOOC
QZ 0.731(6) 0.729(7) 0.713(10) EIG 0.740(6) 0.740(7) 0.746(10) SVD 0.678(6) 0.658(8) 0.667(10) LDA
RFE
QZ 0.740(6) 0.716(7) 0.729(10) EIG 0.719(6) 0.729(7) 0.735(10) SVD 0.694(6) 0.674(7) 0.668(10) PINV
QZ 0.719(6) 0.709(7) 0.712(10) EIG 0.567(6) 0.568(8) 0.596(10) SVD 0.567(6) 0.568(8) 0.591(10) MECS
QZ 0.567(6) 0.566(8) 0.587(10) EIG 0.651(6) 0.663(7) 0.645(10) SVD 0.632(6) 0.635(7) 0.620(10) NLDA
QZ 0.651(6) 0.665(7) 0.624(10) EIG 0.723(6) 0.708(8) 0.727(10) SVD 0.671(6) 0.647(8) 0.654(10) NWFE
RFE
QZ 0.726(6) 0.682(7) 0.685(8)