• 沒有找到結果。

第五章 實驗結果

第一節 UCI 資料庫之資料集

本研究將自動核函數參數挑選法應用在 FRBF 核函數之支撐向量機並提出 KFS,亦將 KFS 搭配 RBF 核函數之支撐向量機使用(KFS+SVM_RBF),再將其 分別實驗在 UCI 資料庫中的 Wine、Image Segmentation 與 Ionosphere 三個資料集 驗證分類效能。其中 SVM_RBF 與 SVM_FRBF 分別代表在使用全部特徵(維度)

下,利用核函數最佳參數選擇法所挑選的 RBF 核函數參數之支撐向量機與 FRBF 核函數參數之支撐向量機。另外,KFS+SVM_RBF 代表先使用 KFS 決定特徵子 集合後,再利用 SVM_RBF 進行分類。各分類器在這三個 UCI 資料集的分類正確 率如表 5-1-1 所示,其中(維度數)代表 KFS+SVM_RBF 得到最高正確率時,相 對之 KFS 子集合所用的維度數。

表 5-1-1

UCI 資料庫中各資料集的平均分類正確率

資料集 維度 分類器 分類正確率(維度數)

Wine 13

SVM_RBF 0.7107 SVM_FRBF 0.7736 KFS+SVM_RBF 0.8302(3)

Image Segmentation

19

SVM_RBF 0.8975 SVM_FRBF 0.9129 KFS+SVM_RBF 0.9197(13)

Ionosphere 34

SVM_RBF 0.9175 SVM_FRBF 0.9206 KFS+SVM_RBF 0.9365(16、17)

由表 5-1-1 可知,在 UCI 資料庫的 Wine 資料集中,使用 KFS+SVM_RBF 所 得到的分類結果,其最高正確率為 0.8302,使用 SVM_RBF 的分類正確率為 0.7107,

使 用 SVM_FRBF 的 分 類 正 確 率 為 0.7736 , 顯 示 在 Wine 資 料 集 中 使 用 KFS+SVM_RBF 能得到較好的分類結果。在 Image Segmentation 資料集中,使用 KFS+SVM_RBF 所得到的分類結果,其最高正確率為 0.9197,使用 SVM_RBF 的 分類正確率為 0.8975,使用 SVM_FRBF 的分類正確率為 0.9129,顯示在 Image Segmentation 資 料 集 中 使 用 KFS+SVM_RBF 能 得 到 較 好 的 分 類 結 果 。 而 在 Ionosphere 資料集中,使用 KFS+SVM_RBF 所得到的分類結果,其最高正確率為 0.9175,使用 SVM_RBF 的分類正確率為 0.9206,使用 SVM_FRBF 的分類正確 率為 0.9365,顯示在 Ionosphere 資料集中使用 KFS+SVM_RBF 能得到較好的分 類結果。

由實驗結果顯示,在 UCI 資料庫的三個資料集中,SVM_FRBF 的分類正確 率高於 SVM_RBF,特別是在 Wine 資料集,由此可以驗證對於分類而言,支撐向 量機搭配 FRBF 核函數比搭配 RBF 核函數有更好的分類結果。另外,也間接驗證 本研究提出的自動 FRBF 核函數挑選法可以找到 FRBF 核函數的最佳參數。

最後,使用 KFS+SVM_RBF 所得到的分類正確率皆高於使用 SVM_RBF 與 使用 SVM_FRBF 所得的分類正確率,可證明在此實驗中使用本研究提出之 KFS 搭配 RBF 核函數之支撐向量機能得到較好的分類效能。因此,在搭配 KFS 提供 的最佳特徵子集合下,KFS+SVM_RBF 的分類效能優於 SVM_FRBF;SVM_FRBF 的分類效能優於 SVM_RBF。

圖 5-1-1 在 Wine 資料集下,SVM_RBF、SVM_FRBF 與 KFS+SVM_RBF 的分 類正確率,其中 SVM_RBF 與 SVM_FRBF 為使用全部特徵(13 維度) 的分類正確率,即與表 5-1-1 相同

圖 5-1-1 為在 UCI 資料庫之 Wine 資料集下使用各方法所得到之分類正確率 的曲線圖,其中 SVM_RBF 與 SVM_FRBF 為使用全部 13 個特徵的分類正確率,

其分類正確率分別為 0.7107 及 0.7736,而 KFS+SVM_RBF 則會隨著使用不同的 特徵數其分類正確率也會跟著改變。

由圖 5-1-1 中可看到,KFS+SVM_RBF 在只使用 1 個特徵時,分類的正確率 為 0.7107,接著隨著使用的特徵數增加其分類正確率也跟著增高,很快的在使用 3 個特徵時達到了最高的分類正確率 0.8302。

這結果顯示了,使用 KFS+SVM_RBF 最高的分類正確率為 0.8302,不僅高 於使用 SVM_RBF 的分類正確率 0.7107 與使用 SVM_FRBF 的分類正確率為 0.7736,且 KFS+SVM_RBF 只使用了 3 個特徵數就能達到比 SVM_RBF 與 SVM_FRBF 更好的分類效能。

0.8302

0.7 0.72 0.74 0.76 0.78 0.8 0.82 0.84

1 2 3 4 5 6 7 8 9 10 11 12 13

辨識正確率

特徵數

SVM_RBF SVM_FRBF KFS+SVM_RBF

圖 5-1-2 在 Image Segmentation 資 料 集 下 , SVM_RBF 、 SVM_FRBF 與 KFS+SVM_RBF 的分類正確率,其中 SVM_RBF 與 SVM_FRBF 為使 用全部特徵(19 維度)的分類正確率,即與表 5-1-1 相同

圖 5-1-2 為在 UCI 資料庫之 Image Segmentation 資料集下使用各方法所得到 之分類正確率的曲線圖,其中 SVM_RBF 與 SVM_FRBF 為使用全部 19 個特徵的 分類正確率,其分類正確率分別為 0.8975 及 0.9129,而 KFS+SVM_RBF 則會隨 著使用不同的特徵數其分類正確率也會跟著改變。

由圖 5-1-2 中可看到,KFS+SVM_RBF 在只使用 1 個特徵時,分類的正確率 為 0.2646,接著隨著使用的特徵數增加其分類正確率也跟著增高,在使用 13 個 特徵時達到了最高的分類正確率 0.9197,之後雖然使用更多的特徵數,但分類正 確率卻下降了一些且趨於平緩。

這結果顯示了,使用 KFS+SVM_RBF 最高的分類正確率為 0.9197,不僅高 於使用 SVM_RBF 的分類正確率 0.8975 與使用 SVM_FRBF 的分類正確率為 0.9129,且 KFS+SVM_RBF 只使用了 13 個特徵數就能達到比 SVM_RBF 與

0.9197

SVM_RBF SVM_FRBF KFS+SVM_RBF

SVM_FRBF 更好的分類效能。

圖 5-1-3 在 Ionosphere 資料集下,SVM_RBF、SVM_FRBF 與 KFS+SVM_RBF 的分類正確率,其中 SVM_RBF 與 SVM_FRBF 為使用全部特徵(34 維度)的分類正確率,即與表 5-1-1 相同

圖 5-1-3 為在 UCI 資料庫之 Ionosphere 資料集下使用各方法所得到之分類正 確率的曲線圖,其中 SVM_RBF 與 SVM_FRBF 為使用全部 33 個特徵的分類正確 率,其分類正確率分別為 0.9175 及 0.9206,而 KFS+SVM_RBF 則會隨著使用不 同的特徵數其分類正確率也會跟著改變。

由圖 5-1-3 中可看到,KFS+SVM_RBF 在只使用 1 個特徵時,分類的正確率 為 0.7524,但在使用 4 個特徵時,分類正確率很快的上升至 0.9111,接著又隨著 使用的特徵數增加其分類正確率也跟著增高,在使用 16 與 17 個特徵時達到了最 高的分類正確率 0.9365。

這結果顯示了,使用 KFS+SVM_RBF 最高的分類正確率為 0.9365,不僅高 0.9365

0.7 0.75 0.8 0.85 0.9 0.95 1

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34

辨識正確率

特徵數

SVM_RBF SVM_FRBF KFS+SVM_RBF

於使用 SVM_RBF 的分類正確率 0.9175 與使用 SVM_FRBF 的分類正確率為 0.9206,且 KFS+SVM_RBF 只使用了 16 個特徵數就能達到比 SVM_RBF 與 SVM_FRBF 更好的分類效能。

相關文件