第五章 實驗結果與分析
5.3 分類正確率與計算時間的比較
在這一節中,我們比較了 Ishibuchi 等人於[17]中所提出的 hybrid fuzzy GBML 演算法,與我們於 4.6 節中所提出的改良式 fuzzy GBML 演算法,兩者之間的分類正確率、分類錯誤率及計算時間。
Hybrid Our Hybrid Our Breast W 98.08 98.13 1.91 1.87 Diabetes 78.25 78.80 21.68 21.16
Glass 72.84 69.58 26.14 30.36 Heart C 60.78 66.40 38.37 33.20
Iris 98.46 98.89 1.54 1.11
Sonar 89.71 88.85 10.28 11.15
Wine 99.78 99.80 0.22 0.20
Data Set Correct (%) Error (%)
表 5.7 分類正確率及分類錯誤率的比較
實驗結果(表 5.7)顯示,某些 data set 會比較適合特定的模糊推 論方法及模糊模型。例如,在 Glass data、Heart C data 及 Sonar data
中,兩種 fuzzy GBML 演算法的分類正確率分別相差了 3.26%、5.62%
及 0.86%。發生這種情形時,我們還是希望能夠從中挑選出一個較適 合此 data set 的模糊模型。而當模糊推論方法對 data set 的分類正確率 影響較小時(例如,Breast W data、Diabetes data、Iris data 及 Wine data),我們的改良式 fuzzy GBML 演算法通常擁有較 hybrid fuzzy GBML 演算法略佳的分類正確率。
Hybrid Our
Breast W 828 412
Diabetes 856 431
Glass 860 388
Heart C 1118 596
Iris 167 73
Sonar 1085 636
Wine 227 101
Data Set Time (s)
表 5.8 計算時間的比較
而在計算時間方面,雖然不同效能的實驗平台(PC)將有不同的計 算時間,但若依計算時間的比例來看,改良式 fuzzy GBML 演算法所 需的計算時間約只有 hybrid fuzzy GBML 演算法的 49.34%(7 個 data sets 的平均值)。
5.4 收歛速度的比較
在這一節中,我們比較了 hybrid fuzzy GBML 演算法與改良式 fuzzy GBML 演算法的收斂速度。在本論文中,我們以計算時間來比 較兩者之間的收斂速度。
Breast W Data
80.00 85.00 90.00 95.00 100.00
0 10 20 30 40 50
圖 5.1 Breast W Data 的收斂速度比較
圖中的水平軸代表計算時間,單位為秒(second),垂直軸代表分類 正確率,單位為百分比(%)。菱形所連成的曲線代表 hybrid fuzzy GBML 演算法的收斂曲線,而正方形所連成的曲線則代表改良式 fuzzy GBML 演算法的收斂曲線。
實驗結果顯示,改良式 fuzzy GBML 演算法不但收斂速度較快,
初始 rule set 的分類正確率亦較高。以下為剩餘的六個 data sets 之收 斂速度比較圖。
Diabetes Data
30.00 40.00 50.00 60.00 70.00 80.00
0 10 20 30 40 50
圖 5.2 Diabetes Data 的收斂速度比較
Glass Data
25.00 35.00 45.00 55.00 65.00 75.00
0 10 20 30 40 50
圖 5.3 Glass Data 的收斂速度比較
Heart C Data
25.00 35.00 45.00 55.00 65.00
0 10 20 30 40 50
圖 5.4 Heart C Data 的收斂速度比較
Iris Data
40.00 50.00 60.00 70.00 80.00 90.00 100.00
0 1 2 3 4 5
圖 5.5 Iris Data 的收斂速度比較
Sonar Data
15.00 35.00 55.00 75.00 95.00
0 20 40 60 80 100
圖 5.6 Sonar Data 的收斂速度比較
Wine Data
10.00 25.00 40.00 55.00 70.00 85.00 100.00
0 4 8 12 16 20
圖 5.7 Wine Data 的收斂速度比較
第六章 結論
本論文提出了一種改良式 fuzzy GBML 演算法來減少過去的 hybrid fuzzy GBML 演算法所需的計算時間、加快其收歛速度,且還 提升了些微的分類正確率。
本論文首先說明了,當匹茲堡式演算法使用多結論類別的 fuzzy rules 與 weighted voting 的模糊推論方法(MW 模糊模型)時,計算 速度將較其使用單一結論類別的 fuzzy rules 與 single winner rule 的模 糊推論方法(SS 模糊模型)來的快速。接著說明了,當匹茲堡式演 算法使用了 MW 模糊模型之後,不適合再使用密西根式演算法。最 後,我們提出了一種改良式 fuzzy GBML 演算法,先以 MW 模糊模 型取代了原本 hybrid fuzzy GBML 演算法所使用的 SS 模糊模型,再 以一個 heuristic procedure 來取代原本的密西根式演算法。
在本論文及[17]中,均使用了許多 heuristic 的參數值。例如,Pc、
Pm、Nreplace以及Pdon'tcare等等,如何依不同的 data set 找出最適合的參
數值,使得改良式 fuzzy GBML 演算法所建構的 FRBCS 對每個 data set 的正確分類率均為最佳,我們認為這是未來另一個可以研究的方向。
參考文獻
[1]. L. A. Zadeh, “Fuzzy sets,” Information and Control, vol.8, pp.338-353, 1965.
[2]. L. X. Wang, a Course in Fuzzy Systems and Control. Prentice Hall, 1997.
[3]. L. X. Wang and J. M. Mendel, “Generating fuzzy rules by learning from examples,” IEEE Transactions on Systems, Man, and
Cybernetics, vol.22, no.6, pp.1414-1427, 1992.
[4]. J. S. R. Jang, “Self-learning fuzzy controllers based on temporal back propagation,” IEEE Transactions on Neural Networks, vol.3, no.5, pp.714-723, 1992.
[5]. M. Grabisch and F. Dispot, “A comparison of some methods of fuzzy classification on real data,” in Proc. 2nd
Int. Conf. Fuzzy Logic Neural Networks, Iizuka, Japan, July 1992, pp.659-662.
[6]. J. C. Bezdek, Pattern Recognition with Fuzzy Objective Function
Algorithms. New York: Plenum, 1981.
[7]. J. H. Holland, Adaptation in Natural and Artificial Systems.
University of Michigan Press, 1975.
[8]. D. E. Goldberg, Genetic Algorithms in Search, Optimization, and
Machine Learning. Addison Wesley, 1989.
[9]. P. Thrift, “Fuzzy logic synthesis with genetic algorithms,” in Proc.
4
thInt. Conf. Genetic Algorithms, University of California, San
Diego, July 13-16, 1991, pp.509-513.[10]. H. Nomura, I. Hayashi, and N. Wakami, “A self-tuning method of fuzzy reasoning by genetic algorithm,” in Proc. of the Int. Fuzzy
Systems Intelligent Control Conf., Louisville, KY, Mar. 16-18,1992,
pp.236-245.[11]. M. Valenzuela-Rendon, “The fuzzy classifier system: a classifier system for continuously varying variables,” in Proc. 4th
Int. Conf.
Genetic Algorithms, University of California, San Diego, July 13-16,
1991, pp.346-353.[12]. C. Z. Janikow, “A genetic algorithm for optimizing fuzzy decision trees,” in Proc. 6th
Int. Conf. Genetic Algorithms, University
Pittsburgh, Pittsburgh, PA, July 15-19, 1995, pp.421-428.[13]. Y. Yuan and H. Zhuang, “A genetic algorithm for generating fuzzy classification rules,” Fuzzy Sets System, vol.84, no.1, pp.1-19, Nov.
1996.
[14]. S. Abe and M. -S. Lan, “A method for fuzzy rules extraction directly from numerical data and its application to pattern classification,”
IEEE Transactions on Fuzzy Systems, vol.3, no.1, pp.18-28, Feb.
1995.
[15]. S. F. Smith, “A learning system based on genetic algorithms,” Ph.D.
dissertation, University Pittsburgh, Pittsburgh, PA, 1980.
[16]. L. B. Booker, D. E. Goldberg, and J. H. Holland, “Classifier systems and genetic algorithms,” Artificial Intelligence, vol.40, pp.235-282, Sep. 1989.
[17]. H. Ishibuchi, T. Yamamoto, and T. Nakashima, “Hybridization of fuzzy GBML approaches for pattern classification problems,” IEEE
Transactions on Systems, Man, and Cybernetics B, vol.35, no.2,
pp.359-365, Apr. 2005.[18]. H. Ishibuchi, T. Nakashima, and T. Murata, “Performance evaluation of fuzzy classifier systems for multi-dimensional pattern classification problems,” IEEE Transactions on Systems, Man, and
Cybernetics B, vol.29, no.5, pp.601-618, Oct. 1999.
[19]. H. Ishibuchi and T. Nakashima, “Improving the performance of fuzzy classifier systems for pattern classification problems with