行政院國家科學委員會專題研究計畫 成果報告
利用灰色關聯理論之資訊監視系統之研製
計畫類別: 個別型計畫
計畫編號: NSC91-2213-E-011-047-
執行期間: 91 年 08 月 01 日至 92 年 07 月 31 日 執行單位: 國立臺灣科技大學資訊工程系
計畫主持人: 徐演政
計畫參與人員: 康億毅、葉治宏、吳典庚、巫衍志、何至偉、陳俊利、鍾祥仁
報告類型: 精簡報告
處理方式: 本計畫可公開查詢
中 華 民 國 92 年 12 月 26 日
利用灰色關聯理論之資訊監視系統之研製 Implementation of Information Monitoring System
using Grey Relational Theory
計劃編號:NSC 91-2213-E-011-047 執行期間:91 年 8 月 1 日至 92 年 7 月 31 日 主持人:徐演政 國立台灣科技大學資工系 教授
一、中文摘要
關鍵詞:灰色理論;灰色系統;灰關聯分 析;類神經網路;GRG
本計劃主旨在提出一種利用灰色關聯 理論(Gray Relational Theory)為基礎處理 資訊監視之技術與系統的研製,此研究的 目的在於利用灰色關聯理論的灰色關聯分 析 處 理 一 資 訊 系 統 中 目 標 資 訊 (Target Information)與系統參數間的關係,並藉由 發展之資訊監視機制,以期能實現由監視 系統參數的變化來掌握預測目標資訊出現 的特徵或事件。
此分析方法在評估的系統中可以找出 已知與未知資訊之關係,而且決定出兩者 之間關聯程度。灰色關聯分析在圖形識 別、聚類方法與決策中提供了極大的潛在 協助,本計劃嘗試在發展之資訊監視機制 中利用類神經網路來處理系統歷史資料 中,目標資訊與其最大關聯度的系統參數 之間的灰色訊息,使類神經網路在面對灰 色訊息能夠響應其灰色關聯資訊而學習歷 史事件(History Events)的關係,並實現資 訊監視機制中所需處理的大量計算工作。
為了達到此研究目的,本計劃主要探 究類神經網路系統中之學習機制、灰色關 聯分析與模糊理論對金融資訊系統之各種 模糊邏輯之建立、資訊系統理論的研究、
圖形類別處理、資訊確認與處理等。
Abstract
Keywords: Gray Theory; Gray System;
Gray Relational Analysis, Neural Network;GRG
An information monitoring system is proposed and implemented which may track and monitor specific forms of changing parameter data, such as parameters of information system, and notify a message to indicate the occurrence of identified events of target material in real time during the system operation.
According to the proposed method to train or learn the quantitative patterns inherent in history data sets. The information monitoring system is presented in this research for monitoring the system parameter with the maximum of gray relational grade with respect to target material, in order to predict the occurrence of specific feature on the target material.
The major components of the proposed system comprise a feature capturing device for extracting the rule-based events from the history data sets,
By exploring the concerned features, this research seek to characterize and streamline the gray relationship among parameters and target behavior, and
demonstrate the utility model of system for actual applications. Major applications and uses of this research include the conduct of clinical trials of treatments for the management or control of risk-effect monitoring, the quantification and analysis internal control in adaptive systems, analysis of behavior and behavior modification.
二、計劃緣由
利用灰色理論的灰色關聯分析處理一 資訊系統中目標資訊與系統參數間的關 係,是把一般化的資訊系統視為一灰色系 統,而目標資訊與各系統參數間的關係因 存在著信息不完全的掌握,使目標資訊的 行為產生了不確定性因素,本計劃發展之 資訊監視機制是藉由對目標資訊有最大灰 色關聯度的系統參數進行監視,以期能實 現由系統參數的變化來掌握預測目標資訊 可能或即將出現的特徵與事件,進而對目 標資訊的行為有準確的掌握。
本計劃進一步分析資訊系統中最大關 聯度的系統參數資料與目標資訊在特定的 規則(Rule)下所存在的歷史事件期待由類 神經網路的學習機制來完成兩者間灰色關 係的學習,於是,灰色關聯分析與類神經 網路將在本計畫中將被帶來解決此問題。
此外,本計畫將嘗試由硬體資源來處理大 量的計算工作而期待本計劃研製的資訊監 視系統能夠普遍地應用於實際的資訊系統 中。
三、研究方法
本計畫主要是基於灰色理論[5]與類 神經網路研究的應用以及其應用系統架構 的研製,研究過程將深入探討灰色關聯類 神 經 網 路 的 理 論 模 式 及 其 可 能 的 應 用 [7],以期發展一種資訊監視系統與方法,
利用灰色關聯分析處理一般化資訊系統中 系統參數與目標資訊間的關聯度,而使用 類神經網路完成兩者之系統歷史資料的特 徵或事件的學習,以監視資訊系統運作中 特定參數的變化範圍而掌握目前目標資訊 可能或即將出現的特徵與事件。
1.一般化資訊系統的介紹
在許多應用與環境中,常會藉由過去 的歷史行為來修正目前系統的一些預測或 控制的目標[6],這類的問題包含於一些控 制器中持續擾動信號的監測或控制[4]、適 應性系統中內部控制的定量與定性分析、
一連串功能性影像的關聯分析等。圖一可 表示包含前述問題的一般化資訊系統模 型,目標資訊 P(t)的行為會受到系統 T 中 存在的諸多系統參數
~ ( )
I
t
的影響,使得目 標資訊 P(t)的行為產生了不確定性。圖 一
基於灰色理論將一般化的資訊系統視 為一灰色系統,則目標資訊 P(t)行為的不 確定性,既為對系統的局部認識,而且貧 乏足夠的信息,所以對目標資訊 P(t)的不 確定性係因為受到該目標資訊 P(t)與各系 統參數
~ ( )
I
t
間的關係存在著信息不完全的掌握。面對一般化資訊系統的此類問 題,如何由系統化的研究方法來掌握目標 資訊 P(t)的行為是本計畫所努力的目標。
以下將對發展的資訊監視系統做進一步的 介紹。
2.資訊監視系統的模型探討
圖二顯示本研究計畫所提出的資訊監 視系統的模型。為了解一般化資訊系統中
T((t)), for
i=1
,2,…input P(t)
signals
目標資訊 P(t)與各系統參數
~ ( )
I
t
間過去已 存在但未完全掌握的關係,資訊監視系統 從系統歷史資料~ ( ), ~ ( )
t t
P
i 中利用灰色關 聯分析(GRA)找出與目標資訊 P(t)關聯度 最大的系統參數~ ( )
I
t
,在將兩者的歷史資 料 經 由 特 徵 擷 取 裝 置 (Feature Capturing Device)處理以建立由規則(Rule)所界定的 歷史事件。以規則為基礎的歷史事件中,該規則 包含界定目標資訊 P(t)與系統參數
~ ( )
I
t
的 關係式,並根據該關係式由各歷史事件中 獲得一灰數(Grey Number),此灰數反應目 標 資 訊 P(t) 與 系 統 參 數~ ( )
I
t
兩 者 的 灰色關係,且該歷史資料中所獲得的灰數亦 是類神經網路的訓練資料,以期學習過灰 色關係的類神經網路在資訊系統的運作中 能夠迅速的反應目前的目標資訊 P(t)可能 的變化。
計算裝置(Computing Device)則根據 目前的目標資訊 P(t)與類神經網路所推算 的灰數而計算出系統參數
~ ( )
I
t
在規則所 界定的事件中存在的範圍,藉以由該範圍 所形成的監視參數經監視裝置(Monitoring Device)監視資訊系統的運作中當系統參 數~ ( )
I
t
落入由灰數計算出的範圍時,表示 目前的目標資訊 P(t)的行為將可能或即將 出現過去的歷史事件,藉以預測掌握資訊 系統中目標資訊 P(t)的行為。3.灰色關聯的數值方法
原始數據的處理:系統中若因素的物 理意義不同,則數據的量綱也不相同,在 進行分析比較時很難得到正確的結果。因 此本計劃採用均值化處理,先分別求出各 個原始序列的平均值,再用均值去除對應 序列中每個數據,得到新的數據列,即均 值化序列。
4.類神經網路的學習演算法探討
本計劃將從傳統類神經學習方法的研 究中,獲得探索的方向。類神經網路中,
權值的改變稱為是學習(learning),所以改 變 權 值 的 方 法 就 是 所 謂 的 學 習 法 則 (learning rule)。學習法則的基本分類為監 督式學習(supervised learning)與非監督式 學習(unsupervised learning),其間最大差異 在於前者需要有正確的答案來學習,而後 者並不需這種訊息。
(1) 回 傳 演 算 法 (Backpropagation algorithm)
回傳演算法係 1986 年所提出的一種 多層認知網路學習法則[2],它克服了認知 器的基本限制,只能處理線性可分離的圖 樣集合。然而,此種演算法存在著某些問 題,諸如,對最佳化問題的學習過程中,
可能找到是停滯在局部極小的誤差之中;
以及學習係數的選擇,直接影響到網路的 性能,故我們利用灰色關聯與灰色預測模 型來修正其學習方式。
(2) 自 我 組 織 特 徵 映 射 (Self- organizing Feature Maps)
這是由 Kohonen 提出的一種非監督式 的類神經網路學習法則[1],其主要目的係 將高維度的圖樣特徵,映射至一維或二維 的輸出神經元陣列,換句話說,當圖樣特 徵之間存在某一種拓樸上的順序關係時,
透過權值的學習來使輸出神經元之間表現
出某種拓樸上的關係。故我們利用各種灰 色關聯分析來修正其順序關係之量測,包 括灰關聯距離分析方式、灰關聯斜率分析 方式與灰關聯面積分析方式,達到在競爭 方式的學習過程,不僅是最後勝利的神經 元可學習權值,而且其周圍的神經元亦可 獲得某種程度上的學習。
四、研究成果
本計畫結合以上所提出之相關研究方 法應用於資訊監視系統的績效,我們分別 以 Class-based Filter、Parameter-based Filter 和本計畫所採用的 GRG-based Filter 等三 種方式針對期貨預測資訊系統之趨勢監視 及風險控管作投資操作策略模擬績效分析 結果如表一所示。結果發現以 GRG-based 之方式可以濾掉較多的雜訊,以勝率與總 損益來看則比另外兩個方式為佳。
表 一 測試方法 獲利點
(Win)
損失點 (Loss)
利潤 (Profit)
勝率 (WR) Class 67 77 16548 46.5%
Parameter 63 75 14246 45.7%
GRG 66 41 19813 61.7%
五、結論與討論
本計劃提出的灰色關聯分析、聚類等 方法,同時提出灰色自我組織特徵映射神 經網路的架構,開創結合灰色系統理論與 類神經網路的研究領域,產生灰色自我組 織特徵映射神經網路之軟體模擬結果,促 使灰色關聯分析應用於大量高維度特性之 系統的聚類,達到提高其聚類之最佳情況 的效果。同時模擬台股期貨市場,顯示本 計畫所採用的 GRG-based Filter 之資訊監 視系統,再輔以風險控管機制之修正,無 論在訓練或測試資料,其結果皆優於其它 方法之效果,顯示本計劃建構之模型不僅 可以穩定獲利,並且可以有效降低風險。
六、參考文獻
[1] Anderson,J.A.,“A ModelforMemory Using Spatial Correlation Function,” Kybernetik, Vol. 5, pp. 113-119, 1968.
[2] Anderson, J.A. and E. Rosenfeld, eds.
“Neurocomputing: Foundations of Research,” Cambridge: MIT Press, 1988.
[3] Hofield, J.J., “Neural Networks and Physical Systems with Emergent CollectiveComputation Abilities,”Proc. Of the National Academy of Sciences, Vol. 79, pp. 2554-2558, 1982.
[4] Kohonen, T., “Self-organized Formation of Topologically Correct FeatureMaps,” Biological Cybernetics, Vol. 43, pp. 59-69, 1982.
[5] Hecht-Nielsen, R .,“Theory of Backpropagation Neural Network,” IEEE IJCNN, Vol. 1, pp.593-611, 1989.
[6] Hornik, K., “Approximation Capabilities of Multilayer Feedforward Networks,” NeuralNetworks,Vol.4,pp.
251-257, 1991.
[7] Kosko, B., “Feedback Stability and Unsupervised Learning,” IEEE ICNN, Vol. 1, pp.141-152, 1988.
[8] S. Grossberg, “Adaptive pattern classification and universal recoding, I:
Parallel development and coding of neural feature detectors”, Biological
Cybernetics, 23, pp.121-134, 1976a.
[9] S. Grossberg, “Adaptive pattern classification and universal recoding, II:
Feedback, expectation, olfaction, and illusions”, Biological Cybernetics, 23, pp.187-202, 1976b.
[10] Cihan H. Dagli and Pipatpong
Poshyanonda, “New approaches to nesting rectangularpatterns”,
Journal of Intelligent Manufacturing,
8, pp.177-190, 1997.[11] Yen-Tseng Hsu, Chien-Ming Chen and Hsin-Chin Yeh, “A High Noise Recognition System with Self-Organizing Feature”, IEEE
International Conference on Neural Networks, pp.2121-2125, 1995.
[12] Kishore Lankalapalli, Subrata Chatterjee and T. C. Chang, “Feature recognition using ART2: a self-organizing neuralnetwork”,
Journal of Intelligent Manufacturing,
8, pp.203-214, 1997[13] L. I. Burke, “Clustering
Characterization
of Adaptive Resonance”, Neural Networks, Vol. 4, pp.485-491, 1991.[14] G. A. Carpenter, & S. Grossberg,
“A massively parallelarchitecturefora self-organizing neural pattern recognition machine”,ComputerVision, Graphics, and Image Processing, 37, pp.54-115, 1987a.
[15] G. A. Carpenter, & S. Grossberg,
“ART 2: stable self-organization of pattern recognition codes for analog input patterns”, Applied Optics, 26, pp.4919-4930, 1987b.
[16] G. A. Carpenter, & S. Grossberg,
“ART 3 hierarchical search: Chemical transmitters in self-organizing pattern recognition architectures”, International Joint Conference on Neural Networks (Washington, DC) II, pp.30-33.
Hillsdale, NJ: Erlbaum Associates, 1990a.
[17] G. A. Carpenter, & S. Grossberg,
“ART 3: Hierarchical search using chemical transmitters in self-organizing pattern recognition architectures”, Neural Networks, 3, 129-152, 1990b.
[18] G. A. Carpenter, S. Grossberg, & J.
H. Reynolds, “ARTMAP: A self-organizing neural network architecture for fast supervised learning and pattern recognition”, International Joint Conference on Neural Networks (Seattle) I, pp.863-868, Piscataway, NJ:
IEEE Service Center, 1991a.
[19] G. A. Carpenter, S. Grossberg, & J.
H. Reynolds, “ARTMAP: Supervised real-time learning and classification of nonstationary data by self-organizing neural network”, Neural Networks, 4, pp.565-588, 1991b.
[20] G. A. Carpenter, S. Grossberg, &
David B. Rosen, “Fuzzy ART: Fast Stable Learning and Categorization of Analog Patterns by an Adaptive Resonance System”, Neural Networks, Vol. 4, pp.759-771, 1991.
[21] G. A. Carpenter, S. Grossberg, N.
Markuzon, J. H. Reynolds, & D. B.
Rosen, “Fuzzy ARTMAP: A Neural Network Architecture for Incremental Supervised Learning of Analog Multidimensional Maps”, IEEE Trans. on Neural Networks, 3, pp.698-713, 1992.
[22] Deng Julong, “Control problems of Grey Syste,” Systems and Control Letters, 1(5), pp.288-94, 1982.
[23] Deng Julong, “The Essential Methods of Grey Systems,” Huazhong University of Science & Technology
Press., pp.64-67, 1987.
[24] Deng Julong, “The Grey System Control,” Huazhong University of Science & Technology Press., pp. 86-91, 1985.
[25] Deng Julong,“Relationalspaceof Grey Systems,” Fuzzy Mathematics, (Special Issue of Grey systems) 2, pp.1-10, 1985.
[26] Deng Julong,“Essentialproblems of Grey System Theory,” Journal of Xiangfan University, 1, pp.5-27, 1986.
[27] H. C. Cheng, C. M. Chen and Y. T.
Hsu,“Grey ModelSelectionsbased on Fuzzy Trend Prediction,” Proceedingsof 1997 Grey System Theorem and Applications Conference, pp. 223-225, 1997.
[28] C. H. Yeh, C. M. Chen and Y. T.
Hsu, “Image compression Using Grey Model,” Proceedings of 1997 Grey System Theorem and Applications Conference, pp. 184-192, 1997.
[29] Shi Kaiquan, Zhang Yuanxi, and Liu Yuelan, “Grey Relational Characteristics on (X,)(I),”Journalof Grey System 4, pp. 275-282, 1993
[30] Thomas Frank, Karl-Friedrich Kraiss, and Torsten Kuhlen,
“Comparative Analysis of Fuzzy ART and ART-2A Network Clustering Performance”, IEEE Trans. on Neural Netwoeks, Vol. 9, No. 3, pp.544-559, 1998.
[31] Yen-Tseng Hsu, Chyun-Shin Cheng and Chwan-Chia Wu, “Grey Modeling using Neural Network,” The Journal of Grey System, Vol. 9, No. 3, pp. 219-232, 1997.
[32] Chyun-Shin Cheng, Yen-Tseng Hsu and Chwan-ChiaWu,“Grey Neural Network,” IEICE Trans. Fundamentals of Electronics, Communications and Computer Sciences, Vol. E81-A, No. 11, pp. 2433-2442, 1998.