運用潛在語意索引的自動化文件分類

63  Download (0)

全文

(1)國立交通大學 管理學院(資訊管理學程)碩士班 碩士論文. 運用潛在語意索引的自動化文件分類 Automatic Classification of Text Documents by Using Latent Semantic Indexing. 研 究 生:汪若文 指導教授:劉敦仁博士. 中華民國九十三年七月.

(2) 運用潛在語意索引的自動化文件分類 Automatic Classification of Text Documents by Using Latent Semantic Indexing. 研 究 生:汪若文. Student: Juo-Wen Wang. 指導教授:劉敦仁博士. Advisor: Dr. Duen-Ren Liu. 國立交通大學 管理學院(資訊管理學程)碩士班 碩士論文. A Thesis Submitted to Institute of Information Management College of Management National Chiao Tung University in Partial Fulfillment of the Requirements for the Degree of Master in Information Management July 2004 Hsinchu, Taiwan, Republic of China. 中華民國九十三年七月.

(3) 運用潛在語意索引的自動化文件分類 研究生:汪若文. 指導教授:劉敦仁博士 國立交通大學管理學院(資訊管理學程)碩士班. 摘. 要. 在資訊擷取的領域中,資訊的搜尋與瀏覽是兩項非常重要的課題。雖然資訊的搜尋 提供使用者快速找到所需資料的方法,但過渡依賴文字比對的檢索方式,無法有效處理 同義字與一字多義等問題,加上使用者有時不見得能下達良好的搜尋條件,可能導致使 用者無法找到真正所需的資料。因此要提供良好的資訊服務,除了提供資訊的搜尋外, 透過良好的分類機制,提供資訊瀏覽的服務,是相當重要而具互補效果的功能。要提供 相關的文件瀏覽服務,良好的文件分類是非常重要且基本的工作。 文件的分類可分為兩個步驟:首先將文件以適當的適當的數學形式加以表述,其次 是利用適當的分類演算法對文件進行自動分類。文件的分類是一種概念化的工作。傳統 以向量空間法對文件進行表述,難以擺脫對於文字的直接依賴。潛在語意索引 (latent semantic indexing) 的目的在於發掘潛藏文件中的語意概念,而語意概念正好是文件分類 的關鍵所在,因此將此技術應用於文件的分類,應有不錯的成效。 本研究嘗試使用潛在語意索引技術進行文件的表述,配合中心向量法與 k-NN 兩種 分類演算法進行自動化文件分類,探討其可行性與效果。另外並以向量空間法配合上述 兩種分類演算法作為對照,比較兩者的分類效果。 本研究探討的是單一分類的問題。研究結果顯示,利用潛在語意索引技術進行文件 的表述,配合適當的分類演算法,可以得到穩定的分類結果,因此將潛在語意索引運用 於自動化文件分類是可行的。但在本研究中,無論是搭配中心向量法或 k-NN 法,運用 潛在語意索引的分類正確率都不及向量空間法。至於潛在語意索引技術是否較適合運用 於多分類的問題,或是潛在語意索引技術與其他分類演算法搭配可得較佳分類結果,則 有待進一步的研究探討。 關鍵詞:自動分類、資訊擷取、潛在語意索引、向量空間法. i.

(4) Automatic Classification of Text Documents by Using Latent Semantic Indexing Student: Juo-Wen Wang. Advisor: Dr. Duen-Ren Liu. Institute of Information Management, College of Management National Chiao Tung University. ABSTRACT Search and browse are both important tasks in information retrieval. Search provides a way to find information rapidly, but relying on words makes it hard to deal with the problems of synonym and polysemy. Besides, users sometimes cannot provide suitable query and cannot find the information they really need. To provide good information services, the service of browse through good classification mechanism as well as information search are very important. There are two steps in classifying documents. The first is to present documents in suitable mathematical forms. The second is to classify documents automatically by using suitable classification algorithms. Classification is a task of conceptualization. Presenting documents in conventional vector space model cannot avoid relying on words explicitly. Latent semantic indexing (LSI) is developed to find the semantic concept of document, which may be suitable for the classification of documents. This thesis is intended to study the feasibility and effect of the classification of text documents by using LSI as the presentation of documents, and using both centroid vector and k-NN as the classification algorithms. The results are compared to those of the vector space model. This study deals with the problem of one-category classification. The results show that automatic classification of text documents by using LSI along with suitable classification algorithms is feasible. But the accuracy of classification by using LSI is not as good as by using vector space model. The effect of applying LSI on multi-category classification and the effect of combining LSI with other classification algorithms need further studies. Keywords: automatic classification, information retrieval, latent semantic indexing, vector space model. ii.

(5) 誌謝. 從沒想過會在工作多年之後重回校園讀書。回想當年,幾乎是以逃離與解脫的心情 從校園進入職場,怎知面對工作上對自我能力的要求與挑戰,自覺學識之不足,只好硬 著頭皮重作學生。 經過幾年的努力掙扎,終於得以畢業。首先要感謝的是指導教授劉敦仁博士,經由 他的指引,我才能在漫無頭緒之中找到研究的方向。也要感謝他在研究方法上諸多指點 與建議,以及對於我那般拖拉遲緩所表現的寬容。 其次要感謝王朝煌教授、陳恭教授與陳安斌教授三位口試委員,他們對於本論文的 指導與建議,讓我獲益甚多,他們對我的鼓勵與嘉勉,更讓我銘感五內。 能在工作之餘進修學習,要特別感謝國科會精密儀器發展中心的長官與同仁,他們 的支持與鼓勵,讓我無工作上的後顧之憂。感謝資管所的老師、同學與實驗室的伙伴, 有他們的指導與相伴,讓我忘卻了求學的辛苦,也讓我在學習的旅途中增添了許多的樂 趣。還要感謝美國田納西大學計算機科學系的 Michael W. Berry 教授,他慷慨提供其開 發的 GTP 軟體,讓我的研究得以順利進行。 此外,要感謝我的父母親,他們養我、育我,期盼我做個有用的人,我總算沒有太 過辜負他們。 最要感謝的是靜芬,謝謝她這些年來的包容,如果不是她的鼓勵與鞭策,我根本不 可能會想再回學校讀書。也因為她的相伴與照顧,我才能順利完成學業。. iii.

(6) 目錄. 中文摘要..................................................................................................................................... i 英文摘要.................................................................................................................................... ii 誌謝...........................................................................................................................................iii 目錄........................................................................................................................................... iv 圖目錄......................................................................................................................................vii 表目錄.....................................................................................................................................viii 第一章 緒論............................................................................................................................ 1 1.1 研究背景與動機................................................................................................ 1 1.2 研究目的............................................................................................................ 2 1.3 論文架構............................................................................................................ 3 第二章 文獻探討.................................................................................................................... 4 2.1 IR 模型與自動化文件處理.............................................................................. 4 2.2 自動化文件分類的概念.................................................................................... 6 2.3 向量空間法........................................................................................................ 7 2.3.1 向量空間法的文件表述......................................................................... 7 2.3.2 文件的比較........................................................................................... 10 2.3.3 文件的檢索........................................................................................... 10 2.4 潛在語意索引技術.......................................................................................... 11 2.4.1 LSI 運用的 SVD 技術....................................................................... 11 2.4.2 LSI 的幾何描述................................................................................... 13 2.4.3 運用 LSI 進行文件與索引詞的比較................................................. 13 2.4.4 虛擬文件的表述................................................................................... 14 2.4.5 LSI 的應用探討................................................................................... 15 2.5 自動化文件分類法.......................................................................................... 16 2.5.1 中心向量分類法................................................................................... 16 2.5.2 k-NN 分類法........................................................................................ 17 2.5.3 其他分類法........................................................................................... 19. iv.

(7) 2.6 運用 LSI 於文件分類的研究........................................................................ 19 第三章 研究方法.................................................................................................................. 21 3.1 研究方法概述.................................................................................................. 21 3.2 文件資料.......................................................................................................... 21 3.2.1 Inspec 文件集 ...................................................................................... 21 3.2.2 字根的處理........................................................................................... 25 3.3 軟硬體說明...................................................................................................... 26 3.3.1 LSI 軟體............................................................................................... 26 3.3.2 其他軟硬體環境................................................................................... 27 3.4 向量正規化與 S 矩陣的探討........................................................................ 28 3.4.1 文件向量的正規化............................................................................... 28 3.4.2 LSI 中測試文件的處理....................................................................... 30 3.4.3 SVD 運算中的 S 矩陣 ...................................................................... 30 3.5 實驗步驟.......................................................................................................... 31 3.5.1 實驗步驟概述....................................................................................... 31 3.5.2 文件資料的整理與前處理................................................................... 31 3.5.3 選取訓練文件與測試文件................................................................... 31 3.5.4 對訓練文件進行 LSI 的 SVD 處理................................................. 32 3.5.5 分類的訓練........................................................................................... 32 3.5.6 測試文件的分類................................................................................... 33 3.5.7 中心向量分類法的實驗變因設計....................................................... 33 3.5.8 k-NN 分類法的實驗變因設計............................................................ 37 3.5.9 實驗結果的評估................................................................................... 38 第四章 研究結果與討論...................................................................................................... 39 4.1 分類正確率...................................................................................................... 39 4.1.1 利用中心向量法的分類正確率........................................................... 39 4.1.2 利用 k-NN 法的分類正確率.............................................................. 40 4.2 分類效率.......................................................................................................... 42 4.2.1 利用中心向量法的分類效率............................................................... 42 4.2.2 利用 k-NN 法的分類效率.................................................................. 43 4.3. 綜合討論........................................................................................................ 44 4.3.1 LSI 與傳統向量空間法的分類結果比較........................................... 44. v.

(8) 4.3.2 各種實驗變因的影響........................................................................... 45 4.3.3 中心向量法與 k-NN 法的比較.......................................................... 46 第五章 結論與建議.............................................................................................................. 47 5.1 研究結論.......................................................................................................... 47 5.2 研究限制.......................................................................................................... 48 5.3 未來研究建議.................................................................................................. 48 參考文獻.................................................................................................................................. 50. vi.

(9) 圖目錄. 圖 2-1. 資訊擷取模型 (information retrieval models) 的分類架構圖............................... 5. 圖 2-2. 索引詞出現頻率與索引詞 rank order 的關係示意圖........................................... 8. 圖 2-3. 向量空間法概念圖 ................................................................................................... 9. 圖 2-4. 兩文件向量相似度的比較 ..................................................................................... 10. 圖 2-5. 對一個索引詞—文件向量矩陣進行 SVD 處理 ................................................. 12. 圖 2-6. 索引詞—文件向量經過降階 SVD 處理 ............................................................. 12. 圖 2-7. 文件群集的概念示意圖 ......................................................................................... 16. 圖 2-8. k-NN 分類法的示意圖 .......................................................................................... 18. 圖 3-1. 本研究所用文件資料集 Inspec on Disc 的分類架構示意圖.............................. 22. 圖 3-2. 向量正規化與否對於向量加總的影響 ................................................................. 29. vii.

(10) 表目錄. 表 3-1. Inspec 文件集的分類架構..................................................................................... 23. 表 3-2. Inspec 文件集所選 38 類別各擁有的文件數量................................................. 25. 表 3-3. LSI 搭配中心向量法的實驗變因組合 ................................................................. 36. 表 3-4. LSI 搭配 k-NN 法的實驗變因組合 .................................................................... 37. 表 4-1. LSI 搭配中心向量法所進行之分類實驗的結果 ................................................. 39. 表 4-2. 傳統向量空間法搭配中心向量法所進行之分類實驗的結果 ............................. 40. 表 4-3. LSI 搭配 k-NN 法所進行之分類實驗的結果 .................................................... 41. 表 4-4. 傳統向量空間法搭配 k-NN 法所進行之分類實驗的結果 ................................ 41. 表 4-5. LSI 搭配中心向量法進行分類實驗時,每份測試文件平均所花費 的時間 ..................................................................................................................... 42. 表 4-6. 傳統向量空間法搭配中心向量法進行分類實驗時,每份測試文件 平均所花費的時間 ................................................................................................. 42. 表 4-7. LSI 搭配 k-NN 法進行分類實驗時,每份測試文件平均所花費的 時間 ......................................................................................................................... 43. 表 4-8. 傳統向量空間法搭配 k-NN 法進行分類實驗時,每份測試文件平 均所花費的時間 ..................................................................................................... 44. viii.

(11) 第一章 緒論. 1.1 研究背景與動機 在傳統資訊擷取 (information retrieval, IR) 的領域中,資訊的搜尋 (search) 與瀏覽 (browse) 一直是兩項非常重要的課題。資訊的搜尋指的是利用適當的搜尋條件,找出符 合所需的資訊。資訊的瀏覽則是將資訊經過適當的整理,以結構化的方式提供給使用 者,讓使用者透過結構化的路徑,瀏覽其感興趣的資訊。 隨著資訊技術的進步與網際網路的普及,許多期刊與雜誌開始走向數位化或電子出 版的型態。所謂電子化的出版並不是將出版品以數位型態呈現即可,完善的電子出版系 統應該考慮如何有效運用資訊的技術,提供使用者良好的文件瀏覽與檢索服務,甚至針 對使用者個人的專長或興趣背景,進行資訊過濾處理 (information filtering),提供主動 式的個人化文件推薦服務。 目前許多國外的期刊,尤其是科技性的期刊,已經提供電子期刊的服務。通常較簡 單的電子期刊服務是提供逐期的目錄,讓使用者瀏覽,然後查閱其感興趣的文章。較完 善的服務則提供良好的檢索介面,讓使用者可選擇性地針對文章標題、作者、摘要、出 版時間等各種屬性的資料欄位進行檢索,搜尋其所需的資訊。而提供給使用者的資訊通 常是文章的摘要或全文。 除了電子期刊資料庫外,快速成長的大量網頁資料也成了 IR 領域積極處理的對 象。如何在浩瀚的網頁中找到有用的或符合需求的資訊,是龐大網頁資料能否展現其潛 在價值的重要關鍵。而目前多數的網頁資料搜尋都是透過全文檢索 (full-text index) 的 技術,找出符合使用者查詢條件的網頁。 不論是電子期刊的文件檢索或網頁資料的搜尋,如此的資料搜尋基本上都是根據文 字的比對,雖然比對的進行與結果可以非常精確,但卻非完美。因為各種語言的文字都 具有同義字 (synonymy) 與一字多義 (polysemy) 的問題,透過文字的精確比對,無法 找出含有同義字的其他資料,也可能會找出含有相同文字而意義卻不相同的無關資料。 此外,使用者有時不見得能下達良好的搜尋條件,又或者使用者與文件資料的作者對於. 1.

(12) 字彙的使用缺乏一致性,都可能導致使用者無法找到真正所需的資料。 因此,要提供良好的資訊服務,除了提供資訊的檢索與搜尋外,透過良好的分類機 制,提供資訊瀏覽的服務,是相當重要而具互補效果的功能。要提供相關的文件瀏覽服 務,良好的文件分類是非常重要且基本的工作。 傳統的文件分類多仰賴人工,也就是由對文件內容涉及之知識領域熟稔的專家進 行。人工分類需要耗費不少人力資源,且不同的專家可能有不同的的主觀判斷,而影響 文件的分類結果。隨著電腦資訊技術的發展,許多依賴電腦的自動化文件分類方法應運 而生。自動化的文件分類方法有些是統計分析文件所含的關鍵字,有些是利用機率的分 析,有些則利用類神經網路等人工智慧進行學習,其中以統計分析關鍵字最為常見。 但文件的分類是一種概念化的工作,而單純的字彙並不能完全與類別相互對映,加 上關鍵字所隱含的同義字與一字多義等問題,使得利用關鍵字的統計分析進行文件分類 有其難以避免的缺陷。雖然有其他研究嘗試以自然語言的分析,掌握字彙、文詞與文件 資料的語意,進行相關的處理,但若要透過自然語言的分析,尋找出文件所隱含的類別 概念,以目前的資訊技術而言仍不夠成熟。 在這種兩難的情況下,潛在語意索引 (latent semantic indexing, LSI) 分析技術似乎 提供了一個相當不錯的解決方法。LSI 係從傳統向量空間法出發,也是以文件的關鍵字 為基礎,但利用適當的數學方法對文件與關鍵字的關係進行轉換,而得以獲取隱藏在文 件關鍵字中的語意成分。 原本 LSI 係應用於文件的檢索,主要目的在解決關鍵字的同義字問題,並獲取較 佳的處理效率。經過許多相關的研究,證實其在文件資料的檢索與資訊過濾 (information filtering) 方面有不錯的效果,而且執行效率也較傳統向量空間法為佳。因為 LSI 技術 係將關鍵字轉換成語意概念,而語意概念正好又是文件分類的關鍵所在,因此,將 LSI 應用於文件的分類,應有不錯的成效。. 1.2 研究目的 隨著資訊技術的快速發展,企業組織越來越強調知識管理的重要。而在企業組織 內,最重要的知識來源便是各式各樣的文件。因此不論是企業的知識管理,或是各種電 子期刊,亦或是網際網路上大量的網頁,所面對的都是文件資料。而要善用這些文件資. 2.

(13) 料,除了透過良好的搜尋檢索方法,將文件資料妥善地分類,提供使用者良好的文件瀏 覽服務,也是相當重要的。 本研究嘗試對於自動化文件分類的問題進行探討,並尋求可能的新方法。本研究將 由傳統的 IR 技術出發,並以 LSI 技術作為傳統向量空間法的替代模式,配合適切的 分類演算法,探討如何將 LSI 技術應用於自動化的文件分類,並與傳統向量空間法進 行對照,進一步分析運用 LSI 於自動化文件分類的可行性。. 1.3 論文架構 本論文旨在說明了本研究進行的動機與背景,探討相關的文獻,說明研究進行的方 法以及研究所得結果,並就研究結果進行探討,提出未來可能的繼續研究方向。 本論文共分九章,各章內容簡述如下。 第一章是緒論。說明本研究的背景與動機、研究的目的,以及本論文的架構。 第二章是文獻探討。主要整理相關的文獻,說明自動化文件處理與自動化文件分類 的基本概念,並介紹相關的理論與研究。包括可用於文件表述的傳統向量空間法以與由 其變形衍生的潛在語意索引技術,以及已獲得廣泛研究的多種分類演算法。 第三章是研究方法。本研究運用潛在語意索引技術,配合中心向量法與 k-NN 兩種 分類演算法,進行自動化的文件分類,並以傳統向量空間法做為對照,探討運用潛在語 意索引技術的可行性。本章詳述研究方法的概念與施行方式,包括文件資料的整理、研 究使用的軟硬體、重要的研究考量,以及詳細的執行步驟。最後並說明本研究結果的評 估方法。 第四章是研究結果與討論。本章針對前一章所提之研究方法與執行步驟所進行之自 動化文件分類的實驗,整理各項實驗數據與結果,並對所得結果進行討論。 第五章是結論與建議。本章整理本研究的主要發現與結論,並對可能的改進方向與 未來可行的相關研究提出建議。 最後則附上本研究所參考的各項文獻資料。. 3.

(14) 第二章 文獻探討. 在過去二十年裡,隨著網際網路的興起與 WWW (world wide web) 的發展,資訊擷 取 (information retrieval, IR) 的領域也因應實際的需求而有快速的發展。除了 IR 領域 傳統的目標:資訊的索引 (indexing) 與搜尋 (search),文件的分類 (classification and categorization)、資訊的過濾、文件探勘 (text mining)、視覺化處理等也都成了研究的重 點。本研究探討文件的分類問題,本章將從自動化文件處理出發,整理並回顧自動化文 件分類相關文獻,說明文件分類的理論與技術。. 2.1 IR 模型與自動化文件處理 自動化文件處理在 IR 領域中是很重要的課題,因為所謂資訊擷取所處理的資訊, 都可視為廣義的文件。IR 所處理的文件有許多種類型,除了一般文字類型的文件外, 還有影像、聲音、影片等多媒體型態的資訊與地理資訊等,雖然不同類型的文件可能有 不同的處理技術,但對於文字類型文件的處理技術仍然是 IR 的核心技術。 傳統 IR 系統通常處理的工作是利用索引詞 (index term) 對文件進行索引與搜 尋。其目的是快速找出符合使用者下達條件的文件,也就是根據使用者的查詢條件 (query),找出與其相關的文件。 參見圖 2-1,針對上述 IR 傳統的工作,IR 領域中三個傳統的模型分別為布林 (Boolean)、向量 (vector) 與機率 (probabilistic) [1]。在布林模型中,文件與查詢條件係 以索引詞的集合 (set) 來表達,因此可說此為集合理論的 (set theoretic) 模型。在向量 模 型 中 , 文 件 與 查 詢 條 件 係 表 述 成 t 維 空 間 中 的 向 量 , 因 此 也 可 說 此 為 代數 的 (algebraic) 模型。而在機率模型中,文件與查詢條件係根據機率理論加以表述與處理, 因此稱為機率模型。 隨著 IR 相關研究的推展與資訊技術的發展,有些新興的模型陸續被提出。例如在 集合理論模型中有模糊理論 (fuzzy theory) 與擴充的布林 (extended Boolean) 模型;在 代數模型中有一般化向量 (generalizedvector) 模型、潛在語意索引 (latent semantic. 4.

(15) Set Theoretic Fuzzy Extended Boolean Classic Models. U s e r T a s k. Retrieval: Adhoc Filtering. Boolean Vector Probabilistic. Algebraic Generalized Vector Latent Semantic Index Neural Networks. Structured Models Non-Overlapping Lists Proximal Nodes. Probabilistic Inference Network Belief Network. Browsing Browsing Flat Structure Guided Hypertext. 圖 2-1 資訊擷取模型 (information retrieval models) 的分類架構圖。[1]. index) 技術與類神經網路 (nueral network);在機率模型中則有推論網路 (inference network) 與 Belief 網路 (Belief network)。 利用這些模型與相關的技術,可以處理使用者一項重要的課題:文件的檢索與過 濾。所謂文件的檢索是指找出符合查詢條件的文件,文件的過濾是指對文件進行篩選, 只將使用者感興趣的文件提供給使用者。但除了這一項課題,使用者還會有另一項重要 的課題,就是文件的瀏覽。欲提供文件的瀏覽服務,可以透過結構化的架構將文件予以 分類整理,並利用超連結文件 (hypertext) 提升服務的品質 [2]。 文件的分類除了可以有效地整理文件資料外,更可以在使用者不確定適當索引詞 (無法下達正確查詢條件) 的情況下,讓使用者透過概念化的分類架構,找到其感興趣或 所需要的文件。因為要下達適切的查詢條件有時並不容易,對某些缺乏訓練的使用者也 有相當的困難度,因此將文件予以適當地分類,可彌補文件檢索之不足。 雖然對使用者的應用而言,文件分類與文件檢索是不同的工作,但文件分類所仰賴 的許多技術卻是源自於文件檢索使用的技術。後面幾節將陸續討論。. 5.

(16) 2.2 自動化文件分類的概念 在傳統 IR 的領域中對文件的自動化分類有許多相關的研究。一般認為文件的分類 和文件的群集 (cluster) 有密切的關係,Rijsbergen 強調文件分類的主要應用便是在文件 群集 (document clustering) [3]。所謂文件的群集是將類似的文件聚集在一起,而文件的 分類則是依據預先定義好的類別,將各文件分派至適當的類別中。 分類的類別基本上可視為不同意義或概念 (concept) 的集合,隸屬相同類別的文件 彼此間應該具有近似的意義或概念,而隸屬不同類別的文件,其文件中所表達的概念則 較無關連性。要決定不同的文件是否具有近似的意義或概念,一般是比較文件的相似 度,如果兩份文件的相似度越高,越有可能隸屬在相同的類別裡。 運用資訊技術進行自動化的文件分類大致可分成兩個步驟: 1. 特徵的選取 (feature selection) 與文件的表述 (presentation):利用文件所具有的特 徵,將文件以某種適當的數學形式表達,如此才能運用電腦進行文件的處理,而使 用的數學形式必須能有效表達出文件所蘊含的意義與概念。 2. 利用適當的分類器 (classifier) 進行自動化的分類:所謂分類器亦可稱為分類演算法 (classification algorithm),其可將前一步驟所產生的結果進行適當的運算處理,然後 決定文件所屬的類別。 就第一個步驟而言,最直接且常見的方法是利用文件中所含的「文字」(word),經 過適當的處理與權重計算,即可用以表達文件。這部分的研究多以向量空間 (vector space) 的方法為基礎 [4, 5],並利用字根 (stemming) 或同義詞等文字處理技術適度改 良 [3, 5]。 至於分類器的研究相當多,方法也很多 [6, 7]。比較傳統的方法是利用向量空間法 結 合 tf-idf (term frequency – inverted document frequency) 的 技 術 [5] , 其 他 還 有 k-nearest neighbor (k-NN) 法 [8]、Naïve Bayes 分類法 [9, 10]、決策樹 (decision tree, DTree) 分類法 [9, 11]、類神經網路 (neural network, NNet) 分類法 [12, 13]、線性最小 平方根法 (linear least squares fit, LLSF) [14]、基因演算法 (genetic algorithm) [15]、 supporting vector machine [16] 等。. 6.

(17) 2.3 向量空間法 2.3.1 向量空間法的文件表述 要達成對文件的表述,必須先將文件所具有的特徵 (feature) 擷取出來。就英語系 統而言,要表達一份文件最直接也最簡單的方法是從文件中的「文字」(word) 著手,因 為文字直接傳達了文件所欲表達的文意。在傳統 IR 中,便以文件所含有的文字作為文 件的特徵,而最常見的方法是 Salton 所提出的「向量空間」(vector space) 技術 [4, 5]。 在向量空間的方法中,文件的特徵是文件中所含有的關鍵字 (keyword),透過關鍵字可 以適度表達出文件所蘊含的意義與概念。在向量空間法中,將文件所包含的關鍵字以適 當的方式構成一向量,該向量即用於表述該文件。首先須將文件的關鍵字萃取出來,而 關鍵字的萃取當然是透過電腦自動化進行。此一技術已發展得相當成熟,Salton 便依據 此一技術,於康乃爾大學 (Cornell University) 開發出一套稱為 SMART 的系統 [4, 5], 作為文件檢索研究之用。 在向量空間的技術中,從文件中萃取出的關鍵字因為可用於對文件進行索引,因此 也稱為索引詞 (index term)。根據索引詞在各文件中分布的情況,可以計算各個索引詞 的權重值。 在實際的處裡中,首先得決定任一索引詞在一份文件中的重要度,一般以 rank order 表示,rank order 越小,表示重要度越高。由 Zipf 定律 (Zipf’s law) [17],任一索引詞 在一份文件中的重要度 (亦即 rank order) 與其在該文件中出現的頻率 (term frequency, tf) 有密切的關係,兩者的乘積約為一常數,以數學形式可以表達如下:. frequency × rank ≅ constant. (2-1). 也就是說,一索引詞在一份文件中出現的頻率越高,其 rank order 越小,重要度便 越高;而出現頻率越低,重要度則越低。但有些在文件中出現頻率很高的字 (如介係詞、 冠詞、副詞等) 對文件所蘊含的意義並沒有特別的貢獻,並不適合作為索引詞,一般稱 為虛字 (stop word) 或非索引詞。. 7.

(18) 索引詞出現的頻率. Upper cut-off. Lower cut-off. 重要索引詞 的決定能力. 重要的索引詞. 依 rank order 排列的索引詞 圖 2-2 索引詞出現頻率與索引詞 rank order 的關係示意圖。. 基於此一現象,Luhn 提出了一個概念:利用字詞出現的頻率,可以測量該字詞的 重要性 [18]。如圖 2-2 所示,字詞的頻率與字詞的 rank order 呈現雙曲線的關係。出 現頻率過高的字詞意味著過於普通的字詞 (stopword),對文件所含意義的影響並不大; 出現頻率過低的字詞則意味著太稀少的字詞,對文件所含意義的影響也不大。因此可針 對字詞出現的頻率,設定高低門檻 (upper cut-off and lower cut-off),只保留出現頻率位 於此高低門檻之間的字詞,也就是索引詞。而索引詞對文件所含意義具有的決定能力. (resolving power) 如同一個左右對稱的波形,波峰的位置即為高低頻率門檻的中間。 除了考慮索引詞在一份文件中的重要度外,還要考慮索引詞在所有文件中的重要 度。在大量的文件中,如果一個索引詞同時出現在大部分的文件中,則該索引詞用以區 分文件意義的功能不大,其重要度也就不高。因此一個索引詞的重要度還需要考慮如下 所示的反向文件頻率 (inverse document frequency, idf) [19]:. idf = log 2. n + 1 = log 2 ( n ) − log 2 ( fd k ) + 1 fd k. (2-2). 其中 n 是文件的總數,fdk 表示索引詞 k 在所有 n 份文件中出現的頻率 (n 份文件中 有幾份含有索引詞 k)。 結合上述兩項考量,當使用索引詞表達文件的意義時,可以用反向文件頻率權重法 來表達該索引詞在一份文件中的權重值 [3]。反向文件頻率權重法的基本概念即是以頻. 8.

(19) 率出發,一個索引詞在一份文件中出現的頻率越高,其重要性越高;但一個索引詞若出 現在越多的文件中,其重要性則越低。首先計算索引詞 k 在文件 i 中出現的頻率 fik, 然後計算索引詞 k 在所有 n 份文件中出現的頻率 fdk (n 份文件中有幾份含有索引詞. k),則索引詞 k 在文件 i 中的權重值計算如下: ⎞ ⎛ n wik = f ik ⋅ ⎜⎜ log 2 + 1⎟⎟ fd k ⎠ ⎝. (2-3). 算出全部索引詞在任一份文件中的權重值後,便可以建立文件向量 (document. vector) 來表示一份文件,文件向量中的各個元素是各索引詞在該文件中的權重值,例 如下式即表示文件 i 的文件向量: d i = (wi1 , wi 2 , K , wik ). (2-4). 該文件向量共有 k 個維度,對映至 k 個索引詞。如圖 2-3 所示,向量空間法係以各索 引詞為不同維度建構成一向量空間,而文件則依其內含之索引詞及對應之權重關係,形 成此向量空間中的向量。 決定了各文件的文件向量後,便完成了以數學形式對文件的表述,透過此種表述, 可以利用電腦的運算,對文件進行相關的處理,包括文件的檢索、比較與群集等。. Term3. D1=(w11, w12, w13) D2=(w21, w22, w23). Term2. D3=(w31, w32, w33). Term1. 圖 2-3 向量空間法概念圖。. 9.

(20) 2.3.2 文件的比較 在傳統的向量空間法中,文件的分類是依據文件彼此間的相似度來進行的。建立了 文件向量後,可以利用兩文件向量之間的夾角來決定兩份文件的相似度。如果兩文件向 量間的夾角越小,表示兩份文件的相似度越大 [5]。為計算方便,一般並不直接計算兩 文件間的真正夾角,而是計算兩文件向量夾角的 cosine 函數值。若將此 cosine 函數值 定義為兩文件的相似度,則. SIM (d i , d j ) =. di ⋅ d j di d j. =. ∑ (w. ik. ⋅ w jk ). k. ∑ (wik )2 ⋅ ∑ (w jk )2 k. (2-5). k. 此函數值越大,表示兩向量夾角越小,兩文件的相似度也就越高。如圖 2-4 所示,左 圖的兩向量夾角較大,夾角 cosine 值較小,兩向量相似度較低;右圖的兩向量夾角較 小,夾角 cosine 值較小,兩向量相似度較高。 一旦可利用適當的數學形式表達出任意兩文件的相似度,就可以分析所有文件中各 文件之間的相似度,將相似度高的文件群聚在一起,如此即可達成文件群集的目的。. 2.3.3 文件的檢索 Salton 發展向量空間法最主要的目的便是要解決文件檢索的問題。當利用索引詞完 成了文件的表述後,只要能夠將文件與使用者的查詢條件進行比較,就能夠進行文件的 檢索。為了讓使用者的查詢條件能與文件進行比較,必須讓查詢條件具備與文件相同的. θ. θ. 圖 2-4 兩文件向量相似度的比較。. 10.

(21) 表述形式,也就是與文件向量相同的數學形式。其方法是將查詢條件表述成以索引詞作 為建構元素的向量,該向量的維度是索引詞的數量,與文件向量相同,因此也稱為虛擬 文件 (pseudo-document)。 將查詢條件表述成虛擬文件後,可將虛擬文件的文件向量與真正的文件向量進行相 似度的計算。如果設定一門檻值,將相似度高於該門檻值的文件視為與查詢條件相關, 也就是符合使用者所欲查詢的文件。如此即可達成文件檢索的目的。. 2.4 潛在語意索引技術 使用向量空間方法進行文件檢索的最大優點在於處理容易,而且可以具體實行。但 文件相似與否在於彼此的文意是否相近,這種比較是一種概念化的工作。向量空間法依 賴的是索引詞的統計分析,而各種語言文字都具有同義字 (synonymy) 的特質,許多文 件可能在表達相同概念時使用的是不同的詞彙,如此會造成單純的索引詞統計無法完全 轉換成文意的表述。也就是說,單單考慮文件中出現的索引詞,並不能完全反映出隱含 在文件中的語意概念,因此會造成文件檢索上的誤差。 為了解決此一問題, Dumais 等人提出了潛在語意索引 (latent semantic indexing,. LSI) 的方法 [20]。LSI 可說是向量空間法的擴展 [20–27],其假設文件的關鍵詞之間潛 藏著某種結構,可以反映出文件中的語意概念。只要找出這種潛藏的結構,即使文件中 並不含有特定的索引詞,還是可以對文件進行概念化的檢索。. 2.4.1 LSI 運用的 SVD 技術 LSI 從向量空間法出發,先利用文件中的索引詞建構文件向量,然後運用 singular value decomposition (SVD) 方法 [28] 將文件向量轉換成另一種等價的形式。此種等價 的形式與原來構成文件向量的索引詞已無明顯的關聯性,但在數學運算上卻與原來的文 件向量相同。假設有 d 份文件、t 個索引詞,利用文件向量,可以將文件與索引詞的關 係以一個 t × d 的矩陣 X 表示,透過 SVD 的運算,X 可被拆解 (decomposed) 成三 個矩陣的乘積 (如圖 2-5 所示):. X = T0S 0 D T0. 11. (2-6).

(22) 其中 t 是索引詞的數目,d 是文件的數目,m 是矩陣 X 的 rank 值, m ≤ min(t , d ) 。. T0 與 D0 ( D T0 是 D0 的倒置矩陣 ) 的各欄是正交的 (orthogonal) ,而且是單位長度 (unit-length columns),也就是 orthonormal 矩陣,分別稱為 left singular vector 矩陣 (t ×. m) 與 right singular vector 矩陣 (m × d),S0 是個對角的 (diagonal) 矩陣 (m × m),稱為 singular value 矩陣。S0 只有左上至右下對角線上的元素有值,且其值依欄列值的增加 由大而小遞減。 如果將 S0 矩陣中高欄列中的值 (也就是較小的值) 忽略,只取前 k 欄列,形成一 個新的 k 階矩陣 S,T0 與 D0 的欄數也從 m 減少為 k,而形成 T 與 D 兩個新的矩 ˆ 。因為所忽略的值很小,新的矩陣 陣,計算 T、S 與 D 的乘積,可得一新的矩陣 X 與原有的矩陣在數學上近似,可得 (如圖 2-6 所示): ˆ = TSDT X≈X. (2-7). ˆ 的 rank 值 , 其中 t 是索引詞的數目,d 是文件的數目,m 是矩陣 X. terms. documents. =. X. S0. T0. txd. txm. mxm. D0T. mxd. 圖 2-5 對一個索引詞—文件向量矩陣進行 SVD 處理。. terms. documents. ^ X. txd. =. S. DT. T. txk. kxk. 圖 2-6 索引詞—文件向量經過降階 SVD 處理。. 12. kxd.

(23) m ≤ min(t , d ) ,k 則是在降階模式中所選擇的適當維度 (number of dimensions), k ≤ m 。 T (t × k) 與 D (k × d, DT 是 D 的倒置矩陣) 的各欄是正交的 (orthogonal),而且是單 位長度,也就是 orthonormal 矩陣,S 是個對角的 (diagonal) 矩陣 (k × k),稱為 singular. value 矩陣。S 只有左上至右下對角線上的元素有值,且其值依欄列值的增加由大而小 遞減。. 2.4.2 LSI 的幾何描述 原本 t 維的文件向量經過 SVD 與降階處理後,形成的 left singular vector 與 right. singular vector 可分別視為索引詞與文件在 k 維空間中的另一種表達形式,而對角矩陣. S 是該 k 維空間各座標軸的比例因子 (scaling factor)。 LSI 透過這種 SVD 與降階的處理,可以將原本 t 維的文件向量簡化成 k 維,除 了可簡化後續文件向量相關的計算外,也將原來與索引詞直接相關的文件向量轉換成與 索引詞無直接相關的形式,可用以表達潛藏文件中的語意概念。. 2.4.3 運用 LSI 進行文件與索引詞的比較 運用 LSI 技術可以進行文件與索引詞相關的比較,最基本的比較有三種,分別是 索引詞與索引詞相關性的比較、文件與文件相似度的比較,以及索引詞與文件之間的比 較。以下分別簡要說明。. (1) 索引詞與索引詞相關性的比較 ˆ 可視為由索引詞所構成的文件向量,因此 X ˆ 的列向量 (row vector) 可視 因為 X ˆ 中兩個列向量的內積可用以表達相對應 為各索引詞在所有文件中所表現出的意涵, X ˆ 與其倒置矩陣的乘積可算出所有列向量的內積,因為 S 之兩索引詞的相關性。透過 X 是對角矩陣,而 D 是正交矩陣,可得:. ˆX ˆ T = TS 2 T T = ( TS)( TS) T X. (2-8). ˆX ˆ T 的 (i, j) 元素值 (cell value) 可以由 TS 矩陣的第 i 列與第 j 列的 這表示 X 內積而得。也就是說,TS 矩陣的每一列可以表達不同的索引詞,而兩列的內積結果就 表達了兩個索引詞的相關性。另外要注意的是,因為 S 是個對角 (diagonal) 矩陣,因. 13.

(24) 此 TS 矩陣與 T 矩陣所分別表達出的索引詞向量的差別僅在於兩者的座標存在 S 比 例的關係。. (2) 文件與文件相似度的比較 文件與文件相似度的比較和索引詞相關性的比較很類似,差別僅在於用以表達文件 ˆ 矩陣中的欄向量 (column vector),而非列向量。因此 X ˆ 中兩個欄向量的 意涵的是 X. ˆ 的倒置矩陣與 X ˆ 的乘積可算出所 內積可用以表達相對應之兩文件的相似度。透過 X 有欄向量的內積,因為 S 是對角矩陣,而 T 是正交矩陣,可得:. ˆ TX ˆ = DS 2 D T = ( DS)( DS) T X. (2-9). ˆ TX ˆ 的 (i, j) 元素值可以由 DS 矩陣的第 i 列與第 j 列的內積而得。也 這表示 X 就是說,DS 矩陣的每一列可以表達不同的文件,而兩列的內積結果就表達了兩份文件 的相似度。另外要注意的是,因為 S 是個對角 (diagonal) 矩陣,因此 DS 矩陣與 D 矩 陣所分別表達出的文件向量的差別僅在於兩者的座標存在 S 比例的關係。. (3) 索引詞與文件的比較 索引詞與文件的比較和前面兩者有較大的差異。不同於索引詞間的比較或文件之間 ˆ 列向量的內積以及欄向量的內積,欲比較索引詞與文件的相關 的比較分別取決於 X. ˆ 矩陣中與該索引詞及文件相對應的元素值即可。譬如要比較第 i 個 性,只需要找出 X ˆ 矩陣中 (i, j) 元素的值即可。因為 X ˆ 索引詞與第 j 份文件的相關性,只需要找出 X 矩陣係由 T、S、D 三個矩陣所定義:. ˆ = TSDT = (TS1 2 )(DS1 2 )T X. (2-10). ˆ 矩陣的 (i, j) 元素值可由 TS1 2 矩陣的第 i 列與 DS1 2 矩陣的第 j 列的內 因此 X 積而得。. 2.4.4 虛擬文件的表述 LSI 的的用途是資訊的檢索,因此它必須提供有效的機制,依據使用者下達的查詢 條件,找出相關的文件資料。為了便於將使用者下達的查詢條件 (query) 與其他文件進. 14.

(25) ˆ 矩陣中的文件向量表述成以索引詞為建構 行比較,可將查詢條件以類似 X 矩陣或 X 元素的向量,此種向量稱為虛擬文件 (pseudo-document)。也就是說,虛擬文件的維度是 索引詞的數量,每個維度的值是該維度對應的索引詞在查詢條件中出現的頻率。 要進行查詢條件或虛擬文件與其他文件資料的比較,得先將查詢條件表述為索引詞 的向量 Xq,然後推導出另一種表述形式 Dq: D q = X Tq TS −1. (2-11). 依前節所述,LSI 中文件與文件相似度的比較取決於 DS 矩陣中列向量的內積,因 此若要將查詢條件與文件進行相似度的比較,應該將 Dq 乘上 S: D q S = X Tq TS −1S = X Tq T. (2-12). 此種表述形式與前述 DS 矩陣中的各個列向量擁有相同的維度與座標軸,因此可以 用於與 DS 矩陣的列向量進行內積計算,也就是可與各文件進行相似度的比較。如此即 可找出能滿足與查詢條件相關的文件。因為 S 是個正交 (orthogonal) 矩陣,S−1 也仍 是個正交矩陣,因此 Dq 矩陣可視為是 X Tq T 在各個維度上,依 S 矩陣對角線上的數 值而有所伸展或縮短。. 2.4.5 LSI 的應用探討 LSI 可說是傳統向量空間法的變形與延伸。透過降階 SVD 的運算處理,將原本數 千甚至上萬的維度有效地縮減,可以大幅減少相關 IR 處理所耗費的時間,提升運算與 處理的效率。 在使用 LSI 時,降階後的 k 值 (降階後的維度) 如何選擇並沒有一定的規則。k 值 如果取得太大,LSI 就與傳統的向量空間法沒有太大差別;k 值如果取得太小,則可能 因為捨棄了過多的資訊而導致明顯的誤差。儘管如此,由許多相關的研究顯示,k 值選 為 100 左右一般皆可得到不錯的結果 [21–26]。 原本 LSI 技術是要處理文件索引的問題,但因為其轉換出的文件向量可視為文件 內容概念的表達,因此應該非常適合運用在文件的分類上。而這樣的分類法不再直接以 關鍵詞來構成文件向量,亦可改善傳統向量空間法的缺點。. 15.

(26) 2.5 自動化文件分類法 2.5.1 中心向量分類法 以向量空間法的概念而言,兩份文件的相似度越高,兩份文件的文件向量就越接 近。一旦可利用適當的數學形式表達出任意兩文件的相似度,就可以分析所有文件中各 文件之間的相似度,將相似度高的文件群聚在一起,如此即可達成文件群集的目的。而 若從分類的概念來看,相同類別的文件,其相似度應該比較高。因此相同類別的文件, 其文件向量會形成一個群集,各個不同的類別就形成各個不同的群集 [3, 5]。圖 2-7 所 示即為文件群集的概念示意圖。圖中所示有六個群集,各個群集內含數份文件,並建構 出該群集的中心向量。有些群集有所交集,彼此之間共享文件,意味著有些文件並不只 隸屬於單一個群集。 如果如果能掌握已分類好的文件,將隸屬同一類別的文件群集在一起,便能找出其 共有的特徵,也就是該分類類別的特徵。此種分類法稱為 Rocchio 分類法 [6, 7]。要找 出同一類別文件共有的特徵,最簡單的方法就是計算該類別中所有文件向量的中心向量. (centroid vector),然後將待分類的文件與各類別的中心向量相互比較,看看該文件與哪 一類別的中心向量相似度最高,即可決定該文件隸屬於哪個類別。因為使用類別的中心 向量作為該類別的特徵,因此也稱為中心向量分類法。. 文件向量. 中心向量. 圖 2-7 文件群集的概念示意圖。. 16.

(27) 使用類別中心向量的分類法,其最大的好處在於概念簡單。而且當各類別的中心向 量確定後,待分類的文件只需要與各類別的中心向量比較,實際執行的比較次數與文件 類別的數量相同,相較於文件的數量而言,此次數相當少,因此在分類的運算效率上非 常高。 利用類別的中心向量進行文件的分類,雖然簡單也很有效率,但通常無法得到較高 的分類正確率。主要的原因在於隸屬於同一類別的訓練文件並不全然有良好的群集效 果。也就是說,有些訓練文件會偏離其所屬類別的群集,正如同雜訊一般,在計算其所 屬類別的中心向量時,反而會影響用以代表該類別的中心向量。 另外還有一個影響中心向量法的因素在於文件並不一定是只能隸屬於單一的類 別,在大部分的情況中,文件可以隸屬於多個不同的類別,這使得各個類別的文件無法 形成良好的群集效果,因此也無法得到具有類別代表性的中心向量。. 2.5.2 k-NN 分類法 為了排除群集效果不佳的訓練文件,避免其影響分類的正確率,有不少改良的分類 法被提出,k-NN (k-nearest neighbor) 便是其中一種 [8]。k-NN 法並不利用各類別的特 徵來進行分類,而是對每一份測試文件,找出與其相似度最高的 k 份訓練文件。因為 該 k 份文件與測試文件的相似度最高,因此對於測試文件應隸屬於哪個類別具有關鍵 性的角色。分析該 k 份文件所屬類別以及與測試文件的相似度,將該相似度視為一種 權重值,並將 k 份文件中同屬相同類別的文件的權重值加總,最後視哪個類別的權重 值最高,就將測試文件分類至該類別。 圖 2-8 是 k-NN 分類法的示意圖。圖中 A、B、C 代表三個不同類別的文件,圓 點則是待分類的測試文件。為了簡化說明,圖中所示的 k-NN 法並不考慮權重的處理, 因此簡化成只考慮不同類別的文件數量。圖中最小的圓圈表示 k = 1 的狀況,此時待分 類的文件歸屬於 A 類別。中間的圓圈表示 k = 3 的狀況,此時待分類的文件歸屬於 B 類別,因為與待分類文件最相似的三份文件中,有一份屬 A 類別,而有兩份屬 B 類 別。至於最大的圓圈表示 k = 6 的狀況,此時待分類的文件歸屬於 C 類別。因為與待 分類文件最相似的六份文件中,歸屬 C 類別的文件數量最多。 嚴格來說,k-NN 法並不需要訓練的階段,因為只要建立了訓練文件的文件向量後, 無需其他額外的處理,就可以進行測試文件的分類。. 17.

(28) A. A. A. A. A. B B. A. C C. C C. B. A. C. B B. A. C. B. B. B B. C C. C. 圖 2-8 k-NN 分類法的示意圖。. k-NN 法也可以應用於多分類的問題中。也就是每份文件不一定只隸屬單一個類 別,而可以同時隸屬多個不同的類別。通常的處理方式是設定一門檻值,將與測試文件 最相近的 k 份文件經相似度權重值加總計算後,視各類別的權重值是否高於設定的門 檻值,如果是的話,便認定該測試文件隸屬該類別。因為權重值高於設定門檻值的類別 可能不只一個,所以同一份測試文件可能同時隸屬多個不同的類別。 使用 k-NN 法時,k 值的選取並沒有一定的規則。有不少的研究探討如何選取適當 的 k 值,以獲得最佳的分類效果,但沒有明確的結果。有些研究利用嘗試多個不同的 k 值,觀察分類的效果,決定最終使用的 k 值 [6, 7]。也有研究針對不同的類別,使用不 同的 k 值,而非固定的 k 值 [29]。也有相關文獻建議使用 cross validation 的方法找 出最佳的 k 值 [30]。不過一般而言,k 值的選取不宜過大,最多為兩位數。k 值很大 時,k 值的變化對分類的結果影響不大;k 值很小時,則可能因為局部的文件分布不均 衡,使得 k 值小幅的變動即會造成分類結果有較大的差異。 使用 k-NN 法的好處是只取最具關鍵性的部分文件作為分類的依據,避免群集效果 不佳的文件造成干擾,因此通常可以得到較佳的分類正確率。但 k-NN 法只考慮與測試 文件接近的部分訓練文件,完全忽略了其他訓練文件可能產生的影響。此外,k-NN 有 運算處理效率上的缺點。因為在 k-NN 法中,待分類的測試文件必須與每一份訓練文件 進行比較,且將比較後的結果進行排序,才能找出與其相似度最高的 k 份文件,當訓 練文件的數量很龐大時,這會是相當耗費時間的工作。. 18.

(29) 2.5.3 其他分類法 除了前述的中心向量法與 k-NN 法外,其他還有許多應用也相當廣泛的分類法,例 如決策樹 (decision tree, DTree) 演算法 [9, 11]、運用機率分析的 Naïve Bayes 分類法. [9, 10]、運用回歸分析的線性最小平方根法 (linear least squares fit, LLSF) [14]、運用類 神經網路 (neural network, NNet) 的分類法 [12, 13] 、基因演算法 (genetic algorithm). [15]、supporting vector machine [16] 等。這些分類法各有其特色與優缺點,經過許多相 關的研究,證實均有不錯的分類效果,也有文獻對這些分類法的分類效果作了相當深入 的研究 [5, 6, 31, 32]。 在文件分類的研究中,為了簡化問題,有些只考慮單一分類的狀況,也就是假設每 份文件只隸屬於單一類別。但也有不少研究在探討多重分類的問題。此外,大部分的研 究所處理的分類架構都是平坦式 (flat) 的單層架構,但也有些研究探討多層的分類架構. [33–35]。. 2.6 運用 LSI 於文件分類的研究 有人曾對運用 LSI 於文件自動化分類進行過研究,但似乎仍缺乏有系統且廣泛的 研究。. Dasigi 等 人 結 合 LSI 與 類 神 經 網 路 進 行 文 件 分 類 的 研 究 [36] , 其 使 用 Reuters-22173 [37] 文件資料集,並選用其階層式分類架構中第一層的八個類別。因為 Reuters-22173 文件資料集中的每份文件並不全然只屬於單一類別,因此 Dasigi 等人的 研究並不侷限於單一分類的問題。不過其研究的重點在於使用「information fusion」, 也就是結合不同的文件特徵選取方式,探討其對於文件分類的影響,而非單純地探討將. LSI 運用於文件分類的效果。 Zeliknovitz 等人結合 LSI 與 noisy-or 運算法進行文件分類的研究 [38],但其研究 重點在於探討使用大量背景資訊進行 LSI 處理對於分類效果的影響,亦非單純地探討 將 LSI 運用於文件分類的效果。其使用了四種不同的文件資料集。對於只有兩種類別 的物理學論文資料,該研究得到高於 90% 的分類正確率;對於有七種類別與動物相關 的網頁資料,該研究所得的分類正確率約為 60%;對於有四種類別與電腦資訊相關的 網頁資料,該研究所得的分類正確率隨著訓練文件數量的不同,約為 40% 到 80%;至. 19.

(30) 於有 20 種類別的網路新聞群組 (newsgroup) 資料,該研究所得的分類正確率則約為. 40% 到 60%。 這些研究結果雖可提供相當程度的參考,但因為都不是單純地探討將 LSI 技術運 用於自動化文件分類,且缺乏與其他一般分類法的比較。因此不足以充分顯露出運用. LSI 的分類效果。. 20.

(31) 第三章 研究方法. 本研究的目的在探討運用潛在語意索引 (LSI) 的技術進行文件分類的效果。本章將 敘述本研究所處理的方法,說明使用的文件資料與文件資料的準備,並將說明相關軟體 與研究工具的準備,以及配合使用的分類法。. 3.1 研究方法概述 文件分類涉及了兩個部分:文件的表述與分類演算法。本研究探討運用 LSI 技術 進行文件分類的效果,因為 LSI 算是傳統向量空間法的延伸與變形,因此可應用於第 一個部分,也就是文件的表述。本研究使用 LSI 技術達成文件的表述,並以傳統向量 空間法所進行的文件表述作為對照,然後配合已經獲得廣泛研究的分類法,進行文件的 分類,再比較兩者的分類結果。 在分類法的選擇上,本研究使用了兩種方法。第一種是中心向量法。選擇此方法是 因為其原理簡單,運算快速,可以很快地獲得 LSI 與傳統向量空間法的比較結果。第 二種是 k-NN 法。k-NN 法是種已經經過廣泛研究證明效果不錯的分類法,配合 k-NN 法,可以較客觀地評析兩種文件表述應用於自動化文件分類的效果。. 3.2 文件資料 3.2.1 Inspec 文件集 本研究使用的文件資料係取用自 Inspec on Disc 中收集整理的摘要資料。Inspec on. Disc 收錄了許多與自然科學及工程相關的文獻摘要資料,本研究選用了 1989 年至 1999 年期間電腦科學相關文獻摘要資料 (Abstracts of Computer Science Selections)。本 論文將以 Inspec 文件集稱之。在此 Inspec 文件集中,共有 34281 份文件資料。其分 類架構為三階層式,第一階有五個類別,第二階有 43 個類別,其中兩個第二階的類別. 21.

(32) 又細分為數個第三階的類別。此 Inspec 文件集的分類架構示意圖如圖 3-1 所示,完整 的分類內容與說明則如表 3-1 所示。本研究僅考慮單階層的分類架構,而且使用第二 階的分類類別。部分第二階的類別雖又細分為數個第三階的類別,因為僅為少數情況, 而非一般性的情況,因此在本研究中,將那些第三階的類別全部併入其所隸屬的第二階 類別中,不再予以細分。 因為本研究在探討運用 LSI 與傳統向量空間法在文件自動分類上的效果,因此為 了簡化所處理的分類問題,僅考慮單一類別的情況,也就是說,只考慮每份文件只能隸 屬單一個類別,而不能同時隸屬多個不同的類別。 依此準則,本研究先從 Inspec 文件集中選出只隸屬於單一類別的文件,至於隸屬 多個類別的文件則捨棄不用。為了確保每個類別中有足夠的文件數量,不致因文件數過 少而影響分類效果,本研究將所含文件數量不足十篇的類別也捨棄,僅選取至少含有十 份文件的類別。經此篩選出的類別共有 38 個,而選用的文件數量為 13827。所選 38 類 別各擁有的文件數量如表 3-2 所示。 原始的 Inspec 文件資料共有 11 個檔案,每一年的資料各為一個檔案。每份文件 除了文件編號以及實際的內容外,還包括了許多輔助性資料,例如文件類型、標題、作 者、期刊或研討會名稱、出版者、類別、關鍵字等資訊。本研究先對 Inspec 文件資料 進行前處理,將每份文件儲存為單一的檔案,如此有利於後續各項實驗步驟的進行。另 外本研究也將各文件中大部分的輔助性資料移除,只保留文件編號、文件標題與實際的 文件內容。文件編號單獨位於文件中的第一行,文件標題位於第二行,文件內容則位於 文件標題之後。. D1000. D2000. D4000. D3000. D5000. 5 Categories. 43 Categories. 7 Categories. 圖 3-1 本研究所用文件資料集 Inspec on Disc 的分類架構示意圖。. 22.

(33) 表 3-1 Inspec 文件集的分類架構。 類別編號. 說明. D1000. General & Management aspects of Information Technology (inc. contracts, planning). D1010. IT consultancy services. D1030. IT training requirements. D1040. Human aspects of IT (inc. ergonomics, health hazards, home working). D1050. Legal requirements of IT (inc. liability, regulation, taxation). D1060. Security aspects of IT (inc. computer crime). D2000. Applications of Information Technology. D2010. Business and professional IT applications (inc. desktop publishing, expert systems, word processing). D2020. Design and graphics IT applications. D2030. Education and training IT applications. D2040. Emergency services IT applications. D2045. Farming and horticultural IT applications. D2050. Financial applications of IT. D2050B. IT in accounting. D2050E. IT in banking (inc. smart cards). D2050F. IT in financial markets (inc. commodities, foreign exchange, stock markets). D2050G. IT in insurance. D2060. Health care applications of IT. D2070. Industrial and manufacturing applications of IT (inc. CIM, FMS, MAP). D2080. Information services and database systems in IT. D2090. Leisure industry, travel and transport applications of IT. D2105. Media-TV, radio, press applications of IT. D2110. Personnel applications of IT. D2115. Property market and building industry applications of IT. D2120. Public administration and law applications of IT (inc. government). D2130. Public utilities’ applications of IT (inc. electricity, gas and water suppliers). D2140. Marketing, retailing and distribution applications of IT (inc. EFTPOS, smart cards). 23.

(34) 表 3-1 (續) Inspec 文件集的分類架構。 類別編號. 說明. D3000. General Information Technology systems and equipment. D3010. Copiers and copy boards for business automation. D3020. Furniture and office environment for business automation. D3025. Mailroom systems for business automation. D3030. Microform equipment for business automation. D3035. Monitoring and alarm systems for business automation. D3045. Records management systems for business automation (inc. document image processing, shredders). D3050. Video systems for business automation. D3060. Voice equipment, dictation for business automation. D4000. Office automation-communications (inc. general communication industry topics, telecommunication networks). D4010. Television systems for office automation. D4020. Electronic mail systems for office automation. D4040. Facsimile systems for office automation. D4045. Mobile communications systems for office automation (inc. cellular radio and telephones, radiopaging). D4060. Teleconferencing systems for office automation. D4070. Telephone systems for office automation. D4080. Telex for office automation. D4090. Viewdata and teletext for office automation (inc. ٛ ideotext). D5000 D5010. Office automation – computing (inc. general computing industry topics) Computers and work stations for office automation. D5010B. Portable computers for office automation. D5010D. Computer selection guides for office automation. D5010G. Terminals for office automation. D5020. Computer networks and intercomputer communications in office automation. D5030. Printers and other peripherals for office automation. D5040. Supplies, stationery and storage media for office automation. D5050. Word processing equipment for office automation (inc. desktop publishing). 24.

(35) 表 3-2 Inspec 文件集所選 38 類別各擁有的文件數量。 分類號 文件數 分類號 文件數 分類號 文件數 分類號 文件數 分類號 文件數. D1010 D1030 D1040 D1050 D1060 D2010 D2020 D2030. 20 62 174 35 641 670 274 105. D2050 D2060 D2070 D2080 D2090 D2105 D2110 D2115. 3650 489 494 444 149 184 96 75. D2120 D2130 D2140 D3010 D3020 D3025 D3030 D3035. 161 40 919 273 200 66 255 144. D3045 D3050 D3060 D4010 D4020 D4040 D4045 D4060. 383 15 75 16 75 262 79 123. D4070 D5010 D5020 D5030 D5040 D5050. 277 1429 902 496 190 115. 經前處理後的文件,內含字數最多的文件含有 304 個字,最少的則含有 12 個字。 每份文件平均含有 81.6 個字。 本研究依循傳統 IR 的方法,將文件區分成訓練文件 (training documents) 與測試 文件 (testing documents),利用訓練文件找出各類別文件的特徵與分類演算法相關的參 數,然後將建構好的分類法用於測試文件,比較其測試後的分類類別與原本正確的分類 類別,經統計後計算分類的正確率。本研究係以隨機方式,選取各類別中 80% 的文件. (共有 11075 份文件) 作為訓練文件,將剩餘的 20% 文件 (共有 2752 份文件) 作為測 試文件。為求研究的結果具有統計上更高的可性度,本研究對相同的文件集選取了兩組 不同的分割方式,也就是兩組不同的訓練與測試文件,分別進行相同的分類處理,並比 較兩者之間的差異。. 3.2.2 字根的處理 以英文的語言特性而言,視使用的文意情境,許多字都有不同的變形,如單複數、 形容詞與副詞等不同詞性,或是動詞的不同時態等。在傳統 IR 的研究中,為了更精確 掌握不同變形的字詞所具有相同的文意,通常會先對字詞進行字根的處理,也就是說, 將具有相同字根 (stem) 的字視為相同的字。 在 Dumais 等人關發表的 LSI 首篇文獻中,作者表示 LSI 並不直接使用字詞的外 在形式,而是掌握字詞的內涵,可以發掘文件中潛在的語意,因此利用 LSI 處理的文 件,可以無需進行字根的處理。但在其他 LSI 相關的研究中,似乎對此問題進行過深. 25.

(36) 入的探討,且大部分的 LSI 研究仍會適度地使用字根演算法。 本研究的目的在比較 LSI 法與傳統向量空間法對於文件分類的效果,傳統向量空 間法直接利用字詞的外在形式,因此字根的處理有其必要性。為了兼顧傳統向量空間法 語 LSI 兩者的特性與其對於字根處理的一般原則,本研究對於文件的剖析都進行字根 的處理。 本研究使用的字根處理方法是 M. F. Porter 所提出的「字尾移除演算法」(algorithm. for suffix stripping) [39],也就是一般 IR 領域所熟知的 Porter 字根演算法 (Porter’s stemming algorithm)。可進行 Porter 字根處理的程式一般也稱為 Porter’s stemmer。本研 究使用了官方網站所提供的 Perl 版本軟體 [40],進行文件字根的前置處理。. 3.3 軟硬體說明 3.3.1 LSI 軟體 LSI 技術的核心是 SVD 的相關運算,雖然已有許多數學相關的套裝軟體提供 SVD 的運算功能,網路上也有免費的 SVD 軟體可供下載使用,但對於處理文字與文 件的 LSI 而言,仍須額外撰寫不少程式才足供使用。 本研究透過網際網路,尋找到一套可完全提供 LSI 相關運算與處理功能的軟體:. General Text Parser (GTP) [41]。該軟體係由美國田納西大學計算機科學系 (Department of Computer Science, University of Tennessee) 的 Michael W. Berry 教授等人所開發,雖 為免費提供,但並非於網路上公開下載。本研究經 Berry 教授的同意與授權,取得了. GTP 原始程式碼。 GTP 係以 C++ 語言寫成,提供了對文件集一般性的剖析 (parse),也能提供 IR 應 用所需的矩陣 decomposition。GTP 提供了傳統向量空間法對於文件的剖析功能,可以 將文件中全部的索引詞擷取出來。GTP 不只能處理單一的檔案,也能對整個目錄所有 的檔案同時處理,包括各層子目錄在內。GTP 軟體附了一個 common_words 檔案,內 含許多常見字,也就是虛字 (stop word),使用者可選擇性地決定是否使用該檔案將常用 字排除在擷取的索引詞之外。. GTP 對文件進行剖析時,會將擷取出的索引詞以及其在該文件中出現的頻率寫入 26.

(37) 資料檔中。使用者可以選擇性地設定索引詞的 local 與 global 權重形式,其中 local 權 重形式有 tf (term frequency)、log 及 binary 三種,global 權重形式則可以是 normal、. idf、idf2 或 entropy。預設的 local 權重形式是 tf,且不使用 global 權重。本研究依 循傳統 IR 的處理方式,選擇 tf 作為 local 權重形式,而以 idf 作為 global 權重形式。. GTP 擷取出索引詞及其出現頻率後,會根據使用者設定的 local 及 global 權重形 式,計算最終的索引詞權重值。至此,GTP 即可以各索引詞為不同的維度,決定出該 文件的文件向量,並可將結果寫入資料檔中。 經由使用者的指示,GTP 也可以將產生的文件向量正規化 (normalization),亦即將 每份文件的文件向量調整成單位長度。 當 GTP 對文件進行剖析時,使用者可以設定額外的過濾器 (filter),將文件先以設 定的過濾器處理,再交由 GTP 進行剖析。使用者如果需要進行字根的處理,便可將前 述的 Porter’s stemmer 作為額外的過濾器,對文件進行前置處理。. GTP 剖析完文件,產生了文件—索引詞向量後,可以對該向量的矩陣進行 SVD 處 理,產生前一章所述的 T、S 與 D 矩陣。因為 S 矩陣是個對角矩陣,假設降階後該 矩陣為 k 階,S 矩陣其實是個內含 k 個 singular values 的檔案,每個 singular value 一 行,共有 k 行。另外 GTP 會產生兩個檔案:lalv2 與 larv2,lalv2 對應的是 T 矩陣,. larv2 則對應 D 矩陣。lalv2 中包含了組成 T 矩陣的向量,larv2 中包含了組成 D 矩 陣的向量,各向量係依其對應之升冪的 singular values 依序寫入檔案中,也就是說,對 應小的 singular value 的向量寫在前面,對應到大的 singular value 的向量則寫在後面。 兩個檔案都是 binary 格式,所有存在檔案中的值都是 double 型別。 本研究取得的 GTP 軟體為 Sun Solaris 版本,可在 Solaris 2.6 版的系統上以. GNU C/C++ 編譯器順利編譯並執行。. 3.3.2 其他軟硬體環境 為了將利用訓練文件所產生的所有實驗數據有效儲存,以利後續測試文件分類研 究,以及各項統計之用,本研究使用了 SQL 資料庫儲存各項實驗數據。本研究使用的. SQL 資料庫系統為開放程式碼 (open source) 的 MySQL [42],版本為 3.1.16。 本研究所有的程式都以 Perl 撰寫 [43]。Perl 是一種直譯式命令稿語言 (interpret. script language),雖然在執行效率上不及 C 一類的編譯式語言,但並不會差距太大。而 27.

(38) Perl 對於字串型態的資料有很強的處理能力,也具有很大的處理彈性,在文件資料的處 理上相當便利。此外 Perl 有豐富的模組,包括高階的資料庫存取介面 (database. interface, DBI),可以很便利地與 MySQL 溝通。 本研究取得的 GTP 軟體為 Sun Solaris 的版本,因此文件的前處理與 GTP 的執 行,都是在 Sun 的機器上進行,型別是 Ultra 10 Model 300,使用的作業系統為 SunOS. 5.6,也就是 Solaris 6,CPU 為一顆 299 MHz SUNW UltraSPARC-Iii,配備 768 MB 記 憶體。至於實際的文件分類訓練與測試,則都是在 IBM eServer xSeries 205 電腦上進 行,使用的作業系統是 RedHat Linux 9.0,系統核心 (kernel) 為 2.4.20-8 版,CPU 為 一顆 2.8 GHz Intel Pentium 4,配備 1 GB 記憶體。. 3.4 向量正規化與 S 矩陣的探討 3.4.1 文件向量的正規化 以傳統向量空間法建構文件向量時,文件向量各維度的值是依對應的索引詞在該文 件中出現的頻率,加上適當的權重處理而成。因為各文件的長度 (所含字詞數量) 不同, 有些差距很大,使得各文件向量的長度也就不盡相同。 如果要比較文件與文件之間的相似度,或是比較查詢條件 (虛擬文件) 與各文件之 間的相似度,所需計算的是向量與向量之間夾角的 cosine 值,此值與向量間的夾角有 關,而與向量的長度無關。參見公式 2-5,不論兩向量的長度為何,在計算兩向量間夾 角的 cosine 值時,都會除以兩向量的長度,因此為了計算與處理方便,通常都會對文 件向量進行正規化 (normalization) 的處理,也就是將每個文件向量的長度都調整為單位 長度。 但在中心向量法的分類處理中,各類別的中心向量係將該類別中全部的文件向量加 總而成,而向量相加的結果不僅與向量間的夾角有關,也與向量的長度有關。如圖 3-2 所示,兩向量未經正規化處理與經正規化處理後,其相加的結果是不相同的。左圖所示 為兩個經過正規化的向量,皆為單位長度;右圖則是兩向量未經正規化的狀態,一個大 於單位長度,另一個小於單位長度。由圖中可看出,兩組向量加總之後所得的向量並不 相同。. 28.

(39) 圖 3-2 向量正規化與否對於向量加總的影響。. 因為中心向量法為本研究使用的分類法之一,因此本研究也探討文件向量正規化與 否對於文件分類的影響。 對於傳統向量空間法,會先產生文件向量,然後依不同類別求出其中心向量,也就 是計算該類別中全部文件向量的總和。在計算中心向量之前,各文件向量是否進行正規 化的處理,對於所得的中心向量將有直接的影響。本研究將針對此兩種情況分別加以探 討。 至於 LSI 所面臨的情況就更複雜了。因為 LSI 會對原始的文件向量進行 SVD 降 階處理,進行 SVD 降階處理前的文件向量是否需要正規化,對後續的分類結果可能產 生影響。文件向量經過 SVD 降階處理後,LSI 所運用的文件向量是 DS 矩陣中的列向 量,因此計算中心向量時,係取 DS 矩陣中的列向量加以計算。因此是否先將 DS 矩 陣中的列向量正規化,也是需要探討的問題。 不論使用傳統向量空間法或 LSI 法,在訓練階段計算出來的類別中心向量,在測 試階段只需要與測試文件進行相似度的比較,因此中心向量是否正規化並不會影響分類 的結果。在本研究中,中心向量都會進行正規化的處理。 至於使用 k-NN 法時,因為測試文件必須與每一份訓練文件進行相似度的比較,其 中僅涉及文件向量間的夾角,與其長度無關。因此就傳統向量空間法而言,各文件向量 是否正規化並不會影響分類的結果。在本研究中,各文件向量都會進行正規化的處理。 但對於 LSI 而言,測試文件進行 SVD 降階處理前是否先進行正規化的處理,似乎可 能影響後續分類的結果,因此本研究將分別探討。至於 SVD 降階處理後實際用於分類. 29.

數據

圖 2-1 資訊擷取模型  (information retrieval models)  的分類架構圖。[1]

圖 2-1

資訊擷取模型 (information retrieval models) 的分類架構圖。[1] p.15
表 3-1  Inspec 文件集的分類架構。

表 3-1

Inspec 文件集的分類架構。 p.33
表 3-1 (續) Inspec 文件集的分類架構。

表 3-1

(續) Inspec 文件集的分類架構。 p.34
表 3-2  Inspec 文件集所選 38 類別各擁有的文件數量。  分類號  文件數  分類號  文件數 分類號 文件數 分類號 文件數  分類號  文件數 D1010  20 D2050  3650 D2120 161 D3045 383 D4070  277  D1030  62 D2060  489 D2130 40 D3050 15 D5010  1429  D1040  174 D2070  494 D2140 919 D3060 75 D5020  902  D1050  35 D2080

表 3-2

Inspec 文件集所選 38 類別各擁有的文件數量。 分類號 文件數 分類號 文件數 分類號 文件數 分類號 文件數 分類號 文件數 D1010 20 D2050 3650 D2120 161 D3045 383 D4070 277 D1030 62 D2060 489 D2130 40 D3050 15 D5010 1429 D1040 174 D2070 494 D2140 919 D3060 75 D5020 902 D1050 35 D2080 p.35
圖 3-2  向量正規化與否對於向量加總的影響。  因為中心向量法為本研究使用的分類法之一,因此本研究也探討文件向量正規化與 否對於文件分類的影響。  對於傳統向量空間法,會先產生文件向量,然後依不同類別求出其中心向量,也就 是計算該類別中全部文件向量的總和。在計算中心向量之前,各文件向量是否進行正規 化的處理,對於所得的中心向量將有直接的影響。本研究將針對此兩種情況分別加以探 討。  至於 LSI 所面臨的情況就更複雜了。因為 LSI 會對原始的文件向量進行 SVD 降 階處理,進行 SVD 降階處理前的

圖 3-2

向量正規化與否對於向量加總的影響。 因為中心向量法為本研究使用的分類法之一,因此本研究也探討文件向量正規化與 否對於文件分類的影響。 對於傳統向量空間法,會先產生文件向量,然後依不同類別求出其中心向量,也就 是計算該類別中全部文件向量的總和。在計算中心向量之前,各文件向量是否進行正規 化的處理,對於所得的中心向量將有直接的影響。本研究將針對此兩種情況分別加以探 討。 至於 LSI 所面臨的情況就更複雜了。因為 LSI 會對原始的文件向量進行 SVD 降 階處理,進行 SVD 降階處理前的 p.39
表 4-2  傳統向量空間法搭配中心向量法所進行之分類實驗的結果。  變因組合  1 2  文件分割 A (%)  63.4 63.5  文件分割 B (%)  60.6 60.2  兩組文件分割中各有優劣,且差異都非常小,約 1%。由此可知,在執行 GTP 時,是 否對原始的文件向量進行正規化的處理,對於分類的結果並沒有明顯的影響。  就各種實驗的變因組合而言,文件分割 A 與文件分割 B 所得的結果都非常接 近,似乎意味著不同的訓練文件與測試文件的選取,對於 LSI 與中心向量法的組合不 會造成太大的影

表 4-2

傳統向量空間法搭配中心向量法所進行之分類實驗的結果。 變因組合 1 2 文件分割 A (%) 63.4 63.5 文件分割 B (%) 60.6 60.2 兩組文件分割中各有優劣,且差異都非常小,約 1%。由此可知,在執行 GTP 時,是 否對原始的文件向量進行正規化的處理,對於分類的結果並沒有明顯的影響。 就各種實驗的變因組合而言,文件分割 A 與文件分割 B 所得的結果都非常接 近,似乎意味著不同的訓練文件與測試文件的選取,對於 LSI 與中心向量法的組合不 會造成太大的影 p.50
表 4-3  LSI 搭配  k-NN  法所進行之分類實驗的結果。  k  值  變因組合  1 2 3 4 5 6 7 8 9 10  11  12 文件分割 A (%)  68.8  – 68.8 – 67.9 67.9 – – 67.2 67.2  –  – 30  文件分割 B (%)  67.7  – 67.4 – 67.4 67.4 – – 63.2 63.2  –  – 文件分割 A (%)  69.3  – 68.5 – 68.8 68.8 – – 67.6 67.6  –  – 10

表 4-3

LSI 搭配 k-NN 法所進行之分類實驗的結果。 k 值 變因組合 1 2 3 4 5 6 7 8 9 10 11 12 文件分割 A (%) 68.8 – 68.8 – 67.9 67.9 – – 67.2 67.2 – – 30 文件分割 B (%) 67.7 – 67.4 – 67.4 67.4 – – 63.2 63.2 – – 文件分割 A (%) 69.3 – 68.5 – 68.8 68.8 – – 67.6 67.6 – – 10 p.51
表 4-8  傳統向量空間法搭配  k-NN  法進行分類實驗時,每份測試文件平均所花費的時 間。  k  值  變因組合  1 2  文件分割 A  189  –  30  文件分割 B  187  –  文件分割 A  188  –  10  文件分割 B  189  –  單位:秒  度的比較有絕對的影響,但在  k-NN  法中,因為得將測試文件與訓練文件比較的結果進 行排序,以便找出最相近的  k  份訓練文件,而排序所花的時間相較於文件比較所花的 時間,對執行效率具有比較大的影響。不論是利用 L

表 4-8

傳統向量空間法搭配 k-NN 法進行分類實驗時,每份測試文件平均所花費的時 間。 k 值 變因組合 1 2 文件分割 A 189 – 30 文件分割 B 187 – 文件分割 A 188 – 10 文件分割 B 189 – 單位:秒 度的比較有絕對的影響,但在 k-NN 法中,因為得將測試文件與訓練文件比較的結果進 行排序,以便找出最相近的 k 份訓練文件,而排序所花的時間相較於文件比較所花的 時間,對執行效率具有比較大的影響。不論是利用 L p.54

參考文獻