基於異質性資訊網路表示法學習之電子商務推薦系統 - 政大學術集成

全文

(1)國立政治大學資訊科學系卄卥印卡卲却卭卥卮却卯卦千卯卭印卵却卥卲卓卣卩卥卮卣卥华卡却卩卯卮卡卬千卨卥卮卧卣卨卩单卮卩卶卥卲即卩却卹碩士論文卍卡即却卥卲匧即協卨卥即卩即. 立. 政治大. ‧ 國. 學. ‧. 基於異質性資訊網路表示法學習之電子商務推薦系統卅匭卣卯卭卭卥卲卣卥卒卥卣卯卭卭卥卮卤卡却卩卯卮卓卹即却卥卭即卂卡即卥卤卯卮午卥却卥卲卯卧卥卮卥卯卵即卉卮卦卯卲卭卡却卩卯卮华卥却卷卯卲卫 er. io. sit. y. Nat. n. a l 卅卭卢卥卤卤卩卮卧 i v n Ch U engchi. 研究生：張伯新指導教授：蔡銘峰. 中華民國一百零七年七月半卵卬卹匲匰匱匸 DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(2) 匱匰匷. 碩士論文. 立. 政治大. ‧. ‧ 國. 學. n. al. er. io. sit. y. Nat. 基於異質性資訊網路表示法學習之電子商務推薦系統. 政治大學資訊科學系. Ch. engchi. i n U. v. 張伯新. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(3) 基於異質性資訊網路表示法學習之電子商務推薦系統卅匭卣卯卭卭卥卲卣卥卒卥卣卯卭卭卥卮卤卡却卩卯卮卓卹即却卥卭即卂卡即卥卤卯卮午卥却卥卲卯卧卥卮卥卯卵即卉卮卦卯卲卭卡却卩卯卮华卥却卷卯卲卫卅卭卢卥卤卤卩卮卧研究生：張伯新指導教授：蔡銘峰. 立. 卓却卵卤卥卮却：卂卯匭卓卩卮博卨卡卮卧十卤卶卩即卯卲：卍卩卮卧匭卆卥卮卧協即卡卩. 國立政治大學資訊科學政治系碩士論文. 大. ‧ 國. 學 ‧. 十協卨卥即卩即即卵卢卭卩却却卥卤却卯卄卥印卡卲却卭卥卮却卯卦千卯卭印卵却卥卲卓卣卩卥卮卣卥. Nat. n. er. io. sit. y. 华卡却卩卯卮卡卬千卨卥卮卧卣卨卩单卮卩卶卥卲即卩却卹卩卮印卡卲却卩卡卬卦卵卬匜卬卬卭卥卮却卯卦却卨卥卒卥危卵卩卲卥卭卥卮却即 a l 卦卯卲却卨卥卤卥卧卲卥卥卯卦 i v. Ch. e卍卡即却卥卲 ngchi. Un. 卩卮. 千卯卭印卵却卥卲卓卣卩卥卮卣卥. 中華民國一百零七年七月半卵卬卹匲匰匱匸. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(4) 致謝. 兩年過去，看著自己的論文完成，心中也感到踏實。想當初也算是誤打誤撞進入政大研究所，從網路前端及繼續進修，我選擇了後者。現在看起來，除了對於專業領域的更加認識，也或多或少的確信了自己的定位。當然，這一路要感謝不少師長及親友。. 政治大首先要先感謝我的指導老師匭蔡銘峰老師。幸虧有老師大一的計算立機程式設計課程，就開始奠定我後來的程式基礎。到後來的大三大 ‧. ‧ 國. 學. 四的卅卸卣卨卡卮卧卥南卯卲卬卤專案，老師也一路陪伴著我們。研究所的這段求學過程中，提供了我不少機會發揮。多虧老師引進，讓我有機會能在十印印卩卥卲有難得長達一年半的產學實習，讓我學到不少實務上的經驗。在碩論題目上，老師也給我很多空間自由發揮，做我自己有興趣的題目，指導上自由也不失嚴謹。同時也跟上不少業界新訊，對我這種偏卅卮卧卩卮卥卥卲取向的研究生受益良多。跟著老師學習，的確很幸福。. y. Nat. sit. n. al. er. io. 此外，也有許多老師也對我幫助甚多。王釧茹老師帶領卓卥卡卮、卌卥卯、和我完成研討會論文。讓只有參與實驗的我，能夠有機會去見見世面，看看天花板有多高。這著實刺激了我自己的競爭心，我也開始比較去鑽研許多背後的原理。另外也要感謝劉昭麟老師，雖然現在不是卍卉升實驗室的一份子，大學部的時候專題讓我接觸了自然語言處理，也作為我現在的研究的基礎。當然，其他政大資科老師們的諄諄教誨，也是我這一路學習的過程更加順利。. Ch. engchi. i n U. v. 我也感謝實驗室的夥伴們。不管是超卣卡卲卲卹的志明，匴匰匲守護者俊翔和文毓，碩一的昇芳、裕勝、聖祐、中研院的卒十大家庭。當然還有我的家人以及好朋友們，有你們力量的結合，才能讓我在研究過程中，也增添不少青春歡樂。碩士生的旅程將告一段落，也將在人生面臨更多的挑戰。希望之後能繼續踏穩腳步，發揮自身長才。卌卉卆卅南卉卌卌千午十华升卅！張伯新國立政治大學資訊科學系半卵卬卹匲匰匱匸. 匱. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(5) 基於異質性資訊網路表示法學習之電子商務推薦系統. 中文摘要近年來由於龐大的資料量，電子商務的商品推薦變成一項具有挑戰性的工作。因此，我們使用了異質性資訊網路表示法學習（午卥却卥卲卯卧卥卮卥卯卵即卉卮卦卯卲卭卡却卩卯卮华卥却卷卯卲卫卅卭卢卥卤卤卩卮卧），能夠將網路上不同類型的節點及之間的關係投影到低維度向量空間，以進行電子商務相關的產品推薦工作。本論文提出了一個基於異質性資訊網路表示法學習的電子商務推薦系統，能夠更有效地整合額外資訊（卍卥却卡卉卮卦卯卲卭卡却卩卯卮）。首先，我們萃取標題的詞彙並與商品鏈結，再加入使用者過去的歷史紀錄轉換成異質性資訊網路。從這個網路中，我們可以使用各式各樣的網路表示法學習方法訓練，並在同一個向量空間中學習使用者及商品的表示式。除此之外，我們更將學習到的表示法當做特徵值，結合矩陣分解（卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮）及排序學習（卌卥卡卲卮卩卮卧却卯卒卡卮卫）的做法，來達到有效地推薦商品的目的。在實際電商十卭卡卺卯卮的資料集中，此論文的方法能使推薦的效果有所提升。另外，此方法也能夠有效改善電子商務推薦系統所重視的覆蓋率（千卯卶卥卲卡卧卥）表現。. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. 匲. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(6) 卅匭卣卯卭卭卥卲卣卥卒卥卣卯卭卭卥卮卤卡却卩卯卮卓卹即却卥卭即卂卡即卥卤卯卮午卥却卥卲卯卧卥卮卥卯卵即卉卮卦卯卲卭卡却卩卯卮华卥却卷卯卲卫卅卭卢卥卤卤卩卮卧. Abstract 卉卮卲卥卣卥卮却卹卥卡卲即匬卅匭卣卯卭卭卥卲卣卥印卲卯卤卵卣却卲卥卣卯卭卭卥卮卤卡却卩卯卮卨卡即卢卥卥卮卡卣卨卡卬匭卬卥卮卧卩卮卧却卡即卫卤卵卥却卯卩却即卤卡却卡即印卡卲即卩却卹卡卮卤卶卯卬卵卭卥匮午卥却卥卲卯卧卥卮卥卯卵即卩卮卦卯卲卭卡却卩卯卮卮卥却卷卯卲卫卥卭卢卥卤卤卩卮卧卥卮卣卯卤卥即却卨卥卮卯卤卥卩卮卦卯卲卭卡却卩卯卮卩卮却卯卬卯卷匭卤卩卭卥卮即卩卯卮即卶卥卣却卯卲即印卡卣卥卦卲卯卭卤卩匛卥卲卥卮却却卹印卥即卯卦卮卯卤卥即卡卮卤却卨卥卩卲卣卯卲卲卥即印卯卮卤卩卮卧卲卥卬卡却卩卯卮即匮卉卮却卨卩即印卡印卥卲匬卷卥印卲卯印卯即卥卡卮卅匭卣卯卭卭卥卲卣卥印卲卯卤卵卣却卲卥卣卯卭卭卥卮卤卡却卩卯卮卭卥却卨卯卤卢卡即卥卤卯卮却卨卥卨卥却卥卲卯卧卥卮卥卯卵即卮卥却卷卯卲卫卥卭卢卥卤卤卩卮卧匮卆卩卲即却匬卷卥卩卮卣卯卲印卯卲卡却卥卷卯卲卤即卦卲卯卭印卲卯卤卵卣却却卩却卬卥卡即却卨卥卡却却卲卩卢卵却卥即卯卦却卨卥卩却卥卭匮協卨卥卮匬卷卥却卲卡卮即卦卯卲卭卷卯卲卤即匬卡卮卤卵即卥卲卢卥卨卡卶卩卯卲卩卮却卯卨卥却卥卲卯卧卥卮卥卯卵即卮卥却卷卯卲卫卦卯卲卅匭卣卯卭卭卥卲卣卥匮卆卯卲却卨卩即卮卥却卷卯卲卫匬卷卥卵即卥卶卡卲卩卯卵即卮卥却卷卯卲卫卥卭卢卥卤卤卩卮卧卭卥却卨卯卤即却卯卬卥卡卲卮卢卯却卨卵即卥卲卡卮卤卩却卥卭卲卥印匭卲卥即卥卮却卡却卩卯卮即卩卮却卨卥即卡卭卥卬卡却卥卮却即印卡卣卥匮卍卯卲卥卯卶卥卲匬卷卥卩卮却卥卧卲卡却卥却卨卥卬卥卡卲卮卥卤卥卭卢卥卤卤卩卮卧卡即却卨卥卦卥卡却卵卲卥即卩卮却卯卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮卡卮卤卌卥卡卲卮卩卮卧却卯卒卡卮卫匮協卨卥卥卸印卥卲卩卭卥卮却卲卥即卵卬却即即卨卯卷却卨卡却卷卥卩卭印卲卯卶卥却卨卥卲卥卣卯卭卭卥卮卤卡却卩卯卮危卵卡卬卩却卹卯卮十卭卡卺卯卮卤卡却卡即卥却匮十卬即卯匬卷卥卤卥卭卯卮即却卲卡却卥卯卵卲卭卯卤卥卬卣卡卮印卥卲卦卯卲卭卢卥却却卥卲卩卮却卥卲卭即卯卦卣卯卶卥卲卡卧卥匬却卨卥卦卯卣卵即卯卦卅匭卣卯卭卭卥卲卣卥卲卥卣卯卭卭卥卮卤卡却卩卯卮即卹即却卥卭即匮. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. 匳. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(7) 目錄致謝. 1. 中文摘要. 2. Abstract 第一章緒論匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮第二章相關文獻探討匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匮匱推薦系統匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匮匲網路表示法學習匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮第三章研究方法匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匱問題定義匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匲異質性資訊網路表示法學習匮匮匮匮匮匮匮匮匳匮匲匮匱建圖策略匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匲匮匲卄卥卥印卷卡卬卫匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匲匮匳卌卉华卅匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匲匮匴午卐卅匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匲匮匵卭卥却卡印卡却卨匲卶卥卣匮匮匮匮匮匮匮匮匮匮匮匮匮匳匮匳推薦模型匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮第四章實驗結果與討論匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匱資料集匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匲實驗設定匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匳評估標準匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匴實驗結果匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匴匮匱準確率及召回率表現匮匮匮匮匮匮匮匮匴匮匴匮匲覆蓋率表現匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匴匮匳建圖策略比較匮匮匮匮匮匮匮匮匮匮匮匮匴匮匴匮匴案例分析匭網路表示法學習匮匮匮匮匮匴匮匴匮匵案例分析匭推薦系統匮匮匮匮匮匮匮匮匮第五章結論匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. n. engchi. 匴. y. sit. er. io. Ch. ‧. Nat. al. 學. ‧ 國. 立. 3 匱匴匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匴匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匵匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匷匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匷匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匸匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匸匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匹匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匰匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匱匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匲匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匳匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匵匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匵匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匶匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匸匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匸匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匱匸匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匰匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匲匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匲匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匵匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匲匷. 匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮政治大匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(8) 圖目錄此論文的推薦系統架構圖匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. 匲. 圖匳匮匱電子商務的異質性資訊網路匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮圖匳匮匲卌卉华卅的相似度關係匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮圖匳匮匳卍卥却卡匭印卡却卨的序列生成例子匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. 匸匱匰匱匲. 圖匴匮匱. 匲匴. 政治大. 網路表示法的視覺化呈現匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. 立. 學 ‧. ‧ 國 io. sit. y. Nat. n. al. er. 圖匱匮匱. Ch. engchi. 匵. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(9) 表目錄表匲匮匱. 使用者 − 商品的評分數據範例匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. 匴. 表匴匮匱表匴匮匲表匴匮匳表匴匮匴表匴匮匵表匴匮匶表匴匮匷表匴匮匸. 十卭卡卺卯卮資料集數據統計匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮却卯印匭匱匰推薦結果（卍卯卶卩卥即匬午卯卭卥匬卅卬卥卣却卲卯卮卩卣即）匮匮匮匮匮匮匮匮匮匮匮却卯印匭匱匰推薦結果（千卥卬卬卐卨卯卮卥即匬千卬卯却卨卩卮卧匬千卄即）匮匮匮匮匮匮匮匮匮匮匮覆蓋率評估匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮有無文字建圖方式的推薦結果比較（卍卯卶卩卥即匬午卯卭卥匬卅卬卥卣却卲卯卮卩卣即）匮有無文字建圖方式的推薦結果比較（千卥卬卬卐卨卯卮卥即匬千卬卯却卨卩卮卧匬千卄即）網路表示法學習的案例分析匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮推薦系統的案例分析匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮匮. 匱匵匱匹匱匹匲匰匲匱匲匱匲匳匲匵. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. 匶. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(10) 第一章緒論在網際網路時代，人們的購買行為已經開始轉變。漸漸地習慣透過網路上. 政治大勃發展，商品資料及使用者紀錄被大量地產生。如何將使用者及商品有效地連立結，變成一項重要的研究議題。因此，推薦系統（卒卥卣卯卭卭卥卮卤卡却卩卯卮卓卹即却卥卭）在目琳琅滿目的物品資訊、方便的服務平台來購買商品。隨著電子商務平台的蓬. 學. ‧ 國. 前電子商務平台裡扮演著重要的角色。透過演算法或機器學習模型，幫助使用者找到或發現有興趣的商品。推薦系統通常分為三種，協同過濾（千卯卬卬卡卢卯卲卡却卩卶卥. ‧. 卆卩卬却卥卲卩卮卧）卛匱卝、基於內容推薦（千卯卮却卥卮却匭卂卡即卥卤卒卥卣卯卭卭卥卮卤卡却卩卯卮）卛匲卝與混合式推薦. y. Nat. （午卹卢卲卩卤卒卥卣卯卭卭卥卮卤卡却卩卯卮）卛匳卝。協同過濾藉由用戶的歷史紀錄，像是評分、點擊、購買等行為，再利用興趣類似的用戶群的喜好來推薦。基於內容推薦利用物. sit. 品的屬性，像是標題、類別、品牌等離散特徵推薦類似的物品。混合式推薦則是. al. er. io. 融合上述兩項方法，以達到更好的推薦效果。而隨著網路服務的快速成長，更多. n. 的物品資料及紀錄能被推薦系統所利用。雖然這些資料隱含著許多豐富的資訊，但如何同時將龐大的資料及之間的關係儲存，並考慮計算複雜度的成本，是一個相當具有挑戰性的任務。. Ch. engchi. i n U. v. 由於實作上的彈性及優異的效果，表示法學習（卅卭卢卥卤卤卩卮卧）卛匴卝在人工智慧的許多問題中被廣泛地使用。表示法學習的技術主要是將一個物件的屬性或鄰近資訊壓縮成一個向量。例如像在自然語言處理領域中，卷卯卲卤匲卶卥卣卛匵卝透過類神經網路學習每個字詞的向量表示式。由於方便應用及具有延展性，已經在許多機器學習任務裡廣泛地應用。而在電子商務裡，如何學習每個使用者、商品的表示法應用在推薦上，仍是目前實務上的一大挑戰。社群網路分析中，網路表示法學習（华卥却卷卯卲卫卅卭卢卥卤卤卩卮卧）是目前新的研究主題方向。我們可以把用戶及連接關係建成一張圖。基於這張圖，我們可以運用類似於詞向量的想法，將網路節點投影到低維向量空間中。目前有許多基於卷卯卲卤匲卶卥卣的網路表示式學習框架，像是卄卥卥印南卡卬卫卛匶卝、卌卉华卅卛匷卝、卮卯卤卥匲卶卥卣卛匸卝等方法，都被廣泛應用於資料探勘、資訊檢索的工作上。但是，大部份的網路表示法學習框架，往往是應用在同質性網路，而無法有效地將不同類型的節點投影到匱. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(11) 同一個空間。異質性網路（午卥却卥卲卯卧卥卮卥卯卵即卉卮卦卯卲卭卡却卩卯卮华卥却卷卯卲卫）是一種包含了多種型態的節點及鏈結的有向圖。在實務應用中，多數系統都具有多種型態的節點及關係交互作用。像是社群媒體就有像是使用者、文章、標籤、地點等多種類型節點，以及他們的複雜交互關係。像是使用者可以對一篇文章按讚、一篇文章有著多個標籤等關係。而推薦系統也有使用者、商品、評論、品牌等類型節點可以利用。透過異質性網路建模是相當自然的一件事情。且這些數據的多樣性可以為目前現有的模型增添更多豐富的資訊。然而在電子商務中，使用者的數量及商品的數量都是相當龐大的。實務上，一位使用者往往只會與一個到數個的商品有互動紀錄，而造成資料的稀疏性（卓印卡卲即卩却卹）。傳統的推薦模型如矩陣分解（卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮），效果往往會受到稀疏性的影響而降低。而許多現有的模型中，往往是根據均方根誤差（卒卯卯却. 政治大卍卥卡卮卓危卵卡卲卥卅卲卲卯卲）做評分。這樣只往往考慮到推薦系統的準確性而忽略了實際立應用情境。在電子商務的推薦情境中，我們所關注的是使用者有興趣購買的商 ‧. ‧ 國. 學. 品，使用者也只會看前一兩頁的推薦商品去下單。所以如何讓使用者「看到」喜歡的商品的機會增加，變成是在電子商務推薦系統中重要的課題。. Nat. y. Graph Construction. n. al. Network Embedding Learning. User Features . Ch. er. io. sit. I. Graph Construction. II. Feature Learning. Item Features. engchi. User Representation . i n U. v. UserItem Interaction. Item Representation . Prediction Score & Ranking . III. Recommendation model. WMRB Loss . 圖匱匮匱区此論文的推薦系統架構圖。主要分成三大階段，第一階段是將資料轉換成異質性網路。第二階段則是學習異質性網路表示法。第三階段再透過第二階段學出的使用者特徵值及商品特徵值，透過卌卥卡卲卮卩卮卧却卯卒卡卮卫的方式訓練矩陣分解模型，進而達到推薦商品的目的。此論文嘗試針對電子商務推薦系統制定一個泛用的建圖策略，將使用者、商匲. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(12) 品、文字結合成異質性網路中。再透過網路表示法學習，將節點投影到同一個向量空間。只不過學習出來的表示式，並沒有辦法被直接應用到推薦系統上。所以我們更嘗試著將學習到的表示法結合矩陣分解（卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮）以及排序學習（卌卥卡卲卮卩卮卧却卯卒卡卮卫）作為我們推薦的模型。透過監督式的學習，我們可以將使用者評分、點擊、購買的紀錄結合網路表示式，以達到混合式的却卯印匭华推薦（如圖匱匮匱）。在電子商務平台十卭卡卺卯卮這個真實世界的資料集中，此方法皆能使推薦的效果有所提升。另外，此方法在覆蓋率（千卯卶卥卲卡卧卥）的表現也明顯優於其他方法，帶動整體商品的流通。我們認為這樣有助於電商平台的營業額提升。此研究主要的貢獻整理如下： • 我們提出了一個針對商品推薦的建圖方法，再透過網路表示法學習訓練使用者及商品的表示式，作為推薦系統的初始特徵值。. 治政 • 我們提出了一個結合異質性網路表示法的推薦方法，融合了個人化推薦及基大立於內容推薦的優點，以達到改善現行推薦系統的效果。 ‧ 國. 學. 之後的論文章節安排如下：第二章介紹相關的文獻研究。第三章提出此論文的研究方法及模型。第四章敘述我們所使用的資料集、實驗設定、以及實驗結. ‧. 果。最後第五章是我們對此研究的結論。. n. er. io. sit. y. Nat. al. Ch. engchi. 匳. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(13) 第二章相關文獻探討推薦系統. 立. 學. ‧ 國. 2.1. 政治大. 許多方法結合使用者對於商品的評分，來增進推薦系統的準確性。基於矩陣分解（卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮）的協同過濾系統（千卯卬卬卡卢卯卲卡却卩卶卥卆卩卬却卥卲卩卮卧）卛匹卝是目前. ‧. 業界最普遍使用的技術。目標是透過興趣相似的群體的喜好，來推薦使用者感興趣的資訊或商品。而在電子商務中，可以根據使用者的行為來推薦他可能喜歡的. y. Nat. 商品。像是利用瀏覽、點擊、購買、評論的行為，來量化每個使用者對於不同資. sit. 訊的喜好強弱。矩陣分解是將一個矩陣分解成兩個或多個矩陣的乘積。假設我們. n. al. er. io. 有 m 個使用者、 n 個商品，在推薦系統中，我們常會把使用者對商品的評分數據紀錄成下列形式：. Ch u1 u2 u3 u4. ei匲 n ig ci匴h ii 1. 2. 匵匱. 匳匵匵. 3. 4. i n U. v. 匵匴. 表匲匮匱区使用者 − 商品的評分數據範例我們利用上述的資料，建構使用者 − 商品矩陣 Xm×n 。假設分解成兩個矩陣 Pm×k 和 Qk×n ，我們要使矩陣 Pm×k 和 Qk×n 的乘積能夠接近原本的矩陣 Xm×n 。. ˆ m×n Xm×n ≈ Pm×k × Qk×n = X. 匨匲匮匱匩. 矩陣分解能分解出使用者和商品的潛在因素（卌卡却卥卮却卆卡卣却卯卲）。並透過學習出來的潛在因素，去預測使用者對於沒有評分的商品的喜好程度。雖然說矩陣分解匴. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(14) 的技術在很多應用獲得好的效果，但是當使用者只對極少的物品評分時，往往會遇到資料過於稀疏的挑戰。而在真實世界中，這是一個經常會發生的問題。近年來，網際網路的快速發展，平台上有許多使用者、物品的額外資訊（卍卥却卡卉卮卦卯卲卭卡却卩卯卮），研究者發現這些額外資訊對於個人化推薦有極大的幫助。因此開始有研究開始結合這些資訊，來改進推薦系統的準確性。有一部份的研究利用使用者對於商品的評論，來掌握使用者對於商品的偏好及習慣。像是卌卩卮卧等人與卍卣十卵卬卥卹等人利用主題模型（協卯印卩卣卍卯卤卥卬卩卮卧）的技術，找出評論文字與評分的關係並加以利用卛匱匰匬匱匱卝。為了利用文字語義資訊，博卨卡卮卧等人則是結合卷卯卲卤匲卶卥卣和傳統矩陣分解的作法，以提升個人化推薦的效果卛匱匲卝。除了文字資訊之外，許多研究加入圖像資料來學習使用者的喜好。像是卍卣十卵卬卥卹等人使用了圖像特徵值來加強協同過濾的準確性卛匱匳卝。午卥等人則是針對却卯印匭华的推薦，建立了基於圖像的卂卡卹卥即卩卡卮卐卥卲即卯卮卡卬卩卺卥卤卒卡卮卫卩卮卧（卂卐卒）模. 政治大型卛匱匴卝，另外他們也針對了衣物穿搭的圖像特徵以及歷史紀錄學習使用者品味，立以加強在商品風格的推薦卛匱匵卝。. ‧ 國. 學. 近幾年的推薦問題研究，也有不少使用深度學習框架。像是午卥等人提出. ‧. 通用的神經網路模型，來代替內積對使用者 − 商品的互動建模卛匱匶卝。博卨卥卮卧等人等人利用卷積神經網路（千卯卮卶卯卬卵却卩卯卮卡卬华卥卵卲卡卬华卥却卷卯卲卫），從使用者、商品的評論中學習使用者、商品的表示法，再結合矩陣分解模型完成評分預測的任. Nat. sit. y. 務卛匱匷卝。博卨卡卮卧等人則是將文字、圖像、評分的資訊串接，經由多層神經網路學. er. io. 習使用者及物品的表示式以便後面的却卯印匭华的印卡卩卲匭卷卩即卥學習排序推薦卛匱匸卝。卓卨卩等人則是使用了異質性資訊網路表示法當作特徵值，來加強評分預測任務的準確. al. n. v i n Ch 預測去做優化。而在電子商務的推薦情境中，使用者是否購買商品與使用者評分 engchi U 的高低並沒有直接的關係。而在有商品資訊的情況之下有一個通用的推薦策略，. 性卛匱匹卝。雖然這些方法利用額外資訊加入推薦系統，但許多方法往往是針對評分. 能帶給電商平台更多的收益，這也是此論文框架所想要達到的目的。. 2.2. 網路表示法學習. 在自然語言處理、文字探勘中，詞向量（南卯卲卤卅卭卢卥卤卤卩卮卧）已經成為一種常用的文本特徵值且得到廣泛的應用。在另一方面，網路表示法學習（华卥却卷卯卲卫卅卭卢卥卤卤卩卮卧）希望透過網路結構的鏈結，得到網路節點的向量表示法，作為後續任務的特徵值。卐卥卲卯卺卺卩等人學習了卷卯卲卤匲卶卥卣的精神，將網路結構透過隨機走動的方法，轉換成類似自然語言句子的節點序列。再通過即卫卩印匭卧卲卡卭訓練得到每個網路節點的向量表示法卛匶卝。升卲卯卶卥卲等人定義了另外一種基於深度優先搜尋（卄卥印却卨匭匜卲即却即卥卡卲卣卨）及廣度優先搜尋（卂卲卥卡卤却卨匭匜卲即却即卥卡卲卣卨）的走動策略，以實現更有彈性的框架彈性卛匸卝。此外，協卡卮卧等人則是提出了明確的目標函式去優化網匵. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(15) 路表示法學習問題卛匷卝。另外，也有不少工作結合節點的資訊訓練網路表示法。像是卙卡卮卧等人結合了協卆匭卉卄卆文字特徵值矩陣，以學到含有更多文字資訊的表示式卛匲匰卝。協卵等人則是結合了節點卬卡卢卥卬資訊及支持向量機器的損失函式，使表示法學習帶有具鑑別分類的特徵卛匲匱卝。但是，絕大部分的網路表示法學習方法，往往是針對同質性網路。而在異質性網路中，由於稀疏性及雜訊都比同質性網路高上許多，若直接套用上述等方法訓練模型，往往無法達到很好的效果。因此開始有針對異質性網路表示法學習的研究出現。千卨卡卮卧等人利用多層嵌入函式的架構，學習異質性網路中資料複雜的交互關係卛匲匲卝。卄卯卮卧等人則是利用元路徑（卍卥却卡匭印卡却卨）的方式去決定每個節點的卣卯卮却卥卸却，再使用異質性即卫卩印匭卧卲卡卭模型訓練每個節點的表示式卛匲匳卝。此論文將會利用卛匲匳卝的方法訓練異質性網路表示法。在第三章中，我們會再詳細地介紹如何定義及實現。. 立. 政治大. ‧. ‧ 國. 學. n. er. io. sit. y. Nat. al. Ch. engchi. 匶. i n U. v. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(16) 第三章研究方法. 治政在此章節，我們將會詳細地介紹我們的方法。在大匳匮匱小節我們會先定義我們立所要解決的問題。匳匮匲小節介紹如何學習我們如何建構異質性網路及訓練網路表 ‧ 國. 問題定義. ‧. 3.1. 學. 示法。最後匳匮匳小節我們則是講述如何結合網路表示法，實作混合式推薦模型。. y. Nat. sit. 我們將系統化地闡述我們想要解決的問題。我們表示使用者集合為 U 、表示. io. 商品集合為 I 。在訓練資料中，紀錄著使用者 u 與商品 i 有正向互動（可能是瀏. n. al. er. 覽、點擊、購買等行為），每個使用者會有一至數對互動關係 (u, i) ∈ U × I 。在這邊我們定義 S 為我們觀察到的所有使用者 − 商品集合。而我們的框架想要優化. Ch. engchi. 的是下列抽象的損失函式（卌卯即即卆卵卮卣却卩卯卮）：. L=. i n U. g(u, iu , i¯u ). X. v. 匨匳匮匱匩. (u,iu )∈S. 其中 g(·) 代表的是我們定義的排序損失函式（卒卡卮卫卩卮卧卌卯即即卆卵卮卣却卩卯卮）。 (u, iu ) 是正向的使用者 − 商品互動（使用者 u 購買了商品 iu ）。 (u, i¯u ) 為負向的使用者 − 商品互動（使用者 u 沒有購買 i¯u ）。我們希望訓練模型，使得正向的使用者 − 商品互動的預測分數大於負向的使用者 − 商品互動的預測分數。而這邊需要注意的是，在訓練模型的時候，我們只在意排序是否正確，而預測的分數將只會是相對的大小。. 匷. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(17) 異質性資訊網路表示法學習. 3.2. 首先，我們先定義異質性資訊網路。異質性資訊網路（午卥却卥卲卯卧卥卮卥卯卵即卉卮匭卦卯卲卭卡却卩卯卮华卥却卷卯卲卫）是一種具有多種節點型態的特殊資訊網路。一個異質性網路可以表示成 G = {V, E, T } ，節點集合 V 、連結集合 E ，以及對應的型態集合 T 。 T 代表了節點的型態集合，並且 |T | > 2。. Title. User. 立. 政治大. Category. Item. ‧ 國. 學. Brand. sit. y. ‧. Nat. 圖匳匮匱区電子商務的異質性資訊網路. al. er. io. 舉例來說，電子商務的購物行為可以表示成圖匳匮匱的網路。使用者（卵即卥卲）、. n. 商品（卩却卥卭）、標題（却卩却卬卥）、類別（卣卡却卥卧卯卲卹）、品牌（卢卲卡卮卤）為節點。而連結代表的意義是購買（卵即卥卲匭卩却卥卭），抑或是商品屬性（卩却卥卭匭却卩却卬卥匬卩却卥卭匭卣卡却卥卧卯卲卹匬卩却卥卭匭. Ch. engchi. i n U. v. 卢卲卡卮卤）。在此小節中，我們的目標是讓每個商品節點 v 學習一個好的低維度表示法 ev 。. 3.2.1. 建圖策略. 處理機器學習的問題的過程中，除了模型之外，訓練資料的品質好壞也會直接影響我們預測任務的結果。訓練網路表示法學習的時候，我們的輸入就是一張網路。而現實世界的資料往往不是以網路的方式儲存，我們需要進行透過演算法將原本的資料轉換成網路。在此小節我們提供了一個泛用的策略，將使用者 − 商品紀錄以及商品標題、商品後設資訊等資料轉換成異質性資訊網路。首先，我們的輸入是使用者的歷史紀錄，並將每個使用者 − 商品互動關係建邊。再來是將商品的標題斷詞，並經過一些前處理過濾辭彙。這邊可以依據情境做客製化調整，我們建議將純數字、停用詞去除。前處理之後，再將每個商匸. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(18) 品 − 辭彙關係建邊。另外，如果有其他可以利用的商品屬性，我們也可以利用類似於商品標題的方式建邊。像是品牌、發行商、作者等，我們都認為是可以利用的額外資訊。完整的演算法框架我們列於十卬卧卯卲卩却卨卭匱。 Algorithm 1 建圖演算法 Input: 協卨卥卵即卥卲即即卥却 U 医協卨卥卩却卥卭即即卥却 I医協卨卥卵即卥卲匭卩却卥卭卨卩即却卯卲卹印卡卩卲即 S医協卨卥即卥却卯卦卩却卥卭却卩却卬卥即 T 医協卨卥即卥却卯卦卩却卥卭卵即卥卦卵卬卡却却卲卩卢卵却卥即 M 匨卢卲卡卮卤匬印卵卢卬卩即卨卥卲匬卥却卣匮匩医 Output: 協卨卥卥卤卧卥卬卩即却卯卦卨卥却卥卲卯卧卥卮卥卯卵即卩卮卦卯卲卭卡却卩卯卮卮卥却卷卯卲卫匬卤卥卮卯却卥卤卢卹 E匮 for 卥卡卣卨印卯即卩却卩卶卥印卡卩卲 (u, iu ) ∈ S do 卡印印卥卮卤 (u, i) 卩卮却卯 E end for for 卥卡卣卨卩却卥卭 i 卩卮 I do 卷卯卲卤即 W 匽却卯卫卥卮卩卺卥匨Ti 匩印卲卥印卲卯卣卥即即卩卮卧匨W匩 for 卥卡卣卨卷卯卲卤 w 卩卮 W do 卡印印卥卮卤 (i, w) 卩卮却卯 E end for for 卥卡卣卨卡却却卲卩卢卵却卥 m 卩卮 Mi do 卡印印卥卮卤 (i, m) 卩卮却卯 E end for end for return E. ‧. ‧ 國. 立. 政治大. 學. 匱区匲区匳区匴区匵区匶区匷区匸区匹区匱匰区匱匱区匱匲区匱匳区匱匴区匱匵区. y. Nat. sit. er. io. 在電子商務的資料中，商品會有像是標題、標籤、品牌等有用的離散特徵。透過我們的建圖策略，對於後續的網路表示法學習來說，除了能學到使用者與商品之間的鏈結關係之外，購買紀錄較少的商品也能透過文字的鄰居共享，拉近與. n. al. i n U. v. 相似商品的距離。我們認為能夠使推薦模型推薦新上架或較為冷門的商品的可能. Ch. engchi. 性上升，提高整體推薦系統的品質。. 生成 E 之後，我們等同得到異質性網路 G 。再來，我們挑選了四種網路表示法學習方法訓練使用者及商品的表示法。分別為卄卥卥印卷卡卬卫、卌卉华卅、午卐卅、以及卭卥却卡印卡却卨匲卶卥卣。學習到的表示式，我們將會當作匳匮匳小節中推薦模型的初始特徵值。. 3.2.2. Deepwalk. 卄卥卥印卷卡卬卫卛匶卝學習了卷卯卲卤匲卶卥卣的精神，將網路結構透過隨機走動的方法，轉換成類似自然語言句子的節點序列。我們再通過即卫卩印匭卧卲卡卭訓練得到每個網路節點的向量表示法。我們給定網路 G ，我們將會針對生成的節點序列，優化以下機率分佈：. 匹. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(19) X. arg max θ. X. 匨匳匮匲匩. log p(c|v; θ). v∈V c∈N (v). 且定義條件機率 p(c|v; θ) ： y Oc ·Ov p(c|v; θ) = P Ou ·Ov u∈V y. 匨匳匮匳匩. 其中 N (v) 是節點 v ∈ V 的鄰居節點。 c 則是代表節點中 v 的卣卯卮匭却卥卸却。 Ov 為 v 的向量表示法， Oc 是卣卯卮却卥卸却的向量表示法。雖然想法不難，但學習出的表示法在分類、連結預測等問題有不錯的效果。也因為實作快速，也在實務的工作上有許多應用。. 立. LINE. 學. ‧ 國. 3.2.3. 政治大. 卌卉华卅卛匷卝則是提出了明確的目標函式，優化網路表示法學習問題。一種為一. ‧. 階相似度（卆卩卲即却匭卯卲卤卥卲卐卲卯卸卩卭卩却卹），就是當兩點直接連接，或連接的權重大的時候，則兩個點愈相似。另一種為二階相似度（卓卥卣卯卮卤匭卯卲卤卥卲卐卲卯卸卩卭卩却卹），當兩點. n. al. er. io. sit. y. Nat. 有很多共同鄰居的時候，則他們的相似度很高。我們以圖匳匮匲來做解釋：. C. Ch. engchi. i n U. G. v. H. D. A. B. I. E. J F. 圖匳匮匲区卌卉华卅的相似度關係就一階相似度而言，十點和卂點是相似的（十和卂直接相連）。而就二階相似度來說，十點則會跟升點比較相似（共享了千、卄、卅、卆點鄰居）。匱匰. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(20) 在此論文中，我們使用卌卉华卅的二階相似度。每個節點扮演了兩個角色：節點本身以及其他節點的卣卯卮却卥卸却針對每個有向邊 (vi , vc ) ，我們定義 vi ，他所擁有的卣卯卮却卥卸却節點 vc 的條件機率為： exp(Ovc · Ovi ) vk ∈V exp(Ovk · Ovi ). 匨匳匮匴匩. X. 匨匳匮匵匩. p(vj |vi ) = P 並優化以下目標函式：. OLIN E = −. wi,j log p(vj |vi ). (i,j)∈P. 其中 P 代表我們抽樣到的邊集合， Ovi 為 vi 的向量表示法， Ovc 是卣卯卮却卥卸却節. 政治大. 點 vc 的卣卯卮却卥卸却向量表示法。 wi,j 則是代表邊的權重。. 立. ‧ 國. HPE. 學. 3.2.4. ‧. 午卐卅卛匲匴卝則是類似於上述兩項工作，但對於網路表示法學習有做些許的變. y. Nat. 化。不像卄卥卥印卷卡卬卫照著均勻分布隨機走動，為了學習使用者的偏好，午卐卅透過有權重的隨機走動生成訓練對。拿圖匳匮匲當例子，在抽樣十點的正向對時，假. sit. 設我們抽到卂點當作十點的卣卯卮却卥卸却，那我們也會同時抽樣卂點的正向對（像. er. io. 是十、午、卉、半點）當作十點的卣卯卮却卥卸却。代表著抽樣的時候除了直接連接的節點之外，也能透過有權重的隨機走動，接收間接連接的節點卣卯卮却卥卸却。午卐卅根據異質性網路抽樣更新節點表示式 Ovi ，並定義條件機率：. n. al. Ch. engchi. i n U. v.  1 if v ∈ Context(v ) j i P (vj |Ovi ) = 0. 匨匳匮匶匩. 類似於卌卉华卅，午卐卅優化以下目標函式： OHP E = −. X. wi,j log p(vj |Ovi ) + λ. X. |Ovi |2. 匨匳匮匷匩. (i,j)∈P. 其中 P 代表我們抽樣到的邊集合， wi,j 則是代表邊的權重。另外，有加入正規化參數，以避免過適（协卶卥卲匜却却卩卮卧）的問題發生。. 匱匱. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(21) 3.2.5. metapath2vec. 另外，我們也挑選卭卥却卡印卡却卨匲卶卥卣卛匲匳卝的方法來學習異質性網路表示法。由於每個節點有其節點類別，因此我們可以依據不同的元路徑（卍卥却卡匭印卡却卨）去限制隨機走動的序列。給定一個異質性網路，我們定義元路徑 ρ 為下式：. R. R. R`−1. R. 匨匳匮匸匩. 1 2 t ρ = A1 −→ A2 −→ . . . At −→ At+1 . . . −−−→ A`. ` 為元路徑的長度， A = A1 , A2 , . . . , A` 為此元路徑所走動會經過的型態， R = R1 , R2 , . . . , R`−1 代表在 A1 到 A` 節點型態之間的關係。給定元路徑 ρ 及異質性網路 G ，我們根據下式機率分佈產生走動序列：. 立 |v , ρ) = 0 k. k+1. k. k+1 ). = At+1 匨匳匮匹匩. (vk+1 , vk ) ∈ E, φ(vk+1 ) 6= At+1 (vk+1 , vk ) ∈ /E. 學.    0. ‧ 國. P (vk+1. 政治大 (v , v ) ∈ E, φ(v.  1     |N (At+1 ,vk )|. ‧. 其中 vk 是在序列中第 k 個的節點， At 為 vk 的節點型態， N (At+1 , v) 代表的是 v 型態為 At+1 的鄰居個數。元路徑走動會根據事前定義好的路徑 ρ 重複產生序. sit. n. al. er. io. U1. y. Nat. 列，直到達到我們指定的長度參數，才停止走動。. I1. U2 I2. Ch Camera. Sony. UIU. engchi. i n U. v. U1. I1. U1. I1. I1. U1. U5. I4. U3. UIWIU U3 I3. Sony. I2. U2. Xperia IUI. U4. I4. I3. U4. I4. Nikon. U5. 圖匳匮匳区卍卥却卡匭印卡却卨的序列生成例子我們拿圖匳匮匳當作例子。給定单卉单的元路徑，從 U1 節點出發，我們可以透過節點走動產生路徑：(1) U1 → I1 → U5 → I4 → U3 · · · ，(2) U1 → I3 → U4 → I4 → U5 。而當我們給定单卉南卉单，同樣從 U1 節點出發，則可以產生路徑：(3) U1 → I1 → WSony → I2 → U2 · · · ，(4) U1 → I3 → WSony → I2 → U3 · · · 。匱匲. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(22) 從上面的例子可以看出，不同的元路徑所代表的物理意義不同，例如像是单卉单所代表的意義是連結購買相同商品的使用者，而单卉南卉单則是連結購買有相同字詞商品的使用者。產生序列文本之後，我們透過異質性即卫卩印匭卧卲卡卭模型，學習有效的網路表示法 O ∈ R|V |×d , d |V | 。給定異質性網路 G = (V, E, T ) ， |TV | > 1 ，以及節點 v ，去優化以下機率分佈：. arg max θ. X X. X. 匨匳匮匱匰匩. log p(ct |v; θ). v∈V t∈TV ct ∈Nt (v). 且定義條件機率 p(ct |v; θ) ：. 政治大 y p(c |v; θ) = 立 y Oct ·Ov. t. P. ut ∈Vt. 匨匳匮匱匱匩. Out ·Ov. ‧ 國. 學. Nt (v) 是節點 v 中型態為 t 的鄰居節點。 ct 則是代表節點中 v 型態為 t 的卣卯卮匭. ‧. 却卥卸却。 Ov 為 O 的第 v 列向量，也代表著節點 v 的表示式 fv 。一般的網路表示法學習，如卄卥卥印南卡卬卫、卮卯卤卥匲卶卥卣，所優化的多項機率分佈（卍卵卬却卩卮卯卭卩卡卬卐卲卯卢卡卢卩卬卩却卹卄卩即却卲卩卢卵却卩卯卮）是全部的節點去建構機率分佈。而在異質性即卫卩印匭卧卲卡卭中，每個型. sit. y. Nat. 態 t 的多項機率分佈是由所有型態為 t 的節點所建構。這樣可以確保在負向取樣. n. al. er. io. （卮卥卧卡却卩卶卥即卡卭印卬卩卮卧）的時候，我們所抽取的節點為同樣型態的，並專注在相同型態節點的資訊。. 3.3. 推薦模型. Ch. engchi. i n U. v. 透過匳匮匲所學習出的表示法，我們有使用者特徵值及物品特徵值，其集合各別記為 FU 、 FI 。每個使用者 u 都有其特徵值 fu ∈ FU ，每個物品 i 也有其特徵值 fi ∈ FI 。集合 S 為我們觀察到的使用者 − 商品正向互動矩陣。 W1 ∈ Rd×k 及 W2 ∈ Rd×k 各別為連結使用者特徵值、商品特徵值，所學習到的權重。其中 d 為我們設定的網路表示法維度， k 是我們在矩陣分解中可以設定的隱含表示法維度參數。我們利用線性組合的方式，得到使用者的隱含表示式（卌卡却卥卮却卒卥印卲卥即卥卮却卡却卩卯卮）：. ru = fu W1. 匨匳匮匱匲匩. 及商品的隱含表示式為：匱匳. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(23) 匨匳匮匱匳匩. ri = fi W2. 在模型中，使用者 u 對於商品 i 的預測值 pîu ，我們定義為使用者表示法及商品表示法的內積值。 bu 和 bi 是在預測時我們所加上的正規化參數（卒卥卧卵卬卡卲卩卺卡却卩卯卮卂卩卡即）：. 匨匳匮匱匴匩. pîu = ru · ri + bu + bi. 最後我們定義損失函式 g(·) 。 iu 代表與使用者有互動關係的商品。對每個使用者我們將會隨機抽樣數個商品 i0 ∈ I 。在這邊我們使用南卍卒卂卛匲匵卝的作法，並. 政治大. 使用梯度下降法（升卲卡卤卩卥卮却卄卥即卣卥卮却）做 g(·) 最小化優化：. 立. g(ˆ p, u, i) = log(. 匨匳匮匱匵匩. ‧ 國. 學. |I| X |1 − (ˆ piu − pî0u )| + 1.0) |Z| i0 ∈Z. 由於在實務上，我們沒辦法在訓練的過程中一一計算每個負向對的分數，因. ‧. 此我們會使用負向採樣（华卥卧卡却卩卶卥卓卡卭印卬卩卮卧）策略來優化我們的訓練過程。 Z 是. sit. y. Nat. 我們在整個商品集合 I 中抽樣出來的商品集合。 pîu 代表的是正向對的分數， pî0u 則是代表了我們抽樣對的分數。匨匳匮匱匵匩式計算了整體商品集合的即卣卯卲卥卶卩卯卬卡却卩卯卮。這代表了我們希望 (ˆ piu − pî0u ) 的值越接近匱越好，如此才能使匨匳匮匱匵匩式. n. al. er. io. 最小化。匨匳匮匱匵匩式可以在許多深度學習框架中，使用卓升卄（卓却卯卣卨卡即却卩卣升卲卡卤卩卥卮却. v. 卄卥即卣卥卮却）的技術實現。最後，我們可以利用學習出的模型，預測使用者對於每個商品的分數。我們再取前卫項分數排序最高的商品，產生個人化的商品推薦清單。. Ch. engchi. 匱匴. i n U. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(24) 第四章實驗結果與討論. 治政在此章節，我們將提供且分析我們框架的表現。在大匴匮匱小節我們將敘述我們立匴匮匲小節則是給定實驗所使用的參數及我們所比使用的資料集及相關統計數據。 ‧ 國. ‧. 4.1. 學. 較的方法。匴匮匳小節介紹我們所使用的評估指標算法。最後，匴匮匴小節將會比較和討論我們方法及其他方法的表現。. 資料集. sit. y. Nat. io. 我們使用十卭卡卺卯卮評論資料集1來實驗。此資料集收集了十卭卡卺卯卮網站. n. al. er. 從匱匹匹匶年五月至匲匰匱匴年六月約匱匮匴匲億則評論。其中包含了使用者對於商品. i n U. v. 的評論分數、文字，以及商品的後設資料（像是商品描述、分類、價格、品牌、圖片等有用資訊）。我們挑選了其中六個商品類別，卍卯卶卩卥即、午卯卭卥、卅卬卥卣却卲卯卮匭. Ch. engchi. 卩卣即、千卥卬卬卐卨卯卮卥即、千卄即、以及千卬卯却卨卩卮卧的資料集實驗。另外，我們選擇的是標準的匵匭卣卯卲卥資料，這代表著在資料中，已經過濾掉出現低於匵次的使用者及物品。表匴匮匱為資料集的統計數據。資料集 |U | |I| |S| d(·) 稀疏度. 卍卯卶卩卥即匱匲匳匹匶匰匵匰匰匵匲匱匶匹匷匵匳匳匱匳匮匶匹匰匮匰匲匷匳匥. 午卯卭卥匶匶匵匱匹匲匸匲匳匷匵匵匱匶匸匲匸匮匲匹匰匮匰匲匹匳匥. 卅卬卥卣却卲卯卮卩卣即匱匹匲匴匰匳匶匳匰匰匱匱匶匸匹匱匸匸匸匮匷匸匰匮匰匱匳匹匥. 千卥卬卬卐卨卯卮卥即匲匷匸匷匹匱匰匴匲匹匱匹匴匴匳匹匶匮匹匷匰匮匰匶匶匹匥. 千卄即匷匵匲匵匸匶匴匴匴匳匱匰匹匷匵匹匲匱匴匮匵匸匰匮匰匲匲匶匥. 千卬卯却卨卩卮卧匳匹匳匸匷匲匳匰匳匳匲匷匸匶匷匷匷匮匰匶匰匮匰匳匰匷匥. 表匴匮匱区十卭卡卺卯卮資料集數據統計其中 |S| 代表所有使用者 − 商品評論數量， d(·) 為使用者評論商品數目的平均。稀疏度我們定義為. |S| |U |×|I|. ，及使用者 − 商品相鄰矩陣中非匰元素所佔的比. 1卨却却印区匯匯卪卭卣卡卵卬卥卹匮卵卣即卤匮卥卤卵匯卤卡却卡匯卡卭卡卺卯卮匯. 匱匵. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(25) 例。我們的實驗希望盡可能的模擬真實世界的情況。所以在每個資料集中，我們把每個使用者的評論依時間戳記（協卩卭卥即却卡卭印）排序。並把前匸匰匥的資料當作訓練資料，後匲匰匥的資料當作測試資料。目的是想要透過使用者過往的歷史紀錄，去預測使用者可能有興趣的商品。. 4.2. 實驗設定我們挑選了幾項其他即却卡却卥匭卯卦匭却卨卥匭卡卲却方法與我們的方法2比較：. 政治大. • Matrix Factorization：透過分解評分矩陣成使用者因子矩陣及商品因子矩陣，進而預測使用者對於未評分商品的喜好。為目前應用最廣泛的推薦模. 立. 型卛匹卝。. ‧ 國. 學. • BPR-MF：卂卡卹卥即卩卡卮卐卥卲即卯卮卡卬卩卺卥卤卒卡卮卫卩卮卧是目前在却卯印匭华推薦上被廣為使用的方法，這邊我們使用卂卐卒損失函式訓練卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮卛匲匶卝。. ‧. • WARP-MF：南卥卩卧卨却卥卤十印印卲卯卸卩卭卡却卥匭卒卡卮卫卐卡卩卲卷卩即卥最早被用在影像注釋（卉卭卡卧卥十卮卮卯却卡却卩卯卮）的工作卛匲匷卝。他建立了一個有效取樣的作法，在大數據量級的. y. Nat. 隱含回饋（卉卭印卬卩卣卩却卆卥卥卤卢卡卣卫）資料集上常被使用。這邊我們使用南十卒卐損. er. io. sit. 失函式訓練卍卡却卲卩卸卆卡卣却卯卲卩卺卡却卩卯卮。. • BoW-MF：詞袋模型（卂卡卧匭卯卦匭南卯卲卤即卭卯卤卥卬）是在自然語言處理領域中被廣泛使用的表達模型。我們將標題辭彙出現的頻率當作訓練模型的特徵，建立. n. al. Ch. engchi. i n U. v. 一個稀疏的向量代表每個商品。這邊的詞袋向量我們會當作推薦模型中商品的初始特徵值。. • JRL：半卯卩卮却卒卥印卲卥即卥卮却卡却卩卯卮卌卥卡卲卮卩卮卧提出了結合不同層表示法學習的方法，結合評論文字、圖像特徵、評分資訊，訓練使用者及商品的表示法。再利用這些表示法訓練印卡卩卲匭卷卩即卥卌卥卡卲卮卩卮卧却卯卒卡卮卫模型，以達到推薦的目的卛匱匸卝。我們使用作者提供的程式碼實驗3。以下網路表示法學習方法將會結合我們的建圖方式訓練，所學習到的特徵值當作後續推薦模型的初始值。 • Deepwalk*：為卄卥卥印卷卡卬卫加上我們所提出的建圖策略之作法。卄卥卥印卷卡卬卫利用了隨機走動生成序列，並利用網路結構相似於文字的特性訓練網路表示法。我們使用卄卥卥印卷卡卬卫所學習到的特徵值當作後續推薦模型的初始值卛匶卝。 2此論文程式碼可於卧卩却卨卵卢上取得卨却却印即区匯匯卧卩却卨卵卢匮卣卯卭匯卌卯卮卓卩卬卥卮却匯却卨卥即卩即卟卣卯卤卥即 3卨却却印即区匯匯卧卩却卨卵卢匮卣卯卭匯卥卶卩即卯卮匯半卒卌. 匱匶. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(26) • LINE*：為卌卉华卅加上我們所提出的建圖策略之作法。我們使用二階相似度的卌卉华卅訓練網路表示法，節點之間共享的鄰居節點越多則越相似。同時也作為特徵值當作後續推薦模型的初始值卛匷卝。 • HPE*：為午卐卅加上我們所提出的建圖策略之作法。午卥却卥卲卯卧卥卮卥卯卵即卐卲卥卦卥卲匭卥卮卣卥卅卭卢卥卤卤卩卮卧可以將使用者的異質性的資訊結合，讓使用者在進行檢索時能產生對應的推薦清單卛匲匴卝。 • metapath2vec*：為卭卥却卡印卡却卨匲卶卥卣加上我們所提出的建圖策略之作法。卭卥却卡匭印卡却卨匲卶卥卣提供了一個針對異質性網路的隨機走動策略，並透過異質性即卫卩印匭卧卲卡卭學習表示法。參考圖匳匮匱，實驗時我們設定三種節點型態：使用者（单）、商品（卉）、字詞（南）。字詞節點可能為商品標題所含辭彙及商品品牌（如果有的話）。. 政治大再根據評論訓練資料及商品後設資料建立網路。建立完網路之後，我們使立用印卲卯华卥却卛匲匸卝套件學習卄卥卥印卷卡卬卫、卌卉华卅、及午卐卅的網路表示法。訓練卄卥卥印匭. ‧ 國. 學. 卷卡卬卫時，我們給定窗口大小卷卩卮卤卯卷即卩卺卥為匵，並過濾掉卭卩卮卣卯卵卮却小於匵的節點，每個節點作為起點的次數卷卡卬卫却卩卭卥即為匱匰，隨機走動的長度卷卡卬卫. ‧. 卬卥卮卧却卨為匵匰。午卐卅及卌卉华卅我們設定即卡卭印卬卥却卩卭卥即為匲億次。. 而在卭卥却卡印卡却卨匲卶卥卣的實驗，我們設定元路徑 ρ 為卻单卉单匬单卉南卉单匬卉单卉卽生成. Nat. sit. y. 訓練文本。卭卥却卡印卡却卨匲卶卥卣也相同於卄卥卥印卷卡卬卫，每個節點作為起點的次數卷卡卬卫. n. al. er. io. 却卩卭卥即為匱匰，隨機走動的長度卷卡卬卫卬卥卮卧却卨為匵匰。得到文本之後，我們再使用卭卥却卡印卡却卨匲卶卥卣作者提供的程式碼訓練網路表示法4。其他參數我們則是使用套件. i n U. v. 預設值。最後，以上四種方法所訓練的卥卭卢卥卤卤卩卮卧大小我們都設定為匱匰匰。. Ch. engchi. 再來是給定推薦模型的參數。我們在卅卬卥卣却卲卯卮卩卣即的資料集設定使用者卢卡却卣卨大小為匵匰匰匰匰，以免記憶體用盡（协卵却卯卦卍卥卭卯卲卹）的問題。其餘匵個資料集則是設定卢卡却卣卨大小為原本使用者的大小。初始的卬卥卡卲卮卩卮卧卲卡却卥給定匰匮匱，並在訓練的過程中動態減少。對於每個使用者，負向取樣卮卥卧卡却卩卶卥即卡卭印卬卩卮卧的次數我們設定為匲匰。在卍卆、卂卐卒匭卍卆、南十卒卐匭卍卆及我們的方法中，我們設定卬卡却卥卮却卦卡卣却卯卲的長度 K 為匱匵匰，模型訓練更新的次數却卲卡卩卮卥印卯卣卨為匱匵匰。卂卐卒匭卍卆及南十卒卐匭卍卆我們使用卌卩卧卨却卆卍卛匲匹卝實作5。半卒卌則是參考原作者參數設定，並只使用却卥卸却、卲卡却卩卮卧兩層卶卩卥卷學習特徵。另外，我們也使用印卲卯华卥却卛匲匸卝套件學習半卒卌的初始卲卡却卩卮卧特徵值。 4卨却却印即区匯匯卥卲卩卣卤卯卮卧卹卸匮卧卩却卨卵卢匮卩卯匯卭卥却卡印卡却卨匲卶卥卣匯卭匲卶匮卨却卭卬 5卨却却印即区匯匯卧卩却卨卵卢匮卣卯卭匯卬卹即却匯卬卩卧卨却卦卭. 匱匷. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(27) 評估標準. 4.3. 為了衡量我們方法與其他方法在真實電子商務網站的表現，我們使用下列兩種評估標準來評估却卯印匭华推薦的表現。 • 精確率（卐卲卥卣卩即卩卯卮）：成功推薦的商品在模型推薦清單的百分率。這邊我們使用卍卡卣卲卯匭卡卶卥卲卡卧卥卐卲卥卣卩即卩卯卮。 P. P recision =. u∈U. |Iu+ | N. 匨匴匮匱匩. |U |. • 召回率（卒卥卣卡卬卬）：測試資料中使用者購買的商品被成功推薦的百分率。這. 政治大. 邊我們也使用卍卡卣卲卯匭卡卶卥卲卡卧卥卒卥卣卡卬卬。. P. Recall =. |Iu+ | u∈U |Iu |. 匨匴匮匲匩. |U |. 學. ‧ 國. 立. • 覆蓋率（千卯卶卥卲卡卧卥）：為可推薦商品佔所有商品的比例。 I0 |I|. ‧. Coverage =. Nat. sit. y. 匨匴匮匳匩. n. al. er. io. 其中 U 為使用者集合， I 為總商品集合。 Iu 為使用者 u 過去購買的商品集合， Iu+ 為對於使用者 u 的成功推薦商品集合。 I 0 是代表著所有使用者的推薦清. i n U. v. 單中涵蓋的商品集合，也就是如果推薦系統沒有推薦過某商品，則該商品就不包含在 I 0 中。. Ch. engchi. 在測試資料中，我們對每個使用者生成 N = 10 的却卯印匭华商品推薦清單。再利用上述兩個評估標準評估各個方法的好壞。. 實驗結果. 4.4 4.4.1. 準確率及召回率表現. 表匴匮匲及表匴匮匳表列了各個方法的實驗結果，包含了卐卲卥卣卩即卩卯卮區匱匰以及卒卥匭卣卡卬卬區匱匰。首先卍卆的表現在許多分類上都表現不好。是因為卍卆原本的目標是讓均方根誤差（卒卯卯却卍卥卡卮卓危卵卡卲卥卅卲卲卯卲匬卒卍卓卅）愈小愈好。而在電商的推薦上，更合理的場景是推薦商品的排序問題。所以在大部分的資料上，透過卂卐卒或南十卒卐的損失函式訓練卍卆會讓整體的準確率提升不少。再來，由匱匸. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(28) 卍卯卶卩卥即. 資料集. 卐卲卥卣卩即卩卯卮. 評估. 午卯卭卥. 卒卥卣卡卬卬卐卲卥卣卩即卩卯卮. 卅卬卥卣却卲卯卮卩卣即卒卥卣卡卬卬卐卲卥卣卩即卩卯卮. 卒卥卣卡卬卬. 卍卆卂卐卒匭卍卆南十卒卐匭卍卆卂卯南半卒卌. 匰匮匱匶匵匥匰匮匷匹匸匥匰匮匷匴匹匥匰匮匱匳匵匥匰匮匹匶匴匥. 匰匮匸匱匸匥匳匮匸匴匲匥匳匮匵匷匱匥匰匮匵匸匳匥匵匮匳匴匳匥. 匰匮匰匷匷匥匰匮匲匴匸匥匰匮匱匹匹匥匰匮匱匵匵匥匰匮匲匹匶匥. 匰匮匴匰匲匥匱匮匳匴匳匥匱匮匰匲匶匥匰匮匸匴匴匥匲匮匲匲匲匥. 匰匮匲匰匷匥匰匮匲匲匹匥匰匮匲匵匱匥匰匮匰匹匵匥匰匮匴匰匷匥. 匰匮匹匶匳匥匱匮匳匰匱匥匱匮匳匰匷匥匰匮匵匱匷匥 3.145%. 卄卥卥印卷卡卬卫匪卌卉华卅匪午卐卅匪卭卥却卡印卡却卨匲卶卥卣匪. 匰匮匹匹匶匥匰匮匳匴匱匥 1.147% 匰匮匹匴匱匥. 匴匮匶匹匹匥匱匮匳匸匱匥 5.405% 匴匮匳匳匰匥. 匰匮匳匱匸匥匰匮匱匷匱匥 0.418% 匰匮匳匷匵匥. 匱匮匷匳匰匥匰匮匸匵匹匥 2.313% 匲匮匰匴匴匥. 匰匮匲匴匶匥匰匮匱匴匸匥 0.433% 匰匮匳匷匳匥. 匱匮匳匸匱匥匰匮匶匸匵匥匲匮匳匹匲匥匲匮匰匱匸匥. 立. 政治大. 表匴匮匲区却卯印匭匱匰推薦結果（卍卯卶卩卥即匬午卯卭卥匬卅卬卥卣却卲卯卮卩卣即）. ‧. ‧ 國. 學 er. io. sit. y. Nat. n. al. 資料集評估. i Ch 千卥卬卬卐卨卯卮卥即千卬卯却卨卩卮卧 n e n卐卲卥卣卩即卩卯卮 gchi U 卐卲卥卣卩即卩卯卮卒卥卣卡卬卬卒卥卣卡卬卬. v. 千卄即. 卐卲卥卣卩即卩卯卮. 卒卥卣卡卬卬. 卍卆卂卐卒匭卍卆南十卒卐匭卍卆卂卯南半卒卌. 匰匮匴匳匰匥匰匮匶匶匳匥匰匮匷匴匴匥匰匮匷匶匲匥匰匮匸匲匵匥. 匲匮匶匰匶匥匴匮匰匲匹匥匴匮匵匱匲匥匴匮匵匷匵匥 6.921%. 匰匮匰匹匳匥匰匮匳匶匱匥匰匮匲匴匴匥匰匮匴匷匷匥匰匮匳匸匷匥. 匰匮匵匵匹匥匲匮匱匴匵匥匱匮匴匱匷匥匲匮匹匰匵匥 3.585%. 匰匮匱匴匴匥匱匮匰匳匶匥匰匮匸匱匱匥匰匮匱匱匸匥匰匮匷匷匴匥. 匰匮匵匷匷匥匴匮匴匶匹匥匳匮匱匵匱匥匰匮匴匲匹匥匳匮匷匰匱匥. 卄卥卥印卷卡卬卫匪卌卉华卅匪午卐卅匪卭卥却卡印卡却卨匲卶卥卣匪. 匰匮匷匹匷匥匰匮匶匸匲匥 1.039% 匰匮匹匶匸匥. 匴匮匸匵匳匥匴匮匱匴匹匥匶匮匴匹匴匥匵匮匹匸匶匥. 匰匮匴匱匴匥匰匮匱匸匶匥 0.509% 匰匮匴匱匲匥. 匲匮匴匸匳匥匱匮匰匷匲匥匳匮匰匹匹匥匲匮匴匸匲匥. 匱匮匱匸匷匥匰匮匲匴匴匥 1.316% 匱匮匱匳匸匥. 匵匮匱匱匳匥匰匮匷匸匶匥 5.645% 匴匮匷匸匰匥. 表匴匮匳区却卯印匭匱匰推薦結果（千卥卬卬卐卨卯卮卥即匬千卬卯却卨卩卮卧匬千卄即）. 匱匹. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(29) 於半卒卌及我們的方法加入了額外資訊訓練，所以表現可以再更進一步提升。然後我們可以發現在大部分的分類中，我們的方法在卐卲卥卣卩即卩卯卮上的表現都明顯優於其他方法。在推薦系統上，這是我們樂見的結果。比起召回率，精確率高的模型更能符合真實世界使用者的期待。另外，加入了文字資訊訓練網路表示法之後，跟原本單純用使用者 − 商品互動所建立的模型比起來，所學習到的特徵值也提升了後續推薦系統的準確性。這裡可以解釋不僅商品的後設資料，商品的評論文字也有助於提升推薦模型的表現。這邊值得注意的是卌卉华卅的表現並不好，我們認為這是因為我們的網路在建置的時候，並不是以二分圖（卂卩印卡卲却卩却卥卧卲卡印卨）來設計，而我們所建的圖混雜著使用者、商品、文字，使得在學習二階相似度時雜訊過多，而導致卌卉华卅的學習效果不好。反而是基於隨機走動的網路表示法學習方法，皆有不錯的表現。. 覆蓋率表現. 立. 匰匮匶匴匲匥匶匰匮匰匶匲匥匵匹匮匹匸匰匥匸匰匮匹匵匸匥匸匮匶匶匹匥. 匱匲匮匴匳匰匥匷匴匮匵匶匵匥匶匱匮匵匵匷匥匳匵匮匱匵匶匥匱匮匸匷匹匥. 匰匮匰匶匹匥匶匳匮匰匵匹匥匵匰匮匱匸匱匥匷匳匮匲匲匸匥匹匮匹匷匱匥. 匳匵匮匶匰匸匥匸匲匮匵匸匳匥匸匴匮匰匱匶匥匸匶匮匱匱匷匥匱匴匮匴匴匵匥. 卄卥卥印卷卡卬卫匪 97.896% 匷匶匮匶匹匲匥卌卉华卅匪匰匮匲匳匳匥匰匮匴匸匹匥午卐卅匪匷匱匮匱匵匱匥 90.736% 卭卥却卡印卡却卨匲卶卥卣匪匶匲匮匲匳匱匥匷匰匮匳匳匹匥. 93.571% 匰匮匱匷匱匥匸匴匮匵匴匱匥匴匰匮匶匷匱匥. 96.302% 匸匷匮匵匵匰匥匹匵匮匹匳匴匥匹匱匮匳匶匴匥. 匹匶匮匸匱匱匥匷匰匮匸匰匲匥匱匸匮匳匵匹匥匱匮匰匲匰匥 96.985% 匶匷匮匵匹匱匥匸匹匮匴匷匰匥 91.930%. n. Ch. engchi. 匲匷匮匵匱匲匥匸匱匮匷匱匵匥匶匸匮匰匹匷匥匸匵匮匸匳匵匥匹匱匮匷匷匳匥. sit. 千卄即匲匹匮匰匳匷匥匵匴匮匶匸匴匥匵匹匮匶匲匰匥匴匶匮匸匳匶匥匱匲匮匰匲匳匥. er. io. al. 卅卬卥卣却卲卯卮卩卣即千卥卬卬卐卨卯卮卥即千卬卯却卨卩卮卧. ‧. Nat. 卍卆卂卐卒匭卍卆南十卒卐匭卍卆卂卯南半卒卌. ‧ 國. 午卯卭卥. 學. 卍卯卶卩卥即. y. 4.4.2. 政治大. i n U. v. 表匴匮匴区覆蓋率評估在表匴匮匴中我們列出了每個模型在覆蓋率的表現。覆蓋率在電商行業中格外重要。不同於線下商店，電商網站擁有大量的商品，而其中活躍的商品可能只佔其中的匱匰匥，而其餘的匹匰匥的商品流通性都不高。因此帶動整體商品的銷售能給電商更多的營收成長。這邊可以發現使用此論文建圖策略的推薦模型，在每一類的覆蓋率表現皆有很好的表現。在四個網路表示法學習方法裡，皆有方法能夠達到超過匹匰匥的覆蓋率。與像是半卒卌的方法比較起來，我們的方法在學習商品與物品的表示法時，會在相同空間學習到使用者與商品之間的交互關係，以及商品與文字的連接。我們認為這樣是能夠表現更好的原因。. 匲匰. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(30) 卍卯卶卩卥即. 資料集. 卐卲卥卣卩即卩卯卮. 評估. 午卯卭卥. 卒卥卣卡卬卬卐卲卥卣卩即卩卯卮. 卅卬卥卣却卲卯卮卩卣即卒卥卣卡卬卬卐卲卥卣卩即卩卯卮. 卒卥卣卡卬卬. 卄卥卥印卷卡卬卫匨卲卡却卩卮卧匩卄卥卥印卷卡卬卫匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匹匱匱匥匴匮匴匱匷匥匰匮匹匹匶匥匴匮匶匹匹匥. 匰匮匲匳匸匥匱匮匳匰匳匥匰匮匳匱匸匥匱匮匷匳匰匥. 匰匮匲匲匵匥匱匮匳匱匱匥匰匮匲匴匶匥匱匮匳匸匱匥. 卌卉华卅匨卲卡却卩卮卧匩卌卉华卅匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匶匳匹匥匲匮匹匱匶匥匰匮匳匴匱匥匱匮匳匸匱匥. 匰匮匱匴匲匥匰匮匷匲匰匥匰匮匱匷匱匥匰匮匸匵匹匥. 匰匮匲匴匸匥匱匮匳匴匰匥匰匮匱匴匸匥匰匮匶匸匵匥. 午卐卅匨卲卡却卩卮卧匩午卐卅匨卲卡却卩卮卧匫卷卯卲卤即匩. 1.209% 5.719% 匱匮匱匴匷匥匵匮匴匰匵匥. 匰匮匳匷匴匥匲匮匰匱匰匥 0.418% 2.313%. 匰匮匴匳匲匥匲匮匳匸匴匥 0.433% 2.392%. 卭卥却卡印卡却卨匲卶卥卣匨卲卡却卩卮卧匩卭卥却卡印卡却卨匲卶卥卣匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匸匸匵匥匴匮匰匷匱匥匰匮匹匴匱匥匴匮匳匳匰匥. 匰匮匲匵匷匥匱匮匳匷匶匥政治匰匮匳匷匵匥大匲匮匰匴匴匥. 匰匮匳匵匷匥匱匮匹匲匸匥匰匮匳匷匳匥匲匮匰匱匸匥. 立. 表匴匮匵区有無文字建圖方式的推薦結果比較（卍卯卶卩卥即匬午卯卭卥匬卅卬卥卣却卲卯卮卩卣即）. ‧. ‧ 國. 學 er. io. sit. y. Nat. al. n. iv n U 千卬卯却卨卩卮卧. 資料集評估. C千卥卬卬h卐卨卯卮卥即 engchi 卐卲卥卣卩即卩卯卮卒卥卣卡卬卬卐卲卥卣卩即卩卯卮. 千卄即. 卒卥卣卡卬卬卐卲卥卣卩即卩卯卮. 卒卥卣卡卬卬. 卄卥卥印卷卡卬卫匨卲卡却卩卮卧匩卄卥卥印卷卡卬卫匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匶匸匱匥匴匮匲匸匷匥匰匮匷匹匷匥匴匮匸匵匳匥. 匰匮匲匹匰匥匱匮匷匳匹匥匰匮匴匱匴匥匲匮匴匸匳匥. 匱匮匰匶匲匥匴匮匵匴匷匥匱匮匱匸匷匥匵匮匱匱匳匥. 卌卉华卅匨卲卡却卩卮卧匩卌卉华卅匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匴匸匵匥匲匮匹匸匹匥匰匮匶匸匲匥匴匮匱匴匹匥. 匰匮匱匷匴匥匰匮匹匹匶匥匰匮匱匸匶匥匱匮匰匷匲匥. 匰匮匸匴匰匥匳匮匴匶匳匥匰匮匲匴匴匥匰匮匷匸匶匥. 午卐卅匨卲卡却卩卮卧匩午卐卅匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匸匸匰匥匵匮匴匸匲匥 1.039% 6.494%. 匰匮匳匷匹匥匲匮匲匷匹匥 0.509% 3.099%. 匱匮匳匰匶匥匵匮匶匰匶匥 1.316% 5.645%. 卭卥却卡印卡却卨匲卶卥卣匨卲卡却卩卮卧匩卭卥却卡印卡却卨匲卶卥卣匨卲卡却卩卮卧匫卷卯卲卤即匩. 匰匮匶匶匶匥匴匮匱匰匷匥匰匮匹匶匸匥匵匮匹匸匶匥. 匰匮匲匶匱匥匱匮匵匶匸匥匰匮匴匱匲匥匲匮匴匸匲匥. 匰匮匹匴匳匥匳匮匹匶匷匥匱匮匱匳匸匥匴匮匷匸匰匥. 表匴匮匶区有無文字建圖方式的推薦結果比較（千卥卬卬卐卨卯卮卥即匬千卬卯却卨卩卮卧匬千卄即）. 匲匱. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(31) 4.4.3. 建圖策略比較. 對網路表示法學習來說，不同的網路就代表不同的訓練資料，將會大大影響我們的預測任務結果。透過第三章的十卬卧卯卲卩却卨卭匱，我們將文字加入異質性網路。在此單元中，我們將比較有無文字的網路對於推薦系統效能的差異。在無文字的圖中，我們只保留使用者匭商品的鏈結，而沒有執行十卬卧卯卲卩却卨卭匱中第匵行到第匱匴行的步驟。網路建置好之後，我們按照一樣的程序：訓練網路表示法，再將表示法當作推薦模型的初始特徵值。表匴匮匵和匴匮匶列出了我們實驗的結果。在卄卥卥印卷卡卬卫和卭卥却卡印卡却卨匲卶卥卣的結果可以看出，加入文字都使推薦的效果有所提升。而在卌卉华卅中，在比較大的資料集中，加入文字反而或多或少減低推薦的成果。這如同我們之前所提的，加入過多異質性的節點當作卣卯卮却卥卸却，由於沒有分享共同的鄰居，反而混亂表示法的學習過程。. 立. 政治大. 這邊值得注意的是，午卐卅在卍卯卶卩卥即、卅卬卥卣却卲卯卮卩卣即、千卄即中，有無文字並. ‧ 國. 學. 沒有使效果明顯的提升，在卍卯卶卩卥即類中更是比沒有加文字的效果還要好。我們. ‧. 認為是因為資料的特性所造成。像是千卄即、卍卯卶卩卥即等資料，商品標題的文字沒有那麼重要，反而像是導演、歌手、曲風、發行商等後設資料影響較大，而在十卭卡卺卯卮資料集中沒有提供這些資訊。可能透過相同的方式連接這些屬性，才. y. Nat. 會使額外資訊的效果彰顯出來。這也告訴我們仍須根據不同的領域去客製化不同. 案例分析 -網網路a表l 示法學習. n. 4.4.4. er. io. sit. 的推薦模型，以達到最好的效果。. Ch. engchi. i n U. v. 除了好的推薦系統以外，我們也有另外一個主要目標，就是希望透過網路表示法學習，解決電子商務中嚴重的稀疏性問題。所學到的表示法除了當作推薦系統的初始值，也能夠在許多實務工作中發揮作用。像是訓練出的使用者表示法可以用在使用者分析（单即卥卲卐卲卯匜卬卩卮卧）的情境中。就商品的角度而言，我們希望的方向有兩個：. • 常被一起購買的商品越相似越好。例如我們希望一個電腦的節點表示法，與充電器、螢幕、滑鼠、鍵盤等商品相似。換句話說，我們希望能在商品的表示式學到協同過濾的特徵。 • 擁有類似標題辭彙的商品越相似越好。舉例來說，我們希望 Sony Xperia XZ2 與 Sony Xperia XZ2 Case 、 Sony Xperia XZ2 Compact 等商品相似。加入文字資訊之後，我們希望弭平像是尺寸、型號等「雜訊」，以達到更好的推薦效果。匲匲. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(32) 方法. 相似商品. 卄卥卥印卷卡卬卫. 午卐千卨卲卯卭卥卢卯卯卫匱匴匨协卣卥卡卮協卵卲危卵卯卩即卥匩午卐匱匵匮匶匢卌卡印却卯印匴升卂匳匲匰升卂卼匲匰匰匰匭匲卤匱匹南卍匱匲匭千卥卬卬卌卡印却卯印卂卡却却卥卲卹卦卯卲午卐卐十卖卉卌卉协华卄卖匷华卥卷卌卡印却卯印卂卡却却卥卲卹卦卯卲午卐卐卡卶卩卬卩卯卮卤卭匴午卐卐卡卶卩卬卩卯卮卄卍匱匭匴匳匱匰卮卲匱匱匮匶匢卌卡印却卯印匨協匭卍卯卢卩卬卥匴升匩. 政治大卄卉升卉協協卒十卄卅卌卓匱匰匴匭匱匵卓卡卫卵卲卡卄卥即卩卧卮卥卲华卯却卥卢卯卯卫卓卬卥卥卶卥匱匵匬匴匢卌卡印却卯印立午卡卮卮即匮升午升匲匸匱卄卐卂匲匸匢南卩卤卥即卣卲卥卥卮卌千卄卍卯卮卩却卯卲. ‧ 國. ‧. 午卐千卨卲卯卭卥卢卯卯卫匱匴匨协卣卥卡卮協卵卲危卵卯卩即卥匩午卐匱匵匮匶匢卌卡印却卯印匴升卂匳匲匰升卂卼匲匰匰匰匭匲卤匱匹南卍卂卅卓協卅卋卨印卬卡印却卯印卣卨卡卲卧卥卲卵卮卩卶卥卲即卡卬卡卤卡印却卥卲十卣卥卲十即印卩卲卥卖匵匭匱匲匲卐匭匰匶匳匷匱匱匮匶匭卉卮卣卨協卯卵卣卨即卣卲卥卥卮卌卡印却卯印匨千卨卩卬卬卓卩卬卶卥卲匩協卯即卨卩卢卡千卂匳匵匭十匳匱匲匰匱匳匮匳匭卉卮卣卨千卨卲卯卭卥卢卯卯卫. al. er. io. sit. y. Nat. 午卐卅. 卡卭卆卩卬卭卐卲卥卭卩卵卭午卄千卬卥卡卲匨卉卮卶卩即卩卢卬卥匩卓卣卲卥卥卮卐卲卯却卥卣却卯卲即卦卯卲十印印卬卥卩卐卡卤卓卡卭即卵卮卧升卡卬卡卸卹卄卥即卫却卯印卄卯卣卫匨卅卄卄匭卄匱卂匱卂卅升単十卒匩卆卵卲卭卡卮卍匭匸単匲卍卥卲卩却卓卥卲卩卥即匸协卵却卬卥却卐卯卷卥卲千卯卮卤卩却卩卯卮卥卲卡卮卤卓卵卲卧卥卐卲卯却卥卣却卯卲. 學. 卌卉华卅. v. n. 午卐千卨卲卯卭卥卢卯卯卫匱匴匨协卣卥卡卮協卵卲危卵卯卩即卥匩十卓单卓南卩卲卥卬卥即即卒卯卵却卥卲匨卒協匭华匱匰卐匩卭卥却卡印卡却卨匲卶卥卣十卮卫卥卲升卯卬卤卥卮十千十卤卡印却卥卲匫卐卯卷卥卲卓卵印印卬卹千卯卲卤卦卯卲卌卡印却卯印午卐卐卡卶卩卬卩卯卮午卐匱匵匮匶匢卌卡印却卯印匴升卂匳匲匰升卂卼匲匰匰匰匭匲卤匱匹南卍午卐千卨卲卯卭卥卢卯卯卫匱匱匨南卨卩却卥匯卂卬卵卥匩. Ch. engchi. i n U. 表匴匮匷区網路表示法學習的案例分析。在不同的網路表示法學習方法下，我們對於 HP 14-q070nr 14-Inch Chromebook (free T-Mobile 4G) 這項商品的表示法，與其餘商品表示法進行餘弦相似度檢索。此表所列出的是每個方法中最高前五相似的商品。. 匲匳. DOI:10.6814/THE.NCCU.CS.002.2018.B02.

(33) 另外，也可以將商品表示法直接利用在华卥卸却匭卩却卥卭即推薦中，利用使用者的搜尋問句檢索對應的物品。這樣的情境常常在音樂、影片推薦中常常使用。我們隨機選擇了 HP 14-q070nr 14-Inch Chromebook (free T-Mobile 4G) 這項商品，並於表匴匮匷列出相似商品。卄卥卥印南卡卬卫、午卐卅、卭卥却卡印卡却卨匲卶卥卣不約而同的將 HP Chromebook 14 擺在第一位。這是符合我們預期想要的結果，成功地將分享相同標題辭彙的商品在向量空間中盡可能的靠近。另外，也可以發現有部分商品符合我們所要的協同過濾特性，像是 12-Cell Laptop Battery for HP PAVILION DV7 及 BESTEK hp laptop charger universal adapter 都某種程度抓到我們想要的結果。. user item word. 立. user item word. 政治大. ‧. ‧ 國. 學匨卢匩卌卉华卅 user item word. n. al. er. io. sit. y. Nat. 匨卡匩卄卥卥印卷卡卬卫. Ch. engchi. 匨卣匩午卐卅. i n U. user item word. v. 匨卤匩卭卥却卡印卡却卨匲卶卥卣. 圖匴匮匱区網路表示法的視覺化呈現我們也透過却匭卓华卅卛匳匰卝將網路表示法視覺化呈現，來比較不同網路表示法學習方法的差異。在圖匴匮匱中，我們可以看出卄卥卥印卷卡卬卫及午卐卅的表示法分佈是混合在一起的，這是因為每個節點型態都會分享到各種型態的卣卯卮却卥卸却。而卌卉华卅則是商品一群，使用者及文字一群。會有這樣的現象則是因使用者及文字都是以商品當作卣卯卮却卥卸却，商品則會有使用者及文字的卣卯卮却卥卸却。卭卥却卡印卡却卨匲卶卥卣則是每個型態節點各一群。也證明了透過異質性即卫卩印匭卧卲卡卭，可以在享有多種型態卣卯卮却卥卸却節點的情況下，把同型態的節點聚集在一起，並把不同型態的節點分開。匲匴. DOI:10.6814/THE.NCCU.CS.002.2018.B02.