以預測機制改善雲端運算之節能分配效能

全文

(1)國立屏東教育大學資訊科學系碩士論文. 以預測機制改善雲端運算之節能分配效能 A Prediction Mechanism for Energy Conserving on Resource Allocation of Cloud Computing. 研究生：洪文儀指導教授：王朱福博士. 中華民國一百零三年六月.

(2) 以預測機制改善雲端運算之節能分配效能 A Prediction Mechanism for Energy Conserving on Resource Allocation of Cloud Computing. 研究生：洪文儀. Student：Wen-Yi Hung. 指導教授：王朱福. Advisor：Chu-Fu Wang. 國立屏東教育大學資訊科學系碩士論文. A Thesis Submitted to Department of Computer Science College of Sciences National Pingtung University of Education in partial Fulfillment of the Requirements for the Degree of Master in Computer Science June 2014 Pingtung, Taiwan, Republic of China. 中華民國一百零三年六月.

(3)

(4) 致. 謝. 誠摯的感謝指導教授王朱福博士多年來的指教與引領，您嚴謹的研究態度與耐心的指導開啟了我在網路領域的視野。感謝施釗德博士不時點出問題並指示正確方向，兩位老師如同廣博學海的明燈，驅散迷惑而且清明往前的路途。感謝邱嚴平學長、楊雅淇學姐、邱暘智學長、鄭宗庭學長，從初到開始就受到眾學長姐的照顧，其後的研究學習也不斷接受你/妳們的幫助。漫長兩年的研究生生活，幸而有你/妳們相陪伴，一同相互砥礪成長；精明而且可靠的慈蓮、風趣也穩重的彥勳，以及黃安、陳莉雯、鄭介豪、洪裕凱……感謝你/妳們的幫助與支持、勉勵與安慰，大家的笑語回憶我長久銘記。最後謹以此文感謝雙親與妹妹們，沒有你們，我沒辦法完成這份論文。. i.

(5) 摘. 要. 目前為止對於雲端運算的節能目標已經有許多的資源分配方法被提出，但是傳統的資源方法大多僅只考慮雲端系統當下的情形，進行分配運算任務的決策時並未將雲端系統未來的狀況納入考量之中，可能因此下達錯誤的決策反而耗費不必要的資源增加電能的消耗。本學位論文提出使用指數平滑法（Exponential Smoothing，ES）預測雲端系統未來的情形，我們以預測的結果作為根據搭配原有的資源管理方法，修正傳統資源管理方法作出的不適當的決策。實驗模擬結果顯示，所提之預測機制相對於傳統方法可減少雲端系統的耗能。關鍵字：雲端運算、資源管理方法、指數平滑法、資源預測. ii.

(6) Abstract To date, many resource allocation methods of cloud computing have been proposed for energy conserving. However, most of the traditional methods only take the current status of the system into consideration. And the future statuses of incoming jobs are not taking into account. Therefore, it might lead to wrong decision, and consequently increased the amount of energy consumption. This thesis proposed a resource allocation method with Exponential Smoothing technique to predict the future status of jobs. Based on the predicted results, the proposed method can make more adequate decision (such as, when to shut down a PM or to start up a new PM in the cloud computing system). The simulation results show that the proposed method can reduce energy consumption of a cloud computing system. Keywords: cloud computing, resource allocation, Exponential Smoothing, resource prediction. iii.

(7) 目. 錄. 致. 謝 ........................................................................................................................... i. 摘. 要 .......................................................................................................................... ii. Abstract ............................................................................................................................iii 第一章. 緒論 ................................................................................................................ 1. 第一節. 研究背景與動機 ........................................................................................ 1. 第二節. 研究目的 .................................................................................................... 2. 第三節. 研究架構 .................................................................................................... 3. 第二章. 文獻探討 ........................................................................................................ 4. 第一節. 雲端運算 .................................................................................................... 4. 第二節. 虛擬化技術 ................................................................................................ 7. 第三節. 動態資源管理方法 .................................................................................... 9. 第四節. 節能方法 .................................................................................................. 12. 第五節. 預測方法 .................................................................................................. 12. 第三章. 問題描述 ...................................................................................................... 14. 第一節. 問題描述 .................................................................................................. 14. 第二節. 電力模型 .................................................................................................. 15. 第四章. 資源分配方法 .............................................................................................. 17. 第三節. 預測機制 .................................................................................................. 17. 第四節. 方法描述 .................................................................................................. 19. 第五章. 實驗結果 ...................................................................................................... 21. 第一節. 環境設置 .................................................................................................. 21. 第二節. 實驗結果 .................................................................................................. 22. 第六章. 結論 .............................................................................................................. 25. 參考文獻 ......................................................................................................................... 26. iv.

(8) 圖. 次. 圖 1：資料中心之每月成本花費分佈[2] ................................................................................ 2 圖 2：雲端運算的服務模式[5] ................................................................................................ 6 圖 3：全虛擬化[7] .................................................................................................................... 8 圖 4：半虛擬化[7] .................................................................................................................... 9 圖 5：動態資源管理流程[8] .................................................................................................. 10 圖 6：動態資源管理工作配置的兩種方向[8] ...................................................................... 11 圖 7：資源分配方法之不適當的決策示意圖....................................................................... 15 圖 8：電力消耗與負載變化之關係[14] ................................................................................ 16 圖 9：預測得到的運算任務序列示意................................................................................... 18 圖 10：預測模型示意............................................................................................................. 19 圖 11：上限為二十台實體機器時的平均耗電量................................................................. 22 圖 12：上限為三十台實體機器時的平均耗電量................................................................. 23 圖 13：上限為五十台實體機器時的平均耗電量................................................................. 23 圖 14：上限為一百台實體機器時的平均耗電量................................................................. 24 圖 15：預測機制被使用的次數平均..................................................................................... 24. v.

(9) 表. 次. 表 1：實驗參數設置............................................................................................................... 21. vi.

(10) 第一章. 第一節. 緒論. 研究背景與動機. 運算技術的演進，從大型工作站、叢集運算（Cluster Computing）到網格運算（Grid Computing），每次均帶給使用者運算速度的大幅提升。在1980年代，大型工作站以優越的運算能力獨立負荷繁重工作，往後不斷演變轉換至透過連線數量眾多的主機共同分擔龐大的運算量，大量運算技術的概念持續推陳出新，直到近年來，雲端運算（Cloud Computing）超越了網格運算[1]，成為現今資訊科技產業眾所矚目的新興焦點。形似網格運算，雲端運算的運算工作是由大量實體設備分擔著，這樣的架構讓有效率的資源管理可以被規劃與實行，統一集中式的管理也降低維護所需要的人力資源成本，藉由虛擬化技術（Virtualization）雲端運算提升擴充運算規模的彈性，配置運算任務也變得容易。在市場面方向，雲端運算的按需求服務（On-demand）則提供消費者有別於以往的選擇，無須自行建置實體設備。取而代之的是，使用者僅透過網際網路即可存取所需要的服務，降低對消費者專業知識門檻的要求；同時地減輕維護實體設備的成本與人力，此些皆是吸引消費者投入雲端運算的優點。近幾年來，雲端運算引起企業與政府的興趣並競相投入此一領域建置設備，逐漸形成不可忽視的經濟規模，並逐漸紮根非資訊科技領域的產業，影響大眾日常的經濟活動，勾勒出資訊服務產業新的一景。隨著對雲端運算的需求持續增加，資料中心（Data Center）宛如雨後春筍般冒出。縱使硬體效能日新月異，在能源效率上也有長足的進步，但是在資料中心內隨時運行著數量龐大的伺服器群，其中所衍生的電能消耗以及設備的冷卻成本是可觀的開銷。如圖１所示[2]，直接電能消耗與設備的冷卻成本合計42％，佔資料中心每月開銷的第二位。此外，長時間運行造成的設備耗損也是一難以估量的額外成本，而資料中心進入離峰狀態時，許多伺服器進入閒置狀態使得整體工作效率不佳，造成無用的電力浪費[3]。電能消耗除了金錢成本的花費，其中所產生的CO2排放更是一重要的環境環保議題，這需要適切的關注以及有效的改善方法。目前雲端運算的學術領域已有不少節省能源的相關研究，運用資源分配機制的解 1.

(11) 圖 1：資料中心之每月成本花費分佈[2]. 決方法即是其一。資源分配機制可考量當下各伺服器的負載情況，將到達資料中心的工作分配至適當的伺服器接受服務，或者調整伺服器的狀態（例如：因為伺服器目前負載高，加開實體機器（Physical Machines，PMs）以應付之後到來的工作；或因為伺服器的負載降低時，為減少能耗而關閉PMs）。然而單純的分配機制均是以伺服器現況作為考慮，而未來會到達伺服器的工作數量、工作間的時間間隔（interarrival time）則是難以估計。假若能設計一方法預測未來的工作到達情形，配置方法便能夠避免作出不恰當的抉擇，藉此進而改進配置的效率。截至目前有不少已知可行的預測方法應用於各領域上，例如：應用指數平滑法（Exponential Smoothing，ES）、二次指數平滑法（Second Expontial Smoothing）…等方法。藉由結合此類預測方法的資源分配機制，其成效將是可以期待的。. 第二節. 研究目的. 本學位論文的主要目的在於預測資料中心的未來運行狀態，其結果可作為資料中心營運時資源分配的參考。我們藉由尋找能夠判斷到達資料中心的工作串流與資料中心伺服器運作狀態彼此之間的關係標準，進而預測資料中心及工作到來情形，進而減少能源消耗。首先，我們將比較工作串流的歷史資料、工作串流歷史資料，應用指數平滑法（Exponential Smoothing，ES）、二次指數平滑法（Second Expontial Smoothing）… 等方法尋得判斷資料中心運行狀態的標準，並藉所得到的工作串流的趨勢結果猜測未來的工作到達的間隔時間緊密情況，以作為迎接未來工作準備而配置目前到達的工 2.

(12) 作。. 第三節. 研究架構. 本學位論文共分為五章，其內容安排如下：第一章：緒論討論本學位論文的背景、動機與目的，以及闡述論文架構。第二章：文獻探討彙整本學位論文相關技術文獻並予以探討。第三章：問題描述與方法描述本學位論文研究之問題架構與所提出的方法其環境設置、細節。第四章：實驗結果所提方法之效能比較分析。第五章：結論總結本學位論文提出的結果。. 3.

(13) 第二章. 文獻探討. 近年來，隨著網際網路的覆蓋率扶搖直上，利用網路即時接收最新資訊已成為人們日常生活一景，資訊設備平易近人而且價格低廉，因此大型企業與政府爭相建置資訊設備，中小企業與個人的商業行為也逐漸無法與網路脫鈎，而近來的雲端運算更提供了一個設備精簡與降低專業資訊人力需求的新選擇。虛擬化技術使得雲端運算擁有良好的延展性（Scalability）易於管理而且便於客製化，種種特性為各方所求，配合適當的資源管理配置除了可以減少雲端運算的運行成本，對能源的節省有不小助益，而資源配置方法效果的優劣更決定了資源的使用效率，在兼顧服務級別協議（Service Level Agreement，SLA）之下盡可能的優化配置結果是節能的首要目標。本學位論文主要是提出一以指數平滑法搭配樣本熵之趨勢預測以提升資源分配機制之效能。因此在此章節之相關文獻探討，首先將分列於第一節與第二節介紹雲端運算及虛擬化技術之基本概念；其次，第三節將介紹雲端系統中之動態資源管理方法；最後在第四及第五節將介紹我們所提預測機制相同之樣本熵及其他預測方法。. 第一節. 雲端運算. 關於雲端運算，美國國家技術標準研究所（National Institute of Standards and Technology，NIST）[4]定義：「Cloud computing is a model for enabling ubiquitous, convenient, on-demand network access to a shared pool of configurable computing resources that can be rapidly provisioned and released with minimal management effort or service provider interaction.」雲端運算是由無數單一主機組成之運算叢集，對外透過連接網路溝通，雲中各個主機的運算能力、儲存空間…等被視為一個整體，當有工作進入而需要處理的時候，即從廣大的資源池中撈取對應資源使用，由一管理者節點統籌其餘節點進行運算工作；以Apache根據Google所發表的MapReduce、Google檔案系統（Google File System，GFS）開發的開源軟體（Open Source Software，OSS）Hadoop 為例，由一個Master節點與許多Worker節點組成其架構，Master節點負責接收運算任務、分配工作、監控各個Worker狀態、提供管理介面。將雲看作一台大型主機，經由管理者節點進入操作，其餘節點皆是運算設備。 4.

(14) 另外NIST亦定義[4]雲端運算所須具備的五個基礎特徵，三種服務模式與四種部屬模型，底下將針對各種使用時機一一列舉介紹。一、基礎特徵 1.. 隨選自動化服務（On-demand self-service）. 消費者可以決定服務時間、儲存空間…等欲購買的服務分量，過程均是自動化，不需要同服務供應商方人力協定。 2.. 寬頻網路存取（Broad network access）. 服務經由網路提供，從各種不同的客戶端（例：智慧型手機、桌上型電腦、筆記型電腦）可以透過標準化的介面存取使用。 3.. 運算資源共用（Resource pooling）. 服務供應商的資源以多租戶模式對多位消費者租賃，並且其所使用的硬體資源或虛擬資源可以根據消費者的需求動態配置或重新分配。消費者無法知道所取用的資源其實體位置。 4.. 敏捷彈性調整（Rapid elasticity）. 能夠彈性提供資源，並在某些情況下可以按需求迅速擴充規模，對消費者而言資源的供應經常是沒有限度的，並且能夠在任何時間存取。 5.. 計量式服務（Measured service）. 資源的使用狀態可以被監控、控制並且透明，可即時給予服務供應商與消費者雙方知道。. 二、服務模式 1. 軟體即服務（Software as a Service，SaaS）以往的軟體是購買並安裝在消費者的主機上運行，SaaS提供的服務是運行於雲端之上，消費者通過客戶端介面（例：瀏覽器）來操作軟體，不能控制也無須考慮雲端方的環境設定，如：作業系統、儲存空間；雲端供應商以租賃方式提供軟體服務，消費者不再全額購買整套軟體，僅在需要的期間或為部分功能付費。 2. 平台即服務（Platform as a Service，PaaS）雲端供應商提供平台讓消費者部屬自行編寫或取得的程式於雲上，並可設定程式相關環境，但消費者均不觸及底層設定；同時雲端供應商提供為數眾多的服務與工具供程式開發人員選擇，縮減開發時程，並在需要 5.

(15) 圖 2：雲端運算的服務模式[5]. 時能夠及時擴充部屬環境[5]。 3. 基礎架構即服務（Infrastructure as a Service，IaaS）如圖２所示，IaaS相對其他兩種服務模式更加低階，消費者因此可以自行管理儲存空間、部分的網路設定，並可運行任意的應用程式，包括作業系統，但不包含底層硬體設施的設定。. 三、部屬模型 1. 私有雲（Private cloud）由獨立組織自行建置供多位使用者使用的雲，可能由組織自行管理或由第三方協助管理；文獻[6]列舉幾項私有雲設置的動機；包括可優化組織自身的資源使用效率、提升組織內部資料的隱私安全、另外，若考量將資料轉送至公用雲的成本過於昂貴或希望對關鍵部分擁有完整的控制權，架設私有雲則是個不錯的選擇。 2. 社群雲（Community cloud）由數個利益相仿的組織共同建構成，社群內的成員共通使用資料與應用程式，可能由組織自行管理或由第三方協助管理[6]。 3. 公用雲（Public cloud）這是目前雲端運算部屬的主要形式，向大眾公開的雲，但供應者仍擁有其所有權[6]，並能夠自行設置協議、要求驗證公用雲。可能由組織自行管理或由第三方協助管理，例如：Google AppEngine。 4. 混合雲（Hybrid cloud）如模式名稱所述，混合一個以上至多個不同模式的雲，可能包含私有雲、社群雲與公用雲；組織為優化其效率，將核心以外部分外包給雲端供應商處理，但這亦可能 6.

(16) 需面對雲與雲之間標準不一的問題。. 第二節. 虛擬化技術. 虛擬化技術是雲端運算中重要的核心技術，藉著虛擬化技術，雲端運算得以擁有易於擴充規模的高度延展性，於運算任務的分派上也十分靈活，並降低重新配置的困難度，讓各種資源配置方法能夠導入與實行，於許多方面都是雲端運算受人矚目的優勢的促成者。虛擬化技術於宿主的硬體平台之上模擬出一個擬似實際硬體設施的環境供給客戶機執行，可能容納數個客戶機同時運行而不互相衝突，客戶機的作業系統類型並沒有特別的限制，在宿主機上的運行環境就如同運行在實際的硬體設備上面一般，虛擬化技術大致分為以下兩種類：. 一、全虛擬化全虛擬化（Full virtualization）為在一硬體上建置一虛擬化平台（Hypervisor），所有客戶機皆運行在虛擬化平台之上，如圖３所示。虛擬化平台藉由模擬出硬體設備的介面與供給可操作底層設備的指令，讓客戶機的作業系統可以直接運行在虛擬化平台之上，而沒有必要再進行修改，在全虛擬化平台上運行的作業系統種類較多。採用全虛擬化技術的軟體例如：VMware。. 7.

(17) 圖 3：全虛擬化[7]. 二、半虛擬化相較於全虛擬化，半虛擬化（Para-virtualization）平台只有模擬出部分的硬體設備，亦即運行在其半虛擬化平台上的客戶機其中一部分是直接控制底層硬體設備，在半虛擬化的狀況中為讓客戶機的作業系統順利運行，通常需要修改其核心，因此可以運行的作業系統種類較少，但效率較高。採用半虛擬化技術的軟體例如：Microsoft Hyper-V。. 8.

(18) 圖 4：半虛擬化[7]. 第三節. 動態資源管理方法. 雲端運算中為求節省能源，需要適當管理使用的資源。進入雲中的運算任務來自許多不同的來源，所要求的資源種類、大小皆不同，處理所需時間也各異，且供應商需要同時考量服務品質（Quality of Service，QoS），無法直覺地得到最佳的資源配置。藉由導入動態資源管理方法（Dynamic resource allocation）能夠優化資源配置，並兼顧省電節能與遵守服務級別協議兩個方面。於資源管理方法之中，將虛擬機器（Virtual Machines，VMs）視為最基本的處理單位，而不再往下考慮單一程序。當一虛擬機器抵達雲時，根據其對資源的使用量適當的分配交由實體機器處理；雖然於一開始時已經進行適當配置，但雲的運行中途陸續有虛擬機器完成工作而離開與新的虛擬機器抵達開始工作，之後即使盡量優化虛擬機器的分配，也可能無法達到最佳配置。根據虛擬機器其上運行工作的不同，實體機器可能呈現過載（Overload）危及服務品質，或者進入閒置（Idle）狀態導致效率不佳，此時重新考量資源配置將虛擬機器轉移（Migration）至合適的實體機器以解決問題，動態資源管理流程如圖５所示。資源管理方法一般而言於有新的任務抵達時或運行一段時間後重新配置，有負載平衡（Load balancing）與集中整合（Consolidation）兩種方向。. 9.

(19) 圖 5：動態資源管理流程[8]. 一、負載平衡目標為平衡各實體機器的負載，避免工作任務過度集中在某台機器當中，如圖６所示，PM1的虛擬機器轉移至PM3，讓三台機器的負載量相同。. 二、集中整合與負載平衡相反，它是盡可能的集中工作任務，沒有工作任務需要處理的實體機器可以關閉或進入休眠以減少耗能，如圖６演示，PM2與PM3的工作任務集中轉移至 PM1，無工作任務需要處理的PM2與PM3即可以關閉。僅管虛擬機器的轉移可以幫助優化資源配置以達節能效果，但是轉移需要耗費額外的資源與電力，且進行轉移動作的之前與中途皆須花費時間，這些都是轉移動作不得不考慮的成本。Jansen與Brenner[9]討論了當任務工作抵達時七種不同的處理策略，以下為各方法分別描述介紹：. 1.. Round Robin. 輪循過所有的實體機器，當尋找到擁有足夠資源負擔該工作的實體機器，即將工作分配之。重複相同的動作，直到所有的工作分配完畢。旨在盡量分散工作於各實體 10.

(20) 圖 6：動態資源管理工作配置的兩種方向[8]. 機器中。. 2.. Striping. 首先忽略資源不足以負擔該工作的實體機器，而後自剩餘的實體機器中挑選資源使用率最低的實體機器，將工作分配於其上，依此類推分配所有的工作。此策略形似 Round Robin，旨在平均分散工作。 3.. Packing. 此一策略類似於Striping，但在分配工作的方法上與之恰恰相反，其自所有可負擔該工作的實體機器中，選擇使用率最高的將工作分配之。此策略目標不同於前兩種分配策略，旨在集中工作從而減少運行的實體機器數量。 4.. Load Balancing（free CPU count）. 如策略名稱所示，此一策略的抉擇根據為實體機器其可使用的CPU數量。首先忽略自身資源不足以負擔工作的實體機器，自能夠負擔該工作的實體機器中進一步選擇可使用的CUP數量最多的分配之。 5.. Load Balancing（free CPU ratio）. 形似Load Balancing（free CPU count），但此一策略為選擇CPU使用率較低的實體機器分配之。此二策略的目的皆為平衡各個機器的CPU負載，為免影響其運行的效果。 6.. Watts per Core. 此一策略為於所有足以負擔該工作的實體機器中，選擇與當前狀況相比，加入該工 11.

(21) 作處理之後使用電力增加最少瓦數者。以耗費最少電力為目標，從而減少總電力的消耗。 7.. Cost per Core. 形似Watts per Core，此策略的抉擇根據變更為選擇耗費最少額外成本的實體機器，藉此降低整體的成本消耗。. 第四節節能方法本小節承接上一節繼續介紹資源管理方法於節能方面的應用。. （一）Dynamic Round-Robin and Hybird 文獻[10]提出混合Dynamic Round-Robin（DRR）與First-Fit的演算法，其在雲端的尖峰時段使用Fist-Fit分配運算任務，而在非尖峰時段使用Dynamic Round-Robin以節省能源。在Dynamic Round-Robin中遵守兩種法則管控實體機器： 1.. 當實體機器中有虛擬機器已經被完成，則該實體機器進入「退休」狀態，不再接受新虛擬機器，等待剩餘的虛擬機器被完成之後關機。. 2.. 若「退休」狀態的實體機器等待時間過長，使得此番等待的成本過高，則強制轉移虛擬機器至其餘的實體機器上，以關閉該實體機器。. （二）Green Power Management 文獻[7]以負載平衡為中心規劃了一套資源管理系統針對不同實體機器組成的叢集，並提供穩定的供電規劃，其旨在避免過度負載導致處理運算任務的性能降低，反而延長了處理時間。. 第五節. 預測方法. 採集歷史資料並使用數學模型對未來的發展趨勢進行推估，此類領域已有可觀的研究成果，例如：時延類神經網路（Time Delay Neural Network，TDNN）、隱馬可夫模型（Hidden Markov Model，HMM）、灰預測（Grey prediction）…等。預測之實際應用在各領域行之有年，除了對貨幣與通膨的經濟預測、針對生產計畫的需求預測， 12.

(22) 在雲端運算的資源需求方面亦有相關的學術研究，其對於雲端運算提出適當的數學模型，從而預測資料中心的硬體資源（例如：處理器使用率、記憶體空間、硬碟空間… 等）或者抵達雲端的運算任務之抵達時間等參數，以下介紹用於雲端運算的預測方法。（一）二次指數平滑法（Double Exponential Smoothing）文獻[11]考慮雲端運算中資源的歷史資料中數值的標準差而改變二次指數平滑法其平滑係數α的值，以得到較為符合實際狀況的預測結果。當歷史數據序列的變化幅度相當小時，α設為0.05~0.2，若歷史數據序列有較大的波動，α則建議定為0.1~0.4，而當歷史數據序列陡然的上升或下降，α則為0.6~1。（二）馬可夫鏈模式（Markov Chain Based Model）文獻[12]使用馬可夫鏈預測虛擬化資源，其針對處理器、網路、記憶體與硬碟使用量…等資源的使用率以不同的間距劃分為數個等級，並規劃四種資料採集週期，分別為：小時、一日、一週和一個月，舉例而言，當收集數據的時間為一個月，其採集頻率為一日一次。（三）動態預測模型（Dynamic Prediction Model）文獻[13]使用多種預測方法，其針對運算任務的完成時間，在不同的負荷狀況之下對應使用不同的預測方法，於輕負載條件（Light Load Condition）時使用指數平滑法（Exponential Smoothing），在中負載條件（Moderate Load Condition）中使用線性迴歸（Multiple Linear Regression），而在重負載條件（Heavy Load Condition）之下則是使用一元線性回歸預測模型（Unary Linear Regression Method）。. 13.

(23) 第三章. 問題描述. 雲端運算的資料中心無時無刻運行數量龐大的伺服器，因而如何處理抵達雲的運算任務與伺服器兩者之間配置的關係，耗費的電能以及額外成本能將低將是重要的關鍵。本學位論文針對資源管理方法加以改進，加入能預測未來抵達資料中心的運算任務情況，並使用預測的結果輔助資源配置方法以進行適當的決策，從而降低資料中心中電能的使用量，達成節省能源的效果。本章首先將針對問題及電能耗費之計算方式分別在第一節及第二節作一簡述。. 第一節. 問題描述. 目前的資源分配方法多為考量當下雲端的狀況從而進行決策，然而儘管當下作出理想的決定，但在下一個時刻原本最佳的決策卻可能新的運算任務抵達資料中心，造成雲端狀況變化，卻變成為不適當的決策。舉例而言，假設雲端的負載情形接近滿載，為顧及服務水平協議，資源分配方法可能會加開實體機器以增加雲端所能夠承載的總資源量，然而當實體機器數量增加之後，下一個時刻陸續抵達雲端系統的運算任務數量卻可能反而是改變為少量而且稀疏的情況，如圖７（a）所示，在加開實體機器之前的雲端狀況即足以負擔與維持後續服務水平協議，在此一狀況時，額外開啟的實體機器成為增加電能耗費的不必要浪費，形成「不適當的決策」。又以另一種情況為例，假設雲端系統的負載量十分低落，因此，我們會挑選一即將完成所有運算任務並接著關閉該實體機器，傳統資源分配方法一旦作出預計關閉該機器即不會再分配工作給開機器，然而下一個時刻抵達雲端系統的運算任務卻轉變成大量造成最後又得再加開實體機器以應付運算任務，使得原資源分配的決定變成「不適當的決策」。本學位論文擬加入一預測機制並整合入資源分配方法之中以提昇電力節省之效能，避免上述不適當之決策情形發生。. 14.

(24) 圖 7：資源分配方法之不適當的決策示意圖. 第二節. 電力模型. 由於本學位論文擬設計之方法主要是提升雲端系統中電力消耗之效能；因此，此一小節將介紹處理運算任務所使用消費掉的電力能量計算方式電力模型[10]。實體機器消費電能量的多寡與其本身系統資源的使用量掛勾，一實體機器的電能消耗為以下兩項目的總和： 1.. 維持實體機器基本系統運行的基礎電力 15.

(25) 2.. 按實體機器負載率變化增減的電力，隨著負載量增加的變化，電能消耗也隨之成長. 消費的電能量如圖７所示，橫軸為實體機器的負載量，縱軸為電力的消耗量，其變動的消長幾乎呈線性成長，基礎電力與尖峰電力（Peak power）的比率約為50%。因此，實體機器的電能消耗計算其式子如下： 𝑐 P = � (1 − 𝛼) + 𝛼� 𝑃𝑝 𝐶. P為實體機器消耗的電能量。 𝑐. 實體機器的負載比率表示為𝐶，c是虛擬機器對實體機器要求使用的資源量，C是. 實體機器能夠承載的最大負荷量。. α代表基礎電力與尖峰電力的比率，設為50%。. 𝑃𝑝 為尖峰電力，當實體機器為滿載狀態時的電能消耗。. 圖 8：電力消耗與負載變化之關係[14]. 16.

(26) 第四章第三節. 資源分配方法. 預測機制. 本學位論文使用指數平滑法（Exponential Smoothing，ES）預測未來運算任務到來的趨勢，本小節將介紹其方法以及預測模型。（一）指數平滑法指數平滑法係由Robert G. Brown所提出[14]，用於對時間序列的趨勢作出合理的預測，其使用過往的歷史資料，根據前後資料的時間順序給予不同的權重值，近期的資料擁有相對高的權重，越遠離未來的資料則賦予逐漸降低收斂的權重，公式如下。 1. (1). 𝑆𝑡. ㄧ次指數平滑法（Single Exponential Smoothing） (1). = 𝑎 ∙ 𝑥𝑡−1 + (1 − 𝑎)𝑆𝑡−1. (1). (1). 𝑆𝑡 為對時間t時的新預測平滑值。 (1). 𝑆𝑡−1 為之前對時間t − 1所作的預測值。 𝑥𝑡−1 為時間t − 1時的實際值。. a為平滑係數，其值範圍為0 ≤ a ≤ 1。 2.. 二次指數平滑法（Second Expontial Smoothing）. 此為對ㄧ次指數平滑值再進行ㄧ次指數平滑處理，因此無法獨立預測，需要配合ㄧ次指數平滑法，公式如下所示。 (2). 𝑆𝑡. (1). = 𝑎 ∙ 𝑆𝑡. (2). + (1 − 𝑎)𝑆𝑡−1. (2). (2). 𝑆𝑡 為時間t的二次指數平滑值。 (1). 𝑆𝑡 為時間t的一次指數平滑值。. a為平滑係數，其值範圍為0 ≤ a ≤ 1。 17.

(27) 二次指數平滑法的預測模型如下： 𝑌𝑡+𝑇 = 𝑎𝑡 + 𝑏𝑡 ∙ 𝑇 (1). 𝑎𝑡 = 2 ∙ 𝑆𝑡. (3) (2). − 𝑆𝑡−1. � 𝑎 (1) (2) 𝑏𝑡 = 1−𝑎 �𝑆𝑡 − 𝑆𝑡 �. (4). 𝑌𝑡+𝑇 為時間t + 𝑇時的預測值。 𝑇為預測未來的期數。（二）預測模型預測模型負責預測未來可能到達雲端系統的運算工作任務，並預演運算任務到達之後雲端系統的狀況，預測所得到的運算任務序列如圖９所示。圖１０表示預測所得到的未來的運算任務與雲端系統的互動狀況。如圖所示未來的運算任務𝐽𝑜𝑏𝑖 將會在𝑇𝑖. 時間抵達，被預測出來的運算任務能夠表示為一序列{𝐽1 , 𝐽2 , 𝐽3 ⋯ , 𝐽𝑡 }，每個運算任務之間間隔𝑙𝑡 （𝑙𝑡 = 𝑇𝑡 − 𝑇𝑡−1 ）的時間，運算任務之抵達時間、負載率、運算時間皆可使. 用歷史資料不斷累積的預測方式計算得出。同時，若給定一資源分配方法（下一節將清楚描述）以及系統負載狀況，則在時間模擬往前的過程中，若是原本已經在處理的運算任務完成並離開實體機器，則釋放出佔用的資源供給其他需求使用的情形亦可模擬預測。. 圖 9：預測得到的運算任務序列示意. 18.

(28) 圖 10：預測模型示意. 第四節. 方法描述. 本學位論文所提出的方法，是在現存已有的資源分配方法基礎架構之上加入以雲端負載狀況作為高負載門檻值（及低負載門檻值）的預測方法，當越過給定門檻值時即使用預測模型輔助原有的資源分配方法以進行決策，我們的預測方法根據預測模型的結果來決定是否修正原有的資源分配方法（負載平衡法）所做出的決策。（一）基本方法我們針對雲端系統的負載狀況分別設定高、低兩個門檻值，當負載狀況落在高門檻之上或者掉在低門檻之下時，即進行預測動作。當有一新的運算任務抵達雲端時，使用公式５判斷當下的雲端系統的平均負載狀況𝐿𝑜𝑎𝑑𝑎𝑣𝑒𝑟𝑎𝑔𝑒 是否達到設定的高門檻值或落在低門檻值之下。 𝐿𝑜𝑎𝑑𝑎𝑣𝑒𝑟𝑎𝑔𝑒 =. ∑𝑛 𝑖=1 𝐿𝑜𝑎𝑑𝑃𝑀 𝑛. 𝑖. , 𝑖 = 1, 2, 3 ⋯ 𝑛. (5). 其中𝑛為開啟的實體機器數量，𝐿𝑜𝑎𝑑𝑃𝑀𝑖 表示實體機器（𝑃𝑀𝑖 ）的負載值，其值. 位在0~1之間，當無處理任何運算任務處理時𝐿𝑜𝑎𝑑𝑃𝑀𝑖 = 0，滿載時𝐿𝑜𝑎𝑑𝑃𝑀𝑖 = 1。 1.. 當雲端系統負載狀況超過高門檻：. 當雲端系統被視作高負載狀態，我們預期各實體機器所剩下的資源皆很可能不足以負擔新抵達雲端系統的運算任務，資源分配方法未來將在某一運算任務到達時因此開啟新的實體機器以容納新抵達的運算任務。此時我們提出一假設：「在T時間內雲端系統不開啟新的實體機器，讓運算任務延遲至最高之容忍等待 19.

(29) 時間前才分配處理而仍能負擔所有新抵達的運算任務（利用預測模型得知）之處理。」接著使用預測模型模擬未來T時間內的雲端系統運行狀況，檢視此一假設是否成立；若假設成立，則在未來的T時間內雲端系統實行該假設所描述的狀況：「不開啟新的實體機器」，其餘部分均依照原有的負載平衡資源配置方法分配運算任務。受此一決策影響而無法被即時分配出去的運算任務將在駐列中等待，直到足夠量的資源被返還資源池再行取用。 2.. 當雲端系統負載狀況處在低門檻之下：. 一般而言，雲端系統處於視作低負載狀態，則可能發生某一實體機器的負荷低且可能處理中的運算任務即將完成而空出實體機器，原資源分配方法卻可能將新抵達雲端的運算任務分配給這樣一個即將因為空出而關閉的實體機器；反之，若能空出該實體機器使其休眠且後續預測的運算任務仍能於剩餘實體機器上運行處理，則將可因此節省電力。此時我們同樣提出一假設：「擇定一台即將處理完成所有運算任務的實體機器進入休眠（即為不再接納新運算任務），並在T時間內亦不開啟新實體機器，而能負擔所有運算任務的處理。」接著使用預測模型模擬未來T時間內的雲端系統運行狀況，檢視此一假設是否成立；若假設成立，則我們將該機器進入休眠，並在未來的T時間內雲端系統實行該假設所描述的狀況：「不開啟新的實體機器」，其餘部分依照原有的負載平衡資源配置方法分配運算任務。受此一決策影響而無法被即時分配出去的運算任務同樣在駐列中等待，直至最大的容忍等待時間為止。此二種對原有的資源分配方法其決策的修正方向皆是以特定情況下降低實體機器的數量為目標，從而達到減少消耗能源的目的。. 20.

(30) 第五章第一節. 實驗結果. 環境設置. 本學位論文使用第二章第三節介紹過的Load Balancing（free CPU ratio）作為實驗比較的資源管理方法對象；另一方面，我們所提出的使用預測機制的資源管理方法則是將Load Balancing（free CPU ratio）加上預測機制。模擬實驗是以Java語言寫成的雲端系統模擬平台，模擬一資料中心內有數台實體機器同時運行的狀況。一台實體機器上能夠同時處理多個虛擬機器，一個運算任務可能需要耗費多台虛擬機器的資源處理，且假定運算任務在同一台實體機器上須完成所有的處理。抵達資料中心的運算任務擁有抵達時間、運行時間、工作負載等三項給定參數（當然，部分參數係採用估計的方式所給定）。運算任務抵達雲端系統的頻率使用指數分佈（Exponential distribution）隨機生成，其參數λ設定的範圍為0.2~1.4，每個數值間隔0.2，共七種數值。工作任務的負載量為實體機器總資源的10%~100%隨機生成，每個數值間隔10%，共十種數值。工作任務的運行時間為1~200的單位時間隨機生成。模擬實驗每一次輸入2000個隨機生成的運算任務至雲端系統模擬平台運行處理，直到所有運算任務完成處理，方才表示一次實驗的結束。實驗參數的設置如表１。. 表 1：實驗參數設置 2000 0.8 0.3 0.2, 0.4, ⋯ ,1.4 10%, 20%, ⋯ ,100% 1~200 運算任務的運行時間�單位時間� 20, 30, 50, 100 實體機器總數�台� 工作任務的數量高門檻值低門檻值運算任務抵達的頻率(λ) 運算任務的負載量. 500次. 實驗次數. 21.

(31) 第二節. 實驗結果. 比較Load Balancing與本學位論文所提出之Load Balancing加上預測機制此二種不同的資源管理方法，其在不同實體機器上限的條件限制下的平均電能消耗。於實體機器上限為20及30台的條件之下（如圖１１、１２所示），在生成運算任務抵達間距的λ數值較低時，按指數分佈其定義，是抵達的運算任務較為稀疏的狀況，我們所提出的預測方法有優於Load Balancing的結果，然而在實體機器上限為50、100 台的條件之下（如圖１３、１４所示），使用預測機制的方法則有比較明顯的降低電能消耗的成果，圖１５表示在不同實體機器上限之情形（20台、30台、50台及100台），與平均耗電量的結果互相對照，在預測結果被使用的次數低於10次時，兩方法相差無幾；而在預測次數較多的情況則有著較低的耗能結果，於50台、100台的條件中，預測次數平均被維持在200~250次之間，當預測結果被使用的次數大幅上升，耗能減少的幅度也相對的明顯。. 圖 11：上限為二十台實體機器時的平均耗電量. 22.

(32) 圖 12：上限為三十台實體機器時的平均耗電量. 圖 13：上限為五十台實體機器時的平均耗電量. 23.

(33) 圖 14：上限為一百台實體機器時的平均耗電量. 當運算任務抵達的頻率到達一定程度時，為了處理運算任務雲端將可能長期處於滿載狀態，這樣的情形導致即使使用預測機制，被提出的節能假設也無法成立，使得預測機制被使用的次數一落千丈，可以在圖１５中20台實體機器於運算任務抵達頻率是0.4時、30台實體機器於運算任務抵達頻率是0.6時、50台實體機器於運算任務抵達頻率是1時見到曲線往下落的現象。. 圖 15：預測機制被使用的次數平均. 24.

(34) 第六章結論現有的資源分配方法只以當下雲端系統的情形為基準來進行資源配置的決策，然而當下擬定的最佳決策卻可能在時間往後推進後改變成為不適當的決策，本學位論文提出使用預測機制的資源分配方法，針對會造成資源管理方法作出問題決策的情形，利用預測機制輔助修正該決策，從而避免不適當決策導致的電能浪費。本學位論文使用指數平滑法預測雲端系統未來的狀況，並使用預測模型演示雲端系統的運作，使用預測模型模擬的結果修正資源管理方法其決策。實驗結果顯示，加入預測機制的資源方法能成功降低雲端系統運行耗費的電能。. 25.

(35) 參考文獻. 1.. R.Buyya, C.S.Yeo, and S.Venugopal, (2008), Market-Oriented Cloud Computing: Vision, Hype, and Reality for Delivering IT Services as Computing Utitlities, in Proceeding of the 10th International Conference on High Performance Computing and Communications, pp. 5-13.. 2.. J.Hamilton, (2009), Cooperative Expendable Micro-Slice Servers (CEMS): Low Cost, Low Power Servers for Internet-Scale Services, in Proceeding of the International Conference on Innovative Data Systems Research.. 3.. A.Beloglazov and R.Buyya, (2010), Energy Efficient Allocation of Virtual Machines in Cloud Data Centers, in Proceeding of the 10th IEEE/ACM International Conference on Cluster, Cloud and Grid Computing, pp. 577-578.. 4.. P.Mell and T.Grance, (2011), The NIST Definition of Cloud Computing, NIST special publication.. 5.. B.P.Rimal, E.Choi, and I.Lumb, (2009), A Taxonomy and Survey of Cloud Computing Systems, in Proceeding of the Fifth International Joint Conference on INC, IMS and IDC, pp. 44-51.. 6.. T.Dillon, C.Wu, and E.Chang, (2010), Cloud Computing: Issues and Challenges, in Proceeding of the 24th IEEE International Conference on Advanced Information Networking and Applications, pp. 27-33.. 7.. C-T.Yang, K-C.Wang, H-Y.Cheng, C-T.Kuo, and W.C.C.Chu, (2011), Green Power Management with Dynamic Resource Allocation for Cloud Virtual Machines, in Proceeding of the IEEE International Conference on High Performance Computing and Communications, pp. 726-733.. 8.. M.Mishra, A.Das, P.Kulkarni, and A.Sahoo, (2012), Dynamic Resource Management Using Virtual Machine Migrations, IEEE Communications Magazine, pp. 34-40.. 9.. R.Jansen and P.R.Brenner, (2011), Energy Efficient Virtual Machine Allocation in the Cloud, in Proceeding of the International Conference on Green Computing Conference and Workshops, pp. 1-8.. 10. C-C.Lin, P.Liu, and J-J.Wu, (2011), Energy-effcient Virtual Machine Provision Algorithms for Cloud Systems, in Proceeding of the Fourth IEEE International Conference on Utility and Cloud Computing, pp. 81-88. 11. J.Huang, C.Li, and J.Yu, (2012), Resource Prediction Based on Double Exponential 26.

(36) Smoothing in Cloud Computing, in Proceeding of the 2nd International Conference on Consumer Electronics, Communications and Networks, pp. 2056-2060. 12. S.Mallick, G.Hains, and C.S.Deme, (2012), A Resource Prediction Model for Virtualization Servers, in Proceeding of the International Conference on High Performance Computing and Simulation, pp. 667-671. 13. Y.Wang, C.Fan, Z.Wen, (2012), A STUDY FOR TASK TIME PERFORMANCE DYNAMIC PREDICTION MODEL IN CLOUD RESOURCE SCHEDULING, in Proceeding of the 2nd International Conference on Cloud Computing and Intelligent Systems, pp.348-353. 14. R.G.Brown, (1996), Exponential Smoothing for Predicting Demand.. 27.

(37)