學術文獻中針對長短期風能預測已有許多研究方法。在[2]、[8]中,使用支 持向量機(Sopport Vector Machine regression algorithm)、多層感知器(multilayer perceptron algorithm)、M5P tree algorithm、Reduced Error Pruning tree、bagging tree 等方法,並列表比較其預測準確度如表1所示,其中顯示SVMreg法則預測之Mean Relative Error(MRE)最小,為3.514%。
表 1 文獻[8]的誤差比較表
另從文獻中可知,只要資料來源足夠,類神經網路之預測結果其誤差值與其 他方法相比皆較低。以下列舉在學術文獻中所提及的風力預測方法。
3-1 支持向量機(Support Vector Machine regression algorithm)
Support Vector Machine regression algorithm(SVM)的原理是將資料在空間中找 出最大margin來分類(如圖13)。訓練過程中,藉由調整其網路加權值(w)及偏權值 (b)獲得兩類別間最佳分介面。也就是讓圖14的
||
||
2 w
最大,因此|| w||越小越好。[9]
先用訓練組將各種輸入向量依得到的輸出值加以分類以調整加權值與偏權值,網 路訓練完成後將更新的風力資料(輸入向量)送入此網路,經隱藏層神經元的
15
16
3-2 決策樹(Decision Tree)
決策樹是一種常見的資料探勘方法,可用於數據分析或預測。決策樹的意義 代表的是對象屬性與對象值之間的一種映射關係。樹中每個節點表示某個對象,
而每個分叉路徑則代表不同的屬性值。一個決策樹模型始於一個根節點,而由根 節點發起散開出葉結點,其表現方式可分為圖15的(a)、(b)兩種。每個葉結點對 應從根節點到該葉節點所經歷的路徑屬性值交集。此方法之優點是簡單易懂,但 當遇到大量複雜的資料時,決策樹分支會變複雜、龐大,且運算時需有專業背景 知識及經驗。
(a) (b) 圖 15 決策樹結構
3-3 類神經網路(Artificial Neural Network)
類神經網路是模仿生物神經網路的資訊處理系統,是「一種基於腦與神經系 統研究,所啟發的資訊處理技術」。神經元即為神經系統的基本單元,有軸突、
樹突、突觸、細胞本體等部分。外界不同形式的資訊或能量訊號,經感官器官轉 換成電的訊號後,進入神經細胞中,使突觸間內部電位變化並透過樹突傳送至細 胞本體,再由軸突傳送到下一個神經元的樹突,成為輸入訊號。突觸對於訊號的 影響強度即是生物神經網路處理資訊的地方,而生物神經網路的學習就是在調節
17
突觸的強度。相對於生物神經網路,人工類神經網路即是由人工神經元連結而成,
用經驗模式來調整權重值與偏權值,在對研究對象之程序機構一無所知的情況下,
描述實際程序數學模型的一種方式,圖 16 即為一個最簡單的單神經元架構示意 圖。[10]
圖 16 一個單輸入有偏權值的單神經元架構
p 為輸入、a 為輸出、𝑤為權重值、𝑏為偏權值、𝑓為神經元轉移函數,轉移 函數共有十幾種,不同的類神經網路可能會有不同的轉移函數,以下表 2 列出幾 個轉移函數𝑓說明。
表 2 轉移函數及其功能
名稱 輸入/輸出關係 圖示
對數雙彎曲轉移函數 (Sigmoid function)
11 net f net
e
線性轉換函數 (Pure Linear)
net net f( )
硬限制轉移函數
(Threshold Step)
0 1
0 0
n a
n a
徑向基轉移函數 (Gaussian)
n2
e a
18
正切雙曲線轉移函數 (Hyperbolic tangent
function)
net net
net
f
exp 1
exp ) 1
(
類神經網路具有三層,輸入層、隱藏層、輸出層。一般而言,在隱藏層中通 常使用對數雙彎曲轉移函數或是正切雙曲線轉移函數,因為這樣可以將計算值限 定在很小的範圍 (-1~1) 內作計算,以增加學習效率。而輸出層的部分,考量在 使用雙彎曲轉移函數的情況下,網路的輸出會限制在很小的範圍內。故輸出層常 選擇線性轉移函數(linear),使網路輸出值可以不限定在任何範圍以逼近我們的目 標值。[10]
類神經網路在實用上之運作分訓練過程及模擬過程。訓練過程中,需視各種 情況選擇適當的訓練演算法。而以下介紹文獻[8][22][28]中所使用來預測的感知 器類神經網路、倒傳遞類神經網路及徑向基類神經網路。
3-3-1 多層感知器類神經網路(Multilayer Perceptrons Network)
感知器類神經網路可說是類神經網路中最簡單的,故欲認識類神經網路要先 從了解感知器類神經網路架構開始。
感知器屬監督式學習,可分為單層和多層,其不同的地方在於單層只適用線 性分類,而多層可做非線性分類,原因在於單層感知器如圖17並無隱藏層,而多 層感知器則在輸入層與輸出層間多了隱藏層。感知器類神經網路最適於用在圖樣 分類上,利用硬限轉移函數將輸入向量轉換成不是0就是1的輸出加以分類,在分 類過程中,反覆修改權重值W和偏權值b,以找到最佳的決策邊界 Wp+b=0 使兩 種不同點的輸入p可以被完全分離開來。例如:Wp+b > 0時,輸出a = 1;Wp+b ≤ 0時,a = 0。而這樣反覆修改權重值和偏權值的過程即為類神經網路的「訓練」。
19
20
3-3-2 倒傳遞類神經網路(Back Propagation Network)
倒傳遞演算法 Back Propagation (簡稱 BP),屬類神經網路中較具代表性的一 種。因屬於監督式學習,故需有輸入向量及其相對應的目標向量一起考量來訓練 網路,直到網路能將輸出逼近於目標向量如圖 18。經過適當訓練後的倒傳遞網 路,當給定此網路從不曾看過的輸入向量時,網路可以給出合理的答案。圖 19 為其結構,隱藏層神經元模型中的轉移函數 f(...)常使用對數雙彎曲轉移函數或 正切雙彎曲轉移函數,而輸出層則常用線性轉移函數。倒傳遞演算法基於不同標 準的最佳化技巧,而有許多種變化的演算法並在本文第四章有詳細的介紹。[10]
圖 18 類神經網路訓練
輸入 類神經網路
比較
輸出
實際輸出 調整權重值
21
圖 19 單層前饋倒傳遞網路結構
3-3-3 徑向基類神經網路(Radial Basis Function Network)
徑向基網路也是屬於監督式學習,和倒傳遞網路一樣皆可近似任何連續非線 性函數。他們主要差別在於倒傳遞的隱藏層神經元是使用雙彎曲函數,而徑向基 網路的隱藏層神經元轉移函數稱為徑向基函數,當輸入向量越靠近徑向基函數的 中心則輸出值越大。
徑向基神經網路將輸入向量p和權重值矩陣IW間的歐基里德距離 dist 與偏 權向量b的對應元素相乘而得徑向基函數的輸入n。經由徑向基轉移函數(3-5)而 得輸出a。
) 2
(n e n radbas
a (3-5) 當p與IW間距離越遠,則輸出 a 越小趨近於0;越大則 a 趨近於1。以此隱 藏層神經元架構為出發點,搭配各種不同函數的輸出層,可使網路有函數逼近或 是分類等不一樣的功能。圖20即為一徑向基神經元搭配線性輸出層的架構圖,圖 中LW為線性輸出層之權重值。
徑向基類神經網路與倒傳遞類神經網路相比,訓練所花費的時間較少(當前
22
饋類神經網路之隱藏層與輸出層皆為非線性轉移函數時)。但因輸入空間回應區 域相對小,故需要更多的隱藏層神經元。[10]
圖 20 徑向基神經元架構圖 圖 20 中之a1i、a2、 dist 推導如下:
1
1
i i radbas IW p b
a (3-6)
1 2
2 LW a b
a purelin (3-7)
n
i
i i
, 2
dist W P W p (3-8)
23