應用 PSO 類神經網路學習於軟式 IC 載板生產預測之研究
巫沛倉 義守大學 工業工程與管理學系
林育賢 義守大學 工業工程與管理學系 [email protected]
黃保源 義守大學 工業工程與管理學系 [email protected]
摘要
近幾年來智慧型預測系統的興起相當受到重 視,諸如:類神經網路、模糊理論…等,提供決策 者在制定未來方向與政策時,能以更高的效率,更 可靠的數據來研擬決策。而在眾多智慧型預測系統 中,以倒傳遞類神經網路結合各種演算法或綜合模 糊理論為多數,但其中類神經網路結合粒子群演算 法所建立之預測系統尚未被廣泛應用。故本研究以 一 套 結 合 粒 子 群 演 算 法 與 類 神 經 網 路 之 預 測 方 式,並利用灰關聯分析在眾多因子中篩選出關聯度 較高之因子,再將此些因子置入智慧型預測模式中 進行訓練與預測,並以平均絕對誤差、平均絕對偏 差量相較於其他預測模型。研究結果顯示,粒子群 演算結合類神經網路建構之預測模型,其預測誤差 高於導傳遞類神經網路之預測模型,但其預測速度 明顯優於其他預測模型,為了兼顧預測之準確度與 時效性,將此兩種預測模型進行複合方式之預測,
雖 然 預 測 誤 差 略 高 於 倒 傳 遞 類 神 經 網 路 預 測 模 型,但預測速度可提升數十倍,因此,在預測準確 度與時效性之考量下,建議個案公司使用 PSONN 與 BPN 複合方式進行預測。
關鍵詞:預測、軟式 IC 載板、類神經網路、粒子 群演算法、灰關聯分析。
一、 緒論
在現今的電子產業中,各項不預期的挑戰接踵 而來,相較於傳統製造業生產模式:少樣多量的產 品組合、穩定的訂單、充足的原物料、固定的交期…
等,是更加複雜了。在這競爭激烈的環境中,企業 需要更有效率的運作,方可降低成本與提升競爭 力,若可以比競爭對手早一步洞悉先機,做出正確 的判斷與決策,自然是贏在起跑點上,獲勝的機會 也就多了許多。
近年來,以往的傳統預測模式如:趨勢分析 法、外插法、因果分析法…等已漸失流行,取而代 之的是智慧型預測系統。但在眾多的智慧型預測系 統中,鮮少使用類神經網路結合粒子群演算法之預 測系統於實際預測上,因此,本研究希望利用倒傳 遞類神經網路(Back Propagation Neural Network;
BPN)結合粒子群演算法(Particle Swarm
Optimization algorithm;PSO)之預測系統,與相關 預測系統或模式比較,以提供企業界在實務面較客
觀且準確的預測方式。
影響其需求量之因素相當多,除國內外整體景 氣變化之狀況外,亦須考量下游各類通訊產品與消 費性電子產品需求。因此,在本研究中將所有影響 因子分為三大類,分別為時間序列因子、總體經濟 因子與產業需求與生產因子。
而本研究所使用的各項資料分別為楠梓加工 區 W 公司軟式 IC 載板每月需求,自 2003 年 1 月至 2006 年 12 月,共 48 筆的實際需求量作為此預測模 式之訓練與測試範例。其次,影響因子共 15 項,
資料來為台灣經濟研究院產經資料庫,台灣經濟論 衡,中華民國統計月報與台灣地區物價指數統計月 報。
研究依據前述之研究背景、動機及研究目的,
以楠梓加工區電子製造業的 W 公司之需求量為 例,首先針對相關預測定義與分類、類神經網路與 粒子群演算法之相關文獻,予以歸納與整理,並介 紹軟式 IC 載板之流程與應用,接著以灰關聯分析 遴選出所要使用的預測因子,再以粒子群演算法與 類神經網路結合,並以實際案例測試,與各預測模 式比較其差異性,將結果資料加以彙整並分析,最 後得出結論與建議。本研究之研究流程如圖 1 所示:
圖 1 研究流程圖
案例測試
各類預測方法測試
研究結論與建 測試結果彙整與比較
建立研究主題
探討相關文獻
建立研究架構
預測方法之文獻 預測模式選取與建立
PSO 演算法 倒傳遞類神經網 遴選預測因子
灰關聯分析
二、 文獻探討
Stevenson (1999)則認為優良生產預測通常必 須滿足下列的條件:
1.時間性:優良的預測必須是具有時間性的。例 如:產能不可能日夜變遷,存貨水準也不可能 隨時變動,因此預測是必須具有時間性的。
2.正確性:預測必須講究正確性,預測的使用者 才能正確地執行計畫,並與其他預測方法進行 比較。
3.可靠性:預測必須具有可靠性。若預測在某一 段時間所得到的效果相當良好,而在另一段時 間的效果又相當拙劣,就會造成預測使用者的 困擾。
4.有意義的計量單位:計量單位因為不同的使用 者而有所不同,因此必須選擇一個最具代表 性、有意義的單位進行預測,否則預測將不具 任何意義。
5.書面化:預測必須書面化,以提供給不同部門 的人員參考。
6.容易了解、易於使用:預測方法應都朝向此目 標前進。預測分析者往往因為預測的方法太過 複雜、不易了解,即使該方法可以提供相當不 錯的預測準確度,亦會對於該方法缺乏使用的 興趣而放棄使用。
傳統的預測方法有:定性分析法(如:德爾菲 法、市場研究法、小組意見法…等),時間序列分析 (如:指數平滑法、自迴歸模式、移動平均模式…
等),計量經濟模型(探討外在經濟變數間的關係,
以有關數據來陳述事實,並以統計理論的方法來測 量或是檢定某些變數間的關係,進而提供分析的依 據)。上述三種傳統預測方法雖已經過多年研究,但 仍存在不少缺點。
潘曉葦(1999)指出,合併法已是未來需求預測 模式的方向,在研究中將兩種不同的預測方法合 併,利用最小平方法給予不同的權重,會比使用單 一種的預測方式降低許多誤差。湯健文(2003)提到 以統計學的原理作為預測基礎的時間數列和因果 關係分析法模式,在面對許多複雜問題或非線性系 統以及變數間存在交互作用的關係時,明顯有所不 足。因此,許多的學者開始傾向發展人工智慧型的 預測方法來解決這些問題。
郭秀敏(2002)將預測因子分為需求因子、總體 經濟因子以及工業生產因子三個層面,共 15 個因 子,以類神經網路結合模糊理論,進行印刷電路板 之生產預測,並比較灰色預測、多元迴歸分析與傳 統倒傳遞類神經網路,等三種方法之準確性,結果 顯示模糊類神經網路之預測誤差與準確度皆優於 其他三種預測方法。
類神經網路(Artificial Neural Network),是一套 資訊處理系統,此系統是仿造生物的神經網路所建
構,主要特色在於有「學習」的能力,50 年來,不 但發展出各式各樣的網路模型,同時由於其絕佳的 高速計算能力、高度記憶能力、學習能力和容錯能 力,因此被大量的應用在不同的領域中,如最佳化 問題、辨識/分類問題、預測問題、評估、診斷/決 策、聯想、近似、歸納推演…等(張斐章、張麗秋,
2003);而在各領域的應用情形如表 1 所示:
表 1 類神經網路於各領域應用情形
工業應用 控制器設計與系統鑑別、產品品質分析、機電設備診 斷、化工程序診斷、實驗數據模型建立、工程分析與 設計
商業應用 股票、債券、期貨…等投資預測、商業信用評估
管理應用 策略管理、時程管理、品質管理
資訊應用 影像、文字、語音辨識系統、訊號分類、濾波
地球科學 大氣預測、地震分析、土石流預警、降雨預報、乾旱 洪水預報、水質預報
醫學應用 醫學影像辨識、輔助系統控制、基因分類、醫學診斷
楊東翰(2003)以基因演算法結合類神經網路提 出一套預測工具,以平均絕對百分比誤差、平均絕 對偏差量與偏差成本作為比較標的,與溫式指數平 滑法、迴歸分析、倒傳遞類神經網路進行比較。實 驗結果顯示,基因演算法結合類神經網路較傳統的 統計模型與倒傳遞類神經網路預測準確,可以提供 相關產業進行需求預測時之參考。
粒子群演算法(Particle Swarm Optimization Algorithm;PSO)的觀念是源自於生物社會學家對鳥 群捕食行為之研究,是一種基於群體智能(Swarm Intelligence)方法的演化計算技術,於 1995 年由 Eberhart 和 Kennedy 提出,基於這些鳥群在空間中 為了找尋食物,會以某種規律的路徑移動的原理,
將特定空間中的鳥群當作 “粒子”(Particle), Kennedy and Eberhart (2001)提到每個粒子在空間移 動時都有一個由目標函數所映射的適應值。另外,
每個粒子還有一個速度來決定他們移動的方向與 距離,一群粒子靠著個體本身的成功經驗與目前族 群中最佳粒子的腳步在解的空間中飛行。PSO 中的 每個粒子獨立搜尋,當個體遇到函數最佳值時,其 最佳搜尋變數將被記錄在個體記憶中,亦即每個粒 子都擁有本身最佳的搜尋變數記憶,依照此個體最 佳搜尋變數記憶去修正下一次的搜尋方向,此稱為 粒子的認知模式(Cognition-only Model)。
高嘉和(2005)提出並發展訓練新的類神經網路 訓練模式,在研究的案例中利用改良式粒子群演算 法訓練並尋找類神經網路最佳的連結權重。本研究
提出一個處理類神經網路模式處於過早收斂的情 形下,重新產生粒子點搜尋的演算機制,以突變概 念發展擁有跳脫區域最佳解能力以及達到全域最 佳解的類神經網路模式。本研究所提出的改良式粒 子群演算法,經由一連串的實驗求得其可行性與有 效性,並且在實驗中獲得預期不錯的結果。
三、 研究方法
影響軟式 IC 載板需求數量之因素相當多,除 了全球景氣循環的影響外,尚需考慮終端產品的需 求、國家的經濟環境與產業間的生產型態等狀況。
依據文獻探討所歸納,大部分預測的考量因素可分 為總體經濟變數,下游產品需求影響的因子,與特 定產業較相關的一些指數以及以過去歷史資料為 考量的時間序列因子…等。因此,在本研究中將所 有的因素分為三大層面,總體經濟層面、下游產業 需求層與相關產業生產層面。
本研究所考量的是楠梓加工區內 W 公司 2003 年 1 月至 2006 年 12 月的實際需求資料,其中 2003 年 1 月到 2005 年 12 為網路訓練資料,2006 年 1 月 到 12 月則為測試資料。月銷售金額與總生產數量 是一般軟式 IC 載板產業常用的衡量生產狀況的單 位,但在本研究中,由於著重在於生產數量的預 測,而非金額的多寡,因此,月銷售金額將不列入 考量。故本研究將會對於每月之總生產數量進行預 測。
在這三大層面中各有 5 個因子:
1.總體經濟層面:國民生產毛額、失業率、消費 者物價指數、出口貿易值與進口貿易值。
2.下游產業需求層面:桌上型電腦、筆記型電腦、
監視器、手機與印刷電路板的銷售量。
3.相關產業需求層面:製造業生產指數、製造業 銷售量指數、電腦通信及視聽電子產品生產指 數、電子零組件生產指數、構裝 IC 產量。
本研究所使用粒子群演算法整合類神經網路 (以下稱PSONN)的訓練模式,如圖2所示;將類神經 網路中以亂數產生的初始權重,改以粒子群演算法 計算與更新其權重,主要步驟如下:
1.設定PSONN網路參數,包括:輸入變數個數、
隱藏層個數、輸出個數、隨機產生的粒子個 數、訓練樣本的陣列大小與訓練次數。
2.隨機產生粒子的初始位置與速度。
3.評估粒子的適應函數值,並記錄個體最佳記憶 與群體最佳記憶。
4.更新粒子位置與速度。
5.重複步驟2~4,直到滿足終止條件。
6.計算隱藏層與輸出層之輸出,並計算目標函數 值。
7.重複步驟5~6,直到滿足網路停止原則。
圖 2 粒子群演算法整合類神經網路訓練架構圖 為評估各個模型預測的準確度與績效表現,本 研究採取以下兩項評估指標,分別為平均絕對百分 比誤差與平均絕對偏差。
四、 實證分析
類神經網路的輸入因子數目不宜過多,以避免 影響網路的學習(葉怡成,2001)。ㄧ般而言,類神 經網路的輸入因子應以 8 個為上限。故本研究先以 灰關聯分析遴選灰關聯度在 0.7 以上,共 8 個因子,
如表 2 所示。
表 2 各項因子之灰關聯度彙整表
將灰關聯度大於 0.7 的因子之訓練範例進行迴 歸分析其關係式與各因子迴歸係數如表 3 所示。
記錄粒子個體最佳記憶 及群體最佳記憶 隨機產生各粒子的初始
位置與速度
評估粒子的適應函數值
更新粒子速度與位置
是 是
否
以亂數產生初始權 重與偏權值
計算隱藏層與輸出 層輸出
網路停止 設定PSONN網路參
數
計算目標函數
是 否 否
MSE < 0.001 或訓 練次數到達 40,000
次 是否仍有訓練樣本
滿足終止條件
三大層面 因子 灰關聯度 灰關聯度大於0.7
失業率 0.80943 *
消費者物價指數 0.76833 *
國民生產毛額 0.72367 *
進口金額 0.63809
出口金額 0.62293
電腦通信及視聽電子產品生產指數 0.80682 *
製造業銷售量指數 0.75455 *
製造業生產指數 0.74671 *
構裝IC產量 0.66503
電子零組件生產指數 0.63441
桌上型電腦產量 0.72646 *
手機產量 0.69617 *
筆記型電腦產量 0.66627
監視器產量 0.64941
印刷電路板產量 0.59981 總體經濟
相關產業需求
下游產業需求
表 3 各項因子迴歸係數彙整表
將 2006 年 1 月到 12 月,將 8 項輸入因子資料 輸入迴歸模型中所得到的預測值與實際值比較如 圖 3 所示。
迴歸模型預測值與實際值比較圖
0 2,000 4,000 6,000 8,000 10,000 12,000 14,000 16,000
1 2 3 4 5 6 7 8 9 10 11 12
月份 出貨量(K pcs)
迴歸模型預測值 實際值
圖 3 迴歸模型預測與實際值之比較圖 使用Excel內建函數計算並彙整迴歸模型預測 值與實際值之MAPE與MAD,如表4所示:
表 4 迴歸模型預測值與實際值 MAPE/MAD 之彙整 表
本研究之倒傳遞類神經網路預測模型是使用 Microsoft Visal C++程式語言所架設而成,所採用修 正權重的方式為”最陡坡降法”,其部份參數已調整 至最佳狀態,隱藏層層數=1,因此須調整的參數 有:隱藏層單元數與學習速率,由於需調整之參數 並不多,因此,將隱藏層單元數設為 6 個水準,學 習速率設為 5 個水準,共 30 個測試,訓練次數為
40,000 次。將測試結果彙整如表 5 所示,最佳參數 為:隱藏層單元數=15,學習速率=0.9。
表 5 倒傳遞類神經網路最佳參數彙整表
將測試範例輸入倒傳遞類神經網路配合最佳 參數(隱藏層單元數目=15,學習速率=0.9)進行預 測,將實際值與預測值進行比較,如圖 5 所示。
倒傳遞類神經網路預測值與實際值比較圖
0 2,000 4,000 6,000 8,000 10,000 12,000 14,000
1 2 3 4 5 6 7 8 9 10 11 12
月份 出貨量(K pcs)
倒傳遞類神經網路預測值 實際值
圖 5 倒傳遞類神經網路預測值與實際值比較圖 使用 Excel 內建函數計算並彙整倒傳遞類神經 網路預測值與實際值之 MAPE 與 MAD,如表 6 所 示:
表 6 倒傳遞類神經網路預測值與實際值 MAPE/MAD 之彙整表
由於所使用的PSONN程式,是引用(高嘉和,
2005) 架 設 的 程 式 與 參 數 , 設 定 Initial Range=[20,-20],Max Velocity=5,隱藏層層數=1。
因此,僅需針對隱藏層單元數進行探討。一般而 言,隱藏層單元數之最大值=輸入單元數*2,而最 小值=輸入單元數÷2,本研究將隱藏層單元數分為6 個水準進行測試,分別訓練40,000次,將測試計劃 與MSE結果列出如表7,隱藏層單元數=7,有最低 之MSE。
X1 失業率 a1 3189986.52 X2 消費者物價指數 a2 -1497128.07 X3 國民生產毛額 a3 208.53 X4 電腦通信及視聽電子產品生產指數 a4 -146597.84 X5 製造業銷售量指數 a5 785906.20 X6 製造業生產指數 a6 -526405.39
X7 桌上型電腦產量 a7 5.17
X8 手機產量 a8 3157.54
- - b 124091458.48
迴歸係數 輸入因子
Y=a1X1+a2X2+a3X3+a4X4+a5X5+a6X6+a7X7+a8X8+b 迴歸模型
學習速率 隱藏層處理
單元數目 測試
編號 MSE 測試
編號 MSE 測試
編號 MSE 測試
編號 MSE 測試
編號 MSE 5 a1 0.00188 a7 0.00224 a13 0.00372 a19 0.0074 a25 0.01039 7 a2 0.00183 a8 0.00219 a14 0.00303 a20 0.00641 a26 0.00996 9 a3 0.00167 a9 0.00206 a15 0.00292 a21 0.00555 a27 0.00956 11 a4 0.00176 a10 0.00228 a16 0.00338 a22 0.00643 a28 0.00955 13 a5 0.00172 a11 0.00236 a17 0.00406 a23 0.008 a29 0.00986 15 a6 0.00151 a12 0.00193 a18 0.00286 a24 0.00639 a30 0.00921
0.9 0.7 0.5 0.3 0.1
月份 迴歸模型預測值 實際值 MAPE MAD
1 9,314,255 10,549,756 11.7% 1,235,501 2 7,328,275 8,723,660 13.9% 1,315,443 3 14,082,967 12,640,833 13.0% 919,193 4 10,991,177 9,245,564 14.5% 666,201 5 7,612,750 9,758,898 16.0% 562,470 6 8,100,100 5,330,181 22.0% 555,398 7 4,435,290 7,915,167 25.1% 576,468 8 8,330,386 5,437,247 28.6% 433,701 9 6,794,057 4,940,669 29.6% 254,121 10 7,814,541 3,508,013 38.9% 456,065 11 6,494,506 4,561,294 39.3% 217,207 12 1,003,757 2,608,073 41.1% 151,794 294% 7,343,562 24.5% 611,963 11.0% 374,123 41.1% 1,315,443 11.7% 151,794 最大值
最小值 加總 平均預測誤差
標準差
月份 BPN預測值 實際值 MAPE MAD
1 9,894,517 10,549,756 6.2% 655,239 2 9,564,239 8,723,660 7.9% 747,909 3 11,021,022 12,640,833 9.6% 789,240 4 10,492,318 9,245,564 10.5% 508,998 5 8,031,114 9,758,898 12.0% 447,356 6 6,569,746 5,330,181 13.9% 281,154 7 8,589,746 7,915,167 13.1% 136,533 8 4,577,213 5,437,247 13.4% 124,571 9 4,024,996 4,940,669 14.0% 115,583 10 4,652,400 3,508,013 15.9% 125,997 11 5,474,867 4,561,294 16.2% 94,506 12 3,338,262 2,608,073 17.2% 68,725 150% 4,095,810 12.5% 341,318 3.4% 274,514 17.2% 789,240 6.2% 68,725 最大值
最小值 加總 平均預測誤差
標準差
表 7 PSONN 最佳參數彙整表
將測試範例之最佳組合輸入 PSONN,並載入 最佳參數之權重(隱藏層數目=7)進行預測,將預測 值與實際值進行比較,如圖 6 所示。
PSONN預測值與實際值比較圖
0 2,000 4,000 6,000 8,000 10,000 12,000 14,000
1 2 3 4 5 6 7 8 9 10 11 12
月份 出貨量(K pcs)
PSONN預測值 實際值
圖 6 PSONN 預測值與實際值比較圖 使用 Excel 內建函數計算並彙整 PSONN 預測 值與實際值之 MAPE 與 MAD,如表 8 所示:
表 8 PSONN 預測值與實際值 MAPE/MAD 之彙整表
由於 PSONN 之 MSE 較倒傳遞類神經網路高,
其預測誤差也同樣地提升,但 PSONN 之收斂速度 明顯優於倒傳遞類神經網路。因此,為了在預測的 準確性與速度間取得平衡,本研究將 PSONN 訓練 1,000 次之訓練權重載入倒傳遞類神經網路進行訓 練,所得到之權重再載入倒傳遞類神經網路進行預 測,其測試流程如圖 7 所示,以下稱此法為”PSONN 與 BPN 複合方式”:
圖 7 PSONN 與倒傳遞類神經網路複合方式預測流 程圖
依圖 7 進行預測,與原預測模型之 MSE 比較,
發現訓練一開始 MSE 值已降至 0.005,但仍繼續下 降,雖然訓練中止時,MSE 較倒傳遞類神經網路略 高,但與 PSONN 相較之下已相當低,如圖 8 所示:
各種類神經預測模型MSE比較圖
0 0.01 0.02 0.03 0.04 0.05 0.06 0.07 0.08
1 4020 8020 12020 16020 20020 24020 28020 32020 36020 訓練次數
MSE
PSONN+BPN BPN PSONN
圖 8 各種類神經預測模型 MSE 比較圖 將PSONN+BPN與BPN之MSE進行比較,發現 PSONN+BPN之複合方式之MSE在4,600次最與 BPN之MSE相同,而在訓練4,600次之後,其MSE 之差異僅在0.002左右,如表9所示。
表9 MSE差異比較表
訓練3000次 MSE
訓練4000次 MSE
訓練4600次 MSE
訓練5000次 MSE
訓練6000次 MSE
訓練10000次 MSE
訓練20000次 MSE PSONN+BPN
(a) 0.00407 0.00389 0.00381 0.00377 0.00369 0.0035 0.00323 BPN
(b) 0.00728 0.00489 0.0038 0.00332 0.00257 0.00174 0.00113 差異
(c=│a-b│) 0.00321 0.001 0.00001 0.00045 0.00112 0.00176 0.0021
由表 9 得知,此 PSONN+BPN 複合方式之 MSE 與 BPN 之 MSE 非常接近。因此,將測試範例與訓 練權重以 PSONN 與倒傳遞類神經網路(BPN)複合 方式進行預測,其預測值與實際值比較如圖 9 所示:
PSONN與BPN複合方式之預測值與實際值比較圖
0 2,000 4,000 6,000 8,000 10,000 12,000 14,000
1 2 3 4 5 6 7 8 9 10 11 12
月份 出貨量(K pcs)
PSONN與BPN複合預測方式 實際值
圖 9 PSONN 與 BPN 複合方式之預測值與實際值比較圖 使用 Excel 內建函數計算並彙整 PSONN 與 BPN 複合方式之預測值與實際值之 MAPE 與 MAD,如表 10
隱藏層單元數目 測試編號 MSE 5 p1 0.01791 7 p2 0.01777 9 p3 0.01808 11 p4 0.01819 13 p5 0.01827 15 p6 0.01822
PSONN訓練 隱藏層數目=7 訓練次數=1,000
產生 PSONN 之權重
倒傳遞類神經網路之訓練 隱藏層數目=7 訓練次數=40,000
產生權重 載入倒傳遞類神
經網路進行測試
月份 預測值 實際值 MAPE MAD
1 9419675.633 10,549,756 10.7% 1,130,080 2 9811265.426 8,723,660 11.6% 1,108,843 3 10440132.95 12,640,833 13.5% 1,103,181 4 9437473.149 9,245,564 10.7% 323,773 5 9435466.237 9,758,898 9.2% 129,441 6 7736092.828 5,330,181 15.2% 422,559 7 9428174.504 7,915,167 15.7% 276,509 8 8438929.659 5,437,247 20.7% 409,774 9 7437706.227 4,940,669 24.0% 322,979 10 6437319.326 3,508,013 29.9% 325,229 11 8436150.999 4,561,294 34.9% 381,826 12 5420098.328 2,608,073 41.0% 266,154 237.2% 6,200,348 19.8% 516,696 10.5% 368,185 41.0% 1,130,080 9.2% 129,441 最大值
最小值 加總 平均預測誤差
標準差
表 10 PSONN 與 BPN 複合預測方式之 MAPE/MAD 比較表
將迴歸模型、倒傳遞類神經網路、PSONN、
PSONN與BPN複合方式與個案公司之經驗預測值 彙整進行比較,如圖10所示,除了個案公司之經驗 與測值之外,其於預測模型皆與實際值有類似之趨 勢,表示各預測模型之預測能力較個案公司之經驗 預測值準確。而在各種預測模型中,與實際值線型 最接近的預測模型為倒傳遞類神經網路預測模型。
各種預測模型預測值與實際值比較圖
0 5000 10000 15000 20000 25000
1 2 3 4 5 6 7 8 9 10 11 12
月份 生產量(K pcs)
PSONN預測 BPN預測
PSONN與BPN複合預測方法 迴歸分析預測值
W公司經驗值 實際值
圖11各種預測模型預測值與實際值之比較圖 再將各種預測模型之 MAPE 與 MAD 彙整比較,
如表 11 所示,發現在 MAPE 部分除了 PSONN 與 BPN 複合方法外,其餘各種預測模式之誤差有逐月 上升之現象,表示該預測模型對於長期預測而言較 為穩定,而預測誤差最小的為倒傳遞類神經網路預 測模型,標準差最小的是 PSONN 與 BPN 複合預測 方法,表示該預測方法之穩定度較佳。在 MAD 部 分,同樣是倒傳遞類神經網路預測模型為最低,顯 示該預測方法最接近實際需求。
表 11 各類預測模型之 MAPE/MAD 彙整表
PSONN BPN PSONN+BPN 迴歸模型 PSONN BPN PSONN+BPN 迴歸模型 1 10.7% 6.2% 9.2% 11.7% 1,130,080 655,239 969,920 1,235,501 2 11.6% 7.9% 9.1% 13.9% 1,108,843 747,909 878,763 1,315,443 3 13.5% 9.6% 10.3% 13.0% 1,103,181 789,240 826,488 919,193 4 10.7% 10.5% 9.9% 14.5% 323,773 508,998 404,599 666,201 5 9.2% 12.0% 10.6% 16.0% 129,441 447,356 345,606 562,470 6 15.2% 13.9% 14.2% 22.0% 422,559 281,154 341,920 555,398 7 15.7% 13.1% 14.8% 25.1% 276,509 136,533 261,273 576,468 8 20.7% 13.4% 15.0% 28.6% 409,774 124,571 145,369 433,701 9 24.0% 14.0% 15.0% 29.6% 322,979 115,583 94,259 254,121 10 29.9% 15.9% 16.1% 38.9% 325,229 125,997 102,357 456,065 11 34.9% 16.2% 16.6% 39.3% 381,826 94,506 97,929 217,207 12 41.0% 17.2% 16.7% 41.1% 266,154 68,725 47,496 151,794 加總 237.2% * 149.9 157.5% 293.8% 6,200,348 * 4,095,810 4,515,978 7,343,562 平均預測誤差 19.8% * 12.5% 13.1% 24.5% 516,696 * 341,318 376,331 611,963 標準差 10.5% 3.4% * 3.0% 11.0% 368,185 * 274,514 332,648 374,123 最大值 41.0% 17.2% * 16.7% 41.1% 1,130,080 * 789,240 969,920 1,315,443 最小值 9.2% * 6.2% 9.1% 11.7% 129,441 68,725 * 47,496 151,794
MAPE MAD
月份
如圖12至圖14所示,各種預測模型之準確度、
穩定度與偏差量之排序如下:
1.準確度(MAPE平均值):倒傳遞類神經網路
>PSONN與倒傳遞類神經網路複合方法
>PSONN>迴歸模型(優至劣排序)
2.穩定度(MAEP標準差):倒傳遞類神經網路
>PSONN與倒傳遞類神經網路複合方法
>PSONN>迴歸模型(優至劣排序)
3.MAD:倒傳遞類神經網路>PSONN 與倒傳遞類 神經網路複合方法>PSONN>迴歸模型(優至劣 排序)
由以上結果可歸納以下幾點:
1.使用類神經網路的預測模型,無論是倒傳遞類 神經網路、POSNN、PSONN與BPN複合方式,
無論在預測誤差之平均值或標準差皆優於傳 統之迴歸模型或是以經驗值預測。因此,使用 類神經網路所架構之預測模型,其準確度優於 傳統之預測方式。
2.觀察個案公司2006年之生產量發現,該數據雖 然呈現下滑的趨勢,但並無季節性之趨勢,此 狀況對於迴歸模型或是個案公司以經驗值之 預測而言,較易造成其預測誤差之提升。
3.由於經灰關聯分析所得到的各項因子與生產量 之間並不屬於線性關係,因此,使用此些因子 進行預測時,以處理非線性關係較佳之倒傳遞 類神經網路進行預測,其誤差度較優於僅能考 慮線性關係的迴歸模型。
4.倒傳遞類神經網路之預測模型本身即具有相當 強大之學習能力,雖然整合粒子群演算法後,
能有效降低預測時間,但其預測誤差仍較倒傳 遞類神經網路高。
5.應用粒子群演算法計算倒傳遞類神網路之權 重,雖然可有較快收歛的特性,但其預測誤差 較大。此外,以 PSONN 與 BPN 複合方式進行 預測,一方面可快速降低訓練時間,在預測誤 差方面也與倒傳遞類神經網路相去不遠。因 此,在同時考量訓練時間與預測誤差下,
PSONN 與 BPN 複合方式是一個相當適合的預 測模型。
月份 預測值 實際值 MAPE MAD
1 11,519,676 10,549,756 9.2% 969,920 2 9,511,265 8,723,660 9.1% 878,763 3 11,040,133 12,640,833 10.3% 826,488 4 10,037,473 9,245,564 9.9% 404,599 5 8,435,466 9,758,898 10.6% 345,606 6 7,036,093 5,330,181 14.2% 341,920 7 6,428,175 7,915,167 14.8% 261,273 8 6,338,930 5,437,247 15.0% 145,369 9 4,237,706 4,940,669 15.0% 94,259 10 4,437,319 3,508,013 16.1% 102,357 11 5,536,151 4,561,294 16.6% 97,929 12 3,080,098 2,608,073 16.7% 47,496 157.5% 4,515,978 13.1% 376,331 3.0% 332,648 16.7% 969,920 9.1% 47,496 最大值
最小值 加總 平均預測誤差
標準差
圖 12 各類預測模型之 MAPE 比較圖
圖 13 各類預測模型之 MAPE 標準差比較圖
圖 14 各類預測模型之 MAD 比較圖
五、 結論
生產預測對於製造業而言是相當重要的運籌 環節之ㄧ,其準確度除了會影響各種關鍵物料的準 備之外,也直接影響到該公司的成本與信譽。IC載 板產業雖然不是國內前幾大的產業,但是2006年的 產值也高達710億,全球市佔率約26%,為居全球第 二大,亦市相當重要的產業之ㄧ,若能以科學的預 測方式提昇預測的準確度與預測速度,那麼,在競 爭激烈、原物料價格提升、供貨時間縮短的情況 下,可以讓決策管理人員有效地掌握與運用企業整 體資源,提昇企業競爭力,進而擴展在國際市場中 的發展空間。
本研究先以灰關聯分析在眾多因子中遴選關聯 度較高之因子,再利用粒子群演算法結合類神經網 路,進行個案公司每月 IC 載板生產量之中短期預 測,以提供規劃者進行規劃相關生產活動與成本之 控制。結果顯示,雖然本研究所提出之”PSONN預 測模型”未能達到預測誤差最小之目標,但藉著其快 速的預測速度,結合預測誤差最小的倒傳遞類神經 網路所衍伸出”PSONN與 BPN 複合方式”,不但較 傳統之迴歸模型或是該公司所使用之德爾菲法準 確度高,且預測速度也相當快,其準確度僅低於倒 傳遞類神經網路 0.6%,建議在考量預測速度與預測
誤差之雙重狀況下,可將”PSONN與 BPN 複合方 式”做為該公司未來預測之模式,可減少因為預測誤 差過高造成之成本損失,也降低了預測所需的時間 與人力。
本研究在研究過程中,由於時間與能力的限 制,未能將所遭遇到的問題完整的解決,或是提供 較佳的處理過程,讓本研究更臻完美。因此,在此 提出相關的研究建議,以供後續研究者一些參考與 啟發。
1.迴歸模型多半是針對線性問題進行預測,本 研究在分析時亦是將實證範例視為線性問題,但在 本研究之實例中所呈現的是非線性的關係,因此產 生預測誤差偏高之結果。若是將迴歸預測模型改為 非線性迴歸分析進行預測,應可提迴歸預測模型的 準確度。
2.本研究以粒子群演算法計算倒傳遞類神經網 路之權重,結果顯示,此法較倒傳遞類神經網路之 權重計算方式差,故建議可利用各類不同之演算法 取代粒子群演算法之地位,或許會有更低之預測誤 差。
3.在實證分析中進行預測時所發現之”PSONN 與BPN複合方式”,並未以Microsoft Visal C++程式 語言架設,而是以現有程式進行較複雜之預測流 程,為方便預測作業,可將此預測流程建構成單一 程式,以減少預測作業之複雜度。
4.可將”PSONN與 BPN 複合方式”應用在其他 產業之生產預測,或是各類數據預測中。
六、 參考文獻
[1] 高嘉和,應用改良式粒子群演算法於智慧神經網 路模式之發展,私立義守大學工業工程與管理學 系碩士班碩士學位論文,2005。
[2] 郭秀敏,模糊倒傳遞網路於印刷電路板生產預測 之應用,私立元智大學工業工程與管理研究所碩 士學位論文,2004。
[3] 湯建文,類神經網路於因果關係模型與時間數列 模型之應用,私立中華大學土木工程學系研究所 碩士學位論文,2003。
[4] 張斐章、張麗秋,類神經網路(初版),台北:東 華書局,2003。
[5] 葉怡成,應用類神經網路,台北:儒林圖書公司,
2001。
[6] 潘曉葦,需求預測模式之建立,國立台灣科技大 學資訊管理系研究所碩士學位論文,1999。
[7] 楊東翰,整合基因演算法及類神經網路於印刷電 路板生產預測之研究,私立元智大學工程與管理 研究所碩士學位論文,2003。
[8] Kennedy, J. and Eberhart, R.C. , Swarm Intelligence. Morgan KaufmannPress,2001.
[9] Stevenson, W.J. , Production/Operation Management (6th ed.), McGraw Hill,1999.
各類預測模型之MAPE比較圖
13.1%
19.8%
24.5%
12.5%
0.0%
5.0%
10.0%
15.0%
20.0%
25.0%
30.0%
BPN PSONN與BPN複合方式 PSONN 迴歸模型
MAPE
各類預測模型之MAPE標準差比較圖
3.4%
10.5% 11.0%
3.0%
0.0%
2.0%
4.0%
6.0%
8.0%
10.0%
12.0%
14.0%
PSONN與BPN複合方式 BPN PSONN 迴歸模型
MAPE標準差
各類預測模型之MAD比較圖
376,331
516,696
611,963
341,318
0 100,000 200,000 300,000 400,000 500,000 600,000 700,000 800,000
BPN PSONN與BPN複合方式 PSONN 迴歸模型
MAD