• 沒有找到結果。

中 華 大 學 碩 士 論 文

N/A
N/A
Protected

Academic year: 2022

Share "中 華 大 學 碩 士 論 文"

Copied!
108
0
0

加載中.... (立即查看全文)

全文

(1)

中 華 大 學 碩 士 論 文

同步加速器光源電子束引出效率之優化 Optimization of the electron beam extraction

efficiency in a booster for synchrotron light source

系 所 別:資訊管理學系碩士班 學號姓名:M09710038 陳鴻樵 指導教授:邱登裕 博士

中 華 民 國 九 十 九 年 八 月

(2)

中文摘要

同步加速器光源是二十世紀以來科技研究最重要的光源之一,已 廣 泛 應 用 在 各 種基礎與應用科學研究。在 國 家 同步輻射加速器中,增能環電子束引出效率的高低,

是確保整個加速器運轉之成效關鍵。而影響電子束引出效率之增能環參數眾多,且各 參數之間可能具有交互作用,因此如何調整參數,以優化電子束引出效率,是當前一 項重要課題。

本論文採用反應曲面法理論來優化電子束引出效率。首先以類神經網路建構一個 以增能環參數為自變數的電子束引出效率的預測模型。接著以此預測模型建立一個優 化模型,即以電子束引出效率為目標函數,以增能環參數為設計變數,以最佳化方法 尋找能最大化電子束引出效率的增能環參數方案。最後,以優化方案進行實證實驗。

研究結果顯示,具有重要影響的參數有三個,分別是偏踢磁鐵的電壓設定值、緩 衝磁鐵-2 和緩衝磁鐵-3 的電流設定值。最佳化方法得到增能環參數方案的實證實驗 顯示,增能環電子束引出效率可從目前平均約 40%提升到平均約 73%。再對前述三 個重要影響參數做微調後,電子束引出效率還可提升至平均約 83%。這顯示反應曲 面法理論產生的參數方案對提升加速器的運轉品質具有莫大的助益。

關鍵詞:同 步 加 速 器 光 源 、反應曲面法、類神經網路、最佳化方法

(3)

ABSTRACT

Synchrotron light source has become one of the most powerful research tools in the past decades not only for fundamental science but for technology application as well. In order to maintain a stable routine operation of the Taiwan Light Source at National Synchrotron Radiation Research Center, the electron beam extraction efficiency at the booster synchrotron plays an important role in that.

The Response Surface Methodology(RSM), is used to study the optimization process of the electron beam extraction efficiency. A study model was constructed based on the Artificial Neural Network(ANN) theory by using selected beam extraction tuning knobs as the variables. An optimization procedure is developed by taking extraction efficiency as the objective function and the selected beam tuning knobs as the variables. Furthermore, this theoretical model and optimization procedure have been put into practice in verifying how effectively the model can accomplish.

The study results indicate that, among all possible tuning knobs under consideration, the effective variables are the extraction kicker voltage, bumper-2, and bumper-3 currents.

By properly applying the constructed optimization procedure for electron beam extraction study, the efficiency has been improved, on average, from 40% to 73%. With add-on delicate manual adjustment, the efficiency can be further raised to 83%. It is concluded that using the RSM to find tuning knobs has proven to be effective and can play an important role in optimizing the operation quality of Taiwan Light Source.

Keywords: Synchrotron Light Source, Response Surface Methodology, Artificial Neural Network, Optimization.

(4)

誌謝辭

承蒙指導老師邱登裕博士這兩年來的指導與照顧,使學生在課程研究上,受益 匪淺,此外在老師悉心訓練培養下,亦大幅提昇個人應有的獨立思考與解決問題的能 力,相信在未來的工作學習上將是受用無窮。

本論文的完成還要感謝資管系葉怡成博士及王貞淑博士在研究上熱心的協助與 指導,同時也要感謝兩位以及高雄應用科技大學陳聰毅博士、國家同步輻射研究中心 羅國輝博士,於口詴期間給予的建議與指教,及時匡正論文疏失,俾之能使本論文更 臻完善。此外,亦十分感謝資管系所有老師的鼓勵與指導,讓我在基礎知識的建立上 更為紮實,研究過程得以達到事半功倍之效。

兩年的研究生涯,很榮幸有子邦、俊言、小青、典村學長的指導,在學習上給 我很大的幫助;還有一路跟我相互扶持的聖峻、凱鴻,也照顧我良多,這樣的情誼我 將永難忘記。另外,國家同步輻射研究中心的所有同仁,很高興與你們齊聚工作,謝 謝你們在這段時間所給予我的協助與配合。在我沮喪之時總是給予問候支持,讓我倍 感溫馨,謝謝你們!

最後謹將此榮耀獻給我最摯愛的家人,謝謝你們一直以來的付出與包容,默默 地在一旁支持著我,才能使我順利的完成學業。願將這份喜悅永遠與你們分享。

陳鴻樵 謹誌 民國 99 年 7 月新竹

(5)

目錄

中文摘要 ...i

ABSTRACT ... ii

誌謝辭 ... iii

目錄 ...iv

表目錄 ...vi

圖目錄 ... vii

第 1 章 緒論... 1

1.1 研究背景與動機... 1

1.2 研究目的... 2

1.3 研究流程... 3

1.4 論文架構... 4

第 2 章 文獻探討... 5

2.1 反應曲面法... 5

2.2 類神經網路... 8

第 3 章 研究方法... 11

3.1 研究架構... 11

3.2 資料收集... 13

3.3 類神經網路設計... 13

3.4 實驗分析... 15

3.5 參數優化... 18

第 4 章 實驗與分析 ... 20

4.1 品質影響因子與實驗資料收集... 20

4.2 實驗過程... 29

4.3 實驗分析... 32

4.4 參數優化... 36

4.5 實證實驗與比較... 40

第 5 章 結論與後續研究方向 ... 50

(6)

5.1 結論... 50

5.2 後續研究方向... 51

參考文獻 ... 53

附錄 A 實驗數據(460 筆) ... 55

附錄 B 類神經網路的參考實驗 ... 64

B.1 方法建構 ... 64

B.2 方法分析 ... 66

B.3 參數優化 ... 68

附錄 C 同步加速器光源介紹 ... 70

C.1 同步加速器光源簡介 ... 70

C.2 同步加速器光源的應用科學 ... 73

C.3 同步輻射加速器 ... 76

C.4 增能環電子束引出系統 ... 80

附錄 D 實驗分析(迴歸分析) ... 83

D.1 方法建構………... ………..84

D.2 方法分析………..89

D.3 參數優化 ... 94

附錄 E MATLAB 演算法 ... 96

(7)

表目錄

表 2-1 反應曲面法之相關研究文獻 ... 7

表 2-2 類神經網路之相關研究文獻 ... 10

表 4-1 品質因子 ... 21

表 4-2 增能環電子束引出效率統計 ... 22

表 4-3 交叉驗證法的誤差 ... 32

表 4-4 品質因子權值 ... 35

表 4-5 品質因子的上下限 ... 37

表 4-6 類神經優化品質因子的最佳解 ... 40

表 4-7 調整後品質因子的最佳解 ... 42

表 4-8 品質因子的最佳解 ... 47

表 B-1 交叉驗證法的誤差 ... 66

表 B-2 迥歸分析品質因子影響 ... 66

表 B-3 參數的最佳解 ... 69

表 C-1 注射器規格 ... 77

表 C-2 儲存環規格 ... 78

表 D-1 實驗品質因子表 ... 84

表 D-2 迴歸分析最佳解 ... 94

(8)

圖目錄

圖 1-1 研究流程圖 ... 3

圖 3-1 研究架構 ... 12

圖 3-2 權值分析圖(通用重要性指標) ... 16

圖 3-3 權值分析圖(線性作用指標) ... 17

圖 3-4 權值分析圖(二次作用指標) ... 17

圖 3-5 帶狀主效果圖 ... 18

圖 4-1 電子束流偵測器位置示意 ... 20

圖 4-2 增能環電子束引出效率統計 ... 23

圖 4-3 X1 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 24

圖 4-4 X2 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 24

圖 4-5 X3 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 25

圖 4-6 X4 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 25

圖 4-7 X5 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 26

圖 4-8 X6 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 26

圖 4-9 X7 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 27

圖 4-10 X8 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 27

圖 4-11 X9 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 28

圖 4-12 X10 十等分下的增能環電子束引出效率平均值(±1 個標準差)... 28

圖 4-13 模型建構參數設定 ... 30

圖 4-14 「交叉驗證法」的誤差收斂曲線 ... 30

圖 4-15 「交叉驗證法」的訓練樣本散佈圖 ... 31

圖 4-16 「交叉驗證法」的測詴樣本散佈圖 ... 32

圖 4-17 Y 重要性直條圖 ... 33

圖 4-18 Y 線性敏感性直條圖 ... 34

圖 4-19 Y 曲率效果圖 ... 34

圖 4-20 帶狀主效果圖 ... 36

圖 4-21 最佳化品質因子的設定 ... 38

(9)

圖 4-22 收斂過程 ... 39

圖 4-23 類神經優化品質因子最佳解設定值 ... 39

圖 4-24 增能環電子束引出效率提升(1) ... 43

圖 4-25 增能環電子束引出效率提升(2) ... 44

圖 4-26 品質因子三種最佳設定值的比較 ... 49

圖 5-1 「台灣光子源」同步加速器基地圖 ... 52

圖 B-1 建構模型參數設定 ... 64

圖 B-2 「交叉驗證法」的誤差收斂曲線 ... 65

圖 B-3 「交叉驗證法」的訓練樣本散佈圖 ... 65

圖 B-4 「交叉驗證法」的測詴樣本散佈圖 ... 65

圖 B-5 重要性直條圖 ... 67

圖 B-6 Y 線性敏感性直條圖 ... 67

圖 B-7 Y 曲率效果圖 ... 67

圖 B-8 帶狀主效果圖 ... 68

圖 C-1 同步輻射光能量示意圖 ... 70

圖 C-2 同步輻射光源光亮度與傳統光源亮度比較 ... 71

圖 C-3 光截面積極小示意圖 ... 72

圖 C-4 磁區(磁化方向)的分佈與幾何形狀示意 ... 73

圖 C-5 光電子顯微術 ... 74

圖 C-6 蛋白質 DNA 相互作用 ... 74

圖 C-7 磁性氧化物的電子軌域之有序現象 ... 75

圖 C-8 硫化物來源示意 ... 76

圖 C-9 國家同步輻射研究中心加速器主要構造 ... 77

圖 C-10 注射器系統 ... 78

圖 C-11 傳輸線 ... 78

圖 C-12 儲存環 ... 79

圖 C-13 光束線 ... 79

圖 C-14 實驗站 ... 79

圖 C-15 緩衝磁鐵 ... 80

(10)

圖 C-16 隔板磁鐵 ... 80

圖 C-17 偏踢磁鐵 ... 81

圖 C-18 增能環電子束引出系統位置 ... 81

圖 C-19 增能環電子束引出作用原理 ... 82

圖 D-1 分析模型中各實驗因子所能解釋的反應變數(因變數)的變異 ... 85

圖 D-2 挑選變異較大的實驗因子與交互作用留在模型之中 ... 85

圖 D-3 變異分析:ANOVA 分析 ... 86

圖 D-4 變異分析 (Part 2):迴歸係數的統計分析 ... 86

圖 D-5 變異分析 (Part 3):列出迴歸公式 ... 87

圖 D-6 殘差常態圖 ... 87

圖 D-7 殘差與預測值關係圖 ... 88

圖 D-8 殘差與實驗順序關係圖 ... 88

圖 D-9 殘差與自變數關係圖 ... 89

圖 D-10 因子效果圖 (所有因子重疊顯示) ... 89

圖 D-11 因子效果圖 (單一因子顯示 C) ... 90

圖 D-11 因子效果圖 (單一因子顯示 E) ... 90

圖 D-11 因子效果圖 (單一因子顯示 G) ... 91

圖 D-12 反應等高線圖 (因子 C 與 E)... 91

圖 D-12 反應等高線圖 (因子 C 與 G) ... 92

圖 D-12 反應等高線圖 (因子 E 與 G) ... 92

圖 D-13 反應曲面圖 (因子 C 與 E)... 93

圖 D-13 反應曲面圖 (因子 C 與 G) ... 93

圖 D-13 反應曲面圖 (因子 E 與 G) ... 94

圖 D-14 迴歸分析最佳解的圖示 ... 95

(11)

第 1 章 緒論

在高科技蓬勃發展的時代,一直有新的科技設備推出,新的科技設備往往具有高 度的研究特性,若沒有最佳的運轉效能,則會失去其應有的作用與價值。例如,半導 體的製程是非常精細且複雜的製程,生產週期非常的漫長,其中牽涉到數百種不同的 製程,以及數百台不同設備機台的運作,而製程控制良窳及設備機台參數的調整等不 同因素,都會影響到半導體最後的生產良率高低。如何最佳化設備參數,達到最佳的 運轉效能,是當前一大重點。

1.1 研究背景與動機

同步加速器光源(Synchrotron Light Source)是二十世紀以來科技研究最重要的 光源之一,已廣泛應用在材料、生物、醫藥、物理、化學、化工、地質、考古、環保、

能源、電子、微機械、奈米元件等基礎與應用科學研究,因而被稱為現代的「科學神 燈」。目前全球供實驗用的同步加速光源設施超過七十座,同步加速器光源設施的建 造已成為各國高科技能力的指標之一。台灣的科學神燈—國家同步輻射研究中心

( National Radiation Research Center, NSRRC)位於新竹科學工業園區內,設立的宗 旨為有效運轉及利用同步加速器光源設施,執行相關尖端基礎與應用研究,提升我國 科學研究之水準及國際地位。本中心的同步加速器光源由國人設計建造完成,於 1993 年 10 月正式啟用,為亞洲第一座完成的第三代同步輻射設施。自 1994 年 4 月起開起 放光源供國內外學術科技界使用,隨著近幾年周邊實驗設施逐漸興建完成,國內外研 究人員使用本中心光源的人次快速增加,研究成果在質與量上亦呈現大幅成長,各領 域已做出數量可觀的世界一流科學實驗[1]。所以其肩負著國家之科學研究重責大任。

同步輻射加速器運轉之效能的好壞,攸關研究的整個成敗。然而自從運轉以來,

尚有許多運轉上的議題急需解決及改進,其中就如何提升增能環(Booster)電子束引 出效率的問題,在整個加速器運轉上來說,可以說是有相當的迫切性及重要性,而且 就目前的狀況來看,尚有很大的提升改進空間,因此本論文將對此議題進行深入的研 究及探討。

(12)

1.2 研究目的

本論文將針對國家同步輻射加速器( National Radiation Research Center,NSRRC)

中 , 增能環電子束引出效率的提升問題,經過以往文獻參考評估後,擬採用反應曲 面法(Response Surface Methodology,RSM)的基本理論,並藉由以類神經網路

(Artificial Neural Network,ANN)所建構的實驗計畫法軟體 CAFE(Computer-Aided Formula Engineering),進行增能環電子束引出效率各調整參數的分析探討,包括方 法的建構,方法的分析,進而對各参數進行優化,同時進行實證的實驗。藉由實驗的 結果,希望能分析出最佳參數之組合,給予增能環電子束引出效率各參數,在調機上 能有最佳改善之建議。最後比較目前的注射效率與實際研究後測詴之改善程度,說明 本研究方法之可行性。

本論文之研究成果,期望能為加速器運轉帶來顯著性的貢獻。以下列出三點本論 文之研究目的:

1、 希望應用反應曲面法的基本理論,以類神經網路建構一個以增能環電子束引出的 調整參數為自變數的預測方法,並能找出重要的影響參數。

2、 希望以此預測方法建立一個優化方法,即以增能環電子束引出效率為目標函數,

以增能環電子束引出的調整參數為設計變數,再以最佳化方法(Optimization)尋 找能最大化電子束引出效率的參數調整方案。

3、 以優化的增能環電子束引出參數方案進行實證實驗,測詴電子束引出效率的改善 程度,說明本研究方法之可行性。

由於在高科技物理界裡,很罕見以有系統的方法來達成最佳調機方式的實際案 例,本論文之研究結果如果具有顯著的提升效果,將可彙整出一套標準的加速器運轉 調機流程,對於高科技物理界將會有相當大之應用價值。

(13)

1.3 研究流程

本論文的進行是如何提升增能環電子束引出效率的問題,確定問題之後則開始收 集相關文獻以作為參考,接著建立研究的方法,包括預測方法之建構、預測方法之分 析、進行參數之優化,再進行增能環電子束引出效率之實證實驗,最後提出結論及未 來的發展方向。整個研究流程如圖 1-1 所示:

圖 1-1 研究流程圖 研究背景與動機、研究目的

相關技術文獻之探討

研究方法之建立(反應曲面法) 9

預測方法之建構 (類神經網路)

進行實證之實驗

結論與後續研究方向 預測方法之分析

(類神經網路)

進行參數之優化 (類神經網路)

(14)

1.4 論文架構

本論文共分成五章,其撰寫架構略述如下:。

第一章為緒論,說明本論文之研究背景與動機、研究目的、研究流程與論文架構。

第二章為文獻探討,介紹本研究所應用到的相關理論,反應曲面法、類神經網路 之相關文獻探討。

第三章研究方法之建立,應用反應曲面法基本理論,以類神經網路技術建構研究 問題的預測方法,並進行預測方法之分析,找出重要影響參數。以此預測方法建立一 個參數優化模型的最佳參數方案。

第四章進行實證之實驗,以增能環電子束引出效率為實驗對象,說明本研究方法 實測後之改善效果。

第五章則為本論文之結論與後續的研究方向說明。

(15)

第 2 章 文獻探討

本研究在增能環電子束引出效率整個改善程序中,為了能夠較快的找到最佳參數 的方案,必頇藉由技術方法加以輔助求解。所提出的方法程序其最終目的是希望找出 一組參數最佳解,使得目標值能夠獲得改善,在此我們介紹一些相關的文獻,包括與 本研究相關之理論與方法,反應曲面法及類神經網路的相關文獻回顧。

2.1 反應曲面法

在此介紹反應曲面法和其相關文獻。

1、 反應曲面法簡介[13]

反應曲面法(Response Surface Methodology,簡稱 RSM)為結合了特定數學與 統計方法之集合所衍生出的方法論,目的在協助研究人員對科學系統或工業製程中最 佳產品設計、製程改善、系統最佳化等問題提供一套分析、求解程序。由歷史的演進 從 1951 年 Box 和 Wilson 共同進行數學模式的建立與推導,1966 年 Hill 和 Hunter 等 相關研究下,其理論模式的建立與應用已趨於完整,1966-1988 年相關延伸的研究包 含 了 探 討 模 式 的 穩 健 性 ( Robustness ) 、 可 旋 轉 性 ( Rotatability ) 、 直 交 性

(Orthogonality)、最佳化設計(Optimal Design)與自變數高度相關(Multicollinearity)

等因子實驗或混和實驗(Mixture Experiment)中常見問題,以及反應曲面法分析中 之正規分析(Canonical Analysis)、脊線分析(Ridge Analysis, RA)與雙反應曲面系 統(Dual Response System, DRS)等,此一古典反應曲面法研究成果在往後成為實務 用於求解最適實驗設計或作業條件的有利工具,普遍應用於電子、機械、農業、化學 工業、生物科技、材料科 學、食品科學及工業製程改善等各項研究領域中,1980 年 由於電腦模擬技巧(Computer Simulation)應用於決策科學上漸受歡迎,反應曲面法 亦成為分析複雜系統中重要影響變數的一項工具[14],2000 年後多反應值最佳化設計

( Multi-response Optimal Design ) 與 多 反 應 值 共 同 最 佳 化 問 題 ( Multi-Response Simultaneous Optimization)成為反應曲面法研究的主流。

(16)

2、反應曲面法之優點[2]

反應曲面法之研究問題,一般假設問題為限制性之最佳化問題,而目標函數的確 切型式是未知的,在應用上主要存在下列二項限制:

(1) 只適用於連續性的系統,是假設所有反應值與獨立變數的量測刻度是連續性的。

(2) 影響系統之獨立變數(可控制和不可控制變數)是屬於計量性。

反應曲面法一般在此前提的假設與應用系統的限制下,可有效地求得最佳實驗或 作業變數值。反應曲面法在處理未知函數曲面的情況裡,可以有效降低實驗次數,得 到多個獨立變數與某個反應變數的近似函數關係,求得最佳反應值與最佳的實驗情 況,其優點如下:

(1) 經濟性原則:

反應曲面法可以使用部分因子設計或特殊反應曲面設計(如混種設計等(Hybrid Design)),以較少的實驗成本及時間獲得不錯且有效的資訊。

(2) 深入探討因子間交互作用影響:

反應曲面法可以經由分析與配適模式來研究因子間的交互作用,並且進而討論多 因子對反應變數影響的程度。

(3) 獲得最適化的條件:

根據數學理論求得最適的實驗情況,同時利用配適反應方程式繪出模式三度空間 曲面圖與等高線圖,觀察並分析出最適的操作條件。

3、反應曲面法之相關研究文獻

如表 2-1 所示。

(17)

表 2-1 反應曲面法之相關研究文獻

學者 內容

黃雋心 [3],2009 年

以田口式實驗計劃法結合灰關聯分析來設計能同時滿足多 重品質特性的最佳參數組合。如果因子水準屬於連續性因 子,更以反應曲面法找出最佳水準點,以確定參數組合為最 佳。為了驗證此演算模式,分別舉液晶顯示器製程中基板雷 射位移量測及光阻塗佈最適化為案例,找出製程的最佳製程 參數水準組合,以提升產品品質。

張家勤 [4],2009 年

針對雷射切割製程參數最佳化提出系統性的求解程序,以迴 歸分析及工程知識判斷重要因子,並運用反應曲面法進行實 驗設計,再結合基因演算法與倒傳遞類神經網路以找出雷射 切割製程最佳參數組合。

鍾承利 [5],2008 年

加速詴驗是收集產品壽命資訊的一種方法,將反應曲面法應 用到加速詴驗中,將反應曲面法與分配函數結合,以最大概 似估計法推導出其參數估計式,計算各參數的估計值。並以 估計出來的迴歸模式與壽命分配的參數估計值來評估該批 產品在不同時間點與一般環境應力下的可靠度與失效率等 可靠度資訊。

宋明忠 [6],2007 年

以反應曲面方法探討 TSV 晶片研磨製程之最佳參數,並建 立兩步驟之實驗設計;首先將影響研磨製程之參數因子納入 實驗設計範圍,以部分因子實驗方法找出影響晶片研磨製程 之主要因子,第二步驟就影響 TSV 晶片研磨製程之顯著因 子,再以反應曲面方法加上中央合成設計求出 TSV 晶片研 磨之最佳參數範圍組合。

(18)

2.2 類神經網路

在此介紹類神經網路和其相關文獻。

1、 類神經網路簡介[7]

類神經網路(Artifical Neural Networks,簡稱 ANN),是一種利用人工模仿生物神 經系統的技術,藉由學習生物「刺激—反應」之機構,對外界輸入的訊號具有「儲存、

學習、回想」等一系列動作,架構一系統,使其可以預測新事件的結果。類神經網路 是由許多人工神經元(Artificial Neuron)所組成,人工神經元又稱處理單元(Processing Element)。每一個處理單元的輸出,成為許多處理單元的輸入。介於處理單元間的 訊號傳遞路徑稱為連結(Connection)。一個類神經網路是由許多個人工神經元與其 連結所組成,並且可以組成各種網路模式(Network Model)。其中以倒傳遞網路

(Back-Propagation Network, BPN)應用最普遍。一個 BPN 包含許多層,每一層包含 若干個處理單元。輸入層處理單元用以輸入外在的環境訊息,輸出層處理單元用以輸 出訊息給外在環境。此外,另包含一重要之處理層,稱為隱藏層(Hidden Layer),

隱藏層提供神經網路各神經元交互作用,與問題的內在結構處理能力。

類神經網路之概論由James[15]提出,到了1940 年代,McCulloch and Pitts[16]、

Hebb[17] 等 學 者 才 開 始 應 用 類 神 經 網 路 來 處 理 一 些 簡 單 的 問 題 。 之 後 , 雖 然 Rosenblatt[18]、Widrowand Hoff[19]等人提出了一些理論與模式,使得類神經網路開 始有了發展,但到了1969 年,Minsky and Papert[20]指出,那時的類神經網路連如XOR 等最簡單的問題都不能處理,於是類神經網路的發展陷入黑暗期。直到1982 年,在 Hopfield[21]、Kohonen[22]等學者的研究下,有了突破性的發展,加上電腦軟硬體之 快速進步,使得類神經網路開始受到重視。自此以後,類神經網路理論進入了蓬勃發 展階段,並應用於各種領域。

2、 類神經網路之優點[7]

類神經網路的模式不下數十種,但一般而言具有下列五種特性:

(1) 巨量平行處理:

(19)

類神經網路採用大量的平行計算,以空間換取時間,經由許多不同的人工神經元 來做運算處理,有效降低等待的時間。

(2) 解決最佳化問題:

類神經網路的學習過程,是調整參數來達成目標差最小的過程,即是達成最接近 目標的最佳化過程。

(3) 可模擬非線性問題:

類神經網路的神經元有時可採用可微分的非線性轉移函數,此非線性轉移函數可 表成無窮級數,而輸入與輸出之映射關係則藉由學習法則來調整網路參數,以達其誤 差最小化,來逼近非線性之映射關係。

(4) 錯誤容忍度:

類神經網路在運作時具有很高的錯誤容忍度,如果輸入的資料混雜些許的訊號干 擾,仍然不會影響其運作的正確性。即使有部份人工神經元失效,整個網路仍然可以 有效運作。

(5) 聯想記憶:

在回饋型類神經網路中,並沒有所謂的資料記憶區,但是網路卻可以記住需記憶 的訓練範例,以後若對輸入訊號進行運算時,整個網路藉由運算過程可聯想出相對應 的輸出值。這種記憶方式稱為“聯想記憶”,而其聯想過程稱為“內容定址(Content Addressing)”。

3、 類神經網路之相關研究文獻

如表 2-2 所示。

(20)

表 2-2 類神經網路之相關研究文獻

學者 內容

李振豪 [8],2008 年

利用複迴歸分析(MRA)及類神經網路(ANN)中的倒傳遞網路 (BP)來分別建構 BGA 及 QFN 之雷射切割品質預測模型。驗 證實驗結果後,發現 ANN 結合 GA 之組合,可產生最佳的 切割品質。論文所提出之方法及找到的最佳參數組合,已經 成功地使用在市售雷射切割機上。

高怡倩 [9],2008 年

發展類神經網路自調式 PD 控制器,可達到較佳且快速之控 制並節省了許多傳統 PD 控制尋找最佳化增益參數所消耗之 時間。建立之數學模式,對於海上或限制水域之拖船系統控 制評估可提供有用之參考價值。

張家勤 [10],2008 年

針對雷射切割製程參數最佳化提出一系統性的求解程序,首 先以迴歸分析與工程知識判斷重要因子,再以反應曲面法 (Response Surface Method, RSM)進行實驗設計,最後結合倒 傳遞類神經網路(Backpropagation Neural Network, BPN)和基 因演算法(Genetic Algorithms, GAs)找尋出雷射切割製程最 佳參數組合。透過實際個案研究發現提出之方法可大幅降低 雷射切割製程的不良率,由原始的 33 % 降至 0.3 %。

張裕長 [11],2008 年

利用有限元素法用最壞情況(Worst-Case)來模擬螺絲的破壞 情況,並套用田口品質工程法來探討遲滯螺絲中最重要的參 數,後期將合併類神經網路與遺傳演算法來獲得最佳設計。

在兩種強度性質之類神經網路模型的學習平均誤差與測詴 平均誤差均相當小(3%以內)。

(21)

第 3 章 研究方法

當品質因子之間是否具有高度的交互作用,以及品質因子與品質特性之間具有複 雜的非線性關係時,使用迴歸分析亦常不能建立起精確之方法。由於方法不夠精確,

下一階段之數值最佳化,無論做得再如何精巧,亦將徒勞無功。類神經網路(Artificial Neural Network, ANN)為一非線性模型之建構方法,可以克服上述之缺點[7]。因此,

本研究的對象為一連續變數而且品質因子之間可能具有高度的交互作用及非線性關 係,所以我們將以反應曲面法為理論架構,利用類神經網路作為研究之方法,並搭配 交 叉 驗 證 (Cross-Validation) 方 法 之 實 驗 軟 體 CAFE (Computer-Aided Formula Environment),進行增能環電子束引出效率之研究。

3.1 研究架構

我們採用反應曲面法理論架構,利用類神經網路作為本研究的主要方法,並搭配 交叉驗證方法,進行增能環電子束引出效率之研究,研究架構如圖 3-1 所示。主要 作法分述如下:

(22)

圖 3-1 研究架構 資料收集

(採用MATLAB程式截取)

類神經網路設計(倒傳遞類 神經網路+ Leave One Out) vs二階迴歸

)

實驗分析

網路參數設計 交叉驗證設計

參數優化

實證實驗

實驗效果與比較

敏感性分析

影響性分析

區間搜尋法

線性作用分析 二次作用分析

帶狀主效果分析 通用重要分析

(23)

3.2 資料收集

在實驗資料收集方面,本研究以類神經網路技術來建構預測方法,為使預測方 法建構更精確,擬採用「隨機設計」的實驗設計,即品質因子均設定一個最大值與最 小值,每一個實驗因子都以隨機的方式在其最大值與最小值內取值,並進行實際實 驗,以收集實驗數據。

採用 MATLAB 程式設定各品質因子的有效工作範圍,每一分鐘採用亂數設定,

截取一組不同設定值及反應值。

3.3 類神經網路設計

本研究是以倒傳遞神經網路來探討,倒傳遞神經網路模式(Back-Propagation Network, BPN)是目前神經網路學習模式中最具代表性,應用最普遍的模式。本研究 倒傳遞神經網路的主要設計包括,交叉驗證的設計和網路參數的設計。分述如下:

1、 交叉驗證的設計[12]

在樣式辨認與機器學習的相關研究中,經常會將資料集分為訓練跟測詴這兩個子 集,前者用以建立模型,後者則用來評估該模型對未知樣本進行預測時的精確度,只 有訓練的資料才可以用在模型的訓練過程中,測詴資料則必頇在模型完成之後才被用 來評估模型優劣的依據。這種方法可稱為Train-and-Test 法。怎麼將完整的資料集分 為訓練子集與測詴子集也是學問,必頇遵守兩個要點:

(1) 訓練子集中樣本數量必頇夠多,一般至少大於總樣本數的50%。

(2) 兩組子集必頇從完整集合中均勻取樣。

其中第(2)點特別重要,均勻取樣的目的是希望減少訓練子集以及測詴子集與完 整集合之間的偏差,但卻也不易做到。一般的作法是隨機取樣,當樣本數量足夠時,

便可達到均勻取樣的效果。然而隨機也正是此作法的盲點,也是經常可以在數據上做 手腳的地方。舉例來說,當辨識率不理想時,便重新取樣一組訓練子集與測詴子集,

直到測詴子集的辨識率滿意為止,這似乎只達到詴誤法的效果,嚴格來說這樣便算是

(24)

作弊了。交叉驗證(Cross-Validation)正是為了有效的估測普遍化誤差(Generalization Error) 所 設 計 的 實 驗 方 法 , 可 以 分 為 k-fold cross-validation 與 leave-one-out cross-validation。

(1)k-fold cross-validation (k-CV)

也稱leave-some-out cross-validation(LSOCV),是將資料集切成k 個大小相等的子 集,每個子集皆分別作為一次測詴集,其餘樣本則作為訓練集,因此一次k-CV 的實 驗共需要建立k 個模型,並計算k 次測詴集的平均辨識率。在實作上,k 要夠大才能 使各回合中的訓練集樣本數夠多,一般而言k=10 算是相當足夠了。

(2)leave-one-out cross-validation (LOOCV)

也稱n-fold cross-validation (n-CV),是將每個樣本單獨作為一次測詴集,剩餘n-1 個樣本則做為訓練集,故一次LOOCV 共要建立n 個模型。相較於前面介紹的k-CV,

LOOCV 有兩個明顯的優點:

(a) 每一回合中幾乎所有的樣本皆用於訓練模型,因此最接近母體樣本的分佈,估測 所得的普遍化誤差比較可靠。

(b) 實驗過程中沒有隨機因素會影響實驗數據,確保實驗過程是可以被複製的。

2、 網路參數的設計[12]

網路參數的設計,倒傳遞網路有幾個重要參數,包括 (1) 隱藏層層數 (2) 隱藏 層處理單元數目 (3)學習速率 (4) 慣性因子。進一步說明如下:

(1) 隱藏層層數

通常隱藏層之數目為一層或二層時有最好的收斂性質,而少於一層或多於二層 時,誤差逐漸增高。這可解釋成:沒有隱藏層不能建構問題輸出入間的非線性關係,

因而有較大的誤差;而有一、二層隱藏層已足以反應問題的輸入單元間的交互作用;

更多的隱藏層反而使網路過度複雜,減緩收斂速度。依據經驗,範例較少、雜訊較多、

非線性程度較低的問題可取一層隱藏層;反之,可取二層隱藏層。一般而言,對大多 數實際的應用問題來說,用一層隱藏層就已足夠。

(2) 隱藏層處理單元數目

通常隱藏層處理單元之數目越多收斂越慢,但可達到更小的誤差值,特別是「訓 練範例」誤差。但超過一定數目後,再增加則對降低「驗證範例」誤差幾乎沒幫助,

(25)

甚至反而有害。這可解釋成:隱藏層處理單元之數目太少,則不足以建構問題輸出入 間的非線性關係,因而有較大的誤差;數目越多,則網路的連結加權值與門限值越多,

網路的可塑性越高,可以建立充份反應輸入變數間的交互作用的模式,因此使網路對 訓練範例有較小的誤差值。但也更可能發生「過度學習」現象,即網路對訓練範例的 誤差越來越小,對驗證範例的誤差卻越來越大的現象。因此,隱藏層處理單元數目以 取適當的數目為宜。一般而言,隱藏層處理單元數目的選取原則如下:

(a) 問題雜訊高,隱藏層單元數目宜少。

(b) 驗證範例誤差遠高於訓練範例誤差,即發生「過度學習」,隱藏層單元數目 宜減少。

(c) 問題複雜性高,即非線性、交互作用程度高,隱藏層單元數目宜多。

(3) 學習速率

通常學習速率太大或太小對網路的收斂性質均不利。這可解釋成:較大的學習速 率有較大的網路加權值修正量,可較快逼近誤差函數最小值,但過大的學習速率將導 致網路加權值修正過量,而發生誤差振盪現象,因此學習速率的大小對學習有很大的 影響。通常在學習過程中,學習速率可採先取較大的初始值,再於網路的訓練過程中 逐漸減小的方式來設定,以兼顧收斂速度及避免振盪現象。

(4) 慣性因子

通常學慣性因子太大或太小對網路的收斂性質均不利。通常在學習過程中,慣性 因子可採先取較大的初始值,再於網路的訓練過程中逐漸減小的方式來設定。一般採 用在每一個訓練循環完畢即將慣性因子乘以一個小於1.0的係數(例如0.95)的方式,逐 漸縮小慣性因子,但不小於一預設的慣性因子下限值。

3.4 實驗分析

分析的主要目的在於了解各輸入變數對輸出變數的影響。由於倒傳遞類神經網路 之模型缺乏一個明確的方程式,而是由輸入變數構成隱藏節點的函數,再由隱藏節點 函數構成輸出節點函數。因此,雖然倒傳遞類神經網路模型中可得到連結權值及節點 的門限值,但是輸入變數與輸出變數的關係,並不容易直接從這些係數中明瞭。本實 驗採用敏感性分析和影響線分析二種方法來解決此一問題。分述如下:

(26)

1、 敏感性分析[12]

計算輸入變數對輸出變數的影響力以全體訓練樣本的一次、二次微分值的平均值 來衡量。「線性作用指標」與「二次作用指標」可以定量衡量輸入變數對輸出變數的 線性與二次(曲率作用與交互作用)。此外無論輸入變數對輸出變數有何種作用,只要 輸入變數對輸出變數具有作用,則至少在部份樣本中它對輸出變數的一次微分值必定 顯著異於0,因此定義「通用重要性指標」。當「通用重要性指標」越大,代表輸入 變數的作用越顯著。因為這三個指標可以定量衡量每一個輸入變數對輸出變數的作用 與重要程度,因此在網路訓練完畢後,計算這三種指標可以使倒傳遞網路在具有預測 能力之外,也能具有解釋因果關係與找出重要變數的能力,提高其模型的透明度,改 善其黑箱模型的缺點。其權值分析圖範例如圖 3-2 ~ 圖 3-4 所示。

圖 3-2 權值分析圖(通用重要性指標)

(27)

圖 3-3 權值分析圖(線性作用指標)

圖 3-4 權值分析圖(二次作用指標)

2、 影響線分析[12]

在帶狀主效果圖中,對每一個輸入變數相對每一個輸出變數,均會有一張帶狀主 效果圖,如圖 3-5 所示,其橫軸為各輸入變數之大小,縱軸為輸出變數的大小。圖 中有三條曲線,一條曲線代表該輸入變數固定在特定值之下,其它輸入變數為各自值 域內之隨機值之下,一定數目之組合下,模型所預測之該輸出變數之值的平均值μ。

(28)

另外兩根曲線為前述之平均曲線,加減一個前述預測值之標準差σ。此圖可顯示各個 輸入變數對各個輸出變數影響之傾向關係,亦可明白該輸入變數在不同的值下輸出變 數之變異。X 與Y 之斜率代表X 與Y 之間的關係是呈現正相關或負相關,如果斜率 幾乎呈現水平,代表X 與Y 之間沒有關係且不會互相影響;若此一帶狀圖之縱向寬 度變大,也就是說平均值的曲線對於標準差的曲線寬度變大,則代表輸出變數之變異 大,也就是除了該輸入變數之外的其他輸入變數可能對該輸出變數也有很大的影響 力。

圖 3-5 帶狀主效果圖

3.5 參數優化

參數優化的目的在於決定品質因子之最佳水準,使品質特性盡可能滿足需求。由 於本研究的問題為設計連續變數問題,因此適用非線性規劃數值最佳化方法。由於品 質設計問題中的變數數目通常很少,因此採用區間搜尋法。此法利用區間搜尋的方 式,配合逐步縮小搜尋範圍的技巧,來尋找最佳解。此方法之優點為具有良好的穩健 性,對於複雜的函數,或者具有局部最小值的問題,仍然具有適用性;缺點為較缺乏 搜尋效率。不過由於本研究的問題尺度不會很大,因此對於運算問題而言,當不構成 問題。

區間搜尋法的演算法如下[12]:

(29)

(1)在搜尋範圍內以隨機方式產生設計變數設計值,形成一個設計點。

(2)計算目標函數。

(3)重複(1)到(2) M 次。

(4)依目標函數值找出最佳解。

(5)以最佳解為中心縮小搜尋範圍,重複(1)到(4) N次,輸出最佳解。

【搜尋參數】

(1) Ncycle = 搜尋的次數。建議值100 - 1000;建議 Ncycle = 100,如未收斂增1000。

(2) Nperiod = 搜尋的輸出週期。建議值 Ncycle = 100 時 Nperiod = 1;Ncycle = 1000 時 Nperiod = 10。

(3) Npoint = 每次搜尋的點數。建議值100 - 1000,建議 Ninp ≥ 10時用1000。

(4 ) eta = 輸入變數之值域縮小係數。建議 Ncycle = 100 時eta = 0.9;Ncycle = 1000 時,eta = 0.99。

(5) penalty = 懲罰係數。建議值1,如無法得合法解可加大,如解品質太差可減小。

(6) alpha = 懲罰係數 之放大係數。建議 Ncycle = 100 時 alpha = 1.1;Ncycle = 1000 時,alpha = 1.01。

(30)

第 4 章 實驗與分析

在這一章中我們將以增能環電子束引出效率的提升問題,擬採用反應曲面法的基 本理論,並藉由以類神經網路所建構的實驗計畫法軟體 CAFE(Computer-Aided Formula Engineering),進行增能環電子束引出效率各調整參數的分析探討,包括方 法的建構,方法的分析,進而對各参數進行優化,同時進行實證的實驗。關於同步輻 射加速器及增能環電子束引出系統簡介請參閱附錄 C。

4.1 品質影響因子與實驗資料收集

在此我們介紹影響實驗品質的因子和實驗資料的收集。

1、 品質影響因子

增 能 環 電 子 束 引 出 的 方 式 , 以 目 前 的 運 轉 方 式 叫 做 恆 定 電 流 運 轉 ( Top up-mode),其方式為每一分鐘做一次電子束補充的引出動作。是以每一次電子束引 出效率的大小來決定電子束引出品質的好與壞,電子束引出效率的計算是藉由位於隔 板磁鐵後方的電子束流偵測器(Integrated Current Transformer ICT) 所偵測到每一次 電子束引出的電流量大小,去除以增能環每一次電子束引出的電流總量所得到的百分 比而來,百分比越高則表示電子束引出效率越好。電子束流偵測器位置如圖 4-1 所示。

本研究希望品質特性增能環電子束引出效率的百分比,越高越好。

圖 4-1 電子束流偵測器位置示意[23]

(31)

在影響整個增能環電子束引出效率的設備,包括緩衝磁鐵-1(Bumper-1)、緩衝磁 鐵-2(Bumper-2)、緩衝磁鐵-3(Bumper-3)還有一個偏踢磁鐵(Kicker)及一個隔板磁鐵 (Septum),每一個設備磁鐵的電壓(或電流)設定值及觸發時間設定值(Timming),總 共有十個值,這些值形成本研究的品質影響因子。其中磁鐵的電壓或電流設定值大 小,代表每一個磁鐵在電子束引出時所需要的磁場大小,而磁鐵的觸發時間設定值,

代表每一個磁鐵在電子束引出時觸發時間的先後順序,每一個影響品質因子必頇有適 當的組合,才能達到最佳的電子束引出效率。其功能分述如下:

(1) 緩衝磁鐵:是將電子束於引出增能環時,輔助電子束貼近理想設計軌道以利電子 束順利進入傳輸線軌道運行。

(2) 隔板磁鐵:是將電子束於射出增能環時,使電子束貼近理想設計軌道以利電子束 順利進入傳輸線軌道運行。

(3) 偏踢磁鐵:是把電子束經隔板磁鐵作用後,以極快、極短時間將電子束導入傳輸 線軌道中。

品質因子如表 4-1 所示。其中 X1~ X10 代表每一個品質因子的設定值,每一個品 質因子有其適度的設定有效工作範圍如下。

表 4-1 品質因子

代號 品質因子 有效工作範圍

X1 隔板磁鐵 (Septum) 電壓設定值 399.3 V ± 3 V X2 隔板磁鐵 (Septum) 觸發時間 74926

s

± 5

s

X3 偏踢磁鐵 (Kicker) 電壓值設定 18.3 kV ± 5 kV X4 偏踢磁鐵 (Kicker) 觸發時間 11205 ns ± 50 ns X5 緩衝磁鐵 (Bumper-1) 電流設定值 210.8 A ± 30 A

X6 緩衝磁鐵 (Bumper-1) 觸發時間 73931

s

± 200

s

X7 緩衝磁鐵 (Bumper-2) 電流設定值 161.9 A ± 20 A

X8 緩衝磁鐵 (Bumper-2) 觸發時間 73933

s

± 200

s

X9 緩衝磁鐵 (Bumper-3) 電流設定值 210.8 A ± 20 A

X10 緩衝磁鐵 (Bumper-3) 觸發時間 74842

s

± 200

s

(32)

2、 實驗資料收集

在實驗資料收集方面,本研究採用反應曲面法的基本理論,並藉由以類神經網 路技術來建構預測模型,為使預測模型建構更精確,採用「隨機設計」的實驗設計,

即十個品質因子均設定一個最大值與最小值,每一個實驗因子都以隨機的方式在其最 大值與最小值內取值,並進行實際實驗,以收集實驗數據。

採用 MATLAB 程式設定各品質因子的有效工作範圍,每一分鐘採用亂數設定,

截取一組不同設定值及反應值,關於截取程式演算法請參閱附錄 E,總共取得 460 筆 數據。

這 460 筆數據的增能環電子束引出效率的平均值=25.98;標準差=17.71;最大 值=63.12;最小值=0.13,每筆資料都有反應值的出現,代表品質因子的設定有效工 作範圍有其適切性。增能環電子束引出效率資料統計如表 4-2 所示,其直方圖如圖 4-2 所示。可見極少設定其增能環電子束引出效率能超過 60%。圖例如增能環電子束引出 效率出現在 0~5%的次數為 76 次,百分比為 16.5。

表 4-2 增能環電子束引出效率統計 組界 頻率 百分比 0~5 76 16.5 5~10 48 10.4 10~15 43 9.3 15~20 30 6.5 20~25 28 6.1 25~30 31 6.7 30~35 43 9.3 35~40 31 6.7 40~45 35 7.6 45~50 44 9.6 50~55 38 8.3 55~60 12 2.6 60~65 1 0.2 65~70 0 0.0

(33)

0 10 20 30 40 50 60 70 80

0~ 5 5~ 10 10 ~1 5 15 ~2 0 20 ~2 5 25 ~3 0 30 ~3 5 35 ~4 0 40 ~4 5 45 ~5 0 50 ~5 5 55 ~6 0 60 ~6 5 65 ~7 0

增能環電子束引出效率

頻率

圖 4-2 增能環電子束引出效率統計

圗 4-3 到圗 4-14 為每一個品質因子(X1~X10)十等分下的增能環電子束引出效率 平均值(±1 個標準差)示意。由圖可知偏踢磁鐵 (Kicker) 電壓值設定(X3)對增能環電 子束引出效率的影響最明顯,其餘並不明顯,但不能排除各變數間有交互作用存在。

(34)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-3 隔板磁鐵 (Septum) 電壓設定值 X1 十等分下的增能環電子束引出效率平 均值(±1 個標準差)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-4 隔板磁鐵 (Septum) 觸發時間 X2 十等分下的增能環電子束引出效率平均 值(±1 個標準差)

(35)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-5 偏踢磁鐵 (Kicker) 電壓值設定 X3 十等分下的增能環電子束引出效率平均 值(±1 個標準差)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-6 偏踢磁鐵 (Kicker) 觸發時間 X4 十等分下的增能環電子束引出效率平均值 (±1 個標準差)

(36)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-7 緩衝磁鐵 (Bumper-1) 電流設定值 X5 十等分下的增能環電子束引出效率 平均值(±1 個標準差)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-8 緩衝磁鐵 (Bumper-1) 觸發時間 X6 十等分下的增能環電子束引出效率平 均值(±1 個標準差)

(37)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-9 緩衝磁鐵 (Bumper-2) 電流設定值 X7 十等分下的增能環電子束引出效率 平均值(±1 個標準差)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-10 緩衝磁鐵 (Bumper-2) 觸發時間 X8 十等分下的增能環電子束引出效率平 均值(±1 個標準差)

(38)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-11 緩衝磁鐵 (Bumper-3) 電流設定值 X9 十等分下的增能環電子束引出效率 平均值(±1 個標準差)

0 10 20 30 40 50 60

1 2 3 4 5 6 7 8 9 10

十等分

增能環電子束引出效率

圖 4-12 緩衝磁鐵 (Bumper-3) 觸發時間 X10 十等分下的增能環電子束引出效率 平均值(±1 個標準差)

(39)

4.2 實驗過程

本研究所要處理之問題為連續變數之品質設計問題,本研究採用反應曲面法的 基 本 理 論 , 並 藉 由 以 類 神 經 網 路 技 術 來 建 構 預 測 模 型 , 然 後 採 用 交 叉 驗 證 法 (Cross-Validation)來驗證實驗預測結果。其中最主要的設定是依資料總筆數為460筆,

以每10筆資料為一集合,交互做驗證的工作,以必免產生過度學習的情形。其他參數 設定值分述如下:

1、隱藏層處理單元數目設定為11。

2、輸入變數採「機率對映法」輸出變數採「區間對映法」。

3、學習循環數目設定為2000次,測詴週期為每隔20次作一次測詴。

4、不使用批次學習,不使用已學習之網路連結加權值。

5、加權值值域取0.3 (控制初始網路連結加權值的值域,則初始加權值將為[-0.3,0.3] 間 的均佈亂數)

6、亂數種子取0.456 (控制初始網路連結加權值亂數的參數,一個亂數種子產生一組 加權值,可選0 ~ 1 間的任意實數)

7、學習速率初始值設定為1,學習速率折減係數設定為0.95,學習速率下限值設定為 0.1。

8、慣性因子初始值設定為0.5,慣性因子折減係數設定為0.95,慣性因子下限值設定 為0.1。

模型建構參數設定如圖 4-13 所示。

(40)

圖 4-13 模型建構參數設定

經過模型建構運算之後,我們獲得「交叉驗證法」的誤差收斂曲線如圖 4-14 所 示。從誤差收斂曲線圖可以看出「交叉驗證法」中,測詴範例的誤差與訓練範例的誤 差收斂曲線非常的接近,由此可知本研究所採用的自變數具有很好的解釋能力,也代 表模型的建構是非常理想的,大約在 1100 次的運算就顯示收斂狀態。

圖 4-14「交叉驗證法」的誤差收斂曲線

(41)

「交叉驗證法」的訓練樣本散佈圖及「交叉驗證法」的測詴樣本散佈圖,如圖 4-15、

圖 4-16 所示。相關性分為線性和非線性。以線性來說,正相關的散佈圖,點會從左 下遞升到右上。完全正相關就會呈現四十五度角的斜線,相關性越弱,則角度會越小,

無相關性時就會變成水平帶狀散佈。負相關的點會從左上遞減到右下,其他亦同。非 線性的相關則點會呈現特定圖樣,如曲線或雙曲線。從這兩個圖可以顯示實際值與預 測值集中在對角線,而且分佈非常相似,這代表模型的建構預測能力是非常理想的。

圖 4-15「交叉驗證法」的訓練樣本散佈圖

(42)

圖 4-16「交叉驗證法」的測詴樣本散佈圖

表 4-3 為交叉驗證法的誤差,訓練範例的平均誤差為 7.0277,測詴範例的平均誤 差為 7.8476,測詴範例比訓練範例大一些,這是合理的。

表 4-3 交叉驗證法的誤差

Train Corre.

Coef.

Train Root Mean Sqrt

Test Corre.

Coef.

Test Root Mean Sqrt 0.9178 7.0277 0.8968 7.8476

4.3 實驗分析

在此我們敘述實驗結果的分析,包括敏感性分析和影響線分析,我們用權值分析 圖來做敏感性分析,利用帶狀主效果圖來做影響線分析。

1、 敏感性分析

(43)

敏感性分析包含「線性作用指標」與「二次作用指標」可以定量衡量輸入變數對 輸出變數的線性與二次(曲率作用與交互作用);而當「通用重要性指標」越大,代表 輸入變數的作用越顯著。因為這三個指標可以定量衡量每一個輸入變數對輸出變數的 作用與重要程度。分析的結果可以看出品質因子的重要性,如圖4-17所示。

(1) 偏踢磁鐵電壓設定值(X3)的權重值為 0.338。

(2) 緩衝磁鐵-1 電流設定值(X5) 的權重值為 0.203。

(3) 緩衝磁鐵-2 電流設定值(X7)的權重值為 0.263。

這三個品質因子為最重要的影響品質因子,其中又以偏踢磁鐵電壓設定值(X3) 最為重要。

圖 4-17 Y 重要性直條圖

在線性作用指標分析的結果可以很明顯的看出品質因子的重要「線性作用指 標」,如圖 4-18 所示。

(1) 偏踢磁鐵電壓設定值(X3)、緩衝磁鐵-1 觸發時間(X6)為具有正比線性效果的變數。

(2) 緩衝磁鐵-1 電流設定值(X5)、緩衝磁鐵-2 電流設定值(X7)為具有反比線性效果的 變數。

也就是說這幾個具有重要正反比線性效果的變數,如果依照分析的正反向做適當 的調整,對反應值是有幫助的。

(44)

圖 4-18 Y 線性敏感性直條圖

在二次曲率作用與交互作用指標分析的結果可以很明顯的看出品質因子的重要 曲率效果,如圖 4-19 所示。

(1) 偏踢磁鐵電壓設定值(X3)、緩衝磁鐵-1 電流設定值(X5)、緩衝磁鐵-2 電流設定值 (X7)為具有反曲率效果的變數,即為開口朝下的曲線。

也就是說這幾個具有重要反曲率效果的變數,在某個區間會有最大值的出現。

圖 4-19 Y 曲率效果圖

(45)

經過以上的分析結果,所有 10 個品質因子的重要性及是否具有正負向線性作、

向上或向下曲率作用,如表 4-4 所示。其中★越多代表重要性越大,△▼代表線性作 用或曲率作用的顯著性及其正負向。

表 4-4 品質因子權值

代號 品質因子 重要性 線性作用 曲率作用

X1 隔板磁鐵 (Septum) 電壓設定值 X2 隔板磁鐵 (Septum) 觸發時間

X3 偏踢磁鐵 (Kicker) 電壓設定值 ★★★ △ △ △ ▼▼▼

X4 偏踢磁鐵 (Kicker) 觸發時間

X5 緩衝磁鐵 (Bumper-1) 電流設定值 ★★★ ▼▼▼ ▼▼▼

X6 緩衝磁鐵 (Bumper-1) 觸發時間 ★ △

X7 緩衝磁鐵 (Bumper-2) 電流設定值 ★★★ ▼▼▼ ▼▼▼

X8 緩衝磁鐵 (Bumper-2) 觸發時間 ★ X9 緩衝磁鐵 (Bumper-3) 電流設定值 X10 緩衝磁鐵 (Bumper-3) 觸發時間

2、 影響線分析

影響線分析在帶狀主效果圖中,對每一個輸入變數相對每一個輸出變數,均會有 一張帶狀主效果圖,其橫軸為各輸入變數之大小,縱軸為輸出變數的大小。圖中有三 條曲線,一條曲線代表該輸入變數固定在特定值之下,其它輸入變數為各自值域內之 隨機值之下,一定數目之組合下,模型所預測之該輸出變數之值的平均值μ。另外兩 根曲線為前述之平均曲線,加減一個前述預測值之標準差σ。此圖可顯示各個輸入變 數對各個輸出變數影響之傾向關係,亦可明白該輸入變數在不同的值下輸出變數之變 異。X 與Y 之斜率代表X 與Y 之間的關係是呈現正相關或負相關,如果斜率幾乎呈 現水平,代表X 與Y 之間沒有關係且不會互相影響;若此一帶狀圖之縱向寬度變大,

也就是說平均值的曲線對於標準差的曲線寬度變大,則代表輸出變數之變異大,也就 是除了該輸入變數之外的其他輸入變數可能對該輸出變數也有很大的影響力。

(46)

經過分析後的結果可以很明顯的看出品質因子的曲線圖形及重要性。如圖 4-20 所示。

(1) 偏踢磁鐵電壓設定值 (X3) (2) 緩衝磁鐵-1 電流設定值 (X5) (3) 緩衝磁鐵-2 電流設定值 (X7)

為開口朝下的曲線,此可顯示這三個品質因子輸入變數對各個輸出變數影響之傾 向關係,亦可明白該輸入變數在不同的值下對輸出變數之變異。

圖 4-20 帶狀主效果圖

4.4 參數優化

參數優化的目的在於決定品質因子之最佳水準,使品質特性盡可能滿足需求。由 於所要處理的問題為設計連續變數問題,因此適用非線性規劃數值最佳化方法。由於 本研究品質設計問題中的變數數目只有10個,因此採用「區間搜尋法」。此法利用區 間搜尋的方式,配合逐步縮小搜尋範圍的技巧,來尋找最佳解。

本研究的最佳化模式為:

最大化品質特性增能環電子束引出效率(Y)

且品質因子設定值 X1~X10 必頇滿足每一個品質因子合理的工作範圍。如表 4-5 所示。

(47)

表 4-5 品質因子的上下限

代號 品質因子 下限 上限

X1 隔板磁鐵 (Septum) 電壓設定值 394.38 401.86 X2 隔板磁鐵 (Septum) 觸發時間 74922.90 74935.30 X3 偏踢磁鐵 (Kicker) 電壓設定值 12.06 24.55 X4 偏踢磁鐵 (Kicker) 觸發時間 11047.42 11171.72 X5 緩衝磁鐵-1 (Bumper-1) 電流設定值 166.02 215.76 X6 緩衝磁鐵-1 (Bumper-1) 觸發時間 74060.10 74558.40 X7 緩衝磁鐵-2 (Bumper-2) 電流設定值 121.22 170.99 X8 緩衝磁鐵-2 (Bumper-2) 觸發時間 74062.10 74559.80 X9 緩衝磁鐵-3 (Bumper-3) 電流設定值 166.23 215.79 X10 緩衝磁鐵-3 (Bumper-3) 觸發時間 74060.10 74559.00

最佳化品質因子的參數設定如圖 4-21 所示。

1、Number of cycles(搜尋的次數)。建議值100 - 1000;建議Number of cycles = 100,如未收斂則增為1000;本研究設定值為100。

2、Test Period (搜尋的輸出週期)。建議值Number of cycles = 100 時Test period =1;

Number of cycles = 1000 時Test Period = 10;本研究設定值為1。

3、Number of search points(每次搜尋的點數)。建議值100 - 1000,建議輸入變數

≥10 時用1000;本研究設定值為1000。

4、Search step(輸入變數之值域縮小係數)。建議Number of cycles = 100 時Search step = 0.9;Number of cycles = 1000 時,Search step = 0.99;本研究設定值為0.95。

5、Penalty factor(懲罰係數)。建議值1,如無法得合法解可加大,如解品質太差 可減小;本研究設定值為1。

6、Amplification coefficient(懲罰係數之放大係數)。建議Number of cycles = 100 時Amplification coefficient = 1.1;Number of cycles = 1000 時, Amplification coefficient = 1.01。本研究設定值為 1.1。

(48)

圖 4-21 最佳化品質因子的設定

經過程式品質因子優化計算之後,獲得一組類神經優化後的最佳參數解。在品質 因子優化計算的收斂過程當中,可以很明顯看出大約在 90 次搜尋的次數就呈現出收 斂的狀態,如圖 4-22 所示。類神經優化品質因子的最佳解如圖 4-23 與表 4-6 所示。

預期增能環電子束引出效率為 63.31%。

(49)

56 58 60 62 64

0 20 40 60 80 100

number of cycle

Y

圖 4-22 收斂過程

圖 4-23 類神經優化品質因子最佳解設定值

(50)

表 4-6 類神經優化品質因子的最佳解

代號 品質因子 下限 上限 類神經最佳解

X1 隔板磁鐵 (Septum) 電壓設定值 394.38 401.86 401.86 X2 隔板磁鐵 (Septum) 觸發時間 74922.90 74935.30 74935.00 X3 偏踢磁鐵 (Kicker) 電壓設定值 12.06 24.55 24.54 X4 偏踢磁鐵 (Kicker) 觸發時間 11047.42 11171.72 11047.00 X5 緩衝磁鐵-1 (Bumper-1) 電流設定值 166.02 215.76 180.91 X6 緩衝磁鐵-1 (Bumper-1) 觸發時間 74060.10 74558.40 74557.00 X7 緩衝磁鐵-2 (Bumper-2) 電流設定值 121.22 170.99 121.24 X8 緩衝磁鐵-2(Bumper-2)觸發時間 74062.10 74559.80 74308.00 X9 緩衝磁鐵-3(Bumper-3)電流設定值 166.23 215.79 175.78 X10 緩衝磁鐵-3(Bumper-3)觸發時間 74060.10 74559.00 74060.00

4.5 實證實驗與比較

1、 實證實驗

品質因子優化後,得到如上表 4-7 類神經優化最佳解品質因子設定組合。用這組 類神經優化最佳解品質因子設定組合進行實際上機測詴,測詴的結果顯示,增能環電 子束引出效率可以從平均約 40%的效率,提升到平均約 73%的效率。百分之五的信 賴區間:

(63.31-1.96*7.85, 63.31+1.96*7.85)=(47.9, 78.7) 因此 73%的效率,很明顯的是落在信賴區間中。

從這 460 筆數據的增能環電子束引出效率平均值為 25.98%;標準差為 17.71%;

最大值為 63.12%;最小值為 0.13%。因此經過本研究參數優化後,增能環電子束引 出效率可達到 73%的效果,可證明本研究是有很明顯的進步。

按下來我們再針對前面分析方法的結果,依照所顯示出的三個最重要影響品質因 子,偏踢磁鐵電壓設定值(X3)、緩衝磁鐵-1 電流設定值(X5)、緩衝磁鐵-2 電流設定值

(51)

(X7),依前面分析方法的結果,做適度的各別正負向調整,進行實際測詴。因為原本 最佳解的偏踢磁鐵電壓設定值(X3)已達上限,表示如非值域被限制,調高偏踢磁鐵電 壓設定值(X3)應該會有更佳的解答;而原本最佳解的緩衝磁鐵-2 電流設定值(X7)已達 下限,表示調低緩衝磁鐵-2 電流設定值(X7)應該會有更佳的解答。而原本最佳解的緩 衝磁鐵-1 電流設定值(X5)並未達上、下限,表示緩衝磁鐵-1 電流設定值(X5)的最佳值 應該不會距原值太遠。經進行實際測詴後,發現調整後最佳解如表 4-7 所示,即 X3 調高原值域的 16%左右(+2),X7 調低原值域的 4%左右(-2),X5 調低原值域的 4%左 右(-2),有最佳的電子束引出效率出現,這與預期相當接近。新的調整後最佳參數組合 方案,其電子束引出效率可再提升至平均約 83%,整個實證實驗的過程如圖 4-24 所 示。圖中 Y 軸代表電子束引出效率的大小,X 軸代表電子束引出的時間,電子束引 出效率最大值為 85.5%,最小值為 37.1%,平均值為 67%,曲線的變化從左至右依 序為機器原本的參數設定值,電子束引出效率平均約 40%。其次為類神經優化的最 佳參數設定值,電子束引出效率平均約 73%。再其次為調整後最佳參數值,電子束引

出效率平均約 83%。同時我們在不同的時間點重複做兩次的實測實驗,電子束引出效

率都可達到平均約 83%如圖 4-25 所示。代表這組新的調整後最佳參數組合的重現性 是有其可信度。

(52)

表 4-7 調整後品質因子的最佳解

號 品質因子 下限 上限 類神經最佳

調整後最佳 解

X1

隔板磁鐵 (Septum) 電壓設

定值 394.38 401.86 401.86 401.86

X2

隔板磁鐵 (Septum) 觸發時

間 74922.90 74935.30 74935.00 74935.00

X3

偏踢磁鐵 (Kicker) 電壓設

定值 12.06 24.55 24.54

26.54

X4

偏踢磁鐵 (Kicker) 觸發時

間 11047.42 11171.72 11047.00 11047.00

X5

緩衝磁鐵-1 (Bumper-1) 電

流設定值 166.02 215.76 180.91

178.91

X6

緩衝磁鐵-1 (Bumper-1) 觸

發時間 74060.10 74558.40 74557.00 74557.00

X7

緩衝磁鐵-2 (Bumper-2) 電

流設定值 121.22 170.99 121.24

119.24

X8

緩衝磁鐵-2 (Bumper-2) 觸

發時間 74062.10 74559.80 74308.00 74308.00

X9

緩衝磁鐵-3 (Bumper-3) 電

流設定值 166.23 215.79 175.78 175.78

X10

緩衝磁鐵-3 (Bumper-3) 觸

發時間 74060.10 74559.00 74060.00 74060.00

(53)

圖 4-24 增能環電子束引出效率提升(1)

以表 4-8 調整後最佳品質因子組合 為基礎,針對三個重要影響品質因 子 X3、X5、X7 做適度的正負向調 整,電子束引出效率提升至平均約 83%。

以表 4-7 類神經最佳品質因子組合 為基礎,測詴結果增能環電子束引 出效率可以提升到平均約 73%。

機器原來参數設定值,

測詴結果增能環電子束 引出效率平均約 40%。

(54)

圖 4-25 增能環電子束引出效率提升(2) 以表 4-8 調整後最佳品質因子組合為基礎,針 對三個重要影響品質因子 X3、X5、X7 做適 度的正負向調整,電子束引出效率提升至平 均約 83%。

機器原來参數設定值,

測詴結果增能環電子束 引出效率平均約 40%。

(55)

2、 實驗比較

我們另外採用迴歸分析進行實驗,但因進行實證實驗的資源有限,該實驗並未進 行實證實驗,關於迴歸分析實驗的過程與結果請参閱附錄 D。

在這裡,我們將類神經網路優化電子束引出效率與迴歸分析優化電子束引出效 率,就其在方法的建構及方法的分析以及參數的優化做一比較。

(1) 方法建構的比較

類神經網路:本研究所處理之問題為連續變數之品質設計問題。採用二階反 應曲面設計。依第四章類神經網路在方法建構的結果顯示,經過方法建構運算之後,

我們獲得「交叉驗證法」的誤差收斂曲線如圖 4-14 所示。從誤差收斂曲線圖可以看 出「交叉驗證法」中,測詴範例的誤差與訓練範例的誤差收斂曲線非常的接近,由此 可知本研究所採用的自變數具有很好的解釋能力,也代表模型的建構是非常理想的,

大約在 1100 次的運算就顯示收斂狀態。由「交叉驗證法」的訓練樣本散佈圖及「交 叉驗證法」的測詴樣本散佈圖,如圖 4-15、圖 4-16 所示。相關性分為線性和非線性。

以線性來說,正相關的散佈圖,點會從左下遞升到右上。完全正相關就會呈現四十五 度角的斜線,相關性越弱,則角度會越小,無相關性時就會變成水平帶狀散佈。負相 關的點會從左上遞減到右下,其他亦同。非線性的相關則點會呈現特定圖樣,如曲線 或雙曲線。從這兩個圖可以顯示實際值與預測值集中在對角線,而且分佈非常相似,

這代表模型的建構預測能力是非常理想的。

迴歸分析:本研究所處理之問題為連續變數之品質設計問題。同樣採用二階反應 曲面設計。依附錄 D 迴歸分析方法建構的結果顯示,從步驟 2.配適摘要中,分析模 型中各實驗因子所能解釋的反應變數(因變數)的變異。如圖 D-1 所示,可以看出來二 次模型或三次模型皆可達到相當精確,兩種模型的顯著性皆小於 0.0001,在 F 統計量 方面二次模型為 13.29 三次模型為 1.75 所以二次模型較優。由此可知本研究所採用的 自變數具有很好的解釋能力,也代表模型的建構是非常理想的。

綜合以上的結果,我們認為類神經網路及迴歸分析兩種方法都具有很好的模型建 構能力。

參考文獻

相關文件

Taiwan customer satisfaction index (TCSI) model shown in Figure 4-1, 4-2 and 4-3, developed by the National Quality Research Center of Taiwan at the Chunghua University in

The purposes of this research are to find the factors of raising pets and to study whether the gender, age, identity, marital status, children status, educational level and

T-test on the emphasizing degree with different factors according to grouping by genders shows that girls and boys attribute differences to the factors, such as close friends,

L.(1998) Strategic brand management: Building, Measuring and Managing Brand Equity., Inc., Upper Saddle River,NJ: Prentice-Hall. L.(2003)Strategic Brand Management: Building,

Therefore this research was analyzed the budget information of the Ministry of Transportation and Communications (including 13 departments) the major construction

It’s based on the PZB service quality gap model and SERVQUAL scale, and together with the reference to other relevant research and service, taking into account

Y., (1997), “Resource recovery of sludge as building and construction materials — a future trend in sludge management,” Journal of Water Science and Technology, Vol. (2000)

The study found that (1) from 2006 to 2009, the rising rate for single item is, 23.3% for sand, 36.5% for aggregate, 7.7% for cement and 9.5% for concrete, (2) for sand, the price on