含菁英政策之基因演算法於模式最佳化近似的應用
林家富、劉宏毅、蔡金橤、郭東義 國立高雄應用科技大學 化學工程與材料工程系 E-Mail:[email protected]摘 要
本文是應用含菁英政策之基因演算法於複雜系統之模式最佳化近似。此最佳化近似模式以含有時間延遲之 有理轉移函數描述,並藉由最小化頻率響應L2誤差準則來搜尋最佳化近似模式的參數。以頻率響應做為誤差準 則之優點是此方法可有效的應用於以有理及無理函數描述的系統。模擬結果顯示,相較於傳統的基因演算法, 本文提出的方法可降低基因演算過早收歛入局部最佳解,最佳近似模式有較好的適應函數值。 關鍵詞:基因演算法,菁英政策,頻率響應Abstract
In this paper, the problem of optimally approximating complex systems is solved by a genetic algorithm with elitism. The optimal approximate model described by a rational transfer function with a time delay is sought such that a frequency-domain L2-error criterion is minimized. The chosen frequency-domain error criterion makes the proposed
approach quite efficacious for optimally approximating systems having rational and irrational functions. The simulated results show that the proposed approach is able to avoid falling into the local maximum due to the parameter convergence and therefore the proposed optimal approximants have better fitness than that obtained by a traditional genetic algorithm.
Keyword: genetic algorithm, elitism, frequency response.
1. 前 言
隨著控制技術與控制要求的提高,系統的階次也越來越高,所以在模擬與控制器中設計一個動態線性系統, 對系統的模式做近似是一件非常重要的工作。舉例來說,一個工廠的回饋系統中,其轉移函數之分母若包含著 時延( dead time)[1]項次,這使得在時域分析或是控制器的設計時,會變得更加困難。目前對於解決模式最佳化 近似的問題,已經提出許多方法[2],其可分為兩大類:一個是非性能指標導向的方法,主要是藉由將高階系統 截去部分資訊轉變成低階系統,此方式是相當的容易。而將高階系統轉成低階系統的動作,稱之為模式簡化 (model reduction),其方法有傳統的 Padé 模式簡化法(model reduction method)[3,4]、Routh 近似法[4,5,6]、平衡截 斷法(balanced truncation method)[7,8]以及最佳 Hankel 近似法[9,10]等;另一個則是性能指標導向的方法,它藉由 最小化某一誤差準則來獲得近似模式,其方法則有H2-norm[11]、 -norm[12,13]、L2 H∞-norm[14]以及 -norm[15] 等,這一類的方法,它們必須藉助一套有效率演算法來計算性能指標。以 L∞ 2 H -norm、 -norm 為例,常用的方 法是以梯度法為基礎(gradient-based)的搜尋法則[16],但不幸地,梯度法通常都會陷入局部的最佳解。同樣的, 2 L H∞-norm 及 -norm 的困難點在於它們被選擇為性能指標時,就必須求其導數,但這兩者沒有任何一點可微分 的性質。所以,仍然缺少計算最小化以 L∞ H∞-norm 或L∞-norm 為性能指標之有效率的計算方法。基因演算法(genetic algorithm, GA)起源於 60 年代對自然和人工自適應系統的研究,最早由 Holland 教授所
提出[17],主要是依據生物學家查理.達爾文適者生存理論所發展出來的一套演算法則,其基本精神在於模仿生 物界物競天擇、適者生存的自然演化過程,所謂『適者生存,不適者淘汰』即是自然界為繁衍出更優良的下一 代,會隨著環境的變化而自我調適,使子代(offspring)的基因排列優於母代(parents)的基因排列,而產生比母代 更適應環境的子代。因此,基因演算法可以說是一種仿傚生物演化來求解最佳化問題的工具。雖然基因演算的 搜尋技術是以隨機搜尋為架構,但其採用多點搜尋的方式在參數空間中同時尋求問題最佳解且運用演化過程所 提供的資訊,因此是一個強有力的數值最佳化之演算法[18]。 本文是應用基因演算法於複雜系統之最佳化近似,我們於基因演算法加入菁英政策(elitist strategy),使其在 選擇複製、交配、突變等運算子中,都能一直保有原本最佳的基因,讓其參數搜尋時,可加速基因演算收斂速 度和降低基因演算過早收歛落入局部最佳解,找到近似於原系統最佳化的參數解。
2. 模式最佳化近似之問題描述
對於控制系統的族群中,最能充分表示一個複雜動態系統( complex dynamic system )的就是包含有時間延遲 ( time delay )的低階轉移函數。考慮一個單輸入單輸出的高階系統或非有理函數 G(s),主要希望能將其表示為 如下m 階具時延的近似模式H sm( ): 1 0 1 1 1 0 1 1 ( ) d m s m m m m m b b s b s H s e a a s a s s τ − − − − − + + = ⋅ + + + L L (1)
而H sm( )包含了G(s)的特徵。在本文中,將依據如下的L2誤差性能指標(L2-error performance index ):
2 0 | ( ) ( ) | N m i m i J G jω H jω = =
∑
− i (2) 其中ω 為頻率點,i=1,2,… ,N,搜尋 G(s)的最佳化近似式i H sm( )。亦即,本文目標希望在ω 點時,G(s)i 與H sm( )的L2誤差性能指標越小越好。倘若G(s)為漸近穩定(asymptotically stable ),則原系統 G(s)和近式模式 ( ) m H s 滿足 ) 0 ( ) 0 ( G Hm = (3) 藉由此限制條件,主要是可確保輸入訊號為單位步階響應(unit-step response)時,G(s)與H sm( )具有相同的 穩態響應值。而參數的最佳化選擇,則是以最小化式(2)之性能指標為準則並藉由傳統的基因演算法與具菁英政 策之基因演算法去尋找出最佳之參數,ai、 、bi τ ,i=0,1,… ,m-1。 d初始設定 隨機產生初始族群的個體 編碼及適應值計算 選擇與複製 單點交配 突變 產生新的子代族群 是否達到 收歛條件? 停止 是 否 圖1 傳統基因演算法機制流程圖 圖2 含菁英政策之基因演算法機制圖
3. 含菁英政策之基因演算法
傳統基因演算法在尋找過程中,藉由所定義的適應度函數(fitness function)作為演化過程中的性能指標依 據,再經由演化機制-複製、交配、突變,適切地調整搜尋的方向及區域,使能逐漸搜尋到最佳解,如圖1 所 示。 為加速傳統基因演算收斂速度和降低GA 過早收歛落入局部最佳解,我們在演化的機制中,加入菁英政策, 即含菁英政策之基因演算法(genetic algorithm with elitism, GAE),如圖 2 所示,主要是在於舊有母代族群染色體 的解碼及適應值的計算時,先保留適應值較高的染色體,經由選擇複製後,將最佳適應值的染色體放入新的子 代族群中。再經由單點交配後,再將先前的最佳適應值的染色體,再放入所產生新的子代族群中。最後經由突 變的機制,所產生出來的最新子代族群中,再將初始族群中所取出之最佳適應值之染色體放入最新產生出子代 族群中,進而產生一組新的子代族群,最終判斷是否達到最佳收斂,若達最佳收歛及停止計算;若沒有則繼續 反覆執行,直到最佳收斂為止。此機制主要是想要保留最好的適應函數值,且可保證在經過基因演算法中的選 擇複製、交配、突變等運算子時,皆可以保留原先最佳的適應函數值。1 2 ( 1) ( 1)( 1) d d od K s e s s τ τ τ + + + 1 1 r r K s τ + 2 1 r r K s τ + 圖3 系統 G(s)的流程區塊圖
4. 模擬與結果
考慮如圖3 的流程區塊圖[1,19],其為反應器(reactor )與分離器( separator )所構成的回饋系統。簡化此回饋 系統,輸入與輸出間的轉移函數可表示為 1 1 2 2 ( 1) ( ) ( ) ( ) ( 1)( 1)( 1) ( 1) d d s d r od s r r d o k k s e Y s G s U s s s s k k s e θ θ τ τ τ τ τ − − + = = + + + − d + (4) 式中,各參數值分別為kr1=0.258,kr2 =0.281,kd =1.4494,θd =0.2912,τ1=1.9624,τ2 =0.43256,τr =1.3498 和τod =0.3684。此系統的頻率響應和單位步階響應,如圖4 和圖 5 所示。 -0.1 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 -0.4 -0.3 -0.2 -0.1 0 0.1 Im agin ar y pa rt of ( ) Gj ω Real part of (G jω) 0 ω= ω= ∞ 圖4 原系統 G(s)的頻率響應圖 0 5 10 15 20 25 30 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 ()yt 圖5 原系統 G(s)的時域單位步階響應圖 本文目的是利用基因演算法求解轉移函數G(s)的二階和三階含時延的最佳近似模式 2, 2, 2, 2 2 2,1 2,0 ( ) ( ) k p s z ds H s e s a s a τ τ − + = ⋅ + + (5) 3, 3, 3, 3 3 2 3,2 3,1 3,0 ( ) ( ) k p s z ds H s e s a s a s a τ τ − + = ⋅ + + + (6) 而其性能指標採用式(2)且頻率點值 102 0.1i 10 , 10 , 2 3 0,1,..., ( 50)。 i i N ω = − + ∈⎡ − ⎤ = = ⎣ ⎦ 因於步階輸入時,原系統和近似模式必須具有相同的穩態響應值,依據限制條件式(3),得H2(0)=G(0)和 ,即 3(0) (0) H =G z d r d r p k k k k k a 2, 1 2 , 2 0 , 2 ) 1 ( τ − = (7) z d r d r p k k k k k a 3, 1 2 , 3 0 , 3 ) 1 ( τ − = (8)因此針對二階含時延近似模式H s2( ),我們要尋找的最佳參數分別為a2,1、k2, p、τ 及2,z τ ,而三階含時延2,d 近似模式H s3( )之最佳參數為a3,1、a3,1、k3, p、τ 及3,z τ 。由於 G(s)是穩定的,故每個參數的範圍將限制在[0,∞)。 3,d 圖6 以基因演算法與本文提出的方法應用於二階最佳 近似之性能指標J 迭代收歛情形 圖7 以基因演算法與本文提出的方法應用於三階最佳 近似之性能指標J 迭代收歛情形 設定基因演算法的基本參數如表 1,並於菁英政策中,保留最佳的 3 個族群。以傳統的基因演算法與含菁 英政策之基因演算法,在[0 1]、[0 10]、[0 50]、[0 100]等四個參數搜尋範圍內,各執行十次尋找二階與三階近似 模式的最佳化參數。二階式和三階含時延近似模式之各搜尋範圍最佳性能指標迭代結果和最佳性能指標值 J 分 別如圖6、圖 7 和表 2、表 3 所示。由圖 6 和圖 7 可發現,含菁英政策之基因演算法的性能指標和收歛速度明顯 優於傳統基因演算法。同時,當搜尋範圍較小或較大時,將導致搜尋到的參數值陷入局部最佳化,使得性能指 標J 值無法收歛至最佳解。對於二階和三階含延近似模式均於搜尋範圍[0 10]時,獲得最小性能指標值。 表1 基因演算法的基本參數設定值 族群大小 基因長度 演算世代數 交配率 突變率 100 個 10 bit 3000 次 0.6 0.05 表2 二階含時延近似模式的性能指標值 搜尋範圍 J2(GA) J2(GAE) [0 1] 1.971683×10-3 1.896747×10-3 [0 10] 5.223445×10-4 1.496797×10-4 [0 50] 1.008676×10-2 7.897295×10-3 [0 100] 1.024441×10-2 8.168971×10-3 表3 三階含時延近似模式的性能指標值 搜尋範圍 J3(GA) J3(GAE) [0 1] 2.875065×10-3 1.508215×10-3 [0 10] 1.900000×10-5 4.245053×10-6 [0 50] 2.020785×10-5 7.524596×10-6 [0 100] 3.440333×10-5 1.627114×10-5
由表2 得知,本文提出的方法應用於搜尋二階含時延近似模式之最佳性能指標為J2,GAE=1.496797 10× ,其 對應之最佳化模式為 0.488759 * 2. 2 0.01955( 7.507331) ( ) 1.358749 0.232638 s GAE s e H s s s − + = + + (9) 由表 3 得知,本文提出的方法應用於搜尋三階含時延近似模式之最佳性能指標為 * 6 3,GAE 4.245053 10 J = × − , 其對應之最佳化模式為 0.312805 * 3, 3 2 0.127077( 3.851417) ( ) 4.789834 4.760508 0.775763 s GAE s e H s s s s − + = + + + (10) 同時,由表 2 和表 3 得知,以傳統基因演算法獲得二階和二階含時延近似模式之最佳性能指標分別為 和 ,其對應之最佳化模式分別為 * 4 2,GA 5.223445 10 J = × − * 3,GA 1.900000 10 J = × −5 0.625611 * 2, 2 0.039101( 3.460411) ( ) 1.251222 0.233244 s GA s e H s s s − + = + + (11) 0.26393 * 3, 3 2 0.087977( 7.829912) ( ) 6.207234 6.608016 1.091853 s GA s e H s s s s − + = + + + (12) 為了呈現本文提出的方法有效性,以GA 和 GAE 獲得之各階最佳化近似模式與原系統的頻率響應誤差大小 * ( ) m( ) G jω −H jω ,如圖8 所示。圖 8 顯示,本文提出的方法與原系統頻率響應之近似情形優於傳統基因演算法。 另外,為比較近似模式於時域與原系統的近似情形,令 和 分別為原系統 和最佳近似模式 之 單位步階輸入響應,。原系統與最佳近似模式原系統與最佳近似模式間之單位步階誤差響應,如圖9 所示。定 義原系統與最佳近似模式間之單位步階響應誤差積分平方如下: ( ) y t *( ) m y t G s( ) *( ) m H s
(
)
2 * 0 ( ) ( ) m m I =∫
∞ y t −y t dt (13) 上式可使用具調整的步階大小之能力來做準確度控制的數值積分策略計算獲得[20]。利用本文提出的方法獲 得之單位步階響應誤差積分平方為 * -2,GAE 9.756870 10 I = × 6 7 5 6 (14a) * -3,GA 2.654838 10 I = × (14b) 利用傳統基因演算法獲得之單位步階階響應誤差積分平方為 * -2,GA 4.236206 10 I = × (15a) * -3,GA 6.558553 10 I = × (15b)比較圖9 和上述的誤差積分平方值,本文提出的方法與原系統時域響應之近似情形明顯優於傳統基因演算法。 * () ()m Gj H j ωω − Frequecy( )ω 10-2 10-1 100 101 102 103 10-7 10-6 10-5 10-4 10-3 10-2 二階近似式(GA) 二階近似式(GAE) 三階近似式(GA) 三階近似式(GAE) 圖8 原系統與最佳近似模式的頻域誤差大小響應圖 Time (second) * () () m yt y t − 0 20 40 60 80 -2 -1 0 1 2 3 4 5 6x 10 -3 二階近似式(GA) 二階近似式(GAE) 三階近似式(GA) 三階近似式(GAE) 圖9 原系統式與最佳近似模的時域單位步階響應誤 差圖
5. 結 論
本文所提出的含菁英政策之基因演算法尋找最佳近似模式,於性能指標、頻率響應和時域響應,均較傳統 的基因演算法為佳。但是,和傳統的基因演算法相同,在不同參數搜尋範圍就會得到不同之近似效果,當參數 搜尋範圍設定的太小或太大,就都會造成基因演算法在運算時,而引起了參數的局部最佳化,導致運算提早收 歛,而無法得到最佳的近似解。整體而言,基因演算法的交配率及突變率、參數搜尋範圍和菁英政策保留最佳 染色體個數等參數之設定,均會影響到基因演算法應用於模式是最佳近似之結果。參考文獻
[1] Hugo A. J., Taylor P. A., and Wright J. D., “Approximate dynamic models for recycle systems,” Ind. End. Chem. Res., vol. 35, pp. 485-487, 1996.
[2] Fortuna L., Nunnari G., and Gallo A., Model Order Reduction Techniques With Applications in Electrical Engineering. London, U.K.: Springer-Verlag, 1992.
[3] Bultheel A. and Van Barel M., “Padé techniques for model reduction in linear system theory: A survey,” J. Comput. Appl. Math., vol. 14, pp. 401-438, 1986.
[4] Mittal S. K., Chandra D., and Dwivedi B., “Improved Routh-Padé approximants Using Vector genetic algorithm to unstable systems,” Int. J. of Engr. and Appl. Sci., vol. 1, issue 2, pp. 1-14, 2009.
[5] Hutton H. F. and Friedland B. F., “Routh approximations for reducing order of linear time-invariant systems,” IEEE Trans. Auto. Control, vol. 20, pp. 329-337, 1975.
[6] Panda S., Tomar S. K., Prasad R., and Ardil C., “Reduction of Linear Time-Invariant Systems Using Routh-Approximation and PSO,” Int. J. of Appl. Math. and Comp. Sci., vol. 5, pp. 82-89, 2009.
[7] Moore B. C., “Principal component analysis in linear systems: Controllability, observability and model reduction,” IEEE Trans. Automat. Contr., vol. 26, pp. 17–31, 1981.
[8] Zilouchian A., “Balanced structures and model reduction of unstable systems,” in Proc. IEEE Southeastcon, vol. 2, pp. 1198-1201, 1991.
[9] Kung S. Y. and Lin D. W., “Optimal Hankel-norm model reductions: Multivariable systems,” IEEE Trans. Automat. Contr., vol. AC–26, pp. 832–852, 1981.
pp. 161-175, 1991.
[11] Collins E. G., Ying S. S., Haddad W. M., and Richter S., “An efficient, numerically robust homotopy algorithm for H2 model
reduction using the optimal projection equations,” Math. Modeling Syst.: Meth., Tools Applicat. Eng. Rel. Sci., vol. 2, pp. 101-133, 1996.
[12] Spanos J. T., Milman M. H., and Mingori D. L., “A new algorithm for L2 optimal model reduction,” Automatica, vol. 28, pp.
897-909, 1992.
[13] Krajewski W., Lepschy A., Mian G. A., and Viaro U., “Optimality conditions in multivariable L2 model reduction,” J. Franklin
Inst., vol. 330, pp. 431-439, 1993.
[14] Grigoriadis K. M., “Optimal H∞ model reduction via linear matrix in equalities: Continuous- and discrete-time cases,” Syst.
Contr. Lett., vol. 26, pp. 321-333, 1995.
[15] Kavranoglu D. and Bettayeb M., “Characterization and computation of the solution to the optimal L∞ approximation problem,”
IEEE Trans. Automat. Contr., vol. 39, pp. 1899-1904, Sept. 1994.
[16] Aplevich J. D., “Gradient methods for optimal linear system reduction,” Int. J. Contr., vol. 18, pp. 767-772, 1973. [17] Holland J. H., Adaptation in Nature and Artificial Systems, University of Michigan Press, 1975.
[18] Goldberg D. E., Genetic Algorithms in Search, Optimization and Machine Learning, Addison Wesley, New York, 1989. [19] Cheng S. L. and Hwang C., “Optimal approximation of linear systems by differential evolution algorithm,” IEEE Trans. on
Systems, Man, and Cybernetics-Part A: Systems and Humans, vol. 31, pp. 698-707, 2001.
[20] Hwang C. and Chuang Y. H., “Computation of optimal reduced-order models with time delay,” Chem. Eng. Sci., vol. 49, pp. 3219-3296, 1994.