行政院國家科學委員會專題研究計畫 成果報告
細胞神經網路與線性矩陣不等式應用於影像雜訊之消除
研究成果報告(精簡版)
計 畫 類 別 : 個別型
計 畫 編 號 : NSC 95-2221-E-151-048-
執 行 期 間 : 95 年 08 月 01 日至 96 年 07 月 31 日
執 行 單 位 : 國立高雄應用科技大學電子工程系
計 畫 主 持 人 : 蘇德仁
計畫參與人員: 碩士班研究生-兼任助理:黃詩淳、張俊偉、王崧任、劉家
偉、侯承志、張名宏
報 告 附 件 : 出席國際會議研究心得報告及發表論文
處 理 方 式 : 本計畫可公開查詢
中 華 民 國 96 年 08 月 02 日
行政院國家科學委員會補助專題研究計畫成果報告
行政院國家科學委員會補助專題研究計畫成果報告
行政院國家科學委員會補助專題研究計畫成果報告
行政院國家科學委員會補助專題研究計畫成果報告
※※※※※※※※※※※※※※※※※※※※※※※※※
※
※
※
細胞神經網路與線性矩陣不等式應用於影像雜訊之消除
※
※ ※
※※※※※※※※※※※※※※※※※※※※※※※※※
計畫類別:█個別型計畫 □整合型計畫
計畫編號:NSC95-2221-E-151-048
執行期間:95 年 8 月 1 日至 96 年 7 月 31 日
計畫主持人:蘇 德 仁 教授
研究助理 :黃詩淳、張俊偉、王崧任、
劉家維、張名宏、侯承志
成果報告類型:█精簡報告 □完整報告
執行單位:國立高雄應用科技大學電子系
中 華 民 國 九十五年七月三十一日
1
行政院國家科學委員會專題研究計畫成果報告
行政院國家科學委員會專題研究計畫成果報告
行政院國家科學委員會專題研究計畫成果報告
行政院國家科學委員會專題研究計畫成果報告
細胞神經網路與線性矩陣不等式應用於影像雜訊之消除
Image Noise Cancellation Using
Linear Matrix Inequality and Cellular Neural Network
計畫編號:NSC95-2221-E-151-048
執行期限:95 年 8 月 1 日至 96 年 7 月 31 日
主 持 人:蘇 德 仁 國立高雄應用科技大學電子系
研究助理:黃詩淳、張俊偉、王崧任、劉家維、張名宏、侯承志
E EEE----Mail:Mail:Mail:Mail:stujstujstuj@cc.kuas.edu.twstuj@cc.kuas.edu.tw@cc.kuas.edu.tw @cc.kuas.edu.tw
一
一
一
一、
、
、
、中文摘要
中文摘要
中文摘要
中文摘要:
:
:
:
在本計劃中,我們將提出以細胞神經 網路及線性矩陣不等式之技術應用於影像 做雜訊的消除。此計畫最主要的目的是利 用一張受雜訊干擾的影像以及其對應的理 想未受雜訊干擾的影像來訓練細胞神經網 路的模板(“A”模板以及“B”模板)。然後, 我們將利用此已求得模板的細胞神經網路 系統來重建其它受雜訊干擾之影像。 一開始我們將根據李亞普納穩定性理 論來推導出細胞神經網路的平衡點的唯一 性以及全域漸近穩定的條件(也就是細胞神 經 網 路 的 “A” 模 板 將 在 這 一 階 段 被 求 解 出)。接下來,我們將使用數學分析的方法 來設計細胞神經網路的“B”模板使其能讓細 胞神經網路的輸出能夠達到我們所期望的 輸出值,我們期望整個影像雜訊消除的問 題可以用線性矩陣不等式的方法來解決。 然而在最後我們將利用模擬的結果來說明 我們所提出的方法在實際影像雜訊消除方 面的成效。
關鍵字
關鍵字
關鍵字
關鍵字:
:
:
:
細胞神經網路、線性矩陣不等 式、全域漸近穩定、李亞普納穩定性理論Abstract:
:
:
:
In this project, the technique of image noise cancellation is presented by employing cellular neural networks (CNN) and linear matrix inequality (LMI). The main objective is to train the templates of CNN by a corrupted image and a corresponding desired image. Then the CNN with given templates is employed to reconstruct other corrupted image.
First, a criterion for the uniqueness and global asymptopic stability of the equilibrium point of CNN is presented based on the Lyapunov stability theorem (ie., “A”template of CNN is solved at this step). Next, using the mathematical analysis approach, “B” template of CNN is designed to achieve desirable output. It is shown that the problem of image noise cancellation can be characterized in terms of LMIs. Finally, the simulation results will be illustrated that the proposed method is effectiveness for practical application.
Keywords :
:
:
:
cellular neural networks (CNN) 、 linear matrix inequality (LMI) 、 global asymptopic stability 、 Lyapunov stability2
二
二
二
二、
、
、研究
、
研究
研究
研究目的
目的
目的
目的:
:
:
:
過去幾年來,有多位學者致力於研究 如何設計模板“A”與“B”以使細胞神經網路 能應用在影像處理方面。例如在[1]中,P. Lopez、D. L. Vilarino 和 D. Cabello 提出了 混合基因演算法以及多層的細胞神經網路 來設計模版。在[2]中 L. Ming 和 L. Min 利 用簡易數學分析方式來設計細胞神經網路 的模版。在[3]中,R. P. Matei 提出了一個 細胞具 有滯 後非線 性特 性的細 胞神 經網 路,然後再利用數學分析的技巧來設計模 版。 於這些影像處理的應用中,我們發現 這些學者為了要找出適當的模板,他們必 須將模版簡化。在[1]中,為了要減少基因 演 算 法 的 解 空 間 ( 也 就 是 要 減 少 搜 尋 時 間),該作 者必 須將模版簡 化。 在[2,3] 中 , 若 是 作 者 未 將 模 板 “A” 做 適 當 的 簡 化,其將造成無法利用數學分析來實現模 版設計。在此計畫中我們將利用細胞神經 網路的平衡點的唯一性以及全域漸近穩定 性的觀念來求出模板“A”。 若已知模板“A”且想要利用線性矩陣 不等式的方法來證明細胞神經網路系統的 全域漸近穩定性是相當容易的。但是至目 前為止這些都單單只是理論上的推導,都 尚未有實際層面的應用。且只能在已知模 板“A”的情況下才能用來探討系統的穩定 性。於此計畫中,我們將利用所求出之細 胞神經網路模板應用至影像雜訊消除的問 題上。
三
三
三
三、
、
、
、研究方法
研究方法
研究方法
研究方法:
:
:
:
此計劃中,我們主要是利用一組給定 的訓練樣本,然後搭配所推導出之準則求 出細胞神經網路的模板“A”和“B”。其中此 組訓練樣本是由一張受到雜訊干擾的影像 以及其對應的理想未受雜訊干擾的影像所 構成(也就是所訓練出的模板必定會使得此 受雜訊干擾影像經過細胞神經網路處理後 會 得到 其對應 的理 想未受 雜訊 干擾的 影 像)。我們藉由此組給定的訓練樣本訓練出 能夠消除雜訊的模板其架構如下圖所示 圖(一) 訓練架構 在圖(一)中,我們主要是利用較小張 的圖像作為訓練樣本(如圖(二) 所示)並 訓練出模板,我們希望所訓練出的模板可 以被用來消除其他較大的且受到雜訊干擾 的圖像。 圖(二) (a)受雜訊干擾影像 (b)對應理想未受雜訊干擾影像
四
四
四
四、
、
、結果與討論
、
結果與討論
結果與討論
結果與討論:
:
:
:
根據訓練架構(見圖(一)),我們首 先取得一個基於李亞普納函數穩定定理細 胞神經網路平衡點之唯一性及全域漸進穩 定 性準 則(即 解出 細胞神 經網 路的模 板 “A”)。接著使用數學分析方法,設計細胞 神經網路模板“B”使之在穩定狀態下實現輸 出y 。 ∗ 實驗一實驗一實驗一 實驗一 考慮雙極訓練樣本(見圖(三))包含 給定的訓練樣本 細胞神經網路 線性矩陣不等式 受到雜訊干擾的影像 對應理想未受雜訊干擾影像 利用線性矩陣不等式訓練出的模板 “A”和“B” 其他受雜訊 干擾之影像 經過細胞神經網路 消除雜訊後之影像 (a) (b)3 5%雜訊的受干擾影像和其對應的期望影像 來訓練細胞神經網路模板。 圖(三) 訓練樣本 (a) 5%雜訊的受干擾影像 (b) 期望影像 我們得到如下模板 A5% 和 B5% A5%= B5%= 實驗二實驗二實驗二實驗二 考慮雙極訓練樣本(見圖(四))包含 10%雜訊的受干擾影像和其對應的期望影 像來訓練細胞神經網路模板。 圖(四) 訓練樣本 (a) 10%雜訊的受干擾的影像 (b) 期望影像 我們得到如下模板 A10% 和 B10% A10%= B10%= 在計算模板後,輸入含有各種雜訊比 率的 LENA 影像到細胞神經網路的輸入 端,然後我們會得到細胞神經網路輸出的 重 建 影 像 。 當 輸 入 影 像 雜 訊 比 率 為 5% 時,圖(五)顯示未經處理前有雜訊的影像 和經細胞神經網路處理過後的圖形。 圖(六)展現的結果是當輸入影像雜訊 比率為 10% 時,未經處理前有雜訊的影像 和經細胞神經網路處理過後的圖形。為了 計算在不同雜訊比率時的效能,我們提出 重建誤差率方法,如下 100% 2 ˆ ~ 1 1 × − =
∑∑
= = MN y y M i N j ij ij γ 其中~
y
ij 為理想影像的映像點(如圖(五)(a) 及圖(六) (a),yˆ
ij為細胞神經網路輸出重建 的映像點 ,M 和 N 為列及行的範圍(SIZE) 大小。 另外,重建誤差率與輸入受干擾的影 像雜訊比率之比值,如以下的指數表示式 100% × − = image corrupted the of ratio noise image corrupted the of ratio noise γ η較小的γ 值和較大的η值明顯較好, 我們將用這些值比較多種模版細胞神經網 路的性能。圖(七)和圖(八)中分別展現在不 同雜訊比率下不同模板的
γ
和η
值。 從圖(五)和圖(六)可以看到所提出的細 胞神經網路重建輸出影像效果是良好的。 而且,圖(七)和圖(八)的結果能表現出用較 高雜訊比率訓練樣本所訓練出的模板勝過 低雜訊比率的模板。並在圖(七)和圖(八)中 可以看出,我們所提出的細胞神經網路能 夠有效地消除雜訊,受干擾的影像雜訊約 被消除百分之九十。 (a) (b) -10.0718 7.2009 10.8975 -0.4159 -9.3977 0.8350 -10.3008 -7.2822 10.3225 22.7446 3.5208 0.6006 11.8485 24.1257 10.5424 21.6440 5.9648 1.8121 (a) (b) -2.8107 6.0507 -8.9027 -2.0066 -9.4413 3.0729 9.1743 -5.8931 3.2050 8.1918 19.6384 18.5049 10.4013 17.6569 9.1306 13.5312 23.8828 5.16214 圖(五) 雜訊比率為 5% (a) 理想的影像;(b) 細胞神經網路處理前 的影像;(c) 細胞神經網路模板 A5%和 B5% 處 理 後 的 影 像 ; (d) 細 胞 神 經 網 路 模 板 A10%和 B10% 處理後的影像 圖(六) 雜訊比率為 10% (a) 理想的影像; (b) 細胞神經網路處理前 的影像;(c) 細胞神經網路模板 A5%和 B5% 處 理 後 的 影 像 ; (d) 細 胞 神 經 網 路 模 板 A10%和 B10% 處理後的影像
圖(七) 在細胞神經網路不同模板中與 γ 值的對照圖
圖(八) 在細胞神經網路不同模板中與 η值的對照圖
四
四
四
四、
、
、成果自評
、
成果自評
成果自評
成果自評:
:
:
:
我們學習到影像雜訊消除應用在細胞 神經網路系統中。基於李亞普納穩定性定 理,提出一個新的方法來設計影像雜訊消 除模板,此問題可用線性矩陣不等式來描 述其特性。與一般傳統方法設計的簡單模 板大不相同,我們提出的方法可以得到較 滿意的模板。 在本研究中,我們主要是利用 MATLAB 來當作軟體工具,其主要目的是消除受干 擾的影像,由實驗能夠發現我們使用的方 法在恢復原始圖片上有較佳的效率。 (a) (b) (c) (d) (a) (b) (c) (d) 0% 5% 10% 15% 20% 0% 0.5% 1% 1.5% 2% 2.5% 3%
noise ratio of input corrupted image Using CNN with templates and Using CNN with templates and
γ A A BB 0% 5% 10% 15% 20% 60% 65% 70% 75% 80% 85% 90% 95%
noise ratio of input corrupted image Using CNN with templates and Using CNN with templates and
η
A A BB
5
五
五
五
五、
、
、
、參考文獻
參考文獻
參考文獻
參考文獻
[1] P. Lopez, D. L. Vilarino, and D. Cabello, “Design of multilayer discrete time cellular neural networks for image processing tasks based on genetic algorithms,” IEEE Int. Symposium on Circuits and Systems, vol. 4, pp.133-136, May 2000.
[2] L. Ming and L. Min, “The robustness design of templates of CNN for detecting inner corners of objects in gray-scale images,” IEEE Int. Conference on Communications, Circuits and Systems, vol. 2, pp.1090-1093, June 2004.
[3] R. P. Matei, “Image processing using hysteretic cellular neural networks,” IEEE Int. Symposium on Circuits and Systems, vol. 4, pp.129-132, May 2000.