• 沒有找到結果。

壓縮與重建的觀念與方法

在數學的推導上,當資料符合稀疏性(Sparse)與不連貫性(Incoherent )取樣樣 本(Sample),則確認此筆資料是稀疏化(sparse)或稱為可壓縮的(compressible)。根

Compressed Data

圖 2-1 壓縮感知編碼流程圖

Compressed

Data Analysis Convex

Optimization Reconstruction

圖 2-2 壓縮感知重建流程圖

7

圖 2-1 為壓縮感知重建的標準方法流程,由(2.1)式觀察可發現為一個 m x n 的數學矩陣表示式。Analysis 步驟是將壓縮數據(compressed data)初步透過線性代 數分析分析無窮解的最佳化的解。由維度定理rank(A)nullity(A)n可發現原 始資料 x 是由n-nullity (A)個坐標軸所延展(span)生成,我們也知道

(A) nullity

-n 並無法映成(onto)於原始資料並了解到 A 的值域將座落在R(AT), 在此空間中勢必有一個最接近 x 的解為最小解(minimal solution),Daubechiest 所提出的 MOF(Method of Frame)[3]確定 Analysis 的值。MOF 的方式為以 2-norm 長度評估 Analysis 最接近資料的結果為

Ax y x subjectto

min 2 (2.4)

則依據線性代數最小解答(minimal solution) y AA A

x*( *)1 (2.5) 由於原始資料結構以及壓縮感知在運用上的不同,Analysis 分為多種方式。以達 到最有利的重建效果.例如由 S. Mallet 和 Z. Zhang 所提出的 MP(Match Pursuit) 或是 Best Orthogonal Pursuit (BOB)[3]。亦有使用直接將壓縮數據取得所對應於

y A x A

R( T),ˆ * 延展空間的值,以加快運算的速度。

我們已經知道,R(AT)Rm,必須要使用最佳化理論統計估算原來資料 (Source data)的數值,本實驗最佳化的演算法方式為 Basis Pursuit (BP),BP 為數 學上最佳化技巧的一種方式,然而實踐的方法隨著研究觀點有多種的方法,對於 運用於壓縮感知的重建中的凸函數最佳化(Convex Optimization)的步驟上其優異 也隨著重建資料的不同也有所差異。

利用牛頓運算子的方法尋找函數的最小位置;即 f '(x)0;時常被使用的一 個技巧.主要是用來解決以下問題:

8 重新以 Primal-dual Method 的方式規劃 LPs(Linear Programming)並利用

Log-barrier 演算 SOCP(Second Order Cone Programs).

Primal-dual method 或稱為 PD 是將函數線性規劃(Linear program)的一個技 巧[6]-[9],以利於演算法上的處理.主要的技巧觀念規畫建構一個可以重原點開 始積分的函數;可積分函數;並且設計一個相關的函數來決定其結果。

此建構的從原點可積分函數為:Primal Leaner Programming 另一個相關函數就稱為: Dual Leaner Programming

標準線性規劃限制為:

x

x c ,

min 0 SubjecttoA0xy, fi(x)0 (2.7)

壓縮感知的重建應用上,yRm,xRn,A0Rmxn, fi(x) ci,xdi

KKT (Karush-Kuhn-Tucker conditions)[6,9],滿足其條件為由(2.7)方程式可以觀察 到壓縮感知利用 KKT 所需要的條件,來統計與重建原來資料.接下來規劃出 Primal functional 和 Dual functional,符合線性規劃(LP)進而利用運算子設計出其 演算法。

前敘述提到,以 Primal-dual method 做線性規劃需要找出系統可以從原點積分方 程式作為 primal function,並設計可以決定其結果的 dual function。

其中的*i fi(x*)0方程式是 complementary slackness condition[9],其中的 τ 式牛 頓運算子(Newton Iterations),可以進一步表示為

)

9

根據 Emmanuel Candes 和 Justin Romberg 所提出的最佳化方法,主要是將(2.9) 式泰勒級數展開式的方式表示出數學方程式[6,9]。如此的話,當系統是可最佳化 的時候,可以使用 log- barrier 的技術實施演算法以實踐牛頓運算子(Newton iterator)的方法完成最佳化程序。

由 2.7 式標準線性表示式,當一個函數 fi(xk)是否為線性(LP)的判定方法,是

我們可以重寫(2.10a)和(2.10b)式使它成為 log-barrier 形式的線性標準表式式:

10 Programs (SOCP),利用梯 g(x)矩陣以及 Hessian 矩陣 H(x)表示泰勒級數為:

x 總結 2.2 節所討論,壓縮感知壓縮數據的重建方法是透過(2.8c)式 KKT primal-dual 設計出 F 集合,其中的功能函數(functional)符合 λk>0 且 fi(xk)<0,它將符合(2.11) 式在限制條件下符合 log-barrier 二次凸函數,進而可以利用牛頓運算子(Newton Iterations)運算凸函數最佳點[6]。

(a) Min-L1 with equality constraints P1

P1 x Ax y

x 1 subjectto 0

min (2.13a)

(b) Min-L1 error approximation PA

PA y Ax Ax y

x1 subjectto 0

min (2.13b)

(c) Min-L1 with quadratic constraints

P2 x subjectto Axb 

x 1 0

min (2.13c)

(d) Min-L1 with bounded residual correlation

PD

(e) Min-Tv with equality constraints

TV1 Ax y

x TV(x) subjectto 0

min (2.13e)

(f) Min-Tv with quadratic constraints

TV2 Axb 

11

Compressed Sensing y

As Compressed Data

Setting Log-Barrier Iteratioin

If ii < lbtal End

Min Energy X0=inverse(A*(AA*))y

KKT Primal-Dual Setting

Back-Tracking loop

Loop-backtracking Iteration >32

Lamda2/2<newtontol Or

Niter >= newtonmax

圖 2-3 壓縮感知軟體程序流程圖

(2.13a)至(2.13g)式是 J. Romberg 所提出以 BP 數值演算法重建壓縮感知的原始資 訊的基礎方法。[6]

圖 2-3 是模擬壓縮感知的實作模擬程序,設定完成 Log-barrier 所需要的演 算參數;如 lbtal 表示 log-barrier 演算迭代的次數,若是 lbtal 的設定範圍內,則 開始執行所需要的演算。

於 Minimal Energy 的階段,即可得到系統的最小解,之後將以 KKT primal-dual condition 的技巧得到一個 SOCP 所需要的凸函數,執行 Newton-step Optimization,

12

持續監看 Loop-backtracking Iteration 迭代的設定次數和 Newton-step 的迴圈次數 和最佳解所設定的值,直到符合設定就完成程序。

相關文件