第二章 :文獻回顧與探討
2.1 直方圖等化
2.1.1 直方圖等化(HE ,Histogram Equalization)
直方圖等化是目前許多影像強化方法的基礎,他把原本集中在某
直方圖等化是最早被提出來的影像強化方式,基於當初的影像 強化的不成熟,所以基本的直方圖等化依然有很多的缺點,包括刷白 效應,以及無法保持圖片亮度等...。
圖 1、直方圖等化刷白效應
圖 2、直方圖等化
, 其中 1, 2, … , 1
再分別算出 和 的累加機率, 和 ,算式如下:
和
最後把機率還原成亮度:
和
上面的步驟已經分別把直方圖的兩邊強化完成了,接下來要將已經強 化完的兩邊重新合為一張圖:
,
直方圖二分法基本上就是直方圖等化的延伸,步驟幾乎都跟直方圖等 化一樣,只是把圖切開再分開強化,最後再進行合併,這樣可以有效 的保持影像的亮度,但是對於本來就偏暗又都是單一亮度的影像,就 無法產生多大的差異。
圖 3、直方圖二分法
2.1.3 對比限制適應性直方圖等化(CLAHE ,Contrast Limited Adaptive Histogram Equalization)
普通的直方圖等化有過度放大圖像中相同區域的雜訊的問
題,CLAHE(限制對比直方圖等化)是一種被研發出能有效排除這種不 利的放大的算法。
相較於直方圖二分法的不同,CLAHE 是將直方圖橫切分割,並 把橫切出來多餘的部分平均的分布於直方圖的底部,使直方圖可以平 順一點。
CLAHE 切線的值是使用者自己設定的,所以如果設的太高就會沒有 裁切的任何的值,變成普通的直方圖等化。設的太低就會變成過度強 化,產生不自然的影像。
圖 5、動態直方圖等化影像拉開
找好分割點之後我們要改變每個區塊的距離,將區塊拉展開來,
使用以下的公式來計算新的距離:
先計算原本區塊的距離
接下來計算調整距離所需要的函數, 為使用者可以自己調整強 化強度的係數
使用剛剛的式子去計算出新的區塊距離
∑ 1
接下來我們要對已經展開完的直方圖區塊做直方圖等化,使用 以下的算式:
和 分別為每區塊的最初亮度及最後亮度
Enhancement Using a Contrast Measure in the Compressed Domain)
在 DCT 域的影像強化優點是可以不影響影像的原始壓縮,在資料量 廣大的現代當中,在 DCT 域的影像強化是被大家所普遍使用的,而 這篇文章所提出的方法,適用於任何基於 DCT 域的圖像壓縮,例如 JPEG,MPEG-2 和 H261。
首先要先把影像從空間域轉換到頻率域,轉換的公式:
1
最後再轉換回空間域:
圖 6、8 8 矩陣頻帶
2.2.2 在壓縮域中的全域影像強化(Global Image Enhancement based on Compression Domain)
為了要解決壓縮域中過度的影像強化所產生的區塊效應,這個方法將
圖 7、8 8 區塊合併為 16 16 區塊示意圖
由於每個頻段所需要強化的強度都不相同,所以合併完成之後將區塊 分成三個區域,分別是高頻中頻低頻,再分別對三個不同的區塊進行 不同的強化。
首先計算頻段的平均值:
2
4 3 4
4 3 4
接下來算出每個頻段的對比:
、 和 分別是高頻低頻中頻的增強係數:
接下來計算影像的區塊對比和整體對比,判斷它們是否適合使用在這
Visual Quality Condition Global Lightness and contrast Adjustment
由於現代科技的發展,壓縮過的影像已經是現代人強化影像的主 流了,如 JEPG 等影像格式,就是使用了離散餘弦(DCT)的轉換方式將 圖片轉換至頻率域中並加以強化。但是轉換至頻率域的影像是 8 8 的影像區塊,以往使用的頻帶強化方法因為區塊間亮度差異太大會導 致嚴重的區塊效應,為了讓頻率域的影像能夠有更好的影像強化,在 之前的論文提出了將 DCT 的區塊由 8 8 合併至 216 216 甚至是 512 512 的整張影像大小,合併之後 DCT 區塊由於沒有區塊間的亮度 差異,在進行影像強化之後就不會有明顯的區塊效應,合併至整張的 DCT 區塊我們稱為類壓縮域。
後來實驗室也提出了將 DCT 後的 8 8 區塊向下分解的方法,分 解後的區塊特性非常接近空間域,所以我們將他稱為類空間域,轉換 成類空間域後的區塊就可以在頻率域當中使用直方圖等化的強化方 法。
3.1 空間域與頻率域的轉換
圖 8、空間域與頻率域轉換流程圖
要進行頻率域的像強化之前,首先要先把影像從空間域轉換到頻 率域,轉換的公式:
,
4,
2 116 2 1 16 而
, 0,1, … ,7
1
圖 9、Haar transform 轉換 DCT 區塊
以下是 DCT 區塊合併的步驟,將 4 個 8 8 的 DCT 區塊合併成 16 16 的 DCT 區塊:
圖 10、合併 DCT 區塊
首先將 A、B、C、D 四個 DCT 區塊合併成一個區塊 G ,而A 、B 、 C 、D 分別為 A、B、C、D 在 G 當中對應的位置,A 、B 、C 、D 的 值分別為:
′ 4
對應的位置,A、B、C、D 的值分別為:
3.3 使用快速 Haar transform 向下分解到類空間域
我們提出了一個快速 Haar transform,不同於以前 Haar transform 的繁複計算,快速 Haar transform 只需要計算一次就可以將頻率域中 的 DCT 區塊轉換到類空間域或是類壓縮域。
圖 14、快速 Haar transform 分解流程圖
首先介紹將 8 8 區塊快速分解至 1 1 區塊的方法,這裡先把一 個 8 8 DCT 區塊假設是 G,我們先把 G 分成 4 個 4 4 的區塊,分別 將它稱為 A、B、C、D,A、B、C、D 的表示分別為:
,
∈ 0 4′
維陣列所組成的影像,而屬於頻率域的類空間域是ㄧ種數位訊號,
在人眼中看頻率域的影像會有很多區塊,但是對於機器來說跟空 間域是類似的。在色彩的分佈中可以很明顯的看到雖然類空間域 是訊號影像,還是可以看出來色彩分佈跟空間域的影像是ㄧ樣的,
而亮度的分佈也是ㄧ樣的,轉換至類空間域之後依然保有跟空間 域中一樣的亮度。
原始影像(空間域) 類空間域 快速類空間域
圖 18、原始影像與類空間域影像比較
iii. 接下來我們使用 chi square 的公式來計算每個影像之間直方圖 的相似度,以下是 chi square 的公式:
我們分別對空間域,類空間域,快速類空間域三個影像的直方圖 做 chi square 交叉比較,使用上面那張圖來做比較,chi square 的 値越小代表影像的直方圖越相似,由下表可以看到類空間域及快速空 間域跟空間域的 chi square 値都很小代表三個影像的直方圖都非常 接近。
空間域 類空間域 快速類空間域
空間域 0 40.04227 90.67905 類空間域 40.04227 0 90.81454 快速類空間域 90.67905 90.81454 0
表 1、chi square 比較
由以上三個部分的觀察可以發現類空間域的性質跟特性都非常接近 空間域,所以我們可以在類空間域中進行在空間域中所進行的直方圖 強化方法,並又同時擁有壓縮的優點。
3.5 影像的直方圖處理
在直方圖等化的影像強化方法發表之後,陸續的也有很多學者提
出了基於直方圖等化所加強的影像強化方法,例如前面文獻中所提到 BBHE
、
CLAHE 等,都是基於直方圖等化而加以改良的方法,直方圖 等化是根據影像的直方圖分布來加以計算並強化,可以直接於直方圖 上面做強化能夠減少更多的複雜度,也有效的對影像進行強化。在進行強化之前,我們就可以透過影像的直方圖來對此張影像的 特性做觀察,例如這張影像的直方圖可能會在強化之後產生雜訊或者 亮度過亮,所以在強化之前我們就要對影像的直方圖進行調整。
圖 19、直方圖分佈限制流程圖
1 , 代表裁切值也就是影像的平均亮度,
、
分別表示影像的長的參考值,它將取代掉 和 , 和 分別是低於平均值
式,使直方圖的各個亮度出現次數差異變大,直方圖等化
為了更清楚直方圖分佈限制的結果,我們取一張偏暗的影像來進 行直方圖分佈限制,並觀察強化前後的直方圖分佈改變。
圖 21、偏暗圖片
原始影像直方圖 直方圖分佈限制後直方圖
圖 22、直方圖分佈限制後直方圖
轉換至類空間域之後的 DCT 區塊,由於性質接近空間域,所以
如果
讓多的亮度數量一樣比較多去執行直方圖等化。
原始影像直方圖 修改後直方圖 圖 23、修改影像直方圖 最後再進行直方圖等化的強化,先計算機率:
, ∈ 0, … , 1 是修改完的直方圖數目總數:
接下來算累加機率:
.
再將機率 0~1 之間轉換回亮度:
最後再將類空間域轉回頻率域,再從頻率域使用 IDCT 轉回空間域,
就完成此篇論文所提出的在類空間域進行影像強化的方法。
第四章:研究成果
4.1 實驗環境
開發軟體: Microsoft Visual Studio C# Express 2013
作業系統:
Microsoft Windows 7 企業版 64bits
近乎一樣的影像,實際上品質的好壞卻差很多,所以這時候我們就需
接下來是 WBQM(Wang–Bovic-Quality-Metric),這是ㄧ個用來判 斷影像視覺品質的公式,計算的公式如下
只取他的亮度來判斷,所以就是 Y-WBQM。
的對比差異。
438.50 119.81 275.01 430.13 402.78 405.27 493.57 162.46 264.55 269.39
Y-WBMQ * 0.55 0.42 0.70 0.77 0.77 -0.03 0.82 0.89 0.76
Haar transform 的計算時間比 Haar transform 確實減少,而且 EME 也確實的增加了,雖然在 Y-WBMQ 方面的表現有減弱了一點,但是整
體而言在其他方面的效果都有增加。
931.31 602.18 777.14 811.90 838.54 836.36 873.49 541.77 569.99 511.64
Y-WBMQ * 0.34 0.58 0.74 0.80 0.80 0.26 0.81 0.68 0.66
Original HE GC-CHE QDHE Tang MMCE 2D-DCT 512 512
863.80 558.55 657.17 748.86 704.57 688.37 768.77 386.52 483.79 424.97
Y-WBMQ * 0.24 0.20 0.51 0.66 0.67 0.03 0.69 0.66 0.62 看到快速 Haar transform 方法在對比度方面都比前面的方法有明顯 的增加。
RMSE 是影像強化的程度,RMSE 的值越大代表影像經過越多的 強化,所以這個值並不是越大越好,有時候越大代表這張影像被過度 強化,出來的影像結果有可能會過亮。我們看到 HE 的 RMSE 相較於
其他方法都高很多,因為 HE 方法沒有對影像強化做限制,所以有時 候在 HE 的影像強化之後我們會看到刷白效應的影像。我的方法有對 直方圖做限制,所以較不會產生過度強化,在 RMSE 的值算是適中。
最後一個是使用強化方法強化一張影像所需要的計算時間,可以 看出快速 Haar transform 的計算時間明顯比 Haar transform 少,而且在 其他的效果表現上也能表現的一樣好。
4.4 影像成果圖
這邊我們首先分析一下在段落 3.6 中所提到的類空間域強化方法 中 以及
α
的値,由表 5 可以看出越亮的圖片在強化過程中 的値越大,代表越亮的影像亮度差異越大,所以累加在整張直方圖的總數越多,
而越暗的影像 的値就越小,累加在直方圖的總數就越小。
原始圖
α
結果圖4.3.1 灰階影像
輸入影像
直方圖等化(HE)
Adaptive Contrast Enhancement Using Gain-Controllable
Tang 所提出的對比測量
Color Image Enhancement Algorithms based on the DCT Domain
Image Enhancement in the 2D DCT Domain Using a Band-adaptive Contrast Modification
512 512
實驗結果(Haar transform)
圖 24、方法比較
輸入影像
直方圖等化(HE)
Adaptive Contrast Enhancement Using Gain-Controllable
Tang 的對比測量
Color Image Enhancement Algorithms based on the DCT Domain