三、 整合式解交錯演算法之設計
3.5 移動偵測的設計
圖3.16 移動偵測區塊圖
n-1 Field Field Pixel
Difference
圖3.17 移動偵測流程圖 Start
Data Calaulate
Film ?
MV Correct ?
Film Recovery
Motion Compensation
End
Previous Information
Edge Low
Angle Field Merge
Motion ? No
Yes
Yes No
Yes
No
第四章 電影膠卷偵測與影像加強的演算法設計
Frame On Film ( 24 Frames / Sec )
Frame On Video ( 30 Frames / Sec )
Field On Video ( 60 Fields / Sec )
4.2 電影膠卷偵測的架構設計
“01111”,若比對相同,表示判定這一段是 3:2 Pull down 的影像,因此也就可以進 行接續3:2 Pull down 的回復動作了。
第一種 電影膠卷 Speedway 圖片測試
( a ) 空間掃描線垂直平均解交錯
( b ) 時間平均解交錯
( c ) 電影膠卷復原
圖4.3 3 : 2 Pull Down Speedway 測試結果 :
( a ) 空間掃描線垂直平均解交錯 ( b ) 時間平均解交錯 ( c ) 電 影膠卷復原
第二種 Music 電影膠卷圖片測試
( a ) 空間掃描線垂直平均解交錯
( b ) 時間平均解交錯
( c ) 電影膠卷復原
圖4.4 3 : 2 Pull Down Music 測試結果 :
( a ) 空間掃描線垂直平均解交錯 ( b ) 時間平均解交錯 ( c ) 電影膠卷復原
4.3 前置與後置處理器的設計
前置處理器主要是針對移動偵測做低通濾波或高通濾波,以減少雜訊的干擾。後置 處理器主要是對解交錯後的影像作補償,使視覺上產生較佳的效果。圖4.5 是後置處理 器的方塊圖。我們將提出數種提升影像畫面品質的方法,這些方法對解交錯掃描格式轉 換後的影像提升了畫面品質。處理過的影像畫面並不會更接近原始畫面,但可以讓經過 調整後的影像品質達到最好的視覺效果。
圖4.5 後置處理器方塊圖
Black Level Expander
Peaking Coring
Contrast Brightness
Flesh Tone
Hue Saturation Yin
Cin
Output
4.3.1 黑階位準延伸設計
在電視系統中,有時會感覺畫面黑的部份不夠黑;白色的部份不夠白。可能是訊號 傳送當中,或者在做色彩轉換處理時,忽略低位元的部份,造成色彩動態範圍不足。利 用如圖4.6 的設計[13],就可以達到黑階位準延伸的效果。在圖 4.6 中,我們要先設定 黑階位準(Black Level, 簡稱 BL)的值,經由偵測器(Detector)去辨別輸入的值是否 要作黑階位準延伸。若輸入的值小於BL,則做黑階位準延伸的處理;否則不做黑階位 準延伸的處理,其中增益設定越大,會使曲線越傾斜。
圖4.6 黑階延伸方塊圖 Yi
BL Gain BL
Detector Mux
Offset Yo
黑階位準延伸的演算法如下 : if Input Y[i] < BL
Yo[n] = ( BL – Gain * (BL - Yi [n])) + Offset else
Yo[n] = Yi [n] + Offset
參數 參數範圍 位元數 設定值
Gain 0/64 ~ 255/64 8 位元無號數 128 BL 0 ~ 255 8 位元無號數 40 Offset -128 ~ +128 8 位元有號數 -40
表 4 : 黑階延伸設計參數表
圖4.7a 是一張灰階的原始圖片,從圖中可知道灰階的動態範圍不夠,而造成黑不 夠黑,但經由黑階位準延伸調整之後,則整個灰階的動態範圍變寬,如圖4.7b 所示。
( a ) 原始圖片
( b ) 黑階位準延伸調整後圖片
圖4.7 黑階位準延伸測試結果 : ( a ) 原始圖片 ( b ) 黑階位準延伸調整後圖片
4.3.2 邊緣加強高頻雜訊濾除設計
在一些畫面中,會覺得有些物件很模糊,透過高通濾波器(High Pass Filtering)
的處理,如圖4.8 的硬體設計[13],就能達到邊緣加強及濾除一些雜訊干擾。它是五個
圖4.9a 是一張藍天白雲加上椰子樹的原始圖片,從圖中可知道椰子葉的地方很模 糊,而使得畫面看起來很朦朧的感覺,但經由邊緣加強高頻雜訊濾除調整之後,則整個 畫面就變清晰很多,如圖4.9b 所示。
( a ) 原始圖片
( b ) 邊緣加強高頻雜訊濾除後圖片
圖4.9 邊緣加強高頻雜訊濾除測試結果 : ( a ) 原始圖片 ( b ) 邊緣加 強高頻雜訊濾除調整後圖片
4.3.3 對比度和亮度調整的設計
對比度和亮度調整是一般最常見的影像處理功能,透過如圖4.10 中一個乘法器及 加法器[13],就能達到對比和亮度的控制。對比度調整相當於乘以增異,亮度調整相當 於加一個位移(Offset),限制器(Limiter)主要保護輸入的值在 0∼255。
圖4.10 對比度與亮度調整方塊圖
else (LB< Y1[n] <HB) Yo[n] = Y1[n]
圖4.11 (a)是一張美麗風景的原始圖片,從圖中可知道畫面黑白的對比度不夠大,
亮度也很暗,而使得畫面看起來有陰天的感覺,但經由對比度和亮度調整調整之後,則 整個畫面就變得很明亮,如圖4.11 (b)所示。
( a ) 原始圖片
( b ) 對比度和亮度調整後圖片
圖4.11 對比度和亮度測試結果 : ( a ) 原始圖片 ( b ) 對比度和亮度調整後圖片
4.3.4 膚色補償的設計
圖4.13 膚色補償方塊圖 Ui
Vi
UHx
VGx
Uo
Vo Window
Window ULx
VHx VLx
UGx
參數 參數範圍 位元數 設定值
UH[x] -128 ~ +127 8 位元有號數 100 UL[x] -128 ~ +127 8 位元有號數 64 VH[x] -128 ~ +127 8 位元有號數 -80 VL[x] -128 ~ +127 8 位元有號數 -20 UG[x] 0 ~ 127/64 7 位元有號數 127 VG[x] 0 ~ 127/64 7 位元有號數 127
表 7 : 膚色補償設計參數表
圖4.14 (a)是一張美女的原始圖片,從圖中可知道美女臉部的膚色太白,而顯得比 較沒有精神,但經由膚色補償調整之後,則美女的臉色變得很紅潤,如圖4.14 (b)所示。
( a ) 原始圖片
( b ) 膚色補償後圖片
圖4.14 膚色補償測試結果 : ( a ) 原始圖片 ( b ) 膚色補償調整後圖片
4.3.5 色度與飽合度調整的設計
參數 參數範圍 位元數 設定值 GC -2 ~ +2 12 位元有號數 0.5 GS -2 ~ +2 12 位元有號數 0.86
表 8 : 色度和飽合度設計參數表
GC 和 GS 的參數設定方式是互相有關聯,假如我們要將色度旋轉 60 度,GS 的參 數等於sin60 度的值 0.86,而 GC 的參數等於 cos60 度的值 0.5。
圖4.16 (a)是一張美麗風景的原始圖片,從圖中可知道紅色和黃色的鬱金香顏色不 夠飽和,但經由色度與飽合度調整之後,則紅色和黃色鬱金香的花色就變得比較鮮豔亮 麗,如圖4.16 (b)所示。
( a ) 原始圖片
( b ) 色度和飽合度調整後圖片
圖4.16 色度和飽合度測試結果 : ( a ) 原始圖片 ( b ) 色度和飽合度調整 後圖片
第五章 模擬的結果分析
Select Area
的選擇,影像加強的功能可以單獨選擇,也可以混合設定。第五頁是各種解交錯演算法
MCMI : Motion Compensationed De-interlacing
Yes
No
圖5.4(a) 模擬程式第一頁
圖5.4(c) 模擬程式第三頁
圖5.4(d) 模擬程式第四頁
圖5.4(e) 模擬程式第五頁
5.2 解交錯演算法的模擬結果
5.2.1 第一種解交錯模擬方式的模擬結果
A. 空間掃描線垂直平均解交錯(Line Averaging De-interlacing , 簡稱 LA)演算法 B. 時間平均解交錯(Temporal Averaging De-interlacing , 簡稱 Weave)演算法
解交錯演算法 Test1 (動態) Test2 (靜態) 平均值
A 2.2863 0.42486 1.35558
B 75.8982 0 37.9491
C 1.5323 0.1226 0.82745
D 1.3131 0.2934 0.80325
E 1.3377 0.2934 0.81555
F 0.4105 0.0962 0.25335
0
C. 移動可適性解交錯(Motion Adaptive De-interlacing , 簡稱 MA)演算法 D. 時間遞迴解交錯(Time Recursive De-interlacing , 簡稱 TR)演算法 E. 可適性遞迴解交錯(Adaptive Recursive De-interlacing , 簡稱 AR)演算法 F. 整合式解交錯(Integrated De-interlacing )演算法
(1) 測試圖片(動態)
( b ) 空間掃描線垂直平均解交錯 ( a ) 原始圖片
( d ) 移動可適性解交錯 ( c ) 時間平均解交錯
( e ) 時間遞迴解交錯 ( f ) 可適性遞迴解交錯
( g ) 整合式解交錯
圖5.6 第一種模擬方式的解交錯結果(一)
(2) 測試圖片(靜態)
(b)空間掃描線垂直平均解交錯
(a) 原始圖片
(c)時間平均解交錯 ( d ) 移動可適性解交錯
(e)時間遞迴解交錯 (f)可適性遞迴解交錯
( g ) 整合式解交錯
圖5.7 第一種模擬方式的解交錯結果(二)
5.2.2 第二種解交錯模擬方式的模擬結果 (1) clock 測試圖片
(a)空間掃描線垂直平均解交錯
(b)時間平均解交錯
( c ) 移動可適性解交錯
( d ) 整合式解交錯
圖5.8 第二種模擬方式的解交錯結果(一)
(2) flag 測試圖片
(a)空間掃描線垂直平均解交錯
(b)時間平均解交錯
( c ) 移動可適性解交錯
( d ) 整合式解交錯
圖5.9 第二種模擬方式的解交錯結果(二)
(2) ball 測試圖片
(a)空間掃描線垂直平均解交錯
(b)時間平均解交錯
( c ) 移動可適性解交錯
( d ) 整合式解交錯
圖5.10 第二種模擬方式的解交錯模擬結果(三)
5.3 解交錯演算法的模擬結果分析
在圖5.6 和圖 5.7 是第一種模擬方式的解交錯結果,表四是不同解交錯的 MSE 直方 圖,以平均值來說,本文所設計解交錯系統,有最好的效果,它的MSE 值是最低的,
當然這數據會因為不同的圖片而有數值的差異。在圖5.6 中,它是動態的圖片,所以用 時間平均解交錯的MSE 值特別高,而其他非移動的解交錯的 MSE 值雖然不高,但在 球形的邊緣仍有一些鋸齒狀,使用移動補償解交錯的方式能減少鋸齒狀的發生。在圖 5.7 中,它是靜態的圖片,反而圖場間合併平均解交錯的 MSE 值是零,垂直線平均解 交錯(LA)的 MSE 值是最高的。
解交錯的效果,除了比較峯值訊號雜訊比(PSNR)及錯誤平方平均值(MSE)之外,最 重要的視覺的感受,在圖5.8 鐘擺測試圖中,它包含靜態的區域(字 OK 的部份)和動態 區域(鐘擺的部份) ,其中 O 在偶數圖場,K 在奇數圖場,在圖 5.8(a)空間掃描線垂直平 均解交錯的輸出圖中,因為它是空間解交錯的方式,所以它只有顯示O 字而少 K 字圖。
在圖5.8(b) 中,使用時間平均解交錯,因為鐘擺在每一個時間點移動,所以會有嚴重 的鋸齒狀。在圖5.9 國旗飄揚測試圖中,主要是觀察國旗邊緣的是否平滑的移動。而圖 5.9(a)和 5.9(b)整個國旗的線條會被加粗,而且在國旗飄動的方向和國旗旗竿,會有輕 微的鋸齒狀,而本文所提移動補償對這種現像有很大的改善。
圖5.10 主要是觀察整個球的移動,因為是非常快速的轉動,所以用非移動補償的 解交錯,因為無法找到正確的移動方向,所以畫面看起來會很模糊,移動補償解交錯的 方式會根據移動向量找到正確補償的像素,所以畫面的解析度會提高很多。
第六章 結論與未來的工作
在本篇論文中,所提出整合式解交錯(Motion Compensated De-interlacing)的演算 法,主要以移動補償 (Motion Compensation)為基本架構,並結合移動估計(Motion Estimation)、移動向量平滑處理(Motion Vector Smoothing) 、影片偵測及影像加強等演 算法設計,將各類的圖片,再經過電腦模擬程式的測試後,都有不錯的結果。
但是在演算法設計過程中,移動補償解交錯的演算法有兩個很大的困難點。第一個 困難的地方,移動偵測能否正確地辨別每一像素是移動或是靜止,若偵測的結果是靜止 的話,圖場插點的像素則使用時間平均解交錯(Temporal Averaging De-interlacing)。反 之,則使用移動補償或是角度偵測線平均(Edge Line Average)的方式。但移動偵測的辨 別,卻很容易受雜訊的干擾或者是畫面本身的模糊所造成的影響。另外一個困難點,則 是移動估計時,在圖片中無法找到相似的區塊時,或是受雜訊干擾無法找到正確的移動 向量,經由移動向量平滑處理(Motion Vector Smoothing)之後,仍然無法修正錯誤的移 動向量,則移動補償(Motion Compensation)後的結果,會使得顯示的畫面變得很差。所 Decoder)後,才會傳送畫面到整合式解交錯中,但是訊解碼器若無法將 YC 作完全的分 離,則會發生串色的現象,所以增加消除串色的演算法,會減少對整合式解交錯的影響。
第二項 消除雜訊(Noise Reduction)演算法:
一般的電視訊號或DVD 播放機的訊號在影片拍攝時會有雜訊掺雜在畫面中,或是 傳送中當中混入雜訊,若無法降低雜訊干擾,對作整合式解交錯時,會造成很大的偵測 的誤判。
第三項 縮放比例(Scaling Ratio)演算法:
輸入訊號格式和輸出顯示格式,一般來說都是不相同的寬高,所以會有縮小或放大 的比例關係存在,因此在整合式解交錯之後,若無法正確地作縮放比例(Scaling Ratio),
最後,在論文的研究當中,當整合越多的不同功能的演算法時,整個系統就會變得 很複雜,而且要付出更多的努力,及加上實驗時的細心與耐心,才能達成目標。
參 考 文 獻
[1] E. B. Bellers and G. de Haan, De-interlacing – A Key Technology for Scan Rate
Conversion , Elsevier, 2000.
[2] G. de Haan and E. B. Bellers, “De-interlacing: an overview,” Proceedings of the IEEE,
[2] G. de Haan and E. B. Bellers, “De-interlacing: an overview,” Proceedings of the IEEE,