第二章 相關研究
2.4 藍雜訊取樣
影像取樣(Image Sampling)在電腦圖學中是一種非常廣泛的技術,不同的應用方 式往往需要不同的取樣圖案。而在現今已存在的各種影像取樣方法中,藍雜訊取樣
(Blue Noise Sampling)因為具有空間上的均勻性以及避免了混疊鋸齒的不自然效果
(Aliasing Artifact)而受到歡迎且被廣泛使用。1983 年,Yellott[33]以靈長類動物的視 網膜錐細胞分布狀況為靈感,提出了藍雜訊傅立葉光譜(Fourier Spectrum)性質的概 念,即是一種隨機分佈卻又保持著均勻狀態的性質,其特色是頻譜中僅有高頻資訊而 缺乏低頻資訊,且有結構性餘峰(Structural Residual Peaks)。
1982 年,Lloyd[34]提出的勞合社演算法(Lloyd's algorithm),以及1986 年,Cook[35]
所提出的泊松磁盤分佈(Poisson Disk Distribution)可以說是藍雜訊影像取樣的兩個開 創性的研究,這兩大方法各具有不同的品質、效能、以及用法的權衡。關於勞合社演 算法的應用,我們在本章第二小節已經提過;而在2003 年 Cohen 等人[36]提出的王氏 貼磚(Wang Tile)、2005 年 Lagae 等人[37]的程序性物件分佈函數、2006 年 Kopf 等人 [38]結合了王氏貼磚以及紋理合成等研究,都參考並應用了泊松磁盤取樣的技術。另 外,1998 年 Glassner[29]提出了彭羅斯貼磚(Penrose Tiling),彭羅斯貼磚是由一組原 始磚(Prototile)的集合經由非週期性分裂而產生的一種非週期性貼磚法。近期在 2004
(Multi-Class Hard Disk Sampling)以及多類軟盤(Soft Disk)取樣,這兩種取樣方法 分別延伸並修改自泊松磁盤分佈以及勞合社演算法,可以多類處理,無論是在單一類 別中、或是類別與類別之間,都可以保持藍雜訊隨機與均勻的性質。本論文即是參考 並修改Wei 所提出的多類硬盤取樣來實現彩色點畫。
9
第三章
色彩統計模型的建立
這個章節為本論文研究的前處理介紹。第一小節說明本論文如何擷取藝術家真實 點畫的顏色組成結構,並逐一詳細解釋各步驟做法;第二小節介紹色彩統計模型的結構 以及存取方式;第三小節闡述上述步驟在方法條件上的限制,並提出一個解決方法以補 足色彩統計模型中缺乏的顏色,確保本論文使用的點畫技術所產生的點畫整體顏色不會 因蒐集的顏色不足而與原始輸入圖片相差太多。
3.1 點畫分析的目的與方法
經由觀察秀拉的點畫可以得知,在他的畫作中,並不是所有的顏色區塊都會使用 到補色(如圖 2),因此一味的在結果圖中加上補色不一定會符合秀拉的作畫風格。我 們認為,秀拉在不同顏色的表達上,會有不同的顏色組成結構。為了模擬藝術家真實點 畫的顏色組成,以增加我們輸出點畫的真實性,我們收集了多幅秀拉的彩色點畫局部 圖,並利用影像處理以及統計方法來進行分析,以做為未來在著色時色彩組合的參考範 本。本論文點畫分析的基礎精神為:對於任意顏色,我們由真實點畫中依照構成此顏色 的局部色塊,統計此色塊中總共使用了哪些顏色的小色點,並將這些小色點依照像素值
(Pixel Value)加以分群,再計算每一群的像素數量(Pixel Number)佔此色塊像素數量 的百分比,取得這些資訊後,便可以加以模擬利用。
在此,本論文定義以下名詞:在藝術家想要表達的任意一個局部區域顏色,我們 稱之為「代表色(Representative Color)」,而在此代表色的色塊區域下,依照像素值所 分出的
k
群,即稱為此代表色下的k
種「組成色(Component Colors)」。(如圖 6)10
由於秀拉在作畫時所使用的色點顏色變化多端,為了避免少數色點的顏色在分析 及分群合併的過程中,因為數量太過稀少而被忽略,流失了原始真實點畫的色彩豐富 感,本論文提出了利用保存各組成色內的像素值共變異數矩陣(Covariance Matrix),保 留住少數色彩的出現機率;另外,一個代表色下所有像素值的共變異數矩陣也會被儲存 在色彩統計模型中,以供產生不足顏色時使用,此方法將在3.1.3 小節以及 3.3 節介紹。
多幅秀拉點畫作品局部圖
彩色影像分割
K-means 分群法 與 Covariance 計算
← 代表色
組成色
色彩統計模型 圖 3 秀拉點畫分析的主要流程架構
11
3.1.1 彩色影像分割
為了產生好的色彩統計模型,以供未來在點畫著色時查詢使用,彩色影像分割
(color image Segmentation)便扮演了非常重要的角色。一般來說,彩色影像分割還可 以細分為:將物件、圖形或色彩從一幅彩色影像中分離出來的三種分割方式。在基於實
12
(a)
(b)
圖 4 基於平移影像分割示意圖。圖片來源:Comaniciu 與 Meer 在 2002 年所發表的論 文。
此系統可調整的參數如下:透過改變空間解析度參數(Spatial Resolution Parameter)
h 來調整掃描窗的大小;調整範圍解析度參數s h (Range Resolution Parameter)以決定r 同一個色彩分割區域下可以容忍不同顏色數量的程度;而最小區域參數(Minimum Region Parameter)m 用以限制一個色彩分割區域的最少像素數量。在本論文的研究中,
由於秀拉點畫的顏色繽紛多變,因此先使用高斯低通濾波器(Gaussian Low-pass Filter)
來使過於銳利的色點邊緣變得較為平滑,也可以消除過多的高頻資訊,以避免影像分割 過程中將少數色點分離出來,而空間頻寬以及色彩頻寬的參數值也因此需要較大的容 忍,以保護在要表達顏色中的對比色,不會將對比色在同一區域中被分割開來;最小區 域參數也必須夠大,以確保分割出的區域面積其顏色組成足夠具有代表性。一張藝術家 作品的彩色影像分割結果如圖 5 所示。在本實驗中,空間頻寬參數約介於 30~80、色 彩頻寬參數約介於8~20、最小區域參數約介於 50~220 像素數,參數值的大小視圖片 色彩豐富度決定。
13
14
15 一個
3 3
大小的正半定(Positive -Semidefinite)對稱(Symmetric)矩陣,其對角項分 別為R、G、B 三個通道各自的變異數,非對角項則為兩兩通道之間的共變異數。而此 群的像素平均值正好就是先前我們所定義的組成色Cic,j,如此一來,我們就可以藉由共 變異數矩陣
i,j以及平均值Cic,j利用多維高斯分佈(Multivariate Gaussian Distribution)得到一組此組成色的機率密度函數(Probability Density Function):
16
17
圖 8 由秀拉點畫局部圖中所收集到的一些顏色及其結構。
3.3 色彩統計模型插值計算
只靠收集藝術家點畫的顏色並不足以呈現任意輸入影像的所有顏色,我們僅採用 了五幅秀拉點畫的局部圖,其原因是我們在做前處理分析時所需要的是足以清晰辨別出 每一個小色點的點畫,但我們無法再取得更多足夠解析度的秀拉作品。若我們可以採用 更多秀拉點畫的作品,其結果也許可以更好,但是由於秀拉有一定程度的用色習慣,因 此對色彩統計模型的插值計算以補足收集不到的顏色仍是不可避免的。
如圖 9,在色彩統計模型顏色不足的前提之下,一張彩色影像的點畫輸出必定是 不理想的,其原因之一是在著色的過程當中,在我們原始的色彩統計模型裡搜尋不到足 夠相近的代表色,取而代之最相近的代表色與要填色的區域顏色仍然相去甚遠,使得輸 入與輸出的結果顏色明顯不同,如圖 9 (d);而第二個原因是:在輸入影像中,假設一 些鄰近的區域恰好為相似的顏色(例如將漸層的天空分割成多個區域),但是因為代表 色不足,使得這些鄰近的區域找到最接近的代表色恰好皆為同一個代表色,進而造成這 些原本不同顏色的鄰近區域在輸出結果卻都是同一顏色,如圖 9 (f)。
18
(a) (b)
(c) (d)
(e) (f)
圖 9 圖(b)為圖(a)尚未改善顏色問題之點畫結果。圖(c)為圖(a)和圖(b)在紅色方框中的 局部放大圖;圖(d)為圖(a)和圖(b)在黃色方框中的局部放大圖。
19
如果將我們在第二小節所提到的,從藝術家真實點畫所提取的全部代表色放入
RGB
空間,如圖 10,可以觀察發現,我們所收集到的代表色大多集中在RGB
空間的中 心部分,而在RGB
空間的周圍幾乎沒有任何顏色。在此我們假設所有顏色為均勻分布 在RGB
空間,如此一來,我們的目的即為:「在RGB
空間中,任意一點在一個固定距離 範圍內,至少可以找到一個與此任意點足夠接近的代表色,使得此任意點與和它最靠近 的代表色在視覺上無法輕易分辨出在顏色上的差別。」而為考量色彩統計模型整體的儲 存大小以及搜尋速度,經實驗後我們發現R、G、B 分別在色距 32 單位以內,人眼開始 不能輕易分辨顏色之間的差別。因此,我們將RGB
空間劃分為8 8 8
共512 個小格子,每個格子分別在R、G、B 的色距皆為 32,則我們的目的就是在這 512 個小格子中,每 個格子至少存在一個代表色。
圖 10 目前由藝術家點畫所收集到的代表色,在 RGB 空間中的分布情形。
3.3.1 產生新代表色
為了達到此目的,在目前已經分佈了我們從藝術家點畫中取得的5153 個代表色的
RGB
空間,我們必須把那些不存在任何代表色的小格子至少補入一個新的代表色。依 此目標,產生新代表色的精神在於:我們認為,顏色相似的兩個代表色,其組成色的結 構也會相似。因此我們利用已知代表色的共變異數矩陣,可以推得一個在附近大略位置 的新代表色的共變異數矩陣,藉此取樣產生一組新的組成色,最後再由此新產生的一組20
21
公式(5)),並由此函數中取樣數2000 個顏色,成為構成新代表色的像素值。再如同我們 在前處理時點畫分析的步驟,將此新取樣出來的2000 個顏色利用 K-means 分群法加以 分群,由此得到的k 群顏色,每群個別計算平均值,即為新的組成色{Cnewc ,j | j1:k}。 最後依照本章在第一小節(3.1.3)提到的作法,計算各群內像素值的共變異數矩陣