中 華 大 學 碩 士 論 文
強健性多物件追蹤技術
Robust Multi-Object Tracking Technology
系 所 別：資訊工程學系碩士班 學號姓名：M09902010 林啟賢 指導教授：黃雅軒 博士
中 華 民 國 103 年 8 月
摘 要
本論文提出一種結合可容忍遮蔽的追蹤物件重建演算法和可以將追蹤物件與 背景分離演算法的強健性多物件追蹤方法。可容忍遮蔽的追蹤物件重建演算法會先 以疊代的方式來同時找出整張影像的最佳的投影係數和每個像素點的差異值，然後 再根據所找出的投影係數和差異值來重建影像。當一個像素點的差異值過大時，則 認定此像素點發生了遮蔽現象，由此即可得知此區塊影像中哪些像素點發生了遮蔽，
然後根據被遮蔽部分的面積大小以及未被遮蔽部分影像的重建差異，來計算此區塊 影像與追蹤物件的相似度。因為與追蹤物件相似的背景區塊有可能會造成追蹤物件 重建演算法的誤判，所以進一步採用追蹤物件與背景分離演算法來建構能區分追蹤 物件與相似背景的投影子空間，然後在這個子空間下判斷候選區塊影像是屬於追蹤 物件或是背景。另外，由於可容忍遮蔽的追蹤物件重建演算法和可以將追蹤物件與 背景分離演算法的運算量較大，所以我們先以快速的區塊比對運算來減少追蹤物件 的候選區塊數目，即可加快物件追蹤的運算速度，如此即可讓本論文的物件追蹤速 度接近即時處理的速度要求。
針對五種常用的物件追蹤視訊序列，本論文所提的方法與其它六種著名物件追 蹤演算法進行了效能測試，結果顯示無論是在追蹤物件的中心點平均誤差量或是在 平均覆蓋率方面，本論文的方法都得到最優異的數據，也證明此演算法具有實質的 創新和進步性。
關鍵字：物件追蹤、可容忍遮蔽的重建技術、將追蹤物件與背景分離之演算法、
區塊比對、方向梯度直方圖
ABSTRACT
This paper proposes a combination of tolerable shelter reconstruction algorithms to track objects and can track objects and background separation algorithm robust multi-object tracking methods. Tolerable shelter reconstruction algorithms to track objects will first iteration way to find out the difference between the value at the same time the best projection coefficients for each pixel and the whole image, and then find the projection based on the difference between the value of the coefficient and to reconstruct the image. When the difference value of a pixel is too large, the pixels determined in this shadowing phenomenon occurs, whereby the image to which this block that pixel shading has occurred, then the size of the area under the masked and unmasked portion of the reconstruction of the different parts of the image to calculate the similarity between this block images and tracking objects. Because a similar background and track objects may cause the block to track the object reconstruction algorithm misjudgment, so further objects and background separation using tracking algorithms to construct able to distinguish objects with similar backgrounds to track projection subspace, then the subspace The following video is part of a block to determine a candidate to track objects or backgrounds. In addition, due to the shadowing of objects that can be tolerated to track the number of candidate blocks tracking algorithms and can be separated from the larger objects and background computation algorithm, we first block than a fast track to the operator to reduce the reconstruction of objects that accelerate computational speed object tracking, so you can make the object of this paper to track real-time processing speeds approaching the speed requirements.
Video sequences for five commonly used to track objects, the method proposed six papers and other famous object tracking algorithm performance tests conducted showed that both the tracking of objects in the center, or the average amount of error in terms of average coverage this paper methods are the most excellent data, but also proved that this algorithm has the essence of innovation and progressiveness.
.
Keywords: Object Tracking, block-PCA reconstruction, two types of classifiers, Block
Matching, Histogram of Oriented Gradients致謝
首先誠摯的感謝恩師黃雅軒博士，在課業研究上給予我相當多的指導和鼓勵不時 的討論並指點我正確的方向，讓我在這些年中受益良多。不論是從觀念的啟迪、理論 架構的建立、疑問的解析等，都不辭辛勞的指正與不厭其煩的修正錯誤。
感謝實驗室的學長劉偉成、張倞禕、顏華慶、莊順旭、許廷嘉、陳禹仲、彭國達 和陳冠豪能在我有疑惑時給予我寶貴的建議，在我遇到困難時能幫助我解決困難。還 要感謝學弟陳宣有、林子鶴、葉子軒和黃育甫，在許多方面給與我協助，讓我能快速 的完成研究。
最後感謝我最愛的家人與朋友，感謝他們給我的關心、支持與鼓勵。特別感謝我 的父母，讓我在就學期間不用擔憂生活，能專心致力於研究工作。僅以此文獻給我摯 愛的親朋好友。
目錄
摘要………I ABSTRACT………II 致謝………III 表目錄………VI 圖目錄………VII
第一章 緒論
………1
1.1 研究動機………1
1.2 論文架構………2
第二章 相關研究
………3
第三章 強健性多物件追蹤相關技術………6
3.1 特徵抽取………6
3.2 積分圖像(Integral Image)………7
3.3 圖集(Graph-Embedding)介紹………8
3.4 線性降維的圖集通用數學式………9
3.5 單類投影矩陣建構………10
3.6 追蹤物件與背景間的投影矩陣建構………10
第四章 強健性多物件追蹤技術
………13
4.1 初步追蹤………14
4.2 進階追蹤………15
4.2.1 強健性物件重建………15
4.3 追蹤模型更新………17
4.3.1 強健性物件重建更新………17
4.3.2 追蹤物件與背景間的投影矩陣更新………18
第五章 多物件追蹤………20
5.1 物件重疊……… 第六章 實 驗 與 分 析
… … … 2 0
6.1 實驗環境………206.3 實驗設計………21
6.4 實驗結果………22
6.5 分析與討論………25
第七章 結論與未來研究方向………27
參考文獻………28
附錄………31
表目錄
表 5-1、系統實驗環境………20 表 5-2、平均追蹤物件中心誤差率………22 表 5-3、平均物件覆蓋率………22
圖目錄
圖 3-1、HOG 特徵示意圖………6
圖 3-2、積分圖像示意圖.………7
圖 3-3、積分圖像計算特徵值示意圖.………8
圖 3-4、圖集模型.………8
圖 3-5、LDA 圖集………9
圖 3-6、追蹤物件與背景各類別內的關係示意圖………11
圖 3-7、追蹤物件與背景間的關係示意圖………11
圖 4-1、強健多物件追蹤架構圖………14
圖 4-2、計算最佳 和 的演算法………16
圖 5-1、覆蓋率示意圖………21
圖 5-2、Occlusion 1 資料庫的追蹤結果………23
圖 5-3、Caviar 1 資料庫的追蹤結果.………23
圖 5-4、Caviar 2 資料庫的追蹤結果.………24
圖 5-5、David Indoor 資料庫的追蹤結果………24
圖 5-6、Deer 資料庫的追蹤結果………25
圖 5-7、初步追蹤示意圖………26
第一章 緒論
1.1 研究動機
近幾年來，影像的物件追蹤在現實生活中具有相當廣泛的應用，例如監視器畫面 的嫌犯追蹤、多人視訊會議的臉部追蹤、野生動物的活動範圍追蹤等。隨著物件追蹤 的需求越發普及，影像的物件追蹤技術在今日已變得不可或缺。舉例來說，現在很多 社區大樓都會雇用保全公司，利用監視器來監控居住環境以確保安全。但即使同時聘 僱多位保全人員來持續盯著監視畫面，都可能會因為畫面太多及監控時間過長而產生 疲勞，導致注意力無法集中，而未能發現異常事件。但是，如果在監視畫面中使用著 物件追蹤的技術，即可在畫面上自動地追蹤社區大樓中每個人的移動軌跡，就可以使 保全人員能夠容易地發現不正常或怪異的移動軌跡，如跌倒、奔跑、鬼鬼祟祟以及非 法入侵等，如此便可有效率地提升社區安全。
多數利用人臉的認證系統前置作業為人臉偵測，而所偵測到的人臉位置正確與否，
將會影響辨識人臉演算法整個系統的效能，然而，人臉偵測還是存在許多問題需要解 決，如：人臉的角度限制、人臉的大小、背景及光源的影響等，若此時，利用人臉追 蹤技術來輔助人臉偵測處理，將可提升人臉偵測的效果。
但是，至今一般的物件追蹤運算通常需要複雜的電腦計算，很難達到即時處裡的 應用需求，並且這些技術也經常缺乏良好的適應性學習能力，而導致被追蹤物件容易 追丟或者誤判成背景。有鑑於此，本論文提出一種具有適應性學習能力以及能處理物 件遮蔽的多物件追蹤方法。
1.2 論文架構
本論文總共分為六章，各章節內容安排如下。第一章說明本論文的研究動機與論 文架構。第二章介紹物件追蹤的相關研究。第三章介紹強健性多物件追蹤相關技術，
這章節會介紹本論文提出的追蹤演算法中將會使用的相關技術。第四章介紹強健性多 物件追蹤技術，主要介紹本論文的兩階段的追蹤演算法，第一階段採用 Blck Matching 快速過濾背景，來減少第二階段所需的運算時間，再採用第二階段的追蹤演算法來仔 細找出追蹤物件的位置。第五章為實驗與分析，可以從此章節看到本論文演算法比其 他演算法更能有效的追蹤到追蹤目標以及這個演算法的缺點有哪些可以進行改進。第 六章為結論和未來展望，它總結本論文的研究成果，並對未來可繼續研究的方向做一 個說明。
第二章 相關研究
移動物件追蹤近年來已經有許多的研究與方法被提出來，追蹤移動物件的步驟主 要分成兩個部分，第一部分主要的關鍵在於找出頁框中移動的區域透過這些資訊來將 影像分成前景和背景，第二部份則是將這些移動資訊透過一些特徵轉換以及比對的方 法在畫面與畫面間找出移動物件的所在位置。
第一部分前、背景分離方面，最簡單常見的方式就是利用一張背景影像和目前畫 面相減的背景相減法(Background Subtraction) [1]，以得到有變化的前景。其他還有 光流法(Optical Flow Method)[2]，透過計算物體運動資訊，結合由空間中物體移動而 產生亮度變化以及相鄰視訊畫面之像素差值進行分析以偵測移動物件的區域。另外，
時間-空間梯度法(Temporal-Spatial Method)則是利用移動物件的邊緣來分割出移動 物件。以上的方法中，背景相減法因實作很簡單，是多數人會採用的方法。然而，對 於會變動之背景，此方法卻無法精確的擷取運動物體。因此，後來就有不少人提出透 過建立背景模型的方式配合進行動態的更新作業，來取代使用固定靜態背景影像當參 考背景方法。也有一些方法是透過畫面與畫面間各像素的改變，訂定一個規則去建立 或更新出新的背景以分離前景與背景。
第二部分有關物件的追蹤和比對方面，大致上方法可分成兩個主要類別。一種是 利用前後畫面經過比對的方式找出影像中具有變動的區域，然後再利用這些區域去組 何出所追蹤物件的對應位置。如[3]所提出的使用區塊比對演算法(Block Matching Algorithm)來追蹤移動物件。首先找出運動物件的對應區域，再計算位於運動區域中 每一塊區塊的運動向量，統計出現次數最多的運動向量代表該物體的運動向量，再依 此運動向量估計物件大概的位置，藉此可以降低追蹤物件的複雜度。另一種是先定出 所要追蹤物件的一些假設，然後再針對影像去找出是否存在假設的物件，像是以模組 為基礎的追蹤方法，或是以樣版為基礎的追蹤方法，而 Mean Shift[4][19]、粒子濾 波器[5][6](Particle Filter)及 Online-MilBoost 演算法[7]是屬於此類且目前最常見的 三種追蹤方法。
Mean Shift[4][19]是一種遞迴的物件追蹤方法，它的概念是根據前個畫面所在位 置當起始點，然後在目前的畫面透過計算周圍差異值的大小，找出差異在目前畫面中 遞減的方向，然後在該方向上找到一個位置當成新的起始點，再重覆此動作一直找尋，
直到差異值不再改變或是變動小於某個門檻值就停止，最後找到的位置就是追蹤的結 果。
粒子濾波器通常是用在複雜環境中的物件追蹤方法。假設我們已知要追蹤的物件 目標區域，一開始會針對這個目標區域加上隨機變動即可產生新的樣本集合，每一個 新的樣本都可視為下個畫面中物件可能的目標區域，這些樣本就是所謂的「粒子」
(Particle)。有了新樣本的集合後，在下一個畫面中，每一個樣本所定義的可能目標區 域所對應的養像都會經過適當的幾何轉換以及特徵抽取，然後與預先儲存的目標樣版 進行比對，比對後，每個樣本目標區域即可得到一個與樣版之間的相似度大小值。取 得每個樣本目標區域與目標樣版的相似度之後，每一個樣本即可根據其相似度計算出 一個權重，這些樣本的權重會依線性調整的方式使其總和為 1。各樣本有了各自的比 重，就可以用加權和(Weighted Sum)的方式，利用每個樣本的位置和權重的加權和算 出一個最後的目標區域，而此算出的目標區域就是目前這個畫面的新目標位置。
Online-MilBoost[7]為結合 Online-AdaBoost[8]與 Multiple-Instance Learning[20]
概念的一種演算法。它是藉由疊代訓練的過程中，挑選出理想的特徵，並使用這些特 徵，來建構偵測模型，論文[9]中，顯示出此偵測方法具有相當優異的偵測效果。近 年來以偵測為基礎的追蹤常被應用在物件追蹤問題上，當得到物件的初始位置後，會 訓練偵測模型，並在新的畫面中，利用偵測到的結果，來當成我們追蹤到的新位置。
主成分分析法(Principal Component Analysis, PCA)[10]是以多張追蹤物件影像 來計算物件的 PCA 投影向量，然後使用這些投影向量對物件區塊的候選影像進行影 像重建計算，若重建影像與原始候選影像差異量小，則代表此區塊與追蹤物件相似，
否則，即不相似。因此，可以選取差異量最小的區塊作為追蹤物件的位置。
Center-Surround Saliency Mechanisms[11]採用顯著性特徵來進行追蹤，首先以 Bottom-Up Saliency[12]找出影像搜尋範圍中與物件特徵相似的區塊位置作為物件候 選位置，然後採用 Top-Down Saliency[13]從其中找出可以判別出物件與背景的顯著 性特徵集合，並且以物件樣本製作出物件模型特徵，再將候選位置的區塊特徵與物件 模型特徵進行比對，來找出最相似的位置當作追蹤物件位置。
Graph-Embedding-Based Learning[14]演算法使用兩個投影向量，一個是由物件樣 本所構成的 PCA 投影向量，另一個是使用物件樣本以及背景樣本所構成類似 FDA 的投 影向量。在追蹤時，此演算法以兩個階段來進行，第一階段使用差異平方和(Sum of Squared Differences, SSD)[15]來預估物件出現的最可能位置，第二階段則根據此位置 和第一階段得到的差異平方和來預估物件的搜尋範圍，並產生可能出現的粒子 (Particle)區塊，並對每個粒子區塊進行分數計算。第二階段中。除了計算 PCA 的影 像重建差異外，也在類似 FDA 的投影空間中，計算粒子區塊分別與平均背景和物件 之投影係數的距離差異，接著將此差異值與 PCA 影像重建差異值帶入相似度函數運 算，然後找出具有最大函數運算值的區塊，作為追蹤到的物件區塊。
第三章 強健性多物件追蹤相關技術
本章介紹本論文所採用的輔助演算法，包含特徵抽取、圖集介紹、線性降維的圖 集通用數學式、單類投影矩陣建構以及追蹤物件與背景間的投影矩陣建構等，以建立 本論文所提出的強建性追蹤演算法的相關基礎。
3.1 特徵抽取
在追蹤時，為了抵抗環境的光線變化，本論文採用 HOG(Histogram of Oriented Gradients)特徵。此特徵會先針對每個像素點位置
( x , y )
來計算其水平和垂直方向的影 像差異值，即) 1 , ( ) 1 , ( ) , (
) , 1 ( ) , 1 ( ) , (
y x I y
x I y x D
y x I y x I y x D
y x
然後根據
D
x(x
,y
)和D
y( x , y )
，此位置的邊緣強度m ( x , y )
和角度 ( x , y )
可被計算為)) , ( / ) , ( ( tan ) , (
) , ( )
, ( )
, (
1
2 2
y x D y x D y
x
y x D y x D y
x m
x y
y x
一般而言，使用 HOG 特徵時會將角度區分成 N 個區段，並將影像切割成 M 個 區塊。在每一個區塊中，每個像素點
( x , y )
會先根據它的角度 ( x , y )
來求出對應區段，然後再將其對應強度
m ( x , y )
累加到此對應區段的強度值，如圖 3-1 所示。圖 3-1、HOG 特徵示意圖
在追蹤時，由於物件可能會出現在影像中的任何位置，因此會有大量的區塊需要 進行 HOG 特徵計算，而導致大幅增加整體的運算時間。為了解決這個問題，本論文 採用積分圖像(Integral Image)[16]的運算方式，來加快特徵抽取的速度。
3.2 積分圖像(Integral Image)
為了快速計算一個區塊內特徵值(如灰階、亮度或 HOG) 的總合， Viola 和 Jones 於 2005 年提出了積分圖像演算法[16]，其計算方式如下：
y y x x
y x i y
x ii
' , '
) ' , ' ( )
,
( (3.1) 其中，
i ( y x , )
為原始影像中座標( y x , )
的像素點特徵值，而ii ( y x , )
為積分圖像中座標) ,
( y x
的像素點值，代表從座標( 0 , 0 )
到座標( y x , )
所對應矩形區域的原始影像之影像 特徵值總和，如圖 3-2 所示。圖 3-3 為一張積分圖像，區域 D 影像的左上角座標為 1、右上角座標為 2、左下角座標為 3、右下角座標為 4，而區域Ｄ的影像特徵值總和的 計算方式為 4-3-2+1，所以在積分圖像中任何矩形區域的影像特徵值總和，只需用一 次四則運算即可求得。
圖 3-2、積分圖像示意圖
圖 3-3、積分圖像計算特徵值示意圖
3.3 圖集(Graph-Embedding)介紹
圖集是由點與線構成(如圖 3-4 所示)，當兩個點之間有線段相連表示這兩點存在 某種關聯性(如屬於同一類別或不同類別)，否則即表示它們之間不存在這種關聯性，
而連接兩點之線段上的值表示這兩點之間的關聯性強度。
目前已經證明許多降維演算法可以使用圖集來表示，包括常見的 PCA、LDA、
KPCA、KDA、ISOMAP、LLE 和拉普拉斯特徵映射(Laplacian Eigenmap)等。圖集可 以用來分別表示類別內和類別間樣本的幾何模型，而每種演算法可能需要使用不同數 目的圖集來表示，例如 PCA 只使用一個圖集，而 LDA 使用三個圖集構成(如圖 3-5 所示)。
圖 3-4、圖集模型
圖 3-5、LDA 圖集。橙色虛線內有兩個圖集，分別為類別 A 跟類別 B 類別相關圖集 (Intrinsic Graph)，紫色虛線內有一個類別間的懲罰圖集(Penalty Graph)
3.3 線性降維的圖集通用數學式
因為線性降維的演算法可以用圖集的通用數學式來表示，所以本章節將介紹圖集 的通用數學式並定義相關的數學符號。假設 為所有樣本數量， 為類別總數， 為樣 本的特徵維度， 代表第 個樣本，
X x
1,x
2,x
3, ... ,x
n
為樣本資料庫，為第 個樣本類別， 為第 類別的樣本數量(則 )， 為拉普 拉斯矩陣(Laplacian Matrix)， 為每個樣本之間的相似矩陣， 為樣本 與樣本 的相 似度，而 為 所組成的對角矩陣，即
n
j nj
j j
j j
w w
w D
0 0
0 0
0 0
2 2 1 1
(3.2)
假設 是 的降維特徵， 是 構成的矩陣， 為約束矩陣(constraint matrix)，而 約束矩陣的目的是用來進行類別內圖集的大小正規化或是類別間圖集的懲罰。當
，經附錄 A 的推導後， 成為
假設降維的投影矩陣為 ，則 ，而對應著 的 為(推導過程請參考附錄 B) (3.4) 大部分的降維演算法(如 PCA 和 LDA)都可以使用此通用數學式(3.3)來表示，並推 導得出所對應的最佳投影子空間。
3.4 單類投影矩陣建構
一般而言， PCA 演算法是用來在一群樣本中找出具有最大投影量的子空間，即 單類投影矩陣。在 PCA 運算中，變異數矩陣( )定義為 ，其 中 為 的平均值。經推導後(參考附錄 C)， 可成為
(3.5) 而 。以 PCA 所求出的最佳子空間 的計算方式為
(3.6) 將 方 程 式 (3.4) 和 (3.6) 進 行 比 較 ， 即 可 發 現 為 圖 集 中 的 ， 而 再 將 與方程式(3.2)比較，也可得知 為圖集中的 ，而 為圖集中的 。由 此可知，PCA 演算法可用圖集通用數學式來表示。
3.5 追蹤物件與背景間的投影矩陣建構
在物件追蹤方面，針對追蹤物件的樣本和與它們相似的背景樣本，可以建構 出三個圖集，即追蹤物件圖集、背景圖集和追蹤物件與背景間圖集，然後再由這 些圖集來找出能將追蹤物件和相似背景分開的最佳投影矩陣。這三個圖集的說明 如下：
1) 追蹤物件圖集 表示追蹤物件樣本間的關連性(圖 3-6 所示)，但因為 每個樣本都是用來代表追蹤物件，所以它們之間的關聯性都被設定成相同，
即 ，此時 為追蹤物件的樣本數量。
2) 背景圖集 表示背景樣本間的關聯性(圖 3-6 所示)，其中每個樣本 與 其最鄰近 個樣本 的關聯性強度 的計算為
(4.7) 此時 是樣本 的縮放(Scaling)係數。假設 是 的第 個鄰近背景樣本，則
的計算方式為
(4.8) 如果 並不屬於 的 個鄰近背景樣本時，則 。
圖 3-6、追蹤物件與背景各類別內的關係示意圖
3) 追蹤物件與背景間圖集 表示追蹤物件樣本與背景樣本的關聯性(圖 3-7 所示)，其中每個樣本會先找出與其最鄰近的 個樣本，再判斷這 個樣本 中哪些樣本與該樣本的類別不相同，然後針對這些具有不同類別的樣本，以 公式(4.7)和(4.8)來計算追蹤物件與背景間的關聯性強度 。
當計算出這三種圖集以後，背景圖集和追蹤物件圖集的關聯性矩陣( 和 ) 可結合成為一個 矩陣，即 。則追蹤物件與背景的最佳特徵 投影矩陣 為
subjected to (4.9) 其中 ， 代表在類別內投影差異總量固定為 1。
經過推導(參考附錄 D)，最佳的投影矩陣 可由以下方程式利用一般性特徵值 分解(Eigen Decomposition)的方式來求得，即
(4.10) 由於方程式(4.10)過於數學式，因此經推導(參考附錄 E)即可簡化為
(4.11) 由 求出矩陣，經由特徵值分解(Eigen Decomposition)，即 可求得最佳投影矩陣 。
第四章 強健性多物件追蹤技術
理想上，一個物件追蹤演算法應該具備的能力包含抗光源變化的能力、區分追蹤 物件與相似背景的能力、即時追蹤的能力、處理被遮蔽的能力以及適應性學習追蹤物 件特徵的能力。到目前為止已有相當多學者進行物件追蹤的研究，有些做法在建構追 蹤物件模型時並不考慮背景的資訊，而只使用物件本身的特徵來計算，例如 PCA 重 建演算法以及大部分的樣板追蹤。這種方式在物件與背景相似時，可能會造成混淆而 發生追蹤錯誤。也有一些方法是先針對追蹤物件的位置，來產生多個正向訓練樣本，
並從此物件四周的背景中產生一群負向訓練樣本，然後再從正向和負向樣本中，找出 具有鑑別性的特徵集合來進行物件追蹤，例如 Online MILBoost 演算法[17]。這類演 算法因為已同時考慮到物件影像與背景影像的資訊，所以比較可以解決物件與相似背 景的混淆，但是也因為它們只是簡單地選擇靠近追蹤物件的影像為正向樣本和離追蹤 物件一段距離的影像為負向樣本，所以仍然會因無法訓練出精準的物件追蹤模型而面 臨著傳統物件追蹤演算法於長時間的物件飄移問題。
因此在參考許多相關論文的做法後，本論文提出了一個強健性的物件追蹤演算法，
而此演算法包含著初步追蹤和進階追蹤兩個階段。初步追蹤採用了以 HOG 特徵的區 塊比對(Block Matching)運算來快速地挑選可能的候選區塊。進階追蹤採用子空間概 念來設計出能容忍遮蔽現象和能區分與追蹤物件相似之背景的追蹤演算法，此演算法 是由強健性物件重建演算法和具有區分追蹤物件與背景之分類器所組成。雖然 PCA 是最常被使用的重建演算法，但是當物件發生遮蔽時，它會產生嚴重的訊號重建錯誤。
因此本論文採用強健性物件重建演算法來克服物件遮蔽的問題，此演算法會先以疊代 的方式來同時找出各自區塊影像的最佳的投影係數和每個像素點重建前後的差異值，
然後根據差異值大的像素點數目來給予相對應的懲罰值，並將所有小的差異值累加至 差異值總和，再以懲罰值和差異值總合來求出區塊與追蹤物件的相似度。追蹤物件與 背景分類器是用來解決當追蹤物件靠近相似背景時，物件追蹤容易發生混淆的問題。
當建構此分類器時，除了將追蹤物件在最近時刻的追蹤結果當正向樣本外，也會在追 蹤物件的四周背景中，挑選出與追蹤物件相似的背景影像來當作負向樣本，然後再由
正向與負向樣本來找出最能夠區分追蹤物件與背景的子空間，如此一來，即可讓追蹤 結果更為精確。
以下將以三個小節來介紹初步追蹤、進階追蹤和追蹤物件模型更新等三個模組。
影像輸入
初步追蹤
強健性 物件重建
追蹤物件/背景 分類器
追蹤模型更新
進階追蹤
圖 4-1、強健多物件追蹤架構圖
4.1 初步追蹤
第一階段的初步追蹤將以前一張影像中追蹤物件中心點當作搜尋範圍中心點，再 將追蹤物件的長和寬放大一倍來當作追蹤物件搜尋範圍，因為追蹤物件在影像中越大 時，表示追蹤物件離攝影鏡頭越近，此時當追蹤物件稍微移動，則在影像中會產生相
當的位移量；而物件影像較小時通常表示追蹤物件離鏡頭較遠，此時縱使它做出大範 圍的移動，在影像中它的位移量仍不會太大。在追蹤物件搜尋範圍內的每一個位置都 對應著一個影像候選區塊，針對每個影像候選區塊，我們採用能抗光源變化的 HOG 特徵來作為區塊特徵，而 HOG 的特徵角度分割成八個方向區間，並依每個方向區間 來計算此區塊內所有像素點的邊緣強度總合。因此，每個區塊只會有八個特徵值，即 八個方向區間的總合邊緣強度值。接著計算每個區塊與追蹤物件在 HOG 特徵每個方 向區間的特徵差異值，再將此八個方向區間特徵差異值相加成為此區塊的特徵差異總 合 。然後從所有影像候選區塊中找出最小的特徵差異總合 ，再計算每個區塊的差 異值 與此最小差異值 的比例(即 ，若此比例小於所設定的門檻值(Threshold)，
則挑選此區塊作為第二階段追蹤的物件候選區塊。假設 代表 時刻物件 在影 像平面的左上角座標為 ， 為搜尋範圍內水平平移量， 為搜尋範圍內垂直平移 量， 為 時刻物件的第 維 HOG 特徵值。對第 時刻的物件區塊 而言，它和在第 時刻中具( )位移量之區塊的特徵差異為
(4.1) 假設 R 為第一階段追蹤物件候選範圍的影像候選區塊集合，則進入第二階段之物件候 選區塊的集合 為
} 1
001 and . 0 ) ( min
) { (
1 1
1
T i R
o BM
o
| BM o
S=
jj t
i i t
t
(4.2)
4.2 進階追蹤
進階追蹤是由強健性物件重建和 3.5 章節介紹的兩類分類器所組成
4.2.1 強健性物件重建
任何物件都可以使用下列方程式進行物件重建，假設 為物件影像向量， 為 以 PCA 方式所建構的物件投影矩陣， 為投影係數， 為單位矩陣，而 為誤差向
量，即
(4.3) 以 PCA 觀點而言，誤差向量 的元素都是以平均值為 0 且變異數很小的高斯分佈 來表示，則投影係數 的最佳解為 。但是當物件發生遮蔽時，被遮蔽的部分會 產生很大的誤差，而沒被遮蔽的部分則誤差會很小，因此無法使用傳統的 PCA 觀點 來求解。為了在物件發生遮蔽時，能夠找出最佳的 和最小的 ，文獻[18]中定義了一 個錯誤函數
L ( e z , )
如下I UU e
e Uz y e
z
L
Te
z
, subected to
2 min 1 ) ,
(
22 1,
(4.4) 其中 和 為 和 的範數(Norm)，而
為調整(Regularization)參數。但是此方 程式複雜程度相當高，並不存在解析解，然而從文獻[18]中得知，可用下述的疊代方 式來找出最佳的 和 ：Algorithm for Computing
and
輸入資訊： 為物件影像向量， 為投影矩陣， 為調整參數，
1) 初始化： 和 2)
3)
4)
5) 觀察
和
是否收斂，如果尚未收斂則跳回第 2 步驟；
6) 輸出：
和
圖 4-2、計算最佳 和 的演算法
基本上，上述演算法是假設當 為已知時，則可以使用 來求 ，如上述第 2 步驟，
而當 為已知時，則可以使用 來求 ，如上述第 3 步驟。當 為已知時，方程式(2)成為
2 min 1 )
( e y Uz e
22e
1L
e
，而這是一個凸面(Convex)最佳化問題，可以由收縮運算子(Shrinkage Operator)[19]來求出最佳解，即 。
事實上，方程式(2)所求得的 會是一個稀疏(Sparse)向量，也就是此向量的元素大部 分都為 0，而只有少部分不為 0，因此可以用來表示物件遮蔽時的狀況。當元素為 0 時，表示該對應像素沒有被遮蔽，而當元素不為 0 時，則表示該對應像素已被遮蔽。
為了計算第 個候選影像 屬於追蹤物件的機率，假設 為此候選影像的位置， 為其 誤差向量的第 個元素， 為稀疏矩陣並定義為
則 屬於追蹤物件的機率可用最佳投影係數 和 來計算：
(4.5) 其中 為懲罰權重係數，而 為 Hadamard 乘積運算，其作用是讓此運算前後向量的 相對應元素相乘。 的計算包含兩個項目，第一個(即 )是計 算未遮蔽部分的重建差異量，第二個(即 )是計算重建不好部分(如被遮蔽的 影像)的面積。
進階追蹤是由 PCA 重建技術和兩類分類器組成，進階追蹤會把這兩種不同追蹤採 用下列公式進行整合：
(4.6)
在所有候選區塊影像中具有最大機率的區塊 為物件追蹤到的位置，即
)
( max
arg p y i |x i i *
i
(4.7)4.3 追蹤模型更新
追蹤物件模型更新分成兩個部分，PCA 更新部分與兩類更新部分。
4.3.1 強健性物件重建更新
強健性物件重建更新部分，當發生遮蔽時，若使用所有追蹤到的物件影像來 更新，則會學習到其它遮蔽物件的影像，產生不適當的追蹤物件模型，而逐漸發 生物件飄移的現象。因此本計畫將根據追蹤物件被遮蔽的比例，以兩個不同的門
1. 當物件被遮蔽比例小於 時，表示此遮蔽程度屬於輕度遮蔽，則將把追蹤到 的物件影像加入此追蹤物件的訓練樣本集合，並且更新該追蹤物件的平均影 像( )，然後使用此追蹤物件的訓練樣本和平均影像( )來產生新的投影矩陣;
2. 當物件被遮蔽比例是在 和 之間時，表示此遮蔽程度屬於中度遮蔽，則因 該追蹤到的物件影像中只有部分是真正屬於追蹤物件，因此不能將追蹤到的 物件影像當作訓練樣本，但是仍然可以利用其中未被遮蔽的像素點，來更新 追蹤物件的平均影像( )，然後以之前所收集到的追蹤物件訓練影像樣本和 平均影像( )來重新訓練投影矩陣;
3. 當物件被遮蔽比例大於 時，表示此遮蔽程度屬於重度遮蔽，此時追蹤到的 物件影像大部分都被遮蔽了，並不屬於該追蹤物件，因此不但不能被當作訓 練樣本，也不能用來更新平均樣影像，所以此時追蹤物件模型將不予更新。
4.3.2 追蹤物件與背景間的投影矩陣更新
兩類更新部分，傳統的正向樣本收集方式會在追蹤物件的附近產生一群正向 樣本，造成在訓練樣本中容許了少量的物件偏移資訊，所以根據這些樣本所訓練 出來的物件偵測器，將會無法精準地找到物件的位置，而逐漸產生了物件飄移的 現象；另外，負向樣本一般是在正向樣本外且於所追蹤到物件一段範圍內直接取 樣的背景影像，這種作法可能會取到與判斷追蹤物件不相關的背景影像，而導致 所訓練出來的物件與背景投影子空間無法精準的區分物件和與其相似的背景影像。
為了克服物件飄移和提高物件與背景投影子空間的精準度，本計畫將採用只以多 張相近時刻所追蹤到的物件影像來當作正向樣本和只挑選與追蹤物件相似的背景 來當作負向樣本的機制，不但可以降低追蹤物件飄移的機率和減少負向樣本的數 量，也可只使用會產生混淆的背景樣本來進行學習，故能快速地得到具有良好分 辨 能 力 之 追 蹤 物 件 與 背 景 間 的 投 影 矩 陣 。 假 設 ，則負向樣本挑選的機制如下：
1) 當 時，表示該背景樣本與追蹤物件相似，因此該樣本與追蹤物件容易
發生混淆，因此選擇該樣本為負向樣本，以增加可解決混淆的負向樣本資訊。
2) 當 時，表示該背景樣本與追蹤物件不相似，因此在追蹤時不會產生混 淆現象，所以不採用該樣本為負向樣本。
因為進階追蹤的更新運算量較為龐大，因此 PCA 和追蹤物件與背景間的投影矩陣模 型每兩張影像才會更新一次，而第一階段 HOG 特徵的 Block Matching 運算量相對 較小，因此它們的模型在每張畫面都進行更新。這樣的設計，將可加快追蹤的執行 速度。
第五章 多物件追蹤
前面論文都以單一追蹤物件進行敘述，但是我們的追蹤技術具備多物件追蹤時可 能發生的追蹤物件相互遮蔽以及相似追蹤物件混淆問題，因此可以將多物件追蹤的 追蹤物件個別以單一追蹤物件進行追蹤。
5.1 物件重疊
一般而言，物件間會有兩種狀態的位置關係，即遮蔽和非遮蔽狀態。假設 和 代表兩個物件(如圖九所示)， 物件區塊的左上角座標為( )，右下角座 標 為 ( ) ， 物 件 區 塊 的 左 上 角 座 標 為 ( ) ， 右 下 角 座 標 為 ( )，則可用下列作法來判斷 和 是否發生了相互遮蔽，
當 時，代表 和 互相遮蔽，否則， 和 即為非遮蔽。對一個物件 而言，假如他沒有和任何其它物件發生遮蔽，則以單一物件追蹤方式來處理；但 若有與其它物件發生遮蔽，則使用強健性物件重建技術中的遮蔽比例來判斷是遮 蔽別物件還是被別物件遮蔽，如果是遮蔽別物件則採用單一物件追蹤方式來處理，
當被別物件遮蔽則鎖定追蹤物件在發生遮蔽前的物件大小以及搜尋範圍來進行單 一物件追蹤。
圖 5-1、物件遮蔽示意圖
第六章 實驗與分析
6.1 系統實驗環境
本實驗的硬體設備及系統開發環境如表 5-2 所示。
表 5-2、系統實驗環境
系統的實驗硬體設備
CPU Intel Core i7 3770 3.4GHz
RAM 4.0GB
系統開發環境
作業系統 Microsoft Windows 7
開發環境 Visual Studio.NET 2010
使用函式庫 OpenCV library
6.2 物件追蹤資料庫
本實驗一共採用五組物件追蹤資料庫，分別為 Occlusion 1、Caviar 1、Caviar 2、
David Indoor 和 Deer 資料庫序列。Occlusion 1[20]是由 898 張影像組成，此資料庫困 難點是會有非追蹤物局部遮蔽追蹤物件來影像追蹤的精確度，。Caviar 1[21]是由 382 張影像組成和 Caviar 2[22]是由 500 張影像組成，這兩個資料庫困難點在於追蹤物件 會由縮放變化和部分遮蔽問題，來影響追蹤結果。David Indoor[23]共有 462 張影像，
追蹤物件會有縮放、旋轉和光線問題，而且攝影機不是固定的，因此背景會因此改變。
Deer[24]共有 71 影像，影像的追蹤物件會大幅動的跳躍和移動，背景也會有許多與追 蹤物件相似的飛追蹤物件，來影響追蹤。
6.3 實驗設計
本實驗將計算兩種分數，第一種是計算平均追蹤物件中心點位移量，第二種則是 計算平均覆蓋率，如圖 5-1 所示，紅色框是手動框選的正確追蹤物件區域，青色是追 蹤到的區域。
圖 5-1、覆蓋率示意圖
正確解答與追蹤位置重疊率計算公式如下：
B 100%
A B 覆蓋率(%) A
(5.1)當覆蓋率達到 80%以上，通常表示追蹤相當精準。
6.4 實驗結果
此實驗會將我們的追蹤演算法與 IVT、L1、PN、VTD、MIL、Frag Track、SPCA、
OOTWSP 進行平均追蹤物件中心誤差值比較，如表 5-2 所示，我們平均五個資料庫 的平均追蹤物件中心誤差量的值是最小的(值越小越好)。
表 5-2、平均追蹤物件中心誤差率
IVT L1 PN VTD MIL Frag Track SPCA OOTWSP Our
Occlusion 1 9.2 6.5 17.5 11.1 32.3 5.6 4.5 4.8 3.8
Caviar 1 45.1 119.9 5.6 3.9 48.5 5.7 49.2 1.7 1.8
Caviar 2 8.6 3.2 8.5 4.8 70.3 5.6 30.5 2.2 3.4
David Indoor 3.6 7.6 9.7 13.6 16.2 76.7 9.2 3.7 3.9
Deer 127.6 171.5 25.7 11.9 66.5 92.1 152.8 8.5 5.4
AVG 38.82 61.74 13.4 9.04 46.76 37.14 49.22 4.16 3.66
接者進行覆蓋率的比較，如表 5-3 所示，可以發現我們的五個資料庫的平均覆蓋 率幾乎都是最好的，這裡可以表示我們的追蹤演算法是相當不錯的。
表 5-3、平均物件覆蓋率
IVT L1 PN VTD MIL Frag Track SPCA OOTWSP Our
Occlusion 1 85% 88% 65% 77% 59% 90% 92% 91% 93%
Caviar 1 28% 28% 70% 83% 25% 68% 28% 89% 88%
Caviar 2 45% 81% 66% 67% 25% 56% 30% 71% 77%
David Indoor 71% 62% 60% 52% 45% 19% 47% 80% 69%
Deer 22% 4% 41% 58% 21% 8% 8% 61% 76%
AVG 50.2% 52.6% 60.4% 67.4% 35% 48.2% 41% 78.4% 80.6%
表 5-4 追蹤正確率
Occlusion 1 Caviar 1 Caviar 2 David Indoor Deer AVG
執行速度 87ms 2199ms 1518ms 6433ms 7578ms 3563ms
正確率 100% 100% 100% 57.58% 100% 91.52%
在 Occlusion 1 資料庫中，如圖 5-2 所示，當追蹤物件被遮蔽狀況發生，本論文 的演算法是可以精確的追蹤到追蹤物件，因此這證明本論文演算法可以克服追蹤物件
#001 #130 #200
#300 #500 #550
圖 5-2、Occlusion 1 資料庫的追蹤結果。紅色部分是正解位置，藍色部分是本論文演 算法的位置。
Caviar 1 和 Caviar 2 資料庫，如圖 5-3 和 5-4，當追蹤物件與相似背景能夠輕易分 離出來，而且追蹤物件有可能與相似背景物件重疊，在這時候可能會造成無法預估被 遮蔽部分的長度外，其它狀況追蹤都會相當準確。
#001 #090 #110
#115 #125 #382
圖 5-3、Caviar 1 資料庫的追蹤結果。紅色部分是正解位置，藍色部分是本論文演算 法的位置。
#001 #150 #205
#235 #260 #500
圖 5-4、Caviar 2 資料庫的追蹤結果。紅色部分是正解位置，藍色部分是本論文演算 法的位置。
David Indoor 資料庫追蹤上比其他資料庫困難，因為追蹤物件會隨者背景而改變 光源，因此會造成追蹤上比較不易，而且追蹤物件會旋轉跟前後移動，因此物件會有 大小變化和外觀大改變，我們的演算法會在旋轉時稍微造成比較大的偏移，但是在轉 回來時，追蹤精確度又會大幅提升。
#001 #100 #150
圖 5-5、David Indoor 資料庫的追蹤結果。紅色部分是正解位置，藍色部分是本論文 演算法的位置。
Deer 資料庫會的追蹤物件位置會有大幅移動，如圖 5-6 所示，而且四周都有相 似的背景，但是我們的演算法可以克服這個問題。
#0001 #0025 #0035
#0050 #0052 #0071
圖 5-6、Deer 資料庫的追蹤結果。紅色部分是正解位置，藍色部分是本論文演算法的 位置。
6.5 分析與討論
目前有蠻多追蹤演算法也都分成兩個階段進行追蹤，第一階段也都會採用運 算快的 Block Matching 來進行追蹤，圖 5-7(a)為 時刻所追蹤到的物件位置；以 Graph-Embedding-Based Learning for Robust Object Tracking 演算法為例，此演算法 會將 Block Matching 演算法尋最好的位置後在重新設定一個新的搜尋範圍，因此 有可能會造成追蹤物件不在新的搜尋範圍內。如圖 5-7(b)所示，其中紅色區塊代 表第一階段的最佳候選區塊，而藍色區塊為所有候選區塊; 圖 5-7(c)為本論文作 法 於 第 一 階 段 所 產 生 的 多 個 候 選 區 塊 示 意 圖 。 從 圖 5-7(b) 可 知 Graph-Embedding-Based Learning for Robust Object Tracking 演算法在第一階段中產 生了錯誤的最佳候選區塊，導致第二階段的候選區塊中並沒有包含追蹤物件的正
確區塊，因而會造成追蹤的失敗，而本作法則可以有效地解決此問題。
(a) (b) (c)
圖 5-7、初步追蹤示意圖。(a)為 時刻影像，(b)為 Graph-Embedding-Based Learning for Robust Object Tracking 演算法第一階段的處理結果，而(c)為本作法第一階段的 處理結果。
本論文演算法在進行每個資料庫實驗時，會因追蹤環境的不同，因此定義不同的 參數來達到最好的追蹤效能，在研究物件追蹤時，有人提出一種想法，採用追蹤物件 背景的狀況來給予相對應的參數值，來提升各種追蹤演算法的追蹤效能，因為進行物 件追蹤時，追蹤物件有可能在不同時間會發生各種光線變化，或是追蹤物件影像在同 一時間點時會有不同的背景環境，來造成追蹤效能影響，因此是先把各種環境分類好，
並且找出相對應的參數值，讓追蹤物件能夠在各種環境下都可以給予最好的參數，讓 追蹤更加精準。
第七章 結論
本論文採用兩階段來進行物件追蹤，並且採用三種不同的追蹤技術進來物件追蹤，
第一階段採用 HOG 特徵的 Black Matching 是為了加快追蹤速度而設計的，因為本論 文的第二階段的追蹤效能比較好，但是卻有相當複雜的運算流程，而倒置需較長運算 時間，因此需要由第一階段的快速偵測來減少候選樣本。第二階段採用區塊式的 PCA 重建演算法，只計算重建比較好的部分，重建不好的部分則是以重建不好區塊數量來 給予相對應的懲罰值，這樣可以解決當發生物件遮蔽或是有雜訊發生時造成的部分重 建誤差值極大而拖累那些重建比較完好的區塊的問題。還採用兩類分類器的演算法，
來解決當有相似的背景物件靠近時，不會因此造成混淆。
儘管本論文所提出的方法相當不錯，但是還是有一些缺點需要加以改善，雖然本 論文將追蹤分成兩個階段，來加快執行速度，但是目前執行速度上，因為兩類分類部 分相當耗時，因此在複雜環境下無法未達到即時運算。再來是每個不同環境都需要給 予相對應的參數，才可以達到完美的精準度，因此可以添加背景分析的演算法來找尋 相對應的參數來達到更精準追蹤效果。
參考文獻
[1] A. M. Elgammal, D. Harwood, and L. S. Davis, “Non-parametric model for background subtraction,” in Proceedings of the 6th European Conference on Computer Vision (ECCV '00), pp. 751–767, 2000.
[2] B. Horn and B. Schunck, “Determining optical flow,” Artificial Intelligence, vol. 17, pp. 185-203, 1981.
[3] S. Zhu and K. K. Ma, “A new diamond search algorithm for fast block-matching motion estimation”, IEEE Trans. Image Processing, vol. 9, pp. 287-290, Feb. 2000.
[4] D. Comaniciu, and P. Meer, “Mean Shift: A Robust Approach toward Feature Space Analysis,” IEEE Trans. Pattern Analysis and Machine Intelligence, vol. 24, no. 5, pp.
603-619, May 2002.
[5] K. Nummiaro, E. Koller-Meier, and LV Gool, “An Adaptive Color-Based Particle Filter,” Image and Vision Computing,vol. 21, pp. 99-110, 2003.
[6] Breitenstein, M., Reichlin, F., Leibe, B., Koller-Meier, E., Gool, L.V. “Robust tracking-by-detection using a detector confidence particle filter,” ICCV 2009.
[7] B. Babenko, M.-H. Yang, S. Belongie, “Visual Tracking with Online Multiple Instance Learning”, In CVPR, 2009
[8] H. Grabner and H. Bischof. “On-line boosting and vision,” In Proc. CVPR, volume 1, pages 260–267, 2006.
[9] P. Viola, J. C. Platt, and C. Zhang. “Multiple instance boosting for object detection,”
In NIPS, pages 1417–1426, 2005.
[10] C. Ding, X. He, “K-means Clustering via Principal Component Analysis”, Proc. of Intel Conf. Machine Learning, pp. 225-232, 2004.
[11] Vijay Mahadevan, Nuno Vasconcelos, “Biologically Inspired Object Tracking UsingCenter-Surround Saliency Mechanisms”, IEEE Transactions on
Patternanalysis and Machine Interllingence, Vol. 35, No. 3, pp. 541-554, 2013.
[12] D. Gao and N. Vasconcelos, “Bottom-Up Saliency Is a DiscriminantProcess”, Proc.
IEEE Int’l Conf. Computer Vision, 2007.
[13] D. Gao, S. Han, N. Vasconcelos, “Discriminant Saliency, theDetection of Suspicious Coincidences, and Applications to VisualRecognition”, IEEE Trans. Pattern Anaysis
[14] Xiaoqin Zhang, Weiming Hu, Shengyong Chen, Steve Maybank,
“Graph-Embedding-Based Learning for Robust Object Tracking”, IEEE Transactions on Industrial Electronics, Vol. 61, No. 2, pp. 1072–1084, 2014.
[15] G. Hager, P. Belhumeur, “Efficient region tracking with parametricmodels of
geometry and illumination”, IEEE Trans. Pattern Anal. Mach.Intell., Vol. 20, No. 10, pp. 1025–1039, 1998.
[16] Schapire R E. “The Strength of weak Learnability”, Machine Learning, 5: 197-227, 1990.
[17] 黃雅軒, 張倞禕, “Seamless Integration of Multi-Face Detection and Tracking Method”, Journal of Information Technology and Applications, Vol. 6, No. 3, pp.119-131, 2012.
[18] D. Wang, H. Lu, M.-H. Yang, “Online Object Tracking With Sparse Prototypes”, IEEE Transactions on Image Processing, Vol. 22, No. 1, pp. 314-425, 2013.
[19] T. Ojala, M. Pietikäinen, D. Harwood, “Mean Shift, Mode Seeking, and Clustering”, IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol. 17, No. 8, pp.
790–799, 1995.
[20] T. G. Dietterich, R. H. Lathrop, and L. T. Perez. Solving the multiple instance problem with axis parallel rectangles. Artificial Intelligence,pages 31–71, 1997.
附錄 A
) (
2
2 )
( 2
...
...
...
2
...
...
...
2
...
...
...
...
...
...
...
...
...
2 ) ( 2
) ( ) (
) ( 2 min arg min
arg
, 1 , , 1 1
, , 1 , , , ,
1 , 1 , 2
, 1 , 2 , 1 , 1 , 1
1 , , 1 1
, 1 , , , ,
1 , 2
, 1 , 2 , 1 , 1 , 1
2 1
2 1
2 1
2 21
1 12
1 1
2 1 2
* 2
T j ij i ij
ij T j ij i ij
ij T j ij i ij
ij T j ij i ij
ij T
j ij i ij
ij T j ij i ij
ij
T ii ii i
ii T j ij i ij
ij T ij ii ij
ij T j ij i ij
ij T
ii ii i
ii T j ij i ij
ij T ij j ii i ij
ij
T j n n n j n n
j j
j n j n j n T
j n j n j
j
j j j
n n j n n
j j
j n j n j n n
j n j
j
j j j
T nj j
j
j nj n
n
n j
j j
n j
j j
nj j
j T
T j ij j T
j ij i T i ij j T i ij i
T j i ij j i ij j i
T ij ZBZ
ij j ZBZ i
z w z z w z z w z z w z tr z w z z w z tr
z w z z w z z w z z w z tr z w z z w z z w w z tr
z w z w
z w w z z
w z w
z w w z tr
w z w
z w w z w
z w
z w w z tr
z z
z wnj w w
w
w w
w w
w w
w w
z z
z tr
ZLZ tr
z w z z w z z w z z w z tr
z z w z z tr w z z
ZLZ tr w
z z
Z T T
推導：
附錄 B
。
，而 可得之
因此 因為
、 假設
推導
P X Z X P Z
P X Z
X P z z P z ,P z P Z
x P z
x x z
z Z
P XLX P tr P
x P z ZLZ tr w
z z Z
T T T
T T
T T
T T
i T i
T T
i T i T ij
j i
2 1 2
1
2 1 2
1
*
* 2
, , X ,
min arg
, ) (
2 min arg min
arg
附錄 C
T T
T T
c T
T c c c T T
c T
T c T c T c T
i T
i T i i
T i i
T i i
i
T i i T i T
i i
i
c T n
T T T T
i i
i
X n ee I X
X n Xee XX
U Un n n XX UU
n XX
UU n UU n UU n XX
uu ux
u x x
x
uu ux u x xx u
x u x S
U n x
x x Xe e
X n ee I X u x u x
1 1
1
1 ,..., 1 , 1 ,...., , 1
,..., 1 , 1 , 1
S 1 2
推導：
、
