時間序列分析 –

時間序列分析

– 總體經濟與財務金融之應用 _–

時間序列中的

迴歸模型

陳旭昇

2013.12

1

時間序列漸近理論

2 AR

係數估計式的大樣本性質

3 Newey-West HAC

估計式

時間序列漸近理論

時間序列漸近理論

定義

遍歷性

如果一個定態時間序列的自我共變異數滿足以下充分條件

我們稱該序列具有遍歷性

。

含混地說

時間序列具遍歷性代表該序列為漸近獨立

。 亦即

隨著

與

隨著距離越離越遠而趨近獨立。

時間序列漸近理論

時間序列漸近理論

在了解遍歷性的概念後

我們有以下的重要定理

以建構時間序列的大數 法則

定理

。

定理

定理

給定時間序列

為嚴格定態

具遍歷性

且

t) < ∞,

則

T

T

∑t=1

yt

Ð→ E(yp ^t),

γˆ(k)Ð→ γ(k)^p ρˆ(k)Ð→ ρ(k).^p

時間序列漸近理論

時間序列漸近理論

我們介紹時間序列另一個重要概念

平賭序列

。 定義

平賭序列

如果時間序列

滿足

E(y^t∣y^t−1,yt−2, . . . ,y1) = y^t−1,

則我們稱

為一平賭序列

。

亦即

給定到本期為止的資訊下

對於下一期最佳的預期值就是本期值。

時間序列漸近理論

時間序列漸近理論

定義

平賭差序列

如果時間序列

滿足

E(ε^t∣ε^t−1,εt−2, . . . ,ε1) = 0,

則我們稱

為一平賭差序列

簡稱

。

值得注意的是

根據雙重期望值法則

對於

E(ε_t∣ε_t−j) = E[E(εt∣εt−1,ε_t−2, . . . ,ε1)

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶

=0

∣εt−j] = 0

因此

E(ε ) = E[E(ε∣ε )] = 0,

時間序列漸近理論

時間序列漸近理論

性質

平賭差序列隱含無序列相關

若

為

則

Cov(ε^t,ε_t−k) = 0.

由於

Cov(εt,ε_t−k) = E(εtε_t−k)

= E[E(εtε_t−k∣εt−k)]

= E[εt−kE(εt∣εt−k)

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶

=0

]

時間序列漸近理論

時間序列漸近理論

以下兩個性質連結平賭序列與平賭差序列。

性質

平賭序列

平賭差序列

1

若

為平賭序列

則

為平賭差序列。

2

若

為平賭差序列

則

∑t i=1

ε_i = ε1+ ε²+ ⋯ + εt

為平賭序列。

時間序列漸近理論

時間序列漸近理論

以上兩性質的證明如下。

令

1

E(∆yt∣Ωt−1) = E(yt− y_t−1∣Ωt−1)

= E(yt∣Ωt−1) − yt−1

= y_t−1− y_t−1= 0

時間序列漸近理論

時間序列漸近理論

2

E(yt∣Ωt−1) = E(yt∣εt−1,εt−2, . . . ,ε1)

= E(ε^t+ ε^t−1+ ⋯ + ε¹∣ε^t−1,εt−2, . . . ,ε1)

= E(ε^t∣ε^t−1,εt−2, . . . ,ε1)

+ E(ε^t−1+ ε^t−2+ ⋯ + ε¹∣ε^t−1,εt−2, . . . ,ε1)

= 0+ E(εt−1+ εt−2+ ⋯ + ε¹∣εt−1,ε_t−2, . . . ,ε1)

= εt−1+ εt−2+ ⋯ + ε¹

= yt−1

時間序列漸近理論

時間序列漸近理論

最後我們介紹

的中央極限定理

。 定理

給定

為嚴格定態

具遍歷性之平賭差序列

且

t) < ∞,

則

√T ¯ε = 1

√T

T

∑

t=1

ε_tÐ→ N(0, σ^{d 2}),

其中

ε =¯ ∑^Tt=1εt

T .

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

考慮以下定態

模型

y_t= c + ϕ1y_t−1+ ⋯ + ϕpy_t−p+ εt,

其中

t) < ∞,

且

。 亦即干擾項

為均齊變異

且不具序列相關。

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

令

x_t=

⎡⎢⎢⎢⎢

⎢⎢⎢⎢

⎢⎢⎣ 1 yt−1

y_t−2

⋮ yt−p

⎤⎥⎥⎥

⎥⎥⎥⎥

⎥⎥⎥⎦

ϕ =

⎡⎢⎢⎢

⎢⎢⎢⎢

⎢⎢⎢⎣

c ϕ1

ϕ2

⋮ ϕp

⎤⎥⎥⎥

⎥⎥⎥⎥

⎥⎥⎥⎦

以及

則迴歸模型可再改寫成

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

因此

與

的估計式分別為

ϕ =ˆ (1 T

T

∑t=1

xtxt′

)

−1

(1 T

T

∑t=1

xt yt) σˆ²= 1

T− p − 1

T

∑t=1(y^t− ˆϕ yt−1− ˆϕ²yt−2...− ˆϕpyt−p)² Var̂(ˆϕ) = ˆσ²(∑^T

t=1

x_tx_t^′)

−1

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

要了解

的性質

首先注意到

為

E(xtu_t∣It−1) = xtE(ut∣It−1)

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶₀ = 0.

其中

是由於

為

序列。

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

而

的變異數

共變數矩陣為

E(xtu_tu_tx^′_t) = E(u²tx_tx^′_t)

= EE(u²txtx^′_t∣It−1)

= E(x^tx^′_tE(u²t∣I^t−1)

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶

σ²

)

= E(x^tx^′_tσ²)

= σ²E(xtx^′_t).

其中

也是由於

為

序列。

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

因此

係數估計式的大樣本性質如底下性質所示。

性質

係數估計式的大樣本性質

1

一致性

ϕˆÐ→ ϕ^p

2

漸近分配

ϕˆ∼ N^A (ϕ,σ²Q⁻¹ T ) ,

其中

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

Proof.

ϕ =ˆ (1

TΣx_tx^′_t)⁻¹(1

TΣx_ty_t)

=(1

TΣx_tx^′_t)⁻¹(1

TΣx_t(x^′tϕ + u_t))

=(1

TΣx_tx^′_t)⁻¹[(1

TΣx_tx^′_t) ϕ + 1

TΣx_tu_t]

= ϕ +( 1

TΣx_tx_t^′)⁻¹[1

TΣx_tu_t]

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

1

ϕ − ϕ =ˆ (1

TΣx_tx^′_t)⁻¹

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶_p

Ð→E[xtx_t^′]⁻¹

[1

TΣx_tu_t]

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶_p

Ð→0

Ð→ 0p

亦即

ϕˆÐ→ ϕ^p

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

2

√T( ˆϕ − ϕ) =√ T( 1

TΣx_tx^′_t)⁻¹( 1

TΣx_tu_t)

=(1

TΣx_tx^′_t)⁻¹

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶

p

Ð→Q⁻¹

[ 1

√T

Σx_tu_t]

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶

d

Ð→N (0,σ²Q) d

Ð→ N(0, Q⁻¹σ²Q Q⁻¹)= N^d (0, σ²Q⁻¹)

因此

ϕ − ϕˆ ∼ N^A (0,σ²Q⁻¹ T ),

AR係數估計式的大樣本性質

AR 係數估計式的大樣本性質

最後值得一提的是

由於

迴歸式中

嚴格外生性的假設並不符合

因此

E( ˆϕ) ≠ ϕ,

亦即

並不是

的不偏估計式。

Newey-West HAC估計式

Newey-West HAC 估計式

在上一節假設

為

以及均齊變異

因此

且

的估計式為

Var̂( ˆϕ) = ˆσ²(∑^T

t=1

x_tx_t^′)

−1

.

然而

一般的時間序列資料可能無法滿足此

假設。

Newey-West HAC估計式

Newey-West HAC 估計式

因此

我們可以進一步考慮當

有序列相關且為非均齊變異

時

的穩健估計式

。

Newey and West(1987)

提出了一種考慮序列相關與非均齊變異的

估計式

稱做 「非均齊變異

序列相關一致估計式」

簡稱

估計 式

又稱

估計式

estimator),

或是

估計式

。

Newey-West HAC估計式

Newey-West HAC 估計式

我們以一個簡單的

模型來說明

估計式。

y_t= β0+ β1y_t−1+ ut.

令

則

迴歸模型可以改寫成

y_t= β0+ β1x_t+ u_t.

已知

的估計式為

βˆ1= ∑

T

t=1(xt− ¯x)yt

∑^Tt=1(xt− ¯x)²

1 ∑^T (x − ¯x)u

Newey-West HAC估計式

Newey-West HAC 估計式

由於

x¯ Ð→ µ^p x,

且

1 T

∑T

t=1(xt− ¯x)² Ð→ σ^p x²,

則

的大樣本近似可以寫成

βˆ1− β1≈

1

T∑^Tt=1[xt− µ_x]ut

σ_x² .

Newey-West HAC估計式

Newey-West HAC 估計式

令

則上式可以改寫成

1

T∑^Tt=1v_t σ_x² .

因此

Var( ˆβ¹) = Var (^T1 ∑^Tt=1v_t

σ_x² ) = Var(_T¹ ∑^Tt=1vt) (σx²)² .

Newey-West HAC估計式

Newey-West HAC 估計式

1

如果

為

則

Var(1 T

∑T t=1

v_t) = Var(vt)

T ,

且

Var( ˆβ¹) = Var(vt) T(σx²)² .

Newey-West HAC估計式

Newey-West HAC 估計式

2

當

為序列相關

T

∑T t=1

v_t)

= 1 T²[∑^T

i=1

Var(vi) + 2(T − 1)Cov(vt,v_t−1)

+ 2(T − 2)Cov(vt,v_t−2) + ⋯ + 2Cov(vt,v_t−T+1)],

= Var(vt) T f_T,

Newey-West HAC估計式

Newey-West HAC 估計式

其中

f_T = 1 + 2^T−1∑

j=1

(T − j T ) ρj, ρ_j = √ Cov(vt,v_t−j)

Var(vt)Var(vt−j) = Cov(vt,v_t−j) Var(vt) .

Newey-West HAC估計式

Newey-West HAC 估計式

因此

Var( ˆβ¹) = (Var(vt) T(σx²)² )

´¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¸¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¹¶

(A)

f_T

(B)® .

(A)=

當序列相關不存在時

的變異數估計式。

(B)=

為了考慮序列相關所多出來的項次。

Newey-West HAC估計式

Newey-West HAC 估計式

我們要如何估計

的建議為以下的估 計式

Σˆ_NW = ˆσ²_ˆ

β1

fˆ_T,

其中

β1

為傳統的

非均齊變異變異數估計式

而

的估計式為

fˆ_T = 1 + 2^m−1∑

j=1

(m − j m ) ˆρj,

= 1 + 2

∑q j=1

(1 − j q + 1) ˆρj,

Newey-West HAC估計式

Newey-West HAC 估計式

其中

ρˆ_j= ∑^Tt= j+1vˆ_tvˆ_t−j

∑^Tt=1vˆ²_t ,

以及

vˆ_t=(xt− ¯x)ˆut.

Newey and West (1994)

建議以底下的公式選擇

取到整數

q = 4( T 100)^2/9.

Newey-West HAC估計式

Newey-West HAC 估計式

如果我們考慮

模型

令

x_t =

⎡⎢⎢⎢

⎢⎢⎢⎢

⎢⎢⎢⎢

⎣ 1 y_t−1 y_t−2

⋮ y_t−p

⎤⎥⎥⎥

⎥⎥⎥⎥

⎥⎥⎥⎥

⎦

ϕ =

⎡⎢⎢⎢

⎢⎢⎢⎢

⎢⎢⎢⎢

⎣ c ϕ1

ϕ2

⋮ ϕ_p

⎤⎥⎥⎥

⎥⎥⎥⎥

⎥⎥⎥⎥

⎦

且

ϕ =ˆ (1 T

∑T x_t x_t^′)

−1

(1 T

∑T x_t y_t) ,

Newey-West HAC估計式

Newey-West HAC 估計式

則

的

估計式為

(∑^T

t=1

xtxt′

)

−1

[∑^T

t=1

uˆ²_txtx^′_t

+

q

∑

j=1

(1 − j q+ 1) ∑^T

t= j+1

(x^tuˆtuˆt− jx^′_{t− j}+ x^{t− j}uˆt− juˆtx^′_t)⎤⎥

⎥⎥⎥⎦

(∑^T

t=1

xtxt

′)

−1

.