ú nius Szakmai felelős: Elek Péter 2010. j Készítet te: Elek Péter, Bíró Anikó ÖKONOMETRIA

(1)

ÖKONOMETRIA

Készült a TÁMOP-4.1.2-08/2/A/KMR-2009-0041pályázati projekt keretében Tartalomfejlesztés az ELTE TáTK Közgazdaságtudományi Tanszékén

az ELTE Közgazdaságtudományi Tanszék az MTA Közgazdaságtudományi Intézet

és a Balassi Kiadó közreműködésével

Készítette: Elek Péter, Bíró Anikó Szakmai felelős: Elek Péter

2010. június

(2)

2

ÖKONOMETRIA 10. hét

Egyváltozós idősorelemzés 2.

Készítette: Elek Péter, Bíró Anikó Szakmai felelős: Elek Péter

Tartalom

AR-, MA-, ARMA- és ARIMA-folyamatok

Box-Jenkins módszer, ARMA-modellek becslése és illeszkedésvizsgálata Előrejelzés ARMA-modellekből

Tananyag: M 13.4-13.6

AR(1)-folyamat

 



²



2 2

1 2

0 1

0 1 2

2 1

1 / )

Var(

) Var(

1 / ) (

felírás) -

) (M A(

1

/

: és stac., modell a

akkor ,

1

|

| Ha

1 1

...

) , 0 (

~ ,





















 

 













































 

 















 



 





t t

i

i t i t

n

i

i t i n

t n n

t t

t t t t

X X

X X E X

X X X

IN X

X

Ha akkor a modell stac., és:

(MA(∞) – felírás)

 



²



2 2

1 2

0 1

0 1 2

2 1

1 / )

Var(

) Var(

1 / ) (

felírás) -

) (M A(

1

/

: és stac., modell a

akkor ,

1

|

| Ha

1 1

...

) , 0 (

~ ,





















 

 













































 

 















 



 





t t

i

i t i t

n

i

i t i n

t n n

t t

t t t t

X X

X X E X

X X X

IN X

X

Ha akkor a modell stac., és:

(MA(∞) – felírás)

(3)

3

ACF, PACF AR(1)-modellben

AR(p)-folyamat

Stacionárius AR(p)-folyamat jellemzői







 







 _ _ _ _

1 k ha , 0

1 k ha , 1

) , cov(

2

1 1

k k k

k k

t t t k

t t

k X X X X





















ha

 ha





 







 _ _ _ _

1 k ha , 0

1 k ha , 1

) , cov(

2

1 1

k k k

k k

t t t k

t t

k X X X X





















ha ha

 

    



p



t

t p t

p p

t p p t

t k k t

t p t p t

t t

L L

L

L L

L X

x x

X L L

L

X L X

X X

X c X

















1 2

1

1 1 2

2 1

t i

i

1 1 p

2 2 1

2 2 1 1

1 ...

1 1

...

1

és us, stacionári X

akkor 1,

|

| gyökére

minden egyenlet

0 ...

az Ha

. ...

1

operátort, lag

a használva és

0, c hogy Feltéve,

...





















Feltéve, hogy c = 0,és használva a lag operátort,

Ha az egyenlet minden

gyökére akkor stacionárius, és

 

    



p



t

t p t

p p

t p p t

t k k t

t p t p t

t t

L L

L

L L

L X

x x

X L L

L

X L X

X X

X c X

















1 2

1

1 1 2

2 1

t i

i

1 1 p

2 2 1

2 2 1 1

1 ...

1 1

...

1

és us, stacionári X

akkor 1,

|

| gyökére

minden egyenlet

0 ...

az Ha

. ...

1

operátort, lag

a használva és

0, c hogy Feltéve,

...





















Feltéve, hogy c = 0,és használva a lag operátort,

Ha az egyenlet minden

gyökére akkor stacionárius, és

   

. ha , 0 : PACF

rekurzió.

re -

), (

ndszer egyenletre

re -

...

, ...

cov ,

cov

egyenletek Walker

- Yule : ACF

...

1 /

k - k 2

2 1 1

2 2 1 1

1 1 2 1

p k p k

p k

X X

X c X

X c X E

k

p k p k

k k

p k p k

k

k t t p t p t

k t t k

p t



































































ACF: Yule–Walker egyenletek

-re egyenletrendszer -re rekurzió

PACF

   

. ha , 0 : PACF

rekurzió.

re -

), (

ndszer egyenletre

re -

...

, ...

cov ,

cov

egyenletek Walker

- Yule : ACF

...

1 /

k - k 2

2 1 1

2 2 1 1

1 1 2 1

p k p k

p k

X X

X c X

X c X E

k

p k p k

k k

p k p k

k

k t t p t p t

k t t k

p t



































































ACF: Yule–Walker egyenletek

-re egyenletrendszer -re rekurzió

PACF

(4)

4

Példa: AR(1)-folyamat

X_t = 0,7X_t–1+ t

(ACF egyszerű)

Példa: AR(2)-folyamat

X_t = 0,4X_t–1+ 0,5X_t–2+ t -3

-2 -1 0 1 2 3 4

25 50 75 100

-3 -2 -1 0 1 2 3 4 5

25 50 75 100

(5)

5

MA(1) folyamat

MA(q)-folyamat

 

   

 

stac.

ra - minden :

X

hoz - 0 a lecseng :

1 ha 0

1 /

1 ha 0

1 Var

t

2 1

2 2

0

1































k k k

t t

t t t

k k X

c X E c X





















_

lecseng a 0-hoz minden β-ra stac.

ha

 

   

 

stac.

ra - minden :

X

hoz - 0 a lecseng :

1 ha 0

1 /

1 ha 0

1 Var

t

2 1

2 2

0

1































k k k

t t

t t t

k k X

c X E c X





















_

lecseng a 0-hoz minden β-ra stac.

ha

 

   

stac.

re - minden :

X

hoz - 0 a lecseng :

/

. ha

0,

0 ha ,

...

1 Var

...

i t

0 0 2

2 2

1 2

0

1 1











 



















k k k

k q

i

k i i k

q t

t

q t q t

t t

q k

q k X

c X E c X













 











^

 



ha ha lecseng a 0-hoz minden β_i-ra stac.

 

   

stac.

re - minden :

X

hoz - 0 a lecseng :

/

. ha

0,

0 ha ,

...

1 Var

...

i t

0 0 2

2 2

1 2

0

1 1











 



















k k k

k q

i

k i i k

q t

t

q t q t

t t

q k

q k X

c X E c X













 











^

 



ha ha lecseng a 0-hoz minden β_i-ra stac.

(6)

6

Példa: MA(1)-folyamat

X_t =t+0,7t-1

(ACF egyszerű)

ARMA(p,q)-folyamat

X_t = c + α₁X_t-1+ …+ αpX_t-p+ t + β1t-1 + … + βqt-q

Stacionárius, ha AR(p)-komponense stacionárius (karakterisztikus egyenlet gyökei…) ACF és PACF sem 0, de mindkettő 0-hoz tart (exponenciális sebességgel).

Megjegyzés: ACF PACF

AR(p) lecseng 0-hoz k>p esetén 0 MA(q) k>q esetén 0 lecseng 0-hoz

ARIMA(p,d,q)-folyamat

Xt ARIMA(p,1,q)-folyamat, ha Xt stacionárius ARMA(p,q)-folyamat.

Hasonlóan, X_t ARIMA(p,d,q)-folyamat, ha Xt ARIMA(p,d–1,q)-folyamat.

ARIMA(p,d,q) integráltsága I(d).

-3 -2 -1 0 1 2 3 4

25 50 75 100

(7)

7

Példák:

ARIMA(0,1,0): Xt – Xt-1 = t a véletlen bolyongás.

ARIMA(1,1,0): X t– Xt-1 = (Xt-1 – Xt-2) + t, ahol ||<1.

Azaz Xt = (1 + )Xt-1 – Xt-2 + t egy nemstacionárius AR(2)-folyamat.

Példa: ARMA(1,1)-folyamat

Korrelogram becslése

Korrelogram: a k autokorrelációk ábrázolása Becslés:

Csak stacionárius esetben van értelme, és akkor konzisztens (azaz nagy T esetén jól becsüli k-t).

-6 -4 -2 0 2 4 6

25 50 75 100

  

 







 



 _T

t t k

T

t

k t t

k

X X

X X X X

1

2

ˆ 1



(8)

8

Box-Jenkins-modellezés

Differencia-képzés

Addig differenciáljuk az idősort, amíg stacionárius nem lesz.

Identifikáció

ARMA-modell p, q rendjeinek „megsejtése” korrelogram alapján Becslés

Modellilleszkedés vizsgálata

ARMA-modellek becslése

AR-modell esetén egyszerű

legkisebb négyzetek módszere (becsült innovációk (t) négyzetösszegének minimalizálása)

stacionárius esetben konzisztens és aszimptotikusan normális MA vagy ARMA-modell esetén

teljes maximum likelihood módszer vagy keresési eljárások

kezdeti innovációkat 0-nak választva, a további innovációk a paraméterek függvényében kiszámolhatók, és négyzetösszegük minimalizálható

Modellszelekciós kritériumok ARMA-modellekben

Kontrollálnak arra, hogy több paraméterrel „látszólag” jobb illeszkedést kapunk.

Minimalizálva őket kapjuk az „optimális” modellnagyságot.

Példák:

Akaike információs kritérium AIC = n·log(RSS/(n – s)) + 2s

Bayes-i (Schwartz-féle) információs kritérium BIC = n·log(RSS/(n – s)) + s logn

(9)

9

ahol:

s: becsült paraméterek száma RSS: innovációk négyzetösszege n: mintanagyság

Reziduumok autokorrelálatlanságának vizsgálata

Példa: fehér zaj teszt

S&P500 logaritmikus hozamokra

 

) nagymintás alatt,

(H

~

... ˆ ˆ ˆ

ˆ

on innovációk az

regresszió :

teszt - Godfrey -

Breusch

(H ˆ ~

2 : teszt - Box - Ljung

0

ációja autokorrel k.

innovációk :

0 2 2

2 2 1 1

0 2 1

2 2

1 0

m

t m t m t

t t

s m m

k k LB

m k

NR

u b

b b

n-k n r

n Q

r ...

r : r H r





















innovációk k. autokorrelációja

Ljung–Box-teszt

Breusch–Godfrey-teszt: regresszió az innovációkon H₀alatt, nagymintás

H₀alatt, nagymintás

 

(H

~

... ˆ ˆ ˆ

ˆ

on innovációk az

regresszió :

teszt - Godfrey -

Breusch

(H ˆ ~

2 : teszt - Box - Ljung

0

ációja autokorrel k.

innovációk :

0 2 2

2 2 1 1

0 2 1

2 2

1 0

m

t m t m t

t t

s m m

k k LB

m k

NR

u b

b b

n-k n r

n Q

r ...

r : r H r





















innovációk k. autokorrelációja

Ljung–Box-teszt

Breusch–Godfrey-teszt: regresszió az innovációkon H₀alatt, nagymintás

H₀alatt, nagymintás

0 200 400 600 800 1000 1200 1400 1600

1000 2000 3000 4000 5000

-.25 -.20 -.15 -.10 -.05 .00 .05 .10

1000 2000 3000 4000 5000

(10)

10

Fehér zaj teszt (folyt.):

alacsony, talán szignifikáns autokorreláció de: eredmények értékelésével vigyázni kell

a változó volatilitás (szórás) miatt!

Előrejelzés ARIMA-modellekkel

   

t t t

t

t t t t

t t

t t t

t t

X X

I X

X E

I X E X

X X

I X

X E

I X E X

X X I

X X

X































































ˆ ˆ ˆ ˆ

ˆ ˆ

| ˆ |

ˆ ˆ ˆ ˆ ˆ

ˆ ˆ

| ˆ |

,...) ,

( ben - t halmaz inform.

s Előlőrejel

ˆ ˆ ˆ ˆ

ˆ ˆ ˆ

ˆ

ˆ 0 , ˆ 0

innovációk Becsült

2 2

1 1

2 1 1 2 2

1 1 2

1

1 2 1 1 2 1

1 2 1 1 1 2 1

1 1

1

2 2 1 1 2 2 1 1 1 0

































Becsült innovációk

Előrejelzés

inform. halmaz t-ben

   

t t t

t

t t t t

t t

t t t

t t

X X

I X

X E

I X E X

X X

I X

X E

I X E X

X X I

X X

X































































ˆ ˆ ˆ ˆ

ˆ ˆ

| ˆ |

ˆ ˆ ˆ ˆ ˆ

ˆ ˆ

| ˆ |

,...) ,

( ben - t halmaz inform.

s Előlőrejel

ˆ ˆ ˆ ˆ

ˆ ˆ ˆ

ˆ

ˆ 0 , ˆ 0

innovációk Becsült

2 2

1 1

2 1 1 2 2

1 1 2

1

1 2 1 1 2 1

1 2 1 1 1 2 1

1 1

1

2 2 1 1 2 2 1 1 1 0

































Becsült innovációk

Előrejelzés

inform. halmaz t-ben

(11)

11

Előrejelzések fajtái, értékelésük

Előrejelzések

mintán belüli („in sample”) mintán kívüli („out of sample”)

Mérőszámok: átlagos négyzetes előrejelzési hiba (RMSE), átlagos abszolút eltérés (MAE)

Modell becslése: [1,T] intervallumon, értékelése [T+1,T+m] intervallumon

Szeminárium

Egyváltozós idősorelemzés 2.

Feladatok I.

AR(1), MA(1), AR(2) és MA(2) idősorok szimulálása

ACF és PACF függvényük ábrázolása, majd elméleti meghatározása a Yule–Walker egyenletek alapján

AR(2) modell stacionaritásának vizsgálata a karakterisztikus egyenlet gyökei alapján

 

m X X RMSE

m T

T t

t



^ t







 ¹

ˆ 2

m X X MAE

m T

T t

t



^ t







 ¹

ˆ |

|

(12)

12

Feladatok: vállalati kötvényhozamok idősora I.

Stacionaritás vizsgálata a korrelogram szemrevételezésével Különböző ARMA-modellek becslése

Illeszkedésvizsgálat és modellválasztás Paraméterek szignifikanciája

Reziduumok autokorrelálatlansága a Ljung-Box és a Breusch-Godfrey-teszt alapján Modellválasztás AIC, BIC alapján

Feladatok: vállalati kötvényhozamok idősora II.

Mintán kívüli statikus (több időszakra vonatkozó) előrejelzés a legjobb modell segítségével

Mintán kívüli dinamikus (mindig egy időszakra vonatkozó) előrejelzés RMSE összehasonlítása a naiv előrejelzésével

Az előrejelzések grafikus összehasonlítása a megvalósult adatokkal