ÖKONOMETRIA
ÖKONOMETRIA
Készült a TÁMOP-4.1.2-08/2/A/KMR-2009-0041pályázati projekt keretében Tartalomfejlesztés az ELTE TátK Közgazdaságtudományi Tanszékén
az ELTE Közgazdaságtudományi Tanszék, az MTA Közgazdaságtudományi Intézet,
és a Balassi Kiadó közreműködésével.
ÖKONOMETRIA
Készítette: Elek Péter, Bíró Anikó Szakmai felelős: Elek Péter
2010. június
ELTE TáTK Közgazdaságtudományi Tanszék
ÖKONOMETRIA
10. hét
Egyváltozós idősorelemzés 2.
Elek Péter, Bíró Anikó
Tartalom
AR-, MA-, ARMA- és ARIMA-folyamatok Box-Jenkins módszer, ARMA-modellek becslése és illeszkedésvizsgálata
Előrejelzés ARMA-modellekből
Tananyag: M 13.4-13.6
AR(1)-folyamat
2
2 2
1 2
0
1
0 1 2
2 1
1 / )
Var(
) Var(
) Var(
1 / )
(
felírás) -
) (M A(
1
/
: és stac., modell
a akkor ,
1
|
| Ha
1 1
...
) ,
0 (
~
,
t t
t t
i
i t i t
n
i
i t i n
t n n
t t
t t
t t
t t
X X
X X E
X
X X X
IN X
X
Ha akkor a modell stac., és:
(MA(∞) – felírás)
ACF, PACF AR(1)-modellben
1 k
ha , 0
1 k
ha , 1
) ,
cov(
) ,
cov(
2
1 1
k
k k
k k
k k
t t
t k
t t
k
X X X X
ha ha
AR(p)-folyamat
p
t tp t
p p
t p
p t
t k k
t
t p
t p t
t t
L L
L
L L
L X
x x
X L
L L
X L X
X X
X c
X
1 2
1
1 1
2 2 1
t i
i
1 1
p
2 2 1
2 2
1 1
1 ...
1 1
...
1
és us, stacionári X
akkor 1,
|
| gyökére
minden egyenlet
0 ...
az Ha
. ...
1
operátort, lag
a használva és
0, c
hogy Feltéve,
...
Feltéve, hogy c = 0, és használva a lag operátort,
Ha az egyenlet minden
gyökére akkor stacionárius, és
Stacionárius AR(p)-folyamat jellemzői
. ha
, 0 : PACF
rekurzió.
re -
), (
ndszer egyenletre
re -
...
...
, ...
cov ,
cov
egyenletek Walker
- Yule :
ACF
...
1 /
k - k
2 2
1 1
2 2 1
1
1 1
2 1
p k
p k
p k
X X
X c
X X
c X
E
k
p k p k
k k
p k p k
k
k t t p
t p t
k t t k
p t
ACF: Yule–Walker egyenletek
-re egyenletrendszer -re rekurzió
PACF
Példa: AR(1)-folyamat
X
t= 0,7X
t–1+
t(ACF egyszerű)
-3 -2 -1 0 1 2 3 4
25 50 75 100
Példa: AR(2)-folyamat
X
t= 0,4X
t–1+ 0,5X
t–2+
t-3 -2 -1 0 1 2 3 4 5
25 50 75 100
MA(1) folyamat
stac.
ra - minden :
X
hoz -
0 a lecseng :
1
ha 0
1 /
1
ha 0
1 Var
t
2 1
2 1
2 2
0
1
k k k
t t
t t
t
k k X
c X
E c X
lecseng a 0-hoz minden β-ra stac.
ha
ha
MA(q)-folyamat
stac.
re - minden
: X
hoz -
0 a lecseng :
/
. ha
0,
0 ha ,
...
1 Var
...
i t
0 0 2
2 2
1 2
0
1 1
k
k k
k q
i
k i i k
q t
t
q t q t
t t
q k
q k
X
c X
E c X
ha ha
lecseng a 0-hoz minden βi-ra stac.
Példa: MA(1)-folyamat
X
t=
t+0,7
t-1(ACF egyszerű)
-3 -2 -1 0 1 2 3 4
25 50 75 100
ARMA(p,q)-folyamat
Xt = c + α1Xt-1 + …+ αpXt-p +
t + β1
t-1 + … + βq
t-qStacionárius, ha AR(p)-komponense stacionárius (karakterisztikus egyenlet gyökei…)
ACF és PACF sem 0, de mindkettő 0-hoz tart (exponenciális sebességgel).
Megjegyzés: ACF PACF
AR(p) lecseng 0-hoz k>p esetén 0 MA(q) k>q esetén 0 lecseng 0-hoz
ARIMA(p,d,q)-folyamat
Xt ARIMA(p,1,q)-folyamat, ha Xt stacionárius ARMA(p,q)-folyamat.
Hasonlóan, Xt ARIMA(p,d,q)-folyamat, ha Xt ARIMA(p,d–1,q)-folyamat.
ARIMA(p,d,q) integráltsága I(d).
Példák:
ARIMA(0,1,0): Xt – Xt-1 = t a véletlen bolyongás.
ARIMA(1,1,0): X t– Xt-1 = (Xt-1 – Xt-2) + t, ahol ||<1.
Azaz Xt = (1 + )Xt-1 – Xt-2 + t egy nemstacionárius AR(2)-folyamat.
Példa: ARMA(1,1)-folyamat
-6 -4 -2 0 2 4 6
25 50 75 100
Korrelogram becslése
Korrelogram: a
k autokorrelációk ábrázolása Becslés:Csak stacionárius esetben van értelme, és akkor
konzisztens (azaz nagy T esetén jól becsüli
k-t).
T
t
t k
T
t
k t t
k
X X
X X
X X
1
2
ˆ 1
Box-Jenkins-modellezés
Differencia-képzés
Addig differenciáljuk az idősort, amíg stacionárius nem lesz.
Identifikáció
ARMA-modell p, q rendjeinek „megsejtése”
korrelogram alapján
Becslés
Modellilleszkedés vizsgálata
ARMA-modellek becslése
AR-modell esetén egyszerű
legkisebb négyzetek módszere (becsült innovációk (t) négyzetösszegének minimalizálása)
stacionárius esetben konzisztens és aszimptotikusan normális
MA vagy ARMA-modell esetén
teljes maximum likelihood módszer vagy keresési eljárások
kezdeti innovációkat 0-nak választva, a további innovációk a paraméterek függvényében kiszámolhatók, és
négyzetösszegük minimalizálható
Modellszelekciós kritériumok ARMA-modellekben
Kontrollálnak arra, hogy több paraméterrel „látszólag” jobb illeszkedést kapunk.
Minimalizálva őket kapjuk az „optimális” modellnagyságot.
Példák:
Akaike információs kritérium AIC = n·log(RSS/(n – s)) + 2s
Bayes-i (Schwartz-féle) információs kritérium BIC = n·log(RSS/(n – s)) + s · logn
ahol:
s: becsült paraméterek száma RSS: innovációk négyzetösszege n: mintanagyság
Reziduumok autokorrelálatlanságának vizsgálata
) nagymintás alatt,
(H
~
... ˆ ˆ
ˆ ˆ
on innovációk az
regresszió :
teszt -
Godfrey -
Breusch
) nagymintás alatt,
(H ˆ ~
2
: teszt -
Box -
Ljung
0
ációja autokorrel
k.
innovációk :
0 2
2
2 2 1
1
0 2
1 2 2
1 0
m
t m
t m t
t t
s m m
k
k LB
m k
NR
u b
b b
n-k n r
n Q
r ...
r : r
H r
innovációk k. autokorrelációja
Ljung–Box-teszt
Breusch–Godfrey-teszt: regresszió az innovációkon H0 alatt, nagymintás
H0 alatt, nagymintás
Példa: fehér zaj teszt
S&P500 logaritmikus hozamokra
0 200 400 600 800 1000 1200 1400 1600
1000 2000 3000 4000 5000
-.25 -.20 -.15 -.10 -.05 .00 .05 .10
1000 2000 3000 4000 5000
Fehér zaj teszt (folyt.):
alacsony, talán szignifikáns autokorreláció de: eredmények értékelésével vigyázni kell
a változó volatilitás (szórás) miatt!
Előrejelzés ARIMA-modellekkel
t t
t
t t t
t t
t t
t t
t t
t t
t t
t t
t t
t t
t
t t t
t t
t t
t t
X X
I X
X E
I X
E X
X X
I X
X E
I X
E X
X X I
X X
X
ˆ ˆ ˆ ˆ
ˆ ˆ
| ˆ |
ˆ ˆ ˆ ˆ
ˆ ˆ ˆ
| ˆ |
,...) ,
( ben -
t halmaz inform.
s Előlőrejel
ˆ ˆ ˆ ˆ
ˆ ˆ
ˆ ˆ
ˆ 0 , ˆ 0
innovációk Becsült
2 2
1 1
2 1
1 2
2 1
1 2
1
1 2 1
1 2
1
1 2 1
1 1
2 1
1 1
1
2 2 1
1 2
2 1
1 1
0
Becsült innovációk
Előrejelzés
inform. halmaz t-ben
Előrejelzések fajtái, értékelésük
Előrejelzések
mintán belüli („in sample”) mintán kívüli („out of sample”)
Mérőszámok: átlagos négyzetes előrejelzési hiba (RMSE), átlagos abszolút eltérés (MAE)
Modell becslése: [1,T] intervallumon, értékelése [T+1,T+m]
intervallumon
m X X
RMSE
m T
T t
t
t
1
ˆ 2
m X X
MAE
m T
T t
t
t
1
ˆ |
|
Szeminárium
Egyváltozós idősorelemzés 2.
Feladatok I.
AR(1), MA(1), AR(2) és MA(2) idősorok szimulálása
ACF és PACF függvényük ábrázolása, majd elméleti meghatározása a Yule–Walker
egyenletek alapján
AR(2) modell stacionaritásának vizsgálata a
karakterisztikus egyenlet gyökei alapján
Feladatok: vállalati
kötvényhozamok idősora I.
Stacionaritás vizsgálata a korrelogram szemrevételezésével
Különböző ARMA-modellek becslése Illeszkedésvizsgálat és modellválasztás
Paraméterek szignifikanciája
Reziduumok autokorrelálatlansága a Ljung-Box és a Breusch-Godfrey-teszt alapján
Modellválasztás AIC, BIC alapján
Feladatok: vállalati
kötvényhozamok idősora II.
Mintán kívüli statikus (több időszakra
vonatkozó) előrejelzés a legjobb modell segítségével
Mintán kívüli dinamikus (mindig egy időszakra vonatkozó) előrejelzés
RMSE összehasonlítása a naiv előrejelzésével