8.3 Modele autoregresyjne
W modelu regresji wielorakiej prognozujemy zmienną będącą przedmiotem zainteresowania za pomocą liniowej kombinacji predyktorów. W modelu autoregresji prognozujemy zmienną będącą przedmiotem zainteresowania przy użyciu liniowej kombinacji przeszłych wartości zmiennej. Termin autoregresja wskazuje, że jest to regresja zmiennej względem samej siebie.
Tak więc, model autoregresyjny rzędu \(p\) można zapisać jako \(\), gdzie \(\) jest białym szumem. Przypomina to regresję wieloraką, ale z opóźnionymi wartościami \(y_t\) jako predyktorami. Określamy to jako model AR(\a_t), model autoregresyjny rzędu \a_t).
Modele autoregresyjne są niezwykle elastyczne w obsłudze szerokiego zakresu różnych wzorców szeregów czasowych. Dwa szeregi na rysunku 8.5 przedstawiają szeregi z modelu AR(1) i modelu AR(2). Zmiana parametrów \(\phi_1,\dots,\phi_p\) skutkuje różnymi wzorcami szeregów czasowych. Wariancja składnika błędu \(\varepsilon_t\) zmieni tylko skalę szeregu, a nie jego wzorce.
Rysunek 8.5: Dwa przykłady danych z modeli autoregresyjnych o różnych parametrach. Po lewej: AR(1) z parametrami \(y_t = 18 -0,8y_{t-1} + \varepsilon_t\). Po prawej: AR(2) z \(y_t = 8 + 1,3y_{t-1}-0,7y_{t-2}+ \varepsilon_t\). W obu przypadkach \u00_varepsilon_t\u00↩ jest normalnie rozłożonym białym szumem o średniej zero i wariancji jeden.
Dla modelu AR(1):
- gdy \u00_1=0, \u00_t}jest równoważny białemu szumowi;
- gdy \u00_1=1\u00_1 i c=0, \u00_t}jest równoważny spacerowi losowemu;
- gdy \(\phi_1=1\) i \(c=0\), \(y_t\) jest równoważne spacerowi losowemu z dryfem;
- gdy \(\phi_1<0\), \(y_t\) ma tendencję do oscylowania wokół średniej.
Zazwyczaj ograniczamy modele autoregresyjne do danych stacjonarnych, w takim przypadku wymagane są pewne ograniczenia na wartości parametrów.
- Dla modelu AR(1): \(-1 < \phi_1 < 1\).
- Dla modelu AR(2): \(-1 < \phi_2 < 1\), \(\phi_1+\phi_2 < 1\), \(\phi_2-\phi_1 < 1\).
Gdy \u003\), ograniczenia są znacznie bardziej skomplikowane. R zajmuje się tymi ograniczeniami podczas estymacji modelu.