Autoregressiv modell

Autoregressiv ( AR- ) modell ( engelsk autoregressiv modell ) är en tidsseriemodell där värdena för tidsserien för tillfället linjärt beror på de tidigare värdena i samma serie. En autoregressiv process av ordningen p (AR( p )-process) definieras enligt följande

X_{t}=c+\summa _{{i=1}}^{p}a_{i}X_{{ti}}+\varepsilon _{t},

var är modellparametrarna (autoregressionskoefficienter), är en konstant (som ofta antas vara noll för enkelhetens skull) och är vitt brus . $a_{1},\ldots ,a_{p}$ $c$ $\varepsilon _{t}$

Det enklaste exemplet är den första ordningens autoregressiva AR(1)-processen:

X_{t}=c+rX_{{t-1}}+\varepsilon _{t}

För denna process är den autoregressiva koefficienten densamma som den första ordningens autokorrelationskoefficient.

En annan enkel process är Yule-processen, en AR(2)-process:

X_{t}=c+a_{1}X_{{t-1}}+a_{2}X_{{t-2}}+\varepsilon _{t}

Operatörsrepresentation

Om vi introducerar en fördröjningsoperator kan den autoregressiva modellen representeras enligt följande $L:Lx_{t}=x_{{t-1}}$

X_{t}=c+\summa _{{i=1}}^{p}a_{i}L^{i}X_{{t}}+\varepsilon _{t},

eller

a(L)X_{t}=(1-\summa _{{i=1}}^{p}a_{i}L^{i})X_{{t}}=c+\varepsilon _{t}

Den autoregressiva processens stationaritet beror på rötterna till det karakteristiska polynomet . För att processen ska vara stationär [1] räcker det att alla rötter till det karakteristiska polynomet ligger utanför enhetscirkeln i det komplexa planet . $a(z)=1-\summa _{{i=1}}^{n}a_{i}z^{i}$ $|z|>1$

I synnerhet för AR(1)-processen , därför roten av detta polynom , så stationaritetsvillkoret kan skrivas som , det vill säga autoregressionskoefficienten (i detta fall autokorrelationskoefficienten) måste vara strikt mindre än 1 modulo . $a(z)=1-rz$ $z=1/r$ $|r|<1$

För en AR(2)-process kan det visas att stationaritetsvillkoren har formen: . $|a_{2}|<1,a_{2}\pm a_{1}<1$

Stationära AR-processer tillåter Wold-nedbrytningen - en representation i form av en oändlig MA-process :

$X_{t}=a^{{-1}}(L)c+a^{{-1}}(L)\varepsilon _{t}={\frac {c}{1-\summa _{{ i=1}}^{p}a_{i}}}+\sum _{{j=0}}^{{\infty }}b_{j}\varepsilon _{{tj}}$

Den första termen är den matematiska förväntningen på AR-processen. Om c=0, då är också förväntan på processen noll.

Autokorrelationsfunktion

Det kan visas att autokovarians- och autokorrelationsfunktionerna för AR(p)-processen uppfyller de rekursiva relationerna:

$\gamma (k)=\summa _{{j=1}}^{p}a_{j}\gamma (kj)~~~~~r(k)=\summa _{{j=1}}^ {p}a_{j}r(kj)$

I det enklaste fallet med en AR(1)-process är medelvärdet , variansen är , och autokorrelationen är . $\mu =c/(1-r)$ $\gamma (0)=\sigma _{\varepsilon }^{2}/(1-r^{2})$ $r(k)=r\cdot r(k-1)~\Rightarrow ~r(k)=r^{k}$

I det allmänna fallet indikerades uttrycket för den matematiska förväntan genom modellparametrarna ovan, men uttrycket för tidsseriens spridning är mycket mer komplicerat. Det kan visas att variansen för serien och autokovariansvektorn uttrycks i termer av parametrar enligt följande: $\gamma (0)$ $\gamma$

${\displaystyle \gamma (0)=(1+a^{T}(C-aa^{T})^{-1}a)\sigma _{\varepsilon }^{2))$ , $\gamma =\sigma _{\varepsilon }^{2}(C-aa^{T})^{-1}a$

där är parametervektorn, är ordningsmatrisen , vars element definieras enligt följande. De diagonala elementen är lika . Elementen ovanför diagonalen är lika , och elementen under diagonalen är lika . Här förstås att om indexet överstiger modellens ordning , så sätts motsvarande värde till noll. $a$ $C$ $sid$ ${\displaystyle c_{ii}=1-a_{2i))$ $-a_{2i+j-1}$ $-(a_{j}+a_{2i-j})$ $sid$

Speciellt för en AR(1)-process är matrisen bara en, alltså , vilket motsvarar formeln ovan. $C$ $\gamma (0)=(1+{\frac {a^{2}}{1-a^{2}}})\sigma _{\varepsilon }^{2}$

För -processen definieras andra ordningens matris enligt följande: den första raden är ( ;0), den andra är ( ;1). Genom att tillämpa formeln ovan kan du få följande uttryck för variansen av denna process: $AR(2)$ $C$ ${\displaystyle 1-a_{2))$ ${\displaystyle -a_{1))$

$\gamma (0)={\frac {(1-a_{2})\sigma _{\varepsilon }^{2}}{(1+a_{2})((1-a_{2} )^{2}-a_{1}^{2})}}$

I praktiken används vanligtvis inte formler för processvariansen uttryckt i form av modellparametrar, men följande uttryck används i termer av kovarianser:

$\gamma (0)=\sigma _{\varepsilon }^{2}+\summa _{k=1}^{p}a_{k}\gamma (k)$

Autokorrelationsfunktionen för den autoregressiva processen avtar exponentiellt med möjliga svängningar (oscillationer beror på närvaron av komplexa rötter av det karakteristiska polynomet). I detta fall är den partiella autokorrelationsfunktionen för k>p lika med noll. Den här egenskapen används för att identifiera ordningen för AR-modellen från provet partiell autokorrelationsfunktion för tidsserien.

För en AR(1)-process är autokorrelationsfunktionen en exponentiellt avklingande funktion (utan svängningar) om stationaritetsvillkoret är uppfyllt. Den partiella autokorrelationsfunktionen för den första ordningen är r, och för högre ordningar är den 0.

Uppskattning av modellparametrar

Med hänsyn till pariteten för autokorrelationsfunktionen och genom att använda återfallsrelationen för de första p autokorrelationerna, får vi Yule-Walker ekvationssystemet [2] :

$1\leqslant k\leqslant p~,~\sum _{{j=1}}^{p}a_{j}r(|kj|)=r(k)$

eller i matrisform

$Ra=r~,~\Rightarrow a=R^{{-1}}r~,~~R={\begin{pmatrix}1&r_{1}&r_{2}&...&r_{{p-1} }\\r_{1}&1&r_{1}&...&r_{{p-2}}\\r_{2}&r_{1}&1&...&r_{{p-3}}\\... \\r_{{p-1}}&r_{{p-2}}&r_{{p-3}}&...&1\\\end{pmatrix}}$

Om vi använder provautokorrelationer istället för sanna (okända) autokorrelationer kommer vi att få uppskattningar av okända autoregressionskoefficienter. Denna uppskattningsmetod kan visas vara ekvivalent med den vanliga minsta kvadratmetoden (OLS) . Om de slumpmässiga felen i modellen är normalfördelade, är denna metod också likvärdig med den villkorade maximala sannolikhetsmetoden . För att få mer exakta uppskattningar i det senare fallet kan man använda full maximum likelihood-metoden, som använder information om fördelningen av de första medlemmarna i serien. Till exempel, i fallet med en AR(1)-process, tas fördelningen av den första termen lika med den ovillkorliga fördelningen av tidsserien (normalfördelning med matematisk förväntan och ovillkorlig varians av serien).

Säsongsbetonade autoregressiva modeller

AR-modeller kan användas för att modellera säsongsvariationer. Sådana modeller betecknas SAR (Seasonal AR). Till exempel, givet kvartalsdata och med antagande om kvartalsvis säsongsvariation, kan följande SAR(4)-modell byggas:

$y_{t}=a_{4}y_{{t-4}}+\varepsilon _{t}$

I själva verket är detta en vanlig AR-modell med en begränsning av modellparametrarna (parametrar lika med noll för eftersläpningar mindre än 4). I praktiken kan säsongsvariationer kombineras med konventionell autoregression, till exempel:

$y_{t}=a_{1}y_{{t-1}}+a_{4}y_{{t-4}}+\varepsilon _{t}$

I vissa fall är säsongsmodeller användbara, där det slumpmässiga felet är föremål för någon AR-process:

$y_{t}=a_{4}y_{{t-4}}+\varepsilon _{t}~,~\varepsilon _{t}=a_{1}\varepsilon _{{t-1}}+u_ {t}$

Det är lätt att se att en sådan modell i operatörsform kan skrivas som:

$(1-a_{1}L)(1-a_{4}L^{4})y_{t}=u_{t}$

En sådan modell kallas . $AR(1)\ gånger SAR(4)$

Se även

Anteckningar

↑ Skillnadsekvation och återkommande sekvens . Hämtad 18 juli 2015. Arkiverad från originalet 21 juli 2015. (obestämd)
↑ Markov-sekvenser (otillgänglig länk) . Hämtad 18 juli 2015. Arkiverad från originalet 21 juli 2015. (obestämd)