CHAPITRE I. Michel LUBRANO. Septembre Introduction 2

Transcription

1 CHAPITRE I Introduction à la modélisation des séries temporelles univariées Michel LUBRANO Septembre 2008 Contents 1 Introduction 2 2 Processus stochastiques Processus stationnaires Ergodicité Innovations Théorème de Wold Autocovariances et totales et partielles Densité spectrale Le spectre de la population Estimation de la densité spectrale Opérateur retard Inversion des polynômes Factorisation Modèles paramétriques usuels Processus moyenne mobile Processus auto-régressifs Equations de Yule et Walker Processus ARMA

2 1 INTRODUCTION 2 6 Méthodologies de spécification Box-Jenkins Transformations et différentiation Critères d information Conclusion 23 8 Lectures additionnelles 23 9 Exercices Aliasing Somme de deux MA(1) Moments d un MA(2) Simulation d un AR(1) Moments d un AR(2) Simulation d un ARMA(1,1) Simulation des densités spectrales Densité spectrale d un ARMA(1,1) Filtres Critères d information Introduction La statistique se préoccupe de porter des jugements sur une population à partir de l observation d un échantillon de cette population. Si l on prend l exemple des données d enquête, l ordre dans lequel sont échantillonnées les observations n a pas d importance. On peut quand même parfois accorder de l importance aux unités qui sont échantillonnées comme par exemple les élèves d une même classe ou d un même établissement, les habitants d un même quartier. La dimension temporelle prend de l imporance quand on décide de réintérroger les mêmes personnes. On peut allor étudier leur évvolution dans le temps. Dans le domaine de la statistique dénomée analyse des séries temporelles, la dimension temporelle des observation devient primordiale. Une série temporelle est définie comme une suite d observations indexées par le temps. L attention va se focaliser sur les propriétés évolutives d une variable aléatoire, tant pour sa prévision que dans sa relation avec son passé. Comme exemple de série temporelle, viennent immédiatement à l esprit toutes lés séries macroéconomiques, mais aussi les séries financières. Les séries temporelles peuvent être observées de manière continue ou de manière discrète. Les modèles de la finance par exemple reposent souvent sur une hypothèse de temps continu car sur un marché boursier les transaction paraissent très rapprochées. Par contre les données macroéconomiques sont typiquement des données observées en temps discret à un intervalle du mois, du trimestre ou même de l année. On rappellera la distinction usuelle entre données de flux qui concernent des phénomènes continus comme les prix ou les taux d intérêt, mais que l on a choisi de n observer qu à des intervalles réguliers et discrets, et les donénes de stocks qui résultent d un phénomène d accumulation. L investissement

3 2 PROCESSUS STOCHASTIQUES 3 est un flux, tandis que le capital est un stock résultant d un côté de l accumulation des investissements passés et de l autre côté d un phénomène de dépréciation. L examen graphique d une série temporelle montre que la valeur prise au temps t dépend fortement de la valeur prise au temps t 1. Le processus qui les engendre est dynamique. On voudra en construisant un modèle, acquérir de l information sur ce processus théorique que l on appelle Processus de Génération des Données ou PGD. Le problème est alors de trouver le modèle pratique qui approchera le plus possible le processus théorique et ensuite de l estimer. Une fois cette étape franchie, on pourra faire de la prévision ou du contrôle avec ce modèle. Les types de modèles que l on peut considérer sont nombreux. En statistique on va s intéresser à modéliser une série univariée au moyen d un modèle ARMA, ou bien considérer plusieurs séries à la fois et les modéliser conjointement dans un modèle multivarié ou modèle VAR de manière à mettre à jour les interactions entre ces variables. En économétrie, on s intéressera plutôt à une modélisation conditionnelle qui étudie la dynamique d une variable, conditionnellement à d autre variables supposées exogènes. La plupart des modèles supposent que les séries étudiées sont stationnaires. Les propriétés des estimateurs reposent sur cette hypothèse. Cependant la plupart des séries que l on a à traiter croissent dans le temps, ou même si elles ne sont pas croissantes, ont des fluctuations qui ne sont pas régulières. Elles sont non-stationnaires. Il est en général possible de trouver une transformation ou un filtre qui puisse rendre stationnaire les séries non-stationnaires. Mais la détermination exacte de ce filtre n est pas triviale. Faut-il différencier la série, faut il retirer une tendance et laquelle? Et surtout ne perd-on pas de l information par ces opérations? Le but de cet ouvrage est de prendre en compte la nature non-stationnaire des données économiques en montrant les problèmes que cela pose. C est toute la question des racines unitaires et de la cointégration. Ce chapitre a un but introductif. Il doit présenter dans un cadre univarié certains outils mathématiques et modèles simples employés par la statistique des séries temporelles. La branche de la statistique mathématique qui s intéresse aux séries temporelles a développé plusieurs modèles de représentation des séries temporelles dont nous allons très brièvement rappeler les plus simples. Il s agira de préciser quelques notions sur les modèles AR, MA et ARMA univariés et quelques outils mathématiques qui leurs sont reliés. 2 Processus stochastiques Un processus stochastique est une suite de variables aléatoires réelles qui sont indexées par le temps: X t, t ZZ (1) Ici t appartient à un espace discret, ce qui définit un processus en temps discret. Un processus stochastique est donc une famille de variables aléatoires X dont on va observer des valeurs réelles issues de l espace S des échantillons selon une certaine loi de probabilié. Pour chaque point s de l espace des échantillons S, la fonction qui à t associe X t (s) est appelée la trajectoire du processus. Les observations successives forment l histoire du processus. On peut les noter: X t 0 pour désigner l histoire du processus entre 0 et t.

4 2 PROCESSUS STOCHASTIQUES Processus stationnaires Lorsque chacune des variables X t vérifie E(X t ) <, la loi du processus est partiellement résumée par l espérance des différentes variables et par leurs covariances. Ces moments dépendent en général du temps, ce qui est gênant quand de l observation de réalisations du processus on veut tirer de l information sur la loi sous-jacente de ce processus. Pour pouvoir obtenir une accumulation d information on est amené à considérer des processus dits stationnaires. Définition 1 Un processus est stationnaire au second ordre si: - t ZZ, E(X t ) = µ indépendant de t - t ZZ, E(X 2 t ) < - t, h ZZ, Cov(X t, X t+h ) = γ(h) indépendant de t Ce type de stationnarité est aussi une propriété d invariance des deux premiers moments par translation dans le temps. Mais on ne dit rien sur les moments d ordre supérieur, ce qui fait que cette définition, très commode par ailleurs, est sans doute trop floue. Au lieu de considérer simplement les deux premiers moments d un processus, on peut décider de s intéresser à la distribution complète des observations. On peut alors accéder à une définition plus stricte de la stationnarité. Définition 2 Un processus stochastique sera dit strictement stationnaire si la distribution jointe de X t et X t+h ne dépend pas de t, mais seulement de h. Ici, c est la distribution jointe qui est invariante par translation. Cette propriété est plus forte que la précédente car un processus stationnaire au second ordre peut posséder des moments d ordre supérieur qui ne sont pas invariants par translation. La notion de stationnarité stricte et de stationnarité au second ordre se confondent par contre pour les processus Gaussiens car ceux-ci sont entièrement résumés par leurs deux premiers moments. Par contre dès que l on sort du cadre Gaussien comme dans les modèles GARCH, on n a plus coincidence entre les deux notions. Il est cependant courrant de se contenter de la stationnarité au second ordre, car elle est plus facile à décrire. 2.2 Ergodicité Pour estimer la loi d un processus, on cherche à accumuler de l information en faisant tendre le nombre d observations vers l infini. Pour que ce mécanisme d accumulation fonctionne, il faut que le processus ait une mémoire finie. C est à dire qu à partir d un certain nombre d observation, il n y ait plus d information nouvelle, mais simplement confirmation des informations passées. Par exemple dans le problème de l estimation de la moyenne, on veut que la moyenne empirique soit un estimateur consistant et que la variance de cet estimateur tende vers zéro. On se rend compte que si un processus est cyclique, ce qui revient à dire que des observations très éloignées peuvent être corrélées entre elles, on n arrivera pas à accumuler de l information. Cette propriété de limitation de la mémoire d un processus s appelle ergodicité avec la définition suivante:

5 2 PROCESSUS STOCHASTIQUES 5 Définition 3 Un processus stationnaire au second ordre est dit ergodique si: 1 lim T T T γ(h) = 0 h=1 Une condition nécessaire, mais non suffisante pour qu un processus stationnaire au second ordre soit ergodique est qu il satisfasse la propriété suivante: lim γ(h) = 0 (2) h L ergodicité est une forme faible de l indépendance asymptotique. 2.3 Innovations Un exemple de processus stationnaire est fourni par les bruits blancs. Ce sont des suites de variables aléatoires de moyenne nulle, non corrélées et de même variance. Dans un modèle de régression on requiert que les résidus soient des bruits blancs. Très proche de cette notion de résidu, on trouve dans la littérature l appellation innovation d un processus. C est la partie non prévisible du processus. On aura: Définition 4 X t étant un processus stationnaire au second ordre, on appelle innovation du processus à la date t la variable définie par: X t E(X t I t 1 ) où I t 1 est l ensemble d information sur le processus disponible au temps t. L ensemble d information peut comprendre tout le passé du processus. L espérance est prise ici au sens d espérance conditionnelle. Il s agit de la meilleure prévision de X t conditionnellement à un ensemble d information. Dans un contexte linéaire, la prévision se fait au moyen d une fonction de régression. 2.4 Théorème de Wold Un processus stochastique non paramétrique se définit à partir de la distribution jointe des observations ou de ses premiers moments. Un processus stochastique paramétrique se définit au contraire à partir d un mécanisme de génération qui est indexé par des paramètres. Il est possible de caractériser ce mécanisme de manière très générale au moyen du théorème de Wold (1954) dans le cas linéaire. Ce théorème montre que tout processus stationnaire linéaire peut être représenté de manière unique par la somme de deux composantes indépendantes, une composante régulière parfaitement prévisible parfois appelée déterministe et une composante stochastique: Théorème 1 Soit un processus stationnaire y t. Il est toujours possible de trouver une composante régulière d t et une composante stochastique u t telle que: x t = d t + u t où ɛ t un bruit blanc. u t = i=0 b i ɛ t i

6 2 PROCESSUS STOCHASTIQUES 6 Ce théorème est à la base de la modélisation des séries temporelles stationnaires. On en donnera une version multivariée dans le chapitre 4. La composante stochastique est exprimée sous la forme de ce que l on appelle un processus moyenne mobile infinie. Un des buts de la modélisation consiste à approximer cette moyenne mobile infinie par un processus ayant un nombre fini de paramètres. C est ce que l on verra en étudiant les processus AR, MA et ARMA. 2.5 Autocovariances et totales et partielles La suite de toutes les auto-corrélations d une série contient toutes les informations sur la mémoire de cette série. On l estime au moyen de ˆγ(h) = 1 T Tt=h+1 (x t x)(x t h x) x = 1 T Tt=1 x t ρ(h) = γ(h)/γ(0) Notez que l on utilise T observations pour calculer la moyenne et la variance, alors que l on en utilise que T h pour calculer γ(h). Donc quand h T, l estimateur de γ(h) tend vers zero si le processus est stationnaire en covariance. Si le processus est stationnaire, l estimateur ˆγ(h) est un estimateur consistant de γ(h) pour tout h fini. Il est utile de tracer le graphe des autocorrélations empiriques. Celui-ci peut être assez irrégulier à cause des erreurs d échantillonage. Il est donc utile de posséder un indicateur qui permette de dire si une autoccorrélation peut être considérée comme nulle ou non. L hypothèse nulle que l on doit considérer consiste à supposer que le processus des x est un bruit blanc. Sous H 0, toutes les observations sont des réalisations indépendantes d un même processus stochastique et les autocorrélations estimées ˆρ(h) sont asymptotiquement normales T ˆρ(h) L N(0, 1) si bien que [ 1.96/ T, 1.96/ T ] forme un intervalle de confiance asymptotique à 5% des ρ(h) autour de zéro. Le graphique des autocorrélations accompagné de son intervalle de confiance permet donc de juger si celles-ci sont nulles ou non. On peut montrer que si un processus est non-stationnaire, l estimateur ˆρ(h) T tend vers 1 pour T. Dans la pratique, c est à dire pour T fini, les les auto-corrélations d une série non-stationnaire vont décroître lentement. Ce sera donc une indication pour différencier la série de manière à la rendre stationnaire. On étudiera dans le chapitre 3 des procédures de test rigoureuses pour déterminer quand il faut différentier une série pour la stationnariser. Mais on peut déjà retenir que le graphique des autocorrélations fournit une précieuse indication quant à la stationnarité ou non d une série temporelle. La suite des autocorrélations totale fournit une description de la mémoire d un processus et résume entièrement ce processus. Il existe une manière équivalente de décrire la mémoire d une processus au moyen des auto-corrélations partielles. Par partielle il faut entendre conditionnelle à une partie du passé. On a la définition suivante

7 3 DENSITÉ SPECTRALE 7 Définition 5 Le coefficient d auto-corrélation partielle a(h) entre x t et x t h est égal à la correlation entre x t et x t h, conditionnellement à l information disponible entre t et t h. Il se note formellement a(h) = Corr(x t, x t h x t 1,, x t h+1 x t h+1 )) Une manière simple d estimer la suite des a(h) consiste à utiliser la régression x t = c + a 1 x t a h x t h + u t et à prendre â(h) = â h. Pour estimer la suite des h premières auto-corrélations partielles, il faut donc effectuer h régressions distinctes. Une procédure moins coûteuse passe par l algorithme récursif de Durbin qui qui donne la valeur de a(k) en fonction des autocorrélations partielles et totales précédentes. Cet algorithme est expliqué dans l annexe 3.2 du chapitre 3 de Box and Jenkins (1976). Mais il peut donner des solutions instables quand le modèle est proche de la non-stationnarité. 3 Densité spectrale On a définit jusqu à présent les processus stochastiques par rapport à un indice temporel qui indexe les observations et permet de décrire une trajectoire. Le théorème de Wold permet ainsi d écrire y t = µ + β j ɛ t j On a ensuite pu analyser les auto-covariances γ(h) du processus, c est à dire la covariance entre y t et y t h. C est l analyse temporelle. Mais il est également possible d exprimer la valeur de y t comme la somme du même terme constant µ et de fonctions périodiques sin(ωt) et cos(ωt) où ω est une fréquence sur [0, π]. Le théorème de représentation spectrale est l équivalent, dans le domaine des fréquences du théorème de représentation de Wold. Théorème 2 Soient deux variables aléatoires α(.) et δ(.) de moyenne nulle et non autocorrélées. Tout processus stationnaire y t peut se décomposer en une somme infinie de termes déterministes cos(ωt) et sin(ωt) pondérés par ces deux variables aléatoires selon y t = µ + π 0 j=0 [α(ω) cos(ωt) + δ(ω) sin(ωt)] dω Cette approche est particulièrement utile pour étudier des cycles. Priestley (1981) pour des compléments mathématiques. 3.1 Le spectre de la population On pourra consulter Considérons la suite des auto-covariances γ(h). On peut résumer cette suite au moyen de la série d argument formel z g y (z) = γ(j)z j j=

8 3 DENSITÉ SPECTRALE 8 que l on appelle la fonction génératrice des auto-covariances. Il est commode de remplacer l argument muet z par un complexe situé sur le cercle unité z = e iω = cos(ω) i sin(ω) où la dernière égalité résulte de la formule de Moivre. 1 population s y (ω) en divisant par 2π: On obtient alors le spectre de la s y (ω) = 1 2π j= γ(j)e iωj En utilisant la formule de Moivre et quelques propriétés de trigonométrie telles que cos(0) = 1, sin(0) = 0, sin( θ) = sin(θ),cos( θ) = cos(θ), sin 2 (θ) + cos 2 (θ) = 1, on arrive à l expression usuelle de la densité spectrale s y (ω) = 1 2π (γ(0) + 2 γ(j) cos(ωj)) On remarque que la densité spectrale repose sur la somme infinie des γ(h) et donc n existe que si la suite de celles-ci est absolument sommable. On a donc besoin de la stationnarité du processus pour définir la densité spectrale. On voit donc que la densité spectrale est entièrement définie par la suite des γ(j). De même, on peut à partir de la densité spectrale retrouver la suite des γ(j) au moyen de γ(h) = π π e ihω s y (ω) dω = j=1 π π cos(hω)s y (ω) dω On trouvera une preuve de ce résultat dans Hamilton (1994). On en déduit immédiatement la variance de y en posant h = 0 γ(0) = π π s y (ω)dw D une manière générale, on peut rechercher quelle est la variance attribuable à certaines fréquences en calculant ω0 γ ω0 = 2 s y (ω)dw 0 où l on a utilisé la propriété de symétrie de la densité spectrale autour de zéro. Une notion particulièrement importante est la notion de densité spectrale à la fréquence zéro. Les basses fréquences concernent le comportement de long terme d un processus. La densité spectrale en zéro va donc permettre de calculer ce que l on appelle la variance de long terme d un processus. 1 On a aussi l égalité e iω = cos(ω) + i sin(ω) qui sera utile par la suite.

9 4 OPÉRATEUR RETARD Estimation de la densité spectrale Une première façon d estimer la densité spectrale consiste à remplacer les covariances par leur estimation empirique s y (ω) = 1 T 1 2π (ˆγ(0) + 2 ˆγ(j) cos(ωj)) Mais cet estimateur, appelé le périodogramme, n est pas consistant et ceci est facile à comprendre. Le nombre d autocovariances à estimer croît avec la taille de l échantillon, ce qui fait qu il y a de moins en moins d observations pour estimer les dernières autocovariances. Il faut donc trouver une pondération qui rende négligeable le poids des ˆγ(j) à partir d un certain rang. Pour cela on va mettre en oeuvre un estimateur non-paramétrique en utilisant une fenêtre. La plus courante est celle de Barlett (1950), ce qui donne j=1 ŝ y (ω) = 1 l 1 2π (ˆγ(0) + 2 (1 j )ˆγ(j) cos(ωj)) l j=1 où l est la longueur de la fenêtre. Le résultat est bien sûr très sensible au choix de la fenêtre. On cherche une fenêtre qui garantisse la consistence de l estimateur, c est à dire une fenêtre qui tende vers l infini quand T tends lui même vers l infini, mais dont le rapport l/t tende lui vers zéro. Au fur et à mesure que T croit, on prendra de plus en plus d autocorrélations en compte pour estimer s y (ω), mais que les autocorrélations retenues seront estimées avec un nombre croissant d observations. On trouvera dans le chapitre 7 de Priestley (1981) une discussion approfondie sur ce thème. On peut retenir la suggestion suivante pour la fenêtre l = 4(T/100) 1/4 Cette fenêtre garanti la consistance de l estimateur de la densité spectrale. 4 Opérateur retard On aura souvent à considérer une variable en fonction de son passé. Il est donc commode de définir un opérateur qui transforme une variable X t en sa valeur passée. C est l opérateur retard désigné par la lettre L et tel que: X t L = X t 1 et X t L k = X t k (3) Cet opérateur sera utilisé à l intérieur de polynômes notés par exemple: Alors: B(L) = β 0 + β 1 L + β 2 L β q L q (4) B(L) X t = β 0 X t + β 1 X t 1 + β 2 X t β q X t q (5) Les opérations usuelles telles que l addition, multiplication, division et inverse sont possibles sur l ensemble des polynômes de retard avec les mêmes propriétés que sur les séries

10 4 OPÉRATEUR RETARD 10 entières. On retiendra en premier deux valeurs particulières des polynômes de retard B(0) qui donne la valeur du premier coefficient du polynôme, son terme constant et B(1) qui fournit lui la somme des coefficients de ce même polynôme. Enfin, l opérateur 1 L joue un rôle spécial dans la mesure où il permet de prendre la différence première d une série: 4.1 Inversion des polynômes (1 L)X t = X t X t 1 Pour parler de l inverse d un polynôme de retard, il est commode dans un premier temps de considérer un polynôme particulier qui est le polynôme de retard de degré un défini par: A(L) = 1 αl Pour α < 1 ce polynôme possède un inverse, c est à dire que l on peut définir: A 1 (L) = 1 1 αl = α i L i i=0 en utilisant l expression de la somme d une progression géométrique. Considérons maintenant le polynôme A(L) de degré p que l on note: A(L) = 1 α 1 L α 2 L 2... α p L p On définit l équation caractéristique associée à ce polynôme comme l expression en z On a le théorème suivant A(z) = 1 α 1 z α 2 z 2... α p z p = 0 Théorème 3 Le polynôme A(L) est inversible si les p racines l j de son équation caractéristique associée sont toutes extérieures au cercle unité. Son inverse est donné par p A(L) 1 = [ ( 1 k)l k ] j=1 k=0 l j La preuve de ce théorème utilise le résultat précédent en se ramenant à une série d opérations élémentaires où l on aurait à inverser que des polynômes de degré un. Preuve: Factoriser le polynôme A(z) en utilisant les p racines de l quation caractéristique: p A(z) = (z l j ) α r j=1 On peut remarquer que le produit des racines est égal à 1/α r car: p A(0) = 1 = ( l j ) α r j=1

11 4 OPÉRATEUR RETARD 11 D autre part on a la factorisation: (z l j ) = l j (1 z l j ) ce qui permet d exprimer le polynôme en z sous la forme: p A(z) = (1 z ) j=1 l j On peut alors ramener le calcul de l inverse de A(z) au calcul simple suivant que l on sait effectuer: p A 1 (z) = (1 z ) 1 l j car: j=1 (1 z ) 1 = ( 1 ) k z k l j k=0 l j Cet inverse existe si les racines l j de l équation caractéristique sont toutes en dehors du cercle unité. 4.2 Factorisation Une opération très pratique que l on peut opérer sur les polynômes en général et les polynômes de retard en particulier est ce que l on appelle la division des polynômes. Si l on range un polynôme par puissances décroissantes, on peut effectuer une division par un autre polynôme aussi facilement (ou à peu près) que ce que l on effectue la division Euclidienne de deux nombres. Nous allons résoudre un exemple qui s avérera très utile par la suite, car il permet de factoriser le polynôme (1 L): b 2 L 2 + b 1 L + b 0 L + 1 (b 2 L 2 b 2 L) b 2 L (b 1 + b 2 ) 0 (b 1 + b 2 )L + b 0 Cet exemple permet de montrer que: ou d une manière générale: ((b 1 + b 2 )L (b 1 + b 2 )) 0 b 0 + b 1 + b 2 b 2 L 2 + b 1 L + b 0 = B(1) + (1 L)[ b 2 L (b 1 + b 2 )] B(L) = B(1) + (1 L)[b 0 B(1) B (L)] (6)

12 5 MODÈLES PARAMÉTRIQUES USUELS 12 Si q est le degré du polynôme B(L), le polynôme B (L) sera de degré q 1 sans terme constant avec: B (L) = b 1L + b 2L b q 1L q 1 et ses coefficients sont définis par: q 1 Considérons maintenant le polynôme A(L) de degré p: b j = b i+1 j = 1,..., q 1 (7) i=j A(L) = 1 a 1 L a 2 L 2... a p L p (8) On peut montrer par une technique similaire de division de polynôme les relations suivantes: A(L) = A(1) + (1 L)[1 A(1) A (L)] (9) où les coefficients du polynôme A (L) sont définis par: p 1 a j = ( a i+1 ) j = 1,..., p 1 (10) i=j Deux autres factorisations de ce polynôme seront utiles dans la suite de cet ouvrage. Par de simples manipulations algébriques, on arrive à: et: que l on réécrira parfois comme: A(L) = A(1)L + (1 L)[1 A (L)] (11) A(L) = (1 [1 A(1)]L) (1 L)A (L) (12) A(L) = (1 ρl) (1 L)A (L) (13) Cette écriture sera utilisée dans le chapitre sur les tests de racine unitaire en posant ρ = 1 A(1). Cette dernière écriture permet de montrer que si un polynôme de retards comporte une racine unitaire (1 L), alors la somme de ses coefficients est égale à zéro. Il suffit pour cela d y poser L = 1. 5 Modèles paramétriques usuels 5.1 Processus moyenne mobile Un processus qui est généré par l équation: y t = ɛ t + βɛ t 1 (14)

13 5 MODÈLES PARAMÉTRIQUES USUELS 13 est un processus moyenne mobile à l ordre 1, ou MA(1). Ce processus se généralise à l ordre q: y t = B(L) ɛ t (15) où B(L) est un polynôme de retard de degré q avec β 0 = 1. La moyenne du processus est clairement nulle. On peut introduire une moyenne non nulle en considérant: La variance du processus se trouve directement: y t µ = B(L) ɛ t (16) q γ(0) = σ 2 (1 + βj 2 ) (17) j=1 Calculons l auto-covariance à l ordre un du processus MA(1): γ(1) = E(y t y t 1 ) = E[(ɛ t + βɛ t 1 )(ɛ t 1 + βɛ t 2 )] = βσ 2 (18) On en déduit l auto-corrélation à l ordre 1 : ρ(1) = β/(1 + β 2 ) (19) et l on remarque qu elle est toujours inférieure ou égale à un demi en valeur absolue. Il est ensuite facile de voir que γ(2) = 0 pour un MA(1). La formule générale de γ(h) pour un MA(q) est un peu plus complexe: γ(h) = q q E(y t y t h ) = E( β i ɛ t i β j ɛ t j h ) (20) i=0 i=0 = q h σ 2 (β h + β i β h+i ) si h q (21) i=1 = 0 si h > q (22) On verra, qu à la différence des processus auto-régressifs, l auto-covariance s annule dès que l on dépasse l ordre du polynôme B(L). Le calcul de la densité spectrale nécessite de passer par la fonction génératrice des auto-corrélations. Pour un MA(1), le résultat est assez simple car on a vu que les autoccorélations d ordre supérieur à un sont nulles. On a donc g y (z) = γ(j)z j = γ( 1)z 1 + γ(0)z 0 + γ(1)z 1 On peut alors factoriser cette expression en g y (z) = σ 2 (1 + βz)(1 + βz 1 ) = σ 2 B(z)B(z 1 )

14 5 MODÈLES PARAMÉTRIQUES USUELS 14 et supposer facilement que cette expression est vraie pour un MA(q). On en déduit alors que la densité spectrale d un MA(q) est donnée par s y (ω) = σ2 2π B(eiω )B(e iω ) Pour un MA(1), on aura B(e iω )B(e iω ) = (1 + βe iω )(1 + βe iω ). En utilisant la formule de Moivre, on trouve que e iω + e iω = 2 cos(ω). On arrive donc rapidement à s y (ω) = σ2 2π [1 + β2 + 2β cos(ω)]. Cette densité est décroissante pour β > 0 et croissante dans le cas contraire. Un processus MA(q) est toujours stationnaire par définition. Mais on peut toujours aussi définir l équation caractéristique associée au polynôme B(L). Si les racines de cette équation sont toutes en dehors du cercle unité, alors ce polynôme est inversible et le processus est dit aussi inversible. Il existe alors une représentation auto-régressive infinie de ce processus définie par: B 1 (L) y t = ɛ t (23) Pour clore ce paragraphe, considérons deux processus MA(1) indépendants x t = u t + au t 1 et z t = v t +bv t 1 avec u et v deux bruits blancs indépendants entre eux. Considérons la somme de ces deux MA(1): y t = x t + z t = u t + v t + au t 1 + bv t 1 Il est facile de voir que y t est de moyenne nulle, de variance la somme des variances de x t et de z t et d auto-covariance, γ(h), la somme des auto-covariances de x t et de z t. On vérifie également que γ(h) = 0 pour h > 1. y t a donc toutes les propriétés d un MA(1). On peut donc écrire y t = ɛ t + βɛ t 1 avec ɛ bruit blanc. Pour trouver les valeurs de β et de σ 2 ɛ, il faut résoudre un système de deux équations à deux inconnues. On peut facilement généraliser le résultat précédent au cas de deux processus MA(q 1 ) et MA(q 2 ) indépendants. La somme de ces deux processus est un MA(max(q 1, q 2 )). 5.2 Processus auto-régressifs Un processus qui est généré par l équation: y t = αy t 1 + ɛ t (24) où ɛ t est un bruit blanc de moyenne nulle et de variance σ 2 est appelé processus autorégressif à l ordre un. On peut calculer la moyenne de ce processus en posant: E(y t ) = αe(y t 1 ) + E(ɛ t ). (25)

15 5 MODÈLES PARAMÉTRIQUES USUELS 15 Si le processus est stationnaire ( α < 1), on a alors: E(y) = E(ɛ t) (1 α), (26) ce qui montre que la moyenne est nulle. On peut généraliser l écriture du modèle pour considérer une espérance non nulle avec: y t µ = α(y t 1 µ) + ɛ t. (27) L espérance de y t sera alors égale à µ. Elevons maintenant au carré chacun des termes du modèle AR(1) initial et prenons en l espérance. Ceci permet de calculer la variance du processus: E(y 2 t ) = α 2 E(y 2 t 1) + E(ɛ 2 t ) + 2αE(y t 1 ɛ t ) (28) que l on résout en: γ(0) = Var(y) = σ2 1 α. (29) 2 Cette variance n existe bien sûr que si le processus est stationnaire. L auto-covariance au premier ordre s obtient aisément car: Comme le dernier terme est nul, il reste: que l on peut généraliser en: γ(1) = E(y t y t 1 ) = αe(y 2 t 1) + E(ɛ t y t 1 ) (30) γ(1) = α γ(0) (31) γ(h) = α h γ(0), (32) ce qui montre que l auto-covariance d un processus AR(1) décroît très rapidement. Un processus AR(1) se généralise à l ordre p en considérant: où A(L) est un polynôme de retards à l ordre p que l on écrit: A(L) y t = ɛ t (33) A(L) = 1 α 1 L α 2 L 2... α r L p (34) L équation caractéristique associée à ce polynôme se note: A(z) = 1 α 1 z α 2 z 2 α r z p = 0 (35) Le processus AR(p) est stationnaire si toutes les racines de cette équation caractéristique sont à l extérieur du cercle unité. Dans le cas d un processus AR(1) cette condition se ramène à α < 1.

16 5 MODÈLES PARAMÉTRIQUES USUELS 16 Quand un processus AR(p) est stationnaire, on peut toujours lui faire correspondre un processus moyenne mobile infini MA( ): Dans le cas d un AR(1), ceci se résout en: y t = A 1 (L) ɛ t (36) y t = α j ɛ t j (37) j=1 On va calculer la densité spectrale d un AR(1) à partir de son expression MA( ) et utiliser la formule donnée plus haut. Si α < 1, on peut écrire la somme infinie comme B(z) = A 1 (z) = 1 1 αz A partir de là on peut donc trouver l expression de la densité spectrale d un AR(1) s y (ω) = 1 2π = σ2 2π σ 2 (1 αe iω )(1 αe iω ) α 2 2α cos(ω) Cette densité spectrale est décroissante en ω si α > 0 et croissante si α < 0. Il est très important de remarquer pour la suite le comportement particulier de la densité spectrale en zéro quand α 1. Elle tend vers l infini. On remarquera de même que si la fonction d autocovariance décroit très vite quand α < 1, elle reste constante quand α = 1. Ce sont deux caractéristiques des processus non-stationnaires. Considérons deux processus AR(1) indépendants pour en calculer la somme: (1 al)x t = u t (1 bl)z t = v t Si a = b, la somme de ces deux processus est facile à faire et l on aura (1 al)(x t + z t ) = u t + v t, ce qui signifie que (1 al)y t = ɛ t sera aussi un AR(1). Dans le cas général, il faut se ramener au cas où les deux polynômes auto-régressifs sont identiques, ce qui s obtient en multipliant chaque processus par le polynôme de retard de l autre, ce qui fait (1 al)(1 bl)x t = (1 bl)u t (1 al)(1 bl)z t = (1 al)v t La somme de ces deux processus transformés donne alors (1 (a + b)l + abl 2 )(x t + z t ) = (1 bl)u t + (1 al)v t On obtient donc un nouveau processus auto-régressif, mais d ordre 2 et dont les erreurs suivent un MA(1). Il s agit d un ARMA(2,1). Ce résultat se généralise facilement. La somme d un AR(p 1 ) et d un AR(p 2 ) indépendants donnera un ARMA(p 1 +p 2, max(p 1, p 2 )).

17 5 MODÈLES PARAMÉTRIQUES USUELS Equations de Yule et Walker Considérons un processus auto-régressif d ordre p défini par: A(L) y t = ɛ t (38) et sa fonction d auto-covariance γ(h). Dans le cas où r = 1 on a vu comment calculer γ(h) et montré que celle-ci dépendait de façon unique du coefficient de A(L). Le calcul devient un peu plus complexe dès que r 2. On a recours pour ceci aux équations dite de Yule et Walker (voir par exemple Gourieroux and Monfort (1990), page 180). Multiplions par y t les deux côtés du processus auto-régressif. On a: y 2 t = α 1 y t y t 1 + α 2 y t y t α r y t y t r + y t ɛ t (39) et en prenant l espérance, on obtient une expression de l auto-covariance à l ordre zéro: p γ(0) = α i γ(i) + σ 2 (40) i=1 et donc: σ 2 γ(0) = 1 p (41) i=1 α i ρ(i) Si maintenant on cherche une relation de récurrence pour définir l auto-covariance à l ordre h avec h strictement positif, il suffit d effectuer la même opération, mais en prenant y t h, ce qui donne: p γ(h) = α i γ(h i), h > 0 (42) i=1 On obtient une expression identique pour les auto-corrélations en divisant par γ(0). En écrivant cette expression pour h variant de 1 à p et en tenant compte de la parité de ρ(h), on obtient les équations dites de Yule-Walker qui forment un système de p équations à p inconnues: ρ(1) 1 ρ(1) ρ(r 1) α 1 ρ(2). = ρ(1) 1 ρ(r 2) α 2 (43).... ρ(r) ρ(r 1) ρ(r 2) 1 α r Si les auto-corrélations sont connues, la résolution de ce système permet de trouver les valeurs des paramètres du processus auto-régressif d ordre p qui les ont engendré. En exprimant différemment le système, on peut trouver, connaissant la suite des p paramètres α i, les p premières auto-corrélations du processus. Les suivantes sont alors données par la relation de récurrence précédente, en se servant des valeurs trouvées pour les p premières. Le système d équation n est pas difficile à trouver pour chaque cas particulier. Exemple 1: Considérons l AR(2) suivant: y t = α 1 y t 1 + α 2 y t 2 + ɛ t

18 5 MODÈLES PARAMÉTRIQUES USUELS 18 Les équations de Yule Walker permettent d écrire: ρ(1) = α 1 + ρ(1) α 2 ρ(2) = ρ(1) α 1 + α 2 d où l on tire l expression des deux premières auto-corrélations: ρ(1) = α 1 /(1 α 2 ) ρ(2) = α 2 + α 2 1/(1 α 2 ) Il suffit ensuite d appliquer la relation de récurrence pour trouver: 5.4 Processus ARMA ρ(3) = α 1 ρ(2) + α 2 ρ(1) ρ(4) = α 1 ρ(3) + α 2 ρ(2) ρ(5) = Les deux modèles précédents sont simples, mais ils nécessitent parfois un grand nombre de paramètres pour obtenir un ajustement correct aux données. Aussi il est intéressant de définir une classe de processus mixtes dit processus ARMA au moyen de l équation: A(L) y t = B(L) ɛ t (44) Ces processus jouent un très grand rôle dans la modélisation statistique des séries temporelles. Ils ont été popularisés par Box and Jenkins (1976). Ils permettent une représentation très parcimonieuse des séries temporelles. Intuitivement, un AR(1) résume un MA( ) et un MA(1) résume un AR( ). Un ARMA(1,1) devrait donc au moyen de deux paramètres simplement représenter raisonnablement bien une large classe de processus. On généralise le modèle en considérant des polynômes d ordre p et q pour obtenir un processus ARMA(p,q). On peut rajouter une moyenne µ non nulle au processus en écrivant A(L)(y t µ) = B(L)ɛ t. Ce processus est stationnaire si toutes les racines du polynôme A(L) sont en dehors du cercle unité et inversible si toutes les racines du polynôme B(L) sont en dehors du cercle unité. Il est assez difficile de calculer les auto-covariances de ce processus, contrairement aux processus AR et MA simples. Aussi va-t-on se limiter au cas ARMA(1,1) qui est bien utile dans la pratique. On part du modèle (1 αl)(y t µ) = (1 + βl)ɛ t. (45) On calcule facilement l espérance E(y t ) = αe(y t 1 ) + (1 α)µ + E(ɛ t ) + βe(ɛ t 1 ) = 1 α 1 α µ = µ

19 5 MODÈLES PARAMÉTRIQUES USUELS 19 Pour calculer la variance, il est plus commode de supposer µ = 0 car on sait qu elle sera indépendante de µ. On va prendre le carré des deux membres de et en prendre l espérance: ce qui fait que l on a y t = αy t 1 + ɛ t + βɛ t 1 (46) E(y 2 t ) = α 2 E(y 2 t 1) + E(ɛ 2 t ) + β 2 E(ɛ 2 t 1) + 2αβE(y t 1 ɛ t 1 ) + 2αE(y t 1 ɛ t ) + 2βE(ɛ t ɛ t 1 ) (47) = α 2 E(yt 1) 2 + σ 2 + β 2 σ 2 + 2αβσ αβ + β2 2 γ(0) = σ. 1 α 2 Pour α = 0, on retrouve la variance d un MA(1) et pour β = 0, la variance d un AR(1). L auto-covariance à l ordre 1 s obtient d une manière similaire en multipliant l équation de départ par y t 1 et en prenant l espérance: et l on arrive à Pour h 2, on a la relation générale E(y t y t 1 ) = αe(y 2 t 1) + βe(ɛ t 1 y t 1 ) + E(ɛ t y t 1 ) = αγ(0) + βσ 2 (48) (1 + αβ)(α + β) 2 γ(1) = σ 1 α 2 γ(h) = αγ(h 1), h 2. Mais à l inverse des processus AR purs, cette relation n est pas vraie pour h = 1. On a la superposition de deux types d autocorrélation, celle du MA qui est nulle pour h 2 et celle de l AR qui décroit rapidement avec h. Pour p > 1 ou q > 1, les formules deviennent plus complexes. Passons maintenant à l expression de la densité spectrale d un processus ARMA(1,1). En se basant sur les résultats précédents, il est assez facile de montrer que s y (ω) = σ2 1 + β 2 + 2β cos(ω) 2π 1 + α 2 2α cos(ω) On peut maintenant essayer de généraliser ce résultat au cas ARMA(p,q). Une première expression, utilisant l écriture complexe est relativement commode s y (ω) = σ2 1 + β 1 e iω + β 2 e i2ω + + β q e iqω 2π 1 α 1 e iω α 2 e i2ω α p e ipω

20 6 MÉTHODOLOGIES DE SPÉCIFICATION 20 Elle permet de trouver l expression de la densité spectrale en zéro en fonction des paramètres initiaux du modèles: s y (0) = σ2 1 + β 1 + β β q. 2π 1 α 1 α 2 α p Et l on remarque bien sûr que si la partie AR comporte une racine unitaire, la somme des coefficients α i est égale à 1, ce qui fait que le dénominateur devient nul et la densité spectrale en 0 devient infinie. Pour obtenir une expression générale de la densité spectrale qui permette d éliminer les nombres complexes, il faut pouvoir factoriser les deux polynômes de retard A(z) et B(z). Supposons que les racines soient réelles et distinctes. Nous avons p racines λ j pour la partie AR et q racines η j pour la partie MA. La densité spectrale s écrit alors q s y (ω) = σ2 j=1[1 + ηj 2 2η j cos(ω)] 2π p j=1[1 + λ 2 j 2λ j cos(ω)] 6 Méthodologies de spécification Les modèles AR s estiment par moindres carrés. Les processus MA nécessitent l usage d une méthode non-linéaire qui peut être le maximum de vraisemblance. Prenons l exemple d un MA(1). On définit le résidu du modèle par u t = y t µ βu t 1 A partir du moment où l on connaît une valeur de départ u 0 que l on va fixer égale à zéro et que l on fixe une valeur pour µ et β, on peut construire de manière récursive la suite des u t. On peut donc facilement construire un algorithme qui va minimiser la somme des carrés des résidus pour t = 2,, T ou bien construire une fonction de vraisemblance conditionnelle si l on fait une hypothèse de normalité. On voit bien que le seul problème à résoudre ne se résume pas à estimer le modèle. Il faut aussi décider d une valeur pour p et q la taille des parties AR et MA. Plusieurs approches sont possibles: une approche basée sur les critères d information et une approche dite de Box et Jenkins qui se base sur l examen des graphiques des auto-corrélations totales et partielles. 6.1 Box-Jenkins Box and Jenkins (1976) ont promu une méthodologie consistant à modéliser les séries temporelles univariées au moyen des processus ARMA. Ces processus sont parcimonieux et constituent une bonne approximation de processus plus généraux pourvu que l on se restreigne au cadre linéaire. Les modèles ARMA donnent souvent de bon résultats en prévision et ont bénéficié de la vague de scepticisme quant à l intérêt des gros modèles économétriques (voir par exemple Ashley (1988)). La méthodologie de Box et Jenkins peut se décomposer en quatre étapes:

21 6 MÉTHODOLOGIES DE SPÉCIFICATION 21 1) Transformer la série étudiée de manière à la stationnariser. L outil utilisé est le graphique des auto-covariances. 2) Déterminer une valeur plausible pour l ordre des parties AR et MA au moyen des graphiques d auto-corrélation et d auto-corrélation partielle. 3) Estimer les paramètres 4) Vérifier les qualités prédictives hors échantillon du modèle au moyen de tests. Cette méthodologie est intéressante dans la mesure où elle fut la première à poser clairement la question de l adéquation du modèle aux données en particulier en ce qui concerne la spécification dynamique. Elle décrit un enchaînement de procédures de tests et de procédures d estimation. 1. L étape 1 cherche à obtenir la stationnarité des données en interprétant le graphique des auto-covariances. Un processus non-stationnaire a ses auto-covariances qui décroissent très lentement à l inverse d un processus stationnaire. Nous verrons ultérieurement comment la littérature moderne a pu proposer des tests formels de stationnarité. 2. L étape 2 repose également sur l interprétation de graphiques pour choisir l ordre des parties AR et MA. On sait que les auto-corrélations d un processus MA(q) deviennent nulles à partir de l ordre q + 1. Si le graphique des auto-corrélations empiriques chute brusquement après h = q, on pourra donc dire que l on est en présence d un MA(q). Si l on considère maintenant les autocorrélation totales d un AR(p), on sait qu elles décroissent lentement dans le temps. Mais il n est guère possible de déduire une valeur de p à partir de l examen du corrélogramme. On cherche donc une transformation du corrélogramme qui soit plus interprétable. Il s agit du graphique des auto-corrélations partielles que l on a noté a T (p). Les autocorrélations partielles ont la propriété d être nulles à partir de l ordre p + 1 pour un processus AR(p). 3. L étape 3 consiste à estimer le modèle choisi 4. L étape 4 consiste à vérifier si le modèle est bien spécifié au moyen de tests de mauvaise spécification. La littérature moderne en a fournit toute une batterie dont on trouvera par exemple une recension dans le chapitre 1 de Lütkepohl and Krätzig (2004). 6.2 Transformations et différentiation Les modèles ARMA sont assez restrictifs dans la mesure où ils supposent que les observations sont stationnaires, que les paramètres sont constants et que les erreurs sont de variance constante. Pour se ramener à un tel cade, il faut souvent transformer les données. La transformation log permet de stabiliser la variance d une série si la variance de la série originale croit avec les valeurs de celle-ci. Cette transformation permet aussi parfois de se rapprocher de la normalité.

22 6 MÉTHODOLOGIES DE SPÉCIFICATION 22 Une série non stationnaire est une série qui en général croit avec le temps. On peut donc être tenté de retirer par régression un trend temporel de cette série. L autre solution consiste à utiliser un filtre du type (1 L). On va alors différentier la série. Si l on a tout d abord pris le logarithme, la série transformée (1 L) log y t = log y t log y t 1 représentera les accroissement en pourcentage de la série. Par exemple, au lieu de considérer un indice de prix, on modélisera un taux d inflation. Un indice de prix croit en général toujours, ce qui fait qu il n est pas stationnaire. Un taux d inflation aura lui beaucoup plus de chances d être stationnaire. Si une série présente une forte composante saisonnière, on peut éliminer celle-ci en différenciant la série non plus à l ordre un, mais à l ordre de la saisonnalité. Ainsi pour des séries trimestrielles, on pourra utiliser (1 L 4 ). Ainsi on peut définir un taux d inflation annuel glissant par (1 L 4 ) log P t = log P t log P t 4 Il faut toutefois être prudent dans l utilisation de ces transformations, car elles peuvent avoir des conséquences sur le processus étudié et introduire artificiellement des caractéristiques qui ne s y trouvaient pas. Ceci sera traité plus particulièrement dans le chapitre consacré aux racines unités. 6.3 Critères d information Les critères d information cherchent à minimiser le logarithme de la variance des résidus en tenant compte d une pénalité additive basée sur la taille du modèle. Par exemple pour un AR(p), on va chercher la valeur de p qui rend minimum AIC(p) = log ˆσ 2 T (p) + 2 T p. C est le critère de Akaike (1974). On débutera la procédure en choisissant une valeur maximale pour p et l on procédera en réduisant cette valeur jusqu à trouver le AIC minimum. On conserve la même valeur de T tout au long de la procédure. Le critère d Akaike surestime asymptotiquement la valeur de p avec une probabilité positive, aussi a-t-on cherché dans la littérature d autres critères qui soient consistants. Le critère de Hannan and Quinn (1979) HQ(p) = log ˆσ T 2 2 log log T (p) + p T est consistant (convergence en probabilité). Le critère de Schwarz (1978) SC(p) = log ˆσ 2 T (p) + log T T est lui fortement consistant (convergence presque sûre). La consistance est obtenue à condition que le p de départ soit plus grand que la vrai valeur du processus de génération des données. En petit échantillon, les critères donnent toujours les résultats ordonnées suivants ˆp(SC) ˆp(HQ) ˆp(AIC) p

23 7 CONCLUSION 23 ce qui fait que le critère de Schwarz est celui choisit les modèles les plus parcimonieux. Il est difficile d appliquer cette méthode pour des modèles ARMA généraux. En effet, on doit toujours partir d un modèle surparamétré. Dans ce cas, les parties AR et MA vont avoir des racines communes qui vont se simplifier et l algorithme d optimisation ne convergera pas. Hannan and Rissanen (1982) ont proposé une méthode approchée qui est basée sur l utilisation des moindres carrés en deux étapes. Dans un premier temps, on estime un modèle AR avec un ordre h maximal. On en tire des résidus û t (h) que l on va réutiliser dans la régression y t = α 1 y t α p y t p + û t (h) + β 1 û t 1 (h) + + β q û t q (h) + e t Il faudra établir une grille sur p, q < h et estimer la variance des résidus de cette régression ˆσ e (p, q). On choisira la combinaison p, q qui minimise un des critères d information en prenant p+q comme le nombre total de paramètres à introduire dans la fonction de pénalité. 7 Conclusion Dans ce chapitre, on avons examiné les caractéristiques principales des processus stochastiques univariés en nous attachant principalement aux processus stationnaires. On a détaillé quelques processus paramétriques usuels qui seront fort utiles par la suite. Le fil conducteur de cet ouvrage concerne la non-stationnarité. On a suggéré plusieurs méthodes pour obtenir la stationnarité. On verra que ces méthodes engendrent des problèmes spécifiques tant au plan de la théorie asymptotique que de la modélisation proprement dite. 8 Lectures additionnelles On consultera avec profit des ouvrages statistiques plus spécialisés sur la modélisation des séries temporelles comme par exemple Granger and Newbold (1986), Gourieroux and Monfort (1990), ou Hamilton (1994). Pour ce dernier ouvrage, on consultera avec profit les chapitres 3 et 6. Lütkepohl and Krätzig (2004) fournit toute une série d exemples empiriques traités au moyen d un logiciel libre d accès. Les séries utilisées sont disponibles sur le site web de l ouvrage, ce qui permet de les refaire facilement. 9 Exercices 9.1 Aliasing Considérez un processus MA(1) x t = ɛ t + βɛ t 1. Ecrivez l autocorrélation à l ordre 1 de ce processus. 1) Trouvez les valeurs de β pour lesquelles l autocorrélation est maximale en valeur absolue.

24 9 EXERCICES 24 2) A quelle condition le processus y t = ɛ t + θɛ t 1 a les mêmes autocorrélations que la processus x t. Quelles doit être la valeur de θ? 3) Les deux processus peuvent-ils être inversibles en même temps? Idées de solutions L autocorrélation à l ordre 1 est égale à β/(1 + β 2 ). Si β = 1, l autocorrélation vaut 0.5 qui est sa valeur maximale. Cette expression ne change pas pour si l on remplace β par 1/β. On ne peut avoir l inversibilité des deux processus en même temps car β et θ ne peuvent être inférieur à 1 en même temps. 9.2 Somme de deux MA(1) Soient processus MA(1) indépendants x t = u t +au t 1 et z t = v t +bv t 1 avec Var(u t ) = σ 2 u et Var(v t ) = σ 2 v. Considérons la somme de ces deux processus y t = x t + z t. On obtient : y t = u t + v t + au t 1 + bv t 1 = ɛ t + βɛ t 1 1) Calculez la moyenne, la variance et l auto-covariance à l ordre 1 de y t 2) Montrez que ces quantités sont égales à la somme des moyennes, variances et covariances des processus MA(1) initiaux. 3) Trouvez la valeur de β en fonction des paramètres des processus MA(1) initiaux. 4) Donner la composition de ɛ t Idées de solutions L expression de la moyenne et de la variance se déduit de l indépendance entre u t et v t. Pour calculer la covariance à l ordre 1, on profite du fait que l espérance est nulle pour calculer simplement E(y t y t 1 ) en utilisant les mêmes propriétés d indépendance. Une fois ces calculs faits, la réponse à la question 2 est triviale. La valeur de β est simple à trouver si les variances σ 2 u et σ 2 v sont égales. Dans le cas contraire β s exprime comme une somme pondérée par les variances des coefficients initiaux. Pour trouver l expression de ɛ t, il faut trouver ses moments en fonction de ceux de u t et v t. 9.3 Moments d un MA(2) Soit un processus MA(2) avec ɛ t N(0, σ 2 ). y t = ɛ t + β 1 ɛ t 1 + β 2 ɛ t 2 1) Calculez la moyenne, la variance et l auto-covariance à l ordre τ γ(τ) de ce processus. Montrez que γ(τ) = γ( τ). Que se passe-t-il pour τ > 2? 2) Supposons que les paramètres du modèle aient été estimés. Comment en calcule-t-on les résidus? Sous quelle condition cela est-il possible?

25 9 EXERCICES 25 3) Considérons l équation caractéristique 1 + β 1 z + β 2 z 2 = 0. Calculez les racines de cette équation. Donnez une factorisation du polynôme de retard du modèle. Donnez les restrictions que doivent remplir β 1 et β 2 pour que ce polynôme soit inversible. Idées de solutions Le calcul de la moyenne et de la variance ne pose pas de problème. Pour calculer l auto-covariance, on calculera l espérance des double produits qui sera nulle selon la valeur de τ. On en déduit facilement la propriété γ(τ) = γ( τ). Pour τ > 2, l auto-covariance sera évidemment nulle. Pour calculer les résidus, il suffit de remarquer que l on peut écrire le modèle sous la forme y t = B(L)ɛ t. Il suffit alors d inverser le polynôme B(L) pour trouver ɛ t = B(L) 1 y t. Il faut donc que ce polynôme soit inversible. Pratiquement, on procédera par récurrence en supposant que ɛ 1 = ɛ 2 = 0 et en calculant ɛ t = y t ˆβ 1 ɛ t 1 ˆβ 2 ɛ t 2. L équation caractéristique est un polynôme de degré deux dont on va calculer le discriminant, ce qui donnera directement les racines en zéro. Les racines sont réelles si le discriminant est positif. Elles doivent être plus grandes que Simulation d un AR(1) Considérez l AR(1) suivant y t = µ + ρy t 1 + ɛ t avec µ = 1. Simulez ce processus pour T = 50 avec différentes valeurs pour ρ. On prendra ρ = 0.3, ρ = 0.8, ρ = 0.99 et ρ = Estimez pour chaque cas les autocorrélation et faites en le graphique. Que pouvez vous conclure? 9.5 Moments d un AR(2) Considérons le processus AR(2) suivant y t = α 1 y t 1 + α 2 y t 2 + ɛ t 1) Écrire l équation caractéristique et déduisez en les conditions de stationnarité du processus. 2) Calculez la moyenne et la variance du processus. 3) En utilisant les équations de Yule-Walker, donner l auto-corrélation du processus ρ(τ) pour τ = 1, 2, 3. 4) Essayez de trouver une formule générale. Qu en déduisez vous pour τ. Idées de solutions L équation caractéristique est 1 α 1 z α 2 z 2 = 0. Quand on a calculé les racines, il faut donner les conditions pour qu elles soient plus grandes que 1. Pour calculer les moments, on utilise l hypothèse de stationnarité qui dit que les moments de y sont les mêmes quelque soit t. On en déduit que l espérance est nulle