Statistique appliquée - Séries temporelles

Transcription

1 Statistique appliquée - Séries temporelles Hélène Boistard

2 1. Définition des séries temporelles Exemples - Objectifs Une série temporelle est une suite d observations indicées par le temps, la date à laquelle l observation est faite est une information importante sur le phénomène observé. On appelle chronogramme d une série, son graphique, avec le temps en abscisse. 1

3 Exemples Sur des exemples de données réelles, on va représenter le chronogramme de la série, puis se poser une série de questions : tendance : est-ce-qu on observe une série bien expliquée par le temps? présence d une composante saisonnière ou périodique? juxtaposition de différents comportements au cours du temps? explication éventuelle? homoscédasticité, hétéroscédasticité (variance non constante au cours du temps)? objectifs recherchés dans l étude d une telle série : description, prévision? 2

4 Lire et imprimer les données dans SAS : On s intéresse au nombre mensuel de morts par accident de la route en Grande- Bretagne : ici : le niveau de la série x t = nb de morts au mois t la série {x t, t T } est stockée dans une table SAS nommée ukdeaths la table ukdeaths est contenue dans une librairie SAS nommée st. /* Des informations sur le contenu de la table ukdeaths : */ proc contents data=st.ukdeaths; run; /* Impression des variables de la table ukdeaths : */ proc print data=st.ukdeaths; run; On représente le chronogramme de la série à l aide de l option : Solutions/Analyse/Afficheur de séries temporelles 3

5 Nombre de morts par accident en Grande Bretagne 4

6 Il y a d importantes fluctuations saisonnières. Le niveau moyen reste stable jusqu à la fin de En février 1983 une nouvelle législation rend obligatoire le port de la ceinture de sécurité. Un service de santé publique peut vouloir prédire le nombre de morts chacun des 6 prochains mois pour voir où et quand faire une campagne de prévention, mais il peut aussi vouloir une vision synthétique de la situation, un aperçu de la tendance sur l année 5

7 Population française (à gauche) et population des Etats-Unis (à droite) Population annnee 6

8 La population de la France et la population des Etats-Unis sont des séries où le temps explique bien le niveau de la série. Les démographes sont intéressés par la prévision de la population à 10 ans, à 20 ans. 7

9 Ventes de Champagne (en millions de bouteilles) (à gauche) et ventes de vin australien (à droite) 8

10 Dans les deux cas, saisonnalité qui contribue à expliquer le niveau La moyenne et la variabilité de ces séries augmentent avec le temps. Ce sont des séries hétéroscédastiques. La chambre de commerce d une région viticole peut être intéressée par l examen de la tendance des ventes débarassée de ce qui peut se passer à court-terme alors qu un syndicat de transporteurs a besoin de savoir combien de bouteilles devront partir de la région le mois prochain. 9

11 La chambre de commerce a besoin d une représentation lissée de la série alors que le transporteur a besoin d une prévision à un ou deux mois de la série, prévision qui elle devra évidemment incorporer les fluctuations saisonnières (Figure : série des ventes de Champagne brute et lissée).

12 Niveau du lac Huron (à gauche) et cours de l action Alcatel (à droite). 10

13 Le niveau du lac Huron montre une tendance légèrement décroissante. Le cours de l action Alcatel est une série hétéroscédastique dont la variabilité change au cours du temps de façon non évidente. 11

14 Conclusions : On voit sur ces exemples qu on ne peut pas considérer une série temporelle comme une suite d observations indépendantes. La connaissance de la dépendance temporelle permet d améliorer la prévision de la valeur d une série à une date future connaissant le présent et le passé. 12

15 Objectifs de l analyse d une ST 1. Décrire : la première étape est de décrire la série : histogramme pour avoir une idée de la distribution des valeurs diagramme retardé, càd diagramme de dispersion avec en abscisse la série retardée de 1, 2 ou k instants et en ordonnée la série initiale, pour comprendre la dépendance de la série par rapport à son passé. statistiques descriptives usuelles : moyenne, variance, coefficients d aplatissement et d assymétrie. lag 12 nottem

16 2. Résumer : Dans certains cas on veut une vue synthétique débarassée de détails de court-terme ; c est souvent un besoin des instituts de statistique officielle. Les méthodes qui donnent une vue d ensemble de la série nette de fluctuations de court terme sont appelées méthodes de lissage. Exemple : série des ventes de champagne brute et lissée 14

17 /* La série des ventes brute est stockée dans la table champa2 */ proc print data=st.champa2; run; /* Lissage de la série brute */ proc x11 data=st.champa2; monthly date=date; tables b1 d11; var vente_ch; run ; /* Création d un tableau de sortie personnalisé */ proc x11 data=st.champa2 noprint; monthly date=date; var vente_ch; output out=montableau b1=seriebrute d11=serielissee; run ; /* Impression des 20 premières observations */ proc print data=montableau (obs=20); title serie des vente (JAN SEP 1970) ; run; 15

18 /*Représentation des séries brute et lissée à l aide de la proc gplot proc gplot data=montableau; plot seriebrute*date=1 serielissee*date=2/overlay; symbol1 i=join l=1 c=red; symbol2 i=join l=1 c=green; title Serie brute et serie lissee ; footnote c=r --- serie brute c=g --- serie lissee ; run; /* Explications sur le programme: st_slide16.sas */

19 3. Modéliser : expliquer le niveau X t de la série par des modèles à peu de paramètres : Modèle sans variable explicative X t = f(x t 1, X t 2, ) + u t Modèle avec variable explicative X t = f(y t ) + u t modèle statique : Y t ne contient pas de valeurs passées de {X t } et les u t sont non corrélés entre eux modèle dynamique : les u t sont auto-corrélés ou Y t contient des valeurs retardées de X t 16

20 4. Prédire : La prévision de valeurs à des dates futures connaissant le présent et le passé de la série peut être basée sur un modèle ou bien être construite sans référence à un modèle. L essentiel de ce cours est consacré à la modélisation. 17

21 2. Séries stationnaires - Tendance Saisonnalité - Résidus Séries stationnaires Soit {X t, t T } un processus tel que V ar(x t ) < pour tout t. La fonction d autocovariance γ X (.,.) de X t est définie par : γ X (r, s) = Cov(X r, X s ) = E[(X r E(X r ))(X s E(X s ))]. Une série temporelle {X t, t Z} indexée par Z est dite stationnaire si (i) E X t 2 < + z Z, (ii) EX t = m t Z, (iii) γ X (r, s) = γ X (r + t, s + t) r, s, t Z. 18

22 Il est classique de décomposer une série temporelle {X t, t T } en : tendance m t (trend), effet saisonnier s t, erreur Y t : processus stationnaire. On s intéresse habituellement à un modèle additif : ou à un modèle multiplicatif : X t = m t + s t + Y t avec E(Y t ) = 0 X t = m t s t Y t avec E(Y t ) = 1 Par exemple, les séries montrant une saisonnalité qui a de plus en plus d ampleur (cas des ventes de champagne) sont souvent mieux ajustées par un modèle multiplicatif que par un modèle additif. 19

23 Point sur les notations : on observe une réalisation du processus X t, série d observations que l on note {x t, t = 1,..., n}. Méthode générale : On va obtenir des estimations de m t, s t et Y t que l on notera ˆm t, ŝ t et ŷ t. A des fins de description, de modélisation et de prévision, l étape finale consiste à modéliser la série des résidus ŷ t. On cherche à comprendre la structure de dépendance des résidus pour arriver à une meilleure prédiction. 20

24 2.1. Elimination de la tendance en l abscence de saisonnalité Modèle : X t = m t + Y t, t = 1,..., n. Y t est stationnaire, sans perte de généralité on suppose que E(Y t ) = 0. Exemples de méthodes : a) Estimation de la tendance par régression sur le temps b) Lissage par moyenne mobile c) Méthode de différenciation successive 21

25 a) Régression de la moyenne sur le temps Exemple du niveau du lac Huron 22

26 On suppose que la tendance m t suit un modèle polynomial. Après étude, un polynôme de degré 1 s avère satisfaisant : m t = a 0 + a 1 t. a 0, a 1, estimés par minimisation de n t=1 (x t m t ) 2. 23

27 Méthode employée (voir code SAS : fichier codesas cours2) Création d une table contenant carré et cube de la date (proc data) Etude de la corrélation entre le niveau et les puissances de la date Régression simple du niveau sur la date par proc reg Tracé de la série brute et de la série ajustée par proc gplot Validation ou non de la régression : graphe des résidus, étude du R 2 et de la significativité des paramètres de la régression Lorsque la régression est satisfaisante, possibilité de prédiction : ˆm t = a 0 + a 1 t, Ŷ t prédit par 0. Etape suivante : étude de la stationnarité de la série des résidus, et modélisation 24

28 b) Lissage par moyenne mobile Pour q entier positif, on définit Idée : pour q + 1 t n q, W t = 1 2q + 1 q j= q X t+j. W t = 1 2q + 1 m t q j= q m t+j + 1 2q + 1 q Y t+j j= q dès que : m t est à peu près égal à une fonction affine de t sur [t q, t + q], (exercice) Y t a une moyenne à peu près nulle sur cet intervalle. ˆm t := 2q+1 1 q j= q x t+j sert donc d estimateur de m t. 25

29 Remarque : pas d estimateur de m t aux extrémités de l intervalle : 1 t q + 1, n q t n. Méthode classique : on définit x t := x 1 pour t < 1 et x t := x n pour t > n. Estimation des résidus : ŷ t = x t ˆm t. Fin de la procédure : on vérifie que les résidus sont sans tendance et stationnaires, et on modélise la série ŷ t par une série stationnaire. 26

30 Lissage exponentiel On fixe 0 a 1 et on définit : ˆm t = ax t + (1 a) ˆm t 1, t = 2,..., n ˆm 1 = x 1. Par récurrence, on démontre : (exercice) ˆm t = t 2 j=0 a(1 a) j x t j + (1 a) t 1 x 1. Lorsque a est proche de 1 : beaucoup de fluctuations ; prévision souple Lorsque a est proche de 0 : peu de fluctuations ; prévision rigide 27

31 Mise en pratique du lissage exponentiel avec SAS : proc forecast data=st.lake out=expolake method=expo out1step trend=1 lead=12 interval=month weight=0.2; id date; var niveau; run; 28

32 2.2 Elimination conjointe de la tendance et de la saisonnalité Modèle : X t = m t + s t + Y t, t = 1,..., n. s t est périodique de période d, s t+d = s t et d j=1 s j = 0. Y t est stationnaire, E(Y t ) = 0. Exemples de méthodes : a) Estimation de la saisonnalité par moyenne mobile b) Méthode de différenciation successive 29

33 a) Estimation de la saisonnalité par moyenne mobile Observations {x 1,..., x n } : données mensuelles avec période annuelle (d = 12). On note d = 2q. Première estimation de la tendance : ˆm t = (0.5x t q + x t q x t+q x t+q )/d, q < t n q. Estimation de la composante saisonnière : pour k = 1,..., d, on note w k la moyenne des déviations (au kème mois) {(x k+jd ˆm k+jd ) : q < k + jd n q}. 30

34 On recentre ces déviations moyennes : s k est estimé pour la première année par ŝ k = w k 1 d d i=1 et pour les années suivantes ŝ k+jd := ŝ k. w i, k = 1,..., d, On réestime la tendance sur les données désaisonnalisées : d t = x t ŝ t. Nouveau ˆm t estimé par méthodes connues sur données dépourvues de saisonnalité. Estimation du bruit : ŷ t = x t ˆm t ŝ t. Méthode SAS x11 basée sur une désaisonnalisation par moyenne mobile plus complexe. 31

35 Exemple d ajustement saisonnier avec x11 Le but est de désaisonnaliser la série des ventes de champagne brute. Le programme X11 fournit en sortie une grande quantité de graphiques et de tables. Il est donc important de spécifier les sorties dont on a spécifiquement besoin : proc x11 data=st.champa2; monthly date=date; tables b1 d10 d11 d12; var vente_ch; run ; Explications sur le programme : - proc X11 : instruction pour lancer le programme X11. - monthly date=... : option qui spécifie que vos données sont mensuelles et quelle est la variable date à utiliser. - tables : indique les tables et graphiques à imprimer. Dans cet exemple, les tables sont B1 (série brute), D10 (liste des facteurs saisonniers s 1,, s n ), D11 (série lissée) et D12 (composantes tendancielles m 1,, m n ). - var : spécifie les variables à analyser avec le programme proc X11. Remarque : par défaut, la proc x11 travaille sur un modèle multiplicatif. 32

36 b) Méthode de différentiation successive On note B l opérateur retard (backward shift) défini par : BX t = X t 1. On note l opérateur différence : Puissances de B et de : X t = X t X t 1. B k X t = X t k, 2 X t = ( X t ) = (X t X t 1 ) = X t 2X t 1 + X t 2, etc. Propriété : si m t est un polynôme d ordre k, k m t est une constante (exercice). On note k l opérateur : k X t = X t X t k. 33

37 Si X t a une composante saisonnière de période d : d X t = X t X t d = (m t + s t + Y t ) (m t d + s t d + Y t d ) = m t m t d + Y t Y t d. Décomposition tendance + bruit : techniques connues en l absence de saisonnalité. 34

38 Exemple : Calcul de séries retardées et de séries différenciées dans SAS. data champadiff; set st.champa2; ven1 = lag(vente_ch); ven12 = lag12(vente_ch); d1_ven = dif1(vente_ch); d12_ven = dif12(vente_ch); run; proc print data=champadiff (obs=18); run; Explications sur le programme : - data champadiff : sert à créer une table SAS nommée champadiff. - set st.champa2 : permet de recopier les variables de la table champa2 dans la table sortie champadiff. - La table sortie champadiff contient aussi les nouvelles variables : ven1 = x t 1, ven12 = x t 12, d1 ven= x t x t 1 et d12 ven= x t x t 12 (avec {x t } =vente ch) 35

39 Le Système SAS 10:00 Saturday, June 18, Obs VENTE_CH DATE ven1 ven12 d1_ven d12_ven JAN FEB MAR APR MAY JUN JUL AUG SEP OCT NOV DEC JAN FEB

40 Rappel : 3. Outils de description des séries stationnaires Une série temporelle {Y t, t Z} indexée par Z est dite faiblement stationnaire si (i) E Y t 2 < + z Z, (ii) EY t = m t Z, (iii) la covariance cov(y t, Y t l ) ne dépend que de l entier l et dans ce cas elle est notée : γ l = cov(y t, Y t l ). 37

41 Outils pour étudier la stationnarité : Série stationnaire = moyenne et variance constantes Test de stationnarité (de Dickey et Fuller par exemple) Type de stationnarité : décroissance de la fonction d autocovariance Remarque : La non-stationnarité se traduit souvent par une décroissance très lente de la fonction d autocorrélation. Ceci est donc un indice à examiner. 38

42 3.1. Chronogramme : moyenne et variance constantes Il est important d arriver à se faire une idée de la stationnarité d une série par l observation de son chronogramme. La stationnarité (points (i) et (ii)) implique que la moyenne et la variance de la série sont constantes quelle que soit la date. Elle implique donc que le graphe de la série en fonction du temps montre des fluctuations qui se ressemblent (en niveau et en amplitude), quelle que soit la date autour de laquelle on examine la série. 39

43 Exemple : cours de l action Alcatel 40

44 3.2. Fonction d autocovariance et corrélogramme La fonction d autocovariance l γ l = cov(y t, Y t l ) satisfait : a) γ 0 = var(y t ), t b) γ l = γ l car : γ l = cov(y t, Y t ( l) ) = cov(y t ( l), Y t ) = cov(y t+l, Y t ) = cov(y t+l, Y (t+l) l ) = γ l Autre notation : on écrit aussi γ(l) ou γ Y (l), en particulier pour distinguer la fonction d autocovariance d une série Y, de celle d une autre série. 41

45 Fonction d autocorrélation (FAC) : on définit le coefficient d autocorrélation d ordre l par ρ l = cov(y t, Y t l ) var(y t )var(y t l ) = cov(y t, Y t l ) var(y t ) = γ l γ 0. ρ l est une mesure de la dépendance de la valeur de Y en une date par rapport à sa valeur en une date décalée de l intervalles de temps. Définition : la fonction : l ρ l, l = 0, 1, 2,... est appelée fonction d autocorrélation (théorique), FAC (ou ACF en anglais) de la série {Y t }. De la définition on voit que : ρ 0 = 1. Propriété : 1 ρ l 1. 42

46 Fonction d autocorrélation empirique : FAC théorique : ρ l = E[(Y t µ)(y t l µ)] E[(Y t µ) 2. ] Version empirique : {y t : t = 1,, T } un échantillon de {Y t }, Moyenne empirique : y = T t=1 y t /T Coefficient d autocorrélation empirique d ordre 1 : ρ 1 = Tt=2 (y t y)(y t 1 y) Tt=1 (y t y) 2 Coefficient d autocorrélation empirique d ordre l 1 : ρ l = Tt=l+1 (y t y)(y t l y) Tt=1 (y t y) 2, 1 l T 1 43

47 Sous des conditions générales, ρ l est un estimateur convergent de ρ l. Définition : la fonction : Tt=l+1 (y t y)(y t l y) l ρ l = Tt=1 (y t y) 2, l = 0, 1, 2,... est appelée fonction d autocorrélation empirique de la série {Y t }. Remarque : l examen du corrélogramme empirique d une série donne des indications sur sa stationnarité et complète celui du chronogramme (notion de courte mémoire, longue mémoire). 44

48 Calcul et tracé du corrélogramme avec SAS : proc arima data=st.actind; identify var=alcatel nlag=50 /*calcule les autocorrélations jusqu à l=50*/ center /*soustrait la moyenne à la série*/ outcov=alcatelcov noprint; run; proc print data=alcatelcov; run; 45

49 Affichage des corrélations : Obs LAG VAR N COV CORR STDERR INVCORR PARTCORR 1 0 ALCATEL ALCATEL ALCATEL ALCATEL ALCATEL ALCATEL ALCATEL ALCATEL ALCATEL ALCATEL

50 Tracer le corrélogramme à l aide d une proc gplot : proc gplot data=alcatelcov; plot cov*lag;run; quit; 47

51

52 3.3. Préliminaire pour la modélisation : notion de bruit blanc Définition : Un bruit blanc {Z t } est une suite de v.a. non corrélées de moyenne nulle, de variance constante σ 2 Z. On note {Z t } BB(0, σ 2 Z ). Le BB est une série de référence : modéliser une série revient souvent à trouver les opérations qui la décrivent comme transformation d un bruit blanc. {Z t } BBN(0, σz 2 ) désigne un bruit blanc gaussien, càd une suite de v.a i.i.d de loi N(0, σz 2 ) (remarque : dans le cas d un BB gaussien, non corrélé est équivalent à indépendant). 48

53 Exemple de BB simulé : variance σz 2 = 1.52 simulation d un bruit blanc gaussien de data a; do i = 1 to 50; z = 1.5 * rannor(45297); output; end; run; proc contents data=a; run; On obtient le chronogramme de la série simulée à l aide de la proc gplot ou en utilisant : Solutions/Analyse/Afficheur de séries temporelles 49

54 50

55 Tests de blancheur d une série : On observe une série {y t : t = 1,, T } et on calcule sa FAC empirique. Comment tester que {y t } est un BB? 1. Test de Portmanteau 2. Test de Durbin-Watson 51

56 1. Test de Portmanteau : un test global basé sur la statistique de test Q(h) = T h j=1 ρ 2 j où h est un décalage < T/4. Sous H 0 : ρ 1 = = ρ h = 0, la statistique Q(h) suit approximativement une loi de χ 2 à h degrés de liberté. Q(h) est une distance (la distance du χ 2 ), du vecteur ( ρ 1,, ρ h ) au vecteur (0,, 0). La région critique (= la zone de valeurs de la statistique de test où on rejette H 0 ) est formée des grandes valeurs de Q. Le niveau de signification empirique (en français) ou p-value (en anglais) est la probabilité d atteindre ou dépasser la valeur observée de la statistique de test sous H 0. 52

57 Procédure SAS : Série observée y = {y 1,, y T } stockée dans une table SAS nommée a proc arima data= a; identify var= y; run; quit; La sortie SAS fournit le test de blancheur de la série y sous le titre Autocorrelation Check for White Noise : Q(h) lu dans la 2ème colonne, ddl h dans la 3ème colonne, p-value dans la 4ème colonne, FAC empirique dans la 5ème colonne. 53

58 Autocorrelation Check for White Noise To Chi- Pr > Lag Square DF ChiSq Autocorrelations

59 Exemples : /* série des ventes de champagne : */ proc arima data=st.champa2; identify var=vente_ch; run; quit; /* le cours de l action Alcatel : */ proc arima data=st.actind; identify var=alcatel; run; quit; Exercice : Application à des données simulées : simulez 150 observations selon un BBN(0; ) et vérifiez que le test de Portmanteau confirme la blancheur de la série simulée. 55

60 Exemple des ventes de Champagne : Autocorrelation Check for White Noise To Chi- Pr > Lag Square DF ChiSq Autocorrelations < < < < The ARIMA Procedure Name of Variable = VENTE_CH Mean of Working Series Standard Deviation

61 Number of Observations 105 Autocorrelations Lag Covariance Correlation Std Error ******************** ********* * *** ***** * * * ****** **** ******** ***************** ******** "." marks two standard errors

62 2. Test de Durbin-Watson : il s intéresse à la situation : y t = x tβ + u t, t = 1,, T u t = ρu t 1 + Z t où : Z t BB, ρ est une constante et x t est un vecteur de p + 1 variables explicatives. Il teste la blancheur de {u t }, càd, H 0 : ρ = 0. La statistique de Durbin-Watson est : Tt=2 (û t û t 1 ) 2 DW =, Tt=1 û 2 t où û t est le résidu de l ajustement par moindres carrés ordinaires de y t sur x t. 57

63 En développant numérateur et dénominateur on voit que DW 2(1 ρ) (0, 4] où ρ = Tt=2 û t 1 û t. Tt=1 û 2 t Les valeurs de DW proches de 2 indiquent la blancheur de {u t }. Les valeurs de DW proches de 0 indiquent une autocorrélation positive. Pratiquement : une statistique de DW 2 peut être le signe d une mauvaise spécification du modèle (par exemple : tendance ajustée linéaire alors que la tendance réelle est quadratique). 58

64 4. Processus autorégressifs ou AR 4.1. Processus AR(1) Définition : On dit que Y t est un processus AR(1) si Y t est stationnaire et obéit à une équation de la forme Y t = φ 0 + φ 1 Y t 1 + Z t, t = 1,..., T, où {Z t } t=1,...,t est un BB(0, σ 2 Z ) et φ 0, φ 1 sont des coefficients réels. Processus AR(1) centré : soit µ = E(Y t ) et Ỹ t = Y t µ. Alors Ỹ t est stationnaire et satisfait l équation : Ỹ t = φ 1 Ỹ t 1 + Z t. On peut donc toujours se ramener à un processus AR(1) centré. 59

65 Modèle Par substitutions successives : Y t = φ 1 Y t 1 + Z t (1) Y t = φ 1 (φ 1 Y t 2 + Z t 1 ) + Z t = φ 2 1 Y t 2 + φ 1 Z t 1 + Z t =... = φ k+1 1 Y t k 1 + φ k 1 Z t k + φ k 1 1 Z t k φ 1 Z t 1 + Z t = k i=0 φ i 1 Z t i + φ k+1 1 Y t k 1, pour tout k 0. Si φ 1 < 1, on montre qu on peut écrire p.s. et dans L 2 : Y t = + i=0 φ i 1 Z t i. 60

66 Si φ 1 > 1 dans (1), on peut se ramener à une expression de Y t conforme à (1) avec un autre bruit blanc et φ 1 < 1. Lorsque φ 1 = 1, il n existe pas de solution stationnaire de l équation (1). Dans la suite, on considèrera toujours que φ 1 < 1. 61

67 Variance d un AR(1) : V ar(y t ) = V ar(z t + φ 1 Z t 1 + φ 2 1 Z t ) = σ 2 Z (1 + φ2 1 + φ ) = σ2 Z 1 φ 2. 1 Fonction d autocovariance d un AR(1) : γ l = (φ l 1 + φl φ l )σ 2 Z = φl 1 V ar(y t) = φ l 1 γ 0 pour l 0. Fonction d autocorrélation d un AR(1) stationnaire : ρ l = γ l = φ l 1, k = 0, 1, 2,... γ 0 Remarque : Comme φ 1 < 1, la série des autocorrélations décroît vers 0 à vitesse exponentielle. 62

68 Exemple d un AR(1) centré simulé : on simule 150 observations de y t obéissant à Y t = 0.8 Y t 1 + Z t, Z t BBN(0, 1). Instructions pour simuler la série y = {y 1,, y 150 } et la stocker dans une table SAS ar1 : data ar1 (keep= y date); y1 = 0; do t = -50 to 150; z = rannor( 1436 ); y = -.8*y1 +z; if t > 0 then do; date = intnx( month, 31dec1960 d,t); format date monyy.; output; end; y1=y; end; run; 63

69 Tracé du chronogramme : 64

70 Test de blancheur de Portmanteau On sait que la série simulée {y t } n est pas un BB puisque φ 1 = 0.8 n est pas proche de 0. Rappel. Sous l hypothèse nulle H 0 : statistique de Box-Pierce : ρ 1 = ρ 2 = = ρ h = 0, la Q(h) = T h j=1 suit approximativement une loi de χ 2 (h). ( ρ j ) 2 = 150( ρ ρ 2 h ) Instructions SAS : proc arima data = ar1; i var= y; run; quit; 65

71 Autocorrelation Check for White Noise To Chi- Pr > Lag Square DF ChiSq Autocorrelations < < < < Ce test conclut au rejet de l hypothèse de blancheur. 66

72 Tracé du diagramme retardé : Y t en fonction de Y t 1 : 67

73 Tracé du diagramme retardé : Y t en fonction de Y t 2 : 68

74 4.2. Processus AR(2) Soit Y t stationnaire d espérance µ, obéissant à l équation : Y t = φ 0 + φ 1 Y t 1 + φ 2 Y t 2 + Z t. Prenant l espérance des deux côtés on obtient : φ 0 = µ(1 φ 1 φ 2 ). D où : Y t µ = φ 1 (Y t 1 µ) + φ 2 (Y t 2 µ) + Z t et le processus centré : Ỹ t = Y t µ vérifie : Ỹ t = φ 1 Ỹ t 1 + φ 2 Ỹ t 2 + Z t. On peut donc toujours se ramener à un processus AR(2) centré. 69

75 Fonctions d autocovariance et d autocorrélation Autocovariance : γ(l) = cov(y t, Y t l ) = φ 1 γ(l 1) + φ 2 γ(l 2), l > 0. Autocorrélation : la fonction d autocorrélation satisfait la récurrence : ρ(1) = φ 1 1 φ 2 ρ(l) = φ 1 ρ(l 1) + φ 2 ρ(l 2), l > 1. Conséquence : l expression de l autocorrélation est compliquée. Elle décroît exponentiellement vers 0. 70

76 4.3. Processus AR(p) Soit {Z t } un BB. Un processus centré {Y t } est dit autorégressif d ordre p s il est stationnaire et s il satisfait : Y t = φ 1 Y t 1 + φ 2 Y t φ p Y t p + Z t. Avec l opérateur retard on peut écrire cette autorégression à l ordre p comme : où Φ est le polynôme (1 φ 1 B φ 2 B 2 φ p B p )Y t = Z t, soit Φ(B)Y t = Z t, Φ(X) = (1 φ 1 X φ 2 X 2 φ p X p ). On peut montrer que la fonction d autocorrélation décroît exponentiellement vite vers 0. 71

77 4.4. Fonction d autocorrélation partielle d un AR(p) La fonction d autocorrélation partielle (ou PACF) α est définie par α(1) = Corr(Y 2, Y 1 ) = ρ(1), α(k) = Corr(Y k+1 P 1,Y2,...,Y k Y k+1 ; Y 1 P 1,Y2,...,Y k Y 1 ) pour k 2, où P 1,Y2,...,Y k Y k+1 est la projection linéaire dans L 2 de Y k+1 sur le sousespace linéaire engendré par {1, Y 2,..., Y k } (cf. Brockwell et Davis, page 98). Ou encore : Y k+1 P 1,Y2,...,Y k Y k+1 est le résidu de la régression linéaire de Y k+1 sur (1, Y 2,..., Y k ). 72

78 Application : la PACF d un processus AR(p) est nulle pour k p + 1. Pour la modélisation : estimation de la PACF on oriente la modélisation vers un AR(p) si la PACF est très proche de 0 à partir d un certain décalage p + 1. Pour l AR(1) précédent : α(1) = Corr(Y 2, Y 1 ) = 0.8. et α(k) = Corr(Y k Y k, Y Y 2 ) = 0 pour k 2 (cf. Brockwell et Davis page 98 pour le calcul). Pour visualiser α(2) = Corr(Y Y 2, Y Y 2 ) = 0, on trace le nuage de points (Y t + 0.8Y t 1, Y t Y t 1 ). 73

79 Tracé de l autocorrélation partielle empirique du processus AR(1) simulé auparavant : 75

80 Tracé de Y t Y t 1 en fonction de Y t + 0.8Y t 1 : 76

81 5. Processus à moyenne mobile ou MA 5.1. Définition d un MA(q) : soit {Z t } un BB(0, σz 2 ). Un processus {Y t } est dit MA(q) s il est stationnaire et s il satisfait : Y t = µ + Z t + θ 1 Z t 1 + θ 2 Y Z φ q Z t q Sans perte de généralité, on prendra : µ = 0. Avec l opérateur retard : Y t = (θ 0 + θ 1 B + θ 2 B θ q B q )Z t = Θ(B)Z t, où θ 0 = 1 et Θ est le polynôme Θ(X) = (θ 0 +θ 1 X +θ 2 X 2 + +θ q X q ). Remarque : la stationnarité n implique aucune contrainte sur les coefficients. 77

82 Exemple : MA(1) centré. Y t = Z t + θ 1 Z t 1. Variance : σz 2 (1 + θ2 1 ). Fonctions d autocovariance et d autocorrélation : γ 1 = Cov(Z t+1 + θ 1 Z t, Z t + θ 1 Z t 1 ) = σz 2 θ 1, γ 2 = Cov(Z t+2 + θ 1 Z t 1, Z t + θ 1 Z t 1 ) = 0. De même, γ l = 0 pour l 2. D où la fonction d autocorrélation : ρ l = 1 si l = 0, θ 1 (1 + θ 2 1 ) 1 si l = 1, 0 si l 2. 78

83 5.2. Fonction d autocovariance d un M A(q) Pour l 0, γ l = Cov(Y t+l, Y t ) = σz 2 q l j=0 θ jθ j+l si 0 l q, 0 si l > q. Mise en pratique : on pensera qu une série temporelle suit un M A(q) si la FAC empirique satisfait : ˆρ(l) 0, pour l > q. 79

84 5.3. Simulation d un M A(q) Simulation d un MA(3) de longueur 200 avec Z t BBN(0, σ 2 Z = 22 ) : Y t = 1 + Z t Z t 1 Z t 2 Z t 3. data ma3 (keep= y date); z1 = 0; z2 = 0; z3 = 0; do t = -50 to 200; z = 2*rannor( 1436 ); y = 1 +z -z1 -z2 -z3; if t > 0 then do; date = intnx( month, 31dec1960 d,t); format date monyy.; output; end; z3=z2; z2=z1; z1 =z; end;run; 80

85 Chronogramme du M A(3) simulé : 81

86 Autocorrélation (sortie de la proc arima) : on constate que les autocorrélations sont très faibles à partir du décalage 4. Autocorrelations Lag Covariance Correlation Std Error ******************** ***** * ******* * * *

87 6. Processus ARMA 6.1. Définition d un ARMA(p, q) : soit {Z t } un BB(0, σz 2 ). On dit que le processus centré {Y t } est autorégressif d ordre p moyenne mobile d ordre q (ARM A(p, q)) s il est stationnaire et satisfait une équation de la forme : Y t φ 1 Y t 1 φ 2 Y t 2 φ p Y t p = Z t +θ 1 Z t 1 +θ 2 Z t 2 + +θ q Z t q. En utilisant l opérateur retard, on peut écrire : où Φ et Θ sont les polynômes Φ(B)Y t = Θ(B)Z t, Φ(X) = 1 φ 1 X φ p X p, Θ(X) = 1 + θ 1 (X) + + θ q X q. {Y t } est un ARMA(p, q) de moyenne µ si Y t µ est un ARMA(p, q) centré. 83

88 Simulation d un ARMA(1, 2) : data arma1_2 (keep= y date); y1 = 0; z1 = 0; z2 = 0; do t = -50 to 200; z = 2*rannor( 1436 ); y =.9 *y1 +z -.1*z1+.9*z2; if t > 0 then do; date = intnx( month, 31dec1960 d,t); format date monyy.; output; end; z2=z1; z1 =z; y1=y; end; run; 84

89 Chronogramme du ARMA(1, 2) simulé : 85

90 6.2. Comportement des 3 fonctions d autocorrélation d un ARMA : ACF, PACF et IACF L IACF (fonction d autocorrélation inverse) d un ARMA(p,q) est définie comme l ACF de la série ARMA(q,p) obtenue en permutant les roles des coefficients AR et MA dans son modèle. SAS est un des rares logiciels à fournir cette fonction. Pour un ARMA, chacune des trois fonctions : ACF, PACF et IACF décroît exponentiellement (suffisamment vite) vers 0. 86

91 Comportement des 3 fonctions d autocorrélation, suivant le modèle de la série où : Fonction M A(q) AR(p) ARM A(p, q) bruit blanc ACF Nul(q) Exp Exp 0 PACF Exp Nul(p) Exp 0 IACF Exp Nul(p) Exp 0 Nul(q) veut dire : nulle à partir du décalage q+1, Exp : décroissance exponentielle et 0 : que la fonction est nulle à tous les décalages. 87

92 Fonction d autocorrélation du ARM A(1, 2) simulé : 88

93 Fonction d autocorrélation partielle du ARM A(1, 2) simulé : 89

94 7. Modélisation ARM A d une série 7.1. Critères préliminaires pour le choix d un modèle ARMA On s orientera vers un modèle ARMA si le chronogramme et le corrélogramme de la série présentent les caractères suivants : Stationnarité : moyenne constante, variance constante au cours du temps (homoscédasticité) Comportement des trois fonctions d autocorrélation : ACF, PACF, IACF à décroissance exponentielle vers 0. Remarque : une série à moyenne et variance croissantes sera transformée préalablement via la fonction log. 90

95 Si on peut penser que la série observée suit un processus ARMA, y t est la réalisation d un processus Y t qui s écrit sous la forme : Y t φ 1 Y t 1 φ p Y t p = θ 0 + Z t + θ 1 Z t θ q Z t q où Z t BB. Ecriture avec l opérateur retard B : Φ(B)Y t = θ 0 + Θ(B)Z t. Paramètres du modèle : un ordre d AR noté p et des coefficients AR : φ 1,, φ p un ordre de MA noté q et des coefficients MA : θ 0,, θ q. 91

96 Etapes de la modélisation d une série : 0. Examiner le chronogramme et le corrélogramme : orientation vers un modèle ARMA. 1. Etape d identification : identifier les ordres p et q. 2. Etape d estimation : estimer les coefficients AR et M A, tester leur significativité et vérifier que le résidu Ẑ t est bien un bruit blanc pour valider le modèle. 3. Etape de prévision : prévision de chaque composante de la série puis la série. 92

97 7.2. Inversibilité d une série Un processus ARMA(p, q) centré défini par Φ(B)Y t = Θ(B)Z t est dit inversible s il existe une suite {π j } telle que j 0 π j < + et Z t = π j Y t j, t Z. j 0 Condition nécessaire et suffisante : on suppose que les polynômes Φ et Θ n ont pas de racine commune. Alors : Y t est inversible si et seulement si Θ(z) 0 pour tout z C tel que z 1. De plus, les coefficients π j sont donnés par : π(z) = j 0 π j z j = Φ(z)/Θ(z), z 1. Remarque : l inversibilité permet d écrire Y t comme un AR( ). 93

98 7.3. Etapes de la modélisation d une série 1. Etape d identification Méthode MINIC ("Minimum Information Criterion") pour identifier les ordres p et q pour une série stationnaire susceptible de recevoir une modélisation ARMA. Principe : {Y t : t = 1,, T } une série centrée inversible suivant un modèle ARMA(p, q) : Y t = φ 1 Y t φ p Y t p + Z t + θ 1 Z t θ q Z t q ou Φ(B)Y t = Θ(B)Z t avec Z t BB(0, σ 2 Z ). 94

99 Processus Y t inversible = représentation en AR( ) : Z t = π(b)y t On approche Y t par un AR(p ɛ ) d ordre p ɛ suffisamment grand : π pε (B)Y t = Z t Z t, où les coefficients du polynôme π pε sont estimés par les équations de Yule-Walker. Si l ordre p ɛ est suffisamment élevé, le résidu Z t est une bonne prédiction du bruit blanc Z t. 95

100 Ainsi, pour identifier les ordres p et q de l ARMA {Y t } : - on commence par ajuster le modèle : Y t = φ 1 Y t φ p Y t p + u t + θ 1 Z t θ q Z t q. - le résidu û t de cet ajustement est une bonne approximation de Z t et donc on peut estimer la variance de Z t par s 2 = (1/T ) t û2 t. - l utilisateur retient le couple (p, q) qui minimise le BIC (Bayesian Information Criterion) : BIC(p, q) = T ln(s 2 ) + 2(p + q) ln(t ). Dans SAS, l identification d une série ARMA se fait par la proc arima. 96

101 Etape d identification dans SAS Série stationnaire y = {y t } stockée dans une table SAS nommée a. Identification des ordres p et q par les instructions : proc arima data= a; identify var=y minic perror=(1:11); run; L option minic génère une table contenant les critères (BIC) associés à différents ordres de modèle ARMA. L option perror= détermine l intervalle des ordres du modèle AR utilisé pour estimer la série des erreurs ou bruit blanc Z. Voir l aide de SAS pour comprendre toutes les options : /default/etsug_arima_sect021.htm 97

102 2. Etape d estimation Une fois p et q choisis, on estime le modèle Φ(B)Y t = Θ(B)Z t avec Φ polynôme de degré p et Θ polynôme de degré q et on le valide à travers les étapes suivantes : On teste la blancheur du résidu Ẑt. Si on doit rejeter cette hypothèse, il faut revoir le choix des ordres p et q (perror dans minic n est pas assez grand). Si on peut considérer que le résidu est un bruit blanc, on analyse les résultats de l estimation suivant les mêmes principes qu en régression linéaire : significativité des φ i et θ j d après les t-statistiques, corrélations entre les estimateurs de ces paramètres (des coefficients de corrélation élevés, > 0.9, sont signes d une mauvaise spécification). 98

103 Etape d estimation dans SAS proc arima data= a; identify var=y; run; estimate p=* q=*; run; Exemple : la série simulée y (stockée dans arma1 2 ) est une série mensuelle observée de Janvier 1961 à Aout On peut identifier et estimer le modèle de cette série. 99

104 Comparaison entre plusieurs modèles 1. Significativité et corrélation des paramètres (une corrélation trop forte nécessite d abandonner le modèle). 2. Blancheur du résidu : obtenir les résidus grâce à la commande forecast et afficher leur chronogramme : ont-ils l apparence d un bruit blanc? Quelle est leur variance? p-valeurs du test de Ljung- Box. 3. Comparaison des critères AIC (Akaïke information criterion) et SBC (Schwarz information criterion) qui doivent être le plus petits possible. 100

105 3. Etape de prévision Prédire la série y à un an (12 mois) et stocker les prévisions, les écarts-types des prévisions, les bornes de l intervalle de prévision (à 95% par défaut), la série initiale y et les résidus dans une table nommée previ sans les mettre dans la sortie (noprint) : proc arima data= arma1_2; identify var=y; run; estimate p=1 q=2 plot; run; forecast out=previ lead=12 id=date interval=month noprint; run; quit; Voir l aide de SAS : /default/etsug_arima_sect022.htm 101

106 La prévision de la série y est donnée par la série forecast stockée dans la table sortie previ : proc print data= previ; run; Superposition de la série y et da sa prévision forecast : proc gplot data= previ; symbol1 v=plus i=join color=black; symbol2 v=star i=join color=red; plot y*date=1 forecast*date=2/overlay; run; quit; Exercice : modéliser le niveau du Lac Huron et le prédire à l horizon

107 Récapitulatif : Modélisation d une série de données réelles 1. Examen de la série (chronogramme, histogramme) et mise en forme des données : valeurs manquantes ou extrêmes? Regroupement des observations par intervalle de temps plus grand? 2. Si la série présente une hétéroscédasticité : appliquer une méthode de stabilisation de la variance (passage au log ou racine carrée) 3. Décomposition tendance + saison + bruit 3.1. Pas de composante saisonnière : élimination de la tendance par lissage (moyenne mobile, lissage exponentiel, différentiations successives...) 3.2. Présence d une composante saisonnière : élimination de la tendance et de la composante saisonnière (par exemple : différentiations successives) 4. Modélisation du bruit 4.1. Série des autocorrélations et autocorrélations partielles qui décroît rapidement : modélisation ARMA, validation de la méthode 4.2. Sinon : modélisation ARIMA, validation de la méthode 103

108 8. Stabilisation de la variance 8.1. Principe de la stabilisation de la variance Série X t de moyenne µ t avec : µ t varie au cours du temps (typiquement : µ t est croissante) La variance de X t dépend de µ t : il existe une fonction h telle que V ar(x t ) = h 2 (µ t ). Pour g une fonction dérivable, développement de Taylor : g(x t ) = g(µ t + (X t µ t )) g(µ t ) + g (µ t )(X t µ t ), d où V ar[g(x t )] ( g (µ t ) ) 2 V ar[xt µ t ] = ( g (µ t ) ) 2 h 2 (µ t ). Variance stabilisée dès que : g (µ t ) = cste/h(µ t ). 104

109 8.2. Exemples de fonctions usuelles Exemple : V ar(x t ) σ 2 µ 2 t, i.e. h(x) = σx. Alors on peut prendre : g (x) = 1 x, soit : g(x) = log(x). On a alors : V ar[log(x t )] σ 2. Transformations de Box-Cox : famille de transformations {g λ : λ 0} définies par : g λ (x) = λ 1 (x λ 1) si x 0, λ > 0, log(x) si x > 0, λ =

110 8.3. Exemple sur des données réelles Ventes de Champagne (en millions de bouteilles) 106

111 107

112 108

113 1. Calcul de la série transformée log(x t ), tracé du nouveau chronogramme - comparaison avec la série transformée X t. 2. Examen de la série log(x t ) : chronogramme, corrélogramme. Choix d une modélisation ARMA. 3. Etape d identification et d estimation. 4. Etude du modèle estimé : significativité des paramètres. 5. Etude des résidus : tracé, test de blancheur. On conclut à la blancheur. 6. Paramètres significatifs + hypothèse de blancheur acceptée : modèle acceptable. 7. Comparaison avec d autres modélisations ARMA possibles via la comparaison des p-valeurs (significativité des paramètres, test de blancheur) et examen des critères AIC et BIC. 109

114 8. Processus ARIM A Un processus ARIMA(p,d,q) est un processus X t tel que le processus Y t := (1 B) d X t est un processus ARMA(p, q) causal : il satisfait Φ p (B) d X t = c + Θ q (B)Z t t N où le polynôme Φ p (B) a ses racines > 1 en module (causalité), {Z t } t q est un BB. Rappel : = 1 B est l opérateur de différentiation : X t = (1 B)X t = X t X t 1, 2 X t = ( X t ) = (X t X t 1 ) = X t 2X t 1 + X t 2, etc. 110

115 Exemple : ARIMA(1, 1, 0) X t est un processus ARIMA(1, 1, 0) s il existe φ tel que φ < 1, et un bruit blanc Z t tels que (1 φb)(1 B)X t = Z t. Alors : Y t = X t X t 1 est le processus AR(1) satisfaisant D où : Y t = + j=0 φ j Z t j. (1 φb)y t = Z t. La lettre I de ARIMA vient du mot "intégration" (inverse de différentiation) : Y t s obtient à partir de X t par différentiation, réciproquement X t s obtient à partir de Y t par intégration (somme) : X t = X 0 + t j=1 Y j. 111

116 Autres exemples : X t vérifiant : (1 B)X t = c + est un ARIMA(3,1,2). X t vérifiant : est un ARIMA(0,2,1). 1 + θ 1 B + θ 2 B 2 1 φ 1 B φ 2 B 2 φ 3 B 3Z t (1 B) 2 X t = c + (1 + θ 1 B)Z t 112

117 Non-stationnarité On définit le polynôme Φ (B) = Φ p (B)(1 B) d satisfaisant : Φ (B)X t = c + Θ q (B)Z t. Φ admet 1 pour racine d ordre d, donc X t est stationnaire ssi d = 0, c est-à-dire : X t est un processus ARMA(p, q). Un processus ARIMA(p, d, q) avec d 0 n est donc pas stationnaire, avec les caractéristiques suivantes : moyenne, variance non nécessairement constantes fonctions d autocorrélation, autocorrélations partielle et inverse, qui ne tendent pas vers 0 rapidement. 113

118 Mise en pratique Tracé du chronogramme de la série : détection de non-stationnarité Différentiation à l ordre 1, tracés du chronogramme et des corrélogrammes. Si la série différentiée présente les caractéristiques d un ARMA (décroissance rapide des autocorrélations) : modélisation ARM A(p, q) ; on en déduit un modèle ARIMA(p, 1, q) pour la série originelle. Sinon : différentiations successives jusqu à l ordre d tel que la série différentiée d fois présente les caractéristiques d un modèle ARM A(p, q). On en déduit un modèle ARIMA(p, d, q) sur la série originelle. 114

119 Exemple de code SAS : modélisation du cours de l action Alcatel. Tracé du chronogramme Etude des autocorrélations par : proc arima data=st.actind ; identify var=alcatel ; run ; Construction de la série différentiée une fois par : data alcateldif1 ; set st.actind (keep=date alcatel) ; alcatel1=dif1(alcatel) ; run ; Etude des autocorrélations et identification d un modèle ARM A éventuel par : proc arima data=alcateldif1 ; identify var=alcatel1 minic ; run ; Estimation du modèle ARM A éventuel 115

120 Chronogramme de l action Alcatel

121 Chronogramme de l action Alcatel après différentiation

122 Modélisation de l action Elf-Aquitaine 116

123 Action Elf-Aquitaine après différentiation 117

124 Remarque : La proc arima permet de faire l étape d estimation directement sur la série originelle en précisant l ordre de différentiation : proc arima data=st.actind; identify var=elf_aqui(1); /*entre parenthèses : le degré de différentiation d */ estimate p=1 q=1 plot; /* Etape d estimation */ run; revient au même que de créer la variable différentiée à l ordre 1 elfaqui1=dif1(elf aqui) puis lui appliquer la procédure arima : proc arima data=elfaquidif1; identify var=elfaqui1; estimate p=1 q=1 plot; /* Etape d estimation */ run; 118

125 Résidus après estimation d un modèle AR(1) : 119

126 Résidus après estimation d un modèle M A(1) : 120