Modélisation stochastique, Processus stochastiques

Transcription

1 Modélisation stochastique, 6 octobre / 54 Modélisation stochastique,

2 / 54 Modélisation stochastique,

3 Rappel : Variables aléatoires Exemple : Pièce de monnaie soit jetée trois fois. X(ω) : Nombre de faces. Ω = {FFF, FFP, FPF, PFF, FPP, PFP, PPF, PPP} Pour chaque issue ω Ω, X(ω) {0, 1, 2, 3}. on a X({PPP}) = 0 X({FPP}) = X({PFP}) = X({PPF}) = 1 X({FFP}) = X({FPF}) = X({PFF}) = 2 X({FFF}) = 3 3 / 54 Modélisation stochastique,

4 Variable aléatoire dépendant du temps : X t (ω) stochastique : X = (X t (ω) : t T), Discret si T = N = {0, 1, 2, 3,...} ou T = Z = {..., 2, 1, 0, 1, Continu si T = R ou T = R + Remarque : Le processus peut être à états ou à états. Notation d un processus discret : X = (X n : n Z) ou X = (X n : n N) 4 / 54 Exemple : Pièce de monnaie soit jetée n fois : discret à états. Modélisation stochastique,

5 (2) stochastique : X = (X t (ω) : t T) Remarques : Si t ou n est fixé, Le processus stochastique est une variable aléatoire. Si ω Ω est fixé, nous avons une fonction du temps. 5 / 54 Modélisation stochastique,

6 Exemple processus stochastique discret de Bernoulli : X = (X n : n N) est une collection de variables aléatoires indépendantes avec P(X n = 1) = p et P(X n = 0) = 1 p, 0 p 1. FIGURE: Séquence particulière d un processus de Bernoulli 6 / 54 Modélisation stochastique,

7 Exemples (2) Remarque : L espace fondamental doit être suffisamment grand ({0, 1} N si n = 0, 1, 2,..., N) pour comprendre toutes les séquences possibles car à chaque ω doit correspondre une séquence (par exemple comme montré à la figure précédente). Exemple : {Y n, n 1} indépendantes avec P(Y n = 1) = p P(Y n = 1) = 1 p Marche aléatoire ("random walk") : 7 / 54 X = (X n = n i=1 Y i) avec n 1 Modélisation stochastique,

8 Espérance mathématique discret à états : E(X n ) = µ X (n) = x i.p(x n = x i ) discret à états : E(X n ) = µ X (n) = x.f X(x, n)dx 8 / 54 Modélisation stochastique,

9 Exemple Marche aléatoire : Nous avons X n = n i=1 Y i, n 1, P(Y n = 1) = p P(Y n = 1) = 1 p 9 / 54 donc E[X n ] = E[ n i=1 Y i] = E[Y 1 ] E[Y n ] = n.e[y 1 ]= n(1 p + ( 1) (1 p)) = n(2p 1) Modélisation stochastique,

10 Corrélation Fonction d autocorrélation : Espérance mathématique du produit : X m X n R XX (m, n) = R X (m, n) = E[X m.x n ] = E[X n.x m ] = R X (n, m) 10 / 54 Modélisation stochastique,

11 Corrélation (2) Observations : R X (n, n) = E[X n.x n ] = E[X 2 n] 0 si n = m. E[X 2 n] représente la puissance moyenne de X n (ou de X m ). Fonction de corrélation : R XY (m, n) = E[X m Y n ] 11 / 54 Modélisation stochastique,

12 Exemple 12 / 54 Auto-corrélation d une marche aléatoire Nous avons R X (m, n) = E[X m.x n ] En remplaçant les variables aléatoires X n = n i=1 Y i = n i=0 Y i, Y 0 = 0, nous trouvons m E[X m.x n ] = E[ Y i. = = m i=0 i=0 j=0 min(n,m) i=0 n Y j ] j=0 n E[Y i Y j ] E[Y 2 i ] + n m i=0 j=0,j i E[Y i ]E[Y j ] Modélisation stochastique,

13 Exemple (2) et comme E[Y 2 k ] = 1 E[Y k ] = 2p 1 nous obtenons R X (m, n) = min(n, m) + [nm min(n, m)](2p 1) 2 13 / 54 Modélisation stochastique,

14 Covariance Fonction d autocovariance : Espérance mathématique du produit : (X m µ X (m))(x n µ X (n)) Cov XX (m, n) = Cov X (m, n) = E[(X m µ X (m))(x n µ X (n))] 14 / 54 Modélisation stochastique,

15 Covariance (2) Observations : Lorsque m = n : Cov X (m, n) = E[(X m µ X (m)) 2 ] = Var(X m ) Si µ X (n) = µ X (m) = µ X, alors Cov X (m, n) = R X (m, n) µ 2 X Cov X (0) = σ 2 X R X (0) = σ 2 X + µ2 X 15 / 54 Modélisation stochastique,

16 Techniques de corrélation (1) 16 / 54 Modélisation stochastique,

20 Exemples en mécanique et en sciences de l environnement Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! 20 / 54 Modélisation stochastique,

21 Exemples en mécanique et en sciences de l environnement Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! Réponse d un avion à la turbulence atmosphérique 20 / 54 Modélisation stochastique,

22 Exemples en mécanique et en sciences de l environnement Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! Réponse d un avion à la turbulence atmosphérique Analyse spectrale d accélérogrammes sismiques 20 / 54 Modélisation stochastique,

23 Exemples en mécanique et en sciences de l environnement Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! Réponse d un avion à la turbulence atmosphérique Analyse spectrale d accélérogrammes sismiques Ruine par fatique entraîné par des oscillations aléatoires 20 / 54 Modélisation stochastique,

24 Exemples en mécanique et en sciences de l environnement Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! Réponse d un avion à la turbulence atmosphérique Analyse spectrale d accélérogrammes sismiques Ruine par fatique entraîné par des oscillations aléatoires Fiabilité de systèmes avec différentes configurations 20 / 54 Modélisation stochastique,

25 Exemples en mécanique et en sciences de l environnement Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! Réponse d un avion à la turbulence atmosphérique Analyse spectrale d accélérogrammes sismiques Ruine par fatique entraîné par des oscillations aléatoires Fiabilité de systèmes avec différentes configurations Prédiction des tremblements de terre à partir de signaux bruités 20 / 54 Modélisation stochastique,

26 Exemples en mécanique et en sciences de l environnement 20 / 54 Réponse d un building dans le sens du vent. Bien choisir le modèle pour le vent! Réponse d un avion à la turbulence atmosphérique Analyse spectrale d accélérogrammes sismiques Ruine par fatique entraîné par des oscillations aléatoires Fiabilité de systèmes avec différentes configurations Prédiction des tremblements de terre à partir de signaux bruités Calcul de la hauteur maximale des vagues en plein océan durant une tempête Modélisation stochastique,

27 Exemples en mécanique et en sciences de l environnement (2) Calcul de facteurs de charge pour des colonnes porteuses (bâtiments) 21 / 54 Références principales Vibrations aléatoires et Analyse spectrale, A. Preumont, PPUR. Probability and Statistics in Engineering, MIT Course. Modélisation stochastique,

28 Exemples en mécanique et en sciences de l environnement (2) Calcul de facteurs de charge pour des colonnes porteuses (bâtiments) Mesure de l élévation d un satellite à l aide de mesures bruitées 21 / 54 Références principales Vibrations aléatoires et Analyse spectrale, A. Preumont, PPUR. Probability and Statistics in Engineering, MIT Course. Modélisation stochastique,

29 Exemples en mécanique et en sciences de l environnement (2) Calcul de facteurs de charge pour des colonnes porteuses (bâtiments) Mesure de l élévation d un satellite à l aide de mesures bruitées Prédiction de températures journalières sur la base de plusieurs observations passées 21 / 54 Références principales Vibrations aléatoires et Analyse spectrale, A. Preumont, PPUR. Probability and Statistics in Engineering, MIT Course. Modélisation stochastique,

30 Exemples en mécanique et en sciences de l environnement (2) Calcul de facteurs de charge pour des colonnes porteuses (bâtiments) Mesure de l élévation d un satellite à l aide de mesures bruitées Prédiction de températures journalières sur la base de plusieurs observations passées Calculs de la stabilité des sols dans différents endroits du monde 21 / 54 Références principales Vibrations aléatoires et Analyse spectrale, A. Preumont, PPUR. Probability and Statistics in Engineering, MIT Course. Modélisation stochastique,

31 Exemples en mécanique et en sciences de l environnement (2) Calcul de facteurs de charge pour des colonnes porteuses (bâtiments) Mesure de l élévation d un satellite à l aide de mesures bruitées Prédiction de températures journalières sur la base de plusieurs observations passées Calculs de la stabilité des sols dans différents endroits du monde Influence d El Nino sur la hauteur et le débit du Nil. 21 / 54 Références principales Vibrations aléatoires et Analyse spectrale, A. Preumont, PPUR. Probability and Statistics in Engineering, MIT Course. Modélisation stochastique,

32 Stationarité Stationarité stricte : {X n1, X n2,..., X nl } a la même distribution conjointe que {X n1 +m, X n2 +m,..., X nl +m} Stationarité au sens large (Wide Sense Stationary : WSS) : µ X (n) = E[X n ] = µ X (constante) Var(X n ) = σ 2 (constante) 22 / 54 Modélisation stochastique,

33 Stationarité (2) Implications : R X (m, n) = R X ( τ ) Cov X (m, n) = R X ( τ ) µ 2 X R X (0) = E[X 2 n] R X (τ) R X (0) 23 / 54 Modélisation stochastique,

34 Exemple Soit un processus stochastique composé d une séquence de variables aléatoires X = (X n : n Z) ayant une espérance mathématique nulle et une variance de 1. E[X(n)] = 0 pour tout n. La fonction d auto-corrélation est donnée par R X (m, n) = E[X m X n ] = E[X m ]E[X n ] = 0 lorsque m n 0 et égale à R X (m, n) = E[X m X n ] = E[X 2 m] = 1 lorsque m = n. Elle ne dépend que de m n donc le processus est WSS. 24 / 54 Modélisation stochastique,

35 Exemple (2) Soit un processus stochastique X = (X n : n N) composé de la somme d un certain nombre de variables aléatoires Y i, i 0, iid, d espérance mathématique nulle et de variance égale à 1, Y 0 + Y Y n. Est-ce que ce processus est stationnaire au sens large? Le calcul de l espérance mathématique du processus montre que E[X n ] = E[Y 0 ] + E[Y 1 ] E[Y n ] = 0. La variance du processus E[X 2 n] = = n donc le processus n est pas stationnaire au sens large. 25 / 54 Modélisation stochastique,

36 Ergodicité Ergodicité : Soit un processus stochastique stationnaire X = (X n : n Z) au sens large avec m n m (par commodité). Alors il est ergodique si lim ˆµ X(m) = E[X n ] m avec ˆµ X (m) = m m i= m X i 26 / 54 Modélisation stochastique,

37 Exemple stochastique : X n = A, avec E[A] = 0, Var(A) = 1. Nous avons E[X n ] = E[A] = 0. Cependant, lorsque nous estimons la moyenne, nous trouvons que 27 / 54 1 ˆµ X (m) = lim m 1 + 2m m i= m A = A Donc ce processus stochastique est stationnaire sans être ergodique. Modélisation stochastique,

38 Densité spectrale de puissance Remarque : Un processus stochastique stationnaire au sens large X est un signal à énergie infinie et donc sa transformée de Fourier ne peut pas exister. Conséquence : Pour trouver les caractéristiques spectrales d un signal stochastique on va donc calculer la transformée de Fourier de sa fonction d auto-corrélation S X (f ) = R X (k)e j2πfk k= 28 / 54 Modélisation stochastique,

39 Variable aléatoire dépendant du temps : X t (ω) stochastique : X = (X t (ω) : t T), Discret si T = N = {0, 1, 2, 3,...} ou T = Z = {..., 2, 1, 0, 1, Continu si T = R ou T = R + Remarque : Le processus peut être à états ou à états. Notation d un processus discret : X = (X n : n Z) ou X = (X n : n N) 29 / 54 Modélisation stochastique,

40 Exemple de processus stochastique continu Soit un processus stochastique X tel que X t = Y cos(2πf 0 t) où Y est une variable aléatoire uniformément distribuée sur l intervalle [0, 1] f 0 est une constante et t / 54 Le processus stochastique est à temps et à états. Modélisation stochastique,

41 Espérance mathématique continu à états : E[X t ] = µ X (t) = x i.p(x t = x i ) continu à états : E[X t ] = µ X (t) = x.f X(x, t)dx 31 / 54 Modélisation stochastique,

42 Exemple stochastique : X t = Y cos(2πf 0 t) avec Y : variable aléatoire uniformément distribuée sur l intervalle [0, 1] f 0 : constante t 0 L espérance mathématique du processus stochastique est donnée par E[X t ] = E[Y cos(2πf 0 t)] = E[Y] cos(2πf 0 t) = 1 2 cos(2πf 0t) 32 / 54 Modélisation stochastique,

43 Exemple (2) 33 / 54 FIGURE: Réalisations de X t en fonction du temps, avec f 0 = 10, pour différentes valeurs de Y Modélisation stochastique,

44 Corrélation Fonction d autocorrélation : Espérance mathématique du produit : X t X s R XX (t, s) = R X (t, s) = E[X t X s ] = x tx s f Xt,Xs (x t x s )dt.ds 34 / 54 Modélisation stochastique,

45 Corrélation (2) Observations : R X (t, t) = E[X t.x t ] = E[X 2 t ] = E[s 2 ] 0 si t = s. E[X 2 t ] représente la puissance moyenne de X n (ou de X m ). Fonction de corrélation : R XY (t, s) = E[X t Y s ] 35 / 54 Modélisation stochastique,

46 Exemple X t = A cos(2πf 0 t + φ) φ : variable aléatoire qui prend la valeur de 0 avec une probabilité de p et la valeur de π avec une probabilité de 1 p. Réalisations : X t = A cos(2πf 0 t) avec une probabilité p, φ = 0. X t = A cos(2πf 0 t + π) = A cos(2πf 0 t) avec une probabilité 1 p, φ = π. 36 / 54 Modélisation stochastique,

47 Exemple (2) 37 / 54 X t pour φ = 0 et pour φ = π en fonction du temps, avec f 0 = 10 et A = 2 Modélisation stochastique,

48 Exemple (3) La fonction d auto-corrélation est égale à R X (s, t) = E[X t X s ] = p.e[a cos(2πf 0 t)a cos(2πf 0 s)] + (1 p)e[a cos(2πf 0 t + π)a cos(2πf 0 s + π)] = p.e[a 2 cos(2πf 0 t) cos(2πf 0 s)] + (1 p)e[a 2 cos(2πf 0 t) cos(2πf 0 s)] = E[A 2 cos(2πf 0 t) cos(2πf 0 s)] = A 2. cos(2πf 0 t) cos(2πf 0 s) = A2 2 [cos(2πf 0(t + s)) + cos(2πf 0 (t s))] 38 / 54 Modélisation stochastique,

49 Covariance Fonction d autocovariance : Espérance mathématique du produit : (X t µ X (t))(x s µ X (s)) Cov XX (t, s) = Cov X (t, s) = E[(X t µ X (t))(x s µ X (s))] 39 / 54 Modélisation stochastique,

50 Covariance (2) Observations : Lorsque t = s : Cov X (t, s) = E[(X t µ X (t)] 2 = Var(X t ) Si µ X (t) = µ X (s), alors Cov X (m, n) = R X (m, n) µ 2 X Cov X (0) = σ 2 X R X (0) = σ 2 X + µ2 X 40 / 54 Modélisation stochastique,

51 Exemple X t = Y cos(2πf 0 t) Y est une variable aléatoire uniformément distribuée sur l intervalle [0, 1] ; f 0 est une constante et t 0 Fonction d auto-corrélation : R X (s, t) = E[X t X s ] = E[Y 2 cos(2πf 0 t) cos(2πf 0 s)] = E[Y 2 ] cos(2πf 0 t) cos(2πf 0 s) = 1 3 cos(2πf 0t) cos(2πf 0 s) 41 / 54 Modélisation stochastique,

52 Exemple (2) Fonction d auto-covariance : Cov X (s, t) = E[X t X s ] E[X t ]E[X s ] = 1 3 cos(2πf 0t) cos(2πf 0 s) 1 2 cos(2πf 0t) 1 2 cos(2πf 0s) = 1 12 cos(2πf 0t) cos(2πf 0 s) 42 / 54 Modélisation stochastique,

53 Stationarité Stationarité stricte : {X t1, X t2,..., X tl } a la même distribution conjointe que {X t1 +h, X t2 +h,..., X tl +h} Stationarité au sens large (Wide Sense Stationary : WSS) : µ X (t) = E[X t ] = µ X (constante) Var(X t ) = σ 2 (constante) 43 / 54 Modélisation stochastique,

54 Stationarité (2) Implications : R X (t, s) = R X ( τ ) Cov X (t, s) = R X ( τ ) µ 2 X R X (0) = E[X 2 t ] R X (τ) R X (0) 44 / 54 Modélisation stochastique,

55 Ergodicité Soit un processus stochastique X = (X t stationnaire au sens large, T t T (par commodité), alors il est ergodique en moyenne si : lim T ˆµ x (T) = E[X t ] avec ˆµ x (T) = 1 T x t dt 2T T 45 / 54 Modélisation stochastique,

56 Densité spectrale de puissance Remarque : Un processus stochastique stationnaire au sens large est un signal à énergie infinie et donc sa transformée de Fourier ne peut pas exister. Conséquence : Pour trouver les caractéristiques spectrales d un signal stochastique on va donc calculer la transformée de Fourier de sa fonction d auto-corrélation. S X (f ) = R X(τ)e j2πf τ dτ 46 / 54 Modélisation stochastique,

57 Densité spectrale de puissance (2) 47 / 54 Fonction d auto-corrélation : R X (τ) = S X (f )e j2πf τ df Relations de Wiener-Khintchine (Einstein). Propriétés : 1 S X (0) = R X(τ)dτ 2 E[X 2 (t)] = R X (0) = S X(f )df 3 S X (f ) 0 pour tout f 4 S X (f ) = S X ( f ) 5 p X (f ) = S X (f )/ S X(f )df Modélisation stochastique,

58 Exemple Fonction d auto-corrélation (voir p.54 cours) R X (t, s) = A2 2 cos(2πf 0(t s)) = A2 2 cos(2πf 0τ) Notons δ(f ) la fonction delta à f = 0. En prenant la transformée de Fourier : S X (f ) = = R X (τ)e j2πf τ dτ A 2 2 cos(2πf 0τ)e j2πf τ dτ = A2 4 (δ(f f 0) + δ(f + f 0 )) 48 / 54 Modélisation stochastique,

59 Application : Comparaison de différents modes transmission Séquence de bits FIGURE: Modes de transmission NRZ et Manchester 49 / 54 Modélisation stochastique,

60 Application : Comparaison de différents modes transmission (2) Commençons par NRZ. La densité de probabilité d un tel processus stochastique est donnée par p X (x) = P(X = x 0 )δ(x x 0 ) + P(X = x 1 )δ(x x 1 ) avec P(X = x 0 ) + P(X = x 1 ) = 1. Une fois connue la densité, il est aisé de déduire l espérance mathématique E[X], ainsi que E[X 2 ] : E[X] = x 0.P(X = x 0 ) + x 1.P(X = x 1 ) = µ X E[X 2 ] = x 2 0.P(X = x 0 ) + x 2 1.P(X = x 1 ) = σ 2 X + µ2 X 50 / 54 Modélisation stochastique,

61 Application : Comparaison de différents modes transmission (3) On peut montrer (exercice) que la fonction d auto-corrélation est égale à R X (τ) = σ 2 X.(1 τ /T) + µ2 X = σ2 X.tri(τ/T) + µ2 X et que la densité spectrale de puissance est donnée par : S X (f ) = σ 2 X.Tsinc2 (ft) + µ 2 X.δ(f ) 51 / 54 Modélisation stochastique,

62 Application : Comparaison de différents modes transmission (4) Manchester : Les symboles 0 et 1 sont représentés par une transition au milieu d une période d horloge. Un 1 est représenté par une transition du niveau haut au niveau bas et un 0 est représenté par une transition du niveau bas au niveau haut. Après quelques calculs (exercice), nous trouvons la fonction d auto-corrélation : R X (τ) = A 2 (2(1 2 τ /T) ((1 2 τ /T)) et la densité spectrale de puissance est donnée par S X (τ) = A 2 T(sinc 2 (ft/2) sinc 2 (ft)) 52 / 54 Modélisation stochastique,

63 Application : Comparaison de différents modes transmission (5) 53 / 54 FIGURE: Densités spectrales de puissance pour les modes de transmission NRZ et Manchester. Les signaux sont anti-polaires et l apparition des bits 0 et 1 est équiprobable. Modélisation stochastique,

64 Application : Comparaison de différents modes transmission (6) Commentaires : Sur les lignes traditionnelles, il est souvent nécessaire d éviter une composante continue pour éviter les couplages. Manchester plus avantageux mais prend plus de place dans le domaine fréquentiel. Le réseau Ethernet utilise le code de transmission de Manchester. 54 / 54 Modélisation stochastique,