Éléments de cours de Probabilités

Transcription

1 Élémets de cours de Probabilités Licece de mathématiques Uiversité de Versailles Sait-Queti Jea-Fraçois Marckert Table des matières I. Itroductio 1 1. U peu d histoire Modélisatio et problèmes métaphysiques II. Espace de Probabilité fii et déombrable 3 1. Espace et mesure de probabilité Équiprobabilité a. Combiaiso et aragemets Foctios géératrices de déombremet a. Méthode géérale b. U exemple Idépedace d évéemets et probabilité coditioelle Espaces discrets a. Variables aléatoires discrètes b. Lois images c. Espérace, variace et momets d. Espérace d ue foctio d ue variable aléatoire e. Iégalité de Markov et de Bieaymé-Tchebichev Exemples de lois discrètes Famille de variables aléatoires Foctios géératrices de probabilité Variace et covariace III. Espaces de probabilités gééraux axiomatique de Kolmogorov : Variables aléatoires, espérace Lois de probabilité Variables aléatoires admettat ue desité

2 5. Exemples de lois admettat ue desité Foctio de répartitio a. Défiitio et premières propriétés b. Foctio de répartitio et desité Calcul de la loi d ue variable aléatoire a. Grâce à la foctio de répartitio b. Grâce au calcul de l espérace Lois joites Idépedaces Chagemet de variables Simulatios de variables aléatoires La foctio caractéristique a. Covolée b. Trasformée de Laplace IV. Théorèmes limites e probabilité Lemmes de Borel-Catelli Covergece e probabilité a. Loi faible des grads ombres Covergece presque sûre Covergece das L p Covergece e loi. Caractérisatios Critères gééraux de covergece e loi Théorème de la limite cetrale Hiérarchie des covergeces V. ANNEXES : Rappels d itégratio et de théorie des esembles Tribus et mesures Itégratio Quelques élémets sur les mesures sur R a. Décompositios des mesures réelles b. Applicatio aux mesures de probabilité

3 I. Itroductio Das cette itroductio ous allos commecer par ous poser les questios suivates, aïves au premier abord : - Que sot les probabilités? - Peut-o cocrètemet utiliser les résultats probabilistes das la vie de tous les jours? Si oui, quelle cofiace peut-o accorder aux résultats obteus? Bie etedu, ous e répodos pas vraimet à ces questios. 1. U peu d histoire O date souvet le début du calcul des probabilités aux premiers travaux de Pascal et Fermat (qui correspodaiet à ce sujet durat l aée 1654). Il va sas dire que les questios ayat traits au hasard (ou à certaies tetatives de le mesurer ) sot ettemet atérieures à cette époque ; les philosophes grecs s occupaiet de toutes les questios imagiables et doc bie sûr des problèmes de hasard et de détermiisme. Au début du 18ème siècle, la famille Beroulli d ue part et de Moivre d autre part réaliset de ombreuses avacées. E particulier, o doit à la première, la loi des grads ombres et au secod le théorème de la limite cetrale (pour ue somme de variables de Beroulli) retrouvée par Laplace 80 as plus tard. Puis, de ombreux scietifiques apportet des pierres à l édifice : Bayes, Leibiz... Il fallut attedre le début du 20 eme siècle pour lacer des fodemets mathématiques solides à la théorie des probabilités avec Poicaré, Borel et surtout Kolmogorov. Aujourd hui, la recherche e probabilité est très active et de ombreux résultats sot publiés chaque aée. L utilisatio des outils probabilistes et statistiques das toutes les scieces témoiget de l efficacité et de l importace de ces disciplies. 2. Modélisatio et problèmes métaphysiques Les problèmes posés à la costructio de la théorie des probabilités sot grossièremet de deux ordres : o veut se servir des calculs que l o fait e probabilité das la vraie vie. o e peut pas faire de mathématiques sas ue axiomatique claire et rigoureuse. E particulier, o e peut pas (décemmet) costruire des mathématiques e utilisat ue otio de hasard alors que l existece et ue défiitio de celui-ci sot sujets à discussio (et doet du travail aux philosophes depuis toujours). Aisi, par exemple, o pourrait avoir evie de défiir la probabilité d u évéemet (peser à la probabilité que la face supérieure d u dé doé tombe sur 6), comme la proportio asymptotique de résultats favorables par rapport au ombre d expérieces effectuées (la proportio asymptotique de 6 obteue). Il est clair que ceci pose de ombreux problèmes : par exemple, commet prouver que cette proportio coverge? Et même si elle coverge, commet vérifier que la proportio limite e chage pas si o refait ue suite d expérieces? Ou ecore, commet lacer u dé u ombre ifii de fois?! Le tour de force de Kolmogorov a été d utiliser les travaux tout jeues de la théorie de la mesure afi de costruire ue axiomatique cohérete et puissate. La probabilité des évéemets est perçue a priori : les résultats asymptotiques (dits fréquetistes comme la loi des grads ombres par exemple) devieet des théorèmes et e sot doc pas des défiitios comme o pourrait s y attedre. 1

4 Aisi, les probabilités fot parties des mathématiques. Ses théorèmes (résultats) sot iférés logiquemet sur l axiomatique de Kolmogorov et aisi, les théorèmes établis e probabilité possèdet le même statut que tous les autres résultats mathématiques. O isiste au passage sur le fait que la théorie des probabilités e suppose e aucue faço l existece du hasard, i ecore mois quelque propriété qu il pourrait avoir. Ceci est pas du tout u détail. Das la théorie des probabilités o défiit la probabilité d u évéemet élémetaire sas parler du tout d ue suite d expérieces. Maiteat, parlos u peu des applicatios des probabilités. Les probabilités et les statistiques sot utilisées das toutes les scieces. Commet alors détermier la probabilité d u évéemet réel? Comme o l a déjà plus ou mois laissé etedre, la questio est mal posée (c est-à-dire qu il existe pas de boes réposes à cette questio). Aisi, e pratique, o cherche u modèle probabiliste e accord (le plus possible) avec le phéomèe observé. Par exemple, si ue pièce e ous semble pas suspecte, o dira que la probabilité qu elle tombe sur pile est 1/2. Si 100 lacés doet 75 piles, o sera poussé à proposer u autre modèle. De ombreux problèmes itervieet lors de la modélisatio et sas trop retrer das les détails, il est importat de se redre compte que ce poit est le seul qui est vraimet toujours discutable : ue fois la modélisatio faite, il s agit de mathématiques et doc plus rie est discutable. Cosidéros ce derier exemple : o veut modéliser le jeu du loto ; o dit qu u tirage est u sous esemble à 7 élémets de Ω = {1,..., 49}. Pour des raisos de symétries o doe à toute partie A à 7 élémets das Ω, P(A) = 1/C49 7. Souvet, e probabilité, o suppose que les tirages sot idépedats de semaies e semaies. Il faut se redre compte que l o e pourra jamais prouver ceci (à cet pour cet de certitude). Pour e fiir avec ce petit paragraphe qui peut doer ue idée pessimiste de ce que l o peut faire avec les probabilités il est bo de réflechir au échages etre la partie mathématique et la partie applicatio des probabilités. Bie etedu, le but des probabilités est aussi de modéliser des problèmes ayat traits au hasard. Le hasard ourrit d ue part les otios probabilistes (c est-à-dire, otre coceptio du hasard ous pousse à défiir certaies otios, par exemple les otios d idépedace ou de probabilité coditioelle sot exactemet les otios ituitives) d autre part, e retour, le calcul des probabilités permet de devier le comportemet de certais phéomèes aléatoires. L efficacité des probabilités das les applicatios valide que les modélisatios choisies sot tout à fait coveables et costituet, si ce est ue image parfaite de la réalité, ue boe approximatio de celle-ci. 2

5 II. Espace de Probabilité fii et déombrable 1. Espace et mesure de probabilité Défiitio : O appelle espace de probabilité fii u esemble quelcoque de cardial fii (o l appelle égalemet espace d état, ou uivers). O le ote habituellemet Ω. Das la pratique, o imagie que les élémets de Ω sot les résultats possibles d ue expériece aléatoire. O appelle évéemet toute partie de Ω ; les atomes de Ω sot appelés évéemets élémetaires. Exemples : a) Pour le jeu de pile ou face o predra Ω = {p, f} ou Ω = {0, 1}. b) Pour ue suite de 10 lacers d ue pièce, o predra Ω = {p, f} 10, l esemble des 10 uplets composés de p et de f. c) Nombre de lacers d ue pièce avat qu elle e tombe sur pile Ω = N (o peut ajouter + à cet esemble si o le souhaite). d) Durée de la prochaie commuicatio téléphoique à la cabie du coi de la rue Ω = R +. Les esembles (c) et (d) e sot pas de cardiaux fiis. O traitera ces esembles ultérieuremet. O pourra remarquer que Ω peut très bie e pas être u esemble de ombres. Ue questio dérageate se pose : das l exemple (a) o pourrait avoir evie d ajouter {t} à Ω pour la trache de la pièce ou ce gere de chose. E fait, o peut mettre à peu près importe quoi das Ω, ce est pas bie importat. Ce qui est importat c est la mesure de probabilité que l o met sur lui (si o met ue probabilité telle que P({t}) = 0, tout se passe comme si {t} apparteait pas à Ω. Défiitio : Ue mesure de probabilité sur Ω est ue mesure (positive) sur l espace mesurable ( Ω, P(Ω) ) de masse totale 1, où P(Ω) désige l esemble des parties de Ω (P(Ω) est ue tribu). Notos P ue telle mesure. P est défiie de P(Ω) das [0, 1] et o doit avoir, pour tout A et B élémets de P(Ω), P(Ω) = 1, P(A B) = P(A) + P(B) si A et B sot disjoits. (1) Remarquos que l additivité ici suffit car le cardial de Ω est supposé fii (si Ω est pas fii, P doit être σ-additif). Exercice 1 : Motrer que si P est ue probabilité sur Ω (de cardial fii), alors pour tout A et B das P(Ω), o a P(A B) = P(A) + P(B) P(A B), P( ) = 0, P(A c ) = 1 P(A), P(A) P(A B) + P(B c ) Exemples de mesures de probabilité (correspodats aux exemples vus plus haut) : 3

6 a) P({p}) = P({f}) = 1/2. Il s agit de la mesure P = 1 2 (δ p + δ f ) (où δ est la mesure de Dirac). b) O peut muir cet esemble de la probabilité uiforme, c est-à-dire que chacu des 2 10 évéemets élémetaires de Ω ot même probabilité 2 10 (il s agit de la mesure P = 2 10 ω Ω δ ω). Remarque 1 (A propos des mesures de probabilité discrète et des masses de Dirac). O rappelle tout d abord que la mesure de Dirac δ a est défiie par : pour tout esemble A o a : { 1 si a A δ a (A) = 0 sio Cosidéros la mesure P qui doe la masse 1/6 à chacu des élémets de Ω = {1, 2, 3, 4, 5, 6}. Ue petite vérificatio motre que P = 6 i=1 1 6 δ i (par exemple ( 6 1 ) 6 6 δ 1 i ({1, 3}) = 6 δ i({1, 3}) = 2/6). Cette expressio des probabilités à l aide de i=1 i=1 la théorie de la mesure (passée sous silece das les cours atérieurs) est fodametale. Elle permet de traiter das u même cadre les probabilités discrètes et cotiues (comme o le verra par la suite). Das u deuxième temps, o verra que la plupart des résultats de la théorie des probabilités sot e quelques sortes des résultats de la théorie de l itégratio. 2. Équiprobabilité O est toujours das le cas où card(ω) < +. Propositio 1 L applicatio P : P(Ω) [0, 1] A P(A) = card(a) card(ω) est ue probabilité sur Ω (preuve laissée e exercice) appelée équiprobabilité sur Ω. Coaître la probabilité d u évéemet quelcoque se réduit doc à calculer le cardial de A. Preuve : Il s agit de la mesure P = 1 card(ω) ω Ω δ ω. a. Combiaiso et aragemets U k-uplet d élémets de A est ue liste ordoée de k élémets de A (c est-à-dire, u élémet de A k ) Exemple : couple= 2-uplets. Le poit de coordoée (1,2) est différet de celui de coordoée (2,1). Arragemets Soit B = {b 1,, b }. O ote U k = {k uplets composé d élémets différets de B} (plus formellemet, U k = {x = (x 1,..., x k ) A k t.q. i j = x i x j }. U k est appelé esemble des arragemets de k élémets de B. Puisque #B =, le ombre de tels arragemets est doé par : #U k = A k =! ( k)! pour 0, 0 k. (2) 4

7 A =!, A0 = 1 Preuve de (2) : U k-uplet est la doée de k élémets ordoés. O peut choisir le premier de faços, le deuxième de 1 faços,..., le kème de ( k + 1) faços. Exemple : ombre de tiercés das l ordre avec 20 chevaux. L ordre d arrivée (4,7,12) est différet de l ordre (7,12,4). Il y a doc A 3 20 = = 6840 ordres possibles. Combiaisos O ote SE k = {sous-esembles de B à k élémets} SE k = { {x 1,..., x k }, ( l, x l B ) }, i j = x i x j Alors #SE k = C k = Ak k! =! ( k)!k! pour 0, 0 k (3) Preuve de (3) : Le ombre de k-uplets est A k. Pour chaque sous-esemble de k élémets de B o peut fabriquer k! k-uplets différets. Aisi #SE k = A k /k!. Exemple : Nombre de grilles différetes au loto : o choisit 6 uméros parmi 49. Le choix est u esemble de 6 élémets parmi {1,, 49} ; c est-à-dire choisir {1, 5, 10, 15, 16, 42} ou {1, 5, 10, 15, 42, 16} c est cocher les mêmes cases et c est doc la même chose. Aisi le ombre de choix est C49 6 = 49!/(43!6!) = Propriété 1 Pour tout 0 Pour tout 0 C p C p A p = C p pour tout 0 p = C p Cp 1 pour tout 1 p 1 = A p 1 1 pour tout 1 p 1 2 = k=0 C k et C k ( 1)k = 0 k=0 Preuve laissée e exercice. 3. Foctios géératrices de déombremet O itroduit ue méthode très utilisée (car très puissate) par les combiatoristes pour déombrer des objets complexes. Certais lecteurs trouverot peut-être plus profitable de regarder d abord la partie (b) qui suit, afi d avoir u exemple. a. Méthode géérale Ce qui suit sort du livre de P. Flajolet et R. Sedgewick que l o peut télécharger depuis le site ouèbe de Philippe Flajolet. O appelle classe de structures combiatoires ou plus simplemet classe u esemble fii ou déombrable sur lequel ue foctio taille est défiie ; la taille d u élémet est u ombre etier positif (ou ul). Soit A ue classe et a u élémet de A. O ote a la taille de a. O ote A la partie de A composée des objets de taille. O ote a = card(a ). O suppose que tous les a 5

8 sot fiis. La suite (a ) est appelée suite de déombremet (ou de comptage) de A. La foctio géératrice ordiaire (FGO) ou de déombremet de la classe A est la série etière A(z) = 0 a z. (Il e faudra pas cofodre cette FGO avec la foctio géératrice de probabilité itroduite u peu plus loi). Notez bie que le fait que cette série coverge pour certais z est secodaire. Si elle coverge, o pourra s e servir comme d ue foctio, sio, o pourra voir A(z) comme ue série formelle, c est-à-dire u vecteur de logueur ifiie sur lequel o pourra quad même faire certaies opératios (additios, mutliplicatios, dérivatios...). A(z) possède ue secode écriture qu il est bo d avoir à l esprit pour des raisos qui apparaitrot plus tard : A(z) = α A z α ; o voit bie que le coefficiet de z das cette derière somme est justemet a. Défiitio : classe Si Φ est ue costructio biaire qui associe à deux classes B et C ue ouvelle A = Φ(B, C) de sorte que chaque a e dépede que d u ombre fii de b k et de c j, o dit que Φ est admissible. Das ce cas, il existe u opérateur bie défii Ψ tel que A(z) = Ψ(B(z), C(z)). Le produit cartésie : Supposos par exemple que A soit le produit cartésie B C, c est à dire que A est l esemble des couples de type (β, γ) avec β B et γ C ; supposos ecore que la taille de l élémet α = (β, γ) soit α A = β B + γ C, alors o a a = b k c k k=0 ce qui se traduit d ue part par le fait que le produit cartésie est admissible et d autre par sur les FGO par A(z) = B(z)C(z). Uio de deux esembles : Soiet B et C deux classes disjoites muies de la même foctio taille ; A = B C est admissible et o a A(z) = B(z) + C(z). Esemble des listes fiies : Soit C ue classe ; o ote S(C) l esemble des listes fiies (ordoées) d élémets (o écessairemet différets) de C : S(C) = {ε} C (C C) (C C C) Le symbole ε désige u élémet de taille 0 dot o se sert parfois pour décrire u élémet ul ou la liste vide. Ici o autorise la liste vide. La FGO de A = S(C) s exprime e foctio de celle de C : A(z) = 1 + C(z) + C 2 (z) + C 3 1 (z) + = 1 C(z). 6

9 b. U exemple O appelle arbre biaire u arbre ordoé das lequel tous les oeuds ot 0 ou 2 fils. Sur le dessi ci-cotre, les quatres arbres biaires sot différets. O défiit la taille d u arbre biaire t comme état simplemet so ombre de oeuds (o la ote t ). Sur le dessi ci-cotre, les quatre arbres sot différets, le premier est de taille 1, les deux suivats de taille 5, et le derier de taille 9. O se pose la questio suivate : combie y a-t-il d arbres biaires de taille? O ote doc C la classe des arbres biaires, C la classe des arbres biaires ayat oeuds, et c = card C. Nous cherchos à calculer c (pour tout ), et pour cela, ous allos décomposer les arbres biaires. Preos u arbre t ; ous voyos que deux cas se présetet : soit t est réduit à u oeud, soit t est u oeud qui possède deux sous arbres qui sot eux même des arbres biaires. Il viet j 1 c 0 = 0, c 1 = 1 et pour j 2, c j = c i c j 1 i. La raiso de la derière égalité est la suivate : u arbre de taille j peut être représeté par le couple des deux sous arbres de t. La taille du sous arbre de gauche état i, il y a c i arbres gauches possibles et alors, le sous arbre droit peut être de c j 1 i maières. La classe C possède ue décompositio récursive : C = u + u C C (4) où u represete u arbre de taille 1 (u oeud isolé). O peut voir maiteat que i=1 C(z) = z + zc 2 (z); (5) pour voir cela, il faut cosidérer ceci : c j = j 1 i=1 c ic j 1 i = j 1 i=0 c ic j 1 i. Cette derière somme est le coefficiet de z j 1 das la série C(z) 2 (le produit de Cauchy des coefficiets doe le coefficiet du produit), doc de z j das zc(z) 2. Il reste à extraire les coefficiets de C(z) solutio de (5). O a zc 2 (z) C(z) + z = 0. C est solutio d ue équatio de degré 2 ; o trouve C(z) = 1 ± 1 4z 2. 2z Le développemet e série etière de la solutio que l o cherche e possède que des coefficiets positifs. O a doc C croissate partout et doc e 0 + et doc C(z) = 1 1 4z 2. 2z Il reste à extraire les coefficiets. Pour cela o utilise la formule de Taylor (o dérive...). Tout calcul fait, o obtiet c = 0 pour pair et c 2+1 = C2 /( + 1) pour impair. C 2 /( + 1) est commuémet appelé, le ème ombre de Catala. Remarque 2 Les deux formules (4) et (5) doivet paraître étoates (au lecteur o habitué... des beautés de la combiatoire). L équatio (5) qui traduit sous forme de série géératrice la décompositio combiatoire (4) de la structure des arbres biaires lui ressemble à s y mépredre. Ce est pas dû à l exemple traité et cette ressemblace est tout à fait géérique (et les combiatoristes passet de la première à la deuxième e quelques secodes). 7

10 Exercice 2 : (difficile) : 1) O appelle compositio de, ue liste fiie ordoée (x i ) 1 i k où k est u etier, les x i sot des etiers positifs o uls de somme. Deux compositios (x i ) i et (x i ) i sot dites différetes si il existe u idice j tel que x j x j. Combie y a-t-il de compositios de? (o utlisera u raisoemet par série géératrice). 2) Soit u etier o ul. O appelle partitio de, ue suite fiie (x 1,..., x k ) telle que i < j etraîe x i x j et telle que tous les x i sot strictemet positifs et telle que x i =. O ote c le ombre de partitios de. Prouver que la série géératrice des c est C(x) = k x k. 4. Idépedace d évéemets et probabilité coditioelle Les probabilités coditioelles ot pour but d évaluer le chagemet de probabilité dû à l acquisitio d iformatios. Par exemple, si l o dispose d u dé juste, la probabilité d obteir u 1 est 1/6. Si quelqu u lace le dé pour ous et ous doe l iformatio suivate : le résultat est impair. O peut écarter les évéemets {2, 4, 6} et e déduire que maiteat, le résultat est 1 avec probabilité 1/3. Formalisos tout cela... Défiitio : Soit (Ω, P(Ω), P) u espace probabilisé et B P(Ω) tel que P(B) > 0 ; soit A u élémet de P(Ω). La probabilité coditioelle de A sachat B est défiie par : P(A B) = P B (A) = P(A B). (6) P(B) O a doc : P(A B) = P(A) P(B A) Le théorème suivat est importat : il explique commet et pourquoi la probabilité coditioelle à l évéemet B est bie ue probabilité qui vérifiera doc toutes les propriétés propres aux probabilités établies plus haut. Propositio 2 Soit (Ω, P(Ω), P) u espace probabilisé et B P(Ω) tel que P(B) > 0. L applicatio est ue probabilité sur Ω. P B : P(Ω) [0, 1] A P B (A) Preuve : O a immédiatemet P B ( ) = 0, P B (Ω) = 1. Soit C et D de P(Ω) tels que C D =. P((C D) B) P B (C D) = P(B) = P( (C B) (D B) ) P(B) 8

11 ces 2 esembles (au umérateur) sot disjoits, doc P(C B) P(D B) P B (C D) = + P(B) P(B) = P B (C) + P B (D) La σ-additivité (que l o doit motrer sur les espaces de probabilité o fiis) se motre de la même maière. La formule des probabilités coditioelles correspod tout à fait au chagemet de probabilité ituitif. Le référet est plus Ω mais B. Aisi (6) traduit le fait que les cas possibles sot das B ; la probabilité de B sachat B vaut doc 1. Formule des probabilités totales. Soit (Ω, P(Ω), P) u espace probabilisé et A 1, A k ue partitio de Ω, c est-à-dire : O a, pour tout A P(Ω) k A i = Ω et i, j, i j = A i A j =. i=1 P(A) = P(A Ω) = P(A ( Si pour tout i, P(A i ) > 0, o a de plus : k A i )) = i=1 k P(A A i ) i=1 P(A) = k P(A A i )P(A i ) i=1 Formule de Bayes Sous les mêmes hypothèses. si o a de plus P(A) > 0, alors : P(A j A) = P(A j A) P(A) = P(A A j)p(a j ) k i=1 P(A A i)p(a i ) La formule de Bayes est utilisée pour retourer des probabilités coditioelles. Défiitio : Soit (Ω, P(Ω), Ω) u espace probabilisé. O dit que deux évéemets A et B sot idépedats si P(A B) = P(A)P(B). O ote A B. L idépedace est ue otio primordiale e probabilité comme o va le voir par la suite. Si A et B sot idépedats, par (6) o a : P(A B) = P(A B) P(B) = P(A) P(B) P(B) = P(A). (Ceci bie sûr si P(B) 0.) L iterprétatio est la suivate : si A et B sot idépedats, savoir que B est réalisé e chage pas la probabilité de la réalisatio de A. 9

12 Das la vraie vie, l idépedace d évéemets est souvet ue questio cruciale ; e médecie par exemple, à cause de l effet placebo, o se pose souvet la questio de savoir si la guériso est idépedate ou o de la prise d u médicamet. Plus ou mois hoêtemet, o peut affirmer qu ue persoe superstieuse se distigue d ue o-superstitieuse e ce qu elle perçoit de la dépedace etre deux évéemets, là où la secode e voit pas. Exercice 3 : a) Motrer que Ω est idépedat de tout évéemet. Motrer la même chose pour. b) Motrer que si A B alors A c B, A B c et A c B c. 5. Espaces discrets O suppose ici que le cardial de Ω est au plus déombrable. Deux cas sot possibles : card(ω) < + ce qui ous ramèe au cas fii. card(ω) = + ; das ce cas, il existe ue bijectio de Ω das N. Aisi, les élémets de Ω sot umérotables par les etiers. Ue probabilité sur Ω est ue mesure de masse totale 1 (sur la tribu P(Ω)) ; il est importat maiteat de rappeler que P (e plus des coditios (1) page 3) est, comme toute mesure, σ- additive, c est-à-dire, pour toute suite (A ) d élémets de P(Ω) disjoits deux à deux, P( A ) = P(A ). La σ-additivité assure que P est bie coue si o coaît P({ω}) pour tout ω Ω (o appelle les élémets ω de probabilité o ulle, les atomes de P). De plus, o peut voir que, A P(Ω), P(A) = ω A P(ω). E fait, la mesure P est ecore ue somme de masses de Dirac podérées que l o peut exprimer comme suit : P = ω Ω P({ω}) δ ω. a. Variables aléatoires discrètes Les variables aléatoires sot des objets cetraux e théorie des probabilités. Elles jouet le même rôle que les foctios e aalyse. Défiitio : Soit (Ω, P(Ω), P) u espace de probabilité. O appelle variable aléatoire réelle toute applicatio mesurable X de (Ω, P(Ω)) das (R, B(R)). E fait, il s agit ici de la défiitio géérale de variables aléatoires ; il est clair que si l o pred P(Ω) comme tribu sur Ω toute applicatio de Ω das R est mesurable (quelle que soit la tribu cosidérée sur R ; e effet demader X 1 (B) P(Ω) est équivalet à e rie demader). Ce e sera plus le cas dès que l espace Ω sera plus grad ou o mui de la tribu P(Ω) (voir chapitre sur les espaces de probabilités gééraux). Remarque : Ue variable aléatoire est pas ue foctio aléatoire!! Ce qui est aléatoire (si o a evie de faire ce gere d iterprétatio), c est so argumet. 10

13 b. Lois images Défiitio : Soit X ue variable aléatoire réelle sur u espace (Ω, A, P). X iduit sur R ue ouvelle mesure, otée P X, dite loi image de P par X. Elle est défiie pour tout élémet A de B(R) par : P X (A) = P ( X 1 (A) ) = P ( {ω, X(ω) A} ). Notos Ω X l esemble image de Ω par X (c est-à-dire Ω X = {X(ω), ω Ω}). Puisque Ω est au plus déombrable, Ω X aussi. La mesure P X e fait, e charge que Ω X et o a : Aisi, si A Ω X = alors P X (A) = 0. P X (Ω X ) = P ( X 1 (Ω X ) ) = P(Ω) = 1. Défiitio : La mesure P X est appelée loi de X. O utilise, etre autres, les otatios suivates : P X ({a}) = P(X = a) = P({ω, X(ω) = a}), P X ([a, + [) = P(X a) = P({ω, X(ω) a}) Deux exemples de v.a. et de loi image : a) Ω = {1, 2, 3, 4, 5, 6}, A = P(Ω), P({i}) = 1/6 i Ω. Soit X : Ω R t.q. X(ω) = ω(3 ω) pour tout ω Ω b) Ω = N, A = P(Ω), P({i}) = 1/2 i, Soit Y : Ω R t.q. Y (ω) = ω 2. Les deux applicatios X et Y sot des variables aléatoires. Das le cas (a), o peut imagier u jeu de dé (à u joueur). Si le dé tombe sur la face i le joueur gage la somme i(3 i). Das le cas (b), P({i}) est la probabilité qu il soit écessaire de lacer i fois ue pièce avat de tomber sur face. X(ω) est le carré de ce ombre de coups. Lois images des deux exemples Das le cas (a), X(1) = 2, X(2) = 2, X(3) = 0, X(4) = 4, X(5) = 10, X(6) = 18. Aisi Ω X = {2, 0, 4, 10, 18}. O a alors P X ({2}) = P(X = 2) = P({ω, X(ω) = 2}) = P({1, 2}) = 2/6. E utilisat le même gere de décompositio o trouve P(X = 0) = P(X = 4) = P(X = 10) = P(X = 18) = 1/6. Das le cas (b), P Y e charge que les etiers qui sot des carrés d etier. O a, pour i etier, P Y ({i 2 }) = P(Y = i 2 ) = P({ω, Y (ω) = i 2 }) = P({i}) = 1/2 i et P(Y = i) = 0 si i est pas u carré d etier. Remarque 3 (À propos de la termiologie loi image ) Das l exemple (a), la mesure sur Ω, P s écrit : P = 6 i=1 1 6 δ i et P X = 6 i=1 1 6 δ X(i) Das le cas (b), P = i 1 2 i δ i et P Y = i 1 2 i δ Y (i) = i 1 2 i δ i 2 11

14 c. Espérace, variace et momets Défiitio : Soiet X ue variable aléatoire réelle et k u etier positif ; o dit que X admet u momet d ordre k si X(ω) k P({ω}) < +. ω Ω Das ce cas, le momet d ordre k, oté m k est défii par m k = X(ω) k P({ω}) = E(X k ); ω Ω O peut remarquer que la covergece ou o de cette somme e déped pas de l ordre de sommatio (c est ue coséquece de la théorie de l itégratio de Lebesgue). Lorsque X possède u momet d ordre 1, o appelle moyee de X (ou espérace mathématique de X), la quatité (qui est alors bie défiie) E(X) = ω Ω X(ω) P({ω}) = m 1. O somme alors par paquets, e utilisat la relatio suivate : ω Ω, X(ω) vaut u et u seul x i ). O a E(X) = ( {x i }(X(ω)) )X(ω) P({ω}) = ω Ω o trouve : x i Ω X E(X) = x i Ω X ( ω Ω et pour tout a et b réels, si X et Y admettet des momets d ordre 1, x i Ω X {x i }(X(ω)) = 1 (car ) {x i }(X(ω)) X(ω) P({ω}) x i Ω X x i P(X = x i ). (7) E(aX + by ) = a E(X) + b E(Y ). (8) O a juste besoi de la liéarité de la somme. Il est itéressat de remarquer que la formule (8) est vraie même si les variables X et Y sot o idépedates (cette otio est défiie plus loi). Exercice 4 : a) Soiet p et q deux etiers tels que 0 < p < q. Motrer que si X admet u momet d ordre q alors il admet aussi u momet d ordre p b) Doer ue v.a. X telle que X possède u momet d ordre p mais pas d ordre q. Défiitio : Lorsque X possède u momet d ordre 2, o appelle variace de X la quatité Var(X) = E(X 2 ) (E(X)) 2. L écart type de X, oté σ(x) est la quatité σ(x) = Var(X). 12

15 Ue idetité souvet utilisée (et dot la preuve est laissée e exercice) est la suivate Var(X) = E((X E(X)) 2 ). Cette formule motre bie que la variace est la moyee des écarts quadratiques de la variable X à sa moyee. Plus la variace est grade, plus X est dispersée pour cette mesure. Propriété 2 (i) Pour tout a et b réels, et X v.a. admettat u momet d ordre 2 Var(aX + b) = a 2 Var(X). (ii) Soit X ue variable admettat u momet d ordre 2. La foctio a f(a) = E((X a) 2 ) admet u miimum uique pour a = E(X) ; ce miimum vaut Var(X). Preuve : La preuve de (i) est laissée e exercice. Voyos (ii). E((X a) 2 ) = E((X E(X) + E(X) a) 2 ) = E((X E(X)) 2 + E((E(X) a) 2 ) + 2E((X E(X)))(E(X) a) = Var(X) + E((E(X) a) 2 ) car E((X E(X))) = 0. Puisque E((E(X) a) 2 ) = (E(X) a) 2 0 et e vaut 0 que si a = E(X) o a le résultat aocé. Exercice 5 : O dit qu ue v.a. X est costate s il existe u réel c tel que P(X = c) = 1. Motrer ( Var(X) = 0 ) ( X est costate. ) d. Espérace d ue foctio d ue variable aléatoire Soit X ue variable aléatoire réelle et Φ ue foctio de R das R, alors il est aisé de vérifier, que das le cas discret (où Ω est mui de la tribu P(Ω)), Φ X est ue variable aléatoire ; de plus si Φ(X(ω)) P({ω}) < + ω Ω l espérace mathématique de la variable aléatoire Φ(X) est doée par E(Φ(X)) = ω Ω Φ(X(ω)) P({ω}) = = Φ(x)P(X = x) x Ω X yp(φ(x) = y). y Ω Φ(X) Ces trois formules permettet de calculer E(Φ(X)) à trois iveaux : sur Ω (avec P), sur Ω X (avec P X ) sur Ω ΦX avec P ΦX. 13

16 e. Iégalité de Markov et de Bieaymé-Tchebichev Propriété 3 (Iégalité de Markov) Soit X ue variable aléatoire positive sur Ω. Pour tout x R +, o a : P(X x) E(X) x Preuve : E(X) = X(ω)P(ω) ω Ω X(ω)P(ω) x P(ω) = x P(X x). {ω X(ω) x} {ω X(ω) x} Aisi, o voit que lorsque X a ue moyee, la queue de distributio de la variable X (la foctio x P(X x)) est au plus de l ordre de 1/x. Pour prouver que la queue de distributio est plus petite ecore, o peut utiliser les momets de X d ordre supérieur ; par exemple, si X est positive et possède u momet d ordre 6 (si E(X 6 ) < + ) alors P(X x) = P(X 6 x 6 ) Markov E(X 6 ) x 6 ; o voit maiteat que la queue de distributio est au plus de l ordre de x 6. Si E(e X ) + o peut motrer (cette fois ceci est valable même si X est pas positive) que P(X x) = P(e X e x ) E(eX ) e x. Cette fois la queue de distributio est expoetiellemet petite. Ces deux exemples d utilisatio de l iégalité de Markov motret que bie souvet, l iégalité de Markov e doe pas ue boe majoratio. Elle motre aussi qu il y a u lie profod etre l existece de momets d ordre k et le comportemet de la queue de distributio. Iégalité de Bieaymé-Tchebichev Propriété 4 (Iégalité de Bieaymé-Tchebichev) Soit X ue variable aléatoire réelle possédat u momet d ordre 2 et x > 0 : P( X E(X) x) Var(X) x 2. (9) Cette iégalité motre l itérêt de la variace pour mesurer la dispersio d ue v.a.. Preuve : P( X E(X) x) = P( X E(X) 2 x 2 ) Markov L iégalité de BT peut se reformuler comme suit : E( X E(X) 2 ) x 2 P(X / [E(X) x, E(X) + x]) Var(X) x 2. = Var(X) x 2. 14

17 6. Exemples de lois discrètes X est ue variable de Beroulli de paramètre p, pour p [0, 1], o ote X B(p), si P(X = 1) = p, P(X = 0) = 1 p. O a immédiatemet, E(X) = p, Var(X) = p(1 p). X est ue variable biomiale de paramètre et p, pour N et p [0, 1], o ote X B(, p), si X est la somme de variables de Beroulli B(p) idépedates. O obtiet par u petit déombremet, P(X = k) = C k pk (1 p) k pour tout k {0,..., } et E(X) = p, Var(X) = p(1 p). X suit la loi uiforme sur {1,..., }, pour N, o ote X U{1,..., }, si P(X = k) = 1/ pour tout k {1,..., }. O a E(X) = ( + 1)/2, Var(X) = ( 2 1)/12. O dit que X suit ue loi de Poisso de paramètre λ, pour λ > 0, o ote X P(λ), si la loi de X est doée par P(X = k) = λk e λ pour k N. k! O a E(X) = Var(X) = λ. O dit que X suit ue loi géométrique (ou de Pascal) de paramètre p, pour p ]0, 1], o ote X G(p), si P(X = k) = p(1 p) k 1 pour tout k N. O a E(X) = 1/p, Var(X) = (1 p)/p 2. 15

18 Remarque 4 Sur la costructio d ue variable géométrique par ue suite ifiie d expérieces (o pourra passer cette partie das ue première lecture) Souvet, o voit apparaître la loi géométrique comme le temps d apparitio d u évéemet das ue suite d expérieces aléatoires. Par exemple, si o lace ue pièce dot la probabilité de tomber sur pile est p, sur face 1 p, et si les lacers sot idépedats, le ombre de lacers écessaires pour l apparitio de pile est ue variable aléatoire dot la loi est G(p). Si o peut rapidemet l admettre, o peut éamois se demader das quel espace de probabilité o a travaillé pour calculer cela. Il s agit bie sûr de l espace Ω = {pile, face} N ou Ω = {0, 1} N l esemble des suites ifiies de 0 et de 1 (correspodat aux suites de pile-face). ω, u élémet de Ω est ue suite ifiie ω = (ω 1, ω 2,... ). Ce qui ous itéresse, c est A k = {ω if{j ω j = 1} = k}, l esemble des suites dot le premier rag d apparitio d u 1 est k. Il reste doc à défiir ue tribu A sur Ω et ue mesure P sur cette tribu cohérete avec ce que l o veut faire. O voudrait par exemple, que la probabilité d avoir ue suite commeçat par 1, 0, 1, 0, 0 soit p 2 (1 p 3 ). Eh bie, e fait ceci est relativemet difficile à faire. Si p vaut 1/2 (ou ratioel), pour costruire P, o peut trasporter la mesure de Lebesgue de [0, 1] aisi que la tribu des Lebesgue-mesurables ; o procède comme suit : o idetifie l élémet (ω 1, ω 2, ω 3,... ) de Ω avec le ombre de [0, 1] dot l écriture e base 2 est 0, ω 1 ω 2 ω 3... (o a comme d habitude u problème à cause du fait que certais ombres possèdet deux écritures e base 2, mais ils sot déombrables et o géats). Notos T : Ω [0, 1] cette applicatio. O muit Ω de la tribu redat mesurable T (c est à dire o pred comme tribu sur Ω les esembles T 1 (A) où A parcours l esemble des Lebesguemesurables de [0, 1]). O trasporte égalemet la mesure de Lebesgue λ comme d habitude : P = λ T. De cette maière P(A k ) = λ{x = 0, x 1... x k 1 1x k+1... ; avec x i = 0 pour i < k, x i {0, 1} pour i > k} = 2 k. (Si p est ratioel p = /m o écrit les ombres e base m, et o regarde cette fois les décimales iférieures à ). Si p est pas ratioel, ou si o observe ue première réalisatio das ue suite d expérieces dot la probabilité chage à chaque fois, tout se complique. O utilise u théorème de Kolmogorov qui dit, e gros, que l o peut costruire u espace de probabilité (et ue mesure doc) sur u espace produit ifii si les mesures des cylidres sot cosistates, pour ue certaie otio de cosistace (ceci est expliqué das le livre de Loéve). 7. Famille de variables aléatoires Défiitio : Soiet (X 1,..., X ) ue famille de variables aléatoires défiies sur u même espace (Ω, P(Ω)) et à valeurs das E 1 E. Les variables X 1,..., X sot dites idépedates si, pour tout (x 1,..., x ) E 1 E, P(X 1 = x 1,..., X = x ) = Si X et Y sot idépedates, o ote X Y. P(X i = x i ). i=1 16

19 Remarque 5 les virgules das le membre de gauche doivet être lues et ou itersectio. L idépedace des variables aléatoires deux à deux implique pas l idépedace. O trouvera des propriétés importates des v.a. idépedates das la propositio 10 page 32 ; la défiitio de v.a. idépedates das le cas gééral est doée page 30. Propositio 3 Les variables aléatoires (X 1,..., X ) sot idépedates si et seulemet si pour toute foctio borée f i : E i R E(f 1 (X 1 )... f (X )) = E(f i (X i )) (10) i=1 Preuve : Tout d abord, o voit qu e preat f i = Maiteat, supposos les X i idépedats. {xi } o obtiet que (10) implique l idépedace. E(f 1 (X 1 )... f (X )) = ( ) f i (X i (ω)) P({ω}) ω Ω i=1 = ( )( ) {(x 1,...,x )}(X 1 (ω),..., X (ω)) f i (X i (ω)) P({ω}) ω Ω E 1 E i=1 ( ) = f i (x i ) P(X 1 (ω) = x 1,..., X (ω) = x ) = = E 1 E i=1 E 1 E i=1 E(f i (X i )) i=1 ( ) f i (x i )P(X i (ω) = x i ) où il faut compredre la somme sur E 1 E par somme pour tout (x 1,..., x ) E 1 E. Explicatio : d aprés le théorème de Fubii, puisque les foctios état borées (sur des espaces fiis), o a ( ) ω Ω i=1 f i(x i (ω)) P({ω}) i=1 f i < +. O peut doc itervertir les siges sas craites. La première lige est la défiitio de l espérace ; das la deuxième lige, la première parethèse das le membre de droite vaut 1 ; das la troisième, o a classé les ω e foctio des valeurs X i (ω) ; das la quatrième, o a fait jouer l idépedace ; das la ciquième, puisque les variables sot séparées, o a iterverti le sige et. Corollaire 1 Si X et Y sot deux variables aléatoires idépedates admettat des momets d ordre 2 alors Var(X + Y ) = Var(X) + Var(Y ). Preuve : Var(X + Y ) = E((X + Y ) 2 ) (E(X + Y )) 2 = Var(X) + Var(Y ) + 2E(XY ) 2E(X)E(Y ) 17

20 Il reste à motrer que E(XY ) = E(X)E(Y ). O e peut pas coclure tout de suite car x x est pas borée. Mais o sait que X et Y ot des momets d ordre 2 et doc d ordre 1. Doc E(XY ) = xyp(x = x, Y = y) = xyp(x = x)p(y = y) = xp(x = x) yp(y = y) = E(X)E(Y ) L applicatio de Fubii ici est loisible grâce, comme o l a dit, au fait que x P(X = x) < + et y P(Y = y) < + ; 8. Foctios géératrices de probabilité Défiitio : Soit X ue variable aléatoire à valeurs das N. O appelle foctio géératrice de probabilité (ou série géératrice), la série etière G X (s) = E(s X ) = + s P(X = ) = + =0 =0 s P X (). Cette série etière a u rayo de covergece supérieur à 1 car G X (1) = 1. Propositio 4 La série géératrice caractérise etièremet la loi de X Preuve : Il suffit d extraire ses coefficiets pour retrouver la loi de X. De même, o voit facilemet que E(X) = G X (1), et E(X 2 ) = G X (1) + G X (1); o predra garde au fait que ces quatités peuvet valoir + (habituellemet, o dit plutôt que E(X) = lim 1 G X (s)). La grade utilisatio des foctios géératrices proviet surtout de la propriété suivate (utilisée e cojoctio avec la Propositio 4) : Propositio 5 Si X et Y sot deux variables aléatoires idépedates (à valeurs das N) alors G X+Y = G X G Y sur [ 1, 1] Preuve : Soit s das [ 1, 1]. G X+Y (s) = E(s X+Y ) = E(s X s Y ) = E(s X )E(s Y ) = G X (s)g Y (s). Seule la troisième égalité pose problème. O utilise la Propositio 3 avec f 1 (x) = f 2 (x) = s x (s [ 1, 1] est fixé ici, et x est das N). Les f i sot bie borées (sur N), et comme X et Y sot idépedates, o peut coclure. 18

21 Exemples de foctios géératrices Si B est ue variable de Beroulli B(p), o a G B (s) = 1 p + ps pour s R. Ue variable X de loi biomiale B(, p) est égale e loi à la somme de copies idépedates de Beroulli B(p) ; aisi G X (s) = (1 p + ps) pour s R. Pour Y suivat ue loi de Poisso P(λ), o trouve G Y (s) = E(s Y ) = + k=0 s k λk e λ k! = e λ+λs pour s R. Il est vraimet aisé grâce à ce derier poit et à la propositio 5 de motrer que la somme de deux variables aléatoires idépedates suivat des lois de Poisso de paramètres respectifs λ et µ suit ue loi de Poisso P(λ + µ). Si X suit ue loi géométrique de paramètre p, o a G X (s) = + k=1 p(1 p) k 1 s k = ps 1 (1 p)s pour s (1 p) Variace et covariace Défiitio : Soiet X et Y deux variables possédat des momets d ordre 2, la covariace de X et de Y est la quatité cov(x, Y ) = E(XY ) E(X)E(Y ). Il est clair que cov(x, Y ) = cov(y, X) ; o peut voir égalemet que cov(x, X) = Var(X). O a aussi cov(x, Y ) = E ( (X E(X))(Y E(Y )) ), ce que l o vérifie aisémet e développat le secod membre de cette formule. Cette deuxième formule motre que cov(x, Y ) est positive lorsque X et Y ot tedace à être e même temps du même côté de leur moyee. Propriété 5 Si X et Y sot idépedates et possèdet u momet d ordre 2, alors cov(x, Y ) = 0 (la réciproque est fausse). Si X et Y ot des momets d ordre 2, Var(X + Y ) = Var(X) + Var(Y ) + 2 cov(x, Y ). La première propriété proviet du fait que si X et Y sot idépedates alors E ( (X E(X))(Y E(Y )) ) = E(X E(X))E(Y E(Y )). Pour la deuxième, o écrit, Var(X + Y ) = E((X + Y ) 2 ) (E(X + Y )) 2 = E(X 2 ) + E(Y 2 ) + 2E(XY ) E(X) 2 E(Y ) 2 2E(X)E(Y ). 19

22 III. Espaces de probabilités gééraux O itroduit ici l axiomatique de Kolmogorov qui est relativemet simple (après avoir fait le cours d itégratio) et tout ce que l o a déjà dit. Mais il e faut pas si tromper : avat Kolmogorov, o e faisait pas des probabilités comme maiteat. D autre part, d u poit de vue métaphysique (ou e tout cas, pour compredre les rapports etre probabilité mathématique et la coceptio ituitive des probabilités comme mesure de hasard), la costructio de Kolmogorov est très importate. 1. axiomatique de Kolmogorov : Ω est u esemble mui d ue tribu A. O appelle mesure de probabilité sur (Ω, A) ue mesure P de masse totale 1. Quelques remarques - Il est fait comme aocé plus haut aucue allusio au hasard ou à ue suite quelcoque d expérieces pour défiir la probabilité d u évéemet (u évéemet A est u élémet de la tribu, sa probabilité est la mesure de A). - La probabilité d u évéemet (que l o peut iterpréter comme sa masse) est défiie das u espace mesurable Ω. Lorsque l o modélise ue expériece aléatoire, o défiit u espace Ω que l o muit esuite d ue probabilité P. Cette modélisatio est ue idéalisatio de la réalité. 2. Variables aléatoires, espérace O gééralise ici, les défiitios et théorèmes du chapitre sur les espaces discrets. Défiitio : Soit (E, E) u espace mesurable. Ue applicatio mesurable de (Ω, A) das (E, E) est appelée variable aléatoire (c est-à-dire, X est ue v.a. si B E, X 1 (B) A). Das ce cours, E sera presque toujours R d (avec d = 1 le plus souvet) ; la tribu E sera le plus souvet la tribu boréliee sur R d (ou celle des Lebesgue mesurables). Loi image Défiitio : Soit X ue variable aléatoire réelle sur u espace (Ω, A, P) et à valeur das (E, E). X iduit sur l espace mesurable (E, E) ue ouvelle mesure, otée P X, dite loi image de P par X. Elle est défiie sur tout élémet B de E par : P X (B) = P ( X 1 (B) ) = P ( {ω X(ω) B} ). (11) Ici, la écessité pour X d être mesurable est criate!! Sas cela, X 1 (B) e serait pas écessairemet das A, domaie où la mesure P est défiie. O peut motrer aisémet que P X est bie défiie et est bie ue probabilité sur (E, E), c està-dire ue mesure de masse totale 1. Grâce à la mesure P X o défiit ue otio d itégrale que l o appelle espérace : E(f(X)) = f(x) d P X (x) = f(x(ω)) d P(ω) E 20 Ω

23 (voir cours d itégratio). Si la quatité Ω X(ω) d P(ω), (12) est fiie, o appelle espérace mathématique de X (ou momet d ordre 1, ou moyee), la quatité E(X) = X(ω) d P(ω) Ω qui est alors aussi défiie et fiie. (Il arrive que l o dise que l espérace de X soit + ou ; mais sas (12), il est possible que l espérace e coverge pas das R). O a, pour B das E, P({ω X(ω) B}) = B(X(ω))d P(ω) = E( B(X)) = P X (B) = B(x)d P X (x) = d P X (x). Ω Remarque 6 (sur l apparitio des tribus) Comme rappelé plus haut, ue probabilité est ue mesure. Comme telle, elle est ue applicatio défiie sur ue tribu de Ω et o pas sur Ω directemet. Sur des esembles déombrables, ue mesure est etièremet détermiée par sa valeur sur les atomes. E gééral, lorsque Ω est discret, o pred comme tribu P(Ω). Aisi, das ce cas, tous les évéemets sot mesurables et P leur attribue doc ue mesure. Regardos maiteat ce qui se passerait si la tribu sur Ω déombrable e coteait pas tous les atomes, (c est-àdire si elle était différete de P(Ω)). La mesurabilité d ue variable aléatoire X écessite que X 1 ({a}) soit das la tribu (pour tout a de R). Ue simple aalyse motre que X doit être costate sur les élémets miimaux de la tribu. Si o cosidère u élémet miimal A de la tribu o réduit à u poit (A existe par hypothèse) P attribue ue probabilité à A mais pas à ses élémets. Tout cela ous motre que distiguer les atomes costituat les élémets miimaux est pas raisoable. Quitte à costruire des classes d équivalece ( apparteir à u même élémet miimal ) o peut doc cosidérer, das le cas des espaces déombrables que la tribu est P(Ω) sas perdre vraimet e gééralité. Maiteat, cosidéros la mesure de Lebesgue λ sur [0, 1]. C est visiblemet ue mesure de probabilité. Mais, comme vu das le cours d itégratio, λ agit sur la tribu des Lebesgue-mesurables qui est différete de P([0, 1]) (car il existe des esembles o Lebesguemesurables). D autre part, la mesure de Lebesgue attribue u poids 0 à tous les élémets de Ω. O voit doc clairemet, que tout ce qui se passait das le cas discret tombe à l eau : coaître la mesure sur tous les élémets de Ω e permet pas de recostituer la mesure et d autre part, il y a aucu moye d étedre la mesure de Lebesgue sur toutes les parties de [0, 1]. Il s esuit qu il va exister des évéemets dot o e pourra pas défiir la probabilité. O se cotetera doc ici des esembles que l o peut mesurer (et qui sot déjà bie ombreux) : les borélies de R + (ou les Lebesgue-mesurables, si o veut). Ce qui se passe das le cas où la probabilité est la mesure de Lebesgue sur [0, 1] va se passer de maière idetique (la mesure agira pas sur P(Ω) mais seulemet sur ue sous tribu) dès que la mesure e chargera pas qu u ombre déombrable de poits ; c est le cas par exemple dès que la mesure admet ue desité. 3. Lois de probabilité Le théorème de décompositio des mesures (voir aexe) prévoit que chaque mesure peut s exprimer sous la forme d ue somme de trois mesures étragères : E B 21

24 ue mesure (discrète) chargeat u ombre déombrable de poits. ue mesure admettat ue desité par rapport à la mesure de Lebesgue. ue mesure chargeat u Lebesgue-égligeable mais e chargeat pas les poits. Das ce cours o e cosidère que les mesures du premier et deuxième type ; u exemple de mesure du troisième type est doé e aexe. Les mesures du premier type sot des sommes de masses de Dirac podérées (par des poids positifs de somme 1). Celle du secod type sot du type µ = gλ où g est ue foctio mesurable, positive, d itégrale 1 par rapport à la mesure de Lebesgue λ. La foctio g est appelée desité de probabilité. Défiitio : Soit P ue probabilité sur (R, B(R)). O dit que P admet ue desité si il existe ue foctio g positive, mesurable, d itégrale 1 (cotre la mesure de Lebesgue) telle que P = gλ c est-à-dire, si P admet la représetatio suivate : pour tout borélie B, P(B) = g(x) dλ(x) = B R g(x) B(x) dλ(x). O voit que si g est d itégrale 1 et positive, P est bie ue mesure de probabilité. D après Rado- Nicodym et le théorème de décompositio de Lebesgue, la coditio pour que P admette ue desité est qu elle soit absolumet cotiue par rapport à la mesure de Lebesgue. Lemme 1 Si g et g sot deux foctios mesurables telles que P = gλ = gλ alors g = g, λ presque partout. Preuve : Supposos que g et g diffèret sur A, borélie o égligeable. Soiet A + = {x, g(x) > g(x)} et A = {x, g(x) < g(x)}. Alors, l u des deux esembles A + ou A est pas égligeable. Quitte à reommer g et g o peut supposer que λ(a + ) > 0. Mais A + = A + avec A+ = {x, g(x) g(x) + 1/}. Par suite, il existe, tel que λ{a + } > 0. Mais A + g(x) dλ(x) > A + g(x) dλ(x) ce qui prouve que les deux mesures gλ et gλ diffèret (puisqu elles diffèret sur A + ). 4. Variables aléatoires admettat ue desité Défiitio : Soit (Ω, A, P) u espace de probabilité et X ue variable aléatoire réelle (à valeurs das (R, B(R))). O dit que X admet pour desité f (o devrait dire, pour être cosistat que P X a pour desité f par rapport à la mesure de Lebesgue) si P X = fλ. O calcule alors la probabilité d u évéemet par P X (A) = P(X A) = 22 A f(x)dx.

25 PSfrag replacemets a b Par exemple, si A = [a, b], P(X [a, b]) = b a f(x)dx. Si X admet f pour desité, o a E(X) = X(ω)dP(ω) = xdp X (x) = et pour h mesurable Ω E(h(X)) = R R h(x)dp X (x) = R R x f(x) dx h(x) f(x) dx. O rappelle que ces quatités sot défiies si elles coverget absolumet. O a, par exemple E(X 2 ) = x 2 f(x) dx 5. Exemples de lois admettat ue desité R Loi uiforme : O dit que X suit la loi uiforme sur [0, 1] si la desité de X est f(x) = [0,1] (x) ; o ote X U[0, 1]. O a E(X) = 1/2, Var(X) = 1/12. O dit que Y suit la loi uiforme sur [a, b] si sa desité est f(x) = [a,b] (x). O a E(Y ) = (a + b)/2 b a et Var(Y ) = (b a) 2 /12 Loi ormale : O dit que X suit la loi ormale de paramètres (m, σ 2 ), pour (m, σ 2 ) R R +, o ote N (m, σ 2 ) si la desité de X est ( exp 1 x m ) ) 2 2( σ f m,σ 2(x) = 2πσ 2 O a E(X) = m, Var(X) = σ 2. Loi expoetielle : O dit que X suit la loi expotielle de paramètre a (avec a > 0) si la desité de X est f a (x) = a exp( ax) R +(x); o ote X E(a). O a E(X) = 1/a, Var(X) = 1/a 2. Loi de Cauchy : O dit que X suit la loi de Cauchy de paramètre c > 0, o ote X C(c) si la desité de X est f c (x) = 1 c π c 2 + x 2. Ue variable de Cauchy e possède pas de moyee (et doc pas de variace). 23

26 6. Foctio de répartitio a. Défiitio et premières propriétés Défiitio : Soit X ue variable aléatoire das (R, B(R)). La foctio est appelée foctio de répartitio de X. R [0, 1] x F X (x) = P(X x) = P X (], x]) La foctio de répartitio de X e déped que de la loi de X puisque F X (x) = P X (], x]). U exercice classique d itégratio motre que la réciproque est égalemet vraie : si o coaît la foctio de répartitio de X, o peut calculer P X (]a, b]) pour tout a et b, puis, puisque les itervalles du type ]a, b] egedret les borélies, o peut recostituer P X grâce à F X (e fait, les esembles du type ], x] formet u π-système de Dyki). Propriété 6 Soit X ue variable réelle. a) F X est croissate et o a lim F X(x) = 1, lim F X(x) = 0. x + x b) F X est cotiue à droite. La limite à gauche de F X e x est F X (x ) = P X (], x[). O a P X ({x}) = F X (x) F X (x ). Preuve : La croissace de F X est évidete. Soit A =], ], A est ue suite croissate d esembles. Comme A = R, o a lim P X (A ) = P X (R) = 1. Doc, puisque F X est croissate et que F X () 1 o a lim F X(x) = 1. Faisos tedre maiteat vers. A est + x + décroissate vers. Doc, F X () = P X (], ]) 0. O coclut e utilisat ecore la croissace de F X. Soit x u poit de R. Motros la cotiuité à droite e x. Soit x ue suite de réels covergeat vers x et tels que, x > x. Supposos que (x ) décroit vers x. La suite d esembles ], x ] est décroissate vers ], x] et o a doc (d après les complémets), P(], x ]) P(], x]), autremet dit, F X (x ) F X (x). Si cette fois x ted vers x, mais x < x, x croissate, la suite d esembles ], x ] est croissate vers ], x[ et doc P(], x ]) P(], x[), d où la coclusio. Pour fiir, o voit que P X ({x}) = P(], x]) P(], x[). Remarque 7 Das la preuve, pour motrer la cotiuité à gauche et l existece d ue limite à droite, o a supposé que la suite (x ) était croissate das le premier cas et décroissate das le deuxième. O avait bie le droit : e effet, si y ted vers x avec y > x (sas supposer que la suite y décroit vers x), la suite (ỹ ) défiie pour tout par ỹ = sup{y j, j } est ue suite décroissate à qui o peut appliquer ce qui viet d être dit. Doc F X (ỹ ) F X (x). Par ailleurs, F X (ỹ ) F X (y ) F X (x) doc F X (y ) coverge aussi vers F X (x). Aisi, pour démotrer la cotiuité à droite (resp. à gauche) o peut toujours supposer que la suite x que l o cosidère est décroissate (resp. croissate). Par ailleurs, cette propriété e tiet pas à la croissace de F X comme pourrait le laisser croire cette preuve. 24

27 b. Foctio de répartitio et desité Soit X ue variable aléatoire réelle et F sa foctio de répartitio. Il est idiqué plus haut que P X ({x}) = P(X = x) = F (x) F (x ). Comme P X est ue probabilité sur R elle e peut charger qu u ombre déombrable de poits (la somme des masses fait 1, doc le ombre des masses o ulles est au plus déombrable). Ceci implique que F X e possède au plus qu u ombre déombrable de sauts, correspodat aux poits chargés par P X. U théorème (que l o évoque juste ici) dit que l o peut écrire F de maière uique sous la forme F = F c + F S avec F S costate par morceaux, cotiue à droite, croissate, et F c cotiue. Il s agit de la traductio de la décompositio de P X sous forme d ue somme de Dirac et d ue mesure e chargeat pas les poits, sous forme de foctios de répartitio (voir aexe). Supposos que F = F c (c est-à-dire que F e présete pas de saut). O e peut pas pour autat e déduire que X (où plus rigoureusemet P X ) admet ue desité (se souveir de l escalier du diable, foctio de répartitio de la mesure costruite e complémet qui e charge que le Cator). Il faut, pour cela que F, bie que cotiue, e croisse pas sur u esemble égligeable! Autremet dit, il faut que F soit l itégrale de sa dérivée! Propriété 7 Soit X ue variable aléatoire admettat f comme desité. La foctio de répartitio de X, F satisfait à F (x) = x f(t)dt pour tout x. et doc F (x) = f(x) λ presque partout. Réciproquemet, Lemme 2 soit F la foctio de répartitio d ue variable aléatoire X ; si F est cotiue partout et dérivable sauf au plus sur u esemble déombrable de poits, alors X admet ue desité f. De plus f(x) = F (x) là où F est dérivable. Remarquos que puisque F est dérivable p.p., f est défiie seulemet p.p.. Mais ce est pas grave car o cherche seulemet la classe de f das L 1. Élémets de preuve : o se raccroche à la décompositio des mesures (voir aexe). O cherche à prouver que P X est absolumet cotiue, ce qui implique l existece d ue desité (par Rado- NiKodym). O est doc ameé à prouver que P X e charge pas les Lebesgue-égligeables. O voit d abord que F e charge pas les poits puisqu elle est cotiue. Esuite, o exclut ue mesure de type sigulière e remarquat qu ue telle mesure etraîe la o dérivabilité de F sur u esemble égligeable o déombrable. 7. Calcul de la loi d ue variable aléatoire a. Grâce à la foctio de répartitio Supposos que X possède ue desité f. Soit h ue foctio mesurable. Quelle est la loi de Y = h(x)? Il existe pricipalemet deux méthodes permettat de calculer la loi de Y lorsque la foctio h est pas trop compliquée : 25

28 a) O calcule la foctio de répartitio de Y : (ceci est possible lorsque la foctio h est mootoe). O écrit F Y (x) = P(Y x) = P(h(X) x) = P(X h 1 (x)) = F X (h 1 (x)). La troisième égalité est légale das le cas où h est iversible et croissate. Comme applicatio, o a Propriété 8 Soit X ue v.a. de desité f X et Y défiie par Y = ax +b (pour u certai a 0 et b R). Y a pour desité y f Y (y) = 1 a f X( y b a ). Preuve : Exprimos la foctio de répartitio de Y e foctio de celle de X : { P(X x b F Y (x) = P(Y x) = P(aX + b x) = a ) = F X( x b a ) si a > 0 P(X x b a ) = 1 F X( x b a ) si a < 0 Par dérivatio, o obtiet le résultat aocé et f Y (y) = 1 a f X( y b a ) das le cas où a est égatif. Remarquos que cette méthode s applique égalemet au cas où F X est pas simple puisqu il est pas écessaire de la coaître. Propriété 9 Soit X N (m, σ 2 ) et Y N (0, 1). Les deux v.a. X et σy + m ot même loi. Preuve : Pour prouver ce deuxième poit o motre que les foctios de répartitio des deux variables X et σy + m sot égales puisque les foctios de répartitios caractériset la loi. F X (x) = P(X x) = x e 1 2( u m σ ) 2 du. 2πσ 2 F σy +m (x) = P(σY + m x) = P(Y x m ) σ x m σ e t2 /2 = dt 2π Le chagemet de variable t = u m σ l o exprime souvet sous la forme : Si X N (m, σ 2 ) alors : das cette derière itégrale doe le résultat escompté, que X m σ N (0, 1). (13) b. Grâce au calcul de l espérace Soit X ue variable aléatoire de desité f. O a vu plus haut, que si h est mesurable (et itégrable cotre fλ) o a E(h(X)) = h(x)f(x)dx. R Cette formule est doc valable pour toute foctio f cotiue borée. Il existe ue réciproque à cette propriété : 26

29 Propositio 6 Soit X ue variable aléatoire réelle. Supposos qu il existe ue foctio f positive mesurable, telle que pour toute foctio g cotiue borée, E(g(X)) = g(x)f(x)dx, (14) alors f est ue desité pour la variable X. R Rappelos que f est uique das L 1. Preuve : Tout d abord, e preat g défiie par g(x) = 1 pour tout x R, o voit que R f(x)dx = 1 et que doc f est ue desité (o peut avec quelques efforts se passer de l hypothèse f positive). Il reste à motrer que P X = fλ. Pour cela o motre que pour tout a, P X (], a]) = a f(x)dx. Ceci permettra de coclure car les esembles du type ], a] (uio avec R) formet ue classe détermiate pour la mesure (u π-système de Dyki). Soit a fixé das R ; o cosidère C a la foctio défiie sur R par C a (x) = ],a] (x). O s itéresse à E(C a (X)) = P(X a) = F X (a). Pour 1, o défiit la foctio g par PSfrag replacemets 1 si x a g (x) = (a x) + 1 si x [a, a + 1/]. 0 si x 1/ a a + 1/ La suite (g ) est majorée par 1 et coverge simplemet vers la foctio C a, or la foctio 1 est itégrable sous la mesure fλ (λ est la mesure de Lebesgue). Aisi, par le théorème de Lebesgue (de covergece domiée) o a : C a (x)f(x)dx = lim g (x)f(x)dx. (15) R D autre part, la foctio 1 est itégrable sous la mesure P X. Doc par le théorème de Lebesgue R E(C a (X)) = lim E(g (X)) (16) (e effet : E(C a (X)) = C a (x)dp X (x) et E(g (X)) = g (x)dp X (x) ; o peut doc appliquer le théorème de Lebesgue). Or par hypothèse E(g (X)) = R g (x)f(x)dx puisque g est cotiue borée. O peut doc idetifier les membres de gauche das (15) et (16) : o a doc obteu,ce que l o cherchait : a E(C a (X)) = P(X a) = C a (x)f(x)dx = f(x)dx. R Calcul de la loi d ue foctio d ue variable aléatoire : Supposos X admettat comme desité f X, coue. Soit Y = h(x), avec h ue foctio C 1 par morceaux. Cherchos la loi de Y : O écrit E(g(Y )) = g(y)f Y (y)dy = E(g(h(X))) = g(h(x))f X (x)dx. 27

30 Maiteat, pour idetifier f Y, o fait u chagemet de variable das la deuxième itégrale : o pose y = h(x). Cette première itégrale se réécrit comme suit : g(h(x))f X (x)dx = g(y)f X (h 1 (y))(h 1 (y)) dy (17) Ceci, d après le lemme ous assure que f Y (y) = f X (h 1 (y)) h 1 (y) Remarque 8 si h est u C 1 difféomorphisme de R das R, le chagemet de variable das (17) e pose pas de problème. Dès que h est plus ijective, h 1 (y) est plus u ombre mais u esemble, et (17) est plus valide. Pour Y = X 2 par exemple, il faut scider les itégrales e deux parties... O peut remarquer que la méthode par la foctio de répartitio foctioe das à peu près les mêmes cas. U exemple : Soit X ue variable expoetielle de paramêtre 1 (doc de desité f(x) = R +(x) e x ). Cherchos la loi de Y = X. O écrit : E(h(Y )) = h(y)f Y (y)dy = E(h( X)) = h( x) R +(x)e x dx O pose y = x, d où x = y 2, dx = 2ydy, aisi o a E(h(Y )) = h(y)2ye y2 R R R R +(y)dy; y comme racie carrée devat être positif. Il s esuit que la desité de Y est f Y (y) = 2ye y2 R +(y). 8. Lois joites Soit (Ω, A, P) u espace probabilisé et soiet X 1,..., X k des variables aléatoires réelles. La loi image de P par (X 1,..., X k ) que l o peut ecore oter P (X1,...,X k ) est ue mesure boréliee sur R k. Elle est défiie pour tout borélie B de R k par P (X1,...,X k )(B) = P((X 1,..., X k ) B) = P({ω, (X 1 (ω),..., X k (ω)) B}) Elle peut, comme das le cas uidimesioel, être décrite par la foctio de répartitio multidimesioelle F : R k [0, 1] défiie par F (x 1,..., x k ) = P(X 1 x 1,..., X k x k ) = P (X1,...,X k )( k ], x i ]). E effet, la mesure P (X1,...,X k ) sur R k est bie détermiée par la foctio de répartitio gééralisée car les esembles k i=1 ], x i] egedret bie les borélies de R k (et formet u π-système de Dyki). La classificatio des lois grâce à leur foctio de répartitio est mois aisée ici. Le cas discret multimesioel a été traité plus tôt, où o a établi etre autres les faits suivats (ous raisoos 28 i=1

31 das ce qui suit sur les couples de variables aléatoires, mais o peut gééraliser sas peie tout ce qui est dit ici à ue famille fiie de v.a.) : Cas discret : la loi d u couple de v.a. (X, Y ) est détermiée par les valeurs de P((X, Y ) = (x, y)) pour (x, y) Ω X Ω Y. O a alors les formules suivates E(f(X, Y )) = f(x, y)p((x, Y ) = (x, y)), x y O appelle margiales ou lois margiales, les lois de X et de Y. Pour les calculer, o utilise la formule triviale suivate : P(X A) = P((X, Y ) A R) pour tout A borélie. Das le cas discret, o écrit P(X = x) = y P((X, Y ) = (x, y)) = y P(X = x Y = y)p(y = y); Si X et Y sot idépedates, pour tout (x, y) P((X, Y ) = (x, y)) = P(X = x) P(Y = y). Voyos maiteat ce que devieet ces formules das le cas où les variables X et/ou Y e sot pas discrètes. Cas cotiu : Supposos que P (X,Y ) soit absolumet cotiue par rapport à la mesure de Lebesgue sur R 2. Il existe, d après Rado-Nikodym, ue foctio f (X,Y ) positive, de R 2 das R 2, d itégrale 1, telle que P (X,Y ) = f (X,Y ) λ 2 où λ 2 est la mesure de Lebesgue sur R 2 ; autremet dit, pour tout B borélie de R 2, P((X, Y ) B) = f (X,Y ) dλ 2 = f (X,Y ) (x, y)dxdy. f (X,Y ) est appelée desité joite du couple (X, Y ). B Propositio 7 Supposos que le couple (X, Y ) admette ue desité f (X,Y ) sur R 2 alors X et Y admettet les desités suivates sur R : f X (x) = f (X,Y ) (x, y)dy, f Y (y) = f (X,Y ) (x, y)dx. R B R Remarquos que la réciproque est fausse. X et Y peuvet avoir ue desité alors que (X, Y ) o. Par exemple, supposos que X U[0, 1] et Y = X. Alors (X, Y ) e charge qu ue diagoale das R 2 et e possède doc pas de desité (ue droite est de mesure de Lebesgue 0 das R 2 ). Preuve de la propositio : O a pour tout A borélie P(X A) = P((X, Y ) A R) = A R f (X,Y ) (x, y)dydx 29

32 ceci ous assure que f X (x) = R f (X,Y ) (x, y)dy (18) car P X (A) = ( A dp X(x) doc dp X (x) = R f (X,Y )(x, y)dy) dx ; o voit alors que P X admet pour desité ce qui a été idiqué plus haut. Par symétrie, o trouve f Y (y) = f (X,Y ) (x, y)dx. Propositio 8 soit f (X,Y ) Y =y la foctio défiie pour y t.q. f Y (y) > 0 par R f (X,Y ) Y =y (x) = f (X,Y )(x, y), f Y (y) est ue desité (de la loi coditioelle de (X, Y ) sachat Y = y). Preuve :Le fait que f (X,Y ) Y =y soit ue desité est évidet. Pour sa déomiatio, écrivos P((X, Y ) A B) = y B ( x A f (X,Y ) (x, y) f Y (y) Calcul des espéraces : Pour g mesurable de R 2 das (R, B(R)), E(g(X, Y )) = g(x, y)f (X,Y ) (x, y)dxdy, (ceci est bie défii si g(x, y) f (X,Y ) (x, y)dxdy coverge). 9. Idépedaces ) dx f Y (y)dy Défiitio : Soiet (X i ) i=1,...,k des variables aléatoires à valeurs das (R, B(R)). La famille de v.a. X i est dite idépedate si, pour tout (A 1,..., A k ) (B(R)) k P(X 1 A 1,..., X k A k ) = k P(X i A i ). (19) O dit aussi que les v.a. X i sot idépedates. O dit qu ue famille ifiie de v.a. (X i ) i I est idépedate, si toute sous famille extraite de cardial fii est ue famille de v.a. idépedate. Si X et Y sot idépedats, o a P (X,Y ) (A B) = P((X, Y ) A B) = P(X A)P(Y B) = P X (A)P Y (B). O voit que la mesure P (X,Y ) sur R 2 est la mesure produit P X P Y. Comme, pout tout A et B itervalles de R, o a P((X, Y ) A B) = dp (X,Y ) (x, y) A B i=1 30

33 mais aussi P((X, Y ) A B) = P(X A)P(Y B) = f X (x)dx f Y (y)dy = A B A B f X (x)f Y (y)dydx o e déduit que d P (X,Y ) (x, y) = f X (x)f Y (y)dxdy, aisi P (X,Y ) possède ue desité par rapport à la mesure de Lebesgue sur R 2. O la ote f (X,Y ). Puisque les deux mesures f X (x)f Y (y)dxdy et f (X,Y ) (x, y)dxdy coïcidet sur les pavés, o e coclut que Propositio 9 Si X et Y sot idépedates, si X et Y admettet respectivemet f X et f Y comme desité, alors le couple (X, Y ) a pour desité f (X,Y ) sur R 2 avec f (X,Y ) (x, y) = f X (x)f Y (y) p.p.. La réciproque est égalemet vraie : si f (X,Y ) (x, y) = f X (x)f Y (y) λ 2 p.p.. alors X et Y sot idépedats. La preuve est immédiate (applicatio de Fubii). Remarque 9 (Importat!) Si X Y, o a P (X,Y ) = P X P Y (la mesure P (X,Y ) est la mesure produit P X P Y. Ceci est au coeur de la démostratio des propositios 9 et 10. Deux exemples Supposos que (X, Y ) ait pour desité f (X,Y ) (x, y) = e x 2 2 y 2π R +(y) o voit que f (X,Y ) (x, y) = e x 2 2 e y 2π R +(y) doc si o pred f X (x) = x 2 e 2 2π et f Y (y) = e y y 0, f (X,Y ) = f X f Y. Il s esuit que X et Y sot idépedates, X état gaussiee N (0, 1) et Y expoetielle E(1). Supposos que f (X,Y ) (x, y) = xe xy [0,1](x) R +(y). (20) Cherchos les margiales : f X (x) = f Y (y) = R R f (X,Y ) (x, y)dy = 1. [0,1](x), (21) f (X,Y ) (x, y)dx = 1 ye y e y y 2. R +(y), (22) Remarquos que f (X,Y ) f X f Y : les variables X et Y e sot pas idépedates! Exercice 6 : 1) Soit f (X,Y ) la desité d u couple de v.a. (X, Y ) (sur R 2 ). Supposos qu il existe ue foctio positive g 1 et ue foctio g 2 telles que f (X,Y ) (x, y) = g 1 (x)g 2 (y). 31

34 Motrer qu il existe ue costate c tel que cg 1 soit ue desité. Motrer que g 2 /c est ue desité ; e déduire que les variables X et Y sot idépedates. 2) O a admis rapidemet, au vu de (20), (21) et (22), que f (X,Y ) f X f Y. Or o doit prouver que f (X,Y ) f X f Y sur u o Lebesgue-égligeable. Le faire. Propositio 10 Soiet (X 1,..., X ) ue famille de v.a. idépedates : i) Toute sous famille est idépedate. ii) Pour toutes foctios boréliees f 1,..., f de R à valeurs das R, la famille (f 1 (X 1 ),..., f (X )) est ue famille de v.a. idépedates. iii) Soit 1 k 1. Soit f (resp. g) ue foctio boréliee de R k (resp. R k ) à valeurs das R, alors f(x 1,..., X k ) g(x k+1,..., X ). iv) Soit 1 k 1. Soit f (resp. g) ue foctio boréliee de R k (resp. R k ) à valeurs das R telles que E( f(x 1,..., X k ) ) < + et E( g(x k+1,..., X ) ) < + alors E(f(X 1,..., X k )g(x k+1,..., X )) = E(f(X 1,..., X k ))E(g(X k+1,..., X )) Preuve : (i) Il suffit de predre A i = Ω das (19) pour les variables maquates. Pour prouver (ii) o écrit, P(f 1 (X 1 ) A 1,..., f (X ) A ) = P(X 1 f1 1 1),..., X f 1 (A )) = P(X i fi 1 (A i )) = P(f i (X i ) A i ) la deuxième égalité état ue coséquece de l idépedace des X i. Pour (iii), o doit prouver que pour A et B borélies de R, i=1 P(f(X 1,..., X k ) A, g(x k+1,..., X ) B) = P(f(X 1,..., X k ) A)P(g(X k+1,..., X ) B) Ce qui se réécrit i=1 P((X 1,..., X k ) f 1 (A), (X k+1,..., X ) g 1 (B)) = P((X 1,..., X k ) f 1 (A))P((X k+1,..., X ) g 1 (B)) (23) Or, cette derière égalité est ue coséquece de l idépedace des X i das le cas où f 1 (A) et g 1 (B) sot des pavés respectivemet das R k et das R k. De cela, o déduit que la mesure P (Y1,Y 2 ) où Y 1 = (X 1,..., X k ) et Y 2 = (X k+1,..., X ) sur R k R k est la mesure produit P Y1 P Y2 (car c est ue mesure produit sur les pavés). Il s esuit que (23) est valable. Pour (iv), o voit que l o a e plus de (iii) (qui ous garatit que la mesure P (Y1,Y 2 ) = P Y1 P Y2 ) toutes les hypothèses pour utiliser le théorème de Fubii.. 32

35 10. Chagemet de variables Soit (X, Y ) u couple de variables aléatoires de desité joite f (X,Y ) et h u C 1 difféomorphisme etre deux ouverts de R 2 (lorsque les domaies qui ous itéresset e sot pas ouverts, o peut souvet, quitte à modifier les domaies sur u égligeable, se rameer à u ouvert). Notos (U, V ) = h(x, Y ). Notre but est d expliquer commet o peut calculer la loi du couple (U, V ). L idée est la même que das le cas uidimesioel. O doe u aalogue de la propositio 6 que l o admet : Propositio 11 Soit (X, Y ) u couple de variables aléatoires réelles. Supposos qu il existe ue foctio f sur R 2, positive et mesurable, telle que pour toute foctio g de R 2 à valeurs das R, cotiue borée, E(g(X, Y )) = g(x, y)f(x, y)dλ 2 (x, y) = g(x, y)f(x, y)dxdy, (24) R 2 alors f est ue desité pour le couple (X, Y ). Reveos à otre problème de la détermiatio de la loi de (U, V ). Pour k ue foctio cotiue borée de R 2 das R 2, E(k(U, V )) = k(u, v)dp (U,V ) (u, v) = E(k(h(X, Y ))) = k(h(x, y))f (X,Y ) (x, y)dxdy o pose (u, v) = h(x, y) et o obtiet E(k(h(X, Y ))) = k(u, v)f (X,Y ) (h 1 (u, v)) J(h 1 (u, v) dudv de sorte que f (U,V ) (u, v) = f (X,Y ) (h 1 (u, v)) J(h 1 (u, v)) De ouveau, ceci est légal si la foctio h est u C 1 -difféomorphisme. Exemple : Supposos que X et Y soiet gaussiees N (0, 1) idépedates, de sorte que 2 ) f (X,Y ) (x, y) = exp( x2 +y 2 Soit (U, V ) = (X, XY ) ; autremet dit, h(x, Y ) = (U(X, Y ), V (X, Y )) avec U(X, Y ) = X, V (X, Y ) = XY et h(x, y) = (x, xy). L iverse de h est h 1 (x, y) = (x, y/x). O a 2π f (U,V ) (u, v) = f (X,Y ) (h 1 (u, v)) J(h 1 (u, v)). = u2 +(y/u)2 exp( 2 ) 2π 1 u Si o le souhaite, o peut maiteat trouver la loi de V e itégrat selo u. 33

36 11. Simulatios de variables aléatoires De ombreux phéomèes aléatoires sot trop compliqués pour être étudiés frotalemet. Souvet, o abadoe l idée de pouvoir évaluer exactemet la probabilité d u évéemet trop complexe. O se cotete de simulatios. Par exemple, si vous pesez avoir trouvé ue stratégie pour gager à u jeu (aléatoire), vous pouvez l essayer, et la répéter des cetaies de milliers de fois e quelques secodes sur u ordiateur. Vous possédez alors ue base de doées sur laquelle vous pouvez commecer à voir si votre stratégie marche sas avoir à risquer vos deiers (et même, comme o le verra plus tard, savoir das quelle mesure o peut faire cofiace à cet échatillo). L esprit das lequel o fait les simulatios est doc celui là : les résultats obteus par simulatio permettet souvet de cojecturer la vérité, et ot ue valeur statistique, c est-à-dire qu ils sot suffisammet valables pour être utilisés das toutes les scieces. Les simulatios de variables aléatoires sot otammet très utilisées e physique atomique, géétique, météorologie, études des phéomèes de circulatio, files d attete, mais aussi e mathématiques (pour calculer des itégrales ou chercher des solutios à des équatios)... Le poit de départ : simulatio de la variable uiforme U [0, 1]. La plupart des logiciels de programmatio met à otre dispositio ue variable uiforme U sur [0,1]. (Appelée souvet par l istructio radom ou ra ). Voici u exemple de géérateur de ombres aléatoires : o pose g(u) = 16807u modulo , et u 0 u ombre das {1,..., }, et pour 1, u = g(u 1 ). Les variables (U ) successivemet revoyées par l ordiateur sot : U = u / Les limites de ce géérateur sot claires : les ombres U i e sot pas aléatoires, e sot pas idépedats, e sot pas uiformes sur [0, 1] (seuls les ombres du type a/ avec a etiers sot atteits). Néamois, ce géérateur est suffisat pour de ombreuses applicatios. Il existe maiteat des géérateurs plus efficaces mais qui ot tous les mêmes défauts (à d autres échelles). Das la suite, o suppose que l o dispose d ue suite de v.a. idépedates (U i ) i 1, uiformes sur [0, 1]. Ce qui est remarquable, idépedammet des simulatios, c est qu avec les variables U i, o peut simuler toutes les lois ui et même multi-dimesioelles (avec ue seule variable U i o peut même simuler toute ue famille déombrable de variables aléatoires das R). Simulatio de v.a. discrètes Pour simplifier (mais ça e chage absolumet rie), supposos que la variable X à simuler pree la valeur x k avec probabilité p k. O tire ue v.a. uiforme U : Si U p 0 o pred X = x 0 Si p 0 < U p 0 + p 1 o pred X = x 1 Si p p k < U p p k + p k+1 o pred X = x k+1 (pour k 0). Il est très facile de remarquer qu o a pris X = x k+1 avec P(p p k < U p p k + p k+1 ) = p k+1 puisque U est uiforme. 34

37 Simulatio de v.a. admettat ue desité Si o ote F X la foctio de répartitio de X alors F X (X) suit la loi uiforme. E effet, motros que F X (X) (qui est ue v.a.) a même foctio de répartio que U : P(F X (X) x) = P(X F 1 X (x)) = F X(F 1 X (x)) = x, où F 1 X est la réciproque gééralisée de F X, c est-à-dire : F 1 X (x) = if{y F X(y) x}. Lemme 3 F 1 X (U) a même distributio que X. Preuve : Pour tout x R, o a P(F 1 X (U) x) = P(if{y, F (y) U} x) = P(U F (x)) = F (x) Aisi, si o sait iverser la foctio de répartitio d ue v.a., o sait la simuler. 12. La foctio caractéristique Défiitio : La foctio caractéristique d ue variable aléatoire réelle X est la trasformée de Fourier de sa mesure, à savoir : Φ X : R C t Φ X (t) = E(e itx ) = R eitx d P X (x). (25) La foctio t Φ X (t) a de ombreuses propriétés dot voici les plus directes : Propositio 12 i) t Φ X (t) est défiie pour tout t R. ii) Φ X déped uiquemet de la loi de X. iii) Φ X est ue foctio de module iférieur ou égal à 1, cotiue et Φ X (0) = 1. Preuve :(ii) est évidet. Motros (i). Il suffit de voir pourquoi l itégrale de (25) coverge pour toute valeur de t. Or e itx 1. Doc R eitx d P X (x) coverge et doc R eitx d P X (x) aussi. O a obteu au passage que Φ X était de module iférieur ou égal à 1 ; le fait que Φ X (0) = 1 est clair. La cotiuité proviet des deux faits suivats : pour tout x, l applicatio t e itx est cotiue. Pour tout t, x e itx est domiée par la foctio costate à 1 qui est itégrable par rapport à P X. Le théorème de Lebesgue quat à la cotiuité des itégrales paramétrées permet de coclure. Lemme 4 Soit a et b deux réels et X ue variable aléatoire. t R, Φ ax+b (t) = e itb Φ X (at). Preuve : t R, E(e it(ax+b) ) = e itb E(e itax ). 35

38 Propositio 13 Si X et Y sot deux variables réelles idépedates, la foctio caractéristique de la somme est doée par : t R, Φ X+Y (t) = Φ X (t)φ Y (t). Preuve : O a besoi pour prouver cela d ue propositio similaire à la Propositio 3 (voir page 17) : Propositio 14 Soiet (X i ) i=1,...,k ue famille de variables aléatoires réelles. Les deux assertios suivates sot équivaletes : (i) les variables X i sot idépedates (ii) pour toutes foctios f i mesurables borées, E( k f i (X i )) = i=1 k E(f i (X i )) Admettos pour u istat la Propositio 14 et motros la Propositio 13. La foctio x e itx est mesurable et borée. Doc, pour X et Y idépedates, i=1 E(e it(x+y ) ) = E(e itx e ity ) = E(e itx )E(e ity ). Ceci coclut la preuve de Propositio 13. Preuve de la Propositio 14 : Supposos (ii) réalisée. Preos f i = Ai où A i est u borélie. O a k E( f i (X i )) = P(X 1 A 1,..., X k A k ) et d autre part i=1 k E(f i (X i )) = i=1 k P(X i A i ) et ceci pour tout (A i ) i {1,...,k} borélies. L idépedace est établie. Réciproquemet, supposos les X i idépedats. Alors la formule de (ii) est valable si les f i sot des idicatrices de borélies. Soit f i ue foctio mesurable positive ; il existe ue suite croissate de foctios étagées, positives, f () i telle que f () i (X i )) coverge vers E(f i (X i )). De même, la foctio (x 1,..., x k ) k E(f () i i=1 coverge simplemet vers f i. Par Beppo Levi (x i ) (vu comme foctio de k variables) est aussi mesurable et croissate e. Par Beppo Levi E( k i=1 f () i (X i )) coverge vers E( k i=1 f i(x i )). D autre part, par la liéarité de l espérace (les (f i ) sot des combiaisos liéaires de foctios idicatrices de borélies), i=1 f () i Aisi, par uicité de la limite, E( k i=1 f () i (X i )) = k i=1 E(f () i (X i )). k k E( f i (X i )) = E(f i (X i )). i=1 i=1 36

39 O éted maiteat le résultat aux foctios f i sigées comme habituellemet e traitat à part f i + et f i. Note : Pour bie compredre l utilisatio de Beppo Levi ici, il faut voir l espérace mathématique comme ue itégrale cotre la mesure image. Autremet dit E(f(X)) = f(x)dp X (x). Il est alors simple de voir que l o peut appliquer les résultats d itégratio à l espérace. Exemples de foctios caractéristiques Tout ces calculs sot immédiats. Beroulli. Si X B(p), Φ X (t) = E(e itx ) = pe it + (1 p) Biomiale. Si X B(, p), E(e itx ) = (pe it +(1 p)) (c est ue coséquece de la Propositio 3). Poisso. Si X P(λ), E(e itx ) = e λ+λeit X Uiforme sur [0,1]. E(e itx ) = eit 1 it X Uiforme sur {0,..., }. E(e itx ) = Expoetielle X E(1). E(e itx ) = (1 ix) 1 e it(+1) 1 e it 1 Le cas de la loi ormale est plus itéressat : Soit X N (0, 1). O cherche à calculer Φ X (t) = + exp(itx x 2 /2) dx. 2π O commece par remarquer que t Φ X (t) est holomorphe e t. Pour cela, o veut dériver e t sous le sige somme. Or exp(itx x 2 /2) t 2π = ix exp(itx x2 /2) 2π est bie itégrable e x (et surtout, x ix exp(itx x2 /2) 2π est domiée par x exp(cx x 2 /2) pour t das la boule C(0, c) de C. Aisi, u théorème de Lebesgue ous assure que Φ X est dérivable. O pred alors t imagiaire pur t = iα. O obtiet Φ X (iα) = + exp( αx x 2 /2) + dx = e α2 /2 2π exp( 1 2 (x + α)2 ) 2π dx = e α2 /2. Cette derière itégrale fait 1, puisqu il s agit de l itégrale de la desité de la loi N ( α, 1). O a doc établi, sur ir, Φ X (t) = e t2 /2. Par la formule du prologemet aalytique, cette formule est doc valable sur tout C et doc e particulier sur R. Doc Si Y N (m, σ 2 ), t R, Φ X (t) = e t2 /2. Φ Y (t) = E(e ity ) = E(e it(σx+m) ) = e itm Φ X (tσ) = e itm e (σt)2 /2 37

40 Propositio 15 Soit X et X deux variables réelles. Les deux assertios suivates sot équivaletes : (i) X et X ot même loi. (ii) Pour toute foctio f cotiue, à support compact, E(f(X)) = E(f(X )). Sfrag replacemets Preuve :(i) = (ii) est clair. Passos à la preuve de (ii) = (i). Soit x fixé et g la foctio g(t) = ],x] (t), et g la foctio dessiée sur la figure ci-dessous. g coverge simplemet vers g x 1 x x x + 1/ g et g h 1 qui est itégrable sous P X. Aisi, d après le théorème de covergece domié de Lebesgue, E(g (X)) E(g(X)) = P(X x) = F X (x). Le même calcul appliqué à X doe E(g (X )) F X (x). Puisque E(g (X)) = E(g (X )) o e déduit que F X (x) = F X (x) pour tout x et doc que les variables X et X ot la même loi. Théorème 1 Soit X ue variable réelle. La foctio caractéristique Φ X caractérise la loi de X. g Preuve : Si deux variables X et X ot même loi, il est clair que Φ X = Φ X. Motros la réciproque. O suppose maiteat que Φ X (t) = Φ X (t) pour tout t. Soit f cotiue à support compact, o va motrer que E(f(X)) = E(f(X )) ce qui permettra de coclure d après la Propositio 15. Pour tout ε > 0, il existe u compact K = [ r, r] tel que P X (K c ) ɛ, et P X (K c ) ɛ, car P X et P X sot des mesures fiies sur R. Preos r suffisammet grad tel que, de plus, f(x) = 0 sur K c. Sur le compact K, l algèbre A des foctios egedrées par t e ilπt/r (pour t décrivat K et l etier) est dese das l esemble des foctios cotiues sur K pour la orme uiforme (d après le théorème de Stoe-Weierstrass). Aisi, pour tout ɛ > 0, il existe u etier k et des costates réelles (λ i ) 0 i k et des costates etières (l i ) 0 i k telles que sup f(x) x K k λ j e iljπx/r ɛ. j=0 Notos φ(x) = k j=0 λ je iljπx/r. La foctio φ vue cette fois comme foctio sur R, est 2r périodique. Ceci ous assure que φ est iférieure à f + ɛ sur K c (car c est le cas sur la période [ r, r)). Aisi, o a E(f(X)) E(φ(X)) f(x) φ(x) dp X (x) + f(x) φ(x) dp X (x) K K c f(x) φ(x) dp X (x) + φ(x) dp X (x) K K c ɛ + ( f + ɛ)p(k c ) ɛ + ( f + ɛ)ɛ 38

41 et de même, o a O ote maiteat que E(f(X )) E(φ(X )) ɛ + ( f + ɛ)ɛ. E(φ(X)) = j λ j Φ X (l j π/r) de sorte que E(φ(X)) = E(φ(X )) car Φ X = Φ X. Pour coclure, o écrit, E(f(X)) E(f(X )) E(f(X)) E(φ(X)) + E(φ(X)) E(φ(X )) + E(φ(X )) E(f(X )). Les deux termes extrèmes das le membre de droite sot iférieurs à ɛ + ( f + ɛ)ɛ, celui du cetre vaut 0. Aisi, E(f(X)) = E(f(X )). Propositio 16 Supposos que X admette u momet d ordre N. Alors Φ X est de classe C et E(X ) = Φ() X (0) i Preuve : Pour = 1, o a t eitx = ixe itx existe pour tout t et de plus, ixe itx x qui est itégrable par hypothèse cotre P X. Doc, d après le théorème de Lebesgue quat à la dérivatio des itégrales à paramètres, Φ X est dérivable est o a Φ X(t) = ixe itx dp X (x) = E(iXe itx ), R das laquelle il suffit de predre t = 0. O itère le procédé ; o obtiet ( t ) eitx = (ix) e itx. Le reste de la preuve est idetique au cas = 1. a. Covolée Propositio 17 Soit (X, Y ) u couple de variable aléatoire réelle de desité joite f (X,Y ). La variable aléatoire Z = X + Y admet pour desité f Z (t) = + f (X,Y ) (x, t x)dx. Remarque : Si X et Y sot idépedates Preuve : O a f Z (t) = + f X (x)f Y (t x)dx = f X f Y (t). Φ (X+Y ) (t) = E(e it(x+y ) ) = e it(x+y) f (X,Y ) (x, y)dxdy R R = e itu f (X,Y ) (x, u x)dxdu = R R e itu( ) f (X,Y ) (x, u x)dx du R R O recoait la foctio caractéristique d ue variable aléatoire de desité u ) x)dx. Cette desité est doc la desité de X + Y (d après le Théorème 1). ( R f (X,Y )(x, u 39

42 Propositio 18 Soit X = (X 1,..., X ) ue variable aléatoire à valeurs das R. Les variables X i sot idépedates si et seulemet si, quel que soit u = (u 1,..., u ) de R, E(e i<u,x> ) = Φ Xj (u j ). (26) j=1 O pourra écrire le membre de gauche sous la forme Φ X (u). Preuve : Si les X i sot idépedats, alors (26) est vraie d après la Propositio 14. Réciproquemet, si (26) est vraie, alors o peut établir e suivat le raisoemet utilisé das la preuve du Théorème 1 que E( k i=1 f i(x i )) = k i=1 E(f i(x i )) pour f i cotiue borée, puis e suivat la preuve de la Propositio 15, o établit que E( k i=1 f i(x i )) = k i=1 E(f i(x i )) est valable pour les foctios mesurables borées, ce qui ous permet de predre les idicatrices d esemble et o coclut par les argumets du début de la preuve de la Propositio 11. b. Trasformée de Laplace Défiitio : Soit X ue variable aléatoire réelle. O appelle trasformée de Laplace de X (ou de la loi de X), la foctio Ψ défiie par Ψ X : R R t E(e tx ) Remarque 10 - Parfois o appelle trasformée de Laplace la foctio t E(e tx ) (bie sûr, ça e chage pas grad chose). - Cotrairemet à la trasformée de Fourier, la trasformée de Laplace est e gééral pas défiie pour tout t. Il existe des variables (Cauchy par exemple) pour laquelle Ψ e coverge qu e 0. Si X est ue variable positive, Ψ coverge sur R + au mois. - La trasformée de Laplace, si elle coverge sur u itervalle différet de {0}, caractérise la loi. 40

43 IV. Théorèmes limites e probabilité Les théorèmes limites e probabilité sot d ue importace cruciale ; ils décrivet de diverses maières les phéomèes de régularisatio qui apparaisset lorsque l o répète ue expériece aléatoire. Par exemple, de la complète icertitude lors du jet d ue pièce sur le fait qu elle va tomber sur pile ou face, o passe à la certitude quat à la fréquece asymptotique de piles obteus lors d ue suite de lacers (idépedats, de même loi) : c est la loi des grads ombres. Cette régularisatio a permis aux physicies de modéliser de ombreux phéomèes : par exemple, e mécaique statistique, o essaie de modéliser les mouvemets de diverses particules comme les atomes das u gaz, ou les divers types de particules preat part aux réactios ucléaires. Aisi, o peut expliquer le comportemet macroscopique d u système (souvet o aléatoire) par ue somme de cotributios aléatoires des particules. 1. Lemmes de Borel-Catelli Lemme 5 (Borel-Catelli) : Soiet (Ω, A, P) u espace probabilisé et (A ) ue suite d évéemets de A telle que la somme P(A ) coverge. Alors P(lim sup A ) = 0. Preuve : O rappelle tout d abord que lim sup A est défiie par lim sup A = A k 0 et doc que c est bie u élémet de la tribu. Si P(A ) coverge, ɛ > 0, il existe N t.q. P(A ) ɛ. Doc P( k N A k) < ɛ et doc il e va de même pour lim sup A. N Comme habituellemet, lim sup A est l esemble des élémets de Ω présets das ue ifiité de A. Le lemme de Borel Catelli dit que si P(A ) coverge, u ombre fii seulemet de A sot réalisés avec probabilité 1. Applicatio :O lace successivemet des dés justes. Le premier a ue face, le deuxième 4,... le eme, 2 faces. Les faces sot umérotées de 1 à 2. (O e suppose pas les lacers idépedats!!). Notos A l évéemet : le eme dé tombe sur 1. O a P(A ) = 1/ 2 et doc P(A ) coverge. Le lemme de Borel Catelli affirme que les dés tomberot sur 1 qu u ombre fii de fois avec probabilité 1. Le Lemme de Borel-Catelli coaît ue sorte de réciproque : k Lemme 6 (Borel-Catelli 2) : Soit (A ) ue suite d évéemets idépedats de A telle que la somme P(A ) diverge. Alors P(lim sup A ) = 1. Preuve : Rappelos que (A ) est ue suite d évéemets idépedats, si toute famille fiie extraite des A i est ue famille idépedate. O a P ( m ) ( m ) m A j = 1 P A j = 1 P ( ) m A j = 1 exp( log(1 P ( ) A j ) j=k j=k j=k 41 j=k

44 Grâce à l iégalité log(1 x) x (pour x [0, 1[) et e faisat tedre m vers +, o voit que ( + exp log(1 P ( ) ) ( + ) A j exp P(A j ) = 0 j=k et doc P ( + j=k A j) = 1. Ue itersectio déombrable d évéemets de mesure 1 est égalemet de mesure 1. Applicatio :O lace successivemet des dés justes. Le premier a ue face, le deuxième 2,... le eme, faces. Les faces sot umérotées de 1 à. O suppose les lacers idépedats!! Notos A l évéemet : le eme dé tombe sur 1. O a P(A ) = 1/ et doc P(A ) diverge. Le lemme de Borel Catelli 2 affirme que les dés tomberot sur 1 u ombre ifii de fois avec probabilité 1. Remarque 11 L hypothèse d idépedace est ici écessaire. Elle iduit u mélage des évéemets. Sas cette hypothèse, il est aisé de trouver des cotre-exemples e preat par exemple tous les A i égaux. Das ce cas, lim sup A = A 1 et il y a pas de raiso que cet évéemet soit de mesure 1. Les différets types de covergece Il y a deux maières de coverger pour ue suite de variables aléatoires (X ) : la première est la suivate : si les variables X sot défiies sur le même espace Ω est à valeurs das R (ou u espace métrique). O peut se demader, si pour ω fixé, lim X (ω) existe. Si la limite existe P presque partout, o parlera de covergece presque sûre (il s agit de la covergece simple sur ue sous partie de Ω de masse 1). S il existe ue variable X telle que, pour tout ɛ > 0, P( X X > ɛ) 0, o parle de covergece e probabilité. O dit qu il y a couvergece das L p si E( X X p ) = Ω X (ω) X(ω) p d P(ω) 0 le deuxième cocere ue covergece plus faible ; les variables e sot même plus supposées être défiies sur le même espace. Il s agit de la covergece e loi. Elle e cocere plus directemet les variables X mais leur loi image P X. O précise tout cela aisi que les rapports etre ces différets types de covergece das la suite du chapitre. 2. Covergece e probabilité Défiitio : Soit (X, X 1, X 2, X 3,... ) ue suite de variables aléatoires défiies sur le même espace (Ω, A, P). O dit que la suite (X ) coverge vers X e probabilité si, pour tout ε > 0, O ote X proba X. P( X X > ε) j=k 0. + Exemple : Soit X = i=1 Y i où les Y i sot idépedates, de loi Beroulli B(1/i 2 ). La v.a. X est à valeurs etières et la suite (X ) est croissate : elle coverge das R. Soit X sa limite, o a, pour 0 < ε < 1, P( X X > ε) = P( k, k + 1, Y k = 1) 42 + k=+1 1/k 2 ;

45 puisque la série de terme gééral 1/k 2 coverge, le terme de droite das la majoratio ted vers 0 comme reste d ue série covergete. Aisi X coverge vers X e probabilité. O peut e déduire égalemet que X est p.s. fii (e fait, X compte das l applicatio de Borel-Catelli (1), le ombre de dé tombat sur 1). Remarque 12 O a vu plus haut et das les exercices que deux variables peuvet avoir la même loi, même si elles sot défiies sur des espaces de probabilité différets (peser au jeu de pile ou face qui peut être réalisé avec u dé par exemple). Pour que la suite (X ) coverge e probabilité vers ue variable limite X, il faut que ces variables soiet défiies sur le même espace. a. Loi faible des grads ombres Propositio 19 (loi faible des grads ombres) Soit (X i ) i ue suite de variables aléatoires idépedates, de même loi, et de moyee m < +. O ote X = 1 k=1 la moyee empirique des premières valeurs des X i. O a X X k proba m. Tout d abord, remarquos qu o a ici fait u petit abus : o devrait écrire, X proba X où X est la v.a. défiie par X(ω) = m pour tout ω Ω. O a idetifié e fait la costate m avec la foctio costate (ou la v.a. costate) X. Preuve : o doe ue preuve de cette propositio sous l hypothèse supplémetaire de l existece d u momet d ordre 2, c est-à-dire, o suppose que E( X 1 2 ) < + coverge. Ceci ous assure que Var(X 1 ) = σ 2 < +. D après Bieaymé-Tchebichev, pour tout ɛ > 0, (et puisque E(X ) = m), P( X m ɛ) Var(X ) ɛ 2 ce qui ted bie vers 0 lorsque ted vers +. = σ2 2 ɛ 2 3. Covergece presque sûre Défiitio : Soit (X ) ue suite de v.a. défiie sur le même espace de probabilité (Ω, A, P). O dit que la suite (X ) coverge presque sûremet si P(lim X (ω) existe ) = 1. Notos X(ω) la limite de X (ω) lorsque celle-ci existe. La limite peut e pas exister sur ue partie de Ω égligeable. O ote p.s. X. X 43

46 Théorème 2 (loi forte des grads ombres) : Soit (X i ) i ue suite de v.a. de même loi, de moyee m alors p.s. X m. Preuve : La coclusio de ce théorème est valable sous la seule hypothèse de l existece de la moyee pour X 1. La preuve que l o doe ici utilise l hypothèse supplémetaire de l existece de momet d ordre 4. O suppose doc das ce qui suit que E(X 4 1 ) < +. O suppose aussi que E(X 1 ) = 0, ce que l o peut faire sas restreidre la gééralité de la preuve (o pourrait aussi poser Y i = X i m, prouver le résultat pour Y et le retraduire e terme de X ). O a P( X ɛ) = P( X 4 ɛ 4 ) Markov 1 4 ɛ 4 E((X X ) 4 ). E développat la derière parethèse, et comme les variables X i sot idépedates et cetrées et ot même loi, o obtiet E((X X ) 4 ) = E(X 4 1 ) + C2 E(X2 1 )E(X2 2 ) puisque tout terme coteat u X i à la puissace 1 est ul. O peut aussi écrire E(X 2 1 )E(X2 2 ) sous la forme E(X 2 1 )2. E tout cas, o a P( X ɛ) = O(1/ 2 ). D après Borel-Catelli, si o ote par A ɛ = {ω, X (ω) ɛ}, o voit que puisque P(A ɛ ) coverge, P(lim sup A ɛ ) = 0. O a doc pour tout k N, P(lim sup A 1/k ) = 0. Aisi, P( k lim sup A 1/k ) = 0. Or {ω, X (ω) / > 0} = {ω, ω k lim sup A 1/k }. Il s esuit que P({ω, X (ω) 0}) = 1. Remarque 13 O peut motrer que si E( X 1 ) = + alors la suite X e coverge pas. Le théorème 2 est relativemet ituitif. Il affirme que la moyee empirique (observée par l expériece) coverge vers la moyee (espérace mathématique). Si o l applique à ue suite de v.a. de Beroulli idépedates B(p). O obtiet X p.s. p. Aisi, c est la loi des grads ombres qui affirme que la proportio de pile das ue suite de pile ou face ted vers p. Remarquos ue derière fois que ce résultat est la coséquece d u théorème et o pas la défiitio de la probabilité. Deux exemples : Das le premier exemple (premier dessi ci-dessous), o illustre la loi des grads ombres par ue simulatio. Sur le graphique, o représete X e foctio de où les variables X i sot idépedates et sot de loi N (0, 1). La loi des grads ombres ous assure que la suite X coverge p.s. vers 0 (par ailleurs o peut facilemet motrer que X est de loi N (0, 1/). Das le deuxième exemple, o pred X = i=1 2 i b i où la suite X est costruite à l aide d ue suite de variables b i idépedates, de loi Beroulli 1/2. Deux simulatios de la suite (X ) sot présetées (voir page suivate, 2ème et 3ème figure). O peut voir que la limite est pas la même sur ces deux simulatios. 44

47 Covergece das L p Défiitio : Soit X, X 1, X 2,... des variables aléatoires défiies sur le même espace de probabilité (Ω, A, P) ; o dit que X coverge vers X das L p et o ote X si X L p (c est-à-dire si E( X p ) < + ) et si L P X E( X X p ) Covergece e loi. Caractérisatios Défiitio : O cosidère des variables aléatoires (X ) 0 et X, à valeurs das R (ou R d ) o écessairemet défiies sur le même espace de probabilité. O dit que la suite (X ) coverge e loi vers X si pour toute foctio f cotiue borée sur R (ou R d ), E(f(X )) E(f(X)); (27) o ote X loi X. Remarquer que comme les variables X peuvet être défiies sur des espaces différets, la quatité E(f(X ) f(x)) est pas défiie a priori : o a besoi de P pour défiir l espérace, et le P permettat de calculer E(f(X )) et celui permettat de calculer E(f(X)) e sot pas les mêmes. Aisi, das le cas où les espaces sot différets, la défiitio alterative suivate, met plus e exergue les objets : Défiitio : O cosidère des variables aléatoires X, X 1, X 2,..., défiies sur des espaces de probabilités (Ω, A, P), (Ω 1, A 1, P (1) ), (Ω 2, A 2, P (2) ),..., à valeurs das R (ou R d ). O ote E k l espérace sur l espace (Ω k, A k, P (k) ). O dit que la suite (X ) coverge e loi vers X si pour toute foctio f cotiue borée sur R (ou R d ), E (f(x )) E(f(X)); (28) Cette covergece est très différete de celles vues jusqu ici. Das les covergeces vues plus haut (proba, p.s., L p ), les variables aléatoires sot vues comme des foctios de Ω das R. Aisi, 45

48 la covergece p.s. est vraimet ue covergece poctuelle (P p.p.) sur Ω, c est-à-dire, P presque sûremet, (X (ω)) coverge. Das la covergece e loi, ce est plus du tout le cas. Les variables e sot plus défiies (a priori) sur le même espace : la variable X est défiie sur u espace Ω mui d ue mesure P. La covergece poctuelle a plus de ses doc. La covergece e loi e décrit pas du tout la covergece de la suite X ; elle décrit la covergece de la suite de mesures P X (la covergece des lois). Remarque 14 La covergece e loi de X vers X implique pas la covergece de E(X ) vers E(X) (car la foctio x x est pas borée) ; elle implique pas o plus la covergece d aucu momet de X vers ceux de X. Le fait que f soit borée (et mesurable puisque cotiue) implique que E(f(X )) aussi bie que E(f(X)) sot bie défiies et fiies. Exemples : (a) Soit X i ue suite de variables idépedates de loi N (0, 1). Cette suite coverge e loi vers ue variable de loi N (0, 1) ; il y a évidemmet pas das ce cas de covergece de la suite umérique (X i ) i (e effet, e utilisat le lemme de Borel-Catelli (2), o peut aisémet motrer, qu avec probabilité 1, u ombre ifii de X i (ω) sot supérieures à 1, mais aussi, u ombre ifii de X i (ω) sot iférieures à 1. Ue telle suite e coverge pas.) (b) Si X i est ue suite de variables aléatoires de loi de Poisso P(1/i). La suite (X i ) i coverge e loi vers la variable X dégéérée e 0 (c est-à-dire la variable de loi image δ 0 : P(X = 0) = 1). E effet E(f(X i )) E(f(X)) = + (f(k) e 1/i k=0 ) k!i k f(0) = f(0)(e 1/i 1) + + (f(k) e 1/i k=1 ) k!i k. Le membre de droite ted vers 0 lorsque i ted vers + : c est clair pour f(0)(e 1/i 1) ; pour + (f(k) e 1/i ) k!i k o utilise le fait que chaque terme ted vers 0 (lorsque i + ) et le théorème de k=1 covergece domié : f(k) e 1/i k!i k f est borée. Propositio 20 Si X f(k) k! qui est le terme gééral d ue série covergete puisque loi loi X e loi alors, pour toute foctio f cotiue, f(x ) f(x). Preuve : O doit prouver que pour g cotiue borée, E(g(f(X ))) E(g(f(X))). Or, comme loi g f est cotiue borée, la covergece X X etraîe que E(g(f(X ))) E(g(f(X))). Remarque 15 (Covergece e loi pour des couples de v.a.) La défiitio 5. das le cadre de la covergece e loi des v.a. bidimesioelles peut être reformulée comme suit : Soit (X, Y ), (X 1, Y 1 ), (X 2, Y 2 ),... des couples de variables aléatoires (à valeurs réelles). O dit que la suite (X, Y ) coverge e loi vers (X, Y ), si, pour toute foctio H, cotiue borée de R 2 das R, E(H(X, Y )) E(H(X, Y )). 46

49 Propositio 21 Si la suite (X, Y ) coverge e loi vers (X, Y ), pour toutes foctios cotiues loi f et g (de R das R) (f(x ), g(y )) (f(x), g(y )). De plus si X et Y sot idépedats, alors X et Y aussi. Preuve : O doit prouver que pour H cotiue boré de R 2 das R, E(H(f(X ), g(y ))) E(H(f(X), g(y ))). Soit L l applicatio de R 2 das R défiie par L(x, y) = (f(x), g(y)). L applicatio L est cotiue. Doc H L est cotiue borée. Il suit que E(H(L(X, Y ))) ted vers loi E(H(L(X, Y ))) ; aisi (f(x ), g(y )) (f(x), g(y )). Motros maiteat que si la suite (X, Y ) loi (X, Y ), et si, de plus, X et Y sot idépedats, alors X et Y aussi. Pour f et g cotiues borées, l idépedace de X et Y doe E(f(X )g(y )) = E(f(X ))E(g(Y )). (29) Maiteat, o a, puisque l applicatio (x, y) f(x)g(y) est cotiue borée, puisque (X, Y ) (X, Y ), E(f(X )g(y )) E(f(X)g(Y )). (30) loi loi loi D autre part, si (X, Y ) (X, Y ), alors X X (et Y Y ). E effet, il suffit de predre g 1 das (30) pour s e covaicre. Aisi E(f(X ))E(g(Y )) E(f(X))E(g(Y )) ; par uicité de la limite das (29), o a E(f(X)g(Y )) = E(f(X))E(g(Y )). Ceci implique que la mesure P X,Y est la mesure produit P X P Y, c est-à-dire que X et Y sot idépedats ; e effet, o a obteu f(x)g(y)dp X,Y (x, y) = f(x)dp X (x) g(y)dp Y (y) pour toute foctio cotiue borée. O peut maiteat, motrer que ceci est vrai pour f = A et g = B pour A et B borélies par desité. O obtiet alors que f(x)g(y)dp X,Y (x, y) = P((X, Y ) A B) = f(x)dp X (x) g(y)dp Y (y) = P(X A)P(Y B). loi 6. Critères gééraux de covergece e loi Propositio 22 Soiet (X ) et X des variables aléatoires réelles de foctios de répartitio F X et F. Les deux propositios suivates sot équivaletes : loi (i) X X (ii) F X (x) F (x) pour tout x, poit de cotiuité de F. Il s agit de la covergece simple de la suite de foctios F X vers F sur les poits de cotiuité de F ; puisque F est croissate, l esemble des poits de discotiuité de F est au plus déombrable. Si a et b sot deux poits de cotiuité de F, o a P(X ]a, b]) = F X (b) F X (a) F (b) F (a) = P(X ]a, b]). (31) 47

50 Si a et b sot des poits de cotiuité de F ceci sigifie que X e charge i a i b, sas quoi F préseterait u saut e ces poits. O voit bie sur (31) la sigificatio de la covergece e loi : la probabilité de présece de X das u esemble (o chargé au bord par X) coverge vers la probabilité que X soit das cet esemble. Preuve : Motros (ii) = (i). Preos ue foctio g de classe C 1 à support compact K. Sa dérivée g est borée à support compact K ; o a E(g(X )) = R g(x)dp X (x) = R ( x ) g (t)dt dp X (x) = R (1 F X (x))g (x)dx; (e effet 1 F X (x) = + x dp X (t)). Comme la mesure Kdλ est fiie, et comme (1 F X )g coverge simplemet vers (1 F X )g sauf sur u esemble égligeable, le théorème de covergece domiée de Lebesgue ( (1 F X )g g ) implique que lim E(g(X )) = E(g(X)). Maiteat, comme les foctios C 1 à support compact sot deses parmi les foctios cotiues à support compact (pour la orme uiforme) o peut étedre le résultat aux foctios cotiues à support compact. Preos maiteat ue foctio f cotiue et borée par 1 ; motros que E(f(X )) E(f(X)). par liéarité de l espérace, ceci implique que ceci est aussi vrai pour toute foctio cotiue borée, loi et doc, par défiitio que X X. Pour tout ɛ > 0, il existe u itervalle compact A = [ M, M] tel que, pour assez grad, P(X A C ) < ɛ (ceci proviet du fait que la suite F X (M) F X ( M) coverge pour tous poits M et M de cotiuité de F X ) ; o a de plus pour le choix d u M adéquat, P(X A C ) ɛ. O approche maiteat f sur A par ue foctio g ɛ à support compact comme suit : g ɛ coicide avec f sur A ; sur [M, M + ɛ], g ɛ est liéaire par morceaux et vaut 0 e M + ɛ (même costructio au voisiage de M). g ɛ est ulle ailleurs. O a alors, E(f(X )) E(g ɛ (X )) E( f(x ) g ɛ (X ) ) = E( f(x ) g ɛ (X ) A C(X )) 2 f P(X A C ) 2 ɛ. et la même formule est valable e remplaçat partout X par X. Or, E(g ɛ (X )) coverge vers E(g ɛ (X)) puisque g ɛ est cotiue à support compact (et doc, pour assez grad, E(g ɛ (X )) E(g ɛ (X)) ɛ. Aisi, pour assez grad, o a E(f(X )) E(f(X)) ) E(f(X )) E(g ɛ (X )) + E(g ɛ (X )) E(g ɛ (X)) + E(f(X)) E(g ɛ (X)) 2 ɛ + ɛ + 2 ɛ; ceci prouve que E(f(X )) coverge vers E(f(X)). Motros maiteat (i) = (ii). Soit x poit de cotiuité de F. Soiet φ ɛ et ψ ɛ à valeurs das [0, 1] les foctios cotiues ci-dessous : o a, pour tout ɛ, par la covergece e loi, lim E(φ ɛ (X )) = E(φ ɛ (X)) et lim E(ψ ɛ (X )) = E(ψ ɛ (X)). (32) 48

51 PSfrag replacemets ψɛ 1 1 φ ɛ x x + ɛ x ɛ x O a, pour tout, Compte teu que E(φ ɛ (X )) F X (x) E(ψ ɛ (X )). (33) F (x ɛ) E(φ ɛ (X)) E(ψ ɛ (X)) F (x + ɛ) (34) et que F est cotiue e x, e faisat tedre ɛ vers 0 das (34) o voit que Combiat (32) et (33), o a lim E(φ ɛ(x)) = lim E(ψ ɛ (X)) = F (x). (35) ɛ 0 ɛ 0 E(φ ɛ (X)) lim if O fait tedre ɛ vers 0 et (35) permet alors de coclure. F X (x) lim sup F X (x) E(ψ ɛ (X)). Covergece e loi pour des variables aléatoires sur N Propositio 23 Soiet X 1, X 2,... et X des variables aléatoires à valeurs das N. Pour que X loi X il faut et il suffit que pour tout k N P(X = k) P(X = k). (36) Remarque 16 O suppose que la limite est ue loi de probabilité ;ceci est pas assuré par la seule suppositio que (P(X = k)) coverge. Preuve : Si (36) a lieu, alors la F X (k) coverge vers F X (k) pour tout k etier (F X (k) = P(X = 0) + + P(X = k) et la limite d ue somme fiie et la somme des limites (lorsqu elles existet, et c est le cas ici). Soit x réel, F X (x) = F X ([x]) coverge vers F X (x) = F X ([x]) ; aisi, sous l hypothèse (36), F X coverge simplemet vers F X ; o coclut grâce à la propositio 22. Réciproquemet, supposos que F X coverge poctuellemet vers F X ; comme F X (x) est costate etre les etiers, F X aussi. D autre part, par le même argumet que si dessus, o voit facilemet, par itératio que la covergece de F X (k) etraie la covergece des P(X = j) (predre d abord k = 0 puis k = 1 et établir les covergeces des P(X = j) successivemet). Propositio 24 (i) Si (X ) est ue suite de variables aléatoires à valeurs das N covergeat e loi vers X alors G X coverge simplemet vers G X sur [0, 1]. (ii) Si la suite des foctios géératrices (G X ) coverge simplemet sur [0,1] vers ue foctio G X série géératrice d ue variable X, alors X coverge e loi vers X. 49

52 Preuve : (i) Notos p () k = P(X = k) et p k = P(X = k). O va utiliser la propositio 23 et le théorème de covergece domiée (avec la mesure de comptage). Tout d abord remarquos que la covergece au poit 1 est évidete (car G X (1) = G X (1) = 1). Soit x [0, 1[ fixé. Pour tout k, o a les deux poits suivats : p () k xk x k et p () k xk p k x k lorsque +. Si M désige la mesure de comptage (c est-à-dire, M = δ k ) k 0 x k = k 0 k N x k dm(k) = 1 1 x < +. o a, d après le théorème de Lebesgue G X (x) = p () k xk = p () k xk dm(k) p k x k dm(k) = p k x k = G X (x). k 0 k N k N k 0 (ii) La preuve de (ii) se fait par iductio. Tout d abord, o voit que p () 0 coverge vers p 0 (e preat x = 0). O ote P(k) la propriété ( p () i coverge vers p i pour tout i k ), de sorte que l o sait déja que P(0) est vraie. Pour k 0, motros que P(k) vraie implique P(k + 1) vraie. Supposos que P(k) soit vraie. Pour x ]0, 1[, o a alors G X (x) k i=0 p() i x i x k+1 G X(x) k i=0 p ix i x k+1 0. Le terme de gauche se réécrit g (x) = p () k+1 p k+1 + i k+2 (p() i p i )x i (k+1). La valeur absolue de la somme est borée par x/(1 x). La covergece de g (x) vers 0 implique que p () k+1 coverge vers p k+1 (e effet, car o doit avoir lim sup p () k+1 p k+1 x/(1 x)). Aisi P(k + 1) est vraie, et par récurrece o voit que P(k) est vraie pour tout k. Il s esuit que (ii) est vraie. Théorème 3 (Lévy) : Soit (X ) ue suite de variables aléatoire à valeurs das R. O a : loi i) Si X X alors Φ X coverge simplemet vers Φ X. ii) Si la suite foctio Φ X coverge simplemet vers ue foctio Φ cotiue e 0, alors Φ est loi la foctio caractéristique d ue variable aléatoire X ; de plus X X Preuve : (i) = (ii) est ue coséquece du fait que pour tout t, x e itx est cotiue et borée. (ii) = (i) admis (ue preuve classique utilise la trasformée de Fourier iverse et se trouve das de ombreux ouvrages). 7. Théorème de la limite cetrale Théorème 4 Soit (X ) ue suite de variables aléatoires réelles, idépedates et de même loi, de moyee m et de variace fiie et o ulle σ 2. Pour tout, o ote S = X i. i=1 O a S m σ loi N (0, 1). 50

53 Remarque 17 L idépedace des variables est primordiale. O peut s e redre compte e preat u cas extrème : si o pred X 1 = X 2 =..., (avec moyee 0 et variace 1, par exemple) alors S m = X 1, et ceci e coverge pas vers ue N (0, 1). Preuve du théorème de la limite cetrale : Quitte à remplacer les X i par X i E(X i ) o peut supposer que m = 0. Puisque la foctio caractéristique d ue somme de v.a. idépedates est le produit des foctios caractéristiques de ces variables, o a : Φ S it S/σ (t) = E(e σ t ) = Φ X ( σ ). Le fait que X ait ue variace ous assure que Φ X est de classe C 2. Φ admet doc u développemet de Taylor d ordre 2, e 0 : Φ X (t) = 1 + tφ X (0) + t2 2 Φ X (0) + o(t2 ). m = 0 et Var(X) = σ 2 implique que Φ X (0) = 0 et Φ X (0) = σ2. Aisi, au voisiage de 0, Φ X (t) = 1 σ2 t 2 + o(t 2 ). 2 Or, lorsque ted vers +, (à t fixé), t/σ ted vers 0. O a doc log Φ X (t/σ ) = σ2 t 2 E preat l expoetielle, o voit que t2 + o(1) = 2σ2 2 + o(1). Φ S/σ (t) exp( t 2 /2), qui est la foctio caractéristique d ue N (0, 1). Il s esuit que N (0, 1). S σ coverge e loi vers ue Le théorème de la limite cetrale est seulemet ue covergece e loi comme le motre la figure suivate où est represeté la suite (S(i)/ i) i où S(i) = i j=1 X j et où les X j sot des variables valat ±1 avec proba 1/2. S(i)/ i/4 coverge e loi vers ue N (0, 1). O voit que S(i)/ i/4 e coverge pas e tat que suite. C est la loi de S(i)/ i/4 qui coverge, d après le théorème de la limite cetrale. La covergece e loi est pas visible sur ce gere de dessi. Pour voir quelque PSfrag replacemets chose, il faudrait, par exemple, tracer la foctio de répartitio de S(i)/ i/4. O verrait alors, que F S(i)/ i/4 coverge simplemet vers F N (0,1). 51

54 8. Hiérarchie des covergeces O a quatre covergeces à classer : covergece e proba, p.s., L p et e loi. Les trois premières sot du même type comme déjà dit et sot doc aturellemet comparables. La quatrième est u peu à part, et d ailleurs c est la plus faible des covergeces. E effet, preos par exemple ue suite (X ) de v.a. gaussiees N (0, 1) idépedates. Cette suite coverge e loi. Par cotre, la suite (X ) e coverge das aucu des trois autres ses. L idépedace des X i empêche la suite X i (ω) de coverger. Propositio 25 Soit X, X 1,..., X,... des variables aléatoires défiies sur le même espace (Ω, A, P) et à valeurs das R a) o a pour p > q, L p L q (X X) = (X X) p.s proba loi (X X) = (X X) = (X X) = proba p.s. b) Si (X X) il existe ue suite extraite X k telle que (X k X) k p.s. c) Si (X X) et s il existe ue variable aléatoire Y domiat la suite X et apparteat à L p alors (X L p X) L p p.s. d) Si (X X) il existe ue sous suite extraite X k telle que (X k X) k Preuve : (a). Motros d abord que la covergece e probabilité implique la covergece e loi grâce à la covergece des foctios caractéristiques (théorème de Lévy) : E(e itx ) E(e itx ) E( e itx e itx X X η) + E( e itx e itx X X >η). Soit ɛ > 0 fixé. Pour tout t, le premier terme das le membre de droite peut être redu iférieur à ɛ grâce à l uiforme cotiuité de x e itx (e preat η suffisammet petit) ; fixos maiteat u tel η. Le deuxième terme du membre de droite ted vers 0 car majoré par 2P( X X > η) ; pour assez grad, il est doc iférieur à ε. La covergece L p implique la covergece L q est u résultat classique sur les espaces de mesure fiie et u corollaire d Hölder ; o écrit E( X X q ) = X X q dp = X X q 1, (il s agit de la orme 1 cotre la mesure P ; e utilisat cette iterprétatio, o a Ω ( ) E( X X q ) = E( X X q.1) E( X X q p q ( ) p q E(1 p p q p p q (E( X X p) q p 0. La covergece L p implique la covergece e proba : d après Markov, pour tout ɛ > 0, o a P( X X ɛ) E( X X p )/ɛ p 0. 52

55 la covergece p.s. implique la covergece e probabilité : O a P(lim X X = 0) = 1, doc, P(lim sup ( X X ɛ)) = 0. O a lim sup ( ) = B avec B = k {ω, X (ω) X(ω) ɛ} ; les B formet ue suite décroissate d évéemets. O a doc P(lim sup X X ɛ) = lim P(B ) = 0; o coclut e utilisat le fait que P( X X ɛ) P(B ). (b). La covergece e probabilité implique, que pour tout i 1, il existe N i tel que N i, P( X X 1/i) 1 i 2 ; ceci est ue coséquece du fait que P( X X 1/i) + suite N i strictemet croissate (das N). Preos A i = {ω X Ni (ω) X(ω) 1/i}. 0. O peut de plus choisir ue Les esembles A i sot des élémets de la tribu A. D après le lemme de Borel-Catelli (1), comme P(Ai ) 1/i 2 = π 2 /6 < +, P(lim sup A i ) = 0. Ceci implique que P p.s. ω appartiet à au plus qu u ombre fii de A i. Mais si ω appartiet à u ombre fii de A i ceci sigifie que X Ni (ω) coverge vers X(ω). O a doc établi que X Ni (ω) coverge vers X(ω) P p.s.. (c) o suppose qu il existe Y telle que, pour tout ω, X (ω) Y (ω) et E(Y p ) < + ; d après le théorème de covergece domiée, comme X X p ted vers 0 et est domié par 2 Y p, E( X X p ) = Ω X (ω) X(ω) p d P(ω) 0. Le fait que X L p viet du fait que si X Y alors X Y (d) La covergece das L p implique la covergece e proba et doc l existece d ue sous suite covergeat p.s. d après (b). Propositio 26 Soit C ue costate ; les deux assertios suivates sot équivaletes : proba a) X C. loi b) X C. (O devrait ecore écrire, X X avec X costate, égale à C, p.s..) Preuve PSfrag : (a) replacemets = (b) Ceci est ue coséquece du (a) de la propositio précédete. (b) = (a) E preat g ɛ la foctios cotiue et borée dessiée ci-dessous o a, 1 g ɛ C ɛ C C + ɛ P( X C ɛ) E(g ɛ (X )) E(g ɛ (X)) = g ɛ (C) = 0. Ceci implique bie sûr la covergece e probabilité de X vers X C. 53

56 V. ANNEXES : Rappels d itégratio et de théorie des esembles 1. Tribus et mesures Tribu : - Soit Ω u esemble. O appelle tribu (ou σ-algèbre) de Ω ue partie de P(Ω) coteat l esemble vide, stable par passage au complémetaire, stable par uio (ou itersectio) déombrable. Si A est ue tribu, le couple (Ω, A) est appelé espace mesurable. Pour C P(Ω), o appelle tribu egedrée par C la plus petite tribu de Ω cotetat C. Mesure : O appelle mesure sur u espace mesurable (Ω, A) ue applicatio µ : A R + telle que : µ( ) = 0 Si les A costituet ue suite d élémets deux à deux disjoits de la tribu A, µ( A ) = µ(a ) Probabilité : Ue probabilité sur A (tribu de Ω) est ue mesure de masse totale 1 (µ(ω) = 1). Foctio mesurable : Soiet (Ω, A) et (E, E) deux espaces mesurables. Ue foctio f de Ω das E est dite mesurable si pour tout b E, f 1 (b) A. Propriété des probabilités : (Das ce qui suit P est ue probabilité sur A, tribu de Ω) Si les A formet ue suite croissate de A, P( A ) = lim P(A ) Si les A formet ue suite décroissate de A, P( A ) = lim P(A ) 2. Itégratio Théorème de Beppo Levi : Si (f ) est ue suite croissate de foctios positives (et mesurables) covergeat simplemet alors lim f (x)dµ(x) = lim f (x)dµ(x). Théorème de covergece domiée de Lebesgue : Si (f ) est ue suite de foctios (mesurables) covergeat simplemet, telle que les foctios f sot domiées par ue foctio g L 1, alors lim f (x)dµ(x) = lim f (x)dµ(x). Théorème de Fubii : Si f est ue foctio de E F à valeur das R, mesurable par rapport à la tribu produit (des tribu sur E et F ), alors, si f L 1 (µ λ), o a, fdµ λ = f(x, y)dµ(x)dλ(y) = f(x, y)dλ(y)dµ(x). E F F E (O a bie sûr, pour presque tout y, x f(x, y) mesurable et itégrable, aisi que x f(x, y)dy (et de même e échageat x et y). Le théorème de Fubii-Toelli assure que l iterversio est légale das le cas où f est positive et mesurable. Espaces L p : L espace L p est l esemble des foctios de puissace pième itégrable. Lorsque la mesure est fiie, (par exemple lorsqu il s agit d ue mesure de probabilité), o a : L p L q si p q. E F 54

57 3. Quelques élémets sur les mesures sur R a. Décompositios des mesures réelles Les théorèmes qui suivet (comme les précédats d ailleurs) sot doés sas preuves. Celles-ci peuvet être trouvées das tout bo livre de théorie de la mesure das u cadre plus gééral (voir par exemple Rudi Aalyse réelle et complexe p 117-). Das la suite, o se pose la questio suivate : soit µ ue mesure sur L(Ω) (Ω état u sous esemble de R) ; que peut-o dire de cette mesure par rapport à celle de Lebesgue? Soiet µ et η deux mesures positives sur ue tribu M. Défiitio : O dit que η est absolumet cotiue par rapport à µ, et o écrit si η(e) = 0 pour tout E M tel que µ(e) = 0. η << µ, Défiitio : S il existe u esemble A M tel que η(e) = η(e A) pour tout E M, o dit que η est portée par A. Défiitio : Deux mesures µ 1 et µ 2 sur ue tribu M sot dites mutuellemet sigulières (ou étragères) s il existe deux esembles A et B disjoits de M tels que A porte µ 1 et B porte µ 2. O ote µ 1 µ 2. O ote das toute la suite λ la mesure de Lebesgue, L(Ω) la tribu des Lebesgue mesurables. Théorème de décompositio de Lebesgue : Soit µ ue probabilité sur L(Ω). a) Il existe u uique couple µ a et µ s sur L(Ω) tel que : µ = µ a + µ s, µ a << λ et µ s λ Les mesures µ a et µ s sot positives et µ a µ s b) Il existe ue uique foctio de L 1 (λ) telle que µ a (E) = h dλ pour tout E τ Le poit (b) très importat, s appelle le théorème de Rado-Nikodym. b. Applicatio aux mesures de probabilité E Preos tout d abord des cas particuliers pour bie voir ce qui se passe. Mesure absolumet cotiue par rapport à la mesure de Lebesgue. (Preos Ω = R). Si µ est abs. cot. par rapport à λ, d après le théorème de décompositio de Lebesgue µ s est la mesure ulle, et o a l existece d ue foctio h (itégrable et même d itégrale 1) telle que, pour tout A Lebesgue mesurable, µ(a) = h(x)dλ(x) = h(x)dx. (37) A 55 A

58 O dit que h est la desité de µ par rapport à la mesure de Lebesgue. Réciproquemet, toute foctio f, Lebesgue-mesurable, positive et d itégrale 1 permet de costruire ue mesure µ absolumet cotiue par rapport à la mesure de Lebesgue grâce à la formule (37). Mesure sigulière. Si µ est sigulière elle e charge qu u esemble A Lebesgue égligeable. Aisi, µ a est la mesure ulle. Supposos que A puisse être choisi déombrable (A est pas uique das la décompositio ; il est défii à u µ-égligeable près). Si A est déombrable, µ est ue mesure sur u déombrable. Elle peut s écrire comme somme podérée de Dirac. Si A est pas déombrable, retiros les évetuelles Dirac. Il reste ue mesure qui e charge pas les poits et qui est pas absolumet cotiue par rapport à la mesure de Lebesgue. Voyos, sur u exemple, à quoi ressemble ue telle mesure : preos C l esemble de Cator (il est égligeable et o déombrable). C est l esemble des ombres e s écrivat e base 3 qu avec des 0 et des 2. Notos x (3) = 0, x 1 x 2 x 3... pour le développemet de x e base 3. Cosidéros maiteat l écriture de x e base 2 des ombres de [0, 1[ que l o ote x (2). Les dyadiques (les décimaux de la base 2), c est-à-dire, les ombres possédat ue écriture de la forme x (2) = 0, x 1 x 2... x k (pour u certai k et x i = 0 ou 1) possèdet deux écritures (ue avec u ombre ifii de 1, l autre avec u ombre ifii de 0). O choisit l écriture avec des 0. O défiit f de [0, 1] et à valeurs sur [0, 1] par où f(x) = y y (3) = 2x (2) : O a par exemple, si x (2) = 0, , (f(x)) (3) = 0, (o a multiplié les décimales par 2 et chagé de base). f est évidemmet croissate et est doc boréliee. De plus l image de f est coteue das C. O peut doc costuire la mesure µ sur B[0, 1] suivate : µ(a) = µ(a C) = λ(f 1 (A C)). Cette mesure est bie défiie car, f état croissate, elle est boréliee. Cette mesure charge évidemmet uiquemet le Cator, mais elle e charge pas les poits car λ e les charge pas (il est de plus aisé de voir que cette mesure est pas ulle). Le théorème de décompositio de Lebesgue affirme doc que toute mesure de probabilité peut s écrire de maière uique sous la forme de deux mesures. E fait, comme o l a vu das le deuxième exemple, la mesure sigulière peut ecore être décomposée comme ue somme de Dirac et ue mesure e chargeat pas les poits. La partie somme de Dirac costitue la partie probabilité discrète de la mesure (étudiée das le premier chapitre). L autre partie sigulière sera laissée de côté das ce cours, mais il est importat parfois de se souveir qu elle existe. Référeces [1] J. Bertoi (2000), Probabilités : Cours de licece de mathématiques appliquées, Paris 6. [2] L. Breima (1968) Probability., SIAM. [3] P. Flajolet et Sedgewick The average case aalysis of algorithm [4] J. Jacod (1999) Probabilités, Cours de licece, Paris 6. 56