Probabilités et Statistique

Transcription

1 Probabilités et Statistique Jea-Michel JOLION Départemet Géie Idustriel 3ème Aée Versio électroique : jolio/stat/poly.html May 26, 2006 INSA Lyo - Bât. J. Vere Villeurbae Cedex - tél : Fax : Jea-Michel.Jolio@isa-lyo.fr 1

2 Sommaire 1 Probabilités I Notios de probabilités I Aalyse combiatoire (rappels) I Factorielle I Arragemets de p objets parmi I Permutatios I Combiaisos de p parmi I Répétitios I Epreuves et Evèemets I Espace probabilisé I Axiomatique de Kolmogorov I Propriétés élémetaires I Probabilité coditioelle - Théorème de Bayes I Théorème des probabilités composées I Coséqueces I Théorème de Bayes - Probabilités des causes I Le paradoxe de Bertrad I-5 2 Variables aléatoires II Variable aléatoire : défiitios II Foctio de répartitio II Défiitio II Propriétés II Foctio de répartitio d ue v.a. discrète II Foctio de répartitio d ue v.a. cotiue II Couple de variables aléatoires II Défiitios II Cas d u couple de v.a. cotiues II Cas d u couple de v.a. discrètes II Distributio coditioelle II Loi d ue foctio d ue ou plusieurs variables aléatoires II-3 2

3 2.5.1 Trasformatio d ue variable aléatoire II Desité de probabilité d ue somme de V.A. idépedates II Moyee et espérace mathématique d ue v.a II Notio de moyee pour ue v.a. discrète II Espérace mathématique II Momets II Défiitios II Quelques momets particuliers II Variace, covariace et écart-type II Variable cetrée réduite II Coefficiet de corrélatio II Exemple II Iégalités de Bieaymé - Tchebyshev - Markov II Quelques lois de probabilités II Les valeurs pricipales II Liaisos etre lois de probabilités II Quelques relatios II Loi des grads ombres II Covergece stochastique II Théorème cetral limite II Simulatio d ue variable aléatoire II Méthode géérale par trasformatio iverse II Loi uiforme II Loi expoetielle II Loi biomiale II Loi de Poisso II Loi ormale : ℵ(µ, σ 2 ) II Autres idicateurs II Histogramme II Médiae II Mode II Autres moyees II-18 3

4 3 Estimatio III Estimatio poctuelle III Itroductio III Estimateur coverget III Estimateur sas biais III Estimateur efficace III Robustesse III Méthode du maximum de vraisemblace III Estimatio par itervalle de cofiace III Estimatio d ue proportio III Estimatio d ue moyee III Estimatio d ue variace III Estimatio robuste III Iterprétatio de doées: l approche bayésiee III Le traitemet de l a priori III Le traitemet de l a posteriori III Le cas moodimesioel III Le cas gééral III Estimatio itérative III Régressio liéaire III Formalisatio III Résolutio das le cas d ue distributio ormale des écarts III Le cas de la droite III Itervalle de cofiace sur le coefficiet de corrélatio III Filtre de Kalma III Estimatio d u mode III Estimatio d ue desité III-19 4 Tests d hypothèse IV Itroductio IV Hypothèses et erreurs IV Tests bilatéral et uilatéral IV Régio d acceptatio et régio critique IV-2 4

5 4.1.4 Choix d u test IV Ifluece de l échatilloage IV Test etre deux hypothèses simples IV La méthode de Neyma et Pearso IV Test de la moyee d ue loi ormale d écart-type cou IV Test de la moyee d ue loi ormale d écart-type icou IV Test d ue variace de loi ormale, la moyee état coue IV Test d ue variace de loi ormale, la moyee état icoue IV Test d ue proportio IV Test etre hypothèses composées IV Tests UMP IV Test d ue moyee de loi ormale, l écart-type état cou IV Test d ue moyee de loi ormale, l écart-type état icou IV Test d ue variace de loi ormale, la moyee état coue IV Test d ue variace de loi ormale, la moyee état icoue IV Test d ue proportio IV Test de comparaiso IV Comparaiso de deux moyees IV Comparaiso de deux variaces IV Comparaiso de deux proportios IV Test du rapport des vraisemblaces maximales IV Test d adéquatio IV Test du χ IV Test de Kolmogorov IV Test de Cramer-Vo Mises IV Test d idépedace IV Test des différeces premières IV Test de Spearma IV Test de comparaiso d échatillos IV Test des variaces de Fisher-Sédécor IV Test de Studet IV Test de Spearma IV-17 5

6 4.9 Aalyse de la variace IV Les doées de l aalyse IV Le test IV Aalyse des cotrastes IV-19 5 Le Cotrôle Statistique de Process: SPC V Itroductio V Capabilité d u processus V Etude de la capabilité des processus V Idicateurs gééralisés V Les cartes de cotrôle V-4 6 Tables T-1 T-1 Foctio de répartitio de la loi ormale cetrée réduite T-1 T-2 Fractiles de la loi ormale cetrée réduite T-2 T-3 Fractiles de la loi du χ 2 à ν degrés de liberté T-3 T-4 Valeurs f de la variable de Fisher-Sédécor F (ν 1 ; ν 2 ) ayat la probabilité 0.10 d être dépasséest-5 T-5 Valeurs f de la variable de Fisher-Sédécor F (ν 1 ; ν 2 ) ayat la probabilité 0.05 d être dépasséest-6 T-6 Valeurs f de la variable de Fisher-Sédécor F (ν 1 ; ν 2 ) ayat la probabilité 0.01 d être dépasséest-8 T-7 Table de distributio de T (Loi de Studet) T-10 T-8 Table du coefficiet de corrélatio des rags de Spearma de deux variables aléatoires idépedates T-11 T-9 Foctio de répartitio de la statistique de Cramer-Vo Mises T-13 T-10 Table du test de Kolmogorov-Smirov T-14 7 Exercices VII Probabilités VII Variables aléatoires VII Estimatio VII Tests d hypothèses VII SPC VII Sujets gééraux VII Problème VII Problème VII-19 6

7 7-6.3 Problème VII Problème VII-24 8 Bibliographie Bib-1 7

8 Itroductio Ce polycopié est u support du cours de Probabilités-Statistique de 3ème aée du départemet Géie Idustriel de l INSA de Lyo. Il regroupe les élémets fodametaux vus das ce cours. Il couvre plus que ce qui est réellemet abordé e cours car il a égalemet vocatio à itroduire des cocepts plus avacés (comme les statistiques robustes ou la maîtrise des systèmes) e termes de culture géérale. Il existe pas de recueil des aales des exames des aées précédetes car les exercices et problèmes figurat das ces exames sot itroduits chaque aée das la ouvelle liste des exercices fouries e fi de polycopié, avec le plus souvet des élemets de correctio. Le coteu de ce polycopié egage que so auteur, das le cadre de ce cours de l INSA de Lyo. Toute reproductio partielle ou totale, pour toute utilisatio est assujétie à la demade formulée auprès de l auteur. Ue versio électroique est dispoible sur le site web jolio/stat/poly.html 8

9 1 Probabilités 1.1 Notios de probabilités Il existe plusieurs maières de défiir ue probabilité. Pricipalemet, o parle de probabilités iductives ou expérimetales et de probabilités déductives ou théoriques. O peut les défiir comme suit : Probabilité expérimetale ou iductive : la probabilité est déduite de toute la populatio cocerée. Par exemple, si sur ue populatio d u millio de aissaces, o costate garços et filles, o dit que P[garço] = 0.53 Probabilité théorique ou déductive : cette probabilité est coue grâce à l étude du phéomèe sousjacet sas expérimetatio. Il s agit doc d ue coaissace a priori par oppositio à la défiitio précédete qui faisait plutôt référece à ue otio de probabilité a posteriori. Par exemple, das le cas classique du dé parfait, o peut dire, sas avoir à jeter u dé, que P[ obteir u 4 ] = 1 6. Comme il est pas toujours possible de détermier des probabilités a priori, o est souvet ameé à réaliser des expérieces. Il faut doc pouvoir passer de la première à la deuxième solutio. Ce passage est supposé possible e terme de limite (i.e. avec ue populatio dot la taille ted vers la taille de la populatio réelle). 1.2 Aalyse combiatoire (rappels) Factorielle Si ue actio peut être obteue de 1 faços différetes, puis suivat cette actio, de 2 faços différetes idépedates des précédetes, puis... alors, le ombre de possibilités correspodat à l esemble de ces actios est N = p i=1 i O appelle factorielle et l o ote! le ombre :! = i=1 i O peut aussi défiir la factorielle grâce à la foctio Γ : Γ(x) = 0 u x 1 e u du qui a les propriétés suivates : Γ( + 1) =! pour etier et Γ(x + 1) = xγ(x). La formule de Stierlig permet de costruire ue estimatio de la factorielle très valable pour 10 :! e 2π( ) Arragemets de p objets parmi Nombre de possibilités de rager p objets choisis parmi : A p =! ( p)! = ( 1)... ( p + 1) Permutatios Arragemet de objets parmi e teat compte de l ordre : P = A =!. Par exemple, il y a 6 = 3! permutatios possibles de 3 symboles a, b, c : (a, b, c), (a, c, b), (b, a, c), (b, c, a), (c, a, b), (c, b, a). I-1

10 1.2.4 Combiaisos de p parmi O e tiet pas compte de l ordre des objets das le ragemet : C p =! p!( p)! = Ap p! = Ap P p. La otatio aglosaxoe pour les combiaisos est u peu différete : C p ( p ). Propriétés : C 0 = C = 1 C p = C p C p = C p Cp 1 p=1 C p = Répétitios Soiet objets dot o dispose ue ifiité d exemplaires. O e choisit p parmi ces classes d objets. Il peut doc y avoir répétitios du même objet. Das ce cas, o obtiet de ouveaux idicateurs : A p = p C p = C p +p 1 = (+p 1)! p!( 1)! Toujours das le même cotexte, o cherche le ombre de possibilité d avoir a fois le 1er objet, b fois le 2ème objet,... k fois le ème objet. Le ombre de permutatios est doé par : P (a, b,..., k) = (a+b+...+k)! a!b!...k! 1.3 Epreuves et Evèemets Ue expériece est dite aléatoire si ses résultats e sot pas prévisibles avec certitude e foctio des coditios iitiales. O appelle épreuve la réalisatio d ue expériece aléatoire. O appelle évèemet la propriété du système qui ue fois l épreuve effectuée est ou est pas réalisée. Exemple : Soiet l expériece aléatoire lacer deux dés discerables (et o pipés si l o veut vraimet ue expériece aléatoire) et l évèemet A obteir u total des ombres > 10. A se réalise pour les épreuves (6,5), (5,6), (6,6). Correspodace etre les opérateurs logiques et les esembles (la relatio liat ces otatios est u isomorphisme, o peut doc employer importe laquelle). I-2

11 Logique état du système évèemet A évèemet certai évèemet impossible évèemet cotraire A ou A c l évèemet B etraie l évèemet A A et B évèemets icompatibles A BetB A A ou B (ou o exclusif) ou exclusif Esemble élémet w Ω partie {A} Ω espace etier Ω partie vide partie complémetaire {A} = C A/Ω {B} {A} itersectio {A} {B} parties disjoites {A} {B} = réuio {A} {B} somme {A} + {B} = ({A} {B}) ({A} {B}) A partir de ces otios, o peut préciser le calcul de probabilités d u évèemet A : probabilité théorique : P (A) = ombre de cas favorable ombre total de cas. probabilité expérimetale : P (A) = ombre d épreuves qui réaliset A ombre total d épreuves. Cette approche (aussi appellée approche fréquetiste) e permet pas de doer ue valeur i même u ses à la probabilité d u évèemet o répétable du gere eigera-t-il le 25 octobre 2990 ce qui limite de fait le champ d applicatio du calcul des probabilités. Pour les fréquetistes, seules ot u ses les probabilités calculées a posteriori sur la base de la répétitio d u grad ombre d évèemets idetiques; pour les subjectivistes, au cotraire, la otio de probabilité a priori, évaluable e foctio d u setimet idividuel d icertitude, peut avoir u ses. 1.4 Espace probabilisé Axiomatique de Kolmogorov A chaque évèemet, o associe u ombre positif compris etre 0 et 1, sa probabilité. Afi d éviter toute discussio sur cette otio, la théorie modere des probabilités repose sur l axiomatique suivate : Défiitio 1 O appelle probabilité sur (Ω,I) (où Ω est l esemble des évèvemets et I ue classe de parties de Ω), ou loi de probabilité, ue applicatio P de I das [0, 1] telle que : - P (Ω) = 1 - pour tout esemble déombrable d évèemets icompatibles A 1, A 2,..., A o a P ( A i ) = P (A i ). Défiitio 2 O appelle espace probabilisé le triplé (Ω,I,P ) Ue loi de probabilité est doc rie d autre qu ue mesure positive de masse totale 1. O peut doc relier la théorie des probabilités à celle de la mesure Propriétés élémetaires De l axiomatique de Kolmogorov, o peut déduire les propriétés suivates : I-3

12 Propriété 1 : P ( ) = 0 Propriété 2 : P (A) = 1 P (A) Propriété 3 : P (A) P (B) si A B Propriété 4 : P (A B) = P (A) + P (B) P (A B) Propriété 5 : P ( A i ) i P (A i) (Il y a stricte égalité que si les évèemets A i sot deux à deux icompatibles.) Propriété 6 : Cotiuité mootoe séquetielle. Soiet A 1 A 2... A. Si lim A = alors lim P (A ) = 0 Propriété 7 : Théorème des probabilités totales : Soit Ω = B i u système complet d évèemets (i.e. tel que {B i } costitue ue partitio de Ω). A : P (A) = i P (A B i) Remarque : P (A) = 0 A =. De même, P (A) = 1 A = Ω. 1.5 Probabilité coditioelle - Théorème de Bayes Théorème des probabilités composées Soiet deux évèemets A et B réalisés respectivemet et m fois au cours de N épreuves. O a doc P (A) = N et P (B) = m N. Si de plus A et B sot réalisés simultaémet k fois, o a P (A B) = k N. Que peut-o déduire sur la probabilité de l évèemet B sachat que l évèemet A est réalisé? Cette probabilité est appellée probabilité coditioelle de B sachat A et se ote P(B/A). Das otre cas, o a P (B/A) = k. Par défiitio, o a P(B/A) = P(A B) P(A) et P(A/B) = P(A B) P(B) Coséqueces Deux évèemets A et B sot dits idépedats si P (A B) = P (A).P (B) ou ecore si P (B/A) = P (B) (l iformatio sur la réalisatio de A apporte rie à l évèemet B) et P (A/B) = P (A). Attetio : 1) idépedat icompatible. 2) P (A B) = P (A).P (B) A et B sot idépedats uiquemet si vous pouvez prouver que P (A B) = P (A).P (B) théoriquemet. E pratique, i.e. sur des valeurs umériques, o e peut pas iduire l idépedace à partir de cette égalité costatée umériquemet. O e peut que supposer très probable cette idépedace. Si deux évèemets A et B sot idépedats, alors il e est de même de A et B c, A c et B, A c et B c. Soit A 0, A 1,..., A ue suite d évèemets ayat ue itersectio commue o ulle, i.e. P ( k=0 A k ), o a alors ( ) P A k = P (A 1 A 0 )P (A 2 A 0 A 1 )... P (A A 0 A 1... A 1 )P (A 0 ) k=0 I-4

13 1.5.3 Théorème de Bayes - Probabilités des causes Soit u évèemet A qui peut dépedre de N causes C i différetes et icompatibles deux à deux (o e peut avoir deux causes réalisées simultaémet). Etat doée la réalisatio de l évèemet A, quelle est la probabilité que ce soit C i qui e soit la cause? O peut écrire que A = N i=1 A C i car {C i } costitue u système complet (les causes sot icompatibles deux à deux et toutes les causes possibles à A sot supposées coues). Doc d après le théorème des probabilités totales, o a P (A) = i P (A C i). E appliquat le théorème des probabilités coditioelles, o a P (A C i ) = P (A).P (C i /A) = P (C i ).P (A/C i ) doc P(C i /A) = P(C i )P(A/C i ) N k=1 P(C k)p(a/c k ) Exemple : Deux machies M 1 et M 2 produiset respectivemet 100 et 200 objets. M 1 produit 5% de pièces défectueuses et M 2 e produit 6%. Quelle est la probabilité pour qu u objet défectueux ait été fabriqué par la machie M 1? L évèemet costaté, A, est doc la présece d ue pièce défectueuse et les causes sot les machies M 1 et M 2. Compte teu des productios de ces machies, o a P (M 1 ) = 1 3 et P (M 2) = 2 3. De plus, les probabilités coditioelles de l évèemet A selo les machies sot P (A M 1 ) = et P (A M 2) = E reportat ces valeurs das la formule géérale, o obtiet P (M 1 A) = ( ) + ( ) = Le paradoxe de Bertrad Ce paradoxe est u exemple classique permettat de mesurer la limite des défiitios de probabilités. Cosidéros u triagle équilatéral et so cercle circoscrit. O tire ue corde au hasard. Quelle est la probabilité que sa logueur soit supérieure à celle du côté du triagle? O doit à Reyi les remarques suivates : Première solutio. Comme la logueur de la corde est détermiée par la positio de so milieu, le choix de la corde peut cosister à marquer u poit au hasard à l itérieur du cercle. La probabilité pour que la corde soit plus logue que le côté du triagle équilatéral iscrit est alors égale à la probabilité pour que le milieu de la corde soit itérieur au cercle iscrit das ce triagle qui est de rayo moitié. Si o admet que la répartitio de ce poit est uiforme das le cercle, o trouve pour la probabilité demadée : π(r/2) 2 πr 2 = 1 4 Deuxième solutio. La logueur de la corde est détermiée par la distace de so milieu au cetre du cercle. Par raiso de symétrie, ous pouvos cosidérer que le milieu de la corde est pris sur u rayo doé du cercle et supposer que la répartitio de ce poit sur le rayo est uiforme. La corde sera plus logue que le côté du triagle équilatéral iscrit si so milieu est à ue distace du cetre iférieure à r/2; la probabilité recherchée est alors 1/2. I-5

14 Troisième solutio. Par raiso de symétrie, ous pouvos supposer qu o a fixé ue des extrémités de la corde e P 0. L autre sera choisie au hasard sur la circoférece. Si o admet que la probabilité que l autre extrémité P tombe sur u arc doé de la circoférece est proportioelle à la logueur de cet arc, la corde P 0 P est plus grade que le côté du triagle équilatéral iscrit quad P se trouve sur l arc P 1 P 2 (tel que P 1 P 0 P 2 = π 3 ) dot la logueur est le 1/3 de celle de la circoférece; la probabilité est doc de 1/3. Il est clair que les trois hypothèses de répartitio sot égalemet réalisable. Il y a pas cepedat de réel paradoxe car il s agit simplemet d u choix de coditios expérimetales de tirage des cordes qui coduiset à des évèemets différets. Pour e savoir plus : I-6

15 2 Variables aléatoires 2.1 Variable aléatoire : défiitios Ue variable aléatoire (V.A.) est ue applicatio de l esemble des épreuves das le corps des réels. Elle est caractérisée par l esemble des probabilités associées à tous ses états possibles. Défiitio 1 Tout esemble de parties d u esemble Ω, stable par réuio, itersectio et complémetarité s appelle ue tribu sur Ω. Soit A ue tribu de parties de Ω. Le couple (Ω, A) s appelle u espace probabilisable ou mesurable et A est l esemble des évèemets. Si Ω peut être mui d ue topologie, alors la tribu egedrée par la classe des ouverts de Ω est appellée tribu boréliee. Défiitio 2 Ue variable aléatoire X est ue applicatio mesurable d u espace probabilisé (Ω,I,P ) das le corps des réels R mui de sa tribu boréliee (R,B) (i.e. esemble des itervalles de la forme ], a[). Défiitio 3 Pour tout borélie B (i.e. B B), o défiit ue loi de probabilité de X sur (R,B) et l o ote P X : P X (B) = P ({w X(x) B}) = P ({X 1 (B)}) Défiitio 4 Ue v.a. X est discrète si Card[I] est fii ou déombrable. Das ce cas, X e peut predre, avec ue probabilité o ulle, qu u ombre fii de valeurs particulières x 1, x 2,..., x. O ote gééralemet les probabilités par P (X = x i ) = p i. Défiitio 5 Ue v.a. X est cotiue si elle peut predre toute valeur sur u segmet de la forme [a, b], ], a], [b, + [, ], + [ et telle que x 0, P (X = x 0 ) = 0. Défiitio 6 Ue v.a. X est mixte si 1) i I N, P (X = x i ) = p i 0, 2) i I p i < 1 et 3) i P (X ]x i, x i+1 [ Foctio de répartitio Défiitio La foctio de répartitio (FR) d ue v.a. X est l applicatio F de R das [0, 1] défiie par F(x) = P(X < x) Propriétés F est o décroissate. F est cotiue à gauche. F est cotiue à droite das le cas des v.a. cotiues. II-1

16 F ( ) = 0 et F (+ ) = 1 P (a X < b) = F (b) F (a) Foctio de répartitio d ue v.a. discrète Soit X ue v.a. discrète pouvat predre les valeurs x 1, x 2,..., x de probabilités respectivemet p 1, p 2,..., p avec x 1 < x 2 <... < x. F (x) = i=k i=1 p i où k est doé par x k x < x k Foctio de répartitio d ue v.a. cotiue Soit X ue v.a. cotiue. Sa foctio de répartitio est cotiue à gauche et à droite. Il existe doc ue foctio f telle que l o puisse écrire : f(x) = df (x) dx ou F (x) = x f(u)du Par défiitio, f est appellée desité de probabilité de X, ou e abrégé, ddp de X. Cette foctio a les propriétés suivates : + f(x)dx = 1 x, f(x) 0 P (X ]x 1, x 2 [) = F (x 2 ) F (x 1 ) = x 2 x 1 P (X = x 0 ) = x 0 x 0 f(u)du = 0 f(u)du P (X ]x 0, x 0 + dx 0 [) = x 0 +dx 0 x 0 f(u)du = f(x 0 )dx 0 = df (x 0 ) 2.4 Couple de variables aléatoires Défiitios Soiet X et Y deux v.a. défiies sur le même espace probabilisé. O appelle foctio de répartitio cojoite de X et Y, la foctio F défiie par : F (X, Y ) = P (X ], x] Y ], y]) = P (X < x et Y < y) O a par défiitio, F (, ) = 0 et F (+, + ) = Cas d u couple de v.a. cotiues O ote f la ddp cojoite de X et Y et l o a par défiitio : F (x, y) = x y f(u, v)dudv II-2

17 avec les propriétés suivates : x, y : f(x, y) f(u, v)dudv = 1 O peut égalemet défiir ue foctio de répartitio margiale de X, otée F X par F X (x) = P (X < x) = F (x, + ) (idem pour Y, F Y (y) = F (+, y)) Cas d u couple de v.a. discrètes O ote P ij = P (X = x i Y = y j ) pour i I et j J Distributio coditioelle Soiet X et Y deux v.a. cotiues de FR cojoite F et de ddp cojoite f. Commet peut-o évaluer la probabilité coditioelle P (X I 1 /Y I 2 )? O défiit la foctio de répartitio coditioelle F (x/y = y 0 ) par F (x/y = y 0 ) = x f(u, y 0)du + f(v, y 0)dv et la desité de probabilité coditioelle f(x/y = y 0 ) par Si les deux v.a. sot idépedates, alors o a f(x/y = y 0 ) = df (x/y = y 0) dx F (x/y = y 0 ) = F X (x) f(x/y = y 0 ) = f X (x) 2.5 Loi d ue foctio d ue ou plusieurs variables aléatoires Das la pratique, o est souvet ameé à maipuler des variables aléatoires qui sot des trasformatios ou des combiaisos de variables aléatoires coues. C est pourquoi o dispose de règles de passage d ue loi à ue autre, pour des trasformatios simples Trasformatio d ue variable aléatoire Trasformatio d ue loi discrète Soit X ue v.a. discrète de loi P X. Alors, la loi de la v.a. U = ψ(x) est défiie par : P (U = k) = P (ψ(x) = k) = P (X = ψ 1 (k)) = P X (ψ 1 (k)) II-3

18 où ψ 1 désige la foctio réciproque de ψ. Trasformatio d ue loi cotiue Soit X ue v.a. cotiue dot la loi admet la desité de probabilité f X et ψ ue foctio mootoe et dérivable. Alors, la desité de la loi de la v.a. U = ψ(x) est défiie par : f U (u) = (ψ 1 ) (u) f X (ψ 1 (u)) où ψ 1 désige la foctio réciproque de ψ. O peut par ces propriétés motrer e particulier que la v.a. U = F (X) où F est la foctio de répartitio de la loi de la v.a. X, suit ue loi uiforme sur l itervalle [0, 1]. Exemple : Soit U = ψ(x) = X 2. O a ψ 1 (u) = (u) et doc (ψ 1 ) (u) = 1 2 u 1/2. E applicatio de la propriété précédete, o obtiet f U (u) = 1 2 u f X( u) Desité de probabilité d ue somme de V.A. idépedates Soiet X et Y deux v.a. cotiues de ddp f(x) et g(y). Si X et Y sot idépedates, alors la desité de probabilité h(z) de la v.a. Z défiie par Z = X + Y est doée par h(z) = f g(z) = + f(x)g(z x)dx = + f(z y)g(y)dy Cette propriété se gééralise quel que soit le ombre de variables das la somme. additioer des variables aléatoires discrètes. O peut aussi Soiet X et Y deux v.a. discrètes à valeurs das D X et D Y. La loi de S = X + Y est défiie par : i D X P (X = i, S = k) = i D X,k i D Y P (X = i, Y = k i) P (S = k) = ou j D Y P (S = k, Y = j) = j D Y,k j D X P (X = k j, Y = j) E particulier, si X et Y sot idépedates, o a : i D X,k i D Y P (X = i)p (Y = k i) P (S = k) = ou j D Y,k j D X P (X = k j)p (Y = j) O peut aussi passer par les propriétés de l opérateur espérace mathématique (voir sectio suivate). 2.6 Moyee et espérace mathématique d ue v.a Notio de moyee pour ue v.a. discrète Soit X ue v.a. discrète preat ses valeurs das {x 1,..., x } et dot les probabilités associées sot P (X = x i ) = p i. Par défiitio, o appelle moyee théorique ou espérace mathématique de X, et l o ote E(X), la valeur E(X) = i=1 x i p i. II-4

19 O e coait cette v.a. que par le moye d u échatillo de taille N (dot o supposera qu il est sigificatif par rapport au ombre de valeurs possible,, de la v.a., i.e. N ). Chaque évèemet X = x i se réalise k i fois das l échatillo (N = i k i). La moyee expérimetale est défiit par 1 N i=1 k i x i. Si o admet que la proportio k i N ted vers la propabilité théorique p i pour u échatillo de taille ifiie (N ) alors o peut estimer la moyee théorique par la limite de la moyee expérimetale Espérace mathématique Soit X ue v.a. O défiit l espérace mathématique de X et l o ote E(X) la valeur où F est la foctio de répartitio de X. E(X) = + x df(x) = + x f(x) dx Cette itégrale est dite au ses de Stieljes. Soit X ue v.a. défiie sur [a, b[. O peut discrétiser la v.a. X e itroduisat ue ouvelle v.a. discrète Y e découpat l itervalle [a, b] e itervalles [x i 1, x i ] tels que X [x i 1, x i [ Y = ξ i, ξ i [x i 1, x i ] et doc P (Y = ξ i ) = P (X [x i 1, x i [) = x i x i 1 f(u)du = F (x i ) F (x i 1 ) Grâce à u échatillo de taille N, o peut calculer ue moyee expérimetale de Y ( 1 i=1 N ξ i k i ) qui ted vers la moyee théorique i=1 ξ i P (Y = ξ i ) si N. Si de plus, o découpe e ue ifiité d itervalles de la forme [x i 1, x i [ ( ), alors o obtiet la moyee théorique de la v.a. X par i=1 ξ i F (x i ) F (x i 1 ) b a xdf (x) = E(X) Remarque : L espérace mathématique est pas toujours défiie. C est e particulier le cas de la loi de 1 Cauchy dot la ddp est doée par f(x) = π(1+x 2 ) car l itégrale + 1 dx diverge. π(1+x 2 ) Propriétés : Les propriétés de l espérace mathématique provieet de celle de l opérateur itégral et e particulier la liéarité. Soit X ue v.a. et a ue costate. E(a) = a E(aX) = ae(x) E(X + a) = E(X) + a Soiet X 1 et X 2 deux v.a. et a et b deux costates. E(a 1 X 1 + a 2 X 2 ) = a 1 E(X 1 ) + a 2 E(X 2 ) Plus gééralemet, pour toute foctio h, positive, cotiue, à support compact E[h(X)] = h(x)df X (x) = h(x)f X (x)dx Exemple : Soiet X et Y deux v.a. cotiues idépedates de même loi f. O souhaite trouver la loi de la variable aléatoire U =. O a doc X X+Y II-5

20 X E[h( X + Y )] = x h( R 2 x + y f X,Y (x, y)dxdy Les deux variables état idépedates, o a f X,Y (x, y) = f X (x)f Y (y). Soit le chagemet de variables suivat : u = x x+y x = uv v = x + y y = v(1 u) (x, y) D R 2 + (u, v) R 2 + dot le jacobie est j(u, v) = (x, y) (u, v) = x u y u x v y v v = v u 1 u = v Ce qui ous doe E[h(U)] = h(u) j(u, v) f(uv)f(v(1 u))dudv = h(u)f U (u)du R 2 d où l o déduit la desité de probabilité f U f U (u) = vf(uv)f(v(1 u))dv R + Supposos maiteat que ces deux variables aléatoires suivet ue loi expoetielle de paramètre λ = 1, f(x) = e x. O a alors f U (u) = 0 ve uv e v(1 u) dv = 0 ve v dv = 1 La v.a. U suit doc ue loi uiforme. Comme o doit avoir uv > 0 et v(1 u) > O, cela doe v > 0 et u ]0, 1[. 2.7 Momets La otio de momet permet d itroduire celle d idicateur résumat et/ou caractérisat ue variable aléatoire. O y retrouvera la moyee comme cas particulier Défiitios Momet d ordre. O appelle momet d ordre de la v.a. X et l o ote α la valeur α = E(X ) = + x df (x). Pour les v.a. discrètes, cela doe : α = i x i P (X = x i) Momet d ordre rapporté à l abscisse a. O appelle momet d ordre de la v.a. X rapporté à l abscisse a, et l o ote α a,, la valeur α a, = E((X a) ) = + (x a) df (x). Momet cetré d ordre. O appelle momet cetré d ordre de la v.a. X et l o ote µ la valeur µ = E((X E(X)) ) = + (x E(x)) df (x). Le momet cetré d ordre d ue v.a. est doc le momet d ordre de cette v.a. rapporté à l abscisse particulière qu est sa moyee (µ = α E[X], ). II-6

21 2.7.2 Quelques momets particuliers µ 1 = E(X E(X)) = E(X) E(X) = 0 α 1 est la moyee. µ 2 = α 2 α 2 1 µ 2 est la variace (voir plus loi). Très souvet, pour des raisos d efficacité, les momets souhaités, i.e. µ k, sot calculés à partir des momets simples, i.e. α k. E effet, le calcul d u momet cetré écessite le calcul préalable de l espérace mathématique, il y a doc 2 pas de calculs au lieu d u seul pour les momets o cetrés. µ 3 = α 3 3α 1 α 2 + 2α 3 1 µ 4 = α 4 4α 1 α 3 + 6α 2 1 α 2 3α 4 1 µ 2, µ 3 et µ 4 sot utilisés pour caractériser la forme d ue distributio. Pour cela, o costruit des idicateurs sas dimesio : Le coefficiet d asymétrie (skewess) : γ 1 = µ 3 (µ 2 ) 3 2. Ce coefficiet est ul pour ue distributio parfaitemet symétrique, iférieur à zéro si la distributio est plus étedue vers la gauche (les valeurs iférieures à la moyee), et supérieur à zéro das le cas cotraire. Le coefficiet d aplatissemet (kurtosis) : γ 2 = µ 4 (µ 2 ) 2. γ 2 est toujours supérieur à 1. De plus, o a toujours γ (γ 1 ) 2. Plus que l aplatissemet, le coefficiet γ 2 mesure l importace des queues de distributio. Cet idicateur vaut 3 das le cas de la loi de Gauss (cf chapitre sur les pricipales lois de probabilité). Il est iférieur à 3 pour ue distributio mois large que la loi de Gauss et supérieur à 3 pour ue distributio plus large. Remarque : Ces idicateurs e sot utilisables, i.e. ot de ses, que das le cas d ue distributio uimodale (u seul maximum) Variace, covariace et écart-type La variace est défiie par µ 2 = E((X E(X)) 2 ) = σ 2 = variace de X = V(X) = E(X 2 ) E(X) 2 Elle traduit la dispersio de la distributio de la v.a. autour de sa valeur moyee. Etat u carré, la dimesio de la variace est pas celle de la moyee. C est pourquoi o utilise plus souvet l écart type, oté σ, qui est la racie de la variace. O dit aussi que la variace traduit la otio d icertitude. Plus la variace est faible, mois le résultat de l expériece aléatoire est icertai. A la limite, ue v.a. de variace ulle coduit à des expérieces strictemet idetiques (i.e. le phéomèe est complètemet détermiiste, il y a doc plus aucue raiso de garder la otio de variable aléatoire). La variace a égalemet des propriétés itéressates vis à vis de la combiaiso liéaire de v.a. : Soiet X 1 et X 2 deux v.a. V(X 1 + X 2 ) = V(X 1 ) + V(X 2 ) + 2cov(X 1, X 2 ) où cov(x, Y ) est la covariace des v.a. X et Y défiie par : II-7

22 cov(x, Y ) = µ 1,1 = E(XY ) E(X)E(Y ) = E[(X E(X))(Y E(Y ))] La covariace peut être vue comme le momet cetré cojoit d ordre 1 de deux v.a. Si les deux v.a. sot idépedates, alors leur covariace est ulle (mais la réciproque est pas vraie e gééral). Par ailleurs, soit X ue v.a. et a et b deux costates. O a V(aX + b) = a 2 V(X) Variable cetrée réduite O appelle variable aléatoire cetrée réduite, ue v.a. Y costruite par : Y = X E[X]. V [X] C est le moye le plus classique pour ormaliser ue v.a. Par costructio, o obtiet E[Y ] = 0 et V [Y ] = Coefficiet de corrélatio La relatio etre deux v.a. peut être quatifiée par la covariace comme vue précédemmet. Cepedat, à l image de la moyee et de la variace, la covariace est u momet doc possède ue dimesio ce qui la red plus difficile à iterpréter. C est pourquoi o utilise plus gééralemet le coefficiet de corrélatio, idicateur sas dimesio, défii par ρ(x, Y ) = cov(x,y ) σ X σ Y = µ 1,1 µ2 (X) µ 2 (Y ) Le coefficiet de corrélatio mesure la qualité de la relatio liéaire etre deux variables aléatoires X et Y (i.e. de la forme Y = ax + b). O a les propriétés suivates : X, Y : ρ(x, Y ) [ 1, 1]. Si X et Y sot idépedates, alors ρ(x, Y ) = 0 (la réciproque est pas vraie e gééral). X, Y a 1, a 2, b 1, b 2 R (a 1 a 2 0) : ρ(a 1 X + b 1, a 2 Y + b 2 ) = sig(a 1 a 2 )ρ(x, Y ) Si il existe ue relatio liéaire etre X et Y alors ρ(x, Y ) = ±1. O peut réécrire la relatio sur la variace d ue somme de v.a. corrélatio : e utilisat le coefficiet de σ 2 (X 1 + X 2 ) = σ 2 (X 1 ) + σ 2 (X 2 ) + 2ρ(X 1, X 2 )σ(x 1 )σ(x 2 ) Et e gééralisat, o obtiet i= σ 2 ( X i ) = i=1 i= i=1 σ 2 (X i ) + 2 i= 1 i=1 j= j>i ρ(x i, X j )σ(x i )σ(x j ) II-8

23 2.7.6 Exemple Soit X ue v.a. cotiue et uiforme sur [ a 2, a 2 ] (i.e. équiprobabilité de toutes les valeurs). L uiformité de X coduit à ue desité de probabilité costate : 0 si x < a 2 1 f(x) = a si a 2 x a 2 0 si x > a 2 Le calcul des momets doe : α = E(X ) = + x df (x) = 1 a doc α 2p+1 = 0 et α 2p = 1 2p+1 ( a 2 )2p + a 2 a x df (x) = 1 2 a(+1) [( a 2 )+1 ( a 2 )+1 ] La moyee ( = 1, p = 0) de X est doc ulle et la variace ( = 2, p = 1) est égale à a Iégalités de Bieaymé - Tchebyshev - Markov Iégalité de Tchebyshev : P (g(x) k) E[g(X)] k où k est u réel positif et g ue foctio positive. E posat, g(x) = X, o obtiet l iégalité de Markov : P (X k ) E(X ) k. De même, si l o pose g(x) = (X E(X)) 2 et k = t 2 σ 2, o obtiet l iégalité de Bieaymé- Tchebyshev : P ((X E(X)) tσ) 1 t 2. Cette iégalité est la plus coue des trois. Elle est valable quelle que soit la v.a. X, ce qui est ue propriété très itéressate. Malheureusemet, elle a que peu d applicatios pratiques car la majoratio qu elle fourit est la plupart du temps excessive. II-9

24 2.8 Quelques lois de probabilités Les valeurs pricipales Loi Type Prob. ou ddp Moyee Variace 0-1 D P (X = 0) = 1 p et P (X = 1) = p p p(1 p) Uiforme D P (X = x) = 1, x [1, ] Biomiale D P (X = x) = Cp x x (1 p) x pour x [0, ] p p(1 p) Géométrique D P (X = x) = p(1 p) x p pour x = 1, 2,... Pascal D P (X = x) = Cx 1 1 (1 p) x Poisso D P (X = x) = e λ λ x Uiforme C f(x) = 1 b a avec a x b p p p 2 (1 p) p 2 x! pour λ > 0 et x = 1, 2,... λ λ Gauss C f(x) = 1 2πσ e (x µ)2 2σ 2 pour x R µ σ 2 a+b 2 (b a) 2 12 a Cauchy C f(x) = o défii o défii π(a 2 +x 2 ) Gamma C f(x) = λk x k 1 e λx k k Γ(k), x > O λ λ 2 Expoetielle C f(x) = 1 a e x a pour x > 0 et a > 0 a a 2 Rayleigh C f(x) = x σ 2 e x2 2σ 2 pour x > 0 σ π 2 σ 2 (2 π 2 ) Laplace C f(x) = a 2 e a x 0 2 a 2 χ 2 C f(x) = 1 2 m 2 Γ( m 2 )xm 2 1 e x 2 m 2m Studet C f(x) = +1 2 ( πγ( 2 ) 1+ x2 ) (+1)/2 0 2 ; > 2 Weibull C f(x) = βx β 1 e xβ Γ(1 + 1 β ) Γ(1 + 2 β ) E2 (x) Type : D loi discrète ; C loi cotiue Liaisos etre lois de probabilités Loi 0-1 : o appelle aussi cette loi, loi de Beroulli. La v.a. associée à ue telle loi est cosidérée comme la foctio idicatrice d u évèemet de probabilité p. C est u cas particulier de la loi Biomiale. Loi biomiale : O obtiet ue v.a. de loi biomiale B(, p) par ue somme de v.a. de loi 0-1 (p). E d autres termes, la loi biomiale est la loi associée à répétitios, das des coditios idetiques et idépedammet, d ue expériece aléatoire dot l issue est l apparitio ou la o apparitio d u évèemet. La somme de deux lois biomiales de même paramètre est ue loi biomiale. Loi géométrique : La loi géométrique est la loi du ombre d essais écessaires pour faire apparaître u évèemet de probabilité p. Loi de Pascal d ordre : C est la loi du ombre d essais écessaires pour observer exactemet fois u évèemet de probabilité p. Cette loi est la somme de lois géométriques idépedates Loi de Poisso (magistrat fraçais du XIXème siècle) : O obtiet ue v.a. de loi de Poisso à partir d ue v.a. de loi biomiale B(, p) pour laquelle o a et p 0 et p λ. O peut aussi itroduire la loi de Poisso par la otio de processus de Poisso. Soit u phéomèe tel qu u seul évèemet puisse se produire à la fois (o simultaéïté des réalisatios) et que le ombre d évèemets se produisat pedat ue période T e déped que de la durée de cette période. Supposos efi l idépedace des évèemets. Soit E(N) = ct l espérace mathématique d u ombre N d évèemets pedat la période de durée T avec la cadece c. c désige doc le ombre moye d évèemets par II-10

25 uité de temps. O démotre alors que la probabilité d obteir évèemets pedat u temps T est (ct ) P (N = ) =! e ct. Figure 1: Desité de probabilité de la loi de Poisso de paramètre λ = 10. La somme de deux lois de Poisso de paramètres λ 1 et λ 2 est ue loi de Poisso de paramètre λ 1 +λ 2. Loi Normale ou loi de Gauss-Laplace : C est icotestablemet la loi la plus coue. O la doit à Moivre qui, e 1738, a trouvé cette loi comme limite de la loi biomiale. O utilisera la otatio suivate : ℵ(moyee, variace) = ℵ(µ, σ 2 ). O la retrouve comme modèle le plus courat pour les distributios d erreurs de mesure autour d ue valeur vraie. Elle joue aussi u rôle importat e terme de comportemet asymptotique des autres lois de probabilités, comme le motre le théorème cetral limite. Ue propriété itéressate de cette loi est sa coservatio vis à vis de la combiaiso liéaire : Soiet {X i } u esemble de p v.a. ormales de paramètres (µ i, σi 2 ) deux à deux idépedates, leur somme podérée par les coefficiets α i est ue v.a. ormale de paramètres la somme podérée des paramètres ( α i µ i, αi 2σ2 i ) Loi expoetielle : Si Y suit ue loi de Poisso, et traduit le ombre d apparitios d u certai phéomèe aléatoire das u itervalle de temps t, alors la variable aléatoire 1/Y représete l itervalle de temps séparat deux apparitios d u évèemet doé. Cette ouvelle variable suit ue loi expoetielle de paramètre a où a est le paramètre de la loi de Poisso. E fiabilité, cette loi est très utilisée pour représeter la durée de vie de circuits électroiques. L espérace a est souvet appelée le MTBF (Mea Time Betwee Failure) et 1 a le taux de défaillace. La loi expoetielle est u cas particulier de la loi Gamma pour k = 1. La loi expoetielle est souvet utilisée pour so caractère sas mémoire. Soit X ue variable aléatoire suivat ue loi expoetielle. Soiet u et t deux réels strictemet positifs, o a P (X > t + u X > t) = P (X > u) Cela sigifie que la probabilité d être das u itervalle [t, t + u] déped uiquemet de la largeur de l itervalle et pas de sa positio absolue (d où le vocable d effet sas mémoire ). II-11

26 Figure 2: Desité de probabilité de la loi ormale cetrée réduite. Figure 3: Desité de probabilité de la loi expoetielle de paramètre a = 3. Loi de Weibull : Cette loi est aussi très utilisée pour caractériser la fiabilité des matériels. Elle est reliée à la loi expoetielle par la relatio suivate : X suit ue loi de Weibull de paramètre β si X β suit ue loi expoetielle. O dit que β est le paramètre de forme : β > 1 correspod à u matériel qui se dégrade avec le temps (usure); β < 1 à u matériel qui se boifie avec le temps; β = 1 (cas où la loi est expoetielle) à u matériel sas usure (paes puremet accidetelles). II-12

27 Figure 4: Desité de probabilité de la loi de Weibull de paramètre β = 2. Loi Gamma : Soit ue v.a. ormale X de paramètres (µ, σ) et soit Y ue v.a. costruite par Y = 1 (X µ) 2 2. Y suit ue loi Gamma de paramètres (λ, k) = ( 1 σ 2 2, 1). La distributio gamma est ue gééralisatio de la loi expoetielle. E effet, si la loi expoetielle corrrespod à la distributio de probabilité du temps séparat l apparitio de deux évèemets doés, la loi gamma fourit la distributio de probabilité du temps qui s écoule etre la Kème et la (K+r)ème apparitio de l évèemet. La loi gamma est appliquée comme modèle de probabilité pour prévoir la durée de vie des appareils qui subisset ue usure tels les véhicules automobiles ou les appareils mécaiques. Loi du χ 2 : Le paramètre m est le ombre de degrés de liberté de cette loi. Cette distributio permet de défiir la loi de la v.a. χ 2 m = m 1 x 2 i où les x i sot des v.a. ormales cetrées réduites idépedates. Pour m tedat vers l ifii, cette loi ted asymptotiquemet vers ue loi ormale. La somme de deux v.a. du χ 2 à respectivemet a et b degrés de liberté, est ue ouvelle v.a. de loi du χ 2 à a + b degrés de liberté. O peut aussi relier cette loi à la loi Gamma avec (k, λ) = (m/2, 1/2). x x2 2 où x 1 et x 2 sot des v.a. ormales Loi de Rayleigh : C est la loi de la orme, i.e. R = cetrées. C est aussi la loi de la dérivée de la loi ormale. La loi de Rayleigh apparaît souvet pour décrire le bruit e sortie de certais récepteurs de trasmissios. Loi de Studet : Si X : ℵ[0, σ 2 ], et si Y (idépedate de X) est telle que Y 2 /σ 2 suit ue loi du χ 2 à degrés de liberté, alors la variable T = X Y suit ue loi de Studet à degrés de liberté. Cette loi sert essetiellemet pour les tests statistiques d hypothèses. 2.9 Quelques relatios E statistique, o est souvet ameé à costruire les variables aléatoires suivates : II-13

28 X = 1 i= S 2 = 1 1 T = X µ S i=1 X i i= i=1 (X i X) 2 Das le cas, fréquet, où l o admet ou vérifie, que les X i sot des lois ormales de même paramètrage (µ, σ), alors X suit ue loi ormale ℵ(µ, σ ). S 2 suit ue loi du χ 2 à 1 degrés de liberté. T suit ue loi de Studet 1 degrés de liberté. Par ailleurs, o sait que seules les affiités (et e particulier les sommes) coservet les lois ormale, biomiale, uiforme et Gamma (à paramètres etiers). X i : B( i, p) (X i ) idépedates Y = k i=1 X i Y : B( k i=1 i, p) X i : P(λ i ) (X i ) idépedates Y = k i=1 X i Y : P( k i=1 λ i ) X i : N (µ i, σi 2) (X i ) idépedates Y = k i=1 a i X i Y : N ( k i=1 a i µ i, k i=1 a 2 i σ2 i ) X i : E(λ) (X i ) idépedates Y = Y : G(k, λ) k i=1 a i X i X i : G(a, p i ) (X i ) idépedates Y = k i=1 X i Y : G(a, k i=1 p i ) X i : χ 2 (γ i ) (X i ) idépedates Y = k i=1 X i Y : χ 2 ( k i=1 γ i ) 2.10 Loi des grads ombres Covergece stochastique O s itéresse à la loi d ue suite de v.a. idetiques, et plus particulièremet à la covergece à l ifii. Pour étudier cette covergece, il existe de ombreux outils dot ous résumos ici les pricipaux. Covergece e loi. Soit ue suite de v.a. X de F.R. F (x), et soit X ue v.a. de FR F (x). O dit que la suite X coverge e loi vers la v.a. X ssi F (x) coverge vers F (x). Covergece e probabilité. O dit que la suite X coverge e probabilité vers la v.a. X ssi η, ɛ (doés arbitrairemet petits) 0 tel que > 0 P ( X X > ɛ) < η Cette défiitio est ue gééralisatio du théorème de Berouilli (das le cas où X est ue costate). E coséquece de ce théorème, o sait que das ue série d épreuves idépedates, la fréquece relative de l évèemet A coverge e probabilité vers P(A) quad le ombre d épreuves croit idéfiimet. II-14

29 Covergece e moyee. O dit que la suite X coverge e moyee d ordre p vers la v.a. X ssi E( X X p ) 0 pour tedat vers l ifii. La plus utilisée de ces covergeces est la covergece e moyee quadratique (p = 2). La covergece moyee d ordre 2 implique la covergece e moyee d ordre 1 (ou covergece e moyee) qui implique la covergece e probabilité qui implique la covergece e loi. Cette derière est doc la covergece la plus stricte. Exemple : Théorème de De Moivre-Laplace : Soit X ue suite de v.a. biomiales B(, p). X p p(1 p) coverge e loi vers ue loi ormale cetrée réduite ℵ(0, 1). O admet gééralemet que cette covergece est boe si p > 5 et (1 p) > 5. Par exemple, soit ue v.a. X : B(40, 0.3). Le critère est validé. Soit à approximer la valeur de P (X = 11). La valeur exacte est d après les tables. D après le théorème, o obtiet ue valeur approchée de P (X = x) par P (X = x) P ( x 1 2 p < N < x+ 1 2 p ) p(1 p) p(1 p) Cette formule d approximatio avec ue loi ℵ(12, 8.4) doe P (X = 11) P ( < N < ) = P ( 0.52 < N < 0.17) = P (0.17 < N < 0.52) = = Soit ue erreur de mois de 1% Théorème cetral limite Le théorème cetral limite est l u des résultats les plus importats de la théorie des probabilités. De faço iformelle, ce théorème doe ue estimatio très précise de l erreur que l o commet e approchat l espérace mathématique par la moyee arithmétique. Ce phéomèe a d abord été observé par Gauss qui l appelait loi des erreurs; mais ce derier e a pas doé de démostratio rigoureuse. La preuve du théorème a été apportée part Moivre et Laplace; le théorème porte doc parfois leurs oms. Ce théorème est fodametal car il justifie toutes les approximatios par la loi ormale. Théorème : Soit X ue suite de v.a. de même loi d espérace µ et d écart type σ. Alors la v.a. 1 ( X 1+X X µ σ ) coverge e loi vers ue v.a. ormale cetrée réduite ℵ(0, 1). Exemples : La moyee expérimetale ou arithmétique ( X 1+X X ) coverge doc vers ue loi ormale de moyee µ, la moyee théorique, et d écart-type σ. Ue proportio F ted vers ue loi ormale de moyee la proportio théorique p et d écart-type p(1 p). Comme cas particulier de ce théorème, o retrouve égalemet la covergece d ue suite de loi biomiale vers la loi ormale (théorème de Beroulli). Ce théorème justifie l utilisatio de la loi ormale lorsqu il y a répétitio d expérieces idetiques. Par cotre, ce théorème reste strict sur les coditios d applicatios. O cosidère souvet que ce théorème reste valable même si les distributios idividuelles sot différetes, pour autat que la variace de chacu des termes idividuels soit égligeable vis-à-vis de la variace de la somme. C est e fait u théorème plus gééral du à Lideberg. Théorème : Soiet X 1, X 2,..., X des v.a. idépedates, pas forcémet de même loi, cetrées et de variace σi 2. Soiet S = i= i=1 X i, s 2 = i= i=1 σ2 i et F i (x) la foctio de répartitio de la v.a. X i. Si la coditio suivate est réalisée II-15

30 ( 1 ɛ > 0 lim s 2 i=1 X i >ɛs X 2 i df i (x) ) = 0 alors S s L ℵ(0, 1) La coditio de Lideberg exprime que les v.a. S i sot uiformémet petites avec ue grade probabilité. Le résultat veut dire qu à force d ajouter de telles variables, o fiit par obteir ue loi ormale. Autremet dit, si ue variable est la résultate d u grad ombre de causes, petites, à effet additif, cette variable suit ue loi ormale. C est à cause de cette iterprétatio que la loi ormale est très souvet employée comme modèle (malheureusemet pas toujours à raiso). Efi, otos que ces théorèmes supposet l existece des momets des v.a. O e peut doc pas les utiliser par exemple pour des v.a. suivat ue loi de Cauchy (das ce cas particulier, la somme produit ue v.a. qui a toujours ue loi de Cauchy et cela quel que soit le ombre d élémets das la somme). X i µ i 2.11 Simulatio d ue variable aléatoire Très souvet e simulatio, o est ameé à utiliser des échatillos fictifs de réalisatios d ue v.a. de loi détermiée. Nous abordos ici u esemble de méthodes de costructio de tels échatillos Méthode géérale par trasformatio iverse Soit à costruire u échatillo de réalisatios d ue v.a. X de foctio de répartitio F. Soit Y la v.a. défiie par Y = F (X). Cette v.a. suit ue desité de probabilité uiformémet distribuée sur l itervalle [0, 1]. Sa foctio de répartitio G est telle que G(y) = P [Y < y] = y. Soiet y 1,..., y u échatillo de taille d ue v.a. uiformémet distribuée sur [0, 1]. Les y i peuvet être cosidérés comme des réalisatios de la v.a. Y. Pour calculer les réalisatios de x i, il suffira alors de calculer la valeur de x i qui correspod à ue valeur y i de sa foctio de répartitio : X = F 1 (Y ) x i = F 1 (y i ) Loi uiforme La costructio d u échatillo fictif d ue v.a. de loi quelcoque écessite e premier lieu la costructio d u échatillo fictif d ue v.a. uiforme etre 0 et 1. Pour ue loi uiforme, o e pourra doc pas se servir de la méthode géérale. O utilisera alors soit des tables de ombres au hasard, soit des algorithmes de géératio de ombres pseudo-aléatoires (foctio radom classique sur les machies par exemple) Loi expoetielle f(x) = 1 a e x a pour x > 0 et a > 0. O a le résultat suivat F (x) = x 0 f(u)du = 1 e x a. La méthode géérale par trasformatio iverse ous doe x = F 1 (y). Si o remplace y par 1 y (ce qui est possible sas coséquece car la distributio uiforme est symétrique), alors o obtiet 1 y = e x a. O a doc x i = a L y i. II-16