Probabilités et statistique. Notes de cours pour MAT 1978

Transcription

1 Probabilités et statistique Notes de cours pour MAT 1978 Adré Giroux Départemet de mathématiques et statistique Uiversité de Motréal 2007

2 Table des matières 1 Le modèle probabiliste Le modèle réduit Élémets de combiatoire Arragemets Combiaisos Le modèle complet Probabilités coditioelles Idépedace stochastique Variables aléatoires Variables aléatoires discrètes Lois discrètes particulières Loi uiforme Loi biomiale Loi hypergéométrique Loi de Poisso Variables aléatoires cotiues Lois cotiues particulières Loi uiforme Loi expoetielle Loi ormale Loi du khi-deux Loi de Studet Loi de Fisher-Sedecor Sommes de variables aléatoires Espérace d ue somme Variace d ue somme Quelques iégalités géérales La loi des grads ombres La foctio géératrice des momets Le théorème cetral limite L échatillo statistique 49 5 Estimatio des paramètres d ue distributio Estimatio poctuelle Moyee d ue variable de Beroulli

3 5.1.2 Moyee et variace d ue variable ormale Itervalles de cofiace Moyee et variace d ue variable ormale Différece des moyees de deux variables ormales Moyee d ue variable de Beroulli Tests d hypothèses sur les paramètres d ue distributio Moyee d ue variable ormale Variace coue Variace icoue Égalité des moyees de variables ormales Variaces coues Variaces icoues égales Variaces icoues, grads échatillos Variables jumelées Variace d ue variable ormale Égalité des variaces de variables ormales Moyee d ue variable de Beroulli Tests de validité Tests d ajustemet Tests d idépedace La régressio liéaire Les estimateurs de moidres carrés U test d hypothèse Itervalles de cofiace Évaluatio du modèle Extesio du modèle Table des figures 1 La foctio de répartitio de X La foctio de répartitio de Y Foctio de masse de la loi biomiale, =20 et p= Foctio de masse de la loi de Poisso, λ = Le domaie d itégratio pour les valeurs propres Le théorème de demoivre-laplace, = 100 et p = 0, La loi ormale stadard La loi du khi-deux, =

4 9 La loi de Studet, = La loi de Fisher-Sedecor, = 8, m = Zoe de rejet pour µ = µ 0 cotre µ µ Zoe de rejet pour σ = σ Ue droite des moidres carrés Ue expoetielle des moidres carrés

5 1 Le modèle probabiliste Das ce chapitre, ous itroduisos le modèle mathématique utilisé pour étudier ue expériece aléatoire, appreos à calculer la probabilité d u évèemet complexe à partir de probabilités d évèemets plus simples et étudios la faço de modifier les probabilités des évèemets état doées de ouvelles iformatios sur l expériece cosidérée (probabilités coditioelles). 1.1 Le modèle réduit Cosidéros d abord ue expériece aléatoire admettat u esemble fii Ω d issues possibles ω ayat toutes des chaces égales de se produire (par symétrie, par exemple). U évèemet E est u sous-esemble de Ω et sa probabilité est, par défiitio, P {E} = E Ω (où A désige le ombre d élémets d u esemble fii A). Les propriétés suivates sot alors évidetes : 1. Pour tout E, P {E} 0 ; 2. P {Ω} = 1 ; 3. si les évèemets E 1 et E 2 sot icompatibles (c est-à-dire si leur itersectio E 1 E 2 = E 1 E 2 est vide), alors P {E 1 E 2 } = P {E 1 } + P {E 2 }. Ces propriétés ot pour coséqueces directes les relatios suivates : 4. Si E c = Ω \ E désige l évèemet complémetaire de E, P {E c } = 1 P {E}; 5. Si E F, P {E} P {F }; 6. Quelques soiet E 1 et E 2, P {E 1 E 2 } = P {E 1 } + P {E 2 } P {E 1 E 2 }. 4

6 Exemple. Lors du jet de deux dés, il y a 36 = Ω issues équiprobables ω = (i, j) où 1 i, j 6. O a et P {i + j impaire ou ij impair } = P {i + j impaire } + P {ij impair } = = 0, P { i j = 2 ou ij impair } = P { i j = 2} + P {ij impair } P { i j = 2 et ij impair } = = 0, 361. Remarquos que si les dés sot idetiques, l oeil e peut distiguer que 21 cas ((i, j) avec i j) mais que ces 21 cas e sot pas équiprobables. O a P {i + j = 7} = 6 36 = 0, = 0, (E cas de doute sur l équiprobabilité des cas, l expérimetatio ou la simulatio permettet toujours de tracher.) Exemple. La probabilité d obteir au mois u «6» e 4 jets d u dé est ( Ω = 6 4 ) ( ) = 0, et celle d obteir au mois ue paire «66» e 24 jets de deux dés est ( Ω = ) ( ) = 0, Élémets de combiatoire Pour déombrer les élémets d u esemble fii, o s appuie sur le pricipe fodametal suivat : Si ue première opératio de déombremet a m 1 résultats possibles et si ue deuxième e admet m 2, alors l opératio cosistat à effectuer successivemet ces deux opératios a m 1 m 2 résultats possibles. 5

7 1.2.1 Arragemets Arrager k objets choisis parmi, c est les choisir e teat compte de l ordre, autremet dit, c est former u sous-esemble ordoé avec ces k objets. E vertu du pricipe fodametal, le ombre d arragemets de k objets choisis parmi est A(, k) = () k = (où! = et 0! = 1).! ( k)! A(, k) est doc le ombre de foctios ijectives de {1, 2, 3,..., k} das {1, 2, 3,..., }. Le ombre total de foctios de {1, 2, 3,..., k} das {1, 2, 3,..., } est k et est égal au ombre d arragemets avec répétitios de k objets choisis parmi. Lorsque k =, u arragemet (sas répétitio) s appelle permutatio des objets. Exemple. Il y a 2 (!) 2 faços de disposer hommes et femmes e ragée de telle sorte que femmes et hommes alteret. Si o les dispose autour d ue table rode et que l o e distigue pas deux dispositios obteues l ue de l autre par ue rotatio, il y a plus que ( 1)!! faços de faire. Exemple. Das ue classe de k étudiats, la probabilité qu au mois deux d etre eux aiet leur aiversaire de aissace le même jour est p k = 1 (365) k 365 k. Ces probabilités p k croisset avec k et l o a p 23 = 0,

8 1.2.2 Combiaisos Combier k objets choisis parmi, c est les choisir sas teir compte de l ordre, autremet dit, c est former u sous-esemble o ordoé avec ces k objets. Ecore e vertu du pricipe fodametal, le ombre de combiaisos de k objets choisis parmi est C(, k) = puisque l o a A(, k) = C(, k) k!. ( ) = k! k!( k)! Puisque C(, k) est le ombre de sous-esembles de taille k de {1, 2, 3,..., }, k=0 ( ) = 2. k Cette relatio est u cas particulier du théorème du biôme : k=0 ( ) x k y k = (x + y). k Exemple. O effectue tirages d ue ure coteat B boules dot R sot rouges. Si les tirages ot lieu avec remise, P {obteir r boules rouges} = et s ils ot lieu sas remise, P {obteir r boules rouges} = ( ) R r (B R) r r B = ( r ( ) (R)r (B R) r = r (B) ) ( R B ( R r ) r ( 1 R ) r B )( ) B R r ( ). B Ce modèle des tirages d ue ure s applique à beaucoup de situatios. Par exemple, si l o géère etiers au hasard etre 0 et , ( ) P {obteir r ombres premiers} = 0, r 0, r r 7

9 (tirages avec remise, B = et R = ). À la loterie «6/49», ( )( ) ( )( ) ( )( ) P {obteir au mois 4 bos uméros} = ( ) 49 6 = 0, 001 (6 tirages sas remise, B = 49 et R = 6). Toujours e vertu du pricipe fodametal, le ombre de faços de partager u esemble de taille e m sous-esembles de taille respective 1, 2,..., m ( m = ) est ( ) M( 1, 2,..., m ) = = 1 2 m puisque ( )( ) 1 M( 1, 2,..., m ) = 1 2! 1! 2! m! ( 1 2 m 1 Le théorème multiomial est ue gééralisatio du théorème biomial : ( ) x x 2 2 xm m = (x 1 + x x m ). m m= Le ombre de termes das la somme du théorème multiomial est égal au ombre de solutios etières positives 1, 2,..., m de l équatio m = c est-à-dire à ( ) + m 1 car compter le ombre de faços de placer objets das m cellules reviet à compter le ombre de faços de disposer O et m I sur ue lige de telle sorte que le derier item à droite soit toujours u I. Exemple. Das ue mai de poker (5 cartes parmi 52 cartes = 4 couleurs x 13 valeurs), ( )( )( ) m ). P {ue paire} = ( ) = 0, 423,

10 ( 13 )( ) 4 2 ( ) 4 et P {deux paires} = ( ( ) = 0, )( )( ) 4 4 P {«full»} = ( ) = 0, Exemple. E géérat ciq chiffres au hasard, ( )( ) P {ue paire} = 10 5 = 0, 504, ( 10 )( 5 ) et P {deux paires} = 10 5 = 0, 108 ( )( ) 10 5 P {«full»} = = 0, 009. Exemple. Le ombre de solutios etières strictemet positives 1, 2,..., m de l équatio m = est ( ) 1 m et le ombre de solutios etières positives 1, 2,..., m de l iégalité m est ( + m ). Exemple. Si étudiats motet das l asceseur du pavillo AA, le ombre de faços dot ils peuvet e descedre etre les ciq étages 2, 3, 4, 5 9

11 et 6 est égal à 5 si o distigue les idividus et ( ) +4 si o e les distigue pas. Le premier ombre est la valeur de la somme ( ) = et le secod est le ombre de termes qu elle cotiet. E l absece d iformatio supplémetaires, il faudrait cosidérer les 5 cas comme équiprobables. Aisi, pour = 4, ( ) 4 P {2 au 3, 1 au 4 et 1 au 6} = = Le modèle complet Ce modèle est dû à A.N.Kolmogorov (co-iveteur avec G.J. Chaiti et R.J. Solomooff de la otio de complexité descriptioelle e iformatique) et date de Il comporte trois élémets : l esemble Ω des issues possibles de l expériece aléatoire, la famille E des évèemets cosidérés et la foctio P leur attribuat des probabilités (la «mesure» de probabilité). L esemble Ω peut être fii, ifii déombrable ou ifii o déombrable et la famille E des évèemets est plus écessairemet égale à l esemble de tous les sous-esembles de Ω. Il suffit qu elle cotiee Ω et soit stable sous les opératios esemblistes de complémetatio et de réuio fiie ou déombrable. Quat aux probabilités, quelle que soit la faço dot elles sot attribuées, il faut et il suffit que la foctio satisfasse les deux coditios P1 P {Ω} = 1 ; P : E [0, + [ P2 si les évèemets E 1, E 2, E 3,... sot deux à deux icompatibles, alors { + } + P E k = P {E k }. k=1 E particulier, e vertu de P2, si l évèemet E est discret (c est-à-dire fii ou déombrablemet ifii), o aura k=1 P {E} = ω E P {ω}. 10

12 Attribuer les probabilités tout e respectat ces cotraites, c est modéliser le problème cosidéré et le faire de faço réaliste peut être quelquefois difficile. Les axiomes P1 et P2 admettet les propriétés 3., 4., 5. et 6. comme coséqueces. Cette derière propriété est d ailleurs u cas particulier de la formule de Poicaré (aussi appelée pricipe d iclusio-exclusio) : quels que soiet E 1, E 2,..., E, { } P E k = P {E k } P {E i E j } + k=1 1 i<j<k k=1 que l o déduit de 6. par récurrece sur. 1 i<j P {E i E j E k } + ( 1) 1 P {E 1 E 2 E } Exemple. Das l espace Ω = {0, 1} des suites biaires fiies, o peut poser 1 P {ω} = 2 2l(ω)+1 où l(ω) désige la logueur de la suite ω. (Remarquer que l o attribue aisi la probabilité 1/2 la suite vide ε.) Alors o a bie P {Ω} = ω Ω P {ω} = + k=0 l(ω)=k l(ω)+1 = k=0 E est ici l esemble de tous les sous-esembles E de Ω et P {E} = ω E P {ω}. 1 = 1. 2k+1 Das certaies situatios, à la mesure de probabilité que l o viet de cosidérer (la mesure uiforme), il est préférable de substituer la mesure de Levi, pour laquelle P {ω} = 1 2 K(ω) où K(ω) est la complexité de Kolmogorov de ω, c est-à-dire la logueur du plus court programme auto-délimité qui egedre ω. 11

13 Exemple. Das l espace Ω = {0, 1} = [0, 1] des suites biaires ifiies, o désige par Γ x l esemble des ombres réels dot le développemet biaire commece par la suite fiie x c est u itervalle et o pose P {Γ x } = 1 2 l(x). Alors P peut être prologée de faço à ce que la probabilité de importe quel itervalle soit égale à sa logueur. La mesure de probabilité aisi obteue s appelle mesure de Lebesgue. Exemple. Le problème des recotres. La probabilité p pour qu ue permutatio de objets choisie au hasard, f : {1, 2,..., } {1, 2,..., }, e cotiee aucu poit fixe k (aucu poit tel que f(k) = k) peut être calculée avec la formule de Poicaré. Désigat par E k l évèemet «f(k) = k», o a, si 2, p = P {E c 1E 2 2 E c } = P {(E 1 E 2 E ) c } = 1 P {E 1 E 2 E } = 1 ( 1)! ( 2)! ( 3)! + + ( 1) 1!!!! k=1 1 i<j 1 i<j<k (( ) ( ) ( ) ) ( 1)! ( 2)! ( 3)! = ( 1) 1 1! 2! 3!! = 1 2! 1 3! + 1 4! + ( 1)! et p 1 = 0. O a p e 1 = 0, 368 dès que 10. La probabilité p,j pour que la permutatio admette exactemet j poits fixes est p,j = P {E i1 E i2 E ij Ei c j+1 Ei c j+2 Ei c } 1 i 1 <i 2 < <i j ( ) = P {E 1 E 2 E j E c j j+1ej+2 c E} c ( ) ( j)! p j = = p j. j! j! puisque P {E 1 E 2 E j E c j+1 Ec j+2 Ec }! = le ombre de permutatios de objets laissat exactemet les j premiers fixes = le ombre de déragemets des j deriers objets = p j ( j)!. 12

14 Exemple. Les foctios surjectives. Si k, le ombre S(, k) de foctios surjectives de {1, 2,..., k} das {1, 2, 3,..., } peut être calculé à l aide du pricipe d iclusio-exclusio e cosidérat les évèemets E j «la valeur j est omise» et e raisoat comme précédemmet : S(, k) k = P {E c 1E 2 2 E c } = P {(E 1 E 2 E ) c } = 1 P {E 1 E 2 E } doc : = k 1 i 1 <i 2 <i 3 ( 1 S(, k) = k ( 1) k + i=1 1 i 1 <i 2 ( 3) k + + ( 1) 1 ) ( 1) k + ( ) ( 2) k 2 ( 3 ( 2) k 1 i 1 <i 2 < <i 1 ( ( 1)) k ) ( 3) k + + ( 1) 1 ( 1 ). 1.4 Probabilités coditioelles Si l o sait que l évèemet F est réalisé (sas coaître exactemet l issue ω de l expériece aléatoire), o est ameé à réassiger les probabilités des évèemets pour e teir compte. La probabilité coditioelle de E doé F (avec P {F } > 0) est, par défiitio, P {E/F } = P {EF } P {F }. Cette ouvelle faço d attribuer les probabilités satisfait les axiomes P1 et P2 et toutes les formules du calcul des probabilités s appliquet autat aux probabilités coditioelles qu aux probabilités iitiales. Das le cas d u ombre fii d issues équiprobables, o peut calculer P {E/F } e comptat le ombre d issues de F qui sot aussi das E puisque P {E/F } = P {EF } P {F } EF / Ω = = EF F / Ω F. 13

15 Les probabilités coditioelles permettet souvet de calculer facilemet les probabilités d itersectios d évèemets : P {EF } = P {E/F }P {F } = P {F/E}P {E}. O dit que les évèemets F 1, F 2,..., F formet ue partitio de Ω si ils sot deux à deux icompatibles et si Ω = F k. k=1 O a alors, e vertu de P2, la formule des probabilités totales : quel que soit E, P {E} = P {E/F k }P {F k }. k=1 La combiaiso des relatios précédetes coduit à la formule de Bayes : si l o sait que l évéemet E est réalisé, la probabilité à posteriori, P {F j /E}, que ce soit la «cause» F j qui l ait produit peut s obteir des probabilités à priori, P {F k }, des diverses «causes» à partir de l équatio P {F j /E} = P {E/F j }P {F j } k=1 P {E/F k}p {F k }. Exemple. Lors du jet de deux dés, il y a 36 = Ω issues équiprobables ω = (i, j) où 1 i, j 6. O a P {i + j impaire / ij impair } = 0 9 = 0 et P { i j = 2 / ij impaire } = 4 9 = 0, 444. Exemple. La probabilité que le deuxième jet de trois dés idetiques doe le même résultat que le premier jet peut être calculée à l aide de la formule des probabilités totales, e coditioat sur le ombre de chiffres disticts obteus au premier jet. Désigat par k ce ombre, ( ) 6 P {k = 1} = = 1 36, 14

16 ( 6 )( ) 3 et Doc P {k = 2} = 216 ( ) 6 3! 3 P {k = 3} = 216 ( ) 3 = = P { jet 2 = jet 1} = ! = 0, 004. Exemple. O estime à 40% la proportio des courriels qui sot e fait des pourriels. U logiciel cherche à bloquer ces deriers d après leur coteu. Supposos que 5% des bos courriels cotieet l ue des expressios «viagra» ou «occasio exceptioelle» et que cette proportio mote à 90% pour les pourriels. Si u message est bloqué par le logiciel, la probabilité qu il s agisse vraimet d u pourriel peut être calculée à l aide de la formule de Bayes. = P {pourriel/bloqué} P {bloqué/pourriel}p {pourriel} P {bloqué/pourriel}p {pourriel} + P {bloqué/bo}p {bo} 0, 90 0, 40 = = 0, , 90 0, , 05 0, 60 Exemple. Lorsque l o géère au hasard deux suites biaires fiies (o vides), la probabilité que la plus courte ω c soit u préfixe de la plus logue ω l, c est-à-dire que l o ait ω l = ω c ω pour ue suite ω appropriée évetuellemet vide, peut être calculée e coditioat sur la logueur l(ω l ) de la plus logue. E supposat que o a P {ω} = P {l(ω l ) = k} = 1 2 2l(ω)+1, l(ω)=k P {ω} = 1 2 k+1 15

17 et P {préfixe} = + k=1 ( ) 1 2 2k+1 2 k+1 = 1 = 0, Idépedace stochastique Par défiitio, les évèemets E et F sot idépedats si P {EF } = P {E}P {F }. Cela sigifie que P {E/F } = P {E} et que P {F/E} = P {F } : le fait de savoir que l u des deux évèemets est réalisé e chage pas la probabilité que l autre le soit. Exemple. Lors du jet de deux dés, les évèemets «i+j impaire» et «ij impair» sot icompatibles, doc e sot pas idépedats. Les évèemets «i j = 2» et «ij impair» e le sot pas o plus : P { i j = 2 / ij impaire } = 4 9 P { i j = 2} = 2 9, mais les évèemets «i = j» et «i est pair» le sot : P {i = j et i pair } = 1 12 = = P {i pair }P {i = j}. 6 Exemple. Si E et F sot idépedats, E et F c le sot aussi car P {EF c } = P {E} P {EF } = P {E}(1 P {F }) = P {E}P {F c }. Lorsqu ue expériece aléatoire est répétée das des circostaces idetiques, l esemble des issues possibles est Ω 2 = Ω Ω. Tout évèemet de la forme E 1 Ω dot la réalisatio e déped que de la première épreuve est idépedat de tout évèemet de la forme Ω E 2 dot la réalisatio e déped que de la secode. Par suite, o a P {E 1 E 2 } = P {E 1 Ω Ω E 2 } = P {E 1 Ω}P {Ω E 2 } = P {E 1 }P {E 2 }. 16

18 Aisi, lors de épreuves idépedates, P {(ω 1, ω 2,..., ω )} = P {ω 1 }P {ω 2 } P {ω }. Exemple. Avat le premier lacer, la probabilité d observer dix fois PILE e dix lacers d ue pièce est que de 2 10 = 0, 001. Après avoir observés euf fois PILE, la probabilité d observer dix fois PILE e dix lacers est de 2 1 = 0, 5, e vertu de l idépedace des lacers. 17

19 2 Variables aléatoires Ue variable aléatoire est ue foctio X : Ω R. Sa distributio (sa loi) est détermiée par sa foctio de répartitio F : R R, défiie par F (x) = P {ω : X(ω) x} et à partir de laquelle toutes les probabilités pertietes à X peuvet être calculées. La foctio de répartitio croît de 0 à 1 lorsque so argumet croît de à + et ue coséquece de l axiome P2 est qu elle est toujours cotiue par la droite. O distigue les variables aléatoires discrètes dot l esemble des valeurs est fii ou déombrable des variables aléatoires cotiues dot l esemble des valeurs est ifii o déombrable. Exemple. Lors du lacer d u dé, soit X le ombre de PILE obteu. Alors 0 si x < 0; F (x) = 1/2 si 0 x < 1; 1 si 1 x Fig. 1 La foctio de répartitio de X Exemple. O choisit etre 0 et 1 u ombre réel Y au hasard au ses où la probabilité que Y soit das u itervalle [a, b] [0, 1] quelcoque est égale à sa logueur b a. Alors F (y) = 0 si x < 0; x si 0 x < 1; 1 si 1 x. 18

20 Fig. 2 La foctio de répartitio de Y 2.1 Variables aléatoires discrètes Pour étudier ue variable discrète X, preat les valeurs x k, o utilise pricipalemet sa foctio de masse : p(x k ) = P {ω : X(ω) = x k }. L espérace mathématique de X est E(X) = k x k p(x k ) et sa variace est V(X) = k (x k E(X)) 2 p(x k ). L espérace est ue mesure de positioemet de la variable et la variace est ue mesure de sa dispersio. L écart-type a les mêmes uités que la variable. σ(x) = V(X) Si g : R R est ue foctio, Y = g(x) est ue ouvelle variable aléatoire discrète dot o peut calculer l espérace mathématique au moye de la formule E(Y ) = g(x k )p(x k ). k 19

21 Aisi, o peut dire que V(X) = E(X 2 ) E(X) 2. O a E(aX + b) = a E(X) + b et V(aX + b) = a 2 V(X). Par coséquet, pour toute variable X, la variable Y = X E(X) σ(x) a ue espérace mathématique ulle et ue variace uité. O dit de Y qu elle est cetrée réduite. Exemple. Lors du lacer d u dé, soit X le ombre obteu. Alors et V(X) = E(X) = = 7 2 ( ) 7 2 = Exemple. Soiet E Ω et X E : Ω R la variable aléatoire défiie par { 1 si ω E ; X E (ω) = 0 sio. Alors E(X E ) = P {E} et V(X E ) = P {E}(1 P {E}). Exemple. Soiet Ω = {0, 1} et X : Ω R la variable aléatoire défiie par X(ω) = l(ω). Alors, e supposat que o a P {ω} = 1 2 2l(ω)+1, p(k) = 1 2 k+1 20

22 et E(X) = + k=1 k = 1. 2k+1 Exemple. Complexité computatioelle moyee. L algorithme de fouille liéaire permet de localiser x das ue liste de logueur au moye de 2k + 1 comparaisos si x occupe la positio k de la liste et permet de dire que x est pas das la liste au moye de comparaisos si x e figure pas das la liste. Soit X(x) le ombre de comparaisos écessaires sur l iput x. (La liste est supposée doée). E supposat que x appartiet à la liste avec probabilité p et qu alors il y occupe la positio k avec probabilité 1/, o a E(X) = (2k + 1) p + (2 + 2)(1 p) = p. k=1 Par exemple, si les élémets de la liste sot des etiers disticts etre 0 et et si x est aussi choisi das ce domaie, p = /10 6 et E(X) = U vecteur aléatoire discret à deux dimesios est ue foctio (X, Y ) : Ω R 2 (o dit aussi que les variables aléatoires X et Y sot cojoitemet distribuées). Sa loi est détermiée par sa foctio de masse cojoite : p(x k, y j ) = P {ω : X(ω) = x k, Y (ω) = y j }. Les foctios de masse margiales des composates sot alors calculées au moye des formules p X (x k ) = j p(x k, y j ) et p Y (y j ) = k p(x k, y j ). Les variables X et Y sot idépedates si p(x k, y j ) = p X (x k )p Y (y j ). Cela sigifie que tout évèemet impliquat que X est idépedat de tout évèemet impliquat que Y. 21

23 Lorsque les variables X et Y e sot pas idépedates, les probabilités qui leur sot associées peuvet être calculées au moye des foctios de masse coditioelles : p X/Y (x k /y j ) = p(x k, y j ) p Y (y j ) et p Y/X (y j /x k ) = p(x k, y j ) p X (x k ). Si g : R 2 R est ue foctio, Z = g(x, Y ) est ue ouvelle variable aléatoire discrète dot o peut calculer l espérace mathématique au moye de la formule E(Z) = g(x k, y j )p(x k, y j ). k j Exemple. L o choisit au hasard u etier X etre 1 et 4 puis u etier Y etre 1 et X. La loi cojoite du couple (X, Y ) peut être calculée au moye de P {X = x, Y = y} = P {Y = y/x = x}p {X = x} = 1 1 x 4 pour tout 1 y x 4. Le tableau suivat doe les lois cojoite et margiales de X et de Y. X \ Y Loi de X 1 1/ /4 2 1/8 1/ /4 3 1/12 1/12 1/12 0 1/4 4 1/16 1/16 1/16 1/16 1/4 Loi de Y 25/48 13/48 7/48 3/48 1 Ce tableau coteat des zéros, X et Y e sot pas idépedates. L espérace mathématique de Y peut être obteue ue fois que sa loi margiale a été calculée : E(Y ) = = 1, Exemple. O choisit au hasard etiers X 1, X 2,..., X etre 0 et (tirages avec remise). Les variables X 1, X 2,..., X sot doc idépedates. Si X = max{x 1, X 2,..., X }, 22

24 la foctio de masse de X peut être obteue via sa foctio de répartitio : ( ) x + 1 F (x) = P {X x} = 10 6 et p(x) = P {X = x} = F (x) F (x 1) = (x + 1) x pour 0 x Lois discrètes particulières Loi uiforme X suit ue loi uiforme de paramètre si 10 6 p(k) = 1 pour 1 k. O a E(X) = + 1 ( + 1) et V(X) = Typiquemet, X est le résultat du tirage au sort d u etier compris etre 1 et. Exemple. O choisit au hasard etiers disticts (tirages sas remise) etre 0 et Si X désige le rag du plus grad, X suit ue loi uiforme de paramètre Loi biomiale O a X suit ue loi biomiale de paramètres et p si ( ) p(k) = p k (1 p) k pour 0 k. k E(X) = p et V(X) = p(1 p). Typiquemet, X est le ombre de succès obteus lors de répétitios das des coditios idetiques d ue expériece aléatoire résultat à chaque fois e u succès avec probabilité p (épreuves de Beroulli, e l hoeur de Jacques Beroulli, auteur du premier traité de calcul des probabilités e 1713 ; lorsque = 1, ue variable biomiale s appelle aussi ue variable de Beroulli). 23

25 Exemple. O géère au hasard ue suite biaire de logueur 51. Le ombre X de chagemets (0 à 1 ou 1 à 0) suit ue loi biomiale de paramètres = 50 et p = 1/ Fig. 3 Foctio de masse de la loi biomiale, =20 et p= Loi hypergéométrique O a X suit ue loi hypergéométrique de paramètres, a et A si ( )( ) a A a p(k) = k k ( ) A pour a + A k a. E(X) = a A et V(X) = a A ( 1 a ) A A A 1. Typiquemet, X est le ombre d idividus distigués obteus lors de tirages sas remise d ue populatio de A idividus dot a sot distigués. Lorsque A est grad comparé à, la distributio hypergéométrique est pratiquemet la même que la distributio biomiale de paramètres et p = a/a. Exemple. Pour estimer la populatio e poissos A d u lac, o e capture a que l o marque puis que l o relâche. O effectue esuite ue pêche de poissos. L estimateur que l o pred pour A est alors la valeur de A 24

26 qui rede maximum la probabilité ( )( ) a A a k k f(a) = ( ) A de ce que l o a observé (estimateur à vraisemblace maximale). Sa valeur est a  =. k Loi de Poisso O a le résultat mathématique suivat : lim + ( k ) ( λ ) k ( 1 λ ) k λ λk = e k!. O a X suit ue loi de Poisso de paramètre λ si λ λk p(k) = e k! pour k 0. E(X) = V(X) = λ. Typiquemet, X est le ombre de réalisatios par uité de temps costatées lors d u très grad ombre d observatios (de la réalisatio ou o) d u phéomèe ayat ue très petite probabilité de se produire. E particulier, ue loi biomiale de paramètres grad et p petit est bie approximée par ue loi de Poisso de paramètre λ = p. Exemple. Supposos que la distributio du ombre de cliets à u guichet automatique varie peu durat la jourée et que, pour chaque période d ue heure, ce ombre suit ue loi de Poisso de moyee 10. (Beaucoup de persoes passet devat ce guichet, très peu s y arrêtet). La probabilité que plus de 15 cliets se présetet etre midi et treize heures est k 1 e k! k=0 25 = 0, 049.

27 Le probabilité que le ombre de cliets etre quatorze et seize heures soit d au plus 25 est k e = 0, 888. k! k= Fig. 4 Foctio de masse de la loi de Poisso, λ = Variables aléatoires cotiues La distributio d ue variable aléatoire cotiue X peut habituellemet être décrite au moye de sa foctio de desité de probabilité f : R R, défiie par la coditio que, quel que soit B R, P {ω : X(ω) B} = f(x) dx. O doit doc avoir f(x) 0 et + B f(x) dx = 1. Cepedat, f(x) est pas ue probabilité et il est possible que f(x) > 1. Puisque, si x > 0 est petit, o a { P x x 2 < X x + x } x+ x/2 = f(t) dt f(x) x, 2 x x/2 l iterprétatio probabiliste de f(x) est que f(x) x est la probabilité que X = x à «x près». La foctio de desité de probabilité joue pour les 26

28 variables cotiues u rôle aalogue à celui que la foctio de masse joue pour les variables discrètes, les itégrales remplaçat les sommes. Les relatios etre foctio de répartitio et foctio de desité de probabilité sot doées par De plus, F (x) = x f(t) dt et f(x) = d dx F (x). P {X = x} = lim (F (x + x) F (x x)) = F (x) F (x ). x 0 E particulier, P {X = x} = 0 pour tout x sauf aux poits de discotiuité de F. Ceci implique pas que P {E} = 0 pour tout évèemet E puisque l axiome P2 e porte que sur les réuios déombrables et ceci e sigifie pas o plus que le modèle probabiliste est irréaliste puisque qu u ombre réel x est ue abstractio mathématique dot o e coaît jamais que quelques décimales. Exemple. Soit X u ombre réel choisi au hasard etre 0 et 1. Alors quel, que soit x, P {X = x} = 0 mais, e fait, c est Γ x qui est observé et P {X Γ x } = 1 2 l(x). L espérace mathématique de X est et sa variace est V(X) = E(X) = + + xf(x) dx (x E(X)) 2 f(x) dx. L espérace est ue mesure de positioemet de la variable et la variace est ue mesure de sa dispersio. L écart-type σ(x) = V(X) 27

29 a les mêmes uités que la variable. Ue variable d espérace ulle et de variace uité est dite cetrée réduite. Si g : R R est ue foctio cotiue, Y = g(x) est ue ouvelle variable aléatoire cotiue dot o peut calculer l espérace mathématique au moye de la formule E(Y ) = + g(x)f(x) dx. Aisi, V(X) = E(X 2 ) E(X) 2. U vecteur aléatoire cotiu à deux dimesios est ue foctio (X, Y ) : Ω R 2 (o dit aussi que les variables aléatoires X et Y sot cojoitemet distribuées). Sa loi est détermiée par sa foctio de desité de probabilité cojoite f : R 2 R, défiie par la coditio que quelque soit B R 2, P {(X, Y ) B} = f(x, y) dxdy. Les foctios de desité de probabilité margiales des composates sot alors calculées au moye des formules f X (x) = + B f(x, y) dy et f Y (y) = Les variables X et Y sot idépedates si f(x, y) = f X (x)f Y (y). + f(x, y) dx. Cela sigifie que tout évèemet dot la défiitio e fait iterveir que X est idépedat de tout évèemet dot la défiitio e fait iterveir que Y. Lorsque les variables X et Y e sot pas idépedates, les probabilités qui leur sot associées peuvet être calculées au moye des foctios de desité coditioelles : f X/Y (x/y) = f(x, y) f Y (y) et f Y/X (y/x) = f(x, y) f X (x). 28

30 Si g : R 2 R est ue foctio cotiue, Z = g(x, Y ) est ue ouvelle variable aléatoire cotiue dot o peut calculer l espérace mathématique au moye de la formule E(Z) = + + g(x, y)f(x, y) dxdy. Exemple. Si g(x, y) = x + y, o a = et xf(x, y) dxdy + (x + y)f(x, y) dxdy + + E(X + Y ) = E(X) + E(Y ). Si g(x, y) = xy et si les variables sot idépedates, o a yf(x, y) dxdy et + + xyf(x, y) dxdy = = + xf X (x)dx E(XY ) = E(X)E(Y ). xyf X (x)f Y (y) dxdy yf Y (y)dy 2.4 Lois cotiues particulières Loi uiforme X suit ue loi uiforme de paramètres a et b si 1 si a < x < b; b a f(x) = 0 sio. Doc, si (c, d) (a, b), P {X (c, d)} = d c b a. 29

31 O a E(X) = b + a (b a)2 et V(X) = Typiquemet, X est u ombre réel choisi au hasard das l itervalle (a, b). De faço semblable, o dit que le vecteur aléatoire (X, Y ) suit ue loi uiforme das le domaie D R 2 si 1 si (x, y) D; aire de D f(x, y) = 0 sio. Cela correspod à choisir u poit au hasard das D. Pour tout domaie B D, aire de B P {(X, Y ) B} = aire de D. Exemple. Supposos que la fréquece des trais sur ue lige de métro soit d u toutes les 7 miutes. Alors le temps d attete X de la prochaie rame pour u usager sera ue variable aléatoire uiforme sur l itervalle (0, 7) et il attedra e moyee 3, 5 miutes. S il atted depuis 2 miutes, la probabilité qu il attede ecore 2 miutes est P {X > 4/X > 2} = P {X > 4} P {X > 2} = 3/7 = 0, 6. 5/7 Exemple. Les racies de l équatio quadratique ax 2 + bx + c = 0 sot b ± b 2 4ac. 2a Supposos que B soit u ombre choisi au hasard etre 10 et 10. Alors la probabilité que les racies de l équatio x 2 + Bx + 1 = 0 soiet réelles est P {B 2 4 > 0} = P {B > 2} + P {B < 2} = 2 8 = 0, Exemple. Les valeurs propres de la matrice symétrique ( ) a b b c 30

32 sot a + c ± (a c) 2 + 4b 2. 2 Supposos que A et C soiet des variables aléatoires uiformes et idépedates sur l itervalle (0, 2). Alors la foctio de desité de probabilité du vecteur aléatoire (A, C) sera { 1/4 si 0 < x, y < 2; f(a, c) = 0 sio. et la probabilité que les valeurs propres de la matrice ( A 1 ) 1 C soiet positives est (figure(5)) P {AC > 1} = f(a, c) dadc = 1 ac>1 4 = 3 2 l 2 = 0, Exemple. La méthode de Mote-Carlo. Si 0 f(x) 1 lorsque 0 x 1, o peut écrire que 1 0 1/2 f(x) dx = P {Y f(x)} ( 2 1 ) da a où (X, Y ) est u vecteur aléatoire uiforme das le carré [0, 1] [0, 1] puisque l itégrale et la probabilité sot toutes deux égales à l aire sous la courbe y = f(x). O peut doc estimer l itégrale e géérat u grad ombre de poits au hasard das le carré et e preat pour valeur de l itégrale la proportio de ceux qui satisfot l iégalité. Aisi 1 0 e x2 /2 dx = 0, 856. Exemple. Si (X, Y ) est u vecteur uiforme das le disque x 2 + y 2 < 1, la foctio de desité margiale de X est f X (x) = + f(x, y) dy = 1 x x 2 π dy = 2 1 x π 2 si x < 1 31

33 2 c c 1 a a Fig. 5 Le domaie d itégratio pour les valeurs propres et l expressio pour f Y (y) est semblable. Puisque f X (x)f Y (y) f(x, y), X et Y e sot pas idépedates. La foctio de desité coditioelle de X doée Y est f X/Y (x/y) = f(x, y) f Y (y) = y 2 si x < 1 y 2 ; la valeur y de Y doée, X est uiforme sur l itervalle ( 1 y 2, 1 y 2 ) Loi expoetielle X suit ue loi expoetielle de paramètre λ si { λe λx si x > 0; f(x) = 0 sio. Typiquemet, X est le temps d attete de la prochaie réalisatio d u phéomèe gouveré par ue loi de Poisso de paramètre λ. E effet, si Y 32

34 est le ombre de réalisatios du phéomèe durat u temps x, Y suit ue loi de Poisso de paramètre λx et, si x > 0, 1 F (x) = P {X > x} = P {Y = 0} = e λx d où O a f(x) = λe λx. E(X) = 1 λ et V(X) = 1 λ 2. Le momet à partir duquel o commece à mesurer le temps d attete a aucue importace. E effet, ue variable expoetielle est «sas mémoire». O a P {X > x + t / X > t} = P {X > x + t} P {X > t} = e λ(x+t) e λt = e λx = P {X > x}. Exemple. Le ombre auel de paes du système d exploitatio «Vitrie 99» suit ue loi de Poisso de paramètre λ = 2, 5. Soit X le temps d attete (e aées) de la prochaie pae. Mesurat le temps à partir du premier javier, la probabilité qu il y ait aucue pae avat le premier avril est P {X > 90/365} = + 90/365 (2, 5)e 2,5x dx = 0, 540. E démarrat le système le premier juillet, la probabilité qu il y ait aucue pae avat la fi de l aée est P {X > 181/365} = + 181/365 L espérace mathématique de X est 146 jours Loi ormale (2, 5)e 2,5x dx = 0, 289. Si Y suit ue loi biomiale de paramètres et p, les valeurs de la variable cetrée réduite Y p p(1 p) vot de p/(1 p) à (1 p)/p et e diffèret l ue de l autre que de 1/ p(1 p). Lorsque ted vers l ifii, cette variable s approche doc 33

35 d ue variable cotiue preat toutes les valeurs réelles. O peut motrer que, quels que soiet a et b, { } lim P a < Y p b = 1 b e x2 /2 dx + p(1 p) 2π (théorème de de Moivre-Laplace). a Fig. 6 Le théorème de demoivre-laplace, = 100 et p = 0, 3 O a Z suit ue loi ormale stadard (Z N(0, 1)) si φ(x) = 1 2π e x2 /2. E(Z) = 0, V(Z) = 1. La foctio de répartitio d ue ormale stadard est aussi déotée par u symbole particulier : Par symétrie, Φ(x) = 1 2π x e t2 /2 dt. Φ( x) + Φ(x) = 1 de telle sorte que les tables de Φ(x) e sot écessaires que pour les valeurs positives de x. Les quatiles z α sot défiis pour 0 < α < 1 par P {Z > z α } = 1 Φ(z α ) = α. 34

36 O a z 0,05 = 1, 645, z 0,025 = 1, 96, z 0,01 = 2, 33 et z 0,005 = 2, 58. O a X suit ue loi ormale de paramètres µ et σ 2 ( X N(µ, σ 2 )) si car X N(µ, σ 2 ) si et seulemet si ( 1 x µ f(x) = 1 σ 2π e 2 σ E(X) = µ, V(X) = σ 2 X = σz + µ où Z N(0, 1). Toute probabilité cocerat X peut s obteir à partir de la foctio Φ : { a µ P {a < X b} = P < X µ b µ } ( ) ( ) b µ a µ = Φ Φ. σ σ σ σ σ ) 2. Exemple. Si X N(1, 4), P {0 < X 2} = 2 Φ(0, 5) 1 = 0, 383 et P {X > 3} = 1 Φ(1) = 0, 159. Le théorème cetral limite (dot le théorème de de Moivre-Laplace est u cas particulier) explique l importace extrême de la loi ormale (aussi appelée loi de Laplace-Gauss). C est la distributio de base de la statistique, avec certaies distributios apparetées. 35

37 aire Α z Α Fig. 7 La loi ormale stadard Loi du khi-deux Si Z 1, Z 2,..., Z sot des ormales stadards idépedates, la variable χ 2 = Z1 2 + Z Z 2 suit ue loi du khi-deux à degrés de liberté. O a E(χ 2 ) = et V(χ 2 ) = 2. Les quatiles d ue loi χ 2 sot otés χ 2 α, : P {χ 2 > χ 2 α,} = α. Exemple. Lorsque = 1, la foctio de desité de probabilité f peut facilemet être obteue e dérivat la foctio de répartitio F. O a doc F (x) = P {Z 2 x} = 2P {0 Z x} = 2 x e t2 /2 dt 2π f(x) = 1 2π 1 x e x/

38 Χ Α,8 aire Α Fig. 8 La loi du khi-deux, = Loi de Studet Si Z est ue ormale stadard et χ 2 est ue khi-deux à degrés de liberté et si ces variables sot idépedates, la variable T = Z χ 2 / suit ue loi de Studet à degrés de liberté. O a E(T ) = 0 et V(T ) = 2 si > 2. Les quatiles d ue loi T sot otés t α, : P {T > t α, } = α. (Studet (l étudiat) est u pseudoyme pour W.S.Gosset qui a développé cette loi). Le graphe de la loi de Studet a la même allure géérale que celui de la loi ormale seulemet plus aplatie Loi de Fisher-Sedecor Si les variables χ 2 et χ 2 m sot idépedates, la variable F,m = χ2 / χ 2 m/m suit ue loi de Fisher-Sedecor à et m degrés de liberté. O a E(F,m ) = m m 2 et V(F,m) = 2m2 ( + m 2) (m 2) 2 (m 4). 37

39 aire Α t Α,5 Fig. 9 La loi de Studet, = 5 Les quatiles d ue loi F,m sot otés F α,,m : P {F,m > F α,,m } = α. Le graphe de la loi de Fisher-Sedecor a la même allure géérale que celui de la loi du khi-deux aire Α F Α,8,5 Fig. 10 La loi de Fisher-Sedecor, = 8, m = 5 38

40 3 Sommes de variables aléatoires Das ce chapitre, ous obteos certaies propriétés des sommes de variables aléatoires idépedates et ous étudios le comportemet de ces sommes lorsque le ombre de termes ted vers l ifii. 3.1 Espérace d ue somme Si X et Y sot deux variables discrètes cojoitemet distribuées, o a E(X + Y ) = (x k + y j )p(x k, y j ) k j = x k p(x k, y j ) + y j p(x k, y j ) k j k j = k x k p X (x k ) + j y j p Y (y j ) = E(X) + E(Y ). E gééral, si X 1, X 2,..., X sot des variables aléatoires cojoitemet distribuées quelcoques, o a E(X 1 + X X ) = E(X 1 ) + E(X 2 ) + + E(X ). Si X et Y sot deux variables discrètes cojoitemet distribuées idépedates, o a E(XY ) = x k y j p(x k, y j ) = x k y j p X (x k )p Y (y j ) k j k j = x k p X (x k ) y j p Y (y j ) = E(X)E(Y ). k j Cette relatio reste valable si les variables sot cotiues comme o l a vu mais peut e pas être vraie si les variables e sot pas idépedates. Exemple. O effectue tirages d ue ure coteat B boules dot R sot rouges. Soit X le ombre de boules rouges obteues. Si les tirages ot lieu avec remise, posos X = k=1 X k 39

41 où Alors { 1 si o obtiet ue boule rouge au k X k = ième tirage 0 sio. E(X k ) = R B et E(X) = E(X k ) = R B. k=1 Si les tirages ot lieu sas remise, posos X = R j=1 Y j où Alors et o a ecore { 1 si la j Y j = ième boule rouge est tirée 0 sio. E(Y j ) = E(X) = ( )( ) 1 B ( ) = B B R E(Y j ) = R B. j=1 3.2 Variace d ue somme Si X et Y sot deux variables cojoitemet distribuées, o a V(X + Y ) = E((X + Y ) 2 ) E(X + Y ) 2 = E(X 2 + 2XY + Y 2 ) (E(X) + E(Y )) 2 = E(X 2 ) E(X) 2 + E(Y 2 ) E(Y ) (E(XY ) E(X)E(Y )). La covariace de X et Y est COV(X, Y ) = E(XY ) E(X)E(Y ) = E((X E(X))(Y E(Y ))) 40

42 et leur coefficiet de corrélatio est ρ(x, Y ) = COV(X, Y ) σ(x)σ(y ). E vertu de l iégalité de Cauchy-Schwarz, o a toujours que ρ(x, Y ) 1 avec égalité si et seulemet si il existe ue relatio liéaire etre X et Y. E gééral, ue corrélatio positive etre X et Y sigifie que ces variables ot tedace à varier das le même ses, ue corrélatio égative, das des ses opposés. Exemple. Soiet X et Y deux variables e preat chacue que les valeurs 0 ou 1. Alors COV(X, Y ) = E(XY ) E(X)E(Y ) = P {X = 1, Y = 1} P {X = 1}P {Y = 1} = (P {X = 1/Y = 1} P {X = 1}) P {Y = 1} > 0 si et seulemet si P {X = 1/Y = 1} > P {X = 1}. O voit clairemet ici qu ue covariace positive idique ue tedace pour les deux variables à varier das le même ses. Si X et Y sot idépedates, alors COV(X, Y ) = 0 mais la réciproque est pas vraie. Exemple. Si (X, Y ) est u vecteur uiforme das le disque x 2 + y 2 < 1, o a vu que les variables X et Y e sot pas idépedates. Cepedat, COV(X, Y ) = E(XY ) E(X)E(Y ) = 0 (les itégrales sot toutes ulle par symétrie). Pour deux variables quelcoques, o a doc V(X + Y ) = V(X) + V(Y ) + 2 COV(X, Y ) et, si X et Y e sot pas corrélées, V(X + Y ) = V(X) + V(Y ). 41

43 E gééral, si X 1, X 2,..., X sot des variables aléatoires cojoitemet distribuées, o a ( ) V X k = V(X k ) + 2 COV(X i, X j ) k=1 k=1 1 i<j et si, de plus, ces variables sot deux à deux o corrélées, ( ) V X k = V(X k ). k=1 k=1 Exemple. O effectue tirages d ue ure coteat B boules dot R sot rouges. Soit X le ombre de boules rouges obteues. Si les tirages ot lieu avec remise, posos où X = k=1 { 1 si o obtiet ue boule rouge au k X k = ième tirage 0 sio. X k Les variables X k sot idépedates et V(X k ) = R ( 1 R ) B B doc V(X) = V(X k ) = R B k=1 Si les tirages ot lieu sas remise, posos ( 1 R ). B où X = R j=1 { 1 si la j Y j = ième boule rouge est tirée 0 sio. Les variables Y j e sot pas idépedates. O a V(Y j ) = ( 1 ) B B Y j 42

44 et doc COV(Y i, Y j ) = P {Y j = 1/Y i = 1}P {Y i = 1} P {Y i = 1}P {Y j = 1} = 1 ( ) 2 B 1 B B = B B B(B 1) V(X) = R V(Y j ) + 2 j=1 1 i<j R = R ( 1 ) ( ) R 2 B B 2 B = R ( 1 R B B ) B B 1. COV(Y i, Y j ) B B(B 1) 3.3 Quelques iégalités géérales L iégalité de Markov. Soiet X ue variable aléatoire positive et a > 0. Alors P {X a} E(X) a. E effet, si, par exemple, X est discrète, E(X) = k x k p(x k ) x k a x k p(x k ) a x k a p(x k ) = ap {X a}. Si l o coaît la distributio impliquée, o peut gééralemet faire beaucoup mieux que l iégalité de Markov. Par exemple, χ 2 0,05, 8 = 15, 507 doc P {χ , 507} = 0, 05 alors que l iégalité de Markov e doe que P {χ , 507} 8 = 0, , 507 L iégalité de Tchebychev. Soiet X ue variable aléatoire et a > 0. Alors P { X E(X) a} V(X) a 2. 43

45 E effet, e vertu de l iégalité de Markov, P { X E(X) a} = P {(X E(X)) 2 a 2 } E((X E(X))2 ) a 2 = V(X) a 2. L iégalité de Tchebychev est souvet présetée sous la forme P { X E(X) k σ(x)} 1 k 2. Pour la loi ormale, les probabilités correspodat à k = 1, 2, 3 sot 2Φ(1) 1 = 0, 683, 2Φ(2) 1 = 0, 955 et 2Φ(3) 1 = 0, La loi des grads ombres Soiet X 1, X 2,..., X des variables aléatoires idépedates et de même loi, admettat µ pour espérace mathématique commue. Alors, quel que soit ɛ > 0, o a { } lim P X 1 + X X µ + ɛ = 0. Cette loi des grads ombres peut être déduite de l iégalité de Tchebychev. O a ( ) X1 + X X E = µ et, désigat par σ 2 la variace commue des variables X k, ( ) X1 + X X V = σ2 e vertu de leur idépedace. Par suite, { } X 1 + X X P µ ɛ d où le résultat. σ2 ɛ 2 La loi des grads ombres justifie d attribuer pour probabilité à u évèemet E la limite de la fréquece relative d apparitio de E e épreuves idépedates lorsque ted vers l ifii : c est-à-dire, désigat 44

46 par (E) le ombre de fois où E s est produit lors des premières épreuves, de poser (E) P {E} = lim +. E effet, e désigat par X k la variable de Beroulli qui vaut 1 si l évèemet E est observé lors de la k ième épreuve, o a, pour tout ɛ > 0, { } { } (E) P P {E} ɛ X 1 + X X = P P {E} ɛ P {E}(1 P {E}) ɛ 2 1 4ɛ 2. E choisissat par exemple ɛ = 0, 05 et = 2000, o voit que 19 fois sur 20 la marge d erreur est d au plus 5%. 3.5 La foctio géératrice des momets Le k ième momet de la variable aléatoire X est et la foctio µ k = E(X k ) ϕ X (t) = E ( e tx) = + k=0 s appelle foctio géératrice des momets car : Aisi µ k = dk dt k ϕ X(t). t=0 µ k t k k! E(X) = ϕ X(0) et V(X) = ϕ X(0) ϕ X(0) 2. Elle possède trois propriétés fodametales : 1. ϕ ax+b (t) = ϕ X (at)e bt ; 2. si X et Y sot idépedates, ϕ X+Y (t) = ϕ X (t)ϕ Y (t) ; 3. ϕ X détermie complètemet la distributio de X. Si X N(µ, σ 2 ), o peut écrire que X = σz +µ où Z N(0, 1). Comme ϕ Z (t) = 1 + e tx e x2 /2 dx = 1 + e (x t)2 /2 dx e t2 /2 = e t2 /2, 2π 2π 45

47 o a, e vertu de la première propriété, ϕ X (t) = e µt+(σt)2 /2. E utilisat les deux autres propriétés de la foctio géératrice des momets, o e tire ue propriété remarquable de la loi ormale : ue somme de variables aléatoires ormales idépedates est ecore ue variable aléatoire ormale. 3.6 Le théorème cetral limite Soiet X 1, X 2,..., X des variables aléatoires idépedates et de même loi (quelcoque), admettat µ pour espérace mathématique et σ 2 pour variace commues. Alors, quel que soit x lim P + { } X1 + X X µ σ x Autremet dit, pour grad, la variable aléatoire X 1 + X X µ σ = 1 2π x e t2 /2 dt. est pratiquemet ue variable ormale stadard. (Cette approximatio est gééralemet boe dès que 30.) Ce théorème fodametal se démotre aisémet à l aide des foctios géératrices des momets la vraie difficulté cosiste à démotrer la propriété 3. de cette derière foctio. Cosidéros les variables cetrées réduites Y k = (X k µ)/σ de telle sorte que X 1 + X X µ σ = Y 1 + Y Y et motros que la foctio géératrice des momets de cette derière variable ted vers la foctio géératrice des momets d ue variable ormale stadard. Si ϕ(t) = t2 + est la foctio géératrice des momets commue des variables Y k, celle de (Y 1 + Y Y )/ est ( ) t ϕ 46

48 et il faut vérifier que c est-à-dire que ( ) t lim ϕ = e t2 /2 + ( ) l ϕ t lim = t2 + 1/ 2. O y arrive e posat x = 1/ et e appliquat deux fois la règle de l Hospital à l origie. Exemple. Soiet X 1, X 2,..., X 100 des variables aléatoires uiformes sur (0, 1) idépedates. Alors P {X 1 + X X 100 < 45} { } X1 + X X = P 10/ < 12 10/ 12 P {Z < 1, 732} = 1 Φ(1, 732) = 0, 042. Exemple. Supposos que lorsqu u idividu mote das l asceseur du pavillo AA, il choisisse l u des étages 2, 3, 4, 5 et 6 avec probabilités respectives 1/3, 1/4, 1/6, 1/6 et 1/12. Soit X l éergie écessaire pour le trasporter, supposée proportioelle au ombre d étages motés. Alors et V(X) = E(X) = ( ( ) 12 ) = ( ) 29 2 = (e uités d éergie appropriées). Si, ue jourée, 500 idividus utiliset l asceseur, la probabilité que la quatité d éergie cosommée excède 1000 uités est { 500 } { 500 } P X k 1001 = P X k > 1000, 5 k=1 puisque la variable 500 k=1 X k est à valeurs etières. Cette correctio de cotiuité améliore la précisio de l approximatio. O a P { 500 } X k > 1000, 5 = P k=1 k=1 { 500 k=1 X k / /144 > 47 } 1000, /12, /144

49 ce qui est pratiquemet égale à { } 1000, /12 P Z > = 1 Φ(3, 114) = 0, /144 48

50 4 L échatillo statistique Supposos que l o s itéresse à ue caractéristique umérique X des idividus ω d ue populatio Ω. Cette caractéristique X est cosidérée comme ue variable aléatoire de loi L icoue. Si o prélève suivat les règles de l art u échatillo de taille de cette populatio, o obtiedra variables aléatoires idépedates et de même loi L, X 1, X 2,..., X. Ue statistique est ue variable aléatoire calculée à partir de cet échatillo. Les statistiques les plus usitées sot la moyee X et la variace S 2 de l échatillo, défiies respectivemet par X = 1 X k et par S 2 = 1 1 k=1 (X k X) 2. k=1 E désigat par µ l espérace mathématique et par σ 2 la variace de la loi L, o a E(X) = µ et V(X) = σ2. De plus = 1 1 E(S 2 ) = 1 1 k=1 = 1 µ 2 + σ k=1 k=1 E (Xk 2 2X kx + X 2) j=1 E(X k X j ) + µ 2 + σ2 (µ 2 + σ 2 2 (( 1)µ2 + µ 2 + σ 2 ) + µ 2 + σ2 ) = σ 2. Quelle que soit la loi L, lorsque est grad, la distributio de est pratiquemet ormale stadard. X µ σ/ Das le cas (usuel e statistique) où l o suppose que L est ue loi ormale, pour tout, 49

51 1. la variable suit ue loi ormale stadard ; 2. la variable Z = X µ σ/ χ 2 1 = ( 1) S2 σ 2 suit ue loi du khi-deux à 1 degrés de liberté ; 3. les variables X et S 2 sot idépedates ; 4. la variable T 1 = X µ S/ suit ue loi de Studet à 1 degrés de liberté. Ces faits devieet plausibles si l o remarque les relatios suivates et si l o se rappelle la défiitio d ue variable khi-deux à degrés de liberté et d ue variable de Studet à degrés de liberté. E vertu de l idetité o a e effet (y k y) 2 = k=1 yk 2 y2, k=1 et ( 1) S2 σ 2 = ( ) Xk µ 2 σ k=1 X µ S/ = Z. χ 2 1 /( 1) ( ) 2 X µ σ/ Remarque. O peut toujours supposer que Ω = R et que X(ω) = ω. C est la foctio F (x) = P {X x} qui défiit la distributio et qu il faut étudier. 50

52 5 Estimatio des paramètres d ue distributio Pour estimer u paramètre θ d ue distributio, o calcule d abord ue valeur à partir de l échatillo obteu et o costruit esuite autour de cette valeur u itervalle das lequel o a ue certaie cofiace de le trouver. 5.1 Estimatio poctuelle U bo estimateur E pour le paramètre θ de la distributio de la variable X est ue statistique telle que E(E θ) = 0 et que V(E) est la plus petite possible. Si f(x θ) est la foctio de desité de probabilité de X, la foctio de desité cojoite de l échatillo X 1, X 2,..., X est f(x 1, x 2,..., x θ) = f(x 1 θ)f(x 2 θ) f(x θ). Lorsque les valeurs x 1, x 2,..., x des variables X 1, X 2,..., X ot été observées, l expressio f(x 1, x 2,..., x θ) est ue foctio de θ que l o appelle la foctio de vraisemblace et la méthode de l estimateur à vraisemblace maximale cosiste à choisir la valeur ˆθ du paramètre θ qui maximise la «probabilité» de ce qui a été observé Moyee d ue variable de Beroulli La foctio de vraisemblace est p x 1+x 2 + +x (1 p) x 1 x 2 x et so logarithme est (x 1 + x x ) log p + ( x 1 x 2 x ) log(1 p). Cette expressio est maximale lorsque p = k=1 x k/ comme o le voit e aulat sa dérivée par rapport à p. Autremet dit Puisque ˆp = X. E(ˆp) = µ, ˆp est u estimateur o biaisé pour µ. 51

53 5.1.2 Moyee et variace d ue variable ormale La foctio de vraisemblace est { (2π) /2 σ (x1 µ) 2 + (x 2 µ) (x µ) 2 } exp 2σ 2 et so logarithme est 2 log 2π 2 log σ2 (x 1 µ) 2 + (x 2 µ) (x µ) 2 2σ 2. E aulat les dérivées partielles par rapport à µ et par rapport à σ 2 de cette expressio, o obtiet les estimateurs à vraisemblace maximale ˆµ = X et σ 2 = 1 S 2. O remarque que l estimateur pour la variace est biaisé. 5.2 Itervalles de cofiace Moyee et variace d ue variable ormale a) Lorsque σ 2 est coue, la variable X µ σ/ suit ue loi ormale stadard. Par coséquet, o a } σ σ P {X z α/2 < µ < X + z α/2 = 1 α, P { } σ X z α < µ = 1 α et } σ P {µ < X + z α = 1 α. Lorsque les valeurs x 1, x 2,..., x des variables X 1, X 2,..., X ot été observées et que leur moyee x a été calculée, o exprime les probabilités précédetes e disat que ) σ σ I 1 α = (x z α/2, x + z α/2 52