CONVERGENCE ET APPROXIMATION

Transcription

1 J.F.C. Cov. p. 1 CONVERGENCE ET APPROXIMATION I CONVERGENCE EN PROBABILITÉ 1. Défiitio 2. Ue coditio suffisate de covergece e probabilité 3. La loi faible des grads ombres 4. Ue coséquece de la loi faible des grads ombres II CONVERGENCE EN LOI 1. Défiitio 2. Pratiquemet 3. Comparaiso des deux covergeces 4. Ue difficulté à surmoter III CONVERGENCE EN LOI : DU DISCRET AU DISCRET 1. Quelques caractérisatios 2. Pratiquemet 3. Approximatio 1 : approximatio d ue loi hypergéométrique par ue loi biômiale 4. Approximatio 2 : approximatio d ue loi biômiale par ue loi de Poisso 5. Ue remarque du programme à propos des approximatios IV THÉORÈME DE LA LIMITE CENTRÉE 1. Deux éocés du théorème de la limite cetrée 2. Approximatio 3 : approximatio d ue loi biômiale par ue loi ormale 3. Approximatio 4 : approximatio d ue loi de Poisso par ue loi ormale V COMPLÉMENTS 1. De l uicité de la limite das le covergece e probabilité. 2. Covergece presque sûre. 3. Loi forte des grads ombres. 4. Covergece e probabilité et opératios.

2 J.F.C. Cov. p. 2 P metioe des résultats particulièremet utiles et souvet oubliés das la pratique de la covergece. metioe des erreurs à e pas faire où des hypothèses importates ou des mises e garde. SD metioe des résultats qu il serait bo de savoir démotrer.! Notios ou résultats qui e semblet pas toujours très importats mais qui figuret explicitemet das le programme doc qui sot exigibles. Das la suite les variables aléatoires cosidérées le sot sur l espace probabilisé (Ω, A, P (sauf metio du cotraire. I CONVERGENCE EN PROBABILITÉ 1. Défiitio. Déf. 1 (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O dit que (X 0 coverge e probabilité vers X si pour tout réel ε strictemet positif : Nous écriros alors X P X. lim P ({ X X ε} = 0. Th. 1 (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. (X 0 coverge e probabilité vers X si et seulemet si, pour tout réel ε strictemet positif : lim P ({ X X > ε} = 0. Ce résultat est e fait la défiitio du programme pour la covergece e probabilité. Qu o se le dise et que l o se le démotre. O peut ecore remplacer lim P ({ X X ε} = 0 ou lim P ({ X X > ε} = 0 par lim P ({ X X < ε} = 1 ou lim P ({ X X ε} = 1. Notos que la covergece e probabilité est ue otio relativemet cotraigate. Il est pas toujours facile de calculer la probabilité iterveat d autat qu elle e résulte pas de maière immédiate des lois de X et de X puisqu elle fait iterveir la loi de X X. Les deux coditios suffisates qui suivet sot doc les bieveues. La covergece e loi égalemet...

3 J.F.C. Cov. p Ue coditio suffisate de covergece e probabilité. Th. 2 Complémet SD Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. Si lim E(X X = 0 et lim V (X X = 0 alors la suite (X 0 coverge e probabilité vers X. Th. 3 PP SD Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O suppose que, pour assez grad, E(X X = 0 (ou que E(X = E(X, ce qui est pas tout à fait la même chose... Alors si lim V (X X = 0, la suite (X 0 coverge e probabilité vers X. Le secod théorème est de toute évidece u corollaire du premier au détail près que sa démostratio peut s obteir e deux liges avec l iégalité de Bieaymé-Tchebychev. Qu o se le dise, qu o se le démotre, que l o se l utilise et que l o e se l oublie pas au iveau des estimateurs... Les coditios coteues das ces théorèmes sot suffisates pour avoir la covergece e probabilité mais pas écessaires. 3. Loi faible des grads ombres. Th. 4 (X 1 est ue suite de variables aléatoires réelles ayat même espérace m et même variace σ 2 (σ > 0. O suppose que les variables aléatoires réelles de cette suite sot (deux à deux idépedates. Alors la suite de terme gééral X 1 + X X coverge e probabilité vers la variable aléatoire réelle certaie égale à m. ( X 1 + X X Notos que sous les hypothèses du théorème précédet : P m ε σ2 ε 2 Cor. (X 1 est ue suite de variables aléatoires réelles suivat ue loi de Beroulli de paramètre p. O suppose que les variables aléatoires réelles de cette suite sot deux à deux idépedates (resp. idépedates. La suite de terme gééral certaie égale à p. X 1 + X X coverge e probabilité vers la variable aléatoire réelle ( X 1 + X X Notos que sous les hypothèses du résultat précédet : P p ε p(1 p ε 2 1 4ε 2 Déf. 2 (X 1 est ue suite de variables aléatoires réelles sur (Ω, A, P. La variable aléatoire X 1 + X X est la moyee empirique d ordre de la suite.

4 J.F.C. Cov. p Ue coséquece de la loi faible des grads ombres. Illustros le derier résultat. probabilité de sa réalisatio. Cosidéros u évéemet A associé à ue expériece aléatoire et otos p la Itéros cette expériece aléatoire de maière à ce que les itératios soiet idépedates. Pour tout das N, otos X la variable aléatoire qui vaut 1 si A se réalise à la ème itératio et 0 sio. Pour tout das N, X suit ue loi de Beroulli de paramètre p et (X 1 est ue suite de variables aléatoires mutuellemet idépedates. Pour tout das N, Y = X 1 + X X itératios. est la fréquece de réalisatio de A au cours des premières Le résultat précédet idique que (Y 1 coverge e probabilité vers la variable aléatoire certaie égale à p. Doc, pour tout réel strictemet positif ε, la probabilité pour que Y pree des valeurs à l extérieur de l itervalle ] ε, ε[ ted vers zéro lorsque ted vers l ifii, c est à dire lorsque l o réalise u grad ombre de fois l expériece. Ceci légitime otre modèle probabiliste ispiré des fréqueces statistiques. A l iverse il permet ecore d estimer la valeur de p à partir de la fréquece de réalisatio de A. II CONVERGENCE EN LOI 1. Défiitio. Déf. 3 (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O dit que (X 0 coverge e loi vers X si pour tout réel x où F X est cotiue : lim F X (x = F X (x ou lim P (X x = P (X x. 2. Pratiquemet. PP Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P. Pour motrer que cette suite coverge e loi il est pas utile de trouver ue variable aléatoire X telle que (X 0 coverge e loi vers X. E gros, il coviet avat tout de trouver lim F X (x, pour tout x das R et de motrer que l applicatio F : x lim F X (x est la foctio de répartitio d ue variable aléatoire. Alors deux rappels s imposet. Th. 5 Soit F ue applicatio de R das [0, 1] ou das R... (voir les deux premiers poits. F est la foctio de répartitio d ue variable aléatoire réelle si et seulemet si : F est croissate sur R. lim F (x = 0 et lim F (x = 1. x x + F est cotiue à droite e tout poit de R.

5 J.F.C. Cov. p. 5 Th. 6 Soit F ue applicatio de R das [0, 1] ou das R... (voir les deux premiers poits. F est la foctio de répartitio d ue variable aléatoire réelle à desité si et seulemet si : 1. F est croissate sur R ; 2. lim F (x = 0 et lim F (x = 1 ; x x + 3. F est cotiue sur R ; 4. Il existe u esemble fii évetuellemet vide D, coteu das R et tel que F soit de classe C 1 sur R - D. 3. Comparaiso des deux covergeces. Th. 7 (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. Si (X 0 coverge e probabilité vers X alors (X 0 coverge e loi vers X. La réciproque est fausse. 4. Ue difficulté à surmoter. PP Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P. O souhaite motrer que cette suite coverge e loi vers ue variable aléatoire. Comme ous l avos dit plus haut il coviet e gros de trouver lim F X (x pour x das R. Le problème se complique lorsque F X est défiie par itervalles et que des bores de ses itervalles cotieet. Doos deux exemples. (1 e x si x [ l, + [ ex. 1. x R, F (x =. 0 sio ] ex. 2. x, 2 ], F (x = 0 et x [2, + [, F (x = 1. [ 2 Si x est élémet de, [ Et (x (Et (x 1 : F (x = 2 2 Si x est élémet de [1 + 1 [, 2 : F (x = 1 ( 2 2 (4 + 1 Et (x ( Et (x Das le premier cas il est pas questio de passer à la limite pour x das [ l, + [ puis pour x das ], l [!! Même type de remarque pour le deuxième exemple. Le bo algorithme cosiste à fixer x das u itervalle idépedat de qui permet de passer aisémet à la limite. Das le premier cas o fixe x das R et o remarque que pour assez grad x est das [ l, + [. Das le secod cas o coclut aisémet pour x das ], 0] et das [2, + [. Puis o fixe x das ]0, 1] et o remarque que pour assez grad x est das [ 2, [. Puis o fixe x das ]1, 2[ et o remarque que pour assez grad x est das [ 1 + 1, 2[.

6 J.F.C. Cov. p. 6 III CONVERGENCE EN LOI : DU DISCRET AU DISCRET 1. Quelques caractérisatios. Th. 8 (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O suppose que toutes ses variables aléatoires preet leurs valeurs das N. (X 0 coverge e loi vers X si et seulemet si pour tout élémet k de N : lim P (X = k = P (X = k. Ceci est le résultat du programme. C est bie maigre et impose sas doute de savoir démotrer les quelques résultats complémetaires qui suivet. Th. 9 Complémet (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O suppose que toutes ses variables aléatoires preet leurs valeurs das u esemble fii {x 1, x 2,..., x r }. (X 0 coverge e loi vers X si et seulemet si pour tout élémet k de [1, r ] : lim P (X = x k = P (X = x k. Cor. Complémet (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O suppose que toutes ses variables aléatoires preet leurs valeurs das [a, b] (a et b sot deux élémets de Z tels que a b. (X 0 coverge e loi vers X si et seulemet si pour tout élémet k de [a, b] : lim P (X = k = P (X = k. Th. 10 Complémet (x k k 0 est ue suite strictemet croissate de réels. (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O suppose que toutes ses variables aléatoires preet leurs valeurs das l esemble déombrable {x k k N}. (X 0 coverge e loi vers X si et seulemet si pour tout élémet k de N : lim P (X = x k = P (X = x k.

7 J.F.C. Cov. p. 7 Cor. Complémet (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. O suppose que toutes ses variables aléatoires preet leurs valeurs das [r, + [ (r est u élémet de Z. (X 0 coverge e loi vers X si et seulemet si pour tout élémet k de [r, + [ : lim P (X = k = P (X = k. 2. Pratiquemet. PP Soit (X 0 est ue suite de variables aléatoires discrètes réelles sur (Ω, A, P. Pour motrer que cette suite coverge e loi il est pas utile de trouver ue variable aléatoire X telle que (X 0 coverge e loi vers X. Deux voies sot à explorer car la limite peut être discrète ou o discrète. Das le secod cas reveir à ce qui a été dit plus haut. Das le premier cas il coviet, e gros, de trouver ue partie fiie ou déombrable D de R telle que, pour tout élémet d de D la suite de terme gééral P (X = d coverge et de motrer que d lim P (X = d est ue loi de probabilité discrète. Ici ecore u rappel s impose. Déf. 4 O appelle loi de probabilité discrète toute applicatio d ue partie fiie ou déombrable D de R das [0, 1] ou das [0, + [ telle que : f(d = 1 d D Prop. 1 Toute loi de probabilité discrète est la loi de probabilité d ue variable aléatoire réelle discrète. 3. Approximatio 1. Approximatio d ue loi hypergéométrique par ue loi biômiale. Th. 11 p est u élémet de ]0, 1[, est u élémet de N et (N m m 0 est ue suite d élémets de [, + [ telle que : lim m + N m = + et m N, N m p N. O cosidère ue suite (X m m 0 de variables aléatoires réelles sur (Ω, A, P telle que pour tout m apparteat à N, X m H(N m,, p. (X m m 0 coverge e loi vers ue variable aléatoire réelle suivat ue loi biômiale de paramètres et p. ( Autremet dit pour tout élémet k de [0, ] : lim P ({X m = k} = p k (1 p k. m + k PP Ce résultat théorique coduit das la pratique à approximer ue variable aléatoire réelle X suivat ue loi hypergéométrique de paramètres N, et p, par ue variable aléatoire réelle suivat ue loi biômiale de paramètres et p lorsque N est sesiblemet supérieur à 10. Si k est u élémet de X(Ω, o pred ( p k (1 p k comme valeur approchée de P ({X = k} = k Ceci a e outre comme avatage de faire passer de trois paramètres à deux. ( Np k ( N(1 p k ( N

8 J.F.C. Cov. p Approximatio 2. Approximatio d ue loi biômiale par ue loi de Poisso. Th. 12! λ est u réel strictemet positif. Pour tout élémet de N, X est ue variable aléatoire réelle sur (Ω, A, P qui suit ue loi biômiale de paramètres et λ Alors la suite (X 1 coverge e loi vers ue variable aléatoire réelle suivat ue loi de Poisso de paramètre λ. Autremet dit pour tout élémet k de N : lim P ({X = k} = λk k! e λ. Th. 13 Complémet Pour tout élémet de [ 0, + [, p est u élémet de [0, 1] et X ue variable aléatoire réelle sur (Ω, A, P qui suit ue loi biômiale de paramètres et p. O suppose de plus que la suite (p 0 coverge vers u réel strictemet positif λ. Alors la suite (X 0 coverge e loi vers ue variable aléatoire réelle suivat ue loi de Poisso de paramètre λ. Autremet dit pour tout élémet k de N : lim P ({X = k} = λk k! e λ. PP Ce résultat théorique coduit das la pratique à approximer ue variable aléatoire réelle X suivat ue loi biômiale de paramètres et p par ue variable aléatoire réelle suivat ue loi de Poisso de paramètre p lorsque 30, p 0, 1 et p 15 (attetio il y a autat de coditios que d auteurs, mais voir plus bas... Si k est u élémet de X(Ω, o pred (pk e p comme valeur approchée de P ({X = k}. k! Ceci a, e outre, comme avatage de faire passer de deux paramètres à u. 5. Ue remarque du programme à propos des approximatios. Le programme dit que : toutes idicatios devrot être fouries aux cadidats quat à la justificatio des approximatios

9 J.F.C. Cov. p. 9 IV THÉORÈME DE LA LIMITE CENTRÉE 1. Deux éocés du théorème de la limite cetrée. Th. 14 (X 1 est ue suite de variables aléatoires réelles mutuellemet idépedates suivat la même loi ayat ue espérace m et ue variace σ 2 (σ > 0 O pose pour tout élémet de N, S = X 1 + X X. La suite de terme gééral S = S E(S = S E(S V (S σ(s aléatoire réelle suivat ue loi ormale cetrée réduite. = S m σ Aisi, pour tout réel x : lim F S (x = lim P (S x = Φ(x = x coverge e loi vers ue variable 1 2 π e t2 2 dt. Th. 15 (X 1 est ue suite de variables aléatoires réelles mutuellemet idépedates suivat la même loi ayat ue espérace m et ue variace σ 2 (σ > 0 O pose pour tout élémet de N, F = X 1 + X X. La suite de terme gééral F = F E(F = F E(F V (F σ(f aléatoire réelle suivat ue loi ormale cetrée réduite. = F m σ Aisi, pour tout réel x : lim F F (x = lim P (F x = Φ(x = x coverge e loi vers ue variable 1 2 π e t Approximatio 3. Approximatio d ue loi biômiale par ue loi ormale. dt. Th. 16 (X 1 est ue suite de variables aléatoires réelles de beroulli de paramètre p (p ]0, 1[ mutuellemet idépedates. q = 1 p. O pose pour tout élémet de N, S = X 1 + X X. a Pour tout élémet de N, S suit ue loi biômiale de paramètres et p. b La suite de terme gééral S = S p pq ormale cetrée réduite. Aisi, pour tout réel x : lim P ( S p pq coverge e loi vers ue variable aléatoire réelle suivat ue loi x = Φ(x = x 1 2 π e t2 2 dt. Cor. p est u élémet de ]0, 1[. (T 1 est ue suite de variables aléatoires réelles sur (Ω, A, P telle que pour tout das N, T suit ue loi biômiale de paramètres et p. La suite de terme gééral T = T p pq ormale cetrée réduite. Aisi, pour tout réel x : lim P ( T p pq coverge e loi vers ue variable aléatoire réelle suivat ue loi x = Φ(x = x 1 2 π e t2 2 dt. Observos que le corollaire e cotiet pas de coditio d idépedace. Il coviet de savoir le démotrer propremet à partir du théorème.

10 J.F.C. Cov. p. 10 PP Ce résultat théorique coduit das la pratique à approximer ue variable aléatoire réelle X suivat ue loi biômiale de paramètres et p par ue variable aléatoire réelle Y suivat ue loi ormale d espérace p et d écart-type pq (q = 1 p lorsque 20 ou 30, p pas trop petit (!, p 10 et q 10. Das ces coditios Pour tout réel x, o approxime P (X x par P (Y x = F Y (x ; doc ( x p P (X x Φ pq Pour k das [0, ], o approxime P (X = k par P (k 1/2 Y k + 1/2 = F Y (k + 1/2 F Y (k 1/2 ; doc ( k + 1/2 p ( k 1/2 p P (X = k Φ Φ pq pq 3. Approximatio 4. Approximatio d ue loi de Poisso par ue loi ormale. Th. 17 (X 1 est ue suite de variables aléatoires réelles mutuellemet idépedates. O suppose que pour tout élémet de N, X suit ue loi de Poisso de paramètre µ (µ > 0 a S = X 1 + X X suit ue loi de Poisso de paramètre µ. b La suite de terme gééral S = S µ µ loi ormale cetrée réduite. Aisi, pour tout réel x : lim P ( S µ µ coverge e loi vers ue variable aléatoire réelle suivat ue x = Φ(x = x 1 2 π e t2 2 dt. Cor. µ est u élémet de ]0, + [. (T 1 est ue suite de variables aléatoires réelles sur (Ω, A, P telle que pour tout das N, T suit ue loi de Poisso de paramètre µ. La suite de terme gééral T = T µ µ ormale cetrée réduite. Aisi, pour tout réel x : lim P ( T µ µ coverge e loi vers ue variable aléatoire réelle suivat ue loi x = Φ(x = x 1 2 π e t2 2 dt. Observos que le corollaire e cotiet pas de coditio d idépedace. Il coviet de savoir le démotrer propremet à partir du théorème. PP Ce résultat théorique coduit das la pratique à approximer ue variable aléatoire réelle X suivat ue loi de Poisso de paramètre λ par ue variable aléatoire réelle Y suivat ue loi ormale d espérace λ et d écart-type λ lorsque λ > 10.

11 J.F.C. Cov. p. 11 Das ces coditios Pour tout réel x, o approxime P (X x par P (Y x = F Y (x ; doc ( x λ P (X x Φ λ Pour tout élémet k de N, o approxime P (X = k par P (k 1/2 Y k+1/2 = F Y (k+1/2 F Y (k 1/2 ; doc ( k + 1/2 λ ( k 1/2 λ P (X = k Φ Φ λ λ V COMPLÉMENTS 1. De l uicité de la limite das le covergece e probabilité. Th. 18 (X 0 est ue suite de variables aléatoires réelles sur (Ω, A, P. X et X deux variables aléatoires réelles sur (Ω, A, P. Si la suite (X 0 coverge e probabilité vers X et X, alors X et X sot presque sûremet égales, c est à dire que P (X = X = Covergece presque sûre. Déf. 5 Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. La suite (X 0 coverge presque sûremet vers X s il existe u évéemet égligeable A de A (P (A = 0 tel que : ω Ω A, lim X (ω = X(ω. O écrit alors : X P S X. Déf. 6 Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. Si la suite (X 0 coverge presque sûremet vers X alors la suite (X 0 coverge e probabilité vers X. La réciproque est fausse. 3. Loi forte des grads ombres. Th. 19 (X 1 est ue suite de variables aléatoires réelles suivat la même loi ayat ue espérace m et ue variace σ 2. O suppose que les variables aléatoires réelles de cette suite sot deux à deux idépedates. Alors la suite de terme gééral X 1 + X X réelle certaie égale à m. coverge presque sûremet vers la variable aléatoire

12 J.F.C. Cov. p Covergece e probabilité et opératios. Prop. 2 Théorème de Slutsky Soit (X 0 ue suite de variables aléatoires réelles sur (Ω, A, P et X ue variable aléatoire réelle sur (Ω, A, P. Soit g ue applicatio cotiue de R das R. Si la suite (X 0 coverge e probabilité vers X alors la suite (g X 0 coverge e probabilité vers g X Facile à prouver pourvu que l o sache qu ue foctio cotiue sur u segmet y est uiformémet cotiue. Prop. 3 Soiet (X 0 et (Y 0 deux suites de variables aléatoires réelles sur (Ω, A, P. Soiet X et Y deux variables aléatoires réelles sur (Ω, A, P. a est u réel. O suppose que (X 0 et (Y 0 coverget e probabilité respectivemet vers X et Y. Alors les suites de terme gééraux a X, X + Y et X Y coverget e probabilité respectivemet vers a X, X + Y et X Y.