Méthodes de Mote-Carlo Cours et exercices) M1 IM Sylvai Rubethaler
Table des matières Préface iii Chapitre 1. Itroductio 1 1.1. Descriptio de la méthode 1 1.2. Théorèmes de covergece 2 1.3. Exemples 3 1.4. Comparaiso avec les méthodes détermiistes 4 1.5. Exercices 5 Chapitre 2. Simulatio de variables aléatoires 9 2.1. Iversio de la foctio de répartitio 9 2.2. Simulatio d ue loi expoetielle 10 2.3. Simulatio de variables gaussiees algorithme de Box-Müller) 10 2.4. Simulatio d ue variable aléatoire poissoiee 11 2.5. Méthode de rejet 12 2.6. Vérificatio par histogramme 15 2.7. Exercices 15 Chapitre 3. Réductio de variace 19 3.1. Échatilloage préféretiel «importace samplig» e aglais) 19 3.2. Variable de cotrôle 20 3.3. Variables atithétiques 21 3.4. Méthode de stratificatio 22 3.5. Valeur moyee ou coditioemet 24 3.6. Exercices 25 Chapitre 4. Méthodes de Mote-Carlo par chaîes de Markov 27 4.1. Rappels sur les chaîes de Markov 27 4.2. Algorithme de Hastigs-Metropolis 28 4.3. Algorithme de Metropolis simple 29 4.4. Le modèle d Isig 30 4.5. Aalyse bayésiee d image 32 4.6. Cryptographie 34 4.7. Exercices 35 Aexe A. Table de la loi ormale 37 Aexe B. Foctios, itégrales et sommes usuelles 39 Bibliographie 41 Liste des symboles 43 Idex 45 i
Préface Ce polycopié est ue itroductio aux méthodes de Mote-Carlo. Les prérequis sot : cours de L3 MASS de probabilités 1, cours de M1 IM sur les chaîes de Markov, otios de R acquises au premier semestre). Les sources d ispiratio de ce documet sot les suivates : [DB01, Par08], le polycopié de Laure Élie et Berard Lapeyre 2, le polycopié de Berard Ycart 3, des exercices fouris par Fraçois Delarue, u exposé de Persi Diacois sur la cryptographie. Les TP se ferot e R, les exemples de programmes serot aussi doés e R. Importat : les fichiers sources sot dispoibles sur : http://www.math.uice.fr/~rubetha/ eseigemet. J ecourage toute persoe eseigat les méthodes de Mote-Carlo à utiliser ces fichiers et à ajouter so om à la liste d auteurs de ce polycopié. 1. http://math.uice.fr/~rubetha/eseigemet/poly-itegratio-probas.pdf 2. http://cermics.epc.fr/~bl/ps/simulation-x/poly-mote-carlo-x.pdf 3. http ://ljk.imag.fr/membres/berard.ycart/polys/motec.pdf iii
iv
CHAPITRE 1 Itroductio 1.1. Descriptio de la méthode Supposos que l o veuille calculer ue quatité I. La première étape est de la mettre sous forme d ue espérace I EX) avec X ue variable aléatoire. Si o sait simuler des variables X 1, X 2,... idépedates et idetiquemet distribuées ce que ous oteros i.i.d. das la suite), alors ous pouvos approcher I par 1.1) I X 1 + X 2 + + X N N avec N «grad», sous réserve d applicatio de la loi des grads ombres. C est ce type d approximatio que l o appelle «méthode de Mote-Carlo» c est ue méthode pour faire des calculs umériques). Exemple 1.1. Supposos que l o cherche à calculer I fu 1,..., u d )du 1... du d. [0;1] d Nous posos X fu 1,..., U d ) où les U 1,..., U d sot des variables aléatoires idépedates suivat toutes ue loi uiforme sur [0; 1]. Alors : I EfU 1,..., U d )) EX). Nous avos doc réalisé la première étape. Tout logiciel de programmatio ous permet de simuler des variables uiformes sur [0; 1]. De plus, des appels successifs de variables uiformes revoiet des variables idépedates. Nous pouvos doc facilemet simuler U 1) 1,..., U 1) d, U 2) 1,..., U 2) d,... des variables i.i.d. de loi uiforme sur [0; 1] ous oteros cette loi U[0; 1]) ) et doc X 1 U 1) 1,..., U 1) d ), X 2 U 2) 1,..., U 2) d ),... sot i.i.d. Le programme 1.1 fourit u exemple de programme approchat I par ue méthode de Mote-Carlo avec d 3, 1000 itératios, fu 1, u 2, u 3 ) siu 1 ) siu 2 ) siu 3 )). Programme 1.1 approximatio de Mote-Carlo d3 1000 s0 for i i 1:) { uruifd,0,1) #simulatio de d variables uiformes idépedates ss+siu[1])*siu[2])*siu[3]) } prits/) Si ous cherchos à évaluer ue itégrale de la forme I gx)fx)dx R avec f ue desité de probabilité c est à dire f positive et fx)dx 1), alors ous pouvos R écrire I EgX)) avec X de loi de desité f. Nous sommes ecore das la situatio où ous 1
2 1. INTRODUCTION voulos calculer l espérace d ue variable aléatoire si X est ue variable aléatoire, alors gx) est ue variable aléatoire, à coditio que g soit mesurable). 1.2.1. Covergece. 1.2. Théorèmes de covergece Théorème 1.2 Loi forte des grads ombres.). Soit X ) 0 ue suite de variables aléatoires i.i.d., à valeurs das R d d N ). O suppose que E X 1 ) < +. Alors X 1 + + X p.s. + EX). Rappel : «p.s.» sigifie «presque sûremet». Ce théorème ous dit pourquoi l approximatio de Mote-Carlo 1.1) est valide et sous quelles hypothèses). 1.2.2. Vitesse de covergece. Théorème 1.3 Théorème de la limite cetrale.). Soit X ) 0 ue suite de variables aléatoires i.i.d., à valeurs das R. O suppose que EX1 2 ) < +. Soit σ 2 VX) la variace de X). Alors ) X1 + + X loi EX 1 ) N 0, 1). σ + Rappels : Le symbole N µ, σ 2 ) se rapporte à la loi ormale o dit aussi gaussiee) de moyee µ et de variace σ 2 loi. La covergece e loi d ue suite de variables réelles Z Z + Z de loi de desité φ) sigifie que pour toute foctio f : R R cotiue, borée, EfZ )) EfZ)) fx)φx)dx. + R Ceci implique e particulier, sous les hypothèses du théorème ci-dessus, pour tout a < b, ) ) X1 + + X P a EX 1 ) b σ ))) X1 + + X E 1 [a;b] EX 1 ) σ + b a 1 e x2 /2 2π dx. Si ous cherchos à approcher EX) par ue méthode de Mote-Carlo EX) X1+ +X ), ous pouvos doc dire que l erreur X1+ +X EX) est d ordre σ. Mais cette erreur est aléatoire le théorème ci-dessus ous dit que X1+ +X EX) est à peu près de loi N 0, σ 2 /)), ous e pouvos doc pas la borer. E revache, ous pouvos doer u itervalle de cofiace pour le résultat. Toujours sous les hypothèse du théorème ci-dessus, otos ɛ X1+ +X EX 1 ). O cherche à approcher EX 1 ) à 0, 01 près avec ue cofiace de 95% o cherche à costruire u itervalle de cofiace). C est à dire que l o veut ce qui est équivalet à Calculos : P ɛ EX 1 ) 0, 01) P P ɛ EX 1 ) 0, 01) 0, 05, P ɛ EX 1 ) 0, 01) 0, 95. 0, 01 X 1 + + X P 0, 01 σ ) EX 1 ) 0, 01 X1 + + X σ ) EX 1 ) 0, 01 ) σ
1.3. EXEMPLES 3 pour "assez grad") +0,01 σ 0,01 σ +0,01 σ par symétrie de N 0, 1)) 2 e t2 /2 2π dt e t2 /2 2π dt 1. O veut doc tel que +0,01 σ e t2 /2 2π dt 0, 975. O regarde das ue table de la loi ormale voir par exemple l aexe A) et o voit qu il suffit pour cela d avoir 0, 01 /σ 1, 96, c est à dire 1, 96 σ)2 0, 01 2. O remarque que le ombre de tirages écessaire pour atteidre u certai iveau d erreur avec ue certaie cofiace est ue foctio liéaire de σ 2. Das la pratique, σ 2 pourrait e pas être cou, mais o peut l estimer par ue méthode de Mote-Carlo. Lemme 1.4 Estimateur de la variace). Si X 1, X 2,... sot i.i.d. avec EX 2 1 ) < + et σ 2 VX), alors X 1 X 2 ) 2 + X 3 X 4 ) 2 + + X 2 1 X 2 ) 2 2 p.s. + σ2. Démostratio. Les variables X 1 X 2 ) 2, X 3 X 4 ) 2,... sot i.i.d. avec EX 1 X 2 ) 2 ) EX1 2 + X2 2 2X 1 X 2 ) 2EX1 2 ) 2EX 1 ) 2 < + car EX1 2 ) > EX 1 ) 2 et EX1 2 ) < + ). Doc le résultat découle de la loi des grads ombres. 1.3. Exemples 1.3.1. Cas facile. Soit U ue variables aléatoire das R d d N ) et f : R d R mesurable. O cherche à calculer p PfU) λ) pour u certai λ p est doc das [0; 1]). Soit X 1 fu) λ. Alors p EX). O peut doc approcher p par e faisat des tirages i.i.d. X 1, X 2,... de même loi que X) p X 1 + + X p. Nous calculos σ 2 VX) p1 p). Si ous voulos ue erreur p p iférieure à 0, 01 avec ue cofiace à 0, 95% comme das l exemple ci-dessus), il suffit de predre 1, 96 σ)2 0, 01 2. Pour tout p [0; 1], p1 p) 1/4, doc il suffit de predre 1, 962 0, 01 2 1 4. 1.3.2. Cas difficile. O cherche à calculer Ee βz ) avec Z N 0, 1). Nous savos que Ee βz ) + + e β2 /2. e βx e x2 /2 2π dx 1 2π exp 12 ) x β)2 + β2 dx 2 Si ous tiros Z 1, Z 2,... i.i.d. de même loi que Z, ous auros au bout de tirages : e βz1 + + e βz Ee βz ) + σ Y
4 1. INTRODUCTION avec Y N 0, 1), σ 2 Ve βz ) d après le théorème de la limite-cetrale). U calcul similaire à celui que ous veos de faire ous doe : σ 2 e 2β2 e β2. E ce qui cocere l erreur relative 1 e βz1 + + e βz Ee βz ) Ee βz ) σ Ee βz ) σ 2 E Y ) Ee βz ) π. σ Ee βz ) e β2 1 Par exemple, si β 5, si ous voulos ue erreur relative de l ordre Nous avos de 1, il ous faut predre tel que e β 2 1 2 π 1, 96, c est à dire de l ordre de 4 10 11, ce qui est pas réalisable das la pratique. C est pourquoi il est importat de réduire la variace voir le chapitre 3). 1.4. Comparaiso avec les méthodes détermiistes Replaços-ous das le cadre de l exemple 1.1. Nous pouvos égalemet approcher l itégrale e questio par des sommes de Riema : 1 i1 fx)dx lim [0;1] d + d f,..., i ) d. 1 i 1,...,i d Pour comparer cette approximatio avec l approximatio de Mote-Carlo, il coviet de comparer les temps de calcul écessaires pour atteidre ue précisio fixée, ou de comparer les précisios atteites pour des temps de calcul égaux. Lemme 1.5. Si f est lipschitz alors fx)dx 1 [0;1] d d pour ue certaie costate C. 1 i 1,...,i d f i1,..., i d ) C Démostratio. La propriété lipschitz veut dire : il existe ue costate C telle que, pour tout x, y [0; 1] d, fx) fy) C x y. Nous avos doc fx)dx 1 i1 [0;1] d f,..., i ) d d 1 d 1 d 1 i 1,...,i d 1 i 1,...,i d 1 i 1,...,i d 1 d u 1 [ i 1 1 ; i 1 ]... u 1 [ i 1 1 ; i 1 ]... 1 i 1,...,i d [ id 1 u d [ ] id 1 u d ; i d u 1 [ i 1 1 ; i 1 ]... ) du 1... du d i1 ] fx) f ; i d,..., i d fx) f i1,..., i ) d du 1... du d [ ] C id 1 u d ; i d d du 1... du d C Pour calculer la somme 1 i 1,...,i d..., ous devos exécuter d boucles emboîtées de logueur et ous sommos doc d termes). Nous diros doc que le coût du calcul est d ordre d. La précisio est elle d ordre 1. Si ous otos N d le coût du calcul, ous avos doc ue précisio e N 1/d. Das le programme 1.1, le coût du calcul est d ordre il y a boucles) pour ue précisio d ordre 1/2 d après le théorème 1.3, si EX 2 ) < ). Si ous otos N le coût du calcul, ous avos doc ue précisio e N 1/2. d.
1.5. EXERCICES 5 Remarque 1.6. O voit doc que la méthode de Mote-Carlo est avatageuse umériquemet qu à partir de la dimesio d 3. Même si la plupart des exercices et exemples de ce livre sot doés e dimesio 1 par souci de simplicité, il coviet de e pas oublier ce fait das la pratique Les hypothèse permettat d appliquer l ue ou l autre des méthodes sot différetes mois cotraigates das le cas Mote-Carlo). La méthode de Mote-Carlo est facile à implémeter, c est ce qui fait so succès. Il existe des méthodes détermiistes dites «quasi Mote-Carlo» qui sot plus rapides que les méthodes de Mote-Carlo simples mais qui demadet plus d hypothèses et qui sot plus difficiles à implémeter). Le lecteur pourra se reporter au polycopié de Laure Élie et Berard Lapeyre cité das l itroductio. 1.5. Exercices Exercice 1.1. Doer au mois deux méthodes différetes d approximatio de l itégrale I 1 1 0 cosx 3 ) exp x)dx, à l aide d ue moyee empirique impliquat des variables aléatoires de loi coue. Même questio avec et I 2 + 0 I 3 six 4 ) exp 2x) exp x2 ) dx, 2 1 0 l1 + x 2 ) exp x 2 )dx. Exercice 1.2. Soit U 1,..., U 3 ) 1 ue famille de v.a. idépedates et idetiquemet distribuées de loi uiforme sur ]0, 1[. Doer la limite presque-sûre de 1 1 U 1 i ) 2 +Ui 2)2 +Ui 3 <1. )2 i1 Doer ue méthode similaire pour retrouver le volume d ue boule de rayo 2. Exercice 1.3. État doée ue suite de variables aléatoires X ) 1 idetiquemet distribuées et idépedates, telles que E[ X 1 4 ] < + et EX 1 ) 0, o pose S X k. 1) Motrer qu il existe ue costate C > 0 telle que, pour tout 1, k1 E [ S 4 ] C [ + 2 ]. 2) E utilisat l iégalité de Markov à l ordre 4, e déduire qu il existe ue costat c > 0 telle que, pour tout 1, P { S 5/6} c 4/3. 3) E utilisat le lemme de Borel-Catelli, e déduire que, presque-sûremet, S / 0. Exercice 1.4. État doée ue foctio f sur le segmet [0, 1], o défiit, pour tout rag 1, la foctio polyomiale [ P x) C k x k 1 x) k f k )]. k0 1) E itroduisat, pour tout x [0, 1], ε x)) 1, suite de variables aléatoires idépedates de même loi de Beroulli de paramètre x, et e posat S x) ε 1 x)+ +ε x), iterpréter P x) comme ue espérace.
6 1. INTRODUCTION Figure 1.5.1. Cardioïde 2) E utilisat l iégalité de Bieaymé-Chebychev, motrer que 3) E déduire que ε > 0, lim P { S x) sup + x [0,1] x ε } 1 4ε 2. fx) P x) 0. Exercise 1.5. La figure 1.5.1 représete ue cardioïde sectio de pomme) d équatio x 2 + y 2 x) 2 x 2 + y 2 ). 1) L itérieur est de la cardioïde est doée par l iéquatio x 2 + y 2 x) 2 < x 2 + y 2 ). E déduire ue méthode probabiliste d approximatio de la surface itérieure de la cardioïde. 2) E déduire ue méthode probabiliste d approximatio du volume d ue pomme. Peser à utiliser les volumes de révolutio.) 3) E fait, la cardioïde admet aussi ue descriptio paramétrique e coordoées polaires : ρ 1 + cosθ). E déduire que le volume d ue pomme est 8π/3. Exercice 1.6 Plus difficile). Soiet X 1,..., X des v.a. i.i.d. suivat ue loi expoetielle de paramètre 1, de somme otée S.
1.5. EXERCICES 7 1) E utilisat le TCL, calculer la limite quad ted vers l ifii de pour a et b deux réels. P { a S 1) b }, 2) O rappelle que S suit ue loi Γ, 1), i.e. a pour desité la foctio x 1 [0,+ ) x) x 1 Γ) exp x), calculer directemet la même quatité que ci-dessus. 3) Retrouver la formule de Stirlig! + O rappelle que Γ) 1)!.) ). 2π e
CHAPITRE 2 Simulatio de variables aléatoires Comme ous l avos vu das le chapitre précédet, pour appliquer ue méthode de Mote- Carlo, il faut savoir simuler suivat ue loi doée. Nous supposos ici que ous disposos d u géérateur de ombres aléatoires de loi U[0; 1]). Le lagage R cotiet les géérateurs d u grad ombre de lois classiques. Remarque 2.1. Les ordiateurs e disposet pas de composat au comportemet aléatoire. Quad o demade à u programme de géérer des ombres aléatoires de loi U[0; 1]), il revoie des ombres pris das ue liste à la suite les us des autres. E gééral, cette suite est suffisammet désordoée et logue pour avoir u comportemet similaire à celui d ue suite aléatoire. Das le cas d u programme écrit das u lagage de bas iveau type C++), l utilisateur aura itérêt à costruire lui-même ue procédure de géératio de ombres aléatoires la liste utilisée par le lagage état trop peu désordoée). 2.1. Iversio de la foctio de répartitio Lemme 2.2. Soit X ue v. a. r. variable aléatoire réelle) de foctio de répartitio F. Posos, pour 0 t 1, F 1 t) if{x, F x) t}. Alors, si U U[0; 1]) veut dire : «U suit la loi U[0; 1])»), alors F 1 U) a même loi que X. Démostratio. Attetio, si F est cotiue, F 1 est l iverse de F mais ce est pas le cas si F est pas cotiue puisque F a alors pas d iverse). La foctio F 1 aisi défiie s appelle le pseudo-iverse. Voir les figures 2.1.1 et 2.1.2 pour u exemple pour t [1/3; 2/3], {x, F x) t} [2; + [ et doc F 1 t) 2). Soit maiteat u [0; 1] et t R. Figure 2.1.1. Foctio de répartitio F. Figure 2.1.2. Foctio F 1. Si u F t) alors t {x, F x) u} doc F 1 u) t. Supposos que F 1 u) t. Soit ɛ > 0. Il existe x t + ɛ tel que F x) u. La foctio F est croissate doc F x) F t + ɛ), doc u F t + ɛ). Ceci est vrai pour tout ɛ > 0 et la foctio F est cotiue à droite parce que c est ue foctio de répartitio) doc u F t). 9
10 2. SIMULATION DE VARIABLES ALÉATOIRES Nous avos doc [u F t)] [F 1 u) t]. Nous avos alors, pour tout t R, PF 1 U) t) PU F t)) F t). Doc F 1 U) a la même foctio de répartitio que X et doc ils ot la même loi). Exemple 2.3. Das le cas de la foctio F doée e exemple ci-dessus. Le programme 2.1 revoie ue variable de foctio de répartitio F o parle ici de la variable affichée à la fi du programme). Programme 2.1 Simulatio par iversio de la foctio de répartitio fiv<-fuctiou) { if u<1/3) { z3*u } else if u<2/3) { z1 } else { z3*u-1 } returz) } uruif1,0,1) #simulatio d ue variable uiforme das [0;1]) pritfivu)) 2.2. Simulatio d ue loi expoetielle O rappelle que X suit ue loi expoetielle de paramètre λ > 0) si pour tout t R +, PX > t) exp λt). Nous oteros cette loi Eλ). Si F est la foctio de répartitio de X, ous avos alors F t) 1 e λt et F 1 log1 x) x). λ Si U U[0; 1]), ous avos, d après le résultat ci-dessus : log1 U)/λ Eλ). Remarquos que 1 U a même loi que U et doc logu) Eλ). λ Attetio : ous écrivos log pour le logarithme épérie. 2.3. Simulatio de variables gaussiees algorithme de Box-Müller) Lemme 2.4. Si U, V sot de loi U[0; 1]) et idépedates alors 2 logu) cos2πv ), 2 logu) si2πv )) [ ] 1 0 est u vecteur gaussie de matrice de covariace doc les deux composates sot idépedates et de loi N 0, 0 1 1)).
2.4. SIMULATION D UNE VARIABLE ALÉATOIRE POISSONIENNE 11 Démostratio. O se rappelle que pour idetifier la loi d ue variable aléatoire, il suffit de savoir calculer les espéraces de foctios de cette variables aléatoires pour toute foctio das u esemble de foctios tests, voir propositio 6.2.10 das le polycopié de L3 1 ). Nous preos doc f C + b R2 ) C + b R2 ) est l esemble des foctios positives, cotiues, borées de R 2 das R). Notos X et Y deux variables idépedates de loi N 0, 1). Nous avos : EfX, Y )) R2 fx, y) e x 2 +y 2 )/2 dxdy. 2π Nous voulos effectuer le chagemet de variable x r siθ), y r siθ) r R +, θ [0; 2π]) c est le passage usuel e coordoées polaires). Nous obteos la matrice jacobiee [ x ] [ ] y J 1 x, y) r r cosθ) r siθ), siθ) r cosθ) x θ de détermiat detj 1 ) r cos 2 θ) + r si 2 θ) r. Doc /2 EfX, Y )) fr cosθ), r siθ)) e r2 2π r drdθ. y θ r,θ) R + [0;2π] Nous effectuos maiteat u ouveau chagemet de variable : r 2 lu), θ 2πv u, v) [0; 1] 2 ). Nous obteos la matrice jacobiee [ 2 1 u J 2 r, θ) ] 0 2 2 logu), 2π de détermiat detj 2 ) EfX, Y )) 2π. Doc 2 logu) f 2 lu) cos2πv), 2 lu) si2πv)) 1/u) u,v) R 2π 2 2π dudv 2 lu) u,v) R 2 f 2 lu) cos2πv), 2 lu) si2πv))dudv Ef 2 lu) cos2πv ), 2 lu) si2πv ))). Ceci est vrai pour toute foctio f C + b R2 ) doc X, Y ) et ot même loi. 2 lu) cos2πv ), 2 lu) si2πv )) 2 lu) Pour simuler ue variable X de loi N 0, 1), il suffit doc de predre U, V U[0; 1]) idépedates et poser X 2 logu) cos2πv ). Pour simuler ue variable X de loi N µ, σ 2 ), il suffit de predre X µ + σy avec Y N 0, 1). 2.4. Simulatio d ue variable aléatoire poissoiee Ue variable de loi de Poisso de paramètre λ > 0 est ue variable à valeurs das N telle que ici la variable s appelle X). PX ) e λ λ Lemme 2.5. Soit T i ) i 1 ue suite de variables i.i.d. de loi Eλ) λ > 0). Alors est ue variable de Poisso de paramètre λt.! N t 1 1 {T1+ +T t<t 1+ +T +1} 1. http ://math.uice.fr/~rubetha/eseigemet/poly-itegratio-probas.pdf
12 2. SIMULATION DE VARIABLES ALÉATOIRES Démostratio. Commeços par vérifier que la variable N t est bie défiie. Pour tout ω Ω, il existe u k N et u seul tel que T 1 + + T k t < T 1 + + T k+1 et doc N t ω) k1 {T1+ +T k t<t 1+ +T k+1 } tous les autres termes de la somme sot uls). Nous avos, pour tout N, PN t ) PT 1 + + T t < T 1 + + T +1 )... 1 {t1+ +t t<t 1+ +t +1}λe λt1... λe λt+1 dt 1... dt +1 0 t 1 1 t +1 0... λe λt1... λe λt+1 dt +1 dt... dt 1 0 t 1 1 0 t 2 1 t 1 0 t 1 t 1+ +t 1) 1 t 1+ +t ) t +1... λe λt1... λe [ λt e λt+1] + 1 t dt 1+ +t )... dt 1 0 t 1 1 0 t 2 1 t 1 0 t 1 t 1+ +t 1)... λ e λ dt 1... dt. t 1 0 0 t 2 1 t 1 Motros par récurrece sur N que pour tout x 0,... 0 t 1 x 0 t 2 x t 1 0 t 3 x t 1+t 2) 0 t 1 t 1+ +t 1) 0 t x t 1+ +t 1) Pour 1, 0 t 1dt 1 x 1 x x1 1!. Pour 2, 1dt 2 dt 1 x t 1 dt 1 0 t 1 x 0 t 2 x t 1 0 t 1 x Si la propriété est vraie jusqu au rag, calculos... 0 t 1 x 0 t 2 x t 1 0 t 1 x Nous avos doc 0 t 3 x t 1+t 2) 0 t 2 x t 1 0 t 3 x t 1+t 2) 0 t +1 x t 1+ +t )... [ x t 1) 2 1dt... dt 1 x!. 2! 1dt +1... dt 1 0 t +1 x t 1+ +t ) par la propriété au rag ) x t 1 ) dt 1 [ x t 1) +1! + 1)! 0 t 1 x PN t ) λ e λ.! ] x 0 x2 2!. 1dt +1... dt 2 ) dt 1 ] x 0 x+1 + 1)!. Nous pouvos doc simuler ue variable de Poisso à l aide d ue boucle «tat que» et e utilisat le résultat de la partie 2.2) voir le programme 2.2) 2.5. Méthode de rejet O veut simuler ue variable de desité f das R d ) et o suppose qu il existe ue loi de desité g facile à simuler telle que 2.1) x R d, fx) kgx) et fx) 0) gx) 0) avec k ue costate. Posos αx) fx) kgx) sur l esemble {x, gx) > 0}. Propositio 2.6. Soit X, U ) 1 ue suite de variable i.i.d. avec pour tout, X est de loi de desité f et est idépedate de U, qui est de loi uiforme sur [0; 1]. Soit T if{, U αx )} T est u etier aléatoire). Soit X X T. Alors la v.a. X aisi simulée est de loi de desité f.
2.5. MÉTHODE DE REJET 13 Programme 2.2 Simulatio d ue variable aléatoire poissoiee. lambda2 #o fixe ue valeur arbitraire de lambda t1 #o fixe ue valeur arbitraire de t b0 s0 0 while b0) { +1 ss-logruif1,0,1)) if s>t) { b1 } } prit) Démostratio. Remarquos que αx ) est défii pour presque tout ω. E effet, PX {x : gx) 0}) 0. Soit ϕ C + b Rd ). Nous avos ϕx T ) + 1 fx )1 T pour tout ω, cette somme cotiet au plus u terme o ul). EϕX)) par idépedace des X i, U i )) Calculos, pour tout, EϕX )1 U αx )) Nous e déduisos, pour tout, 1 k x R d x R d + 1 + 1 + 1 EϕX )1 T ) 1 EϕX ) i1 1 EϕX )1 U αx )) 1 Ui>αX i) 1 U αx )) i1 E1 Ui>αX i)). ) 1 u αx) du ϕx)gx)dx u [0;1] fx) kgx) ϕx)gx)dx x R d ϕx)fx)dx 1 k. E1 U>αX )) 1 E1 U αx )) 1 1 k. Remarquos que l iégalité f kg implique fx)dx k R d gx)dx, R d doc k 1. Nous avos doc EϕX)) + ϕx)gx)dx 1 1 R k d somme géométrique) 1 1 ) 1 k R d ϕx)gx)dx 1 k 1 1 1 1 k )
14 2. SIMULATION DE VARIABLES ALÉATOIRES D où le résultat. R d ϕx)gx)dx. Exemple 2.7. Soit fx) e x3 Z 1 x 1 avec Z + e x3 dx la costate Z est pas coue 1 mais ous e auros pas besoi). Soit gx) 1 x 1 x. Les foctios f et g sot des desités de 2 probabilité. Il est facile de simuler suivat la loi de desité g e utilisat la techique d iversio de la foctio de répartitio. Nous commeços par étudier la foctio h : x 1 x 2 e x3. Nous avos h x) 2x 3x 4 )e x3 0 pour tout x 1. Doc, pour tout x 1, hx) h1) e 1. Nous e déduisos pour x 1) fx) 1 ez gx). Nous posos k 1/eZ). Soit αx) fx) kgx) x2 e x 3. e Nous e coaissos pas Z mais ous pouvos calculer αx) pour tout x 1 doc ous pouvos utiliser l algorithme de simulatio par rejet pour simuler suivat la desité f voir programme 2.3). Das ce programme, ous utilisos les résultats suivats pour simuler suivat la desité g Programme 2.3 Simulatio par la méthode de rejet. b0 while b0) { uruif1,0,1) vruif1,0,1) y1/1-v) if u<y^2*exp-y^3)/exp1)) { b1 } } prity) par iversio de la foctio de répartitio : x [ pour x 1, Gx) gu)du 1 ] x 1 1 1 u 1 x, pour u [0; 1], G 1 u) 1 1 u. Remarque 2.8 Temps de calcul). Le ombre de boucles effectuées das la méthode du rejet est aléatoire. Sous les hypothèses de la propositio ci-dessus, ce ombre de boucles est T et ous pouvos calculer so espérace ET ) par idépedace des X i, U i )) d après la dém. de la prop.) + 1 + 1 + 1 + 1 PT ) PU 1 > αx 1 ),..., U 1 > αx 1 ), U αx )) PU 1 > αx 1 ))) 1 PU 1 αx )) 1 1 ) 1 1 k k ) 1 k φ 1 1 k,
2.7. EXERCICES 15 avec φz) la série etière φz) 1 z 1 de rayo de covergece 1, c est à dire que cette série coverge pour z < 1). Nous avos φz) Φ z) avec Φz) 0 z 1 1 1 z. Doc φz) 1 z). 2 Doc ET ) 1 k 1 1 1 1 k )) 2 k. Doc le temps de calcul moye est proportioel à k. C est pourquoi o cherche ue costate k satisfaisat 2.1) qui soit la plus petite possible. Remarque 2.9. L algorithme ci-dessus est ecore valable si la v.a. X à simuler a ue desité f par rapport à ue mesure µ quelcoque et que cette desité est majorée par kg où g est la desité par rapport à f d ue variable Y facile à simuler. Ceci se traduit par PX A) fx)µdx) kgx)µdx) kpy A). A Si la v.a. X a ue loi portée par u esemble discret E, o peut choisir pour µ la mesure de comptage sur E et la méthode de rejet est aussi valable pour les lois discrètes, fx) état das ce cas égale à PX x). 2.6. Vérificatio par histogramme Quad o simule ue variable aléatoire réelle à l aide d ue des méthodes ci-dessus, o peut vérifier empiriquemet que la loi simulée est bie celle que l o voulait. Soiet X 1, X 2,... des v.a.r. i.i.d. de loi de desité f avec ue dérivée f vérifiat f < C pour ue certaie costate C). Pour tout a < b, 1 b a) et PX1 [a;b]) b a 1 b b a ft)dt doc a PX 1 [a; b]) b a 1 [a;b] X i ) i1 fa) A p.s. PX 1 [a; b]), + b a 1 b a 1 b a b a b a b 1 b a b a) 2 a ft) fa)dt ft) fa) dt C t a dt 0. b a Doc l histogramme correctemet reormalisé) des valeurs simulées X 1, X 2,..., X est proche de la desité f. Das le programme 2.4, ous simulos des variables de desité f : x R 1 x 1 e x3 /Z comme das l exemple 2.7) et ous traços l histogramme empirique des variables et le graphe de f das le même repère voir figure 2.6.1) 2.7. Exercices Exercice 2.1. Soiet X 1, X 2,... des variables i.i.d uiformes das C [ 1; 1] [ 1; 1]. Soit D le disque das R 2 ) de cetre 0, 0) et de rayo 1. 1) Calculer par ue méthode de Mote-Carlo la valeur de E1 X D ). 2) Estimer la variace de la méthode. 3) Trouver u ombre de boucles à effectuer e 1) pour que l estimatio de l espérace soit précise à 0, 1 près avec ue probabilité 0, 95. Exercice 2.2. 1) Simuler des variables expoetielles par la méthode du cours. 2) Tracer u histogramme des variables simulées par cette méthode. Comparer avec u tracé de la desité de la loi expoetielle.
16 2. SIMULATION DE VARIABLES ALÉATOIRES Desity 0 1 2 3 1.0 1.2 1.4 1.6 1.8 2.0 tab Figure 2.6.1. Histogramme et desité Exercice 2.3. Motrer que l algorithme suivat permet de simuler ue réalisatio de loi uiforme sur le disque uité de R 2. 1) Simuler U, V ) couple de deux v.a. i.i.d. de loi uiforme sur [ 1, 1]. 2) Tat que U 2 + V 2 > 1, répéter 1). 3) Revoyer la valeur de U, V ) e fi de boucle. Coder l algorithme e R. Exercice 2.4. Motrer que l algorithme suivat permet de simuler u couple de v.a.i.i.d. de loi gaussiees cetrées réduites. 1) Simuler U, V ) couple de deux v.a. i.i.d. de loi uiforme sur [ 1, 1]. 2) Tat que U 2 + V 2 > 1, répéter 1). 3) Revoyer la valeur de U, V ) et de R 2 U 2 + V 2 e fi de boucle. 4) Poser Z [ 2 lr 2 )/R 2 ] 1/2. 5) Poser X ZU et Y ZV. Coder l algorithme e R. Vérifier à l aide d u histogramme que la première variable simulée suit bie ue loi gaussiee cetrée réduite. Exercice 2.5. Soiet X et Y deux v.a. i.i.d. de loi expoetielle de paramètre 1. 1) Motrer que la loi coditioelle de X sachat 2Y > 1 X) 2 a pour desité x 2 exp x2 ) 1[0,+ [ x). 2π 2 2) Soit S ue v.a. de loi Beroulli de paramètre 1/2, idépedate du couple X, Y ). Motrer que la loi coditioelle de 2S 1)X sachat 2Y > 1 X) 2 suit ue loi ormale cetrée réduite. 3) E déduire u algorithme de simulatio de la loi N 0, 1). Le coder e R.
2.7. EXERCICES 17 Programme 2.4 Tracé d u histogramme #Nous déclaros ue foctio qui simule ue variable de desité f. #Remarque : l argumet t est pas utilisé. simu<-fuctiot) { b0 while b0) { uruif1,0,1) vruif1,0,1) y1/1-v) if u<y^2*exp-y^3)/exp1)) { b1 } } retury) } f1<-fuctiox) { if x>1) { zexp-x^3) } else { z0 } returz) } Ziitegratef1,1,5) ZZi$value #calcule la costate Z 5000 tabc) for i i 1:) { xsimu1) tabctab,x) } dev.off) histtab,freqfalse) absseq1.01,5,0.01) yexp-abs*abs*abs)/z liesabs,y,type l,col red ) Exercice 2.6. Soiet f et g R R) des desités. Soit h la foctio : hx) R supfx), gx)). supft), gt))dt 1) O simule ue v.a. Z suivat ue méthode d acceptatio/rejet. O tire X, Y idépedates respectivemet de lois de desité f, g et U, V idépedates uiformes sur [0, 1] et idépedates de X, Y ) jusqu à ce que UfX) gx), auquel cas o pred Z Y ou V gy ) fy ) et UfX) > gx), auquel cas o pred Z X. Motrer que Z est de loi de desité h. 2) O suppose ici que f desité de la loi N 0, 1) et g desité de la loi N 3/2, 1). a) Écrire u programme qui simule des variables aléatoires suivat h. b) Écrire u programme qui dessie u histogramme empirique de h.
18 2. SIMULATION DE VARIABLES ALÉATOIRES Exercice 2.7. O désige par f la desité 2 fx) π exp x2 2 ) 1 {x>0}, x R. 1) Pour λ > 0 fixé, trouver ue costate c λ > 1 telle que fx) c λ λ exp λx), x R +. 2) E déduire ue méthode de simulatio de la loi de desité f 3) Trouver λ tel que le temps moye de calcul das la méthode proposée soit le plus petit possible. Exercice 2.8. Pour a > 0 doé, o désige par f la foctio fx) 1 [0;a] x) exp x), x R. 1) Trouver ue costate C telle que Cf soit ue desité. 2) Trouver ue costate c 1 > 1 telle que 3) Trouver ue costate c 2 > 1 telle que Cfx) c 1 1 [0;a] x), x R. Cfx) c 2 1 [0;+ [ x) exp x), x R. 4) O veut mettre e place ue méthode de rejet pour simuler la loi desité f e utilisat la loi uiforme sur [0; a] ou la loi expoetielle. Laquelle vaut-il mieux choisir? Coder la méthode. Exercice 2.9. O souhaite simuler suivat la loi de desité avec Z + 1 e x2 dx. f : x R 1 Z exp x2 )1 x 1, 1) Trouver ue desité g suivat laquelle o sait simuler) et ue costate C telles que f Cg. 2) Soit X N 0, 1/2). Motrer que f est la desité de la loi de X sachat X 1 o pourra calculer l espérace sur ue foctio test). 3) Coder la simulatio de la loi de desité f suivat la méthode du rejet basée sur g, C).
CHAPITRE 3 Réductio de variace Nous avos vu au chapitre 1 sectio 1.2.2) que si ous calculos ue quatité EX) par la méthode de Mote-Carlo, c est à dire si ous approchos EX) par ue moyee empirique X 1+ +X, X 1, X 2,... i.i.d. de même loi que X), alors l erreur EX) X 1+ +X est d ordre σ/, où σ 2 VX). Nous allos préseter ici des méthodes qui permettet d écrire EX) EY ) avec VY ) VX). Ces méthodes sot dites «de réductio de variace». 3.1. Échatilloage préféretiel «importace samplig» e aglais) Nous cherchos à calculer EgX)) avec X variable à valeurs das R d, de desité f. Pour toute desité f > 0, ous pouvos écrire ) gx)fx) gy )fy ) EgX)) gx)fx)dx fx)dx E, R d R fx) fy d ) avec Y de desité f. Nous avos doc deux méthodes de Mote-Carlo pour approcher EgX)) : EgX)) gx 1) + + gx ), ) EgX)) 1 gy 1 )fy 1 ) + + gy )fy ), fy 1 ) fy ) avec des X 1, X 2,... i.i.d. de même loi que X, des Y 1, Y 2,... i.i.d. ) de même loi que Y. La deuxième méthode est plus itéressate que la première si V gy )fy ) VgX)). Supposos g 0 et choisissos f : x gx)fx) EgX)) avos alors V ) gy )fy ) fy ) E fy ) ) 2 gy )fy ) E fy ) c est bie ue desité de probabilité), ous )) 2 gy )fy ) fy ) Rd gu) 2 fu) 2 gu) 2 fu) 2 EgX)))2 fu)du EgX)) fu)du R d EgX))) 2 EgX))) 2 0. Nous avos doc ici ue méthode de Mote-Carlo de variace ulle, ce qui semble avoir aucu ses. E fait, la variace de cette méthode a pas d itérêt car cette méthode est pas implémetable. E effet, il faudrait pour cela savoir simuler suivat la desité f, mais l expressio de f cotiet la costate EgX)), que ous e coaissos pas. La discussio ci-dessus ous doe ue idée d ue démarche à suivre pour réduire la variace. 1) Trouver ue foctio f 1 proche de f g et telle que l o sache simuler suivat la desité f f 1 / f R d 1 x)dx. 2) Soit Y variable aléatoire de desité f. Comparer VgX)) et VgY )fy )/ fy )) il faut e gééral approcher ces variables par u estimateur, voir par exemple le lemme 1.4 à ce sujet). ) 2 19
20 3. RÉDUCTION DE VARIANCE Exemple 3.1. O cherche à calculer I 1 cosπx/2)dx par ue méthode de Mote-Carlo. 0 O peut approcher I par 3.1) I cosπu 1/2) + + cosπu /2) avec U 1, U 2,... i.i.d. de loi U[0; 1]) toujours pour «grad»). Si ous repreos les otatios ci-dessus, ous avos gx) cosπx) et fx) 1 pour x [0; 1]). Soit f 1 x) 1 x, fx) 1 x 1/2). La foctio f 1 est grossièremet) proche de g f. Si U U[0; 1]) alors 1 U est de loi de desité f ous trouvos cet astuce par la méthode d iversio de la foctio de répartitio, voir chapitre 2). Doc ous savos simuler suivat la loi de desité f. Das le programme 3.1, ous estimos les variaces des deux méthodes. Nous trouvos 1.10 1 pour la méthode de l équatio 3.1) ci-dessus et 7.10 3 pour la méthode d échatilloage d importace par f. La variace est doc réduite. Programme 3.1 Échatilloage d importace simu<-fuctiot) { uruif1,0,1) retur1-sqrtu)) } s0 for i i 1:) { uruif1,0,1) vruif1,0,1) u1cospi*u/2) v1cospi*v/2) ss+u1-v1)^2 } ss/2*) cat"variace de la première méthode : ",s) s0 for i i 1:) { vsimu1) v1cospi*v/2)/2*1-v)) wsimu1) w1cospi*w/2)/2*1-w)) ss+v1-w1)^2 } ss/2*) cat"variace de la méthode d échatilloage préféretiel : ",s), 3.2. Variable de cotrôle Supposos que l o veuille calculer EfX)) avec X ue variable aléatoire. La première méthode cosiste à faire l approximatio EfX)) fx 1) + + fx )
3.3. VARIABLES ANTITHÉTIQUES 21 avec X 1, X 2,... i.i.d. de même loi que X toujours pour «grad»). Si o sait calculer EhX)) pour ue certaie foctio h, alors o peut aussi faire l approximatio EfX)) fx 1) hx 1 )) + + fx ) hx )) + EhX)). Il faut esuite comparer les variaces pour savoir quelle est la méthode la plus avatageuse. Das le cas de la deuxième méthode, l erreur est ) fx1 ) hx 1 )) + + fx ) hx )) EfX)) + EhX)) EfX) hx)) fx 1) hx 1 )) + + fx ) hx )). Elle est d ordre de gradeur VfX) hx)) 1/2 /. La méthode est doc la suivate. 1) Trouver ue foctio h proche de f et telle que l o sache calculer EhX)) le fait que h soit proche de f devrait faire e sorte que VfX) hx)) est petite). 2) Estimer les variaces VfX)) et VfX) hx)), et les comparer. Exemple 3.2. O chercher à calculer I 1 0 expx2 )dx par ue méthode de Mote-Carlo. Nous avos I Ee U 2 ) avec U U[0; 1]). Doc ous pouvos faire l approximatio I eu 2 1 + + e U 2 avec U 1, U 2,... i.i.d., U[0; 1]) toujours pour «grad»). Nous avos doc ue première méthode de Mote-Carlo. Avec les otatios ci-dessus, ous avos fx) expx 2 ). Remarquos que h : x 1 + x 2 est proche de f sur [0; 1] c est le débit du développemet limité de f e 0). Nous savos calculer EhU)) 1 0 1 + x 2 dx 1 + 1 3. Nous pouvos faire l approximatio ) ) e U 2 1 1 U 2 1 + + e U 2 1 U 2 I EhU)). Nous estimos les deux variaces das le programme 3.2. La variace est réduite d u facteur 10 grâce à cette méthode. 3.3. Variables atithétiques Supposos que l o cherche à calculer I [0;1] d fu 1,..., u d )du 1... du d ue itégrale sur l hypercube de dimesio d). Nous avos I EfU)) avec U U 1,..., U d ) variable aléatoire dot les composates sot idépedates et de loi U[0; 1]). Nous pouvos utiliser l approximatio I fx 1) + + fx ) avec X 1, X 2,... i.i.d. de même loi que) U. Supposos que f1, 1,..., 1) u) fu) pour tout u [0; 1] d. Alors I E f1,...,1) U)+fU), ce qui ous doe l idée d ue deuxième approximatio 2 I 1 i1 Lemme 3.3. Sous les hypothèses ci-dessus, V est doc toujours réduite.) f1, 1,..., 1) X i ) + fx i ) 2, f1,...,1) U)+fU) 2,. ) VfU)). La variace
22 3. RÉDUCTION DE VARIANCE Programme 3.2 Variable de cotrôle. 5000 s0 for i i 1:) { uruif1,0,1) vruif1,0,1) sexpu*u)-expv*v))^2 } ss/2*) cat"variace de la première méthode : ",s) s0 for i i 1:) { uruif1,0,1) vruif1,0,1) sexpu*u)-1-u*u-expv*v)+1+v*v)^2 } ss/2*) cat"variace de la méthode de variable de cotrôle : ",s) Démostratio. ) f1,..., 1) U) + fu) V 2 f1, ) ) 2..., 1) U) + fu) f1,..., 1) U) + fu) E E 2 2 1 4 Ef1,..., 1) U)2 ) + 1 4 EfU)2 ) + Ef1,..., 1) U)fU)) EfU)) 2 Cauchy-Schwarz) 1 4 Ef1,..., 1) U)2 ) + 1 4 EfU)2 ) + Ef1,..., 1) U) 2 ) 1/2 EfU) 2 ) 1/2 EfU)) 2 ) 2 VfU)). Remarque 3.4. Le même résultat est ecore valable si o remplace [0; 1] d par u domaie quelcoque A de R d, si o remplace u 1,..., u d ) [0; 1] d 1 u 1,..., 1 u d ) [0; 1] d par ue trasformatio bijective ϕ : A A et si fϕx)) fx) pour tout x A. 3.4. Méthode de stratificatio O veut calculer ue itégrale de la forme I EgX)) avec X variable de desité f sur u esemble D par exemple par rapport à la mesure de Lebesgue). Cette écriture ous doe l idée d ue première méthode de Mote-Carlo : I gx 1) + + gx ) avec X 1, X 2,... i.i.d. de même loi que X. L erreur commise I gx1)+ +gx) est approximativemet de loi N 0, σ 2 ) avec σ VgX)). Supposos que D est partitioé e D 1, D 2,..., D m ce que ous oteros D 1 i m D i). Nous décomposos I e : m I p i I i i1,
3.4. MÉTHODE DE STRATIFICATION 23 avec pour tout i, I i EgX) X D i ), p i PX D i ) ous avos m i1 p i 1). Nous supposos que ous savos simuler suivat la loi LX X D i ) pour tout i. Pour chaque i, ous pouvos approcher I i par ue méthode de Mote-Carlo à i tirages : I i Îi gxi) 1 ) + + gxi) i ) i, avec des variables X i) 1, Xi) 2,... i.i.d. LX X D i). Chacue de ces approximatios a u coût umérique i puisqu o fait i boucles pour calculer la somme ci-dessus). Nous e déduisos ue deuxième approximatio : I p 1 Î 1 + + p m Î m. L erreur commise se décompose das ce cas e ue somme d erreur : m I Î1 + + Îm) I i Îi). Das cette somme, chacu des termes est approximativemet) de loi N 0, p 2 i σ2 i / i) avec σ 2 i VgX) X D i ) i1 EgX) EgX) X D i )) 2 X D i ) EgX) EgX) X D i)) 2 1 {X Di}) p i p 1 i EgX) 2 1 {X Di}) + p 1 i EgX) X D i ) 2 E1 {X Di}) 2p 1 i EgX) X D i )EgX)1 {X Di}) p 1 i EgX) 2 1 {X Di}) p 2 i EgX)1 {X Di}) 2. Doc l erreur est approximativemet) de loi N 0, m i1 σ2 i / i). Nous voulos que cette erreur soit la plus petite possible doc ous voulos miimiser la variace m i1 p2 i σ2 i / i. Comme ous voulos pouvoir faire ue comparaiso avec la première méthode, ous ajoutos la cotraite m i1 i. Lemme 3.5. Soit S {x 1,..., x m ) R m + : x 1 + + x m }. Soit f : x x 1,..., x m ) S p Alors f atteit sot miimum e 1σ 1 p 1σ 1+ +p mσ m,..., m i1 p 2 i σ2 i x i. p mσ m p 1σ 1+ +p mσ m ). Démostratio. L esemble S est la surface {x R m : gx) } avec g : x x 1,..., x m ) R m x 1 + +x m plus précisémet, l itersectio de cette surface avec R m + ). Nous commeços par chercher les poits critiques de f voir le cours d optimisatio pour les détails de la démostratio qui va suivre). Ce sot les poits x de S tels que fx) est coliéaire à gx) ous otos pour le gradiet). Nous avos fx) f x 1 x),..., ) f p 2 x) 1 σ1 2 x m x 2,..., p2 mσ 2 ) m 1 x 2, m gx) 1, 1,..., 1). Doc ous cherchos x S et λ R tels que, pour tout i {1,..., m}, p2 i σ2 i p iσ i x 2 i λ. L uique solutio est x i p 1σ 1+ +p mσ m, pour tout i. La foctio f est covexe sur R m + ) doc ce poit critique est u miimum. Comme il est l uique poit critique alors, c est u miium absolu. p Comme ous voulos des i etiers, ous preos i iσ i p 1σ 1+ +p mσ m, pour tout i rappel : x if{ Z : x}). Das la pratique, il faudra doc estimer les σ i et les p i par ue méthode
24 3. RÉDUCTION DE VARIANCE de Mote-Carlo). Si oublie les parties etières, la deuxième méthode est de variace m p 2 m i σ2 i σ 2 p 1 σ 1 + + p m σ m ) i p 1σ 1 + + p m σ m ) 2. i p i σ i i1 i1 Lemme 3.6. Nous avos σ 2 p 1 σ 1 + + p m σ m ) 2. La variace est doc bie réduite par la stratificatio.) Démostratio. Nous avos m VgX)) E i1 gx)1 {X Di} ) 2 EgX)) 2 m ) m les D i partitioet D) E gx) 2 1 {X Di} E p i EgX) X D i ) i1 i1 m { pi EgX) 2 X D i ) p i EgX) X D i ) 2} i1 ) 2 m { pi EgX) X D i ) 2} m E p i EgX) X D i ) i1 Rappelos que pour x 1,..., x m R et λ 1,..., λ m R + tels que m i1 λ i 1, ous avos m m ) 2 3.2) λ i x 2 i λ i x i i1 c est l iégalité de covexité pour la foctio carré). Doc m { VgX)) pi EgX) 2 X D i ) p i EgX) X D i ) 2} ecore 3.2)) i1 i1 i1 m ) p i EgX) 2 X D i ) EgX) X D i ) 2 ) 1/2 i1 m ) 2 p i σ i. i1 ) 2 3.5. Valeur moyee ou coditioemet O cherche à calculer ue itégrale de la forme I EgX, Y )) gx, y)fx, y)dxdy où f est la desité du couple X, Y ). Cette écriture ous doe l idée d ue première approximatio I 1 gx i, Y i ) i1 avec des X i, Y i ) i.i.d. de même loi que X, Y ). Soit hx) 1 mx) gx, y)fx, y)dy avec mx) fx, y)dy. Nous avos EhX)) hx)fx, y)dxdy x,y x,y u ) 1 gx, v)fx, v)dv fx, y)dy fx, u)du v
Fubii) v,x v,x 3.6. EXERCICES 25 gx, v)fx, v) EgX, Y )). y u gx, v)fx, v)dxdv fx, y)dy fx, u)dudxdv Supposos que ous savos calculer hx) pour tout x. Nous avos alors l idée d ue deuxième approximatio I hx 1) + + hx ). Lemme 3.7. Nous avos VhX)) VgX, Y )). Doc la méthode de la valeur moyee réduit la variace.) Démostratio. Nous savos que EhX)) EgX, Y )) doc pour comparer VhX)) et VgX, Y )), il suffit de comparer EhX) 2 ) et EgX, Y ) 2 ). Nous avos : EhX) 2 ) hx) 2 fx, y)dxdy Cauchy-Schwarz) Doc VhX)) VgX, Y )). Fubii) x,y x,y x,y x,v x,v v ) 2 gx, v)fx, v)dx fx, y)dxdy fx, u)du u v gx, v)2 fx, v)dx u fx, u)du fx, y)dxdy gx, v) 2 ) fx, v) fx, y)dy dxdv fx, u)du y u gx, v) 2 fx, v)dxdv EgX, Y ) 2 ). 3.6. Exercices Exercice 3.1. Cet exercice est ispiré par l exercice 1.7 de [Par08]. O veut calculer I E1 X>0 e βx ), où X N 0, 1) et β 5. O estimera la variace à chaque étape de l exercice. 1) Calculer la variace de la méthode «aïve» quad o tire des X 1, X 2,... i.i.d. de loi N 0, 1) et que l o approche I par 1 i1 1 X i>0e βxi ). 2) Proposer ue méthode d échatilloage préféretiel. 3) Propose ue méthode de variable de cotrôle. 4) Améliorer la méthode à l aide d ue techique de variable atithétique. Exercice 3.2. 1) O s itéresse au programme suivat. Programme 3.3 Boucle de Mote-Carlo 1000 s0 for i i 1:) { urorm1,0,1) #tire ue variable N0,1) ss+sqrtabsu)) } prits/)
26 3. RÉDUCTION DE VARIANCE O ote Z le résultat affiché par l algorithme. Quelle est la quatité I approchée par Z? 2) Écrire u programme qui estime la variace de la méthode ci-dessus. 3) Proposer ue méthode de réductio de variace pour le calcul de I. 4) Écrire u programme qui implémete cette ouvelle méthode. Écrire u programme qui estime la ouvelle variace elle soit être plus petite que la variace de la questio 2). Exercice 3.3. Ajouter les exercices du partiel o 2 de 2013-2014.
CHAPITRE 4 Méthodes de Mote-Carlo par chaîes de Markov Das tout ce chapitre, o suppose que l o est das u espace E fii ou déombrable. Les algorithmes décrits foctioet aussi das le cas E R ou E R d. 4.1. Rappels sur les chaîes de Markov Théorème 4.1 Théorème ergodique). Soit Q u oyau de Markov irréductible sur E). Alors, il existe ue probabilité Q-ivariate π 0 et de plus : 1) π 0 est l uique probabilité Q-ivariate. 2) Tous les états sot récurrets pour Q). 3) Si X ) 0 est ue chaîe de Markov de loi iitiale π 0 et de trasitio Q alors +1 1 p.s. fx p ) fx)π 0 dx), + 1 + p0 pour toute foctio f qui est π 0 -itégrable. 4) Si X ) 0 est ue chaîe de Markov de loi iitiale π quelcoque et de trasitio Q alors +1 1 p.s. fx p ) fx)π 0 dx), + 1 + p0 pour toute foctio f qui est π 0 -itégrable. Ce théorème ous permet d approcher ue itégrale par ue moyee empirique. Ici, la suite des X p ) est pas i.i.d. mais est ue chaîe de Markov. O parle alors de méthode de Mote-Carlo par chaîe de Markov «MCMC» pour «Mote Carlo Markov Chai» e aglais). Défiitio 4.2. Si π ue probabilité sur E vérifie πx)qx, y) πy)qy, x) alors π est dite symétrique par rapport à Q) ou Q-symétrique. Lemme 4.3. Si π est Q-symétrique, alors elle est Q-ivariate. Démostratio. Pour tout y, πq)y) x E πx)qx, y) symétrie) x E πy)qy, x) πy). Défiitio 4.4. Soit Q u oyau de Markov. Pour x E, o ote dx) : P GCD{ : Q x, x) > 0}. U élémet x de E est dit apériodique si dx) 1. Lemme 4.5. Soit Q u oyau de Markov. 1) Si tous les x de E sot apériodique alors Q est dit apériodique. 2) Si Q est irréductible, [ x E qui est apériodique] [Q est apériodique]. 27
28 4. MÉTHODES DE MONTE-CARLO PAR CHAÎNES DE MARKOV Théorème 4.6. Supposos que E est fii et que Q est ue matrice de trasitio irréductible, apériodique et admettat ue probabilité ivariate π 0. 1) Il existe deux réels α [0; 1[, M R + tels que pour tout x, y E, Q x, y) π 0 y) Mα. 2) Pour tout x E et toute foctio f : E R, si o appelle X ) 0 ue chaîe de Markov de loi iitiale π quelcoque et de trasitio Q + 1 1 +1 fx ) π 0 y)fy) loi + 1 N 0, + σ2 ), p0 y E avec ue variace σ 2 < +. Remarque 4.7. Das le cas d u espace fii ou déombrable, x E fx)πdx) x E fx)πx) pour toute probabilité π et toute foctio f. Remarque 4.8. Le poit 1 du théorème ci-dessus implique que pour toute chaîe de Markov loi X ) 0 de trasitio Q, X π 0. Le poit 2 du théorème ci-dessus ous doe ue vitesse de + covergece pour la covergece du théorème ergodique comme le théorème de la limite cetrale ous doe la vitesse de covergece de la loi des grads ombres). 4.2. Algorithme de Hastigs-Metropolis O se fixe ue loi π suivat laquelle o aimerait simuler ou dot o voudrait calculer ue itégrale fx)πdx). Nous appelleros π la loi cible. O se doe u oyau de Markov Q. Nous E appelleros Q le oyau de propositio. Nous allos costruire ue chaîe de Markov X ) 0. Nous preos X 0 x 0 tel que πx 0 ) > 0. Si X x, ous simulos Y +1 et U +1 idépedats et idépedats des simulatios passées) avec Y +1 Qx,.), U +1 U[0; 1]). La variable Y +1 s appelle ue propositio. Posos, pour tout x, y, ) πy)qy, x) αx, y) mi 1,. πx)qx, y) Alors : X +1 { Y +1 si U +1 αx, Y +1 ), X sio. Das le cas où U +1 αx, Y +1 ), o dit qu o accepte la propositio, et das le cas cotraire o dit qu o refuse la propositio. Propositio 4.9. La suite aléatoire X ) 0 costruite ci-dessus est ue chaîe de Markov de trasitio P avec { P x, y) Qx, y)αx, y) si x y, P x, x) 1 y x P x, y). La loi π est P -ivariate Démostratio. Pour tout x, PX +1 x X 0,..., X ) PX +1 x X ) d après la costructio ci-dessus). Doc X ) 0 est bie ue chaîe de Markov. Calculos, pour tout x y PX +1 y X x) PY +1 y, U +1 αx, Y +1 ) X x) PY +1 y, U +1 αx, Y +1 ) X 1) PY +1 y, U +1 αx, y) X x) Y +1 U +1 ) Qx, y)αx, y).
4.3. ALGORITHME DE METROPOLIS SIMPLE 29 Nous e déduisos PX +1 x X x) 1 y E P x, y) 1 y x Qx, y)αx, y). Pour tout x y, πx)p x, y) πx)qx, y)αx, y) ) πy)qy, x) πx)qx, y) mi 1, πx)qx, y) mi πx)qx, y), πy)qy, x)) o refait le calcul e iversat xet y) πy)p y, x) mi πy)qy, x), πx)qx, y)) Doc π est symétrique par rapport à P. D après le lemme 4.3, ous avos doc πp π. Lemme 4.10. Avec les otatios défiies ci-dessus, si Qx, y) > 0 et πx) > 0 pour tout x, y alors P x, y) > 0 pour tout x, y et doc P est irréductible. 4.3. Algorithme de Metropolis simple Si Qx, y) Qy, x) pour tout x, y o dit que le oyau Q est symétrique). Das la versio origiale de l algorithme ) de Metropolis, le oyau Q est symétrique. Das ce cas, α se simplifie e αx, y) mi pour tout x, y. 1, πy) πx) Propositio 4.11. Si Q est u oyau de Markov irréductible, symétrique et si π est ue probabilité o costate telle que πx) > 0 pour tout x, alors la chaîe de Markov de Metropolis de oyau de propositio Q et de loi cible π est irréductible, apériodique, de loi ivariate π. Démostratio. Pour tout x, y, αx, y) > 0. De plus, pour tout x, y, il existe p N et ue suite x 1,..., x p de E telle que Qx, x 1 )Qx 1, x 2 )... Qx p 1, x p )Qx p, y) > 0. Doc : P x, x 1 )P x 1, x 2 )... P x p, y) Qx, x 1 )αx, x 1 )... Qx p, y)αx p, y) > 0. Pour prouver l apériodicité de P, il suffit de motrer qu il existe x tel que P x, x) > 0. Supposos que P x, x) 0 pour tout x. Or, pour tout x, P x, x) 1 P x, y) y:y x Qx, y) Qx, y)αx, y) y y:y x Qx, x) + Qx, y)1 αx, y)) y:y x P x, x) + y:x y Fixos x E. Nous avos doc, pour y x, 4.1) 1 πy) ) πx) + Qx, y) 1 πy) ) πx) + c est à dire πy) πx). Comme π est pas costate alors il existe y tel que πy) > πx). Mais e iversat x et y das 4.1), ous avos πx) πy). Nous aboutissos doc à ue cotradictio. Doc il existe x tel que P x, x) > 0. Doc le oyau P est apériodique. Sous les hypothèse de cette propositio, ous pouvos appliquer le théorème 4.6 sur la vitesse de covergece. 0,
30 4. MÉTHODES DE MONTE-CARLO PAR CHAÎNES DE MARKOV 4.4. Le modèle d Isig C est u modèle très populaire e physique statistique. Soit N N. Soit Λ { N, N + 1,..., 1, 0, 1,..., N} 2 Z 2 o pourrait aussi regarder ce modèle e dimesio quelcoque e preat l exposat d N à la place de 2). Nous défiissos l espace des cofiguratios par E { 1; 1} Λ il s agit doc des foctios f : Λ { 1; 1}). Le cardial de E est 2 2N+1. Pour x E, ous posos Hx) 1 xm) xm ) 2, 2 m,m Λ m m 1 où la somme porte sur toutes les paires de sites m, m de E qui sot voisis. Remarquos que Hx) est ulle si x est cotate. Soit β > 0, ous défiissos la probabilité sur E : πx) 1 Zβ) e βx, avec Zβ) x E e βx. La costate Zβ) est pas coue. Nous aimerios simuler suivat la loi π ou calculer des itégrales cotre la loi π. Pour cela, ous allos utiliser l algorithme de Metropolis. Nous allos utiliser u oyau de propositio Q particulier. Nous défiissos ue partitio de Λ e Λ + {m 1, m 2 ) Λ; m 1 + m 2 pair}, Λ {m 1, m 2 ) Λ; m 1 + m 2 impair}. Remarquos que si m appartiet à Λ + alors tous ses voisis sot das Λ et réciproquemet). Pour x E, ous otos x + xm), m Λ + ), x xm), m Λ ). Les composates x + et x sot des restrictios de x respectivemet à Λ + et Λ ) et ous écrivos x x +, x ). Nous cherchos maiteat à calculer πx + x ) πx + x ) PX + x + X x ) avec X variable aléatoire de loi π). Nous avos : πx + x ) πx+, x ) πx ) πx +, x ) y E πy) y x exp y E exp y x exp β m Λ + m Λ m m 1 β m Λ + β m Λ + x + m) x m )) 2 ) m Λ m m 1 m Λ m m 1 y E exp β m Λ + y x m Λ m m 1 y + m) y m )) 2 ) 1 + 1 2x + m)x m)) ) 1 + 1 2y + m)x m )) )
exp 4.4. LE MODÈLE D ISING 31 2β m Λ + m Λ m m 1 y E exp 2β m Λ + y x m Λ exp + y E exp y x m Λ m m 1 2βx + m) m Λ 2β m Λ + x + m)x m ) m m 1 m Λ m m 1 ) y + m)x m ) xm ) ) y + m)x m ) Cette expressio est u produit de foctios de x + m) sur m Λ +. Doc, sous la loi π. x ), les composates X + m), m Λ sot idépedates et de loi PX + m) x + m) X x ) exp 2βx+ m) Doc, e otat M m Λ m m 1 x m ) m Λ m m 1 PX + m) 1 X x e 2βM ) e 2βM + e 2βM, PX + m) 1 X x e 2βM ) e 2βM + e 2βM. ) ). x m ). Il est doc très facile de simuler suivat π. x ). Nous défiissos maiteat u oyau Q e décrivat commet simuler u saut selo Q. Soit x das E. Nous tiros U B1/2). Si U 1/2, ous tiros Y + de loi π. x ) et ous sautos e Y +, x ). Si U > 1/2, ous tiros Y de loi π. x + ) et ous sautos e x +, Y ). Nous pouvos alors écrire : 1 2 πy+ x ) si y x et y + x +, 1 2 Qx, y) πy x + ) si y + x + et y x, πx + x )+πx x + ) 2 si x y, 0 das les autres cas. Remarquos que le oyau Q est symétrique. Soit αx, y) mi 1, πy) ). πx) Pour x, y das E, ous avos pas besoi de Zβ) pour calculer αx, y). Nous pouvos doc simuler la chaîe de Metropolis de oyau de propositio Q et de loi cible π. Nous oteros X ) 0 cette châie. Le oyau Q est irréductible et symétrique. La loi π est pas costate. Doc par la propositio 4.11 et le théorème 4.6, la loi de X est proche de π pour + ) et, pour ue foctio f, ous pouvos faire l approximatio fx)πdx) 1 +1 fx ), + 1 E quad +. Das les figures 4.4.1) et 4.4.2), ous avos simulé des tirages suivat la loi π à l aide de l algorithme de Metropolis les résultats sot doc approximativemet de loi π) pour N 25. Les sites e rouge ou gris focé) représetet des +1 et les sites e vert ou gris clair) représetet des 1. O s atted à ce que les variables tirées soiet représetatives de la loi π. O remarque que plus β est grad, plus la loi π privilégie les cofiguratios x tels que le ombre de couples de voisis e désaccord est petit o dit que m, m Λ sot e désaccord si xm) xm )). Et 0
32 4. MÉTHODES DE MONTE-CARLO PAR CHAÎNES DE MARKOV a) β 0, 3 b) β 0, 5 Figure 4.4.1 a) β 0, 8 b) β 1 Figure 4.4.2 e effet, das les tirages effectués, les deux couleurs sot plus mélagées pour β petit que pour β grad. 4.5. Aalyse bayésiee d image Repreos le modèle précédet et associos à chaque x de E ue image : m Λ représete u pixel, le pixel est oir si xm) +1 et blac si xm) 1. Nous observos les couleurs des pixels et l observatio ous doe la couleur exacte de chaque pixel avec probabilité p p ]0; 1[). Alors, la loi a posteriori, ou ecore la loi coditioelle de X x sachat que l o a observé y l image de départ est modélisée par ue variable aléatoire X parce que ous e la coaissos pas) est πx y) e βhx) p ax,y) 1 p) dx,y), où ax, y) #{m Λ : xm) ym)}, dx, y) #{m Λ : xm) ym)}. Nous cherchos alors à simuler ue variable de loi π. y) pour avoir ue idée de l image de départ). Remarque 4.12. Le paramètre p représete l erreur de mesure. Plus p est petit, mois l image observée est bruitée par rapport à l image de départ. Le paramètre β déped de l idée que l o