TP 7 : Méthodes de Mote Carlo (II) : réductio de variace Le but de ce TP est d étudier l erreur commise par les méthodes de Mote Carlo vues das le TP précédet. Il peut être traité idépedammet du TP précédet. O rappelle le pricipe de foctioemet de ces méthodes. Cosidéros ue itégrale de la forme: I = g(x)f(x)dx où la foctio f est supposée être ue desité de probabilité : f(x) et f(x)dx = 1. E gééral, ue telle itégrale est pas calculable explicitemet car o e coait pas de primitive de la foctio itégrée. Les méthodes de Mote Carlo proposet d estimer I par la quatité I = 1 g(x i ) où X 1,X,,X sot des réalisatios idépedates suivat la loi de desité f. L erreur err = I I commise par ces méthodes est évaluée de la faço suivate. O peut motrer que, pour assez grad, il y a 95% de chace que err appartiee à l itervalle [ σ ; σ où σf (g) = Var(g(X 1)) = g (x)f(x)dx ( g(x)f(x)dx). La quatité σ f (g) état e gééral icoue, o l estime par ˆσ f (g) = 1 1 (g(x i) I ). Il y a ecore 95% de chace que err appartiee à l itervalle [ ˆσ ; ˆσ ]. La qualité d ue méthode de Mote Carlo est doc détermiée par le rapport σ ˆσ. Das ce TP, ous allos lister quelques méthodes existates pour améliorer les méthodes de Mote Carlo i.e. faire dimiuer la quatité σ f (g). Comme ous le verros, cela permet d obteir la même précisio d estimatio e simulat mois de variables aléatoires : o gage aisi e temps de calcul sas pour autat perdre e efficacité. 1 Echatilloage préféretiel (importace samplig) E dépit de la forme sous-laquelle est écrite l itégrale I, la desité de probabilité f est pas écessairemet la meilleur desité de probabilité à utiliser das la méthode de Mote Carlo. E effet, o peut écrire I sous la forme suivate : I = g(x)f(x) f(x) f(x)dx où f désige ue autre desité de probabilité : f(x) > et f(x)dx = 1. Suivat le même pricipe de Mote Carlo, o estime alors I par Ĩ = 1 g(y i )f(y i ) f(y i ) où Y 1,Y,,Y sot des réalisatios idépedates suivat la loi de desité f. Si la desité f ( ) est judicieusemet choisie, Var(g(X 1 )) > Var g(y1 )f(y 1 ) et la méthode de Mote f(y 1 ) Carlo est alors plus efficace. 1 ]
1.1 U premier exemple epreos ue itégrale du TP précédet : I 1 = x dx et estimos la par différetes méthodes de Mote Carlo. 1. Preos g(x) = x et f la desité de la loi uiforme sur [, ]. La méthode de Mote Carlo fourit alors l estimatio suivate de la véritable valeur 8 3 : > x=*ruif(1,,1) > y=*x^ > mea(y) L écart-type théorique de cette méthode est estimé par : > stdev <- fuctio(x) sqrt(var(x)) > stdev(y) Comparer avec la valeur théorique σ f (g) = 56 45. egardos maiteat la pertiece de l assertio suivate : il y a 95% de chace que err appartiee à l itervalle [ σ ; σ ]. Pour cela, o commece par calculer 1 estimatios de Mote-Carlo et o trace le graphique suivat. Le vecteur err cotiet les 1 valeurs de err 1 > =1 > m=1 > x=ruif(*m,,) > T=matrix(x,m,) > T=*T^ > I=apply(T,1,mea) > err=i-8/3 > plot(err) > ablie(h=*sqrt(56/45)/sqrt(),add=tue) > ablie(h=-*sqrt(56/45)/sqrt(), add=tue) Compter le ombre d erreurs qui sortet de l itervalle proposé. Cela vous semble-t-il cohéret? Quelle est la taille de l échatillo écessaire (i.e. ) pour que l erreur d estimatio de I soit iférieure à 1 avec ue cofiace de 95%?. O applique maiteat la méthode de réductio de variace par échatilloage préféretiel avec f(x) = 1 5 1 [,1] (x) + 4 5 1 [1,] (x). Afi d obteir ue première estimatio de I 1, o peut doc procéder comme suit : > u=ruif(1,,1) > v=c() > v[which(u<=1/5)]=ruif(legth(which(u<=1/5)),,1)
> v[which(u>1/5)]=ruif(legth(which(u>1/5)),1,) # v est Y_1,...,Y_1 > pds=c() > pds[which(v<1)]=1/5 > pds[which(v>=1)]=4/5 > mea(v^/pds) Cette valeur vous semble-t-elle cohérete? L écart-type théorique de cette méthode est estimé par : > stdev <- fuctio(x) sqrt(var(x)) > stdev(v^/pds) Comparer avec la valeur théorique σ f ( ) gf 59 = f. 36 egardos maiteat ce qui se passe lorsqu o calcule 1 valeurs de err 1 avec cette méthode : > =1 > m=1 > u=ruif(*m,,1) > v=c() > v[which(u<=1/5)]=ruif(legth(which(u<=1/5)),,1) > v[which(u>1/5)]=ruif(legth(which(u>1/5)),1,) > x=v > T=matrix(x,m,) > T=T^ > pds=matrix(,m,) > pds[which(t<1)]=1/5 > pds[which(t>=1)]=4/5 > I=apply(T/pds,1,mea) > err=i-8/3 > plot(err) > ablie(h=*sqrt(59/36)/sqrt(),add=tue) > ablie(h=-*sqrt(59/36)/sqrt(),add=tue) Etre la première méthode de Mote-Carlo et celle-ci, laquelle vous semble le plus efficace? Quelle est la taille de l échatillo écessaire (i.e. ) pour que l erreur d estimatio de I soit iférieure à 1 avec ue cofiace de 95%? De combie la taille de l échatillo a-t-elle été réduite par rapport à la méthode de la première questio? 3. epredre la démarche précédete et répodre aux mêmes questios avec la méthode de réductio de variace par échatilloage préféretiel où f(x) = 1 3 [,.5] (x) + 8 1 3 ].5,1] (x) + 18 1 3 ]1,1.5] (x) + 3 1 7 3 ]1.5,] (x). Das ce cas, l écart-type théorique est. 468 3
1. U deuxième exemple epreos maiteat ue deuxième itégrale du TP précédet : I = 1 1 x dx = π 4. 4. Preos g(x) = 1 x et f la desité de la loi uiforme sur [, 1]. La méthode de Mote Carlo correspodate a u écart-type théorique de.5. efaire les mêmes estimatios et répodre aux mêms questios que das la questio 1. 5. Afi d ameliorer cette méthode de Mote Carlo, utilisos ue méthode bie particulière pour obteir ue foctio f. Développos 1 x e série etière autour de so maximum () : 1 x = 1 1 x +... A partir de ce développemet, o propose la desité f(x) = 1 βx 1 β 3 epredre les estimatios et questios de la questio. avec β =.5 et β =.74. Les écart-types théoriques des méthodes de Mote Carlo correspodates sot alors respectivemet.11 et.9. Quelle méthode de Mote Carlo vous semble la plus recommadée?. Variables de cotrôle (cotrol variates, correlatio methods) Le pricipe des méthodes avec variables de cotrôle est de détermier ue foctio h telle que σ f (g h) < σ f (g) et h(x)f(x)dx est coue explicitemet. Das ce cas, o écrit : I = (g(x) h(x))f(x)dx + h(x)f(x)dx et l estimatio de I est alors : Î = 1 (g(x i ) h(x i )) + h(x)f(x)dx où X 1,X,,X sot des réalisatios idépedates suivat la loi de desité f. O a alors amélioré la variace de la méthode de Mote Carlo. Illustros cette méthode sur l itégrale I = 1 1 x dx = π. Comme idiqué das la questio 4 4., l écart-type de la méthode de Mote Carlo aturelle est.5. Cosidéros maiteat la foctio h(x) = c(x.5) où c est ue costate réelle. Motrez que I = 1 1 x dx = 1 ( 1 x h(x) ) dx. Calculer, e foctio de c, σ f (g h) lorsque f est la desité de la loi uiforme sur [, 1] et g(x) = 1 x. Motrer qu il existe ue valeur optimal c de c miimisat cette quatité. Proposer ue méthode d estimatio de I e utilisat cette valeur de c et répodre aux mêmes questios que précédemmet pour motrer que la précisio de la méthode de Mote Carlo a aisi été améliorée. 4
3 Variable atithétiques (atithetic variates) Das ce paragraphe, o souhaite estimer O écrit I sous la forme suivate : et o l estime doc par la quatité I = J = 1 1 I = 1 f(x)dx. 1 (f(x) + f(1 x)) dx 1 (f(u i) + f(1 U i )) où U 1,,U sot réalisatios idépedates de la loi uiforme sur [, 1]. Cette méthode doit être comparée à la méthode de Mote Carlo utilisat réalisatios de la loi uiforme sur [, 1] pour laquelle l estimatio fourie est : I = 1 f(u i ). O motre facilemet que Var (I ) = 1 Var (f(u 1)) alors qu u petit calcul amèe Var (J ) = 1 (Var (f(u 1)) + Cov (f(u 1 ),f(1 U 1 ))). E coséquece, Var (J ) Var (I ) si et seulemet si Cov (f(u 1 ),f(1 U 1 )). Le théorème suivat dit que cela est vraie et qu o améliore doc aisi la méthode de Mote Carlo si f est ue foctio mootoe. Théorème 3.1 (Iégalité de corrélatio) Soit X ue variable aléatoire réelle et f et g deux foctios croissates. O a alors Cov (f(x), g(x)). Appliquos cette méthode sur l itégrale I 3 = 1 e x dx. L écart-type d ue méthode de Mote Carlo reposat sur la loi uiforme sur [, 1] est.4. Utiliser la méthode des variables atithétiques pour estimer cette itégrale. L écart-type de la méthode de Mote Carlo correspodate est alors de.39. Ilustrer cela e utilisat les mêmes repreésetatios graphiques et questios que précédemmet. 4 Utilisatio simultaée de différetes méthodes Ces différetes méthodes de réductio de variaces peuvet égalemet être utilisées simultaémet. Par exemple, la méthode des variables atithétiques peut être utilisée simultaémet avec la méthode d échatilloage préféretiel. Das ce cas, O écrit l itégrale I = 1 f(x)dx à estimer sous la forme: I = 1 1 f(x) + f(1 x) f(x) 5 f(x)dx.
Si o cosidère l itégrale I 4 = 1 ex dx, la foctio atithétique est 1 (ex + e 1 x ) qui est symmétrique autour de x = 1. O peut doc choisir f(x) ( ( ) ) = 4 1 + 1 5 x 1. Cette foctio est choisie pour s accorder avec les trois premiers termes du developpemet e série etière autour de x = 1. L écarttype de la méthode de Mote Carlo correspodate est de.1 alors que la techique des variables atithétiques seule fourit u écart type de.39 et que la méthode de Mote Carlo aturelle a u écart-type de.4. 6