Méthodes de Mote-Carlo et réductio de la variace Itroductio et otatios : Ce TP aborde présete diverses méthodes d'estimatio des itégrales. Ces méthodes ot comme outil pricipal la méthode de Mote-Carlo. O otera das la suite pour f ue foctio réelle, I(f ) so itégrale sur R par rapport à la mesure de Lebesgue sous réserve de covergece. Pour estimer I(f ), o peut estimer E [ f (X)] où X est ue variable aléatoire dot la desité associée est, a l'aide de l'estimateur de la moyee : P ^I ; = 1 f (x i) i=1 (x où (x i) i) i=1::n est u éhatillo de la v.a. X. O rappelle que si est itégrable par rapport à alors cet estimateur coverge presque f R f sûremet vers I(f ). E, o ote V ar (f ) = (x) dx I(f (x) ). L'estimatio de certaies itégrales est cruciale das de ombreux domaies, e particulier e ace ou e assurace. Das ce derier domaie e particulier, o doit modéliser l'occurece d'évèemets rares qui "coûtet cher", ce qui peut iduire ue forte variace sur les calculs d'espérace de primes par exemple. 1 Echatilloage podéré (Importace Samplig) Cette partie est dédiée à la méthode dite de l'importace samplig qui a pour but d'améliorer la covergece de l'estimateur de la moyee e choisissat ue desité réduisat la variace de l'estimateur. Bie sûr, si la foctio à itégrer est de sige costat, le choix optimal pour est f=i(f ), ce qui suppose doc de coaître la valeur cherchée. E eet, ce choix red costate la variable aléatoire f (X) avec X de loi associée et doc la variace est ulle. Exercice 1 : U exemple très simple d'importace samplig, soit f 1 = 1 x>a et X N (0; 1) ue variable aléatoire gaussiee cetrée réduite. 1. Calculer par ue méthode de Mote-Carlo (moyee avec ^I 0; et variace empirique) directe E[f 1 (X)] pour a = 0 et = 1000 trajectoires et pour a = 8, = 1000 et = 10 6 trajectoires.. O se doe la famille de poids la desité associée à ue variable X de loi N (; 1). Pour quel paramètre la réductio de variace sera-t-elle optimale? Calcul par Mote-carlo. R Correctio : O cherche à calculer 1 R x>a exp( x =) p dx. Si o ote g(x) = p 1 1 x>a exp( x =), o calcule e preat u poids, E[ g (X )], o a doc g (x) = f 1 (x) exp( = x). Le poids optimum est obteu par l'aulatio de exp( (a + ) ) = p (1 Ndist(a + )); où Ndist est la foctio de répartitio de la loi ormale. La détermiatio du paramètre optimal fait iterveir la foctio de répartitio, quatité que l'o souhaite justemet calculer e a. Cette égalité motre que si existe > a. E eectuat u développemet limité de la foctio 1
de répartitio lorsque a est grad, o s'aperçoit que doit être proche de a. Expérimetalemet, = a est u bo choix pour la précisio de l'estimateur. O cosidère maiteat la foctio réelle f liéaire par morceaux qui vaut 0 e dehors de [a; +1] et M > 0 e dehors de [ 1; b] avec a < b. 1. Proposer ue méthode de réductio de variace e utilisat l'importace samplig pour calculer E[f (X)] où X N (0; 1) et l'implémeter.. Comparer cette méthode à u calcul exact pour ue valeur de a très grade, par exemple, a = 7. (Idicatio : la foctio f est ue combiaiso liéaire de foctio du type (x K) + = f 3.) Correctio : Cette secode partie de l'exercice est ue applicatio directe de la première. Exercice : O cosidère N = 100 variables P B i de Beroulli i.i.d. de probabilité p = P(B i = 1), et o cosidère L = B i=1 i. O cherche à estimer avec ue erreur relative de 1% la quatité suivate : E Q [f i (L)] où f i est l'ue des foctios déies das l'exercice précédet, et Q est la loi de L. 1. Après avoir fait u calcul exact, faire ue estimatio directe par Mote- Carlo pour des paramètres qui itroduirot ue variace forte, pour f 3 par exemple. Correctio 1 : Ce calcul exact e matlab peut se faire plus gééralemet pour ue série de Beroulli idépedates qui 'ot pas les mêmes probabilités, e faisat explicitemet les 100 covolutios pour le calcul de la loi. (So support est de cardial 101.) O peut le faire avec ue boucle e Matlab, e utilisat toutefois la structure vectorielle.. O cosidère la famille de desités suivate : y = exp(yl)=e Q[exp(yL)] pour y R. O cherche le paramètre y qui miimise la variace, i.e. miimiser l'expressio E[1 L>k ( ) y ]. Trouver u majorat simple de cette derière expressio et e déduire u paramètre qui semble réduire la variace. Correctio : Le majorat demadé est : E Q [exp(yl)] exp( yk). Comme L > K, o a exp(yl) exp(yk), c'est susat pour obteir l'iégalité. Pour obteir u bo paramètre cadidat, o cherche à miimiser le majorat trouvé. Pour cela, otos K L (y) = log(e Q [exp(yl)]). E dérivat le majorat par rapport à y, o obtiet K = K 0 (y). Il existe u uique y R qui vérie cette égalité. Explicitemet, o a : K(u) = (1 p)k N log(1 + p(exp(u) 1)), et o e déduit y = log( p(n ). Si cette valeur k) est égative, o a aucu itérêt à faire u chagemet de probabilité, car cela sigie que E[L] > K. Das la questio suivate, la méthode proposée est à appliquer lorsque y > 0. 3. E écrivat explicitemet le chagemet de desité, proposer ue méthode de réductio de variace et l'implémeter. Correctio 3 : O traite u cas plus gééral ici, où la somme cosidérée est L = P i=1 m ib i et p i = P(B i = 1). Le poit y peut se calculer par
dichotomie par exemple. Das le cas où K L (y) = P i=1 log(p i exp(m i ) + (1 p i )), o a l'égalité suivate qui motre l'algorithme utilisé : y = Y i=1 (p i =~p i ) Di ( 1 p i ) 1 Di = exp( yl + K L (y)); 1 ~p i e otat ~p i = p i exp(ym i) 1+p i(exp(ym i) 1) et D i sot des variables de Beroulli idépedates de probabilité ~p i. L'algorithme de réductio de variace s'e déduit aturellemet e exécutat la méthode de Mote-Carlo sur les D i. Notos que le calcul exact e peut plus être meé lorsqu'o itroduit des poids sur les variables de Beroulli, par exemple pour des valeurs Q liéairemet idépedates le support de la loi de L est de cardial 100 et le calcul exact est équivalet à u problème combiatoire de complexité expoetielle. Das ces situatios, cette méthode est evisageable, elle dérive de la méthode dite du poit selle. Utilisatio des symétries (systematic samplig) Cette partie doe deux exemples d'utilisatio des symétries après avoir préseté la démarche. Exercice 3 : Soit A u domaie de R k et ue desité sur A, o cosidère u esemble de trasformatios (diéomorphismes) de A, ~ T = T i ; i = 1 : : : qui préservet la forme volume et telles que T i =. O cosidère,. f ~ T = 1 X i=1 ) ]. Doer ue iterpréta- 1. Motrer que V ar( f T ~ ) = V ar( f ) tio géométrique de cette égalité. f T i (x) E [( f f ~ T Correctio 1 : Cette égalité est le théorème de pythagore sur les espéraces coditioelles. Il sut de projeter la variable f =(X) sur les foctios ivariates par le groupe de trasformatios evisagé. Le seul poit qu'il faut étudier est : état doés réels, quelle est la projectio L par rapport à la mesure de comptage de cette famille de réels sur les costates : c'est la moyee des réels. Pour le cas gééral, il sut T de coditioer par rapport à la plus grade tribu ivariate par T : i=1 F T i(x), avec F X la tribu egedrée par la variable aléatoire X.. Proposer ue méthode qui pourrait permettre de réduire le temps de calcul et doer la coditio d'applicatio. O suppose que le temps de calcul est du aux seules évaluatios de la foctio. O costate doc que si f T i = f quelque soit i, cette méthode est plus coûteuse que la méthode directe. Correctio : Pour avoir ue réductio de variace ecace, il faut que le gai e variace soit plus importat que simuler 1 autres séries d'estimatios, e particulier, il est souhaitable d'avoir : V ar (f T =) < 1 1 E [( f f ~T ) ]: 3
Exercice 4 : Le cotrôle atithétique est ue applicatio immédiate des propriétés précédetes. 1. O cherche à calculer I(f ) où f est ue foctio déie sur [0; 1] : implémeter ue méthode de réductio de variace et predre des exemples représetatifs des diéretes situatios, e utilisat le groupe de trasformatios Id et 1 Id qui laisset ivariate la loi uiforme. Correctio 1 : O est das le cas d'ue vraie réductio de variace car : V f T ~ ar( ) = 1 V f ar( ) + 1 Cov [f Id; f 1 Le deuxième terme est eectivemet strictemet égatif quad f est mootoe et strictemet mootoe sur u sous itervalle o trivial. Plus gééralemet, o a Cov(f (U ); g(u )) < 0 où U est ue v.a. uiforme, f et g mootoes, l'ue croissate, l'autre décroissate, avec e la coditio que chacue soit strictemet mootoe sur u sous itervalle de [0; 1]. C'est u exercice facile.. Implémeter cette méthode avec le groupe fid; Idg das le cadre de l'exercice 1, commeter. Id]: 3 Variable de cotrôle Cette techique repose sur l'idée d'itroduire ue variable Y d'espérace ulle telle que : V ar(x + Y ) < V ar(x), o estime alors E[X + Y ]. Exercice 5 : O cosidère le prix d'ue optio sur deux actifs aciers. ' (g 1 ; g ) := ( 1 exp ( 1 g 1 ) + exp ( g ) K) + où 1 ; ; 1 ; ; K > 0 et où g 1 ; g sot deux variables idépedates de loi N (0; 1). Evaluer le prix E (' (g 1 ; g )) e programmat chacue des méthodes suivates. Comparer leur variace empirique sur u échatillo xé. 1. Méthode de Mote-Carlo sas réductio de variace, o pourra predre 1 = = 5, K = 10, 1; = 0; 5.. Variables de cotrôle. (a) "Parité CallPut" : cosidérer la variable de cotrôle ( 1 exp ( 1 g 1 ) + exp ( g ) K) + (K 1 exp ( 1 g 1 ) exp ( g )) + (O rappelle la trasformée de Laplace d'ue variable gaussiee N (0; t) est z 7! exp( tz )). (b) Développemet à l'ordre 1 : cosidérer la variable de cotrôle ( 1 + ) exp 1 1 1 + g 1 + 1 + g K + 4
Référeces [1] Michael Evas ad Tim Sartz : "Approximatig Itegrals via Mote Carlo ad Determiistic Methods", Oxford Statistical Sciece Series. [] Pierre Cohort : "TP Mote-Carlo pour la ace" 5