TD7 Décembre I. Refroidissement trop rapide

Transcription

1 I. Refroidissement trop rapide TD7 Décembre Le potentiel V a un minimum local en 1 et son minimum global en 3. Le graphe de transition sur cet espace à 3 états est élémentaire. 2. On part du point X 0 = 1. On a où P k n, X k = 3 = 1 P k n, X k {1, 2} 1 P k n, X k = 1, est la probabilité que la chaîne ne bouge pas. 3. La propriété de Markov donne P k n, X k = 1 = PX 0 = 1, X 1 = 1,..., X n = 1 P k n, X k = 1 = PX 0 = 1PX 1 = 1 X 0 = 1... PX n = 1 X n 1 = 1, avec PX 0 = 1 = 1 par hypothèse. Par ailleurs, partant de X k = 1, l état proposé est nécessairement Y = 2 : si X k+1 = 1, c est que cette proposition a été refusée, donc que la variable uniforme U était supérieure au rapport de Metropolis rx k, Y = QY, X k QX k, Y exp Or, puisque U suit une loi uniforme, 1 V Y V X k = 12 T exp 1Tk < 1. k PX k+1 = 1 X k = 1 = PU rx k, Y = exp 1 T k. Au total, on a donc P k n, X k = 1 = n 1 k= exp 1Tk. 4. De la propriété n 1 k=0 1 x k 1 n 1 k=0 x k, on déduit que d où P k n, X k = P k n, X k = Par continuité monotone croissante, on en déduit que n 1 exp 1Tk, k=0 k=0 n 1 exp 1Tk. n 1 P n, X n = 3 = lim P k n, X 1 k = 3 lim exp 1Tk = 1 n n 2 2 Faisant abstraction des deux premiers termes, si T n c/ log n, alors P n, X n = k=0 n 1/c, n=2 n=0 exp 1. T n

2 quantité qui est strictement inférieure à 1 dès que 0 < c c 0. Autrement dit, si la température décroît trop vite, la chaîne peut rester piégée ad vitam aeternam dans l état initial X 0 = 1 et ne jamais visiter le minimum global. Ceci justifie des schémas de température dont la décroissance est d ordre logarithmique même si, dans les faits, les praticiens optent souvent pour des profils de refroidissement plus rapides. II. Cas d école pour Gibbs On considère la densité fx, y = C exp y2 2 x2 1 + y + y Vu l expression de la densité jointe, donc De même, l écriture montre que fx y = C y fx, y = C x LX Y = y = N exp exp x2 1 + y + y 2, x , 1 + y + y 2. x 2 2 y x 2 x 2 LY X = x = N 21 + x 2, x Un échantillonneur de Gibbs de loi cible f est alors très facile à construire puisqu il suffit de simuler des variables gaussiennes. Pour un balayage aléatoire, si X n = x, y, alors on tire à Pile ou Face pour savoir quelle coordonnée on change : si Pile on change la première, c est-à-dire qu on tire X = x 1 N 0, 1 + y + y 2, et on pose X n+1 = x, y ; si Face on change la seconde, c est-à-dire qu on tire Y = y x 2 N 21 + x 2, x 2, et on pose X n+1 = x, y. Pour un balayage déterministe, partant de X n = x, y : on tire ceci fait, on tire on pose X n+1 = x, y. X = x N 1 0, 1 + y + y 2 ; Y = y x 2 N 21 + x 2, x 2 ; Pour l initialisation, on peut par exemple partir de X 0 = 0, 0. 2

3 III. Simulation d un couple Soit X, Y un couple aléatoire de densité jointe 1. X suit une loi exponentielle de paramètre 1. fx, y = e y 1 0<x<y. 2. Sachant X = x > 0, Y = x + T avec T E1, autrement dit Y suit une loi exponentielle translatée de x. 3. Pour obtenir une réalisation du couple aléatoire X, Y, il suffit donc de simuler X selon une loi exponentielle de paramètre 1, puis Y = X + T, où T suit une loi exponentielle de paramètre 1. L implémentation peut donc se faire de la manière suivante : n=1000 X=rexpn Y=X+rexpn plotx,y,pch=3,col="blue" Y Sachant Y = y > 0, X U [0,y], loi uniforme sur [0, y]. X 5. Pour passer de X k, Y k à X k+1, Y k+1, il suffit donc de simuler X k+1 selon une loi uniforme sur [0, Y k ], puis Y k+1 = X k+1 + T k+1, où T k+1 suit une loi exponentielle de paramètre 1. Ainsi : n=10^3 X=rep0,n Y=rep0,n X[1]=runif1 Y[1]=X[1]+rexp1 fork in 1:n-1{ X[k+1]=runif1,min=0,max=Y[k] Y[k+1]=X[k+1]+rexp1} plotx,y,pch=3,col="blue" 3

4 Y X 6. La première méthode fournit directement un couple X, Y distribué selon la densité jointe fx, y. Pour l échantillonneur de Gibbs, à n fixé, la densité du couple X n, Y n n est pas exactement fx, y : cette propriété n est qu asymptotiquement vraie, lorsque n. On privilégiera donc la première méthode, dite de simulation exacte. IV. Gibbs simultané = Gibbs vérolé 1. Sur E = {0, 0, 0, 1, 1, 0, 1, 1}, la chaîne de Markov associée a pour matrice de transition : 4/9 2/9 2/9 1/9 P = 1/3 1/6 1/3 1/6 1/3 1/3 1/6 1/6. 1/4 1/4 1/4 1/4 Cette chaîne est irréductible et apériodique, elle admet donc une unique loi stationnaire vers laquelle il y a convergence en loi. 2. Puisque πp π, la chaîne X n ne converge pas en loi vers π. 3. La matrice de transition de l échantillonneur de Gibbs par balayage aléatoire s écrit : 2/3 1/6 1/6 0 P a = 1/3 5/12 0 1/4 1/3 0 5/12 1/4. 0 1/4 1/4 1/2 Conformément à ce qui est expliqué dans le cours, on vérifie les équations d équilibré détaillé, à savoir que pour tout couple i, j, on a π i P a i, j = π j P a j, i. Ainsi π est réversible pour P a, et en particulier stationnaire. 4. Pour l échantillonneur de Gibbs par balayage déterministe, on obtient 4/9 2/9 1/6 1/6 P d = 1/3 1/6 1/4 1/4 4/9 2/9 1/6 1/6. 1/3 1/6 1/4 1/4 4

5 On a encore πp d = π, par contre la réversibilité est perdue : par exemple π 1 P d 1, 3 = 1 15 π 3P d 3, 1 = V. Recuit simulé On veut estimer par recuit simulé le minimum sur R de la fonction V x = x sin100x Pour la représentation : V=functionx{x^2*2+sin100*x*sin100*x} x=seq-2,2,by=0.001 plotx,vx,type="l",col="blue" Vx La fonction V est positive carrés, blablabla et ne s annule qu en 0, comme on le voit sur la représentation graphique de V. Celle-ci montre par ailleurs que V a énormément de minima locaux. 2. Le maximum de f T x sur R est donc atteint en un unique point : l origine. 3. Pour les représentations : x=seq-1,1,by=0.001 parmfrow=c1,2 T=10 plotx,exp-vx/t,type="l",main="t=10",col="blue",ylab="" T=0.1 plotx,exp-vx/t,type="l",main="t=0.1",col="blue",ylab="" x 5

6 T=10 T= x x 4. On a de façon générale qx, y = 1 y x 1/2 = qy, x. Si y = x + U, on a donc y x 1/2 et rx, y = f T y { f T x = exp 1T } V y V x. 5. Implémentation du recuit simulé : n=1000 X=rep0,n Vobs=rep0,n X[1]=runif1,min=-10,max=10 Vobs[1]=VX[1] fork in 1:n-1{ T=1/1+logk Xprop=X[k]+runif1,min=-1/2,max=1/2 r=expvx[k]-vxprop/t u=runif1 X[k+1]=Xprop*u<r+X[k]*u>r Vobs[k+1]=VX[k+1]} Vobs[n] ## [1] minvobs ## [1] e-08 6

7 VI. Le voyageur de commerce Un commercial doit passer par N villes et revenir à son point de départ, il se déplace en avion et il y a des vols directs entre toutes les villes. Le but est de trouver le trajet optimal, c est-à-dire la distance minimale à parcourir. 1. Il y a N 1! façons possibles d effectuer le trajet. Il est donc clairement impossible d effectuer une recherche exhaustive si N n est pas petit. 2. Pour 10 villes, voici un exemple de représentation : N=10 M=matrixrunif2*N,nrow=N,ncol=2 trajini=rbindm,m[1,] plottrajini,type='l',xlab='',ylab='' Ce parcours n est pas franchement optimal Construction de la matrice dist des distances entre villes : distx=m[,1]%*%matrix1,nrow=1,ncol=n-matrix1,nrow=n,ncol=1%*%tm[,1]^2 disty=m[,2]%*%matrix1,nrow=1,ncol=n-matrix1,nrow=n,ncol=1%*%tm[,2]^2 dist=sqrtdistx+disty 4. On cherche donc argmin σ SN D σ = argmin σ SN N l=1 dm σl, M σl Partant de σ, il suffit de tirer l et l uniformément entre 1 et N, puis d inverser σl et σl dans le vecteur définissant σ. Ceci définit sans ambiguïté la permutation σ l,l égale à l identité si l = l. Notons que cette transition est symétrique : la probabilité de passer de σ à σ l,l est égale à celle de passer de σ l,l à σ, à savoir 2/N 2. Notons aussi qu il y a bien d autres façons d explorer l espace S N, la littérature foisonne sur ce sujet. 7

8 6. Pour l implémentation de l algorithme, on commence par construire une fonction associant à une permutation σ la distance du parcours correspondant : D=functionperm,dist{ d=dist[perm[n],perm[1]] for i in 1:N-1{d=d+dist[perm[i],perm[i+1]]} returnd} On peut alors passer à l algorithme de Metropolis proprement dit : n=10^4 sigma=matrix0,nrow=n,ncol=n Dist=rep0,n sigma[1,]=1:n Dist[1]=Dsigma[1,],dist u=runifn for k in 1:n-1{ l=ceilingn*runif1 lprime=ceilingn*runif1 sigmaprop=sigma[k,] sigmaprop[lprime]=sigma[k,l] sigmaprop[l]=sigma[k,lprime] r=expdsigma[k,],dist-dsigmaprop,dist sigma[k+1,]=sigma[k,]*u[k+1]>r+sigmaprop*u[k+1]<r Dist[k+1]=Dsigma[k+1,],dist} 7. Ceci fait, on peut déterminer le meilleur trajet obtenu par cette méthode et le représenter : mindist ## [1] sigmaopt=sigma[which.mindist,] Mopt=rbindM[sigmaopt,],M[sigmaopt[1],] plotmopt,type='l',xlab='',ylab='' 8

9 Pour le recuit simulé, par rapport à ce qui précède, il suffit de tenir compte de la température T n dans le ratio de Metropolis, lequel devient donc à l étape n : rσ, σ Dσ D σ = exp. Autrement dit, tout le travail a déjà été fait. T n a Pour un schéma de température en T n = 1/ log n, le programme complet est donné ci-dessous. On note qu il fonctionne bien mieux que le Metropolis précédent i.e. température fixe. Initialisation des paramètres : set.seed1234 N=20 n=10^4 M=matrixrunif2*N,nrow=N,ncol=2 trajini=rbindm,m[1,] plottrajini,type='l',xlab='',ylab='' 9

10 Matrice des distances : distx=m[,1]%*%matrix1,nrow=1,ncol=n-matrix1,nrow=n,ncol=1%*%tm[,1]^2 disty=m[,2]%*%matrix1,nrow=1,ncol=n-matrix1,nrow=n,ncol=1%*%tm[,2]^2 dist=sqrtdistx+disty Fonction distance : D=functionperm,dist{ d=dist[perm[n],perm[1]] for i in 1:N-1{d=d+dist[perm[i],perm[i+1]]} returnd} Schéma de température et déclaration-initialisation des objets : T=1/log1+1:n sigma=matrix0,nrow=n,ncol=n Dist=rep0,n sigma[1,]=1:n Dist[1]=Dsigma[1,],dist u=runifn Exploration de l espace des permutations par recuit simulé : for k in 1:n-1{ l=ceilingn*runif1 lprime=ceilingn*runif1 sigmaprop=sigma[k,] sigmaprop[lprime]=sigma[k,l] sigmaprop[l]=sigma[k,lprime] r=expdsigma[k,],dist-dsigmaprop,dist/t[k] sigma[k+1,]=sigma[k,]*u[k+1]>r+sigmaprop*u[k+1]<r Dist[k+1]=Dsigma[k+1,],dist} 10

11 L optimum et sa représentation : mindist ## [1] sigmaopt=sigma[which.mindist,] Mopt=rbindM[sigmaopt,],M[sigmaopt[1],] plotmopt,type='l',xlab='',ylab='' b Pour T n = n γ, un choix γ > 1/2 semble correspondre à un refroidissement trop rapide, lequel ne fait pas mieux en général que le schéma lent en 1/ log n. La valeur γ = 1/4 donne des résultats comparables à celui-ci. 11