Optimisation Combinatoire (Méthodes approchées) III. Échapper des Optima Locaux! (Les bases)

Dimension: px

Commencer à balayer dès la page:

Download "Optimisation Combinatoire (Méthodes approchées) III. Échapper des Optima Locaux! (Les bases)"

Suzanne Roussy
il y a 6 ans
Total affichages :

1 Optimisation Combinatoire (Méthodes approchées) III. Échapper des Optima Locaux! (Les bases)

2 Choix d'un voisinage Dans une recherche locale de type Hill-Climbing, les optima locaux dépendent du choix de f et du voisinage N Jouer sur f et N! Une première idée : Utiliser un plus grand voisinage Un graphe de voisinage de diamêtre plus petit Moins d'optima locaux Cas idéal Voisinage exacte : tout optimal local est un optimal global Beucoup trop grand pour être cherché efficacment (temps) Des méthodes spécifiques existent : Local Search in large neighborhoods

3 Changer de voisinage Un optimum local pour un voisinage N n'est pas forcément un optimum local pour un voisinage N' Pour échapper à un optimum local respectivement à un voisinage, changer/alterner de voisinage

4 VND : Variable Neighborhood Descent Un ensemble de voisinage N1,, Nk ex. ordonner les voisinages en ordre croissant de leur taille À la terminaison, la solution trouvée est un optimum local respectivement au k voisinages En général, VND donne des meilleurs résultats qu'une descente utilisant un grand voisinage s une solution initiale ; i 1 ; RÉPÉTER s' le meilleur voisin de s dans Ni; SI f(s') < f(s) ALORS s s' ; i 1 ; SINON i i+1 ; FIN SI JUSQU'À i > k N1 N2 Nk

5 Piped VND On peut considèrer plusieurs descentes respectivement à différents voisinages First improvement descent Best improvement descent Au lieu de retourner vers le voisinage N1 quand on améliore la fonction d'évaluation, on continue la descente! Choix des premiers voisinages importants Peut améliorer considérablement la recherche

6 Échapper à l'optimalité de la fonction de fitness Principe général: Pour un voisinage donné, autoriser des 'move' qui mènent vers des solutions de moins bonne qualité Diversification lors de la sélection de la prochaine solution Exemples Randomized iterative improvement Probabilistic iterative improvement Simulated Annealing etc

7 Randomized iterative improvement (RII) Principe général À chaque itération, effectuer un move alétoire avec une certaine probabilité p au lieu de toujours choisir une solution de meileure qualité s une solution initiale ; RÉPÉTER r Random(0,1) : un nombre aléatoire entre 0 et 1 ; SI r < p ALORS s' un voisin de s tiré de façon aléatoire uniforme ; SINON SI Il exists un voisin s' tel que f(s') < f(s) ALORS s' un tel voisin ; SINON s' un voisin tel que f(s') est minimale ; FIN SI FIN SI s s' ; JUSQU'À Condition d'arrêt

8 Randomized Iterative Improvement (RII) Plus besoin de terminer lorsqu'on tombe sur un optimum local Fixer une borne sur le temps CPU Fixer une borne sur le nombre d'itérations/évaluations Fixer une borne sur le temps (ou nombre d'itérations) après la dernière amélioration du best Un choix probabiliste permet d'avoir une séquence arbitrairement longue de 'move' Lorsque exécuté suffisament longtemps, RII trouve une solution (optimale) avec une probabilité arbitraiement elevée On parle de convergence

9 Randomized Iterative Best Improvement pour SAT Une variante de cet algorithme a longtemps été l'état de l'art pour SAT En général, RII est 'battue' par d'autres approches plus évoluées Choisir une instanciation A aléatoire uniforme des variables de F ; Steps 0 ; TANT QUE NON(A satisfait F) ET (steps < maxsteps) FAIRE Avec probabilité p FAIRE Choisir de façon aléatoire uniforme une variable x de F ; SINON Choisir de façon aléatoire uniforme une variable x de F tel que changer la valeur de x dans A diminue le nombre de clauses non vérifiées de F de façon maximale ; FIN SI Changer la valeur de x dans A ; Step step + 1 ; FIN TANTQUE SI (A satisfait F) ALORS retrouner A ;

10 Probabilistic Iterative Improvement (PII) Principe général : Accepter des 'move' vers des solutions moins bonnes, avec une certaine probabilité qui dépend de la déterioration de la fonction d'évaluation Une plus grande déterioration Une probabilité plus petite Une fonction p(f,s) : détermine la distribution de probabilité sur les voisins de s en fonction de la fonction d'évaluation f La nature de la recherche dépend fortement du choix de la distribution de probabilité p(f,s)

11 Exemple : Metropolis PII pour TSP Espace de recherche : les cycles hamiltoniens (CH) dans un graphe donnée : tournées complètes Représentation : permutations des villes Voisinage 2-opt + on inclut s dans N(s) On autorise de rester dans la même position s Initialisation : un CH choisit aléatoirement (une permutation) Move : Choisir aléatoirement une solution s' dans N(s) Accpeter s' (remplacer s par s') avec une probabilité p(t,s,s') où T est un paramêtre (Metropolis Condition) : Terminaison : temps CPU

12 Simulated Annealing (Recuit simulé) Mimer le processus physique de refroidissement de matériaux En chauffant de la matière, puis en la refroidissant très doucement, on peut obtenir des structures cristallines extrêment résistantes Histoire : Metropolis : 1953 «Optimization by Simulated Annealing» KirkPatrick, Science 1983!

13 Simulated Annealing L'analogie : Idée principale Problème d'optimisation Solution (candidate) Variable de décisions Fonction objective Optium global Optimum local Recherche Locale Paramêtre de contrôl Simulated Annealing Système Physique System state Molecular positions System Energy Ground state Metastable state Rapid quenching Temperature Cooling Varier la température (la probabilité d'accepter une solution de moins bonne qualité), dans une PII suivant une fonction de refroidissement (Annealing schedule / Cooling) «In physics, Perfect ground states are acheived by very slow lowering of temperature»

14 Simulated Annealing S une solution initiale ; T une temperature initiale ; RÉPÉTER s' choisir un voisin de s en utilisant un algorithme de proposition (proposal mechanism) ; SI s' vérifie un critère d'acceptation probabiliste dépendant de T ALORS s' s ; FIN SI T modifier T selon une stratgey de refroidissement (Annealing Schedule) 'meta'-itération Proposal mechanism : générer des 'voisins' Acceptance criterion : remplacer la solution courante Annealing Schedule valeur de T en fonction de l'avancement de la recherche

15 Exemple d'instanciation SA Schéma général d'un SA classique s une solution initiale ; T Tmax une température initiale ; RÉPÉTER RÉPÉTER // température fixe, proposal mechanism s' un voisin de s choisit aléatoirement ; Delta = f(s) f(s') ; SI Delta >= 0 ALORS s s' ; // on minimise SINON s accepter s' avec probabilité exp(delta/t) ; // metropolis JUSQU'À Condition d'équilibre T g(t) ; // cooling JUSQU'À Condition d'arrêt Retourner la meilleur solution rencontrée

16 Move Acceptance Metropolis condition exp(delta/t) Rôle de la température T <<< : recherche locale (plutôt à la fin) Faible probabilité d'accepetr un 'mauvais' move T >>> : marche probabiliste (plutôt au début) Rôle de l'évaluation Probabilité plus forte d'accepter un 'mauvais' move À T fixe, plus la différence de qualité des solutions est petite, plus la probabilité d'accepter est grande

17 État d'équilibre Un nombre suffisant d'évaluations à chaque température En général fonction de la taille du voisinage Idée : être en mesure d'avoir un assez bon échantillon du voisinage pour décider d'un move Approche statique (nombre d'itération/évaluation) fixé au début Approche dynamique / adaptative Petit (grand) nombre d'évaluations à température chaude (froide) En fonction des évaluations (fitness) observées

18 Cooling Compromis entre la qualité de la solution et le temps de calcul Plusieurs stratégies Linéaire : T T0 i. Beta ; (i meta iteration) Geométrique : T alpha. T ; (0 < alpha < 1) Exemple typique, Alpha = 0.98, 0.99 Logarithmic : T T0/ log(i) ; Very slow : T T/(1+ beta.t) Adaptative : En focntion de la recherche

19 Initialisation et terminaison Une température suffisament chaude mais pas trop! Typiquement avec une solution initiale gloutonne Condition d'arrêt Température minimale atteinte, e.g., Cooling geométrique Tmin = 0.01 Nombre d'itérations (temps de calcul) sans amélioration : De la meilleur solution trouvée (best solution) De la solution courante (current solution)

20 SA Convergence SA converge (vers la solution optimale) sous certaines conditions (cooling) et nombre d'itérations suffisament longue Pour des problèmes d'optimisation combinatoire, cela a un interêt relativement assez limité En optimisation combinatoire, en utilisant des heuristiques, terminer avec une solution optimale importe assez peu, l'essentiel est de visiter cette solution au cours de la recherche au moins une fois Une des premières méthodes stochastiques Simple, assez bonne performance, résultats théoriques assez importants D'autres méthodes plus évoluées peuvent 'battre' SA

21 Résumé VND Changer systématiquement de voisinage Accepter des moves vers des solutions de moins bonne qualité (Diversification Vs Intensification) Probabilistic Metropolis Simulated Annealing

Documents pareils

Optimisation Combinatoire (Méthodes approchées) II. Recherche Locale simple (Les bases)

Optimisation Combinatoire (Méthodes approchées) II. Recherche Locale simple (Les bases) Heuristique Constructive Itérativement, ajoute de nouvelles composantes à une solution partielle candidate Espace