La recherche locale INF6953 La recherche locale 1
Sommaire Recherche locale et voisinage. Fonction de voisinage, optimum local Fonction de voisinage et mouvements Fonction de voisinage et mouvements Exemples : FAP, SAT, TSP Algorithme de descente Algorithme de descente avec relances Idées pour faire mieux que la descente INF6953 La recherche locale 2
Recherche locale et voisinage La recherche locale est une famille de métaheuristiques fondée sur la notion de voisinage. La recherche locale comprend les techniques de descente, mais aussi des métaheuristiques plus évoluées telles que le recuit simulé, tabou, etc. Pour résoudre un problème d optimisation (S, f) par la recherche locale avec - Un espace de solution S - Une fonction de coût f : S -> R On doit successivement - Définir une fonction de voisinage - Choisir un mécanisme de visite des configurations, i.e. une métaheuristique (descente, recuit simulé, tabou, etc. INF6953 La recherche locale 3
Fonction de voisinage, optimum local Une fonction de voisinage N : S -> P(S) associe à toute configuration S de S l ensemble N(S) des voisins de S (le voisinage de S). Le voisinage N est le plus souvent symétrique : S appartient à N(S) ssi S appartient à N(S ). On appelle optimum local (relativement au voisinage N) toute configuration S de S telle que f(s) f(s ), pour tout S élément de N(S). INF6953 La recherche locale 4
Fonction de voisinage et mouvements Plutôt que de définir une fonction de voisinage, on définit souvent des mouvements. On commence (généralement) par définir un ensemble de mouvements M. Pour toute configuration S, on définit l ensemble M(S) des mouvements applicables à la configuration S. - La configuration obtenue en appliquant le mouvement m à S être notée S (+) m. Le voisinage d une configuration S correspond à l ensemble des configurations qu on peut atteindre en utilisant un mouvement applicable à S : N(S) = { S (+) m m appartient à M(S) } INF6953 La recherche locale 5
Voisinage : exemple du k-coloriage de graphe Espace de recherche - Une configuration S est une fonction S : V -> {1..k} Fonction d évaluation (à minimiser) - Pour toute configuration S, f(s) représente le nombre d arêtes violées dans S. Voisinage - Un mouvement consiste à changer la couleur d un sommet unique. On représente un couple sommet / couleur. - Le mouvement <x, v> consiste à remplacer la couleur courante S(x) du sommet x par la nouvelle couleur v. INF6953 La recherche locale 6
Voisinage : exemple de Max-SAT Espace de recherche - Une configuration est une fonction S : {x1 xn} -> {VRAI, FAUX} Fonction d évaluation (à maximiser) - f(s) représente le nombre de clauses satisfaites dans S. Voisinage - Un voisinage possible consiste à inverser la valeur d une variable booléenne. Un tel mouvement peut être représenté par le nom de la variable modifiée. - Le mouvement <x> consiste à remplacer la valeur S(x) de la variable x dans la configuration courante S par son inverse. INF6953 La recherche locale 7
Voisinage : exemple du TSP Espace de recherche - Une configuration est un cycle hamiltonien quelconque (tournées). Fonction d évaluation (à minimiser) - Pour toute configuration S, f(s) représente la longueur de la tournée S (somme des longueurs des arêtes qui composent la tournée). Voisinage - Un voisinage possible est le voisinage 2-échange. - Un mouvement de type 2-échange consiste à - remplacer deux arêtes non adjacentes (a, b) et (c, d) - par les deux nouvelles arêtes (a, c) et (b, d). INF6953 La recherche locale 8
Paysage de recherche locale Étant donné l espace de recherche S, la fonction de coût f et la fonction de voisinage N, on peut se représenter le triplet (S, f, N) comme un graphe parfois appelé paysage de recherche locale avec : - S : ensemble de sommets - N : ensemble des arêtes - f(s) indique l altitude du sommet associé à la configuration S Un algorithme de recherche locale simplifié consiste à engendrer une chaîne de recherche locale S0, S1, - On engendre au départ une configuration initiale S0. - A chaque étape, on choisit Si+1 dans le voisinage N(Si) de la configuration courante Si. Le choix du voisin est guidé par la connaissance que l on a de l évaluation (altitude) des différents éléments de N(Si) INF6953 La recherche locale 9
Schéma d algorithme de recherche locale Engendrer une configuration initiale S0 S := S0 Répéter Engendrer un ensemble {S 1, S 2, } de voisin de S Calculer f(s 1, f(s 2)), Choisir S dans l ensemble {S 1, S 2, } S := S Jusqu à <condition fin> Retourner la meilleure configuration trouvée INF6953 La recherche locale 10
Algorithme de descente La métaheuristique de recherche locale la plus simple est l algorithme de descente (ou amélioration itérative). L algorithme de descente consiste, à chaque itération, à choisir un voisin qui améliore strictement la fonction de coût. Remarque - L algorithme de descente s arrête nécessairement quand un optimum local est atteint. Plusieurs manières de choisir le voisin : - Choix aléatoire d un voisin parmi ceux qui améliorent (first improvement). - Choix du meilleur voisin qui améliore (best improvement). INF6953 La recherche locale 11
Schéma d algorithme de descente Engendrer une configuration initiale S0 S := S0 Tant que S n est pas un optimum local, répéter Choisir S de N(s) tel que f(s ) < f(s) S := S Retourner S INF6953 La recherche locale 12
Algorithme de descente avec relances Typiquement, on observe que : - l algorithme de descente se termine rapidement. - La solution trouvée est de qualité médiocre. On peut poursuivre la recherche en acceptant des mouvements à coût égal. A noter que, dans ce cas, il faut définir un autre critère de terminaison. Pour poursuivre la recherche, on peut relancer plusieurs fois l algorithme de descente, en repartant à chaque fois d une nouvelle solution engendrée de manière aléatoire. C est l algorithme de descente avec relances. INF6953 La recherche locale 13
Schéma d algorithme de descente avec relances Répéter Engendrer une configuration initiale S0 S := S0 Tant que S n est pas un optimum local, répéter Choisir S de N(s) tel que f(s ) < f(s) S := S Jusqu à <condition fin> Retourner le meilleur optimum local trouvé INF6953 La recherche locale 14
Algorithme de descente avec relances La technique de relance possède l avantage de permettre d explorer différentes régions de l espace de recherche : bonne propriété d exploration. Inconvénient - Une relance consiste à repartir d une configuration aléatoire totalement nouvelle. On ne tire donc aucun profit des optima locaux déjà trouvés. Autrement dit, toute l expérience acquise pendant la recherche est oubliée. - En particulier, il est généralement plus efficace de ressortir du bassin d attraction de l optimum local atteint et d atteindre un optimum local «voisin». C est ce qui fait que cette technique est généralement assez peu efficace, en comparaison avec des techniques plus évoluées. INF6953 La recherche locale 15
Idées pour faire mieux que la descente On ajoute en permanence de l aléatoire à la technique de descente (randomisation). Autrement dit, on effectue en général un mouvement qui améliore, mais on accepte parfois d effectuer un mouvement qui dégrade la fonction de coût. Ce type de stratégie est adopté par le recuit simulé et l amélioration itérative randomisée. On mémorise les configurations ou régions visitées. On évite ensuite d y retourner. Ce type de stratégie est adopté par Tabou et GLS. On effectue une succession de descentes. Quand un optimum local est atteint, on effectue un saut de taille réduite dans l espace de recherche. Ce type de stratégie est adopté par Iterated Local Search et VNS. INF6953 La recherche locale 16
Idées pour faire mieux que la descente Quand un optimum local est atteint, on utilise un autre voisinage, généralement un voisinage plus grand. Ce type de stratégie est adopté par VNS et Large Neihborhood Search. Algorithme hybride - On effectue une succession de descentes. Un algorithme de plus haut niveau permet de construire des configurations en tenant compte des optima locaux déjà trouvés. Ce type de stratégie est adopté les algorithmes mémétiques et les colonies de fourmis. INF6953 La recherche locale 17