Optimisation Par Colonies de Fourmis

Transcription

1 Optimisation Par Colonies de Fourmis Présenté Par Valentin Cristinel Preda Djenet Tali-Maamar V.C.Preda & Dj.Tali-Maamar 1 Plan Introduction et historique Préambule de la méthode L algorithme de colonies des fourmis Domaines d application Ressources disponibles Conclusion V.C.Preda & Dj.Tali-Maamar 2

2 Introduction(1) L'optimisation de colonie de fourmi (ACO) étudie les systèmes artificiels qui prennent l'inspiration du comportement de vraies colonies de fourmi. Employée pour résoudre des problèmes discrets d'optimisation. V.C.Preda & Dj.Tali-Maamar 3 Introduction(2) Forment une classe des métaheuristiques récemment proposée pour des problèmes d optimisation difficile. (probèmes NP-difficiles et problèmes dynamiques). V.C.Preda & Dj.Tali-Maamar 4

3 Historique (1) Les algorithmes de colonies de fourmis sont nés à la suite d une constatation: En général sur le comportement des insectes sociaux. En particulier les colonies de fourmis. V.C.Preda & Dj.Tali-Maamar 5 Historique (2) 1983 Deneubourg Jean Louis Biologiste, étudie le comportement des fourmis. V.C.Preda & Dj.Tali-Maamar 6

4 Historique (3) Capable de trouver le chemin le plus court du nid à une source de nourriture. Capable de s adapter aux changement de l environnement. Moyen de communication: Phéromone V.C.Preda & Dj.Tali-Maamar 7 Historique(4) 1992 Dorigo Marco Élabore une méta heuristique d optimisation par colonies de fourmis. Le premier algorithme de ce type a été conçu pour le problème du voyageur de commerce. V.C.Preda & Dj.Tali-Maamar 8

5 Préambule Fourmis Agents de recherche qui miment les comportement des fourmis réels. Problème posé par les éthologues : Comment des insectes qui ne voient pas trouvent le PCC entre leur nid et la nourriture??? V.C.Preda & Dj.Tali-Maamar 9 Préambule (suite) Réponse : Utilisation du milieu pour communiquer entre les individus. Le phéromone: Une fourmi qui se déplace, laisse une quantité variable de phéromone sur son chemin, qui est détectée par les prochaines fourmis, et qui détermine avec une grande probabilité leur chemin. Forme de autocatalytic behavior : Plus des fourmis suivent le chemin plus le chemin devient attractif. V.C.Preda & Dj.Tali-Maamar 10

6 Exemple Les fourmis se déplacent entre le nid(e) et la source de la nourriture (A) sur le chemin A-E. V.C.Preda & Dj.Tali-Maamar 11 Exemple Un obstacle qui coupe le chemin. La fourmi qui se déplace de A vers E et se trouve en B, a 2 choix : Le chemin B-C-D Le chemin B-H-D V.C.Preda & Dj.Tali-Maamar 12

7 Exemple Le choix = f (intensité de phéromone) La première fourmi a des probabilités égale de suivre les deux chemins. Celle qui suit le chemin B-C-D arrive en premier en D. V.C.Preda & Dj.Tali-Maamar 13 Exemple Les fourmis qui se retournent de E ont en D deux choix : Le chemin D-C-B Le chemin D-H-B Le chemin D-C-B aura une plus forte intensité de phéromone causé par : La moitie des fourmis qui prennent ce chemin de retour. Le nombre supérieur des fourmis qui ont suivi le chemin B-C-D et qui se retournent. V.C.Preda & Dj.Tali-Maamar 14

8 Le Ant-System Différences comparatives entre les fourmis artificielles et les vraies : Les artificielles ont une certaine mémoire. Elles seront pas complètement aveugles. Le temps de l environnement est considéré discrèt. V.C.Preda & Dj.Tali-Maamar 15 L exemple plus détaillé Si on place a chaque instant t : 30 fourmis en B qui sont venus de A 30 fourmis en D qui sont venus de E la vitesse =1, l intensité de phéromone=1, le phéromone s évapore instamment au milieu de l intervalle (t+1,t+2) V.C.Preda & Dj.Tali-Maamar 16

9 L exemple plus détaillé V.C.Preda & Dj.Tali-Maamar 17 Algorithme Ant-Cycle b i (t) i = 1,..., n nombre des fourmis dans la ville i au moment t n = nombre des villes m= n i= 1 b i t) ( le nombre total des fourmis V.C.Preda & Dj.Tali-Maamar 18

10 Algorithme Ant-Cycle Propriétés des fourmis: Le choix du prochaine ville à visiter = P(distance entre les villes, intensité de phéromone sur le segment qui connecte les villes). Chaque fourmi possède une liste des villes visités ( tabu list ) qui serre à forcer le fourmi à faire des tournées complètes. Apres qu elle a complété une tournée, une intensité de phéromone est laissé sur chaque segment (i,j) qui appartient à la tournée. V.C.Preda & Dj.Tali-Maamar 19 Algorithme Ant-Cycle τ ij (t ) Définitions : Intensité de phéromone sur l arrêt (i,j) au moment t Itération Cycle = déplacement de m fourmis dans (t,t+1) = n itérations Observation : après un cycle chaque fourmi a parcouru une tournée complète. V.C.Preda & Dj.Tali-Maamar 20

11 Algorithme Ant-Cycle Mise à jour de l intensité de phéromone: où l évaporation entre le temps t et t+n est la quantité de phéromone par unité de distance, laissé sur l arrêt (i,j), par la fourmi k pendant l intervalle (t,t+n) V.C.Preda & Dj.Tali-Maamar 21 Algorithme Ant-Cycle Est une constante. Longueur de la tournée pour la fourmi k. V.C.Preda & Dj.Tali-Maamar 22

12 Algorithme Ant-Cycle : doit être <=1 pour limiter l accumulation de phéromone. : est une constante positive (intensité initialle de phéromone) tabu k : vecteur dynamique qui contient la liste des villes visitées par la fourmi k. (s) tabu k : la ville de rang s qui se trouve dans la liste de fourmi k. V.C.Preda & Dj.Tali-Maamar 23 Algorithme Ant-Cycle on définit la probabilité que la fourmi k se déplace de i en j au moment t par : d ij = dis tan ce entre visibilité η = 1/ d ij ij les villes i et j V.C.Preda & Dj.Tali-Maamar 24

13 Algorithme Ant-Cycle α β = paramètre qui contrôle l importance de l intensité de phéromone. = paramètre qui contrôle l importance de la visibilité. Donc le choix dépend de distance et de l intensité du phéromone V.C.Preda & Dj.Tali-Maamar 25 V.C.Preda & Dj.Tali-Maamar 26

14 V.C.Preda & Dj.Tali-Maamar 27 L algorithme Ant Density L algorithme Ant Quantity V.C.Preda & Dj.Tali-Maamar 28

15 Comparaison entre les 3 algorithmes les meilleures résultats ont été obtenues avec ant-cycle. Tableau tiré de : Marco Dorigo, & al, 1996, «The Ant System: Optimization by a colony of Cooperating agents» V.C.Preda & Dj.Tali-Maamar 29 Explications Ant Cycle exploite l information globale, puisque le phéromone est déposé à la fin de la tournée, La fourmi qui a fait la tournée la plus courte, laisse une quantité de phéromone augmentée sur les arrêts contenus dans la tournée. V.C.Preda & Dj.Tali-Maamar 30

16 Explications (suite) Les autres 2 algorithmes utilisent une information locale, puisque la quantité de phéromone est déposée à chaque itération. V.C.Preda & Dj.Tali-Maamar 31 Explications pour Ant-Cycle ρ = 0.5 Explications Au début, la visibilité est importante pour le choix, ensuite l intensité du phéromone devienne importante il faut une évaporation pour que le système oublie de l expérience et explore d autres chemins V.C.Preda & Dj.Tali-Maamar 32

17 Résultats Application sur une problème de 30 villes(oliver30) V.C.Preda & Dj.Tali-Maamar 33 Résultats la meilleure tournée Tableau tiré de : Marco Dorigo, & al, 1996, «The Ant System: Optimization by a colony of Cooperating agents» V.C.Preda & Dj.Tali-Maamar 34

18 Résultats Tableau tiré de : Marco Dorigo, & al, 1996, «The Ant System: Optimization by a colony of Cooperating agents» V.C.Preda & Dj.Tali-Maamar 35 Le choix des paramètres Tableau tiré de : Marco Dorigo, & al, 1996, «The Ant System: Optimization by a colony of Cooperating agents» V.C.Preda & Dj.Tali-Maamar 36

19 S inspirer d autres heuristiques Stratégie élitiste ( emprunté de la part des algorithmes génétiques) renforcement de l intensité de phéromone, pour les arrêts qui appartient à la meilleure tournée, avec la quantité e*q/l; e = nombre des fourmis élitistes L = la meilleure tournée Meilleures résultats avec e=8 V.C.Preda & Dj.Tali-Maamar 37 Comparaison avec autres heuristiques spécialisés en T.S.P. Le problème de test a été Oliver30 Conclusion: Bonne performance, mais temps d exécution long Tableau tiré de : Marco Dorigo, & al, 1996, «The Ant System: Optimization by a colony of Cooperating agents» V.C.Preda & Dj.Tali-Maamar 38

20 Comparaison avec autres heuristiques générales Problème de test: Oliver30 Temps de test: 1 heure Tableau tiré de : Marco Dorigo, & al, 1996, «The Ant System: Optimization by a colony of Cooperating agents» V.C.Preda & Dj.Tali-Maamar 39 Domaines d application Applications au problème symétrique et asymétrique de voyageur de commerce. Applications au problème d ordonnancement séquentiel. Applications au problèmes d affectation quadratique. Applications au problèmes de tournées des véhicules. Applications aux problèmes d'établissement d horaires. V.C.Preda & Dj.Tali-Maamar 40

21 Domaines d application (suite) Applications au problèmes de coloration de graphe. Applications aux problèmes de partitionnement. Applications aux réseaux de télécommunications. Implémentations parallèles. D'autres applications. V.C.Preda & Dj.Tali-Maamar 41 Dorigo M. & Thomas St utzle, (2000). The Ant Colony Optimization Metaheuristic: MTH6414 Algorithms, - Colonies Applications, de fourmis and Advances V.C.Preda & Dj.Tali-Maamar 42

22 Optimisation dynamique Dorigo M. & Thomas St utzle, (2000). The Ant Colony Optimization Metaheuristic: Algorithms, Applications, and Advances V.C.Preda & Dj.Tali-Maamar 43 Dorigo M. & Thomas St utzle, (2000). The Ant Colony Optimization Metaheuristic: Algorithms, Applications, and Advances V.C.Preda & Dj.Tali-Maamar 44

23 Logiciels (1) Progiciel: ACOTSP.V1.0.tar.gz Auteur: Thomas Stützle Description : Ce progiciel fournit une exécution de divers algorithmes de l'optimisation de colonie de fourmi (ACO) appliqués au problème symétrique de représentant de commerce (TSP). Les algorithmes d'aco mis en application: algorithms applied to the symmetric Traveling Salesman Problem (TSP). The ACO algorithms implemented are Ant System, Elitist Ant System, MAX-MIN Ant System, Rank-based version of Ant System, Best-Worst Ant System, and Ant Colony System. Langage de programmation: Développé en C sous Linux (aucunes garanties que cela fonctionne bien sous Windows; cependant, quelques essais limités ont prouvé que le code fonctionne également très bien sous OS de Windows et d'imper X). V.C.Preda & Dj.Tali-Maamar 45 Logiciels(2) Progiciel: antnet-1.1-src.tar Auteur: Muddassar Farooq Description: Une exécution d'antnet dans Omnet++. Langage de programmation: Développé dans Omnet++. Commentaire: Le modèle met en application l'algorithme de cheminement d'antnet proposé dans: «G. Di Caro and M. Dorigo. AntNet: Distributed Stigmergetic Control for Communications Networks. Journal of Artificial Intelligence Research, 9: , It reqires OMNeT or later.» V.C.Preda & Dj.Tali-Maamar 46

24 Logiciels (3) Progiciel: hc-mmas-ubqp.tar.gz Auteur: Blum Chrétien Description: Un système de la fourmi Maximum-minute (MMAS) mis en application dans le cadre de Hyper Cube pour application à la programmation quadratique binaire sans contrainte (UBQP). But du logiciel: Éducatif (à rendement non élevé); il montre comment mettre en application un MMAS dans le cadre de Hyper Cube. Langage de programmation: Développé dans C++ sous Linux (aucunes garanties que cela fonctionne sous Windows). Commentaire: Une description de l'algorithme mis en application peut être trouvée dans le papier «The Hyper-Cube Framework for Ant Colony Optimzation, which is published in IEEE Transactions on Systems, Man, and Cybernetics -- Part B» V.C.Preda & Dj.Tali-Maamar 47 Conférences Proceedings of the First European Conference on Artificial Life, Paris, France Proceedings of the Parallel Problem Solving from Nature Conference, Proceedings of the Metaheuristics International Conference. Proceedings of ML-95, Twelfth International Conference on Machine Learning, Proceedings of IEEE Intenational Conference on Evolutionary Computation, International Conference on Artificial Neural Networks and Genetic Algorithms, V.C.Preda & Dj.Tali-Maamar 48

25 CONFÉRENCES ANT COLONY OPTIMIZATION ANTS 2004: Fourth International Workshop on Ant Colony Optimization and Swarm Intelligence, Brussels, Belgium, September ANTS From Ant Colonies to Artificial Ants: Third International Workshop on Ant Algorithms, Brussels, Belgium, September Special ACO session at MIC-2001 Porto, Portugal, July 16-20, ACO special track at GECCO-2001 San Francisco, USA, July 7-11, ANTS' From Ant Colonies to Artificial Ants: Second International Workshop on Ant Algorithms, Brussels, Belgium, September 8-9, Ant Colony Methods Session at 1999 Congress on Evolutionary Computation, Washington DC, USA, July 6-9, 1999 ANTS'98 - From Ant Colonies to Artificial Ants: First International Workshop on Ant Colony Optimization, Brussels, Belgium, October 15-16, Ant Colony Optimization Session at INFORMS Tel Aviv 1998 Tel Aviv, Israel, June 28 - July 1, 1998 V.C.Preda & Dj.Tali-Maamar 49 JOURNAL SPECIALISÉ EN ANT COLONY OPTIMIZATION AND RELATED Special issue on Ant Colony Optimization to be published in the Future Generation Computer Systems journal, 2000, North Holland (Editors: M. Dorigo, G. Di Caro, and T. Stützle). Dorigo M., V. Maniezzo & A. Colorni (1996). Ant System: Optimization by a colony of cooperating agents. IEEE Transactions on Systems, Man, and Cybernetics-Part B, 26(1):29-41 Dorigo M. & Thomas St utzle, (2000). The Ant Colony Optimization Metaheuristic: Algorithms, Applications, and Advances V.C.Preda & Dj.Tali-Maamar 50

26 LIVRES Bonabeau E., M. Dorigo & T. Theraulaz (1999). From Natural to Artificial Swarm Intelligence. New York: Oxford University Press. Corne D., M. Dorigo & F. Glover, Editors (1999). New Ideas in Optimisation. McGraw-Hill. Marco Dorigo and Thomas Stüzle, Ant Colony Optimization. MIT Press, Cambridge, MA, USA, V.C.Preda & Dj.Tali-Maamar 51 Groupes de recherche CRT, Montréal, Québec IDSIA, Lugano, Suisse INTELLEKTIK, Darmstadt, Allemagne IRIDIA, Bruxelles, Belgique. V.C.Preda & Dj.Tali-Maamar 52

27 Références sur le Web V.C.Preda & Dj.Tali-Maamar 53 Conclusion L algorithme des colonies des fourmis est une heuristique, avec caractère général utilisée pour résoudre différentes problèmes d analyse combinatoire Versatile s applique a plusieurs types de problèmes Robuste des changements mineures sont nécessaires pour l adapter aux autres problèmes( Ex: J.S.P ou Q.A.P.) V.C.Preda & Dj.Tali-Maamar 54

28 Conclusion(suite) L approche de l algorithme est basée sur l utilisation d une population, qui exploite un mécanisme de feed-back. Principal inconvénient : coût relativement élevé de la génération des solutions. V.C.Preda & Dj.Tali-Maamar 55 Conclusion (suite) Bien décrite et formalisée. L ensemble des propriétés la décrivant est connu (construction probabiliste d une solution, heuristique sur l instance du problème, ) Elle commence à être adaptées à des problèmes continus. V.C.Preda & Dj.Tali-Maamar 56