Algorithmes génétiques et calcul haute performance. Jean-Charles Boisson CReSTIC-SysCom EA 3804

Transcription

1 Algorithmes génétiques et calcul haute performance Jean-Charles Boisson CReSTIC-SysCom EA 3804

2 Plan Algorithmes génétiques (AGs) : Positionnement Coopération avec d autres méthodes AGs et parallélisme : Schéma de parallélisation Architectures utilisées Impact du multi-objectif Aide à la mise en place d AGs : ParadisEO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 2

3 Google (scholar) fight Hill climbing Tabu search Simulated annealing Local search Particle Swarm Optimization Ant Colony Optimization Genetic Algorithm /12/2011 J.-C. Boisson Journée modélisation et calcul 3

4 La (merveilleuse) histoire des algorithmes génétiques

5 Méthodes d optimisation Méthodes d optimisation Méthodes exactes Méthodes approchées Branch and X A*, IDA* Heuristiques Algorithmes d approximation Programmation par contraintes Programmation dynamique X : Bound, Cut ou Price Métaheuristiques Heuristiques dédiées 13/12/2011 J.-C. Boisson Journée modélisation et calcul 5

6 Métaheuristiques Métaheuristiques A solution unique (S-meta) A population de solutions (P-meta) 13/12/2011 J.-C. Boisson Journée modélisation et calcul 6

7 Métaheuristiques Métaheuristiques A solution unique (S-meta) A population de solutions (P-meta) S-meta classiques S-meta évoluées Recuit simulé Recherche taboue Recherche locale itérative Algorithme de descente Recherche à voisinage variable 13/12/2011 J.-C. Boisson Journée modélisation et calcul 7

8 Métaheuristiques Métaheuristiques A solution unique (S-meta) A population de solutions (P-meta) À base d essaim/de colonies Algorithmes évolutionnaires Optimisation par essaim de particules Colonies de fourmi Colonies d abeilles 13/12/2011 J.-C. Boisson Journée modélisation et calcul 8

9 Métaheuristiques Métaheuristiques A solution unique (S-meta) A population de solutions (P-meta) À base d essaim/de colonies Algorithmes évolutionnaires Algorithmes génétiques Stratégies évolutionnaires Programmation évolutionnaire Programmation génétique Algorithmes à estimation de distribution Évolution différentielle 13/12/2011 J.-C. Boisson Journée modélisation et calcul 9

10 Choix de la méthode d optimisation Comment choisir objectivement la méthode à utiliser? Étape 1 : définir la représentation d une solution Mot binaire Ensemble de valeur discrètes/réelles Permutation Spécifique au problème? Taille fixe ou variable? 13/12/2011 J.-C. Boisson Journée modélisation et calcul 10

11 Choix de la méthode d optimisation Comment choisir objectivement la méthode à utiliser? Étape 2 : définir l évaluation d une solution Coût temps/espace d une évaluation standard Coût temps/espace d une «delta» évaluation Connaissant l évaluation d une solution et la modification apportée pour obtenir une nouvelle solution, peut-on déduire efficacement la nouvelle évaluation? 13/12/2011 J.-C. Boisson Journée modélisation et calcul 11

12 Choix de la méthode d optimisation Comment choisir objectivement la méthode à utiliser? Représentation + évaluation paysage Basé sur les notions de : voisinage d une solution distance entre solutions 13/12/2011 J.-C. Boisson Journée modélisation et calcul 12

13 Exemple de paysages (2D) 13/12/2011 J.-C. Boisson Journée modélisation et calcul 13

14 Algorithmes génétiques Métaheuristiques à base de population de solutions (P-Meta). Défini par J.-H. Holland (1962) : J.-H. Holland. Outline for a logical theory of adaptive systems. Journal of the ACM, 3: , Référence (1975) : J.-H. Holland. Adaptation in Natural and Artificial Systems. University of Michigan Press, Ann Arbor, MI, Autres P-Meta > /12/2011 J.-C. Boisson Journée modélisation et calcul 14

15 Historique des méthodes d optimisation E.-G. Talbi Metaheuristics : From Design to Implementation, Wiley, /12/2011 J.-C. Boisson Journée modélisation et calcul 15

16 Algorithmes génétiques Basés sur les mécanismes évolutionnistes de Darwin. Notions de : Sélection Croisement Mutation EVOLUTION Remplacement 13/12/2011 J.-C. Boisson Journée modélisation et calcul 16

17 Algorithmes génétiques Solutions Sélection Arrêt? Croisement Évaluation Mutation Initialisation Remplacement 13/12/2011 J.-C. Boisson Journée modélisation et calcul 17

18 Capacités d un (bon) AG Donner un ensemble de solutions réalisables. Être capable d explorer de très grands espaces de recherche Ne pas être gêné par des optimaux locaux Être robuste 13/12/2011 J.-C. Boisson Journée modélisation et calcul 18

19 Difficultés liées aux AGs Être difficilement paramétrables Peuvent être très long à converger Inversement peuvent converger prématurément Manquent de pouvoir d intensification 13/12/2011 J.-C. Boisson Journée modélisation et calcul 19

20 Améliorer le comportement d un AG Être difficilement paramétrable «tuning» des paramètres sur un ensemble d instances du problème. Long à converger Accélération du processus d évaluation Convergence prématurée Amélioration de la diversité Manque de pouvoir d intensification Coopération avec d autres méthodes 13/12/2011 J.-C. Boisson Journée modélisation et calcul 20

21 Coopération de méthodes Exemple de taxonomie Méthodes coopératives A B A B De bas niveau De haut niveau Mode relai Mode co-évolutionnaire A B Résultats A B Résultats 13/12/2011 J.-C. Boisson Journée modélisation et calcul 21

22 Coopération avec un AG En mode relai / haut niveau : Génération de la population initiale Optimisation de la population finale En mode co-évolutionnaire / bas niveau : Associé une (des) méthode(s) d intensification dans les opérateurs d évolution. Attention au coût associé!!! 13/12/2011 J.-C. Boisson Journée modélisation et calcul 22

23 Coopération relai de haut niveau Spectres MS/MS Spectre MS L R K T _ Q K _ G P N G M V _ K L F G R K T G Q K T G P N L H G M G D V E K Heuristique gloutonne Algorithme génétique Sequence Shape Spectre MS 13/12/2011 Recherche locale itérative Order J.-C. Boisson Journée modélisation et calcul 23 MGDVEKKTGPNLHGLFGRKTGQ

24 «Vers l infini et au-delà» (réflexion concernant le temps d obtention des solutions en séquentiel)

25 Pourquoi paralléliser un AG? Pour une configuration type améliorer le temps de résolution Pour une limite de temps donnée Être capable de gérer de plus grandes quantités de données : Population plus grande Plus grand nombre de générations Opérateur d évolution plus coûteux 13/12/2011 J.-C. Boisson Journée modélisation et calcul 25

26 Sur quelle architecture paralléliser? Sur ordinateur multi-cœur : Partage natif de la mémoire et du système de fichiers. Une tâche (ou plus cf multi-threading) par cœur. Sur plusieurs nœuds de calcul : Dans une même machine cluster : Chaque nœud a sa mémoire propre et son système de fichier Un système de fichier réseau peut être monté Sur des machines différentes grille : Chaque machine a sa mémoire propre et son système de fichier Communication réseau entre les machines 13/12/2011 J.-C. Boisson Journée modélisation et calcul 26

27 Sur quelle architecture paralléliser? Graphic Processing Unit (GPU) : Composant initialement dédiée à la gestion des calculs graphique Très proche du matériel pour une exploitation optimale Pas forcément dédié à toutes les tâches Fortement limitée en mémoire Échanges (très) lent avec le CPU et la mémoire de la machine hôte de la carte 13/12/2011 J.-C. Boisson Journée modélisation et calcul 27

28 Sur quelle architecture paralléliser? Field Programmable Gate Arrays (FPGA) : Programmer directement ses circuits pour le traitement que l on désire faire. Instruction indépendante en parallèle Nécessite une connaissance spécifique de ce type d architecture langage de description matériel Dispose de peu de mémoire embarqué N est pas adaptable à tout type de traitement. 13/12/2011 J.-C. Boisson Journée modélisation et calcul 28

29 Que paralléliser dans un AG? Solutions Sélection Arrêt? Croisement Évaluation Mutation Initialisation Remplacement 13/12/2011 J.-C. Boisson Journée modélisation et calcul 29

30 Les bonnes questions à se poser Ma fonction d évaluation est-elle coûteuse? Mes données prennent-elles de la place en mémoire? Est-ce qu il y a beaucoup de lecture/écriture sur le système de fichier? Quel est l objectif de mon approche? 13/12/2011 J.-C. Boisson Journée modélisation et calcul 30

31 Les bonnes questions à se poser Ma fonction d évaluation est-elle coûteuse? Savoir identifier les parties les plus coûteuse d une approche Paralléliser l évaluation de la population : Distribution des individus sur un ensemble de ressources Paralléliser l évaluation d un seul individu : Découpage en sous-tâche d évaluation Distribution des sous-tâches et calcul Récupération des résultats reconstruction du résultat global 13/12/2011 J.-C. Boisson Journée modélisation et calcul 31

32 Les bonnes questions à se poser Mes données prennent-elles de la place en mémoire? Suivant l architecture la mémoire disponible n est pas la même. Impossible de charger autant de données sur une carte GPU que dans la mémoire d un ordinateur Coût important de transférer les données de la mémoire d une machine vers une autre machine 13/12/2011 J.-C. Boisson Journée modélisation et calcul 32

33 Les bonnes questions à se poser Est-ce qu il y a beaucoup de lecture/écriture sur le système de fichier? Si tous les cœurs d un processeur lisent/écrivent sur le système de fichier en même temps Si différentes nœuds lisent/écrivent sur un système de fichier réseau Si différentes machines écrivent sur leur système de fichier avant de faire une synchronisation Chute des performances 13/12/2011 J.-C. Boisson Journée modélisation et calcul 33

34 Les bonnes questions à se poser Quel est l objectif de mon approche? Trouver la solution d un problème non encore résolu Produire une solution logicielle à finalité de production Mettre en place une méthode plus rapide/efficace que l existant 13/12/2011 J.-C. Boisson Journée modélisation et calcul 34

35 Les bonnes questions à se poser Quel est l objectif de mon approche? Trouver la solution d un problème non encore résolu : Instance très grande à résoudre Peu d exécution mais a priori très longue Gourmande en moyen de calcul Ratio temps de développement/utilisation : 10/90 13/12/2011 J.-C. Boisson Journée modélisation et calcul 35

36 Les bonnes questions à se poser Quel est l objectif de mon approche? Produire une solution logicielle à finalité de production : Respect de contraintes (temps de calcul, taille mémoire, ) Nombreuses exécution plus ou moins longue Adaptée à un niveau de ressources disponibles Ratio temps de développement/utilisation : 50/50 13/12/2011 J.-C. Boisson Journée modélisation et calcul 36

37 Les bonnes questions à se poser Quel est l objectif de mon approche? Mettre en place une méthode plus rapide/efficace que l existant : Exploitation au mieux des ressources disponibles Très nombreuses exécutions Schéma de déploiement adaptable aux ressources Ratio temps de développement/utilisation : 90/10 13/12/2011 J.-C. Boisson Journée modélisation et calcul 37

38 Le cas multi-objectif (ou comment avoir tout ce que l on a toujours voulu d un seul coup)

39 Pourquoi du multi-objectif? Classiquement : évaluer une solution évaluer un critère Problème réels : Ensemble de critères pouvant être : Antagonistes : Maximiser une distance parcourue tout en limitant la consommation de carburant. Minimiser le retard de traitement en augmentant le nombre de commandes. Complémentaires : Améliorer l aérodynamisme et la durée de vol sans moteur Minimiser l énergie total d un système moléculaire ainsi que sa surface accessible au solvant. 13/12/2011 J.-C. Boisson Journée modélisation et calcul 39

40 L avant multi-objectif Évaluation d une solution selon plusieurs critères agrégation de terme pondérés Avantages : Les méthodes d optimisation utilisées ne changent pas Nombre de critères à gérer non limité Inconvénients : Paramétrage complexe des poids Non rigoureusement valable 13/12/2011 J.-C. Boisson Journée modélisation et calcul 40

41 Formulation du multi-objectif Problème multi-objectif (PMO) (PMO) min F( x) f ( x), f ( x),..., f 1 2 n s.c. n 2 x C ( x) f 2 z Notion de dominance y domine z ssi i [1..n], f i (y) f i (z) et i [1..n] / f i (y) < f i (z). Pareto optimalité une solution x* C est Pareto optimale, ssi il n existe pas de solutions x C telle que x domine x*. Solution Pareto optimale 13/12/2011 J.-C. Boisson Journée modélisation et calcul 41 y Solution réalisable dominée f 1

42 Qualité d un algorithme multi-objectif? De par sa définition, le multi-objectif complique un grand nombre de traitement : Comparaison des solutions entre deux approches Qualité de la : Convergence Diversification notion de front 13/12/2011 J.-C. Boisson Journée modélisation et calcul 42

43 Indicateur de performance Mesures particulières pour la convergence et la diversification : Indicateur de convergence : Contribution e-indicateur Cardinalité Distance Indicateurs de diversité, mesure : De l espacement (entre les solutions) Du maximum de dispersion De l entropie Indicateur hybride : hypervolume 13/12/2011 J.-C. Boisson Journée modélisation et calcul 43

44 AGs et multi-objectif Les AGs sont (une) des méthodes dont les modèles multi-objectif sont les mieux codifiés. Modèles connus : NSGA-II K.Deb, A. Pratap, S. Agarwal and T. Meyarivan. A fast and elitist multi-objective genetic algorithm : NSGA-II. IEEE Transaction on Evolutionnary Computation,6(2): , IBEA E. Zitzler and S.Kunzli. Indicator-based selection in multiobjective search. Parallel Sovling from Nature,PPSN VIII, 3242: , SPEA2 E. Zitzler, M. Laumanns, and L. Thiele. SPEA2: Improving the strength Pareto evolutionary algorithm. Technical Report 103, Computer Engineering and Networks Laboratory (TIK), Swiss Federal Institute of Technology (ETH), Zurich, Switzerland, /12/2011 J.-C. Boisson Journée modélisation et calcul 44

45 Algorithmes génétiques multiobjectifs Solutions Nombre de générations Arrêt? Sélection Tournoi binaire Croisement Qualité de chaque objectif Diversité Évaluation Mutation Initialisation Remplacement Élitiste ou générationnel Archive 13/12/2011 J.-C. Boisson Journée modélisation et calcul 45

46 Les AGs pour les nuls (mais connaissant quand même le C++, les templates, la POO, )

47 Aide à la mise en place d AG Exemple (subjectif) de plateforme : ParadisEO Boite «blanche» Extension des bases placées dans Evolving Object (1999) P-Meta Ajouts des S-Meta + parallélisation du tout ( ) travail de Sébastien Cahon Ajout du multi-objectif ( ) Refonte de la partie S-Meta + S-Meta multi-objectif ( ) Parallélisation sur GPU des S-Meta ( ) 13/12/2011 J.-C. Boisson Journée modélisation et calcul 47

48 PARAllel and DIStributed Evolving Objects Evolving Object (EO), développement d algorithmes à base de population de solutions: EA, PSO. Moving Objects (MO), mise en place de recherches locales : HC, SA, TS, ILS, VNS. MO PEO EO MOEO Multi-Objective EO (MOEO), développement d algorithmes évolutionnaires multi-objectifs : NSGA-II, IBEA, ParadisEO (PEO), mise en place de métaheuristiques parallèles. 15/12/2011 J.-C. Boisson Journée modélisation et calcul 48

49 Comment faire un AG sous ParadisEO Pour son problème, définir : Sa représentation de solution (standard ou exotique) L évaluation d une solution Sous ParadisEO-EO : Choisir la P-Meta que l on veut utiliser Comprendre ce que l on doit définir Choisir les boites qui nous intéresse dans les parties génériques. 13/12/2011 J.-C. Boisson Journée modélisation et calcul 49

50 Exemple : le voyageur de commerce Soit un ensemble de N villes, connaissant la distance entre toutes ces villes, le problème du voyageur de commerce consiste à trouver le plus court chemin pour toutes les parcourir Exemple en version symétrique : v 0 3 Longueur: 26 v 1 6 v v 4 v 3 13/12/2011 J.-C. Boisson Journée modélisation et calcul 50

51 Définition d une nouvelle représentation J.-C. Boisson and E.-G. Talbi. Software Framework for Metaheuristic. 22 nd European Conference on Operational Research (EURO XXII), page 45, July 8-11, Prague, Czech Republic, /12/2011 J.-C. Boisson Journée modélisation et calcul 51

52 Algorithmes génétiques Solutions Sélection Arrêt? Croisement Évaluation Mutation Initialisation Remplacement 13/12/2011 J.-C. Boisson Journée modélisation et calcul 52

53 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 53

54 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 54

55 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 55

56 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 56

57 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 57

58 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 58

59 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 59

60 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 60

61 Construction d un AG sous ParadisEO-EO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 61

62 Code source de l AG sous ParadisEO-EO RouteInit route_init; RouteEval full_route_eval; eopop <Route> pop (POP_SIZE, route_init); eogencontinue <Route> continue (NUM_GEN); OrderXover crossover; CitySwap mutation; eostochtournamentselect <Route> select_one; eoselectnumber <Route> select (select_one, POP_SIZE); eosgatransform <Route> transform (cross, CROSS_RATE, mutation, MUT_RATE); eoplusreplacement <Route> replace; eoeasyea <Route> ea (continue, full_route_eval, select, transform, replace); ea (pop); 13/12/2011 J.-C. Boisson Journée modélisation et calcul 62

63 Comment faire un AG sous ParadisEO Pour ajouter de l intensification : Couplage avec des recherches locales ParadisEO-MO Pour paralléliser le tout et/ou faire des exécutions simultanées : Parallélisation de toutes les étapes d évolution Modèle maître/esclave Exécution de plusieurs AGs et échange d informations Modèle insulaire ParadisEO-PEO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 63

64 Détail sur la coopération EO/MO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 64

65 Détail sur la coopération EO/MO 13/12/2011 J.-C. Boisson Journée modélisation et calcul 65

66 Conclusions Les AGs sont : De très bons outils en recherche opérationnelle Bien définis actuellement pour le cas multi-objectif Capables d affronter des problèmes réalistes : taille des instances paysage chaotique Aisément parallélisables Hautement paramétrables 13/12/2011 J.-C. Boisson Journée modélisation et calcul 66

67 Conclusions Les AGs ne sont pas : facile à paramétrer si simple à optimiser : Jeu sur les paramètres Coopération avec d autres méthodes les meilleurs approches pour les problèmes continus forcément nécessaire en premier choix : Recherches locales multi-start 13/12/2011 J.-C. Boisson Journée modélisation et calcul 67

68 Questions? Merci de votre attention 13/12/2011 J.-C. Boisson Journée modélisation et calcul 68