Conception de métaheuristiques pour l'optimisation dynamique. Application à l'analyse de séquences d'images IRM.

Transcription

1 UNIVERSITE PARIS-EST ÉCOLE DOCTORALE MATHEMATIQUES ET STIC (MSTIC, E.D. 532) THESE DE DOCTORAT EN INFORMATIQUE par Julien LEPAGNOT Sujet de la thèse : Conception de métaheuristiques pour l'optimisation dynamique. Application à l'analyse de séquences d'images IRM. Thèse dirigée par le Professeur Patrick SIARRY Soutenue le 1 er décembre 2011 Jury : Xavier GANDIBLEUX Professeur des Universités Université de Nantes Président Christian PRINS Professeur des Universités Université de Technologie de Troyes Rapporteur Su RUAN Professeur des Universités Université de Rouen Rapporteur Damien TRENTESAUX Professeur des Universités Université de Valenciennes et du Hainaut-Cambrésis Examinateur Amir NAKIB Maître de Conférences Université Paris-Est Créteil Examinateur Hamouche OULHADJ Maître de Conférences Université Paris-Est Créteil Examinateur Patrick SIARRY Professeur des Universités Université Paris-Est Créteil Directeur de thèse

2 Remerciements Je voudrais tout d abord remercier Patrick Siarry, Directeur de l équipe Traitement de l Image et du Signal du Laboratoire Images, Signaux et Systèmes Intelligents, et Directeur de cette thèse, ainsi que Amir Nakib et Hamouche Oulhadj, pour m avoir donné la possibilité de faire cette thèse, et pour leur encadrement parfait. Ils ont toute ma gratitude pour m avoir laissé une grande liberté dans mes recherches, aidé et encouragé dans les moments difficiles et m avoir consacré leur temps malgré leurs occupations. Je tiens à exprimer ma gratitude à Christian Prins et à Su Ruan pour avoir accepté d être les rapporteurs de cette thèse. Je voudrais également remercier Xavier Gandibleux pour avoir accepté de présider mon jury. Je remercie aussi Damien Trentesaux pour avoir accepté d examiner mes travaux. J adresse un grand merci à tous les membres de mon jury, pour avoir ainsi marqué leur intérêt pour mon travail, et pour les remarques qu ils ont apportées durant la relecture et la soutenance de ma thèse. Je souhaite également exprimer ma reconnaissance envers tous les membres du LiSSi, pour m avoir accueilli chaleureusement, et pour toutes les conversations scientifiques ou non que l on a pu avoir. Un grand merci à Patricia Jamin, Sandrine David et Frédéric Dumont, pour m avoir aidé à surmonter toutes sortes de problèmes. Je n oublie pas non plus Michel Noum et Audray Carotine, pour leur accueil et leurs conseils en début de thèse. Je remercie également Brigitte David, de l ancienne Ecole Doctorale SIMME, et Sylvie Cach, de la nouvelle ED MSTIC. Je remercie tous mes collègues doctorants, pour la bonne ambiance et leur amitié. Merci en particulier à Abbas El Dor, Ilhem Boussaïd et Mustapha Dakkak. Un grand merci à vous trois, pour tous les bons moments que nous avons eus au sein et à l extérieur du labo. Il y a aussi toutes les rencontres faites au détour d une conférence ou d une formation. Un grand merci à Nathan Krislock pour son aide, sa grande gentillesse et son amitié. Merci également à Patrick Cansell pour sa patience et ses conseils avisés. J ai eu la chance de faire un monitorat pendant ma thèse à l Université d Evry-Val-d Essonne. J ai beaucoup aimé enseigner à l université, et je souhaite remercier toute l équipe enseignante I

3 Remerciements avec qui j ai eu l honneur de travailler. Merci notamment à Guillaume Hutzler, Jean-Marc Delosme et Franck Delaplace, que j ai tout d abord connus lorsque je suivais leurs cours en tant qu étudiant. Je remercie aussi Sylvain Sené, Mohamed Elati, Jean-Yves Didier et Serenella Cerrito. Merci également à Romain Campigotto, qui a su me recevoir avec courtoisie lorsque je faisais irruption dans son bureau pour lui demander un service. Je suis très reconnaissant envers les membres de l IUT de Créteil/Vitry qui m ont chaleureusement accueilli parmi eux récemment. Un grand merci pour leur bienveillance, et pour tous les bons conseils qu ils m ont prodigués. Ce travail n aurait pas pu être réalisé sans le soutien de ma famille, que je remercie tout particulièrement. Un grand merci à mes parents et à mon frère, toujours présents lorsque j ai besoin d eux. Et enfin, comme il y a sans doute des trous dans mon énumération, je conclurai par ces quelques mots, merci à tous! II

4 Résumé Dans la pratique, beaucoup de problèmes d optimisation sont dynamiques : leur fonction objectif (ou fonction de coût) évolue au cours du temps. L approche principalement adoptée dans la littérature consiste à adapter des algorithmes d optimisation statique à l optimisation dynamique, en compensant leurs défauts intrinsèques. Plutôt que d emprunter cette voie, déjà largement explorée, l objectif principal de cette thèse est d élaborer un algorithme entièrement pensé pour l optimisation dynamique. La première partie de cette thèse est ainsi consacrée à la mise au point d un algorithme, qui doit non seulement se démarquer des algorithmes concurrents par son originalité, mais également être plus performant. Dans ce contexte, il s agit de développer une métaheuristique d optimisation dynamique. Deux algorithmes à base d agents, MADO (MultiAgent algorithm for Dynamic Optimization) et MLSDO (Multiple Local Search algorithm for Dynamic Optimization), sont proposés et validés sur les deux principaux jeux de tests existant dans la littérature en optimisation dynamique : MPB (Moving Peaks Benchmark) et GDBG (Generalized Dynamic Benchmark Generator). Les résultats obtenus sur ces jeux de tests montrent l efficacité des stratégies mises en œuvre par ces algorithmes, en particulier : MLSDO est classé premier sur sept algorithmes évalués sur GDBG ; MLSDO est classé deuxième sur seize algorithmes évalués sur MPB. Ensuite, ces algorithmes sont appliqués à des problèmes pratiques en traitement de séquences d images médicales (segmentation et recalage de séquences ciné-irm cérébrales). A notre connaissance, ce travail est innovant, en ce sens que l approche de l optimisation dynamique n avait jamais été explorée pour ces problèmes. Les gains de performance obtenus montrent l intérêt d utiliser les algorithmes d optimisation dynamique proposés pour ce type d applications. Mots clés : optimisation, optimisation continue, optimisation dynamique, métaheuristiques, multi-agent, recherche locale, segmentation, seuillage, recalage, séquences d images, IRM. III

5 Abstract Many real-world problems are dynamic, i.e. their objective function (or cost function) changes over time. The main approach used in the literature is to adapt static optimization algorithms to dynamic optimization, compensating for their intrinsic defects. Rather than adopting this approach, already widely investigated, the main goal of this thesis is to develop an algorithm completely designed for dynamic optimization. The first part of this thesis is then devoted to the design of an algorithm, that should not only stand out from competing algorithms for its originality, but also perform better. In this context, our goal is to develop a dynamic optimization metaheuristic. Two agent-based algorithms, MADO (MultiAgent algorithm for Dynamic Optimization) and MLSDO (Multiple Local Search algorithm for Dynamic Optimization), are proposed and validated using the two main benchmarks available in dynamic environments : MPB (Moving Peaks Benchmark) and GDBG (Generalized Dynamic Benchmark Generator). The benchmark results obtained show the efficiency of the proposed algorithms, particularly : MLSDO is ranked at the first place among seven algorithms tested using GDBG ; MLSDO is ranked at the second place among sixteen algorithms tested using MPB. Then, these algorithms are applied to real-world problems in medical image sequence processing (segmentation and registration of brain cine-mri sequences). To our knowledge, this work is innovative in that the dynamic optimization approach had never been investigated for these problems. The performance gains obtained show the relevance of using the proposed dynamic optimization algorithms for this kind of applications. Keywords : optimization, continuous optimization, dynamic optimization, metaheuristics, multi-agent, local search, segmentation, thresholding, registration, image sequences, MRI. IV

6 Table des matières Introduction générale 1 1 Etat de l art en optimisation continue dynamique Introduction Les techniques utilisées en optimisation dynamique Les différentes approches en optimisation dynamique Les algorithmes évolutionnaires (EAs) Principe Les EAs en optimisation dynamique Points forts et lacunes L optimisation par essaim particulaire (OEP) Principe L OEP en optimisation dynamique Points forts et lacunes L optimisation par colonies de fourmis (ACO) Principe ACO en optimisation dynamique Points forts et lacunes Les systèmes immunitaires artificiels (AIS) Principe AIS en optimisation dynamique Points forts et lacunes Les approches hybrides Points forts et lacunes Validation des algorithmes Mesures de performance Les principaux jeux de tests Moving Peaks Benchmark (MPB) Generalized Dynamic Benchmark Generator (GDBG) Classement sur MPB et GDBG Conclusion Elaboration de notre algorithme d optimisation dynamique MADO Introduction Description de l algorithme Structure générale Calcul des distances Initialisation de MADO V

7 Table des matières La procédure de recherche des agents Les stratégies d optimisation de MADO La stratégie d exploration utilisée par les agents La stratégie d adaptation du pas d un agent La recherche locale d un agent La stratégie de maintien de la diversité Le repositionnement des agents La détection de changements et le suivi des optima locaux La gestion de l archive des optima locaux Résultats et analyse Paramétrage Analyse de la sensibilité des paramètres Analyse expérimentale des stratégies utilisées Analyse de convergence Comparaison avec d autres algorithmes Adaptation aux problèmes mal conditionnés (CMADO) La technique d adaptation proposée Résultats et discussion Accélération par prédiction (PMADO) La technique de prédiction proposée Résultats et discussion Conclusion Elaboration de notre algorithme d optimisation dynamique MLSDO Introduction Description de l algorithme Génération de l ensemble initial d agents La stratégie d exploration utilisée par les agents La sélection d une meilleure solution voisine L adaptation du pas d un agent Le critère d arrêt de la recherche locale d un agent Le maintien de la diversité La détection de changements et le suivi des optima locaux La gestion de l archive des optima locaux Résultats et analyse Paramétrage Analyse de complexité Analyse de la sensibilité des paramètres Analyse expérimentale des stratégies utilisées Analyse de convergence et comparaison sur MPB Analyse de convergence et comparaison sur GDBG Conclusion Application de CMADO à la segmentation de séquences d images médicales Introduction Segmentation d images par seuillage Formulation du problème Méthodes de seuillage VI

8 Table des matières Seuillage par apprentissage Application à la quantification de mouvements Segmentation de séquences d images ciné-irm Résultats et discussion Conclusion Application de MLSDO au recalage de séquences d images médicales Introduction Problème du recalage Définition du problème Les différentes approches du recalage d images Approches géométriques Approches iconiques Approches mixtes Modèles de déformation Formulation du problème d optimisation Recalage de séquences d images ciné-irm segmentées L étape d appariement L étape de recalage Formulation sous la forme d un problème d optimisation dynamique Résultats et discussion Recalage de séquences d images ciné-irm non segmentées Procédure de recalage Formulation sous la forme d un problème d optimisation dynamique Résultats et discussion Conclusion Conclusion et perspectives 143 Références bibliographiques 155 VII

9 Introduction générale Les problèmes d optimisation occupent actuellement une place grandissante dans la communauté scientifique. Ces problèmes peuvent être combinatoires (discrets) ou à variables continues, avec un seul ou plusieurs objectifs (optimisation mono ou multi-objectif), statiques ou dynamiques, avec ou sans contraintes. Cette liste n est pas exhaustive et un problème peut être, par exemple, à la fois continu et dynamique. Un problème d optimisation est défini par un ensemble de variables, une fonction objectif (ou fonction de coût) et un ensemble de contraintes. L espace de recherche est l ensemble des solutions possibles du problème. Il possède une dimension pour chaque variable. Pour des raisons pratiques et de temps de calcul, l espace de recherche des méthodes de résolution est en général fini. Cette dernière limitation n est pas gênante, puisqu en général le décideur précise exactement le domaine de définition de chaque variable. La fonction objectif définit le but à atteindre, on cherche à minimiser ou à maximiser celle-ci. L ensemble des contraintes est en général un ensemble d égalités et d inégalités que les variables doivent satisfaire. Ces contraintes limitent l espace de recherche. Les méthodes d optimisation recherchent une solution, ou un ensemble de solutions, dans l espace de recherche, qui satisfont l ensemble des contraintes et qui minimisent, ou maximisent, la fonction objectif. Parmi ces méthodes, les métaheuristiques sont des algorithmes génériques d optimisation : leur but est de permettre la résolution d une large gamme de problèmes différents, sans nécessiter de changements profonds dans l algorithme. Elles forment une famille d algorithmes visant à résoudre des problèmes d optimisation difficile, pour lesquels on ne connaît pas de méthode classique plus efficace. Les métaheuristiques s inspirent généralement d analogies avec la physique (recuit simulé), avec la biologie (algorithmes évolutionnaires) ou encore l éthologie (colonies de fourmis, essaims particulaires). Toutes sortes d extensions ont été proposées pour ces algorithmes, notamment en optimisation dynamique. L optimisation dynamique s efforce de minimiser ou maximiser une fonction objectif qui varie en fonction du temps. En pratique, l optimisation dynamique peut être appliquée, par exemple, pour déterminer de bonnes manœuvres dans le domaine aéronautique ; pour le contrôle de robots, de réactions chimiques ; pour le routage dans les réseaux, etc. 1

10 Introduction générale Par rapport à l optimisation statique, des difficultés supplémentaires apparaissent. Par exemple, les informations que l algorithme a pu accumuler sur le problème, au cours de son exécution, peuvent être «périmées» à l issue d un changement dans la fonction objectif. Un moyen simple pour résoudre un problème dynamique consiste à redémarrer un algorithme d optimisation statique, à chaque fois qu un changement se produit dans la fonction objectif (sous réserve, entre autres, de pouvoir déterminer l instant du changement). En pratique, procéder ainsi n est pas toujours possible et peut s avérer inefficace. Des algorithmes dédiés à l optimisation dynamique ont alors été proposés dans la littérature. La plupart des métaheuristiques d optimisation dynamique proposées dans la littérature sont bioinspirées. Elles appartiennent principalement à la classe des algorithmes évolutionnaires et à celle des essaims particulaires. Néanmoins, ce type d algorithmes, conçus initialement pour l optimisation statique, ne peut pas être employé directement en optimisation dynamique. En effet, dans le cadre de l optimisation dynamique, ces algorithmes présentent plusieurs défauts intrinsèques. Il est alors nécessaire d utiliser des techniques particulières, afin de les adapter aux problèmes dynamiques. Parmi les principales techniques proposées dans la littérature, certaines consistent à introduire ou à maintenir la diversité des solutions testées à chaque itération de l algorithme (pour les algorithmes faisant évoluer une population de solutions). Il ne s agit toutefois pas de maintenir l algorithme dans une phase de diversification continuelle (i.e. l algorithme doit rester capable de converger avec précision). Dans le même ordre d idées, des techniques visant à diviser la population de solutions en plusieurs sous-populations, réparties dans l espace de recherche, permettent de suivre plusieurs optima à la fois et d augmenter la probabilité d en trouver de nouveaux. D autres techniques sont basées sur l utilisation d informations sur les états passés de la fonction objectif, dans le but d accélérer la convergence de l algorithme au fil des changements du problème. Cependant, ces techniques ne sont utiles que si les changements ne sont pas drastiques (i.e. la fonction objectif ne doit pas être complètement transformée après un changement). Enfin, des techniques cherchant à prédire les futurs changements dans la fonction objectif ont vu le jour récemment. Elles nécessitent toutefois que les changements suivent un certain schéma, pouvant être appris. Plutôt que de recourir à ces adaptations, notre contribution va s attacher à proposer une nouvelle métaheuristique, entièrement pensée pour l optimisation dynamique. Afin de proposer des stratégies innovantes et bien adaptées aux problèmes d optimisation dynamique, il est toutefois possible de s inspirer des techniques de base. L objectif est d élaborer un algorithme original, dans lequel chaque composante doit constituer un atout important pour la résolution 2

11 Introduction générale de problèmes dynamiques. Ainsi, l algorithme proposé doit non seulement se démarquer des algorithmes concurrents par son originalité, mais également être plus performant. En outre, ce travail vient enrichir les connaissances dans le domaine de l optimisation dynamique, afin de contribuer à l amélioration continuelle des algorithmes existants, et à la proposition de nouveaux algorithmes et stratégies. A l issue de ce travail, deux algorithmes ont été mis au point, le second constituant un nouvel algorithme plus performant, basé sur le premier. Le principe de ces algorithmes est d utiliser une population d agents effectuant des recherches locales en permanence, pour explorer l espace de recherche. Ces agents sont coordonnés par un module dédié (le coordinateur), permettant d explorer au mieux l espace de recherche et de garantir la diversification des solutions. Les meilleurs optima locaux trouvés sont stockés en mémoire, afin d accélérer la convergence de l algorithme et de suivre les optima chaque fois qu un changement est détecté dans la fonction objectif. La structure générale de ces algorithmes est illustrée à la figure 1, où les agents de recherche locale sont représentés par des disques noirs numérotés dans l espace de recherche S, et le voisinage du i ème agent est noté N i. Figure 1 Schéma général du fonctionnement des algorithmes d optimisation dynamique élaborés dans cette thèse. Afin d élaborer ces algorithmes, il nous a fallu en premier lieu identifier les principaux jeux de tests en optimisation dynamique, utilisés dans la littérature. Le rôle de ces jeux de tests est de permettre l analyse et la comparaison des algorithmes à mettre au point. Les performances des algorithmes proposés dans cette thèse sont donc tout d abord évaluées sur ces jeux de tests, puis sur des problèmes réels de segmentation et de recalage de séquences d images ciné- IRM cérébrales. Ces derniers sont abordés comme des problèmes d optimisation dynamique, ce qui constitue une approche originale dans ce domaine. Dans le cadre de ces applications, notre contribution essentielle est d accélérer significativement la résolution de ces problèmes, via l utilisation de l algorithme proposé. 3

12 Introduction générale Cette thèse, financée par une bourse ministérielle (MENRT), a été préparée au sein de l Université Paris-Est Créteil (UPEC), dans le Laboratoire Images, Signaux et Systèmes Intelligents (LiSSi, E.A. 3956). Elle a été dirigée par le Professeur P. Siarry, Directeur de l équipe Traitement de l Image et du Signal, et co-encadrée par Messieurs A. Nakib et H. Oulhadj, maîtres de conférences au LiSSi et membres de cette équipe. Cette dernière est notamment spécialisée dans les métaheuristiques et dans leurs applications en génie biologique et médical. Les principaux apports de ce travail de thèse sont : l élaboration de nouveaux algorithmes performants, MADO et MLSDO, adaptés aux problèmes continus dynamiques ; leurs applications en imagerie médicale, plus spécifiquement en segmentation et en recalage de séquences d images ciné-irm cérébrales. Le plan de ce manuscrit est le suivant. Dans le premier chapitre, nous présentons un état de l art des méthodes d optimisation dynamique. L accent est mis sur l optimisation dynamique en variables continues. Dans le deuxième chapitre, nous présentons l algorithme d optimisation dynamique MADO (MultiAgent Dynamic Optimization), que nous avons élaboré durant cette thèse. Il s agit d un algorithme à base d agents effectuant des recherches locales de manière coordonnée. Nous commençons par le décrire en détail, puis nous en présentons une analyse expérimentale. Une comparaison de ses performances avec celles des autres algorithmes d optimisation dynamique proposés dans la littérature est également présentée. Ensuite, deux variantes améliorées de MADO, nommées CMADO et PMADO, sont décrites et analysées. Nous terminons en soulignant les défauts de MADO, qui nous ont amenés à mettre au point un autre algorithme, MLSDO. Dans le troisième chapitre, nous présentons un nouvel algorithme d optimisation dynamique, nommé MLSDO (Multiple Local Search algorithm for Dynamic Optimization). Pour élaborer cet algorithme, nous sommes partis de l architecture de base de MADO et l avons fait évoluer, en nous appuyant sur les forces et les faiblesses identifiées dans MADO. Comme précédemment, nous décrivons en détail l algorithme, en présentons une analyse expérimentale, ainsi qu une comparaison de ses performances avec celles des autres algorithmes d optimisation dynamique proposés dans la littérature. Le quatrième chapitre est consacré à l application de CMADO à la segmentation de séquences d images médicales. Les séquences utilisées sont issues d une nouvelle technique d ac- 4

13 Introduction générale quisition d images cérébrales ciné-irm mise en œuvre par le Professeur P. Decq (neurochirurgien) et le Docteur J. Hodel (neuroradiologue) au centre hospitalier Henri Mondor, dans le cadre de l Antenne Analyse et Restauration du Mouvement (ParisTech-ENSAM CNRS 8005). Le problème de la segmentation est abordé dans le contexte d un problème de quantification du mouvement d un ventricule cérébral, dans une séquence d images ciné-irm. Tout d abord, nous décrivons le problème et la méthode proposée pour quantifier ces mouvements. Nous nous focalisons ensuite sur le problème de segmentation propre à cette méthode, basée sur une approche par seuillage d images. Une analyse expérimentale de la méthode, dans laquelle nous montrons l intérêt d utiliser CMADO pour accélérer la segmentation des images, est présentée enfin. Le cinquième chapitre porte sur l application de MLSDO au recalage de séquences d images médicales. Dans un premier temps, nous présentons une procédure de recalage utilisant MLSDO dans le contexte de la méthode de quantification de mouvements décrite au chapitre quatre. Dans un deuxième temps, nous proposons une variante de cette procédure, permettant d en améliorer la précision. Pour chacune de ces deux procédures, une analyse expérimentale est présentée. Les gains de performance obtenus, par rapport aux algorithmes d optimisation statique les plus compétitifs, montrent l intérêt d utiliser MLSDO sur ce type de problèmes. Enfin, dans la conclusion générale du manuscrit, nous récapitulons nos contributions et proposons des perspectives, sur la base des travaux effectués. 5

14 Chapitre Un Etat de l art en optimisation continue dynamique 1.1 Introduction Beaucoup de problèmes réels d optimisation sont variables dans le temps ou dynamiques. Par exemple, un changement peut être dû à des machines qui tombent en panne, à une qualité variable de matières premières, ou à l apparition de nouvelles tâches devant être planifiées. De ce fait, un intérêt croissant a été porté à ce type de problèmes, et donc aux algorithmes destinés à les résoudre. Un problème d optimisation dynamique est caractérisé par une fonction objectif qui change en fonction du temps. C est le cas, par exemple, de problèmes classiques tels que le problème de tournées de véhicules (VRP) ou le problème d affectation de tâches. On peut également citer le contrôle de réactions chimiques, tributaires, entre autres, des conditions de température et de pression. Le VRP compte parmi les problèmes les plus étudiés. Il consiste à déterminer les tournées d une flotte de véhicules afin de livrer un ensemble de clients, tout en minimisant le coût de livraison des biens [Prins, 2009]. Une variante dynamique de ce problème est illustrée à la figure 1.1(a), où les tournées de différents véhicules, depuis un dépôt central, sont représentées par des cycles dont les sommets correspondent à des clients. La nature dynamique de cette variante vient du fait que des clients peuvent être ajoutés ou supprimés inopinément (problème connu dans la littérature sous l acronyme DVRP). Une variante dynamique du problème d affectation de tâches est également illustrée à la figure 1.1(b). Il s agit de répartir un ensemble de tâches sur différentes machines, de manière à minimiser le temps nécessaire pour toutes les traiter. La nature dynamique de ce problème vient du fait que des tâches peuvent apparaître ou disparaître à tout moment, et que des machines peuvent tomber en panne. Enfin, le contrôle de réactions chimiques consiste à déterminer un ensemble de paramètres (par exemple, un débit d alimentation ou l évolution d une température, comme illustré à la figure 1.1(c)), permettant de maximiser les performances d un réacteur chimique [Srinivasan et al., 2003]. Traditionnellement, ces paramètres étaient calculés préalablement à la réaction, 6

15 Etat de l art en optimisation continue dynamique (a) (b) (c) Figure 1.1 Exemples de problèmes réels d optimisation dynamique connus : (a) le problème de tournées de véhicules, (b) le problème d affectation de tâches, (a) le problème du contrôle de réactions chimiques. sur la base de quantités constantes de réactifs. Cependant, du fait de la nature changeante des processus chimiques, il est nécessaire d ajuster ces paramètres au cours du temps, afin d obtenir leurs valeurs optimales. De ce fait, avec l augmentation de la puissance de calcul et l apparition de nouveaux capteurs, un intérêt croissant a été porté à l optimisation dynamique de réactions chimiques. Une formulation mathématique du problème d optimisation dynamique est donnée en (1.1.1), où f( x, t) désigne la fonction objectif d un problème de minimisation, h j ( x, t) désigne la j ème contrainte d égalité et g k ( x, t) la k ème contrainte d inégalité. Toutes ces fonctions peuvent varier au cours du temps. Le but n est pas alors seulement de trouver l optimum global, mais de le suivre aussi fidèlement que possible dans le temps. min f( x, t) s.c. h j ( x, t) = 0 for j = 1, 2,..., u g k ( x, t) 0 for k = 1, 2,..., v (1.1.1) Le moyen le plus simple pour résoudre un problème dynamique est de redémarrer un algorithme d optimisation statique (c est-à-dire un algorithme conçu pour des problèmes dont la 7

16 Etat de l art en optimisation continue dynamique fonction objectif n évolue pas au cours du temps), à chaque fois qu un changement se produit dans la fonction objectif. Cela nécessite, toutefois, de pouvoir déterminer l instant du changement et d avoir suffisamment de temps entre chaque changement pour trouver une solution acceptable. Une accélération de la convergence peut naturellement être envisagée en utilisant des informations issues des exécutions précédentes de l algorithme. Par exemple, notons o et o les positions de l optimum global, respectivement avant et après un changement dans la fonction objectif. Si nous supposons que o est «proche» de o, il peut alors être avantageux de redémarrer la recherche à partir de o, ou de la restreindre au voisinage de o. Cependant, l utilisation d informations sur les états précédents de la fonction objectif ne peut être bénéfique que si l intensité des changements n est pas trop importante. Si les changements sont drastiques, et la fonction objectif complètement transformée après un changement, alors un simple redémarrage de l algorithme reste la meilleure solution. Néanmoins, pour la plupart des problèmes réels, la fonction objectif ne subit pas de transformations importantes lorsque survient un changement. La question est alors de savoir quelles informations exploiter depuis l historique de la fonction, et comment les utiliser pour accélérer la convergence. On souligne en outre que redémarrer un algorithme d optimisation statique dès qu un changement a lieu dans la fonction objectif n est pas toujours possible et peut s avérer inefficace. Des algorithmes spécialement conçus pour l optimisation dynamique ont alors été proposés dans la littérature. Dans ce chapitre, nous présentons dans le paragraphe 1.2 les principales techniques utilisées par ces algorithmes pour opérer sur des problèmes dynamiques. Ensuite, nous décrivons dans le paragraphe 1.3 les principales familles d algorithmes utilisés en optimisation dynamique. Dans le paragraphe 1.4, nous passons en revue les principales mesures de performance et les principaux jeux de tests proposés dans la littérature. Enfin, nous concluons ce chapitre au paragraphe Les techniques utilisées en optimisation dynamique Le plus souvent, les algorithmes utilisés sont des métaheuristiques classiques d optimisation statique ayant été adaptées au cas dynamique, au moyen de différentes techniques. En effet, les algorithmes d optimisation statique ne peuvent pas en général être utilisés tels quels sur des problèmes dynamiques, principalement pour deux raisons : 1. Après un changement dans la fonction objectif, les informations que l algorithme a pu accumuler sur celle-ci peuvent être «périmées». C est le cas notamment des valeurs de la fonction objectif des différentes solutions archivées en mémoire. Il peut alors être 8

17 Etat de l art en optimisation continue dynamique nécessaire de mettre en place des traitements spécifiques, afin que le processus d optimisation n en soit pas perturbé. Il est possible, par exemple, de réévaluer tout ou partie des solutions mémorisées par l algorithme. 2. Après un changement dans la fonction objectif, il est probable que l optimum global ait changé de position dans l espace de recherche. Il est alors nécessaire de converger rapidement vers sa nouvelle position, afin de pouvoir le suivre au fil des changements de la fonction. Si la nouvelle position de l optimum est très éloignée de la précédente, l algorithme doit assurer une diversification suffisante pour pouvoir la trouver. Or, lorsqu un algorithme d optimisation statique converge vers un optimum, il peut lui être difficile de s en écarter rapidement, afin d explorer des zones plus prometteuses de l espace de recherche. Les principales techniques proposées pour permettre le suivi et la détection d optima peuvent être regroupées dans cinq classes [Jin & Branke, 2005] : 1. Générer de la diversité après un changement : lorsqu un changement dans la fonction objectif est détecté, des traitements sont effectués pour augmenter la diversité des solutions et faciliter ainsi la recherche du nouvel optimum. 2. Maintenir la diversité tout au long de la recherche : la diversité des solutions est préservée au cours du temps, en partant du principe qu une population largement répartie dans l espace de recherche peut s adapter plus efficacement aux changements. 3. Utiliser une mémoire : l algorithme dispose d une mémoire pour sauvegarder des informations sur le passé de la fonction objectif. En pratique, les bonnes solutions trouvées sont stockées, en vue d être réutilisées lorsqu un changement est détecté. Des techniques plus sophistiquées ont également été proposées dans la littérature [Yang & Yao, 2008]. 4. Utiliser plusieurs populations : diviser la population en plusieurs sous-populations, distribuées sur différents optima locaux, permet de suivre plusieurs optima à la fois et d augmenter la probabilité d en trouver de nouveaux. Historiquement, des algorithmes de référence en optimisation dynamique sont basés sur cette approche [Branke et al., 2000; Parrott & Li, 2004]. 5. Prédire les futurs changements : récemment, une attention particulière s est portée sur des techniques visant à prédire les changements. Cette approche repose sur le fait que, pour des problèmes réels, les changements dans la fonction objectif sont susceptibles de suivre un certain schéma, qui peut être appris. 9

18 Etat de l art en optimisation continue dynamique La plupart des algorithmes d optimisation dynamique doivent ainsi détecter les changements qui surviennent dans la fonction objectif. Le moyen le plus simple et le plus répandu pour y parvenir consiste à réévaluer une solution : si la valeur de cette solution a changé, on considère alors qu un changement a eu lieu dans la fonction objectif. Des techniques de détection de changement plus élaborées ont également été proposées [Richter, 2009]. Néanmoins, la détection de changement par réévaluation d une ou plusieurs solutions reste souvent la méthode la plus efficace. 1.3 Les différentes approches en optimisation dynamique La plupart des algorithmes d optimisation dynamique proposés dans la littérature sont des métaheuristiques, généralement bio-inspirées, utilisant une ou plusieurs populations de solutions. La majorité d entre eux appartiennent à la classe des algorithmes évolutionnaires (s inspirant de la théorie de l évolution de Darwin) ou à celle de l optimisation par essaim particulaire. Néanmoins, d autres algorithmes, tels que l optimisation par colonies de fourmis, les systèmes immunitaires artificiels et des approches hybrides, ont également été proposés. Pour une description détaillée de ces classes de métaheuristiques, on peut se référer à [Dréo et al., 2003] Les algorithmes évolutionnaires (EAs) Principe Les EAs, élaborés au cours des années 1950 [Fraser, 1957], forment une famille d algorithmes d optimisation inspirés de l évolution biologique des espèces. Ils s inspirent de la théorie Darwinienne de la sélection naturelle des espèces : les individus qui ont hérité de caractères bien adaptés à leur milieu ont tendance à vivre assez longtemps pour se reproduire, alors que les plus faibles ont tendance à disparaître. Au cours des années 1960 et 1970, avec l avènement des calculateurs, de nombreuses tentatives de modélisation de l évolution ont été entreprises. Plusieurs approches ont ainsi émergé : Les algorithmes génétiques [Holland, 1975], initialement conçus pour résoudre des problèmes d optimisation à variables discrètes, en modélisant l évolution génétique. La programmation génétique [Koza, 1989, 1990], basée sur les algorithmes génétiques, mais où les individus (ou chromosomes) sont des programmes informatiques, représentés en utilisant une structure d arbre. La programmation évolutionnaire [Fogel, 1962; Fogel et al., 1966], historiquement conçue pour des problèmes d apprentissage à partir d automates à états finis. Elle travaille directement sur le phénotype (notamment, le comportement des automates finis), en utilisant 10

19 Etat de l art en optimisation continue dynamique une succession de sélections et de mutations. Les statégies d évolution [Rechenberg, 1965; Beyer, 2001], initialement conçues pour résoudre des problèmes à variables continues. Elles sont axées sur la modélisation des paramètres stratégiques qui contrôlent la variation dans l évolution, autrement dit «l évolution de l évolution». L évolution différentielle [Storn & Price, 1997; Price et al., 2005], initialement conçue pour résoudre des problèmes à variables continues. Sa stratégie consiste à biaiser un opérateur de mutation, appliqué à un individu, en fonction des différences calculées entre d autres individus sélectionnés aléatoirement. Les approches évolutionnaires s appuient sur un modèle commun présenté par l algorithme 1.1. Les individus soumis à l évolution sont des solutions possibles du problème posé. L ensemble de ces individus constitue une population. Cette population évolue durant une succession d itérations, appelées générations. Au cours de chaque génération, une série d opérateurs est appliquée aux individus, pour créer la population de la génération suivante. Chaque opérateur utilise un ou plusieurs individus, appelés parents, pour engendrer de nouveaux individus, appelés enfants. A la fin de chaque génération, une sélection d enfants créés durant la génération remplace un sous-ensemble d individus de la population. modèlecommun 1 Initialisation de la population de µ individus 2 Evaluation des µ individus 3 tant que le critère d arrêt n est pas satisfait faire 4 Sélection de ρ individus en vue de la phase de reproduction 5 Croisement des ρ individus sélectionnés 6 Mutation des λ enfants obtenus 7 Evaluation des λ enfants obtenus 8 Sélection pour le remplacement 9 fin Algorithme 1.1 Algorithme évolutionnaire générique. Un algorithme évolutionnaire dispose de trois opérateurs principaux : 1. un opérateur de sélection, qui favorise la propagation des meilleures solutions dans la population, tout en maintenant une certaine diversité génétique au sein de celle-ci ; 2. un opérateur de croisement, mis en œuvre lors de la phase de création des enfants. Son but est d échanger les gènes des différents parents pour créer les enfants. Un exemple de 11

20 Etat de l art en optimisation continue dynamique Parent 1 Parent Enfant 1 Enfant 2 Figure 1.2 Exemple d opérateur de croisement en représentation binaire Figure 1.3 Exemple d opérateur de mutation en représentation binaire. croisement simple, pour des individus codés en représentation binaire, est présenté à la figure 1.2 ; 3. un opérateur de mutation, qui consiste à tirer aléatoirement une composante de l individu parent et à la remplacer par une valeur aléatoire. L apport d un caractère aléatoire à la création de la descendance permet ainsi de maintenir une certaine diversité dans la population. La figure 1.3 montre un exemple de mutation, pour un individu codé en représentation binaire. Une liste des méthodes existantes pour définir ces opérateurs est disponible dans [Eiben & Smith, 2008] Les EAs en optimisation dynamique De nombreux algorithmes d optimisation dynamique sont basés sur les principes des EAs. En effet, les algorithmes de cette classe peuvent s avérer adaptés à des environnements changeants, du fait qu ils s inspirent de la théorie de l évolution des espèces. Les EAs à plusieurs populations peuvent notamment obtenir de bons résultats pour des problèmes d optimisation dynamique multimodaux. En effet, des résultats intéressants ont été obtenus par l algorithme self-organizing scouts proposé dans [Branke et al., 2000]. Cet algorithme utilise une population 12

21 Etat de l art en optimisation continue dynamique mère pour explorer l espace de recherche, pendant que des populations filles suivent les optima locaux, au fil des changements dans la fonction objectif. Dans [Mendes & Mohais, 2005], un algorithme à évolution différentielle (DE) utilisant plusieurs populations est présenté. Cet algorithme est basé sur des techniques visant à maintenir une bonne diversité entre les individus et entre les populations. Une variante basée sur l évolution de plusieurs populations est présentée dans [Brest et al., 2009]. La stratégie utilisée par cet algorithme est la suivante : chaque individu prend de l âge au fil des générations, et les vieux individus qui stagnent sont réinitialisés. Si un individu qui stagne est le meilleur de sa population, alors cette population est réinitialisée. De plus, si deux populations se chevauchent, alors la plus «mauvaise» d entre elles (en comparant le meilleur individu d une population avec celui de l autre) est réinitialisée. Par ailleurs, les meilleurs individus sont archivés au cours de l exécution de l algorithme, et l archive qui en résulte est utilisée lors de la réinitialisation d individus. [Yu & Suganthan, 2009] présentent un algorithme à programmation évolutionnaire, qui s adapte aux changements dans la fonction objectif, en générant de la diversité après un changement, en maintenant une bonne diversité tout au long de l exécution, et en sauvegardant des individus dans deux archives (l une représentant la mémoire à court terme, et l autre, la mémoire à long terme). Dans [Rossi et al., 2008], l algorithme proposé utilise une technique de prédiction de mouvement basée sur un filtrage de Kalman, afin d accélérer le suivi des optima locaux. Ce type de prédiction peut s avérer efficace pour de nombreux problèmes, mais il augmente la complexité et le nombre de paramètres de l algorithme Points forts et lacunes Selon la théorie de l évolution Darwinienne, la sélection naturelle permet aux espèces de s adapter aux changements dans leur environnement. De ce fait, les EAs se présentent comme de bons candidats pour résoudre des problèmes d optimisation dynamique. En effet, il est également nécessaire, en optimisation dynamique, de s adapter aux changements qui ont lieu dans la fonction objectif, afin de retrouver rapidement l optimum global. Cependant, les EAs sont des métaheuristiques dont l objectif est de trouver l optimum global, en éludant volontairement les optima locaux. Or, il est important de ne pas négliger les optima locaux d un problème d optimisation dynamique, car l un d eux peut évoluer et devenir le nouvel optimum global après un changement. De plus, la capacité des EAs à éviter les optima locaux peut occasionner, en contrepartie, une convergence plus lente. Or, il est plus important pour un algorithme d optimisation dynamique de converger rapidement vers une bonne solution, que de converger plus lentement vers l optimum global. Pour pouvoir trouver et suivre les optima locaux au cours du temps, des EAs utilisant plu- 13

22 Etat de l art en optimisation continue dynamique sieurs populations ont été proposés. Néanmoins, la convergence de ces algorithmes reste à être améliorée, d autant que l utilisation d un grand nombre de populations à la fois peut ralentir davantage leur convergence. De plus, l adaptation des EAs à l optimisation dynamique complexifie significativement les algorithmes. L usage de plusieurs populations accroît notamment à la fois la complexité des algorithmes et le nombre de paramètres que l utilisateur doit régler L optimisation par essaim particulaire (OEP) Principe L OEP a été proposée par Kennedy et Eberhart en 1995 [Kennedy & Eberhart, 1995]. Elle s inspire du comportement social des animaux évoluant en essaim, tels que les nuées d oiseaux et les bancs de poissons. Un individu de l essaim ne dispose que d une connaissance locale de sa situation dans l essaim. Il utilise cette information locale, ainsi que sa propre mémoire, pour décider de son déplacement. Des règles simples, telles que «aller dans une même direction» ou «rester proche de ses voisins», suffisent à maintenir la cohésion de l essaim, et permettent la mise en œuvre de comportements collectifs complexes et adaptatifs. Le principe de l OEP s est éloigné du comportement (trop complexe) des animaux, pour ne conserver qu une modélisation basées sur des agents simples, appelés particules. Un essaim de particules, qui sont des solutions potentielles au problème d optimisation, «survole» l espace de recherche, à la recherche de l optimum global. Le déplacement d une particule est influencé par trois composantes : une composante d inertie : la particule tend à suivre sa direction courante de déplacement ; une composante cognitive : la particule tend à se fier à sa propre expérience et, ainsi, à se diriger vers le meilleur site par lequel elle est déjà passée ; une composante sociale : la particule tend à se fier à l expérience de ses congénères et, ainsi, à se diriger vers le meilleur site déjà atteint collectivement par l essaim. La figure 1.4 illustre la stratégie de déplacement d une particule : Dans un espace de recherche de dimension d, la particule i de l essaim est modélisée par son vecteur position x i = (x i1 x i2... x id ) T et par son vecteur vitesse v i = (v i1 v i2... v id ) T, en désignant par A T la transposée d une matrice A. La qualité de sa position est déterminée par la valeur de la fonction objectif en ce point. Cette particule garde en mémoire la meilleure position par laquelle elle est déjà passée, que l on note p i = (p i1 p i2... p id ) T. La meilleure position atteinte par ses particules voisines est notée g i = (g i1 g i2... g id ) T. Au temps t, le vecteur vitesse est calculé à partir de (1.3.1). 14

23 Etat de l art en optimisation continue dynamique Vers sa meilleure performance Position actuelle Nouvelle position Vers la meilleure performance des particules voisines Vers le point accessible avec sa vitesse courante Figure 1.4 Déplacement d une particule. v ij (t + 1) = w v ij (t) + c 1 r 1 (p ij (t) x ij (t)) + c 2 r 2 (g ij (t) x ij (t)), j {1, 2,..., d} (1.3.1) où w est en général une constante, appelée coefficient d inertie ; c 1 et c 2 sont deux constantes, appelées coefficients d accélération ; r 1 et r 2 sont deux nombres aléatoires tirés uniformément dans [0, 1], à chaque itération et pour chaque dimension. Il est à noter que le terme «vitesse» est ici abusif, car les vecteurs v i ne sont pas homogènes à une vitesse. Cependant, pour respecter l analogie avec le monde animal, les auteurs ont préféré utiliser ce terme. Dans l équation précédente, v ij (t) correspond à la composante d inertie du déplacement. Le paramètre w contrôle l influence de la direction de déplacement sur le déplacement futur. L expression c 1 r 1 (p ij (t) x ij (t)) correspond à la composante cognitive du déplacement. Le paramètre c 1 contrôle le comportement cognitif de la particule. L expression c 2 r 2 (g ij (t) x ij (t)) correspond à la composante sociale du déplacement. Le paramètre c 2 contrôle l aptitude sociale de la particule. La combinaison des paramètres w, c 1 et c 2 permet de régler l équilibre entre les phases de diversification et d intensification du processus de recherche. [Clerc & Kennedy, 2002] ont démontré qu une bonne convergence peut être obtenue en rendant dépendants ces paramètres. L utilisation d un facteur de constriction χ permet de prévenir la divergence de l essaim. L équation (1.3.1) devient alors : v ij (t + 1) = χ (v ij (t) + φ 1 r 1 (p ij (t) x ij (t)) + φ 2 r 2 (g ij (t) x ij (t))), j {1, 2,..., d} (1.3.2) avec : χ = 2 φ 2 + φ 2 4φ, φ = φ 1 + φ 2, φ > 4 (1.3.3) 15