Métaheuristiques pour l Optimisation Combinatoire Multi-objectifs : Etat de l art

Transcription

1 Métaheurstques pour l Optmsaton Combnatore Mult-objectfs : Etat de l art El-Ghazal TALBI Equpe OPAC (Optmsaton PArallèle Coopératve) Laboratore d Informatque Fondamentale de Llle Unversté de Llle 1, France

2 Optmsaton mult-objectfs Nombreux secteurs de l ndustre concernés (Télécommuncatons, Transport, Envronnement, Mécanque, Aéronautque,...). Racnes dans le 19ème sècle dans les travaux en économe de Edgeworth et Pareto (Scences de l ngéneur, Management). Optmsaton mult-crtères lnéare ou non-lnéare en varables contnues [Steuer 86, Whte 90]. Optmsaton combnatore mult-crtères.

3 Plan de la présentaton Optmsaton mult-objectfs : Défntons, Problèmes Classfcaton des méthodes de résoluton (métaheurstques assocées) Evaluaton des performances et paysages Conclusons Travaux en cours : Algorthmes parallèles et hybrdes,...

4 Optmsaton mult-objectfs { (PMO) mn F( x) = s.c. x C ( ) ( x), ( x),..., ( x) f 1 f 2 f n n 2 Varables de décson x = ( x, x,..., x ) 1 2 k Espace objectfs ou espace des crtères : Y=F(C) f 1 x1 Espace de décson F C f 2 f 3 x2

5 Défntons Domnance y domne z ss [1.. n ] y z et [1.. n ] / y < z Pareto optmalté x * C * x C domne F ( x ) Une soluton tel que F ( x ) est Pareto optmale ss l n exste pas une soluton f 2 y z Soluton Pareto optmale (admssble, effcace, non nféreure, non domnée) Soluton réalsable domnée f 1 PO : ensemble exact des solutons Pareto optmales

6 Défntons f 2 Solutons supportées et non supportées Vecteur déal y* et vecteur de référence z* y * / y * = mn ( ( x) ) f Soluton Pareto supportée Soluton Pareto non supportée Pareto localement optmale f 2 Vosnage N : opérateur de recherche locale N : C P( C) 1, 8, 9 : Pareto optmale 4, 10 : Pareto localement optmale vosnage 2 Enveloppe convexe f f 1

7 Dffcultés des PMO Défnton de l optmalté : relaton d ordre partel, chox fnal dépend du décdeur, envronnement dynamque, Nombre de solutons Pareto croît en foncton de la talle des problèmes et le nombre de crtères utlsés. Pour les PMO non convexes, les solutons Pareto sont localsées dans les frontères et à l ntéreur de l enveloppe convexe de C.

8 Coopératon solveur-décdeur A pror : Préférences Recherche (foncton d utlté) Connassances a pror du problème. A posteror : Recherche Préférences Cardnalté de l ensemble PO rédute. Interactve : Recherche Préférences Aspect ade à la décson n est pas adressé. Connassances Décdeur Préférences Solveur Résultats a pror Connassances acquses

9 Algorthmes de recherche Algorthmes de résoluton Algorthmes exacts Heurstques Branch and bound Programmaton dynamque [Ulungu 95] [Carraway 90] A* [Stewart 91] Heurstques spécfques Recut smulé Métaheurstques Algorthmes génétques Recherche tabou Algorthmes exacts : problèmes b-crtères de pettes talles Métaheurstques : soluton unque : recut smulé, recherche tabou,... populaton : algorthmes génétques, recherche dspersée, colones de fourms,... PO* : Approxmaton de PO

10 PMO académques Ordonnancement [Sayn et al. 99] Chemnement [Warburton 87], Arbre recouvrant [Zhouet Gen99] Voyageur de commerce [Serafn 92], Affectaton [Teghem 95] Routage de véhcules [Park et Koellng 89],... { ( Sac à dos mult-crtères [Teghem et al. 97] ) m Max f ( x ) = c j x j = 1 ( = 1,..., n ), x C C m = x j=1 w x < j j W { 0,1}, j = 1 m x,.., j j xj= w j c j { 1 s l élément j est dans le sac 0 snon : pods de l élément j : utlté de l élément j / crtère

11 Flow-shop mult-objectfs N jobs à ordonnancer sur M machnes. Flow Shop de permutaton. Crtères optmsés: Cmax :Date de fn d ordonnancement. T :Somme des retards. Problème d ordonnancement de type F/perm, d/(cmax,t) [Graham 79]. M 1 M 2 M 3

12 VRP mult-objectfs Depôt V k V k I = (G, D, q, Q) G : graphe orenté (S, E) C1 D : coût des arcs C3 C2 q : demande des clents Q : capacté des véhcules C7 C6 C4 C5 Trouver X = (x jk ) x jk = 1 s le véhcule k va du clent au clent j, 0 snon C : Clent : vehcule k C8 Mnmser Contrantes N M d j, j = 1 k = 1 x jk

13 VRP mult-objectfs Un problème naturellement mult-crtère Modélsaton b-crtère du problème : Premer crtère : Mnmser Deuxème crtère : Equlbrer la longueur des sous-routes Mnmser N M d j, j = 1 k = 1 x jk N max d x j jk mn d k, j 1 k', j 1 = N = j x jk '

14 PMO ndustrels Télécommuncatons : Desgn d antennes [Sandln et al. 97], affectaton de fréquences [Dahl et al. 95],... Aéronautque : ales d avons [Obayash 98], moteurs [Fujta 98],... Envronnement : geston de la qualté de l ar [Loughln 98], dstrbuton de l eau, Transport : tracé autorouter, geston de contaners [Tamak 96], Fnances, Productque, Robotque, Mécanque... Desgn de réseaux de radocommuncatons mobles [Thèse H. Meuner, OPAC/FT R&D] Objectfs et/ou contrantes : Mn (Nombre de stes canddats utlsés) Mn (Interférence) Mn (Overhead) Max (Trafc) Couverture, Handover, Connectvté,...

15 Classfcaton des méthodes Transformaton de PMO en un-objectf Méthode d agrégaton Méthode E-contrante Programmaton par but Approches non Pareto Tratent séparément les dfférents objectfs Approches Pareto Utlsent la noton de domnance

16 Méthodes d agrégaton { mn F( x) ( PMO λ ) s.c. x C n = 1 = λ f ( x) Agrégaton lnéare λ 0, = 1,.., n = 1 λ Complexté = problème combnatore sous-jacent. Ex : Polynomal = flot, chemnement, NP-complet = routage, affectaton,... n = 1 f 2 f 2 Hyperplan Domane réalsable y Frontère Pareto convexe Optmser F f 1 z Frontère Pareto concave f 1

17 Métaheurstques Algorthmes génétques [Hajela et Ln 92] Codage d un ndvdu = Soluton + λ But = Générer une varété de solutons Pareto Recut smulé [Serafn 92] Foncton d acceptaton p xy T = mn 1, ( ) e n = 1 λ ( ( x ) ( y )) f T f Recherche tabou [Dahl et al. 95] Pods = prorté de l objectf Métaheurstques hybrdes [Talb 98] Algorthme glouton + Recut smulé [Tuyttens 98] Algorthme génétque(recherche locale) [Ishbuch et Murata 98] Sélecton avec des pods dfférents Recherche locale sur l ndvdu produt (même pods)

18 Méthode E-contrante ( PMO k ( ε { mn f ( x) k )) s.c. x C f x), j j j ( ε = 1,.. n, j k ε = ( ε,..., ε,..., ε ) 1 k + 1 n Varaton de ε f2 Soluton optmale F(C) = espace objectfs PMO F (C)= espace objectfs du problème transformé ε 2 F (C) F(C) { max f 1 f 2 ε f1 2

19 Métaheurstques Algorthmes génétques ε Indvdu = [Loughln 98] + Déteroraton acceptée ε = ε mn + ( 1)(. ε ) max ε mn ( k 1) Recherche tabou [Hertz et al. 94] Sute de sous-problèmes f * = mn q Ordre de prorté ( ) s. c. f ( x) r Seul (f ) = Optmum (f*) PMOq{ x C k : talle de la populaton f f q ( x), r = 1,.., q 1 r Métaheurstques hybrdes [Quaglarella et al. 97] Algorthme génétque + Recherche locale

20 f2 Programmaton par but ( PMO k ( ε )) { Z mn s.c. n j = x C p f j ( x ) j z j λ 1 1 p : Vecteur déal ou de référence Norme utlsée : Métrque de Tchebycheff p=2 Métrque eucldenne Lp p= Mn-Max métrque F(C) f * 2 λ z f1 f * 1

21 Métaheurstques Algorthmes génétques Foncton mn-max, AG parallèle avec dfférents pods [Coello 98] Règles floues dans l évaluaton de F [Reardon 98] Recut smulé [Serafn 92] Foncton d acceptaton p ( T ) = mn xy 1, Itératon = = ± [ 0.05, ] λ λ Recherche tabou [Gandbleux 96] Melleur vosn = Melleur comproms non tabou Comproms = Norme de Tchebycheff par rapport au vecteur déal Lp Mémorsaton des M melleures solutons e max ( ( ( x ) )) ( y ) λ f z T max ( ( )) λ f z

22 Analyse crtque Espace de recherche <> Problème ntal. Le problème perd ses éventuelles proprétés. Une exécuton produt une seule soluton. Connassances a pror (détermnaton des paramètres). Sensbles au paysage de la frontère Pareto (convexté, dscontnuté, ), et à dfférents paramètres (pods, contrantes, buts, ). Objectfs brutés ou données ncertanes. Coût assocé aux algorthmes (exécuton multple).

23 Tendance à gnorer les solutons comproms Approches évolutonnares non Pareto Tratent séparément les dfférents objectfs non commensurables. Sélecton parallèle (VEGA) [Schaffer 85] Génératon t Génératon t+1 Objectf 1 sous-populaton 1 Populaton Populaton Objectf n Sélecton Reproducton sous-populaton n Sélecton lexcographque (ordre de prorté) Algorthmes génétques [Fourman 85] Stratéges évolutonstes [Kursawe 91] Reproducton mult-sexuelle [Ls et Eben 96] Pluseurs classes. Une classe = Un objectf Reproducton (crossover) sur pluseurs ndvdus Crossover Mutaton

24 Approches Pareto Utlsent la noton de domnance dans la sélecton des solutons. Capables de générer des solutons Pareto dans les portons concaves. f 2 Convergence : Méthodes de rankng (ordre entre ndvdus) Objectfs Dversfcaton : Mantenance de la dversté f 2 Domane réalsable Domane réalsable Frontère Pareto f 1 Soluton trouvée f 1

25 Méthodes de rankng NSGA [Srnvas et Deb 95] Rang Indvdus non domnés = 1. Pop=Pop-Indvdus non domnés NDS [Fonseca et Flemng 95] Rang Indvdu = nombre de solutons le domnant WAR [Bentley 97], Rang Indvdu = moyenne des rangs / objectfs f 2 f 2 A(1) F(2) H(3) A(1) F(3) H(6) B(1) B(1) C(1) G(2) C(1) G(2) D(1) D(1) E(1) E(1) f 1 f 1 NSGA NDS

26 Sélecton Rang [Baker 85] p n S( N = + 1 N ( N Tourno [Horn et al. 97] R ) + n 1) R n 2 p n = Probablté de sélecton S = Presson de sélecton R r = 1+ r + 2 n 1 = 1 r = Nombre d ndvdus de rang f 2 A Ensemble de comparason B f 1 Autres : Roulette basée, etc ;

27 Mantenance de la dversté Optmsaton mult-modale : Localser tous les optma d un problème F(x) Dérve génétque Exécutons tératves ndépendantes Nchng séquentel Exécuton tératve avec pénalsaton des optma déjà trouvés Nchng parallèle (sharng, crowdng) Une seule exécuton x

28 Foncton de partage (sharng) Dégrade le coût d un ndvdu / nombre d ndvdus smlares Compteur de nche m( x) = y Pop. sh ( dst( x, y) ) ' f ( x) = f ( x) m( x) sh ( ( )) dst x, y = ( x, ) dst y 1 σ sh 0 α S dst ( x, y) < Snon σ sh Espace objectf et/ou Espace de décson (x,y), combné? Métrque utlsée (dst)? Talle des nches (σ sh )? 1 sh σ sh dst

29 Classfcaton Méthodes d'optmsaton mult-objectfs A pror Interactve A postéror Préférences Algorthmes de résoluton Algorthmes exacts Heurstques Branch and bound Programmaton dynamque A* Heurstques spécfques Recut smulé Métaheurstques Algorthmes génétques Recherche tabou Approches de résoluton Approche à base de transformaton Approches non-pareto Approches Preto Agrégaton E-contrante Programmaton par but Sélecton parallèle Sélecton lexcographque

30 Technques avancées Modèles parallèles (Algorthmes génétques) Accélératon de la recherche Utlsateur Contrantes, pods,... AG AG AG Recut, Tabou f1 f1 f1 Melleures solutons Améloraton des résultats (coopératon) Modèle nsulare Modèle cellulare Ensemble PO* GA GA GA GA Opérateurs adaptatfs (mutaton, crossover, ) GA GA GA GA

31 Modèle parallèle hybrde 3 nveaux hérarchques : 1. Modèle nsulare coopératf ( qualté) 2. Évaluaton en parallèle des réseaux ( temps) 3. Évaluaton d un réseau en parallèle ( temps) «Populatons» de réseaux... Réseaux Réseau partels (parttonnement géographque)

32 Vers le «GRID» optmzaton Réseaux hétérogènes de statons de traval : 25 Intel/Lnux, 6 Sparc/solars, 1 Mps/Irx CLUMPS - Grappe de SMP (mémore partagée): IBM SP3 (Llle) 64 processeurs : 4 nœuds de 16 processeurs Grappe de grappes de PCs : Icluster (Grenoble) 216 PC : 5 clusters

33 Technques avancées Hybrdaton Algorthme Génétque + Recherche Locale (Tabou, Archve Pareto) [Talb et al. 2002] Eltsme (archve PO*) [Ztzler et Thele 98] p n N A S( N = N + 1 N ( N ) + n 1) 2 A : Nombre d ndvdus sélectonnés à partr de PO* R R n Populaton courante Sélecton PO* Clusterng de l ensemble PO* [Roseman et Gero 85]

34 Evaluaton des performances Ensemble PO connu - Effcacté Absolue [Teghem et al.] Proporton des solutons Pareto dans PO* AE = PO * PO PO - Dstance (PO*, PO) Plus mauvase dstance Dstance moyenne -Unformté WD DIV = MD ( d( PO*, y) ) y PO WD= max, MD d ( PO *, y) = y PO PO = n d( x, y) λ = 1 ( d ( x, y) ), x * d ( PO*, y) = mn PO f ( x) f j ( y)

35 Evaluaton des performances Ensemble PO nconnu - Effcacté relatve (A, B) : Nombre de solutons de A domnées par des solutons de B f2 f2 + A B ND ( A B) = + A fablement melleur que B A + A f2 B A fortement melleur que B f1 f2 ND ( A B) = B A ND( A B) = Φ ND ( A B) = A B ND( A B) Φ f1 B totalement melleur que A + + f1 A et B ncomparables + f1

36 Evaluaton des performances Ensemble PO nconnu Contrbuton : Évaluaton de la qualté des solutons d un ensemble par rapport à un autre Cont( PO 1 / PO 2 ) = C C + W 1 2+ W1 + N1 + N1 + W2 + N 2 PO1 C W1 L1 N1 PO2 C W2 L2 N2 Ex: S PO1=PO2 Alors CONT(PO1/PO2) = 0.5 S PO1>PO2 Alors CONT(PO1/PO2) = 1 C=4 W1=4 -N1=1 W2=0 -N2=1 Cont(O,X)=0,7 Cont(X,O)=0,3

37 Evaluaton des performances Ensemble PO nconnu Entrope : Odéfnt une nche autour de chaque soluton de ND(PO1 U PO2)=PO* E(PO1,PO2) : dversté des solutons de PO1 par rapport aux nches de PO* E( PO 1, PO 2 ) = ln( 1 γ) PO* ( 1 N PO n = 1 1 ln PO n 1 ) PO1 PO2 Nches

38 Paysages Caractérsaton du paysage de la frontère Pareto Convexté de PO (supportées et non supportées) Mult-modalté (Rugosté, Locale Pareto) Décepton (Attracteurs déceptfs) Optmum solé (Espace plat) Dscontnuté Dstrbuton non unforme

39 Paysages : Analyse de la convexté Agrégaton : solutons supportées unquement Convexté : Proporton des solutons Pareto stuées sur l enveloppe convexe f2 Complexté : O(n.log(n)) Solutons non-domnées Solutons non-supportées Enveloppe convexe Solutons domnées f1 Outl d analyse et d évaluaton de performances GUIMOO :

40 GUIMOO (A Graphcal User Interface for Mult-Objectve Optmzaton) Caractérsaton de frontères Pareto Affchage 2/3D (mse à jour contnue) Structure Contnue/Dscontnue Concave/Convexe Répartton des solutons dans l espace des crtères Analyse des performances Métrques Contrbuton Entrope (par nches) Dstance génératonnelle Spacng

41

42 Conclusons Axe de recherche prmordal pour les scentfques et les ngéneurs (problèmes réels, questons ouvertes). Métaheurstques à base de populatons adaptés. EO PARADISEO : Bblothèque de métaheurstques parallèles et dstrbués pour les PMO (Collaboraton OPAC-LIFL/FRACTALES-INRIA). Applcaton académque : VRP, Ordonnancement flowshop (comparason d algorthmes). Applcaton réelle : Desgn de réseaux (modèle et jeu de test, codage, opérateurs, paysage du problème).

43 Travaux actuels Hybrdaton adaptatve AG et recherche locale Algorthmes complémentares (Exploraton / Explotaton) Elaboraton de benchmarks (jeux de test) VRP et flow-shop ( ) Evaluaton de performances et comparason Métrques (Extensblté, ) Approche nteractve (ade à la décson) Apprentssage basé sur les paysages Modélsaton des chox, des préférences Concepton et mplémentaton sur Grlles (réseau large échelle) : Projet ACI GRID DOC-G (Défs en Optmsaton Combnatore sur Grlles, LIFL Llle - PRISM Versalles ID Grenoble)