Optimisation Discrète

Transcription

1 Optimisation Discrète Introduction aux problèmes d optimisation discrète et aux approches de résolution Sonia Cafieri ENAC sonia.cafieri@enac.fr S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Outline S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

2 Optimisation min x f (x) s.t. g(x) 0 x F avec f : R n R et g : R n R m. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Optimization Tree - NEOS Optimization Tree From NEOS Introduction to Optimization Taxonomy of Optimization Tree Continuous Optimization Unconstrained Optimization Bound Constrained Optimization Derivative-Free Optimization Global Optimization Linear Programming Network Flow Problems Nondifferentiable Optimization Nonlinear Programming Optimization of Dynamic Systems Quadratic Constrained Quadratic Programming Quadratic Programming Second Order Cone Programming Semidefinite Programming Semiinfinite Programming Discrete and Integer Optimization Combinatorial Optimization Traveling Salesman Problem Integer Programming Mixed Integer Linear Programming Mixed Integer Nonlinear Programming Optimization Under Uncertainty Robust Optimization Stochastic Programming Simulation/Noisy Optimization Stochastic Algorithms Complementarity Constraints and Variational Inequalities Complementarity Constraints Game Theory Linear Complementarity Problems Mathematical Programs with Complementarity Constraints Nonlinear Complementarity Problems Systems of Equations Data Fitting/Robust Estimation Nonlinear Equations Nonlinear Least Squares S. Cafieri (ENAC) Systems of Inequalities Introduction à l optimisation discrète Multiobjective Optimization / 1 Retrieved from "

3 Pourquoi Optimisation Discrete? Les variables dans certains modèles sont limités à prendre que des valeurs entières ou discrètes. Exemples : - on peut attribuer 6 ou 7 personnes à une équipe, par exemple, mais pas 6,3 personnes - on peut fabriquer un transistor de dioxyde de silicium ou d un autre materiel, mais pas faire un mélange. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Pourquoi Optimisation Discrète? Les variables binaires sont un sous-ensemble des variables entières/discrètes qui sont limités à valeurs 0/1. Elles sont généralement associés à décisions YES/NO Exemples : - faire partie d une équipe ou non; - entreprendre un projet ou non S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

4 Formulations de programmation mathematique (PLNE) min x c T x s.t. Ax b x Z n c R n, A R m n, b R m Les contraintes x Z n sont les contraintes d intégralité. min x c T x s.t. Ax b x {0, 1} n S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 PLNE : Ensemble réalisable les contraintes dans un programme en nombres entiers forment un polytope. toutefois, l ensemble admissible est donné par l ensemble des points entiers au sein du polytope, et non par le polytope entier. la région admissible n est pas un ensemble convexe. La solution optimale ne peut être atteinte à un point extrême du polytope, elle se trouve à un point extrême de l enveloppe convexe de tous les points entiers admissibles. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

5 Relaxation continue La relaxation continue R P d un PLNE P est obtenue en supprimant ( relaxing ) les contraintes d intégralité. La région réalisable de R P est plus grand que la région réalisable de P = la valeur optimale de R P est une borne inferieure de la valeur optimale de P: c T x c T x (x solution optimale de P et x solution optimale de R P ) R P lower bounding problem w.r.t. P S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème du Sac à Dos (Knapsack Problem) Étant donné plusieurs objets possédant chacun un volume (poids) et une valeur et étant donné un volume (poids) maximum pour le sac, quels objets faut-il mettre dans le sac de manière à maximiser la valeur totale sans dépasser le volume (poids) maximal autorisé pour le sac? S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

6 Problème du Sac à Dos (Knapsack Problem) Formulation du problème : données : un sac avec un volume V, et n objects chacun avec une utilité u i et un volume v i associée : u i, v i i = 1,..., n. variables : pour chaque objet i : x i = 1 si l objet i est mis dans le sac, et x i = 0 si l objet n est pas mis dans le sac. contraintes : la somme des volumes de tous les objets dans le sac doit être inférieure ou égale au volume maximal du sac à dos : n i=1 x iv i V fonction objectif : notre objectif est maximiser la valeur totale des objets dans le sac : n i=1 x iu i S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème du Sac à Dos (Knapsack Problem) max s.t. n x i u i i=1 n x i v i V i=1 x i {0, 1} i Problème du Sac à Dos généralisé : max s.t. n x i u i i=1 n x i v i V i=1 n x i p i P i=1 x i {0, 1} i avec P= poids du sac et p i = poids de l objet i S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

7 Problème de flot maximum (maximum flow) Trouver un flot réalisable sur un graphe, depuis une source s vers une destination t, qui soit maximum, sous contraintes de capacité. Etant donné un graphe G = (V, E) la capacité d une arête est une application c : E R + (notèe c uv ) : représente le montant maximum de flot qui peut passer par une arête (u, v) un flot est un mapping f : E R + (notèe f uv ), sous les constraintes suivantes : - contrainte de capacité : le flot d une arête ne peut pas dépasser sa capacité - conservation des flots : la somme des flots entrants dans un noeud doit être égale à la somme des flots sortant d un noeud, sauf pour s et t S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème de flot maximum (maximum flow) max v V f sv s.t. f uv c uv (u, v) E f uv = f vu v V \ {s, t} u:(u,v) E u:(v,u) E f uv Z (u, v) E S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

8 Flot-max & coupe-min Une coupe dans un graphe est un ensemble d arcs déconnectant la source s du puits t, c est à dire qu il n existe plus de chemin de s à t. De façon équivalente : une coupe donne une partition S T des sommets où s appartient à S et t appartient à T. La capacité d une coupe est la somme des capacités des arcs de la coupe. Le problème de la Coupe Minimum (MinCut) consiste à trouver une coupe entre s et t de capacité minimale. Theorem (Max-Flow, Min-Cut) Pour tout graphe et tout couple (s, t) de sommets du graphe la valeur maximum du flot de s à t est égale à la capacité minimum d une coupe séparant s de t. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème de remplissage de boites (Bin Packing) Emballer n objets de différents volumes dans un nombre fini de boites de capacité w d une manière qui minimise le nombre de boites utilisés. mellyssmellysoaps.blogspot.com blog.wild-butterfly.com S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

9 Problème de remplissage de boites (Bin Packing) données : n objets w = capacité des boites s i = volume de l objet i variables : u i = 1 si la boite i est utilisée, 0 sinon x ij = 1 si l objet j est dans la boite i, 0 sinon min s.t. n i=1 u i n i=1 x ij = 1 j {1,.., n} (chaque objet dans 1 boite) n j=1 s jx ij wu i i {1,.., n} (capacite) u i {0, 1} i {1,.., n} x ij {0, 1} i, j {1,.., n} S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème de remplissage de boites (Bin Packing) javaoracleblog.com S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

10 Problème de planification de tâches en temps minimal (Scheduling) Programmer l exécution de tâches en leur allouant le ressources requises et en fixant leurs dates de début. données : T= set of n taches S= set of l machines u ik = durée de la tache i sur la machine k ( R) variables : d ik = debut de la tache i sur la machine k y ijk = 1 si i avant j sur la machine k, 0 sinon contraintes : séquentialité, non-overlapping, contraintes disjuntives : sur la meme machine k : d ik d jk + u jk or d jk d ik + u ik disjunctive constraints use of big M S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème de planification de taches en temps minimal (Scheduling) min max (d ik + u ik ) i {1,...,n} s.t. d ik + u ik d i(k+1) i n, k (sequentialite) d ik + u ik d jk + M(1 y ijk ) d jk + u jk d ik + M(1 y jik ) y ijk + y jik = 1 y ijk {0, 1} i, j n, k (non overlapping) i, j n, k (non overlapping) i, j n, k (disjunction) i, j n, k S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

11 Disjunctive constraints A 1 x b 1 A 2 x b 2 ces contraintes peuvent être reformulées en constraintes linéaires équivalentes : A 1 x b 1 M 1 (1 y 1 ) A 2 x b 2 M 2 (1 y 2 ) y 1 + y 2 = 1 avec y i {0, 1} et M i big-m parameters (bornes superieures pour A i x b i ). Si y 1 = 1 et y 2 = 0 : la première inégalité se réduit à A 1 x b 1 0, qui est la 1ere contrainte originale; la deuxième inégalité se réduit à A 2 x b 2 M 2, qui est trivialement satisfaite puisque, par définition, M 2 est une borne supérieure de son côté gauche seconde contrainte ignorée. Reciproquement quand y 1 = 0 et y 2 = 1. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème du voyageur de commerce (Travelling Salesman problem) Étant donné un ensemble de villes séparées par des distances données, trouver le plus court chemin qui relie toutes les villes, en ne visitant chaque ville qu une seule fois. trouver le cycle Hamiltonien (un cycle qui relie toutes les sommets une fois et une seule) de plus courte longueur. www2.unine.ch S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

12 Problème du voyageur de commerce (Travelling Salesman problem) données : c ij = distance entre la ville i et la ville j variables : x ij = 1 si le voyageur va de la ville i à la ville j, 0 sinon min s.t. c ij x ij i,j n,i j x ij = 1 i n j n x ij = 1 j n i n i,j S,i j x ij {0, 1} x ij S 1 S {1,..., n} i, j S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Problème du voyageur de commerce (Travelling Salesman problem) Explosion combinatoire : Une approche très naïve : déterminer la longueur de tous les cycles Hamiltoniens, et prendre le plus court. On a (n 1)! 2 cycles : exemple : n = ! cycles à tester, 2 bien plus que d atoms dans l univers! S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

13 Resoudre par Programmation Lineaire continue? Est-ce que les modèles entieres peuvent être résolus par des méthodes adaptées à des valeurs réelles des variables? Rounding : résoudre le problème par programmation linéaire standard et ensuite arrondir les valeurs non entières à la valeur entier la plus proche. Pas une bonne strategie! S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Resoudre par Programmation Lineaire continue? Exemple (Hillier et Lieberman) : max Z = x 1 + 5x 2 s.t. x x 2 20 x 1 2 x 1, x 2 integer la solution de programmation linéaire : Z = 11 en (2, 1.8). l arrondissement de x 2 a la plus proche valeur entière (x 2 = 2) : donne (2, 2) qui est infaisable par la première contrainte. l arrondissement de x 2 dans la direction opposée (x 2 = 1) : donne (2, 1) avec Z = 7. Mais ce n est pas le point optimal! Le point entier (réalisable) optimal est à (0, 2) où Z = 10. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

14 Remarque Si la solution de la relaxation continue R P de P est entière, x Z n, alors cette solution est aussi la solution optimale de P (total unimodularity property) on peut resoudre P en resolvant simplement R P La resolution de la relaxation continue (PL) est souvent la base de méthodes de resolution du PLNE. S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Les principales idees algorithmiques énumération intelligent de toutes les solutions (Branch & Bound) utilisation des méthodes pour PL (algorithme du simplexe) en tant que démarche algorithmique principale ajouter progressivement des contraintes au problème (cutting planes) alternativement, trouver seulemement une solution approchée du problème (heuristiques) S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

15 Méthodes de resolution Méthodes exactes garantissent de trouver une solution optimale pour une instance ou, s il n y a pas de solution, la preuve de son infaisabilité effectuent des recherches exhaustives ne vérifient pas toutes les possibilités (ils utilisent généralement des stratégies visant à accélérer la recherche) leurs performances peuvent être limitées pour les grandes instances S. Cafieri (ENAC) Introduction à l optimisation discrète / 1 Méthodes de resolution Méthodes approchées ne garantissent pas de trouver une solution optimale sont rapides à trouver une solution (si en trouvent) sont souvent basées sur des recherches locales et des algorithmes évolutionnaires S. Cafieri (ENAC) Introduction à l optimisation discrète / 1

16 Bibliography I NEOS guide L.R. Foulds. Combinatorial Optimization for Undergraduates Springer-Verlag, C.H. Papadimitriou and K. Steiglitz. Combinatorial Optimization: Algorithms and Complexity. Dover, New York, John W. Chinneck. Practical Optimization: a gentle introduction Vasek Chvátal. Linear Programming W.H. Freeman eds., S. Cafieri (ENAC) Introduction à l optimisation discrète / 1