Introduction à l optimisation

Dimension: px

Commencer à balayer dès la page:

Download "Introduction à l optimisation"

Violette Gauthier
il y a 7 ans
Total affichages :

1 Introduction à l optimisation Stéphane Canu stephane.canu@litislab.eu ASI 4 - Introduction à l optimisation pour l ingénieur September 17, 2014

2 Plan 1 Introduction à l optimisation pour l ingénieur Histoire Quelques exemples Variables, contraintes, objectifs L exemple des moindres carrés Formulation générale Objectifs du cours Auteur principal (INSA Rouen - ASI) Intro September 17, / 25

3 Naissance de Carthage Le problème de la reine Didon. matoumatheux.ac-rennes.fr/classe/ens/isoperimetre2.htm C est un problème isopérimétrique [Bonnans, 2006]. La solution est l arc de cercle. En mathématique, un problème d optimisation (encore appelé problème de programmation mathématique) consiste à trouver, parmi un ensemble donné, un élément (pour nous ici un vecteur de IR p mais ce peut être aussi un vecteur d entiers, une fonction...) minimisant ou maximisant une fonction donnée de cet ensemble sur IR.

4 Optimisation et recherche opérationnelle Programmation linéaire, (George Dantzig, 1940). contexte de la guerre (project SCOOP) programme par les forces armées américaines pour établir des horaires de formation et des choix logistiques L emploi du terme «programmation» avait également un intérêt pour débloquer des crédits pas la programmation informatique europeanfinancialreview.com/?p=4948

5 Optimisation et wikipedia : les différents sens

6 Optimisation et wikipedia : Une définition

.. ) (load balancing) planification des vols (emplois du temps)

7 Exemples de problèmes d optimisation chaine logistique (suply chain) équilibrage d un réseau (électricité, informatique... ) (load balancing) planification des vols (emplois du temps) scheduling calcul de trajectoire Formalisation des problèmes Classification des problèmes

8 Optimisation et science des données

9 Optimisation discrète et sous contraintes Quelques problème types : calcul d une trajectoire de rentrée dans l atmosphère d une navette déménageur de Piano, sac à dos, bibliothécaire, emploi du temps voyageur de commerce... min x {0,1} n2 avec et n i=1 j=1 n x ij d ij x ij = 1 i x ij = 1 j plus une contrainte éliminant les sous tours...

10 Optimisation discrète et sous contraintes Quelques problème types : calcul d une trajectoire de rentrée dans l atmosphère d une navette déménageur de Piano, sac à dos, bibliothécaire, emploi du temps voyageur de commerce... min x {0,1} n2 avec et n i=1 j=1 n x ij d ij x ij = 1 i x ij = 1 j plus une contrainte éliminant les sous tours...

11 Variables, contraintes, objectifs Dans tout problème d optimisation on se doit de définir : les variables V IR p x ij {0, 1} toutes les relations entre les villes le ou les objectifs O : V IR (q) minimiser la distance globale les contraintes C : V IR m une entrée et une sortie par ville Composant électronique V = la disposition des composants, C = la taille du composant, les couts, O = la consommation électrique Google V = paramètres d un modèle, C = les temps de réponse les informations à priori, O = maximum du pages pertinentes optimiser un programme : V = le code..., C = toujours calculer le bon résultat, O = réduire l utilisation de la mémoire, les temps de calculs, améliorer sa stabilité (robustesse)...multi critère avec des critères contradictoires

12 L exemple des moindres carrés 1 min x IR p 2 Ax b 2 V = x O = 1 2 Ax b 2 pas de C Généralisation : min x n J(r i ) i=1 r i = a i x b i J 1 (r) = r ; J 2 (r) = r 2 ; J 3 (r) = α 2 log(1 r 2 α 2 )

13 Le cas de la finance... V = la répartition des sommes à investir, C = le montant disponible, O = gagner plus! C est le problème du portefeuille de Markowitz p min r i x i + 1 x IR p 2 αx Σx; x 0, i=1 p x i = 1 i=1 r rendement de la part investie (moyenne), α un coefficient d aversion au risque Σ la matrice de variance covariance des actifs des différentes lignes maximiser le rendement : O r (x) = p i=1 r ix i minimiser le risque : 1 2 αx Σx

14 Le cas de la finance... V = la répartition des sommes à investir, C = le montant disponible, O = gagner plus! C est le problème du portefeuille de Markowitz p min r i x i + 1 x IR p 2 αx Σx; x 0, i=1 p x i = 1 i=1 r rendement de la part investie (moyenne), α un coefficient d aversion au risque Σ la matrice de variance covariance des actifs des différentes lignes maximiser le rendement : O r (x) = p i=1 r ix i minimiser le risque : 1 2 αx Σx

15 Les contraintes et le domaine de faisabilité Les contraintes définissent un domaine de faisabilité : exemple du portefeuille : x vérifie les contraintes x 0, p x i = 1 i=1 peut se réécrire x Ω avec Ω = { x IR p x 0, p i=1 } x i = 1 exemple : le simplex des probabilités : p 1 + p 2 + p 3 = 1, 0 p i

16 Plan 1 Introduction à l optimisation pour l ingénieur Histoire Quelques exemples Variables, contraintes, objectifs L exemple des moindres carrés Formulation générale Objectifs du cours Auteur principal (INSA Rouen - ASI) Intro September 17, / 25

17 Formulation abstraite Les points qui vérifient les contraintes appartiennent au domaine de faisabilité Ω Soit Ω IR p min J(x) x Ω J : Ω IR On appelle domaine de J l ensemble dom(j) = {x Ω J(x) < + } Un fonction J est dite impropre si son domaine est vide. Le problème est donc lié à la gestion des fonctions de plusieurs variables

18 Minimisation d une fonction continue le problème : min f (x) x IR caractérisation mathématique de la solution : unicité? f(x) x = arg min x IR f (x) f (x ) = 0 calcul de la solution : solution exacte analytique de f (x ) = 0 solution approchée : construction d une suite x k qui converge x le problème multidimensionel : l exemple des moindres carrées Trouver le polynôme qui approche au mieux la fonction ci-dessus min x IR p f (x) = 1 2 Ax b 2 x f (x ) = 0

19 Réécriture des domaines min J(x) x Ω J : Ω IR Ω = {x IR p H i (x) 0; i = 1, m} Forme standard { min x IR p J(x) avec H(x) 0 J : IRp IR H : IR p IR m Réécritures égalité vers inégalité G(x) = 0 G(x) 0 et G(x) 0. égalité vers inégalité : à l aide de variables d écart e IR m : H(x) 0 H(x) + e = 0; avec e 0

20 Formulation «pratique» Reformulation Exemple (LP) : min J(x) J : IR p IR x Ω IR p avec G(x) = 0 G : IR p IR n et H(x) 0 H : IR p IR m min x Ω J(x) max x Ω min c x J x IR p avec Ax = b G et 0 x H J(x)

21 Solutions des Problèmes d optimisation x IR 2 J : IR 2 IR solution (minimum) globale : x = arg min x Ω minimum local : x l = arg min J(x) x V ε(x l ) J(x) V ε (x) : un voisinage de x solution approchée : x a V ε (x l ) V ε (x) = {x IR p x x a < ε}

22 Problèmes d optimisation convexes { min x IR p J(x) avec H(x) 0 J : IRp IR H : IR p IR m Definition Problème d optimisation convexe [Boyd and Vandenberghe, 2004] J fonction convexe Ω = {x H(x) 0} ensemble convexe Problème convexe peut être résolu efficacement superbe théorie (très pratique) x l = x (toute solution locale est aussi globale) souvent le cas des problèmes d ingénierie... parfois non reconnus!

23 Minimisation robuste et aléatoire min sup x IR p θ Θ θ [θ m, θ M ] J(x, θ) exemple : taux d inflation min IE( J(x, θ) ) x IR p θ IP(θ) exemple : rendement d une action r θ N (ρ θ, Σ)

24 Classification d après [Minoux, 1983] entier vs. continue linéaires vs. non linéaires mono objectifs vs. multi objectifs convexes vs. non convexes objectif contraintes domaine nature du problème J G Ω linéaire linéaires IR p programmation linéaire linéaire linéaires IN p programmation linéaire en nombre entiers quadratique linéaires IR p programmation quadratique non linéaire IR p optimisation continue sans contraintes non linéaire IN p optimisation discrète sans contraintes convexe convexe IR p optimisation convexe non linéaire IR p optimisation (programmation mathématique) multivoque IR p optimisation multicritères

25 Résolution des problèmes d optimisation En général : modélisation réductrice très difficile à résoudre nécessite des compromis entre précision et ressources (temps de calcul) Exceptions moindres carré (optimisation sans contrainte) programmation linéaire problème convexes solution unique (belles maths) difficile à reconnaitre des astuces pour les transformer (réécrire) algorithmes efficaces

26 Évolutions algorithmiques Le cas de la programmation linéaire : p min J(x) = c i x i x IR p i=1 p avec a ij x i = b j ; i=1 et 0 x i ; i = 1, m j = 1, m avant force brute = énumération : O(p!) très petits problèmes p < simplexe : énumération à cout décroissant : O(p!) petits problèmes p < point intérieur : approximation : O(p 3 ) problèmes moyens p < méthodes de gradient : approximation : O(p) grands problèmes Big Data

27 Objectifs du cours Modélisation reconnaitre et (re)formuler les problèmes classer les problèmes d optimisation (LP, QP... ) [Nocedal and Wright, 2006] Théorie caractérisation de la solution convexité conditions d optimalité calcul de gradients conditions de convergence Méthodes présenter quelques algorithmes de base gradient programmation linéaire programmation quadratique Mise en œuvre savoir aborder leur résolution à l aide de matlab (pour les problèmes de taille moyenne)

28 Bonnans, F. (2006). Optimisation continue. Dunod. Boyd, S. P. and Vandenberghe, L. (2004). Convex optimization. Cambridge university press. Minoux, M. (1983). Programmation mathématique: théorie et algorithmes, volume 1. Dunod Paris. Nocedal, J. and Wright, S. J. (2006). Numerical Optimization. Springer, New York, 2nd edition. Auteur principal (INSA Rouen - ASI) Intro September 17, / 25

Documents pareils

La programmation linéaire : une introduction. Qu est-ce qu un programme linéaire? Terminologie. Écriture mathématique

La programmation linéaire : une introduction Qu est-ce qu un programme linéaire? Qu est-ce qu un programme linéaire? Exemples : allocation de ressources problème de recouvrement Hypothèses de la programmation