Introduction à l optimisation

Université du Québec à Montréal Introduction à l optimisation Donnée dans le cadre du cours Microéconomie II ECO2012 Baccalauréat en économique Par Dominique Duchesneau 21 janvier septembre 2008 Ce document est protégé par une license Creative Commons

Table des matières 1 Introduction à l optimisation - reprise 2 2 Introduction à l optimisation 2 2.1 Optimisation d une fonction à une variable, sans contrainte............. 2 2.2 Conditions nécessaire pour un maximum....................... 2 2.2.1 conditions du premier ordre.......................... 3 2.2.2 Conditions du second ordre :.......................... 3 3 Optimisation de fonction à plusieurs variables 4 4 Optimisation sous contrainte 5 4.1 Méthode par substitution................................ 6 4.2 Méthode de Lagrange.................................. 7 4.2.1 Conditions du premier ordre.......................... 8 4.2.2 condition du second ordre............................ 8 4.3 Remarque concernant le multiplicateur de Lagrange................. 9

1 Introduction à l optimisation - reprise 2 Introduction à l optimisation L optimisation consiste à trouver le maximum ou le minimum d une fonction, c est-à-dire la valeur de x qui produit la plus grande (ou la plus petite) valeur de y = f (x). Ici, y = f (x) est appelée fonction objectif. Cette fonction peut être contrainte, c est-à-dire sujette à une autre fonction qui limite ses arguments. 2.1 Optimisation d une fonction à une variable, sans contrainte Le premier cas étudié est celui où il n y a pas de contrainte, seulement une fonction objectif. On appelle maximum global la plus haute valeur de y atteinte dans un intervalle donné, par opposition à un maximum local. Celui-ci est une valeur de x telle que la fonction évaluée immédiatement à droite ou à gauche (soit avec x à peine plus petit ou à peine plus grand) produit une valeur de y inférieure à la valeur obtenue lorsque y est évaluée en x. Exemple graphique : maximum global maximum local FIG. 1 Types de maximums Formellement, nous écrirons que pour x un maximum local, alors f (x ) f (x), pour un intervalle donné autour de x, et que x est un maximum global si f (x ) f (x) x ɛ D f (x) Alors x est appelé le maximiseur de y = f (x), et est noté x = argmax( f (x)). 2.2 Conditions nécessaire pour un maximum Il y a 2 types de conditions à vérifier pour savoir si x est un maximum (ou un minimum) : Ce sont les condition du premier ordre et les condition du second ordre. Comme leur nom l indique, ces conditions sont nécéssaires, elle doivent être satisfaites. Cependant, elles ne sont pas suffisantes, c est-à-dire que la satisfaction de l une ou l autre de ces conditions ne garantit pas un optimum. 2

2.2.1 conditions du premier ordre Pour obtenir un optima (un valeur de x qui peut être un maximum ou un minimum), il faut égaliser la dérivée première à 0 : f (x) = x = 0 2.2.2 Conditions du second ordre : Ensuite, pour déterminer s il s agit d un maximum (minimum) local ou global, il faut évaluer la dérivée seconde : f (x) = 2 y < 0 pour un maximum x2 Autrement dit, pour résumer le tout : Si f (x) = x = 0 et f (x) = 2 y < 0 x x 2 alors x est un maximum global Si f (x) = x = 0 et f (x) = 2 y > 0 x x 2 alors x est un minimum global Si les deux conditions (premier ordre et second ordre) sont satisfaites ensemble, alors nous pouvons conclure à un maximum ou un minimum. Ce que la dérivée seconde nous apprend est le sens de l évolution de la dérivée première ; autrement dit, est-ce que la pente de la tangente croît ou décroît? Cela peut être représenté graphiquement comme : maximum 1 1 1 minimum 1 FIG. 2 La fonction croît, puis décroît FIG. 3 La fonction décroît, puis croît Dans ces deux figure, on peut remarquer que le signe de la dérivée première change une fois le maximum (ou minimum) dépassé. Cependant, la pente de la tangente elle continue de croître dans le cas du minimum (elle passe de négative à positive) et à décroître dans le cas du maximum (elle passe de positive à négative). 3

3 Optimisation de fonction à plusieurs variables Le procédé d optimisation lorsqu il y a plusieurs variables est assez semblable à celui n ayant qu une seule variable. Autrement dit, il faut toujours : 1. vérifier les conditions du premier ordre, c est à dire égaliser la dérivée première à zéro pour déterminer à quelle valeur de x l optima se trouve ; 2. vérifier les conditions du second ordre, et leur signe déterminera si l optima trouvé plus haut est un maximum ou un minimum. Exemple : Soit une fonction de plusisurs variables y = f (x 1, x 2,...,x n ). Les conditions du premier ordre sont que : x 1 = 0 x 2 = 0. x n = 0 Les conditions du second ordre sont cependant un peu plus complexe ; il faut dorénavant vérifier que la fonction est concave. Dans le cas à une seule variable il fallait vérifier que la dérivée seconde est positive dans le cas d un maximum, ou négative dans le cas d un maximum, ce qui nous donnait la concavité ou convexité de la fonction selon le cas. Pour le cas à deux variables, voici la marche à suivre : Prmièrement il faut calculer le déterminant de la matrice hessienne, c est-à-dire la matrice des dérivées seconde : f 11 (x 1,...,x n ) f 12 (x 1,..., x n ) f 1n (x 1,...,x n ) [ ] f 21 (x 1,...,x n ) f 22 (x 1,..., x n ) f 2n (x 1,...,x n ) a11 a H(x) =. = 12..... a 21 a 22 f n1 (x 1,..., x n ) f n2 (x 1,...,x n ) f nn (x 1,...,x n ) Le déterminant de cette matrice est a 11 a 22 a 21 a 12 1. Il faut ensuite s assurer que le déterminant est toujours positif, et c est ensuite le signe de la dérivée f 11 qui nous dira s il s agit d un maximum ou d un minimum : Si f 11 < 0 et que H(x) > 0 : alors il s agit d un maximum Si f 11 > 0 et que H(x) > 0 : alors il s agit d un minimum Autrement dit, il faut que pour un maximum la matrice hessienne soit NÉGATIVE DÉFINIE et pour un minimum qu elle soit POSITIVE DÉFINIE. Voici un exemple à deux variables. Soit la fonction continue et différentiable deux fois y = f (x 1, x 2 ) = x 2 4x 2 1 + 3x 1x 2 x 2 2. Trouver un point critique (optima) et déterminez s il s agit d un maximum ou d un minimum. 1 Nous reviendrons au cas des matrices plus grandes au besoin. 4

première étape : égaliser les dérivées premières à zéro, afin d obtenir les coordonnées du point critique. x 1 = 0 = 8x 1 + 3x 2 x 1 = 3 8 x 2 8x 1 = 3x 2 x 2 = 0 = 1 + 3x 1 2x 2 avec la première dérivée, on a trouvé x 1 : ( ) 3 0 = 1 + 3 8 x 2 2x 2 ( 9 0 = 1 + 2) 8 x 16 8 x 2 ( ) 9 16 1 = x 2 8 1 = 7 8 x 2 x 2 = 8 7 et qui retourne dans la première dérivée : x 1 = 3 8 8 7 x 1 = 3 7 Alors le point critique est ( 3 7, 8 7, 49) 28 Il faut maintenant vérifier s il s agit d un maximum ou d un minimum. La matrice hessienne est donc : f H(x) = 11 = 8 f 12 = 3 f 21 = 3 f 22 = 2 = ( 8 2) (3 3) = 7 > 0 La matrice hessienne nous donne directement la valeur de f 11, et maintenant qu on connait le signe du déterminant, on sait qu il s agit bel et bien d un maximum. 4 Optimisation sous contrainte L optimisation sous contrainte est une des techniques les plus utilisées en économie. Il est important de comprendre que les résultats obtenus de cette façon peuvent être tout à fait différents de ceux obtenus lors d une optimisation sans contrainte. Par exemple, si vous voulez acheter une maison, vous choisirez peut-être un château à Westmount s il n y a pas de contraintes. Cependant, en présence de contraintes, peut-être vous rabattrez-vous sur un bungalow en banlieue. 5

Deux méthodes d optimisation sous contraintes seront présentées ici. La première est la méthode par substition et la deuxième est la méthode de Lagrange 2. Le cadre de présentation sera un problème classique de maximisation sous contrainte : tracer le rectangle avec la plus grande aire possible avec 20 mètres de corde 3. Formellement, nous écrirons : max xy s.c. 2x + 2y 20 x,y Nous avons tout d abord un but : max x,y, c est-à-dire «maximiser par choix de x et de y. Ensuite, ce but s applique sur une fonction objectif, xy, qui est ce que nous désirons maximiser. La troisième section, «s.c.»veut dire «sous contrainte de» 4. Et la dernière section est la contrainte, c est-à-dire une fonction qui limite les valeurs que peuvent prendre les variables de choix. Remarque : En économie, comme nous disons généralement que les agents «saturent»leurs contraintes de budget, ou que les firmes épuisent leurs ressources, nous travaillons «sur la frontière»des fonctions, ce qui nous permet de remplacer la contrainte 2x + 2y 20 par 2x + 2y = 20 ; nous utiliserons toute la corde. 4.1 Méthode par substitution L idée derrière cette méthode est d éliminer la contrainte en la substituant dans la fonction objectif. De cette manière il ne reste qu un problème d optimisation sans contrainte à résoudre. Pour ça, il faut transformer la contrainte, afin qu une des variables de choix soit exprimée en fonction de l autre : 2x + 2y = 20 2x = 20 2y x = 1 ( ) 20 2y 2 x = 10 y Une fois que nous avons obtenue cette nouvelle version de la contrainte, on la substitue à la variable correspondante de la fonction objectif et de résoudre normallement : xy = (10 y)y = 10y y 2 max 10y y2 x,y CPO : f (y) = 10 2y = 0 CSO : 2 f (y) 2 = 2y < 0 Comme les conditions du premier ordre (CPO) et du second ordre (CSO) sont satisfaite, on peut maintenant obtenir les valeur de x et de y : on prends la CPO qu on a trouvé et on isole y 2 N.B. : il n y a pas de meilleure méthode, seulement l une ou l autre sera plus simple à utiliser selon la situation. 3 rappel : l aire d un rectangle se calcule comme «base hauteur (x y) et son contour comme 2x + 2y. 4 Il sera très courant de rencontre «s.à.», qui veut dire «sujet à», ou la version en anglais, «s.t.», qui veut dire «subject to». 6

pour obtenir y, la valeur optimale de y : 10 2y = 0 y = 5 10 = 2y Pour obtenir x, il ne reste qu à prendre y et à le mettre dans la contrainte initiale, afin de pouvoir isoler x : 2x + 2y = 20 = 2x + 2(5) x = 5 20 = 2x + 10 10 = 2x Alors on sait que le rectangle optimal sera un carrè, qu il aura 5 mètres de côté et que son aire sera 5 5 = 25m 2. Celà revient à dire que le maximiseur de la fonction objectif est (5, 5) et que le maximum de cette fonction, étant donné cette contrainte, est 25. 4.2 Méthode de Lagrange Voici le théorème qui a été écrit pour la maximisation d une fonction à deux variables sous contrainte d égalité : Soit un problème de maximisation qui se pose comme : max x 1,x 2 f (x 1, x 2 ) s.c. g(x 1, x 2 ) = c et qui fait appel à deux fonctions continues et différentiables deux fois. Soit (x 1, x ) une solution du problème, mais qui n est pas un point critique de la contrainte. 2 Alors il existe un nombre λɛr tel que (x 1, x 2,λ ) est un point critique du Lagrangien C est-à-dire : L (x 1, x 2,λ) = f (x 1, x 2 ) λ[g(x 1, x 2 ) c] L x 1 = 0; L x 2 = 0; L λ = 0 La méthode de Lagrange fait intervenir un troisième nombre. Autrement dit, en ajoutant une coordonnée au point critique, le problème passe d une maximisation sous contrainte à deux inconnues à une maximisation sans contrainte à trois inconnues. L application de ce théorème au problème du rectangle se fait comme suit. Premièrement, il faut poser le problème : max xy s.c. 2x + 2y = 20 x 1,x 2 xy λ[2x + 2y 20] Ensuite, il faut calculer les conditions du premier ordre, en n oubliant pas que λ est désormais une des variable de choix : 7

4.2.1 Conditions du premier ordre L x 1 L x 2 L λ = y 2λ = 0 donc : y = 2λ = x 2λ = 0 donc : x = 2λ = 2x 2y + 20 = 0 donc : 2x + 2y = 20 On a ainsi un système de trois équations et trois inconnues à résoudre. La première étape est d égaliser les 2 premières équations, afin d isoler soit x, soit y. Ceci est possible puisque chacune est égale à 2λ. x = 2λ = y qu on met dans la contrainte : x = y 2x + 2x = 20 4x = 20x = 5 qui va aussi dans la contrainte :2(5) + 2y = 20 10 + 2y = 20 2y = 20 y = 20 Alors encore une fois, on trouve que le maximiseur de la fonction objectif est (5, 5), et que le maximum de cette fonction, sujette à cette contrainte, est 5 5 = 25. 4.2.2 condition du second ordre La matrice hessienne de ce système est : [ ] [ ] L1 1 L H(x) = 1 2 Lxx L = xy = L 2 1 L 2 2 L yx L yy [ ] 0 1 1 0 S il y a plus de 2 variables, et qu il y a des contraintes, la matrice hessienne ne suffit pas ; il faut plutôt construire la matrice hessienne bordée. Il s agit de la hessienne précédente, à laquelle on ajoute la ligne et la colonne des dérivée premières de la contrainte avant les dérivées secondes. Dans le cas max x,y f (x, y) s.c. g(x) = c : 0 g x (x, y) g y (x, y) 0 g x (x, y) g y (x, y) 0 2 2 H(x) = g x (x, y) L 11 L 12 = g x (x, y) L xx L xy = 2 0 1 g y (x, y) L 21 L 22 g y (x, y) L yx L yy 2 1 0 8

Il faut calculer le déterminant des sous-matrices 5 de cette matrice, et vérifier qu ils sont positif pour un minimum, ou qu ils alternent en signe en débutant par négatif pour un minimum. À noter : dans le cas d une hessienne bordée, la sous-matrice d ordre 1 comprends 4 éléments, soit le minimum pour former une matrice carrée qui comporte L 11. Pour pouvoir calculer le déterminant, il faut d abord définir ce qu est un mineur dans une matrice. Le mineur m ij d une matrice est le déterminant de la matrice qui reste lorsqu on enlève la ligne i et la colonne j de la matrice originale. Si la matrice originale est A, la matrice restante est a ij Ensuite le déterminant de la matrice se calcule comme : A = n i ou j=1 ( 1) i+j M ij a ij Autrement dit, pour une matrice A n n, il faut choisir une ligne ou une colone et faire la somme alternée (+,, +,,...) de tous les mineurs multipliant leurs matrices restantes a ij. Voici un exemple pour mieux saisir, qui fait la somme par rapport à la première ligne : 0 1 2 1 0 2 = 0 1 1+1 0 2 2 2 0 2 0 + 1 1 2 11+2 2 0 + ( 2) 1 0 11+3 2 2 0 2 = 0 1 2 0 2 1 0 2 2 = 1(0 0 ( 2 2)) 2(1 2 ( 2 0)) = 1( 4) + ( 2( 2)) = 4 + 4 = 8 > 0 Alors dans l exemple du rectangle, les conditions du second ordre sont satisfaites. 4.3 Remarque concernant le multiplicateur de Lagrange Le multiplicateur de lagrange λ est aussi appelé prix implicite 6. Dans l exemple précédent, on peut remarquer que x et y ont le même prix implicite, qui se calcule d après les valeurs trouvée pour l un ou l autre : x = 2λ 5 = 2λ λ = 2.5. La signification économique de ce prix implicite est très utile : elle donne la variation de la fonction objectif résultant d une modification de la contrainte. Par exemple, supposons que nous avons un mètre de corde de plus ; la contrainte devient donc 2x + 2y = 21. D après le multiplicateur de Lagrange l aire du carré devrait augmenter de 2.5 1. En fait nous savons que le périmètre du carré passe à 21 mètres, ce qui lui fait des côtés de 5.25 mètres, pour une aire de 5.25 2 = 27.5625. Le prix implicite avait donc raison! 5 Les sous-matrices sont les matrices dont on ne [ conserve ] qu un certain nombre de colonnes et de ligne, en 0 1 débutant par 1. Par exemple, pour la sous-matrice, la sous-matrice d ordre 1, M 1 0 1 est 0, l élément de la position (1,1) alors que la sous-matrice d ordre 2, M 2, contient la matrice au complet. 6 En anglais : «shadow price» 9