Méthodes de descente

Transcription

1 Méthodes de descente p. 1/52 Méthodes de descente Michel Bierlaire EPFL - Laboratoire Transport et Mobilité - ENAC

2 Méthodes de descente p. 2/52 Méthode de descente Idée 1. Trouver une direction de descente d k, c est-à-dire telle que f(x k ) T d k < Trouver un pas α k tel que f(x k +α k d k ) < f(x k ). 3. Calculer x k+1 = x k +α k d k.

3 Méthodes de descente p. 3/52 Plus forte pente Choix intuitif de la direction : d k = f(x k ) Choix du pas α k = argmin α R + 0 f(x k +αd k ). Exemple : f(x) = 1 2 x x2 2

4 Méthodes de descente p. 4/52 Plus forte pente x x x x 1

5 Méthodes de descente p. 5/52 Plus forte pente x x x 1

6 Méthodes de descente p. 6/52 Plus forte pente préconditionnée Changement de variable : f(x) = 1 2 x x2 2 x 1 = x 1 x 2 = 3x 2 et f(x ) = 1 2 x (1 3 x 2) 2 = 1 2 x x 2 2.

7 Méthodes de descente p. 7/52 Plus forte pente préconditionnée Direction : Pas : f(x ) = 1 2 x x 2 2. d = f(x ) = ( x 1 x 2 ) argmin α f(x α f(x )) = min α 1 2 (x 1 αx 1 ) (x 2 αx 2 )2,.

8 Méthodes de descente p. 8/52 Plus forte pente préconditionnée Solution : α = 1 ( ) ( ) x 1 x 2 + x 1 x 2 = 0,

9 Méthodes de descente p. 9/52 Plus forte pente préconditionnée Après conditionnement, la méthode de la plus forte pente converge en une seule itération sur cet exemple D une manière générale, un pré-conditionnement peut significativement accélérer la méthode

10 Méthodes de descente p. 10/52 Algorithme : Plus forte pente préconditionnée Objectif Trouver une approximation de la solution du problème min (1) x Rnf(x). Input La fonction f : R n R différentiable; Le gradient de la fonction f : R n R n ; Une famille de préconditionneurs (D k ) k telle que D k est définie positive pour tout k; x 0 R n ; La précision demandée ε R, ε > 0.

11 Méthodes de descente p. 11/52 Algorithme : Plus forte pente préconditionnée Output Une approximation de la solution x R Initialisation k = 0 Itérations 1. d k = D k f(x k ), 2. Déterminer α k, par exemple α k = argmin α 0 f(x k +αd k ), 3. x k+1 = x k +α k d k, 4. k = k +1. Critère d arrêt Si f(x k ) ε, alors x = x k.

12 Méthodes de descente p. 12/52 Plus forte pente préconditionnée Il reste à préciser comment choisir D k comment choisir α k et il reste à s assurer que cela fonctionne...

13 Méthodes de descente p. 13/52 Choix du pas Résolution de α k = argmin α R + 0 f(x k +αd k ). trop coûteuse Travail inutile si la direction n est pas bonne Idée : prenons n importe quel α tel que f(x k +αd k ) < f(x k ) Malheureusement, cela ne suffit pas...

14 Méthodes de descente p. 14/52 Choix du pas Exemple : f(x) = x 2 Appliquons l algorithme avec x 0 = 2, et D k = 1/2 x k = sgn(x k )/2x k α k = 2+3(2 k 1 ). D k est bien (défini) positif pour tout k. f(x k ) = 2x k d k = D k f(x k ) = sgn(x k ) La méthode s écrit x k+1 = { x k 2 3(2 k 1 ) si x k 0, x k +2+3(2 k 1 ) si x k < 0,

15 Méthodes de descente p. 15/52 Choix du pas Nous avons que x k = ( 1) k (1+2 k ) et x k+1 < x k. (p. 264) Dès lors f(x k+1 ) < f(x k ) Cependant, la suite x k a deux points d accumulation: -1 et 1

16 15-1 k x k d k α k e e e e e e e e e e e e e e e e e e e e e e+00

17 Méthodes de descente p. 16/52 Choix du pas f(x) x

18 Méthodes de descente p. 17/52 Choix du pas Pourquoi cela ne fonctionne pas? Origine théorique : théorème de Taylor Théorie locale Ici, les pas sont trop longs Le fait que f(x k+1 ) < f(x k ) est du à la chance et non au fait que d T f(x k ) < 0 Les pas sont trop longs par rapport au bénéfice obtenu Notion de diminution suffisante

19 Méthodes de descente p. 18/52 Diminution suffisante Soit γ > 0. On veut f(x k ) f(x k +α k d k ) α k γ, ou encore f(x k +α k d k ) f(x k ) α k γ.

20 Méthodes de descente p. 19/52 Diminution suffisante Exemple : f(x) = 1 2 x x2 2 x 0 = ( 10 1 ) d = ( ) γ = f(x k +αd k ) f(x k ) αγ α

21 Méthodes de descente p. 20/52 Diminution suffisante Exemple : f(x) = 1 2 x x2 2 x 0 = ( 10 1 ) d = ( ) γ = f(x k +αd k ) f(x k ) αγ α

22 Méthodes de descente p. 21/52 Diminution suffisante γ ne peut pas être constant Il doit dépendre de la direction Utilisons la théorie

23 Méthodes de descente p. 22/52 Rappel Direction de descente Soitf : R n R une fonction différentiable. Soient x R n tel que f(x) 0 etd R n. Sidest une direction de descente, alors il existeη > 0 tel que f(x+αd) < f(x) 0 < α η. De plus, pour toutβ < 1, il existe η > 0 tel que pour tout0 < α η. f(x+αd) < f(x)+αβ f(x) T d, (voir début du cours et p. 36)

24 Méthodes de descente p. 23/52 Diminution suffisante Choisissons avec 0 < β < 1. γ = β f(x k ) T d k

25 Méthodes de descente p. 24/52 Diminution suffisante Diminution suffisante : première condition de Wolfe Soient f : R n R une fonction différentiable, un point x k R n, une direction (de descente)d k R n telle que f(x k ) T d k < 0 et un pasα k R, α k > 0. On dira que la fonction f diminue suffisamment en x k +α k d k par rapport àx k si f(x k +α k d k ) f(x k )+α k β 1 f(x k ) T d k, avec0 < β 1 < 1. Cette condition s appelle la première condition de Wolfe

26 Méthodes de descente p. 25/52 Diminution suffisante β 1 = f(x k +αd k ) f(x k )+αβ 1 f(x k ) T d k f(x k )+α f(x k ) T d k α

27 Méthodes de descente p. 26/52 Diminution suffisante β 1 = f(x k )+α f(x k ) T d k f(x k +αd k ) f(x k )+αβ 1 f(x k ) T d k α

28 Méthodes de descente p. 27/52 Diminution suffisante β 1 = f(x k +αd k ) f(x k )+αβ 1 f(x k ) T d k f(x k )+α f(x k ) T d k α

29 Méthodes de descente p. 28/52 Diminution suffisante β 1 = f(x k +αd k ) f(x k )+αβ 1 f(x k ) T d k f(x k )+α f(x k ) T d k α

30 Méthodes de descente p. 29/52 Choix du pas Exemple : f(x) = x 2 Appliquons l algorithme avec x 0 = 2, et D k = 1/2x k α k = 2 k 1. D k est bien (défini) positif pour tout k. f(x k ) = 2x k d k = D k f(x k ) = 1 La méthode s écrit x k+1 = x k 2 k 1

31 Méthodes de descente p. 30/52 Choix du pas Nous avons que Dès lors Cependant, x k = 1+2 k. f(x k+1 ) < f(x k ) lim x k = 1 0 k (p. 269)

32 k x k d k α k e e e e e e e e e e e e e e e e e e e e e e-16

33 Méthodes de descente p. 31/52 Choix du pas Pourquoi cela ne fonctionne pas? Dégénérescence Pas trop petits Notion de progrès suffisant f(x k ) T d k < 0 Si α k minimum dans la direction alors f(x k +α k d k ) T d k = 0 La dérivée directionnelle augmente

34 Méthodes de descente p. 32/52 Choix du pas Progrès suffisant : seconde condition de Wolfe Soient f : R n R une fonction différentiable, un point x k R n, une direction (de descente)d k R n telle que f(x k ) T d k < 0 et un pasα k R,α k > 0. On dira que le pointx k +α k d k apporte un progrès suffisant par rapport àx k si f(x k +α k d k ) T d k β 2 f(x k ) T d k, avec0 < β 2 < 1. Cette condition s appelle la seconde condition de Wolfe.

35 Méthodes de descente p. 33/52 Diminution suffisante β 2 = 0.5 d k = ( 10/ 181 9/ 181) T α α f(x k +αd k ) T d k f(x k ) T d k f(x k +αd k )

36 Méthodes de descente p. 34/52 Diminution suffisante β 2 = 0.5 d k = ( 2/ 5 1/ 5) T α α

37 Méthodes de descente p. 35/52 Conditions de Wolfe Validité des conditions de Wolfe Soientf : R n R une fonction différentiable, un pointx k R n et une direction (de descente)d k R n telle que f(x k ) T d k < 0 etf est bornée inférieurement dans la directiond k, c est-à-dire il existef 0 tel quef(x k +αd k ) f 0 pour toutα 0. Si0 < β 1 < 1, il existeη tel que la première condition de Wolfe soit vérifiée pour toutα k η. De plus, si 0 < β 1 < β 2 < 1, il existeα 2 > 0 tel que les deux conditions de Wolfe soient toutes deux vérifiées. (p. 271)

38 Méthodes de descente p. 36/52 Algorithme : Recherche linéaire Objectif Trouver un pas α tel que les conditions de Wolfe soient vérifiées. Input La fonction f : R n R différentiable; Le gradient de la fonction f : R n R n ; Un vecteur x R n ; Une direction de descente d telle que f(x) T d < 0; Une première approximation de la solution α 0 > 0.

39 Méthodes de descente p. 37/52 Algorithme : Recherche linéaire Input (suite) Des paramètres β 1 et β 2 tels que 0 < β 1 < β 2 < 1. Un paramètre λ > 1. Output Un pas α tel que les conditions de Wolfe soient vérifiées.

40 Méthodes de descente p. 38/52 Algorithme : Recherche linéaire Initialisation i = 0, α l = 0, α r = +. Itérations Si α i vérifie les conditions, alors α = α i. STOP. Si α i viole Wolfe-1, i.e. f(x k +α k d k ) > f(x k )+α k β 1 f(x k ) T d k, alors le pas est trop long et α r = α i α i+1 = α l+α r 2

41 Méthodes de descente p. 39/52 Algorithme : Recherche linéaire Itérations Si α i ne viole pas Wolfe-1 et viole Wolfe-2, i.e. f(x+α i d) T d < β 2 f(x) T d alors le pas est trop court et α l = α i { αl +α r α i+1 = 2 si α r < + λα i sinon i = i+1

42 Méthodes de descente p. 40/52 Algorithme : Recherche linéaire f(x) = 1 2 x x2 2 x = ( 10 1 ) d = ( α 0 = 10 3 β 1 = 0.3 β 2 = 0.7 λ = 20. ) α i α l α r Cond. violée e e e+05 Wolfe e e e+05 Wolfe e e e+05 Wolfe e e e+05 Wolfe e e e+00 Wolfe e e e+00

43 Méthodes de descente p. 41/52 Méthode de Newton Combiner les idées de 1. plus forte pente préconditionnée 2. Newton 3. recherche linéaire Itération de Newton locale x k+1 = x k 2 f(x k ) 1 f(x k ), Itération de plus forte pente préconditionnée x k+1 = x k α k D k f(x k ), Si 2 f(x k ) 1 déf. positive, et α k = 1 acceptable, itérations équivalentes.

44 Méthodes de descente p. 42/52 Méthode de Newton Si α k = 1 non acceptable, algorithme de recherche linéaire Si 2 f(x k ) 1 non définie positive, définir D k = ( 2 f(x k )+E) 1 avec E telle que D k soit définie positive. Typiquement, E = τi Exemple : 2 f(x k ) = ( ) E = 3.1 ( ) 2 f(x k )+E = ( )

45 Méthodes de descente p. 43/52 Algorithme : Newton avec recherche linéaire Objectif Trouver une approximation d un minimum local du problème Input min x R nf(x). La fonction f : R n R différentiable; Le gradient de la fonction f : R n R n ; Le hessien de la fonction 2 f : R n R n n ; Une première approximation de la solution x 0 R n ; La précision demandée ε R, ε > 0.

46 Méthodes de descente p. 44/52 Algorithme : Newton avec recherche linéaire Output Une approximation de la solution x R Initialisation k = 0

47 Méthodes de descente p. 45/52 Algorithme : Newton avec recherche linéaire Itérations Calculer une matrice triangulaire inférieure L k et τ tels que L k L T k = 2 f(x k )+τi, en utilisant l algorithme précédent Trouver z k en résolvant le système triangulaire L k z k = f(x k ). Trouver d k en résolvant le système triangulaire L T k d k = z k.

48 Méthodes de descente p. 46/52 Algorithme : Newton avec recherche linéaire Itérations (suite) Déterminer α k en appliquant la recherche linéaire avec α 0 = 1. x k+1 = x k +α k d k. k = k +1. Critère d arrêt Si f(x k ) ε, alors x = x k.

49 Méthodes de descente p. 47/52 Newton avec recherche linéaire 3 2 minf(x 1,x 2 ) = 1 2 x2 1 +x 1 cosx 2, x x Point de départ x 0 = (1 1) T.

50 Méthodes de descente p. 48/52 Newton avec recherche linéaire minf(x 1,x 2 ) = 1 2 x2 1 +x 1 cosx 2, x 2 x 0 x 2 Point de départ x 0 = (1 1) T. x 1 x 0 x 1 x 2 x 1 x x x 2

51 Méthodes de descente p. 49/52 Newton avec recherche linéaire Solution: x = ( 1 π ) f(x ) = ( 0 0 ) 2 f(x ) = ( ) x x x x 2

52 Méthodes de descente p. 50/52 Newton avec recherche linéaire Solution: x = ( 1 π ) f(x ) = ( 0 0 ) 2 f(x ) = ( ) x x x x 2

53 Méthodes de descente p. 51/52 Newton avec recherche linéaire k f(x k ) f(x k ) α k τ e e e e e e e e e e e e e e e e e e e e e e e e e e+00

54 Méthodes de descente p. 52/52 Résumé Algorithme complet Combinaison entre méthode de Newton locale plus forte pente préconditionnée recherche linéaire