Équations différentielles et systèmes dynamiques M. Jean-Christophe Yooz, membre de l'institut (Aadémie des Sienes), professeur La leçon inaugurale de la haire a eu lieu le 28 avril 1997. Le ours a ensuite porté sur quelques exemples de dynamique faiblement hyperbolique. Considérons un difféomorphisme f d'une variété M et une partie ompate K de M qui est invariante par f. On dit que K est hyperbolique si le fibré tangent à M au-dessus de K se sinde ontinument en deux fibrés invariants, le fibré stable et le fibré instable, les veteurs du fibré stable étant exponentiellement ontratés dans les temps positifs tandis que les veteurs du fibré instable le sont dans les temps négatifs. Cette notion est à la base d'une théorie des systèmes (fortement, ou uniformément) hyperboliques, développée dans les années 60 par Anosov, Sinaï, Smale, Palis et leurs ollaborateurs. On a rappelé brièvement les prinipales propriétés d'un difféomorphisme f au voisinage d'une partie ompate K invariante et hyperbolique. Le difféomorphisme est expansif, 'est-à-dire que deux orbites distintes se séparent au ours du temps d'une distane déterminée. Il possède la propriété de pistage : une suite de points où haun est très voisin de l'image du préédent est uniformément prohe d'une vraie orbite. Il y a ontinuation hyperbolique : si g est un autre difféomorphisme, voisin de f, on peut trouver une partie ompate L de la variété, voisine de K, invariante par g et hyperbolique, sur laquelle la dynamique de g est onjuguée de elle de f sur K. Dans l'analyse de la dynamique d'un difféomorphisme f sur une partie ompate K, invariante et hyperbolique, les variétés stables (et instables) loales et globales des points de K jouent un rôle fondamental. Elles s'obtiennent par intégration du fibré stable. On dit que la partie ompate K, invariante et hyperbolique, jouit d'une struture de produit loal si l'intersetion des variétés stable et instable loales de deux points prohes de K appartient enore à K. Lorsque les points de K sont
de plus réurrents par haînes dans K, le théorème de déomposition spetrale de Smale permet de dérire ainsi la dynamique de f sur K : ette partie se déompose en une union finie d'ensembles basiques deux à deux disjoints ; haun de es ensembles basiques est lui-même déomposé en parties p ompates disjointes, p p invariantes par et f permutées yliquement par f, sur lesquelles est topolo- f giquement mélangeant. La restrition d'un difféomorphisme f à un ensemble basique K jouit de propriétés topologiques permettant un reours effiae à la dynamique symbolique et à ses modèles, les déalages de type fini. Considérons d'abord une situation non inversible : une appliation ontinue f d'un espae métrique ompat K dans lui-même, qui est expansive, possède la propriété de pistage et est transitive ; l'ensemble D des points de K dont l'orb est dense dans K est alors une partie δ dense G de K. On peut onstruire des partitions de Markov pour (K,f) : 'est par définition une semi-onjugaison d'un déalage transitif de type fini à f, qui est surjetive, ontinue et injetive dessus de D. Dans un adre inversible, on suppose que l'homéomorphisme f d'un espae métrique ompat K est expansif,transitif et jouit de la propriété de produit loal ; l'ensemble D est alors formé des points dont les deux demi-orbites sont denses. On onstruit également dans e as des partitions de Markov, mais la démonstration est plus déliate. L'essentiel du ours a ensuite été onsaré à la présentation de deux lasses d'exemples : dans un adre non inversible, les polynômes quadratiques : réels P x x 2 +, pour les valeurs du paramètre onsidérées par Jakobson au début des années 80 ; et dans un adre inversible, beauoup plus déliat, les appliation de Hénon, pour les valeurs des paramètres onsidérées par Benediks et Carleson à la fin des années 80. Ces lasses d'exemples exhibent une roissane exponentielle des dérivées aratéristique de l'hyperboliité, mais ne s'intègrent néanmoins pas dans le adr de la théorie évoquée i-dessus : la roissane n'a pas lieu partout, mais seuleme presque partout, et n'est pas uniforme ; la dynamique n'est pas tout à fai expansive. L'objet du ours était d'étudier les propriétés de es lasses d'exemples d'un façon suffisamment oneptuelle, l'objetif reherhé à terme étant de bâtir une théorie de systèmes (faiblement) hyperboliques qui les englobe et permettrait aussi de traiter d'autres exemples enore mal ompris, en partiulier dans un adre onservatif. Disutons d'abord le as des polynômes quadratiques réels. On s'intéresse à la partie ompate invariante formée K des points d'orbite bornée. On suppose que
α < 1/4, de sorte que possède P deux points fixes qu'on notera β, ave α et <β. Lorsque < -2, le point ritique 0 n'appartient de P pas à ; Kla partie K est hyperbolique (les dérivées des itérés roissent uniformément exponentiellement vite sur ) K et la dynamique de sur P K est onjuguée au déalage omplet sur deux symboles. La situation onsidérée par Jakobson est elle où le paramètre est voisin de -2, mais stritement supérieur à -2. L'ensemble est alors K égal à l'intervalle [-β,+β], et ontient don le point ritique 0. Cependant, pour la plupart de telle valeurs du paramètre, il y a enore presque partout roissane sur K exponentielle des dérivées des itérés du polynôme. On a d'abord dégagé la notion, essentielle à nos yeux, de paramètre régulier : onsidérons l'intervalle entral [+α,-α]et A = un entier n > 0 ; on dira qu'un n intervalle J est régulier d'ordre n si restreint l'itéré P à un voisinage approprié Ĵ de J est un difféomorphisme sur un voisinage  de A (indépendant de n, J) qui envoie J sur A ; on dira que le paramètre est régulier si le omplémentaire de l'union des intervalles réguliers d'ordre n a une mesure de Lebesgue exponentiellement petite en n. Lorsque le paramètre est régulier, on est à même de donner une desription satisfaisante de la dynamique de P. Considérons en effet la famille J des intervalles réguliers maximaux ontenus dans A ; ils sont d'intérieurs deux à deux disjoints, et leur union W est de mesure pleine dans A. On onstruit une appliatio de Bernoulli Τ : W A dont la restrition à un intervalle J e J d'ordre Nj, est Nj l'itéré. P Cette appliation est uniformément hyperbolique, et elle préserve une mesure sur A ayant une densité analytique par rapport à la mesure de Lebesgue. Pour revenir à P, il faut effetuer un hangement de temps, qui est ontrôlé par l'hypothèse de régularité sur le paramètre. Le point ruial est ensuite de montrer que la plupart des paramètres > -2, prohes de -2, sont réguliers (ils forment un ensemble de Cantor, dont la mesure de Lebesgue relative dans [-2, -2 + ε] tend vers 1 lorsque proède en deux étapes : εtend vers 0). On 1. on introduit une notion de paramètre fortement régulier, et on montre qu'un paramètre fortement régulier est régulier ; 2. on démontre que les paramètres fortement réguliers forment un ensemble de mesure positive (et même de grande mesure relative). La propriété d'être fortement régulier porte sur l'orbite du point ritique : s'agitde pouvoir itérer infiniment Τ le par premier retour du point ritique dans A, ave des branhes qui ne sont en moyenne pas trop ompliquées. Une analyse ombinatoire soigneuse permet alors d'obtenir l'estimation de mesure reherhée. Pour le deuxième point, on transfère ette estimation dans l'espae des paramètres un argument de grandes déviations permettant ensuite de onlure.
Dans la fin du ours, s'estefforé on d'étudier de façon similaire la famille des appliations de Hénon, lorsque le jaobien b est suffisamment petit. Pour le valeurs des paramètres onsidérées, l'appliation b, possède H deux points fixes, qui se trouvent sur la diagonale, et qu'on notera à nouveau β. On s'intéresse αet à l'ensemble Λ des points d'orbite (positive et négative) bornée ; 'est aussi l'ensemble des points dont l'orbite négative est ontenue dans [ β, le β] 2. arré La notion de retangle régulier joue ii le rôle des intervalles réguliers du unidimensionnel. Un tel retangle a des ôtés vertiaux qui sont des segments de la variété stable du point fixe α et des ôtés horizontaux qui s'envoient sous u itération onvenable sur des segments ontenus [-β, dans β] x {-3, +3}. L'ordre d'un retangle régulier est maintenant onstitué d'une paire d'entiers, essenti lement le nombre d'itérations positives et négatives néessaires pour revenir une taille marosopique. Il ne semble malheureusement pas simple de définir ii diretement la notion de paramètre régulier : la raison en est l'absene d'une mesure naturelle su l'attrateur Λ (la mesure de Lebesgue dans le as unidimensionnel) si l'on ne fait pas d'hypothèse sur les paramètres. On est don onduit à définir diretement la notion de paramètre fortement régulier. s'agità Il nouveau de ontrôler la réurrene du lieu ritique. Mais on se heurte ii à une autre diffiulté : le ritique n'est pas défini a priori, par une propriété loale portant sur une s itération de l'appliation. Ce lieu ritique n'est en fait préisément défini pour les paramètres fortement réguliers, en onsidérant une infinité d'itération un nombre fini d'itérations ne permet de le loaliser que de façon approximative Par ailleurs, e lieu est en fin de ompte un ensemble de Cantor, de petit dimension. On est don obligé de mettre en plae une proédure indutive plus ompliquée que dans le as unidimensionnel. L'objetif est à nouveau de onstruire une appliation T, dont le domaine est la réunion dénombrable et disjointe de retangles réguliers ouvrant l'essentiel de la partie Λ, entrale et dont de la restrition à haque retangle est un itéré approprié de H. L'appliation T jou d'une hyperboliité uniforme qui permet de onstruire une mesure invariante naturelle, dite mesure de Sinaï-Bowen-Ruelle. L'étude de l'espae des paramètres est assez semblable au as unidimensionnel, reposant sur un argument de grandes déviations. J.-C. Y. PUBLICATIONS Ave JaobPALIS, On the arithmeti sum of regular Cantor sets, Ann. Inst. Henri Poinaré, Vol. 14, n 4, 439-456 (1997). Ave StefanoMARMI et PierreMOUSSA, The Brjuno funtions and their regularity properties, Commun. Math. Phys. 186, 265-293 (1997).
CONFÉRENCES À L'ÉTRANGER Otobre 1996 février 1997 : ours hebdomadaire («Nahdiplomvorlesung») «Weakly hyperboli dynamis» ΤΗ à l'e de Zurih. 23 mai 1997 et 26 mai 1997 : une onférene à l'université M Gill (Beatty Leture) et une onférene à l'université de Montréal. 14 juillet-18 juillet : oorganisateur d'un olloque «Dynamishe Systemen» à Oberwolfah (Allemagne). 5 août-15 août : une onférene dans le adre du Congrès international de Systèmes dynamiques, IMPA, Rio de Janeiro, Brésil. 5 septembre : une onférene dans le adre du olloque «Siene, Nature et Soiété», Université de São Paulo, Brésil.