Cours introductif de M2 Algèbres de Lie semi-simples et leurs représentations

Transcription

1 Cours introductif de M2 Algèbres de Lie semi-simples et leurs représentations Jean-François Dat Résumé Dans ce cours, on étudie la structure des algèbres de Lie et de leurs représentations linéaires, principalement sur un corps algébriquement clos de caractéristique nulle. On sera amené à la jolie combinatoire des systèmes de racines. Table des matières 1 Algèbres de Lie et Groupes de Lie Algèbres de Lie Groupes de Lie L'algèbre de Lie d'un groupe de Lie Algèbres de Lie : généralités Modules et représentations Algèbre enveloppante d'une algèbre de Lie Forme de Killing. Opérateurs de Casimir Algèbres de Lie nilpotentes et résolubles Algèbres de Lie semi-simples Structure des algèbres de Lie semi-simples Sous-algèbres de Cartan et racines Systèmes de racines abstraits Classication des algèbres de Lie semi-simples Classication des systèmes de racines Représentations des algèbres de Lie semi-simples Modules de plus haut poids Classication des modules simples de dimension nie

2 1 Algèbres de Lie et Groupes de Lie Dans ce chapitre, nous commençons par les dénitions de base des algèbres de Lie, puis nous justions ces dénitions en expliquant comment elles proviennent de la notion naturelle de groupe de Lie. 1.1 Algèbres de Lie Soit K un corps commutatif Définition. Une K-algèbre de Lie est un K-ev L muni d'une application K- bilinéaire [, ] : L L L (X, Y ) [X, Y ] appelée crochet de Lie et satisfaisant les deux axiomes : i) [X, X] = 0 pour tout X L (ce qui équivaut à [X, Y ] = [Y, X] pour tous X, Y si car(k) 2). ii) [X, [Y, Z]] + [Y, [Z, X]] + [Z, [X, Y ]] = 0 pour tous X, Y, Z L. (identité de Jacobi) Remarque. Le rôle du second axiome est le même que celui de l'axiome d'associativité dans la dénition des algèbres associatives. Exemple. Tout K-ev muni du crochet nul! Voici quelques exemples moins triviaux Algèbre de Lie sous-jacente à une algèbre associative. Si A est une K-algèbre associative, alors [x, y] := xy yx dénit un crochet de Lie sur A (exercice). L'exemple le plus important ici est l'algèbre A = End K (V ) des endomorphismes K-linéaires d'un K-espace vectoriel V. Lorsque V est de dimension nie, tout choix de base fournit un isomorphisme avec M n (K). Pour une raison qui apparaitra plus tard, on note l'algèbre de Lie ainsi obtenue gl n (K), resp. gl(v ) Dérivations d'une algèbre. Soit A une K-algèbre associative. Une dérivation de A est un endomorphisme du K-espace vectoriel sous-jacent à A vériant la formule de Leibniz : (ab) = ( a)b + a( b). L'ensemble Der(A) des dérivations de A est un sousespace vectoriel de End K (A). Le composé de deux dérivations, n'est en général pas une dérivation (autrement dit, Der(A) n'est pas une sous-algèbre de l'algèbre associative End K (A)), mais [, ] := est encore une dérivation de A (exercice!). Ainsi, Der(A) est une sous-algèbre de Lie de l'algèbre de Lie gl(a). Exemple. Soit M une variété lisse (i.e. diérentiable de classe C, aussi appelée smooth manifold en anglais). On rappelle, cf tout cours de géo di de base, qu'un champ de vecteurs est une section lisse ξ : M T M du bré tangent de M (intuitivement, la 2

3 donnée pour tout x M d'un vecteur ξ(x) tangent à M en x et dépendant de manière C de x). Un tel champ de vecteurs dénit une dérivation de l'algèbre C (M, R) des fonctions lisses sur M qui envoie une fonction f sur la fonction x d x f(ξ(x)). On montre par un calcul local que l'application V(M) Der(C (M, R)) ainsi obtenue est bijective. Il s'ensuit que le R-espace vectoriel (de dimension innie) V(M) de tous les champs de vecteurs sur M est muni d'une structure de R-algèbre de Lie. De même, on dénit une dérivation d'une K-algèbre de Lie L comme un élément de End K (L) vériant ([X, Y ]) = [ X, Y ] + [X, Y ]. Ici encore, le sous-k-ev Der(L) n'est pas stable par produit (composition) mais est stable par crochet. C'est donc une sous-algèbre de Lie de l'algèbre de Lie gl(l) Exemple. Voici un exemple très important de dérivation d'une algèbre de Lie. Pour Z L, notons ad Z : L L X ad Z (X) := [Z, X]. Compte tenu de l'antisymétrie du crochet, l'identité de Jacobi nous dit exactement que ad Z est une dérivation de L Définition. Un morphisme d'algèbres de Lie est une application K-linéaire f : L L qui commute au crochet, ie X, Y L, f([x, Y ]) = [f(x), f(y )]. Exemple. La trace tr : gl(v ) K est un morphisme d'algèbres de Lie. (Sur K on met l'unique crochet de Lie possible, à savoir le crochet nul). Cas particulier remarquable : représentations. Un morphisme d'algèbres de Lie r : L gl n (K) est appelé représentation matricielle de L. Plus intrinsèquement, si V est un K-ev, un morphisme d'algèbres de Lie r : L gl(v ) est appelé représentation linéaire de L. On dit alors que V est l'espace de la représentation r. Voici un exemple très important Représentation adjointe d'une algèbre de Lie. L'identité de Jacobi montre que l'application ad : L gl(l) Z ad Z est un morphisme d'algèbres de Lie. On l'appelle représentation adjointe de L. Comme on l'a vu plus haut, son image est contenue dans la sous-algèbre de Lie des dérivations de L ; on a donc ad(l) Der(L) End K (L). 1.2 Groupes de Lie Définition. Un groupe de Lie est une variété lisse G munie d'une loi de groupe lisse m : G G G, (x, y) xy dont l'application passage à l'inverse i : G G, x x 1 est aussi lisse. 3

4 Exemples : tout groupe discret (disons dénombrable), le groupe additif (R, +), le groupe multiplicatif (R, ), son analogue complexe (C, ), et le cercle unité (S 1, ) Groupes généraux linéaires. Ce sont en quelque sorte les exemples fondamentaux de groupes de Lie. Nous les rencontrerons sous deux formes. Forme matricielle. G = GL n (R), muni de la structure C d'ouvert de M n (R) R n2. La multiplication (A, B) AB est polynômiale en les entrées de A et B, donc C. L'application inverse A A 1 = det 1 com(a) est analytique, donc en particulier A C. Forme intrinsèque. Si V est un R-espace vectoriel de dimension nie, GL(V ) := Aut R (V ). Bien sûr, si n est la dimension de V, un choix de base de V fournit une bijection GL(V ) GL n (R) qui est un isomorphisme de groupes de Lie au sens de la dénition suivante. De même, GL n (C) est naturellement un groupe de Lie, et si V est un C-espace vectoriel, alors GL(V ) := Aut C (V ) est un groupe de Lie Définition. Un morphisme de groupes de Lie (parfois on dira simplement morphisme lisse) est une application G ϕ G qui est lisse et commute aux lois de groupe. Exemples. Le déterminant det : GL n (R) R. L'exponentielle (R, +) exp (R >0, ) est un isomorphisme d'inverse le log. L'enroulement de la droite sur le cercle : θ (R, +) exp(2iπθ) S 1 est un diéomorphisme local surjectif. Les enroulements d'une droite sur le tore : θ (R, +) (exp(2iπθ), exp(2iπθα)) S 1 S 1. Si α R \ Q, c'est une immersion injective, mais pas un plongement car l'image est dense. Cas particuliers remarquables. Les morphismes λ : (R, +) G sont appelés (abusivement) sous-groupes à 1 paramètre. Un morphisme du type ρ : G GL(V ) est appelé représentation (linéaire) de G sur V. L'espace V est aussi appelé espace sous-jacent à la représentation ρ Variante holomorphe. Un groupe de Lie complexe est une variété complexe munie d'une structure de groupe telle que la multiplication et l'inverse sont holomorphes. Un morphisme de groupe de Lie complexe est un morphisme de groupe holomorphe. Par exemple, GL n (C) est un groupe de Lie complexe et l'exponentielle (C, +) (C,.). est un morphisme holomorphe Variante algébrique. Soit K un corps algébriquement clos, un groupe algébrique ane sur K est un sous-ensemble d'un K n déni par des équations polynomiales et muni d'une structure de groupe dont le produit et l'inverse sont des polynômes en les coordonnées. Par exemple GL n (K) est un groupe algébrique sur K. Par contre il n'y a généralement pas d'analogue algébrique de l'exponentielle. 4

5 1.2.6 Définition. Un sous-groupe de Lie H d'un groupe de Lie G est une sousvariété qui est aussi un sous-groupe. De manière équivalente, l'injection H G est un plongement de groupes de Lie. Exemples. H = Z dans G = R. H = S 1 dans G = C. Puisqu'il est sous-variété, un sous-groupe de Lie est localement fermé. En utilisant l'action de translation, il est facile de prouver qu'il est en fait fermé. Le théorème suivant donne une réciproque assez spectaculaire, qui est source de nombreux exemples Théorème. (Cartan, Von-Neumann) Tout sous-groupe fermé H d'un groupe de Lie G est un sous-groupe de Lie. Plus précisément, il existe une structure de groupe de Lie sur H (nécessairement unique) qui fait de H une sous-variété de G. Nous renvoyons aux notes [GALM2] pour une preuve. L'intérêt pratique de ce théorème est qu'il devient facile de produire plein de nouveaux exemples de groupes de Lie. La situation suivante est notamment féconde : supposons que G agisse de manière lisse sur une variété lisse M (i.e. que l'action G M M soit lisse). Alors le xateur G m d'un point m M est fermé, donc est un groupe de Lie. En particulier, tous les groupes classiques sont des groupes de Lie. Comme ce sont les exemples les plus intéressants, nous en rappelons la liste ci-dessous. La lettre K désigne indiéremment les corps R et C, et V désigne un K-espace vectoriel de dimension nie n Groupes spéciaux linéaires. Le déterminant GL(V ) GL 1 (K) étant un homomorphisme continu de groupes topologiques, son noyau SL(V ) est fermé donc un sousgroupe de Lie. On l'appelle groupe spécial linéaire de V. Un choix de base de V l'identie à SL n (K). Exercice. Le centre de SL n (K) est formé des homothéties de déterminant 1, donc il est isomorphe au groupe µ n (K) des racines n-ièmes de l'unité dans K (d'ordre n si K = C, d'ordre 1 ou 2 si K = R) Groupes orthogonaux. Notons Sym K (V ) le K-espace vectoriel des formes K- bilinéaires symétriques Φ : V V K. On a une action linéaire, donc continue, de GL(V ) sur Sym K (V ), donnée par gφ(v, w) := Φ(g 1 v, g 1 w). Le stabilisateur de Φ pour cette action est donc fermé dans GL(V ), donc un sous-groupe de Lie. On le note O(Φ) := {g GL(V ), Φ(gv, gw) = Φ(v, w), v, w V }. Si Φ est non-dégénérée, on l'appelle groupe orthogonal de Φ. Rappelons que deux formes quadratiques sont équivalentes si elles appartiennent à la même orbite sous GL(V ). Il s'ensuit que leurs groupes orthogonaux sont conjugués dans GL(V ), et en particulier isomorphes. Lorsque K = C, on sait que toutes les formes 5

6 quadratiques sont équivalentes, de sorte que O(Φ) est isomorphe au groupe orthogonal complexe usuel O(n, C) = {M M n (C), t MM = I n }. Lorsque K = R, le théorème de Sylvester arme l'existence d'un entier p n et d'une base e 1,, e n dans laquelle ( n ) n p n Φ x i e i, y i e i = x i y i x i y i. i=1 i=1 i=1 i=p+1 Le couple d'entiers (p, q := n p) s'appelle la signature de Φ. Ainsi O(Φ) est isomorphe au groupe matriciel O(p, q) := { M M p+q (R), t M.D p,q.m = D p,q } où D p,q = D(1,, 1, 1,, 1) est la matrice diagonale où 1 est répété p fois et 1 l'est q fois. Pour p = n et p = 0, on retrouve le groupe orthogonal euclidien O(n, 0) = O(n) qui, comme on le sait bien, est compact. Les autres groupes orthogonaux ne sont pas compacts. On a O(p, q) = O(q, p) et on montre que les O(p, q) pour q p sont deux à deux non isomorphes. Exemple. Pour la forme xx + yy + zz tt sur l'espace-temps R 4, on obtient ainsi le groupe de Lorentz O(3, 1) qui intervient dans la théorie de la relativité générale. Par ailleurs, on dénit les groupes spéciaux orthogonaux par SO(p, q) := O(p, q) SL p+q (R) Groupes unitaires. Ici K = C. Notons Herm(V ) le R-espace vectoriel des formes hermitiennes Ψ : V V C. On a une action linéaire, donc continue, de GL(V ) sur Herm(V ), donnée par gψ(v, w) := Ψ(g 1 v, g 1 w). Le stabilisateur de Ψ pour cette action est donc fermé dans GL(V ), donc un sous-groupe de Lie. On le note U(Ψ) := {g GL(V/C), Ψ(gv, gw) = Ψ(v, w), v, w V }. Si Ψ est non-dégénérée, on l'appelle groupe unitaire de Ψ. Comme dans le cas symétrique, deux formes hermitiennes sont équivalentes si elles sont dans la même orbite sous GL(V ). Dans ce cas, leurs groupes unitaires sont isomorphes et même conjugués. Ici aussi, les formes hermitiennes sont classiées par leur signature : le théorème de Sylvester arme l'existence d'un entier p n et d'une base e 1,, e n dans laquelle ( n ) n p n Ψ x i e i, y i e i = x i y i x i y i. i=1 i=1 i=1 i=p+1 Ainsi, posant q = n p, le groupe topologique U(Ψ) est isomorphe au groupe matriciel U(p, q) := { M M p+q (C), t M.D p,q.m = D p,q } 6

7 Pour pq = 0, on retrouve le groupe unitaire habituel U(n, 0) = U(n) qui, comme on le sait, est compact. Les autres groupes unitaires ne sont pas compacts. On a U(p, q) = U(q, p) et on montre que les U(p, q) pour q p sont deux à deux non isomorphes. Remarque. Les groupes U(1, n 1) jouent un rôle prépondérant dans des problèmes actuels de théorie des nombres. De même que précédemment, on a le groupe spécial unitaire SU(p, q) := U(p, q) SL p+q (C). Exercice. Déterminer les centres de U(n), SU(n), O(n), SO(n) Groupes symplectiques. À nouveau, K désigne R ou C. Notons Alt K (V ) le K-espace vectoriel des formes K-bilinéaires alternées ψ : V V K. On a une action linéaire, donc continue, de GL(V ) sur Alt K (V ), donnée par gψ(v, w) := ψ(g 1 v, g 1 w). Le stabilisateur de ψ pour cette action est donc fermé dans GL(V ), donc un sous-groupe de Lie. On le note Sp(ψ) := {g GL(V ), ψ(gv, gw) = ψ(v, w), v, w V }. Si ψ est non-dégénérée (on parle alors de forme symplectique), on l'appelle groupe symplectique de ψ. La dimension de V est alors nécessairement paire, et on change la notation en dim K (V ) = 2n. Comme plus haut, ce groupe ne dépend, à isomorphisme près, que de la classe d'équivalence de ψ. Or, on sait que toutes les formes symplectiques sont équivalentes. En particulier, il existe une base e 1,, e 2n de V dans laquelle on a ( n ) n n ψ x i e i, y i e i = (x i y n+i x n+i y i ). i=1 i=1 En d'autres ( termes, ) la matrice de ψ dans cette base est la matrice antisymétrique J = 0n I J 2n = n. On voit alors que Sp(ψ) est isomorphe au groupe symplectique I n 0 n i=1 Sp 2n (K) = {M GL 2n (K), t MJM = J}. Ainsi, Sp 2 (K) = SL 2 (K). Plus généralement, on démontre que le déterminant d'une matrice symplectique vaut toujours 1, de sorte que pour tout n, Sp 2n (K) est un sous-groupe fermé, non compact, de SL 2n (K). Exercice. Montrer que la partie réelle (resp. imaginaire) d'une forme hermitienne sur un espace vectoriel V/C est une forme R-bilinéaire symétrique (resp. alternée) sur le R- espace vectoriel sous-jacent Ṽ. En déduire que dans GL n(c) {P GL 2n (R), P 1 J 2n P = J 2n } GL 2n (R), on a U(n) = O(2n) Sp 2n (R). 7

8 Importance des groupes classiques. Ils interviennent dans des domaines assez variés. Géométrie. C'est leur domaine de prédilection. Ces groupes sont souvent des groupes de symétries d'espaces remarquables (sphères, hyperboloïdes...), et en tant que tels sont des modèles pour des géométries non-euclidiennes. Théorie des Nombres. Voilà une application un peu plus surprenante, mais depuis une centaine d'années, on étudie des espaces de fonctions, formes diérentielles etc sur des espaces de la forme G(Z)\G(R)/K où G est un groupe classique réel et K un sousgroupe compact maximal de G. Par exemple pour G = GL 1, on obtient les fonctions trigonométriques, pour G = GL 2 les formes modulaires, pour G général on parle de formes automorphes. Ces objets interviennent de manière cruciale dans la preuve du théorème de Fermat, par exemple. Physique. Le groupe de Lorentz de la relativité générale est O(1, 3). C'est le groupe associé à la géométrie de l'espace-temps. Certaines particules élémentaires sont classiées par des représentations irréductibles de SU(3). Les niveaux d'énergie d'un atome d'hydrogène sont donnés par les valeurs propres du Laplacien sphérique sur la sphère S 2, que l'on calculera plus tard en utilisant la décomposition spectrale de C (S 2 ) sous l'action de SO 3 (R). Remarque. Les groupes SL n (C), Sp 2n (C) et O n (C) sont des groupes de Lie complexes, et même algébriques. Le groupe U(n) n'est pas un groupe de Lie complexe (mais il est déni par des applications polynomiales sur R). 1.3 L'algèbre de Lie d'un groupe de Lie Il y a plusieurs manières de munir l'espace tangent T e G d'un groupe de Lie en son élément neutre d'une structure de R-algèbre de Lie Via les champs de vecteurs invariants à gauche. C'est probablement la plus rapide. L'idée est que tout vecteur tangent en e dénit, grâce à l'action de translation à gauche, un champ de vecteurs invariant à gauche, et que cette construction est bijective. Formellement, faisons agir G sur lui-même par translations à gauche, en notant L g (x) = gx. Ceci induit une action sur le bré tangent T G, compatible à la projection π, et que nous noterons (g, θ) L t g(θ). L'application T G G T e G θ (π(θ), L t π 1 (θ) (θ)) est un diéomorphisme compatible aux projections sur G, dont l'inverse est donné par G T e G T G (g, X) (g, d e L g (X)). 8

9 Le bré tangent de G est donc parallélisable. Soit alors X Lie(G) := T e G. On peut donc lui associer un champ de vecteurs invariant à gauche (ie tel que ξ(gh) = d h (L g )(ξ(h)) pour tous h, g G) ξ X par la formule : g G, ξ X (g) := d e L g (X). Soit V(G) le R-espace vectoriel des champs de vecteurs sur G et V(G) L le sous-espace des champs invariants à gauche. On voit clairement que l'application X ξ X est un isomorphisme R-linéaire T e G V(G) L dont l'inverse est ξ ξ(e). Maintenant, la dérivation associée à un champ de vecteurs invariant à gauche est aussi invariante à gauche, et un calcul montre que le crochet de deux dérivations invariantes à gauche est encore invariante à gauche. Cela dénit un crochet de Lie sur T e G Par diérentiation de la représentation adjointe de G. Pour un élément x G, on note Int x : G G y xyx 1 et Ad x := d e (Int x ) : T e G T e G. Puisque Int x Int x = Int xx, on a aussi Ad x Ad x = Ad xx, si bien que Ad x est inversible et que l'application Ad : G GL(T e G) x Ad x est un homomorphisme de groupes. Comme l'application G G G, (x, y) xyx 1 est lisse, l'application obtenue par diérentiation G T e G T e G, (x, Y ) Ad x (Y ) est lisse aussi, et par conséquent le morphisme Ad est lisse. On l'appelle représentation adjointe de G. Son espace sous-jacent est donc l'espace tangent en e. Comme GL(T e G) est un ouvert du R-espace vectoriel End R (T e G), on peut identier ce dernier à l'espace tangent en tout point de GL(T e G) et en particulier au point e. En diérentiant Ad au point e on obtient alors une application R-linéaire Il ne reste plus qu'à dénir le crochet par : ad := d e Ad : T e G End R (T e G) X ad X. [X, Y ] := ad X (Y ), pour X, Y T e G. Par construction, c'est bien une application bilinéaire L L L. Pour la vérication des axiomes i) et ii) des crochets de Lie, on renvoie à [GALM2] et Et pour la vérication que ce crochet coïncide avec le précédent, voir [GALM2] Propriétés. i) tout morphisme de groupes de Lie ϕ : G G induit un morphisme d'algèbres de Lie dϕ : Lie(G) Lie(G) par dérivation en l'élément neutre. ii) Lie(G G ) = Lie(G) Lie(G ) (clair). 9

10 iii) Lie(G) = Lie(G 0 ) (composante connexe contenant e). Exemples. i) L'algèbre de Lie d'un groupe discret est nulle. ii) Lie(R) = Lie(R ) = Lie(S 1 ) = R (muni du crochet nul). Plus généralement, le crochet de Lie d'un groupe de Lie abélien est nul. iii) Lie(GL n (R)) = gl n (R) (cf notation plus haut) et la représentation adjointe est donnée par la conjugaison. En eet, l'espace tangent en I n s'identie à M n (R). Soient x, y GL n (R) et supposons y = I n + Y avec Y < 1. L'égalité xyx 1 = I n + xy x 1 montre que Ad x est la conjugaison par x sur M n (R). Supposons x = I n + X avec X < 1. On a alors Ad x (Y ) = (I n + X)Y (I n X) + o(x) = Y + [X, Y ] + o(x), ce qui montre que ad X (Y ) = [X, Y ]. iv) Plus intrinsèquement, Lie(GL(V )) = gl(v ). Exercice. Montrer que la diérentielle du déterminant det : GL n (R) R est la trace tr : gl n (R) R L'exponentielle. La théorie des équations diérentielles sur une variété lisse montre qu'il existe une unique application exp G : Lie(G) G telle que pour tout X, l'application t R exp G (tx) soit un sous-groupe à un paramètre de G dont la diérentielle en 0 est X. Concrètement, ce sous-groupe à un paramètre est la courbe intégrale au champ de vecteurs ξ X passant par e, ou autrement dit, exp G (X) est la valeur au temps t = 1 et au point e G du ot du champs de vecteurs ξ X, cf [GALM2], 1.7. Exemple. Pour G = GL n (R), exp G est tout simplement l'exponentielle usuelle dénie par exp(x) = X n n N pour X gl n! n (R). L'unicité de l'exponentielle implique que si ϕ : G G est un morphisme lisse, on a exp G dϕ = ϕ exp G. En particulier, l'exponentielle d'un sous-groupe de Lie est la restriction de celle du groupe ambiant. La très forte interaction entre un groupe de Lie et son algèbre de Lie provient de la propriété suivante, qui découle aussi de la théorie des équations diérentielles dépendant d'un paramètre (ou peut se voir directement dans le cas de GL n (R) : l'application exp G est lisse et réalise un diéomorphisme d'un voisinage de 0 dans Lie(G) sur un voisinage de e dans G. De plus, l'image de exp G engendre la composante connexe G 0 de G qui contient e. 10

11 1.3.4 Algèbres de Lie classiques. Le théorème de Cartan-Von Neumann nous dit qu'un sous-groupe fermé H d'un groupe de Lie G est une sous-variété. C'est donc un groupe de Lie et son algèbre de Lie Lie(H) est une sous-algèbre de Lie de Lie(G), i.e. son crochet est induit par celui de Lie(G). Par ailleurs, l'exponentielle nous fournit la caractérisation suivante de Lie(H) en tant que sous-ensemble de Lie(G) : Lie(H) = {X Lie(G), t R, exp G (tx) H}. En appliquant cela à G = GL n (R) ou GL(V ), on peut calculer les algèbres de Lie des groupes classiques. Par exemple, l'égalité exp(tr(u)) = det(exp(u)) montre que sl(v ) := Lie(SL(V )) = {u gl(v ), tr(u) = 0}. Remarquons que c'est toujours un K-sev (pas seulement un R-sev). En termes matriciels, cela donne i) sl n (R) = {X gl n (R), tr(x) = 0} (matrices de trace nulle). Sa dimension est n 2 1. ii) sl n (C) = {X gl n (C), tr(x) = 0}. Sa dimension réelle est 2n 2 2. Par ailleurs, supposons G = {g GL(V ), Ψ(gv, gw), v, w V } déni par une forme bilinéaire non dégénérée Ψ (qu'elle soit symétrique, alternée ou hermitienne). En d'autres termes, si g désigne l'adjoint de g pour Ψ, on a G = {g GL(V ), gg = id V }. Comme exp(u) = exp(u ) (par passage à la limite), on constate que g = {u gl(v ), u + u = 0}. Notons d'ailleurs que c'est toujours un K-espace vectoriel, sauf dans le cas unitaire, où K = C mais g n'est qu'un R-espace vectoriel. En termes matriciels, cela donne : iii) so n (R) = Lie(O(n)) = Lie(SO(n)) = {X gl n (R), X + t X = 0} est l'ensemble des matrices antisymétriques. Sa dimension est n(n 1)/2. iv) so n (C) = Lie(O(n, C)) = {X gl n (C), X + t X = 0}. Sa dimension réelle est n(n 1). v) u n = Lie(U(n)) = {X gl n (C), X + t X = 0}. Par exemple, u 1 = ir gl 1 (C) = C. Sa dimension est n 2. vi) su n = Lie(SU(n)) = u n sl n (C). Sa dimension est n 2 1. vii) sp 2n (K) = Lie(Sp 2n (K)) = {X gl 2n (K), t XJ 2n + J 2n X = 0}. Pour calculer la dimension on remarque que t XJ 2n + J 2n X = 0 (J 2n X symétrique). On trouve que la dimension réelle est n(n + 1)/2 si K = R et n(n + 1) si K = C. Remarque. Les équations dénissant sl n, so n et sp 2n font sens sur n'importe quel corps K, nous fournissant ainsi des exemples d'algèbres de Lie sur un corps général. De plus, si l'on se donne une extension quadratique K de K, on peut aussi dénir une sous-k-algèbre de Lie u n (K /K) de gl n (K ) analogue à u n dans gl n (C). 11

12 1.3.5 Interaction entre un groupe de Lie et son algèbre. Voici quelques propriétés d'un groupe ou d'un morphisme de groupes de Lie qui se lisent sur son algèbre ou sur le morphisme d'algèbres de Lie induit. Un sous-groupe de Lie connexe H de G connexe est distingué si et seulement si Lie(H) est un idéal de Lie(G) (i.e. [Lie(H), Lie(G)] Lie(G)). Un sous-groupe de Lie connexe H de G connexe est central si et seulement si [Lie(H), Lie(G)] = 0. Si G est connexe, le noyau de la représentation adjointe est le centre de G. Soit ϕ : G G un morphisme de groupes de Lie. dϕ est surjective ϕ(g) G 0, Lie(Ker ϕ) = Ker(dϕ). En particulier, dϕ est injective Ker(ϕ) est discret, Si G est connexe, alors dϕ est bijective ϕ est un revêtement. Comme le montrent ces propriétés, le passage du groupe à son algèbre est plus intéressant lorsque le groupe est connexe (penser que l'algèbre de Lie d'un groupe ni est nulle...) et encore plus intéressant lorsqu'il est simplement connexe. Par exemple le théorème de [GALM2] dit : Théorème. Soient G, G deux groupes de Lie. L'application Hom Gp.Lie (G, G ) Hom R AL (Lie(G), Lie(G )) ϕ dϕ est : i) injective, si G est connexe. ii) bijective, si G est simplement connexe. Par ailleurs on peut montrer que toute R-algèbre de Lie de dimension nie provient d'un groupe de Lie. On a alors le corollaire impressionnant suivant : le foncteur G Lie(G) est une équivalence de catégories {Gpes de Lie simplement connexes} {R-algs de Lie de dim nie} Variantes complexes. Si G est un groupe de Lie complexe, Lie(G) est naturellement une C-algèbre de Lie. De plus, la diérentielle dϕ d'un morphisme holomorphe ϕ : G G est C-linéaire. 2 Algèbres de Lie : généralités 2.1 Modules et représentations Soit K un corps commutatif. En copiant la dénition d'un module sur une K-algèbre associative, on obtient la notion suivante 12

13 2.1.1 Définition. Un module sur une K-algèbre de Lie g (ou g-module) est un K- espace vectoriel V muni d'une application K-bilinéaire g V V (X, v) X v telle que [X, Y ] v = X (Y v) Y (X v) pour tous X, Y g et v V. En d'autres termes, en notant r(x) End K (V ) l'endomorphisme v X.v, le couple (V, r) est une représentation de g au sens donné plus haut. Il faut donc penser aux représentations comme aux analogues des modules sur une algèbre associative. Cela nous conduira souvent à simplier la notation en écrivant X v (ou même Xv) au lieu de r(x)(v) et à parler indiéremment de g-module ou de représentation de g. Exemple. La représentation adjointe n'est autre que le g-module g obtenu en faisant agir g sur elle-même à gauche, par le crochet : X.Y := [X, Y ] Catégories de représentations de g. Comme pour les algèbres associatives, un morphisme entre g-modules est une application linéaire qui commute aux actions de g. En termes de représentations, un morphisme entre (V, r) et (V, r ) est une application K- linéaire f : V V telle que X g, r (X) f = f r(x), ce qui en notation simpliée donne X g, v V, f(xv) = Xf(v). On note Hom g (V, V ) le K-e.v. formé par ces morphismes. On obtient une catégorie Rep K (g) (ou simplement Rep(g)), dont les objets sont les représentations et les morphismes sont comme ci-dessus. C'est en fait une catégorie abélienne et les noyaux, conoyaux et sommes directes commutent au foncteur d'oubli vers la catégorie des K-espaces vectoriels. En d'autres termes, si f : V V est un morphisme de représentations, alors son noyau (au sens des espaces vectoriels) est une sous-représentation de V (ou si l'on préfère, un sous g-module de V ), son image une sous-représentation de V, et son conoyau possède une unique structure de représentation rendant la projection depuis V compatible aux actions (représentation quotient). De même on dénit la somme directe de deux représentations comme la somme directe des espaces sous-jacents munie de l'action évidente de g. Exemple. Un idéal de g n'est autre qu'un sous g-module de g, ou encore une sousreprésentation de la représentation adjointe de g. On notera aussi Rep df (g) la sous-catégorie pleine de Rep(g) formée des représentations de dimension nies sur K Représentations de groupes de Lie et foncteur dérivation. La notion de g- module est inspirée du contexte des algèbres associatives. Si l'on utilise aussi la terminologie représentation, c'est en raison des liens qui les unissent aux groupes de Lie. Supposons, pour ce paragraphe, que K = R ou C. Si (V, ρ) est une représentation de G, on peut lui associer par dérivation une représentation (V, dρ) de Lie(G). De plus, si f : V V est un morphisme de représentations de 13

14 G, c'est aussi un morphisme des représentations de Lie(G) associées, puisque en dérivant au point g = e l'égalité f ρ(g) = ρ (g) f on trouve X Lie(G), f dρ(x) = dρ (X) f. On obtient ainsi un foncteur exact Rep df K(G) Rep df K(Lie(G)) (V, ρ) (V, dρ), qui est l'outil le plus important pour étudier les représentations de G. Proposition. Le foncteur dérivation ci-dessus est : i) pleinement dèle si G est connexe. ii) essentiellement surjectif (et donc une équivalence de catégories) si G est simplement connexe. Voir [GALM2], Remarque. Il est important ici de se limiter aux représentations de dimension nie. Il existe des représentations de dimension innie de sl 2 (C) qui ne s'intègrent pas à SL 2 (C). Les dénitions et constructions qui suivent sont parallèles à des dénitions et constructions concernant les représentations de groupes (et qui pour la plupart n'ont pas d'analogues chez les modules sur une algèbre associative). Il parait donc intéressant de traiter les deux contextes en parallèle Représentations triviales, unités, vecteurs invariants. Soit V l'espace vectoriel d'une représentation d'un groupe G ou d'une algèbre de Lie g. On note (groupes) : V G := {v V, g G, gv = v} le s.e.v. des vecteurs invariants sous G. (algèbres) : V g := {v V, X g, Xv = 0} le s.e.v. des vecteurs annulés par g. Remarque. Si (V, ρ) est une représentation d'un groupe de Lie G connexe, on montre facilement que V Lie(G) = V G. Une représentation V de G, resp. de g, est dite triviale si V = V G, resp. si V = V g. La représentation unité de G, resp. g, est l'espace vectoriel K muni de la représentation triviale. On la note simplement K en l'absence d'ambiguïté Produit tensoriel, contragrédiente, Hom interne. Soient V, V deux K-espaces vectoriels sous-jacents de représentations ρ, ρ d'un groupe, ou r, r d'une algèbre de Lie g. i) On munit V K V de la représentation produit tensoriel dénie par : (groupes) g ρ(g) ρ (g), ou encore g(v v ) := gv gv, v V, v V. (algèbres) X r(x) id V + id V r (X), ou encore X(v v ) := Xv v + v Xv, v V, v V. Exercice. Vérier que la seconde dénition fournit bien une représentation de g, puis vérier que lorsque G est un groupe de Lie, la dérivée de ρ ρ est bien dρ id + id dρ. 14

15 Exercice. Si V = K est la représentation unité, vérier que V K K V (ceci expliquant la terminologie représentation unité). Remarque. Il n'y pas de notion de produit tensoriel de A-modules, pour une algèbre associative A quelconque. ii) On munit Hom K (V, V ) de la représentation Hom interne dénie par (groupes) (g, f) ρ (g) f ρ(g 1 ), ou encore : (gf)(v) := gf(g 1 v), v V. (algèbres) (X, f) r (X) f f r(x), ou encore : (Xf)(v) := Xf(v) f(xv), v V. On notera Hom K (V, V ) cette représentation Hom-interne (avec un H). Exercice. Vérier que ces formules dénissent bien des représentations, et que la dérivée du Hom interne pour un groupe de Lie G est le Hom interne pour Lie(G). Remarque. On a Hom G (V, V ) = Hom K (V, V ) G et Hom g (V, V ) = Hom K (V, V ) g. iii) Un cas particulier important du ii) est lorsque V = K est la représentation unité. Dans ce cas on note simplement V := Hom K (V, K) et on l'appelle contragrédiente (ou aussi duale) de V. Le produit tensoriel et le Hom interne sont liés de la manière suivante : Lemme. Si V et V sont de dimension nie, le morphisme V K V Hom K (V, V ) qui envoie v v sur le morphisme (v, v ) v, v v est un isomorphisme de représentations. Démonstration. Exercice Réduction des représentations. Une représentation V (d'un groupe ou d'une algèbre de Lie) est dite : irréductible si ses seules sous-représentations sont {0} et V. complètement réductible si elle est somme directe de sous-représentations irréductibles. indécomposable si elle n'est pas somme directe de deux sous-représentations. Exemple. (Le cas g = K) Supposons g de dimension 1, et soit X g. Une représentation (V, r) de g est alors déterminée par l'endomorphisme r(x) End K (V ). Lorsque K est algébriquement clos, on voit que : V est irréductible si et seulement si dim K (V ) = 1 (existence de droites propres.) V est complètement réductible si et seulement si r(x) est diagonalisable. V est indécomposable si et seulement si dans la décomposition de Jordan r(x) = r(x) s + r(x) n, l'ordre de nilpotence de r(x) n est la dimension de V (et r(x) s est alors une homothétie). En d'autres termes, r(x) a un seul bloc de Jordan. Par contre, lorsque K n'est pas algébriquement clos, une représentation irréductible de g peut être de dimension > 1. Par exemple pour K = R, celle de dimension 2 donnée par r(x) = ( ). 15

16 Remarque. Si (V, ρ) est une représentation de dimension nie d'un groupe de Lie connexe G, alors (V, ρ) est irréductible, resp. indécomposable, resp. complètement réductible, si et seulement si (V, dρ) l'est. Exercice. Montrer que V est irréducible, indécomposable ou complètement réductible si et seulement si V l'est. On voit facilement par récurrence descendante sur la dimension que toute représentation de dimension nie est somme directe de sous-représentations indécomposables. Ainsi, comprendre la catégorie Rep df (G) ou Rep df (g) nécessite a priori de classier les représentations indécomposables. Dans l'exemple ci-dessus, elles sont classiées par la dimension et l'unique valeur propre de X. Mais en général, ce problème peut devenir trop dicile, voire sans espoir, par exemple pour l'algèbre de Lie abélienne (i.e. avec crochet nul) g = K 3 (pour laquelle une représentation revient à se donner 3 endomorphismes commutant 2 à 2 d'un espace V ). Les choses se simplient beaucoup si l'on sait que les représentations de G ou de g sont toutes complètement réductibles. Dans ce cas, l'application du lemme de Schur ci-dessous montre qu'il sut de classier les irréductibles, et cela s'avère souvent plus facile Lemme de Schur. Soit f : V V un morphisme de représentations irréductibles. Si f est non nul, on a Ker(f) V donc Ker(f) = 0 par irréducibilité de V, et de même Im(f) 0 donc Im(f) = V par irréductibilité de V. Ainsi, f est soit nul, soit inversible. En particulier, si V est irréductible de dimension nie, End g (V ) est une K-algèbre à division de dimension nie. Lorsque K est algébriquement clos, cela implique End g (V ) = K (lemme de Schur). Application. Une représentation complètement réductible V s'écrit de manière unique (à l'ordre près) sous la forme V = V e 1 1 Vr er avec V 1,, V r des représentations irréductibles 2 à 2 non isomorphes. En eet, on retrouve la multiplicité e i par la formule e i = dim K (Hom g (V i, V ))/ dim K (End g (V i )). Remarque. Pour une représentation qui n'est pas complètement réductible, il existe aussi un résultat d'unicité de décomposition en somme directe d'indécomposables, connu sous le nom de théorème de Krull-Schmidt-Azumaya. Sa preuve est plus délicate et nous n'en aurons pas besoin. On pourra consulter un des livres de theorie des représentations de Curtis et Reiner Nous verrons plus tard que cette propriété de complète réductibilité est satisfaite pour les algèbres de Lie semi-simples sur un corps de caractéristique nulle. En attendant, familiarisons-nous avec cette notion. Lemme. Pour une représentation V, les propriétés suivantes sont équivalentes : i) toute sous-représentation W de V admet un supplémentaire stable (donc une sousreprésentation) W W = V. 16

17 ii) V est complètement réductible, iii) V est somme de ses sous-représentations irréductibles. Démonstration. i) ii). Par récurrence sur la dimension de V. Si V est irréductible (donc en particulier si dim(v ) = 1) il n'y a rien à faire. Sinon, prenons une sous-représentation W de V de dimension > 0 minimale. Elle est donc irréductible et, par hypothèse, admet un supplémentaire stable V. Montrons que V satisfait encore i). Soit W V une sousreprésentation, et soit W un supplémentaire stable de W W dans V. Alors sa projection sur V (le long de W) est un supplémentaire stable de W dans V. Ainsi V satisfait i) et par hypothèse de récurrence, V est somme directe d'irréductibles. Donc V = W V aussi. ii) iii) est tautologique. iii) i). Montrons que W V admet un supplémentaire stable par récurrence sur la codimension de W. Si la codimension est nulle il n'y a rien à faire. Sinon, il existe (par hypothèse) une représentation irréductible U de V telle que U W, et donc W U = {0}. L'hypothèse de récurrence appliquée à W U nous fournit W 1 supplémentaire de W U et il n'y a plus qu'à poser W := U W 1. Voici un exemple de situation de complète réductibilité. Exemple. Supposons que K = C. Soit V une représentation munie d'un produit scalaire hermitien invariant au sens suivant : (groupes) v, v V, g G, gv, gv = v, v (algèbres) v, v V, X g, Xv, v + v, Xv = 0. Alors V est complètement réductible. En eet, si W V un sous-espace stable, alors son orthogonal W = {v V, w W, v, w = 0} est en somme directe W W (puisque, est déni positif) et est stable. Exercice. Soit G un groupe ni, V une représentation de G et.,. un produit hermitien sur V. Montrer que la formule (v, w) := 1 G g G gv, gw dénit un produit hermitien G-invariant. En conclure que toute représentation complexe d'un groupe ni est complètement réductible Représentations d'un produit. Soient G, G deux groupes, ou g, g deux algèbres de Lie. Si W est une représentation complexe de G, resp. g, et W une représentation de G, resp. g, on munit W K W de la représentation (g, g )(v v ) := (gv, gv ) de G G, resp. (X, X )(v v ) := Xv v + v X v de g g. Proposition. Supposons K algébriquement clos. Dans chacune des deux situations (groupes ou algèbres), on a : i) Si W et W sont irréductibles, alors W K W l'est aussi (pour le produit!). ii) Toute représentation irréductible V de G G, resp. g g, est de la forme W K W comme ci-dessus. iii) Si W et W sont complètement réductibles, alors W K W aussi. 17

18 Démonstration. Nous traitons le cas des algèbres de Lie. Celui des groupes est totalement analogue. Commençons par une construction générale. Si W Rep(g) et V Rep(g g ), on munit Hom g (W, V ) de la représentation de g dénie par (X f)(w) := X f(w) (c'est une variante de la construction Hom interne). On a alors une application d'évaluation : ev W,V : W K Hom g (W, V ) V w f f(w). On vérie aisément que c'est un morphisme de représentations de g g (exercice : le vérier!). Supposons maintenant que V et W sont irréductibles, et que W est isomorphe à une sousreprésentation irréductible de V g. Dans ce cas, ev W,V est non nulle, et donc surjective. Soit n := dim K (Hom g (W, V )). On a donc une surjection W n V, qui montre que V est complètement réductible en tant que g-module, et isomorphe à W e pour un e n. Mais alors, puisque K est algébriquement clos, le lemme de Schur nous dit que n = e, et nalement on a montré que ev W,V est un isomorphisme. Il s'ensuit aussi que W := Hom g (W, V ) est un g -module irréductible et que, en tant que g -module, on a V W n où n = dim K (W ). On a donc prouvé ii). On en déduit aussi i) en appliquant ceci à une sous-représentation irréductible non nulle de W K W. Il reste à prouver iii). Mais si W = i W i et W = j W j avec les W i et les W j irréductibles, alors W W = i,j W i W j est une décomposition en somme d'irréductibles Représentations irréductibles de g = sl 2 en caractéristique nulle. À titre d'exemple, mais surtout parce que les techniques et résultats intermédiaires utilisés seront fondamentaux pour notre étude ultérieure des algèbres de Lie semi-simples, nous classi- ons ici les représentations irréductibles de sl 2, sous l'hypothèse que K est algébriquement clos de caractéristique nulle. Rappelons que sl 2 est de dimension 3. On utilisera la base (E, H, F ) suivante : E = ( ), H = ( ), F = ( Le crochet de g := sl 2 y est déterminé par les formules suivantes : [H, E] = 2E, [H, F ] = 2F, [E, F ] = H. Si (V, r) est une représentation de g = sl 2 et λ K, on notera V λ := Ker(r(H) λ id V ). Si V λ 0, c'est l'espace propre de la valeur propre λ de r(h). On dit alors que λ est un poids de H dans V. Lemme. Soit (V, r) une représentation de g et λ K un poids de H dans V. Alors r(e)v λ V λ+2 et r(f )V λ V λ 2. Démonstration. Soit v V λ. On a HEv = EHv + [H, E]v = λev + 2Ev = (λ + 2)Ev. De même HF v = (λ 2)F v. 18 ).

19 Proposition. Pour tout entier m N, il existe une unique (à isomorphisme près) représentation irréductible (V m, r m ) de g de dimension m + 1. De plus, les poids de H dans V m sont { m, m + 2,, m 2, m}. Démonstration. i) Montrons d'abord l'unicité. Soit V une représentation irréductible de dimension nie de g. Comme K est algébriquement clos, l'ensemble des poids de V est non vide. Comme cet ensemble est aussi ni et K est de caractéristique nulle, il existe un poids λ 0 tel que λ ne soit pas un poids. Soit v 0 V λ0 non nul. D'après le lemme précédent, on a alors EV λ0 = 0. Posons v k := 1 F k v k! 0 et W = Vect K {v k, k N} l'espace engendré par les v k. Par construction, cet espace est stable par F, et puisque les v k sont vecteurs propres de H (lemme précédent), il est aussi stable par H. Montrons qu'il est stable par E. On a vu que Ev 0 = 0. Pour k > 1, on a Ev k = 1 k EF v k 1 = 1 k (F Ev k 1 + [E, F ]v k 1 ) = 1 k (F Ev k 1 + (λ 0 2k + 2)v k 1 ). Ceci nous permet de montrer par récurrence que Ev k = (λ 0 k + 1)v k 1. On en conclut que W est une sous-représentation non nulle de V, donc par irréductibilité, que W = V. Les v k non nuls sont linéairement indépendants, puisque associés à des valeurs propres 2 à 2 distinctes de H, d'où une base v 0,, v m de V, en posant m = dim K (V ) 1. Pour déterminer λ 0, on remarque que puisque H = [E, F ], on doit avoir tr(r(h)) = 0. Or, tr(r(h)) = λ 0 + (λ 0 2) + + (λ 0 2m) = (m + 1)λ 0 m(m + 1). Il vient λ 0 = m et nalement les poids sont bien ceux annoncés. ii) Il faut maintenant vérier l'existence. Pour cela, il sut de vérier que les matrices de M m+1 (K) suivantes : m+1 H m := (m 2i + 2)E i,i, E m := i=1 m (m i + 1)E i,i+1, et F m := i=1 m i=1 ie i+1,i satisfont les relations [H m, E m ] = 2E m, [H m, F m ] = 2F m et [E m, F m ] = H m. Après quoi il ne reste qu'à poser r m (H) := H m, r m (E) := E m et r m (F ) := F m. Remarque. En petite dimension, on reconnait des représentations familières : (V 0, r 0 ) est la représentation unité de g. (V 1, r 1 ) est la représentation standard donnée par l'inclusion g gl 2 (K). (V 2, r 2 ) est la représentation adjointe g gl(g K ) gl 3 (K). En général, on peut montrer que (V m, r m ) Sym m (V 1, r 1 ), la puissance symétrique m-ème (V 1, r 1 ) dont l'espace sous-jacent est Sym m (V 1 ) = (V 1 V 1 V 1 ) Sm et l'action de g est quotient de la représentation produit tensoriel. Remarque. La représentation (V m, r m ) est appelée représentation irréductible de plus haut poids m. Notons que les seules propriétés de la base E, H, F qui entrent dans la preuve sont les formules [H, E] = 2E, [H, F ] = 2F et [E, F ] = H. Toute autre base 19

20 (E, H, F ) vériant ces propriétés est conjuguée à (E, H, F ) sous l'action de GL 2 (K). En eet, les formules du ii) de la preuve ci-dessus appliquées à la représentation standard nous fournissent une base v 0, v 1 de K 2 dans laquelle les matrices de (E, H, F ) sont justement E, H, F. r Exercice. i) Montrer que l'application K-linéaire sl 2 (K) End K (K[x, y]) dénie par r(h) = x y, r(e) = x et r(f ) = y est une représentation de sl x y y x 2(K). ii) Soit P m := {f(x, y) K[x, y], homogènes de degré m}. Montrer que P m est stable par sl 2 (K) et que la représentation (P m, r) ainsi obtenue est isomorphe à la représentation (V m, r m ), irréductible de plus haut poids m. 2.2 Algèbre enveloppante d'une algèbre de Lie Ici (comme ailleurs), toutes les K-algèbres associatives sont supposées unitaires. Rappelons qu'une telle algèbre associative peut être vue comme une K-algèbre de Lie avec pour crochet [a, b] = ab ba Théorème. Soit g une K-algèbre de Lie. Il existe une paire (Ug, ι) formée d'une K-algèbre associative Ug et d'un morphisme d'algèbres de Lie g Ug. satisfaisant la propriété universelle suivante : pour toute K-algèbre associative A, l'application Hom K alg (Ug, A) Hom K ALie (g, A), f f ι est bijective. La propriété universelle assure l'unicité, à isomorphisme unique près, de la paire (Ug, ι). Pour ceux qui aiment les catégories, on peut paraphraser le théorème en disant, au choix, que pour toute g, le foncteur A Hom K ALie (g, A) est représentable. le foncteur qui à une algèbre associative associe son algèbre de Lie sous-jacente possède un adjoint à gauche. Cette formulation parait plus forte car elle inclut la fonctorialité de g Ug, mais elle est en fait équivalente. Démonstration. Considérons T g = n N T n g où T n g = g n = g K g K K g. On munit ce K-espace vectoriel du produit de concaténation, qui envoie T n G T m G dans T n+m G et qui est donné sur les tenseurs élémentaires par (x 1 x n )(y 1 y m ) = x 1 x n y 1 y m. On obtient ainsi une K-algèbre associative graduée T g, appelée algèbre tensorielle de g. Noter que cette construction ne dépend en fait que du K-ev sous-jacent à g, et s'applique à n'importe quel K-ev. L'algèbre T g, munie de l'application g = T 1 g T g possède la propriété universelle suivante : pour toute K-algèbre associative A, l'application Hom K alg (T g, A) Hom K (g, A) est bijective. En d'autres termes, le foncteur V T V est adjoint à gauche du foncteur qui à une algèbre associe son espace vectoriel sous-jacent. La véri- cation de ceci est facile mais on ne donne pas de détails, voir tout livre d'algèbre (Lang par exemple). 20

21 Considérons maintenant l'idéal bilatère I engendré par les éléments de la forme x y y x [x, y] T 2 g. Noter que ce n'est pas un idéal homogène. Posons enn Ug := T g/i. C'est une algèbre associative, non graduée, mais tout de même ltrée : si Ug n est l'image de T n g, alors Ug n Ug m Ug n+m. Par construction, on a Hom K alg (Ug, A) = {f Hom K alg (T g, A), x, y g, f(x)f(y) f(y)f(x) = f([x, y])}. La propriété universelle annoncée pour Ug munie de ι : g T g Ug découle donc de celle de T g. Application. Si (V, ρ) est une K-représentation de g, le morphisme ρ : g gl(v ) provient d'un (unique) morphisme d'algèbre Ug End K (V ) qui fait de V un Ug-module à gauche. On obtient ainsi une équivalence de catégories Rep(g) = g Mod Ug Mod entre la catégorie des g-modules à gauche et celle des Ug-modules à gauche. Notamment les représentations irréductibles de g correspondent aux modules simples de Ug. Exemples. Remarquons d'abord que Ugl n (K) M n (K)!!! Par exemple pour n = 2, l'élément E = E 12 est nilpotent d'ordre 2 dans M 2 (K). Mais dans la représentation V m qu'on a construite plus haut, son image est nilpotente d'ordre m + 1, ce qui implique, puisque m est arbitraire, que dans Ugl 2, son image n'est pas nilpotente du tout! En fait, Ug est de dimension innie en général. i) g = K. On vérie que Ug = K[T ] avec g = K K.T convient. ii) g abélienne. Dans ce cas, l'idéal par lequel on quotiente T g est engendré par les x y y x. L'algèbre obtenue est l'algèbre symétrique Sg = n N Sn g, qui est commutative et graduée, et dont la construction s'applique à tout K-ev. Le foncteur V SV est adjoint à gauche du foncteur qui à une algèbre commutative associe son e.v. sous-jacent. On a S n g = (T n g) Sn (coinvariants sous le groupe symétrique). Tout choix de base de g induit un isomorphisme Sg K[T 1,, T dimg ]. iii) g = sl 2 (K). On peut donner la présentation suivante : Usl 2 est l'algèbre associative de générateurs e, f, h soumis aux relations he eh = 2e, hf fh = 2f et ef fe = h. Lorsque K est de caractéristique diérente de 2, elle contient un élément remarquable, l'opérateur de Casimir donné par C := ef + fe h2. Exercice. g désigne encore sl 2 et car(k) 2. (a) Montrer que C commute à e, f, h, et donc appartient au centre de Ug. 21

22 (b) Si K est algébriquement clos, en déduire que C agit par un scalaire sur chaque représentation irréductible. (c) Montrer que ce scalaire, sur la représentation V m est λ m = 1 m(m + 2). 2 (d) Montrer que l'action de C sur K[x, y] (comme dans le dernier exercice de 2.1) est donnée par (x + y ) + 1(x + y x y 2 x y )2 et retrouver le scalaire précédent Algèbre enveloppante et opérateurs diérentiels. Pour une variété lisse M, notons Diff(C (M)) l'algèbre (associative) des opérateurs diérentiels de M, ie la sous-r-algèbre de End R (C (M)) engendrée par les dérivations. Un opérateur diérentiel est donc localement combinaison linéaire d'opérateurs de la forme f r x r 1 avec f fonction C. 1 x rn n Supposons maintenant que g = Lie(G) est l'algèbre de Lie d'un groupe de Lie G (et donc K = R), et considérons la sous-algèbre Diff(C (G)) L des opérateurs diérentiels invariants à gauche. La propriété universelle de ULie(G) nous permet d'étendre l'application X Lie(G) ξ X Vec(G) L en un morphisme d'algèbres ULie(G) Diff(C (G)) L. On peut montrer que ce morphisme est un isomorphisme Algèbres de Lie libres. Soit I un ensemble. Une K-algèbre de Lie L munie d'éléments (X i ) i I est appelée algèbre de Lie libre sur I si pour toute K-algèbre de Lie g, l'application ( ) Hom K ALie (L, g) g I = Hom Ens (I, g), f (f(x i )) i I est bijective. Il revient au même de dire que (L, (X i ) i I ) est un objet initial dans la catégorie des paires formées d'une K-algèbre de Lie et d'une famille d'éléments indexée par I. Vu l'universalité de la condition, une algèbre de Lie libre sur I est unique à isomorphisme unique près. Montrons son existence. Notons V := i I KX i un espace vectoriel de base (X i ) i I. L'algèbre tensorielle T V est visiblement une algèbre associative libre sur I (avec une dénition semblable à ci-dessus). En particulier, pour toute K-algèbre de Lie g, l'application Hom K Alg (T V, Ug) Ug I = Hom Ens (I, Ug), f (f(x i )) i I est bijective. Dénissons L comme la sous-algèbre de Lie de T V engendrée par les éléments (de degré 1) X i, i I. L'application ( ) est alors clairement injective (puisque les X i engendrent L). Pour voir la surjectivité, on admet temporairement que g Ug est injective (voir prochain paragraphe), et on identie g à une sous algèbre de Lie de Ug. Partons d'éléments (Y i ) i I dans g Ug et considérons le morphisme d'algèbres associé par la bijection précédente f : T V Ug. Alors f(v ) g donc f(l) g et f(x i ) = Y i comme voulu. Exercice. Montrer que l'algèbre enveloppante de l'algèbre de Lie libre sur I est l'algèbre associative libre sur I. 22

23 2.2.4 Théorème de Poincaré-Birkho-Witt. Revenons à la surjection π : T g Ug. C'est un morphisme d'algèbres associatives ltrées, si l'on munit T g de la ltration T g m := k m T k g et Ug de la ltration image. En passant aux gradués associés, on obtient donc un morphisme d'algèbres graduées, encore surjectif, gr π : T g gr(t g) := T g k /T g k 1 gr(ug) := Ug k /Ug k 1. k N k N Puisque pour x, y g on a π(x y y x) = π([x, y]), on a aussi gr π(x y) = gr π(y x). Il s'ensuit que gr π se factorise par l'algèbre symétrique (cf exemple ii) ci-dessus) en un morphisme surjectif d'algèbres graduées Sg gr(ug), et en particulier que gr(ug) est commutative. Théorème. (PBW, première formulation) Le morphisme Sg gr π gr(ug) ci-dessus est injectif. C'est donc un isomorphisme de K-algèbres graduées. Nous ne démontrons pas ce théorème ici, faute de temps (voir par exemple le livre de Carter ou celui de Humphreys). Voici un exemple de conséquence intéressante. Corollaire. i) L'application ι : g Ug est injective. ii) Pour toute sous-algèbre h g, le morphisme Uh Ug associé est injectif. Noter que, lorsque g est de dimension nie, le i) découle aussi du théorème d'ado qui dit que g se plonge dans un gl(v ) et donc dans End K (V ). Voici maintenant une formulation plus concrète, mais moins précise, du théorème précédent, dans le cas où g est de dimension nie. Théorème. (PBW, deuxième formulation) Soit x 1,, x n une base de g sur K Alors les monômes de la forme x i1 x i2 x ik avec i 1 i 2 i k forment une base de Ug sur K. On peut donner un énoncé analogue en dimension innie en choisissant une base totalement ordonnée de g Structure de bigèbre. Terminons par la remarque suivante, qui montre qu'une algèbre enveloppante possède plus de structure que celle d'algèbre associative. Considérons l'application g Ug K Ug qui envoie x sur ι(x) ι(x). On peut montrer que c'est un morphisme d'algèbres de Lie (exercice). Il induit donc un morphisme d'algèbres : Ug Ug K Ug. On peut alors montrer l'identité ( id) = (id ) (axiome de coassociativité). On dit que est un coproduit, et que Ug est une bigèbre (et même une algèbre de Hopf). Nous n'en ferons rien de plus ici, mais ce point de vue est fondamental dans la théorie des groupes quantiques. Ces derniers ne sont pas vraiment des groupes, mais plutôt des déformations d'une algèbre enveloppante classique. 23

24 2.3 Forme de Killing. Opérateurs de Casimir Définition. Soit g une K-algèbre de Lie. Une forme K-bilinéaire B sur g est dite invariante si B(ad Z (X), Y ) + B(X, ad Z (Y )) = 0 pour tous X, Y, Z g. Exemple. Le paradigme de forme bilinéaire invariante est la forme (X, Y ) tr(xy ) sur gl n (K). Cela donne un moyen d'en constuire plein d'autres : pour toute représentation r : g gl(v ), la forme bilinéaire B r (X, Y ) := tr(r(x)r(y )) sur g est invariante. Propriété. Si B est une forme bilinéaire invariante sur g et h g est un idéal de g, alors son orthogonal h = {X g, Y h, B(X, Y ) = 0} est aussi un idéal de g. En particulier, g est un idéal de g. Forme de Killing. La forme de Killing B ad sur g est la forme bilinéaire invariante associée à la représentation r = ad comme ci-dessus. On a donc B ad (X, Y ) = tr(ad X ad Y ) Lemme. Si h est un idéal 1 de g, alors la forme de Killing de h est la restriction à h de la forme de Killing de g. Démonstration. Pour X, Y h, on a ad X ad Y (g) h. Donc tr(ad X ad Y g) = tr(ad X ad Y h) Formes bilinéaires invariantes non dégénérées. Supposons maintenant donnée une forme bilinéaire B non dégénérée sur g. On lui associe un élément de l'algèbre enveloppante C B Ug, appelé opérateur de Casimir, et déni par n C B = X i Xi i=1 où X 1,, X n désigne une base de g et X 1,, X n désigne la base duale pour la forme non dégénérée B. Lemme. Cette dénition ne dépend pas du choix de la base. Démonstration. Soit en eet Y 1,, Y n une autre base de g. On a Y i = k B(Y i, Xk )X k et Yi = l B(Y i, X l )Xl. D'où Y i Yi = ( ) B(Y i, Xk)B(Y i, X l ) X k Xl i k,l i = ( ( )) B Y i B(Yi, X l ), Xk X k Xl = B(X l, Xk)X k Xl = C B k,l i k,l 1. Attention ce n'est pas vrai si h est simplement une sous-algèbre de Lie 24

25 Exemple. g = gl n (K) et B la forme bilinéaire standard dénie par (X, Y ) tr(xy ). Elle est non dégénérée et la base duale de la base canonique (E ij ) i,j est donnée par E ij = E ji. Exemple. Soit g = sl 2 (K), et B = B std la forme bilinéaire standard dénie par (X, Y ) tr(xy ). Lorsque car(k) 2, on vérie aisément qu'elle est non dégénérée et que la base duale de la base (E, H, F ) est (F, 1 H, E). On retrouve l'opérateur C = 2 EF H2 + F E introduit plus haut. Exercice. i) Vérier que (X, Y ) tr(xy ) est non dégénérée sur gl n (K) et sur les algèbres de Lie classiques (so, sl, sp). ii) (K = R ou C). Montrer que pour toute sous-algèbre de Lie g de gl n (R) stable par transposition, la forme bilinéaire (X, Y ) tr(xy ) est non dégénérée. On a vu dans un exercice que la vertu de l'opérateur de Casimir de sl 2 était d'appartenir au centre de Usl 2. Plus généralement : Proposition. L'opérateur C B appartient au centre de Ug. Démonstration. Il sut de montrer qu'il commute à tout X g. Or on a XC B C B X = i = i = i,k (XX i Xi X i Xi X) = ([X, X i ]Xi X i [Xi, X]) i (B([X, X i ], Xk)X k Xi B(X k, [Xi, X])X i Xk) k (B([X, X k ], X i ) + B(X k, [X, X i ]))X i X k = 0 par invariance de la forme bilinéaire B. Comme dans le cas de sl 2, une conséquence intéressante est que sur toute représentation (V, r) de g, l'élément C induit un opérateur r(c) = i r(x i)r(x i ) qui commute à l'action de g. En particulier, si V est irréductible et si K est algébriquement clos (K = C par exemple), alors r(c) est une homothétie, par le lemme de Schur. 2.4 Algèbres de Lie nilpotentes et résolubles Soit g une K-algèbre de Lie. Pour deux idéaux h 1, h 2 de g, on dénit [h 1, h 2 ] = {K-esp.vect. engendré par les [x 1, x 2 ], x 1 h 1, x 2 h 2 }. C'est encore un idéal de g, d'après l'identité de Jacobi. Exemple. (idéal dérivé) L'idéal [g, g] est appelé idéal dérivé de g. Il est nul si et seulement si g est abélienne. En général, il est contenu dans tout morphisme de g vers une algèbre de Lie abélienne, si bien que g ab := g/[g, g] est le plus grand quotient abélien de g. Plus généralement, on dénit deux suites décroissantes (pour l'inclusion) d'idéaux : 25

26 i) la suite centrale dénie par C 0 g := g et C n+1 g := [g, C n g], pour n 0. ii) la suite dérivée dénie par D 0 g := g et D n+1 g := [D n g, D n g], pour n 0. On a C 1 g = D 1 g = [g, g] et pour n 1 on a C n g D n g Définition. On dit que g est nilpotente s'il existe n N tel que C n g = 0. résoluble s'il existe n N tel que D n g = 0. On a donc abélienne nilpotente résoluble. On remarquera aussi le parallèle avec les notions de nilpotence et de résolubilité des groupes nis. Exercice. Soit g une K-algèbre de Lie. i) (a) Montrer que g est nilpotente si et seulement s'il existe une suite d'idéaux g = h 0 h 2... h n = 0 de g tels que [g, h i ] h i+1 pour tout i. (b) En déduire que toute sous-algèbre de Lie et toute algèbre quotient d'une algèbre de Lie nilpotente est nilpotente. (c) Montrer que g est nilpotente si et seulement si ad(g) = g/z(g) l'est. ii) (a) Montrer que g est résoluble si et seulement s'il existe une suite d'idéaux g = h 0 h 2... h n = 0 de g tels que h i /h i+1 est abélienne pour tout i. (b) En déduire que si h est un idéal de g, alors g est résoluble si et seulement si 2 h et g/h le sont Définition. Soit V un K-ev de dimension nie n. Un drapeau complet de V est une suite croissante de s.e.v V = (0 = V 0 V 1 V n = V ) avec dim(v i ) = i. On lui associe deux sous-algèbres de Lie de gl(v ) : b(v) := {X gl(v ), X(V i ) V i, pour i = 1,, n.}, et b nilp (V) := {X gl(v ), X(V i ) V i 1, pour i = 1,, n.}. Remarque. Si on choisit une base v 1,, v n telle que V i = vect(v 1,, v i ) alors l'isomorphisme gl(v ) gl n (K) qui en résulte identie b(v), resp. b nilp (V) à l'espace des matrices triangulaires supérieures, resp. strictement triangulaires supérieures, dans M n (K). Exercice. Vérier que b(v) est bien une sous-algèbre de Lie de gl(v ), puis montrer : i) [b(v), b(v)] = b nilp (V), et [b(v), b nilp (V)] = b nilp (V). ii) pour k 1, C k (b nilp (V)) = {X gl(v ), X(V i ) V i k, pour i = 1,, n.} En déduire que b nilp (V) est nilpotente, et que b(v) est résoluble mais pas nilpotente. 2. Attention, le si n'est pas vrai pour nilpotente 26

27 2.4.3 Caractérisation par la théorie des représentations. On suppose ici K algébriquement clos et de caractéristique nulle, et il n'y a pas de mal à se limiter à K = C. Nous allons d'abord voir que l'exemple d'algèbre résoluble ci-dessus est typique. Théorème. (Lie) Soit g une K-algèbre de Lie avec K algébriquement clos. On a équivalence entre : i) g est résoluble. ii) Toute représentation irréductible de g est de dimension 1. ii)' Toute représentation de g contient un vecteur propre pour g. iii) Toute représentation (V, r) de g est trigonalisable, au sens où il existe un drapeau V de V tel que r(g) b(v). Démonstration. L'équivalence ii) ii) est claire, tout comme l'implication iii) ii), et l'implication ii) iii) se voit par une récurrence évidente. Montrons que iii) i). Appliquons iii) à la représentation adjointe. On obtient un drapeau complet de sous-espaces 0 h 1 h n = g tel que ad g (h i ) h i, ce qui signie que les h i sont des idéaux de g. Comme le quotient h i /h i+1 est de dimension 1, c'est une algèbre de Lie abélienne, et on peut appliquer le critère de l'exercice ci-dessus pour en déduire que g est résoluble. Montrons maintenant que i) ii) par récurrence sur dim(g). Si dim(g) = 1, le résultat est clair puisque tout endomorphisme d'un K-ev de dimension nie possède un vecteur propre (K est algébriquement clos). Supposons dim(g) > 1 et soit h un hyperplan de g contenant Dg (noter que g/dg 0). Alors, h est un idéal de g, et par hypothèse de récurrence il existe un vecteur propre v de V commun à tous les éléments de h. Soit λ la forme linéaire sur h dénie par X.v = λ(x)v pour tout X dans h. Posons V λ := {v V, X h, X.v = λ(x)v}, le sous-espace λ-propre de V sous l'action de h, qui est donc non nul. Admettons un instant que V λ est stable par g. Soit Y un générateur d'une droite supplémentaire de h dans g. Comme K est algébriquement clos, Y admet un vecteur propre v V λ. Alors, v, qui est propre pour h, l'est pour g toute entière, et le théorème est démontré. Il reste à prouver que V λ est stable par g. Par l'égalité XY v = Y Xv + [X, Y ]v = λ(x)y v + λ([x, Y ])v valable pour tout X h, Y g, v V λ, on est ramené à prouver que λ([x, Y ]) = 0 pour tout X h, Y g. Pour cela, xons un vecteur w 0 de V λ, et notons W k := vect{w, Y w,, Y k w} La formule XY k w = Y XY (k 1) w + [X, Y ]Y (k 1) w montre par récurrence que X h, XW k W k et ( ) : XY k w λ(x)y k w + W k 1. 27

28 Considérons alors la réunion W des W k. C'est un sous-espace stable par h et ( ) montre que X h on a tr(x W ) = dim(w ).λ(x). En particulier on a dim(w ).λ([x, Y ]) = tr([x, Y ] W ). Or, par construction, W est aussi stable par Y, si bien que tr([x, Y ] W ) = tr([x W, Y W ] = 0. On a donc λ([x, Y ]) = 0 comme voulu (car dim(w ) est non nul dans K supposé de caractéristique nulle). Remarque. Ce théorème généralise le résultat classique d'algèbre linéaire qui dit qu'une famille d'endomorphismes commutant 2 à 2 est simultanément trigonalisable. An de donner une caractérisation des algèbres nilpotentes par leurs représentations, introduisons quelques dénitions et notations. Si λ : g K est une application et (V, r) une représentation, on note l'espace propre associé, et V λ := {v V, X g, r(x)v = λ(x)v} V λ := {v V, n N, X g, (r(x) λ(x)) n v = 0} l'espace propre généralisé (ou espace caractéristique) associé. Définition. Si V λ 0, on dit que λ est un poids de g dans la représentation (V, r). Alors V λ est l'espace de poids λ et V λ l'espace de poids généralisé. Exercice. Si λ est un poids d'une représentation, alors λ est K-linéaire et λ([g, g]) = 0. C'est donc un élément du dual g ab de l'abélianisée de g. Remarquer que, en général, il n'est pas clair que V λ soit stable par g. Proposition. (Théorème de Engel) Si V = V λ alors λ g ab et il existe un drapeau complet V de V tel que (r λ)(g) b nilp (V). Remarque. Concrètement, cela dit que si pour tout X il existe une base dans laquelle r(x) est triangulaire supérieures avec des λ(x) sur la diagonale, alors il existe en fait une base dans laquelle tout r(x) est de cette forme. Démonstration. Par hypothèse, on a tr(r(x)) = λ(x) dim(v ) pour tout X g. Ceci montre (si K est de caractéristique 0 pour que dim(v ) 0 dans K) que λ est K-linéaire et nulle sur [g, g], donc provient de g ab. Mais alors l'application X r(x) λ(x) id V dénit une représentation de g sur le même espace V. Quitte à remplacer r par r λ, on peut donc supposer que λ = 0. Par un argument de récurrence, il nous sut alors de prouver : ( ) pour toute représentation (V, r) t.q. r(x) est nilpotent X, on a V g 0. Nous le ferons par récurrence sur dim(g). Si dim(g) = 1, on a V g = Ker(r(X)) pour tout X non nul de g. Comme r(x) est supposé nilpotent, son noyau est non nul, comme voulu. Supposons maintenant dim(g) > 1, et supposons que l'on dispose d'un idéal h non trivial, i.e. distinct de {0} et de g. Alors l'hypothèse de récurrence appliquée à h nous dit que 28

29 V h {0}. De plus, V h est stable par l'action de g, laquelle se factorise par g/h. Ainsi l'hypothèse de récurrence appliquée à g/h nous dit que (V h ) g/h 0. Or, on a V g = (V h ) g/h. Il reste donc à prouver l'existence d'un idéal h non trivial. Quittes à remplacer g par r(g), on peut supposer que g gl(v ). Choisissons alors une sous-algèbre de Lie propre h de g de dimension maximale. La représentation adjointe ad de g restreinte à h induit une représentation de h sur le quotient g/h. L'image de h par cette représentation est formée d'endomorphismes nilpotents. En eet, d'après l'exercice ci-dessous, pour tout X g, l'endomorphisme ad(x) de g est nilpotent. On peut donc appliquer notre hypothèse de récurrence pour en déduire l'existence d'un élément X 0 dans g/h annulé par l'action de h. Soit X g au-dessus de X. On a donc X / h et [h, X] = ad(h)(x) h. Ceci implique que h K.X est une algèbre de Lie contenant h comme idéal. Mais par maximalité de h, on a h K.X = g. Ainsi, h est un idéal de g de codimension 1. Exercice. Soit A une K-algèbre associative et ad(x)(y) = [x, y] := xy yx pour x, y A. Montrer que ad(x) n (y) Vect K {x k yx n k, k = 0,, n}. Corollaire. Soit g une K-algèbre de Lie de dimension nie. Alors g est nilpotente si et seulement si ad X est nilpotent pour tout X g. Démonstration. Puisque ad n X(g) C n g, on voit que la condition est nécessaire. Réciproquement, supposons ad X nilpotent pour tout X g. D'après la proposition ci-dessus (avec λ = 0), il existe un drapeau h 1 h 2 h n = h tel que ad X (h i ) h i 1 pour tout X, ie tel que [g, h i ] h i 1. Quitte à renuméroter h i en h n i, on reconnait là le critère de nilpotence qui suit la dénition. Lemme. Soit g une K-algèbre de Lie nilpotente, h g une sous-algèbre de Lie, λ : h K une application, et V λ l'espace propre généralisé. Alors V λ est stable par g. Démonstration. Soit Y g, X h et v V λ. On veut montrer que (r(x) λ(x)) n r(y )v = 0 pour n assez grand. Or, pour f, g deux endomorphismes de V, on montre par récurrence (exercice) que f n g = n k=0 ( ) k (ad f ) k (g) f n k. n Posons f = r(x) λ(x) et g = r(y ). Choisissons m tel que f m (v) = 0 et ad m f (g) = 0 (en eet ad f = ad r(x) et g, donc r(g) est nilpotente). Alors la formule ci-dessus nous donne f 2m g(v) = 0. On a donc montré que V λ est stable par g. Théorème. Supposons K algébriquement clos, et soit g une K-algèbre de Lie de dimension nie. On a alors équivalence entre : i) g est nilpotente, ii) toute représentation (V, r) se décompose V = λ V λ où λ parcours les poids de g dans V et V λ est stable par g. 29

30 Démonstration. ii) i). Appliquons ii) à la représentation adjointe. On en tire une décomposition g = λ gλ en somme directe d'idéaux. Montrons que g λ 0 λ = 0. En eet soit Y g λ. L'endomorphisme (ad Y λ(y )) g λ est nilpotent et (ad Y ) g λ n'est pas inversible puisque ad Y (Y ) = 0. Il s'ensuit que λ(y ) = 0 et donc λ g λ = 0. Mais puisque [g λ, g λ ] g λ g λ, on a aussi λ g λ = 0 pour les autres poids, et donc nalement, λ = 0. D'après le corollaire ci-dessus, g est donc nilpotente. i) ii). Par récurrence sur dim(v ). Si tous les r(x) n'ont qu'une valeur propre, alors V = V λ pour une fonction λ, et on a vu que λ est un poids (proposition ci-dessus). Sinon, il existe X ayant au moins deux valeurs propres distinctes (K algébriquement clos). D'où une décomposition non triviale V = V λ 1 X V λ k X r(x). D'après le lemme précédent, chaque V λ i X l'hypothése de récurrence. en sous-espaces propres généralisés de est stable par g et on peut lui appliquer Remarque. Ce théorème donne une forme de Jordan simultanée pour les éléments de r(g) Caractérisation par la forme de Killing. On suppose toujours K algébriquement clos de caractéristique nulle. Proposition. Soit g une K-sous-algèbre de Lie de gl n (K) telle que tr(xy ) = 0 pour tout X, Y g. Alors, [g, g] est nilpotente, et donc g est résoluble. Remarque. La résolubilité de g découle du ii)(b) de l'exercice sous la dénition appliqué à h = [g, g] et g/h = g ab qui est abélien. Démonstration. Par simplicité, nous supposerons que K = C ou K = Q C (remarquons que si K a au plus la puissance du continu (at most second-countable), il est connu (en admettant l'axiome du choix non dénombrable) que K est en eet isomorphe à C ou à Q C). Par le théorème de Engel, il sut de voir que tout élément X de [g, g] gl n (K) est nilpotent, autrement dit, que ses valeurs propres λ 1,, λ n sont nulles. Choisissons un polynôme f K[T ] tel que f(λ i ) = λ i pour tout i (un polynôme interpolateur de Lagrange par exemple). Soit X = X s + X n la décomposition de Jordan de X. Alors tr(f(x s )X) = i λ iλ i = i λ i 2. Il nous sura donc de prouver que tr(f(x s )X) = 0. Comme X [g, g] est une combinaison linéaire de [Y, Z] avec Y, Z g, et comme tr(f(x s )[Y, Z]) = tr([f(x s ), Y ]Z), il sut de montrer que ad f(xs)(g) g, pour pouvoir appliquer l'hypothèse. Or, l'endomorphisme ad f(xs) de gl n (K) est diagonalisable dans une même base que l'endomorphisme ad Xs. Plus précisément, si (e 1,, e n ) est une base de K n qui diagonalise X s (avec valeurs propres λ 1, λ n ) et si (E ij ) 1 i,j n est la base de gl n (K) correspondante, alors E ij est vecteur propre de ad Xs, resp. de ad f(xs) pour la valeur λ i λ j, resp. f(λ i ) f(λ j ) = λ i λ j. Il s'ensuit que pour tout polynôme g K[T ] tel que g(λ i λ j ) = λ i λ j (et il en existe, par exemple un polynôme interpolateur), on a ad f(xs) = g(ad Xs ). Il nous sut donc de 30

31 prouver que ad Xs (g) g. Or, ad Xs est la partie semi-simple de ad X dans sa décomposition de Jordan (cf remarque ci-dessous), donc c'est un polynôme en ad X, et puisque ad X (g) g, on a terminé. Remarque. On a utilisé le fait que si X = X s +X n est la décomposition de Jordan d'un endomorphisme K-linéaire d'un K-ev V, alors ad X = ad Xs + ad Xn est la décomposition de Jordan de l'endomorphisme ad X de gl(v ). En eet, on a déjà remarqué que ad Xn est nilpotent (exercice sous le théorème de Engel), et on vient d'expliquer dans la preuve cidessus que ad Xs est diagonalisable. Il sut donc de remarquer que ad Xs et ad Xn commutent. Corollaire. (Critère de Cartan) Soit g une K-algèbre de dimension nie. Alors g est résoluble si et seulement si on a B ad (g, [g, g]) = 0. Démonstration.. Si g est résoluble, le théorème de Lie nous dit qu'il existe un drapeau V = (h 1 h n ) dans g tel que ad(g) b(v). Mais alors ad([g, g]) [ad(g), ad(g)] b nilp (V), donc pour tout X g et Y [g, g], on a ad X ad Y b nilp (V), et par conséquent tr(ad X ad Y ) = 0.. Soit h := ad([g, g]) où ad : g gl(g) est la représentation adjointe de g. Puisque h [g, g]/(z(g) [g, g]) et g/[g, g] est abélienne, on voit que g est résoluble si et seulement si h l'est (cf ii)(b) de l'exercice sous la dénition 2.3.1). Or la résolubilité de h découle de la proposition précédente. 2.5 Algèbres de Lie semi-simples Si h, h sont deux idéaux résolubles d'une K-algèbre de Lie g, alors leur somme h + h est encore résoluble, puisque c'est un quotient de la somme directe h h. Cela permet de dénir le radical rad(g) comme le plus grand idéal résoluble de g Définition. Une K-algèbre de Lie g est dite simple si dim(g) > 1 et ses seuls idéaux sont {0} et g. semi-simple si rad(g) = 0 ( ie si g n'a pas d'idéal abélien non nul). réductive si rad(g) = z(g). Remarque. La condition dim(g) > 1 dans la dénition de simple est là pour éviter l'algèbre triviale g = K qui a pour seuls idéaux {0} et g. Avec ces dénitions on a g simple g semi-simple g réductive Exercice. i) Montrer que g simple g semi-simple. ii) Montrer que pour g quelconque, g/rad(g) est semi-simple. iii) Montrer qu'une somme directe de semi-simples est semi-simple. Nous allons voir que toutes les algèbres de Lie classiques sont réductives, et même simples dès que leur centre est trivial. 31

32 2.5.2 Caractérisation par la forme de Killing. On suppose dorénavant que K est algébriquement clos de caractéristique nulle. Lemme. Soit (V, r) une représentation irréductible de g. Alors tout X rad(g) agit par un scalaire, et donc r([g, rad(g)]) = 0. Démonstration. Par le théorème de Lie, il existe dans V un vecteur propre pour rad(g). Notons λ : rad(g) K la valeur propre associée et V λ l'espace propre. Il nous sut de prouver que V λ est stable par g. Or pour tous Y g, X rad(g) et v V λ, on a XY v = [X, Y ]v + Y Xv = λ([x, Y ])v + λ(x)y v. Comme dans la preuve du théorème de Lie, on prouve que λ([x, Y ]) = 0 et on conclut. Corollaire. Si g admet une représentation (V, r) telle que la forme bilinéaire B r est non-dégénérée, alors g est réductive. Démonstration. D'après le lemme, l'idéal [g, rad(g)] agit trivialement sur toute représentation irréductible de g. Soit alors 0 V 1 V 2 V l = V une suite croissante de sous-représentations de V dont les quotients successifs V i /V i 1 sont irréductibles. On a donc r(y )(V i ) V i pour tout Y g et r(x)(v i ) V i 1 pour X [g, rad(g)]. Par conséquent r(x)r(y ) est nilpotent, donc de trace nulle, et il s'ensuit que [g, rad(g)] est inclus dans le noyau de B r. Comme celle-ci est supposée non-dégénérée, on a [g, rad(g)] = 0, ce qui équivaut à rad(g) z(g). L'inclusion réciproque est tautologique. Exemples. En appliquant ce corollaire à la représentation standard d'une algèbre de Lie classique, on constate que gl n (K) et u(n) (pour K = R) sont réductives, et que sl n (K), so n (K)( pour n > 2), sp 2n (K), su(n) (pour K = R) sont réductives, et même semi-simples puisque (exercice) leur centre est nul. Théorème. (Cartan) Une K-algèbre de Lie g est semi-simple si et seulement si la forme de Killing B ad est non dégénérée. Démonstration. Supposons B ad non-dégénérée. Cela implique évidemment que Ker(ad) = z(g) = 0, et d'après le corollaire ci-dessus cela implique aussi que g est réductive. Donc g est semi-simple. Réciproquement, supposons g semi-simple. Alors z(g) = 0 donc ad : g gl(g) est injective. Soit h = g le noyau de B ad. D'après le critère de Cartan, h est résoluble, donc h = 0. Théorème. Une K-algèbre de Lie semi-simple g est somme directe d'idéaux simples. En particulier, g = [g, g]. Démonstration. Soit h un idéal de g et h son orthogonal pour la forme de Killing de g. Alors la forme de Killing de h h, qui est la restriction de celle de g, est nulle donc h h est un idéal résoluble, donc il est nul. Comme B ad est non dégénérée, il s'ensuit que g = h h et que les formes de Killing de h et h sont non dégénérées. Une récurrence sur la dimension permet alors de conclure. 32

33 2.5.3 Caractérisation par les représentations. On suppose toujours K algébriquement clos de caractéristique nulle. Théorème. (Weyl) Une K-algèbre de Lie g est semi-simple si et seulement si toutes ses représentations (de dimension nie) sont complètement réductibles. La preuve originale de ce théorème par Weyl (pour K = C) utilisait son astuce unitaire (unitary trick) qui consiste à trouver une forme réelle de g qui s'intègre en un groupe de Lie compact pour utiliser le fait connu que les représentations continues de dimension nie d'un groupe compact sont complètement réductibles (grâce à l'existence de mesures de Haar). Voir les notes [GALM2], notamment le corollaire et son application. Voici une preuve plus directe dûe à Casimir (un physicien!). Démonstration. Si les représentations sont complètement réductibles, en particulier la représentation adjointe l'est. Ecrivons g = i g i avec g i sous-représentations irréducibles de (g, ad). Alors les g i sont des idéaux (car stables par ad g ) et simples ou de dimension 1 (car irréductibles). Or g ne peut pas avoir de facteur direct de dimension 1 puisqu'on a vu que les représentations de K ne sont pas nécessairement complètement réductibles. Donc g est semi-simple. Supposons maintenant g semi-simple. Soit (V, r) Rep K (g) et W V une sousreprésentation ; on veut trouver un supplémentaire de W stable sous g. Pour cela, il sut de trouver un ϕ Hom Kg (V, W ) tel que ϕ W = λ id W avec λ 0. Car en eet, on aura V = W Ker(ϕ) avec Ker(ϕ) stable. Première étape : on se ramène au cas où V/W est la représentation unité. Considérons la représentation Hom interne H = Hom K (V, W ), et ses sous-espaces A := {ϕ H, ϕ W K id W } et B := {ϕ A, ϕ W = 0}. Si ϕ A, on voit que pour tout X g on a (Xϕ)(w) = Xϕ(w) ϕ(xw) = Xλw λxw = 0, donc Xϕ B. En particulier A et B sont des sous-représentations de H et B/A est la représentation unité. Supposons que B admette un supplémentaire, c'est-à-dire une droite D A g telle que B D = A. Alors, comme expliqué ci-dessus, on a W Ker(ϕ) = V. Deuxième étape : opérateurs de Casimir et récurrence. On suppose dorénavant que V/W est la représentation unité, et on montre l'existence d'une droite stable supplémentaire de W par récurrence sur dim(v ). Fixons une suite croissante 0 = V 0 V 1 V l 1 = W V l = V de sous-représentations telles que V i /V i 1 soit irréductible pour tout i = 1,, l. Si tous les V i /V i 1 sont isomorphes à la représentation unité, alors on est en présence d'un drapeau complet V de V tel que r(g) b nilp (V). Mais comme g = [g, g] = C n g pour tout n, on en déduit pour n = dim(v ) que r(g) = r(c n g) = C n b nilp (V) = 0, donc V est une représentation triviale et n'importe quelle droite supplémentaire de W est stable. Sinon, il existe i tel que (U, r U ) := V i /V i 1 soit distinct de la représentation unité. L'image r U (g) est alors non nulle, et on peut choisir un facteur simple g U de g tel que r U (g U ) 0. Alors, g U ru (g U ) donc r U (g U ) est simple et la forme bilinéaire B ru associée à r U est non nulle (à cause du critère de Cartan qui impliquerait la résolubilité de r U (g U )). Son noyau est alors un idéal propre de g U, donc nul, et nalement, B ru est non dégénérée sur g U. Soit alors C U l'opérateur de Casimir associé, qui appartient au centre de Ug U et 33

34 donc à celui de Ug (en eet U(h h ) = Uh K Uh ). Alors r(c U ) est un endomorphisme de V qui commute à l'action de g, donc g stabilise ses sous-espaces caractéristiques. On a r(c U )(V ) W, donc 0 est valeur propre et l'espace caractéristique V 0 := Ker(r(C U ) n ) n'est pas contenu dans W. Soit V 0 la somme des autres sous-espaces caractéristiques de r(c U ). On a alors une somme directe V 0 V 0 de V en sous-espaces stables. Si l'on prouve que V 0 0, alors on peut appliquer l'hypothèse de récurrence à V 0. Nous devons donc prouver que r(c U ) possède une valeur propre non nulle. Il sut pour cela de vérier que r U (C U ) en possède une. Notons que r U (C U ) est une homothétie, par le lemme de Schur. Il sut donc de montrer que sa trace est non nulle. Or tr(r U (C U )) = dimg U i=1 tr(r U (X i )r U (Xi )) où X i est une base de g U et Xi la base duale pour la forme bilinéaire B ru (X, Y ) = tr(r U (X)r U (Y )). On a donc tr(r U (C U )) = dim g U 0. Corollaire. Une K-algèbre de Lie g est réductive si et seulement si g = z(g) [g, g] avec [g, g] semi-simple. Démonstration. Que la condition soit susante est clair. Montrons qu'elle est nécessaire. Soit g réductive. Alors la représentation adjointe ad : g gl(g) se factorise par ad(g) = g/z(g) qui est semi-simple. Elle est donc complètement réductible. Comme z(g) g est stable par ad(g), il existe une décomposition g = z(g) g 1 g k avec les g i irréductibles donc simples. Il s'ensuit que [g, g] = [g 1, g 1 ] [g k, g k ] = g 1 g k Décomposition de Jordan. Voici une première application du théorème de complète réductibilité de Weyl. Théorème. Soit X un élément d'une algèbre de Lie semi-simple g. Il existe une unique décomposition X = X s + X n telle que pour toute représentation (r, V ), on ait r(x s ) = r(x) s et r(x n ) = r(x) n, où r(x) s + r(x) n est la décomposition de Jordan de l'endomorphisme r(x) de V. De plus, on a [X s, X n ] = 0. Démonstration. Première étape : Pour toute représentation (V, r), on a r(x) s r(g) et r(x) n r(g). Remarquons d'abord que, puisque r(x) s et r(x) n sont des polynômes en r(x), toute sous-représentation W de V est stable sous r(x) s et r(x) n. De plus, on a tr(r(x) n W ) = 0 puisque r(x) n est nilpotent, et on a donc aussi tr(r(x) s W ) = tr(r(x) W ) = 0 puisque g = [g, g]. Par ailleurs, puisque ad r(x)s et ad r(x)n sont des polynômes en ad r(x) (se rappeler que ad r(x)s + ad r(x)n est la décomposition de Jordan de ad r(x) ) et comme [r(x), r(g)] = ad r(x) (g) g, on a aussi [r(x) s, r(g)] = ad r(x)s (g) g et [r(x) n, r(g)] = ad r(x)n (g) g. Introduisons alors le normalisateur n := {u gl(v ), [u, r(g)] r(g)}, une sous-algèbre de Lie de gl(v ) qui contient r(g) comme idéal, et sa sous-algèbre de Lie n := {u n, pour tout sous-g-module W V, u(w ) = W avec tr(u W ) = 0} qui contient toujours r(g) comme idéal et contient aussi r(x) s et r(x) n. Il nous sura donc de prouver que r(g) = n. 34

35 Faisant agir r(g) sur n par l'action adjointe, le théorème de Weyl dit qu'on peut trouver un supplémentaire stable m de r(g) dans n. Soit alors u m. Puisque [r(g), n ] r(g), on a [r(g), m] m r(g) = {0} donc en particulier [r(g), u] = 0. Il s'ensuit que pour toute sous-g-représentation irréducible W de V, l'action de u W commute à celle de g donc (lemme de Schur) est une homothétie de rapport λ W,u K. Mais puisque tr(u W ) = 0, on a aussi λ W,u = 0, donc W Ker(u). Or (encore le théorème de Weyl), V est somme de ses sous-représentations irréductibles. Donc V Ker(u) et u = 0, m = 0, et n = r(g). Deuxième étape. Appliquons la première étape à la représentation adjointe (g, ad g ). Le morphisme g adg gl(g) étant injectif, l'élément X possède une unique décomposition X = X s + X n telle que ad g (X s ) = ad g (X) s et ad g (X n ) = ad g (X) n. On a évidemment [X s, X n ] = 0. Montrons que pour toute représentation (V, r) on a r(x s ) = r(x) s et r(x n ) = r(x) n. Comme l'endomorphisme ad g (X) de g induit, après passage au quotient, l'endomorphisme ad r(g) (r(x)) de r(g), on a ad r(g) (r(x s )) = ad r(g) (r(x)) s et ad r(g) (r(x n )) = ad r(g) (r(x)) n. Par ailleurs, on sait que ad gl(v ) (r(x) s ) = ad gl(v ) (r(x)) s et ad gl(v ) (r(x) n ) = ad gl(v ) (r(x)) n, ce qui par restriction de ces endomorphismes à r(g) donne ad r(g) (r(x) s ) = ad r(g) (r(x)) s et ad r(g) (r(x) n ) = ad r(g) (r(x)) n. Il s'ensuit que ad r(g) (r(x s )) = ad r(g) (r(x) s ) et ad r(g) (r(x n )) = ad r(g) (r(x) n ), mais puique ad r(g) est injective, on obtient r(x s ) = r(x) s et r(x n ) = r(x) n comme voulu. Définition. Un élement X d'une algèbre semi-simple g sera dit semi-simple si X = X s, et nilpotent si X = X n. Concrètement, la preuve du théorème montre que X est semi-simple si et seulement si ad X est diagonalisable, et X est nilpotent si et seulement si ad X est un endomorphisme nilpotent. Elle montre aussi que pour une sous-algèbre semi-simple de gl n (K), par exemple so n, sp n ou sl n, un élément est semi-simple, resp. nilpotent, si et seulement si il est diagonalisable, resp. nilpotent, en tant que matrice. Exercice. Soit h une sous-algèbre de Lie d'une algèbre de Lie semi-simple g égale à son normalisateur : h = {X g, [X, h] h}. Montrer que h est stable par décomposition de Jordan. 3 Structure des algèbres de Lie semi-simples Dans toute cette partie, K désigne un corps algébriquement clos de caractéristique nulle. 3.1 Sous-algèbres de Cartan et racines Soit g une K-algèbre de Lie. Si h g est une sous-algèbre de Lie, on note N(h) := {X g, ad X (h) h} son normalisateur, qui est aussi une sous-algèbre de Lie de g (le 35

36 vérier). Définition. Une sous-algèbre de Cartan de g est une sous-algèbre nilpotente h telle que N(h) = h. Nous allons montrer que de telles sous-algèbres existent bel et bien. Pour X g, notons g X,0 := n N Ker(ad X) n g l'espace caractéristique de ad X pour la valeur propre 0. Notons que dim K (g X,0 ) est la multiplicité de 0 dans le polynôme caractéristique de ad X. On dira que X est quasi-régulier si g X,0 est minimal, pour l'inclusion, parmi tous les g Z,0 où Z g. Proposition. Si X est quasi-régulier, g X,0 est une sous-algèbre de Cartan de g. Inversement toute sous-algèbre de Cartan est de cette forme. Démonstration. i) Notons que g X,0 est toujours une sous-algèbre de Lie. Cela découle en eet de la formule (à prouver par récurrence) (ad X ) n ([Y, Z]) = n k=0 ( ) n [(ad X ) k (Y ), (ad X ) n k (Z)]. k De plus, X g X,0, donc ad X (N(g X,0 )) g X,0. Il s'ensuit que (ad X ) dim(gx,0)+1 (N(g X,0 )) = 0, donc N(g X,0 ) g X,0 et nalement N(g X,0 ) = g X,0. ii) Supposons maintenant X quasi-régulier et montrons que g X,0 est nilpotente. Il suf- t de montrer que pour tout Y g X,0, l'endomorphisme (ad Y ) gx,0 est nilpotent. Posons h := g X,0 et r := dim(g X,0 ) pour simplier les notations. Nous noterons Φ g ad Y K[T ] le polynôme caractéristique de ad Y dans End K (g). Comme ad Y stabilise h, on a une factorisation Φ g ad Y = Φ h ad Y Φ g/h ad Y et nous voulons prouver que Φ h ad Y = T r. Fixons une base X 1,, X r de h et écrivons Y = i y ix i avec y i K. Alors il existe des polynômes Φ g, Φ h et Φ g/h dans K[Y 1,, Y r, T ], uniques puisque K est inni, qui par spécialisation Y i y i donnent Φ g ad Y, Φ h ad Y et Φ g/h ad Y. On a aussi une factorisation Φ g = Φ h Φ g/h dans l'anneau K[Y 1,, Y r, T ] qui est factoriel. Nous devons montrer que Φ h = T r. Notons ord T (f) la T-valuation d'un polynôme f (i.e. le plus grand entier k tel que T k divise f). Puisque Φ h est un polynôme monique de degré r en T (à coecients dans K[Y 1,, Y r ]), il sut de prouver que ord T (Φ h ) = r. Remarquons que par dénition de h, T ne divise pas Φ g/h ad X dans K[T ]. Comme Φ g/h ad X est une spécialisation de Φ g/h, il s'ensuit que T ne divise pas Φ g/h dans K[Y 1,, Y r, T ], et donc ord T (Φ h ) = ord T (Φ g ). Puisque K est in- ni, on peut trouver une spécialisation Y i z i telle que, en notant Z = i z ix i, on ait ord T (Φ h ad Z ) = ord T (Φ h ) et ord T (Φ g ad Z ) = ord T (Φ g ). L'égalité ord T (Φ h ad Z ) = ord T (Φ g ad Z ) implique alors que g Z,0 h = g X,0. Mais puisque X est régulier, il s'ensuit que g Z,0 = h = g X,0 et donc ord T (Φ g ad Z ) = r et nalement ord T (Φ h ) = r comme voulu. iii) Soit maintenant h une sous-algèbre de Cartan de g. Fixons une base X 1,, X r de h et considérons la factorisation Φ g = Φ h Φ g/h dans K[Y 1,, Y r, T ] comme ci-dessus. Comme h est nilpotente, on sait que Φ h = T r. De plus, si T divisait Φ g/h, alors 0 serait un poids de h dans g/h, et par le théorème de Engel, g/h aurait un élément non nul Z annulé par h. 36

37 Cela signie que si Z g est une préimage de Z, alors Z / h et [h, Z] h. Mais alors Z normalise h et contredit l'hypothèse h = N(h). Donc T ne divise pas Φ g/h. En spécialisant convenablement, on obtient un élément X h tel que T ne divise pas Φ g/h ad X. Ceci implique que g X,0 h. Comme h est nilpotente, on a aussi h g X,0 et nalement h = g X,0. L'existence d'une sous-algèbre de Cartan étant maintenant acquise, on s'intéresse à son unicité à conjugaison près. Remarquons qu'il n'est même pas clair a priori que les sous-algèbres de Cartan aient toutes la même dimension. Définition. On appelle rang de g l'entier rk(g) := min X g (dim K (g X,0 )). Un élément X g est dit régulier si dim(g X,0 ) = rk(g). Un élément régulier est donc quasi-régulier, et la sous-algèbre de Cartan associée g X,0 est de dimension r = rk(g). Exercice. Soit g = gl n (K), et b, resp. b nilp, la sous-algèbre des matrices triangulaires supérieures, resp. triangulaires supérieures nilpotentes. i) En utilisant que [b, b] b nilp, montrer que rk(g) n. ii) Si X = n i=1 x ie ii avec les x i tous distincts, montrer que g X,0 est la sous-algèbre des matrices diagonales. En conclure que rk(g) = n. Montrer aussi que rk(sl n (K)) = n 1. iii) Montrer que X gl n (K) est régulier si et seulement si toutes ses valeurs propres sont distinctes. Lemme. L'ensemble g reg des éléments réguliers de g est un ouvert de Zariski non vide de g. En particulier, si K = C, c'est un ouvert dense et connexe de g pour la topologie analytique (i.e. de C-espace vectoriel de dimension nie). Démonstration. Si, comme dans la preuve précédente, on choisit une base de g et on considère la fonction polynôme caractéristique X Φ adx comme un élément Φ de K[Y 1,, Y dimg, T ], alors r n'est autre que la T-valuation de Φ, de sorte qu'il existe un polynôme non-nul a r = a r (Y 1, Y dimg ) K[Y 1,, Y dimg ] tel que Φ a r T r modulo (T r+1 ). Un élément X est alors régulier si et seulement si a r (X) 0, où a r (X) désigne le polynôme a r évalué en les coordonnées de X dans la base choisie. Ainsi, g reg est un ouvert de Zariski, et est non vide puisque K est algébriquement clos (Nullstellensatz). Lorsque K = C, il est, comme tout ouvert de Zariski d'un espace ane, ouvert dense et connexe par arcs pour la topologie analytique. Théorème. Supposons K = C et notons Int(g) le sous-groupe fermé de Aut g engendré par les exp(ad X ) pour X g. Alors toutes les sous-algèbres de Cartan de g sont conjuguées sous Int(g). 37

38 Remarque. Ce théorème est valable sur n'importe quel K algébriquement clos de caractéristique nulle en remplaçant Int(g) par le sous-groupe engendré par les exp(ad X ) pour ad X nilpotent (de sorte que l'exponentielle est bien dénie). La preuve est alors élémentaire, mais longue et ardue. Dans le cas K = C nous allons donner une preuve assez courte, mais qui utilise un peu de géométrie diérentielle. Remarque. Le théorème implique aussi que tout élément quasi-régulier est régulier. Démonstration. Le point crucial est le suivant. Soit h une sous-algèbre de Cartan, et h qreg l'ensemble de ses éléments quasi-réguliers, qui est un ouvert de Zariski (et donc un ouvert analytique) d'après la n de la preuve de la proposition précédente (c'est le lieu des points où T ne divise pas Φ g/h ad X ). Notons simplement G := Int(g), qui est un sous-groupe de Lie de GL(g), puisque fermé. Alors l'application G h qreg g, (g, X) g X est submersive. Admettons-le pour l'instant. Une première conséquence est que l'image de cette application est ouverte, et intersecte donc non trivialement l'ouvert dense g reg. Il s'ensuit que h reg := h g reg est non vide, et donc, puisque ouvert de Zariski, est un ouvert dense de h. On considère alors la relation d'équivalence sur g reg dénie par X Y si g X,0 et g Y,0 sont conjuguées Pour X h reg, la submersivité ci-dessus montre qu'il existe un voisinage ouvert de X dans g reg formé d'éléments équivalents à X. Ainsi, les classes d'équivalence de la relation ci-dessus sont ouvertes. Mais puisque g reg est connexe, il n'y a qu'une classe d'équivalence, et le théorème s'ensuit. Reste à prouver la submersivité ci-dessus. Grâce aux translations sous G, il sut de prouver la surjectivité de l'application tangente aux points (e, X) pour X h qreg. Par dénition, l'espace tangent Lie(G) de G en e est la sous-algèbre de Lie de gl(g) engendrée par les ad Y, Y g. On a donc Lie(G) = ad(g). Toujours par dénition, l'application tangente est alors donnée par f : ad(g) h g, (ad Y, H) ad Y (X) + H = ad X (Y ) + H. Son image contient donc h. De plus, par dénition de h qreg, ad X agit de façon inversible sur g/h, et donc l'image de f se surjecte sur g/h. Il s'ensuit que f est surjective. Exemple. Dans gl n (C), toute sous-algèbre de Cartan est conjuguée, sous GL n (C), à la sous-algèbre des matrices diagonalisables. Exercice. Montrer un énoncé analogue pour sl n et sp 2n. En déduire que rk(sp 2n ) = n. Pour so n, la sous-algèbre des matrices diagonales est nulle! Mais on peut changer la forme bilinéaire symétrique non dégénérée. Au lieu de la forme standard, on considère, en dimension paire, la forme ψ 2n (v, w) = 2 n i=1 v iw i+n, et en dimension impaire la forme ψ 2n+1 (v, w) = 2 n i=1 v iw i+n + v 2n+1 w 2n+1. Alors so(ψ m ) est isomorphe à so m et on montre que la sous-algèbre des matrices diagonales est une sous-algèbre de Cartan. On constate alors que rk(so 2n ) = rk(so 2n+1 ) = n. 38

39 3.1.1 Racines d'une sous-algèbre de Cartan. Soit g une K-algèbre de Lie et h g une sous-algèbre de Cartan. Faisons agir h sur g par la restriction à h de la représentation adjointe (g, ad) de g. Pour toute forme linéaire λ h ab, on a l'espace propre généralisé g λ = {Y g, X h, (ad X λ(x)) n (Y ) = 0 pour n dim g}. Lemme. On a g 0 = h, et pour toutes λ, µ h ab, on a [gλ, g µ ] g λ+µ. Démonstration. Puisque h est nilpotente, (ad X ) h est nilpotent pour tout X h donc h g 0. Réciproquement, h agit par opérateurs nilpotents sur g 0 /h. Donc si g 0 h, il existe X g 0 \ h dont l'image X dans g 0 /h est annulée par h. Mais cela signie que [h, X] h donc X N(h) = h : contradiction. La deuxième assertion découle de la formule n ( ) n (ad X λ(x) µ(x)) n ([Y, Z]) = [(ad X λ(x)) k (Y ), (ad X µ(x)) n k (Z)], k laissée au lecteur. k=0 Définition. Une racine de h dans g est un poids non nul de h dans (g, ad). Nous noterons Φ l'ensemble des racines. Le théorème sur les représentations d'algèbres nilpotentes nous fournit une décomposition g = g α, α Φ {0} et la proposition précédente nous dit que pour α, β Φ, le crochet [g α, g β ] est nul si α + β / Φ {0}, est contenu dans h si α + β = 0, et dans g α+β si α + β Φ. Exemple. Regardons le cas de g = sl n (K) et h la sous-algèbre de Cartan des matrices diagonales. La formule [ x ii E ii, i,j a ije ij ] = i,j (x ii x jj )a i,j E ij montre que Φ = {α ij h, 1 i j n}, où α ij ( i x ii E ii ) = x ii x jj et que g α ij = g αij = KE ij. Ainsi les espaces de poids généralisés de h sont des espaces de poids tout court, et de dimension 1. Nous allons voir que c'est un fait général pour les algèbres semi-simples. On suppose dorénavant que g est semi-simple. On notera X, Y = B ad (X, Y ) la forme de Killing de g, qui est donc non dégénérée Proposition. Pour g semi-simple et h sous-algèbre de Cartan, on a : i) Pour α, β Φ {0} telles que α + β 0, on a g α, g β = 0. 39

40 ii).,. h est non dégénérée. iii).,. g α g α induit une dualité entre gα et g α. Démonstration. i) Soit λ Φ {0}, X g α et Y g β. Alors ad X ad Y (g λ ) g λ+α+β et λ + α + β λ. Il s'ensuit que dans une base subordonnée à la décomposition g = λ gλ, la matrice de ad X ad Y a une diagonale nulle, donc tr(ad X ad Y ) = 0. ii) Soit X h. On a X g α, pour toute racine α Φ d'après le i). Donc si X h, on a X g et donc X = 0. iii) Soit X g α. On a X g β, pour tout poids β α d'après le i). Donc si X g α, on a X g et donc X = 0. Remarque. La non dégénérescence de la restriction de.,. à h n'est pas en contradiction avec la nilpotence de h. En eet, comme h n'est pas un idéal, cette restricition n'a a priori (et a posteriori non plus) rien à voir avec la forme de Killing de h. Exercice. Montrer que l'énoncé de la proposition reste vrai si l'on remplace la forme de Killing par n'importe quelle forme bilinéaire non-dégénérée. Corollaire. Mêmes hypothèses. Alors h est abélienne, formée d'éléments semisimples, et Φ engendre son dual h. Démonstration. i) Soit V un drapeau de g tel que ad(h) b(v) (puisque h est résoluble). On a donc ad([h, h]) b nilp (V). Soit alors Y [h, h]. Pour tout X h, on a ad X ad Y b nilp (V) donc tr(ad X ad Y ) = 0. On a donc Y h et par le ii) de la proposition précédente, il vient Y = 0. Donc [h, h] = 0 et h est bien abélienne. ii) Soit X h. On veut montrer X = X s, ou encore X n = 0. Puisque h est égale à son normalisateur, elle est stable par décomposition de Jordan, et donc X n h. Mais puisque h est abélienne, ad Y ad Xn est nilpotent, donc de trace nulle, pour tout Y h. En d'autres termes, X n h et donc X n = 0. iii) Soit Y tel que α(y ) = 0 pour tout α Φ. Alors toutes les valeurs propres de ad Y sont nulles, donc ad Y est nilpotent. Comme ci-dessus, on montre que Y h et le ii) de la proposition nous donne Y = 0. Exercice. Montrer que ce corollaire est encore vrai pour g réductive, excepté le fait que Φ engendre h. Conséquence : Puisque chaque ad X, X h est diagonalisable et h est abélienne, l'action adjointe de h sur g est simultanément diagonalisable. Ainsi, pour toute racine α, on a g α = g α Proposition. α Φ, on a dim(g α ) = 1 et {n Z, nα Φ} = {±1}. Démonstration. Soit E α g α. On a donc H h, [H, E α ] = α(h)e α. Choisissons F g α tel que E α, F = 1 et posons H α := [E α, F ] h = g 0. Alors pour tout H h, on a ( ) H, H α = H, [E α, F ] = [H, E α ], F = α(h) E α, F = α(h). 40

41 Montrons que α(h α) 0. En eet, le iii) du corollaire ci-dessus assure l'existence de β telle que β(h α) 0. Considérons alors W := n Z g β+nα. Alors W est stable par ad Eα et par ad F, donc aussi par ad [Eα,F ] = ad H α et on a de plus tr((ad H α ) W ) = tr([(ad Eα ) W, (ad F ) W ]) = 0. Or, tr((ad H α ) W ) = n Z tr((ad H α ) gβ+nα ) = n Z(β + nα)(h α) dim(g β+nα ). Puisque β(h α) 0, on doit donc avoir α(h α) 0. Montrons que ad Eα (g α ) K.H α. En eet, pour tout Y g α et tout H h, on a H, [E α, Y ] = [H, E α ], Y = α(h) E α, Y, donc, vu ( ), on a [E α, Y ] = E α, Y H α. Posons maintenant ( ) V := K.E α K.H α g nα. Par construction, V est stable par ad F, et on vient de voir qu'il est stable aussi par ad Eα. Comme ci-dessus, on en déduit qu'il est stable par ad H α et que tr((ad H α ) V ) = 0. Or, tr((ad H α ) V ) = α(h α)(1+ n<0 n dim(g nα)). Comme α(h α) 0, on en déduit le théorème. n<0 Corollaire. Pour H, H h, on a H, H = α Φ α(h)α(h ). Démonstration. Clair puisque ad H ad H (g α ) g α et g α = g α est de dimension Corollaire. Le K-espace vectoriel sl α := g α [g α, g α ] g α est une sousalgèbre de Lie de g isomorphe à sl 2 (K). Plus précisément : Il existe un unique H α [g α, g α ] tel que α(h α ) = 2, Si l'on xe E α g α \ {0}, il existe un unique F α g α tel que [E α, F α ] = H α. Le triplet (E α, H α, F α ) est alors un sl 2 -triplet. Démonstration. Avec les notations de la preuve précédente, on a ad Eα (g α ) = K.H α, donc [g α, g α ] = K.H α est de dimension 1. Il existe donc un unique H α [g α, g α ] tel que α(h α ) = 2. Explicitement, on a H α = 2H α = 2H α(h α) α. Il existe maintenant un unique H α,h α 2 F α g α tel que E α, F α = H α. On a alors [E α, F α ] = H α et le triplet (E α, H α, F α ),H α est donc un sl 2 -triplet. Exemple. Dans le cas de sl n et avec les notations de l'exemple précédent, on a [g αij, g αji ] = K(E ii E jj ) pour tous i j et (E ij, E ii E jj, E ji ) est un sl 2 -triplet Proposition. Soit β Φ telle que β ±α. Alors i) β(h α ) Z et β β(h α ) Φ. De plus, {n Z, β + nα Φ} est un intervalle de Z. ii) Si β + α Φ alors [g α, g β ] = g α+β. 41

42 Démonstration. Considérons g β+zα := n Z g β+nα. C'est un sous-espace de g stable par ad Eα et ad Fα donc une représentation de sl α. Les poids de H α dans g β+zα sont {β(h α ) + 2n, avec n tel que g α+nβ 0}. La théorie des représentations de sl 2 (K) nous dit que ces poids sont entiers, donc β(h α ) Z. Elle nous dit aussi que, puisque ces poids ont multiplicité 1 et sont de même parité, g β+zα est une représentation irréductible de sl α, et ses poids sont aussi de la forme { m, m + 2,, m 2, m}. On en déduit la propriété d'intervalle du i) et aussi que β(h α ) est un poids, puisque β(h α ) en est un. Donc g β β(hα)α 0 et β β(h α )α Φ. ii) Supposons g β+α 0. C'est donc l'espace de poids β(h α ) + 2 pour H α. D'après la structure connue d'une représentation irréductible de sl 2, on a [g α, g β ] = ad Eα (g β ) = g α+β car g β est l'espace de poids β(h α ) pour H α. Corollaire. Pour α Φ, on a Φ Kα = {±α}. Démonstration. Supposons qu'il existe β Φ Kα distincte de α et α. Comme β(h α ) Z, on a β 1Zα. Ecrivons β = n α avec n impair. Alors puisque β Φ la propriété 2 2 d'intervalle du i) de la proposition nous assure que 1 α Φ. Mais d'après la proposition , les seuls multiples de 1α dans Φ sont ± 1 α, d'où une contradiction, puisque α Φ Propriétés de rationalité de Φ. Récapitulons ce que nous avons prouvé jusqu'ici à propos de l'ensemble Φ : i) Φ engendre le K-espace vectoriel h, ii) Pour toute racine α Φ, on a Φ Kα = {±α} iii) Pour deux racines β, α, on a β(h α ) Z et si β α alors {n Z, β + nα Φ} est un intervalle contenant β(h α ). Posons maintenant h Q := Vect Q {H α, α Φ}, et h Q := Vect Q {α, α Φ} Proposition. Avec les notations ci-dessus, i) dim Q (h Q ) = dim Q (h Q ) = dim K(h), ii) la dualité h h K induit une dualité h Q h Q Q, iii) la forme de Killing induit une forme rationnelle.,. : h Q h Q Q, iv) L'extension de.,. à h R est dénie positive. Démonstration. i) Soit α 1,, α r une base de h formée d'éléments de Φ. Alors les H αi sont une K-base de h (notons que H αi, H = Hα i,hα i 2 α 2 i (H) = α H α i,h α i i(h)). Pour α Φ, écrivons H α = r i=1 λ ih αi avec λ i K. Nous devons montrer que λ i Q, i. Soit M M r (K) la matrice ( H αi, H αj ) 1 i,j r. Alors M est inversible (puisque.,. est non 42

43 dégénérée) et λ = (λ 1,, λ r ) K r est l'unique solution du système linéaire M.λ = µ α avec µ α = ( H α1, H α,, H αr, H α ) K r. Or pour deux racines α, β on a H α, H β = γ Φ γ(h α )γ(h β ) Z, donc M M r (Q), µ α Q r, et nalement λ Q r. Il s'ensuit que les H αi, i = 1,, r forment une Q-base de h Q. On prouve de la même manière que α 1,, α r forment une Q-base de h Q. ii) la K-dualité entre h et h envoie bien h Q h Q dans Q puisque β(h α ) Z pour toutes α, β Φ. Comme h Q, resp. h Q, engendre h, resp. h, sur K, l'accouplement est parfait. iii) idem. On a vu que h Q, h Q Q et comme h Q engendre h, l'accouplement est non dégénéré. iv) Comme H, H = α α(h)2, la forme bilinéaire réelle considérée est positive. Or, on sait qu'elle est non dégénérée, donc elle est aussi dénie. 3.2 Systèmes de racines abstraits Définition. Soit V un R-espace vectoriel de dimension nie. Un système de racines (réduit) dans V est la donnée de deux ensembles Φ V et Φ V munis d'une bijection α α tels que : i) Φ est ni, engendre V sur R, et 0 / Φ, ii) α Φ, α (Φ) Z iii) α Φ, α (α) = 2 et s α (Φ) = Φ en posant s α (v) := v α (v)α. iv) α Φ, Φ Rα = {±α}. La dimension de V est le rang du système de racines, et α est la coracine associée à la racine α. Exemple. Soit g une K-algèbre de Lie semi-simple (K alg. clos de car. nulle) et h une sous-algèbre de Cartan, Φ h Q h l'ensemble des racines et Φ = {H α, α Φ} h Q h. Alors d'après la proposition précédente, (V := R Q h Q, Φ, Φ, α α := H α ) est un système de racines, que nous noterons Φ(g, h). Le cas linéaire : g = sl n (K) et h = {matrices diagonales}. Soit e 1,, e n la base canonique de R n et e 1,, e n sa base duale. Alors on peut décrire le système de racine de (g, h) comme ceci : { n } { n n V = x i e i R n, x i = 0 R n et V = x i e i (R n ), } x i = 0 (R n ) i=1 i=1 i i=1 43

44 avec accouplement de dualité induit par l'accouplement entre R n et (R n ), et Φ = {α ij = (e i e j ), 1 i j n} et Φ = {α ij = (e i e j), 1 i j n} avec bijection évidente. Dans cette description, e i correspond à la matrice diagonale E ii (qui est dans gl n ) et e i correspond à la forme linéaire sur h donnée par k λ ke kk λ ii. Le cas symplectique : g = sp 2n (K) et h = {matrices diagonales}. Les matrices diagonales de sp 2n sont de la forme X = n i=1 x i(e ii E i+n,i+n ). Notons alors e i la forme bilinéaire X x i sur h, et V l'espace vectoriel de base e 1,, e n. On peut vérier que le système de racines de (g, h) est de la forme suivante : Φ = {(±e i ± e j ), i j, 2e i } et Φ = {(±e i + ±e j), i j, e i } avec bijection évidente. Dans cette description, les e i sont la base duale des e i et correspondent donc aux matrices diagonales E ii E i+n,i+n. Le cas orthogonal impair : g = so(ψ 2n+1 ) et h = {matrices diagonales}. Les matrices diagonales de so(ψ 2n+1 ) sont aussi de la forme X = n i=1 x i(e ii E i+n,i+n ). Notons alors e i la forme bilinéaire X x i sur h, et V l'espace vectoriel de base e 1,, e n. On peut vérier que le système de racines de (g, h) est de la forme suivante : Φ = {(±e i ± e j ), i j, e i } et Φ = {(±e i + ±e j), i j, 2e i } avec bijection évidente. Dans cette description, les e i sont la base duale des e i et correspondent donc aux matrices diagonales E ii E i+n,i+n. Le cas orthogonal pair : g = so(ψ 2n ), (n > 1) et h = {matrices diagonales}. Les matrices diagonales de so(ψ 2n ) sont toujours de la forme X = n i=1 x i(e ii E i+n,i+n ). Notons encore e i la forme bilinéaire X x i sur h, et V l'espace vectoriel de base e 1,, e n. On peut vérier que le système de racines de (g, h) est de la forme suivante : Φ = {(±e i ± e j ), i j} et Φ = {(±e i + ±e j), i j} sont la base duale des e i et corre- avec bijection évidente. Dans cette description, les e i spondent donc aux matrices diagonales E ii E i+n,i+n Groupe de Weyl. Notons que l'endomorphisme s α de V introduit au point iii) de la dénition ci-dessus est la réexion d'axe Ker(α ) et de direction R.α. En d'autres termes on a s 2 α = id V, Ker(s α + id V ) = Rα et Ker(s α id V ) = Ker(α ). Définition. Le sous-groupe W GL(V ) engendré par les s α, α Φ est appelé groupe de Weyl du système de racines. 44

45 Par l'axiome iii) des systèmes de racines, W.Φ Φ. En fait, puisque Φ engendre V, le morphisme W S Φ donnant l'action de W sur Φ est injectif. En particulier, W est ni. On sait alors construire des produits scalaires euclidiens sur V invariants sous W (cf exercice du paragraphe 2.1.8). Pour un tel produit scalaire.,., le groupe de Weyl W est donc un groupe d'isométries de l'espace euclidien (V,.,. ). En particulier, la réexion s α est alors simplement la réexion orthogonale d'axe α, donc de la forme v, α s α (v) = v 2 α, α α. Exemple. Soit Φ le système de racines de (g, h). On a vu que la forme de Killing induit sur h R un produit scalaire euclidien. On peut le transporter par dualité à h R. Puisque 2 α(h) = H H α,h α α, H, on obtient le produit scalaire On a alors α, β := 4 H α, H β H α, H α H β, H β. s α (β) = β β(h α )α = β H α, H α 2 α, β α, β α = β 2 α, α α, ce qui montre que s α est la réection orthogonale d'axe α et donc que.,. est W-invariant. Le cas linéaire : dans l'exemple de sl n (K) le produit scalaire obtenu est 2n fois celui induit par le produit euclidien canonique sur R n. La réection s αij est donc la restriction à V de la réection orthogonale s ij de R n d'axe H ij = {(x k ) k, x i = x j }. On a donc s ij (e i ) = e j et s ij (e k ) = e k pour k i, j. Cela identie W au groupe symétrique S n agissant par permutation de la base canonique. Les autres cas classiques : dans chacun des cas sp 2n, so 2n so(ψ 2n ) et so 2n+1 so(ψ 2n+1 ), la forme de Killing induit un multiple (respectivement 4n + 4, 4n 4 et 4n 2) du produit scalaire canonique qui fait de e 1,, e n une base orthonormée. Pour i j, la réexion s ij associée à e i e j échange e i et e j et laisse xe les autres e k, tandis que la réexion s ij associée à e i + e j échange e i et e j et laisse xe les autres e k. Dans les cas symplectique et orthogonal impair, la réexion s i associée à e i ou 2e i envoie e i sur e i et préserve les autres e k. Cela permet d'identier W au produit semidirect S n {±1} n, le groupe des matrices dont chaque ligne et colonne possède un unique élément non nul, qui est un signe. Dans le cas orthogonal pair, on peut vérier que W est le sous-groupe de S n {±1} n formé des matrices dont le nombre de 1 est pair Isomorphismes, somme directes, systèmes réduits. Soient Φ = (Φ, V, Φ, α α ) et Φ = (Φ, V, Φ, α α ) deux systèmes de racines. 45

46 Un isomorphisme entre Φ et Φ est un isomorphisme R-linéaire f : V V qui induit une bijection entre Φ et Φ et tel que la bijection duale soit compatible avec les applications α α. La somme directe Φ Φ est le système de racines Φ Φ dans V V avec pour coracines Φ Φ V V = (V V ) et la bijection évidente. On voit en particulier que W (Φ Φ ) = W (Φ) W (Φ ). On dit qu'un système de racines est irréductible s'il n'est pas somme directe de deux systèmes de racines. Exercice. Soit Φ un système de racines, et munissons V d'un produit scalaire W- invariant. Montrer que Φ est réductible si et seulement si on peut écrire Φ = Φ 1 Φ 2 avec Φ 1 et Φ 2 orthogonaux. Proposition. Soit g une K-algèbre de Lie semi-simple. i) Le système de racines Φ(g, h) est indépendant, à isomorphisme près, de la sousalgèbre de Cartan h. On note Φ(g) sa classe d'isomorphisme. ii) Φ(g 1 g 2 ) = Φ(g 1 ) Φ(g 2 ). De plus, Φ(g) est irréductible si et seulement si g est simple. Démonstration. i) On a vu que si h est une autre sous-algèbre de Cartan, il existe g Int(G) tel que h = g h. Ainsi g induit un isomorphisme K-linéaire h h. L'isomorphisme dual envoie clairement Φ(g, h ) sur Φ(g, h) et l'unicité des H α montre que g envoie Φ(g, h) sur Φ(g, h ) en préservant les bijections. Bref, g induit un isomorphisme Φ(g, h ) Φ(g, h). ii) La première assertion est claire et implique que si g n'est pas simple alors Φ(g) n'est pas irréductible. Réciproquement, supposons Φ(g, h) réductible. Alors en particulier l'ensemble Φ(g, h) des H α, α Φ est union disjonte Φ 1 Φ 2 de deux sous-ensembles orthogonaux pour la forme de Killing restreinte à h. On en déduit une décomposition orthogonale h = h 1 h 2 où h i = Vect K (Φ i ), Posons alors g 1 := h 1 α Φ 1 g α et g 2 := h 1 α Φ 2 g α. On a donc g = g 1 g 2. De plus, pour α 1 Φ 1 et α 2 Φ 2, on a α 1 + α 2 / Φ donc [g α1, g α2 ] = 0. On constate donc que [g 1, g 2 ] = 0 et donc que g 1 et g 2 sont des idéaux, montrant que g n'est pas simple Dualité. Fixons un produit scalaire W-invariant sur V. Si l'on identie V à V au moyen de.,., on déduit de la formule v, α s α (v) = v 2 α, α α = v α (v)α que α = 2 α,α α (et symétriquement que α = 2 α,α α ). On constate donc que s α = s α préserve Φ. On en déduit que (Φ, Φ, α α) est un système de racines dans V. 46

47 On l'appelle système de racines dual de (Φ, Φ, α α ). La discussion ci-dessus montre que l'application s α s α induit un isomorphisme des groupes de Weyl W (Φ) W (Φ ). Exemple. On peut observer que les systèmes de racines de sp 2n et so 2n+1 sont duaux l'un de l'autre. Par contre, les systèmes de racines de sl n et so 2n sont auto-duaux Contraintes sur deux racines. Donnons-nous deux racines α, β Φ non proportionnelles et non orthogonales. Quittes à remplacer α par α et à échanger α et β, nous pouvons supposer que α, β < 0 et α, α β, β. On a alors les contraintes suivantes : 0 < α, β 2 α, α β, β < 1 avec α, β α (β) = 2 α, α Z et α, β β (α) = 2 β, β Z qui entrainent les inégalités 0 < α (β)β (α) < 4. Ceci ne laisse que trois possibilités : i) α (β) = β (α) = 1, auquel cas α, α = β, β. et l'angle (α, β) = 2π 3. ii) α (β) = 2, β (α) = 1, auquel cas 2 α, α = β, β. et l'angle (α, β) = 3π 4. iii) α (β) = 3, β (α) = 1, auquel cas 3 α, α = β, β. et l'angle (α, β) = 5π 6. Exemple. Soient α = α ij, β = α kl dans le système de racines de sl n. On voit que {i, j} {k, l} = α et β orthogonales. {i, j} {k, l} = 1 situation i) (même longueur, et angle 2π 3 ). Exemple. Pour g = sp 2n, α = e i e j et β = 2e j, on est dans la situation ii). Exercice. Vérier que dans le cas orthogonal pair, on est toujours dans la situation i) dès que α, β < 0. Par contre dans le cas orthogonal impair, la situation ii) peut se produire. Remarque. Dès que α, β < 0 on a α + β Φ. En eet, on peut supposer α β et dans tous les cas ci-dessus, on a α + β = s β (α). Application : classication des systèmes de racines de rang 2. Soit Φ R 2 un système de racines de rang 2, et supposons que le produit scalaire canonique de R 2 est W-invariant. Choisissons α, β Φ non colinéaires de sorte que α β et que α,β soit minimal α β (l'angle entre α et β est donc le plus ouvert possible, sans être plat). On a alors 1 < α,β 0. On peut supposer, après rotation et homothétie, que α = e α β 1 (vecteur de la base canonique), puis après éventuellement symétrie d'axe (e 1 ), que l'angle (α, β) est entre π et 2 π. On a alors les possibilités suivantes : 47

48 i) Si α, β = 0, on a Φ = {±α, ±β}. Quitte à changer le produit scalaire, on voit que Φ est isomorphe au système de racines réductible ci-contre, qui n'est autre que celui de sl 2 sl 2. Si α, β < 0, on est dans l'une des trois situations considérées plus haut. ii) Lorsque α (β) = 1, β a pour coordonnées polaires (1, 2π ). On constate que 3 α + β est aussi racine, de sorte que Φ {±α, ±β, ±(α + β)}. De plus, s'il existait une autre racine, cela contredirait la minimalité de. Cela est plus clair sur α,β α β la gure ci-contre. Les système de racines obtenu est isomorphe à celui de sl 3. β = e 2 β α = e 1 α + β α iii) Lorsque α (β) = 2, β a pour coordonnées polaires ( 2, 3π) donc β = e 4 2 e 1. Grâce aux réexions s α et s β, on obtient que Φ {±e 1, ±e 2, ±e 1 ±e 2 }. Comme cidessus, s'il y avait une autre racine, elle contredirait la minimalité de système de racines obtenu est isomorphe à celui de sp 4 et celui de so 5. α,β. Le α β β = e 2 e 1 β + α β + 2α α = e 1 iv) Lorsque α (β) = 3, β a pour coordonnées polaires ( 3, 5π 6 ). Grâce aux réexions s α et s β, on obtient que Φ {±α, ±β, ±(β+ α) ± (β + 2α), ±(β + 3α), ±(2β + 3α)}, et comme ci-dessus, on vérie qu'on a toutes les racines. Le système de racines obtenu n'est pas celui d'une algèbre de Lie classique. β 2β + 3α β + α β + 2α β + 3α α Racines simples. Fixons une forme linéaire f V ne s'annulant sur aucune racine. On dit alors que α est f-positive (ou positive si pas d'ambiguïté) si f(α) > 0. On note Φ + l'ensemble des racines f-positives et Φ := Φ +. On obtient une partition Φ = Φ + Φ (pas orthogonale!!). On dit que α est f-simple (ou simple si pas d'ambiguïté), si α est positive et n'est pas somme de deux racines positives. On note = f l'ensemble des racines simples. 48

49 Exemple. Pour g = sl n (K). Prenons la forme linéaire f : (x i ) i i ix i sur R n et restreignons-là à V. Alors Φ + = {α ij, i < j}, et = {α i,i+1, i = 1,, n 1}. Théorème. Avec les notations ci-dessus, on a i) Φ + α Nα ii) est une base de V. Démonstration. i) par l'absurde : soit β Φ + \ ( α Nα) tel que f(β) soit minimal. Alors β / donc β = β 1 + β 2 avec β i Φ +. Mais alors f(β i ) < f(β) donc par minimalité β i Nα, puis α β α Nα : contradiction. ii) Par le i), est génératrice. Il faut montrer qu'elle est libre. Choisissons un produit scalaire W-invariant et remarquons d'abord que α, β 0 pour toutes α, β distinctes. En eet si α, β > 0, on a remarqué dans le paragraphe précédent que α β est une racine. Si elle est positive alors α = β + (α β) contredisant la simplicité de α, sinon c'est la simplicité de β qui est contredite. Maintenant, soit α λ αα = 0 une relation de dépendance linéaire. Soit Ecrivons la relation sous la forme + = {α, λ α 0} et = \ +. λ α α = λ β β =: v. α + β Alors v, v = λ α λ β α, β 0, donc v = 0. Il s'ensuit que α + λ α α = 0 et α +,β donc α + λ α f(α) = 0 si bien que λ α = 0, α + et de même λ β = 0, β. Définition. Une base de Φ est un ensemble = f f V comme ci-dessus. de racines f-simples pour On peut se demander à quelle condition sur f et f on a f = f. Pour cela, rappelons que f est un élément de X = V \ Ker(α), le complémentaire dans α V d'une réunion d'hyperplans (appelés murs). Les composantes connexes de X sont donc des cônes ouverts convexes appelés chambres de Weyl et les éléments f, f sont dans la même chambre de Weyl si et seulement si f(α) et f (α) sont du même signe pour toute racine α Φ. On en conclut que f = f si et seulement si f et f sont dans la même chambre de Weyl. Exemple. Considérons le système de racines de rang 2 de sl 3 vu plus haut et identions V et V au moyen du produit scalaire (et donc Ker(α) à α ). En prenant f = e 1 + e 2,., on obtient comme base f = {α, β}. La gure montre les murs et la chambre de Weyl C associée à = f. β = {α, β} C α 49

50 On peut observer deux faits intéressants sur cet exemple. D'une part, W est engendré par s α et s β. En eet, on a remarqué que W = S 3 et on sait bien que ce groupe symétrique est engendré par les transpositions s α = (1, 2) et s β = (2, 3). D'autre part, il y a 6 = 3! = W chambres de Weyl. En fait, l'action de W sur V permute les chambres de Weyl de manière simplement transitive. De manière équivalente, son action sur Φ permute simplement transitivement les bases de Φ. Nous allons voir que ces deux faits restent vrais en général Proposition. Soit une base de Φ. Appelons réexion simple une réexion s α avec α. i) Toute racine est l'image d'une racine simple par un produit de réexions simples. ii) Le groupe de Weyl est engendré par les réexions simples. Le lemme suivant sera utilisé plusieurs fois. Lemme. Soit α une racine simple. On a s α (Φ + \ {α}) = Φ + \ {α}. Démonstration. Soit γ une racine positive distincte de α. Ecrivons-là γ = β n ββ dans la base, avec n β N. On a s α (γ) = β n β β avec n β = n β si β α et n α = n α α (γ). Mais puisque γ α, il existe β telle que n β = n β > 0. Par le i) du théorème, on en déduit que s α (γ) n'est pas négative, donc est positive. Par ailleurs on a évidemment s α (γ) α. Démonstration de la proposition. i) Il sut de le faire pour γ positive, puisque si γ = w(β) alors γ = ws β (β). Soit donc γ Φ +. Dénissons la hauteur de γ comme la somme h(γ) = β n β des coordonnées de γ dans la base, et raisonnons par récurrence sur h(γ). Si h(γ) = 1 alors γ est simple et il n'y a rien à prouver. Sinon, on peut trouver α telle que α (γ) > 0. En eet, pour un produit scalaire W-invariant.,. on a α (γ) = 2 γ,α α,α et γ 2 = β n β γ, β > 0. Mais alors, comme dans le lemme ci-dessus, la racine s α (γ) est positive et h(s α (γ)) = h(γ) α (γ) < h(γ). On peut donc conclure par récurrence sur la hauteur. ii) Par dénition, W est engendré par toutes les réexions s γ, γ Φ. Par le i), on peut écrire γ = w(α) avec w un produit de réexions simples et α. Puisque s γ est, pour un produit scalaire W-invariant, la réexion orthogonale d'axe γ, on a alors s γ = ws α w 1. Donc s γ est bien un produit de réexions simples Théorème. L'action de W sur Φ permute simplement transitivement les bases de Φ. Démonstration. Remarquons tout d'abord que si = f, l'ensemble w( ) = w (f) est encore une base de Φ. L'action de W permute donc bien les bases de Φ. i) Montrons d'abord que cette action est transitive. Soit une autre base de Φ. Nous allons montrer que W. par récurrence sur le cardinal d( ) = Φ + ( ) Φ ( ). Si 50

51 d( ) = 0 on a = donc l'assertion est alors claire. Supposons donc d( ) > 0, i.e. Φ + ( ) Φ ( ). Alors on a aussi Φ ( ) (car sinon on aurait Φ + ( ) donc Φ + ( ) = Φ + ( ) et nalement = ) Choisissons donc α Φ ( ). D'après le dernier lemme ci-dessus, on a s α (Φ ( )) = Φ ( ) \ { α } {α }. Or on a aussi s α (Φ ( )) = Φ (s α ( )), donc Φ + ( ) Φ (s α ( )) = Φ + ( ) Φ ( ) \ { α } et nalement d(s α ( )) = d( ) 1. Par l'hypothèse de récurrence, il existe w W tel que s α ( ) = w( ), ce qui nous donne = s α w( ) comme voulu. ii) Soit maintenant w W, w 1. Écrivons-le comme un produit s 1 s 2 s l de réexions simples avec l minimal. Notons α i la racine simple telle que s i = s αi. Nous allons montrer que w(α l ) Φ, ce qui implique que w( ). Raisonnons par l'absurde et supposons que w(α l ) Φ +. Notons alors j le plus grand entier i tel que β i := s i s i+1 s l (α l ) Φ +. Puisque s l (α l ) Φ, on a j < l donc β j+1 est bien dénie et négative. Puisque β j+1 = s j (β j ) et β j Φ + le dernier lemme ci-dessus assure que β j = α j. Il s'ensuit que s βj = (s j s l )s αl (s j s l ) 1, ce que l'on peut réécrire : s j+1 s l = s j s l 1. Mais alors on obtient w = s 1 s j 1 s j+1 s l 1, une expression de longueur l 2 qui contredit la minimalité de l. Exercice. Vérier que {(e i e i+1 ), i = 1,, n 1} {e n } est une base du système de racines de so 2n+1, tandis que {(e i e i+1 ), i = 1,, n 1} {2e n } est une base de celui de sp 2n. Trouver une base de celui de so 2n. Exercice. Soit Φ un système de racines et une base de Φ, dont on se donne une partition = 1 2. i) Notons V i := Vect R ( i ) et Φ i := Φ V i. Montrer que Φ i est un système de racines dans V i (compléter les objets), de groupe de Weyl W i le groupe engendré par les s α, α i. ii) Supposons dorénavant que 1 2, pour un produit scalaire W-invariant. Montrer que W = W 1 W 2 et que W 2 agit trivialement sur 1. iii) Toujours sous l'hypothèse 1 2, montrer que Φ = Φ 1 Φ 2, [On pourra utiliser le i) de la proposition ci-dessus] et en conclure que Φ est somme directe des systèmes de racines Φ 1 et Φ 2. Exercice. Soit Φ un système de racines et une base de Φ, et supposons xé un produit scalaire W-invariant sur V. On dénit une relation d'ordre partiel sur Φ en déclarant que γ γ si γ γ α Nα. Soit β une racine maximale pour cet ordre. i) Vérier que β est positive et montrer que pour toute α on a β, α 0. ii) Ecrivons β = α n αα et notons 1 := {α, n α = 0} et 2 = \ 1. Montrer que 1 2. iii) Montrer que si γ, γ > 0, alors γ γ ou γ γ. [Remarquer d'abord que dans cette situation, γ γ Φ] iv) On suppose dorénavant que Φ est irréductible, et donc, d'après l'exercice précédent, que n'est pas union disjointe de deux sous-ensembles propres orthogonaux. Montrer 51

52 que β est l'unique élément maximal de Φ (on l'appelle la plus grande racine). [Si β est une autre racine maximale, utiliser i) et ii) pour prouver β, β > 0, puis iii) pour conclure que β = β.] 3.3 Classication des algèbres de Lie semi-simples Soit g une K-algèbre de Lie semi-simple, h une sous-algèbre de Cartan, Φ le système de racines de h dans g. Fixons une base de Φ Proposition. Pour chaque α choisissons un générateur E α de la droite g α et notons F α l'unique élément de g α tel que [E α, F α ] = H α. Alors g est engendrée par les éléments E α et F α pour α parcourant. Démonstration. Notons g la sous-algèbre de Lie de g engendrée par les E α et les F α. Elle contient les H α qui forment une base de h, donc elle contient h. Pour γ positive, montrons par récurrence sur la hauteur h(γ) que g γ g. Si h(γ) = 1, γ est simple donc c'est vrai par construction. Sinon, comme dans la preuve de la proposition 3.2.7, il existe α telle que α, γ > 0, auquel cas β := γ α Φ est de hauteur h(β) = h(γ) 1. Par récurrence, on a g β g. Mais alors, d'après la proposition 3.1.5, on a g γ = [g β, g α ] g. De même on montre g β g pour β négative Corollaire. Soit g, h, Φ,, E α des données comme ci-dessus. Supposons aussi donné un isomorphisme de systèmes de racines f : Φ(g, h) Φ(g, h ) tel que f( ) =. Alors il existe un unique isomorphisme de K algèbres de Lie f : g g tel que f(e α ) = E f(α) et f(h α) = H f(α ) pour toute racine simple α. Démonstration. Si un tel isomorphisme existe il doit aussi envoyer les F α sur les F f(α) (puisque F est déterminé par l'égalité [E, F ] = H). Par la proposition précédente, ceci assure l'unicité de cet isomorphisme. Pour prouver l'existence, on peut supposer que Φ est irréductible, i.e. que g et g sont simples (exercice : s'en convaincre). Considérons alors la sous-algèbre g de g g engendrée par les E α := (E α, E f(α) g π 1 g et g π 2 ) et les F α := (F α, F f(α) ). Nous allons montrer que les projections g sont des isomorphismes de K-algèbres de Lie. Si c'est bien le cas, l'isomorphisme π 2 π 1 satisfera les requêtes de l'énoncé. Notons que π 1 et π 2 sont évidemment des morphismes de K-algèbres de Lie et qu'ils sont surjectifs par la proposition précédente. Reste à voir qu'ils sont injectifs. Le noyau Ker(π 1 ) = g (0 g ) est un idéal de 0 g (le vérier), donc puisque g est simple, il est non nul si et seulement si g contient g = 0 g, ce qui équivaut aussi à ce que g contienne g 0, vu la dénition de g, et qui est donc encore équivalent à g = g g. Bref, il nous sut de montrer que g g g. Soit γ la plus grande racine de Φ (cf exercice ci-dessus). Alors γ = f(γ) est la plus grande racine de Φ. Choisissons X g γ \ {0} et X g γ \ {0}, posons X := (X, X ) 52

53 g g, et considérons le sous-k-espace vectoriel V de g g engendré par tous les éléments de la forme ad F ad F αm α m 1 ad F α 1 (X ) où m N et α i. Par dénition, on voit que i) V (g γ g γ ) = K.X et donc V g g. ii) V est stable par les ad, F α. α Montrons que V est aussi stable par les ad. Pour cela, remarquons que E ad α E commute à α ad F dès que α β, puisqu'alors [E β α, F β ] g α β g f(α) f(β) = 0 car α β n'est pas une racine. Ainsi, en utilisant que ad E ad α F α = ad F α ad E α + ad [E α,f α ] et que ad E α (X ) = 0 (car γ + α n'est pas une racine par maximalité de γ), on se ramène par un argument inductif à montrer que V est stable par les ad H où H α α = [E α, F α]. Mais cela découle du même argument inductif basé sur l'égalité ad H ad α F β = ad F β ad H α + α (β)ad F et le fait que X β est propre pour ad. H α Ainsi V est stable sous ad(g ). Si on avait g = g g, V serait donc un idéal propre de g g. En particulier V serait semi-simple, donc V = [V, V ] = [V, g] [V, g ] avec [V, g] = 0 ou [V, g ] = 0, et donc V g ou V g, ce qui n'est pas le cas puisque X / g g Vers une classication. Ce corollaire donne une stratégie possible pour classier toutes les K-algèbres de Lie simples. i) Classier tous les systèmes de racines irréductibles. ii) Déterminer lesquels apparaissent bien comme systèmes de racines d'une algèbre de Lie simple. Nous allons traiter i) plus loin. Le point ii) a une réponse agréable : tous les systèmes de racines abstraits apparaissent dans les algèbres de Lie simples (on voit d'ailleurs ainsi que la classication ne dépend pas du corps K supposé algébriquement clos de caractéristique nulle.) En fait, on a de la chance : la classication des systèmes de racines fait apparaitre 4 familles innies qui correspondent à des algèbres déjà connues (sl n, so 2n+1, sp 2n et so 2n ) et un nombre ni d'autres possibilités pour lesquelles il est donc envisageable de construire à la main les algèbres de Lie correspondantes Générateurs et relations. Cependant, la proposition précédente suggère une autre manière, plus conceptuelle et plus uniforme, de construire l'algèbre de Lie associée à un système de racines : par générateurs et relations. La proposition nous fournit des générateurs E α, F α pour α. Pour écrire les relations connues entre ces générateurs, il est plus agréable d'introduire aussi les H α. Ces relations s'écrivent alors (R0) [H α, H β ] = 0, (R1) [E α, F β ] = δ αβ H α (R2) [H α, E β ] = α (β)e β et [H α, F β ] = α (β)f β. Considérons alors l'algèbre g 0 (Φ) de générateurs E α, F α, H α, α soumis aux relations (R0), (R1) et (R2). Techniquement, c'est le quotient de l'algèbre de Lie libre sur {E α, F α, H α } α par l'idéal engendré par les éléments [H α, H β ], [E α, F β ] δ αβ H α, [H α, E β ] α (β)e β et [H α, F β ] + α (β)f β. On peut montrer (cf le livre de Humphreys, 18.2 par exemple) que les H α y engendrent une sous-algèbre abélienne h de la bonne dimension et que 53

54 g 0 (Φ) est somme de ses sous-espaces de poids pour h. Mais en général, l'ensemble des poids est inni, et g 0 (Φ) n'est donc pas l'algèbre cherchée. Il nous manque donc des relations imposant que l'ensemble des poids non nuls dans le quotient soit bien Φ. Pour en trouver, rappelons que pour α, β on β α / Φ. Par conséquent on a aussi s α (β α) = β + ( α (β) + 1)α / Φ. Il s'ensuit que dans une éventuelle algèbre de Lie g de système de racines Φ, on doit avoir les relations (dites relations de Serre) : (S) (ad Eα ) α (β)+1 (g β ) = 0 et (ad Fα ) α (β)+1 (g β ) = 0. Serre a alors montré que ces nouvelles relations susent à construire l'algèbre de Lie g(φ) désirée. Plus précisément : Théorème. (Construction des K-algèbres de Lie semi-simples) i) Soit g une K-algèbre de Lie semi-simple, h une sous-algèbre de Cartan, Φ le système de racines de h dans g. Fixons une base de Φ et rappelons que α (β) = β(h α ). Alors g est engendrée par les E α, H α, F α pour α, avec pour seules relations : (a) [H α, H β ] = 0, (b) [E α, F β ] = δ αβ H α (c) [H α, E β ] = α (β)e β et [H α, F β ] = α (β)f β, (d) (ad Eα ) α (β)+1 (g β ) = 0 et (ad Fα ) α (β)+1 (g β ) = 0 pour α, β. ii) Soit (V, Φ, Φ ) un système de racines (réduit) et une base de Φ. Alors la présentation ci-dessus dénit une K-algèbre de Lie semi-simple. iii) Les procédés décrits ci-dessus induisent une bijection { K-algèbres de Lie semi-simples } /isom { Systèmes de racines (réduits)} /isom. On pourra consulter les livres de Serre, Carter ou Humphreys pour une preuve de ce résultat Automorphismes. Soit (g, h, Φ,, (E α ) α ) comme plus haut. Une autre conséquence du corollaire (ou du théorème ci-dessus), est que tout automorphisme de Φ induit un automorphisme de g Exemple. Considérons l'automorphisme θ : α α de Φ. On a donc θ( ) =. Posons g = g, h = h, Φ = Φ, = et E α := F α. Le corollaire nous assure alors l'existence d'un unique automorphisme θ de g tel que E α F α et H α H α. Cet automorphisme envoie donc aussi F α sur E α, et par conséquent est une involution de g. Par exemple dans le cas g = sl n, on a θ(x) = t X (transposée). Cet automorphisme n'est pas intérieur sauf si n = Classication des systèmes de racines Que l'on utilise le théorème de Serre ci-dessus, ou que l'on se contente du corollaire 3.3.2, il nous faut maintenant classier les systèmes de racines irréductibles. Cela passe par 54

55 deux invariants associés à un système de racine Φ : sa matrice de Cartan et son diagramme de Dynkin Définition. (Matrice de Cartan) Soit un ensemble ni. Une matrice de Cartan sur est une collection d'entiers c α,β, α, β telle que (C1) c α,α = 2 et c α,β {0, 1, 2, 3} si α β. (C2) c α,β = 0 c β,α = 0. (C3) la forme quadratique Q(x) = α x2 α α β cα,β c β,α x α x β sur l'espace vectoriel R est dénie positive. On dit que deux matrices de Cartan, l'une sur, l'autre sur sont équivalentes s'il existe une bijection α α de sur telle que c α,β = c α,β pour tous α, β. On peut obtenir une vraie matrice de taille r r, r = en ordonnant l'ensemble. La vraie matrice est alors dénie à permutation près de la base (i.e. conjugaison par une matrice permutation). Lemme. Soit Φ un système de racines. i) Si est une base de Φ, les c α,β := α (β) forment une matrice de Cartan C(Φ, ). ii) Si est une autre base, C(Φ, ) et C(Φ, ) sont équivalentes. iii) Φ est déterminé, à isomorphisme près par C(Φ). iv) Φ est réductible si et seulement si C(Φ) est (équivalente à) une matrice diagonale par blocs, avec au moins 2 blocs. v) C(Φ ) est la transposée de C(Φ). Démonstration. i) On a déjà vu que la matrice C(Φ, ) satisfait la propriété (C1) d'une matrice de Cartan. Pour voir la propriété (C2), il sut de rappeler que α (β) = 2 α,β pour α un produit scalaire W-invariant sur 2 V, puis d'utiliser la symétrie de ce produit scalaire. Pour la propriété (C3), on utilise à nouveau ce produit scalaire et cette égalité. Appliquée aussi à β, cette égalité nous dit que α (β)β (α) = 4 α,β 2, mais puisqu'on sait que α 2 β 2 α, β 0, on en tire que α (β)β (α) = 2 α,β. Il s'ensuit que pour tout x = x α β α α, on a Q(x) = y 2 si l'on pose y = x α α α. Ceci montre que Q est dénie positive. α ii) L'unique w W tel que w( ) = permet d'identier C(Φ, ) et C(Φ, ) puisque c w(α),w(β) = 2 w(α),w(β) = 2 α,β = c w(α) 2 α 2 α,β. iii) Il s'agit de voir comment retrouver Φ à partir de et des c α,β. Or, les c α,β déterminent les réexions s α, α, on sait que ces réexions engendrent le groupe de Weyl W, et on sait que W. = Φ. iv) Le sens direct est clair. Supposons donc C(Φ, ) équivalente à une matrice diagonale par blocs. Cela signie qu'on peut partitionner = 1 2 de sorte que c α,β = 0 si α 1 et β 2. On a donc 1 2 pour tout produit scalaire W-invariant, et on a vu dans un exercice plus haut que Φ est alors réductible. v) est clair. 55

56 Exemple. La matrice de Cartan de Φ(sl n ) dans la base des α i = e i e i+1, i = 1,, n 1 est : (par convention ce qui n'est pas rempli est nul) Les matrices de Cartan de Φ(so 2n+1 ) et Φ(sp 2n ) dans la base des α i = e i e i+1 (i n 1) et α n = e i, resp. 2e i sont respectivement Exercice. Trouver une base de Φ(so 2n ) dans laquelle la matrice de Cartan est de la forme Exercice. Trouver une base du système de racines de rang 2 non-classique du paragraphe 3.2.5, et écrire sa matrice de Cartan. La propriété iii) de ce lemme nous suggère de classier les matrices de Cartan. Pour cela nous aurons besoin du lemme suivant et d'un invariant de la matrice appelé graphe (ou diagramme) de Dynkin Lemme. Soit C = (c α,β ) α,β une matrice de Cartan sur un ensemble. i) Si, la matrice C = (c α,β ) α,β extraite de C est une matrice de Cartan sur. ii) Si c α,β < 0, alors c α,β = 1 ou c β,α = 1. iii) Soit C = (c α,β ) α,β une matrice telle que c α,β c α,β pour tout α, β. Si C satisfait les propriétés (C1) et (C2), c'est une matrice de Cartan. Démonstration. i) est clair. Appliquons le à = {α, β} avec α, β telles que c α,β < 0. Le discriminant de la forme bilinéaire Q sur Rα Rβ est c α,β c β,α 4. Pour que Q soit dénie, 56

57 il faut que ce discriminant soit < 0. On en déduit que 0 < c α,β c β,α < 4, ce qui, vu les contraintes sur les c α,β, impose que c α,β = 1 ou c β,α = 1. Pour iii), notons Q la forme quadratique sur R associée à C. Pour x = α x αα R, notons x := α x α α. Alors Q (x) Q ( x ) Q( x ). On en conclut que Q est dénie positive Définition. Un diagramme Γ sur un ensemble est un graphe partiellement orienté du type suivant l'ensemble des sommets est. Pour α β, le nombre d'arêtes reliant α et β est noté n αβ. Si n αβ > 1, on se donne une orientation α β ou β α commune à ces n αβ arêtes. Le diagramme est dit de Dynkin si la forme quadratique Q(x) = α x2 α α β nαβ x α x β sur R est dénie positive. Remarquer que le fait que Γ est de Dynkin ou pas ne dépend pas des éventuelles orientations. Voici le lien entre matrices et diagrammes. Soit C = (c α,β ) α,β une matrice de Cartan sur. On lui associe un diagramme Γ(C) sur en posant n α,β = c α,β c β,α. Si n αβ > 1 et c α,β = 1, on oriente les arêtes de α vers β. (Noter que par le lemme précédent, on sait que c α,β = 1 ou c β,α = 1). Réciproquement, on associe à un diagramme Γ la matrice C(Γ) dénie par c α,α = 2 et c α,β = n αβ si n α,β < 2 ou β α c α,β = 1 si n α,β 2 et α β. Si Γ est un diagramme de Dynkin, alors C(Γ) est une matrice de Cartan (noter que le caractère déni de Q implique que n αβ < 4 comme dans le lemme ci-dessus). Lemme. Ces constructions dénissent des bijections réciproques entre matrices de Cartan et diagrammes de Dynkin. De plus, on a les propriétés suivantes : les composantes connexes de Γ(C) sont en bijection avec les blocs diagonaux de C. En particulier, si C = C(Φ), alors Φ est irréductible si et seulement si Γ(C) est connexe. le diagramme de t C s'obtient en renversant les orientations. Si C est extraite de C, alors Γ(C ) est extrait de Γ(C) (en un sens évident). Les matrices C comme dans le iii) du lemme précédent correspondent aux diagrammes obtenus en eaçant des arêtes de Γ(C). Démonstration. Laissée au lecteur. Exemple. Voici les diagrammes de Dynkin des algèbres de Lie classiques. A n C'est le diagramme de Dynkin de Φ(sl n+1 ), avec n sommets. B n > C'est le diagramme de Dynkin de Φ(so 2n+1 ), avec n sommets. 57

58 C n < C'est le diagramme de Dynkin de Φ(sp 2n ), avec n sommets. D n C'est le diagramme de Dynkin de Φ(so 2n ), avec n > 1 sommets (so 2 n'est pas simple). Noter que D 2 = A 1 A 1 est non-connexe. On est donc amené à classier les diagrammes de Dynkin. Le théorème de classication est le suivant Théorème. Tout diagramme de Dynkin connexe est de l'un des types classiques A n, B n, C n, D n (n > 2), ou de l'un des types exceptionnels suivants : G 2 > F 4 > E 6 E 7 E 8 Démonstration. Elle repose sur le fait que tout diagramme extrait d'un diagramme de Dynkin doit être de Dynkin (cf les deux derniers lemmes). La stratégie consiste donc en deux étapes : (a) Exhiber une liste de diagrammes interdits dont la forme bilinéaire associée est dégénérée. (b) Montrer que si un diagramme ne contient pas un diagramme interdit, alors il est du type décrit dans le i) du théorème. (a) Voici la liste des diagrammes interdits utilisés (l'indice dans la notation est le nombre de sommets - 1). Ã n C n F 5 B n D n G 3 Ẽ 6 Ẽ 7 Ẽ 8 Pour voir qu'ils sont bien interdits, il sut d'exhiber un vecteur isotrope pour la forme quadratique associée. On laisse au lecteur le soin de vérier que les vecteurs suivants conviennent : Ã n : (1, 1,, 1) B n : ( 1 1 2, 2, 2, 2, 1) C n : (1, 2, 2, 1) D n : (1, 1, 2, 2, 1, 1) F 5 : (1, 2, 3, 2 2, 2) G 3 : ( 3, 2, 1) Ẽ Ẽ Ẽ

59 (b) Reste à voir que si un diagramme Γ ne contient aucun diagramme interdit, alors il est d'un des types décrits dans le théorème. C'est une vérication élémentaire. Traitons par exemple le cas où Γ n'a que des arêtes simples. Si Γ n'a pas de bifurcation (sommet ayant au moins 3 voisins), alors le diagramme interdit Ãn nous dit que Γ est de type A n. Soit α un sommet ayant au moins 3 voisins. Le diagramme interdit D 4 nous dit que α a exactement 3 voisins, et le diagramme interdit D n nous dit que α est l'unique point de bifurcation. On a donc 3 branches b 1, b 2, b 3 qui partent de α et le diagramme interdit Ãn nous dit que ces branches sont bien distinctes. Le diagramme interdit Ẽ6 nous dit que l'une de ces branches, disons b 1, ne possède qu'un seul sommet (en plus de α). Le diagramme interdit Ẽ7 nous dit que l'une des deux autres branches, disons b 2 possède au plus deux sommets (en plus de α). Nous supposerons sans perte de généralité que b 3 est au moins aussi longue que b 2. Si b 2 possède 2 sommets, le diagramme interdit Ẽ8 nous dit que Γ est E 6, E 7 ou E 8. Si b 2 ne possède qu'1 sommet, alors Γ est de type D n. Les cas où Γ possède des arêtes doubles ou triples sont laissés au lecteur. Remarque. Les diagrammes interdits utilisés ci-dessus sont eux-aussi remarquables. Ils sont les seuls, en plus des diagrammes de Dynkin, pour lesquels la forme quadratique Q est positive (à défaut d'être dénie positive). Ces diagrammes correspondent à des systèmes de racines anes, lesquels classient certaines algèbres de Lie de dimension innie dites algèbres de Lie anes. Etant donné un tel diagramme, l'algèbre de Lie ane correspondante est dénie par générateurs et relations exactement comme dans le théorème de Serre. Réciproquement, il n'est pas encore clair que tous les diagrammes de Dynkin (ou de manière équivalente, toutes les matrices de Cartan) proviennent de systèmes de racines. C'est l'objet du complément ci-dessous Théorème. Chacun des diagrammes du théorème précédent est le diagramme de Dynkin d'un système de racines réduit irréductible. De plus, ces systèmes sont 2 à 2 non isomorphes à l'exception de A 1 = B 1 = C 1, B 2 = C 2 et A 3 = D 3. Démonstration. L'existence d'un système de racines correspondant a déjà été vue dans les cas classiques A n, B n, C n et D n. De plus, on voit immédiatement que le graphe G 2 correspond au système de racines de rang 2 de cardinal 12 vu au paragraphe Dans R 4 euclidien, on peut vérier que l'ensemble { } 1 Φ := {(±e i ± e j ), i j} {±e i } 2 (±e 1 ± e 2 ± e 3 ± e 4 ) est un système de racines de type F 4, avec comme base {e 2 e 3, e 3 e 4, e 4, e 1 e 2 e 3 e 4 } (par exemple). 59

60 Dans R 8 euclidien, on peut vérier que l'ensemble { } + 1 Φ := {(±e i ± e j ), i j} 2 (±e 1 ± e 2 ± e 3 ± e 4 ± e 5 ± e 6 ± e 7 ± e 8 ) où dans l'ensemble de droite on n'autorise qu'un nombre pair de signes 1, est un système de racines de type E 8, dont une base est donnée par α 1 = (e 1 e 2 e 3 e 4 e 5 e 6 e 7 +e 8 ), α 2 = e 1 + e 2, α i = e i 1 e i 2, i = 3,, 8. Puisque les diagrammes E 7 et E 6 sont contenus dans celui de E 8, cela assure l'existence des systèmes de racines correspondants : il sut de prendre le sous-système de racines engendré par les racines simples correspondant. En l'occurence, avec les notations ci-dessus, il s'agit des racines simples α 1,, α i, et pour E i, i = 6 ou 7. Enn, on a déjà vu que le procédé Φ C Γ est injectif (sur les classes d'isomorphismes de systèmes de racines), donc le dernier point de l'énoncé est clair. Remarque. Grâce au théorème de présentation de Serre, les identités exceptionnelles de diagrammes de Dynkin dans le ii) du théorème se traduisent en isomorphismes exceptionnels sl 2 (K) sp 2 (K) so 3 (K), so 5 (K) sp 4 (K), et sl 4 (K) so 6 (K). L'identité D 2 = A 1 A 1 reète un isomorphisme so 4 (K) sl 2 (K) sl 2 (K). On prendra garde au fait que certains de ces isomorphismes ne sont pas valables sur un corps non algébriquement clos. Par exemple sl 2 (R) so 3 (R)! Exercice. Notons g(γ) l'algèbre de Lie associée au système de racines Φ(Γ). Montrer que si Γ est un diagramme de Dynkin obtenu à partir de Γ en eaçant des sommets (et les arêtes en partant), alors on peut plonger g(γ ) dans g(γ). En déduire que toute algèbre de Lie classique de rang n contient une sous-algèbre isomorphe à sl n. Exercice. Soit g, h, Φ, comme d'habitude, et notons n + := α Φ + g α. Construire un homomorphisme du groupe d'automorphismes du diagramme de Dynkin de g vers le sous-groupe des automorphismes de g qui stabilisent h et n +. Expliciter Aut(Γ(g)) et l'image du morphisme obtenu dans le cas de sl n. 4 Représentations des algèbres de Lie semi-simples On a vu que les représentations de dimension nie d'une algèbre de Lie semi-simple g sont complètement réductibles. Cela signie qu'il sut de classier les irréductibles pour comprendre toute la théorie des représentations de dimension nie de g. Mais pour arriver à cette classication, nous allons aussi considérer certaines représentations de dimension innie. 4.1 Modules de plus haut poids Soit g une algèbre de Lie semi-simple, h une sous-algèbre de Cartan, Φ h l'ensemble des racines, et Φ = {α = H α, α Φ} h l'ensemble des coracines. 60

61 Pour une représentation V de g et λ h, on note comme d'habitude V λ := {v V, H h, H.v = λ(h)v}, et on dit que λ est un poids de V si V λ 0. On rappelle que pour toute racine α Φ, on a g α.v λ V λ+α. On notera P (V ) l'ensemble des poids de V. On dit que V est somme de ses sous-espaces de poids si V = λ P (V ) V λ. Exercice. Montrer que si V est somme de ses sous-espaces de poids, alors toute sousreprésentation de V et tout quotient de V a la même propriété. (On ne suppose pas V de dimension nie). On note aussi P := {λ h, λ(φ ) Z}. C'est un groupe abélien libre de rang dim h appelé réseau des poids entiers de Φ Proposition. Supposons (V, r) de dimension nie. Alors V est somme de ses sous-espaces de poids, et P (V ) P. Démonstration. On a vu que h est formée d'éléments semi-simples de g, donc r(h) est formée d'éléments diagonalisables de gl(v ). Comme r(h) est une sous-algèbre commutative, ces éléments sont simultanément diagonalisables, d'où la première assertion. Pour la seconde, soit α Φ et sl α = g α K.H α g α. On sait qu'il existe un isomorphisme sl 2 slα qui envoie H sur H α. Les poids de H dans V vue comme représentation de sl 2 via cet isomorphismes sont les λ(h α ) = α (λ), pour λ P (V ). Mais la théorie des représentations de sl 2 nous dit que ces poids sont entiers. Fixons maintenant une base de Φ et notons Φ + l'ensemble des racines positives associé. On a une décomposition g = n h n + avec n ± = α Φ ± g α Définition. Un vecteur v V sera dit primitif de poids λ si v V λ et si n +.v = 0. Exercice. Montrer que c'est équivalent à demander que g α.v = 0 pour α. Lorsque V est de dimension nie, la nitude de P (V ) et l'inclusion g α.v λ V λ+α assurent l'existence de vecteurs primitifs dans V. Si V est de plus irréductible, on voit que V est engendrée par un vecteur primitif. Ceci conduit à la notion de représentation de plus haut poids Définition. Une représentation V (pas nécessairement de dimension nie) est dite de plus haut poids si elle est engendrée par un vecteur v primitif. Dans ce cas, on dit que v est un vecteur de plus haut poids, et que le poids λ de v est un plus haut poids de V. La terminologie est expliquée par le i) du résultat suivant Proposition. Soit V une représentation de plus haut poids λ. 61

62 i) P (V ) λ α Nα. En d'autres termes, λ est le plus grand élément de P (V ) pour l'ordre (partiel) sur h déni par λ λ λ λ α Nα. ii) V = µ P (V ) V µ, i.e. V est somme de ses sous-espaces de poids. iii) Chaque V µ est de dimension nie et dim V λ = 1. Démonstration. Soit b := h n +. Si l'on étend la représentation V à l'algèbre enveloppante Ug, la droite Kv est stable sous Ub. Par ailleurs, si l'on choisit pour chaque α Φ + un élément non nul F α de g α, le théorème de Poincaré-Birkho-Witt nous dit que Ug, en tant que Ub-module à droite, est engendré par les éléments de la forme F αs F αs 1 F α1 où s N et (α i ) i (Φ + ) s (si s = 0, on convient que ce produit est 1). En d'autres termes, on a Ug = F αs F αs 1 F α1 Ub. s N (α i ) i (Φ + ) s On en conclut que V, en tant que K-espace vectoriel, est engendré par les vecteurs de la forme F αs F α2 F α1.v. Or un tel vecteur est de poids λ s i=1 α i. On en déduit le i) et le ii), ainsi que dim(v λ ) = 1. Pour voir la nitude de dim V µ il sut de remarquer qu'il y a un nombre ni de suites α 1, α 2,, α s telles que µ = λ s i=1 α i. Remarque. Une représentation de plus haut poids V est indécomposable. En eet, si V = V 1 V 2 (décomposition stable sous g), alors V λ = V 1,λ V 2,λ. Mais puisque dim(v λ ) = 1, il y a un i = 1 ou 2 tel que V λ = V i,λ. Or, V est engendré par V λ, donc V V i Modules de Verma. La preuve ci-dessus suggère la dénition d'une représentation de plus haut poids universelle. Posons en eet M(λ) := Ug Ub K λ. C'est le Ug-module induit du Ub-module de dimension 1 donné par la forme linéaire b h λ K. Par propriété d'adjonction du produit tensoriel on a pour toute représentation V Hom g (M(λ), V ) Hom b (K λ, V ) = {v V λ, n + v = 0}. On voit en particulier que toute représentation de plus haut poids λ est quotient de M(λ). Ce dernier est appelé module de Verma de poids λ Théorème. (Ici les représentations peuvent être de dimension innie). i) Pour tout λ h, il existe une représentation irréductible V (λ) de plus haut poids λ, unique à isomorphisme près. ii) Si V (λ) V (λ ), alors λ = λ. Démonstration. ii) Supposons V (λ) V (λ ) =: V. Alors P (V ) λ α Nα, donc λ λ. Mais on a aussi P (V ) λ α Nα donc λ λ. Il s'ensuit que λ = λ. i) Soit V une représentation de plus haut poids λ, par exemple V = M(λ). Soient W 1, W 2 deux sous-g-modules stricts de V. D'après la proposition ci-dessus, V est somme 62

63 de ses sous-espaces de poids, donc d'après un exercice plus haut, chaque W i est somme de ses sous-espaces de poids. Puisque W i est strict, on a donc W i µ λ V µ, et par conséquent la somme W = W 1 + W 2 est aussi contenue dans µ λ V µ et donc est un sous g-module strict de V. On peut donc considérer le plus grand sous-module strict U de V. Explicitement, on a U = W V W, qui vérie U V. Mais alors le quotient V := V/U est non nul, de plus haut poids λ (avec pour vecteur primitif l'image d'un vecteur primitif de V ) et irréductible, puisque si W V est non nul, alors l'image réciproque W de W dans V contient strictement U donc est égale à V. De plus, la construction montre que V est l'unique quotient irréductible de V (car la projection V V se factorise par tout morphisme surjectif non nul V V ). Reste à voir que tous les modules simples de plus haut poids λ sont isomorphes. Mais comme on vient de le voir au-dessus du théorème, un tel module est quotient de M(λ), donc isomorphe à l'unique quotient irréductible V (λ) de M(λ) construit ci-dessus. 4.2 Classication des modules simples de dimension nie Puisque toutes les représentations irréductibles de dimension nie sont des représentations de plus haut poids, elles sont de la forme V (λ) pour un unique λ h. Il nous reste donc à déterminer quand V (λ) est de dimension nie. On a vu qu'une condition nécessaire est que λ P. Mais ce n'est pas une condition susante : Théorème. Soit λ h et V (λ) l'unique g-module simple de plus haut poids λ. Alors V (λ) est de dimension nie si et seulement si λ(h α ) N, α. Démonstration. Commençons par la remarque suivante. Soit v un vecteur primitif de V (λ) et α. Alors v engendre un sl α -module V (λ, α) de plus haut poids λ(h α ). i) Si V (λ) est de dimension nie, alors V (λ, α) est aussi de dimension nie, et on sait que le plus haut poids d'un sl 2 -module de dimension nie est un entier naturel, i.e. λ(h α ) N. ii) Réciproquement, supposons que λ(h α ) N pour toute α. Notre but est de prouver que P (V (λ)) est stable sous l'action de W et d'appliquer le lemme géométrique ci-dessous qui nous dit que P (V (λ)) est alors ni, ce qui nous sut pour conclure que V (λ) est de dimension nie puisque les V (λ) µ le sont. Puisque W est engendré par les réexions simples, il nous sut de montrer que P (V ) est stable par les s α, α. Notons que si µ P (V ), alors vu notre hypothèse et la forme de P (V ), on a µ(h α ) Z. Si µ(h α ) = 0 alors s α (µ) = µ et on n'a rien à ajouter. Si µ(h α ) > 0, on a F α µ(hα) (V (λ) µ ) V (λ) sα(µ) et il nous surait donc de prouver que F α µ(hα) (V (λ) µ ) 0. Si µ(h α ) < 0, on a Eα µ(hα) (V (λ) µ ) V (λ) sα(µ) et il nous surait donc de prouver que E α µ(hα) (V (λ) µ ) 0. Or on sait que dans une représentation W de dimension nie de sl α et pour m N, on a Fα m (W m ) = W m et Eα m (W m ) = W m. Il nous surait donc, pour conclure que s α (P (V )) = P (V ), de montrer que V est somme de sous sl α -modules de dimension nie. Considérons donc la somme V (λ) α des sous-sl α -modules de dimension nie de V, et commençons par remarquer qu'elle est stable par g. En eet, si V est un sous sl α -module de 63

64 dimension nie, alors X g XV est aussi un sous sl α -module de dimension nie (noter que la somme peut n'être prise que sur une base de g). On voudrait montrer que V (λ) α = V (λ). Par irréductibilité de V (λ), il sut maintenant de prouver que V (λ) α 0, donc d'exhiber un sous sl α -module de dimension nie. Nous allons prouver que V (λ, α) (déni au début de la preuve) est de dimension nie. Comme v est propre pour b α = KH α g α, on a V (λ, α) = Vect K {Fαv, i i N}. Rappelons la formule E α.fαv i = i(λ(h α ) i + 1)Fα i 1 v déjà utilisée dans l'étude des représentations irréductibles de sl 2 (et facile à prouver par récurrence). Elle montre en particulier que E α.fα λ(hα)+1 (v) = 0. Par ailleurs, pour β \ {α}, on sait que E β commute avec F α donc E β.fα λ(hα)+1 (v) = Fα λ(hα)+1.e β v = 0 (car v est primitif). Il s'ensuit que le vecteur Fα λ(hα)+1 (v) est primitif. Or il est de poids λ = λ (λ(h α ) + 1)α λ. D'après le ii) du théorème précédent, λ n'est pas un plus haut poids de V (λ), donc Fα λ(hα)+1 (v) = 0. Il s'ensuit que V (λ, α) est de dimension nie. Lemme. Soit C := α R +α V le cône positif engendré par une base d'un système de racines Φ. Alors pour tout x V, w W w(x C) est compact. Démonstration. Soit w 0 l'unique élément (d'ordre 2) de W tel que w 0 ( ) =. Il nous sura de prouver que (x C) w 0 (x C) est compact. Soit (ω α ) α la base duale de dans V. On a alors w 0 (ω α ) = ω w0 (α). Par dénition, et donc x C = {v V, α, ω α, v ω α, x } w 0 (x C) = {v V, α, ω α, w 0 (v) ω α, x } = {v V, α, ω w0 (α), v ω α, x }, (x C) w 0 (x C) = {v V, α, ω ω0 (α), x ω α, v ω α, x } qui est visiblement compact puisque (ω α ) α est une base de V. 64