Groupes définis par générateurs et relations

Transcription

1 Groupes définis par générateurs et relations 1. Monoïde libre construit sur un ensemble. 2. Groupe libre construit sur un ensemble. 3. Relateurs, présentations d'un groupe. 4. Exemples de groupes définis par générateurs et relations. 5. Les problèmes fondamentaux de Max Dehn. 6. Graphe de Cayley d un groupe. 7. Application à des problèmes de pavages. 8. Présentation de S n. 9. L art des tresses. 10. L accrochage des tableaux. 11. Groupe modulaire et pavage de Klein-Poincaré. A Ivan Marin, qui depuis bien longtemps a dépassé le maître. Je travaillais alors sur les groupes définis par générateurs et relations. Je sentais bien l intérêt de cette théorie, mais une difficulté bloquait ma réflexion, et m empêchait de progresser véritablement. Néanmoins, j évoquai cette théorie en classe, à travers deux ou trois exemples que j avais compris, me disant que cela ouvrirait aux élèves des horizons algébriques insoupçonnés, que cela dilaterait leur âme pythagoricienne. Cailloux, petits cailloux huit ans plus tard, Ivan achevait sa thèse sur les groupes de tresses Cette note n est qu une introduction à une théorie qui, depuis les travaux pionniers de von Dyck, Dehn, Reidemeister, Artin et Schreier, a eu des développements considérables, débordant largement l algèbre abstraite, et irriguant la topologie différentielle, les groupes quantiques, l algorithmique, etc. Pierre-Jean Hormière M. C. Escher, Serpents, xylogravure,

2 1. Monoïde libre construit sur un ensemble. Soit X un ensemble non vide appelé alphabet. Les éléments de X sont appelés lettres. On appelle mot construit sur l alphabet X toute suite finie w = (x 1,..., x n ) d éléments de X ; n est la longueur du mot, et se note n = l(w). On appelle mot vide la suite notée e, de longueur 0. Notons Mo(X) = {e} U n 1 X n l ensemble des mots construits sur X. Observons que, X étant non vide, Mo(X) est infini 1. Si X est fini ou dénombrable, Mo(X) est dénombrable, comme réunion d une suite d ensemble finis. Égalité de deux mots : deux mots sont égaux ss ils sont égaux en tant que suites, i.e. ont même longueur et mêmes éléments respectifs. Concaténation de mots : on munit Mo(X) d une loi interne appelée produit, composition, concaténation, ou juxtaposition, qui à u = (x 1,..., x m ) et v = (y 1,..., y n ) associe le mot : w = (z 1,..., z m+n ) = (x 1,..., x m, y 1,..., y n ) noté u.v. On convient que e.x = x.e = x. On a l(u.v) = l(u) + l(v). Changement de notation : on plonge X dans Mo(X) via l identification x (x), alors on peut écrire : u = (x 1,..., x m ) = x 1... x m. Représentation géométrique. Supposons X = {a, b}. Associons à tout mot de X le chemin tracé dans N 2, d origine (0, 0), obtenu en traçant un segment horizontal si on lit la lettre a, vertical si on lit la lettre b. Au concaténé des mots u et v est associé le concaténé du chemin associé à u et du (translaté du) chemin associé à v. Cela s étend à X = {a, b, c}, etc. Proposition 1 : Mo(X) est un monoïde régulier pour la concaténation. Définition 1 : Mo(X) est appelé monoïde libre construit sur X. On appelle langage un sousmonoïde de Mo(X), c est-à-dire une partie L contenant e et stable par concaténation. Le monoïde Mo(X) possède la propriété universelle suivante : Théorème 2 : Pour tout monoïde M et toute application f : X M, il existe un unique morphisme de monoïdes f : Mo(X) M prolongeant f. On l appelle morphisme de substitution. Preuve : L existence et l unité de f se montrent par analyse et par synthèse. Analyse : Si m = (x 1,..., x k ) = x 1... x k est un mot de Mo(X), on doit poser : f (m) = f (x 1 ) f (x k ) = f(x 1 ) f(x k ). Si m est le mot vide, on doit poser f (m) = e M, élément neutre de M. Synthèse : Il est facile de verifier que f ainsi défini répond au cahier des charges. En particulier, si M = Mo(Y) est le monoïde des mots construits sur Y, f et f sont appelées des codages. Ainsi, du codage s + 7 qui à chaque lettre s associe la lettre s + 7 (modulo 26) : Svunaltwz ql tl zbpz jvbpol kl ivuul olbyl se décrypte ainsi : Longtemps je me suis couche de bonne heure. Définition 2 : Un monoïde M est dit libre s il existe un ensemble X tel que M soit isomorphe au monoïde Mo(X). Cela revient à dire qu il existe une partie A de M, qui engendre M, tout élément de M s écrivant de manière unique comme composé d éléments de A. 1 Au grand dépit des lecteurs du Bavard, de Louis-René des Forêts... 2

3 Représentation d un monoïde libre Mo({a, b}). Exercice 1 : codage de Fibonacci. Soient X = {0, 1} et Mo(X) le monoïde des mots à deux lettres 0 et 1. À tout mot m on associe le mot f(m) obtenu en remplaçant 1 par 0 et 0 par 01. Ainsi : m = f(m) = ) Étudier les itérés par f du mot m = 0 ; propriétés de leur longueur, de leurs éléments. 2) Étudier les itérés par f de tout mot non vide. Exercice 2 : codage de von Koch. Soient X = { A, B, C, a, b, c }, Mo(X) le monoïde des mots construits sur X. À tout mot m on associe le mot f(m) obtenu en remplaçant A par AbcA, B par BcaC, C par CabC, a par abca, b par bcab et c par cabc. 1) Étudier la suite des itérés par f du mot m = A : longueur? Montrer que chaque mot commence par le précédent. Étudier en détail comment il se déduit du précédent. Définir un mot limite de la suite. 2) Quel lien voyez-vous entre ce problème et la courbe de von Koch? Exercice 3 : plier du papier. Pliez un ruban de papier en deux, puis à nouveau en deux dans la même direction, puis à nouveau en deux, etc. Au bout de n pliages, dépliez et constatez la suite de longueur 2 n 1 constituée par la trace des plis tantôt rentrant (notés x), tantôt sortant (notés y). On obtient ainsi la suite : x x y x x y y x x x y y x y y qui est infinie dès lors que n tend vers l infini. Etudier cette suite. 2 Exercice 4 : symétries. Dans le plan, on considère un triangle T = ABC. On lui fait subir une succession de symétries par rapport à l un de ses côtés. Une symétrie par rapport à BC (resp. CA, AB) est codée a (resp. b, resp. c). A chaque mot m de Mo({a, b, c}) correspond donc une position de T, notée m.t. On prendra garde que a.m.t est le triangle déduit de m.t par symétrie par rapport au côté BC du triangle m.t : voir figure ci-contre. 1) Quel est l effet sur T d un mot de la forme ababab ab? 2) Quel est l effet du mot abcabcbcabcacbacbcbacb? Montrer que bcabcbcabcacbacbcbacba.t = T (on cherchera des translations). 3) Quels sont les mots qui préservent l orientation de T? 4) Que dire de plus si T est équilatéral? En un sens métaphorique, à chaque lettre de l alphabet X on peut associer une action, mathématique ou non ; à chaque mot correspond donc une succession d actions. Inversement si l on a à effectuer une succession d actions en nombre fini (dessin, jeu, jonglage, tissage, nœuds, tresses, kamasoutra, etc.), on peut coder les actions élémentaires au moyen des lettres d un alphabet, et résumer l action à effectuer à l aide d un mot ; à la concaténation des mots correspond la succession des actions. Par exemple, l ex 2 ci-dessus établit un lien entre le dessin d une courbe fractale et une dynamique de mots dans un monoïde libre. Ces idées seront reprises dans les 7 et 8. 2 Michel Mendès-France a exposé les propriétés mathématiques de cette suite aux journées APM de Pau, le 24 octobre 2003 : relations avec les nombres transcendants, les fractions continues, les automates, la vibration d une chaîne de masses et de ressorts, etc. 3

4 2. Groupe libre construit sur un ensemble Construction du groupe libre F(X). Soit X un ensemble non vide. Considérons un ensemble disjoint de X et équipotent à lui, que l on note X 1, et une bijection x x 1 de X sur X 1, choisis une fois pour toutes. La notation x 1 est pour l instant une notation formelle qui s éclairera dans la suite. Notons S = X X 1, et prolongeons la bijection x x 1 de X sur X 1 en une involution de S, encore notée s s 1, en convenant que : ( x X) (x 1 ) 1 = x. Considérons le monoïde Mo(S) des mots construits sur l alphabet S. Il contient le mot vide e, et les mots de la forme : u = ε 1 1 x... n x ε n, où (x 1,..., x n ) X n et (ε 1,..., ε n ) {+1, 1} n. Ce monoïde n'est pas un groupe : en vertu des propriétés de la longueur, le seul élément inversible d un monoïde libre est le mot vide. Cependant l on aimerait que Mo(S) devienne un groupe, dans lequel x 1 soit l inverse de x. Pour cela, nous allons définir dans Mo(S) une relation d équivalence R compatible avec le produit des mots, et telle que Mo(S)/R soit un groupe. L idée est de considérer comme identiques des mots tels que : x.y.y 1.x.z.z 1.x 1.y.z.z 1.x, x.x..x 1.y.x et x.y.x, autrement dit d autoriser une «simplification de x et x 1» lorsqu ils sont côte à côte. Définition 1 : Deux mots u et v de Mo(S) sont dits adjacents ou contigus, et l on note u A v, si : (s, t) Mo(S) 2 a S = X X 1 ( u = s.t et v = s.a.a 1.t ) ou ( u = s.a.a 1.t et v = s.t ). Ainsi, si x, y, z X, on a : (x.y.y 1.x.z.z 1.x 1.y.z.z 1.x) A (x.x.z.z 1.x 1.y.z.z 1.x) A (x.x.x 1.y.z.z 1.x) A (x.y.x). La relation A est symétrique, mais elle n est ni réflexive (u A v l(u) = l(v) ± 2 u v), ni transitive. On va pallier cet inconvénient en introduisant la définition : Définition 2 : Deux mots u et v de Mo(S) sont dits semblables, et l on note u R v ou u v, si : n 1 (t 1,..., t n ) Mo(S) n u = t 1, v = t n et t i A t i+1 pour 1 i n 1. Autrement dit, deux mots sont semblables si l on peut passer de l un à l autre par un nombre fini d opérations élémentaires suivantes : intercaler entre deux lettres consécutives un mot spécial x.x 1.ou x 1.x, pour x X. simplifier deux lettres consécutives si l une est l inverse de l autre. Théorème 1 : R est une relation d équivalence dans Mo(S), compatible avec la loi de Mo(S). Le monoïde quotient Mo(S)/R est un groupe. Preuve : 1) On a u A v u R v. R est réflexive (cas n = 1), symétrique car A l est, et transitive. 2) Compatibilité à gauche. u R v w.u R w.v découle de u A v w.u A w.v. Si u = s.t et v = s.a.a 1.t, w.u = (w.s).t et w.v = (w.s).a.a 1.t, donc w.u A w.v ; Si u = s.a.a 1.t et v = s.t, w.u = (w.s).a.a 1.t et w.v = (w.s).t, donc w.u A w.v. Idem à droite. Il en résulte que Mo(S)/R est un monoïde ; notons [u] la classe de u. 3) [e] est neutre de Mo(S)/R. Reste à montrer que tout élément [u] est inversible. Soit u = x 1 ε1... x n εn un représentant de [u] ; posons v = x n εn... x 1 ε1. Je dis que u.v R e et v.u R e par un nombre fini de simplifications, de sorte que [u].[v] = [v].[u] = [e]. Il suffisait d établir le résultat pour [x], où x S, car tout [u] est produit de [x]. Définition 3 : On appelle groupe libre construit sur X, et on note F(X), le groupe quotient Mo(S)/R. 4

5 Définition 4 : Un mot u Mo(S) est dit réduit si l on a u = e ou si u s écrit a 1... a n, avec a i S et a i+1 a i 1 pour 1 i n 1. Exemples : 1) Tout mot de longueur 1 est réduit. 2) Si X = {a, b}, aaaba 1 et a 1 babb sont des mots réduits, aaba 1 a et babb 1 a 1 ne le sont pas. Théorème 2 : Chaque classe d équivalence de Mo(S) contient un et un seul mot réduit. Preuve : Elle nécessite plusieurs étapes. 1) Tout mot est semblable à un mot réduit. On peut montrer cela de deux façons : parmi les mots semblables à u, il y en a un, v 0, de longueur minimum ; ce mot est réduit sans quoi il serait semblable à un mot de longueur l(v 0 ) 2. par descente infinie : si u est réduit, c est fini ; sinon, u est de longueur 2 et adjacent à un mot v de longueur l(u) 2. En réitérant cet argument un nombre fini de fois, on atteint un mot réduit. 2) Forme réduite du mot u = a 1 a n, a i S, 1 i n. Voici un algorithme effectif produisant un mot réduit semblable à u. Nommons a n la dernière lettre de u. Construisons une suite u 0, u 1,, u n de mots comme suit : u 0 = e ; u 1 = a 1 ; u 2 = a 1.a 2 si a 1 a 2 1, u 2 = e sinon. Si u i est déterminé, on pose u i+1 = u i.a i+1 si la dernière lettre de u i est différente de a i+1 1 ; u i+1 = t si u i = t.a i+1 1 ; t est un mot bien déterminé. La suite de mots (u i ) est bien déterminée (si u = e, u i = e pour tout i). Par récurrence chaque u i est réduit, et u i est équivalent à a 1 a i. En particulier u n est équivalent à u. Le mot u n est appelé forme réduite de u, et noté r(u) ; si u est réduit, u n = r(u) = u. 3) Deux mots adjacents ont même forme réduite. Supposons u = a 1 a 2 a k a k+1 a n et v = a 1 a 2 a k x x 1 a k+1 a n. Notons u 0,, u n et v 0,, v n+2 les suites de mots respectives associées à u et v. L algorithme exposé en 2) donne aussitôt u 0 = v 0,, u k = v k. Montrons u k = v k+2. 1 er cas : la dernière lettre de u k est différente de x 1. Alors v k = u k, v k+1 = v k.x, v k+2 = v k = u k. 2 ème cas : la dernière lettre de u k est x 1 ; écrivons u k = t.x 1. u k étant réduit, la dernière lettre de t est différente de x, donc v k = u k, v k+1 = t, v k+2 = t.x 1 = u k. De u k = v k+2 on déduit aussitôt u k+i = v k+2+i, 0 i n k. En particulier u n = v n+2, i. e. r(u) = r(v). 4) Si u et v sont deux mots réduits et semblables, ils sont égaux. En effet, u A t 2 A t 3 A A t n 1 A v implique u = r(u) = r(t 2 ) = = r(t n 1 ) = r(v) = v. cqfd. Conséquence : Notons F X l ensemble des mots réduits de Mo(S). L application u Mo(S) r(u) F X se factorise en une bijection [u] r(u) qui à chaque classe [u] associe l unique mot réduit r(u) qu'elle contient. On peut transporter la structure de groupe de F(X) en une structure de groupe sur F X, via cette bijection. La loi de groupe est alors (u, v) F X F X r(u.v) F X. F X est aussi appelé groupe libre construit sur X. Tout élément de F X s écrit de manière unique sous la forme : u = e si n = 0, u = a 1... a n, avec a i S et a i+1 a i 1 pour 1 i n 1, si n Etude du groupe libre F({a, b}). Cherchons à décrire les éléments du groupe libre «dicyclique» F(X) où X = {a, b}. 5

6 1) Description algébrique des éléments de F(X). Notons d abord qu il y a 1 mot réduit de longueur 0, le mot vide e, et 4.3 n 1 mots réduits de longueur n, si n 1. Pourquoi? De plus, tout élément de F(X) s écrit de façon unique sous l une des quatre formes réduites suivantes : (i) a α1.b β1 a αr.b βr (ii) a α1.b β1 a αr.b βr.a αr+1 (iii) b β0.a α1.b β1 a αr.b βr (iv) b β0.a α1.b β1 a αr.b βr.a αr+1 où les α i et β j sont des entiers relatifs non nuls. Ce sont là en effet les formes condensées des mots réduits. Ces quatre types forment une partition de F(X). 2) Représentation géométrique des éléments de F(X). Commençons par noter la nature fractale de l ensemble M = Mo(S), où S = { a, b, a 1, b 1 }. En effet on a : M = {e} a.m a 1.M b.m b 1.M, et ceci est une partition de M. On voit que M renaît sans cesse de ses cendres, tel le phénix Associons à tout mot m de M une ligne brisée dans R 2, de longueur < 2, formée de segments verticaux et horizontaux, obtenue récursivement ainsi : si m commence par a, resp. a 1, b, b 1, joignons O à (1, 0), resp. ( 1, 0), (0, 1), (0, 1). On place alors l origine en ce point, et l on recommence avec le mot restant, mais en divisant les longueurs par deux. Tout élément de M a pour image une ligne brisée, et deux lignes brisées distinctes ne se touchent pas. Si l on s interdit des allers et retours immédiats, on obtient également une bonne description des mots réduits. Au composé des mots réduits m et m correspond la ligne obtenue en mettant bout à bout les lignes correspondantes, après réduction de la deuxième. Ce groupe libre a une application importante à la théorie de la mesure et au paradoxe de Banach Tarski : cf. P. Dehornoy, La multiplication des sphères (Pour la science, décembre 2003, p. 86), et M. Alessandri (RMS novembre 2004). Expliquons le point de départ. Définition : Soit G un groupe. Appellons mesure (finiment additive invariante à gauche) sur G toute application µ : P(G) [0, 1] telle que : (i) µ(g) = 1 (ii) A, B P(G) A B = µ(a B) = µ(a) + µ(b) (iii) x G A P(G) µ(x.a) = µ(a). Théorème : Il n existe pas de mesure sur le groupe libre F({a, b}). Preuve : Notons G ce groupe. Nous aurions µ(g) = µ(a.g) + µ(b.g) + µ(a 1.G) + µ(b 1.G) = 4µ(G)! 2.3. Propriété universelle du groupe libre. Théorème 3 : propriété universelle du groupe libre. Soient X un ensemble, et G un groupe. Pour toute application f : X G, il existe un et un seul homomorphisme de groupes φ : F(X) G prolongeant f. Preuve : L unicité découle de ce que X engendre F(X) ; or deux morphismes de groupes coïncidant sur une partie génératrice sont égaux. 6

7 Montrons l existence. Soit u Mo(S). Si u = e, posons ϕ(u) = e G, neutre de G. ε 1 ε n Si u = x 1... x n où (x 1,..., x n ) X n et (ε 1,..., ε n ) {+1, 1} n, posons ε ϕ(u) = f(x 1 ) 1... f(x n ) ε n. ϕ est un morphisme de monoïdes de Mo(S) dans G, car ϕ(u.v) = ϕ(u).ϕ(v). De plus u A v ϕ(u) = ϕ(v). [ Considérer u = s.t et v = s.a.a 1.t, et vice versa.] On en déduit par récurrence que u R v ϕ(u) = ϕ(v). ϕ(u) ne dépend que de [u] ; on peut donc poser : φ([u]) = ϕ(u). Alors : φ([u].[v]) = φ([u.v]) = ϕ(u.v) = ϕ(u).ϕ(v) = φ([u]).f([v]), et φ([x]) = ϕ(x) = f(x) pour tout x X. φ répond à la question. Corollaire : Toute application de X dans F(X) définit un et un seul endomorphisme du groupe F(X). Remarques : 1) φ([u]) s obtient en substituant l élément f(x) à la lettre x dans tout mot représentant [u]. Par analogie avec la théorie des polynômes, φ s appelle morphisme de substitution. 2) On notera aussi l analogie du th. 3 avec le théorème d algèbre linéaire bien connu : «Si E et F sont deux espaces vectoriels, et B une base de E, pour toute application f : B F il existe une unique application linéaire φ : E F prolongeant f». Cette analogie est très éclairante : on peut dire que X est une base du groupe F(X), en ce sens que : a) elle est génératrice ; b) elle est libre : aucun x X n appartient au sous-groupe engendré par les y X, y x. c) tout élément de F(X) s écrit de manière essentiellement unique à l aide des lettres de S. 3) La propriété universelle du théorème 3 caractérise F(X) à isomorphisme près. Plus généralement, on appelle groupe libre construit sur X tout groupe isomorphe à F(X). 4) Extension fonctorielle. Soit u : X Y une application. En vertu du th.3, il existe un et un seul morphisme de groupes F(X) F(Y) prolongeant u. On le note F(u). On vérifie que F(v o u) = F(v) o F(u) pour toute application v : Y Z, et que, si u est injectif, surjectif ou bijectif, il en est de même de F(u). Pour toute partie A de X, F(A) s identifie au sous-groupe de F(X) engendré par A. De plus, F(X) ne dépend pas vraiment du choix de l ensemble X 1 et de la bijection x x 1 de X sur X 1 : un autre choix conduirait à un groupe isomorphe à F(X). 3. Relateurs, présentation d un groupe Relateurs, familles génératrices, libres, basiques. Soit G un groupe, T = (t i ) i I une famille d éléments de G. Soit f T l unique homomorphisme du groupe libre F(I) dans G qui applique i sur t i. L image de f T n est autre que le sous-groupe de G engendré par la famille T. Les éléments du noyau de f T s appellent les relateurs de la famille T. On dit que T est génératrice, resp. libre, resp. basique, si f T est surjectif, resp. injectif, resp. bijectif. Pour qu un groupe G admette une famille basique, il faut et il suffit qu il soit isomorphe à un groupe libre F(X) : on dit encore que G est un groupe libre. Une famille basique est une famille génératrice telle que tout élement se décompose de manière essentiellement unique comme composé d éléments de la famille. «essentiellement» signifie à adjacence ou similitude près : si x = a.b.c.b, 7

8 on a aussi x = a.c.c 1.b.c.b, etc. Autrement dit, une famille basique est une famille de générateurs entre lesquelles n existent aucune relation. Le théorème suivant apparaît donc très naturel : Théorème de Nielsen-Schreier : Tout sous-groupe d un groupe libre est un groupe libre. Preuve : Ce théorème, fondamental et difficile, qui ne sert pas ici, est démontré dans J. Calais et Magnus (p.95). Exemples de familles génératrices et de relateurs : 1) Soit G = (Z, +). G est un groupe libre de base 1 (ou 1) 2) Soit G = (Z 2, +), T = (x, y), où x = (1, 0) et y = (0, 1). Indexons T par X = {a, b}. 3 T est une famille génératrice et a 1.b 1.a.b est un relateur de T, puisque x et y commutent 3) Soit G = (Z/nZ, +), x un générateur de G, T = (x), famille indexée par le singleton X = {a}. T est génératrice, et a n est un relateur de T. 4) Soit G = { e, x, y, z } le groupe de Klein. La famille T = (x, y), indexée par X = {a, b}, est génératrice, et a 2, b 2, (a.b) 2 sont des relateurs de T, car x 2 = y 2 = (x.y) 2 = e. 5) Soit G = S 3 le groupe des permutations de {1, 2, 3}. Soit T = {s, t}, où s = [1, 2] et t = [2, 3]. Cette famille est génératrice et vérifie s 2 = t 2 = (s.t) 3 = Id. En d autres termes, a 2, b 2, (a.b) 3 sont des relateurs de T. Soit T = {s, c}, où c est le cycle [1, 2, 3]. Cette famille est génératrice et vérifie s 2 = c 3 = (s.x) 2 = Id. Autrement dit a 2, b 3 et (b.a) 2 sont des relateurs de T. 6) Plus généralement, soit G = S n le groupe des permutations de {1, 2,, n}. G admet plusieurs familles génératrices : Soit T l ensemble des transpositions élémentaires s i = [i, i+1] pour 1 i n 1. Ces transpositions vérifient les relations suivantes, sur lesquelles nous reviendront : s i.s j = s j.s i si j i 2 s i.s i+1.s i = s i+1.s i.s i+1 pour 1 i n 2 s i 2 = Id pour tout i. On en déduit aussitôt les relateurs correspondants. Soit T l ensemble des transpositions t i = [1, i] pour 2 i n. Ces transpositions vérifient les relations : t i 2 = Id et (ti.t j ) 3 = Id. On en déduit aussitôt les relateurs correspondants. Exercice : Soit T l ensemble formé de la transposition t = [1, 2] et du cycle c = [1, 2,, n]. Montrer qu il engendre S n ; trouver des relateurs Présentation d un groupe. Soit G un groupe. Une présentation de G est un couple (T, R) formé d une famille génératrice T = (t i ) i I, et d une famille R = (r j ) j J de relateurs telle que le noyau N T du morphisme f T soit engendré par les éléments g.r j.g 1 pour g F(I) et j J. Il revient au même de dire que N T est le sous-groupe distingué de F(I) engendré par (r j ) j J. Une telle famille R sera dite exhaustive. Par abus, on dit aussi que les générateurs et les relations r j (T) = e constituent une présentation de G. 3 Il est nécessaire d indexer T par X, car les éléments de T ne sont pas forcément distincts : T = (x, x) aura pour relateur a 1.b. 8

9 Une telle présentation se note < T ; R > = < (t i ) i I ; (r j ) j J >. Un groupe G est dit de type fini s il admet une présentation < (t i ) i I, (r j ) j J >, où I est un ensemble fini. Il revient au même de dire que G admet une famille génératrice finie (on peut prendre pour R la famille de tous les relateurs). Un groupe G est dit de présentation finie s il admet une présentation < (t i ) i I, (r j ) j J >, où les ensembles I et J sont finis. Si I = [1, n] et J = [1, m], on la note < t 1,, t n ; r 1,, r m >, ou encore < t 1,, t n ; u 1 = v 1,, u m = v m > si r j = u j 1.vj. S il est facile d exhiber dans un groupe G des générateurs et des relations, il est plus difficile de montrer qu une famille de relateurs est exhaustive, autrement dit de trouver une présentation de G. Nous étudierons ce sujet dans la suite. Contentons-nous de noter prudemment : Exemple : Le groupe libre F(X) a pour présentation < X, > Groupes définis par générateurs et relations. Soit I un ensemble, et R = (r j ) j J une famille d éléments du groupe libre F(I). Soit N(R) le sousgroupe distingué de F(I) engendré par les r j pour j J. On pose F(I, R) = F(I)/N(R), et l on note t i la classe de i modulo N(R), et T = (t i ) i I. On dit que le groupe F(I, R) est défini par les générateurs t i et les relateurs r j ou encore par les générateurs t i et les relations r j (T) = e. Le couple < T ; R > est alors une présentation de F(I, R). On va voir qu on obtient ainsi un procédé général et puissant pour fabriquer des groupes, mais surtout pour comprendre la théorie abstraite des groupes, montrer que des groupes sont isomorphes, construire des homomorphismes de groupes, etc. Comment décrire avec précision un groupe défini par générateurs et relations? Comment trouver une présentation d un groupe? Pour éviter des débauches d indices, utilisons des notations archaïques, mais plus parlantes. Considérons pour commencer deux groupes définis par générateurs et relations : Γ = < a, b, c, ; P, Q, R, > et Γ = < a, b, c,, k, l, m, ; P, Q, R, > Γ ayant plus de générateurs que Γ, mais vérifiant les mêmes relations (qui ne portent que sur les premiers éléments). Il existe un homormophisme injectif naturel f de Γ dans Γ tel que f(a) = a, f(b) = b, f(c) = c, etc. Considérons ensuite deux groupes définis par générateurs et relations : Γ = < a, b, c, ; P, Q, R, > et Γ = < a, b, c, ; P, Q, R,, S, T, U, > Γ a les mêmes générateurs que Γ (à équipotence près), mais ils vérifient plus de relations que ceux de Γ, P, Q, R étant les mêmes relations que P, Q et R à transcription près. Alors il existe un homomorphisme surjectif canonique f de Γ dans Γ tel que f(a) = a, f(b) = b, f(c) = c, etc. En effet, si l ensemble I indexe les deux familles de générateurs, et si R et R désignent les familles resp. de relations, R est une sous-famille de R et N(R) est un sous-groupe de N(R ). Deux éléments de F(I) congrus modulo N(R) sont congrus modulo N(R ), d où une application naturelle (on dit «canonique») f : F(I)/N(R) F(I)/N(R ), telle que f(a) = a, f(b) = b, f(c) = c, etc. Il est facile de montrer que c est un morphisme surjectif. Nous sommes dans la même situation, au fond, que les morphismes Z/6Z Z/2Z, etc. 9

10 Ce résultat reste vrai si R n est pas une sous-famille de R, mais est inclus dans N(R ), autrement dit si les relations P, Q, R, etc. équivalent à P, Q, R, et si on leur adjoint d autres. Si R est inclus dans N(R ) et R est inclus dans N(R), les deux groupes sont isomorphes. 4 Soit Γ = < a, b, c, ; P, Q, R, > un groupe défini par générateurs et relations, G un groupe quelconque. Fabriquer un homomorphisme de groupes f de Γ dans G est très facile : f(a), f(b), f(c), doivent vérifier dans G les mêmes relations P, Q, R, que a, b, c,. La condition est visiblement nécessaire, mais elle est aussi suffisante : car si a, b, c, vérifient dans G les relations P, Q, R, et si F = F({a, b, c }) est le groupe libre construit sur { a, b, c, }, il y a un morphisme de groupes g : F G tel que g(a) = a, g(b) = b, g(c) = c,. Son noyau contient les relateurs P, Q, R, donc g se factorise à travers la surjection canonique F F/N(R) = Γ en un morphisme de groupes répondant aux conditions voulues. Remarque : Considérons par exemple le groupe < a, b ; a 2, b 2, a.b = b.a >. C est le groupe quotient du groupe libre dicyclique F({x, y}) par le sous-groupe distingué engendré par x 2, y 2 et x.y.x 1.y 1. a et b sont les classes de x et y dans ce quotient. Alors que x et y sont par définition distincts, a et b ne le sont pas toujours : que l on songe à < a, b ; a.b 1 > ; voir aussi 4, ex Exemples de groupes définis par générateurs et relations Groupes monogènes. Proposition 1 : Le groupe additif Z admet pour présentation < a ; >. Le groupe cyclique Z/nZ admet pour présentation < a ; a n >. Preuve : Z est un groupe libre, engendré par 1 ; la propriété universelle de Z n est autre que la propriété universelle des groupes libres F(X) lorsque x est un singleton. Notons Γ = < a ; a n >. Comme a est un générateur et a n = e, Γ = { e, a,, a n 1 }. Γ a donc au plus n éléments. Considérons maintenant le groupe additif Z/nZ. Son générateur 1 vérifie n.1 = 0. Donc il existe un homomorphisme surjectif f : Γ Z/nZ tel que f(a) = 1. Pour tout 0 k n 1, f(a k ) = k. Comme les k sont distincts deux à deux, leurs antécédants a k aussi. Ainsi, Γ a exactement n éléments et f est un isomorphisme. cqfd. Exercice : Décrire le groupe défini par générateurs et relations < a ; a m, a n, > Le groupe de Klein. Proposition 2 : Le groupe de Klein (Z/2Z) 2 admet pour présentation < a, b ; a 2, b 2, a.b = b.a >. Preuve : Notons Γ = < a, b ; a 2, b 2, a.b = b.a >. Il est très facile de montrer que {e, a, b, a.b} est un sous-groupe de Γ : c est une partie stable pour la multiplication, car b.a = a.b, a.(a.b) = b, (a.b).a = (b.a).a = b.(a.a) = b, etc. Comme a et b engendrent Γ, Γ = { e, a, b, a.b } a au plus 4 éléments. Considérons maintentant le groupe de Klein G = {e, x, y, z}. Il admet deux générateurs x, y vérifiant x 2 = y 2 = e, x.y = y.x. Il existe donc un homomorphisme surjectif f de Γ dans G tel que f(a) = x, f(b) = y. On a f(a.b) = z ; comme e, x, y, z sont distincts, e, a, b, et a.b aussi. Γ a donc 4 éléments et est isomorphe à G. 4 Le livre de Magnus cité en référence approfondit beaucoup ces remarques. 10

11 4.3. Le groupe symétrique S 3. Proposition 3 : Le groupe symétrique S 3 admet les trois présentations : < s, t ; s 2, t 2, (s.t) 3 >, < a, s ; a 3, s 2, (s.a) 2 >, < s, t ; s 2, t 2, s.t.s = t.s.t >. Preuve : Notons Γ = < s, t ; s 2 = t 2 = (s.t) 3 = e >. Je dis que Γ = { e, s, t, s.t, t.s, s.t.s }. En effet il est long mais facile de montrer, à l aide des relations s 2 = t 2 = (s.t) 3 = e que cet ensemble est un sous-groupe de Γ contenant s et t, donc égal à Γ. Donc Γ a au plus six éléments. Dans S 3 les transpositions σ = [1, 2] et τ = [2, 3] vérifient les mêmes relations que s et t : ce sont des involutions et σ.τ est le cycle [1, 2, 3]. D où un homomorphisme surjectif de groupes f : Γ S 3 tel que f(s) = σ et f(t) = τ. Comme Γ a au plus 6 éléments, f est un isomorphisme. La deuxième assertion peut se montrer de la même manière, en considérant le cycle [1, 2, 3] et la transposition [1, 2], mais on peut montrer directement que les groupes : Γ = < s, t ; s 2, t 2, (s.t) 3 > et Γ = < a, s ; a 3, s 2, (s.a ) 2 > sont isomorphes. Si je pose a = s.t dans Γ, il est facile de voir que Γ est engendré par a et s, qui vérifent a 3 = s 2 = (s.a) 2 = e. D où un morphisme surjectif f de Γ dans Γ tel que f(a ) = a, f(s ) = s. Mais inversement si je pose t = s.a dans Γ, il est facile de vérifier que s 2 = t 2 = (s.t ) 3 = e. D où un morphisme surjectif g de Γ dans Γ tel que f(s) = s, f(t) = t. On a g(a) = a et f(t) = t, donc g o f = Id et f o g = Id ; cqfd. La troisième présentation est visiblement équivalente à la première. Elle met mieux en valeur la «relation de tresse» s.t.s = t.s.t sur laquelle nous reviendrons dans le 8. Exercice : Trouver tous les automorphismes du groupe S 3, et vérifier qu ils sont tous intérieurs. Le 8 généralise tout ceci Le groupe additif Z 2. Proposition 4 : Le groupe additif Z 2 admet pour présentation : < a, b ; a 1.b 1.a.b >. Preuve : Soit Γ = < a, b ; a 1.b 1.a.b >. Du coup, a et b commutent, et tout élement de Γ s écrit sous la forme a p.b q, où (p, q) Z 2. De plus, l application g : (p, q) Z 2 a p.b q Γ est visiblement un morphisme surjectif de groupes. D autre part, Z 2 est engendré par deux générateurs x = (1, 0) et y = (0, 1) vérifiant x 1.y 1.x.y = e en notation multiplicative, c est-à-dire qui commutent. On en déduit un homomophisme surjectif de groupes f : Γ Z 2, tel que f(a) = x, f(b) = y. Ce morphisme f associe à a p.b q le couple (p, q). On a f o g = Id et g o f = Id ; f et g sont des isomorphismes réciproques. cqfd. Remarques : 1) La même méthode montrer que le groupe additif Z 3 pour présentation : < a, b, c ; a 1.b 1.a.b = b 1.c 1.b.c = a 1.c 1.a.c = e >, etc. 2) Attention à un détail important! il y a «base» et «base». Lorsqu on dit que (1, 0) et (0, 1) forment une Z-base de Z 2, il s agit d une base de Z 2 en tant que groupe commutatif, c est-à-dire en tant que Z-module, mais ce n est pas une famille basique de Z 2 en tant que groupe : (1, 0) et (0, 1) sont indépendants linéairement dans Z 2, mais ne sont pas indépendants dans le groupe Z 2 puisqu ils 11

12 commutent. Il y a différentes notions de base selon que l on considère les groupes quelconques ou qu on se restreint aux groupes commutatifs Le groupe diédral infini. Proposition 5 : Les transformations de Z de la forme S ε,m : x ε.x + m (ε = ±1, m Z) forment un groupe, appelé groupe diédral infini, et noté D. Ce groupe admet les trois présentations : < a, b ; b 2, b.a = a 1.b >, < b, c ; b 2, c 2 > et < u, v ; u 2, (u.v) 2 >. Preuve : Il est aisé de montrer que D est un sous-groupe de S Z, et que les translations x x + m forment un sous-groupe isomorphe à (Z, +), engendré par s : x x et t : x x + 1. Soit Γ = < a, b ; b 2, b.a = a 1.b >. On a b.a 1 = a.b et b.a m = a m.b pour tout m Z. Tout élément de Γ est de la forme a m ou a m.b, pour m Z. Cela s établit en montrant que ces éléments forment un sous-groupe de Γ, contenant a et b. Comme t et s vérifient les mêmes relations que a et b, il existe un morphisme surjectif f : Γ D tel que f(a) = t et f(b) = s. Alors f(a m ) = t m et f(a m.b) = t m.s ; comme ces images sont distinctes, les éléments a m et a m.b sont tous distincts. Ainsi, l écriture a m ou a m.b est unique, et f est bijective. Pour montrer que < b, c ; b 2, c 2 > est également une présentation de D, on peut considérer les involutions s(x) = x et u(x) = 1 x, mais on peut aussi introduire le groupe Γ = < b, c ; b 2, c 2 > et procéder comme en 4.3 : L élément c = b.a de Γ vérifie c 2 = e ; comme {b, c} engendre Γ, il y a un morphisme surjectif f de Γ dans Γ tel que f(b ) = b et f(c ) = c. L élément a = b.c de Γ vérifie b.a = a 1.b ; comme {b, c } engendre Γ, il y a un morphisme surjectif g de Γ dans Γ tel que g(a) = a et g(b) = b. On a alors f(a ) = a, g(c) = c, et on en déduit aussitôt que f et g sont des isomorphismes réciproques. Remarque récapitulative : Les exemples précédents utilisent et prolongent les résultats du 3. Tous procèdent d une démarche commune. Soit Γ = < a, b, c, ; P, Q, R, >. En triturant en tous sens les relations P, Q, R, on obtient des relations entre générateurs, et un inventaire aussi précis que possible des éléments du groupe : plus il y a de relations, moins il y a d éléments. Si l on connaît un ou plusieurs groupes concrets G possédant des générateurs vérifiant les relations P, Q, R, (mais d autres aussi), on en déduit un ou des morphismes surjectifs f de Γ sur G. Ces morphismes permettent de séparer les éléments de Γ : deux éléments de Γ ayant des images distinctes sont forcément distincts. Ils permettent aussi de classer les éléments de Γ en partitions. On peut savoir si Γ est fini ou infini, et des arguments de cardinalité ou d unicité permettent de mettre en évidence des isomorphismes, donc d obtenir des présentations de groupes connus. Ainsi, la théorie des groupes définis par générateurs et relations n a d intérêt sens que si l on dispose de nombreux exemples de groupes finis et infinis bien connus. On peut bien sûr s amuser à définir abstraitement des groupes par générateurs et relations ; mais il arrivera souvent que l on tombe sur le groupe trivial (voir exercice 6 ci-dessous). 12

13 Exercice 1 : Groupes diédraux finis. Exercices 1) Soit D n le groupe des isométries planes conservant un polygone régulier de n côtés. Etudier D n : ordre, inventaire. Montrer qu il est engendré par 2 éléments r et s vérifiant r n = s 2 = (r.s) 2 = e. 2) Montrer que D n admet les deux présentations suivantes : < a, b ; a n = b 2 = (a.b) 2 = e > et < c, d ; c 2 = d 2 = (c.d) n = e > Exercice 2 : Le groupe tétraédral A 4. 1) Classer les élements du groupe alterné A 4 selon leur ordre, puis à conjugaison près. 2) Montrer que ce groupe a pour présentation : < a, b ; a 3 = b 3 = (a.b) 2 = e >. Trouver d autres présentations de A 4, puis tous ses automorphismes. 3) Montrer que le groupe du tétraèdre est isomorphe à A 4. Exercice 3 : Le groupe octaédral S 4. 1) Classer les éléments du groupe symétrique S 4 selon leur ordre, puis à conjugaison près. 2) Montrer que S 4 admet les deux présentations : < a, b ; a 3 = b 4 = (a.b) 2 = e > et < s, t, u ; s 2, t 2, u 2, s.t.s = t.s.t, t.u.t = u.t.u, s.u = u.s >. 3) Trouver tous les automorphismes de S 4. 4) Montrer que les groupes du cube et de l octaèdre sont isomorphes, et isomorphes à S 4. Exercice 4 : Le groupe icosaédral A 5. 1) Classer les éléments du groupes alterné selon leur ordre, puis à conjugaison près. 2) Montrer que A 5 a pour présentation : < a, b ; a 3 = b 5 = (a.b) 2 = e >. 3) Trouver tous les automorphismes de A 5. 4) Montrer que les groupes du dodécaèdre et de l icosaèdre sont isomorphes, et isomorphes à A 5. Exercice 5 : Montrer que le groupe quaternionien Q = { ± e, ± i, ± j, ± k } admet pour présentation : < a, b ; a 4 = a 2.b 2 = a.b 1.a.b = e >. Exercice 6 : Soit G le groupe défini par la présentation : < a, b ; a 5, b 4, a.b = b.a 2 >. Montrer que G est d ordre 20, et isomorphe au groupe multiplicatif des matrices de la forme à coefficients dans Z/5Z. [ Considérer les matrices 1 0 et ] m k 1 0. Exercice 7 : Dans M 4 (C), on considère les quatre matrices : i A = , B = i 0 i i, C = , D = ) Calculer pour (x, y, z, t) C 4, le carré de la matrice M = xa + yb + zc + td. Quelles relations en déduit-on pour A, B, C, D? 2) Soit G le sous-groupe de Gl 4 (C) engendré par A, B, C et D. Montrer que toute matrice de G se met sous la forme ± A α.b β.c γ.d δ, où (α, β, γ, δ) {0, 1} 4. 3) Trouver le cardinal de G, ainsi qu une présentation de G. Exercice 8 : Soit G le groupe défini par la présentation : 13

14 < a, b, c ; a.b = b.a, a.c = c.a, b.c = c.b, a 3.b.c = a 25.b 8.c 10 = a 46.b 20.c 11 = e > Montrer qu il est isomorphe à Z/19Z. [ Indications : G est commutatif ; passer en notation additive. ] Exercice 9 : Un exemple décevant. Montrer que le groupe défini par la présentation < x, y ; x.y 2 = y 3.x, y.x 2 = x 3.y > est réduit au neutre. [ Indications : La première relation entraîne x 2.y 8.x 2 = y 18 et x 3.y 8.x 3 = y 27 ; utiliser la seconde relation pour en déduire que y 18 = y 27 d où y 9 = e ; le fait que y 2 soit conjugué de y 3 entraîne alors y = e, d où x = e. ] Exercice 10 : Une action par symétries. 1) Dresser un inventaire des éléments du groupe Γ = < a, b, c ; a 2 = b 2 = c 2 = e >. 2) On considère dans le plan euclidien P un triangle plan T = ABC, et l on note α la symétrie par rapport à la droite BC, β la symétrie par rapport à CA et γ la symétrie par rapport à AB. Elles engendrent un sous-groupe G de Is(P). Définir un morphisme sujectif de Γ sur G. Montrer que l action du monoïde Mo({a, b,c}) décrite en 1 ex 3 est en réalité une action de Γ sur T. Exercice 11 : Le groupe Sl 2 (Z). 1) Montrer que le groupe Sl 2 (Z) = { M M 2 (Z) ; det M = 1 } est engendré par les matrices : S = 0 1 et T = 1 1, mais aussi par les matrices T et U = t T, ou S et V = ) Indiquer des relateurs correspondants à ces familles génératrices. Remarque : On peut montrer que Sl 2 (Z) admet pour présentation : < a, b ; a 4 = e, a 2 = b 3 >. Il faut passer pour cela passer par le groupe modulaire. 5 Il est remarquable qu existent des groupes libres matriciels ou, pour mieux dire, des représentations matricielles des groupes libres de type fini. En voici des exemples. Exercice 12 : Un groupe libre matriciel. Soient Q[X] l anneau des polynômes à coef. dans le corps Q des rationnels, G = Sl 2 (Q[X]) le groupe multiplicatif des matrices M = P( X) Q( X) à éléments dans Q[X], et de déterminant 1. R( X) S( X) Soient A = et B = 1 X, Γ le sous-groupe de G qu elles engendrent. X 0 1 1) Calculer A α et B β pour α et β Z, puis A α.b β et B β.a α. 2) Si les α i et β j sont des entiers relatifs non nuls, que valent les degrés des éléments de la matrice A α1.b β1 A αr.b βr? En déduire que cette matrice est différente des matrices I, A αr+1, B β0 et B β0.a αr+1. 3) En déduire que tout élément I de Γ s écrit de façon unique sous l une des quatre formes : (i) A α1.b β1 A αr.b βr (ii) A α1.b β1 A αr.b βr.a αr+1 (iii) B β0.a α1.b β1 A αr.b βr (iv) B β0.a α1.b β1 A αr.b βr.a αr+1 où les α i et β j sont des entiers relatifs non nuls. En conclure que Γ est un groupe libre. 5 cf. J.-P. Serre, Cours d arithmétique supérieure (Puf), et Magnus, ex. 18 à 24, p. 44 à

15 4) Application : Soit x un réel transcendant sur Q. Que dire du sous-groupe de Gl 2 (R) engendré par 1 0 et 1 x? x Exercice 13 : Un groupe libre matriciel. 6 Soient A = 1 0 et B = 1 2, E = {A, B, A 1, B 1 }, et l on se propose d étudier le sous-groupe < A, B > de Sl 2 (Z) = { M M 2 (Z) ; det M = 1 }. 1) Soit (a n ) une suite d entiers relatifs non nuls. On définit les suites (x n ) et (y n ) par : x0 0 x = et y 0 1 n+ 1 x n an = C. où C = A si n est impair, B si n est pair. On pose u n = y 2n. y n+ 1 yn Montrer que x n < y n si n est pair, et x n > y n si n est impair. En déduire que la suite ( u n ) est strictement croissante. 2) En déduire que pour tout n 1 et toute suite (M 1,, M n ) E n telle que M k.m k+1 I pour tout k [1, n 1], on a : M 1.M 2 M n I. Décrire avec précision le groupe < A, B >. Remarque : On rencontre un autre exemple de groupe libre d origine géométrique dans le paradoxe de Banach-Tarski, où il joue un rôle-clé. Avec Maple Le package group de Maple permet d introduire et d étudier un groupe défini par générateurs et relations. Ainsi, le groupe de Klein peut être défini ainsi : > with(group) ; grelgroup({a, b},{[a, a], [a, b], [1/a, 1/b, a, b]}) ; On pourra entrer dans Maple les différentes présentations déjà rencontrées : on s apercevra alors des difficultés que rencontre Maple pour reconnaître les groupes. Le suivant éclaire ce sujet. Avec GAP Le logiciel Gap développé à St Andrews permet lui aussi de définir des groupes par générateurs et relations. 5. Les problèmes fondamentaux de Max Dehn. 7 Une présentation (1) < a, b, c,... ; P, Q, R,... > aussi nombreuses ou étranges que soient les relations de définition, détermine toujours un groupe unique (à isomorphisme près). Mais on peut se heurter à de grandes difficultés dès qu on souhaite obtenir plus d information spécifique au sujet du groupe G défini par (1) ; par exemple : G est-il abélien? fini? 6 cf. Magnus, p. 31, 98 et L allemand Max Dehn ( ) fit des travaux en théorie des groupes, topologie et géométrie ; il résolut dès 1901 le troisième problème de Hilbert. Professeur de mathématiques à l université de Francfort de 1921 à 1935, Max Dehn en fit un centre réputé, avant d émigrer en 1938 aux Etats-Unis, où il enseigna dans un collège. Ce est pour l essentiel une traduction du remarquable 1.3. de Combinatorial theory of groups de W. Magnus et alii. 15

16 Une partie des ennuis provient de ce que la définition de l équivalence des mots utilisés pour obtenir G est non-constructive, i. e., on dit que w 1 w 2 s il existe un moyen d aller de w 1 à w 2 en appliquant un certain nombre de fois les règles définies dans le 2, mais nous n avons donné aucune procédure pour déterminer si l on peut aller de w 1 à w 2. Par exemple, si (1) est finiment engendré, alors G est abélien si et seulement si les mots aba 1 b 1, aca 1 c 1, bcb 1 c 1,... définissent tous l élément neutre de G ; si nous disposions d une procédure constructive pour déterminer si un mot défini ou non l élément neutre de G, nous serions capable de décider si le groupe est abélien. Le problème de déterminer si un mot de G définit l élément neutre (ou de manière équivalente si deux mots définissent le même élément) est le premier des trois problèmes de décision fondamentaux formulés par Max Dehn en Ces problèmes sont importants pour la théorie de la présentation, aussi bien que pour ses applications. Soit un groupe G défini au moyen d une présentation donnée. (I) Pour un mot arbitraire w en les générateurs, décider en un nombre fini d étapes si w définit ou non l élement neutre de G. (II) Pour deux mots arbitraires w 1 et w 2 en les générateurs, décider en un nombre fini d étapes si w 1 à w 2 définissent ou non des éléments conjugués de G. (III) Pour un groupe arbitraire G' défini au moyen d'une autre présentation, décider en un nombre fini d étapes si G est isomorphe ou non à G'. Les problèmes (I), (II), (III) sont appelés respectivement le problème du mot, le problème de la conjugaison ou de la transformation, et le problème de l'isomorphisme, pour la présentation définissant G. Le problème du mot a été résolu pour de nombreuses classes de présentations d une forme particulière ou d une autre : par exemple, les présentations dans lesquelles il y a au plus un relateur, les présentations où les générateurs a, b,... sont en nombre fini et les relations de définition contiennent les formules ab = ba, etc. ; les présentations dans lesquelles chaque paire de relations de définition n a qu un petit nombre de blocs de symboles consécutifs en commun (comparés à leurs longueurs) ; et les présentations construites de manière très simple à partir de présentations dans lesquelles le problème du mot est résolu. Cependant il existe des groupes finiment engendrés et possédant la propriété suivante : il n existe aucune procédure générale et effective pour décider si tout donné w en les générateurs est on non l élément neutre. La signification précise du mot «décider» est basée sur les concepts de la logique mathématique. Le problème de la transformation est même plus difficile que le problème du mot. En effet, si l on prend pour w 1 le mot vide, la solution du problème de transformation fournit une solution au problème du mot. Par conséquent les classes de groupes pour lesquels le problème de la transformation a été résolu sont incluses dans celles pour lesquelles le problème du mot a été résolu : par exemple, les présentations sans relateurs ; les présentations engendrées par un nombre fini d éléments, et dans lesquelles, pour chaque paire {a, b} de générateurs, la relation ab = ba figure parmi les relations de définition (ici le problème de la transformation est équivalent au problème du mot) ; les présentations dans lesquelles chaque paire de relateurs n a qu un très petit nombre de blocs d éléments communs (comparés à leurs longueurs). Bien que le problème du mot ait été résolu pour les présentations ne comportant qu un seul relateur, le problème de la transformation n a pas été résolu en général. Le problème de l isomorphisme est le plus difficile des trois problèmes de Dehn. Il n existe même pas de méthode générale et effective pour décider si un groupe ayant une présentation finie est trivial, i. e. d ordre 1. Voici des cas connus dans lesquels le problème de l isomorphisme peut être résolu : a) si les présentations de G et G' ne comportent pas de relations ; b) si les présentations de G et G' sont finies et si chacune contient les relations ab = ba pour chaque paire {a, b} de générateurs ; c) si l une des présentations est sans relations de définition et l autre n en a qu une. Cependant, si G et G' 16

17 n ont qu une relation de définition, alors la solution de ce problème d isomorphisme restreint est inconnue, si même le problème n est pas insoluble. Bien que le problème général de l isomorphisme soit insoluble, il y a un certain nombre de tests qui peuvent être utilisés pour investiguer si deux présentations données définissent des groupes isomorphes ; ces tests donnent des conditions nécessaires mais non suffisantes. (...) En termes algorithmiques modernes, les problèmes de Max Dehn sont des cas particuliers de problèmes «P versus NP». Il n est donc pas surprenant qu Alan Turing ait cherché à les résoudre. Nous avons vu comment résoudre le problème du mot dans un groupe libre F(X) : il suffit de mettre un élément sous forme réduite au moyen de l algorithme décrit dans le th.2 du 2.1 ; deux éléments sont égaux ss ils ont même forme réduite. On peut également résoudre le problème de la conjugaison dans F(X) : Exercice : problème de la conjugaison dans un groupe libre. Soit F X l ensemble des mots réduits de Mo(S). 1) Montrer qu il existe une et une seule application σ : F X F X vérifiant : σ(e) = e, σ(x) = x si x S, σ(u) = u si u = a 1 a 2 a n 1 a n, a i S et a n a 1 1 σ(u) = u si u = a 1 a 2 a n 1 a n, a i S et a n = a 1 1 σ(u) est appelé mot cycliquement réduit associé à u. 2) Montrer que deux éléments u et v de F(X) sont conjugués ssi les mots cycliquement réduits associés à leurs formes réduites sont égales : ( σ o r )(u) = ( σ o r )(v) Le problème suivant donne un autre exemple de groupe dans lequel le problème du mot et celui de la conjugaison sont décidables. Problème : étude d un groupe défini par générateurs et relations. Soit G = < a, b, c ; a 1.b.a = c, a 1.c.a = b, b 1.a.b = c, b 1.c.b = a, c 1.a.c = b, c 1.b.c = a > le conjugué d un générateur par un autre est égal au troisième. 1) Premières propriétés. a) Montrer que a 2.b.a 2 = a ; en déduire que a 2 appartient au centre de G ; b) Montrer que a 2 = b 2 = c 2, a.b = b.c = c.a et b.a = a.c = c.b. c) Indiquer des automorphismes simples de G. 2) Problème du mot dans G. On considère les 6 classes d élements : a 2k, a 2k+1, a 2k.b, a 2k+1.b, a 2k.c, a 2k+1.c, où k décrit Z. a) Montrer que tout élément de G s écrit sous l une de ces six formes. [ On pourra raisonner par récurrence sur la longueur d une décomposition de x à l aide des générateurs a, b, c et de leurs inverses, et montrer que si x est de l une de ces formes, il en est de même de a ±1.x, x.a ±1, b ±1.x, x.b ±1, c ±1.x, x.c ±1. ] b) Dans le groupe symétrique S 3, on introduit les transpositions r = [1, 2], s = [2, 3] et t = [1, 3]. Montrer qu il existe un homomorphisme surjectif de groupes f : G S 3, tel que f(a) = r, f(b) = s, f(c) = t. En déduire que les six classes précédentes sont disjointes. c) Dans le groupe additif Z on considère le générateur 1. Montrer qu il existe un homomorphisme surjectif de groupes g : G Z tel que g(a) = g(b) = g(c) = 1. En déduire que k a k est injective de Z dans G, et que tout élément de G s écrit d une et d une seule façon sous l une des six formes ci-dessus. 17

18 Le problème du mot est donc résolu dans G, puisque l on peut décider au bout d un nombre fini d étapes si deux élements de G sont égaux ou non. 3) Problème de la conjugaison dans G. On considère les 3 classes d éléments : a 2k, a 2k+1, a 2k+1.b, où k décrit Z. a) Montrer que tout élement de G est conjugué de l un de ces éléments. b) A l aide du morphisme f ci-dessus, montrer que les éléments de ces classes ne sont pas conjugués. Le problème de la conjugaison est donc résolu dans G, puisqu on peut décider en un nombre fini d étapes si deux éléments de G sont conjugués ou non. 6. Graphe de Cayley d un groupe. «La géométrie et l algèbre doivent se faciliter l une l autre.» Jules Michelet Les graphes ou diagrammes de Cayley d un groupe G permettent de représenter de manière imagée les éléments et la loi de composition de ce groupe. Ils résument beaucoup d informations sur ce groupe, son architecture et ses symétries internes etc., et suggèrent des preuves algébriques économiques, qui ont inspiré d importants papiers de M. Dehn, O. Schreier, W. Burnside, etc. L idée est d associer à chaque élément de G un point dans le plan ou l espace, et de figurer les multiplications par un même élément par une arête orientée reconnaissable. Considérons pour commencer un groupe monogène, engendré par l élément a. Associons bijectivement à chaque élément g de G un point P g du plan ou de l espace usuels. Si h = g.a, nous joignons P g à P h par une flèche de couleur verte, Si h = g.a 1, alors g = h.a et nous joignons P h à P g par une flèche de couleur verte. On obtient un graphe orienté monocolore, tel que, de chaque point parte, et en chaque point arrive, une et une seule flèche. Le groupe additif Z se représente naturellement ainsi : Les sous-groupes sont les suites périodiques 2p p 0 p 2p Le groupe Z/nZ se représente naturellement par un polygone régulier à n côtés, ces côtés étant orientés dans le sens trigonométrique. Si l on choisit un autre générateur, on obtient des représentations étoilées de ce groupe. Les sous-groupes d un groupe cyclique étant tous cycliques, se visualisent aisément : ce sont les sous-polygones réguliers inscrits dans le grand. 18

19 Considérons maintenant un groupe G engendré par deux éléments a et b. Rien n interdit qu un tel groupe soit monogène : ainsi, Z 2 est engendré par 2 et 3, et plus généralement, par tout couple (a, b) d entiers premiers entre eux. Associons bijectivement à chaque élément g de G un point P g du plan ou de l espace usuels. Si h = g.a, joignons P g à P h par une flèche de couleur verte ; Si h = g.a 1, alors g = h.a et il faut joindre P h à P g par une flèche de couleur verte ; Si h = g.b, joignons P g à P h par une flèche de couleur rouge ; Si h = g.b 1, alors g = h.b et il faut joindre P h à P g par une flèche de couleur rouge. On obtient ainsi un graphe orienté bicolore, tel que, de chaque point partent exactement deux flèches, l une verte et l autre rouge, et en chaque point arrivent deux flèches, l une verte et l autre rouge. Si e est l élément neutre et P e le point correspondant, tout élément P g du graphe est relié à P e par un chemin. Ainsi, pour joindre P e à P g, où g = a.b.a 1.b 1, il faut d abord aller de P e à P a au moyen de la flèche verte issue de P e, puis de P a à P a.b au moyen de la flèche rouge issue de P a, puis joindre P ab à P g au moyen de la flèche verte d extrémité ab, et enfin joindre P aba 1 à P g au moyen de la flèche rouge d extrémité aba 1. On a les équivalences : g = e a et b commutent a.b.a 1.b 1 est un relateur le chemin associé est un lacet d origine P e P e = P g. Un groupe admet plusieurs représentations graphiques selon les générateurs choisis. Il n est pas évident de s apercevoir qu elles représentent le même groupe. Tout l art consiste à choisir la représentation la plus esthétique. 19

20 Exemples : 1) Le groupe (Z, +) est engendré par a = 2 et b = 3. Représenter le graphe bicolore associé. 2) Le groupe Z 2 est engendré par a = (1, 0) et b = (0, 1). Représentons les éléments de Z 2 par les points du plan à coordonnées entières correspondants. Ajouter a à g revient à tracer une flèche vers la droite, ajouter b revient à tracer une flèche vers le haut. Comme a + b = b + a, l identification de Z 2 avec le réseau obtenu est facile et naturelle. Si maintenant on considère Z 2 comme engendré par les éléments a = (1, 0), b = (0, 1) et c = (1, 1), il faut ajouter au graphe précédent les flèches jaunes obliques joignant O à (1, 1) et leurs translatées. Enfin, Z 2 peut être engendré par d autres couples que a et b : c est la théorie des réseaux. 3) Le groupe libre G = F({a, b}) est moins facile à représenter, car a.b et b.a sont distincts, etc. Il faut plutôt voir son graphe de Cayley comme la figure fractale déjà décrite en ) Groupes d ordre 4. Z/4Z étant cyclique est associé à un graphe monocolore. Le groupe de Klein Z/2Z Z/2Z étant engendré par deux éléments aura un graphe bicolore, produit cartésien des deux doublets. Si l on considère Z/4Z comme engendré par 1 et 3 (ou 1 et 2), son graphe devient bicolore, mais reste «différent» de celui du groupe de Klein. 5) Groupes d ordre 6. On sait qu existent à isomorphisme près deux groupes à 6 éléments : Z/6Z Z/2Z Z/3Z et S 3. On peut représenter Z/6Z par un graphe hexagonal, et Z/2Z Z/3Z par un prisme à base triangulaire, produit d un graphe ternaire par un doublet. Leur isomorphisme n est pas évident. 20

21 S 3 admet plusieurs graphes de Cayley selon les familles génératrices retenues. Celui de gauche fait ressortir son caractère de groupe diédral : le prisme obtenu est différent de celui de Z/2Z Z/3Z. Celui de droite illustre la relation de tresse tst = sts. Plus généralement, le groupe symétrique S n est engendré par deux éléments, la transposition t = [1, 2] et le cycle c = [1, 2,, n]. On peut donc le représenter par un graphe bicolore. Encore faut-il que ce graphe soit esthétique! Les figures ci-dessous représentent les graphes de Cayley de 3 des 5 groupes à 8 éléments. 7. Applications à des problèmes de pavage. (inachevé) Dans ce nous nous intéressons à quelques problèmes de pavage illustrant les concepts précédents. Identifions le plan euclidien au plan complexe, et rapportons-le au repère non orthonormé (O, 1, j 2 = 2 1 (1+i 3 )). Traçons toutes les droites d équation x = a, y = b, x + y = c où a, b et c décrivent Z. On obtient un maillage du plan par des triangles équilatéraux, dont les sommets sont les éléments de l ensemble A = { z = x + y.j ; (a, b) Z 2 } : on les appelle entiers de Jacobi-Eisenstein, ils forment un anneau euclidien. Considérons le groupe défini par la présentation G = < a, b, c ; a.b.c 1 = c.a 1.b 1 = e > Comme c = a.b = b.a, G est engendré par a et b, commutatif et isomorphe à Z². Mais son graphe de Cayley, en tant que groupe à trois générateurs, est le réseau précédent. G agit sur A par : a.z = z + 1, b.z = z j 2, c.z = z j. A toute ligne brisée simple (c est-à-dire ne rebroussant jamais chemin) à sommets dans A correspond un mot réduit de F({a, b, c}). Une ligne brisée est un lacet ssi le mot réduit associé est trivial, c est-à-dire si son image dans G est le neutre. Les lacets sont les éléments du noyau du morphisme de substitution F({a, b, c}) G. 21

22 Cf. Journées XUPS, Labourie 8. Présentation de S n L exemple de S 4. Montrons, par un argument récurrent, que le groupe octaédral S 4 admet pour présentation : < t 1, t 2, t 3 ; t 1 2 = t2 2 = t3 2 = e, t1.t 2.t 1 = t 2.t 1.t 2, t 2.t 3.t 2 = t 3.t 2.t 3, t 1.t 3 = t 3.t 1 >. 1) Soit Γ ce groupe. On sait que S 4 est engendré par les trois transpositions élémentaires [1, 2], [2, 3], [3, 4], qui vérifient les mêmes relations que t 1, t 2 et t 3 resp. Il existe donc un morphisme surjectif de groupes f : Γ S 4 tel que f(t 1 ) = [1, 2], f(t 2 ) = [2, 3], f(t 3 ) = [3, 4]. D où card Γ 4! = 24. 2) Soit G le sous-groupe de Γ engendré par t 1 et t 2. Comme < a, b ; a 2, b 2, a.b.a = b.a.b > est une présentation de S 3, il y a un morphisme surjectif de groupes g : S 3 G tel que g([1, 2]) = t 1, g([2, 3]) = t 2. D où card G 3! = 6. Attention! Ici, [1, 2] et [2, 3] désignent des permutations de {1, 2, 3}. Par ailleurs, rien ne dit que card G = 6, i.e. que G est isomorphe à S 3 : les relations vérifiées par t 3 pourraient imposer de nouvelles contraintes sur t 1 et t 2, et diminuer card G. Nous allons voir cependant qu il n en est rien. 3) Notons c = t 1.t 2.t 3. Les deux lemmes suivants sont laissés au lecteur : Lemme 1 : c.t 1.c 1 = t 2, c.t 2.c 1 = t 3, et, si on note c.t 3.c 1 = u, alors c.u.c 1 = t 1 ; enfin, c 4 = e. Lemme 2 : h G k G α {0, 1, 2, 3} c.h = k.c α. Lemme 3 : Tout élément x de Γ s écrit sous la forme x = y.c α, où y G et 0 α 3. Montrons ce lemme par récurrence sur la longueur L d une décomposition de x. Si L = 0, x = e. Si L = 1, x = t 1, t 2 ou t 3 ; si x = t 1 ou t 2, il n y a rien à montrer ; si x = t 3, x = t 2.t 1.c. Supposons le résultat vrai de tout élément x ayant une décomposition de longueur L 1. Soit x ayant une décomposition de longueur L ; écrivons x = a.x, où a {t 1, t 2, t 3 }. Si a = t 1, x = t 1.x = t 1.y.c α, où y G et 0 α 3 par récurrrence ; idem si a = t 2. Si a = t 3, écrivons x = t 3.x = t 3.y.c α, où y G et 0 α 3 (hypothèse de récurrence) ; d où : x = t 2.t 1.c.y.c α = = t 2.t 1.z.c β.c α, où z G, en vertu du lemme 2. cqfd. Il reste à conclure. Il résulte du lemme 3 que card Γ 4.card G. En vertu de 2) card Γ 24. Finalement, card Γ = 24 : f et g sont des isomorphismes Présentation de S n. Théorème : Le groupe symétrique S n admet la présentation suivante : < t 1,, t n 1 ; t i.t j = t j.t i si j i 2, t i.t i+1.t i = t i+1.t i.t i+1 pour 1 i n 2, t i 2 = e pour tout i >. Preuve : Raisonnons par récurrence sur n. Le théorème est vrai pour n = 1, 2, 3 et 4. Supposons-le vrai pour n, et montrons-le au rang n + 1. Notons Γ le groupe défini par la présentation : < t 1,, t n ; t i.t j = t j.t i si j i 2, t i.t i+1.t i = t i+1.t i.t i+1 pour 1 i n 1, t i 2 = e pour tout i >. 8 Cette étude est adaptée d une note de Jean-Marc Lapierre. 22

23 1) On sait que S n+1 est engendré par les transpositions élémentaires [k, k+1], qui vérifient les mêmes relations que les t k. Il existe donc un morphisme surjectif de groupes f : Γ S n+1 tel que f(t k ) = [k, k+1], pour 1 k n. Donc card Γ ( n+1 )!. 2) Soit G le sous-groupe de Γ engendré par t 1,, t n 1. Par hypothèse de récurrence, < t 1,, t n 1 ; t i.t j = t j.t i si j i 2, t i.t i+1.t i = t i+1.t i.t i+1 pour 1 i n 2, t i 2 = e pour tout i > est une présentation de S n. Il y a donc un morphisme surjectif de groupes g : S n G tel que g([k, k+1]) = t k pour 1 k n 1. D où card G n!. Attention! Ici, [k, k+1] désigne une permutation de {1,, n}. Par ailleurs, on ne sait si card G = n!, i.e. si G est isomorphe à S n : les relations vérifiées par t n pourraient imposer de nouvelles contraintes sur t 1,, t n 1, et diminuer card G. Nous allons voir cependant qu il n en est rien. Notons c = t 1 t n 1 et u = c.t n 1.c 1. Lemme 1 : c.t 1.c 1 = t 2, c.t 2.c 1 = t 3,, c.t n 2.c 1 = t n 1, c.t n 1.c 1 = u, c.u.c 1 = t 1 ; enfin, c n = e. Il suffit de noter que les transpositions [1, 2], [2, 3],, [n 1, n], [n, 1] et le cycle [1, 2,, n] de S n sont envoyés par g resp. sur t 1,, t n 1, u et c. Comme ces permutations vérifient toutes les formules ci-dessus, leur images par g aussi. 3) Revenons à Γ, et notons C = t 1.t 2.t n et v = C.t n.c 1. Lemme 2 : C.t 1.C 1 = t 2, C.t 2.C 1 = t 3,, C.t n 1.C 1 = t n, C.t n.c 1 = v, C.v.C 1 = t 1 ; Preuve : Soit 1 k n 2. C.t k.c 1 = c.t n.t k.t n.c 1 = c.t k.c 1 = t k+1, car t n.t k.t n = t k.t n.t n = t k. C.t n 1.C 1 = c.t n.t n 1.t n.c 1 = c.t n 1.t n.t n 1.c 1 = t 1 t n 2.t n.t n 2 t 1 = t n t 1 t n 2.t n 2 t 1 = t n, en vertu des relations de tresses et de commutation. C.t n.c 1 = v, par définition même de v. v = t 1 t n.t n.t n t 1 = t 1 t n 1.t n.t n 1 t 1 = t 1 t n 2.t n.t n 1.t n.t n 2... t 1 (relations de tresses) = t n.t 1 t n 2.t n 1.t n 2... t 1.t n = t n.u.t n (relations de commutation). Du coup, C.v.C 1 = C.t n.u.t n.c 1 = c.u.c 1 = t 1 (lemme 1). Lemme 3 : Pour tout k [1, n] C n+1 = c k.(t n.t n 1 t n k+1 ).C n k+1 ; C n+1 = e. Preuve par récurrence sur k. Pour k = 1, C n+1 = C.C n = c.t n.c n ; si la formule est vraie au rang k, C n+1 = c k.(t n.t n 1 t n k+1 ).C n k+1 = c k.(t n.t n 1 t n k+1 ).C.C n k = c k.c.[c 1.(t n.t n 1 t n k+1 ).C].C n k = c k.c.[t n 1.t n 2 t n k ].C n k (automorphisme intérieur x C 1.x.C et lemme 2) = c k+1.t n.t n 1 t n k.c n k. Du coup, pour k = n, C n+1 = c n.(t n.t n 1 t 1 ).C 1 = c n = e. cqfd. Lemme 4 : y G α {0, 1,, n} z G β {0, 1,, n} C α.y = z.c β. Montrons ce lemme par récurrence sur la longueur d une décomposition de y dans G. Si L = 0, y = e, prendre z = e, β = α. Si L = 1, y = t k où k n 1. Par applications répétées du lemme 2, on peut écrire : C α.t k = x.c α, où s {t 1, t 2,..., t n, v}. Si s {t 1, t 2,..., t n 1 }, c est fini. Comme t n = c 1.C et v = c.c 1 = c.c n, le résultat reste vrai si s = t n ou v. Supposons le résultat vrai de tout y de longueur L 1. 23

24 Soit alors y de longueur L ; écrivons y = t k.y, où k n 1. On a : C α.y = C α.t k.y = z.c β.y = z.z.c γ, où z, z G. cqfd. Lemme 5 : Tout élément x de Γ s écrit sous la forme x = y.c α, où y G et 0 α n. Montrons ce lemme par récurrence sur la longueur d une décomposition de x. Si L = 0, x = e. Si L = 1, x = t k ; si k n 1, il n y a rien à montrer ; si x = t n, x = t n 1.t n 2... t 1.C. Supposons le résultat vrai de tout élément x ayant une décomposition de longueur L 1. Soit x ayant une décomposition de longueur L ; écrivons x = a.x, où a {t k }. Si k n 1, x = t k.x = t k.y.c α, où y G et 0 α n par récurrrence. Si a = t n, écrivons x = t n.x = t n.y.c α, où y G et 0 α n (hypothèse de récurrence) ; d où : x = t n 1.t n 2... t 1.C.y.C α = t n 1.t n 2... t 1.z.C β.c α, où z G, en vertu du lemme 4. cqfd. Il reste à conclure. Il résulte du lemme 5 que card Γ (n+1).card G. En vertu de 2) card Γ (n + 1)!. En vertu de 1), card Γ = (n + 1)! f et g sont des isomorphismes. Remarque : Supposons n 2. Un isomorphisme naturel de Γ sur S n+1 est le suivant : Considérons l ensemble E = {t 1, t 2,, t n, v} et l élément T = t 1.t 2.t 1. Faisons agir Γ sur E par conjugaison : (x, t) x.t.x 1, et notons f : x f(x) le morphisme de Γ sur S E associé. f(c) est le cycle [t 1, t 2,, t n, v], f(t) est la transposition [t 1, t 2 ]. La première affirmation découle du lemme 2, la seconde est facile à vérifier. Admettons que E a n+1 éléments, et que le centre de Γ est réduit au neutre. Alors Im f = S E, puisque Im f contient deux générateurs bien connus de S E. Ker f est le centre de Γ, donc est réduit au neutre. Par suite, f est un isomorphisme. Et il est bien naturel, puisqu il associe aux générateurs t i les transpositions élémentaires de E. Malheureusement, il n est pas évident de montrer que t 1, t 2,, t n, v sont distincts, et que le centre de Γ est réduit au neutre. Cela découle de la démonstration par récurrence précédente Applications. Théorème : caractères de S n. Si n 2, S n admet deux caractères. Preuve : Soit χ : S n G un homomorphisme de groupes, où G est un groupe abélien. Notons z i = χ(t i ) pour 1 i n 1. Les éléments z i doivent vérifier les relations : z i.z j = z j.z i si j i 2, z i.z i+1.z i = z i+1.z i.z i+1 pour 1 i n 2, z i 2 = 1 pour tout i. Les premières sont triviales. Les relations de tresse impliquent z i = z i+1. Enfin, cet élément est involutif dans G. Ainsi, il y a autant de morphismes que d éléments involutifs dans G. La réciproque n est pas à faire, puisque nous disposons d une présentation de S n. Si G = C*, il y a deux caractères, selon que z i 1 ou z i 1. Le premier est le caractère trivial, le second est la signature. Remarques : 1) Il existe certes des moyens moins coûteux pour montrer ce résultat : si l on connaît la signature, il est facile de vérifier que c est le seul morphisme non trivial de S n dans C*. Mais la méthode précédente montre l existence d un morphisme non trivial sans rien savoir de lui a priori. 2) On peut démontrer que le nombre d inversions d une permutation σ est égal à la longueur minimale d une décomposition de σ en produit de transpositions élémentaires (cf. Arnaudiès-Bertin, Groupes, algèbres, géométrie, tome 2). 9 Je pense aussi que cela découle de propriétés générales des groupes de tresses, via l épimorphisme B n+1 Γ. 24

25 Proposition 2 : Il y a 34 morphismes de groupes de S 3 dans S 4. Preuve : Soit f un tel morphisme. Notons a = [1, 2] et b = [2, 3] les transpositions élémentaires de S 3. Leurs images par f, notées u et v, doivent vérifier u 2 = v 2 = id et u.v.u = v.u.v. Si u et v commutent, alors u = v est une involution de S 4 : il y a 10 involutions dans S 4 (l identité, les 6 transpositions, et les 3 doubles transpositions). f n est alors pas injectif. Sinon, on cherche les couples d involutions u et v ne commutant pas et telles que u.v.u = v.u.v. Si u = [1, 2], on obtient : v = [2, 3], [2, 4], [1, 3] ou [1, 4]. En permutant, on obtient 6.4 = 24 tels couples. (v = [1, 2][3, 4] commute à u ; v = [1, 3][2, 4] ne vérifie pas u.v.u = v.u.v ; idem v = [1, 4][2, 3].) Si u = [1, 2][3, 4], v n est pas une transposition, d après ce qui précède, et n est pas non plus une double transposition, après calculs. Les réciproques ne sont pas à faire, car on a utilisé une présentation de S 3. Conclusion : il y a 34 morphismes de groupes de S 3 dans S sont injectifs : leurs images sont les 4 sous-groupes G k = { σ S 4 ; σ(k) = k }. Théorème de Hölder : automorphismes de S n. Pour tout n 6, les automorphismes de S n sont tous intérieurs : card Aut(S n ) = n! Pour n = 6, la situation est différente : Aut(S 6 ) contient 6! = 720 automorphismes intérieurs, et 720 automorphismes non intérieurs. Preuve : Soit ϕ un automorphisme de S n. Notons t i = [i, i+1] les transpositions élémentaires. Leurs images ϕ(t i ) = u i doivent vérifier les relations : u i.u j = u j.u i si j i 2, u i.u i+1.u i = u i+1.u i.u i+1 pour 1 i n 2, u i 2 = 1 pour tout i. Réciproquement, si l on dispose d une famille génératrice 10 (u 1,, u n 1 ) vérifiant ces relations, il y a un automorphisme ϕ de S n vérifiant ϕ(t i ) u i. En effet, l endomorphisme ϕ de S n vérifiant ϕ(t i ) u i est surjectif, donc bijectif. Esquisse du cas n 6. 1) Tout d abord, je dis que les u i sont toutes des transpositions. En effet, u i est une involution, donc un produit de k transpositions à supports disjoints. Le commutant de u i a (n 2k)!.k!.2 k éléments, celui de t i a (n 2)!.2 éléments (k = 1). Comme ces commutants sont isomorphes, ils ont mêmes cardinaux. Un calcul laissé en exercice montre que cela impose k = 1. Ainsi, u 1,, u n 1 sont toutes des transpositions deux à deux distinctes. 2) Soit u 1 = [a, b] ; en vertu des relations de tresse, u 2 ne commute pas avec u 1, donc, quitte à échanger a et b, u 2 = [b, c], où a, b et c sont distincts. u 3 commute avec u 1, donc a un support disjoint de {a, b}, mais ne commute pas avec u 2, donc u 3 = [c, d]. On voit que de proche en proche qu on peut ordonner totalement l ensemble {1, 2,, n} en {a, b, c, } de sorte que u 1,, u n 1 sont les transpositions élémentaires relatives à cet ordre. Si σ est la permutation σ(1) = a, σ(2) = b,, les u i sont conjuguées des t i par σ, donc ϕ est l automorphisme intérieur associé à σ. Esquisse du cas n = 6. Cette fois-ci, on cherche un système générateur de 5 involutions vérifiant : 10 Cette condition est indispensable : la famille (e,, e) vérifie les relations ci-dessus. 25

26 u i.u j = u j.u i si j i 2 et u i.u i+1.u i = u i+1.u i.u i+1 pour 1 i 4. Or (6 2k)!.k!.2 k = (6 2)!.2 implique k = 1 ou 3. Les u i sont, soit des transpositions, soit des triples-transpositions (produits de 3 transpositions à supports disjoints). Le cas où les u i sont toutes des transpositions se règle commme ci-dessus, et conduit aux 720 automorphismes intérieurs. On peut déjà vérifier le système : u 1 = [1 2][3, 4][5, 6], u 2 = [1 3][2, 5][4, 6], u 3 = [1 2][3, 6][4, 5] u 4 = [1 3][2, 4][5, 6], u 5 = [1 2][3, 5][4, 6] vérifie les conditions requises. Cela démontre l existence d automorphismes non intérieurs. Pour les chercher tous, il faudrait d abord montrer que les u i sont toutes des triples-transpositions, puis chercher informatiquement les systèmes de triples transpositions vérifiant les relations cidessus. Mais la clé du problème réside, non dans l informatique, mais dans une singularité harmonique bisexuelle du nombre 6 à découvrir. On trouvera dans H. S. M. Coxeter (The Reality of Geometry, Dover) une application géométrique de ces résultats. 26

27 9. L art des tresses. Des entrelacs assyriens et celtes La très-savante Encyclopedia universalis nous apprend que «l entrelacs est un motif plus ou moins complexe de rubans tressés. Il fait partie du répertoire ornemental de l Assyrie. Il orne un cylindre syro-cappadocien du IIe millénaire (coll. Newell) ainsi que les chefs-d œuvre toreutiques du début du Ier millénaire, retrouvés à Ziwiyé et Kalar Dasht et conservés au musée de Téhéran. En Grèce, l art dit «orientalisant» qui, à partir de la fin du VIIIe siècle et au cours du VIIe siècle, va opérer la transition entre les périodes géométrique et archaïque, empruntera largement ce motif à l Orient. L entrelacs, constitué alors de deux rubans torsadés, est utilisé par les peintres de céramique comme élément de remplissage dans les zones figurées ou encore en bande. Tous les centres de fabrication semblent l avoir adopté puisqu il apparaît sur les vases proto-attiques, rhodiens aussi bien que «méliens», ou sur la céramique de Chios. L entrelacs ne semble pas toutefois avoir été très prisé par les ateliers de Corinthe bien qu il décore un brassard de bouclier en bronze, production corinthienne du deuxième quart du VIe siècle, trouvé à Olympie. L entrelacs est encore présent sur des objets provenant de Grèce de l Est sarcophages de Clazomènes dans le cours du VIe siècle, mais la grande céramique attique à figures noires abandonne progressivement cette double tresse au profit des grecques et des rinceaux. Dans le décor polychrome des terres cuites architecturales qui ornaient les chéneaux, les antéfixes, les acrotères et les métopes des premiers grands temples de pierre, l entrelacs occupe une place importante. On le trouve tout particulièrement en Grèce propre trésor de Géla à Olympie, Argos, Corinthe, Thermos... à l ouest, en Sicile Sélinonte, Géla, et en Grande-Grèce.» Imite le moins possible les hommes dans leur énigmatique maladie de faire des nœuds. René Char aux stavkirke de Norvège De magnifiques entrelacs ornent les portails des fameuses stavkirke (églises en bois debout) de Norvège, tel ce détail du portail de Stedge à Bergen. On en trouevra d autres dans le volume de la collection Zodiaque consacré à l Art scandinave. et à la théorie des tresses. Nous allons montrer comment la théorie des groupes définis par générateurs et relations permet de formaliser un domaine fondé par Emil Artin en 1925 : la théorie mathématique des tresses. Cette théorie, et celle voisine des nœuds (fondée à la même époque par Alexander et Reidemeister), sont actuellement l objet de nombreux et profonds travaux. 27

28 Du monoïde des tresses Considérons une tresse à 4 brins, formée de 4 fils parallèles, numérotés de gauche à droite F 1, F 2, F 3, F 4, dont les extrémités hautes sont fixées. Tresser ces fils, c est faire passer succesivement un des fils sous ou sur son voisin. Il y a donc 6 opérations élémentaires possibles : Si l on fait passer F 1 sous F 2, on note a ; si l on fait passer F 1 sur F 2, on note A ; Si l on fait passer F 2 sous F 3, on note b ; si l on fait passer F 2 sur F 3, on note B ; Si l on fait passer F 3 sous F 4, on note c ; si l on fait passer F 3 sur F 4, on note C. A toute tresse correspond donc un mot à 6 lettres a, b, c, A, B, C. Composer les tresses à 4 brins s et t consiste à accrocher t sous s ; s.t diffère en général de t.s. On nomme tresse triviale la tresse e obtenue en ne faisant rien, en laissant les fils parallèles. Les tresses forment alors un monoïde pour la composition, que l on peut identifier au monoïde des mots à 6 lettres Mo({a, b, c, A, B, C}). Ainsi, la tresse périodique cbacbacba est gravée sur une dalle funéraire celtique à Fahan, comté de Donegal, Irlande, et l on pourrait coder de même les entrelacs des enluminures médiévales, ou ceux des stavkirke norvégiennes. au groupe des tresses. Lorsqu on effectue successivement les opérations a et A, la tresse obtenue n est pas triviale, mais se ramène facilement à celle-ci : nous dirons qu elle est isotope à la tresse triviale. Plus généra-lement deux tresses sont dites isotopes si on peut passer de l une à l autre en déplaçant leurs brins. Notons s t la relation d isotopie ; c est une relation d équivalence dans l ensemble des tresses. Toute tresse t possède une inverse t, c est-à-dire une tresse telle que t.t soit isotope à la tresse triviale : il suffit de dénouer les paires de croisements opposés pour obtenir la tresse triviale : ainsi, a.a, A.a, b.b, B.b, c.c, C.c sont isotopes à e ; et t = a.b.c.b.a.c.b a pour inverse B.c.A.b.c.B.A. Désormais, nous appelons «tresse» une classe d isotopie de tresses définies précédemment. Avec ce nouveau point de vue, les tresses à 4 brins forment un groupe, et en fait un sous-groupe du groupe 28

29 libre F({a, b, c}) construit sur un ensemble à 4 éléments. Ce groupe, noté B 4, vérifie des relations supplémentaires : a.c c.a, a.b.a b.a.b, b.c.b c.b.c a.c c.a, car les tresses obtenues en faisant passer F 1 sous F 2, puis F 3 sous F 4, et F 3 sous F 4, puis F 1 sous F 2, sont isotopes ; a.b n est pas isotope à b.a, mais a.b.a b.a.b, comme on s en aperçoit vite (cf. encadré ci-après). Considérant plus généralement les tresses à n brins, nous posons la définition suivante : Définition : On appelle groupe des tresses à n brins (n 1) le groupe d Artin B n 11 engendré par n 1 générateurs σ 1,, σ n 1 soumis aux relations : Relations de localité : σ i.σ j = σ j.σ i si j i 2 Relations de tresse : σ i.σ i+1.σ i = σ i+1.σ i.σ i+1 pour 1 i n 2. Classer les tresses, c est reconnaître si deux tresses sont ou non isotopes. C est au fond un exemple concret de problème de mot de Max Dehn. Contentons-nous de noter que deux tresses isotopes effectuent la même permutation finale sur les n brins initiaux. Cette permutation est un invariant très simple d isotopie. Si l on note s i = [i, i+1] pour 1 i n 1 les transpositions élémentaires consé-cutives du groupe symétrique S n, les générateurs s i vérifient les relations : s i.s j = s j.s i si j i 2 s i.s i+1.s i = s i+1.s i.s i+1 pour 1 i n 2 s i 2 = Id pour tout i. D où un morphisme surjectif naturel π : B n S n, qui à σ i associe s i. Deux tresses effectuant la même permutation finale sur les brins ne sont pas forcément isotopes : la tresse a.a induit la permutation identique sans être isotope à la tresse triviale. De manière imagée, on peut dire qu une tresse est plus qu une permutation : elle contient aussi l histoire de celle-ci. L article de P. Dehornoy cité ci-dessous indique des méthodes de réduction des tresses. Exercice : Etude du groupe de tresses à trois brins. On note B 3 = < a, b ; a.b.a = b.a.b >. 1) Montrer qu il existe un homomorphisme surjectif de groupes f : B 3 S 3. En déduire une partition de B 3 en six classes, dont on cherchera à décrire les éléments. Etudier le noyau de f («groupe des tresses pures»). 2) Montrer qu il existe un homomorphisme injectif de Z dans B 3, et que B 3 est infini dénombrable. 3) Soient c = (a.b) 3, d = b.a.a.b. Montrer que c appartient au centre de B 3, et que ce centre est monogène, infini et engendré par c. 11 B pour braid qui signifie tresse en anglais. 29

30 30

31 Des tresses aux carillons «Les cloches sont les testicules de l amour divin.» Saint Pol Roux Numérotons les huit cloches d un carillon de 1 (cloche soprano) à 8 (bourdon). Il y a 8! = façons de les sonner. Un carillon est une méthode pour sonner toutes ces permutations, sans répétition et de manière harmonieuse, le passage d une permutation à la suivante obéissant à des règles strictes, que l on trouvera énoncées dans le livre La fascination des groupes de F.J. Budden (chap. 24, p. 464). La première de ces règles est qu aucune cloche ne peut monter ou descendre de plus d une place, ce qui n autorise que des transpositions de deux cloches adjacentes. Considérons un carillon de trois cloches. Notant a la transposition [1, 2] et b la transposition [2, 3], on obtient deux carillons : e, a, ba, aba, baba, ababa et e, b, ab, bab, abab, babab, appelés respectivement sixte rapide et sixte lente. 10. L accrochage des tableaux. Cf. L article de Jean-Paul Delahaye (Pour la Science, juillet 2012) 11. Groupe modulaire et pavage de Klein-Poincaré. Problème : Groupe modulaire On note H = { z C ; Im z > 0 } le «demi-plan de Poincaré», D = { z H ; z 1 et 2 1 Re z 2 1 } Sl 2 (Z) le groupe multiplicatif des matrices A = a c d b M 2 (Z) telles que ad bc = 1. 1) Action de Sl 2 (Z) sur H. Soit A = a c d b Sl 2 (Z). Pour tout z H, on pose A.z = a) Montrer que Im(A.z) = Imz. En déduire que A.z H. c. z+ d ² a z+ b c... z + d b) Montrer que (A, z) A.z définit une action de Sl 2 (Z) sur H. 2) Soient S = 0 1 et T = 1 1, et G le sous-groupe de Sl (Z) qu elles engendrent. Natures géométriques de z T.z et z S.z? Soient z H, m un réel > 0. Montrer que, parmi les réels Im(A.z), où A parcourt G, seul un nombre fini d entre eux sont supérieurs à m. Montrer que { Im(A.z) ; A G } peut être ordonné en une suite infinie y 1 > y 2 > > y n > tendant en décroissant vers 0. 3) On pose M(z) = y 1 = max A G Im(A.z) et E(z) = { A.z ; A G et Im(A.z) = M(z) }. 31

32 a) En utilisant S, montrer que w E(z) w 1 ; b) En utilisant T, montrer que w E(z) 2 1 Re w 2 1. c) En déduire que y 1 = M(z) ) Pour tout z H, on note O(z) = { A.z ; A Sl 2 (Z) } l orbite de z sous l action de Sl 2 (Z), F(z) = { A Sl 2 (Z) ; A.z = z } le groupe fixateur de z. a) Montrer que ( z H) ( A G) A.z D. En déduire ( z H) O(z) D. b) Montrer que si z et z sont dans la même orbite, leurs groupes F(z) et F(z ) sont conjugués. 5) Montrer l inégalité ( z D) (c, d) Z 2 {(0, 0)} c.z + d 1, les seuls cas d égalité étant : c = 0, d = ±1, z D ; c = ±1, d = 0, z = 1 ; c = ±1, d = ±1, z = j ; c = ±1, d = c, z = 1 + j. 6) Soient z et z deux points de D tels que Im z Im z. Montrer que si z = A.z, où A = a b Sl c d 2 (Z), alors c.z + d = 1. De plus, si z z, on a, soit Re z = ± 1 et z = z ± 1, soit z = 1, z i et z = 1. 2 z 7) Soit z D, F(z) son groupe fixateur. Montrer que F(z) = { ±I }, sauf dans les trois cas suivants : z = i, et alors F(z) = { I, S, I, S } z = j, et alors F(z) = { I, ST, (ST) 2, (ST) 3, (ST) 4, (ST) 5 } z = 1+j, et alors F(z) = { I, TS, (TS) 2, (TS) 3, (TS) 4, (TS) 5 } 8) Soit z 0 { z H ; z > 1, 2 1 < Re z < 2 1 }. Montrer que A Sl2 (Z) A G A.A.z 0 D. En déduire que G = Sl 2 (Z), autrement dit que S et T engendrent Sl 2 (Z). Exemples : exprimer les matrices 1 1 et à l aide de S et T. 9) Pavage de Klein-Poincaré. Montrer que pour tout A Sl 2 (Z), l ensemble A.D est un «triangle» curviligne limité par des demi-cercles centrés la droite sur R ou des demi-droites orthogonales à R. Montrer que H est la réunion des domaines A.D lorsque A décrit Sl 2 (Z) et que deux domaines A.D et B.D distincts ne peuvent avoir en commun qu un de leurs côtés. Tracer à la règle et au compas les domaines T n.d, S.T n.d, T p.s.t n.d, etc. 10) Pavage de Escher. Quelle est l image du demi-plan H par z j l homographie z? z+ j Comment Escher a-t-il obtenu la figure ci-contre? Remarque : Le demi-plan de Poincaré est un des modèles du plan non euclidien hyperbolique de Lobatchevski. Dans cette géométrie, les droites (non euclidiennes) sont les demi-cercles euclidiens ouverts centrés sur R et les demi-droites euclidiennes ouvertes perpendiculaires à R. La distance de deux points de H est la longueur du segment non euclidien qui les joint 32