MAT 7400 REPRÉSENTATION DES GROUPES. Robert Bédard UQAM

MAT 7400 REPRÉSENTATION DES GROUPES Robert Bédard UQAM Notes pour le cours Représentation des groupes Sigle: MAT 7400) offert par le département de mathématiques de l Université du Québec à Montréal.

PRÉFACE Ces notes s adressent aux étudiantes et étudiants du cours Représentation des groupes Sigle: MAT7400). Elles constituent la matière pour un cours de deuxième cycle d une quarantaine d heures. Elles sont divisées en dix chapitres. Nous y traitons de la théorie des représentations et des caractères ordinaires des groupes finis. Nous décrivons entre autres des caractères irréductibles du groupe symétrique, du groupe alterné et du groupe linéaire de rang 2 sur un corps fini. Un chapitre traite aussi brièvement des repésentations des groupes compacts. D avance je remercie toute personne qui me signalera les lapsus et autres coquilles qui m auraient échappés. Robert Bédard, juillet 2008. iii

TABLE DES MATIÈRES Chapitre : Source de la théorie - Frobenius.......................... Chapitre 2: Lemme de Schur et théorie des caractères...................... 7 Chapitre 3: Table de caractères.............................. 5 Chapitre 4: Exemples................................... 2 Chapitre 5: Représentation induite............................. 33 Chapitre 6: Propriétés de la représentation induite...................... 45 Chapitre 7: Caractères du groupe symétrique........................ 53 Chapitre 8: Caractères du groupe alterné.......................... 75 Chapitre 9: Représentations des groupes compacts...................... 9 Chapitre 0: Caractères du groupe linéaire de rang 2 sur un corps fini............. 0 v

CHAPITRE SOURCE DE LA THÉORIE - FROBENIUS Dans ce premier chapitre, nous allons décrire le problème qui a incité Frobenius 849-97) à créer en 896 la théorie des représentations pour les groupes non commutatifs et généraliser celle des caractères des groupes abéliens finis. Pour ces derniers groupes, Gauß et Dirichlet avaient déjà utilisé ces caractères dans leurs travaux en théorie des nombres. Rappelons qu un caractère χ d un groupe abélien fini G est une fonction non-nulle χ : G C telle que χg g 2 ) = χg )χg 2 ) pour tout g, g 2 G. C est d ailleurs à Gauß que nous devons le terme de caractères. Mais la généralisation aux groupes non commutatifs a été nécessaire pour répondre à une question sur les déterminants de groupe. Cette dernière notion n a plus vraiment d intérêt maintenant, la théorie des représentations étant nettement plus essentielle en mathématiques. Nonobstant ce jugement nous allons premièrement rappeler cette notion de déterminant de groupe. Dedekind 83-96) a défini le déterminant de groupe lors de son étude du discriminant d un corps de nombres K i.e. extension finie normale de Q) et G = {g, g 2,..., g n }, son groupe de Galois. Étant donnée une base {w, w 2,..., w n } de K comme espace vectoriel sur Q), alors le discriminant est défini comme étant = D 2, où g w g w 2 g w n g D = 2 w g 2 w 2 g 2 w n....... g n w g n w 2 g n w n Un cas spécial important est lorsque tous les éléments w i sont les conjugués d un élément w fixe et dans ce cas nous pouvons prendre comme base de K: {g w, g 2 w,..., g n w}. Conséquemment g g w g g 2 w g g n w g D = 2 g w g 2 g 2 w g 2 g n w....... g n g w g n g 2 w g n g n w Cette dernière matrice a suggéré à Dedekind d étudier dans l anneau commutatif C[x g g G] le polynôme défini par le déterminant de la matrice dont les lignes et colonnes sont indexées par les éléments de G et l entrée à la ligne g et colonne g est x gg. Éventuellement Dedekind a considéré le déterminant Θ = detx gg ) ) de la matrice dont les lignes et colonnes sont indexées par les éléments de G et l entrée à la ligne g et colonne g est x gg ). Toutes les entrées sur la diagonale de cette dernière matrice sont égaux à la variable x e correspondant à l élément neutre e de G. Θ est le déterminant de groupe. Lorsque G est commutatif, Dedekind a noté une relation entre les caractères de G et Θ. Nous pouvons illustrer ceci pour le groupe Z/nZ. Exemple. Si G = Z/nZ = {0,, 2,..., n }, alors x 0 x n x n 2 x x x 0 x n x 2 Θ = x 2 x x 0 x 3... =.... x n x n 2 x n 3 x 0 n i=0 n ρ ij x j = [ ] χg)x g, χ g où ρ est une racine primitive n ième de l unité, le produit dans la dernière expression étant sur l ensemble des caractères de G et la somme, sur les éléments de G. j=0

Il est facile de démontrer ceci. En effet, pour i = 0,, 2,..., n ), il suffit de noter que le vecteur ρ i v i = ρ 2i. ρ n )i [ n est un vecteur propre de valeur propre j=0 ρ ij x j ]. Les vecteurs v 0, v,..., v n sont linéairement indépendants et forment ainsi une base de C n. Conséquemment la matrice x 0 x n x n 2 x x x 0 x n x 2 x 2 x x 0 x 3....... x n x n 2 x n 3 x 0 est diagonalisable et son déterminant est le produit des valeurs propres. Dedekind a observé dans plusieurs exemples que ces déterminants de groupe pouvaient être factorisé en plusieurs termes. En 886, il a étudié cette question de factorisation pour des groupes non commutatifs. Par exemple, pour le groupe symétrique S 3 ou encore le groupe des quaternions {±, ±i, ±j, ±k}, Dedekind a noté que tous les facteurs ne sont pas toujours linéaires. Exemple.2 Considérons le cas où G est le groupe symétrique S 3 et posons x = x 23, u = x 23, u = x 32, v = x 23, v = x 32, y = x 32, alors le déterminant de groupe x u u v v y u x v y u v u v x u y v v y u x v u v u y v x u y v v u u x est égal à x + u + u + v + v + y)x u u + v + v y)x 2 u 2 u 2 + v 2 + v 2 y 2 + uu xv xv + uy + u y vv ) 2. En 896, Dedekind a communiqué ces résultats à Frobenius avec aussi la conjecture à moitié démontré) que le nombre de facteurs linéaires est l ordre du groupe abélien G/G, où G est le sous-groupe dérivé de G, i.e. le sous-groupe engendré par tous les éléments xyx y avec x, y G. Six mois plus tard, Frobenius pouvait expliquer complètement la factorisation de Θ pour tout groupe fini G. Nous allons maintenant définir ce qu est une représentation linéaire d un groupe fini. Nous ne considérerons que les représentations complexes ou encore ordinaires) dans ces notes. Dans ce chapitre, G désignera toujours un groupe fini..3 Soit un espace vectoriel V sur C. GLV ) désignera le groupe des automorphismes de V, i.e. des endomorphismes linéaires T : V V inversibles. Si V est de dimension finie et B = {v, v 2,..., v n }, une base de V, alors pour tout T GLV ), [T ] B B désignera la matrice a ij) i,j n définie par T v j ) = n a ij v i pour tout j =, 2,..., n. i= Comme T est inversible, il est bien connu que la matrice [T ] B B est inversible. Nous noterons par GL nc): le groupe linéaire, i.e. le groupe des matrices inversibles dont les entrées sont complexes. Il est aussi bien connu que [ ] B B : GLV ) GL n C), T [T ] B B 2

est un isomorphisme de groupes. Nous allons supposer pour la suite que V est de dimension finie n > 0 et B = {v, v 2,..., v n }, une base de V. Définition.4 Une représentation linéaire complexe de G dans V est un homomorphisme de groupes) R : G GLV ). En d autres mots, R associe un automorphisme Rg) de V à tout élément g de G et satisfait aussi la propriété que Rgg ) = Rg)Rg ) pour tout g, g G. V est appelé l espace de la représentation et dimv ) = n est le degré de R. À cause de.3, une représentation linéaire est aussi un homomorphisme de groupes) R : G GL n C). En effet, il suffit de prendre R g) = [Rg)] B B. Très souvent nous ferons ce passage de GLV ) à GL nc). Le contexte nous permettra d éviter toute confusion. Définition.5 Deux représentations R : G GLV ) et R 2 : G GLV 2 ) du groupe G sont dites équivalentes s il existe un isomorphisme d espaces vectoriels) T : V V 2 tel que T R g)t = R 2 g) pour tout g G. À cause de.3, deux représentations linéaires R : G GL n C) et R 2 : G GL n2 C) sont équivalen - tes si et seulement si n = n 2 et qu il existe une matrice P inversible d ordre n n telle que P R g)p = R 2g) pour tout g G. Définition.6 Étant donné une représentation linéaire R : G GLV ) et un sous-espace vectoriel U de V. Nous dirons que U est un sous-espace stable de V relativement à R) si et seulement si Rg)u) U pour tout g G et u U. Dans un tel cas, Rg) induit un automorphisme bien défini R U g) de U en considérant sa restriction à U et nous obtenons alors facilement que R U : G GLU) est aussi une représentation de G. Nous dirons que R U est une sous-représentation de R. Si V 0 et que les seuls sous-espaces stables relativement à R) de V sont 0 et V, alors nous dirons que R est une représentation irréductible de G. Énumérer toutes les représentations irréductibles de G à équivalence près et comprendre leurs structures est l un des objectifs majeurs de la théorie des représentations. Celles-ci forment les briques à partir desquelles les autres réprésentations sont construites. Exemple.7 Soit V = C. Alors GLV ) est le groupe multiplicatif C du corps C. La représentation triviale de G est obtenue par R : G C avec Rg) = pour tout g G. Nous noterons celle-ci par R triv. Il est clair que R triv est une représentation irréductible. Exemple.8 Soit V = C G. Notons par {v x x G}: une base de V indexée par les éléments de G. À g G, nous associons l unique transformation linéaire R reg g) de V telle que R reg g)v x ) = v gx pour tout x, g G, i.e. ) R reg g) a x v x = a x v gx. x G x G Il est facile de vérifier que R reg g)r reg g ) = R reg gg ) pour tout g, g G et que R reg e) = Id V. De cette observation, nous obtenons que R reg g) est un automorphisme de V pour tout g G et R reg : G GLV ) est une représentation. Celle-ci est dite être la représentation régulière de G, que nous noterons par R reg. Il est facile de vérifier que R reg n est pas irréductible si G {e}. En effet, ) { } C v x = a x v x a x = a C pour tout x G x G x G est un sous-espace stable de V de dimension différent de 0 et V, parce que G >. Exemple.9 Supposons que le groupe G agit sur l ensemble fini X. Nous pouvons généraliser la construction ci-dessus. Soit V = C X. Notons par {v x x X}: une base de V indexée par les éléments de X. À g G, nous associons l unique transformation linéaire R X g) de V telle que R X g)v x ) = v gx pour tout x X, g G, i.e. ) R X g) a x v x = a x v gx. x X x X 3

Il est facile de vérifier que R X g)r X g ) = R X gg ) pour tout g, g G et que R X e) = Id V. De cette observation, nous obtenons que R X g) est un automorphisme de V pour tout g G et R X : G GLV ) est une représentation. Celle-ci est dite être la représentation par permutation de G sur X, que nous noterons par R X. Si X >, alors R X n est pas irréductible. En effet, si O est une orbite de G dans X, alors ) { } C v x = a x v x a x = a C pour tout x O x O x O est un sous-espace stable de V de dimension différent de 0 et V, parce que X >. Nous allons maintenant décrire quelques constructions élémentaires de représentations obtenues à partir de représentations données de G. Définition.0 Soient une représentation linéaire R : G GLV ), un ensemble {U i i k} de sous-espaces vectoriels de V tel que V est la somme directe k i= U i. Si chacun des U i est stable relativement à R, on dit alors que R est la somme directe interne) des sous-représentations R Ui et nous écrirons k i= R U i dans ce cas. Maintenant étant donné un ensemble de représentations linéaires R i : G GLU i ) avec i k, alors nous pouvons construire une représentation de G sur la somme directe externe) V = k i= U i en posant Rg)u u 2 u k ) = R g)u ) R 2 g)u 2 ) R k g)u k ). Il faut vérifier que Rg) est bien un automorphisme de V et que Rgg ) = Rg)Rg ) pour tout g, g G. Nous noterons R par k i= R i. À cause de.3 nous pouvons aussi décrire ceci matriciellement. Si R i : G GL ni C) sont des représentations linéaires, alors la somme directe k i= R i est définie par k i= R i ) g) = R g) 0 0 0 0 R 2g) 0 0 0 0 R 3g)... 0....... 0 0 0 R k g) Définition. Soient deux représentations linéaires R : G GLV ), R 2 : G GLV 2 ) de G. Soit l espace vectoriel V = HomV, V 2 ) des transformations linéaires T : V V 2. Nous pouvons définir une représentation R de G sur HomV, V 2 ) par la formule Rg)T ) = R 2 g)t R g ) pour tout g G et tout T HomV, V 2 ). En effet, il est facile de vérifier que Rg) est une transformation linéaire de V. Il suffit de noter que Rg)a T + a 2 T 2 ) = R 2 g)a T + a 2 T 2 )R g ) = a R 2 g)t )R g ) + a 2 R 2 g)t 2 )R g ) = a Rg)T ) + a 2 Rg)T 2 ) pour tout a, a 2 C et T, T 2 HomV, V 2 ). De plus Rg) est inversible et son inverse est Rg ) car Rg) Rg )T ) = Rg) R 2 g )T R g) ) = R 2 g)r 2 g )T R g)r g ) = R 2 gg )T R gg ) = R 2 e)t R e) = T et similairement Rg ) Rg)T ) = T pour tout g G et T HomV, V 2 ) parce que R et R 2 sont des homomorphismes. Finalement R est un homomorphisme de groupes parce que Rg g 2 )T ) = R 2 g g 2 )T R g g 2 ) ) = R 2 g )R 2 g 2 )T R g 2 )R g ) = R 2 g ) Rg 2 )T ) ) R g ) = Rg ) Rg 2 )T ) 4

pour tout g, g 2 G et T HomV, V 2 ) parce que R et R 2 sont des homomorphismes. De ceci nous pouvons conclure que Rg g 2 ) = Rg )Rg 2 ) pour tout g, g 2 G. Nous noterons la représentation R par HomR, R 2 ). Il est aussi possible de donner une représentation matricielle de HomR, R 2 ) en prenant par exemple la base {T ij : V V 2 i m, j n} de HomV, V 2 ) obtenue en définissant T ij comme l unique transformation linéaire telle que { vi, si k = j; T ij u k ) = 0, sinon. où {u, u 2,..., u n } et {v, v 2,..., v m } sont des bases de V et V 2 respectivement. HomV.V 2 ) est isomorphe à l espace Mat m n C) de matrices d ordre m n ayant des entrées complexes et nous obtenons avec ces choix de bases, la représentation R g)m) = R 2g)MR g ), où g G et M Mat m n C). Un cas particulier important de la construction précédente est obtenu lorsque R 2 est la représentation triviale T riv G. Alors V 2 = C et conséquemment V = HomV, C) = V est l espace dual de V. Dans ce cas, HomR, T riv G ) est la représentation contragrédiente associée à R et nous noterons celle-ci par R. Dans ce dernier cas, il est facile de décrire la représentation matricielle de la représentation contragrédiente. En prenant la base {u, u 2,..., u n} de V duale de la base {u, u 2,..., u n } de V, alors la représentation contragrédiente de R : G GL n C) est obtenue par où M) T est la matrice obtenue en transposant M. R ) : G GL n C), g R ) g) = R g )) T Définition.2 Soient deux représentations linéaires R : G GLV ), R 2 : G GLV 2 ) de G. Nous pouvons définir une représentation R de G sur le produit tensoriel V C V 2 par la formule Rg)v v 2 ) = R g)v ) R 2 g)v 2 ). Pour vérifier que R est bien définie et est une représentation de G, il suffit d utiliser de la définition du produit tensoriel ainsi que ses propriétés. R est le produit tensoriel de R et R 2 et nous noterons cette représentation par R C R 2 ou encore R R 2 si aucune confusion est possible quant au corps de base C. Théorème.3 Soient une représentation linéaire R : G GLV ) du groupe fini G et un sous-espace vectoriel U de V stable relativement à R. Alors il existe un sous-espace vectoriel U de V stable relativement à R et complémentaire à U, i.e. V = U U. Preuve: Soit un sous-espace W complémentaire de U dans V, i.e. V = U W. Nous ne supposons pas que W est stable pour R. Soit la projection correspondante P : V U, i.e. tout v de V peut s écrire d une et d une seule façon comme une somme v = u + w avec u U et w W, alors P u + w) = u. P est une transformation linéaire. Considérons P = G Rg)P Rg ). g G Alors l image P V ) de P est contenue dans U. En effet, P Rg )v) U, parce que P est la projection de V sur U et, comme U est un sous-espace stable, nous obtenons que Rg)P Rg )v) U et G Rg)P Rg )v) U. g G Conséquemment P est une transformation linéaire P : V U. Il nous faut étudier P Montrons premièrement que P u) = u pour tout u U. Étant donné que U est stable, alors Rg )u) U pour tout g G et tout u U. Comme P est la projection sur U, nous obtenons que P Rg )u) = Rg )u). Mais de ceci, nous obtenons que Rg)P Rg )u) = Rg)Rg )u) = Rgg )u) = Re)u) = u 5

pour tout g G et u U. Finalement nous obtenons P u) = Rg)P Rg )u) = G G g G g G u = G G u = u. Une autre propriété de P est que P Rg) = R U g)p pour tout g G. En effet, P Rg)v) = Rx)P Rx )Rg)v) = Rx)P Rx g)v) = Rgy)P Ry )v) G G G x G x G y G = Rg)Ry)P Ry )v) = Rg) Ry)P Ry )v) G G y G y G = Rg)P v) = R U g)p v) parce que P v) U et U est stable. Considérons le sous-espace vectoriel U = kerp ) de V. Montrons que U est un sous-espace satisfaisant les propriétés recherchées dans le théorème. U est stable relativement à R, car si v U = kerp ), alors P Rg)v) = R U g)p v) = R U g)0) = 0 et Rg)v) U = kerp ) pour tout g G. V = U U. En effet, pour tout v V, nous avons v = P v) + v P v)), où P v) U et v P v)) U = kerp ), car P v P v)) = P v) P P v)) = P v) P v) = 0, car P v) U. Ceci montre que V = U + U. Il nous faut aussi vérifier que U U = 0. Si u U U, alors u = P u) = 0. Le théorème est ainsi démontré. Remarque.4 Dans le théorème précédent, il peut exister plusieurs sous-espaces U. Par exemple si G = {e}, alors tous les sous-espaces vectoriels de V sont stables relativement à toute représentation. Ainsi tout sous-espace vectoriel complémentaire à U satisfait les propriétés du théorème. Théorème.5 Toute représentation linéaire R : G GLV ) du groupe G est équivalente à une somme directe k i= R i de sous-représentations R i : G GLU i ) irréductibles de G, où i =, 2,..., k. Preuve: Nous démontrons le théorème par induction sur dimv ). Si R est irréductible, alors nous avons terminé. Sinon il existe un sous-espace vectoriel U distinct de 0 et V, stable relativement à R. Par le théorème.3, il existe un sous-espace vectoriel U complémentaire à U et stable. Donc la représentation R est équivalente à R U R U. Par induction et parce que dimu) < dimv ) et dimu ) < dimv ), alors R U et R U sont équivalentes à des sommes directes de sous-représentations irréductibles. Nous obtenons ainsi le théorème. Remarque.6 La décomposition dans la théorème précédent n est pas unique. Il suffit encore une fois de considérer le cas de G = {e}, alors tous les sous-espaces vectoriels de V sont stables relativement à toute représentation. Ainsi toute décomposition de V en somme directe de droites L est une décomposition comme celle du théorème.5..7 Nous allons maintenant reconsidérer les déterminants de groupe. Soient des nombres complexes x g C, un pour chaque g G. Alors la matrice correspondant à la transformation linéaire T = g G x g R reg g) définie sur l espace V = C G de la représentation régulière relativement à la base B = {v g g G} définie à l exemple.8 est [T ] B B = x gg ) ) g,g G. En effet pour tout g G, nous avons que T v g ) = x g R reg g)v g ) = x g v gg = x gg ) v g. g G g G g G Donc le déterminant de groupe Θ est égal à dett ). Noter que nous trichons légèrement en ayant spécialisé les variables x g à des nombres complexes. Mais par le théorème.5, V est une somme directe de sous-espaces stables et irréductibles. Nous obtenons donc que Θ = dett ) est le produit du déterminant des restrictions de T à ces sous-espaces irréductibles. Pour obtenir une factorisation de Θ, il est nécessaire de décomposer R reg en sous-représentations irréductibles. Nous étudierons cette question au prochain chapitre. 6

CHAPITRE 2 LEMME DE SCHUR ET THÉORIE DES CARACTÈRES Dans ce second chapitre, nous allons associer une fonction complexe χ R : G C, son caractère, à toute représentation R : G GLV ). En utilisant ces fonctions, nous pourrons décrire plus tard comment décomposer une représentation en représentations irréductibles. Le premier pas dans cette théorie est un résultat dû à Schur. Schur 875-94) était un étudiant de Frobenius à Berlin et il a appris la théorie à ces débuts. Le lemme de Schur, un résultat élémentaire, a été démontré en 905 et a grandement simplifié la théorie. Une fois ce lemme démontré, nous l utiliserons pour étudier les caractères des représentations. 2. Étant deux représentations R : G GLV ) et R 2 : G GLV 2 ) de G, alors Hom G V, V 2 ) désignera l ensemble de transformations linéaires T : V V 2 telles que R 2 g)t = T R g) pour tout g G. Il ne faut pas confondre Hom G V, V 2 ) avec HomV, V 2 ). Plus précisément, Hom G V, V 2 ) est un sousespace vectoriel de HomV, V 2 ). Il est facile de vérifier ceci. En effet, si a, a 2 C et T, T 2 Hom G V, V 2 ), alors R 2 g)a T + a 2 T 2 ) = a R 2 g)t + a 2 R 2 g)t 2 = a T R g) + a 2 T 2 R g) = a T + a 2 T 2 )R g) pour tout g G et ainsi a T + a 2 T 2 Hom G V, V 2 ). Un cas particulier de ce qui précède est obtenu lorsque V = V 2 et R = R 2. Alors Hom G V, V ) n est pas seulement un espace vectoriel, mais aussi une algèbre lorsque nous considérons la composition de transformations linéaires. En effet, si T : V V et T 2 : V V sont deux éléments de Hom G V, V ), alors R g)t T 2 = T R g)t 2 = T T 2 R g) pour tout g G et de ceci, nous obtenons que T T 2 Hom G V, V ). Ainsi Hom G V, V ) est une sous-algèbre de l algèbre HomV, V ) des endomorphismes de V. Hom G V, V ) est l algèbre des endomorphismes d entrelace - ments de R. Par exemple, les algèbres de Hecke sont de telles algèbres. Lemme 2.2 de Schur) Soient deux représentations R : G GLV ) et R 2 : G GLV 2 ) irréductibles de G. Alors dim C HomG V, V 2 ) ) = { 0, si R et R 2 ne sont pas équivalentes;, si R et R 2 sont équivalentes. Preuve: Soit un élément T : V V 2 de Hom G V, V 2 ). Nous pouvons considérer le noyau kert ) = {v V T v ) = 0} et l image ImT ) = {T v ) v V } de T, qui sont respectivement des sous-espaces vectoriels de V et V 2. kert ) est stable relativement à R. En effet, si v kert ), alors nous voulons montrer que R g)v kert ). Nous obtenons ceci en notant que T R g)v ) = R 2 g)t v ) = R 2 g)0) = 0 pour tout g G et v V. ImT ) est stable relativement à R 2. En effet, si T v ) ImT ), où v V, alors nous voulons montrer que R 2 g)t v ) ImT ). Nous obtenons ceci en notant que R 2 g)t v ) = T R g)v )) ImT ) pour tout g G et v V. Supposons maintenant que R et R 2 ne sont pas équivalentes et que la transformation linéaire T n est pas nulle. Parce que R est irréductible et que kert ) est un sous-espace stable de V, alors soit kert ) = 0, soit kert ) = V. Comme T n est pas nulle, alors nous devons exclure le cas kert ) = V. Ainsi kert ) = 0 et T est un monomorphisme. Parce que R 2 est irréductible et que ImT ) est un sous-espace stable de V 2, alors soit ImT ) = 0, soit ImT ) = V 2. Comme T n est pas nulle, alors nous devons exclure le cas ImT ) = 0. 7

Ainsi ImT ) = V 2 et T est surjective. Finalement T est un isomorphisme et ceci contredit notre hypothèse que R et R 2 ne sont pas équivalentes. Donc T doit être nulle et conséquemment dim C Hom G V, V 2 )) = 0. Supposons maintenant que R et R 2 sont équivalentes et notons par S : V V 2 : un isomorphisme d espaces vectoriels tel que R 2 g)s = SR g) pour tout g G. Nous pouvons premièrement remarquer que les espaces vectoriels Hom G V, V ) et Hom G V, V 2 ) sont isomorphes comme espaces vectoriels). En effet Ψ : Hom G V, V ) Hom G V, V 2 ), T ST est bien définie, car si T Hom G V, V ), alors ST Hom G V, V 2 ) parce que ST R g) = SR g)t = R 2 g)st, étant donné que T Hom G V, V ). Ψ est une transformation linéaire, car Ψa T + a 2 T 2 ) = Sa T + a 2 T 2 ) = a ST + a 2 ST 2 = a ψt ) + a 2 ψt 2 ) pour tout a, a 2 C et tout T, T 2 Hom G V, V ). Si T kerψ), alors ΨT ) = ST = 0 T = S ST = S 0 = 0 et kerψ) = 0. De ceci, nous pouvons conclure que Ψ est injective. Finalement si T : V V 2 est un élément de Hom G V, V 2 ), alors par un argument similaire à celui ci-dessus nous pouvons montrer que S T HomG V, V ) et ΨS T ) = SS T = T. Ce qui montre que Ψ est surjective. Conséquemment Ψ est un isomorphisme. Par ce qui précède, nous pouvons ainsi nous restreindre au cas où R = R 2 et montrer alors que dim C Hom G V, V ) =. Soient T Hom G V, V ) et une valeur propre λ de T. Ainsi l espace propre V λ) = {v V T v ) = λv } pour cette valeur propre est non-nulle. V λ) est stable relativement à R, car si g G, v V λ) et T Hom G V, V ), nous avons T R g)v ) = R g)t v ) = R g)λv ) = λr g)v. Comme R est irréductible et que V λ) est un sous-espace stable de V, nous avons soit V λ) = 0, soit V λ) = V. Comme V λ) 0, nous avons donc que V λ) = V et T v ) = λv pour tout v V. Nous avons ainsi montré que Hom G V, V ) = {λ Id V λ C }. Ici Id V désigne l identité de V. Conséquemment nous pouvons conclure que dim C Hom G V, V ) = dim C Hom G V, V 2 ) =. Un des aspects importants de la théorie est celui des caractères. C est ce que nous allons maintenant étudier après quelques rappels d algèbre linéaire. Rappel 2.3 Étant donné une matrice carrée A = a ij) i,j n, alors la trace de A est définie comme la somme des entrées sur la diagonale principale de A, i.e. T ra) = n a ii. Une des propriétés de la trace est que T rab) = T rba) si A et B sont deux matrices carrées de même ordre. En effet, n n n n T rab) = a ij b ji = b ji a ij = T rba). i= j= i= j= i= Si T : V V est une transformation linéaire et B est une base de V, alors nous pouvons définir la trace de T par T rt ) = T r ) [T ] B B. Noter que la trace de T est indépendante du choix de la base B. En effet, si B est une autre base de V, alors [T ] B B = P [T ]B B P où P = [I] B B est la matrice de changement de bases et nous obtenons que T r ) [T ] B B = T r P [T ] B B P ) = T r [T ] B BP P ) = T r [T ] B ) B 8

Définition 2.4 Étant donné une représentation R : G GLV ) de G, alors la fonction χ R : G C à valeurs complexes définie sur le groupe G par χ R g) = T rrg)) est le caractère de R. Nous écrirons aussi χ V s il n y a pas de confusion possible. Proposition 2.5 Soient une représentation R : G GLV ) de G de degré n = dim C V ) et son caractère χ R : G C. Alors a) χ R e) = n, où e est l identité de G. b) χ R g ) = χ G g) pour tout g G. Ici z désigne le conjugué du nombre complexe z. c) χ R x g x ) = χ R g) pour tout x, g G. Preuve: a) Parce que R est un homomorphisme de groupes, alors Re) est la transformation identité de V. Ainsi pour toute base B de V, nous obtenons que la matrice [Re)] B B est 0 0 0 0 0 0 Id n n = 0 0 0....... 0 0 0 d ordre n n. Donc χ R e) = T r ) [Re)] B B = n. b) Parce que G est fini, alors la matrice Rg) est d ordre fini, par exemple Rg)) G = Id n n, et toutes ses valeurs propres sont des racines de l unité. En effet, les valeurs propres de RG) sont des racines du polynôme minimal de Rg) et ce dernier divise le polynôme x G ), parce que Rg)) G = Id n n. Soient les n valeurs propres λ, λ 2,..., λ n de Rg). Alors les valeurs propres de Rg ) sont λ, λ 2,..., λ n. Mais λ i = λ i, parce que λ i est une racine de l unité pour tout i =, 2,..., n. Donc χ R g ) = T r Rg ) ) = n i= λ i = n i= n ) λ i = λ i = χ R g) i= pour tout g G. c) Parce que R est un homomorphisme de groupe, nous avons χ R xgx ) = T r Rxgx ) ) = T r Rx)Rg)Rx ) = T rrx)rg)rx)) ) = T r Rg)Rx)) Rx) ) = T r Rg) ) = χ R g). Exemple 2.6 Le caractère de la représentation triviale R triv est χ Rtriv g) = pour tout g G. Nous noterons aussi ce caractère χ Rtriv par G ou encore s il n y a pas de confusion possible. Le caractère de la représentation régulière R reg est G, si g = e; χ Rreg g) = 0, sinon. Dans ce dernier cas, nous considérons la base B = {v x x G} de l espace de R reg comme dans l exemple.8. Dans la colonne de la matrice [R reg g)] B B correspondant à x G, il y a une seule entrée non-nulle, celle à la ligne gx et celle-ci est. Pour que la seule entrée non-nulle de la colonne correspondant à x G soit sur la diagonale principale, il faut que gx = x. Mais ceci est possible seulement si g = e. Conséquemment si g e, alors χ Rreg g) = 0. Si g = e, alors χ Rreg g) = G à cause de la proposition précédente. Exemple 2.7 Supposons que le groupe G agit sur l ensemble fini X et considérons la représentation par permutation R X correspondante. Alors le caractère de R X est χ RX g) = {x X g x = x} pour tout g G. 9

En effet, si nous considérons la base B = {v x x X} de l espace de R X comme dans l exemple.9. Dans la colonne de la matrice [R X g)] B B correspondant à x X, il y a une seule entrée non-nulle, celle à la ligne g x et celle-ci est. Pour que la seule entrée non-nulle de la colonne correspondant à x X soit sur la diagonale principale, il faut que g x = x. Conséquemment χ RX g) = {x X g x = x}. Proposition 2.8 Soient deux représentations R : G GLV ) et R 2 : G GLV 2 ) de G. Alors a) χ R R 2 g) = χ R g) + χ R2 g) pour tout g G. b) χ HomR,R 2)g) = χ R g )χ R2 g) pour tout g G. c) χ R g) = χ R g ) pour tout g G. d) χ R R 2 g) = χ R g)χ R2 g) pour tout g G. Preuve: Notons des bases de V et V 2 respectivement par B et par B 2. a) B = B B 2 est une base de V V 2. Alors pour tout g G, la matrice [R R 2 )g)] B B de R R 2 )g) est [R R 2 )g)] B B = [R g)] B B 0 0 [R 2 g)] B2 B 2 et ainsi χ R R 2 g) = χ R g) + χ R2 g). b) Il faut premièrement noter qu étant donné une matrice A d ordre m m et une matrice B d ordre n n, alors la transformation linéaire T A,B : Mat m n C) Mat m n C) définie par M AMB a comme trace T r T A,B ) = T ra)t rb). Nous laissons ceci au lecteur. Maintenant nous pouvons utiliser ce résultat. Pour tout g G, la transformation linéaire HomR, R 2 )g) lorsque nous utilisons les bases B et B 2 peut être décrite par HomV, V 2 ) HomV, V 2 ), T R 2 g)t R g ) ou encore [T ] B2 B [R 2 g)] B2 B 2 [T ] B2 B [R g )] B B. Donc sa trace est χ HomR,R 2)g) = χ R g )χ R2 g) par notre première observation c) est un cas particulier de b) avec R 2 = R triv et le fait que χ Rtriv g) = pour tout g G. d) B = {v v 2 v B, v 2 B 2 } est une base de V V 2. Parce que R R 2 )g))v v 2 ) = R g)v ) R 2 g)v 2 ) et en utilisant la bilinéarité de, nous obtenons le résultat. Notation 2.9 Soient deux fonctions χ : G C et χ : G C sur G à valeurs complexes, nous définissons χ, χ ) G = χg)χ G g) et χ, χ G = χg)χ g ). G g G Il ne faut pas confondre, ) G et, G. Nous noterons l espace vectoriel de fonctions χ : G C sur G à valeurs complexes par FG). Il est facile de vérifier que g G, ) G : FG) FG) C définie par χ, χ ) χ, χ ) G est une forme hermitienne positive définie, i.e. que toutes les propriétés suivantes sont vérifiées: a) χ, χ ) G = χ, χ) G pour tout χ, χ FG); b) χ, χ + χ ) G = χ, χ ) G + χ, χ ) G pour tout χ, χ, χ FG); c) αχ, χ ) G = αχ, χ ) G et χ, αχ ) G = αχ, χ ) G pour tout χ, χ FG) et α C; d) χ, χ) G 0 pour tout χ FG), et χ, χ) G = 0 si et seulement si χ = 0. Il est aussi facile de vérifier que, G : FG) FG) C définie par χ, χ ) χ, χ G 0

est une forme bilinéaire symétrique i.e. χ, χ G = χ, χ G pour tout χ, χ FG)). Notons pour clore ce paragraphe que si χ : G C et χ : G C sont respectivement les caractères des représentations de R : G GLV ) et de R : G GLV ), alors χ, χ ) G = χ, χ G à cause de la proposition 2.5 b). Lemme 2.0 Soient une représentation R : G GLV ) de G et le sous-espace vectoriel V G = {v V Rg)v = v pour tout g G} des vecteurs invariants de V par rapport à R. Alors V G est stable par rapport à R et sa dimension est dim C V G ) = G χ R g) = χ R, ) G = χ R, G = χ V Ge). g G Preuve: Nous noterons la dimension de V par n et celle de V G par m. Il est évident que V G est stable relativement à R. Considérons l opérateur linéaire T : V V défini par v T v) = G Rg)v). Montrons premièrement que son image ImT ) V G. En effet pour tout g G et v V Rg )T v)) = G Si v V G, alors T v) = v, car g G Rg )Rg)v) = G T v) = G g G g G Rg)v) = G g G Rg g)v) = G g G Rg)v) = T v). g G v = G G v = v. De ceci, nous pouvons affirmer que ImT ) = V G. Soit un sous-espace vectoriel U de V stable relativement à R et complémentaire à V G, i.e. V = V G U. Un tel sous-espace existe par le théorème.3. Soient une base B de V G et une base B de U, alors B = B B est un base de V. Par ce qui précède, nous obtenons que la matrice [T ] B B de T par rapport à la base B est de la forme ) [T ] B Im m B B = 0 n m) m 0 n m) n m) où I m m est la matrice identité d ordre m m, O n m) m et O n m) n m) sont des matrices nulles et B est une matrice d ordre m n m). Alors T rt ) = m = dim C V G ) = G g G T rrg)) = G χ R g) = χ V Ge). Pour ce qui est de la dernière équation, nous l obtenons en notant que χ V Ge) est le degré de la sousreprésentation R V G de R, qui est m = dim C V G ). Théorème 2. Soient deux représentations R : G GLV ) et R : G GLV ) de G de caractères χ R et χ R respectivement. Alors g G dim C HomG V, V ) ) = χ R, χ R ) G = χ R, χ R G. De plus si V se décompose en somme directe k i= U i de sous-espaces vectoriels stables relativement à R et irréductibles i.e. la sous-représentation de R Ui correspondant à U i est irréductible) et si R est irréductible, alors dim C HomG V, V ) ) = { i k R Ui est équivalente à R }

Preuve: Considérons l espace HomV, V ) de la représentation HomR, R ). Alors HomV, V ) ) G est le sous-espace Hom G V, V ) de HomV, V ), car T HomV, V ) ) G R g)t Rg ) = T pour tout g G R g)t = T Rg) pour tout g G T Hom G V, V ). En utilisant la proposition 2.8 b), et le lemme 2.0, nous obtenons que dim C HomG V, V ) ) = G g G χ R g )χ R g) = G χ R g)χ R g ) = χ R, χ R ) G = χ R, χ R G. Montrons maintenant que si V se décompose en somme directe U U 2 de sous-espaces stables relativement à R, alors Hom G V, V ) est isomorphe à la somme directe Hom G U, V ) Hom G U 2, V ). En effet, si T : U V Hom G U, V ) et T 2 : U 2 V Hom G U 2, V ), alors ΨT, T 2 ) = T : V = U U 2 V défini par T u u 2 ) = T u ) + T 2 u 2 ). est un élément de Hom G U U 2, V ). Il est facile de vérifier que T est une transformation linéaire. Il suffit donc de montrer que R g)t = T Rg) pour tout g G. Nous obtenons ceci en notant que R g)t u u 2 ) = R g)t u ) + T 2 u 2 )) = R g)t u ) + R g)t 2 u 2 ) = T Rg)u ) + T 2 Rg)u 2 ) = T Rg)u u 2 ) pour tout u U, u 2 U 2 et g G. T T 2 ) ΨT, T 2 ) = T définit une transformation linéaire Ψ de Hom G U, V ) Hom G U 2, V ) vers Hom G U U 2, V ). Ceci est facile à vérifier. Nous démontrerons seulement que Ψ est un isomorphisme. Si T T 2 kerψ) et T = ΨT, T 2 ), alors T u u 2 ) = T u ) + T 2 u 2 ) = 0 pour tout u U et u 2 U 2. En prenant u 2 = 0, alors T 2 u 2 ) = T 2 0) = 0 et T u u 2 ) = T u ) = 0 pour tout u U, i.e. T = 0. De même en prenant u = 0, alors T u ) = T 0) = 0 et T u u 2 ) = T 2 u 2 ) = 0 pour tout u 2 U 2, i.e. T 2 = 0. Donc kerψ) = 0 0 et la transformation linéaire Ψ est injective. Soit T : U U 2 V, un élément de Hom G U U 2, V ). Prenons T : U V défini par T u ) = T u 0) pour tout u U et T 2 : U 2 V défini par T 2 u 2 ) = T 0 u 2 ) pour tout u 2 U 2. Alors T Hom G U, V ), T 2 Hom G U 2, V ) et ΨT, T 2 ) = T. En effet, T Rg)u ) = T Rg)u ) 0) = T Rg)u 0) = Rg)T u 0) = Rg)T u ) pour tout g G et tout u U montre que T Hom G U, V ). De façon similaire, nous obtenons que T 2 Hom G U 2, V ). Finalement T u u 2 ) = T u 0) + 0 u 2 ) ) = T u 0) + T 0 u 2 ) = T u ) + T 2 u 2 ) pour tout u U et u 2 U 2 montre que T = ΨT, T 2 ) et la transformation linéaire Ψ est surjective. Maintenant terminons la preuve du théorème. Si V se décompose en somme directe k i= U i de sousespaces vectoriels stables relativement à R et irréductibles et si R est irréductible, alors avec ce qui précède g G Hom G k i= U i, V ) est isomorphe à k i= Hom G Ui, V ) Par le lemme de Schur, dim C HomG U i, V ) ), si R Ui et R sont équivalentes; = 0, si R Ui et R ne sont pas équivalentes. 2

et Le théorème est démontré. dim C HomG V, V ) ) = dim C HomG k i=u i, V ) ) = k dim C HomG U i, V ) ) i= = { i k R Ui est équivalente à R }. Théorème 2.2 Soient deux représentations R : G GLV ) et R : G GLV ) de G de caractères χ R et χ R respectivement. Alors R et R sont équivalentes si et seulement si χ R = χ R. Preuve. Si R et R sont équivalentes, alors il existe un isomorphisme T : V V tel que T Rg)T = R g) pour tout g G. Alors χ R g) = T rr g)) = T rt Rg)T ) = T rrg)t T ) = T rrg)) = χ R g) pour tout g G. Nous allons maintenant démontrer la réciproque. Par le théorème.5, R est équivalent à une somme directe k i= R i de sous-représentations R i : G GLU i ) irréductibles de G, où i =, 2,..., k et R est équivalent à une somme directe k i= R i de sous-représentations R i : G GLU i ) irréductibles de G, où i =, 2,..., k. Si R : G GLV ) est une représentation irréductible de G de caractère χ R : G C, alors { i k R i est équivalente R } = χ R, χ R ) G = χ R, χ R ) G = { i k R i est équivalente R }. Ainsi R et R se décomposent de la même façon en sous-représentations irréductibles et sont ainsi équivalentes. Le théorème est démontré. 3

CHAPITRE 3 TABLE DE CARACTÈRES Dans ce troisième chapitre, nous allons maintenant associer au groupe fini G une matrice carrée, sa table de caractères. Celle-ci nous permettra de mieux étudier les représentations de G et leurs décompositions en représentations irréductibles. Nous allons aussi déterminer le nombre de représentations irréductibles de G à équivalence près. Définition 3. Le caractère χ R de la représentation R : G GLV ) est dit irréductible si la représentation R est irréductible. Nous noterons l ensemble des caractères irréductibles de G par G. Proposition 3.2 Soit le caractère χ : G C de la représentation R : G GLV ) de G. Alors χ est irréductible si et seulement si χ, χ) G =. Preuve: Si χ est irréductible, alors R est irréductible. Par le théorème 2. et le lemme de Schur, nous obtenons que χ, χ) G = dim C Hom G V, V ) =. Si χ, χ) G =, nous voulons montrer que χ est irréductible. Supposons le contraire, alors V est la somme directe U U de deux sous-espaces U, U stables de V tels que U et U sont différents de 0 et V. Ainsi R = R U R U et χ = χ RU R U = χ RU + χ RU. Alors χ, χ) G = χ RU + χ RU, χ RU + χ RU ) G = χ RU, χ RU ) G + χ RU, χ RU ) G + χ RU, χ RU ) G + χ RU, χ RU ) G. Mais par le théorème 2., nous avons χ RU, χ RU ) G = dim C Hom G U, U) et χ RU, χ RU ) G = dim C Hom G U, U ). Noter que ci-dessus dim C Hom G U, U) parce que c Id U Hom G U, U) pour tout c C. De la même façon, nous avons aussi que dim C Hom G U, U ). Par le théorème 2., χ RU, χ RU ) G = dim C Hom G U, U ) 0 et χ RU, χ RU ) G = dim C Hom G U, U) 0. Si nous considérons toutes ces inégalités, nous obtenons χ, χ) G 2. Mais ceci contredit notre hypothèse. Donc χ est irréductible. Remarque 3.3 Par le lemme de Schur et les théorèmes 2. et 2.2, nous obtenons que si χ, χ sont deux caractères irréductibles, alors, si χ = χ ; χ, χ ) G = 0, si χ χ. Ceci est l orthogonalité des caractères irréductibles. Nous obtenons alors que les caractères irréductibles de G sont linéairement indépendants dans l espace vectoriel FG). En effet, supposons le contraire, alors il existe des nombres complexes a, a 2,..., a h non tous nuls et des caractères irréductibles distincts χ, χ 2,..., χ h tels que h j= a j χ j = 0. Mais nous obtenons une contradiction en notant 0 = h ) a j χ j, χ i j= G = h a j χ j, χ i ) G = a i pour tout i =, 2,..., h. j= Donc G dim C FG) = G et conséquemment le nombre de caractères irréductibles de G est fini. Proposition 3.4 Soit le caractère χ R : G C de la représentation R : G GLV ). Alors χ R = χ G χ R, χ) G χ. 5

Cette somme est finie à cause de la remarque 3.3. De plus, si nous décomposons R comme une somme directe k i= R i de représentations irréductibles de G, alors χ R, χ) G est le nombre de représentations R i équivalentes à une représentation irréductible de G de caractère χ. Preuve: Par le théorème.5, R est équivalent à une somme directe k i= R i de sous-représentations R i : G GLU i ) de G. Par le théorème 2.2, nous obtenons χ R = χ k i= R i = k χ Ri. et chacun des caractères χ Ri est irréductible. Nous avons ainsi montré que χ R peut s écrire comme une combinaison linéaire de caractères irréductibles, i.e. χ R = i= χ G a χ χ. Nous pouvons facilement calculer les coefficients a χ pour χ G en utilisant l orthogonalité. En effet, si χ G, alors χ R, χ ) G = a χ χ, χ ) = a G χ χ, χ ) G = a χ χ G χ G par l orthogonalité des caractères irréductibles. La dernière partie de la proposition est une conséquence du théorème 2.. Donc Corollaire 3.5 Soit le caractère χ reg : G C de la représentation régulière R reg. Alors a) χ reg, χ) G = χe) pour tout caractère χ de G. Ici e est l identité de G. b) χ reg = χ G χe) χ. c) χ G χe))2 = G. d) χ G χe)χg) = 0 pour tout g G et g e. Preuve: a) Rappelons que χ reg est défini par car χe) N. χ reg, χ) G = G G, si g = e; χ reg g) = 0, sinon. g G b) est une conséquence de a) et de la proposition 3.4. χ reg g)χg) = G χe) = χe) G c) et d) Si nous évaluons l expression obtenue en b) à l élement g = e, alors nous obtenons G = χ reg e) = χ G χe)) 2. Tandis que si nous évaluons celle-ci à l élément g e, alors nous obtenons 0 = χ reg g) = χ G χe) χg). Nous allons maintenant déterminer quelles sont toutes les fonctions sur G qui peuvent s exprimer comment des combinaisons linéaires de caractères irréductibles 6

Définition 3.6 Une fonction χ : G C sur G à valeurs complexes est dite être une fonction de classe si et seulement si χx g x ) = χg) pour tout x, g G. Le sous-ensemble des fonctions de classe sur G sera noté CG). Il est facile de vérifier que CG) est un sous-espace vectoriel de FG). Définition 3.7 Le sous-ensemble {x g x x G} de G est appelé la classe de conjugaison de g et sera noté par la suite par cl G g) ou encore clg) s il n y a aucune confusion quant au groupe G. Nous noterons l ensemble {cl G g) g G} des classes de conjugaison de G par ClG). Il est bien connu que G est la réunion disjointe de ses classes de conjugaison. Celles-ci sont des classes d équivalence pour la relation d équivalence g g si et seulement si g et g sont dans la même classe de conjugaison, i.e. qu il existe un x G tel que g = x g x. Ainsi une fonction χ : G C de G est une fonction de classe si et seulement si χ est constante sur les classes de conjugaison de G. Proposition 3.8 Pour toute classe de conjugaison c de G, nous noterons la fonction caractéristique de c par c, i.e. {, si g c; Alors c g) = 0, sinon. a) c CG) pour tout c ClG), i.e c est une fonction de classe. b) { c c ClG)} est une base de CG) et dim C CG)) = ClG). c) χ CG) pour tout caractère χ de G. En particulier, χ CG) pour tout χ G. d) G est une base orthogonale de CG) relativement à, ) G et G = ClG). Preuve: a) Il est clair que c est une fonction constante sur les classes de conjugaison, i.e. c est une fonction de classe et ainsi c CG). b) Si χ CG), alors χg) = χg ) lorsque g et g sont dans la même classe de conjugaison c ClG). Dans ce dernier cas, nous noterons par χc): cette valeur prise par χ à un élément quelconque de c. Avec cette notation, nous pouvons noter que si χ CG), alors χ = c ClG) χc) c. En effet, il suffit d évaluer les deux expressions de cette égalité à un élément g G. Nous savons que g appartient à une seule classe de conjugaison clg). Donc le côté gauche de l égalité est χg) = χclg)), alors que le côté droit est χc) c g) = χclg)) clg) g) = χclg)). c ClG) Nous avons ainsi montré que toute fonction de classe peut s exprimer comme une combinaison linéaire des fonctions caractéristiques c. Pour compléter la preuve de b), il suffit de montrer que les fonctions c pour c ClG) sont linéairement indépendantes. Supposons que c ClG) a c c = 0, alors en évaluant à g, nous obtenons 0 = c ClG) a c c g) = a clg). Donc a c = 0 pour tout c ClG) et les fonctions c pour c ClG) sont linéairement indépendantes. c) est une conséquence de la proposition 2.5 c). d) Nous avons vu à la remarque 3.3 que les caractères irréductibles de G sont linéairement indépendants et orthonormaux par rapport à, ) G. Comme, ) G est positive définie, alors il suffit de vérifier que la seule fonction χ : G C orthogonale à tous les caractères irréductibles est la fonction nulle 0. En effet, si I désigne le sous-espace de CG) engendré par G, alors le sous-espace I des vecteurs orthogonaux à I 7

est de dimension dim C I ) = dim C CG)) dim C I). Si I = 0, alors dim C I) = dim C CG)) et CG) est engendré par G. Étant donné une fonction χ : G C appartenant à CG) telle que χ, χ) G = 0 pour tout χ G, montrons que χ = 0. À une représentation R : G GLV ) de G, définissons la transformation linéaire T R : V V définie par v g G χg) Rg)v). Nous avons que T R Rx) = Rx)T R pour tout x G. En effet, T R Rx) = g G χg) Rg)Rx) = g G parce que χ est une fonction de classe. χg) Rgx) = χx g x ) Rxg ) = χg ) Rx)Rg ) = Rx)T R g G Montrons que nous avons aussi que T R v) = 0 pour tout v V. Considérons premièrement le cas où R est irréductible. Par la preuve du lemme de Schur, nous avons que T R v) = λv pour tout v V. La trace de T R est T rt R ) = g G χg) T rrg)) = g G χg) χ R g) = G = λ dim C V ) = λ χ R e). G g G χg) χ R g) = G χ R, χ) G Comme χ R, χ) G = 0 et χ R e) 0, alors λ χ R e) = 0 et λ = 0. Conséquemment si R est irréductible, alors T R v) = 0 pour tout v V. Maintenant si R est une représentation de G, alors nous pouvons écrire R comme une somme directe k i= R i de représentations irréductibles R i pour i =, 2,..., k, il est facile de vérifier que T R se décompose sous la forme k i= T R i, mais chacune des transformations linéaires T Ri est nulle. Ainsi T R est nulle. Maintenant pour compléter la preuve que χ = 0, alors prenons pour R la représentation régulière R reg. L espace V de la représentation R reg a une base {v x x G} indexée par les éléments x de G et ainsi par ce qui précède 0 = T R v e ) = χg) Rg)v e ) = χg) v g. g G g G g G Donc χg) = 0 pour tout g G. Il est maintenant clair en utilisant b) que G = ClG). Ceci complète la preuve de d). Nous avons noté à la remarque.6 que la décomposition en représentations irréductibles n est pas unique. Il est cependant possible de déterminer une décomposition unique d une représentation en sousreprésentations du même type i.e décomposition isotypique). Nous serons plus précis ci-dessous. Remarque 3.9 Soient les caractères irréductibles distincts χ j : G C de G, où j =, 2,..., h, et une représentation R : G GLV ) de G. Nous avons vu que V est une somme directe k i= U i de sousespaces U i stables par rapport à R et irréductibles, et que R se décompose en une somme directe k i= R i de représentations irréductibles R i : G GLU i ), i =, 2,..., k. Pour j =, 2,..., h, notons par V j : la somme directe des U i dont le caractère est χ j, i.e. les U i qui sont équivalents à une représentation irréductible donnée de caractère χ j. Nous avons donc que V est la somme directe h j= V j des sous-espaces stables V j, où j =, 2,..., h. Cette dernière décomposition sera la décomposition isotypique de R. Celle-ci est unique. C est ce que nous montrerons. Proposition 3.0 Avec les notations de la remarque 3.9) Pour j =, 2,..., h, la transformation linéaire P j = χ je) χ j g) Rg) G g G 8

est indépendante de la décomposition de V en irréductibles et est la projection de V sur V j. Conséquemment la décomposition isotypique h j= V j de V est unique. Preuve: Il est clair que P j est indépendant de la décomposition de V en irréductibles. Nous pouvons procéder comme dans la preuve de la proposition 3.8 d) et obtenir que P j Rx) = Rx)P j pour tout x G, i.e. au lieu de T R nous avons P j, mais l argument est le même et repose sur le fait que χ j CG). Si U est un sous-espace stable de V et irréductible de caractère χ et que nous considérons la restriction P j U de P j à U, alors P j U = χ je) χ j g)r U g) = λ Id U, où λ C G g G par le lemme de Schur. Si nous calculons maintenant la trace de P j U, nous obtenons T rp j U ) = χ je) G g G Ainsi λ χ e) = χ j e) χ, χ j ) G et χ j g) T rr U g)) = χ je) G χ j g) χ g) = λ dim C U) = λχ e). g G P j u) = χ je) χ e) χ, χ j ) G u pour tout u U. Si χ χ j, alors par l orthogonalité des caractères irréductibles, nous obtenons que χ, χ j ) G = 0 et P j u) = 0 pour tout u U. Par contre si χ = χ j, alors χ j e) χ e) χ, χ j ) G = χ je) χ j e) χ j, χ j ) G = et P j u) = u pour tout u U. Si nous considérons une décomposition isotypique h j= V j de V, alors P j v v 2 v h ) = v j pour tout j =, 2,..., h par ce qui précède. P j est bien la projection de V sur V j. Comme les P j sont indépendants de la décomposition en irréductibles et que les P j sont les projections sur les sous-espaces V j, nous obtenons l unicité de la décomposition isotypique. Proposition 3. Soient deux éléments g, g de G. Alors G / clg), si g et g sont conjugués, i.e. clg) = clg ); χg) χg ) = χ G 0, sinon. Preuve: Considérons la fonction caractéristique clg ) correspondant à la classe de conjugaison de g. Parce que G est une base orthogonale de CG) et que clg ) CG) par la proposition 3.8, nous obtenons clg ) = Mais parce que χ est une fonction de classe, alors χ G clg ), χ) G χ. clg ), χ) G = clg )x)χx) = G G x G x clg ) χx) = clg ) G χg ). Conséquemment clg ) = clg ) χg G ) χ. χ G 9

Nous pouvons maintenant évaluer les deux côtés de cette équation à l élément g G. conjugués, alors clg) = clg ) et Si g et g sont clg )g) = = clg ) χg G ) χg) χg) χg ) = G clg). χ G χ G Par contre si g et g ne sont pas conjugués, alors clg )g) = 0 = clg ) χg G ) χg) χg) χg ) = 0. χ G χ G Définition 3.2 La table des caractères de G est la matrice carrée dont les lignes sont indexés par les éléments de G et les colonnes par les éléments de ClG). Pour le caractère irréductible χ G et la classe de conjugaison c ClG), alors l entrée à ligne χ et colonne c est la valeur χc) prise par le caractère χ sur la classe c. Remarque 3.3 Nous pouvons traduire l orthogonalité des caractères irréductibles et la proposition 3. en des propriétés pour les lignes et colonnes de la table de caractères. Ainsi la proposition 3. signifie que deux colonnes distinctes de la table des caractères de G sont des vecteurs orthogonaux pour le produit hermitien standard) et que la colonne correspondant à la classe de conjugaison clg) est un vecteur de norme G / clg) pour ce même produit hermitien). L orthogonalité des caractères irréductibles signifie que si nous considérons deux lignes distinctes de la table des caractères, alors celles-ci sont des vecteurs qui sont orthogonaux pour un produit hermitien pondéré en utilisant le poids clg) pour la composante correspondant à la classe clg), i.e. c ClG) c χc) χ c) = 0 si χ χ. Alors que la ligne correspondant au caractère irréductible χ est de norme G pour le même produit hermitien, i.e. c χc) χc) = G c ClG) Au prochain chapitre, nous allons présenter des exemples de tables de caractères pour quelques groupes finis. Nous traiterons plus tard dans ces notes du cas du groupe symétrique. 20