DUALES DE TYPE II. par. Alberto Mínguez

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II par Alberto Mínguez Résumé. Soient F un corps commutatif localement compact non archimédien, de caractéristique résiduelle notée p, et G, G ) une paire duale reductive sur F de type II. Dans cet article on montre que les résultats de [Mi1], [Mi2], [Mi3] and [MS2] impliquent que la correspondance de Howe est bijective pour les représentations l-modulaires si l p est un entier premier banal pour G et G. On donne quelques contre-exemples qui montrent que la correspondance de Howe n est plus bijective dans le cas non banal. Abstract. Let F be a non-archimedean locally compact field, of residual characteristic p, and G, G ) a reductive dual pair over F of type II. In this article we show how the results of [Mi1], [Mi2], [Mi3] and [MS2] imply that the local Howe correspondence is bijective for l-modular representations if l p is a banal prime for G and G. Moreover, we give some counterexamples which show that the local Howe correspondence can be non-bijective for l-modular representations if l is not banal. Introduction Soit F un corps commutatif localement compact non archimédien de caractéristique résiduelle p > 0. Soit ψ : F C un caractère additif non trivial de F. Si W est un espace vectoriel symplectique sur F, de dimension finie, on dispose du groupe métaplectique Sp W), qui est un revêtement à deux feuillets du groupe symplectique Sp W), et d une représentation ω, S ) de Sp W) canoniquement attachée à ψ, dite représentation de Weil ou métaplectique, sur un espace de fonctions S à valeurs complexes. Soit G, G ) une Classification mathématique par sujets 2000). 11S27 22E50. Mots clefs. Correspondance thêta, représentations l-modulaires. L auteur est partiellement financé par ANR-10-BLANC 0114, EPSRC grant EP/G001480/1, MTM2010-19298 et FEDER.

2 ALBERTO MÍNGUEZ paire duale réductive cf. [MVW, 1.I.17]) dans Sp W) : ou bien G, G ) est une paire de groupes classiques -symplectique, orthogonal, unitaire- paires duales de type I) ou bien une paire de groupes linéaires paires duales de type II). Notons G et G leurs images réciproques dans Sp W). Soit π une représentation lisse irréductible de G quotient de ω on dit alors que π apparaît dans la correspondance de Howe ). Notons S [π] le plus grand quotient π- isotypique de ω. Il est de la forme S [π] = π Θ π), en tant que G G -module, où Θ π) est une représentation lisse de longueur finie de G. Roger Howe et Jean-Loup Waldspurger [Wal], [MVW] ont prouvé que, dans le cas où p est impair et où G, G ) est de type I, si Θπ) 0, alors Θπ) possède un unique quotient irréductible, noté θπ). L application π θπ) est une bijection entre l ensemble des représentation lisses irréductibles π de G telles que Θπ) 0 et l ensemble des représentation lisses irréductibles π de G telles que Θπ ) 0. Elle est appelée la correspondance de Howe. Dans le cas de paires duales de type II, on dispose d un modèle très simple de la restriction de la représentation métaplectique à la paire duale. En effet, soit D une F- algèbre à division de dimension finie. Pour tous entiers m, n 1, on désigne par M n,m D) la F-algèbre des matrices de taille n m à coefficients dans D et par G m = GL m D) le groupe des éléments inversibles de M m,m. Notons aussi S C M n,m ) le C-espace vectoriel des fonctions Φ de M n,m dans C, localement constantes à support compact, et σ C,n,m la représentation naturelle de G n G m définie par σ C,n,m g, g ) Φ x) = Φ g 1 xg ), pour g G n, g G m, x M n,m, Φ S C M n,m ). Cette représentation, d après [MVW, 2.II.6] est, à un caractère près, la représentation métaplectique restreinte à la paire duale G n, G m ). Dans [Mi1] nous montrons que la correspondance de Howe est vraie pour ces paires et notre preuve est valable pour tout p, et explicite : on peut déterminer, en termes des paramètres de Langlands, la correspondance π θπ). Or, d un autre côté, l étude des congruences de formes modulaires a donné lieu à un intérêt à classifier et comprendre les représentations des groupes réductifs p-adiques, non seulement sur des espaces vectoriels complexes, mais aussi sur un corps, qu on notera R,

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 3 de caractéristique positive quelconque. Dans le cas où R est une clôture algébrique F l du corps fini à l éléments, on parle souvent des représentations l-modulaires. Dans cet article on essaie de répondre la question suivante : est elle encore vraie la correspondance de Howe pour des représentations l-modulaires? Comment se comporte la correspondance par rapport à la réduction modulo l? En fait, est-ce que θπ) est une représentation entière si π l est? Pour pouvoir résoudre un tel problème en toute sa généralité, il faudrait d abord étendre toute la théorie du groupe métaplectique et la représentation de Weil voir [MVW, 2]) au cas des représentation l-modulaires : est-il vrai le théorème de Stone Von Newman pour des R-représentations? A-t-on un modèle latticiel?, etc. On évitera dans cet article ces problèmes en se contentent de traiter, en première instance, les paires duales de type II. En effet, le modèle ci-dessus de la restriction de la représentation métaplectique à la paire duale s étend de façon naturelle au cas de R- représentations : notons S R M n,m ) le C-espace vectoriel des fonctions Φ de M n,m dans R, localement constantes à support compact, et σ R,n,m la représentation naturelle de G n G m sur S R M n,m ). Soit π une R-représentation irréductible de G n et supposons que π apparaît dans la correspondance de Howe. Existe-t-il une unique R-représentation irréductible π telle que 0.1) Hom Gn G m σ n,m, π π ) 0? A-t-on, de plus 0.2) dim R HomGn G m σ n,m, π π ) ) = 1? On montrera que la correspondance de Howe est satisfaite si on impose quelques conditions sur n, m et R; et fausse sinon! Par exemple, on verra que, si la caractéristique l de R ne divise pas l ordre des groupes finis GL n k D ) et GL m k D ), alors la correspondance est toujours une bijection, valable pour tout p, et explicite cf. théorème 10.1). Mais sans ces conditions, même dans le cas n = 1, on trouve des contre-exemples à 0.1) et 0.2), voir théorème 7.2. Donnons, pour conclure cette introduction, plus de détails concernant les différentes sections de l article : Dans la section 1, on introduit les notations. Dans la section 2 on rappelle la théorie des fonctions zêta l-modulaires de [Mi3] : elles nous permettent de construire des entrelacements entre la représentation métaplectique σ n,m et toute R-représentation irréductible π

4 ALBERTO MÍNGUEZ de G n, si m n. Dans les sections 3 et 4, on étend les filtrations de la représentation métaplectique de [Mi1] au cas des représentations l-modulaires. On utilise l une de ces filtrations pour résoudre complètement le cas où π est une représentation cuspidale. L autre nous permet, dans les sections 5 et 6, de se ramener au cas des R-représentations qui ont des vecteurs fixes par le sous-groupe de Iwahori. Dans la section 7, on traite en détail la correspondance GL1), GLm)) et on donne des contre-exemples, dans le cas non-banal, qui montrent que la correspondance peut-être non bijective sous certaines hypothèses. Dans la section 8, on rappelle la classification des représentation banales de G m de [MS2] qu on utilisera dans la section 9 pour pouvoir démontrer le théorème principal Théorème 10.1) de notre article : il est énoncé en toute sa généralité dans la section 10. Finalement on utilise la section 11 pour discuter, dans différents cas, l intégralité et la réduction modulo l de la correspondance de Howe. 1. Notations et conventions 1.1. Soit F un corps commutatif localement compact non archimédien, de caractéristique résiduelle notée p. Si E est une extension finie de F, ou plus généralement une algèbre à division sur une extension finie de F, on note O E son anneau d entiers, p E = ϖ E O E son idéal maximal, ϖ E une uniformisante et k E son corps résiduel. Soit R un corps algébriquement clos de caractéristique l différente de p et soit G le groupe des points sur F d un groupe réductif connexe défini sur F. Par R-représentation lisse de G on entend la donnée d un R-espace vectoriel V et d un homomorphisme de groupes de G dans Aut R V) tel que, pour tout vecteur v V, le stabilisateur de v dans G soit ouvert. Quand R = F l on dit aussi que π est une représentation l-modulaire de G. Si π est une R-représentation de G, on désigne par π sa contragrédiente et V l espace sur lequel elle agit. Si en outre χ est un R-caractère de G, on note χπ ou πχ la représentation tordue g χg)πg). Dans tout le texte, les représentations sont supposées lisses. Toute R-représentation irréductible de G est admissible et admet un caractère central [Vig, II.2.8]. On notera Irr R G) l ensemble des classes d isomorphisme des R-représentations irréductibles de G. 1.1.1. Soient π et π deux R-représentations de G. On note par Hom G π, π )

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 5 l espace des entrelacements entre π et π. On omettra l indice G quand il n y a pas de confusion. 1.1.2. On choisit une fois pour toutes une racine carrée dans R du cardinal du corps résiduel de F. Si M est un sous-groupe de Levi de G et P un sous-groupe parabolique de G dont M est un facteur de Levi, ce choix définit un caractère non ramifié : 1.1) δ 1/2 P : M R dont le carré est le module de P. On note r G P le foncteur de restriction parabolique non-normalisé et ig P son adjoint à droite, c est-à-dire le foncteur d induction parabolique non-normalisé. On note r G P = δ 1/2 P r G P le foncteur de restriction parabolique normalisé et ig P = δ 1/2 P ig P le foncteur d induction parabolique normalisé, qui est son adjoint à droite. Le foncteur r G P possède également un adjoint à gauche, qui est le foncteur d induction parabolique i G P correspondant au sous-groupe parabolique P opposé à P relativement à M. Cette propriété est connue sous le nom de seconde adjonction Ces foncteurs sont exacts, et préservent l admissibilité et le fait d être de longueur finie. Une R-représentation irréductible de G est dite cuspidale si son image par r G P est nulle pour tout sous-groupe parabolique strict P de G, c est-à-dire si elle n est isomorphe à aucun quotient ou, de façon équivalente, à aucune sous-représentation) d une induite parabolique stricte. 1.2. Formes intérieures de GL n sur F. Dans ce paragraphe, on fixe une F-algèbre à division D de dimension finie, et de degré résiduel noté d. Pour tous entiers m, n 1, on désigne par M n,m D) la F-algèbre des matrices de taille n m à coefficients dans D et par G m = GL m D) le groupe des éléments inversibles de M m,m. On notera e D l ordre de q D dans R. On dira que G m est banal si e D > m. La représentation triviale de G m sera notée 1 m. 1.2.1. Soit Nrd m la norme réduite de M m,m D) sur F. On note q = q F le cardinal du corps résiduel de F et F la valeur absolue normalisée de F, c est-à-dire la valeur absolue donnant à une uniformisante de F la valeur q 1. Puisque l image de q dans R est inversible, elle définit un R-caractère de F noté F,R. L application g Nrd m g) F,R est un R-caractère de G m, qu on notera ν m,r ou simplement ν si le contexte le permet.

6 ALBERTO MÍNGUEZ 1.2.2. Si α = m 1,..., m r ) est une famille d entiers positifs ou nuls dont la somme est égale à m, il lui correspond le sous-groupe de Levi standard M α de G m constitué des matrices diagonales par blocs de tailles m 1,..., m r respectivement, que l on identifie naturellement au produit G m1 G mr. On note P α le sous-groupe parabolique de G m de facteur de Levi M α formé des matrices triangulaires supérieures par blocs de tailles m 1,..., m r respectivement, et on note U α son radical unipotent. Les foncteurs d induction et de restriction paraboliques normalisés i Gm P α et r Gm P α sont simplement notés respectivement i α et r α. Si, pour chaque i {1,..., r}, on a une R-représentation π i de G mi, il est aussi commode de noter : 1.2) π 1 π r = i α π 1 π r ). On note également r α le foncteur de restriction parabolique relativement au sous-groupe parabolique opposé à P α relativement à M α, c est-à-dire formé des matrices triangulaires inférieures par blocs de tailles m 1,..., m r respectivement. 1.2.3. Étant donné un ensemble X, un multi-ensemble sur X est l ensemble des fonctions m : X N à support fini. On pourra le voir comme l ensemble X avec ses éléments comptés avec des multiplicités. Etant donné une R-représentation irréductible π de G n, il existe un unique multiensemble ρ 1,..., ρ r de R-représentations cuspidales tel que π soit un quotient de ρ 1 ρ r. On dit que ρ 1,..., ρ r est le support cuspidal de π. 1.3. Reduction modulo l. On suppose que R est de caractéristique l p non nulle. On fixe un corps, noté R, de caractéristique nulle qui est une clôture algébrique d un corps local, et dont le corps résiduel est isomorphe à R. On peut choisir pour R une clôture algébrique du corps des fractions de l anneau des vecteurs de Witt de R ; par exemple, si l est un nombre premier différent de p et si R = F l, il suffit de choisir R = Q l. On note O = O R l anneau des entiers de R et d R : O R la projection canonique. 1.3.1. Une représentation π de G m sur un R -espace vectoriel V est dite entière si elle est admissible et si elle admet une structure entière, c est-à-dire un sous-o R -module V de V stable par G m et engendré par une base de V sur R. Par exemple, une R -représentation cuspidale est entière si, et seulement si, son caractère central est à valeurs dans O R et une R -représentation irréductible est entière si, et seulement si, son support cuspidal est formé de R -représentations cuspidales entières.

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 7 La représentation de G m sur le R-espace vectoriel V OR R est alors de longueur finie et sa semi-simplification ne dépend pas du choix de la structure entière d après [Vig, II.5.11]. On note d R π ) cette semi-simplification, qu on appelle la réduction ou la décomposition) modulo l de π on commet ainsi un léger abus de notation, puisque d R désigne aussi l homomorphisme de réduction défini au paragraphe 1.3). On dit qu une R-représentation π de G m se relève s il existe une R -représentation entière π telle que dπ ) π. 1.3.2. On fixe un R -caractère non ramifié δ 1/2 comme en 1.1), et on désigne par δ 1/2 P,R P,R sa composée avec red R, qu on choisit pour normaliser les foncteurs paraboliques pour les R-représentations. Si σ est une R -représentation entière de M, et si V est une structure entière de σ, alors le sous-espace i G P V) des fonctions à valeurs dans V est une structure entière de i Gm P II.4.14]. σ) et igm P V) O R est isomorphe à i Gm P V O R). On renvoie à [Vig, 1.4. La représentation métaplectique. Pour tout espace topologique A on notera S R A) le R-espace vectoriel des fonctions Φ de A dans R, localement constantes à support compact. 1.4.1. On note S n,m = S R M n,m ) et σ R,n,m la représentation naturelle de G n G m définie par σ R,n,m g, g ) Φ x) = Φ g 1 xg ), pour g G n, g G m, x M n,m, Φ S n,m. Dans le cas où R = C on montre en [MVW, 2.II.6] que, à un caractère près, σ C,n,m est la représentation métaplectique restreinte à la paire duale G n, G m ). On appelera σ R,n,m la R-représentation métaplectique de G n, G m ) et, si le contexte ne mène pas à confusion on la notera simplement σ n,m On permet les cas m = 0 ou n = 0 avec G 0 = 0) pour lesquels M n,0 = M 0,m = {0} et σ n,0 est la représentation triviale de G n et σ 0,m est la représentation triviale de G m. 1.4.2. Il est aussi très pratique d utiliser la notation suivante : on a deux groupes linéaires agissant, par multiplication, sur un espace de matrices à gauche et à droite. Dorénavant, pour différentier ces deux actions, on notera G, P et U les groupes linéaire, parabolique et unipotent respectivement, agissant à droite et on gardera les notations G, P et U pour ces groupes quand ils agissent à gauche. De même, en cas d ambiguïté, on

8 ALBERTO MÍNGUEZ notera ν le caractère ν quand il agit sur G. Cela peut sembler une notation un peu artificielle mais elle facilite énormément la compréhension des calculs. 1.5. La correspondance de Howe. Soit π une R-représentation irréductible de G n. On dit que π apparaît dans la correspondance de Howe σ n,m s il existe π une R- représentation irréductible de G m telle que 1.3) Hom Gn G m σ n,m, π π ) 0. On note alors θ m π) 0. Si de plus, π est l unique R-représentation irréductible de G m qui satisfait à 1.3), on notera π = θ m π). 2. Les fonctions zêta l-modulaires Dans cette section on prouve le théorème suivant : Théorème 2.1. Soit π une R-représentation irréductible de G n. Alors θ m π) 0 si m n. Pour cela, on va introduire les fonctions zêta l-modulaires de [Mi3], qui fournissent un entrelacement entre σ n,n et π π. 2.1. Soit π une représentation irréductible de G n dans un R-espace vectoriel V. On rappelle qu un coefficient de π est une fonction f : G n R de la forme f v,v x) = π x) v, v où v V, v V sont fixés, ou une combinaison linéaire de telles fonctions. Pour tout coefficient f : G n R de π, toute fonction Φ S R M n,n D)) et tout N Z l intégrale G n,νx)=q N Φ x) f x) dµ x) est bien définie. En effet { x G n : νx) = q N} supp Φ) est une partie compacte de G n et Φ et f sont localement constants sur cette partie. On peut alors définir la somme formelle : Z Φ, T, f) = ) Φ x) f x) dµ x) T N. N Z G n,νx)=q N

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 9 2.1.1. Le théorème suivant est montré dans [Mi3] : Théorème 2.2. Soit π, V) une R-représentation irréductible de GL n D). Alors : 1) Il existe P 0 π, T ) R [T ] tel que, pour tout coefficient f de π et toute fonction Φ S R M n,n D)). Z Φ, T, f) P 0 π, T ) R [ T, T 1]. 2) Notons Z π)) le sous-r-espace vectoriel de R T ) engendré par les fonctions Z Φ, T q 1 nd 2, f quand on parcourt f dans l ensemble de coefficients de π et Φ S R M n,n D)). Alors Z π) est un idéal fractionnaire de R [T, T 1 ] contenant les constantes. Il admet un générateur de la forme avec P 0 π, T ) R [T ] et P 0 π, 0) = 1. L T, π) = 1 P 0 π, T ) 2.2. Soit π une représentation irréductible de G n dans un R-espace vectoriel V. 2.2.1. Pour toute function de Schwartz Φ S R M n,n D)), on définit Z π,φ Hom Gn G n V V, R) par Z π,φ : V V R v, v ) Z Φ, T, f v,v ) L T q 1 nd)/2, π) T =1, où QT ) T =1 denote juste l évaluation du polynôme QT ) en T = 1. Si K est un sous-groupe de G n tel que Φ soit K-invariante à droite et à gauche, le morphisme Z π,φ est K K-invariant. On en déduit : Lemme 2.3. Z π,φ est un vecteur lisse, c est-à-dire Z π,φ V V ). Comme V V ) est une G n G n -représentation isomorphe à V V, d ici découle la proposition : Proposition 2.4. Le G n G n -morphisme non nul entrelace les représentations σ n,n et π π. Z π : S R M n,n D)) V V Φ Z π,φ

10 ALBERTO MÍNGUEZ 2.2.2. On déduit finalement le théorème 2.1. Pour toute function Φ S R M n,m D)), notons Φ n S R M n,n D)) la restriction de Φ a ses dernières n colonnes, c est-à-dire la function que à chaque matrice X M n,n associe la valeur Φ0 X), où 0 X) représente la matrice dont ses m n premières colonnes ont coefficients 0 et les n suivantes coïncident avec celles de X. Denote par P m n,n le sous-groupe parabolique de G m associé à la partition m n, n). Alors le G n P m n,n-morphisme Z π : S R M n,m D)) V V Φ Z π,φ n entrelace la restriction de la représentation σ n,m à G n P m n,n et la G n P m n,nreprésentation π π 1 m n ) qu on voit agir trivialement sur le radical unipotent de P m n,n et sur le premier bloc de son sous-groupe Levi qui est isomorphe à G m n). Par réciprocité de Frobenius, on déduit : Proposition 2.5. Soit π une R-représentation irréductible de G n. Suppose m n. Alors il existe un sous-quotient irréductible π de i m n,n 1 m n π ) telle que Hom σ n,m, π π ) 0. Le théorème 2.1 découle immédiatement de cette proposition. 3. Le bord de la représentation métaplectique Dans cette section, on étend les résultats de [MVW, 3.III] et [Mi1, 2] au cas des R-représentations et on en déduit quelques premières conséquences. On fixe des entiers positifs n et m. 3.1. La filtration par le rang. La représentation σ n,m admet une filtration G n G m- équivariante 0 = S t+1 S t S 1 S 0 = S R M n,n D)), où S k est le sous-espace vectoriel de S R M n,n D)) formé des fonctions dont le support est formé des matrices de rang plus grand ou égal à k, 0 k t = min n, m). L espace S k+1 est ouvert dans S k et comme dans [Mi1, 2] 3.1) σ k = S k /S k+1 i GnG m µ P k ), n k,k P m k,k

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 11 où µ k est la représentation de P n k,k P m k,k sur S R G k ) définie par : µ k p, p ) Φ h) = Φ p 1 4 hp 4) = ρk p 4, p 4) Φ h), ) ) p 1 0 pour Φ S R G k ), h G k, p =, p p 1 p 2 = et ρ p 3 p 4 0 p k la R-représentation 4 naturelle de G k G k sur S R G k ) définie par 3.2) ρ k p 4, p 4) Φ h) = Φ p 1 4 hp 4). 3.1.1. La définition suivante étend au cas des R-représentations [Mi1, Définition 2.1] : Définition 3.1. On dit qu une R-représentation irréductible π apparaît dans le bord de la représentation σ n,m s il existe k < n tel que Hom Gn σ k, π) 0. En [Mi1, Corollaire 2.3], on prouve le lemme suivant qui est valide pour tout R : Lemme 3.2. Soit π une R-représentation irréductible de G n. Les conditions suivantes sont équivalentes : 1) La R-représentation π n apparaît pas dans le bord de σ n,m. 2) Pour tout entier k < n, il n existe pas τ Irr R G k ) telle que ) Hom Gn i Gn 1 P n k τ), π 0. n k,k 3.1.2. On déduit, comme dans [Mi1, Théorème 2.4], la proposition suivante, valide pour tout corps R : Proposition 3.3. Soient n, m des entiers positifs. Soit π Irr R G n ) et supposons que π qui n apparaît pas dans le bord de σ n,m. Alors : 1) θ m π) 0 si, et seulement si, n m. 2) Si n m et π Irr R G m) est telle que Hom Gn G m σ n,m, π π ) 0, alors π est un quotient de i G m P m n,n1 m n π ). De plus, dim R HomGn G m σ n,m, π π ) ) = 1. Corollaire 3.4. Soient n, m des entiers positifs tels que n m. Soit π Irr R G n ) et supposons que : 1) La R-représentation π n apparaît pas dans le bord de σ n,m.

12 ALBERTO MÍNGUEZ 2) L induite parabolique i G m P m n,n1 m n π ) possède un unique quotient irréductible. Alors il existe une unique R-représentation irréductible π de G m telle que Hom Gn G m σ n,m, π π ) 0. De plus dim R HomGn G m σ n,m, π π ) ) = 1. Démonstration. L existence d une telle R-représentation π découle du théorème 2.1. L unicité est une conséquence de la proposition 3.3. La question naturelle qui se pose alors est : quand est-ce qu une représentation de la forme i G m P m n,n1 m n π ) possède un unique quotient irréductible? Voir lemme 3.5 et proposition 8.7 pour une réponse. 3.2. La correspondance de Howe dans le cas cuspidal. On va déduire ici de la proposition 3.3 la correspondance de Howe pour les R-représentations cuspidales. 3.2.1. Soient n 1 et ρ une représentation cuspidale de G n. Dans [MS], on lui associe un caractère non-ramifié ν ρ tel que pour toute représentation cuspidale ρ, la représentation l induite ρ ρ est réductible si et seulement si ρ est isomorphe à ρν ρ ou. Par exemple, si D = F, alors ν ρ est indépendant de ρ et vaut det F. On pose ρν 1 ρ Z ρ l ensemble de classes d équivalence des R-représentations de la forme ρν i ρ avec i Z. Dans le cas où R est de caractéristique positive, cet ensemble est fini de cardinal noté eρ). Si ρ = 1 1 alors eρ) = e D Lemme 3.5. Soient n 1 et ρ une représentation cuspidale de GL n D). 1) Supposons que ρ n est pas la représentation triviale 1 1 de GL 1 D) ou que e D 1. Alors l induite parabolique i G m P 1 m n ρ) m n,n possède un unique quotient irréductible. 2) Soit a un entier positif. Supposons eρ) 1 de sorte que la représentation induite normalisé π = ρ ρ ρ } {{ } a fois soit irréductible. Alors, pour toute R-représentation irréductible π de G m, l induite π π resp. π π ) possède un unique quotient irréductible et une unique sous-représentation irréductible.

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 13 Démonstration. La preuve de [Mi2, Théorème 5.2] s étend à notre cas. Pour faciliter la lecture, on reprend ici la preuve de 2), celle de 1) étant similaire, voir aussi la proposition 8.7. Soit b le plus grand entier i 0 tel qu il existe τ Irr R G m nb ) avec π une sousreprésentation de Alors π π est un sous-quotient de ρ ρ ρ τ. } {{ } i fois Π = ρ ρ ρ τ. } {{ } a+b fois On va montrer que Π possède une unique sous-représentation irréductible. Par le lemme géométrique et la maximalité de b la représentation ρ ρ ρ τ } {{ } a+b fois apparaît avec multiplicité 1 dans r na+b),m nb Π). Alors, par [MS, Lemme 2.5], Π possède un unique sous-module irréductible. Théorème 3.6. Soit ρ une R-représentation cuspidale de GL n D). Supposons que ρ n est pas la représentation triviale de GL 1 D). Alors : 1) θ m ρ) 0 si, et seulement si, n m. 2) θ m ρ) est l unique quotient de i G m P m n,n1 m n ρ ). De plus, dim R HomGn G m σ n,m, ρ θ m ρ)) ) = 1. Le cas de la représentation triviale de GL 1 D) sera traité dans la section 7. Démonstration. Si ρ est une R-représentation cuspidale de G n, alors par définition, ρ apparaît dans le bord de σ n,m si, et seulement si, n = 1 et ρ est la représentation triviale de GL 1 D). On déduit de la proposition 3.3, 1) et l existence dans 2). Pour l unicité on utilise le corollaire 3.4 et la proposition 8.7. Soient n, m 0 des entiers. 4. La filtration de Kudla

14 ALBERTO MÍNGUEZ 4.1. La preuve des propositions suivantes est faite dans [Mi1, 3] dans le cas de C- représentations mais elle est valide pour tout corps algébriquement clos R. Proposition 4.1. Soit 0 < t n. La R-représentation r Gn P t,n t σ n,m ) est composée des représentations τ i, i = 0,..., min {t, m}, où τ i i M t,n t) G m P t i,i G n t P ξ t,i ρ i σ n t,m i ), i,m i et où ρ i est définie par 3.2) et ξ t,i est le R-caractère ξ t,i = ν 2m n+t i 2 sur G t i ν 2m n+2t i ν t 2 2 sur G i sur G n t ν m 2t+i 2 sur G i 2 sur G m i. ν 2t+i Proposition 4.2. Soit 0 < t m. La R-représentation r G m σ P n,m ) est composée t,m t des représentations τ i, i = 0,..., min {t, n} où ) τ i i Gn M t,m t) P n i,i P σn i,m t ρ i ξ i,t i G t,i, m t et où ρ i est définie par 3.2) et ξ t,i est le R-caractère ν 2t i 2 sur G n i ν n+2t i 2 sur G i ξ t,i = ν 2n+m 2t+i 2 sur G i ν m 2n t+i 2 sur G t i 2 sur G m t. ν t 5. Réduction au cas Iwahori On fixe dans cette section deux entiers positifs n m.

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 15 5.1. La proposition suivante est une application classique de la filtration de Kudla voir, par exemple, [MVW]) et on laisse la preuve au lecteur : Proposition 5.1. Soient π Irr R G n ) et π Irr R G m) telles que Hom Gn G m σ n,m, π π ) 0. Si ρ 1,..., ρ r ) est le support cuspidal de π, alors le support cuspidal de π est ) ν m 2n 1 2, ν m 2n 3 2,..., ν m+1 2, ν m n 2 ρ 1,..., ν m n 2 ρ r. 5.2. Soit π une R-représentation irréductible de G n. D après [MS], il existe deux uniques entiers n 1, n 2 avec n 1 + n 2 = n et deux uniques R-représentations irréductibles π 1 Irr R G n1 ) et π 1 Irr R G n2 ) tels que : 1) π π 1 π 1. 2) Le support cuspidal de π 1 est inclus dans la Z-droite de ν n+1 2, c est-à-dire suppπ 1 ) Z ν n+1 2. 3) Le support cuspidal de π 1 ne contient pas de R-représentation cuspidale dans la Z-droite de ν m+1 2, c est-à-dire suppπ 1 ) Z ν m+1 2 Théorème 5.2. On conserve les notations du paragraphe précédent. Notons m 1 = m n 2. Si θ m1 ν n 2 2 π 1 ) est unique alors θ m π) est unique; en fait =. θ m π) = ν n 2 2 θm1 ν n 2 2 π1 ) π 1 ν m n Si, de plus, dim R Hom Gn1 G m 1 σ n1,m 1, π 1 θ m1 ν n 2 2 π 1 ) 2. )) = 1, alors dim R HomGn G m σ n,m, π θ m π)) ) = 1. Démonstration. Soit π Irr R G m ) telle que Hom σ n,m, π π ) 0. On sait qu une telle R-représentation existe d après le théorème 2.1. On veut montrer que π est unique. Par réciprocité de Frobenius, on trouve que Hom r n2,n 1 σ n,m ), π 1 π 1 π ) 0. D après 4.1, il existe alors i {0,..., n 2 } tel que Hom τ i, π 1 π 1 π ) 0.

16 ALBERTO MÍNGUEZ Mais, comme le support cuspidal de π 1 ne contient pas de R-représentation cuspidale dans la Z-droite de ν m+1 2, seulement τ n2 peut avoir un quotient de la forme ci-dessus. On déduit que Hom τ n2, π 1 π 1 π ) 0. C est-à-dire, par le lemme 4.1 ) Hom i G m P χ n2,n n 2,m 2 ρ n2 σ n1,m 1 ), π 1 π 1 π 0. 1 On déduit que ) ) Hom i G m P π 1 ν m n 2 ν n 2 2 σn1,m n 2,m 1 ν n 2 2, π 1 π 0. 1 Soient maintenant, comme ci-dessus, m 1, m 2 deux entiers avec m 1 + m 2 = n et π 1 Irr R G m 1 ) et π 1 Irr R G m 2 ) tels que : 1) π π 1 π 1. 2) Le support cuspidal de π 1 est inclus dans la Z-droite de ν m+1 2. 3) Le support cuspidal de π 1 ne contient pas de R-représentation cuspidale dans la Z-droite de ν m+1 2. On a alors que : Hom ) ) i G m P π 1 ν m n 2 ν n 2 2 σn1,m n 2,m 1 ν n 2 2, π 1 π 1 π 1 0. 1 Par la seconde adjonction, on trouve que )) ) Hom r G m i G P m m P π 1 ν m n 2 ν n 2 2 σn1,m 2,m n 2,m 1 ν n 2 2, π 1 π 1 π 1 0. 1 1 ) Par le lemme géométrique, puisque supp π 1 ν m n 2 supp π 1) =, on déduit d abord que ) ) ) Hom i G m 2 P π 1 ν m n 2 r G m 1 ν n 2 2 m 2,m 2 m P σn1,m 1 ν n 2 2, π 1 π 1 π 1 0 2 m 2 m 2,m 1 et ensuite, grâce au lemme 4.2, que m 1 = m 1 et que ) Hom π 1 ν m n 2 ν n 2 2 σn1,m 1 ν n 2 2, π1 π 1 π 1 0 et donc π 1 = π 1 ν m n 2 et π 1 = ν n 2 2 θm1 ν n 2 2 π1 ),

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 17 ce qui finit la preuve du théorème. Remarque 5.3. Dans le cas particulier où n 1 = 0, on retrouve le résultat du corollaire 3.4. Remarque 5.4. Ce théorème permet de ramener le problème au cas où suppπ) Z ν n+1 2. 6. Le cas Iwahori I On fixe aussi dans cette section deux entiers positifs n m. Définition 6.1. Soit χ une R-représentation cuspidale de G r. Pour toute R- représentation π Irr R G n ), on définit : 1) a π χ) est le plus grand entier a 0 tel qu il existe ρ Irr R G n ra ) et π soit une sous-représentation de χ χ χ ρ. } {{ } a fois 2) b π χ) est le plus grand entier b 0 tel qu il existe ρ Irr R G n rb ) et π soit une sous-représentation de ρ ν m n 2 χ ν m n 2 χ } {{ } b fois Proposition 6.2. Soit π une représentation irréductible de G n. suppπ) Z n+1 et soit π Irr ν 2 R G m) telle que Hom Gn G m σ n,m, π π ) 0. Soit χ un R-caractère de D différent des caractères ν n+1 2 et ν 2m n+1 2. Alors : Supposons que 1) a π χ) = b π χ). 2) Soient ρ Irr R G n aπχ)) et ρ Irr R G n bπχ)) telles que π et π soient des sousreprésentations de χ χ χ ρ } {{ } a πχ) fois ρ ν m n 2 χ 1 ν m n 2 χ 1 } {{ } a πχ) fois

18 ALBERTO MÍNGUEZ respectivement. Alors Hom σ n aπχ),m aπχ), ν aπχ) 2 ρ ν aπχ) 2 ρ ) 0. Démonstration. La preuve de cette proposition, similaire à la preuve du théorème 5.2, est faite dans [Mi1, Proposition 4.4] dans le cas où R = C, et utilise les lemmes 4.1 et 4.2. La preuve est valable pour R quelconque. Le seul point à remarquer est le fait que, puisque χ un R-caractère différent des caractères ν n+1 2 et ν 2m n+1 2, il faut que l ordre e D de q D dans R ne soit pas 1. Ceci est nécéssaire et suffisant) pour assurer, par [MS], que l induite soit irréductible. χ χ χ } {{ } a fois 7. La correspondance GL 1 F), GL m F)) Notre technique générale, comme l on vient de voir, s appuie sur la connaissance des foncteurs de Jacquet de la représentation métaplectique. Quand e D = 1 ce n est plus suffisant pour caractériser la correspondance et on a besoin d étudier l espace des vecteurs K-invariants de σ n,m pour K un sous-groupe compacte de G n. Il faut faire attention : dans le cas des R-représentations le foncteur des K-invariants n est pas exact si le pro-ordre de K est divisible par la caractéristique de R! Dans cette section on traite le cas de la correspondance G 1, G m ) en détail. Pour simplifier un peu les notations, on va supposer D = F, le cas général se traitant de la même façon. 7.1. On commence avec un définition générale. Définition 7.1. Soit π une R-représentation de G n. On note µ π m) le nombre de R-représentations irréductibles comptées avec multiplicités) π de G m telles que Hom Gn G m σ n,m, π π ) 0. Théorème 7.2. Soit χ un R-caractère de GL 1 F). Alors 2 si χ est le caractère trivial 1 1 et e F divise m µ χ m) = 1 sinon.

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 19 Si χ est le caractère trivial 1 1 et e F divise m, alors pour π {1 m, ν 1 m } on a que Hom G1 G m σ 1,m, 1 1 π ) 0. Démonstration. Si χ 1 1, le théorème découle du théorème 3.6. Si χ = 1 1 et e F ne divise pas m, le théorème se déduit facilement de la proposition 6.2 et de la proposition 8.7. Supposons finalement que χ = 1 1 et e F divise m. Les applications : 1) f f0) 2) f F m fx)dx de S R F m ) vers R induisent des entrelacements de σ 1,m vers 1 1 1 m et vers 1 1 ν 1 m respectivement. Il reste à montrer que µ 11 m) 2. Si e F 1, les représentations σ 0 et σ 1 de 3.1) qui forment une suite de composition de σ 1,m, par lemme 3.51), n ont qu un unique quotient irréductible donc, dans ce cas µ 11 m) 2 Il reste donc le cas compliqué χ = 1 1 et e F = 1 qui sera traité dans le reste de cette section. 8. Les représentations m-banales de GL n D) On fixe dans cette section D et R et on note toujours e D l ordre de q D dans R. On supposera e D > 1. On fixe aussi une parité η {0, 1}. On va rappeler dans cette section la classification de [MS2] des R-représentations banales de GL n D) dont le support cuspidal est inclus dans la droite Z ν η 2. 8.1. Classification des R-représentations banales de GL n D). Soient s, t η 2 Z. On note s t si s t e D Z. On note η 2 Z/e DZ l ensemble quotient et la projection canonique. p ed : η 2 Z η 2 Z/e DZ 8.1.1. Les segments. Soient a, b η Z, a b. Un segment est une suite finie de 2 la forme : = a, a + 1,..., b).

20 ALBERTO MÍNGUEZ Un tel segment sera aussi noté [a, b]. On note n ) = b a + 1 la longueur de et, si s Z, on pose s le segment [a + s, b + s]. On note enfin : 8.1) = [ b, a] le segment contraposé de. Deux segments [a, b] et [a, b ] sont équivalents si p ed a) = p ed a ) et si b a est égal à b a. On note Seg l ensemble des classes d équivalence de segments. Définition 8.1. Soient = [a, b] et = [a, b ] des segments. 1) On dit que précède s il existe = [a, b ] un segment équivalent à tel qu on puisse extraire de la suite a,..., b, a,..., b une sous-suite qui est un segment de longueur strictement supérieure à n ) et n ). 2) On dit que et sont liés si précède ou si précède. 3) On dit que est banal si n ) < e D. 8.1.2. Les multi-segments. Étant donné un ensemble X, on rappelle qu on note NX) l ensemble de tous les multi-ensembles sur X, c est-à-dire des fonctions m : X N à support fini. On définit la somme de multi-ensembles de façon naturelle. Définition 8.2. Un multisegment est un multi-ensemble de classes d équivalence de segments. On identifiera souvent un multisegment m NSeg) à un famille indexé 1,..., N ), N étant un entier positif. Soit m = 1 + + N un multisegment. On note : nm) = n i ), 1 i N la longueur de m. On note s = suppm) N η Z/e 2 DZ ) son support, c est-à-dire suppm) s) = m ), t,t s pour tout s η 2 Z/e DZ. On identifiera très souvent suppm) à un ensemble d éléments de η 2 Z/e DZ comptées avec multiplicités. On notera supp 0 m), l ensemble d éléments s η 2 Z/e DZ tels que suppm)s) 1.

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 21 Définition 8.3. Un multi-segment m est dit banal si supp 0 m) η 2 Z/e DZ. Par exemple, si nm) < e D alors m est banal. On dira qu un multisegment m = 1,..., N ) est rangé si i ne précède pas j pour i < j. On peut associer une famille m = 1,..., N ) rangée à tout multisegment banal. 8.1.3. Les représentations banales. La bijection naturelle η 2 Z/e DZ Z η ν 2 a ν a permet d identifier le support cuspidal de toute R-représentation π irréductible de G m à un multi-ensemble s, de longueur m, d éléments de η 2 Z/e DZ. Définition 8.4. Soit π une R-représentation irréductible de G m. On dit que π est une R-représentation banale si son support est un multi-ensemble banal, c est-à-dire s il existe a η 2 Z/e DZ tel que ν a / suppπ). Toute R-représentation d un groupe banal est banal et la réciproque n est pas vraie. En particulier, toute C-représentation est banale. 8.1.4. Classification. Soit = [a, b] un segment banal. On pose : 8.2) I ) = ν a ν b. La représentation I ) possède cf. [MS2]) un unique quotient irréductible, noté L ) et une unique sous-représentation irréductible, notée Z ). On a que L ) L ) et que Z ) Z ). Le théorème suivant est montré dans [MS2] : Théorème 8.5. 1) Soit 1,..., N ) un multisegment banal. On suppose que, pour tous i < j, le segment i ne précède pas j. Alors la R-représentation L 1 ) L N ) admet un unique quotient irréductible, notée : L 1,..., N ). Il est banal et sa multiplicité dans L 1 ) L 2 ) L N ) est égale à 1. 2) Soient 1,..., N ) et 1,..., N ) des multisegments banals. Les R-représentations L 1,..., N ) et L 1,..., N ) sont isomorphes si et seulement si les multisegments 1,..., N ) et 1,..., N ) sont égaux. 3) Toute R-représentation irréductible banale de G m est de la forme L 1,..., N ), où 1,..., N ) est un multisegment banal de longueur m.

22 ALBERTO MÍNGUEZ On peut montrer un théorème similaire [MS2] pour les représentations de la forme Z ) mais on n en aura pas besoin dans cet article. 8.1.5. On suppose que R est de caractéristique l p non nulle. On fixe un corps, comme dans 1.3, noté R, de caractéristique nulle qui est une clôture algébrique d un corps local, et dont le corps résiduel est isomorphe à R. Dans [MS2, Théorème 5.1], on montre le théorème suivant : Théorème 8.6. Soit π une R-représentation irréductible banale de G m. Alors il existe π une R -représentation irréductible de G m qui relève π. Pour relever une représentation irréductible banale π paramétrée) par le multisegment 1,..., N ) en une représentation π paramétrée par 1,..., N, il suffit de relever, pour tout 1 i N, chaque segment i en un segment i de sorte que, pour tous 1 i, j N, i précède j si, et seulement si i précède j. L hypothèse de banalité nous assure qu un tel relèvement est possible. Voir [MS2, 5]. 8.2. On aura besoin finalement d étendre quelques lemmes de [Mi1] dans le contexte des représentations banales. Proposition 8.7. Soit π une R-représentation banale de G n et un segment banal. Soit a 1 et notons ρ la R-représentation banale de G n définie par ρ = L ) L ) L ) } {{ } a fois resp. ρ = Z ) Z ) Z ) ) } {{ } a fois Alors les R-représentations π ρ et ρ π possèdent un unique quotient irréductible et une unique sous-représentation irréductible. Démonstration. La preuve des théorèmes 5.1 et 5.6 de [Mi1] s étend à notre cas. Pour faciliter la lecture, on la reprend ici. On va montrer que π ρ possède une unique sousreprésentaiton irréductible les autres cas se montrent de façon analogue).

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 23 On définit l entier l 0 par l = max { i : τ 1 Irr R G n i ), τ 2 Irr R G i ) avec Hom Gn π, τ 1 τ 2 ) 0, et suppτ 2 ) suppρ) } = max { i : τ 1 Irr R G n i ), τ 2 Irr R G i ) avec τ 1 τ 2 JH r n i,i),n π) ), et suppτ 2) suppρ) }. Soient τ 1 Irr R G n l ), τ 2 Irr R G l ), avec Hom Gn π, τ 1 τ 2 ) 0, et suppτ 2 ) suppρ). Alors, par construction, les segments de ρ ne sont pas liés avec ceux de τ 2. La R-représentation τ = τ 2 ρ est donc irréductible d après [MS2, Proposition 4.8]). Et, par maximalité de l, τ et τ 1 sont alors deux R-représentations irréductibles qui satisfont aux conditions de [MS2, Proposition 1.1]. Leur induite n a alors qu un seul sous-module irréductible et donc, π ρ, sous-module non nul de τ 1 τ, n a, lui aussi, qu un seul sous-module irréductible. 8.2.1. On fixe ici deux entiers n m. Définition 8.8. Soit π une R-représentation irréductible de G n. On dit que π est une R-représentation m-banale si 1) π est une R-représentation banale dont le support est inclus dans la droite Z n+1. ν 2 2) Si m = 1,..., N ) est le multisegment banal de longueur n tel que π = L 1,..., N ), alors le multisegment { } m 2n 1 θ m m) =,..., 2 est aussi un mutisegment banal. On note alors { m + 1 8.3) θ m π) = L θ m m)) la R-représentation banale de G m correspondante. 2 }, m n 1,..., m n ) N 2 2 Remarque 8.9. 1) Pour qu une R-représentation irréductible de G n soit m- banale, il faut que G m n soit un groupe banal. 2) Si n = m et π banale, alorsθ m π) = π.

24 ALBERTO MÍNGUEZ Proposition 8.10. Soit s η 2 Z/e DZ tel que s n+1 2 et s 2m n+1 2 et posons χ = ν s. Soit 1 a n un entier et m un multisegment de longueur n a tel que m + {s} soit encore un multisegment banal. Notons π Irr R G n ) l unique sous-représentation irréductible de χ χ Lm). } {{ } a fois Suppose que π est m-banale et soit π Irr R G m ) l unique sous-représentation irréductible de ) ν a 2 θm a ν a 2 Lm) ν m n 2 χ 1 ν m n 2 χ } {{ 1. } a fois Alors π = θ m π). Démonstration. Cette proposition est prouvée dans [Mi1, Corollaire 6.5] et utilise [Mi2, Théorème A.3]. Comme les propriétés de représentations complexes de G n et des représentations banales de G n, d après [MS2], sont les mêmes, la preuve est valide avec nos hypothèses. 9. Le cas Iwahori II : correspondance explicite dans le cas banal On fixe dans cette section deux entiers positifs n m. Théorème 9.1. Soit π une R-représentation irréductible de G n. Supposons que e D > m ou plus généralement que π est une représentation m-banale. Il existe une unique R- représentation irréductible π de G m telle que De plus, 1) π = θ m π), et 2) dim R HomGn G m σ n,m, π π ) ) = 1 Hom Gn G m σ n,m, π π ) 0. Démonstration. Par récurrence on peut supposer que le théorème est vrai pour toute paire G i, G j), où ij < nm. Montrons-le pour la paire Gn, G m). Soit π IrrG m) telles que π π soit un quotient de σ n,m. L existence d un tel π est donné par le théorème 2.1. Montrons que π = θ m π).

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 25 Cas 1. Supposons d abord qu il existe χ un R-caractère de G 1 différent des caractères ν n+1 2 et ν 2m n+1 2 tel que a π χ) 0. Soit ρ Irr R G n aπχ)) telle que π soit une sous-représentatione de χ χ χ ρ } {{ } a πχ) fois D après la proposition 6.2, il existe ρ Irr R G n bπχ)) telle π soit une sousreprésentation de et, de plus ρ ν m n 2 χ 1 ν m n 2 χ 1 } {{ } a πχ) fois ) Hom σ n aπχ),m aπχ), ν aπχ) 2 ρ ν aπχ) 2 ρ 0. Par hypothèse de récurrence, ρ = ν aπχ) 2 θ m aπχ) ) ν aπχ) 2 ρ. Par le lemme 3.52), π est l unique sous-module irréductible de ρ ν m n 2 χ 1 ν m n 2 χ 1, et donc, par la proposition 8.10, on trouve que π = θ m π). Cas 2. Supposons que, pour tout R-caractère χ différent des caractères ν n+1 2 et ν 2m n+1 2, a π χ) = 0. Montrons que, alors, π n apparaît pas dans le bord de σ n,m. Si k est un entier positif et τ Irr R G k ) sont tels que ) Hom i Gn 1 P n k τ), π 0, n k,k on trouve, après normalisation, que Par conjugaison, on déduit Hom Hom puis, par la seconde adjonction, Hom et, à nouveau par conjugaison, Hom i Gn P n k,k ν k 2 ) ) k n ν 2 τ, π 0. ) ) i Gn P k,n k ν k n k 2 τ ν 2, π 0 ) ν k n k 2 τ ν 2, r G n P k,n k π) 0, ν k 2 ) k n ν 2 τ, r G n P n k,k π) 0.

26 ALBERTO MÍNGUEZ Ceci n est possible que si k n mod e D ou k m mod e D ce qui contredit le fait que π est une représentation m-banale. On conclut donc, d après 3.3, que π est un quotient de i G m P 1 m n,n m n π ) ν n 2 1m n ν m n 2 π. Ce quotient est unique, d après la proposition 8.7. Montrons finalement que π = θ m π). La preuve de [Mi1, 9] serait valable avec nos hypothèses. On va pourtant utiliser un argument de relèvement en caractéristique 0) pour achever la demonstration. On reprend les notations de 1.3. Soient 1,..., N des segments tels que θ m π) se relève en { } { } m 2n 1 m + 1 θ m π ) = L,...,, m n 1,..., m n ) N 2 2 2 2 ) On note π = L 1,..., N de sorte que nos notations sont cohérentes et π est un relèvement de π. D après [Mi1, 9], les résultats étant valables en caractéristique nulle, il existe un G m- morphisme non nul p : ν n 2 1m n ν m n 2 π θ m π ). Soit V 1 un structure entière de ν n 2 1 m n et V 2 un structure entière de ν m n 2 π et notons V la structure entière de θ m π ) définie par Par réduction modulo l, on trouve que V = p V 1 V 2 ). Hom G m V 1 V 2 ) O R, V O R) 0, c est-à-dire ) Hom G m ν n 2 1m n ν m n 2 π, θ m π) 0 comme on voulait montrer. 10. Conclusion : le théorème principal On résume ici les principaux résultats de l article théorèmes 5.2 et 9.1) :

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 27 Théorème 10.1. Soient n m deux entiers positifs. Soit π une R-représentation irréductible de GL n D) et soient n 1, n 2 les deux entiers positifs, avec n 1 + n 2 = n, tels qu il existe deux R-représentations irréductibles π 1 Irr R G n1 ) et π 1 Irr R G n2 ) avec : 1) π π 1 π 1. 2) Le support cuspidal de π 1 est inclus dans la Z-droite de ν n+1 2. 3) Le support cuspidal de π 1 ne contient pas de R-représentation cuspidale dans la Z-droite de ν m+1 2. Notons m 1 = m n 2 et supposons que G m1 est un groupe banal ou, plus précisément, que π 1 est une représentation m 1 -banale. Alors, il existe une unique R-représentation irréductible π de G m telle que De plus, Hom Gn G m σ n,m, π π ) 0. 1) π = ν n 2 2 θ m1 ν n 2 2 π 1 ) π 1 ν m n 2, où θ m1 ν n 2 2 π 1 ) est la R-représentation de G m1 donné par la formule 8.3). 2) dim R HomGn G m σ n,m, π π ) ) = 1. 11. Réduction modulo l de la correspondance de Howe On donne, dans cette section, quelques exemples de réduction modulo l de la correspondance thêta. 11.1. On fixe comme dans 1.3 un corps, noté R, de caractéristique nulle qui est une clôture algébrique d un corps local, et dont le corps résiduel est isomorphe à R. On note O = O R l anneau des entiers de R et d R : O R la projection canonique. 11.1.1. Intégralité. Soit π une R -représentation irréductible de G n. Supposons π est entière. Alors le support cuspidal de π est formé de représentations cuspidales entières voir paragraphe 1.3.1) et donc, par la proposition 5.1, le support cuspidal de θ m π) est aussi formé de représentations entières. On en déduit : Théorème 11.1. Soit π une R -représentation irréductible entière de G n. θ m π) est aussi une représentation entière. Alors Quel est alors le rapport entre la reduction de π et la reduction de θ m π)?

28 ALBERTO MÍNGUEZ 11.2. La correspondance GL 1 F), GL m F)). Cette paire a été traité en détail dans la section 7. On interprète le théorème 7.2 en termes des fonctions L. Ces fonctions, pour une R -représentation on été introduits dans [GJ] et elles coïncident avec les fonctions L-définis dans la section 2, si on pose T = q s. Par exemple, si χ un R -caractère de F, alors 1 Ls, χ) = 1 χ ϖ F ) q s. F En particulier, si χ est à valeurs dans O R, alors Ls, χ) 1 O R [q s ] et on peut considérer sa réduction modulo l, notée d R Ls, χ)). Le théorème 7.2 se récrit : Proposition 11.2. Soit χ un R -caractère de F à valeurs dans O R et notons χ sa réduction. Alors : 2 si d R Ls, χ)) a un pôle en s = 0 et s = m µ χ m) = 1 sinon. 11.3. Le cas banal. Soient n m deux entiers. Soit π un R -représentation irréductible entière de G n. Supposons, pour simplifier, qu elle soit l-irréductible, c est-àdire que π = d R π ) soit irréductible. Supposons d abord que π est une R-représentation banale. Alors θ m π ) et θ m π) sont bien définies par [Mi1] et le théorème 10.1 respectivement. De plus, par [MS2], θ m π) apparaît comme sous-quotient irréductible de la réduction modulo l de θ m π ) qui, en général n est pas l-irréductible). On a donc un diagramme de réduction de la forme. π θ m θ m π ) R -représentations d R π θ m d R d R R-représentations 11.4. Le cas non-banal. Avec les notations précédentes, supposons pour conclure, que π ne soit pas une R-représentation banale. Alors, en général, comme on a vu, θ m π) n est pas bien définie. On sait pourtant, d après la théorème 2.1 que θ m π) 0. Dans ce cas, la réduction modulo l de θ m π ) contient une R-représentation π de G m telle que π π soit un quotient de σ R,n,m. Mais, comme on a vu, il peut y avoir d autre R-représentation π qui n apparaisse pas dans la réduction modulo l de θ m π ) telle que π π soit aussi un quotient de σ R,n,m. Plusieurs exemples nous donnent à penser que

CORRESPONDANCE DE HOWE l-modulaire : PAIRES DUALES DE TYPE II 29 cette représentation apparaît comme sous-quotient de la réduction modulo l de Θ m π ) le plus grand quotient π -isotypique de σ R,n,m). Le diagramme de réduction serait plutôt de la forme : d R π π Θ m π ) θ m θ m π ) d R R -représentations d R d R R-représentations Références [GJ] R. Godement, H. Jacquet, Zeta functions of simple algebras, Lectures Notes in Math. vol. 260, Springer-Verlag, Berlin and New York, 1972. [Mi0] A. Mínguez, Correspondance de Howe l-modulaire: paires duales de type II, thèse, Orsay 2006. [Mi1] A. Mínguez, Correspondance de Howe explicite : paires duales de type II, Ann. Scient. Ec. Norm. Sup.,41, f. 5, 2008, 715-739. [Mi2] A. Mínguez, Sur l irréductibilité d une induite parabolique, J. Reine Angew. Math. 629 2009), 107-131. [Mi3] A. Mínguez, Fonctions zêta l-modulaires, prépublication 2011, disponible à http://www.math.jussieu.fr/ minguez/ [MS] A. Mínguez, V. Sécherre Représentations lisses l-modulaires de GL m D), prépublication 2011, disponible à http://www.math.jussieu.fr/ minguez/ [MS2] A. Mínguez, V. Sécherre Représentations banales de GL m D), prépublication 2011, disponible à http://www.math.jussieu.fr/ minguez/ [MVW] C. Moeglin, M.F. Vignéras, J.L. Waldspurger, Correspondance de Howe sur un corps p-adique, LNM 1291, Springer-Verlag, 1987. [Vig] M.F. Vignéras, Représentations l-modulaires d un groupe réductif p-adique avec l p, Progress in Mathematics 137, Birkhäuser, Boston, MA 1996). [Wal] J.-L. Waldspurger, Démonstration d une conjecture de dualité de Howe dans le cas p- adique, p 2, in: Festschrift in honor of I. I. Piatetski-Shapiro on the occasion of his sixtieth birthday, Part I Ramat Aviv, 1989) Israel Math. Conf. Proc. 2, Weizmann, Jerusalem 1990) 267 324.

30 ALBERTO MÍNGUEZ Alberto Mínguez, Institut de Mathématiques de Jussieu, Université Pierre et Marie Curie. 4, place Jussieu. 75005 Paris, France., URL: http://www.institut.math.jussieu.fr/ minguez/ E-mail : minguez@math.jussieu.fr