C. R. Acad. Sci. Paris, Ser. I

C. R. Acad. Sci. Paris, Ser. I 349 2011) 1077 1081 Contents lists available at SciVerse ScienceDirect C. R. Acad. Sci. Paris, Ser. I www.sciencedirect.com Géométrie algébrique Le lemme fondamental métaplectique de Jacquet et Mao en caractéristique positive The metaplectic fundamental lemma of Jacquet and Mao in positive characteristic Viet Cuong Do Institut Élie Cartan, Université Henri Poincaré-Nancy 1, B.P. 70239, 54506 Vandoeuvre-lès-Nancy cedex, France info article résumé Historique de l article : Reçu le 13 juillet 2011 Acceptéle31août2011 Disponible sur Internet le 21 septembre 2011 Présenté par Gérard Laumon On démontre dans le cas de caractéristique positive un lemme fondamental conjecturé par Jacquet et Mao pour le groupe métaplectique. On utilise les arguments de B.C. Ngo pour le lemme fondamental de Jacquet Ye B.C. Ngo, 1999) [6] et une étude géométrique de l extension métaplectique. 2011 Académie des sciences. Publié par Elsevier Masson SAS. Tous droits réservés. abstract We prove in the case of positive characteristic a fundamental lemma conjectured by Jacquet and Mao for the metaplectic group. We use the arguments of B.C. Ngo for Jacquet Ye s fundamental lemma B.C. Ngo, 1999) [6] and a geometric study of the metaplectic extension. 2011 Académie des sciences. Publié par Elsevier Masson SAS. Tous droits réservés. Abridged English version Let k be a finite field of characteristic p 2. Let O ϖ = k[[ϖ ]] be the ring of power series with indeterminate ϖ, and let F ϖ be its field of fractions. Denote by v ϖ x) the valuation of an element x F ϖ.letl p be a prime number. Fix a non-trivial additive character ψ : k Q l, where Q l is an algebraic closure of Q l.letψ denote the character of F ϖ defined by Ψx) = ψresx dϖ )). Let N r the sub-scheme of GL r formed by unipotent upper triangular matrices and T r the one formed by diagonal matrices. Denote by S r the affine space formed by r r symmetric matrices and by gl r the affine space of r r matrices. For each α = α 1,...,α r 1 ) k ) r 1, we define the character θ α of N r F ϖ ) by θ α = Ψ 1 r 1 α 2 i=1 in i,i+1 ). This character is trivial on N r O ϖ ), and induces a function θ α : N r F ϖ )/N r O ϖ ) Q l. For each matrix t T r F ϖ ),H.Jacquet[3],forGL 2 ) and Z. Mao [5], for an arbitrary r) introduced two orbital integrals I ϖ t, α) and J ϖ t, α). They can be rewritten as sums over finite sets cf. [6]), and we will recall their definitions in this form. Let X ϖ t)k) ={n N r F ϖ )/N r O ϖ ) t ntn S r O ϖ )}. The integral I ϖ t, α) is defined by I ϖ t, α) = n Xϖ t)k) θ α 2n). To define the integral J ϖ t, α), we use a splitting of the metaplectic extension cf. [4]) GLr F ϖ ) of GL r F ϖ ) above GL r O ϖ ).Denotebyg g, κ ϖ g)) this splitting with the notations of [4]). Adresse e-mail : do@iecn.u-nancy.fr. 1631-073X/$ see front matter 2011 Académie des sciences. Publié par Elsevier Masson SAS. Tous droits réservés. doi:10.1016/j.crma.2011.08.024

1078 V.C. Do / C. R. Acad. Sci. Paris, Ser. I 349 2011) 1077 1081 Let Y ϖ t)k) ={n,n ) N r F ϖ )/N r O ϖ )) 2 t ntn GL r O ϖ )}. Letα = α r 1,...,α 1 ). The integral J ϖ t, α) is defined by J ϖ t, α) = n,n ) Yϖ t)k) κ ϖ w t 0 ntn )θ α w t 0 nw 0 )θ α n ), where w 0 is the matrix of the permutation r, r 1,...,1). We recover the original integral J ϖ t, α) cf. [5]) by replacing n with w t 0 n 1 w 0. For each t = diagt 1, t 2,...,t r ),wenotea i = ij=1 t j. The nonemptiness of X ϖ t)k) and Y ϖ t)k) requires a 1,...,a r 1 O ϖ and a r Oϖ. Let ζ : k {±1} the nontrivial quadratic character ζλ)= λ q 1 2,λ k ). Denote by γ ϖ.,.) the Weil s constant. [ t ϖ t,α)iϖ t,α) t ϖ t,α)iϖ t,α) Theorem 1. For t = diaga 1, a 1 1 a 2,...,a 1 r 1 a r), we have J ϖ t, α) = ζ 1) j rmod 2) v ϖ a j ) j rmod 2) γ ϖ a j a 1 j 1,Ψ),andt ϖ t, α) = r 1 i=1 a i 1/2 ζ 1) with a 0 = 1). Moreover,iftt, α) t t, α) then the orbital integrals I ϖ and J ϖ vanish. where t ϖ t, α) = r 1 i=1 a i 1/2 j rmod 2) v ϖ a j ) j rmod 2) γ ϖ a j a 1 j 1,Ψ) These formulas were conjectured by Mao [5] for arbitrary non-archimedian local field and were proved for r = 2 by Jacquet see [3]) and for r = 3 by Mao see [5]) Mao s formula [5] μa, b, c) = a 1 b 1/2 γ a,ψ)γ c,ψ) must be corrected in μa, b, c) = a 1 b 1/2 γ a,ψ)γ c,ψ) as we see comparing to Jacquet s formula for r = 2 cf. [3])). The key point in the proof of this theorem consists in studying the metaplectic group and relating it with ACK s Arbarello, De Concini and Kac) extension, and in constructing a deformation of some global sums, which are a global product of the local sums introduced above. This theorem then appears as a limit of known identities for simple sums. The étale cohomology interpretation of exponential sums and the theory of perverse sheaves is used for passing to the limit. 1. Énoncé Soit k := F q un corps fini de caractéristique p 2. On note O ϖ := k[[ϖ ]] l anneau des séries formelles en une indéterminée ϖ et à coefficient dans k, etf ϖ son corps des fractions. On note v ϖ x) la valuation de l élément x F ϖ.soitl un nombre premier différent de p. On fixe un caractère additif non trivial ψ : k Q l,oùq l est une clôture algébrique de Q l. On notera Ψ le caractère de F ϖ défini par Ψx) = ψresx dϖ )). On note N r le sous-schéma en groupe de GL r formé des matrices triangulaires supérieures unipotentes et T r celui formé des matrices diagonales. On note S r l espace affine des matrices symétriques de taille r et gl r l espace affine des matrices de taille r. Pour tout α = α 1,...α r 1 ) k ) r 1, on définit le caractère θ α de N r F ϖ ) par θ α n) = Ψ 1 r 1 α 2 i=1 in i,i+1 ). La restriction de ce caractère à N r O ϖ ) est triviale et induit donc une fonction θ α sur N r F ϖ )/N r O ϖ ) à valeurs dans Q l. Pour toute matrice diagonale t T r F ϖ ),H.Jacquet[3]pourGL 2 )etz.mao[5]pourr abitraire) introduisent deux intégrales orbitales I ϖ t, α) et J ϖ t, α). Celles-ci se reécrivent comme des sommes portant sur des ensembles finis cf. [6]) et c est sous cette forme qu on va rappeler leur définition. Soit X ϖ t)k) ={n N r F ϖ )/N r O ϖ ) t ntn S r O ϖ )}. L intégralei ϖ t, α) est définie par I ϖ t, α) = n Xϖ t)k) θ α 2n). Pour définir l intégrale J ϖ t, α) on utilise un scindage de l extension métaplectique cf. [4]) GLr F ϖ ) de GL r F ϖ ) audessus de GL r O ϖ ).Onécritg g, κ ϖ g)) ce scindage avec les notations de [4]). Soit Y ϖ t)k) ={n,n ) N r F ϖ )/N r O ϖ )) 2 t ntn GL r O ϖ )}. Soitα = α r 1,...,α 1 ).L intégrale J ϖ t, α) est définie par J ϖ t, α) = n,n ) Yϖ t)k) κ ϖ w t 0 ntn )θ α w 0 t nw 0 )θ α n ),oùw 0 est une matrice de la permutation r, r 1,...,1). En faisant le changement de variables consistant à remplacer n par w t 0 n 1 w 0,onretrouvel intégrale J ϖ t, α) originale de Mao cf. [5]). Pour tout t = diagt 1, t 2,...,t r ),onnotea i = ij=1 t j. Donc pour que X ϖ t)k) et Y ϖ t)k) soient non vides, il faut que a 1,...,a r 1 appartiennent à O ϖ et a r à Oϖ. Soit ζ : k {±1} le caractère quadratique non trivial ζλ)= λ q 1 2, λ k ). On note γ ϖ.,.) la constante de Weil. [ Théorème 1. Pour tout t = diaga 1, a 1 1 a 2,...,a 1 r 1 a t ϖ t,α)iϖ t,α) r), on a J ϖ t, α) = t ϖ t,α)i ϖ t,α) ζ 1) j rmod 2) v ϖ a j ) j rmod 2) γ ϖ a j a 1 j 1,Ψ),etoùt ϖ t, α) = r 1 i=1 a i 1/2 ζ 1) Ψ)en convenant que a 0 = 1). Deplussit ϖ t, α) t ϖ t, α), les deux intégrales I ϖ et J ϖ sont nulles. où t ϖ t, α) = r 1 i=1 a i 1/2 j rmod 2) v ϖ a j ) j rmod 2) γ ϖ a j a 1 j 1, Mao a conjecturé ces formules pour tous les corps locaux non-archimédiens et elles ont été démontrées pour r = 2par Jacquet voir [3]) et pour r = 3 par Mao voir [5]) la formule de [5] μa, b, c) = a 1 b 1/2 γ a,ψ)γ c,ψ) doit en fait être corrigée en μa, b, c) = a 1 b 1/2 γ a,ψ)γ c,ψ), comme on le voit en la comparant avec la formule de Jacquet [3] pour GL 2 ). 2. Interprétation cohomologique Les ensembles X ϖ t)k) et Y ϖ t)k) sont de manière naturelle des ensembles de points à valeurs dans k de variétés algébriques X ϖ t) et Y ϖ t) de type fini sur k. Ces variétés sont munies d un morphisme h ϖ,x : X ϖ t) G a défini par

V.C. Do / C. R. Acad. Sci. Paris, Ser. I 349 2011) 1077 1081 1079 h ϖ,x n) = res r 1 α i=1 in i,i+1 dϖ ) et d un morphisme h ϖ,y : Y ϖ t) G a défini par h ϖ,y n,n ) = res r 1 1 α i=1 2 in i,i+1 + n i,i+1) dϖ ). Soit k une clôture algébrique de k. OnnoteX ϖ t) = X ϖ t) k k et L ψ le faisceau d Artin-Schreier sur G a associé au caractère ψ. D après la formule des traces de Grothendieck Lefschetz, on a I ϖ t) = TrFr, X ϖ t), h ϖ,x L ψ)). Pour interpréter cohomologiquement l intégrale J ϖ, la construction de Kazhdan Patterson voir [4]) n est pas commode. On a donc adopté un point de vue plus géométrique. Arbarello, De Concini et Kac associent à chaque g GL r F ϖ ) une droite cf. [1]) ) ) 1) D g = goϖ r /gor ϖ Or ϖ O r ϖ /goϖ r Or ϖ où V désigne la puissance extérieure maximale dim V V d un k-espace vectoriel V. Cette construction fournit une extension centrale GLr,ACK F ϖ ) de GL r F ϖ ) par k. On utilisera plutôt la droite g = D detg) D 1 g, ce qui revient à considérer l extension GLr,geo F ϖ ) = det GL1,ACK F ϖ )) GLr,ACK F ϖ ) la somme des extensions étant ici notée additivement). On construit, à l aide de la décomposition de Bruhat, une base δg) de g), ce qui fournit une section δ de GLr,geo F ϖ ). Proposition 1. On a σ g 1, g 2 ) = ζ δg 1)δg 2 ) δg 1 g 2 ) ),oùσ est le 2-cocycle de Kazhdan Patterson [4]. En particulier, l extension de Kazhdan Patterson s obtient à partir de notre extension GLr,geo F ϖ ) en la poussant par ζ : k {±1}. La fonction κ ϖ est le quotient triv/δ de la section obtenue trivialement pour g GL r O ϖ ) par la section δ. Onobtient de cette manière un morphisme κ ϖ : Y ϖ t) G m. On note Y ϖ t) = Y ϖ t) k k. Soit L ζ le faisceau de Kummer sur G m associé au revêtement G m G m, x x 2 et au caractère non trivial de {±1}. Il résulte de la formule des traces de Grothendieck Lefschetz que J ϖ t) = TrFr, Y ϖ t), h ϖ,y L ψ κϖ L ζ )). Le Théorème 1 est alors une conséquence de l énoncé géométrique suivant où on note I ϖ t) = Γ c X ϖ t), h ϖ,x L ψ) et J ϖ t) = Y ϖ t), h ϖ,y L ψ κϖ L ζ ). Théorème 2. J ϖ t) T ϖ t) I ϖ t) T ϖ t) I ϖ t), oùt ϖ t) et T ϖ t) sont des Q l -espaces vectoriels de rang 1 placés en degré v ϖ r 1 i=1 a i) tels que TrFr, T ϖ t)) = t ϖ t, α) et TrFr, T ϖ t)) = t ϖ t, α). Pour démontrer le Théorème 2, on commence par prouver directement le cas particulier où r = 2ett = diagt 1, t 2 ) avec v ϖ t 1 ) = 1, v ϖ t 2 ) = 1. Plus précisément on a : Proposition 2. Le Théorème 2 est vrai dans le cas particulier ci-dessus ; de plus I ϖ t) et J ϖ t) sont alors des Q l-espaces vectoriels de rang 2 placés respectivement en degré 0 et 1. La démonstration de cette proposition est en fait une géométrisation de l argument de Jacquet [2, p. 145]. Dans le cas général, on ne connaît pas explicitement X ϖ t), h ϖ,x L ψ) resp. Y ϖ t), h ϖ,y L ψ κ ϖ L ζ )) carla variété X ϖ t) resp. Y ϖ t)) est trop compliquée. 3. Sommes globales Suivant l idée de B.C. Ngo [6], on va utiliser une méthode de déformation en considérant plutôt des sommes sur un corps global de caractéristique positive. Soient O = k[ϖ ] l anneau des polynômes en une variable ϖ à coefficients dans k, etf son corps des fractions. Soient a 1,...,a r F tels que pgcd r 1 i=1 a i, a r ) = 1etα k ) r 1. Pour toute place v a r,onnoteo v le complété de O en v, F v son corps des fractions, et k v son corps résiduel. Pour t = diaga 1, a 2 /a 1,...,a r /a r 1 ) T r O v ), on peut définir un couple X v t), h v,x ) resp. un triple Y v t), h v,y, κ v )) comme on l a fait ci-dessus, simplement en remplaçant F ϖ par F v, O ϖ par O v et le résidu en ϖ par le résidu en v on prend comme forme différentielle la forme méromorphe dϖ sur P 1 Speck[ϖ ]) = A 1 ). On introduit deux variétés de type fini sur k : Xt) = v a r,v Res k v /k X v t) et Y t) = v a r,v Res k v /ky v t), où Res est la restriction de Weil. Les variétés Xt) et Y t) sont munies de morphismes h X t,α) : Xt) G a, h X t,α)n) = h Y t,α) : Y t) G a, h Y n,n ) = κt) : Y t) G m, κg) = v a r,v = v a r,v = i=1 v a r,v = i=1 N kv /kκ v g). r 1 tr kv /kh α,v,x n), r 1 tr kv /kh α,v,y n,n ),

1080 V.C. Do / C. R. Acad. Sci. Paris, Ser. I 349 2011) 1077 1081 En notant = k, on a la formule de multiplicativité cohomologique : Proposition 3. Xt), h X L ) ψ = λ suppt) Y t), h Y L ψ κ L ζ ) = Xϖ λ t), h ϖ λ,x L ψ), λ suppt) où suppt) est l ensemble des racines de r 1 i=1 a i dans k. Y ϖ λ t), h ϖ λ,y L ψ κ ϖ λ L ζ ), Soient Q di lavariétéaffinesurk des polynômes unitaires de degré d i et V d ={a 1,...,a r ) r i=1 Q d i pgcd r 1 i=1 a i, a r ) = 1} avec d = d 1,...,d r ).Soitt = diaga 1, a 2 /a 1,...,a r /a r 1 ) tel que a 1,...,a r ) V d. Le couple Xt), h X ) et le triple Y t), h Y, κ) se mettent en famille de sorte qu on obtient des variétés X d et Y d de type fini sur k munies de morphismes f X d : X d Gm r 1 V d Gm r 1, f Y d : Y d Gm r 1 V d Gm r 1, h X,d : X d Gm r 1 G a, h Y,d : Y d Gm r 1 G a et κ d : Y d Gm r 1 G m tels que Xt) et Xt), h X L ψ) resp. Y t) et Y t), h Y L ψ κ L ζ )) sont respectivement les fibres en t, α) de f X d et de R fd,! X h L X,d ψ resp. de f Y d et de R f d,! Y h L X,d ψ κ L d ζ )). 4. Le cas d = 1, 2,...,r) On pose d = 1, 2,...,r). SoitU d l ouvert de r i=1 Q i G m ) r 1 formé des couples t, α) telsquelepolynôme r n ait pas de racines multiples. On note resultp, Q ) le résultant de deux polynômes P et Q. Proposition 4. La restriction à U d du complexe I = R fd,! X h L X,d ψ resp. J = R fd,! Y h L Y,d ψ κ L d ζ )) est un système local de rang 2 rr 1) 2 placé en degré 0resp. placé en degré rr 1) ). DeplusJ 2 Ud = T I Ud,oùT est un système local de rang 1 placé en degré rr 1) au-dessus de U 2 d, géométriquement constant et provenant d un caractère τ de Gal k/k tel que τ Fr q ) = 1) rr 1) 2 ζ 1) [ r2 4 ] q rr 1) 4 [ r 2 ],où = γ ϖ,ψ ). Ce proposition résulte directement de la propriété muliplicative des sommes globales et de la Proposition 2. La formule de trace pour le facteur de transfert vient du fait que le produit des constantes de Weil en toutes les places du corps global k[ϖ ] est trivial cf. [7]) ce qui par le théorème de Chebotarev) implique qu il est géométriquement constant. On prolonge alors de manière évidente T à V d Gm r 1. Théorème 3. R f Y d,! h Y,d L ψ κ d L ζ ) = T R f X d,! h X,d L ψ. Les deux membres de cette égalité sont, à décalage près, des faisceaux pervers isomorphes au prolongement intermédiaire de leur restriction à U d. i=1 a i Ceci résulte de la Proposition 4 et du théorème suivant : Théorème 4. 1. Le complexe de faisceaux R fd,! X h L X,d ψ[ rr+1) + r 1] est un faisceau pervers, prolongement intermédiaire de sa restriction à 2 l ouvert U d. 2. Le complexe de faisceaux R fd,! Y h L Y,d ψ κ L d ζ )[r 2 + r 1] est un faisceau pervers, prolongement intermédiaire de sa restriction àl ouvertu d. Pour démontrer le Théorème 4, on va utiliser l argument de B.C. Ngo [6], «le pas de récurence», pg. 515). La difficulté ici est le manque d équivariance de la fonction κ. Pour résoudre cette difficulté, le point crucial est le théorème suivant : Théorème 5. κw 0 y + ϖ Id r )) est en fait un polynôme en les coefficients de la matrice y gl r.deplusona : κw 0 y + ϖ Id r ))κw 0 t y + ϖ Id r )) = resulta r 1 y), a r y)), oùa i y) = dets i y) + ϖ Id i ),s i y) étant la sous-matrice faite des i permières lignes et des i permières colonnes de y. La démonstration de ce théorème repose sur la vision géométrique de l extension de Kazhdan Patterson évoquée dans le paragraphe 2. Ce théorème implique que κw 0 y + ϖ Id r ) est alors un produit de facteurs irréductibles de resulta r 1 y), a r y)). En faisant agit g GL r 1 par y diagg, 1) 1 ydiagg, 1), g transforme alors κ en la multipliant par une puissance de detg) ; l extension G r 1 de GL r 1 obtenue en extrayant une racine carrée de detg) laisse alors

V.C. Do / C. R. Acad. Sci. Paris, Ser. I 349 2011) 1077 1081 1081 invariant le faisceau κ L ζ et l argument de loc. cit. s adapte alors en remplaçant GL i par l extension G i le plongement G i G i+1 est fournit aussi par g diagg, 1) puisque les deux ont même déterminant). Le point 1) du Théorème 4 s obtient assez facilement par l argument de [6] en remplaçant cette fois GL i par le groupe orthogonal associé à la forme quadratique qx 1,...,x i ) = ij=1 x2 j. 5. L énoncé local résulte de l énoncé global Proposition 5. Le Théorème 3 entraîne le Théorème 2. Soient v A 1 k), t = diagt 1,...,t s ) T s F v ). D après [6], Prop. 3.5.1, p. 505), pour r assez grand, il existe t = diaga 1, a 2 /a 1,...,a r /a r 1 ),aveca 1,...,a r ) V 1,2,...,r)k) tel que I v t ) I v t ) et J v t ) J v t ).Onaa = a i i a i,où a i est à racines simples premières à v et où a i a toutes ses racines en v. Soientalorsd = dega i )) i et d = dega i )) i. On fait varié a i ) i et a i ) i en introduisant l ouvert V d V d ) dist de V d V d au-dessus duquel pgcd r i=1 a i, r i=1 a i ) = 1 et les a sont à racines simples. On a alors un morphisme étale μ : V i d V d ) dist V d. On généralise les sommes globales du paragraphe 3 en introduisant X t) = Res kw /k X w t) et X t) = Res kw /k X w t) w a 1...a r 1 w a 1...a r 1 Y t) et Y t) sont définies par des formules analogues). Comme dans le paragraphe 3, celles-ci se mettent en familles. On définit de cette manière des complexes I, I, J et J vérifiant μ I = I L I et μ J = J L J.EnfaitI et J sont des systèmes locaux. En utilisant le fait que la perversité et le prolongement intermédiaire sont stables par changement de base étale et que le produit tensoriel d un complexe avec un système local est pervers et prolongement intermédiaire de sa restriction à un ouvert si et seulement si ce complexe l est déjà, on obtient que I et J sont pervers et prolongement intermédiaire de leur restriction à l ouvert μ U d. Le système local T s écrit lui aussi comme un produit T T T et T ne sont plus géométriquement constants, la définition de T ne pose pas de problème, on définit en fait T = T T 1 et la formule du produit pour les constantes de Weil permet de calculer TrFr t, T )). En spécialisant en t = t on obtient alors le Théorème 2. Références [1] E. Arbarello, C. De Concini, V.G. Kac, The infinite wedge representation and the reciprocity law for algebraic curves, in: Proceedings of Symposia in Pure Mathematics, vol. 49, 1989, pp. 171 190. [2] H. Jacquet, On the non vanishing of some L-functions, Proc. Indian Acad. Sci. Math. Sci.) 97 1987) 117 155. [3] H. Jacquet, Représentations distinguées pour le groupe orthogonal, C. R. Acad. Sci. Paris, Ser. I 312 1991) 957 961. [4] D. Kazhdan, S. Patterson, Metaplectic form, Publ. Math. IHES 59 1982) 35 142. [5] Z. Mao, A fundamental lemma for metaplectic correspondence, J. Reine Angew. Math. 496 1998) 107 129. [6] B.C. Ngo, Le lemme fondamental de Jacquet et Ye en caractéristique positive, Duke Math. J. 96 3) 1999) 473 520. [7] A. Weil, Sur certain groupes d opérateurs unitaires, Acta Math. 111 1964) 143 211.