ANNE DE ROTON. θk t. k=1

Transcription

1 TRANSACTIONS O THE AMERICAN MATHEMATICAL SOCIETY Volume 359, Number 2, December 27, Page S Article electronically publihed on June 4, 27 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN POUR L HYPOTHÈSE DE RIEMANN ANNE DE ROTON Abtract. Nou généralion dan cet article le critère de Beurling-Nyman, qui concerne la fonction ζ de Riemann, à une large clae de érie de Dirichlet. Nou établion donc une correpondance entre la denité d un certain ouepace de fonction dan L 2, et la localiation de zéro d une érie de Dirichlet. Nou utilion pour obtenir ce réultat la tructure de l epace de Hardy du demi-plan. Abtract. We generalie Beurling-Nyman criterion, already known for the Riemann ζ function, to a larger cla of Dirichlet erie. We reveal a link between the denity of ome ubpace of function in L 2, and the localization of the zero of a Dirichlet erie. To do o, we ue the tructure of the Hardy pace of the half-plan.. Introduction Le travaux de Szàz [Sz] d abord, Paley et Wiener [PW], Levinon [Lev] et Schwartz [Sch] enuite, mettent en lumière de relation entre la denité decertain ou-epace fonctionnel et la répartition de zéro de fonction analytique. Cette idée a été exploitée pour le zéro de la fonction ζ par Nyman dan a thèe pui par Beurling dan [Be]. Dan ce dernier article, A. Beurling introduit l enemble B de fonction complexe f définie ur l intervalle ], ] par : n { } θk ft := a k, t k= où n, <θ k, a k C, n k= a kθ k =et{x} déigne la partie fractionnaire de x. Leréultat de Nyman, expoé par Beurling dan [Be], énonce aini : Théorème. Nyman. Le troi aertion uivante ont équivalente: ζ ne annule pa dan le demi-plan R >/2; 2 B et dene dan L 2, ; 3 la fonction contante égale à et dan l adhérence de B dan L 2,. Ce réultat et analyé et commenté dan[bs]. Il a été complété par Beurling dan [Be], Bercovici et oia dan [B]. Ce troi auteur établient une correpondance imilaire entre la denité de B dan L p, et l abence de zéro de la Received by the editor September 2, 24 and, in revied form, January 6, Mathematic Subject Claification. Primary 37A45. Key word and phrae. Série de Dirichlet, critère de Beurling-Nyman, hypothèe de Riemann généraliée, clae de Selberg, epace de Hardy. 6 c 27 American Mathematical Society Revert to public domain 28 year from publication Licene or copyright retriction may apply to reditribution; ee

2 62 A. DE ROTON fonction ζ dan le demi-plan R >/p. Lecap =ettraité dan [B], le autre cadan[be]. Dan cet article, nou généralion le réultat de Nyman à une clae de fonction comprenant la fonction ζ de Riemann. Nou définiron un ou-epace B de L 2, et nou montreron que a denité danl 2, caractérie la non-annulation de la fonction dan le demi-plan {R >/2}. Pour cela, nou étudieron l image de B parlatranformationdemellin. Nou montreron que c et un ou-epace de l epace de Hardy du demi-plan {R >/2} invariant par l action du emi-groupe de contraction. L utiliation de propriété de epace de Hardy et plu particulièrement du théorèmedefactoria- tion et du théorème de Beurling-Lax nou permettra de conclure. La principale difficultédecetravaildegénéraliation conite à choiir un ouepace B qui convienne et plu préciément à choiir pour la fonction une fonction Ψ quijouelemême rôle que la partie fractionnaire pour la fonction ζ. De plu, la démontration de notre théorème néceite une hypothèe : la fonction Ψ doit appartenir à l epace L 2 ], + [, dt t 2. On peut upprimer cette hypothèe dan certain ca, mai c et au prix d hypothèe upplémentaire ur la fonction. Nou avon donc dan un premier temp démontré unthéorème appliquant à une large clae de érie de Dirichlet ou l hypothèe Ψ L 2 ], + [, dt t 2 ;nou avon enuite pécifié notre théorème pour de fonction de la clae de Selberg, le reliant aini à l hypothèe de Riemann généraliée. Dan ce dernier ca, nou montron que l on peut upprimer l hypothèe faite ur Ψ en utiliant une verion liée de cette fonction. 2. Rappel Définition 2.. Nou déigneron par H 2 l epace de Hardy du demi-plan {R > /2}, i.e. l enemble de fonction f, holomorphe dan le demi-plan {R >/2}, vérifiant: f 2 = up f 2 d < +. x>/2 R=x Définition 2.2. On appellera produit de Blachke toute fonction de la forme B Z = β β β β β + β, β Z où Z et un multi-enemble de point du demi-plan {R >/2} tel que 2. β Z Rβ /2 β 2 < +, et avec la convention β β β β =pourβ =. On appellera fonction intérieure ingulière toute fonction de la forme S µ,v =exp v 2 2it 2 + it 2 + it dµt avec v R +, µ meure poitive finie ur la droite réelle, ingulière àlameurede Lebegue. Licene or copyright retriction may apply to reditribution; ee

3 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 63 Si ω et une fonction poitive de L 2 R telle que log ωt +t dt >, ondéfinit 2 + 2it 2 O ω =exp + it log ωt 2π 2 + it dt. 4 + t2 Nou omme àpréent en meure d énoncer le théorème de factoriation dan H 2. C et la formule de factoriation de l article [BS]. Théorème 2.3. Soit f une fonction de H 2 non nulle. Alor il exite un unique quintuplet c, Z, µ, v, ω vérifiant : c C, c =, Z et un multi-enemble du demi-plan {R >/2} atifaiant 2., µ et une meure poitive finie ur la droite réelle, ingulière àlameurede Lebegue, v et un réel poitif ou nul, ω et une fonction poitive de L 2 R telle que log ωt +t dt >, 2 tel que f = cb Z S µ,v O ω. De plu, Z et le multi-enemble de zéro de f dan le demi-plan {R >/2} compté avec leur multiplicité, le upport de µ et inclu dan l enemble de t tel que 2 + it et un point ingulier de f, etpourx, fx e vx. Le groupe de dilatation/contraction {D θ, θ > } agit ur le fonction g de L 2, + par: D θ gt = t g. θ θ Le emi-groupe de contraction {D θ, <θ } agit de même ur le fonction de L 2, et ur le fonction de H 2 par : D θ G =θ 2 G. Définition 2.4. Un opérateur T ur un ou-epace de L 2, + era dit invariant il commute avec le dilatation/contraction, i.e. i pour tout θ>, D θ T = TD θ. On dira qu un ou-epace de L 2, ou de H 2 et invariant il et invariant par l action du emi-groupe de contraction. Introduion à préent la tranformation de Mellin. Définition 2.5. Soit ]a, b[ un intervalle non vide de R et oit f :], + [ C, Lebegue-meurable et telle que, pour tout σ ]a, b[, fx x σ dx < +. On appellera tranformée de Mellin de f et on notera Mf la fonction définie dan la bande verticale {a <R <b} par Mf = ftt dt. Notation. On écrira L 2, pour l enemble de fonction de L 2, + identiquement nulle ur ], + [. Licene or copyright retriction may apply to reditribution; ee

4 64 A. DE ROTON Si f et une fonction de L 2,, alor pour tout σ>/2, l intégrale fx x σ dx converge et on peut donc définir la tranformée de Mellin de f dan le demi-plan {R >/2}. Le théorème de Paley-Wiener affirme que la tranformation de Mellin M et une iométrie à une contante prè avec no convention de L 2, dan H 2. D autre part, il et facile de vérifier qu un ou-epace de L 2, et invariant i et eulement i l image de ce ou-epace par la tranformation de Mellin et un ou-epace invariant de H 2. Théorème 2.6 Théorème de Beurling et Lax. Soit α α A une famille de fonction de H 2. Alor le plu petit ou-epace fermé invariant de H 2 et contenant tou le α,α A et B Z S µ,v H 2 avec Z = α A Z α, µ =inf α A µ α, v = inf α A v α. Ce théorème et le théorème 2 de l article [BS]. 3. Généraliation du théorème de Beurling-Nyman Hypothèe. Dan cette partie, nou uppoeron que = an n= n et une érie de Dirichlet abolument convergente pour R > admettant un prolongement méromorphe au demi-plan R 2 avec un unique pôle éventuel d ordre fini en =. On uppoera de plu que pour tout ε>, a n = On ε. Notation 2. On notera m l ordre polaire de en =. 3.. onction complémentaire. Dan le ca de la fonction ζ de Riemann, la démontration du théorème de Beurling-Nyman repoe ur la formule { } 3. t dt = ζ, < R <, t qui relie la fonction partie fractionnaire àlafonctionζ via la tranformation de Mellin. Afin d obtenir une formule analogue à 3., nou introduion la fonction complémentaire aociée àlafonction. Définition 3.. Soit une fonction vérifiant le hypothèe. On définit la fonction complémentaire aociée à par : R + C, Ψ : x Re x, n x a n. On définit également la fonction Ψ par Ψ x =Ψ /x. Notation 3. Noton A := m p k k= la partie polaire de / en =. k On peut montrer que 3.2 x Re, = xp ln x où P et le polynôme P X = m l= p l X l l!. La propoition uivante permet de relier la fonction complémentaire aociée à à la fonction via la tranformation de Mellin, jutifiant à poteriori l introduction de la fonction Ψ. Licene or copyright retriction may apply to reditribution; ee

5 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 65 Propoition 3.. Soit une fonction vérifiant le hypothèe. Si Ψ fonction de L 2, +, alorpour 2 < R <, ona: 3.3 MΨ =. Démontration. Pour R >, en notant Σ t = n t a n,ona = a n n = t dσ t = t Σ tdt, n car d aprè le hypothèe ur,σ t =O t +ε pour tout ε>. Aini = Or, pour R >, t P ln tdt P ln tt dt = A Ψ tt dt. et une et la fonction A et holomorphe pour R >/2. Comme Ψ L2, +, l intégrale Ψ uu du converge et définit une fonction de la variable holomorphe pour R >/2 etdoncir >/2, par unicité du prolongement analytique on a : A = Par ailleur, pour R <, 3.5 Ψ tt dt = Ψ tt dt = Ψ uu du. P ln tt dt = A. Pour /2 < R <, en utiliant 3.4 et 3.5, on obtient : = Ψ tt dt = Ψ tt dt. Remarque. La condition Ψ L 2, + aure la convergence uniforme de l intégrale de droite dan tout compact du demi-plan R >/2 et garantit donc la validité del égalité 3.4 dan ce même demi-plan Le ou-epace B et B. Nou introduion àpréent le epace dont la denité danl 2, va, ou certaine hypothèe, caractérier la non-annulation de la fonction dan le demi-plan {R >/2}. Définition 3.2. On définit le epace de fonction uivant : et où { B = f : t n k= { B = f : t c k Ψ αk t n k= A l [[,m ]],,n N, k [,n],c k C, <α k } αk c k Ψ B,c k et α k vérifiant A t n c k α k ln α k l =. k= } Licene or copyright retriction may apply to reditribution; ee

6 66 A. DE ROTON Remarque 2. La condition A et une condition néceaire et uffiante pour que la fonction ft = n k= c αk kψ t oit identiquement nulle ur [, + [. Si cette condition et vérifiée, alor et un zérodelafonctiong définie ur C par g := n k= c kαk, avec une multiplicité upérieure ou égale à m. Propoition 3.2. Soit une fonction vérifiant le hypothèe. Sionuppoe de plu que Ψ L2, +, alorona: { B = f L 2,, Mf } holomorphe pour R >. 2 Démontration. Noton K l epace { K = f L 2,, Mf holomorphe pour R > }. 2 Remarquon dan un premier temp que grâce au théorèmedepaley-wiener,ona K = M B Z H 2 où Z déigne le multi-enemble de zéro de compté avec leur multiplicité danledemi-plan{r >/2} et B Z le produit de Blachke défini àpartirdez. Noton que B et un ou-epace invariant de L 2,. En effet, oient gt = n k= c k n n D θ gt = c k αk D θαk Ψ t = k= αk D αk Ψ t B et θ ], ]. Alor :. k= c k θ Ψ θαk t De plu, comme pour tout entier l<m,ona n k= c kα k ln l α k =, alor on a n k= c k θ α k θ ln l θα k =. On en déduit grâce au théorèmedepaley-wienerquem B et un ou-epace fermé invariant de H 2. Nou allon maintenant précier la forme de fonction de l epace M B. Soit gt = n k= c αk kψ t une fonction de B. D aprè le théorème 2.3, la fonction G = Mg H 2, comme tout élément non nul de H 2, e factorie comme uit : G =c G B ZG S µg,v G O wg, où c G,Z G,µ G,v G,w G et le quintuplet aocié à G. D autre part, 3.6 G =Mg = n c k α k, et la fonction n a pa de ingularité ur la droite R = 2 donc G non plu et donc voir théorème 2.3 la meure µ G et nulle. Examinon maintenant le comportement de G ur la demi-droite réelle ], + [ au voiinage de l infini. Suppoon le α k ditinct deux à deux et aocié àde coefficient c k non nul et poon α i =max n k= α k.ona Gx = x x k= n c k αk x x c i e x ln α i c i x e x ln αi. k= D autre part, d aprè le théorème 2.3, pour x, on a Gx e v Gx. Aini, v G ln α i. Or on peut choiir g B telle que α =,doncv G =. Licene or copyright retriction may apply to reditribution; ee

7 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 67 Pour G M B, noton Z G l enemble de zéro de la fonction G dan le demi-plan R > 2 et noton Z = Z G. G M B D aprè 3.6, il et clair que Z Z. De plu, pour tout, il exite une fonction g B telle que n k= c kα k et il exite g 2 B telle que la multiplicité duzérodelafonction n k= c kαk oit exactement égale à m. Aini on a bien Z = Z. Le ou-epace M B et le plu petit ou epace fermé deh 2, invariant, contenant tou le n k= c kαk, c k et α k vérifiant le condition A. L epace M B et donc, d aprè le théorème 2.6, le ou-epace B Z S µ,v H 2 avec Z = Z g B Mg = Z, µ =inf g B µ Mg =,v =inf g B v Mg =. On a donc B Z H 2 = M B, ce qui permet de conclure. Remarque 3. Ici la condition Ψ L2, + et cruciale. Elle permet de travailler avec un ou-epace de L 2, et donc d utilier le théorème de Paley- Wiener, paage eentiel de cette démontration Le théorèmedebeurling-nymangénéralié. Nou omme maintenant en meure d énoncer le critère de Beurling-Nyman généralié. Théorème I. Soit une fonction vérifiant le hypothèe telle que Ψ L 2, +. Alor le aertion uivante ont équivalente : La fonction ne annule pa dan le demi-plan R >/2; 2 le ou-epace B et dene dan L 2, ; 3 la fonction indicatrice χ de l intervalle ], ] appartient à l adhérence de B dan L 2,. Démontration. D aprè la propoition 3.2, le deux première aertion ont équivalente et il et d autre part clair que la econde aertion entraîne la troiième. Il nou uffit donc de montrer que i χ B,alor B = L 2,. Suppoon χ B. L enemble de fonction étagée et dene dan L 2,, il uffit donc de montrer que toute fonction étagée et limite d une uite de B dan L 2,. La fonction D α χ et colinéaire à la fonction indicatrice de l intervalle ], α] donc toute fonction étagée ur ], ] et, preque partout une combinaion linéaire de D α χ, α ], ]. Il uffit donc de montrer que pour tout α ], ], D α χ B, ce que nou avon car B et table par l action de {D α,α ], ]}. On peut étendrelethéorème I à l epace B. L idée de la démontration de ce econd théorème a été fournie par J.-. Burnol, que je remercie. Théorème II. Soit une fonction vérifiant le hypothèe telle que Ψ L 2, +. Alor le aertion uivante ont équivalente : La fonction ne annule pa dan le demi-plan R >/2; 2 le ou-epace B et dene dan L 2, ; 3 la fonction indicatrice χ de l intervalle ], ] appartient à l adhérence de B dan L 2,. Licene or copyright retriction may apply to reditribution; ee

8 68 A. DE ROTON Démontration. Au vu du théorème I, il nou uffit de montrer que i admet un zéro de partie réelle upérieure à/2, alor χ n appartient pa à l adhérence de B.Soitρ un zéro de tel que Rρ >/2. Soit ft = n k= c kψ t B. On a pour /2 < R <, Mf = α k g, où g = n k= c kα k. D autre part, pour R >, Mχ =. Nou allon montrer que l on ne peut pa approcher g avecg = n k= c kαk,<α k, c k C. forme par de fonction de la Poon u ρ = m ρ. La fonction u ρ appartient à l epace L 2, + carpour = 2 + it, u ρ =. 2 Rρ 2 +Iρ t 2 Calculon le produit hilbertien de g par u ρ : g,u 2 +i m g ρ = 2 i ρ d. Or la fonction g m appartient à l epace L 2 /2+iR doncona: g,u ρ =2iπ ρgρ m ρ =. ρ ρ D autre part,,u 2 +i m m ρ ρ = d =2iπ 2 i ρ ρ ρ, et donc n et pa dan l adhérence du ou-epace engendré par le fonction g. On en conclut, en utiliant le théorème de Paley-Wiener que la fonction χ n appartient pa à l adhérence de B. Remarque 4. La démontration du critère de Beurling-Nyman pour le ca p = 2 repoe ur de argument hilbertien et ur la tranpoition d un problème de localiation de zéro àunproblème de ou-epace invariant dan un epace de Hardy. Pour la fonction ζ de Riemann, Báez-Duarte [BD] affine ce critère. Sa démontration ne repoe pa ur le réultat de Beurling et Lax utilié icimai,au contraire, ur de argument claique de la théorie analytique de nombre. Nou pouvon généralier ce réulat à la clae de Selberg. Le détail eront explicité dan un travail ultérieur Un critère pour que Ψ oit de carré intégrable. Le théorème que nou avon obtenu néceite une hypothèe forte, qui et l appartenance de la fonction Ψ à l epace L2, +. Nou allon précier ce que cette condition ignifie et donner un critère pour qu elle oit vérifiée. Nou donneron dan le ca de la clae de Selberg une verion liée de notre théorème afin de upprimer cette condition. Nou utilieron le théorème de Hardy, Littlewood et Ingham uivant pour démontrer notre critère. C et le théorème 7 de l article [HIP]. Licene or copyright retriction may apply to reditribution; ee

9 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 69 Lemme Théorème de Hardy, Littlewood et Ingham. Soient D = {α < Rz < β} une bande verticale et f une fonction continue ur D, analytique dan D et telle qu il exite un réel k vérifiant fz =O e ek Iz pour tout z D. Suppoon que pour x = α et x = β, l intégrale Jx = fx + iy 2 dy converge. Alor: Jx converge pour α<x<β; 2 Jx maxjα,jβ; 3 log Jx et convexe. Propoition 3.3. Si et une fonction vérifiant le hypothèe, alor: Ψ L2, iτ 2 + iτ L 2 R. Démontration. Remarquon tout d abord qu en utiliant 3.2 et la définition de Ψ,ona L2, + x 2 dx < +. Ψ Ψ Noton α l abcie de convergence abolue de l intégrale Ψ tt dt; Pour tout ε>, Ψ x x +ε et donc α. Pour R >α, poon G = Ψ xx dx = Ψ tt dt. D aprè 3.4, pour R >, on a A = G = Ψ uu du. Cette dernière fonction et la tranformée de Mellin de Ψ χ et et donc holomorphe dan on demi-plan de convergence abolue {R >α}. D autre part, la fonction +A et holomorphe dan le demi-plan {R /2}, G e prolonge donc holomorphiquement à {R /2}. Par unicité du prolongement analytique, l égalité 3.7 et valable dan le demi-plan {R >maxα, /2}. SiΨ L2, +, alor Ψ χ L2, et d aprè le théorèmedepaley- Wiener, G H 2. La limite non-tangentielle G de G, définie ur R par G y = lim Gx + iy, x 2 appartient donc à L 2 R. Comme G et holomorphe dan {R /2}, ona: G y =G 2 + iy L 2 R, et donc 2 + iy 2 + iy L 2 R. Licene or copyright retriction may apply to reditribution; ee

10 62 A. DE ROTON Réciproquement, i 2 +iy 2 +iy L 2 R, alor G 2 + iy L 2 R. Nou allon appliquer le lemme à G. La fonction G et analytique dan {R /2} d ordre fini. D autre part le fonction τ G 2 + iτ et τ G2 + iτ ont de fonction de L 2 R car la fonction 2 + iτ etbornée. Aini, d aprè le lemme, pour tout ] [ x 2, 2, l intégrale Gx + iτ 2 dτ converge et Gx + iτ 2 dτ max G 2 + iτ 2 dτ, G2 + iτ 2 dτ. Comme de plu l intégrale Gx + iτ 2 dτ converge uniformément par rapport à x 3 2,onabienG H2. Comme H 2 = ML 2,, il exite φ L 2, telle que G = Mφ. On aalorpourr >, G =Mφ =MΨ χ. Par injectivité dela tranformation de Mellin, on a donc Ψ χ = φ donc Ψ χ L2,, donc Ψ L2, Lien avec l hypothèe de Riemann généraliée Nou allon maintenant énoncer le théorème de Beurling-Nyman pour une fonction de la clae de Selberg. 4.. La clae de Selberg. La clae de Selberg a été introduite en 989 dan [Sel]. Pour un urvol de réultat connu ur cette clae de fonction, on pourra conulter [KP]. Conjecturalement, cette clae et l enemble de fonction L de forme automorphe. On ait inconditionnellement qu elle contient de fonction jouant un rôle eentiel en théorie de nombre telle que la fonction ζ de Riemann, le fonction L de Dirichlet aociée à un caractère primitif, le fonction ζ de Dedekind aociée à un corp de nombre, le fonction L d Artin abélienne,... Définition 4.. On dira qu une fonction appartient à la clae de Selberg S i vérifie le condition uivante : Pour R >, = an n= n et une érie de Dirichlet abolument convergente; 2 il exite un entier naturel m tel que m oit une fonction entière d ordre fini; 3 la fonction atifait une équation fonctionnelle de la forme : Φ =ωφ oùφ =αq γ, avec γ = r j= Γλ j + µ j, λ j >, Rµ j, Q>et α =; 4 pour tout ε>, an =On ε ; 5 pour R aez grand, 4. log = + n= b n n Licene or copyright retriction may apply to reditribution; ee

11 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 62 où b n =in n et pa une puiance d un nombre premier et b n = On θ pour un θ</2. On notera d =2 r j= λ j, que l on appellera degré de. On ditinguera parmi le zéro de le zéro de la forme n+µ j λ j, n N, j [[,r]], que l on appelera zéro triviaux de. Remarquon que le aertion et 4 montrent que le fonction de la clae de Selberg ne annulent pa dan le demi-plan R >etgrâce àlaymétrie induite par l équation fonctionnelle, le zéro d une fonction de la clae de Selberg non triviaux, ont de partie réelle comprie entre et. Il ont de plu réparti ymétriquement par rapport àla droite R = /2 que l on appelera droite critique. Conjecture. On conjecture que le zéro non triviaux de ont de partie réelle égale à /2, c et ce que l on appelle hypothèe de Riemann généraliée pour la fonction et nou la noteron déormai HRG. Noton qu en utiliant la ymétrie induite par l équation fonctionnelle, cette conjecture et équivalente à la non-annulation de la fonction dan le demi-plan R >/ Majoration d une fonction de la clae de Selberg; hypothèe de Lindelöf généraliée. Nou rappelon ici de majoration claique de fonction de la clae de Selberg. La démontration utilie la formule de Stirling complexe que l on applique au produit de fonction Γ qui apparait dan l équation fonctionnelle et le principe de Phragmèn-Lindelöf 5.65 de [T]. Propoition 4.. Soit δ>. Alor on a uniformément pour R +δ 4.2 = O δ. Pour σ<, ona 4.3 σ + iτ =O σ + τ d/2 σ. Pour σ et pour tout ε>, ona 4.4 =O σ,ε + τ d 2 σ+ε. Pour tout ε>, pour tout <σ <σ 2 <, ilexitec = cε, σ,σ 2 tel que pour tout σ σ σ σ + iτ c + τ d 2 σ +ε. Conjecture 2. On conjecture que pour tout ε>, /2+iτ =O ε + τ ε. C et ce que l on appelle hypothèe de Lindelöf généraliée pour la fonction et nou la noteron déormai HLG. Nou allon àpréent donner quelque etimation de dan le ca où la fonction vérifie l hypothèe de Riemann généraliée. Pour établir ce etimation, nou avon uivi la méthode que Titchmarch utiliait dan [T2] pour l étude de la fonction ζ de Riemann. Licene or copyright retriction may apply to reditribution; ee

12 622 A. DE ROTON Propoition 4.2. Soit une fonction de S vérifiant HRG. Soit δ vérifiant <δ< 2. On a uniformément par rapport à σ 2 + δ log σ + iτ = O δ log + τ. Démontration. Soit τ R tel que τ 2. On poe z =2+iτ, R = 3 2 δ 2 et r = 3 2 δ. vérifie HRG donc pour z tel que Rz + z > 2 et z + z,la fonction H définie par Hz =log z+z z et holomorphe dan le dique z R. Si z = R, alorrz + z 2 + δ 2,etdoncd aprè 4.5 d R log z + z 4 + log + τ, d autre part Rlog z =log 2 + iτ 2 /2. En effet, i θ et b n ont le donnée définie en 4., on a log 2 + iτ + n=2 bn n 2 + n=2 n θ 2 = O2 θ =O 2 /2. On peut donc appliquer un corollaire du lemme de la partie réelle cf. p.53 de [Te] àlafonctionh ur le cercle de centre z et de rayon 3 2 δ 2 et 3 2 δ. Sur le grand cercle, RHz c log + τ +2 /2 où c et une contante ne dépendant que de. Donc ur le petit cercle log z + z 3 2δ 2 δ c log + τ +2 /2 et donc log z + z δ log + τ. Propoition 4.3. Pour tout <ε</2, log σ + iτ =O ε log + τ 2 2σ+ε uniformément pour 2 + ε R lorque τ tend ver l infini. Démontration. Soit = σ + iτ, 2 <σ, τ 2. Soit σ > et<ε< min σ,σ 2. Poon R = σ ε, r = σ σ, R 2 = σ 2 ε. On adoncr <r<r 2 et σ + iτ = r. Poon Hw =log + w, où := σ + iτ. La fonction H et holomorphe dan R w R 2. H vérifie le hypothèe du lemme de troi cercle de Hadamard cf. p.73 de [Te]. En notant MR =max w =R Hw, on a donc: log Mr log R 2 r log R 2 R log MR + log r R log R 2 R log MR 2. Licene or copyright retriction may apply to reditribution; ee

13 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 623 Autrement dit, en poant α = log r R : log R 2 R log MR α MR 2 α, α = log σ σ σ++ε σ ε σ + o σ = = log σ 2 ε σ ε 2σ ε σ + σ + ε σ + o σ qui tend ver 2 + ε σ quand σ tend ver +. MR =max t R log σ + iτ +σ εe it d aprè 4.2 et MR 2 =max t R log σ + iτ + up σ +ε t R σ ++ε + o 2 + o log σ + it ε, σ 2 ε e it ε log + τ, d aprè la propoition 4.2. Aini log ε log + τ 2 2σ+2ε 2 + ε σ, τ 2. Propoition 4.4. Soit une fonction de S. Alor l hypothèe de Riemann pour entraîne l hypothèe de Lindelöf pour. C et une conéquence immédiate de la propoition Le théorème de Beurling-Nyman pour une fonction de la clae de Selberg. Remarquon que i et une fonction de S vérifiant l hypothèe de Lindelöf généraliée, alor la fonction et de carré intégrable ur la droite R = 2 et donc d aprè la propoition 3.3, la fonction Ψ appartient à l epace L2, +. En utiliant le théorème II et la propoition 4.4, nou omme donc en meure de conclure : Théorème III. Soit unefonctiondelaclaedeselbergs. Alor le aertion uivante ont équivalente : La fonction vérifie l hypothèe de Riemann généraliée; 2 Ψ L2, + et le ou-epace B et dene dan L 2, ; 3 Ψ L2, + et la fonction indicatrice χ de l intervalle ], ] appartient à l adhérence de B dan L 2,. 5. Suppreion de la condition d appartenance à L 2, + Nou avon démontré dan [dr] que pour une fonction de la clae de Selberg de degré inférieur à4,lafonctionψ et de carré intégrable. Cette hypothèe et cependant une hypothèe forte puique l on peut montrer que l hypothèedelindelöf généraliée pour la fonction et équivalente àla condition uivante : k N, Ψ L 2, +. k Afin de upprimer cette condition, nou allon introduire une fonction complémentaire liée. Cette idée nou a été uggérée par E. Kowalki que nou tenon à remercier ici. Licene or copyright retriction may apply to reditribution; ee

14 624 A. DE ROTON Définition 5.. Soit une fonction de la clae de Selberg. Pour tout k N,on définit ur R + la fonction Ψ k,, fonction complémentaire d ordre k aociée à par : Ψ k, x =Re x + + k, On définit également la fonction Ψ k, k! n x par Ψ k, x =Ψ k, /x. a n n x k. Remarque 5. Pour k =, on retrouve bien le fonction Ψ et Ψ précédemment. définie Propoition 5.. Soit S. Si k > d 4, alor la fonction Ψ k, appartient à l epace L 2, + et pour max, 2k d < R <, ona: MΨ k, = + + k. Démontration. En poant A k x = k! n x a nx n k,ona: x Ψ k, x =Re + + k, x k A k x. D aprè un calcul claique de tranformée de Mellin invere, on a pour tout c>: A k x = x +k 2iπ + + k d. R=c D aprè 4.4, pour tout ε >, on a + τ d 2 R+ε, donc pour max, 2k d <c <, l intégrale x R=c + +k d converge et on a 5. Ψ k, x = R=c x 2iπ + + k d. On a donc pour tout ε>, lorque x tend ver l infini 5.2 Ψ k, x =O x max, 2k d +ε. D autre part on peut montrer que pour x<, x Ψ k, x =Re + + k, = xq ln x, où Q et un polynôme de degré m. On a donc pour tout ε>, lorque x tend ver, 5.3 Ψ k, x =O x ε. D aprè 5.2 et 5.3, en uppoant k > d/4, la fonction Ψ k, L 2, + et pour max, 2k d < R <, on a : MΨ k, = + + k. appartient à Licene or copyright retriction may apply to reditribution; ee

15 GÉNÉRALISATION DU CRITÈRE DE BEURLING-NYMAN 625 Définion àpréent le ou-epace B k,. Définition 5.2. Soit une fonction de la clae de Selberg. On définit le epace uivant : { } n αk B k, = f : t c k Ψ k,, n N, k [,n],c k C, <α k t et où k= { B k, = f : t n k= A l [[,m ]], } αk c k Ψ k, B k,,c k et α k vérifiant A t n c k α k ln α k l =. k= Si k> d 4,alorΨ k, L2, + etif et une fonction de B k, de la forme n αk ft = c k Ψ k,, t k= alor pour max, 2k d < R <, on a : Mf =g + + k, avec g = n k= c kαk. De plu, le epace B k, et B k, ont de ou-epace de L 2, + etl 2, repectivement. En uivant exactement la démontration du théorème I, on montre donc que B k, et un ou-epace de L 2, invariant par l action du emi-groupe de contraction {D θ, <θ }, contenant la fonction Ψ k,. Son image par la tranformation de Mellin et donc un ou-epace invariant de H 2. On peut donc appliquer le théorème de Beurling-Lax à on adhérence et on obtient comme précédemment M B k, = B Z H 2. inalement, on obtient le théorème uivant. Théorème IV. Soit une fonction de la clae de Selberg. Soit k un entier vérifiant k> d 4. Alor le aertion uivante ont équivalente : La fonction vérifie l hypothèe de Riemann généraliée; 2 le ou-epace B k, et dene dan L 2, ; 3 la fonction indicatrice χ de l intervalle ], ] appartient à l adhérence de B k, dan L 2,. Ce théorème rete valable en remplaçant B k, par B k,. En remplaçant la fonction complémentaire par a verion liée, on obtient donc un théorème qui ne néceite plu d hypothèe puiante. Reference [BD] [BS] L. Báez-Duarte, A trengthening of the Nyman-Beurling criterion for the Riemann Hypothei, Rendiconti Accad. Lincei 23 23, 5-. MR b:35 M. Balazard, E. Saia, The Nyman-Beurling equivalent form for the Riemann hypothei, Expo. Math. 8 2, MR i:9 Licene or copyright retriction may apply to reditribution; ee

16 626 A. DE ROTON [B] H. Bercovici, C. oia, A real variable retatement of Riemann hypothei, IraelJ.of Math , MR d:65 [Be] A. Beurling, A cloure problem related to the Riemann Zeta-function, Proc. Nat. Acad. Sci , MR7655 7:5a [CG] J. B. Conrey, A. Ghoh, Remark on the generalized Lindelöf Hypothei, Preprint. [HIP] G. H. Hardy, A. E. Ingham, G. Pólya, Theorem concerning mean value of analytic function, Proc. of the Royal Soc , [KP] J. Kaczorowki, A. Perelli, The Selberg cla: a urvey, Acta Math , MR g:4 [Lev] N. Levinon, Gap and Denity Theorem, A.M.S. Coll. Publ. XXVI, 94. MR328 2:8d [PW] R. E. A. C. Paley, N. Wiener, The ourier Tranform in the Complex Domain, A.M.S. Coll. Publ. XIX, 934. [dr] A. de Roton, On the mean quare of an error term for an extended Selberg cla, Acta Arith , no., MR22843 [Sch] L. Schwartz, Étude de omme d exponentielle, Hermann, Pari, 959. MR6383 2:56 [Sel] A. Selberg, Old and new conjecture and reult about a cla of Dirichlet erie, Proceeding of the Almafi Conference on Analytic Number Theory, Univerità di Salerno 992. MR f:85 [Sz] O. Száz, Über die Approximation tetiger unktionnen durch lineare Aggregate von Potenzen, Math. Ann , MR5875 [Te] G. Tenenbaum, Introduction àlathéorie analytique et probabilite de nombre, Société mathématique de rance, 995. MR e:5a [T] E. C. Titchmarh, The theory of function, Second edition, Oxford Univerity Pre, 939. MR c:49 [T2] E. C. Titchmarh, The theory of the Riemann Zeta-function, Oxford Univerity Pre, 95. MR :74c IECN - Univerité Henri Poincaré: Nancy, BP 239, 5456 Vandoeuvre-lè-Nancy, rance addre: deroton@iecn.u-nancy.fr Licene or copyright retriction may apply to reditribution; ee