Sur la théorie non commutative de l intégration

Sur la théorie non commutative de l intégration Alain Connes Table des matières 1 Introduction 2 2 Fonctions transverses sur G 11 3 Mesures transverses sur G 15 4 Image d une mesure transverse 20 5 Représentations de carré intégrable de G 30 6 L algèbre de von Neumann des opérateurs aléatoires 40 7 Poids normaux semi finis sur End Λ (H) 46 8 Mesures transverses et feuilletages 57 9 Théorie de l indice et feuilletages mesurés 68 10 Remarques 79 1

1 Introduction Soient V une variété compacte et F un sous-fibré intégrable du fibré tangent ; supposons que le feuilletage F tangent à F soit mesuré. On dispose alors (en supposant F orienté) du courant C associé par Ruelle et Sullivan à la mesure transverse ; il est fermé de même dimension que F et définit une classe d homologie [C], élément de l espace de dimension finie H p (V, R). Considérant ce cycle comme le cycle fondamental du feuilletage mesuré, il est naturel de définir la caractéristique d Euler Poincaré en évaluant [C] sur la classe d Euler du fibré F, e(f ) H p (V, R). On espère alors interpréter cette caractéristique d Euler sous la forme usuelle Σ( 1) i β i, où β i désigne la dimension moyenne d espaces de formes harmoniques (par rapport à une structure Riemannienne sur la feuille, dont β i ne dépend pas) β i = dim(h i (f)) dλ(f) X où X désigne l espace des feuilles du feuilletage. La difficulté principale pour établir une telle formule est que, en général, dim(h i (f)), (où H i (f) désigne l espace de Hilbert des formes harmoniques de carré intégrable sur la feuille f X) est égal soit à 0 soit à +, de sorte que, si l on utilise la théorie usuelle de l intégration, comme la fonction à intégrer est invariante par multiplication par 2, on a β i = 0 ou +. Dans cet article, nous développons d abord une généralisation de la théorie usuelle de l intégration, qui, mieux adaptée à l étude d espaces singuliers comme l espace des feuilles d un feuilletage, l espace des géodésiques d une variété Riemannienne compacte ou celui des représentations irréductibles d une C -algèbre, permet de donner une valeur finie à une intégrale comme celle qui définit β i. Nous l appliquons ensuite pour démontrer la version feuilletage mesuré du théorème de l indice d Atiyah Singer (cf. No VIII). Ce résultat s inscrit dans la direction proposée par Singer dans [43] [44] et déjà illustrée par Atiyah dans [2]. Notre formalisme doit suffisamment aux idées de G. Mackey [22] [23] et A. Ramsey [30] [31] sur les groupes virtuels, pour que l on puisse considérer cet article comme une réalisation du programme de G. Mackey [22]. Il y a cependant une nouveauté, cruciale pour la théorie des groupes virtuels, qui est celle de mesure transverse sur un groupoïde mesurable. Cette notion est étroitement reliée à la théorie des traces et des poids sur les algèbres de von Neumann. Le lien entre groupes virtuels et algèbres de von Neumann apparaît déjà clairement dans [8] Corollaire 10 et a été développé dans [21] [39] [38] [16] et [17]. Espaces mesurables singuliers et intégration des fonctions infinies La donnée de départ en théorie classique de l intégration (ou des probabilités) est celle d un espace mesurable, c est-à-dire d un ensemble Ω (ensemble des résultats d une expérience aléatoire) et d une tribu B de partie de Ω (événements). Une mesure positive est alors une application Λ, dénombrablement additive, qui à toute fonction positive mesurable ν sur Ω associe un scalaire Λ(ν) [0, + ]. 2

Bien que la théorie soit développée dans cette généralité, on l applique surtout aux espaces mesurés usuels, c est-à-dire réunion d une partie dénombrable et d un espace de Lebesgue. La classes des espaces mesurés usuels est cependant instable par l opération élémentaire d image directe : si p désigne une application de l espace mesuré usuel (X, A, µ) dans l ensemble Ω on munit Ω de la tribu B = {B Ω, p 1 (B) A} et de la mesure Λ = p(µ) : Λ(B) = µ(p 1 (B)). Ainsi, par exemple, si T désigne une transformation ergodique de (X, A, µ) l image de µ par la projection naturelle p de X sur l ensemble Ω des orbites de T est singulière au sens où toute fonction mesurable sur Ω est presque partout égale à une constante. De même, l espace des géodésiques d une variété Riemannienne compacte est singulier dès que le flot géodésique est ergodique. La théorie usuelle est inefficace pour étudier ces espaces car elle est basée sur l étude d espaces fonctionnels qui dans les cas ci-dessus ne contiennent que les fonctions constantes. La seule notion que nous aurons à modifier, pour obtenir une théorie significative de l intégration sur les espaces singuliers, est celle de fonction. Considérons Ω comme un ensemble, sans autre structure supplémentaire, et examinons la notion usuelle de fonction positive sur Ω. Discutons d abord le cas des fonctions à valeurs entières f : Ω {0, 1,..., } = N. Définissons un entier n N comme un nombre cardinal, de sorte que tout ensemble dénombrable Y définit un élément de N et que deux ensembles Y 1, Y 2 définissent le même n ssi il existe une bijection de Y 1 sur Y 2. De même considérons une fonction f : Ω N comme destinée à mesurer la cardinalité d un ensemble Y au-dessus de Ω (i.e. muni d une application π : Y Ω avec π 1 {ω} dénombrable pour tout ω Ω) par l égalité : f(ω) = cardinalité π 1 {ω} ω Ω. L axiome du choix montre que pour deux ensembles (Y i, π i ), i = 1, 2, au-dessus de Ω définissent la même fonction f, il faut et il suffit qu il existe une bijection ϕ de Y 1 sur Y 2 telle que π 2 ϕ = π 1. Prenons un exemple, soit Ω l ensemble des géodésiques du tore plat T 2 et C un arc de courbe (de classe C ) sur T 2 Fig. 1 3

Nous étudions la fonction f qui à toute géodésique d Ω associe la cardinalité de d C. Prenons pour premier ensemble au-dessus de Ω définissant f le sous-graphe de cette fonction, i.e. : Y 1 = {(d, n) Ω N, 0 n < f(d)} π 1 (d, n) = d. Le deuxième ensemble au-dessus de Ω qui représente également la fonction f est l ensemble Y 2 des couples (d, c) où d Ω, c C d, et où l on pose π 2 (d, c) = d. Comme une géodésique d passant par c C est uniquement déterminée par la direction qu elle a en ce point, on peut identifier Y 2 avec C S 1 et donc en faire un espace mesurable usuel. Montrons que si ϕ est une bijection de Y 1 sur Y 2 telle que π 2 ϕ = π 1, elle exhibe un sous-ensemble non mesurable de l intervalle [0, 1]. Choisissons un irrationel α et considérons le flot F de pente α sur T 2. Associons à tout x T 2 sa trajectoire d(x) qui est une géodésique, d(x) Ω. On a, en général, Cardinalité (d(x) C) = +. Ainsi l application x ϕ(d(x), 0) est une injection de l espace des trajectoires de F dans Y 2. Or, si l on munit T 2 de la mesure de Lebesgue, l ergodicité du flot F montre que toute application mesurable de T 2 dans un espace mesurable usuel (comme Y 2 ) qui est constante sur les orbites de F, est en fait presque partout égale à une constante. Ainsi l application ci-dessus de T 2 dans Y 2 ne peut être mesurable. On voit donc que l axiome du choix, en donnant la même cardinalité au-dessus de Ω aux ensembles Y 1 et Y 2 simplifie abusivement la situation. Tout en conservant l axiome du choix nous définirons une fonction généralisée (à valeurs entières) sur Ω comme une classe d équivalence d espaces mesurables Y au-dessus de Ω, en n autorisant comme équivalence ϕ : Y 1 Y 2, π 2 ϕ = π 1 que les applications mesurables. (La structure mesurable sur Y est supposée usuelle et compatible avec π : Y Ω au sens où G = {(y 1, y 2 ), π(y 1 ) = π(y 2 )} est une partie mesurable de Y Y.) Si F désigne une fonction généralisée sur Ω qui est finie, i.e. Card π 1 {ω} <, ω Ω, on voit facilement en munissant Y d un ordre total mesurable (en l identifiant à [0, 1]), que F est équivalente au sous-graphe de la fonction f(ω) = Card π 1 ({ω}). Ainsi la distinction ci-dessus n intéresse que les fonctions infinies, on retrouve pour les valeurs finies la notion ordinaire. (Le passage aux fonctions à valeurs réelles positives se fait de la même façon en considérant un réel α [0, + ] comme la classe de tous les espaces de Lebesgue de masse totale α.) Prenons maintenant pour Ω un espace singulier image par l application p d un espace mesurable usuel (X, A). Nous dirons alors qu une fonction généralisée F sur Ω est mesurable si le sous-ensemble suivant de X Y est mesurable : {(x, y), x X, y Y, p(x) = π(y)}. Une mesure généralisée sur Ω est alors une règle qui attribue à toute fonction généralisée F, mesurable, sur Ω un scalaire Λ(F ) [0, + ] et vérifie : 4

( ) 1) σ-additivité : Λ F n = Λ(F n ) (où F n est défini à partir de l espace 1 1 mesurable somme des espaces Y n ). 2) Invariance : Λ(F 1 ) = Λ(F 2 ) si F 1 est équivalente à F 2. Par exemple, dans le cas de l espace Ω des géodésiques du tore T 2 il existe sur Ω une mesure généralisée Λ telle que pour toute courbe C on ait : Cardinalité (C d) dλ(d) = Longueur de C. On peut, à titre d exercice, démontrer que si l espace X, A qui désingularise Ω est muni d une mesure µ, telle que (en supposant p 1 (ω) dénombrable ω Ω) on ait : A A µ-négligeable p 1 (p(a)) µ-négligeable, et si toute fonction p(µ)-mesurable sur Ω est presque partout constante, il existe alors sur Ω une mesure généralisée Λ, unique à un scalaire multiplicatif près, telle que : 3) F = 0 p(µ)-presque partout Λ(F ) = 0. De plus l ensemble des valeurs Λ(F ), F fonction généralisée à valeurs entières, est l un des trois suivants : I II III {0, 1,..., } = N [0, + ] = R {0, + } Le cas I ne se produit que si Ω est réunion d un point ω 0 et d un ensemble négligeable, et on a alors Λ(F ) = Card F (ω 0 ). Le cas III exclu l existence d une mesure généralisée intéressante. Dans le cas II, dont un exemple est l espace des géodésiques sur une surface de Riemann compacte de genre > 1, on peut donner une intégrale finie à des fonctions généralisées infinies partout, ce qui signifie que l espace singulier est de masse nulle. On peut réaliser concrètement un tel espace en partant de cette feuille de papier et en la pliant en deux une infinité de fois. Mesures transverses sur les groupoïdes mesurables Pour formaliser la notion d espace mesurable quotient Ω du paragraphe précédent, nous partons d un ensemble Ω muni d une désingularisation, i.e. d un espace mesurable (X, A) et d une projection p : X Ω. On suppose bien entendu que G = {(x 1, x 2 ), p(x 1 ) = p(x 2 )} est mesurable dans X X. En fait la propriété cruciale de G est d être un groupoïde mesurable (cf. No I) pour la composition (x 1, x 2 ) (x 2, x 3 ) = (x 1, x 3 ), l application p définissant une bijection de l ensemble des classes d isomorphisme d objets de G avec Ω. Nous appellerons donc plus généralement désingularisation de Ω la donnée d un groupoïde mesurable G dont Ω est l ensemble des classes. Si G 1 et G 2 sont deux groupoïdes mesurables 5

1 2 3 4 5 6 Fig. 2 et h : G 1 G 2 une équivalence (entre petites catégories) nous considérerons les désingularisations correspondantes de Ω comme équivalentes. Notre programme est alors de traduire sur G la notion de mesure généralisée sur Ω, puis de vérifier que la théorie est invariante par équivalence. Dans le numéro I nous introduisons la notion de fonction transverse sur un groupoïde mesurable. Dans le cas où G = {(x 1, x 2 ), p(x 1 ) = p(x 2 )} elle se réduit à celle de fonction généralisée sur Ω, de la forme (X, p, ν), à valeurs dans [0, + ] (ce qui explique qu il s agisse d une famille de mesures, un nombre réel étant représenté par un espace mesuré). Dans le cas opposé, où G est un groupe, elle se réduit à la notion de mesure de Haar à gauche. Dans le numéro II nous introduisons la notion de mesure transverse de module δ, sur G, où δ désigne un homomorphisme de G dans R +. Le cas δ = 1 est exactement la traduction de la notion de mesure généralisée sur Ω, la condition de normalité (cf. II 1) est la traduction de la σ-additivité de Λ et la condition d invariance à droite (cf. II 1) traduit l invariance de Λ. Le cas non unimodulaire δ 1 est important car il permet de traiter le cas III ci-dessus. Le résultat principal que nous démontrons dans II est la caractérisation des mesures transverses Λ, de module δ, par la mesure µ = s(δ 1 ν x ) dλ(x) sur G (0), ce qui constitue l analogue du théorème classique de désintégration des mesures : ayant fixé la fonction transverse ν (avec ν x 0 x), l application Λ µ est une bijection entre mesures transverses de module δ sur G et mesures µ sur G (0) dont les mesures conditionnelles sur les classes d isomorphisme d objets sont proportionnelles aux s(δ 1 µ). Dans le numéro III nous montrons comment la donnée de Λ permet d intégrer les fonctions généralisées mesurables sur Ω, ce qui nous permet de vérifier facilement l invariance de notre notion par équivalence de groupoïdes mesurables. En parti- 6

culier, on peut prendre l image directe d une mesure transverse Λ 1 sur G 1 par un foncteur mesurable h : G 1 G 2 et Λ 2 = h(λ 1 ) ne change pas si l on remplace h par un foncteur équivalent. [C est ici qu apparaît le plus clairement l avantage de notre formalisme sur la théorie existante des groupes virtuels de Mackey (cf. [23] [30] [31] [21]). Dans cette théorie on suppose fixée une classe de mesure sur G, ayant des propriétés de quasi-invariance, et la notion (dégagée dans [16] et [41]) de système de Haar remplace celle de mesure transverse. Cette notion ne se transporte pas d un groupoïde à un groupoïde équivalent, chaque système de Haar définit une mesure transverse (cf. Théorème II 3) et seule cette dernière se transporte. En allégeant ainsi la donnée de départ on évite aussi toutes les difficultés liées à la composition des foncteurs (cf. [30] et [17]). Dans [30] on considère G comme identique au réduit G A où A c est négligeable, cette notion n a pas de sens dans notre formalisme car seuls les ensembles saturés négligeables peuvent être définis à partir d une mesure transverse Λ. Dans [30] A. Ramsey montre que les foncteurs mesurables ne sont pas toujours composables, seules leurs classes déquivalence le sont. L unique raison est l identification abusive ci-dessus de G avec G A ; si on ne l autorise que pour A saturé, Λ-négligeable la difficulté disparaît et on obtient une notion entièrement satisfaisante de foncteur absolument continu. Algèbres de von Neumann et espaces singuliers Passons maintenant au point de vue algébrique de la théorie des probabilités, i.e. celui qui étudie l algèbre de Boole des événements, ou ce qui revient au même, l algèbre des classes de variables aléatoires bornées : L (Ω, B, Λ). Les algèbres que l on obtient ainsi sont exactement les algèbres de von Neumann commutatives, et la théorie des traces (unimodulaire) et des poids (non unimodulaire) sur les algèbres de von Neumann générales constitue la théorie non commutative de l intégration. Soit M une algèbre de von Neumann et appelons M-module tout espace hilbertien H muni d une représentation normale de M dans H. Il est clair que les M-modules forment une catégorie C M ; ce qui est intéressant c est que la connaissance de la catégorie C M permet de retrouver le genre de M (M 1 et M 2 ont même genre ssi leurs produits tensoriels par le facteur de type I sont isomorphes) (cf. [34]). Dans le cas commutatif, où M = L (Ω, B, Λ), la catégorie C M se décrit comme celle des champs mesurables d espaces de Hilbert sur Ω, un morphisme du champ (H ω ) ω Ω dans (H ω) ω Ω étant une classe, modulo l égalité presque partout, de sections mesurables T = (T ω ) ω Ω, où T ω : H ω H ω est un opérateur borné (et Ess Sup T ω = T définit la norme). Dans notre cadre l espace des paramètres Ω est l espace des classes d isomorphisme d objets du groupoïde mesurable (G, B) muni d une mesure transverse Λ. La notion de champ d espaces de Hilbert sur Ω est remplacée par celle de foncteur mesurable de G dans la catégorie des espaces de Hilbert (pour la traduction de la mesurabilité cf. No IV). Comme quand G est un groupe cette 7

notion se réduit à celle de représentation unitaire de G on parle également de représentation de G. La catégorie C Λ, duale de (G, B, Λ), a pour objet des représentations de G et pour morphismes les classes, modulo l égalité Λ-presque partout, d opérateurs d entrelacement (si T = (T x ) x G (0) est un opérateur d entrelacement l ensemble {x, T x = 0} est saturé ; on peut donc définir sa nullité pour Λ). Contrairement au cas usuel où C Λ contient tous les champs mesurables sur Ω, le cas singulier nécessite de ne considérer que les représentations de carré intégrable de (G, B). Cette propriété de régularité ne dépend que de la structure mesurable de G, et on peut la définir en disant que H et de carré intégrable ssi c est une sous-représentation d une représentation H, avec H < H K (< signifie l équivalence à une sous-représentation) pour toute représentation K avec K x 0, x. Dans le cas où G est un groupe localement compact on retrouve la notion connue (cf. [15] [27] [28] [25]). Notons que en général la catégorie C Λ ne dépend que de la classe de Λ, i.e. que de la notion d ensemble saturé Λ-négligeable. La catégorie C Λ est de plus équivalente à une catégorie C M où M est une algèbre de von Neumann, uniquement déterminée si on la choisit proprement infinie. La donnée de Λ dans sa classe a pour duale, dans le cas unimodulaire δ = 1, celle d une fonction dimension sur C Λ, qui à tout H associe dim Λ (H) = dim(hx ) dλ(x) (l intégrale étant prise au sens singulier, cf. No VI). Dans le cas d un groupe localement compact unimodulaire, une mesure transverse Λ est une forme linéaire positive sur l espace à une dimension des mesures de Haar à gauche, et dim Λ (H) est le degré formel usuel des représentations de carré intégrable par rapport à la mesure de Haar à gauche ν, telle que Λ(ν) = 1. Dans le cas non unimodulaire la donnée de Λ définit une trace, non sur l algèbre de von Neumann End Λ (H) commutant de la représentation, mais sur l espace des opérateurs de degré 1, i.e. vérifiant U(γ) T x U(γ) 1 = δ(γ) T y, γ : x y (où U(γ) : H x H y désigne la représentation de γ G). Ceci nous permet d établir une bijection naturelle entre poids sur End Λ (H) et opérateurs de degré 1 positifs puis de calculer très simplement les invariants des poids tels le spectre du groupe d automorphismes modulaires, son intégrabilité, son centralisateur. Comme corollaire de notre présentation il est clair que la catégorie C Λ (et donc l algèbre de von Neumann proprement infinie correspondante) ne change pas si l on remplace G par un groupoïde équivalent. De plus l existence sur C Λ d une opération de produit tensoriel qui n existe pas sur la catégorie C M permet de montrer une propriété particulière des algèbres de von Neumann de la forme End Λ (H) (cf. Corollaire VII). Théorème de l indice pour les feuilletages mesurés Soit F un feuilletage d une variété V, l espace Ω des feuilles de F est en général un espace singulier, au numéro VII nous établissons le lien entre mesures trans- 8

verses sur Ω et mesures transverses Λ au sens usuel [29] [45] [36] pour le feuilletage F. Au numéro VIII nous démontrons la formule de l indice pour tout opérateur elliptique D sur la feuille F d un feuilletage mesuré (F, Λ) d une variété compacte V : dim(ker D f ) dλ(f) dim(ker Df ) dλ(f) = ch D Td (V ) [C] Ω Ω où D f désigne la restriction de D à la feuille f Ω, où ch D désigne le caractère de Chern du symbole principal de D (cf. No VIII), Td (V ) la classe de Todd de la variété V et [C] le cycle asymptotique, [C] H p (V, R) associé à la mesure transverse Λ par Ruelle et Sullivan. Contrairement à ce qui se produit pour les revêtements de variétés compactes (cf. [2]) l indice Ind Λ (D) est, même après normalisation de Λ, en général irrationel. (Soient par exemple Γ 1 et Γ 2 deux réseaux de C, munissons V = C/Γ 1 C/Γ 2 du feuilletage F défini par le groupe des translations τ z (a, b) = (a + z, b + z) ( (a, b) V, z C) et de la mesure transverse Λ associée à la mesure de Haar de V (en général c est la seule mesure transverse pour f, à normalisation près). Soit E 1 (resp. E 2 ) le fibré complexe de dimension un sur V associé au diviseur {0} C/Γ 2 (resp. C/Γ 1 {0}), comme le fibré tangent à F est trivial on peut parler de l opérateur E1 (resp. E2 ) agissant sur les sections de E 1 (resp. E 2 ) le long de F. Pour toute feuille f = {(a + z, b + z), z C} de F, le noyau H E1 (f) de E1 s identifie à l espace des fonctions méromorphes sur C n ayant de pôle qu aux points de Γ 1 a (avec ordre 1) et qui sont de carré intégrable (comme sections de E 1 ). Le noyau de ( E1 ) est réduit à {0} et la formule de l indice donne : dim(h E1 (f)) dλ(f) = densité (Γ 1 ). On a donc en général dim Λ H E1 / dim Λ H E2 = densité Γ 1 /densité Γ 2 / Q. Si on prend le diviseur associé à {0} C/Γ 2 C/Γ 1 {0}, en supposant que densité Γ 1 densité Γ 2, le noyau de l opérateur E (correspondant au fibré E = E 1 E 2) sur f, s identifie à l espace des fonctions méromorphes n ayant de pôles qu aux points de Γ 1 a mais nulles sur Γ 2 b, et on a de même dim(h E (f)) dλ(f) = densité Γ 1 densité Γ 2. On peut montrer que le noyau de E agissant dans l espace des sections de carré intégrable de E sur V (en dérivant dans le sens des feuilles) n est formé que des sections holomorphes de E sur V (de sorte que l holomorphie le long des feuilles implique l holomorphie sur V ) dès que Γ 1 et Γ 2 sont en position générale. L indice de E agissant sur V 1 est alors nul alors que celui de E sur F est densité Γ 1 densité Γ 2 ce qui montre qu il n y a pas en général de relations entre ces deux indices analytiques. 1 i.e. dim(ker E ) dim(ker( E)), bien que E ne soit pas elliptique au sens ordinaire, ces deux dimensions sont finies dans le cas considéré. 9

Notations Soit G un groupoïde, c est par définition une petite catégorie dans laquelle tout morphisme γ : x y est un isomorphisme. Nous notons γ 1 l inverse de γ. Soit G (0) l ensemble des objet de G, nous l identifions à {γ G, γ γ = γ}. Pour γ G, γ : x y nous notons x = s(γ) et y = r(γ), s(γ) = γ 1 γ est l objet source et r(γ) = γγ 1 l objet but. Pour (γ 1, γ 2 ) G G la composition γ 1 γ 2 a un sens quand s(γ 1 ) = r(γ 2 ), notons G (2) = {(γ 1, γ 2 ) G G, s(γ 1 ) = r(γ 2 )}. Pour y G (0), soit G y = {γ G, r(γ) = y} et G y y = {γ G, γ : y y}, qui est un groupe. La relation x est isomorphe à y, i.e. γ G, γ : x y est une relation d équivalence sur G (0) que nous écrirons x y. Pour tout sous-ensemble A de G (0) le saturé [A] est {x G (0), y A, x y}. Pour tout sous-ensemble A de G (0), nous noterons G A le groupoïde G A = {γ G, s(γ) A, r(γ) A}, ainsi G {y} = G y y. Nous appellerons groupoïde mesurable un couple (G, B) d un groupoïde G et d une tribu de parties de G telles que les applications suivantes soient mesurables : r, s, γ γ 1 et (Composition). Nous dirons que G est séparable si la tribu B est dénombrablement engendrée. Soit (X, B) un espace mesurable, nous noterons F + (x) (resp. F + (X)) l espace des applications mesurables de X dans (0, + ] (resp. [0, + ]). 10

2 Fonctions transverses sur G Soit G un groupoïde mesurable. Nous appellerons Noyau sur G la donnée d une application λ de G (0) dans l espace des mesures positives sur G, telle que : 1) y G (0), λ y est portée par G y = r 1 ({y}) ; 2) Pour tout A B, l application y λ y (A) [0, + ] est mesurable. Un noyau λ est dit propre si G est réunion d une suite croissante (A n ) n N de sous-ensembles mesurables de G tels que γ λ s(γ) (γ 1 A n ) soit bornée pour tout n N. Soit λ un noyau sur G, on lui associe alors deux noyaux au sens usuel ([33] p. 8) de G dans G, définis par : R(λ) γ = γλ x où x = s(γ) L(λ) γ = (R(λ) γ 1) où est l application γ γ 1 de G dans G. Le noyau λ est propre ssi R(λ) est propre au sens de [33] p. 8. Par construction R(λ) commute avec les translations à gauche et L(λ) avec les translations à droite. Pour f F + (G) les fonctions R(λ)f et L(λ)f sont données par : (R(λ)f)(γ) = f(γγ ) dλ x (γ ) γ G, s(γ) = x. (L(λ)f)(γ) = f(γ 1 γ) dλ y (γ ) γ G, r(γ) = y. Nous écrirons λ f pour L(λ)f et f λ pour R(λ)f. Soit C + l espace des noyaux propres sur G. Le théorème de Fubini montre que si λ 1 et λ 2 sont des noyaux propres sur G on a : (λ 1 f) λ 2 = λ 1 (f λ 2 ) f F + (G). Soit λ un noyau sur G, pour toutes f F + (G) notons λ(f) la fonction positive sur G (0) telle que : λ(f)(y) = f dλ y y G (0). Pour toute q F + (G (0) ) on a λ((q r)f) = q λ(f). Soient λ un noyau sur G et h F + (G), l application y h λ y est encore un noyau sur G, noté hλ. Notons que hλ est propre si λ est propre. Soient λ 1, λ 2 des noyaux sur G, on définit leur produit de convolution λ 1 λ 2 par l égalité : (λ 1 λ 2 ) y = (γ λ x 2) dλ y 1 (γ) y G(0). 11

En particulier pour toute f F + (G) on a : (λ 1 λ 2 ) y (f) = f(γγ ) dλ x 2(γ ) dλ y 1 (γ) = λy 1 (f λ 2 ). Ainsi λ 1 λ 2 est un noyau et R(λ 1 λ 2 ) = R(λ) R(λ 2 ) au sens de la composition usuelle des noyaux [33] p. 11. On a de même L(λ 1 λ 2 ) = L(λ 1 ) L(λ 2 ). La convolution des noyaux est associative [33] p. 11, mais même si λ 1 et λ 2 sont propres il se peut que λ 1 λ 2 ne soit pas propre. La condition suivante est suffisante pour que cela ait lieu : Lemme 1. a) Si λ 1 est borné et λ 2 est propre, alors λ 1 λ 2 est propre. b) Si λ 2 est borné et porté par B B, et si il existe une suite croissante (A n ) n N, A n B telle que pour tout n, γ λ s(γ) 1 (γ 1 A n B 1 ) soit borné, alors λ 1 λ 2 est propre. Démonstration. a) En effet, λ est propre R(λ) est propre ([33] p. 8), et R(λ 1 λ 2 ) = R(λ 1 ) R(λ 2 ) où R(λ 1 ) est borné par hypothèse. b) On a (λ 1 λ 2 ) x (γ 1 A n ) = λ x 2 (γ 1 γ 1 A n ) dλ x 1(γ ) C λ x 1(γ 1 A n B 1 ), d où le résultat. Soit λ un noyau sur G, nous noterons s(λ) (resp. r(λ)) le noyau usuel de G (0) dans G (0) tel que : s(λ) x = s(λ x ) x G (0) (resp. r(λ) x = r(λ x ) x). Même si λ est propre il se peut que s(λ) ne soit pas propre. On a s(λ)f = λ(f s) et s(λ 1 λ 2 ) = s(λ 1 ) s(λ 2 ) car : L(λ)(f r) = (s(λ)f) r, f F + (G). En effet L(λ)(f r)(γ) = (f r)(γ 1 γ) dλ y (γ ) = f s(γ ) dλ y (γ ). Définition 2. On appelle fonction transverse sur G tout noyau ν vérifiant la condition suivante : γν x = ν y γ G, γ : x y. Soit ν une fonction transverse ; pour que ν soit propre il faut et il suffit qu il existe une suite croissante (A n ) n N, A n B, telle que x ν x (A n ) soit bornée n N. (Les seules fonctions transverses qui nous intéressent sont celles qui sont propres, au point que nous omettons librement ce qualificatif quitte à dire que ν est impropre sinon.) Soit ν une fonction transverse, alors A = {x, ν x 0} est un sous-ensemble mesurable de G (0) qui est saturé : γ : x y, x A y A. Nous l appellerons le support de ν. 12

Lemme 3. Soient ν et A comme ci-dessus ; si ν est propre, il existe une fonction f F + (G) telle que ν(f) = 1 A, f(γ) > 0 γ G A. Démonstration. Par hypothèse G est réunion d une suite (A n ) n N avec ν(a n ) = C n < où C n R +, ainsi avec g = Σ 2 n Cn 1 1 An on a g(γ) > 0, γ et ν(g) 1. Pour x A, on a ν(g)(x) 0, on pose alors f(γ) = (ν(g)(r(γ))) 1 g(γ) pour γ G A et f(γ) = 0 sinon. Nous dirons que ν est fidèle si son support est égal à G (0). Nous notons E + l espace des fonctions transverses propres sur G, et E + celui de toutes les fonctions transverses sur G. Proposition 4. a) Soient ν E +, f F + (G (0) ), alors (f s) ν E +. b) Supposons (G, B) séparable. Soient ν 1, ν 2 E +. Supposons que pour tout x G (0), ν1 x est absolument continue par rapport à ν2 x, il existe alors f F + (G (0) ), telle que ν 1 = (f s) ν 2. Démonstration. a) L invariance à gauche de (f s) ν est immédiate ; il faut vérifier que ce noyau est propre mais cela résulte de la finitude de f. b) Soit (P n ) n N une suite croissante de partitions finies de G, mesurables, engendrant B. Tout γ G est dans un unique atome E n γ de P n et on pose (cf. [33] p. 32) f n (γ) = ν y 1 (En γ )/ν y 2 (En γ ) si ν y 2 (En γ ) 0 f n (γ) = 0 si ν y 2 (En γ ) = 0. Par construction f n est mesurable et pour tout y G (0) la suite f n restreinte à G y converge ν y 2 -presque sûrement vers dνy 1 /dνy 2. On pose f = lim f n (et 0 là où la limite n existe pas) et on obtient b). Proposition 5. a) Soit ν un noyau sur G ; pour que ν soit une fonction transverse il faut et il suffit que R(ν)f = ν(f) r f F + (G). b) Soient ν une fonction transverse propre, λ un noyau propre sur G alors ν(λ f) = λ(ν(f) s) = s(λ)(ν(f)) f F + (G). c) Soient ν et λ comme en b) et f F + (G) alors : λ fν = (λ f)ν et λ ν = (λ(1) r)ν. 13

Démonstration. a) On a (R(ν)f)(γ) = f(γγ ) dν x (γ ) et ν(f)(r(γ)) = f(γ ) dν y (γ ) d où le résultat. b) On a ν(λ f) r = R(ν)L(λ)f = L(λ)R(ν)f = L(λ)(ν(f) r) d où le résultat. c) Pour y G (0) et A B on a : (λ fν) y (A) = (fν) x (γ 1 A) dλ y (γ) = f(γ 1 γ ) 1 A (γ ) dν y (γ ) dλ y (γ) ( ) = f(γ 1 γ ) dλ y (γ) 1 A (γ ) dν y (γ ) où on peut appliquer Fubini grâce à l hypothèse. Prenant f = 1 on obtient λ ν = (λ(1) r)ν d où c). Proposition 6. a) Soient ν une fonction transverse et λ un noyau sur G, alors ν λ est une fonction transverse. b) Soient ν et ν des fonctions transverses propres sur G avec Support ν Support ν, il existe alors un noyau propre λ sur G tel que ν = ν λ. Démonstration. a) Soit f F + (G), il suffit de vérifier que R(ν λ)f)(γ) ne dépend que de r(γ), ce qui résulte de l égalité : (R(ν λ)f) = R(ν)(R(λ)f). b) Soient A = Support ν et f F + (G) telle que ν( f) = 1 A (Lemme 3). Appliquons la Proposition 5c), on a : ν fν = (ν f) ν = (ν( f) s) ν = ν car ν f = L(ν)f = R(ν) f) = (ν( f) r). Soit T un sous-ensemble mesurable de G (0). L égalité ν(f)(y) = f(γ), f F + (G) γ G y s(γ) T définit une fonction transverse ν T, appelée fonction caractéristique de T. Nous dirons que T est une transversale si la fonctipn transverse ν T est propre, cela implique que s 1 (T ) G y est dénombrable pour tout y G (0). Si G est un groupe localement compact, il est discret ssi G (0) est une transversale. Dans le cas général nous dirons que G est discret si G (0) est une transversale. Si T G (0) est une transversale le groupoïde mesurable réduit G T est discret. 14

3 Mesures transverses sur G Soit δ une application mesurable de G dans R + telle que δ(γ 1 γ 2 ) = δ(γ 1 ) δ(γ 2 ) (γ 1, γ 2 ) G (2). Rappelons que E + désigne l espace des fonctions transverses propres sur G. Soit (ν n ) n N une suite croissante de fonctions transverses, majorée par une fonction transverse propre, alors l égalité ν x = Sup νn x définit une fonction transverse ν, nous écrirons dans ces conditions ν = Sup ν n et ν n ν. Définition 1. On appelle mesure transverse de module δ sur G toute application linéaire Λ de E + dans [0, + ] telle que : a) Λ est normale i.e. Λ(Sup ν n ) = Sup Λ(ν n ) pour toute suite croissante majorée dans E +. b) Λ est de module δ, i.e. pour tout couple ν, ν E + et tout noyau λ tel que λ y (1) = 1, y G (0) on a : n ν δλ = ν = Λ(ν) = Λ(ν ). Si δ = 1, la condition b) exprime l invariance de Λ par les translations à droite dans G, agissant sur E +. Nous dirons que Λ est semi-finie si pour tout ν E + on a : Λ(ν) = Sup {Λ(ν ), ν ν, Λ(ν ) < } et que Λ est σ-finie s il existe une fonction transverse fidèle de la forme ν = Sup ν n, Λ(ν n ) <. Dans la discussion qui suit, nous supposons Λ semi-finie. Pour tout ν E + on a (f s) ν E + pour toute f F + (G (0) ), l égalité Λ ν (f) = Λ((f s)ν) définit ainsi une mesure positive Λ ν sur G (0) qui est semifinie dès que Λ est semi-finie (Proposition 4b)). La condition b) montre que si ν, ν E + et λ C + vérifient ν = ν λ, on a Λ(ν ) = Λ ν (λ(δ 1 )). Proposition 2. Soit Λ une mesure transverse semi-finie de module δ. a) Pour ν, ν E + et f F + (G) on a : Λ ν (ν ( f)) = Λ ν (ν(δ 1 f)) ( f(γ) = f(γ 1 ) γ). b) Soient ν, ν E +, λ C + avec ν = ν δλ et s(λ) = D la diffusion associée à λ sur G (0) alors : Λ ν = Λ ν D et Λ ν (ν (f)) = Λ ν (ν(λ f (δλ) )) pour toute f F + (G). Démonstration. a) Pour f F + (G), appliquons l égalité Λ(ν δλ) = Λ ν (λ(1)) à λ = fν, cela donne : Λ(ν δ f ν ) = Λ ν (ν ( f)). 15

La Proposition 5c) montre que ν δ f ν = (ν( δf) s) ν d où l égalité Λ ν (ν( δf)) = Λ ν (ν ( f)) ce qui prouve a). b) Pour f F + (G (0) ) on a Λ ν (f) = Λ((f s)(ν δλ)) = Λ(ν (f s) δλ) = Λ ν (λ(f s)) = Λ ν D(f). Pour f F + (G) on a Λ ν (ν (f)) = Λ ν ((ν δλ)f) = Λ ν (ν(f (δλ) )) = Λ ν (D(ν(f (δλ) )) = (Λ ν ν)(λ f (δλ) ) car pour g F + (G) in a D(ν(g)) = λ(ν(g) s) = ν(λ g) (Proposition 5b)). Le théorème suivant est une généralisation du théorème de désintégration des mesures, il caractérise les mesures µ sur G (0) de la forme Λ ν. Théorème 3. Soient ν une fonction transverse propre et A son support. L application Λ Λ ν est alors une bijection entre l ensemble des mesures transverses de module δ sur G A et l ensemble des mesures positives µ sur G (0) vérifiant les conditions équivalentes suivantes : 1) δ(µ ν) = µ ν 2) λ, λ C +, ν λ = ν λ E + µ(δ 1 λ(1)) = µ(δ 1 λ (1)). Démonstration. On peut supposer que A = G (0). Comme ν est alors fidèle, toute ν E + est de la forme ν = ν δλ, λ C + (Proposition 6b)) où λ C +, on voit donc (Définition 1b)) que l application Λ Λ ν est injective. La proposition 2 montre que Λ ν vérifie la condition 1). Il reste donc à montrer que 1) 2) et que toute µ vérifiant 2) est de la forme Λ ν. Soit µ vérifiant 1) et soit D la diffusion s(λ) pour λ C +. Pour toute f F + (G) on a : µ(λ(ν(f) s)) = (µ ν)(λ f) = δ(µ ν) (λ f) = (µ ν)( δ(λ f) ) = (µ ν((δf) (δλ) ) = µ (ν δλ)( δf)). Cela montre en fait que µ D λ ne dépend que de ν δλ d où 2). Montrons maintenant l existence de Λ à partir de µ. Tout ν E + est de la forme ν = ν λ ; la condition 2) permet donc de définir Λ par l égalité : Λ(ν λ) = µ(δ 1 λ(1)). Vérifions les conditions a) b) de la Définition 1) : Pour ν n ν dans E +, et f F + (G) telle que ν( f) = 1 (Lemme 3) on a ν n = ν δλ n où λ n = δ 1 fν n (Proposition 5c)). Ainsi Λ(ν n) = µ(ν n(δ 1 (f)). Or comme ν n ν la suite croissante ν n(fδ 1 ) de fonctions mesurables sur G (0) a pour sup la fonction ν (fδ 1 ) de sorte que µ(ν n(δ 1 f)) µ(ν (δ 1 f)) d où a). Montrons b). Soient ν 1 = ν δλ 1 E + et λ C + avec ν 2 = ν 1 δλ E +. On a ν 2 = ν δ(λ 1 λ) donc Λ(ν 2 ) = µ((λ 1 λ)(1)) = µ(λ 1 (1)) car (λ 1 λ)(1) = λ 1 (1), d où le résultat. Il reste à vérifier que Λ ν = µ, pour f F + (G (0) ) soit λ C + tel que λ y = f(y) ε y, y G (0), alors δλ = λ, Λ((f s)ν) = Λ(ν δλ) = µ(λ(1)) = µ(f). 16

Remarques. 1) Si µ est semi-finie il en est de même pour Λ. 2) Si µ est σ-finie, il en est de même de Λ, en effet si λ n λ on a ν λ n ν λ. 3) Si Λ est σ-finie il en est de même de Λ ν, ν E +. En effet si ν = ν δλ avec λ C + il existe une suite croissante λ n λ, λ n C + telle que Λ ν (λ n (1)) <, on a alors ν n ν, Λ(ν n) < avec ν n = ν δλ n. Corollaire 4. Soient ν E + une fonction transverse fidèle et B un sousensemble mesurable de G (0) tel que s 1 (B) porte ν x, pour tout x G (0). Soit ν B la fonction transverse propre sur G B qui à y B associe la restriction de ν y à G y s 1 (B). Pour toute mesure transverse Λ sur G de module δ il existe une unique mesure transverse Λ B de module δ B sur G B telle que (Λ B ) νb = (Λ ν ) B. L application Λ Λ B est une bijection entre mesures transverses de modules δ, δ B sur G et G B, indépendante du choix de ν. Démonstration. Par construction ν B est une fonction transverse fidèle sur G B et µ = Λ ν est portée par B. Il est clair que µ B ν B = δ B (µ B ν B ) d où l existence de Λ B et son unicité. Réciproquement, soit Λ une mesure transverse de module δ B sur G B et µ = Λ ν B. Considérons µ comme une mesure sur G (0) nulle hors de B, pour f F + (G), on a : (µ ν)(f) = ν y (f) dµ (y) = f(γ) dν y (γ) dµ (y). y B γ G B Cela montre que (µ ν) = δ(µ ν). Il reste à montrer que Λ B ne dépend pas du choix de ν et pour cela il suffit de vérifier l égalité pour un couple ν, ν avec ν ν i.e. ν = (a s) ν, a F + (G (0) ). On a Λ ν = aλ ν et ν B = (a B s) ν B d où (Λ B ) νb = a B (Λ B ) ν B. Corollaire 5. Soient T G (0) une transversale fidèle et ν = ν T sa fonction caractéristique. Alors Λ Λ ν est une bijection entre mesures transverses de module δ sur G et mesures µ sur T telles que : dµ(r(γ)) = δ(γ) dµ(s(γ)) γ G T. Nous renvoyons à [16] Corollaire 2 et Définition 2.1 pour l interprétation de l égalité d(µ r) = δ d(µ s) ci-dessus. Démonstration. Le Corollaire 5 permet de supposer que G = G T, i.e. T = G (0). On a ν y (f) = f(γ), f F + (G) r(γ)=y 17

de sorte que (µ ν)(f) = f(γ) dµ(y) = G (0) r(γ)=y f(γ) dµ r(γ), la condition 1 du Théorème 3 s écrit alors d(µ r)(γ 1 ) = δ(γ) 1 d(µ r)(γ) d où le résultat. Corollaire 6. Soient (X, B) un espace mesurable, H un groupe localement compact agissant mesurablement sur X par (x, h) xh et G = X H le groupoïde mesurable correspondant, δ un homomorphisme de G dans R +. Soient dh une mesure de Haar à gauche sur H et ν la fonction transverse correspondante sur G. Alors Λ Λ ν est une bijection entre mesures transverses de module δ sur G et mesures µ sur X telles que : 1 H (h) d(hµ)(x) = δ(x, h) 1 dµ(x). Démonstration. Pour γ = (x, h) G on a r(γ) = x, s(γ) = xh = h 1 x. On a δ(x, h 1 h 2 ) = δ(x, h 1 ) δ(h 1 1 x, h 2) en d autres termes h δ h est un cocycle de H à valeurs dans l espace des fonctions de X dans R +. Pour toute fonction mesurable positive sur G = X H on a : (µ ν)(f) = f(x, h) dh dµ(x) (µ ν)( f) = f(xh, h 1 ) dh dµ(x) = f(y, k) H (k) 1 dk d(kµ)(y). Le Théorème 3 donne donc le résultat. Notons enfin à quoi se réduit la notion de mesure transverse de module δ dans le cas très particulier où G est le graphe d une relation d équivalence dénombrablement séparée sur un espace mesurable usuel Y. Soient donc π : Y X une application mesurable et supposons l existence d une application mesurable x α(x) de X dans l espace des mesures de probabilité sur Y avec α(x) portée par π 1 {x}, x. Soient G = {(x, y), π(x) = π(y)} le groupoïde mesurable graphe de la relation d équivalence associée à π, et δ un homomorphisme mesurable de G dans R +. Il existe sur G une unique fonction transverse ν = s α telle que s(ν x ) = α(π(x)), x Y et Λ Λ ν est une bijection entre mesures transverses de module δ sur G et mesures µ sur X qui se désintègrent selon π en : µ = β a dρ(a) β a = e v α(a) X avec V fonction mesurable de Y dans R telle que pour tout γ G on ait V (r(γ)) V (s(γ)) = Log(δ(γ)). En particulier, si δ = 1, cela signifie que µ est une intégrale des mesures α(x). On obtient ainsi une correspondance canonique, indépendante du choix de α, entre mesures transverses sur G et mesures 18

ordinaires sur X. La mesure transverse Λ correspondant à la mesure ρ sur X s écrit Λ(ν) = ν y (1) dρ(x) X où pour y π 1 {x}, la masse totale ν y (1) de ν y ne dépend pas du choix de y. Rôle joué par les sous-ensembles Λ-négligeables Soient Λ une mesure transverse de module δ sur G et A G (0) un sous-ensemble mesurable saturé de G (0). Définition 7. A est Λ-négligeable ssi il est Λ ν -négligeable ν E +. Soient ν E +, B = Supp ν et f comme dans le Lemme 3. La classe de la mesure s(fν x ) sur G (0) est indépendante du choix de f et ne change pas si on remplace x par y, [y] = [x]. Nous dirons que A G (0), mesurable, est s(ν x )-négligeable si il est s(fν x )-négligeable. Proposition 8. a) Soient ν E +, B = Supp ν, A un sous-ensemble saturé mesurable de G (0) alors si A B : A est Λ ν -négligeable A est ν-négligeable. b) Soit A un sous-ensemble mesurable de G (0) et pour ν E +, soit [A] ν = {x G (0), A n est pas s(ν x )-négligeable}. Alors [A] ν est saturé mesurable et : Λ ν (A) = 0 [A] ν est Λ-négligeable. Démonstration. a) On peut supposer que B = G (0). Tout ν E + est de la forme ν = ν δλ, λ noyau propre sur G. On a : Λ ν (1 A ) = Λ ν (λ(1 A s)) = Λ ν (λ(1 A r)) = 0. b) Pour f comme dans le Lemme I.3, on a : [A] ν = {x G (0), ν x ((1 A s)f) 0} B. Pour que [A] ν soit Λ ν -négligeable il faut et il suffit que ν x ((1 A s)f) dλ ν (x) = 0. L égalité (Λ ν ν) = δ 1 (Λ ν ν) montre donc que cela a lieu ssi A est Λ ν -négligeable. 19

4 Image d une mesure transverse Définition des variables aléatoires sur (G, B, Λ) En théorie classique des probabilités une variable aléatoire positive désigne simplement une fonction mesurable à valeurs positives. Dans notre cadre, où (G, B, Λ) remplace l espace de probabilité, nous chercherons une telle variable aléatoire F comme un foncteur de G dans la catégorie des nombres réels positifs. La petite catégorie formée de l ensemble [0, + ] muni de sa structure triviale (pas de morphisme de x à y sauf si x = y) est trop restreinte, en particulier si Λ est ergodique on vérifie que tout foncteur mesurable à valeurs dans cette catégorie est presque partout constant. Nous remplaçons donc R + par la catégorie, notée R +, des espaces mesurés usuels sans atome. [Un espace mesuré usuel est un triplet (Z, A, α) où (Z, A) est mesurable standard et α est une mesure positive σ-finie.] De même N = {0, 1,..., } est remplacé par la catégorie N des ensembles dénombrables. La mesurabilité d un foncteur F de G dans R + traduit l existence sur l ensemble X = F (x) (réunion disjointe) d une structure mesurable usuelle x G (0) pour laquelle les applications suivantes sont mesurables : La projection π de X sur G (0) La bijection naturelle de π 1 {x} sur F (x), x G (0) L application x α x mesure σ-finie sur F (x) L application qui à (γ, z) G X, s(γ) = π(z) associe F (γ)z X. Bien que cela ne soit pas nécessaire, nous supposerons que X est réunion dénombrable d une suite X n avec α x (X n ) bornée pour tout n. Le module δ de G conduit à définir la condition de variation des mesures (α x ) x G (0) sous la forme F (γ) α x = δ(γ) α y γ G, γ : x y. Si F 1 et F 2 sont des variables aléatoires sur G nous noterons F 1 F 2 la variable aléatoire qui à x G (0) associe F 1 (x) F 2 (x), somme directe des espaces mesurables. On définira de même le produit. Construction de l intégrale F dλ Soient F une variable aléatoire positive sur (G, B, Λ) et X = F (x) l espace x G (0) mesurable correspondant. Pour toute f F + (X) et tout noyau λ sur G l égalité (λ f)(z) = f(γ 1 z) dλ y (γ), y = π(z) G (0) définit λ f F + (X), on a (λ 1 λ 2 ) f = λ 1 (λ 2 f) pour tous les noyaux λ 1, λ 2 et toute f F + (X). Lemme 1. Soit ν E +, fidèle. 20