j. differential geometry 55 (2000) 1-41

L’INVARIANT η POUR LES VARIÉTÉS LIPSCHITZIENNES

MICHEL HILSUM

Abstract

The η-invariant has been defined for C^{∞}-manifolds by M.F. Atiyah, V.K. Patodi and I.M. Singer, and more recently for manifolds with corners by A. Hassell, R. Mazzeo and R.B. Melrose, and for stratified PL manifolds by H. Moscovici and F.B. Wu. In the present work, this invariant is generalized in the framework of lipschitz riemannian manifolds. This involves selfadjoint extensions of the signature operator on a lipschitz manifold with boundary, and measurable differential forms which represent the Pontryagyn classes of the manifold. This allows us to extend from smooth to topological manifolds the Atiyah-Patodi-Singer index theorem for flat bundles.

1. Introduction

Dans ce travail, nous cherchons à généraliser pour une variété lipschitzienne la notion d’invariant η et le théorème d’indice (pour l’opérateur de signature) à coefficients dans un fibré plat de M.F. Atiyah, V.K. Patodi et I.M. Singer [3].

Soit W_{∞} une variété de classe C^{∞}, orientée de dimension impaire, g une structure riemannienne sur W, (E, l, ∇) un fibré hermitien avec connexion unitaire et A l’opérateur de signature associé. La fonction η(s, A) = Tr(A|A|^{−s−1}) est analytique pour ℜ(s) > dim W et admet une extension méromorphe à C, et, par définition, on pose η(W_{∞}, E) = \frac{1}{2}η(0, A) (selon la convention de [3] qui prend en compte que A est la somme directe de deux opérateurs isomorphes). Ce nombre intervient dans le théorème d’indice pour les variétés à bord: soit V_{∞} une variété différentielle orientée de dimension paire, et de bord ∂V_{∞} = W_{∞}, r une structure riemannienne qui s’écrit r = dt^{2}⊕g dans un voisinage tubulaire de W, (Ẽ, l̃, ˜∇) une extension de (E, l, ∇). Notons Ω(V_{∞}) l’espace de Hilbert gradué des formes différentielles de carré intégrable sur V_{∞}, à coefficients dans Ẽ. La fermeture D_{0} dans Ω(V_{∞}) de l’opérateur de signature agissant sur l’espace gradué des formes différentielles C^{∞} à support compact dans l’intérieur de V_{∞} est symétrique, mais n’est pas autoadjoint et vérifie dim ker D_{0}^{∗} = +∞.

Received March 17, 1999.

Il existe une extension autoadjointe graduée à résolvante compacte de D_{0} définie par le projecteur spectral de la partie positive du spectre de A. Soit L(V_{∞}, r) le polynôme de Hirzebruch des formes de Pontryagin de la connexion riemannienne de r. Le Théorème 4 de [3] s’écrit alors:

(1.1) Ind D = ∫_{V_{∞}} ch( ˜∇)L(V_{∞}, r) − η(W_{∞}, E) − \frac{1}{2} dim ker A

Dans le cas scalaire (E trivial de rang 1), cette égalité devient :

Sign(W) = ∫_{V_{∞}} L(V_{∞}, r) − η(W_{∞}). (1.2)

L’invariant η scalaire a été généralisé par H. Moscovici et F.B. Wu pour des SA-sphères riemanniennes, qui sont des variétés semi-linéaires stratifiées [23], par une méthode inductive qui permet de réaliser pour ces variétés le genre L de Hirzebruch dans les groupes d’homologie stratifiée.

Pour des variétés à coins de codimension 2, qui sont des variétés semilinéaires à bord dont l’intérieur est C^{∞}, W. Müller a donné une définition indépendante, de nature combinatoire, et démontré l’égalité (1.2) [25]. A. Hassell, R. Mazzeo et R.B. Melrose [11] donnent une variante de l’invariant de W. Müller à coefficients dans un fibré quelconque, et prouvent que le terme de droite de (1.1) est un entier.

Soit maintenant W une variété lipschitzienne : une telle variété a une classe de mesure qui est égale dans tout ouvert de carte à la classe de Lebesgue, et il existe un complexe (cf. (2.1)) de formes différentielles L^{∞}, introduit par H.Whitney [33] dont la cohomologie est isomorphe à la cohomologie singulière de W [10].

Il existe une variété topologique orienté V telle que ∂V = kW [28], et par un résultat de D. Sullivan, et de J. Luukainen et J. Väisälä [19], une telle variété peut toujours être munie d’une structure lispchitzienne compatible avec celle du bord, et il existe un voisinage U de W isomorphe à [0, 1] × W [32].

Nous montrons qu’il est possible de donner un sens aux termes Ind D et L(V, r), conduisant ainsi à définir η par la formule (1.1).

l’invariant η pour les variétés lipschitziennes 3

Par les résultats de N. Teleman [30], on peut choisir sur W une structure riemannienne mesurable g qui définit un espace de Hilbert de formes différentielles Ω(W) sur lequel agit un opérateur de signature A, densément défini, fermé et symétrique. Choisissons une structure riemannienne r sur V et soit D_{0} l’opérateur de signature associé.

La problème de construire des extensions autoadjointes pour D_{0} a été formulé par W. Müller [24, p. 313], [25, p. 99], pour des variétés à coins.

Soit A l’opérateur de signature sur Ω(W, g) : il est démontré dans [12] que c’est un opérateur autoadjoint à résolvante compacte. En particulier, il y a un calcul fonctionnel pour A. Notons que la fonction analytique η(s, A) est bien définie pour ℜ(s) > dim W, mais nous ne savons pas s’il existe une extension méromorphe à C.

Nous montrons que pour toute partie Y ⊂ R, le projecteur spectral correspondant de A détermine une extension autoadjointe graduée de D qui est à résolvante compacte si et seulement si Y − R_{+} et R_{+} − Y sont compacts (Proposition 3.4).

Cette construction peut être étendue avec des coefficients dans un fibré complexe hermitien avec connexion unitaire lipschitzienne (Ẽ, l̃, ˜∇) sur V. On obtient ainsi des classes non triviales de K_{0}(V/W).

L’indice de ces extensions a une propriété d’additivité par recollement des variétés suivant leur bord (Théorème 4.2). L’indice de l’extension autoadjointe déterminée par R_{+} (Théorème 5.4) s’exprime par la signature de Novikov pour les variétés à bord :

Sign(V) = Ind D + \frac{1}{2} dim H^{∗}(W, R).

Pour définir le terme L(V, r) de la relation (1.1) il est nécessaire de construire localement les classes de Pontryagyn d’une variété topologique; cette question a été posée par S. Novikov [27, remark. 2]. Pour une variété fermée, H. Moscovici et F.B. Wu [22], et A. Connes, D. Sullivan et N. Teleman [8] ont défini localement une famille de cycles d’Alexandre-Spanier de la variété, dont la classe d’homologie est duale du genre L de Hirzebruch.

Il est cependant possible de construire des formes différentielles mesurables, essentiellement bornées, fermées, qui représentent les classes de Pontryagyn de la variété. Cela utilise la notion d’orientation réelle d’un microfibré lipschitzien orienté ξ sur une variété lipschitzienne V. A une orientation réelle κ de ξ correspond explicitement une forme différentielle fermée I_{c}(κ) qui représente le polynôme L de Hirzebruch en les classes de Pontryagyn du microfibré dans la cohomologie L^{∞} de V.

Une orientation réelle détermine une classe de K-théorie du microfibré, qui est égale à la K-orientation aux premiers impairs de D. Sullivan pour les microfibrés semilinéaires [20], et à sa généralisation pour les microfibrés topologiques [13].

On peut alors définir l’invariant η à partir de la relation (1.1) cidessus pour un triplet (W, g, λ) formé par une variété lipschitzienne riemannienne et une orientation réelle. Il s’agit d’une construction intrinsèque qui ne dépend pas du choix de V. Cette approche est similaire à celle utilisée dans [23], mais les méthodes sont différentes.

Revenons au cas d’une variété riemannienne (V_{∞}, r) de classe C^{∞}: il existe alors des orientations réelles particulères κ que nous appelons duales de g. Pour celles-ci, en utilisant le théorème de P. Gilkey [9], la forme I_{c}(κ) est exactement égale à L(V, r), et l’invariant η correspondant est exactement celui d’Atiyah-Patodi-Singer.

Pour les SA-sphères riemanniennes, il existe de même une classe d’orientation réelles duales d’une structure riemannienne stratifiée, et l’invariant η obtenu ici coïncide avec celui de [22]. Cependant, la méthode présente permet de généraliser la définition de [22] à toute variété semilinéaire orientée sur laquelle on a fixé une stratification au sens de N. Levitt [18, 1].

Finalement, nous formulons le théorème d’indice pour les fibrés plats pour les variétés topologiques.

2. Opérateurs de signature

Dans cette section, nous rappelons la définition de l’opérateur de signature de N. Teleman associé à une connexion fixée sur un fibré vectoriel [30].

Soit V une variété lipschitzienne orientée sans bord, n = dim V, C^{l}(V) ⊂ C(V) l’algèbre des fonctions lipschitziennes et E → V un fibré vectoriel complexe lipschitzien. Les changements de carte de la structure de variété de V étant des homéomorphismes bilipschitziens, et on définit par recollement les espaces de Fréchet L_{loc}^{p}(V, Λ(T^{∗}V)⊗E), pour p ∈ [0, +∞]. Soit U ⊂ V un ouvert et φ : U → R^{n} un plongement lipschitzien ; pour ω ∈ L^{∞}(U, Λ^{k}(T^{∗}U)), soit dω la dérivée extérieure distributionnelle, i.e. le courant donné par la formule

∫_{U} dω ∧ α = (−1)^{k−1} ∫_{U} ω ∧ dα

pour α ∈ C_{c}^{∞}(U, Λ^{n−k}(T^{∗}U)). Cela permet alors de définir un opérateur d fermé et un complexe introduit par H.Whitney [33]:

(2.1) ⋯ →^{d} L_{loc}^{p}(V, Λ_{C}^{k}(T^{∗}V)) →^{d} L_{loc}^{p}(V, Λ_{C}^{k+1}(T^{∗}V)) →^{d} ⋯

Si V est compacte, la cohomologie de ce complexe est isomorphe à la cohomologie singulière à coefficients réels H^{∗}(V, R) ([33] pour p = +∞, [10]). Soit C^{l}(V, E) l’espace des sections lipschitziennes de E et C_{c}^{l}(V, E) les sections à support compact. Une connexion sur E est une application continue:

∇ : C^{l}(V, E) → L_{loc}^{∞}(V, T^{∗}V ⊗ E)

et telle que ∇fξ = df ⊗ξ +f∇ξ pour f ∈ C^{l}(V) et ξ ∈ C^{l}(V, E); localement, étant donné un ouvert U et une trivialisation E_{|U} ≃ U × C^{N}, une connexion s’écrit : ∇ = d + θ où θ ∈ L_{loc}^{∞}(U, T^{∗}U) ⊗ L(C^{N}). En utilisant la dérivée distributionnelle, une connexion détermine un opérateur, noté encore ∇, sur les sections mesurables localement intégrables de Λ(T^{∗}V) ⊗ E. La notion suivante est due à V.M. Goldstein, V.I. Kuzminov, et I.A. Svedov [10]:

Définition 2.1. Une connexion ∇ : C^{l}(V, E) → L_{loc}^{∞}(V, T^{∗}V ⊗ E) est lipschitzienne si pour tout σ ∈ C_{c}^{l}(V, E), on a ∇σ ∈ dom ∇ et ∇(∇σ) ∈ L_{loc}^{∞}(V, Λ^{2}(T^{∗}V) ⊗ E)

Une connexion est lipschitzienne si et seulement si dans toute carte locale on a ∇ = d+θ avec dθ ∈ L_{loc}^{∞}(V, Λ^{2}(T^{∗}V)⊗E). En effet, soit ∇ = d + θ une connexion lipschitzienne sur le fibré trivial V × C^{N}; pour tout σ ∈ C^{l}(V, C^{N}), on a d(dσ) = 0 et donc dθσ ∈ L_{loc}^{∞}(V, Λ^{2}(T^{∗}V) ⊗ C^{N}), ce qui implique que pour tout i, j, on a dθ_{i,j} ∈ L_{loc}^{∞}(V, Λ^{2}(T^{∗}V)). Par un procédé de recollement, on en déduit qu’il existe toujours une connexion lipschitzienne et que l’ensemble de ces connexions forment un espace affine non vide. Une connexion lipschitzienne a une courbure ∇ ∘ ∇ ∈ L_{loc}^{∞}(V, Λ^{2}(T^{∗}V) ⊗ E) qui s’étend donc par continuité sur L_{loc}^{∞}(V, E). Localement, si ∇ = d + θ, alors ∇^{2} = dθ + θ ∧ θ.

Si θ : V_{1} → V est un morphisme de variétés lipschitziennes, alors θ^{∗}(∇) est une connexion lipschitzienne sur θ^{∗}(E).

Une connexion est plate, si im ∇ ⊂ dom ∇ et ∇^{2} = 0; une telle connexion est nécessairement lipschitzienne.

Remarque 2.2. Cette notion s’étend sans problème au cas où V est un variété lipsichtzienne à bord ∂V = W. En particulier, si E est un fibré vectoriel complexe lipschitzien sur V et ∇^{W} est une connexion lipschitzienne sur la restriction de E à W, il existe alors une connexion lipchitzienne ∇ de E sur V tel que i^{∗}(∇) = ∇^{W}, où i : W → V est l’injection canonique.

Le théorème classique de Chern-Weil dans ce cadre a été généralisé dans [10]:

Proposition 2.3. Soit V une variété compacte sans bord, E un fibré vectoriel complexe sur V, ∇ une connexion lipschitzienne sur E et ∇^{2} sa courbure. La forme différentielle

Ch(∇) = det(1 + \frac{1}{2πi}∇^{2})

est fermée et représente le caractère de Chern de [E] ∈ K_{0}(V) dans la cohomologie du complexe L^{∞}(V, Λ^{∗}(T^{∗}V)).

Fixons sur la variété V une structure riemannienne r et sur le fibré E une structure hermitienne. L’opérateur de Hodge associé à r, noté habituellement ∗, est le champ d’unitaires de Λ_{C}(T^{∗}V) déterminé en x ∈ V par ∗ ∧_{i∈I} e_{i}(x) = ε(I) ∧_{i∉I} e_{i}(x) où e_{i}(x) est une base orthonormale de T_{x}^{∗}V pour r_{x} et ε(I) ∈ {−1, 1}.

Soit Ω(V, E, r) l’espace de Hilbert complété de l’espace préhilbertien L_{comp}^{2}(V, Λ_{C}(T^{∗}V) ⊗ E)) pour le produit scalaire (α, β) = ∫_{V} α ∧ ∗β̄. Cet espace sera noté plus simplement Ω(V, r) lorsque E = V × C, et Ω(V, E) (resp. Ω(V)) lorsqu’aucune confusion n’est à craindre sur les choix faits.

A l’opérateur de Hodge, on associe une involution unitaire τ de Ω(V, E) donné par, pour ω de degré p :

τω = \begin{cases}i^{p(p−1)+m} ∗ ω & si n = 2m \\ i^{p(p+1)+m} ∗ ω & si n = 2m − 1 \end{cases}

La formule est bien connue dans le cas pair ; vérifions la dans le cas impair : on a τ^{2}α = i^{u}α, ∂α = p, avec :

\begin{matrix}u = & p(p + 1) + m + (2m − 1 − p)(2m − p) + m \\ = & 4m^{2} − 4mp + 2p(p + 1) ≡ 0 mod 4 \end{matrix} (2.2)

Si la structure hermitienne est lipschitzienne, par un argument classique de recollement, il existe alors des connexions hermitiennes lipschitziennes. Soit ∇ une telle connexion qui détermine alors un opérateur ¯∇ densément défini et fermé sur Ω(V, E). Le domaine de ¯∇ est formé des formes ω ∈ Ω(V, E) telles qu’il existe φ ∈ Ω(V, E) telle que pour tout ouvert de carte U ⊂ V, on ait ∇_{U}ω = φ où ∇_{U} est la dérivée covariante au sens des distributions de la restriction de ∇ à U. Soit ∇_{0} la fermeture de la restriction de ¯∇ au sous-espaces de formes différentielles à support compact.

Lemme 2.4. L’adjoint de ∇_{0} est l’opérateur ∇_{0}^{∗} = (−1)^{n−1}τ ¯∇τ, de domaine τ(dom ¯∇).

Démonstration. Vérifions le dans le cas impair n = 2m − 1. On a ∇_{0}^{∗} = (−1)^{n−1+p} ∗ ¯∇∗ [12], et τ ¯∇τ = i^{v} ∗ ¯∇∗, avec:

\begin{matrix}v = & p(p + 1) + m + (2m − p)(2m − p + 1) + m \\ = & 4m^{2} − 4mp + 2p(p + 1) − 2p ≡ 2p mod 4. \end{matrix} (2.3)

q.e.d.

L’opérateur D^{E} = ∇_{0} + (−1)^{n−1}τ∇_{0}τ = ∇_{0} + ¯∇^{∗} est densément défini et symétrique, et anticommute à τ si n est pair. Si n est impair, D^{E} commute à τ, et l’opérateur symétrique A^{E} = τ∇_{0} + ∇_{0}τ = τD^{E} laisse stable les formes de degrés pair ou impair.

L’énoncé suivant est démontré dans [12].

Théorème 2.5. Soit (V, r) une variété lipschtizienne riemannienne sans bord et orienté, E un fibré vectoriel hermitien et ∇ une connexion hermitienne lispchitzienne sur E et D^{E} = ∇_{0} + ¯∇^{∗} l’opérateur de signature. Pour tout f ∈ C_{c}(V), f(i + D^{E∗}D^{E})^{−1} est un opérateur compact. Si la variété V est complète pour la distance associée à r, D^{E} = ∇_{0} + ¯∇^{∗} est autoadjoint, et le couple (Ω(V, E), D) détermine une classe dans le groupe de K-homologie K_{n}(V) qui ne dépend que de la structure lipschitzienne et de l’image de E dans K^{0}(V).

3. Extensions autoadjointes sur les variétés à bord

Dans cette section, nous décrivons les extensions autoadjointes de l’opérateur de signature sur une variété lipschtizienne compacte orientée à bord, à partir des projecteurs spectraux de l’opérateur correspondant sur le bord, et nous montrons que, à un ensemble compact près, seule la partie positive du spectre de cet opérateur permet d’obtenir une extension à résolvante compacte.

3.1 Le cas d’un produit

Soit H un espace de Hilbert; on note C_{b}^{∞}(]0, 1[, H) l’espace des fonctions de classe C^{∞} pour la topologie forte et ayant toutes leurs dérivées bornées. Soit C^{∞}([0, 1], H) ⊂ C_{b}^{∞}(]0, 1[, H) le sous-espace constitué des fonctions ayant, ainsi que toutes leurs dérivées des limites en 0 et 1 et C_{c}^{∞}(]0, 1[, H) ⊂ C_{b}^{∞}(]0, 1[, H) le sous-espace des fonctions à support compact dans ]0, 1[. Soit A un opérateur densément défini et autoadjoint sur H, et T, T_{0} les opérateurs fermés sur L^{2}([0, 1], H) suivants: T est la fermeture de −\frac{∂}{∂t} ⊗1+1⊗A sur C^{∞}([0, 1], H)∩dom(1⊗A) et T_{0} la fermeture de \frac{∂}{∂t} ⊗1+1⊗A sur C_{c}^{∞}(]0, 1[, H)∩dom(1⊗A). Remarquons que T_{0} et donc T sont densément définis : en effet, C_{c}^{∞}(]0, 1[) est dense dans L^{2}([0, 1]), dom A est dense dans H et le domaine de T_{0} contient le produit tensoriel algébrique C_{c}^{∞}(]0, 1[) ⊗ dom A qui est dense dans L^{2}([0, 1], H) ≃ L^{2}([0, 1]) ⊗ H.

Lemme 3.1. On a l’égalité T = T_{0}^{∗}.

Démonstration. Soit ζ ∈ dom T_{0}^{∗}. Par hypothèse, il existe k > 0 tel que pour ξ ∈ dom T_{0}, on ait : < T_{0}ξ, ζ >≤ k∥ξ∥. Soit s > 1 et P_{s} le projecteur spectral de A correspondant à l’intervalle [log s, − log s], et soit ζ_{s} = (1⊗P_{s})ζ; on a 1⊗P_{s} dom T_{0} ⊂ dom T_{0} et (1⊗P_{s})T_{0} = T_{0}(1⊗P_{s}) et donc ζ_{s} ∈ dom T_{0}^{∗} et T_{0}^{∗}ζ_{s} = (1 ⊗ P_{s})T_{0}^{∗}ζ. On a de plus lim_{s↦0} ζ_{s} = ζ et lim_{s↦0} T_{0}^{∗}ζ_{s} = T_{0}^{∗}ζ puisque P_{s} tend fortement vers 1 dans L(H). Il suffit donc de démontrer l’égalité de cet énoncé en remplaçant A par P_{s}A et H par im P_{s}, ce qui revient à supposer que l’opérateur A est borné. Or, comme (T_{0} + B)^{∗} = T_{0}^{∗} + B pour tout B = B^{∗} borné, on peut supposer A = 0.

Soit Q_{n} une suite croissante de projecteurs hermitiens de dimension finie convergeant fortement vers 1; par un raisonnement strictement analogue à celui du début de cette démonstration, on peut remplacer H par im Q_{n} et donc supposer que dim H < +∞. Dans ce cas, le résultat est bien connu et résulte d’une convolution par une suite régularisante.

q.e.d.

Soit Y ⊂ R et P le projecteur spectral de A correspondant à Y. Soit Z ⊂ L^{2}([0, 1]) ⊗ H ⊗ C^{2} le sous-espace des éléments (ξ_{1}, ξ_{2}) ∈ C_{b}^{∞}(]0, 1[) ⊗ H ⊗ C^{2} tels que pour la topologie forte:

lim_{t→0} P ξ_{1}(t) = lim_{t→1}(1 − P)ξ_{1}(t) = 0
lim_{t→1} P ξ_{2}(t) = lim_{t→0}(1 − P)ξ_{2}(t) = 0. (3.1)

Soit Ψ_{0}(A) la fermeture de l’opérateur défini sur C_{c}^{∞}(]0, 1[)⊗H⊗C^{2} et donné par la matrice 2 × 2 :

(\begin{matrix}0 & −\frac{∂}{∂t} + 1 ⊗ A \\ \frac{∂}{∂t} + 1 ⊗ A & 0 \end{matrix}) .

Soit Ψ(A) la fermeture de la restriction à Z de Ψ_{0}(A)^{∗}.

Lemme 3.2. L’opérateur Ψ(A) est autoadjoint.

Démonstration. Montrons que Ψ(A) = Ψ(A)^{∗}. Notons que Ψ(A) commute à 1 ⊗ P ⊗ 1 et on peut écrire Ψ(A) = Ψ^{+}(A) + Ψ^{−}(A) dans la décomposition en somme directe H = P H + (1 − P)H. Montrons que Ψ^{+}(A) est autoadjoint; le raisonnement pour Ψ^{−}(A) est strictement analogue. L’opérateur Ψ^{+}(A) est la fermeture de l’opérateur défini pour (ξ_{1}, ξ_{2}) ∈ C_{b}^{∞}(]0, 1[)⊗P H⊗C^{2} et tels que lim_{t=0} ξ_{1}(t) = lim_{t=1} ξ_{2}(t) = 0 et donné par la matrice:

(\begin{matrix}0 & −\frac{∂}{∂t} + 1 ⊗ A \\ \frac{∂}{∂t} + 1 ⊗ A & 0 \end{matrix}) .

Soit ζ ∈ dom Ψ^{+}(A)^{∗} et soit φ ∈ C_{c}^{∞}([0, 1[), telle que φ(0) = 1 et 0 ≤ φ ≤ 1. Avec les notations du lemme précédent, les opérateurs:

R_{1} = (\begin{matrix}0 & T \\ T_{0} & 0 \end{matrix}) et R_{2} = (\begin{matrix}0 & T_{0} \\ T & 0 \end{matrix})

sont autoadjoints et on a φζ ∈ dom R_{1} et (1 − φ)ζ ∈ dom R_{2}, ce qui implique réciproquement que φζ, (1−φ)ζ et donc ζ sont dans le domaine de Ψ^{+}(A). q.e.d.

Il est important de savoir quand la résolvante (i + Ψ(A))^{−1} est compacte. Il est nécessaire d’établir un lemme préliminaire. Soit S la fermeture dans L^{2}([0, 1]) de −∂^{2}/∂t^{2} sur C_{c}^{∞}(]0, 1[) et soit Δ_{i}(λ) pour i = 1, 2, 3, 4 l’extension autoadjointe de S + λ^{2} sur C^{∞} avec les conditions au bord:

f(0) = f′(1) + λf(1) = 0 pour Δ_{1}(λ)
f(1) = f′(0) − λf(0) = 0 pour Δ_{2}(λ)
f(1) = f′(0) + λf(0) = 0 pour Δ_{3}(λ)
f(0) = f′(1) − λf(1) = 0 pour Δ_{4}(λ).

Lemme 3.3. Les résolvantes (1 + Δ_{j}(λ))^{−1} sont compactes et on a Δ_{1}(λ) = Δ_{3}(−λ), Δ_{4}(λ) = Δ_{2}(−λ). Pour λ ≥ −1 et pour j = 1, 2 le spectre de Δ_{j}(λ) est donné par une suite croissante λ^{2} + μ_{k}(λ)^{2} avec \sqrt{μ_{k}(λ)} ∈ [kπ − \frac{π}{2} , kπ + \frac{π}{2} ].

Pour λ < −1, et pour j = 1, 2 le spectre de Δ_{j}(λ) est égal à la réunion de l’ensemble précédent d’une valeur propre double μ_{−1}(λ) ≤ 0 où |μ_{−1}(λ)| ≤ λ^{2} exp(λ) quand λ → −∞.

Démonstration. Calculons le spectre de Δ_{j}(λ). Les indices de défaut dim ker(S^{∗} ± i) sont égaux et finis. En effet, on a

ker(S^{∗} − i) = C exp(z_{1}t) + C exp(z_{2}t)
ker(S^{∗} + i) = C exp(z_{3}t) + C exp(z_{4}t)

où z_{1}, z_{2} (resp. z_{3}, z_{4}) sont les racines carrées de −i (resp. i). Par conséquent, toutes les extensions autoadjointes de S sont à résolvante compacte et donc le spectre de Δ_{j}(λ) est constitué de valeurs propres de multiplicité finie.

Les fonctions propres sont nécessairement de la forme

f_{μ}(t) = a_{1} exp(tμ) + a_{2} exp(−tμ)

pour μ ∈ R ∪ iR et a_{1}, a_{2} ∈ C. Nous explicitons d’abord les calculs dans le cas j = 1. Pour que f_{μ} soit dans dans le domaine de Δ_{1}(λ), il faut et il suffit que les deux équations suivantes soient satisfaites:

a_{1} + a_{2} = 0
a_{1}λ exp μ + a_{2}λ exp(−μ) + a_{1}μ exp μ − a_{2}μ exp(−μ) = 0

Il faut donc et il suffit que μ satisfasse à l’équation:

μ + λ tanh μ = 0,

dont les solutions imaginaires μ = iα, avec α ∈ R vérifient l’équation α = λ tan α. On a une suite (α_{n}(λ))_{n∈Z} de solutions avec α_{n}(λ) ∈ [nπ − \frac{π}{2} , nπ + \frac{π}{2} ]; à la suite α_{n}(λ), correspond alors la suite de valeurs propres de multiplicité 1 : λ^{2} + α_{n}(λ)^{2} ∼ λ^{2} + n^{2}π^{2}.

Pour les solutions réelles, notons que la fonction μ + λ tanh μ a pour limite −∞ en −∞ et +∞ en +∞ et a pour dérivée 1 + λ(cosh μ)^{−2}. Cette dérivée est strictement positive si λ > −1, si λ = −1, elle s’annule en 0 et est strictement positive sinon et si λ < −1, il existe alors u > 0 telle qu’elle s’annule en ±u, est de signe > 0 si |μ| > u et de signe < 0 si |μ| < u. Par conséquent, il n’y a pas de solutions réelles ≠ 0 si λ ≥ −1 et il y a deux solutions réelles ≠ 0 , ±μ(λ) sinon et on a lorsque λ → −∞:

lim λ^{2} − μ(λ)^{2} = 0

En effet, soit μ(λ) l’unique racine strictement positive de l’équation μ + λ tanh μ = 0. On a |λ|/2 ≤ μ(λ) ≤ |λ| pour λ assez grand. Par ailleurs, on sait que pour x ≥ 0, on a 1 − tanh x ≤ \frac{1}{2} exp(−2x), puisque :

1 − tanh x = ∫_{x}^{+∞} \frac{1}{cosh^{2} u}du ≤ ∫_{x}^{+∞} exp(−2u)du ≤ \frac{1}{2} exp(−2x).

On en déduit alors que |μ(λ) + λ| ≤ −\frac{1}{2}λ exp(λ) et donc que |λ^{2} − μ(λ)^{2}| ≤ λ^{2} exp(λ) qui tend vers 0 quand λ → −∞.

Le spectre de Δ_{1}(λ) est donc l’ensemble constitué uniquement de la suite λ^{2} + α_{n}(λ)^{2} si λ ≥ −1, et si λ < −1, il est égal à la réunion de l’ensemble précédent avec {λ^{2} − μ(λ)^{2}}, cette dernière valeur propre étant de multiplicité deux.

En utilisant la transformation u → \frac{1}{2} − u, Δ_{2}(λ) est unitairement équivalent à Δ_{1}(λ), et ils ont le même spectre. q.e.d.

En résumé, on a :

Proposition 3.4. La résolvante (i + Ψ(A))^{−1} est compacte si et seulement si (i + A)^{−1} l’est et si les ensembles Y ∩ R_{−} et (R − Y) ∩ R_{+} sont compacts.

Démonstration. Supposons d’abord que (i + A)^{−1} est compact. Soit λ un réel et T (λ) (resp. T̃(λ)) la fermeture dans L^{2}([0, 1]) de l’opérateur f ↦ f′ + λf avec f ∈ C^{∞}([0, 1]), f(0) = 0 (resp. f(1) = 0) . Soit e_{n} une base orthonormale de vecteurs propres de A et λ_{n} la valeur propre correspondante. On a une décomposition L^{2}([0, 1]) ⊗ H ⊗ C^{2} = ∑^{⊕} L^{2}([0, 1], dt)⊗Ce_{n}⊗C^{2} et l’opérateur D est égal à la somme directe orthogonale

∑_{λ∈Y} (\begin{matrix}0 & T (λ)^{∗} \\ T (λ) & 0 \end{matrix}) ⊕ ∑_{λ∉Y} (\begin{matrix}0 & T̃(λ)^{∗} \\ T̃(λ) & 0 \end{matrix}) .

L’opérateur T (λ)^{∗} est la fermeture de l’opérateur f → −f′ +λf avec la condition au bord f(1) = 0 et T̃(λ)^{∗} est la fermeture de l’opérateur f → −f′ + λf avec la condition au bord f(0) = 0, de sorte que Δ_{1}(λ) = T (λ)^{∗}T (λ), Δ_{2}(λ) = T (λ)T (λ)^{∗}, Δ_{3}(λ) = T̃(λ)^{∗}T̃(λ), et Δ_{4}(λ) = T̃(λ)T̃(λ)^{∗}, et donc :

D^{2} = ∑_{λ∈Y} (\begin{matrix}Δ_{1}(λ) & 0 \\ 0 & Δ_{2}(λ) \end{matrix}) ⊕ ∑_{λ∉Y} (\begin{matrix}Δ_{3}(λ) & 0 \\ 0 & Δ_{4}(λ) \end{matrix}) .

Le lemme précédent permet alors de conclure.

Supposons à présent que (i + A)^{−1} n’est pas compact. Il existe alors un s ≥ 0 tel que le projecteur spectral P_{s} de A associé à l’interval [−s, +s] soit de dimension infinie. En considérant l’opérateur exp(tA), on est ramené comme dans la démonstration du lemme précédent au cas où A = 0. Soit e_{n} une base orthonormale de H et f ∈ C_{c}^{∞}(]0, 1[) telle que ∫_{0}^{1} |f(t)|^{2}dt = 1 et ξ_{n} = (f ⊗e_{n}, 0) et ζ_{n} = (f ⊗e_{n}, f′ ⊗e_{n}). On a ∥ξ_{n} − ξ_{m}∥ = \sqrt{2}, pour m, n ≥ 0, la suite ζ_{n} est de norme constante et (i + Ψ(A))^{−1}ζ_{n} = ξ_{n} , ce qui montre que l’opérateur (i + Ψ(A))^{−1} n’est pas compact. q.e.d.

3.2 Le cas général

Soit W une variété lipschitzienne de dimension impaire 2m − 1, compacte, orientée, sans bord et g une structure riemannienne sur W. Dans ce paragraphe, nous notons γ l’involution unitaire de Hodge sur Λ_{C}(T^{∗}W) donnée par (avec p = ∂α):

γα = i^{p(p+1)+m} ∗ α.

Notons d_{ℓ} la différentielle de de Rham sur W, et soit A = d_{ℓ}γ + γd_{ℓ}, l’opérateur de signature agissant sur Ω(W, g).

Soit V une variété lipschitzienne, orientée, compacte, de dimension paire n = 2m, à bord ∂V = W, et r une structure riemannienne sur V − W. On note encore Ω(V) l’espace de Hilbert des formes différentielles mesurables de carré intégrable sur V − W, et τ l’involution de Hodge correspondante. On note d l’opérateur fermé sur Ω(V) obtenu à partir de l’opérateur de Rham sur V −W, et d_{0} la fermeture de la restriction de d aux formes à support compact dans V − W. L’opérateur de signature minimal est l’opérateur fermé symétrique densément défini D_{0} = d_{0} − τd_{0}τ.

Supposons que V = W × [0, 1], r = g ⊕ dt^{2} et que les orientations de V et de W sont compatibles dans le sens où si ω est une n − 1 forme non nulle dans la classe d’orientation de V, alors ω ∧ dt est dans la classe d’orientation de V. Une forme différentielle mesurable sur V s’écrit uniquement ω = α + dt ∧ β où t → α(t), β(t) sont des sections mesurables de Λ_{C}(T^{∗}W). On a alors, avec p = ∂α = ∂β + 1 :

τω = −γβ − dt ∧ γα.

Soit Z_{c} ⊂ Ω(V) le sous espace des formes ω = α + dt ∧ β telles que α, β ∈ C_{c}^{∞}(]0, 1[, H) ∪ dom(1 ⊗ A). C’est une conséquence directe de [13, Lemme 1.9] que Z_{c} est un domaine essentiel de D_{0} et pour ω ∈ Z_{c}, on a:

dω = d_{ℓ}α + dt ∧ (\frac{∂}{∂t}α − d_{ℓ}β) (3.2)

−τdτ = γd_{ℓ}γα − \frac{∂β}{∂t} − dt ∧ γd_{ℓ}γβ (3.3)

D_{0}ω = γAα − \frac{∂β}{∂t} + dt ∧ (\frac{∂α}{∂t} − γAβ) (3.4)

Soit Φ l’isomorphisme de Ω(W) ⊗ L^{2}([0, 1]) ⊗ C^{2} avec Ω(V) donné par:

Φ(ω_{1}, ω_{2}) = \frac{1}{2}(ω_{1} − dt ∧ γω_{1} + γω_{2} + dt ∧ ω_{2}). (3.5)

On a Φ^{∗}(α+dt∧β) = (α−γβ, γα+β) et l’involution τ est transformée par Φ en la matrice 2 × 2 :

(\begin{matrix}1 & 0 \\ 0 & −1 \end{matrix})

Lemme 3.5. Les opérateurs (fermés) Φ^{∗}D_{0}Φ et Ψ_{0}(A) sont égaux.

Démonstration. Le sous-espace Z_{c} est un domaine essentiel de D_{0} et par définition, Φ^{∗}(Z_{c}) est un domaine essentiel de Ψ_{0}(A), et enfin pour ξ ∈ Z_{c}, on a Ψ_{0}(A)Φ(ξ) = ΦD_{0}ξ. q.e.d.

Soit Y ⊂ R une partie remplissant les conditions du Proposition 3.4 et P la projection spectrale de A correspondante et soit Z ⊂ Φ^{∗}(Z_{c}) le sous-espace défini par les conditions (3.1). La fermeture de la restriction de D_{0}^{∗} à Φ(Z) s’identifie donc, par Φ, à l’opérateur Ψ(A) du Proposition 3.4.

Toute cette discussion s’étend au cas de l’opérateur de signature A^{E} à coefficients dans un fibré complexe hermitien E sur W, avec connexion unitaire ∇, et en prenant sur W × [0, 1] la connexion ∇ ⊗ 1 + 1 ⊗ ∂_{t}.

Revenons au cas d’une variété V quelconque. Il existe un voisinage U de W et un homéomorphisme bilipschitzien φ de U avec [0, 1[×W [19, th. 7.5]. Soit g, resp. r, une métrique riemannienne sur W, resp. V telles que la restriction de r à U est équivalente, modulo φ, à la métrique dt^{2} ⊕ g, et E un fibré lipschitzien complexe hermitien sur V. Si ∇ est une connexion lipschitzienne de la restriction de E à W alors il existe une connexion lipschitzienne ˜∇ de E sur V dont la restriction à U ≃ W × [0, 1] s’écrive:

˜∇ = ∇ ⊗ 1 + 1 ⊗ ∂_{t}

Définition 3.6. Avec ces notations , nous disons que r, ˜∇ sont compatibles sur U avec g et ∇.

Soit R : Ω(V) → Ω(U) la projection orthogonale et soit f : V → [0, 1] lipschitzienne telle f ≡ 0 au voisinage de W et f ≡ 1 au voisinage de V − U. Soit Y ⊂ R et Ψ(A^{E}) l’extension autoadjointe définie cidessus. On définit une extension D^{E} de D_{0} en prenant le domaine de D égal à l’espace des formes différentielles ω ∈ Ω(V) telles que fω ∈ dom D_{0} et R((1 − f)ω) ∈ dom Ψ(A^{E}) et on pose D^{E}ω = D_{0}fω + Ψ(A^{E})(1 − f)ω. Cette définition est indépendante du choix de f. En effet, soit f_{1} une autre fonction obéissant aux conditions ci-dessus et D_{1}^{E} l’opérateur associé; on a alors, par le lemme précédent:

(D^{E} − D_{1}^{E})ω = D_{0}(f − f_{1})ω + Ψ(A^{E})R(f_{1} − f)ω = 0

Proposition 3.7. Pour tout Y ⊂ R, D^{E} est une extension autoadjointe de D_{0}, et (i + D^{E})^{−1} est un opérateur compact si et seulement si Y − R_{+} et R_{+} − Y sont des ensembles bornés.

Démonstration. Cela résulte du Théorème 2.5 et de la Proposition 3.4. q.e.d.

Remarque 3.8. Dans le cas où Y = R_{+}, on retrouve exactement l’extension autoadjointe d’Atiyah-Patodi-Singer [3]. C’est cette particulière extension que nous utiliserons par la suite.

4. Recollement

Dans cette section, nous fixons une variété riemannienne orientée à bord (V, r) et nous supposons que le bord W de cette variété est muni d’un structure riemannienne g compatible avec r sur un ouvert et U ≃ W × [0, 1]. Soit A = γd_{ℓ} + d_{ℓ}γ l’opérateur de signature sur W considéré ci-avant et D l’extension autoadjointe associée à Y = R_{+} sur Ω(V) de l’opérateur de signature sur V.

4.1 Vitesse de propagation finie

Le noyau de exp(itD) vérifie un analogue de la propriété de vitesse de propagation finie comme dans [13, section 2]. Soit d la distance sur V induite par la structure riemannienne, et la fonction lipschitzienne p : V → [0, 1] donnée par p(v) = s si v ∈ U et v = (s, x) et p(v) = 1 si x ∉ U. Posons Z_{t} = {(x, y); (x, y) ∈ V × V et d(x, y) ≤ |t|} ∪ {(x, y); (x, y) ∈ Ū × Ū et |p(x) − p(y)| ≤ |t|}. Si a est un opérateur sur Ω(V, r), le support de a est le complémentaire du plus grand ouvert Z ⊂ V × V tel que φaψ = 0 pour support(φ) × support(ψ) ⊂ Z. On a support(ab) ⊂ support(a) ∘ support(b) pour a, b ∈ L(Ω(V, r)), où support(a) ∘ support(b) = {(x, y); ∃z ∈ V, (x, z) ∈ support(a), (z, y) ∈ support(b)} est le produit induit par la structure de groupoïde sur V ×V.

Lemme 4.1. On a l’inclusion support(exp(itD)) ⊂ Z_{t}.

Démonstration. Il suffit de le montrer pour |t| < \frac{1}{4}, puisque (Z_{t})^{∘n} = Z_{nt} et que support(exp(nitD)) ⊂ support(exp(itD))^{∘n}.

Soit φ, ψ ≥ 0, lipschitziennes telles que support(φ) × support(ψ) ∈ V ×V −Z_{t} et 0 < α < \frac{t}{2}. Si support(φ), support(ψ) ⊂ V −W, l’assertion résulte alors de [13, cor. 1.11]. Sinon on peut écrire par exemple φ = φ_{1} + φ_{2} avec support(φ_{1}) ⊂ [0, 2α] × W et support(φ_{2}) ∩ [0, α] × W = ∅, et φ_{1} ≠ 0, et alors support(ψ) ∩ ([0, 2α + t] × W) = ∅. Le commutateur [D, p] est défini sur dom D et borné, on a [[D, p], p] = 0 et ∥dp∥ ≤ 1. Par [13, Lemme 1.10], on a (p − 2α)_{−} exp(itD)(p − (2α + t))_{+} = 0, ce qui entraîne φ_{1} exp(itD)ψ = 0. q.e.d.

4.2 Propriété de recollement

Soit (V_{1}, r_{1}) une autre variété riemannienne compacte orientée à bord ∂V_{1} = W, et telle que l’orientation de W induite par celle de V_{1} soit l’opposée de celle induite par V. Soit V_{2} la variété orientée V_{2} = V_{1}∪_{W} V, D_{1} l’extension autoadjointe associée à Y = R_{+} sur V_{1}, D_{2} l’opérateur de signature sur V_{2}.

Théorème 4.2. On a l’égalité Ind D_{2}−dim ker A = Ind D_{1}+Ind D.

Démonstration. On note indifféremment Tr_{s} la trace graduée sur Ω(V_{i}, E_{i}), et Ω(V, E), donnée par la formule:

Tr_{s}(a) = \frac{1}{2}(Tr((τ − 1)a) − Tr((1 + τ)a))

Soit U_{1} ⊂ V_{1} un voisinage de W tel que U_{1} ≃ [−1, 0] × Z, et φ : V → [0, 1], lipschitzienne, telle que φ ≡ 0 sur V − U et φ(t, x) = 0 si t ≥ (1 − α), φ(t, x) = 1 si t ≤ α, et soit φ_{1} une fonction analogue pour U_{1} sur V_{1} et φ_{2} ∈ C^{l}(V_{2}) la fonction obtenue par recollement de φ et de φ_{1}.

Choisissons une fonction f ∈ S(R), f(0) = 1, f(u) = f(−u) et support f̂ ⊂] − α, α[. On a alors: Ind D_{2} = Tr_{s}((1 − φ_{2})f(D_{2})) + Tr_{s}(φ_{2}f(D_{2})) et donc par le lemme précédent, on a:

Ind D_{2} = Tr_{s}((1 − φ)f(D)) + Tr_{s}((1 − φ_{1})f(D_{1})) + Tr_{s}(φ_{2}f(D_{2}))

Il suffit alors de montrer l’égalité

Tr_{s}(φf(D)) + Tr_{s}(φ_{1}f(D_{1})) − Tr_{s}(φ_{2}f(D_{2})) + dim ker A = 0.

Soit D̂ l’opérateur de signature sur la variété sans bord compacte S^{1} × W; on a l’expression, par rapport à la graduation:

D̂^{2} = (\begin{matrix}−\frac{∂^{2}}{∂t^{2}} + A^{2} & 0 \\ 0 & −\frac{∂^{2}}{∂t^{2}} + A^{2} \end{matrix})

Comme f est paire, il existe une fonction g telle que g(x^{2}) = f(x) et on a Tr_{s}(θf(D̂)) = Tr_{s}(θg(D̂^{2})) = 0 pour toute fonction continue θ sur S^{1}. Par [13, Lemme 1.10], on en déduit Tr_{s}(φ_{2}f(D_{2})) = 0 .

Soit D̂_{1} l’extension autoadjointe sur ] − 1, 1[×Z ⊂ S^{1} × W avec les conditions au bord suivantes: soit P le projecteur spectral de A associé aux réels positifs, et P_{0} celui associé aux réels strictement positifs. En identifiant comme précédemment Ω(] − 1, 1[×W) avec Ω(W) ⊗ L^{2}(] − 1, 1[) ⊗ C^{2}, l’opérateur D̂_{1} est alors associé aux conditions aux bord:

\begin{aligned}P ξ_{1}(−1) & = (1 − P)ξ_{2}(−1) = 0 \\ P_{0}ξ_{2}(1) & = (1 − P_{0})ξ_{1}(1) = 0 \end{aligned}

On a Ind D̂_{1} = − dim ker A, et, par le Lemme 4.1, Tr_{s}(φf(D)) + Tr_{s}(φ_{1}f(D_{1})) = Tr_{s}(φ̂f(D̂_{1})), d’où l’égalité. q.e.d.

Remarque 4.3. La proposition précédente reste vraie si l’on suppose seulement que W est une composante du bord de V et du bord de V_{1}. On a aussi la variante suivante, qui se démontre de la même façon: soit Z compacte orientée et W_{i} ⊂ ∂Z pour i = 1, 2 deux composantes isomorphes à W, et θ : W_{1} → W_{2} un isomorphisme et soit Z_{1} la variété obtenue en identifiant W_{1} et W_{2} à l’aide de θ. Soit E un fibré avec connexion ∇ sur Z triviale au voisinage du bord: on peut associer un fibré E_{1} avec connexion ∇_{1} sur Z_{1}. On a l’égalité:

Ind D^{E} = Ind D^{E_{1}} − dim ker A

5. Propriétés cohomologiques

La signature topologique Sign(V) d’une variété à bord est la signature de la forme d’intersection sur le groupe de cohomologie relative noté Ĥ^{∗}(V) = im(H^{∗}(V, W) → H^{∗}(V)), où ces derniers groupes sont ceux de la cohomologie singulière à coefficients complexes. Nous calculons ici Sign(V) à partir de Ind(D) et généralisons ainsi pour une variété lipschitzienne le théorème de [3].

Les groupes H^{∗}(V, W), H^{∗}(V) sont interprétables en terme de groupes de cohomologie L^{2} associé à d_{0} et à d, i.e. H_{2}^{∗}(V) = ker d/ im d et H_{2,0}^{∗}(V) = ker d_{0}/ im d_{0}. Nous redémontrons d’abord dans des conditions plus générales la suite de Meyer-Vietoris en cohomologie L^{2} établie par J. Cheeger [7]:

Lemme 5.1. Soient U_{1} et U_{2} deux ouverts de V tels que U_{1} ∪ U_{2} = V, et tels qu’il existe φ : U_{1} ∪ U_{2} ↦ [0, 1], lipschitzienne, à support dans U_{1}, φ ≡ 1 sur U_{1} − U_{1} ∩ U_{2} et |dφ| ∈ L^{∞}(V). Le diagramme suivant est exact:

→ H_{2}^{p−1}(U_{1} ∩ U_{2}) → H_{2}^{p}(V) → H_{2}^{p}(U_{1}) ⊕ H_{2}^{p}(U_{2})
→ H_{2}^{p}(U_{1} ∩ U_{2}) → H_{2}^{p+1}(V) → .

Démonstration. Etant donné U ⊂ V un ouvert, notons dom^{p}(U), les éléments du domaine de d sur Ω(U) de degré p, d_{i} (resp. d_{1,2}) la différentielle extérieure sur U_{i} (resp. U_{1} ∩ U_{2}). Il suffit d’établir l’exactitude de la suite de complexes :

{0} → dom^{p}(V) → dom^{p}(U_{1}) ⊕ dom^{p}(U_{2}) → dom^{p}(U_{1} ∩ U_{2}) → {0}

Soit ω ∈ dom^{p}(U_{1} ∩ U_{2}), ψ_{1} la restriction de (1 − φ) à U_{1} et ψ_{2} celle de φ à U_{2}. On définit ω_{i} ∈ dom^{p}(U_{i}) en prolongeant ψ_{i}ω à U_{i} par 0, ω_{i} ∈ Ω(U_{i}) et ω = ω_{1} + ω_{2}. Montons que ψ_{i}ω ∈ dom^{p}(U_{i}) et d_{i}ψ_{i}ω = ψ_{i}d_{1,2}ω + d_{i}ψ_{i} ∧ ω; soit Z ⊂ U_{i} un ouvert de carte de la variété V, et α ∈ C_{c}^{∞}(U, Λ^{p}(T^{∗}U)); on a support ψ_{i}α ⊂ U_{1} ∩ U_{2}, et par définition:

∫_{U_{i}} d_{1,2}ω ∧ ψ_{i}α = (−1)^{∂ω+1} ∫ ω ∧ d_{1,2}ψ_{i}α
= (−1)^{∂ω+1} ∫ ω ∧ (ψ_{i}d_{i}α + d_{i}ψ_{i} ∧ α)

et donc:

∫ ψ_{i}ω ∧ d_{i}α = (−1)^{∂ω} ∫_{U_{i}} ψ_{i}d_{1,2}ω ∧ α + d_{i}ψ_{i} ∧ ω ∧ α

ce qui montre la surjectivité à droite du diagramme.

Soient ω_{i} ∈ dom^{p}(U_{i}) tels que ω_{1} = ω_{2} sur U_{1} ∩ U_{2}. L’élément ω = φω_{1} + (1 − φ)ω_{2} ∈ dom^{p}(U) vérifie ω_{|U_{i}} = ω_{i}, ce qui montre l’exactitude de la suite au milieu. q.e.d.

Soit H_{0}^{∗} = ker d_{0} ∩ ker d_{0}^{∗} et H^{∗} = ker d ∩ ker d^{∗} les espaces de formes harmoniques pour d_{0} + d_{0}^{∗} et d + d^{∗}.

Corollaire 5.2. Les espaces de cohomologie H_{2}^{p}(V) sont de dimension finie. Les applications naturelles

H_{0}^{∗} → H_{2,0}^{∗}(V)
H^{∗} → H_{2}^{∗}(V)

sont des isomorphismes. La forme bilinéaire α → ∫_{V} α∧β identifie H_{2,0}^{p} avec le dual de H_{2}^{n−p}(V). Il y a des isomorphismes naturels:

H_{2,0}^{∗}(V) ≃ H^{∗}(V, W)
H_{2}^{∗}(V) ≃ H^{∗}(V).

Démonstration. Soit Ṽ = V ∪_{W} V la variété sans bord obtenue en recollant deux copies de V suivant le bord W; dans ce cas, H_{2}^{∗}(Ṽ) ≃ H^{∗}(Ṽ). Le lemme précédent appliqué à U_{1} = V, U_{2} = V et U_{1} ∪ U_{2} = V ×] − 1, 1[ donne la suite exacte:

→ H_{2}^{p−1}(W) → H_{2}^{p}(Ṽ) → H_{2}^{p}(V) ⊕ H_{2}^{p}(V) → H_{2}^{p}(W) → H_{2}^{p+1}(V) → ce qui montre que dim H_{2}^{p}(V) < +∞. L’opérateur d sur V a donc une image fermée et son dual d_{0} aussi, ce qui entraîne la décomposition en somme directe orthogonale:

Ω(V) = im d ⊕ im d^{∗} + H_{2}^{∗}(V), Ω(V) = im d_{0} ⊕ im d_{0}^{∗} + H_{2,0}^{∗}(V).

Comme d^{∗} = −τd_{0}τ et d_{0}^{∗} = −τdτ, nous obtenons finalement τH_{2,0}^{∗}(V) = H_{2}^{∗}(V). L’isomorphisme H_{2}^{∗}(V) ≃ H^{∗}(V) provient alors de la comparaison de la suite exacte ci-dessus avec la suite exacte analogue pour la cohomologie singulière, et l’équivalence H_{2,0}^{∗}(V) ≃ H^{∗}(V, W) s’obtient par dualité de Poincaré. q.e.d.

Ce qui précède permet de déduire l’exactitude de la suite :

⋯ → H_{2}^{p−1}(W) → H_{2,0}^{p}(V) → H_{2}^{p}(V) → H_{2}^{p}(W) → ⋯ (5.1)

La flêche H_{2}^{p}(V) → H_{2}^{p}(W) est donnée par la composition de H_{2}^{p}(V) → H_{2}^{p}(U) avec l’isomorphisme canonique H_{2}^{p}(U) ≃ H_{2}^{p}(W) provenant de l’identification faite U ≃ W × [0, 1]. Notons K l’image de H_{2}^{∗}(V) → H_{2}^{∗}(W).

Lemme 5.3. dim K = \frac{1}{2} dim H_{2}^{∗}(W)

Démonstration. Posons k_{p} = dim K ∩ H_{2}^{p}, v_{p} = dim H_{2}^{p}(V), v_{p}^{0} = dim H_{2,0}^{p}(V) et w_{p} = dim H_{2}^{p}(W). Avec la convention w_{−1} = k_{−1} = 0, la suite exacte (5.1) donne alors la relation, pour p ≥ 0 :

(w_{p−1} − k_{p−1}) − v_{p}^{0} + v_{p} − k_{p} = 0,

et puisque v_{p} = v_{n−p}^{0}, on a :

2 ∑_{p=0}^{n−1} k_{p} = ∑_{p=1}^{n}(v_{p} − v_{n−p}^{0}) + ∑_{p=1}^{n−1} w_{p} = dim H^{∗}(W, R).

q.e.d.

La forme quadratique α → ∫_{V} α ∧ ∗ᾱ s’annule sur im d_{0} et passe au quotient sur H_{2,0}^{∗}(V). Cette forme est cependant dégénérée et son noyau est exactement le noyau du morphisme naturel H_{2,0}^{∗}(V) ↦ H_{2}^{∗}(V). Notons alors Ĥ_{2}(V) = im(H_{2,0}^{∗}(V) → H_{2}^{∗}(V)), de telle sorte que :

Sign(V) = dim Ĥ_{2}(V)^{+} − dim Ĥ_{2}(V)^{−}.

Théorème 5.4. Soit D l’extension autoadjointe associée à Y = R_{+} sur Ω(V) de l’opérateur de signature sur V. On a l’égalité

Sign(V) = Ind D + \frac{1}{2} dim H_{2}^{∗}(W).

Cette proposition résulte des lemmes suivants. Fixons d’abord quelques notations. Soit la variété V̂ = W ×] − ∞, 0] ∪_{W} V munie de la structure riemannienne ĥ dont la restriction à V est h et dont la restriction à W ×] − ∞, 0[ est dt^{2} ⊕ g, et soit d̂ l’opérateur de de Rham sur Ω(V̂), δ̂ son adjoint et D̂ = d̂+ δ̂. Comme V̂ est une variété complète, D̂ est autoadjoint, et on a [13] :

Ω(V̂) = \overline{im d̂}⊕ \overline{im δ̂} ⊕ ker D̂.

Fixons une suite de fonctions lipschitziennes θ_{k} : V̂ → [0, 1], telles θ_{k} ≡ 0 sur ] − ∞, −k − 1] × W, et θ_{k} ≡ 1 sur le complémentaire de ] − ∞, −k[×W et ∥dθ_{k}∥_{∞} ≤ 1.

Etant donné ω ∈ Ω(V), on notera ω̄ sa restriction à U. Supposons qu’il existe ω_{1} ∈ ker P, ω_{2} ∈ im P ⊖ ker A et α_{j} ∈ ker A tels que :

ω̄ = (\begin{matrix}exp(−tA)ω_{1} + α_{1} \\ exp(tA)ω_{2} + α_{2} \end{matrix}) . (5.2)

On peut alors prolonger ω en une forme ω̂ ∈ L_{loc}^{2}(V̂ , Λ) telle que la restriction de ω̂ à Ω(W) ⊗ L_{loc}^{2}(] − ∞, 0]) ⊗ C^{2} s’écrive encore :

ω̂ = (\begin{matrix}exp(−tA)ω_{1} + α_{1} \\ exp(tA)ω_{2} + α_{2} \end{matrix}) . (5.3)

Si on suppose que ω ∈ ker D, ω̄ verifie (5.2) avec α_{1} = 0.

Lemme 5.5. On a ker D ⊂ ker d. Autrement dit, toute forme dans le noyau de D est fermée.

Démonstration. Soit ω ∈ ker D. On a θ_{k}ω̂ ∈ Ω(V̂), et par le Lemme 3.5, θ_{k}ω̂ ∈ dom D̂ et D̂θ_{k}ω̂ = [D̂, θ_{k}]ω̂ tend faiblement vers 0 quand k → +∞. Pour α ∈ dom d_{0} ⊂ Ω(V), on a alors:

∫_{V} dω ∧ α = ∫_{V} ω ∧ d_{0}α = lim ∫V̂ θ_{k}ω̂ ∧ d̂α.

Soit α_{0} l’image de α par la projection orthogonale de Ω(V̂) sur \overline{im δ̂} ; on a d̂α = D̂α_{0} et donc :

lim ∫V̂ θ_{k}ω̂ ∧ d̂α = lim ∫V̂ θ_{k}ω̂ ∧ D̂α_{0} = lim ∫V̂ D̂θ_{k}ω̂ ∧ α_{0} = 0,

ce qui montre que ∫_{V} dω ∧ α = 0, soit ω ∈ ker d. q.e.d.

Lemme 5.6. L’application naturelle ker D ↦ H_{2}^{∗}(V) est injective.

Démonstration. Soit ω ∈ ker D. Appliquons les formules (3.2), (3.5) sur U; l’égalité dω̄ = 0 sur U implique :

d_{ℓ} exp(−tA)ω_{1} − d_{ℓ}γ exp(tA)ω_{2} = 0,

et donc d_{ℓ} exp(−tA)ω_{1} = d_{ℓ}γ exp(tA)ω_{2} = 0, puisque ω_{1} et ω_{2} appartiennent à des sous-espaces spectraux orthogonaux de A et donc γd_{ℓ}ω_{1} = d_{ℓ}γω_{2} = 0. Comme im d_{ℓ} est fermée, il existe β_{1} ∈ ker P et β_{2} ∈ im P ⊖ ker A tels que ω_{1} = d_{ℓ}γβ_{1} et ω_{2} = γd_{ℓ}β_{2}. L’élément ζ(ω) ∈ Ω(U) donné par :

ζ(ω) = (\begin{matrix}exp(−tγd_{l})γβ_{1} \\ exp(td_{l}γ)γβ_{2} \end{matrix}) ,

vérifie dζ(ω) = ω̄ si α_{2} = 0 dans la formule (5.2).

Supposons qu’il existe ζ_{1} ∈ Ω(V), ζ_{1} ∈ dom d tel que dζ_{1} = ω. On a nécessairement α_{2} = 0 dans (5.2), ce qui implique ω̂ ∈ Ω(V̂) et ω̂ ∈ ker D̂. On peut écrire sur U: ζ_{1|U} = ζ(ω) + α + dα_{1}, avec α ∈ ker A ⊗ C^{2}. En retranchant au besoin dφα_{1} à ζ_{1} où φ : V → [0, 1] est une fonction convenablement choisie, on peut supposer que dα_{1} = 0 au voisinage de ∂V. On a alors au voisinage de W × {0} ≃ ∂V :

ζ_{1} = (\begin{matrix}exp(−tγd_{l})γβ_{1} + α_{1} \\ exp(td_{l}γ)γβ_{2} + α_{2} \end{matrix})

avec (α_{1}, α_{2}) = α. On peut alors prolonger ζ_{1} en une forme ζ̂_{1} dans L_{loc}^{2}(V̂ , Λ) en gardant cette expression. La suite dθ_{k}ζ̂_{1} tend faiblement vers ω̂ et donc ω̂ est dans l’adhérence de im d̂, ce qui implique ω̂ = 0 et donc ω = 0. q.e.d.

Lemme 5.7. L’image de ker D^{+} dans H_{2}^{∗}(V) est exactement égale à Ĥ_{2}(V)^{+}. La composition de ker D^{−} → H_{2}^{∗}(V) → H_{2}^{∗}(W) donne la suite exacte:

0 → H_{2}(V)^{−} → ker D^{−} → K → 0

Démonstration. On a un morphisme de restriction ker D̂ ↦ ker D. En effet, soit ξ ∈ ker D̂ ; on peut écrire :

ξ = (\begin{matrix}exp(−tA)ξ_{1} \\ exp(tA)ξ_{2} \end{matrix}) ,

avec nécessairement ξ_{1} ∈ im P et ξ_{2} ∈ ker P ⊖ker A, ce qui implique que la restriction de ξ à V est dans le domaine de D.

Soit α_{0} ∈ ker d_{0} et α̂ son image par la projection orthogonale de Ω(V̂) sur ker D̂ et α la restriction de α̂ à V. Comme ker d̂ est la somme directe de l’adhérence de im d̂ et de ker D̂, il existe β̂_{n} ∈ dom d̂ tel que α_{0} − α̂ = lim dβ̂_{n}. Soit β_{n} la restriction de β̂_{n} à V ; comme im d est fermée, il existe β ∈ dom d telle que dβ = lim dβ_{n} et donc α_{0} − α = dβ.

On a ker D^{+} ⊂ Ĥ_{2}(V), par la suite exacte (5.1) : en effet, si ω ∈ ker D^{+}, on a ω_{2} = α_{2} = 0 dans la formule (5.2), et donc, par le raisonnement du lemme précédent, ω̄ ∈ im d dans U.

On a donc bien l’égalité Ĥ_{2}^{+}(V) = ker D^{+} et une suite exacte :

0 → Ĥ_{2}^{−}(V) → ker D^{−} → K̃ → 0

où K̃ ⊂ K . Munissons la variété V de l’orientation opposée et soit D_{1} l’extension autoadjointe de l’opérateur de signature pour cette orientation associée à Y = R_{+}; le même raisonnement montre l’isomorphisme ker D_{1}^{+} = Ĥ_{2}(V)^{−} et la suite exacte :

0 → H_{2}(V)^{+} → ker D_{1}^{−} → K_{1} → 0,

où K_{1} ⊂ K. La variété V ∪_{W} V a une signature nulle. Le Théorème 4.2 et le Lemme 5.3 montrent que dim H_{2}^{∗}(W) = −(Ind D + Ind D_{1}) = dim K̃ + dim K_{1} et donc K̃ = K_{1} = K. q.e.d.

Démonstration du Théorème 5.4. Par le dernier lemme, on a Ind D = Sign(V) − dim K = Sign(V) − \frac{1}{2} dim H_{2}^{∗}(W). q.e.d.

6. Classes de Pontryagyn rationnelles

Rappelons brièvement comment sont définies les classes de Pontryagyn rationnelles sur une variété topologique V_{0}, compacte orientée.

La grasmannienne BO = lim BO_{k} est un espace classifiant pour les fibrés vectoriels réels au-dessus de V_{0}, i.e on a un isomorphisme K̃O(V_{0}) = [V_{0}, BO] [14], et un isomorphisme d’anneaux [20] :

H^{∗}(BO, Z) = Q[p_{1}, p_{2}, ⋯, p_{k}, ⋯],

où p_{k} ∈ H^{∗}(BO, Q) est la classe de Pontryagin universelle. Si E est un fibré vectoriel sur V_{0} d’application classifiante f : V_{0} → BO, les classes de Pontryagin de E sont exactement p_{k}(E) = f^{∗}(p_{k}).

Une variété topologique n’est pas en général pourvu d’un fibré vectoriel tangent mais d’un microfibré tangent. Un microfibré est donné par un diagramme ξ →^{p} V_{0} →^{i} ξ où i est une immersion et p une submersion au voisinage de i(V_{0}). Par le théorème de Kister-Mazur [16], tout microfibré contient une fibration localement triviale de fibre R^{k}, ou R^{k}-fibration, dont la classe d’isomorphisme ne dépend que de la classe d’isomorphisme du microfibré. Il existe un classifiant BT op pour les R^{k}-fibrations topologiques sur V_{0}, et on a une application naturelle π : BO → BT op, qui traduit que tout fibré vectoriel est aussi une R^{k}- fibration. L’application induite π^{∗} : H^{∗}(BT op, Q) → H^{∗}(BO, Q) est un isomorphisme [20]. Ceci permet de définir les classes de Pontryagyn d’un microfibré ξ sur V_{0} d’application classifiante associée f : V_{0} → BT op par la formule

p_{k}(ξ) = f^{∗} ∘ π^{∗−1}(p_{k}).

Une variété topologique a un microfibré tangent noté τ(V_{0}) et on appelle classes de Pontryagyn de V_{0} celles de τ(V_{0}). Si V_{0} est fermée, il existe une classe fondamentale Σ_{V_{0}} dans le groupe de K-homologie K_{∗}(V_{0}) ⊗ Z[\frac{1}{2}] et il existe un polynôme universel L(X_{1}, ⋯, X_{p}) appelé polynôme d’Atiyah-Hirzebruch tel que :

P(Ch Σ_{V_{0}}) = L(p_{1}(V_{0}), …, p_{p}(V_{0})), (6.1)

où Ch : K_{0}(V_{0}) → H_{∗}(V_{0}, Q) est le caractère de Chern en K-homologie, P : H_{∗}(V_{0}, Q) → H^{∗}(V_{0}, Q) est l’isomorphisme de la dualité de Poincaré.

Dans le cas d’une variété C^{∞}, cette égalité résulte du théorème d’Atiyah-Singer [5].

Dans le cas général, il faut utiliser le théorème de D. Sullivan qui montre l’existence sur V_{0} d’une structure lipschiztienne V unique à isotopie près si dim V_{0} ≠ 4. Choisissons une telle structure V et soit D^{E} l’opérateur de signature à coefficients dans E ; N. Teleman a montré le théorème d’indice [31] :

Ind D_{E} = ∫_{V} Ch(E)L(p_{1}(V), ⋯, p_{p}(V)). (6.2)

On note plus simplement L(E) = L(p_{1}(E), …, p_{p}(E)) ∈ H^{∗}(V, R), et L(V) = L(T V), qui est appelé le genre de Hirzebruch de E. Dans la littérature, c’est quelquefois la classe 2^{−k}L(E) qui est utilisée, où dim E = 2k.

Cependant, les classes de Pontryagyn peuvent être définies analytiquement comme suit.

Un microfibré topologique ξ →^{p} V →^{i} ξ sur la variété lipschitzienne V est de classe C^{0,l} si p est une submersion de classe C^{0,l} au voisinage de i(V) [13]. Un exemple de tel objet est le microfibré tangent à V. Les résultats de [21] et le théorème de Kister-Mazur restent valables dans cette catégorie: en particulier, un microfibré ξ de classe C^{0,l} contient une fibration ξ̃ de classe C^{0,l}, modelée sur R^{k} et unique à isomorphisme près. Il existe de plus une fibration q : η → V et un isomorphisme propre Ψ de ξ̃×_{V} η avec V × R^{l}.

Soit ξ → V est une fibration modelée sur R^{k} de classe C^{0,l}. Pour une telle fibration, il existe une K−orientation “aux entiers impairs” [13], qui généralise l’orientation de D. Sullivan pour les fibrations semilinéaires [20], et définie ainsi: fixons η et Ψ : ξ ×_{V} η → V × R^{2l}. On définit un élément Σ(ξ, η) de KK(V, ξ) égal au produit intersection de l’élément de Bott β_{2l} ∈ KK(V, V × R^{2l}) avec l’élément Σ(p̃) ∈ KK(V × R^{l}, ξ) associé à la submersion p̃ : V × R^{2l} → ξ. La classe Σ_{ξ} = 2^{−l}Σ(ξ, η) , dans KK(V, ξ) ⊗ Z[\frac{1}{2}] est l’inverse de l’élément Σ(p) ∈ KK(ξ, V).

Soit Φ_{Q} : H^{∗}(V) ⊗ Q → H_{c}^{∗}(ξ) ⊗ Q l’isomorphisme de Thom en cohomologie singulière à coefficients rationnels. La classe L(ξ) est définie par la formule:

ch(x ⊗ Σ_{ξ})Φ(L(ξ)) = Φ(ch(x)). (6.3)

Cette classe est indépendante du choix de η. Si V est fermée et E est un fibré vectoriel complexe sur V, on a le théorème d’indice (2m = dim V) [13]:

[E] ⊗ Σ_{V} = ∫_{V} Ch(E)L(τ(V)). (6.4)

La comparaison des relations (6.2) et (6.4) montrent alors que Ch Σ = L(τ(V)) = L((p_{1}(V), ⋯).

7. Formes différentielles caractéristiques des microfibrés

Soit ξ une R^{2k}-fibration orientée sur la variété lipschitzienne V. Pour toute forme différentielle ω, mesurable, essentiellement bornée sur ξ et à support compact, on peut définir l’intégrale verticale ∫_{ξ} ω comme dans le cas C^{∞} [6]. C’est une forme différentielle mesurable L^{∞} sur V, fermée si ω l’est. Comme pour les variétés C^{∞}, l’application ω → ∫_{ξ} ω induit un isomorphisme en cohomologie L^{∞} inverse de l’isomorphisme de Thom [6].

Rappelons [14] que le groupe de K-théorie K^{0}(ξ) peut être décrit géométriquement par des cycles (F, α) où F est un fibré vectoriel complexe hermitien sur ξ, Z/2Z-gradué et α est un morphisme hermitien de F de degré un, qui est bijectif en dehors d’un ouvert relativement compact U ⊂ ξ. Si V est fermée et ∇ = ∇^{0} ⊕ ∇^{1} est une connexion sur F telle que α∇ = ∇α en dehors de U, alors la forme différentielle Ch(∇^{0}) − Ch(∇^{1}) est fermée, à support compact et représente dans H_{c}^{∗}(ξ, R) le caractère de Chern de la classe de (F, α) dans K^{0}(ξ). Notons que si (G, ∇^{G}) est un fibré hermitien avec connexion sur ξ, alors le triplet (G ⊕ G, σ_{G}, ∇^{G} ⊕ ∇^{G}), où σ_{G} est la Z_{2}-graduation canonique de G ⊕ G, définit l’élément neutre de K^{0}(ξ).

Définition 7.1. Une orientation réelle est la donnée d’un triplet κ = (F, α, ∇) où (F, α) est un cycle comme ci-dessus qui représente Σ_{ξ}(1) dans K^{0}(ξ) ⊗ Z[\frac{1}{2}], et ∇ est une connexion sur F telle que α∇ = ∇α sur le complémentaire d’un compact de l’espace total de F.

On a immédiatement :

Lemme 7.2. Pour toute orientation réelle κ = (F, α, ∇), il existe une unique forme différentielle L^{∞} fermée notée I_{c}(κ) vérifiant :

I_{c}(κ) ∫_{ξ} Ch(∇^{0}) − Ch(∇^{1}) = 1.

Si V est fermée, on a [I_{c}(κ)] = L(ξ) dans H^{∗}(V, R).

Démonstration. On peut supposer V fermée en remplaçant au besoin V par son double. Par (6.3), on a l’égalité en cohomologie :

[∫_{ξ} Ch(∇^{0}) − Ch(∇^{1})]L(ξ) = Φ^{−1}(Ch Σ_{ξ}(1))L(ξ) = 1.

Comme le terme de degré 0 de L(ξ) est 2^{k}, on peut donc écrire

∫_{ξ} Ch(∇^{0}) − Ch(∇^{1}) = 2^{k} − ω,

où ω est une somme de formes différentielles de degré supérieur à 1. Il suffit alors de poser :

I_{c}(κ) = 2^{k}(1 − ω)^{−1} = ∑_{m≥0} 2^{(m+1)k}ω^{m}.

q.e.d.

Notons que si (G, ∇^{G}) est un fibré hermitien avec connexion sur ξ, et κ = (F, α, ∇) une orientation réelle, alors le triplet (F ⊕ G ⊕ G, α ⊕ σ_{G}, ∇ ⊕ ∇^{G} ⊕ ∇^{G}) est encore une orientation réelle que nous noterons κ ⊕ T (G, ∇^{G}) et telle que I_{c}(κ ⊕ T (G, ∇)) = I_{c}(κ). Deux orientations réelles κ_{1} = (F_{1}, α_{1}, ∇_{1}) et κ_{2} = (F_{2}, α_{2}, ∇_{2}) seront dites équivalentes, et nous noterons κ_{1} ≃ κ_{2}, s’il existe (G_{i}, ∇^{G_{i}}) et un isomorphisme unitaire U : F_{1} ⊕ G_{1} ⊕ G_{1} → F_{2} ⊕ G_{2} ⊕ G_{2} tel que (∇_{1} ⊕ ∇^{G_{1}} ⊕ ∇^{G_{1}})U = U(∇_{2} ⊕ ∇^{G_{2}} ⊕ ∇^{G_{2}}) et (α_{2} ⊕ σ_{G_{2}})U = U(α_{1} ⊕ σ_{G_{1}}). Si κ_{2} ≃ κ_{1}, alors I_{c}(κ_{1}) = I_{c}(κ_{2}).

On a alors la propriété suivante d’extension :

Proposition 7.3. Soit p : ξ → V un microfibré orienté C^{0,l}, et soit U ⊂ V un ouvert, et κ_{0} = (F_{0}, α_{0}, ∇_{0}) une orientation réelle de ξ au dessus de p^{−1}(U). Pour tout ouvert X ⊂ X̄ ⊂ U, il existe alors une orientation réelle κ de ξ sur V telle que κ_{|p^{−1}(X)} soit équivalente à κ_{0|p^{−1}(X)}.

En particulier, si V est fermée il existe une forme différentielle fermée sur V qui représente L(ξ) et dont la restriction à X est égale à celle de I_{c}(κ_{0}).

Démonstration. Il existe (G, ∇^{G}) sur p^{−1}(Ū) et un cycle de K-théorie (F, α) sur ξ qui représente Σ_{ξ}(1) et tel que la restriction de (F, α) à Ū soit unitairement isomorphe à (F_{1} ⊕ G ⊕ G, α ⊕ σ_{G}) [14]. Munissons F_{|U} de la connexion ˜∇ conjuguée de ∇_{0} ⊕ ∇^{G} ⊕ ∇^{G} par cet isomorphisme. Comme la connexion est lipschitzienne, il existe alors une extension ∇ sur V de la restriction de ˜∇ à X . L’orientation κ = (F, α, ∇) répond à la question. q.e.d.

7.1 Variétés à bord

Soit W une variété lipschitzienne compacte orientée de dimension impaire, λ = (F, α, ∇) une orientation réelle de τ(W) (en dimension impaire, F est non-gradué, et α est un unitaire égal à l’identité à l’infini). Soit V une variété lipschitzienne compacte orientée à bord W = ∂V, et U un voisinage de W et une trivialisation U ≃ W × [0, 1]. Soit λ̃ une orientation réelle de τ(U) le produit tensoriel de λ par une orientation réelle duale de U × R. Il existe alors une orientation réelle κ de τ(V) dont la restriction à U soit égale à λ̃ (prop. 7.3). Soit (E, ∇) un fibré vectoriel complexe hermitien avec connexion sur W, et (Ẽ, ˜∇) une extension de (E, ∇) à V compatible sur U.

Proposition 7.4. Le nombre ∫_{V} Ch( ˜∇)I_{c}(κ) ne dépend que de V, Ẽ et de λ, et non du choix de κ et de ˜∇, ni du choix de U.

Démonstration. Soit D(V) = V ∪_{W} V le double de V obtenu en recollant deux copies de V avec des orientations opposées suivant W . C’est une variété compacte orientée et sans bord. Il suffit de montrer que Ind D = 0 où D est l’opérateur de signature à coefficients dans Ẽ ∪_{W} Ẽ. L’homéomorphisme σ de Ṽ qui échange les deux copies de V est bilipschitzien, et inverse l’orientation, et donc Ind D = − Ind D = 0. q.e.d.

Un cas particulier est donné par V = W × [0, 1] où W est une variété lipschitzienne riemannienne orientée compacte sans bord de dimension impaire. Soit E un fibré vectoriel complexe sur W et ∇_{1}, ∇_{2} deux connexions lipschitziennes sur E. Il y a, comme dans [3] la forme transgressée Tch(E, ∇_{1}, ∇_{2}), élément de L^{∞}(V, Λ^{∗}(T^{∗}V))/ im d, définie comme suit : soit ∇_{t} un chemin lipschitzien de connexions entre ∇_{1} et ∇_{2} (e.g. ∇_{t} = (1 − t)∇_{1} + t∇_{2}), et ∇ = ∇_{t} + \frac{∂}{∂t} la connexion sur W × [0, 1]. Posons:

Tch(∇_{1}, ∇_{2}) = ∫_{[0,1]} Ch(∇).

C’est une forme différentielle L^{∞} qui ne dépend pas modulo im d du choix de ∇_{t}. Si E est un fibré plat, cette forme est fermée et pour toute orientation réelle λ de τ(W), on a :

∫_{W ×[0,1]} I_{c}(λ̃) Ch(∇) =< [Tch(∇_{1}, ∇_{2})]L(W), [W] > . (7.1)

8. Orientations réelles des fibrés vectoriels

La construction précédente dépend de plusieurs paramètres. Soit (E, h) un fibré vectoriel réel euclidien et orienté, muni d’une connexion euclidienne ∇. Nous allons montrer qu’il existe une famille naturelle d’orientations réelles dont les formes différentielles caractéristiques sont les formes différentielles de Pontryagyn de la connexion p_{k}(∇). Pour simplifier, cette construction est décrite pour le cas pair, i.e. que dim E = 2m.

Soit C(E, h) l’agèbre de Clifford complexifiée de E pour la forme quadratique −h, et c_{h} : E → C(E, h) la représentation canonique satisfaisant c_{h}(ξ)^{2} = −h(ξ, ξ). On a une involution unitaire τ_{E} de C(E, h) qui détermine une Z_{2}-graduation et on note C^{±}(E, h) = ker(τ_{E} ∓ 1). On a un isomorphisme d’espaces vectoriels : C(E, h) ≃ Λ_{C}(E) [14, 17].

La connexion ∇ induit une connexion Λ^{±}(∇) sur C^{±}(E, h). Soit ∇_{1} = p^{∗}(Λ^{+}(∇)), (resp. ∇_{2} = p^{∗}(Λ^{−}(∇))) la connexion sur p^{∗}C^{+}(E, h) (resp. p^{∗}C^{−}(E, h)), où p : E → V est la projection.

Soit φ_{0} : R_{+} → [0, 1], de classe C^{∞}, décroissante telle que φ_{0}(t) = 1 si t ≤ 1, φ_{0}(t) = 0 si t ≥ 2 et φ la fonction sur E donnée par φ(ξ) = φ_{0}(h(ξ, ξ)) et soit la connexion sur p^{∗}(C^{+}(E, h)) :

˜∇_{1} = φ∇_{1} + (1 − φ)c_{h}^{−1}∇_{2}c_{h},

et la forme différentielle :

M(E, h, ∇) = ∫_{E} Ch( ˜∇_{1}) − Ch(∇_{2}).

Lemme 8.1. Il existe un polynôme universel M ∈ C[X_{1}, ⋯, X_{l}] où l = [\frac{n}{4}], tel que pour toute variété lipschitzienne V de dimension n et tout (E, h, ∇) comme ci-dessus, on ait

M(E, h, ∇) = M((p_{1}(∇), p_{2}(∇), ⋯, p_{l}(∇)).

Démonstration. En localisant sur V, on peut supposer que la variété est C^{∞}, et par continuité, il suffit alors de montrer cette égalité dans le cas où E , ∇ sont C^{∞}. Nous appliquons le théorème de P. Gilkey [9]. Il suffit de vérifier que M(E, h, ∇) est une forme régulière qui satisfait aux trois conditions suivantes, énoncées dans [2, theorem II].

1) Soit f : V_{1} → V une application différentiable ; on a alors

M(E, h, ∇) = M(f^{∗}E, f^{∗}h, f^{∗}∇).

2) Montrons ensuite que M(E, h, ∇) est homogène de poids mixte (0, 0), c’est à dire l’égalité M(E, μ^{2}h, ∇) = M(E, h, ∇) pour μ > 0. Cette expression a un sens puisque ∇ est encore une connexion euclidienne pour μ^{2}h. Soit θ_{μ}ξ = μξ l’endomorphisme de E. Pour toute forme différentielle α sur E à support compact, on a ∫_{E} θ_{μ}^{∗}α = ∫_{E} α.

Soit

φ_{μ}(ξ) = φ_{0}(μ^{2}h(ξ, ξ)) = φ ∘ θ_{μ}(ξ),
˜∇_{μ} = φ_{μ}∇_{1} + (1 − φ_{μ})c_{μ^{2}h}^{−1}∇_{2}c_{μ^{2}h}.

Il suffit donc de montrer que :

θ_{μ}^{∗}(Ch ˜∇_{μ} − Ch ∇_{2}) = Ch ˜∇_{1} − Ch ∇_{2}.

Soit le relèvement θ̃_{μ} de θ_{μ} à p^{∗}C(E, h) provenant de la structure plate le long des fibres de p, et on a θ_{μ}^{∗} ⊗θ̃_{μ}^{∗}∇_{2} = ∇_{2}θ̃_{μ}^{∗}, d’où θ_{μ}^{∗} Ch ∇_{2} = Ch ∇_{2}.

De même, on a un relèvement de θ̌_{μ} de θ_{μ} à p^{∗}C(E, h) → p^{∗}C(E, μ^{2}h), tel que pour α ∈ p^{∗}C(E, h)_{ξ}, ∂α = k, on a θ̌α = μ^{−k}α (cf. [2]). On a θ_{μ}^{∗} ⊗ θ̌_{μ}^{∗} ˜∇_{μ} = ˜∇_{1}θ̌_{μ}^{∗}, d’où θ_{μ}^{∗} Ch ˜∇_{μ} = Ch ˜∇_{1} .

3) Soit (x_{1}, …, x_{n}) ∈ R^{n}, (ξ_{1}, …, ξ_{N}) ∈ C^{N} des coordonnées locales sur V et sur E, h = (h_{i,j}) et ∇ = d_{N} +θ. Montrons que M(E, h, ∇) est un polynôme en les variables h_{i,j}, det(h)^{−1} et θ_{i,j}^{k} et leur dérivées.

La représentation de Clifford c est un tel polynôme. En notant d^{+} la connexion triviale dans les coordonnées (x, ξ) du fibré p^{∗}(C^{+}(E)), on voit que c^{−1}∇_{2}c = d^{+} + A où A = ∑ a_{i}dx_{i} + ∑ b_{i}dξ_{i} où les a_{i} et les b_{i} sont des polynômes en les variables h_{i,j}, det(h)^{−1} et θ_{i,j}^{k} et leurs dérivées. On a alors :

Ch( ˜∇_{1}) − Ch(∇_{2}) = ∑_{k,I} φ^{k}dξ_{i_{1}} … ∧ dξ_{i_{N}} ∧ A_{k,0,I}

+ ∑_{k,I} φ^{k}dφ ∧ dξ_{i_{1}} … ∧ dξ_{i_{N−1}} ∧ A_{k,1,I}

où les A_{k,l,I}, pour l ∈ {0, 1}, sont des formes différentielles dont les coefficients sont des polynômes en les variables h_{i,j}, det(h)^{−1} et θ_{i,j}^{k} et leurs dérivées. Or, les termes ∫ φ^{k}dξ_{i_{1}} … ∧ dξ_{i_{N}} et ∫ φ^{k}dφ ∧ dξ_{i_{1}} … ∧ dξ_{i_{N−1}} sont des polynômes en les variables h_{i,j} et det(h)^{−1}.

Les trois conditions étant satisfaites, il existe un polynôme universel M tel que :

M(E, h, ∇) = M((p_{k}(∇)_{k≥0}).

q.e.d.

Soit (F, l) un fibré vectoriel réel euclidien orienté tels que E ⊕ F soit isomorphe à V × R^{2m}. Une connexion ∇^{F} sur F est dite duale de ∇ si l’égalité suivante a lieu:

Tr(∇^{2k}) = − Tr(∇^{F 2k}).

Les formes différentielles de Pontryagyn p_{k}(∇^{F}) s’expriment alors par des polynômes universels sur les formes p_{k}(∇), k ≥ 0. En particulier, le caractère de Chern des connexions canoniques Λ^{±}(∇^{F}) sur les fibrés C^{±}(F) s’expriment comme des polynômes universels en les formes de Pontryagyn de la connexion ∇.

De telles paires de connexion duales (∇, ∇^{F}) existent toujours:

Proposition 8.2. Les connexions grasmanniennes associées sur E et F sont duales.

Démonstration. Ces connexions sont données par ∇ = ede = d+ede, ∇^{F} = (1 − e)d(1 − e) où d est la connexion triviale sur V × R^{2m} et e : V × R^{2m} → E la projection suivant F. Par les calculs de [15, p. 14-16], les courbures de ∇ et de ∇^{F} sont alors données par les formules ∇^{2k} = e(de ∧ de)^{k} et (∇^{F})^{2k} = (1 − e)(de ∧ de)^{k}, ce qui montre que les relations ci-dessus sont vérifiées. q.e.d.

Soit p : E → V la projection, et c : E → p^{∗}C(E, h)) la représentation de Clifford. Par [14], l’élément Σ_{E}(1) est représenté par le couple (p^{∗}C(E, h)⊗C(F, l), c⊗1), avec la Z/2Z-graduation induite par τ_{E} ⊗1. Avec les notations précédentes, soit ∇^{−} la connexion sur p^{∗}C^{−}(E, h) ⊗ C(F, l):

∇^{−} = ∇_{2} ⊗ 1 + 1 ⊗ ∇^{F}

et ∇^{+} la connexion sur p^{∗}C^{+}(E, h) ⊗ C(F, l):

∇^{+} = ˜∇_{1} ⊗ 1 + 1 ⊗ ∇^{F} .

Le triplet κ = (p^{∗}C(E) ⊗ C(F), c ⊗ 1, ∇^{+} ⊕ ∇^{−}) est une orientation réelle de E qui sera dite duale de ∇. La propriété d’extension de la Proposition 7.3 est valable mutatis mutandis pour les orientations duales. La forme différentielle associée à une orientation duale ne dépend que de ∇:

Théorème 8.3. Pour toute orientation réelle κ duale de (E, ∇), on a l’égalité I_{c}(κ) = L((p_{k}(∇))_{k≥0}), où L est le polynôme d’Atiyah-Hirzebruch.

Démonstration. Par définition, on a :

I_{c}(κ)^{−1} = ∫_{E}(Ch(∇^{+}) − Ch(∇^{−}))
= M(E, h, ∇) Ch Λ(∇)
= M((p_{k}(∇)_{k≥0}) Ch Λ(∇).

La forme différentielle I_{c}(κ) est donc un polynôme universel en les formes p_{k}(∇) pour k ≥ 0, dont la classe de cohomologie est égale à L(E). Comme H^{∗}(BO, Q) = Q[p_{1}, p_{2}, ⋯, p_{k}, ⋯], ce polynôme est égal au polynôme L. q.e.d.

Corollaire 8.4. Soit ∇ une connexion plate sur un fibré vectoriel E de dimension 2k. Pour toute orientation κ duale de (E, ∇), on a: I_{c}(κ)(E, ∇) = 2^{k}.

Corollaire 8.5. Soit (V, r) une variété riemannienne orientée, C^{∞}, compacte sans bord et ∇^{r} la connexion riemannienne. Pour toute orientation réelle κ duale de ∇^{r}, on a:

I_{c}(κ) = L((p_{k}(∇^{r}))_{k≥0})).

Démonstration. Par le théorème de J. Nash [26], il existe un plongement de j : V → R^{k} avec fibré normal N tel que la structure riemannienne soit égale à la structure riemannienne induite de la structure standard sur R^{k} par ce plongement. La connexion riemannienne est la connexion grassmannienne associée à la décomposition T V ⊕ N = j^{∗}(T R^{k}) = V × R^{k}. q.e.d.

Comme conséquence de ce corollaire et de la Proposition 7.3, on a immédiatement (cf. [23, Proposition 5.10]):

Corollaire 8.6. Soit V une variété lipschitzienne orientée compacte sans bord, U ⊂ V une sous variété lisse ouverte, r une structure riemannienne C^{∞} sur U. Pour tout k et ouvert propre O ⊂ U, il existe une forme différentielle L^{∞}, fermée dont la restriction à O est égale la forme de Pontryagyn p_{k}(∇^{r}) de la connexion de Levi-Civita de r, et dont la classe de cohomologie est la classe de Pontryagyn p_{k}(V).

9. L’invariant η

Soit W une variété topologique orientée compacte sans bord de dimension impaire ≥ 5. Il existe des entiers k une variété topologique compacte orientée V dont le bord est isomorphe, comme variété orientée à la somme connexe de k copies de W [28]. Par un théorème de D. Sullivan et de P. Tukia, J. Väisälä [32], il existe sur V et W des structures lipschitziennes compatibles . Par [19, th. 7.5], il existe un voisinage U de ∂V lipschitz isomorphe à ∂V × [0, 1].

Soit g une structure riemannienne sur W, (E, ∇) un fibré vectoriel hermitien complexe sur W avec connexion hermitienne. Munissons chaque composante de ∂V de cette structure g et choisissons sur V une structure riemannienne r et un fibré vectoriel complexe hermitien avec connexion unitaire (Ẽ, ˜∇), compatibles avec g et E, l, ∇ sur U.

Soit A^{E} l’opérateur de signature sur W associé à (E, ∇). Soit D l’extension autoadjointe de l’opérateur de signature sur V associé au projecteur spectral de A^{E} pour R_{+}. Soit λ une orientation réelle de τ(W) et κ une extension à τ(V) de λ̃.

Théorème 9.1. Avec ces notations, le nombre

\frac{1}{k} (∫_{V} I_{c}(κ) Ch( ˜∇) − Ind D) − \frac{1}{2} dim ker A^{E}

ne dépend que du choix de (W, g, λ, E, h, ∇) et non du choix de V et des extensions r, κ, Ẽ, ˜∇ sur V.

Démonstration. Soit V_{1} une autre variété compacte orientée à bord telle que ∂V_{1} soit la somme de k_{1} copies orientées de W . Soit (E_{1}, ∇^{1}) un fibré hermitien avec connexion, r_{1} une structure riemannienne et κ_{1} une orientation réelle de τ(V_{1}), compatibles avec les données correspondantes sur W.

Quitte à remplacer V (resp. V_{1}) par pV, on peut supposer que k = k_{1}. Soit V̂ la variété en identifiant les composantes connexes de ∂V avec les composantes de ∂V_{1}. Soit D̂ l’opérateur de signature sur V̂ à coefficients dans Ê, le fibré obtenu en recollant E et E_{1}. On a:

Ind D̂ =< Ch(Ê)L(V̂), [V̂_{1}] >

Par le thorme 4.2, on a Ind D̂ = Ind D − Ind D_{1} − dim ker A^{E}, et d’autre part

∫ Ch(Ê)L(V̂) = ∫_{V} I_{c}(κ) Ch( ˜∇) − ∫_{V_{1}} I_{c}(κ^{1}) Ch(∇^{1}).

q.e.d.

Définition 9.2. On note

η(W, g, λ, E, ∇) = \frac{1}{k} (∫_{V} I_{c}(κ) Ch( ˜∇) − Ind D) − \frac{1}{2} dim ker A

le nombre défini par le théorème précédent et η(W, λ) lorsque E est le fibré trivial de dimension 1 avec la connexion canonique.

En rapprochant le théorème 5.4 et cette définition, nous obtenons immédiatement la formule:

Sign(V) = ∫_{V} I_{c}(κ) − η(W, λ). (9.1)

Cette formule montre que η(W, λ) ne dépend que de λ et du choix de la structure riemannienne sur W, ce qui justifie la notation.

L’invariant η(W_{∞}, g) pour une variété riemannienne de classe C^{∞}, de l’opérateur de signature défini par Atiyah-Patodi-Singer [3] est un invariant spectral de l’opérateur.

Proposition 9.3. Pour toute orientation réelle κ duale de g, on a l’égalité η(W_{∞}, g) = η(W_{∞}, κ).

Démonstration. Cela résulte du corollaire 8.5. q.e.d.

10. Variétés semi-linéaires

L’invariant η comme fonction de la structure riemannienne a été défini par H. Moscovici et F.B Wu pour des SA-sphères exotiques [23], et par W. Müller pour des variétés à coins [25]. Les résultats présents permettent d’étendre ces définitions sur toute variété semi-linéaire.

Les résultats de [23] sont basés sur la notion de C-statification due à N. Levitt [18]. Une C-structure sur une variété topologique est définie par récurrence de la façon suivante: une C_{0}-variété est une variété C^{∞}. Pour k ≥ 0, supposons défini la notion de C_{k}-stratification et soit (Σ_{i})_{i∈I_{k}} une famille de C_{k}-variétés homéomorphes à une sphère S^{N} et représentant bijectivement les classes de concordance de C_{k}-structures sur les sphères. Une variété topologique V^{k+1} est munie d’une C_{k+1}- structure s’il existe :

1. une sous-variété V^{k} ⊂ V^{k+1} à bord munie d’une C_{k}-structure

2. un sous-ensemble fini J ⊂ I_{k} et pour chaque i ∈ J une variété lisse N_{i} de dimension n_{i} = dim V^{k} − 1 − dim Σ_{i} et un C_{k}-plongement de Σ_{i} × N_{i} dans le bord de V^{k},

3. un homéomorphisme de la variété V^{k+1} avec V^{k} ∪ c(Σ_{i}) × N_{i}, où c(Σ_{i}) = Σ_{i} × [0, 1]/{0} × Σ_{i} est le cône de Σ_{i}.

Toute C_{k}-variété est semilinéaire et réciproquement, toute variété semi-linéaire admet une structure de C_{k}-variété [18]. Une sous-variété de codimension 1 de W ⊂ V^{k} admet dans la catégorie des C_{k}-structures, un voisinage isomorphe à W ×]0, 1[ [1].

H. Moscovici et F.B Wu [23] ont introduit sur une C_{k}-variété le complexe Ω_{s}^{∞}(V) des formes différentielles stratifiées, l’homologie stratifiée et la notion de structure riemannienne stratifiée. Une structure riemannienne stratifiée g sur V est caractérisée par les propriétés récurrentes suivantes : pour les variétés C_{0}, ce sont simplement des structures C^{∞}, et pour une variété V^{k+1} de classe C_{k+1}, une telle structure est obtenue en recollant une C_{k}-structure r^{k} sur V^{k} avec des métriques sur c(Σ_{i})×N_{i} de la forme (dt^{2} ⊕ t^{2}g_{i}) ⊕ l_{i}, où l_{i} est une structure C^{∞} sur N_{i} et g_{i} une C_{k}-métrique sur Σ_{i}. Ces métriques riemanniennes particulières sont lipschitziennes pour la structure lipschitzienne sous-jacente sur V^{k}.

Soit (E, ∇) une fibré vectoriel sur V avec une connexion semilinéaire. Nous dirons que (E, ∇) est compatible avec la structure stratifiée si sa restriction à une cellule c(Σ_{i}) × N_{i} est de la forme (π_{i}^{∗}(E_{i}), ∇_{i} ⊕ d) où (E_{i}, ∇_{i}) est un fibré vectoriel complexe avec connexion sur N_{i}, et d la connexion triviale sur le fibré trivial de rang 1 sur Σ_{i}.

Si V est compacte sans bord, les puissances de la courbure ∇^{2p} d’une telle connexion sont des formes différentielles fermées et stratifiées de V, dont les classes de cohomologie sont, avec les relations convenables, les classes de Chern du fibré. En effet, V est une variété lipschitzienne, l’inclusion naturelle Ω_{s}^{∞}(V) ⊂ L^{∞}(V, Λ_{C}^{∗}(T^{∗}V)) induit un isomorphisme en homologie [23]. La connexion ∇ est alors lipschitzienne et on applique le théorème de [33].

Une SA_{k}-variété est une C_{k}-variété obtenu par le même procédé inductif, en prenant au départ pour SA_{0} la famille des variétés C^{∞} orientées, mais en s’autorisant à chaque étape à prendre exclusivement des sphères exotiques orientés Σ_{i} qui sont des SA_{k}-variétés et dont un multiple est un bord orienté d’une SA_{k}-variété.

L’invariant η est défini pour une SA_{k}-sphère riemannienne par récurrence. Si k = 0, et (Σ, g) est C^{∞}, c’est l’invariant d’Atiyah-Patodi-Singer. Soit (Σ, g) un multiple d’une SA_{k}-sphère exotique riemannienne et (V, r) une SA_{k}-variété telle que ∂V = Σ. Si (Z, l) est une variété riemannienne lisse, on désigne par L(Z, l) = L((p_{k}(∇))_{k≥0}) la forme différentielle obtenue en prenant le polynôme L en les formes de Pontryagin de la connexion reimannienne. Notons alors η_{s} l’invariant défini dans [22] en posant, avec des notations évidentes:

η_{s}(Σ, g) = ∫_{V_{0}} L(V_{0}, r_{0}) + ∑ η_{s}(Σ_{i}, g_{i}) ∫_{N_{i}} L(N_{i}, l_{i}) − sign(W), (10.1)

où l’avant-dernière sommation porte sur l’ensemble des sphères exotiques de dimension impaire qui interviennent dans la construction de V, et L(V_{0}, r_{0}) désigne le polynôme d’Atiyah-Hirzebruch de la connexion riemannienne de r_{0}. Il y a une légère différence entre les normalisations de ce polynôme et nous intégrons ici dans L le coefficient 2^{n} qui apparait dans [23]. La quantité ainsi définie ne dépend pas du choix de V tel que ∂V = Σ.

Le genre L d’une SA_{k}-variété riemannienne est le cycle stratifié de V :

L(V^{k}, r) = L(V_{0}, r_{0}) ⊕ ⨁_{i} η_{s}(Σ_{i}, g_{i})L(N_{i}, l_{i}) (10.2)

La classe d’homologie de L(V^{k}, r) est, à un facteur multiplicatif près, le genre L .

Définissons à présent une famille naturelle d’orientations réelles sur le microfibré tangent à une C_{k}-variété riemannienne (V^{k}, r), que nous dirons duales de r.

Ces orientations sont définies inductivement : si k = 0, on prend les orientations réelles duales de r. Supposons défini pour k ≥ 0 les orientations réelles duales de r_{k} sur V^{k}, et soit f_{i} : Σ_{i} ×N_{i} → ∂V^{k−1} les inclusions de C_{k}-variétés. Choisissons des orientations λ_{i} duales de g_{i} et θ_{i} duale de l_{i}, et une orientation réelle κ_{k} duale de r_{k} dont la restriction à Σ_{i} ×N_{i} coïncide avec l’induite de λ_{i} ×θ_{i}. Il existe alors κ_{k+1} sur V^{k+1} dont la restriction à c(Σ_{i}) × N_{i} soit de la forme λ̃_{i} × θ_{i}, où λ̃_{i} est une orientation réelle de Σ_{i} qui coïncide avec l’induite de θ_{i} à τ(Σ_{i}) × R au voisinage de Σ_{i} × {1}.

Ces orientations ont la propriété d’extension suivante: Soit (W^{k}, g) ⊂ (V^{k}, r) de codimension 1 avec un voisinage ≃ W × [−1, 1], tel que la structure riemannienne r est égale à g ⊕ dt^{2} sur ce voisinage, et λ une orientation duale de g : alors il existe une orientation duale de r telle que la restriction à τ(W^{k}) × R soit l’induite de λ.

Cette propriété s’établit en utilisant la Proposition 7.3, et la caractérisation des C_{k}-immersions [1].

Théorème 10.1. Soit (W, g) une C_{k}-variété riemannienne orientée, et (E, ∇) un fibré vectoriel complexe hermitien sur W avec connexion hermitienne stratifée et λ une orientation réelle de τ(W) duale de g. Alors le nombre η(W, λ) ne dépend que de (g, E, ∇) et non du choix de λ.

Si W est une SA_{k}-sphère, alors pour toute orientation réelle κ duale de g, on a l’égalité :

η_{s}(W, g) = η(Σ, κ).

Démonstration. Avec des notations évidentes, on a immédiatement:

\begin{aligned}∫_{V} Ch( ˜∇)I_{c}(κ_{k}) = & ∫_{V_{0}} Ch(∇_{0})L(V_{0}, r_{0}) \\ & + ∫_{c(Σ_{i})} I_{c}(λ̃_{i}) ∫_{N_{i}} Ch(∇_{i})L(N_{i}, l_{i}). \end{aligned} (10.3)

La variété c(Σ_{i}) est un disque lipschitzien, dont la signature est nulle. Pour tout orientation réelle μ de c(Σ_{i}), qui étend l’induite de λ_{i} à τ(Σ_{i}) × R, on a η(Σ_{i}, λ_{i}) = ∫_{c(Σ_{i})} I_{c}(μ), ce qui établit la première assertion.

En comparant les relations (10.1) et (10.3) l’égalité η_{s}(Σ, g) = η(Σ, κ) pour toute SA_{k}-sphère s’ensuit par récurrence. q.e.d.

Par ce théorème, on peut alors étendre la définition de H. Moscovici-F.B Wu [23] du genre L:

Définition 10.2. Soit (W, g) une C^{k}-variété riemannienne orientée et (E, ∇) un fibré vectoriel stratifié. On pose η_{s}(W, g, E) comme égale à η(W, λ, E) pour une orientation duale de g. On définit une chaîne stratifiée par la formule :

L_{s}(V, r) = L(V_{0}, r_{0}) ⊕ ⨁_{i} η_{s}(Σ_{i}, g_{i})L(N_{i}, l_{i}).

Il résulte aisément du théorème précédent que la formule (10.1) reste valable. Une C_{k} variété V étant lipschitzienne, sa classe fondamentale Σ_{V} ∈ K_{0}(V) est bien définie et on a:

Proposition 10.3. Soit (V, r) une C_{n}-variété riemannienne fermée de dimension n = 2m. Pour tout fibré vectoriel complexe E sur V, on a :

[E] ⊗ Σ_{V} = ∫_{V} Ch(∇)L_{s}(V, r),

où ∇ est une connexion stratifiée sur E. La classe de cohomologie rationnelle de L_{s}(V, r) est le genre L(V) d’Atiyah-Hirzebruch.

Démonstration. Ecrivons V comme la réunion de la variété à bord V_{2m−1} et des cellules c(Σ_{i})×N_{i} pour i ∈ I_{2m−1} ; comme V est sans bord, on a ∂N_{i} = ∅, ∂c(Σ_{i}) × N_{i} = Σ_{i} × N_{i} et ∂V_{2m−1} = ⋃_{i}(Σ_{i} × N_{i}). Par le théorème 4.2 et la remarque 4.3, on a : Ind D^{E} = Ind D_{1} + Ind D_{2} + dim ker A, où D^{E} est l’opérateur de signature sur V à coefficients dans E, A est l’opérateur de signature sur ∂V_{2m−1} à coefficients dans le fibré restriction de E au bord, et D_{i} sont les extensions autoadjointes des opérateurs de signatures sur V_{2m−1} et ∂V_{2m−1} = ⋃_{i}(Σ_{i} × N_{i}) à coefficients dans les restrictions respectives de (E, ∇). L’assertion résulte alors du théorème précédent.

q.e.d.

10.1 Variétés à coins

Une variété à coins V est une variété semi-linéaire, telle que V \W soit C^{∞}, et dont chaque point du bord admette une voisinage difféomorphe à R^{n−k} × [0, 1[^{k}. Une telle variété est munie d’une C_{1}-stratification évidente et simple.

Soit (g, r) une paire de structures riemanniennes compatibles sur un voisinage tubulaire de W. Sous les hypothèses que les coins sont de codimension au plus 2, et que l’opérateur de signature au bord est inversible, W. Müller a construit un invariant que nous notons ici η_{c}(W, g) [25]. Ce nombre η_{c}(W, g) s’obtient à partir des invariants η associés aux faces de W plus un terme correctif calculé à partir des coins de V, et vérifie l’égalité :

η_{c}(W) = sign(V) − ∫_{V} L(V, g)

On a alors immédiatement:

Proposition 10.4. Pour toute orientation réelle λ duale de g, on a :

η_{c}(W, g) = η(W, λ).

La construction de [25] a été étendue par A. Hassell, R. Mazzeo, R. Melrose en prenant des coefficients dans un fibré vectoriel E sur W avec connexion ∇, et il est démontré [20, theorem 2] que le nombre suivant est un entier :

i_{d} = η_{c}(W, g, ∇) − ∫_{V} L(∇^{r}) Ch(∇).

Question. A-t-on l’égalité i_{d} = Ind D, où D est l’opérateur de signature sur V à coefficients dans E ?

11. Théorème de l’indice pour les fibrés plats

Soit W une variété topologique orientée de dimensions impaire. Rappelons que le groupe K^{1}(W, R/Z) est défini dans [4] comme la co-image de K^{1}(V, Q) dans K^{1}(W, Q/Z) ⊕ H^{∗}(V, R). Ce groupe s’insère dans la suite exacte [14] :

K^{1}(W) → K^{1}(W, R) → K^{1}(W, R/Z) → K^{0}(W) → K^{0}(W, R) →

Le produit intersection sur K^{1}(W) × K_{1}(W) détermine une application bilinéaire:

K^{1}(W, R/Z) × K_{1}(W) → R/Z

Soit Γ le groupe fondamental de W et ρ : Γ → U(N, C) une représentation unitaire de Γ. Dans [4], Atiyah-Patodi-Singer montrent que si V est muni d’une structure C^{∞}, on a un élément [ρ] ∈ K^{1}(W, R/Z) et calculent le produit intesection de [ρ] avec la classe de l’opérateur de signature. Dans cette section, nous généralisons cette formule dans le cas d’une variété topologique.

Par un théorème de D. Sullivan [29, 32], on peut munir W d’une structure lipschitzienne. Sur le fibré vectoriel E_{ρ} = W̃ ×_{Γ}C^{N}, on a alors une structure lipschtizienne hermitienne et une connexion plate unitaire ∇^{ρ}. Le couple (E_{ρ}, ∇^{ρ}) détermine un élément [ρ] du groupe K^{1}(W, R/Z)

[4] ainsi définie : soit θ un isomorphisme de E_{ρ} ⊗ C^{k} avec W × C^{Nk} et ω ∈ H^{∗}(W, R) la classe de cohomologie de k^{−1}Tch(k∇^{ρ}, d_{Nk}), où d_{Nk} désigne la connexion plate triviale sur W × C^{Nk}. L’élément [ρ] est l’image de (E_{ρ}, W × C^{k}, θ) ⊕ ω; il est indépendant du choix de θ.

Proposition 11.1. L’élément [ρ] ∈ K^{1}(W, R/Z) précédemment défini ne dépend pas du choix de la structure lipschitzienne.

Démonstration. Soient C_{i}, i = 0, 1, deux telles structures sur W. Il existe un homeomorphisme isotope à l’identité Φ de W tel que Φ^{∗}(C_{1}) = C_{0}. Il y a sur E_{ρ} deux structures lipschitziennes correspondant à C_{i}, pour i = 0, 1 et pour chacune d’entre elles, une connexion ∇^{i}, i = 0, 1. L’isomorphisme Φ implémente un isomorphisme Φ̃ de E_{ρ} lipschitzien pour ces deux structures. Comme Φ est isotope à l’identité, il y a égalité entre les éléments définis par (E_{ρ}, C_{0}) et (E_{ρ}, C_{1}) dans le groupe K^{1}(W, Q/Z). En faisant pour simplifier k = 1, nous obtenons enfin Tch(Φ̃^{∗}(∇^{1}), ∇^{0}) = 0 et Tch(Φ^{∗}(d_{N}), d_{N}) = 0 et donc Tch(∇^{1}, d_{N}) = Tch((∇^{0}, d_{N}). q.e.d.

Soit E un fibré vectoriel complexe sur W; on note Σ(V, E) la classe dans K_{1}(W) définie par l’opérateur de signature à coefficient dans E. Cette classe est indépendante du choix de la structure lipschitzienne.

Soit g une structure riemannienne sur W, l une structure hermitienne et ∇ une connexion unitaire sur E, l_{ρ} la structure hermitienne de E_{ρ}, et λ une orientation réelle de τ(W) ; soit k_{ρ} (resp. k_{E}) la dimension du noyau de l’opérateur de signature sur W à coefficients dans E_{ρ} ⊗ E (resp. E). Posons:

\begin{aligned}ξ(ρ, E) = & η(W, g, λ, E_{ρ} ⊗ E, l_{ρ} ⊗ l, ∇^{ρ} ⊗ 1_{E} + 1_{E_{ρ}} ⊗ ∇) \\ & + k_{ρ} − N(η(W, g, λ, E, l, ∇) − k_{E}) \end{aligned} (11.1)

Le théorème suivant montre que ξ(ρ, E) ne dépend que des classes de ρ et de E dans le groupes de K-théorie.

Théorème 11.2. On a l’égalité:

ξ(ρ, E) =< [ρ], Σ(W, E) > mod Z.

Démonstration. La démonstration de [4, Theorem 5.3] s’applique sans modification. Les assertions de [4, p. 95] dans le cadre lipschitzien résultent de la remarque 4.3. q.e.d.

Références

[1] S. Akbulut & L. Taylor, A topological resolution theorem, Inst. Hautes Études Sci. Pub. Math. 53 (1981) 171–195.

[2] M. F. Atiyah, R. Bott & V. K. Patodi, On the heat equation and index theorem, Invent. Math. 19 (1973) 279–330.

[3] M. F. Atiyah, V. K. Patodi & I. M. Singer, Spectral asymmetry and Riemmanian geometry. I, Math. Proc. Camb. Phil. Soc. 77 (1975) 43–69.

[4] , Spectral asymmetry and Riemmanian geometry. III, Math. Proc. Camb. Phil. Soc. 79 (1976) 71–99.

[5] M. F. Atiyah & I. M. Singer, The index of elliptic operators I, Ann. of Math. 87 (1968) 531–545.

[6] R. Bott & L. W. Tu, Differential forms in algebraic topology, Springer, Berlin Heidelberg New York, 1982.

[7] J. Cheeger, On the Hodge theory of Riemannian pseudomanifolds, Geometry of the Laplace operator (Boston), Proc. Sympos. Pure Math., no. 36, Amer. Math. Soc., Providence RI, 1980, 133–139.

[8] A. Connes, D. Sullivan, et N. Teleman, Quasiconformal mappings, operators on Hilbert space, and local formulae for characteristic classes, Topology 33 (1994), 663-681.

[9] P. Gilkey, Curvature and the eigenvalues of the Laplacian for elliptic complexes, Adv. Math. 10 (1973) 344–382.

[10] V. M. Goldstein, V. I. Kuzminov & I. A. Svedov, Formes différentielles sur les variétés lipschitziennes, Sibirski Mat. J. 23 (1982) 16–30.

[11] A. Hassell, R. Mazzeo & R. B. Melrose, A signature formula for manifolds with corners of codimension 2, Topology 45 (1997) 8.

[12] M. Hilsum, The signature operator for Lipschitz manifold and unbounded Kasparov bimodules, Operator algebras and their connections with Topology and Ergodic theory, no. L. N. Math. Vol. 1132, Springer, Heidelberg, 1985.

[13] , Fonctorialité en K-théorie bivariante pour les variétés lipschitziennes, K-theory 3 (1989) 401–440.

[14] M. Karoubi, K-theory, An introduction, Grundlehren Math. Wiss., no. 226, Springer, Berlin, 1985.

[15] , Homologie cyclique et K-théorie, Astérisque, no. 149, S.M.F., Paris, 1987.

[16] J. M. Kister, Microbundles are fibre bundles, Bull. Amer. Math. Soc. 69 (1963) 854–857.

[17] B. Lawson & M.-L. Michelsohn, Spin geometry, London Math. Soc. L. N. Ser., no. 210, Cambridge University Press, Saint Louis, 1994.

[18] N. Levitt, Exotic singular structures on spheres, Trans. Amer. Math. Soc. 205 (1975) 371–388.

[19] J. Luukainen & J. Väisälä, Elements of Lipschitz topology, Ann. Acad. Scien. Fennic, Ser. A.I. Math. 3 (1977) 85–122.

[20] Ib. Madsen & R.J. Milgram, The classifying spaces for surgery and cobordism of manifolds, Ann. of Math. Stud., no. 92, Princeton University Press, Princeton NJ, 1970.

[21] J. Milnor, Microbundles, Topology 3 (1964) 53–80.

[22] H. Moscovici & F. Wu, Localization of topological Pontryagin classes via finite propagation speed, Geom. Funct. Anal. 4 (1994) 52–92.

[23] , Pontryagin Forms for Manifolds with Framed Singular Strata, Geom. Funct. Anal. 5 (1995) 702–728.

[24] W. Müller, Eta invariants and manifolds with boundary, J. Differential Geom. 40 (1994) 311–377.

[25] , On the L^{2}-index of Dirac operators on manifolds with corners of codimension two, J. Differential Geom. 44 (1996) 97–177.

[26] J. Nash, The imbedding problem for Riemannian manifolds, Ann. of Math. 63 (1956) 20–63.

[27] S. P. Novikov, Topological invariance of rational Pontrjagin classes, Dokl. Akad. Nauk SSSR 163 (1965) 921–923.

[28] L. Siebenmann, Topological manifolds, Cong. Int. de Math., Nice 1972, Gauthiers-Villars, Paris, 1974.

[29] D. Sullivan, Hyperbolic geometry and homeomorphisms, Geometric Topology, Proc. Georgia Topology Conf., no. J. C. Cantrell, Academic Press, New York, 1997.

[30] N. Teleman, The index of signature operator on Lipschitz manifolds, Inst. Hautes Études Sci. Pub. Math. 58 (1983) 39–78.

[31] , The index theorem for topological manifolds, Acta Math. 153 (1984) 117–152.

[32] P. Tukia & J. Väisälä, Lipschitz and quasiconformal approximation and extension, Ann. Acad. Scien. Fennic, Ser. A.I. Math. 6 (1981) 303–372.

[33] H. Whitney, Geometric integration theory, Princeton University Press, Princeton, 1957.

Institut de Mathématiques, Université P. et M. Curie, France