Journal of Lie Theory Volume 7 (1997) 231–238 C ◯1997 Heldermann Verlag

Quelques propriétés de base des séries théta

Colette Mœglin

Communicated by J. Faraut

Abstract. In this article, one studies the basic properties of the theta correspondance between an even othogonal group and a symplectic group. One proves that the image of a cuspidal irreducible representation of one of theses groups by this correspondance is either 0 or irreducible and that the correspondance is involutive and injective when generalized to the Witt towers. Theses results was allready known when the rank of the groups are very different, thanks to works of Rallis. The method is based on the regularized Siegel-Weil formula of Kudla and Rallis and looks like the work of Rallis.

Soit k un corps de nombres dont on note 𝔸 l’anneau des adèles. Soit X un k - espace vectoriel muni d’une forme non dégénérée symplectique ou orthogonale de dimension paire, définie sur k. On note G(X) le groupe des automorphismes de X respectant la forme. On fixe aussi Y un espace vectoriel vérifiant les mêmes conditions que X; d’où aussi G(Y); on suppose que G(X), G(Y) forment une paire réductive duale, c’est-à-dire que X est symplectique si Y est orthogonal et vice et versa. On note θ^{X} le relèvement par série théta des formes automorphes cuspidales de G(X)(𝔸) en formes automorphes sur G(Y)(𝔸); on définit de façon symétrique θ^{Y} . Le but de cette note est de démontrer quelques propriétés de base de ces relèvements que l’on peut résumer dans le théorème:

Théorème. Soit π une sous-représentation irréductible de l’espace des formes automorphes cuspidales de G(X)(𝔸). On suppose que θ^{Y} (π) contient des formes automorphes cuspidales non nulles sur G(Y)(𝔸). Alors θ^{Y} (π) est une représentation irréductible cuspidale. On a l’involutivité:

θ^{X}θ^{Y} (π) = π.

On a aussi la propriété d’injectivité suivante: soit X′ un espace vectoriel dans la même tour de Witt que X (i.e. s’obtenant à partir de X en ajoutant ou soustrayant des plans hyperboliques). Et soit π′ une représentation irréductible cuspidale de G(X′)(𝔸) (explicitement réalisée). Alors:

θ^{Y} (π) = θ^{Y} (π′) ⇔ X = X′, π = π′.

ISSN 0949–5932 / $2.50 ^{_{C} ◯} Heldermann Verlag

Ce résultat généralise ceux de [R]; la base de la démonstration est la même, c’est l’utilisation de la formule de Siegel-Weil qui a été généralisée par [K-R]. On utilise aussi l’astuce technique suivante: soit a un entier positif ou nul; on note X_{a} l’espace X auquel on a ajouté a-plans hyperboliques. Supposons que θ^{Y} (π) ≠ 0 est formé de formes automorphes cuspidales. Un calcul standard montre que pour a grand θ^{X_{a}}(θ^{Y} (π)) est alors défini et formé de formes automorphes de carré intégrable. On calcule explicitement cet espace comme résidu de séries d’Eisenstein en 1. Puis on redescend à a = 0 en prenant des termes constants.

Cet article a été écrit après une discussion avec S.Kudla et S.Rallis et leur doit beaucoup. Je les remercie vivement de l’aide qu’ils m’ont ainsi apportée.

1. Calcul de θ^{X_{a}}θ^{Y} (π)

Dans tout ce paragraphe, on fixe X, Y, π comme ci-dessus. On suppose que θ^{Y} (π) ≠ 0 et on suppose que cet espace est inclus dans l’espace des formes automorphes cuspidales. On définit:

d(X) := dim X + 1, si X est symplectique dim X, si X est orthogonal.

On définit de même d(Y) et on pose

s_{X,Y} := (d(X) − d(Y) + 1)/2.

Pour tout a entier ≥ 1, on définit X_{a} comme dans l’introduction; on pose

s_{a} := s_{X,Y} + (a − 1)/2.

On définit l’espace de fonctions automorphes sur G(X_{a})(𝔸), éventuellement nul:

Res_{s_{a}}^{Q_{a}}E(s, π) := {((s − s_{a})E^{Q_{a}}(s, ϕ))_{s=s_{a}}},

si s_{a} est un pôle au plus simple de la fonction E^{Q_{a}}(s, ϕ) quand ϕ parcourt l’induite de la représentation χ_{Y} ∘ det|det|^{s} × π à G(X_{a})(𝔸).

Le but de ce paragraphe est de montrer le théorème:

Théorème. Soient X, Y, π comme ci-dessus. (i) Si a est grand θ^{X_{a}}θ^{Y} (π) = Res_{s_{a}}^{Q_{a}}E(s, π). (ii) Si d(Y) ≤ d(X), (i) est vrai pour tout a.

On commence par prouver (i); on note S_{X,Y} (resp. S_{X_{a},Y} ) un modèle de Schrödinger de la représentation métaplectique associée à X (resp. X_{a}) et Y . On suppose donc a grand. Par définition, θ^{X_{a}}θ^{Y} (π) est l’espace des formes automorphes sur G(X_{a})(𝔸):

\begin{matrix}∀g_{a} ∈ G(X_{a})(𝔸), \\ \{∫_{G(Y)(k)\G(Y)(𝔸)} ∫_{G(X)(k)\G(X)(𝔸)} θ_{f⊗f′}((g, g_{a}), h)ϕ(g) dg dh\}, \end{matrix}

où f ∈ S_{X,Y} et f′ ∈ S_{X_{a},Y} et θ_{f⊗f′} est vu comme une fonction sur G(X)(𝔸) × G(X_{a})(𝔸) × G(Y)(𝔸).

On fixe j une similitude de X de rapport -1 et on note X′ l’espace X muni de la forme opposée à celle de X. Dans l’intégrale ci-dessus, on remplace X par X′ en conjuguant tout par j; on note ϕ′ l’image de ϕ par la conjugaison sous j. Soit z l’élément de l’algèbre enveloppante de G(Y), défini par [K-R], permettant de régulariser les intégrales des séries théta pour la représentation S_{(X′⊕X_{a})⊗Y} . On note z(tr) le scalaire par lequel z opère dans la représentation triviale de G(Y)(𝔸). On utilise la formule explicite de [K-R] 5.5.4. pour vérifier que z(tr) ≠ 0 si d(X) + a > d(Y), cf. [M], 4.2 (1). Cette inégalité est réalisée ici. D’où, pour tout f ∈ S_{X′,Y} , f′ ∈ S_{X_{a},Y} :

\begin{matrix}∫_{G(Y)(k)\G(Y)(𝔸)} ∫_{G(X)(k)\G(X)(𝔸)} θ_{f⊗f′}((g, g_{a}), h)ϕ′(g) dg dh \\ = z(tr)^{−1} ∫_{G(Y)(k)\G(Y)(𝔸)} ∫_{G(X)(k)\G(X)(𝔸)} zθ_{f⊗f′}((g, g_{a}), h)ϕ′(g) dg dh. \end{matrix}

On peut maintenant inverser les intégrales en g et h puisque zθ_{(f⊗f′)} est à décroissance rapide en h [K-R], 5.3.1. L’intégrale en h est précisément la formule de Siegel-Weil de [K-R] et aussi [M] fin de 3.2; on note P_{a} un parabolique de Siegel de X′ ⊕ X_{a} et [K-R] montre qu’il existe une section holomorphe, F_{s} du fibré des induites globales des caractères χ_{Y} |det|^{s} (s ∈ ℂ) tel que:

\begin{matrix}∀g′, g_{a} ∈ G(X′)(𝔸) × G(X_{a})(𝔸) ⊂ G(X′ ⊕ X_{a})(𝔸), \\ ∫_{G(Y)(k)\G(Y)(𝔸)} zθ_{f⊗f′}((g′, g_{a}), h) dh = ((s − s_{a})E^{P_{a}}(s, F_{s}))_{s=s_{a}}(g′, g_{a}). \end{matrix}

On pose formellement:

∀g_{a} ∈ G(X_{a}), F_{ϕ,s} := ∫_{G(X′)(k)\G(X′)(𝔸)} F_{s}(g′, g_{a})ϕ′(g′) dg′.

On a vérifié en [M] 2.1 que cela définit une section méromorphe du fibré des induites χ_{Y}^{s} ∘ det × π. On a alors, cf. [M] 2.2, pour tout g_{a} ∈ G(X_{a})(𝔸):

\begin{matrix}∫_{G(X′)(k)\G(X′)(𝔸)}((s − s_{a})E^{P_{a}}(s, F_{s}))_{s=s_{a}}(g′, g_{a})ϕ′(g) dg \\ = ((s − s_{a})E^{Q_{a}}(s, F_{ϕ,s}))_{s=s_{a}}(g_{a}). \end{matrix}

Si le terme de droite était nul, il n’y aurait pas de relèvement; ainsi il n’est pas nul. L’égalité ci-dessus est vraie avant évaluation en s = s_{a} (cf. loc.cit) or le terme de gauche est holomorphe en s = s_{a}; ainsi le terme de droite l’est aussi et le pôle est au plus simple. L’évaluationen s = s_{0} est, par définition, dans l’espace Res_{s=s_{a}}^{Q_{a}}(π). D’où (i).

Montrons maintenant (ii); on suppose donc que d(Y) ≤ d(X). Pour avoir le résultat pour tout a ≥ 0, il suffit de calculer les termes constants. Plus précisément, fixons A grand. Pour ϕ′ dans l’espace de θ^{Y} (π) et pour f_{A} ∈ S_{X_{A},Y} , on note θ(f_{A}, ϕ′) la forme automorphe sur G(X_{A})(𝔸):

∀g_{A} ∈ G(X_{A})(𝔸), θ(f_{A}, ϕ′) := ∫_{G(Y)(k)\G(Y)(𝔸)} θ_{f_{A}}(g_{A}, h)ϕ′(h) dh.

D’après ce qui précède, il existe F_{A} dans une induite convenable tel que:

θ(f_{A}, ϕ′) = ((s − s_{A})E^{Q_{A}}(s, F_{A}))_{s=s_{A}}.  (1)

Fixons a ≤ A et a ≥ 0; on note Q_{A−a} le sous-groupe parabolique de G(X_{A}) stabilisant un espace isotrope de dimension A−a. On calcule les termes constants des deux fonctions ci-dessus relativement à ce parabolique. On a besoin de quelques notations. On identifie l’espace S_{X_{A},Y} au produit tensoriel:

S_{X_{A},Y} ≃ S_{X_{a},Y} ⊗ S(𝔸^{A−a} ⊗ Y),

où le deuxième S est l’espace de Schwartz. On note f_{A} ∈ S_{X_{A},Y} ↦ (f_{A})_{|X_{a},Y} l’évaluation en 0 ∈ 𝔸^{A−a}⊗Y et on note ω la représentation de Weil dans S_{X_{A},Y} . Alors, la cuspidalité de ϕ′ assure que:

∀g_{A} ∈ G(X_{A})(𝔸), θ(f_{A}, ϕ′)_{Q_{A}}(g_{A}) = θ^{X_{a},Y} ((ω(g_{A})f_{A})_{|X_{a},Y} , ϕ′)(1). (2)

En particulier, quand on ne considère que les g_{A} ∈ G(X_{a}) on trouve exactement les fonctions dans θ^{X_{a}}θ^{Y} (π). D’autre part, GL(A − a)(𝔸) opère par multiplication à gauche (après correction usuelle par la fonction module) par le caractère:

|det|^{dim Y/2−(A−a−ϵ+2a+dim X)/2},

où ϵ vaut 1 si X est orthogonal et −1 si X est symplectique; le terme dim Y/2 vient des formules de la représentation métaplectique et |det|^{(A−a−ϵ+2a+dim X)/2} est la fonction module. C’est-à-dire, l’opération se fait par le caractère:

|det|^{−s_{A}−a/2}  (3).

Le calcul du terme constant d’une série d’Eisenstein est standard; il introduit des termes constants de F_{A} car la représentation de Q_{A}, χ_{Y} ∘det|det|^{s}× π n’est pas cuspidale. Pour éviter ce léger ennui mieux vaut se ramener dès le départ au cas cuspidal. On note Q′_{A} un sous-groupe parabolique de G(X_{A}) de Levi, M′_{A}, isomorphe à A-copies de GL(1) fois G(X). On peut trouver une section holomorphe, F_{s_{1},···,s_{A}}, (s_{1}, ⋯, s_{A}) ∈ ℂ^{A}, du faisceau d’induites,

| |^{s_{1}} × ⋯ × | |^{s_{A}} × π,

tel que l’on ait l’égalité pour tout s ∈ ℂ:

\begin{matrix}E^{Q_{A}}(s, F_{A}) = \\ ( ∏_{i∈[1,A]}(s_{i} − s − (A − 2i − 1)/2)E^{Q′_{A}}(F̃_{s_{1},···,s_{A}}))_{s_{i}=s+(A−2i−1)/2;i∈[1,A]}. \end{matrix}

Cela revient à dire que la représentation triviale de GL(A)(𝔸) est un résidu de série d’Eisenstein.

On fixe un tore maximal de G(X_{A}) inclus dans M′_{A}; on définit donc le groupe de Weyl de G(X_{A}). On note Ω le sous-ensemble de ce groupe de Weyl formé des éléments, w, de longueur minimale dans la double classe Q_{A−a}wQ′_{A}. Il est clair que Ω est l’ensemble des applications w : {1, ⋯, A} dans {±1, ⋯, ±A} vérifiant:

w^{−1}(i) < w^{−1}(j), si i < j ≤ A − a, ou si A − a < i < j

et w^{−1}(i) > 0 si i > A − a.

Pour F̃_{s_{1},···,s_{A}} comme ci-dessus, on note M(w, s_{1}, ⋯, s_{t}) l’opérateur d’entrelacement associé à w. D’où en notant M_{A−a} le Levi standard de Q_{A−a}:

E^{Q′_{A}}(s_{1}, ⋯, s_{A}, F̃_{s_{1},···,s_{A}})_{Q_{A−a}} =

∑_{w∈Ω} E_{M_{A−a}}^{wQ′_{A}w∩M_{A−a}}(w(s_{1}, ⋯, s_{A}), M(w, s_{1}, ⋯, s_{A})F̃_{s_{1},···,s_{A}}).

On multiplie par ∏_{i∈[1,A]}(s_{i}−s−(A−2i+1)/2) et on évalue en s_{i} = s+(A−2i+ 1)/2) pour tout i ∈ [1, A]. Puis on multiplie encore par (s − s_{A}) et on évalue en s = s_{A}. Un certain nombre de termes disparaissent. Comme le résultat coïncide avec (2), on sait déjà que GL(A − a) ⊂ M_{A−a} opère sur les termes restants par multiplication par le caractère χ_{Y} |det|^{−s_{A}−a/2} (il y a la correction par la fonction module, cf. (3)). Pour tout w ∈ Ω, on définit ϵ(w^{−1}) comme fonction de [1, A] à valeurs dans {±1} et |w^{−1}| comme fonction du même ensemble dans lui-même de sorte que pour tout i ∈ [1, A]:

w^{−1}(i) = ϵ(w^{−1})(i)|w^{−1}|(i).

Alors l’image de l’induite

| |^{s_{1}} × ⋯ × | |^{s_{A}}

par w est l’induite:

| |^{ϵ(w^{−1})(1)s_{|w^{−1}|(1)}} × ⋯ × | |^{ϵ(w^{−1})(A)s_{|w^{−1}|(A)}}.

Les seuls termes qui vont contribuer sont ceux pour lesquels le caractère |det|^{−s_{a}−A/2} de GL(A − a) est quotient de l’induite ci-dessus (on ne garde que les A−a premiers facteurs) au point s_{i} = s_{A} +(A−2i+1)/2. On vérifie, en utilisant les résultats classiques de Zélévinski sur les représentations de GL(A − a) que cela nécessite que, pour tout i ∈ [1, A − a], au point précisé ci-dessus:

ϵ(w^{−1})(i)s_{|w^{−1}|(i)} = −s_{A} − a/2 + (A − a − 2i + 1)/2.

Or au point précisé:

ϵ(w^{−1})(i)s_{|w^{−1}|(i)} = ϵ(w^{−1})(i)(s_{A} + (A − 2|w^{−1}|(i) + 1)/2).

Si ϵ(w^{−1})(i) = 1, on trouve:

2s_{A} + a/2 = |w^{−1}|(i) − i.

Ou encore, 2s_{X,Y} + (A − 1) + a/2 = |w^{−1}|(i) − i. Mais, si d(X) ≥ d(Y) alors s_{X,Y} > 0 et le terme de gauche est strictement supérieur à A − 1; alors que celui de droite est certainement inférieur ou égal à A−1. Sous l’hypothèse de l’énoncé de (ii) cette éventualité est donc impossible. On a donc ϵ(w^{−1})(i) = −1 et:

A − a + 1 = i + |w^{−1}|(i).

i.e. pour tout i ∈ [1, A−a], w(i) = −(A−a−i+1). Cela détermine totalement w puisqu’alors w(i) = i pour tout i ∈]A − a, A] d’après les propriétés des éléments de Ω. Pour conclure le calcul, on se limite à g_{a} ∈ G(X_{a}) et on trouve que le terme constant cherché en g_{a} est, à une constante près, si a > 0, la fonction :

∏_{i∈[A−a,A]}(s_{i} − s − (A − 2i + 1)/2)(s − s_{A})E^{Q′_{a}}(s, (F′_{A})_{|G(X_{a})}) (g_{a}),

évaluée en s_{i} = s + (A − 2i + 1)/2 pour i ∈]A − a, A], puis en s = s_{A}. Or s_{A} = s_{a} + (A − a)/2; on remarque que pour tout i ∈]A − a, A]:

s_{i}−s−(A−2i+1)/2 = (s_{i}−(A−a))−(s−(A−a)/2)+−(a−2(i−(A−a))+1)/2.

On trouve donc, après les translations évidentes, la fonction :

∏_{i∈[1,a]}(s_{i} − s − (a − 2i + 1)/2)(s − s_{a})E^{Q′_{a}}(s, (F′_{A})_{|G(X_{a})}) (g_{a}).

évaluée d’abord en s_{i} = s+(a−2i+1)/2 pour tout i ∈]A−a, A], puis en s = s_{a}. L’évaluation en s_{i} = s+(a−2i+1)/2, i ∈]A−a, A], donne une série d’Eisenstein pour le parabolique Q_{a} et le faisceau des induites de χ_{Y} ∘ det| det|^{s} × π. Cela prouve que le résultat est dans Res_{s_{a}}^{Q_{a}}(E(s, π)) comme annoncé.

2. Involutivité

Pour b ≥ 0 on note X_{−b} l’espace X auquel on a enlevé b plans hyperboliques, si c’est possible; sinon X_{−b} = 0.

Théorème. Soient X, Y comme dans l’introduction et soit π une représentation cuspidale irréductible de G(X)(𝔸); on suppose que θ^{Y} (π) ≠ 0 et est formé de formes automorphes cuspidales.

(i) θ^{X}θ^{Y} (π) = π, et pour tout b > 0:

θ^{X_{−b}}θ^{Y} (π) = 0.

(ii) Pour tout a > 0, pour toute forme automorphe cuspidale Ψ sur G(X_{a})(𝔸) et pour toute forme automorphe f ∈ θ^{X_{a}}θ^{Y} (π) le produit scalaire:

< f, Ψ >= 0.

En particulier θ^{X_{a}}θ^{Y} (π) ne contient pas de formes automorphes cuspidales.

Remarquons que (i) donne une version de l’involutivité plus faible que celle du théorème de l’introduction puisque l’on suppose que θ^{Y} (π) est cuspidal; c’est la deuxième assertion de 3 ci-dessous qui permet de se ramener au cas ou θ^{Y} (π) ne fait que contenir des formes automorphes cuspidales non nulles.

(i) On procède comme dans la preuve de 1 (ii) dont on reprend les notations. On calcule les termes constants des fonctions dans θ^{X_{A}}θ^{Y} (π) relativement au parabolique Q_{A} (A est fixé grand). En reprenant les notations de cette preuve, on trouve, pour tout g_{A} ∈ G(Y_{A})(𝔸):

∏_{i∈[1,A]}(s_{i} − s − (A − 2i + 1)/2)(s − s_{A}) ∑_{w∈Ω} M(w, s_{1}, ⋯, s_{A})F′_{A} (g_{A}),

évaluée en s_{i} = s_{A} + (A − 2i + 1)/2 pour tout i ∈ [1, A], puis en s = s_{A}. Quand g_{A} ∈ G(Y) l’expression ci-dessus est dans l’espace de π; d’où la première assertion de (i); pour la deuxième, on calcule les termes constants relativement à Q_{A+b}; mais un calcul par étage, montre que cela revient à calculer les termes constants relativement d’abord à Q_{a} puis à M_{A} ∩Q_{A+b}; cette opération donne 0 puisque nous venons de voir que la première opération donne des fonctions dont la restriction à G(X) est cuspidale.

(ii) On procède comme en (i) en reprenant les notations de la preuve de 1. On fixe encore A grand, on calcule les termes constants relativement au parabolique Q_{A−a} de G(X_{A}) et on fait le produit scalaire de ces termes constants restreints à G(X_{a}) avec les formes automorphes cuspidales de G(X_{a})(𝔸). Mais ces termes constants sont des combinaisons linéraires de séries d’Eisenstein convenablement évaluées à partir des paraboliques G(X_{a}) ∩ wQ′_{A}w^{−1} pour w ∈ Ω; un tel parabolique est nécessairement propre car Q′_{A} ne contient aucun sous-groupe algébrique isomorphe à G(X_{a}); d’où la nullité qui prouve (ii).

Corollaire, irréductibilité. Soient X, Y comme dans l’introduction. Soit π une représentation cuspidale irréductible de G(X)(𝔸); on suppose que θ^{Y} (π) est non nul et cuspidal; alors θ^{Y} (π) est irréductible. Soit a > 0, alors θ^{Y_{a}}(π) est orthogonal aux formes automorphes cuspidales de G(Y_{a}).

Soit σ une sous-représentation irréductible incluse dans θ^{Y} (π). Grâce à la deuxième assertion de 2 (i), on sait que θ^{X_{−b}}(σ) ⊂ θ^{X_{−b}}θ^{Y} (π) est nul si b > 0; par contre, il est facile de vérifier que θ^{X}(σ) ≠ 0 et donc θ^{X}(σ) = π. En particulier θ^{X}(σ) est non nul et cuspidal. On applique 1 (i) à σ d’où:

σ = θ^{Y} θ^{X}(σ) = θ^{Y} (π).

Cette égalité prouve l’irréductibilité de θ^{Y} (π). La deuxième assertion s’obtient en appliquant 2 (ii) à σ.

Corollaire, injectivité. Soient X, Y, π comme en 3; en particulier θ^{Y} (π) est non nul cuspidal. Soit b ∈ ℤ tel que X_{b} soit défini et soit π′ une représentation cuspidale irréductible de G(X_{b})(𝔸). Alors:

θ^{Y} (π′) = θ^{Y} (π) ⇔ b = 0, π′ = π.

Quitte à échanger les rôles de π et π′, on peut supposer que b ≤ 0. Alors la deuxième assertion de 2 (i) entraîne que b = 0 et π = π′ résulte de la première assertion de 2 (i).

On a aussi le corollaire suivant qui confirme que la correspondance de Howe doit se lire sur les paramètres d’Arthur.

Corollaire. Soient X, Y et soient π π′ des représentations cuspidales irréductibles de G(X)(𝔸). On suppose que π et π′ sont isomorphes alors:

θ^{Y} (π) ≠ 0 ⇔ θ^{Y} (π′) ≠ 0.

En effet supposons que θ^{Y} (π) ≠ 0 et θ^{Y} (π′) = 0. Soit b ∈ ℤ maximal tel que θ^{Y_{−b}}(π) ≠ 0; nécessairement b ≥ 0 et θ^{Y_{−b}}(π′) = 0. En remplaçant Y par Y_{−b}, on suppose que b = 0 pour trouver une contradiction. Ainsi θ^{Y} (π) est cuspidal. Soit π′′ une sous-représentation irréductible cuspidale incluse dans π + π′ non égale à π et tel que θ^{Y} (π′′) ≠ 0. L’hypothèse que π ≃ π′ assure l’existence d’une telle représentation. De plus nécessairement

θ^{Y} (π′′) = θ^{Y} (π).

Cela contredit l’injectivité.

Bibliographie

[K-R] Kudla, S, and S. Rallis, A regularized Siegel-Weil formula: the first term identity, Ann. of math. 140 (1992), 1–80.

[M] Mœglin, C., Non nullité de certaines séries théta, à paraître in Journal of Lie theory.

[R] Rallis, S., On the Howe duality conjecture, Comp. Math. 51 (1984), 333– 399.

Colette Mœglin Mathématiques Université Paris 7 F-75251 Paris cedex 05 email moeglin@math.jussieu.fr

Received May 24, 1996