Journal of Lie Theory Volume 7 (1997) 201–229 C ◯1997 Heldermann Verlag

Non nullité de certains relêvements par séries théta

Colette Mœglin

Communicated by J. Faraut

Abstract. In this article, one studies the theta correspondance between automorphic representations of an even orthogonal group and a symplectic group. Fix an irreducible cuspidal representation, π, of the othogonal group. One gives a necessary and sufficient condition in order that there exists an adelic character of the orthogonal group, η such that the image of π ⊗ η by the correspondance is non zero. One gives also an answer for the symetric question, π is now a representation of the symplectic group; here one allows change of the orthogonal space saving the dimension. The method is based on the works of Kudla, Rallis and Piatetskii-Shapiro.

Soit X un espace vectoriel muni d’une forme non dégénérée symplectique ou orthogonale de dimension paire, définie sur k. Soit π une représentation automorphe cuspidale du groupe des automorphismes de X muni de sa forme, noté G(X). On relie l’existence de pôles pour certaines séries d’Eisenstein liées à π à la non nullité de certaines séries théta. Ceci est évidemment très proche des travaux de Kudla et Rallis ([K-R]) et en est même par endroits une simple copie; cela utilise aussi de façon très importante les travaux de Piatetski-Shapiro et Rallis ([G-PS-R]) sur les fonctions L. En outre des résultats complets dans le cas où l’on considère les paires réductives duales où le groupe orthogonal est compact à l’infini, ont été obtenu par S. Böcherer en [B1,2]. Cet article fait suite à plusieurs échanges entre l’auteur et S. Kudla et S. Rallis; la contribution de Kudla et de Rallis, bien qu’indirecte est extrêmement importante et je les en remercie très chaleureusement.

Soyons plus précis sur les résultats de cet article. Pour tout a ∈ ℕ, notons X_{a} l’espace X auquel on a ajouté a plans hyperboliques; on fixe ℓ_{a}^{±} des espaces isotropes en dualité de X_{a} de dimension a tels que:

X_{a} = X ⊕ ℓ_{a}^{+} ⊕ ℓ_{a}^{−}.

On note G(X_{a}) le groupe des automorphismes de X_{a} muni de sa forme et Q_{a} le sous-groupe parabolique de G(X_{a}) stabilisant ℓ_{a}^{+} ; on note U_{Q_{a}} le radical

ISSN 0949–5932 / $2.50 ^{_{C} ◯} Heldermann Verlag unipotent de Q_{a} et M_{Q_{a}} son Levi qui s’identifie à GL(ℓ_{a}^{+}) × G(X). On note M_{Q}(𝔸)^{1} le noyau du caractère |det_{ℓ_{+}^{a}}| et on identifie:

M_{Q}(𝔸)/M_{Q}(𝔸)^{1} ≃ ℝ_{>0}^{∗},

par le caractère |det_{ℓ_{+}^{a}}|.

On fixe des compacts maximaux, K_{a}, de chacun des groupes G(X_{a}) et on fixe aussi η un caractère quadratique adélique de 𝔸^{∗}/k^{∗}. On fixe une réalisation de π dans l’espace des formes automorphes cuspidales sur G(X)(k)\G(X)(𝔸). On note E_{a} l’ensemble des formes automorphes, Φ, sur

U_{Q_{a}}(𝔸)M_{Q_{a}}(k)\G(X_{a})(𝔸),  (1)

vérifiant, pour tout t ∈ GL(ℓ_{a}^{+}) et tout g ∈ G(X_{a})(𝔸):

Φ(tg) = η(det t)ρ_{Q_{a}}^{1/2}(t)Φ(g),

où ρ_{Q_{a}} est la fonction module de Q_{a} et aussi telle que, pour tout k ∈ K_{a}, la fonction g ∈ G(X)(𝔸) ↦ Φ(g k) est dans l’espace de π. Pour Φ ∈ E_{a}, et pour s ∈ ℂ, on note Φ_{s} la forme automorphe sur (1) définie par:

∀g ∈ G(X_{a})(𝔸), Φ_{s}(g) = h_{Q_{a}}(g)^{s}Φ(g),

où h_{Q_{a}}(g) est l’image dans M_{Q_{a}}(𝔸)/M_{Q_{a}}(𝔸)^{1} (vu comme tore réel, cf. ci-dessus) de M_{Q_{a}}(𝔸) ∩ U_{Q_{a}}(𝔸)gK_{a}. On peut alors former la série d’Eisenstein:

∀g ∈ G(X_{a})(𝔸), E^{Q_{a}}(s, Φ_{s})(g) := ∑_{γ∈Q_{a}(X)(k)\G(X_{a})(k)} Φ_{s}(γ g).

Cette série d’Eisenstein est définie comme fonction méromorphe de s. On montrera au paragraphe 1:

Remarque 1. Soit a ∈ ℕ; on suppose qu’il existe s_{0} ∈ ℝ_{>0} tel qu’il existe Φ ∈ E_{a} dont la série d’Eisenstein E^{Q_{a}}(s, Φ_{s}) ait un pôle en s = s_{0} + (a − 1)/2. On fixe s_{0} maximal avec cette propriété. Alors pour tout a′ ∈ ℕ, il existe Φ′ ∈ E_{a′} dont la série d’Eisenstein E^{Q_{a′}} (s, Φ′_{s}) a un pôle en s = s_{0} +(a′ −1)/2.

Le résultat principal est de lier l’existence de pôles à ces séries d’Eisenstein aux propriétés de non nullité des relèvements par séries théta. Plus précisément, posons:

d(X) := dim X + 1, si X est symplectique dim X, si X est orthogonal.

On définit, en fixant a ∈ ℕ:

s_{Eis}(π, η) := sup{s′ ∈ ℝ_{>0}; ∃Φ ∈ E_{a}, E(s, Φ), a un pôle en s = s′ + (a − 1)/2}, si l’ensemble ci-dessus est non vide et sinon, la remarque 1 n’étant plus valable, on définit

s_{Eis}(π, η) := sup{s′ ∈ ℝ; ∀a grand ∃Φ ∈ E_{a}, E(s, Φ)
a un pôle simple en s = s′ + (a − 1)/2}.

Dans le cas où s_{Eis}(π, η) est ≤ 0, il n’est déjà pas clair que les pôles des séries d’Eisenstein E(s′, Φ) soient au plus simples. Et on insiste sur le fait que dans la définition, le pôle doive intervenir pour tout a grand; cette notion est relative à π et η.

Pour Y un k -espace vectoriel ayant les mêmes propriétés que X, on définit aussi G(Y) et d(Y). Supposons que G(X), G(Y) forment une paire réductive duale, on pose alors:

s_{X,Y} := (d(X) − d(Y) + 1)/2.

Ce nombre joue un rôle clé dans toute la théorie des paires réductives duales. On note θ^{Y} (π) le relèvement de π par séries theta en formes automorphes sur G(Y)(𝔸); cet espace peut être nul. Posons encore:

s_{θ}(π, η) := sup{s_{X,Y} },

où Y parcourt l’ensemble suivant: si X est symplectique, Y est orthogonal de discriminant η et θ^{Y} (π) ≠ 0; si X est orthogonal de dimension paire, on rappelle que la norme spinorielle définit un morphisme de G(X)(𝔸) dans 𝔸^{∗}/𝔸^{∗ 2} , alors Y est symplectique et il existe un caractère χ de G(X) tel que pour toute place v de k et pour tout g_{v} ∈ G(X ⊗ k_{v}) de déterminant 1:

χ(g_{v}) = η(Nsp(g_{v})),

et tel que θ^{Y} (π ⊗ η) ≠ 0. Par les travaux de Rallis (cf. par exemple [R1]), on sait que s_{θ}(π, η) est bien défini; c’est un élément de ℤ.

Le but de ce travail est de montrer:

Théorème.

s_{Eis}(π, η) = s_{θ}(π, η).

L’inégalité s_{Eis}(π, η) ≥ s_{θ}(π, η) est la partie facile du théorème; l’autre inégalité, quand s_{Eis} > 0, est une généralisation d’un résultat déterminant de Kudla et Rallis. Expliquons pourquoi.

Suivant Langlands, on définit la fonction L restreinte de π tordue par η, L^{S}(s, η × π), en ne tenant compte que des places non ramifiées. Alors Kudla et Rallis ont démontré le théorème suivant:

Théorème. ([K-R] 7.2.5) Supposons que X soit symplectique; soit s_{0} ∈ R_{≥1} un pôle pour la fonction L^{S}(s, η × π). Alors:

m := dim X/2 − s_{0} + 1 ∈ ℕ

et il existe un k -espace orthogonal Y de discriminant η et de dimension 2m tel que le relèvement par séries théta de l’espace de π en un espace de formes automorphes sur G(Y)(k)\G(Y)(𝔸) (G(Y) est le groupe des automorphismes de Y )) soit non nul.

Et on montrera au paragraphe 1 la remarque suivante:

Remarque 2. Soit s_{0} ∈ R_{≥1} un pôle pour L^{S}(s, η × π) comme dans le théorème ci-dessus; on suppose que s_{0} est maximal avec cette propriété. Alors, pour tout a ≥ 1, il existe Φ ∈ E_{a} telle que la série d’Eisenstein E^{Q_{a}}(s, Φ_{s}) ait un pôle en s_{0} + (a − 1)/2.

La réciproque n’est pas vraie, il peut y avoir des pôles pour les séries d’Eisenstein sans qu’il y en ait pour les fonctions L partielles. Les difficultés sont des zéros parasites de fonctions L^{S} qui apparaissent dans les circonstances suivantes: soit η′ un caractère quadratique non trivial et soit S un ensemble fini de places hors duquelle η′ est non ramifié. Mais on suppose qu’il existe v ∈ S tel que η′_{v} soit trivial. Alors la fonction L^{S}(1, s + 1)L^{S}(η′, s) n’a pas de pôle en s = 0 alors que la fonction L(1, s + 1)L(η′, s) en a.

Ainsi le théorème évite les difficultés liées aux zéros parasites des fonctions L^{S}. Il n’est pas encore complètement satisfaisant dans la mesure où on voudrait encore comprendre ces pôles; cf. la partie 5 pour des exemples illustrants les difficultés.

Le théorème a un analogue pour toutes les paires réductives duales, non démontré faute de formule de Siegel-Weil (cf. le paragraphe 3 ci-dessous); extrapolons le quand même pour la paire O(3) déployé et S̃L(2) étudiée par Waldspurger [W] et généralisée en [R2]. Soit π une représentation automorphe cuspidale de S̃L(2, 𝔸); avec π on construit des séries d’Eisenstein pour S̃p(4, 𝔸) grâce à un analogue de E_{a=1} . Le théorème dirait que π se relève sur O(3)(𝔸) s’il existe Φ ∈ E_{a} tel que la série d’Eisenstein E(s, Φ_{s}) ait un pôle en s = 1/2. Par exemple si Φ est sphérique en toute place, l’existence du pôle est équivalente à L(1/2, π) ≠ 0; il n’y a pas de conditions locales parce que l’hypothèse sphérique les rend automatiques.

1. Remarque sur les séries d’Eisenstein

L’objet de ce paragraphe est de démontrer les remarques 1 et 2 de l’introduction; il est inutile pour la preuve du théorème.

On prouve d’abord la remarque 1 dont on rappelle l’énoncé:

1.1 Remarque 1. Soit a ∈ ℕ; on suppose qu’il existe s_{0} ∈ ℝ_{>0} tel qu’il existe Φ ∈ E_{a} dont la série d’Eisenstein E^{Q_{a}}(s, Φ_{s}) ait un pôle en s = s_{0} + (a − 1)/2. On fixe s_{0} maximal avec cette propriété et alors pour tout a′ ∈ ℕ, a′ ≥ a, il existe Φ′ ∈ E_{a′} dont la série d’Eisenstein E^{Q_{a′}} (s, Φ′_{s}) a un pôle en s = s_{0} +(a′ −1)/2.

On reprend les notations de l’introduction, X, η un caractère quadratique, π une représentation cuspidale de G(X)(𝔸). On fixe a ∈ ℕ et on note Q′_{a} le sous-groupe parabolique de G(X_{a}) stabilisateur d’un drapeau complet de sous-espaces inclus dans ℓ_{a,+} ; son Levi est isomorphe à a copies de GL(1) fois G(X). On note U′ le radical unipotent de ce parabolique et M′ un Levi. On suppose que K_{a} ∩ M′(𝔸) est un sous-groupe compact maximal de M′(𝔸).

Soit Φ ∈ E_{a}. Il est clair qu’à conjugaison près, Q′_{a} est le seul sousgroupe parabolique de G(X_{a}) qui fournit un terme constant pour E(s, Φ_{s}) non nul et dont la projection sur l’espace des formes automorphes du Levi est non nul. En particulier les pôles pour E(s, Φ_{s}) sont les mêmes que les pôles pour le terme constant E(s, Φ_{s})_{Q′_{a}}. Calculons:

∀g ∈ G(X_{a})(𝔸) E(s, Φ_{s})_{Q′_{a}}(g) := ∫_{U′(k)\U′(𝔸)} E(s, Φ_{s})(u g) du.

La méthode est standard; on suppose d’abord que Re s est grand pour développer la série d’Eisenstein en somme sur Q_{a}(k)\G(X_{a})(k). On a à fixer un système de représentants, J, des doubles classes:

Q_{a}(k)\G(X_{a})(k)/Q′_{a}(k).

On note r l’indice de Witt de X; si X est symplectique r = dim X/2. On fixe un tore déployé maximal T_{a} de G(X_{a}) inclus dans Q′ et un système de racines positives tel que T_{a} agisse par des racines positives dans U′. On peut prendre pour J, l’ensemble des éléments w^{−1} du groupe de Weyl tels que pour toute racine positive α incluse dans M′, w^{−1}(α) soit encore positive tandis que pour toute racine positive α incluse dans M_{Q_{a}}, w(α) soit encore positive. On identifie le groupe de Weyl de G(X_{a}) à 𝔖_{r+a} × {±1}^{r+a} où encore aux applications, w, de {1, ⋯, r + a} à valeurs dans {±1, ⋯, ±(r + a)} telles que w(i) ≠ ±w(j) si i ≠ j, de façon évidente; pour le groupe orthogonal, on est sorti de la composante neutre. Pour (i) sous-ensemble éventuellement vide, de [1, a], on note n(i) le nombre d’éléments de (i) et i_{1} < ⋯ < i_{n(i)} les éléments de (i) ordonnés; on note i′_{1} < ⋯ < i′_{a−n(i)} les éléments du complémentaires de (i) ordonnés comme indiqué. On définit alors un élément w_{(i)} de W par les relations:

∀k ∈ [0, n(i)] w_{(i)}(k) = i_{k}
∀k ∈]n(i), a], w_{(i)}(k) = −i′_{a−k}.
∀j ∈ [a + 1, r + a], w_{(i)}(k) = k.

Il est clair que ces éléments sont dans J mais J en contient d’autres qui vérifient :

∀j > a, w(j) > 0, w(a + 1) < ⋯ < w(a + r)

et w(a+1) ≤ a. En particulier, pour un tel w, notons i_{w} le plus grand entier tel que w(a+i_{w}) ≤ a, alors ( U_{Q_{a}} est le radical unipotent de Q_{a}) G(X)∩w^{−1}U_{Q_{a}}w contient le radical unipotent d’un parabolique maximal de G(X) stabilisant un espace isotrope de X de dimension i_{w}. Comme π est cuspidal, la contribution des doubles classes correspondantes aux calculs du terme constant est nul. Pour i ∈ [0, a], posons:

∀g ∈ G(X_{a})(𝔸), Φ_{s,(i)}(g) := ∑_{γ∈Q′_{a}(k)∩w_{(i)}Q_{a}(k)w_{(i)}^{−1}\Q′_{a}(k)} Φ_{s}(w_{(i)}^{−1}γg).

On remarque que pour tout (i), M′ ⊂ w_{(i)}Q_{a}w_{(i)}^{−1} ; ainsi la somme ci-dessus ne porte que sur

γ ∈ U′(k) ∩ w_{(i)}Q_{a}(k)w_{(i)}^{−1}\U′(k).

On trouve alors aisément, par prolongement méromorphe (et avec un choix de mesures convenables):

∀g ∈ G(X_{a})(𝔸), E(s, Φ_{s})_{Q′_{a}}(g) = ∑_{(i)} ∫_{U′(𝔸)∩w_{(i)}Q_{a}(k)w_{(i)}^{−1}\U′(𝔸)} Φ_{s}(w_{(i)}^{−1}u g) du.

Chaque terme est en fait un opérateur d’entrelacement: les éléments de E_{a} sont inclus dans l’ensemble des formes automorphes sur U′(𝔸)M′(k)\G(X_{a})(𝔸) se transformant à gauche sous G(X)(𝔸) suivant π (même condition que pour E_{a}) et vérifiant pour m′ = m′_{1} ⋯ m′_{a} ∈ M′(𝔸) ∩ GL(ℓ_{a}^{+}):

∀g ∈ G(X_{a})(𝔸), Φ_{s}(m′g) = ∏_{i∈[1,a]} η(m′_{i})|m′_{i}|^{s−(a−1)/2+i−1}ρ_{Q′_{a}}(m′)^{1/2}Φ_{s}(g).

(C’est un calcul de fonctions modules)

L’opérateur d’entrelacement associé à w_{(i)} se généralise en un opérateur d’entrelacement entre l’induite de la représentation:

η| |^{s−(a−1)/2} ⋯ × η| |^{s−(a−1)/2+i−1} × ⋯ × η| |^{s+(a−1)/2} × π

de M′ et l’induite de l’image de cette représentation par w_{(i)} . Cet opérateur d’entrelacement se décompose en opérateurs élémentaires qui sont de 2 types; les uns sont dans GL(2) du type suivant, ici j < k avec j ∈ [1, a] et k ∈]n(i), a]:

η| |^{s−(a−1)/2+j−1} ×η| |^{−s+(a−1)/2−k+1} → η| |^{−s+(a−1)/2−k+1} ×η| |^{s−(a−1)/2+j−1};

les autres sont du type, pour j ∈]n(i), a]:

η| |^{s−(a−1)/2+j−1} × π → η| |^{−s+(a−1)/2−j+1} × π.  (j)

Les opérateurs d’entrelacement du premier type sont certainement holomorphes si Re s > (a − 1)/2. Si ceux du deuxième sont aussi holomorphes, on a l’holomorphie pour le terme correspondant à w_{(i)} . Ainsi s = s′_{0} est un pôle de partie réelle strictement supérieure à (a − 1)/2 seulement s’il existe j ∈ [1, a] tel que l’opérateur d’entrelacement (j) ci-dessus soit non holomorphe. Mais on est dans le cas a = 1 après avoir remplacé s par s−(a−1)/2+j −1. On note s_{max} le réel positif maximum s’il existe (et −∞ sinon) tel qu’il existe Φ ∈ E_{1} dont la série d’Eisenstein E^{Q_{1}}(s, Φ_{s}) a un pôle en ce point, alors, nous venons de montrer que:

s′_{0} − (a − 1)/2 ≤ s_{max},

pour tout s′_{0} pôle comme ci-dessus.

Réciproquement supposons que s_{max} ≠ −∞. On va montrer que, pour tout a, s_{max}+(a−1)/2 est pôle pour l’une des séries d’Eisenstein E^{Q_{a}}(s, Φ_{s}) où Φ ∈ E_{a}. On fixe de nouveau a ∈ ℕ en supposant que a > 1 pour qu’il y ait quelque chose à démontrer. On reprend les notations du début de la preuve. On remarque d’abord que pour tout (i) comme ci-dessus, les induites qui interviennent sont distinctes; il suffit donc de montrer que la partie du terme constant correspondant à w_{Ø} a un pôle en s_{max} + (a − 1)/2. (On remarque d’ailleurs que tous les autres termes sont holomorphes en ce point, d’après le raisonnement ci-dessus et la maximalité de s_{max}.) On a besoin de faire intervenir plusieurs paraboliques. Pour cela on note, pour i ∈ [1, a], y_{i}^{±} les sous-espaces de ℓ_{a} stables sous le Levi fixé, M′, de Q′_{a} de tel sorte que

ℓ_{1}^{+} ⊂ ⋯ ⊂ ⊕_{i≤j}ℓ_{i}^{+} ⊂ ⋯ ⊂ ⊕_{i∈[1,a]}ℓ_{i}^{+}

soit le drapeau que Q′_{a} stabilise. On note Q^{1} le sous-groupe parabolique de G(X_{a}) stabilisant le drapeau y_{1}^{+} ⊂ ℓ_{a}^{+} et Q^{2} celui stabilisant le drapeau ⊕_{i∈[1,a[}y_{i}^{+} ⊂ ℓ_{a}^{+} . Pour s_{1}, s_{2} des nombres complexes, on note, pour ϵ = 1 ou 2, E_{s_{1},s_{2}}^{Q^{ϵ}}, les fonctions automorphes sur U_{Q^{ϵ}}(𝔸)Q^{ϵ}(k)\G(X_{a})(𝔸) dans l’induite (normalisée) de

η ∘ det| det |^{s_{1}} × η ∘ det| det |^{s_{2}} × π

(on rappelle que l’on a fixé un espace pour π). On a des opérateurs d’entrelacement:

E_{s_{1},s_{2}}^{Q^{1}} → E_{s_{1},−s_{2}}^{Q^{1}} → E_{−s_{2},s_{1}}^{Q^{2}},  (2)

le premier est induit par l’élément noté ci-dessus w_{(i)} pour (i) réduit à {1} et le deuxième correspond à l’élément du groupe de Weyl:

(1, 2, ⋯, i, ⋯, a) ↦ (a, 1, ⋯, i − 1, ⋯, a − 1).

Le composé de ces 2 éléments du groupe de Weyl n’est autre que w_{(i)} pour (i) = {a}. On note, ici pour s ∈ ℂ, E_{a,s}^{Q_{a}} l’induite de η ∘ det| det |^{s} × π. Un calcul de fonctions modules donne une inclusion:

E_{a,s}^{Q_{a}} → E_{s−(a−1)/2,s+1/2}^{Q^{1}};  (3)

l’image se caractérise comme étant l’ensemble des fonctions f ∈ E_{s−(a−1)/2,s+1/2}^{Q^{1}} vérifiant pour tout k ∈ K_{a} (K_{a} est le compact maximal fixé) et k′ ∈ K_{a} ∩ GL(ℓ_{a}^{+}):

f(k′k) = f(k)η(det k′).  (4)

Au voisinage de s = s_{max}+(a−1)/2, s_{1} = s−(a−1)/2 et s_{2} = s+1/2, le premier morphisme écrit en (2) est bijectif: grâce à la propriété de maximalité de s_{max} il est holomorphe et la propriété d’adjonction des opérateurs d’entrelacement donne l’holomorphie de son inverse potentiel (cf. l’équation fonctionnelle). Le deuxième morphisme de (2) est bijectif, cela se voit dans GL(2). D’où (2) donne une bijection:

E_{s−(a−1)/2,s+1/2}^{Q^{1}} ≃ E_{−s−1/2,s−(a−1)/2}^{Q^{2}}.  (5)

Rappelons que l’on a noté X_{1} l’espace X auquel on a ajouté un plan hyperbolique; on identifie X_{1} au sous-espace de X_{a} égal à y_{a}^{+} ⊕ y_{a}^{−} ⊕ X. Rappelons aussi que Q_{1} est le stabilisateur de y_{a}^{+} dans G(X_{1}); on définit aussi E_{s}^{Q_{1}} les formes automorphes induites de η| |^{s} × π. On a une application de restriction correspondant à l’inclusion de G(X_{1}) dans G(X_{a}):

E_{−s−1/2,s−(a−1)/2}^{Q^{1}} → E_{s−(a−1)/2}^{Q_{1}}.

L’image est ”dense“ et cette propriété de densité reste vraie si l’on se limite au sous-espace de f′ ∈ E_{−s−1/2,s−(a−1)/2}^{Q^{1}} vérifiant (4) ci-dessus. Alors (5) assure qu’en composant, on obtient:

E_{a,s}^{Q_{a}} → E_{s−(a−1)/2,s+1/2}^{Q^{1}} → E_{−s−1/2,s−(a−1)/2}^{Q^{1}} → E_{s−(a−1)/2}^{Q_{1}}

d’image dense au voisinage de s_{max} + (a − 1)/2. Mais on a aussi un diagramme commutatif dont la première ligne horizontale est le composé ci-dessus, la première (resp. deuxième) flèche verticale est l’opérateur d’entrelacement associé à w_{Ø} (respectivement l’analogue de w_{Ø} pour G(X_{1})) et la deuxième ligne horizontale est la restriction (il y a là encore un calcul de fonctions modules):

\begin{matrix}E_{a,s}^{Q_{a}} \\ ↓ \\ E_{a,−s}^{Q_{a}} \end{matrix}  \overrightarrow{→} \begin{matrix}E_{s−(a−1)/2}^{Q_{1}} \\ ↓ \\ E_{−s+(a−1)/2}^{Q_{1}} \end{matrix}

Or par hypothèse, si s − (a − 1)/2 = s_{max} la deuxième flèche verticale a un pôle, il en est donc de même de la première. Cela termine la preuve.

1.2 Remarque 2. Soit s_{0} ∈ ℝ_{≥1} un pôle pour L^{S}(s, η × π); on le suppose maximum avec cette propriété. Alors, pour tout a ≥ 1, il existe Φ ∈ E_{a} telle que la série d’Eisenstein E^{Q_{a}}(s, Φ_{s}) ait un pôle en s_{0} + (a − 1)/2.

Soit donc s_{0} un pôle réel positif maximal (s’il existe) tel que L^{S}(s, η × π) y ait un pôle, pour S fixé. Soit a ∈ ℕ et fixons Φ ∈ E_{a} tel que Φ soit sphérique en toutes places v non dans S. On reprend la notation Q′_{a} introduite en 1.1. Montrons que la série d’Eisenstein E(s, Φ_{s}), ou plutôt que son terme constant E(s, Φ_{s})_{Q′_{a}}, a un pôle en s = s_{0} + (a − 1)/2. On reprend le calcul fait en 1.1 et comme ci-dessus, les induites qui interviennent sont toutes distinctes, on peut donc les considérer isolément et il suffit de montrer que la partie du terme constant correspondant à w_{Ø} a un pôle. Ici on a vraiment un opérateur d’entrelacement sur l’induite à partir de Q_{a} puisque w_{Ø} respecte le Levi de Q_{a}. L’opérateur d’entrelacement se décompose en produit d’opérateurs d’entrelacements locaux en toutes les places v ∈ S multiplié par la fonction méromorphe scalaire venant des places non dans S, notée abusivement L^{S}(s, w_{0}) (on va la caluler). Les opérateurs d’entrelacement locaux, en un point s, ont soit des pôles soit sont non nuls; il suffit donc de démontrer que L^{S}(s, w_{0}) à un pôle en s_{0} + (a − 1)/2. Pour calculer cette fonction, on peut utiliser l’inclusion de E_{a,s}^{Q_{a}} dans l’induite de la représentation:

η| |^{s−(a−1)/2} × ⋯ × η| |^{s−(a−1)/2+i−1} × ⋯ × η| |^{s+(a−1)/2} × π,

puisque cette inclusion conserve les fonctions sphériques. On peut décomposer en symétries élémentaires comme expliqué ci-dessus et utiliser les résultats standard.

On fait le calcul dans le cas où X est symplectique; si X est orthogonal les facteurs L_{v}(., η) n’apparaissent pas. Soit v non dans S; on localise en v et l’opérateur d’entrelacement localisé sur un vecteur sphérique est la multiplication par le produit des facteurs suivant indexés par i ∈ [1, a], (correspondant à l’entrelacement : η| |^{s−(a−1)/2+i−1} × π → η| |^{−s+(a−1)/2−i+1} × π)

\frac{L_{v}(s − (a − 1)/2 + i − 1, η × π)L_{v}(s − (a − 1)/2 + i − 1, η)}{L_{v}(s − (a − 1)/2 + i, η × π)L_{v}(s − (a − 1)/2 + i, η)}

avec les facteurs suivants indexés aussi par i ∈ [1, a]:

∏_{j∈[1,i[} \frac{L_{v}(s − (a − 1)/2 + j − 1 + s − (a − 1)/2 + i − 1, 1)}{L_{v}(s − (a − 1)/2 + j + s − (a − 1)/2 + i, 1)}

correspondant à l’entrelacement dans GL(2):

η| |^{s−(a−1)/2+j−1} × η| |^{−s+(a−1)/2−i+1} → η| |^{−s+(a−1)/2−i+1} × η| |^{s−(a−1)/2+j−1}.

Dans les produits ci-dessus, il y a des simplifications et on trouve:

\frac{L_{v}(s − (a − 1)/2, η × π)L_{v}(s − (a − 1)/2, η)}{L_{v}(s + (a + 1)/2, η × π) × L_{v}(s + (a + 1)/2, η)}

multiplié par:

∏_{i∈[1,a]} \frac{L_{v}(2s − a + i, 1)}{L_{v}(2s − a + 2i − 1, 1)}.

On fait le produit sur toutes les places v non dans S et on trouve:

\frac{L^{S}(s − (a − 1)/2, η × π)L^{S}(s − (a − 1)/2, η)}{L^{S}(s + (a + 1)/2, η × π)L^{S}(s + (a + 1)/2, η)}

× ∏_{i∈[1,a]} \frac{L^{S}(2s − a + i, 1)}{L^{S}(2s − a + 2i + 1, 1)}.

En s = s′ + (a − 1)/2, on trouve

\frac{L^{S}(s′, η × π)L^{S}(s′, η)}{L^{S}(s′ + a, η × π)L^{S}(s′ + a, η)} × ∏_{i∈[1,a]} \frac{L_{v}(2s′ + i − 1, 1)}{L_{v}(2s′ + 2i, 1)}.

Les dénominateurs n’ont pas de pôles en s′ = s_{0} (on utilise ici la propriété de maximalité de s_{0} ) tandis que L^{S}(s′, η×π) a un pôle par hypothèse. Or L^{S}(s′, η) peut avoir un pôle (si s′_{0} = 1 et η = 1) mais certainement pas un zéro puisque s_{0} ≥ 1. D’où l’existence d’un pôle, ce que nous cherchions.

2. Rappel des résultats de Piatetski-Shapiro-Rallis, définition des fonctions f_{ϕ,s}

Pour tout ce qui suit cf. [G-PS-R] chap. 1. On fixe ici a ∈ ℕ et on reprend les notations X_{a}, ℓ_{a}^{±}, Q_{a}, ⋯, π, E_{a} introduites dans l’introduction. On note X′ l’espace X muni de la forme opposée et on pose:

W := X ⊕ X′,
W_{a} := X_{a} ⊕ X′.

Soit j un isomorphisme de X sur X′ vérifiant:

∀x, y ∈ X, < x, y >_{X}= − < j(x), j(y) >_{X′} .

On pose j^{+} := 1 + j et j^{−} := 1 − j vu comme morphisme de X dans W. Alors:

W_{±} := j^{±}(X)

sont des sous-espaces isotropes maximaux de W et

W_{a,±} = ℓ_{a}^{±} ⊕ W_{±}

sont des sous-espaces isotropes maximaux de W_{a}.

On note G(W_{a}) le groupe des automorphismes de W_{a} muni de sa forme; on note P_{a} le sous-groupe parabolique de G(W_{a}) stabilisant W_{a,+} , U_{P_{a}} le radical unipotent de P_{a} et on identifie M_{P_{a}} := P_{a}/U_{P_{a}} à GL(W_{a,+}). On note G(X′) le groupe des automorphismes de X′ muni de sa forme. On identifie G(X′) et G(X_{a}) à des sous-groupes de G(W_{a}) opérant par l’identité sur les espaces orthogonaux de X′ et X_{a} respectivement. Ainsi G(X_{a}) × G(X′) est un sousgroupe de G(W_{a}). On fixe aussi K′_{a} un sous-groupe compact maximal de G(W_{a}) tel que K_{a} = K′_{a} ∩ G(X_{a})(𝔸).

Définissons pour s ∈ ℂ, E′_{a,s}: c’est l’ensemble des formes automorphes, f, sur

U_{P_{a}}(𝔸)P_{a}(k)\G(W_{a})(𝔸),

vérifiant:

\begin{matrix}∀g_{a} ∈ G(W_{a})(𝔸), ∀m ∈ M_{P_{a}}(𝔸) ≃ GL(W_{a,+})(𝔸), \\ f(mg_{a}) = η(det m)|det m|^{s}ρ_{P_{a}}(m)^{1/2}f(g_{a}), \end{matrix}

où ρ_{P_{a}} est la fonction module pour P_{a}. Pour s ∈ ℂ, et f ∈ E′_{a,0} on note f_{s} la fonction sur G(W_{a})(𝔸):

∀g_{a} ∈ G(W_{a})(𝔸), f_{s}(g_{a}) = h_{P_{a}}(g_{a})^{s}f(g_{a}),

où h_{P_{a}} est définie comme h_{Q_{a}} ci-dessus; c’est un élément de E′_{a,s}. On a défini E_{a} ci-dessus, on définit de même E_{a,s} pour tout s ∈ ℂ.

Soit f ∈ E′_{a,0} et ϕ dans l’espace de π; montrons que l’intégrale:

∀g′ ∈ G(X_{a})(𝔸), f_{ϕ,s}(g′) := ∫_{G(X)(𝔸)} f_{s}(g^{−1}g′)ϕ(g) dg,  (2)

est absolument convergente si Re s est grand et qu’alors f_{ϕ,s} ∈ E_{a,s}. Montrons d’abord que la somme:

∀g′ ∈ G(X_{a})(𝔸), g ∈ G(X)(𝔸), ∑_{γ∈G(X)(k)} f_{s}(g^{−1}γg′)

est absolument convergente si Re s est grand et, en tant que fonction de g ∈ G(X)(𝔸), est à croissance lente. Pour g ∈ G(X)(𝔸), on note j^{∗}(g) l’élément de G(X′)(𝔸) valant jgj^{−1} . Les propriétés de f_{s} assurent que:

∀g ∈ G(X)(𝔸), h ∈ G(W_{a})(𝔸), f_{s}(g^{−1}h) = η(det g)f_{s}(j^{∗}(g)h).

On a donc à étudier la somme sur γ ∈ G(X′)(k) de f_{s}(γ j^{∗}(g) g′), pour g ∈ G(X)(𝔸) et g′ ∈ G(X_{a})(𝔸). Mais G(X′)(k) est naturellement un sous-ensemble de P_{a}(k)\G(W_{a})(k), d’où la convergence absolue. On obtient aussi le fait qu’elle est à croissance lente. D’où la convergence absolue de l’intégrale (2)

Fixons s tel que f_{ϕ,s} soit définie par l’intégrale (2). Alors f_{ϕ,s} est pour presque toute place v de k invariante par K_{a}, le compact maximal fixé de G(X_{a})(k_{v}); elle est invariante à gauche par les points adéliques du radical unipotent de Q_{a} et vérifie:

∀t ∈ GL(ℓ_{a}^{+})(𝔸), ∀g ∈ G(X_{a})(𝔸), f_{ϕ,s}(tg) = η(det t)|det t|^{s}ρ_{P_{a}}(t)^{1/2}f_{ϕ,s}(g).

(3)

Et pour tout k ∈ K_{a} la fonction sur G(X)(𝔸), g ↦ f_{ϕ,s}(g k) est dans l’espace de π. Pour montrer que f_{ϕ,s} ∈ E_{a,s}, il reste à vérifier:

∀t ∈ GL(ℓ_{a}^{+})(𝔸), ρ_{P_{a}}(t) = ρ_{Q_{a}}(t).  (4)

Montrons-le dans le cas où X est orthogonal; dans le cas où X est symplectique, on remplace, dans le calcul ci-dessous, le produit extérieur par le produit tensoriel symétrique. L’algèbre de Lie du radical unipotent de P_{a} est isomorphe à ∧^{2}(ℓ_{a}^{+}⊕ j(X)); le déterminant de t ∈ GL(ℓ_{a}^{+}) pour son action dans cette algèbre de Lie est donc celui de son action dans:

ℓ_{a}^{+} ∧ ℓ_{a}^{+} ⊕ ℓ_{a}^{+} ⊗ j(X).

Pour calculer ρ_{Q_{a}}, il faut calculer le déterminant de l’action de t, comme cidessus, dans l’algèbre de Lie du radical unipotent de Q_{a}; c’est-à-dire dans

ℓ_{a}^{+} ∧ ℓ_{a}^{+} ⊕ ℓ_{a}^{+} ⊗ X.

Il est facile de conclure à l’égalité.

Pour étudier le comportement en fonction de s de f_{ϕ,s} on trivialise de façon usuelle le fibré E_{a,s}: on fixe un modèle de π, encore noté π, qui est un produit tensoriel restreint, ⊗′_{v}π_{v}. Quand s varie, on identifie toutes les induites ci-dessus aux fonctions K′_{a} -finies de K′_{a} à valeurs dans l’espace de π. Fixons S un ensemble fini de places de k contenant les places archimédiennes et tel que pour tout v non dans S, les fonctions f et ϕ soient sphériques en cette place. On suppose que pour v dans S et pour tout g′ ∈ G(X_{a}) la fonction:

g ∈ G(X)(k_{v}) ↦ f(g g′),

soit à support compact (on reviendra sur cette hypothèse plus loin). On note L^{S}(s, η × π) la fonction L restreinte de π (i.e. ne prenant en compte que les places non ramifiées) tordue par le caractère η (cf. l’introduction) et:

Lemme. (Avec les hypothèses et notations ci-dessus) Il existe un facteur de normalisation, produit de fonctions L abéliennes restreintes, ne dépendant que de X (et non de π) calculé en s + a/2, noté b_{X}^{S}(s + a/2) (définies en [PS-R]) tel que b_{X}^{S}(s + a/2)^{−1}L^{S}(s + (a + 1)/2, η × π)^{−1}f_{ϕ,s} est une section holomorphe en s du fibré (trivialisé) des induites E_{a,s}.

Supposons, comme nous en avons le droit, que f est décomposée et que dans la réalisation de π, il en soit de même de ϕ. Le lemme est alors un problème local. Aux places de S les hypothèses de compacité évitent tous les problèmes. Soit donc v une place hors de S; il faut calculer, pour tout ϕ̃_{v} dans le dual de π_{v}, l’intégrale:

∀g′ ∈ G(X_{a})(k_{v}), ∫_{G(X)(k_{v})} f_{v}(g g′) < π_{v}(g)ϕ_{v}, ϕ̃_{v} > dg.  (1)

C’est un calcul difficile fait par Piatetski-Shapiro et Rallis [G-PS-R] et repris dans [K-R], 7.2.8 et suivant. Dans loc.cit, a = 0; il faut donc d’abord remarquer que pour g′ ∈ G(X_{a})(k_{v}) fixé, la fonction sur G(X ⊕ X′)(k_{v}) définie par h ↦ f_{v}(hg′) est dans l’induite du parabolique, P_{0} , stabilisant l’espace isotrope j(X) et de son caractère:

η ∘ det |det |^{s}ρ_{P_{a}}^{1/2}ρ_{P_{0}}^{−1/2}.

Les induites sont normalisées; c’est aussi le cas de [K-R] mais pas celui de [PS-R]. Or montrons:

∀t ∈ P_{0}(𝔸), ρ_{P_{a}}(t)ρ_{P_{0}}(t)^{−1} = |det t|^{a}.  (5)

En effet, supposons X orthogonal (cf. ci-dessus), l’action de t, comme ci-dessus, dans l’algèbre de Lie du radical unipotent de P_{a} a pour déterminant celui de son action dans

ℓ_{a}^{+} ⊗ j(X) ⊕ j(X) ∧ j(X).

Tandis que l’action de t dans l’algèbre de Lie du radical unipotent de P_{0} a pour déterminant celui de son action dans j(X) ∧ j(X). D’où (5). Il faut donc, dans la formule 7.2.8 de [K-R], translater s par a/2 et on obtient la formule cherchée.

Remarque. Les hypothèses de support compact aux places ramifiées sont inutiles; [K-R] 7.2.8, fournit le prolongement méromorphe en toute place.

En effet dans [K-R] 7.2.8, le produit des termes (1) aux places de S, apparait comme le quotient de deux fonctions méromorphes; comme dans le lemme ci-dessus, et pour la même raison, il faut translater s dans les formules de loc.cit par a/2.

2.1. Définition, remarque. Grâce au lemme ci-dessus, on définit f_{ϕ,s} comme fonction méromorphe de s à valeurs dans E_{a,s}. Fixons s_{0} et supposons a grand (notions relative à π et η). Alors f_{ϕ,s} est holomorphe en tout s ≥ s_{0} + (a − 1)/2 et tout élément de E_{a,s}, est “approximée” par les fonctions f_{ϕ,s}.

L’holomorphie résulte de l’hypothèse sur a puisque toutes les formules de [K-R] sont translatées par a/2 ce qui permet d’éviter pôles et zéros. Pour avoir l’approximation, c’est un problème aux places de S surtout si l’on met les hypothèses de support compact sur la restriction de f à G(X_{a})(k_{v}) (v une place de S); montrons qu’elles ne gênent pas. notons Q′_{a} le sous-groupe de Q_{a} égal à U_{Q_{a}}GL(ℓ_{a}^{+}). On a une inclusion naturelle:

Q′_{a}\G(X_{a}) ↪ P_{a}\G(W_{a}).  (6)

On verra même ci-dessous que l’image est un ouvert dense au sens de Zariski. Pour toute place v, on peut prolonger n’importe quelle fonction, sur G(X_{a})(k_{v}) se transformant à gauche par un caractère de Q′_{a}(k_{v}) à support compact modulo ce groupe, en une fonction, f_{v}, sur G(W_{a})(k_{v}) se transformant à gauche sous P_{a}(k_{v}) par un caractère prolongeant celui de Q′_{a}(k_{v}) et à support compact modulo ce groupe. Aux places finies, on peut en plus imposer aux fonctions d’être localement constantes, d’où la finitude sous l’action du compact. Aux places archimédiennes, v, on note K′_{a,v} le compact maximal; son algèbre enveloppante opère sur toute fonction lisse sur l’espace de gauche de (6); une telle fonction se prolonge en une fonctions K′_{a,v} -finie si elle est annulée par un idéal de codimension finie du centre de l’algèbre enveloppante de K′_{a,v}. Cette condition d’annulation peut être réalisée quitte à approximer.

Pour f, ϕ comme ci-dessus, on construit les séries d’Eisenstein: E^{P_{a}}(s, f_{s})(g), pour g ∈ G(W_{a})(𝔸), série d’Eisenstein pour le parabolique P_{a} et le groupe G(W_{a}) ainsi que E^{Q_{a}}(s, f_{ϕ,s})(g), série d’Eisenstein pour le parabolique Q_{a} de G(X_{a}). Ces séries d’Eisenstein sont des fonctions méromorphes de s, grâce aux propriétés de finitude. Alors le résultat de Piatetski-Shapiro et Rallis de [G-PS-R] s’étend en:

Proposition. Pour tout g′ ∈ G(X_{a})(𝔸), on a l’égalité de fonctions méromorphes:

∫_{G(X′)(k)\G(X′)(𝔸)} E^{P_{a}}(s, f)(g′g)j^{∗}ϕ(g) dg = E^{Q_{a}}(s, f_{ϕ,s})(g′).

(j a été défini en 2.)

On imite PS-R, pour calculer les doubles classes:

P_{a}(k)\G(W_{a})(k)/G(X_{a})(k) × G(X′)(k).

On identifie P_{a}(k)\G(W_{a})(k) à l’ensemble des sous-espaces isotropes maximaux de W_{a} défini sur k; soit L un tel sous-espace, on pose

x^{+} := dim L ∩ X′,
x^{−} := dim L ∩ (X_{a}).

On montre que x^{−} = x^{+}+a et les orbites de (G(X_{a})×G(X′))(k) dans l’ensemble des sous-espaces isotropes maximaux de W_{a}(k) sont classifiées par ce nombre x^{+} qui varie entre 0 et la dimension d’un sous-espace isotrope maximal de X (c’est mot pour mot la démonstration de loc.cit).

L’orbite correspondant à x^{+} = 0 est l’orbite de W_{a,+} et elle est isomorphe à:

P_{a}(k) ∩ (G(X_{a}) × G(X′))(k)\G(X_{a}) × G(X′)(k).

Soit maintenant x^{+} > 0 et soit L_{x^{+}} un espace isotrope maximal représentant de l’orbite correspondante; on note Q_{x^{+}} le sous-groupe parabolique de G(X′) stabilisant L_{x^{+}} ∩ X′. On fixe g_{x_{+}} un élément de G(W_{a})(k) qui conjugue W_{a,+} et L_{x^{+}} ; on prend pour g_{0} l’élément neutre. Ainsi {g_{x_{+}}}_{x_{+}≥0} forme un ensemble de représentants des doubles classes:

P_{a}(k)\G(W_{a})(k)/(G(X_{a}) × G(X′))(k).

Pour tout s ∈ ℂ de partie réelle grande et pour tout g′ ∈ G(X_{a})(𝔸):

∫_{G(X′)(k)\G(X′)(𝔸)} E^{P_{a}}(s, f)(g′g)η(det g)j^{∗}ϕ(g) dg

= ∑_{x^{+}≥0} ∫_{G(X′)(k)\G(X′)(𝔸)}

∑_{(γ′,γ)∈g_{x+}^{−1} P_{a}(k)g_{x+} ∩(G(X_{a})×G(X′))(k)\(G(X_{a})×G(X′))(k)}

f_{s}(g_{x^{+}}γ′γ g′g)η(det g)j^{∗}ϕ(g) dg

= ∑_{γ′∈g_{x^{+}}^{−1} P_{a}(k)g_{x^{+}} G(X)(k)∩G(X_{a})(k)\G(X_{a})(k)} ∫_{G(X′)(k)∩g_{x^{+}}^{−1} P_{a}(k)g_{x^{+}} \G(X′)(𝔸)}

f_{s}(g_{x^{+}}γ′ g′g)η(det g)j^{∗}ϕ(g) dg.

Pour tout x^{+} > 0 la fonction de g ∈ G(X′)(𝔸), f_{s}(g_{x_{+}}γ′g′g) (γ′ et g′ sont fixés) est invariante pour la multiplication à gauche par les points adéliques du radical unipotent du parabolique Q_{x_{+}} de G(X′). Ainsi l’intégrale sur G(X′)(k)∩ g_{x^{+}}^{−1}P_{1}(k)g_{x^{+}}\G(X)(𝔸) se factorise par une intégrale sur le radical unipotent de ce parabolique de la fonction j^{∗}ϕ et cette intégrale est nulle; cet argument est aussi copié de [PS-R].

Il ne reste donc que le terme correspondant à x^{+} = 0 i.e.:

∑_{γ′∈G(X_{a})(k)∩P_{a}(k)G(X′)(k)\G(X_{a})(k)} ∫_{G(X′)(𝔸)} f_{s}(γ′ g′g)η(det g)ϕ(g) dg,

ce qui n’est autre que:

∑_{γ′∈G(X_{a})(k)∩P_{a}(k)G(X′)(k)\G(X_{a})(k)} f_{ϕ,s}(γ′ g′).

Il ne reste plus qu’à vérifier que:

G(X_{a})(k) ∩ P_{a}(k)G(X′)(k) = Q_{a}(k).

L’inclusion de Q_{a} dans G(X_{a}) ∩ P_{a}G(X) se vérifie aisément. Réciproquement soit g′ ∈ G(X_{a})(k) et soient p_{a} ∈ P_{a}(k), g ∈ G(X′)(k) tels que:

g′ = p_{a}g.

On note j^{∗}(g) l’élément de G(X)(k) tel que j^{∗}(g) g ∈ P_{a}(k). Alors g′ = (p_{a}j^{∗}(g)g)j^{∗}(g^{−1}). D’où g′j^{∗}(g) ∈ P_{a}(k) ∩ G(X_{a})(k). Cette intersection s’identifie à U_{Q_{a}}(k) × GL(ℓ_{a}^{+})(k) d’où

g′ ∈ G(X)(k) × GL(ℓ_{a}^{+})(k) × U_{Q_{a}}(k) = Q_{a}(k)

et l’on a le résultat annoncé qui prouve la proposition.

3. Preuve de l’inégalité s_{Eis}(π, η) ≤ s_{θ}(π, η).

On renvoit à l’introduction pour l’énoncé dont on adopte les notations. On pose:

s_{0} := s_{Eis}(π, η)

et on fixe a grand de façon à ce que les fonctions f_{ϕ,s} soient holomorphes en s_{0} + (a − 1)/2.

Supposons d’abord que X est orthogonal et ramenons nous au cas où η = 1. On fixe un caractère χ_{a} de G(W_{a})(𝔸) vérifiant pour toute place v de k et pour tout g ∈ G(W_{a})(k_{v}) de déterminant 1:

χ(g) = η(Nsp g).

La restriction d’un tel caractère à GL(ℓ_{+})(𝔸) n’est autre que le caractère η et sa restriction à G(X)(𝔸) vérifie l’hypothèse de l’énoncé. On tensorise tout par χ_{a}; cela fait disparaitre η. Dans le cours de la démonstration, on verra qu’il faut encore éventuellement tensoriser π par un caractère trivial sur les différents SO(X)(k_{v}).

Ne faisons plus d’hypothèse sur X. On copie [K-R]. Grâce à la remarque 2.1, on sait qu’il existe f ∈ E′_{a} et ϕ dans l’espace de π tels que la fonction méromorphe E^{Q_{a}}(s, f_{ϕ,s}) ait un pôle en s = s_{0} + (a − 1)/2. Il résulte de la proposition 2.2 que la série d’Eisenstein E^{P_{a}}(s, f) a aussi un pôle en s_{0}+(a−1)/2.

3.1 Rappel sur la série d’Eisenstein associé au parabolique de Siegel.

Cette série est étudiée en détail dans [G-PS-R], part A, par. 5. et dans [K-R] mais là elle est normalisée ce qui n’est pas le cas ici. Elle est aussi un cas particulier de [M1], du moins si η = 1; le cas η quadratique quelconque se traite de façon similaire cf. ci-dessous. (Le lecteur peut donc sauter tout ce paragraphe)

On pose ici a′ = a + dim X, et X disparait; seul reste W_{a}. On note B le Borel (standard) de G(W_{a}) et U son radical unipotent. Notons, pour s ∈ ℂ, λ_{s} le caractère:

η| |^{(a′−1)/2+s} × ⋯ × η| |^{(a′−1)/2−i+1+s} × ⋯ × η| |^{−(a′−1)/2+s},

du tore déployé (standard) de B; on note E(λ_{s}) les formes automorphes sur U(𝔸)B(k)\G(W_{a})(𝔸) dans l’induite du caractère λ_{s}. On note aussi w^{0} l’élément de plus grande longueur du groupe de Weyl de GL(W_{a,+}) et N(w^{0}, λ_{s}) l’opérateur d’entrelacement induit de l’opérateur d’entrelacement normalisé de GL(W_{a,+}) qui est associé à w_{0} ; (normalisé dans GL(W_{a,+}) veut dire produit Eulérien d’opérateurs d’entrelacement locaux valant 1 sur le K′_{a}∩GL(W_{a,+})(k_{v})- type η_{v} ∘ det, en toute place v) . Alors N(w^{0}, λ_{s}) induit, pour tout s ∈ ℂ une surjection de E(λ_{s}) sur E′_{a,s}. Il faut donc étudier les séries d’Eisenstein, E^{P_{a}}(s, N(w^{0}, λ_{s})ϕ_{s}), où ϕ ∈ E(λ_{0}) et ϕ_{s} est définie de façon standard dans E(λ_{s}). On calcule encore le terme constant:

∀g ∈ G(W_{a})(𝔸), E^{P_{a}}(s, N(w^{0}, λ_{s})ϕ_{s})_{U}(g);

c’est le seul qui puisse être non nul et cuspidal. On généralise la notation w_{(i)} introduite au paragraphe 1, où ici (i) est un sous-ensemble de [1, a′]. On normalise tous les opérateurs d’entrelacement comme on l’a fait pour celui associé à w^{0} et on note r(w, .) le facteur de normalisation. On obtient alors:

\begin{matrix}∀g ∈ G(W_{a})(𝔸), \\ E^{P_{a}}(s, N(w^{0}, λ_{s})ϕ_{s})_{U}(g) = ∑_{(i)⊂[1,a′]} r(w_{(i)}, w^{0}λ_{s})N(w_{(i)}w^{0}, λ_{s})ϕ_{s}(g). \end{matrix}

Dans tout ce qui suit, on suppose que Re s > 0. On montre que les opérateurs d’entrelacements normalisés n’ont pas de pôles; pour cela on renvoit aux réductions faites en [M1] 2.1.5 et à [M1] 1.2.4. Les pôles proviennent donc des facteurs de normalisation; ces facteurs de normalisation calculés par Langlands, sont des produits de quotients de fonctions L. On a démontré en [M 2] 2.5 que les zéros des dénominateurs se ”simplifient“ avec ceux des numérateurs. On vérifie que les fonctions L au numérateur sont des produits de fonctions du type:

∃k, j ∈ [1, a′], k ≤ a′ − j, L(2s + i − j, 1)

correspondant à la permutation dans GL(2):

η| |^{−(a′−1)/2+k−1+s} ×η| |^{(a′−1)/2−i+1+s} → η| |^{(a′−1)/2−i+1+s} ×η| |^{−(a′−1)/2+k−1+s},

et, si X est symplectique, du type

∃k ∈ [1, a′], L(s − (a′ − 1)/2 + i − 1 + s, η).

Ainsi si s_{1} est un pôle de partie réelle > 0, s_{1} ∈ ℝ_{>0} , s_{1} est un demi-entier inférieur ou égal à (a′ − 1)/2 + 1; cette borne ne peut être atteinte que si η = 1 et X est symplectique. Expliquons pourquoi les autres pôles vérifient

(a′ − 1)/2 − s_{1} ∈ ℕ ∪ {0}.  (1)

Fixons s_{1} un demi-entier et posons −m′ := −(a′ −1)/2+s_{1} , m = (a′ −1)/2+s_{1} ; on veut démontrer que si s_{1} est un pôle positif, alors m′ et m sont des entiers (éventuellement m′ =0). On note E^{B}(x_{1}, ⋯, x_{a′}) les formes automorphes sur U(𝔸)B(k)\G(W_{a})(𝔸) dans l’induite du caractère:

λ_{x_{1},···,x_{a′}} := η| |^{m+x_{1}} × ⋯ × η| |^{m−i+1+x_{i}} × ⋯ × η| |^{−m′+x_{a′}} ,

où x_{1}, ⋯, x_{a′} ∈ ℂ^{a′}. Soit x ∈ ℂ dans un voisinage de 0. Soit (x_{1}, ⋯, x_{a′}) ↦ E^{B}(x_{1}, ⋯, x_{a′}) une application holomorphe (dans un sens évident, toutes les induites sont identifiées à un même espace de fonctions sur K′_{a}). Les zéros et les pôles de la série d’Eisenstein E^{B}(λ_{x_{1},···,x_{a′}} , ϕ′_{x_{1},···,x_{a′}}) au voisinage de 0, se décrivent ainsi:

(1) un pôle au plus simple, sur les hyperplans du type x_{i} − x_{i+1} = 0 pour i ∈ [1, a′] (il vient des fonctions L);

(2) pour i < j ∈ [1, a′], vérifiant −2m′ + i + j − 2 = 0, un zéro simple sur l’hyperplan x_{i} + x_{j} = 0 (cf. [M1] 2.1.2 (ii) et surtout sa preuve);

(3) pour i < j ∈ [1, a′], vérifiant −2m′ + i + j − 2 = 1, un pôle au plus simple sur l’hyperplan x_{i} + x_{j} = 0 (il vient des fonctions L);

(4) si η = 1 et si W_{a} est symplectique, un zéro, sur l’hyperplan x_{i} = 0 pour i, s’il existe, tel que m′ + 1 = i et un pôle au plus simple sur l’hyperplan x_{i′} = 0 pour i′ ∈ [1, a′], s’il existe tel que m′ + 2 = i (il vient des fonctions L).

Ces pôles épuisent tous les pôles au voisinage de λ_{0,···,0} . Par définition, λ_{s_{1}+x} = λ_{x,···,x}. On vérifie que la série d’Eisenstein E^{P_{a}}(s, N(w^{0}, λ_{s_{1}+x})ϕ_{s_{1}+x}) (x ∈ ℂ) est de la forme

∏_{i∈[1,a′]}(x_{i} − x)E^{B}(λ_{x_{1},···,x_{a′}} , ϕ′_{x_{1},···,x_{a′}})_{x_{i}=x,i∈[1,a′]}

pour ϕ′ ∈ E^{B}(0, ⋯, 0) convenablement choisi. Ainsi les pôles de la série de droite sont les intersections des hyperplans (3) et (4) ci-dessus avec la variété x_{i} = x, pour tout i ∈ [1, a′]. De même l’intersection des hyperplans (2) avec cette variété fournit des zéros. L’intersection de n’importe quel hyperplan ci-dessus avec la variété, x_{i} = x pour tout i ∈ [1, a′], est l’hyperplan x = 0. Remarquons que (4) n’intervient que si m′ est entier et si m′ + 2 ≤ a′, certainement m′ + 1 ≤ a′ et donc le pôle en (4) est simplifié par le zéro. Notons d le nombre d’hyperplan intervenant en (3) et d′ celui intervenant en (2). Ainsi:

x^{d−d′}E^{P_{a}}(s, N(w^{0}, λ_{s_{1}+x})ϕ_{s_{1}+x})

est holomorphe au voisinage de x = 0. On vérifie assez aisément que d = d′ si m′ est un demi-entier non entier et que d = d′ + 1 si m′ est entier. Ainsi, on ne peut avoir de pôle en x = 0 que si m′ est entier et ce pôle est au plus simple; c’est ce que l’on cherchait.

Il reste à décrire les résidus, ou plutôt la représentation qu’ils engendrent dans l’ensemble des formes automorphes.

On examine d’abord le point extrème. Si W_{a} est symplectique et si s_{1} = (a′ + 1)/2: le seul opérateur d’entrelacement qui fournit un pôle est celui qui est associé à l’élément de plus grande longueur et le résidu est une fonction constante. Il sera clair ci-dessous que dans ce cas toutes les intégrales seront nulles.

Supposons maintenant que W_{a} est orthogonal et que s_{1} = (a′ − 1)/2; ici aussi, les seuls opérateurs d’entrelacement qui fournissent des pôles sont ceux qui rendent négative la racine ϵ_{1} + ϵ_{2} . Il y en a deux car on est dans le groupe orthogonal et non spécial orthogonal et les résidus sont les combinaisons linéaires finies des fonctions, f_{ϵ}, indexées par les caractères, ϵ, du groupe orthogonal G(W_{a})(𝔸) se factorisant par le déterminant:

∀g ∈ G(W_{a})(𝔸), f_{ϵ}(g) := (η, det g Nsp(g)) ϵ(det g),

où Nsp est la norme spinorielle produit des normes spinorielles locales et ( , ) est le symbole de Hilbert produit des symboles locaux. Dans ce cas là aussi toutes les intégrales ci-dessous sont nulles.

Pour décrire les résidus aux autres pôles, on va d’abord montrer que ces résidus sont des formes automorphes de carré intégrable. Fixons s_{1} un pôle; d’après le résultat de Langlands, il suffit de démontrer que tous les exposants de ce résidu sont dans la chambre de Weyl obtuse négative. Ceci se traduit par: soit λ′ un conjugué de λ_{s_{1}} tel que:

((s − s_{1}) ∑_{w∈J; ww^{0}λ_{s_{1}} =λ′} M(w, w^{0}λ_{s})N(w^{0}, λ_{s})ϕ_{s})_{s=s_{1}} ≠ 0,  (2)

alors λ′ est dans la chambre de Weyl négative. Montrons-le. On définit x′_{1}, ⋯, x′_{a′} ∈ ℝ^{a′} par

λ′ =: η| |^{x′_{1}} × ⋯ × η| |^{x′_{i}} × ⋯ × η| |^{x′_{a′}} .

Et on doit montrer que pour tout j ∈ [1, a′]:

∑_{i≤j} x′_{j} < 0.

On reprend les notations m′, m introduites ci-dessus et on fixe w dans la somme (2); en particulier, il existe (i) ⊂ [1, a′] tel que w = w_{(i)} . Soit j ∈ [1, a′] on note k_{(i)} le plus grand entier, s’il existe, tel que i_{k(i)} ≤ j et l’on a:

∑_{i≤j} x′_{j} = ∑_{k≤k(i)} −m′ + k − 1 + ∑_{k′≤a′−k(i)} −(m − k′ + 1).

La deuxième somme ci-dessus est certainement négative strictement (ou vide) car m > m′; quant à la première, pour qu’elle soit positive strictement, il faut que −m′ + k(i) − 1 ≥ m′ + 1. Mais on vérifie que si k(i) vérifie cette hypothèse, M(w_{(i)}, λ_{s}) n’a pas de pôle en s = s_{1} ; il n’inverse plus de racine α tel que (αˇ , λ_{s_{1}}) = 1. Sa contribution à (2) est donc nulle. Il faut aussi éliminer le cas où la deuxième somme est vide et la première nulle: ce cas correspond à i_{k} = k pour tout k ≤ 2m′ + 1; l’opérateur d’entrelacement correspondant n’a pas non plus de pôle pour la même raison.

Maintenant que l’on sait que le résidu est de carré intégrable, on sait aussi que la représentation qu’il engendre est semi-simple; chaque composante locale, en une place v fixée, est dans le plus grand quotient semi-simple de l’induite du caractère λ′_{s_{1}} ; plus précisément, c’est un quotient semi-simple du quotient de cette induite par le noyau de N(w^{0}, λ′_{s_{1}}). En particulier chaque composante locale est quotient semi-simple de l’induite du caractère

η| |^{m} × ⋯ × η| |^{m−i+1} × ⋯ × η| |^{m′+1} × η ∘ det_{GL(2m′+1)}

du parabolique de Levi m − m′ -copies de GL(1) fois GL(2m′ + 1). Par dualité, c’est un sous-module de l’induite du caractère du même Levi:

η| |_{v}^{−m} × ⋯ × η| |_{v}^{−m+i−1} × ⋯ × η| |_{v}^{−m′−1} × η ∘ det_{GL(2m′+1)}.

Aux places finies, les propriétés des modules de Jacquet assurent que ce socle est au plus de longueur 2. Pour les places archimédiennes, c’est fait mais non publié, sauf erreur, par Barbasch. En fait cette représentation est exactement de longueur 2, on note π(s_{1}, η, ϵ_{v}) ses deux constituants, ϵ_{v} = ±1, en fixant la notation de sorte que ϵ_{v} = 1 pour le sous-module sphérique (si η =1 et si η ≠ 1 cf. ci-dessous). Le cas du groupe symplectique est en détail dans [K-R] qui décrit essentiellement toute l’induite. Supposons que W_{a} est orthogonal; π(s_{1}, η, 1) est bien défini comme le sous-module sphérique (à torsion près par le caractère g ↦ (η, det gNsp(g))) et on pose π(s_{1}, η, −1) le produit de π(s_{1}, η, 1) avec le caractère signe; et l’assertion ci-dessus revient à dire que ces deux représentations du groupe orthogonal sont distinctes. On montre (en utilisant par exemple [M1] 0.0.9) que le socle cherché contient celui de l’induite:

η| |_{v}^{−m} × ⋯ × η| |_{v}^{−m′−1} × η| |_{v}^{−m′} × η| |_{v}^{−m′} × ⋯ × η| |_{v} × η| |_{v} × η. (4)

Or il est clair que l’induite de ce caractère au groupe spécial orthogonal a un seul sous-module et sa classe d’isomorphie est stable sous l’action par conjugaison du groupe orthogonal. Ainsi son image par le caractère signe est l’autre constituant de socle de l’induite à tout le groupe orthogonal.

Enonçons maintenant le résultat général.

3.1. Soit s_{1} un pôle pour E^{P_{a}}(s, Φ_{s}); on suppose que s_{1} > 0; alors s_{1} ≤ (a′ + 1)/2 l’égalité ne pouvant se produire que si X est symplectique et η = 1. Alors

((s − s_{1})E^{P_{a}}(s, Φ_{s}))_{s=s_{1}}

est une forme automorphe de carré intégrable. La représentation qu’elle engendre est isomorphe à la représentation triviale si s_{1} = (a′ + 1)/2, sinon à un sousmodule de la somme :

⊕_{ϵ}Π(s_{1}, η, ϵ),

où ϵ est une application de l’ensemble des places de k dans {±1}, v ↦ ϵ_{v}, presque partout égale à 1 et où Π(s_{1}, η, ϵ) est le produit tensoriel restreint:

⊗′_{v}π(s_{1}, η, ϵ_{v}).

Et ϵ vérifie la condition globale:

∏_{v} ϵ_{v} = 1.  (5)

Pour le groupe symplectique, ceci est dans [K-R]. En fait tout a déjà été prouvé par ce qui précède sauf la condition globale (5); reprenons toujours les notations m, m′ et notons τ l’élément du groupe de Weyl défini comme permutation par la relation:

τ : (x_{1}, ⋯, x_{m−m′+1}, x_{m−m′}, ⋯, x_{m−m′+j−1}, ⋯, x_{m+m′} ↦
(x_{1}, ⋯, x_{m−m′+1}, −x_{m+m′}, ⋯, −x_{m+m′−j+1}, ⋯, −x_{m−m′}).

Il est clair que (w^{0})τ(w^{0})^{−1} stabilise λ_{s_{1}} ; on note N(τ, .) l’opérateur d’entrelacement normalisé associé à cet élément. Et l’équation fonctionnelle des séries d’Eisenstein donne l’égalité (après un calcul de facteur de normalisation, cf [M 2] III.6(4)):

((s − s_{1})E^{P_{a}}(s, N(w^{0}, s)ϕ_{s}))_{s=s_{1}} = ((s − s_{1})E^{P_{a}}(s, N(w^{0}τ, s)ϕ_{s}))_{s=s_{1}}.

On définit aisément une action, N(τ) sur le socle étudié ci-dessus, qui traduit l’entrelacement défini par τ (cf. [M1] 1.2.5) et il faut savoir que N(τ) sépare les constituants en y opérant précisément par ϵ_{v}. Sur la représentation sphérique, il opère par définition par 1 et il faut donc démontrer qu’il opère par −1 sur l’autre. Le cas du groupe orthogonal est extrêment simple; τ provient d’un élément du groupe ortogonal de déterminant −1. Le cas du groupe symplectique a déjà été traité, rappelons-le, par [K-R] : aux places archimédiennes, le calcul a été fait par Barbasch, et aux places finies, on tord par l’involution d’Iwahori-Matsumoto généralisée par Bernstein au cas non modérément ramifié et on applique Harish-Chandra comme dans [M1] 1.2.5.

Notation. Quand s_{1} , le pôle de la série d’Eisenstein de Siegel, est fixé, on pose plutôt, pour ϵ vérifiant (5):

Π_{η,ϵ} := Π(s_{1}, η, ϵ).

3.2 Régularisation des intégrales de séries théta suivant [K-R].

Ici s_{1} := s_{0} + (a − 1)/2 est un pôle pour la série d’Eisenstein E^{P_{a}}(s, f_{s}) et on suppose que l’on a (cf. proposition 2.2):

∫_{G(X′)(k)\G(X′)(𝔸)}(s − s_{1})E^{P_{a}}(s, f_{s})(g′g)j^{∗}ϕ(g)dg = (s − s_{1})E^{Q_{a}}(s, f_{ϕ,s})(g′) (6)

est holomomorphe en s_{1} non identiquement 0.

Quitte à changer f, on suppose que la représentation engendrée par la forme automorphe:

((s − s_{1})E^{P_{a}}(s, f))_{s=s_{1}}

est irréductible tout en vérifiant encore la non nullité de (6). En particulier, on a sûrement s_{1} < (a′ +1)/2, avec les notations de 3.1 et même si X est orthogonal, s_{1} < (a′ − 1)/2 (cf en 3.1 ce qui précède l’énoncé du théorème). D’après 3.1, il existe une fonction ϵ comme ci-dessus telle que cette représentation soit isomorphe à Π_{η,ϵ}.

Supposons que X est orthogonal; on se ramène au cas où ϵ est la fonction 1 (on a déjà supposé η = 1). Pour cela, on note χ_{ϵ} le caractère de G(W_{a}) trivial en toute place v où ϵ_{v} = 1 et valant le caractère signe aux autres places; grâce à la condition (5) ce caractère est trivial sur G(W_{a})(k). On voit aussi χ_{ϵ} comme une fonction sur G(W_{a})(𝔸) et tous ses sous-groupes. Il est clair que χ_{ϵ} f ∈ E′_{a}. La représentation engendrée par:

((s − s_{1})E^{P_{a}}(s, χ_{ϵ} f_{s}))_{s=s_{1}}

est Π_{η,1} ≃ Π_{η,ϵ} ⊗ χ_{ϵ}. La fonction χ_{ϵ}ϕ est dans l’espace de χ_{ϵ} ⊗ π et le premier membre de (6) ne change pas si on y remplace f par χ_{ϵ} f et ϕ par χ_{ϵ}ϕ. C’est donc ici que l’on remplace π par χ_{ϵ} ⊗ π et on a alors ϵ = 1 si X est orthogonal. On définit alors Y comme étant le k -espace symplectique dont la dimension vérifie:

dim Y := 2((a′ − 1)/2 − s_{1}) = 2(dim X/2 − s_{0}).

Cette dimension est positive, d’après ce qui précède.

Si X est symplectique, on va aussi définir Y (c’est la définition de [K-R]); Y est le k -espace orthogonal de discriminant η dont la dimension vérifie:

dim Y := 2((a′ + 1)/2 − s_{1}) = 2(dim X/2 − s_{0} + 1)

et, en toute place v, d’invariant de Hasse ϵ_{v} (si v est réelle, on prend la forme de type p_{0}, q_{0} où p_{0}, q_{0} sont définis en [K-R] 2.8). La condition (5) assure que Y est bien défini et de dimension positive.

Comme dans [K-R], il faut réaliser la représentation Π_{η,ϵ} à l’aide de séries theta pour la représentation métaplectique associée à l’espace symplectique W_{a} ⊗ Y ; on note G(Y) le groupe des automorphismes de Y .

On veut utiliser les intégrales sur G(Y)(k)\G(Y)(𝔸) des séries theta; comme ces intégrales ne convergent pas on utilise [K-R] par 5 pour les régulariser (ce paragraphe de [K-R] inclus le cas orthogonal). Précisément, [K-R] construit un opérateur différentiel, z, provenant du centre de l’algèbre enveloppante de G(W_{a}), tel que pour toute fonction de Schwartz, f′, sur W_{a,+} ⊗ Y (𝔸) la série θ_{z.f′} soit à décroissance rapide en tant que fonction sur G(Y)(k)\G(Y)(𝔸). Pour inverser l’action de z, [K-R] construit une série d’Eisenstein pour G(Y), E(s, h) et un point s′_{0} ∈ ℝ tel que (s−s′_{0})E(s, h) soit holomorphe en s = s′_{0} et soit, en ce point, la fonction 1. Ils notent P (s) le polynôme tel que z.E(s, h) = P (s)E(s, h). Ils considèrent pour g_{a} ∈ G(W_{a})(𝔸):

P (s)^{−1} ∫_{G(Y)(k)\G(Y)(𝔸)} θ_{zf′}(g_{a}, h)E(s, h) dh,

comme fonction méromorphe de s. En s′_{0} , P (s) ne s’annule pas ([K-R], 5.5.6) et on note B(f′)(g_{a}) le résidu en s = s′_{0} i.e:

P (s′_{0})^{−1} ∫_{G(Y)(k)\G(Y)(𝔸)} θ_{zf′}(g_{a}, h) dh.

Il faut savoir que la représentation de G(W_{a})(𝔸) engendrée par ces résidus est isomorphe à Π_{η,ϵ}; c’est une conséquence de la formule de Siegel-Weil de [K-R] si X est symplectique; heureusement le cas orthogonal se déduit aussi de [K-R]. En effet [K-R], 5.5.12 et suivant, montre que l’intégrale régularisée est un résidu de série d’Eisenstein pour G(W_{a})(𝔸) à partir d’un parabolique de Levi isomorphe à:

GL(dim Y/2) × O(dim W_{a} − dim Y),

où O(dim Y) est le groupe orthogonal déployé de dimension dim W_{a} − dim Y ; on induit la représentation:

|det|^{(dim Y/2+1)/2} × 1.  (7)

Pour clarifier les exposants qui interviennent remarquons que cette induite (7) est quotient de l’induite à partir du Borel et du caractère:

| |^{dim Y/2} × ⋯ × | |^{dim Y/2−i+1} × ⋯ × | | × | |^{(dim W_{a}−dim Y)/2−1} × ⋯
× | |^{(dim W_{a}−dim Y)/2−j} × ⋯ × | |^{0}.  (8)

Une propriété des opérateurs d’entrelacement démontré pour les groupes linéaires ([M-W] 1.11) assure que l’induite (7) (pas la (8) évidemment) est quotient de l’induite à partir du Borel et du caractère dans la fermeture de la chambre de Weyl positive conjugué de celui écrit en (8). Le résidu des séries d’Eisenstein associé est nécessairement sphérique; c’est la représentation calculée en [M2] et associée à l’orbite nilpotente de O(dim W_{a}, ℂ) de blocs de Jordan (dim W_{a} − dim Y − 1; dim Y + 1). Cette représentation est de carré intégrable, elle intervient avec multiplicité 1 dans l’espace des formes automorphes engendrées par les résidus de séries d’Eisenstein à partir du Borel (cf. le calcul du produit scalaire de [M 1]) et on l’identifie aisément à Π_{η=1,ϵ=1} (ces deux représentations sont quotient de la même série principale en toutes places). Bien sûr le résultat de multiplicité 1 plus général de [K-R] 3.1, peut aussi se démontrer dans le cas des groupes orthogonaux en suivant leur démonstration.

3.3 Fin de la preuve.

Grâce à 3.2, on a obtenu dans tous les cas la propriété suivante: il existe f ∈ E′_{a} et f′ une fonction de Schwartz comme ci-dessus avec, ici encore s_{1} = s_{0} + (a − 1)/2:

0 ≠ ((s − s_{1})E^{P_{a}}(s, f)(g_{a}))_{s=s_{1}} = ∫_{G(Y)(k)\G(Y)(𝔸)} θ_{zf′}(g_{a}, h) dh.

et (6) est aussi non nul pour ce choix de f. En reportant dans (6), on obtient que la fonction de g_{a} ∈ G(X_{a})(𝔸):

g_{a} ↦ ∫_{G(X′)(k)\G(X′)(𝔸)} ∫_{G(Y)(k)\G(Y)(𝔸)} θ_{z.f′}(g g_{a}, h)j^{∗}ϕ(g) dg dh,

est non nulle. Les fonctions sont à décroissance rapide (cf. [K-R], 5.3, pour la série théta) on peut donc échanger les intégrales et on obtient:

0 ≠ ∫_{G(X)(k)\G(X)(𝔸)} θ_{zf′}(g_{a}g, h)ϕ(g) dg.

Quitte à changer f′ par un translaté convenable sous l’action de G(X_{a})(𝔸) de zf′, on peut supposer que:

0 ≠ ∫_{G(X′)(k)\G(X′)(𝔸)} θ_{f′}(g)j^{∗}ϕ(g) dg.  (9)

On écrit S_{X_{a}⊗Y} la représentation métaplectique pour l’espace écrit en indice et on définit de même S_{X′⊗Y} . Ainsi f′ est un élément du produit tensoriel:

S_{X_{a}⊗Y} ⊗ S_{X′⊗Y}

dans un modèle de Schrödinger convenable. Mais on peut changer de modèle de Schrödinger (cela se fait par tranformation de Fourier, opération qui respecte la sommation de Poisson); en particulier on réalise f′ dans le produit tensoriel de modèle de Schrödinger de chacune des représentations écrites. En gardant la non nullité en (9), on peut remplacer f′ par un produit f_{a}f_{X′} où f_{a} est dans un modèle de Schrödinger pour S_{(X_{a}⊗Y)} et f_{X′} dans un modèle de Schrödinger pour S_{X′⊗Y} . Alors le terme de droite de (9) est le produit de θ_{f_{a}} calculée en l’élément neutre et de:

∫_{G(X′)(k)\G(X′)(𝔸)} θ_{f_{X′}} (g)j^{∗}ϕ(g) dg.  (10)

En particulier (10) est non nul ce qui prouve la non nullité du relèvement par série théta (en faisant un changement de variables grâce à j).

4. Preuve de l’inégalité s_{Eis}(π, η) ≥ s_{θ}(π, η).

Soient X, Y comme dans la fin de l’introduction; en particulier G(X) et G(Y) forment une paire réductive duale et on utilisera s_{X,Y} défini dans l’introduction. On garde aussi la notation X_{a} pour a ≥ 0 (X_{0} := X). On note S_{X_{a},Y} la représentation métaplectique associée à l’espace X_{a} ⊗ Y que l’on réalise dans un modèle de Schrödinger.

Pour ϕ dans l’espace de π et f ∈ S_{X,Y} , on pose pour tout h ∈ G(Y)(𝔸):

θ(f, ϕ)(h) := ∫_{G(X)(k)\G(X)(𝔸)} θ_{f}(g, h)ϕ(g) dg

On adopte aussi les notations Q_{a}, E_{a} de l’introduction et X′, W_{a}, P_{a} de 2.

4.1 Rappelons le lemme devenu banal.

Lemme. Soit G(X), G(Y) une paire réductive duale, soit π comme ci-dessus. On suppose que θ^{Y} (π) ≠ 0 et est cuspidale. Alors, pour tout a ∈ ℕ ∪ {0}, il existe ϕ dans l’espace de π, f ∈ S_{X,Y} et f_{a} ∈ S_{X_{a},Y} tels que la fonction de g′ ∈ G(X_{a})(𝔸):

∫_{G(Y)(k)\G(Y)(𝔸)} θ_{f_{a}}(g′, h)θ(f, ϕ)(h) dh

ne soit pas identiquement 0.

Le cas de a = 0: on fixe ϕ dans l’espace de π et f ∈ S_{X,Y} tel que θ(f, ϕ) soit non nul. Alors \overline{f} ∈ S_{X,Y} et l’intégrale surG(Y)(k)\G(Y)(𝔸) de la fonction de h :

∫_{G(X)(k)\G(X)(𝔸)×G(X)(k)\G(X)(𝔸)} θ_{f}(g, h)ϕ(g)θ\overline{f}(g′, h)\overline{ϕ}(g′) dgdg′

est non nulle; on peut échanger l’intégrale en g′ et celle en h, ainsi ϕ, f et f_{0} := \overline{f} satisfont aux conditions du lemme.

Fixons a ∈ ℕ. Par hypothèse,θ(f, ϕ) est cuspidale. On peut donc considérer pour tout f_{a} ∈ S_{X_{a},Y} la forme automorphe sur G(X_{a})(𝔸):

∀g_{a} ∈ G(X_{a})(𝔸), ∫_{G(Y)(k)\G(Y)(𝔸)} θ(f, ϕ)(h)θ_{f_{a}}(g_{a}, h) dh.  (1)

On calcule son terme constant relativement au parabolique Q_{a}. On note ℓ_{a}^{+} un espace isotrope de X_{a} de dimension a stabilisé par Q_{a} (cf l’introduction). On réalise S_{X_{a},Y} dans S(ℓ_{a}^{+} ⊗ Y)(𝔸) ⊗ S_{X,Y} (S(.)(𝔸) est l’espace des fonctions de Schwartz). L’évaluation en 0 ∈ ℓ_{a}^{+} ⊗ Y , donne un morphisme:

S_{X_{a},Y} → S_{X,Y} ,

équivariant pour l’action de G(Y)(𝔸) et de G(X)(𝔸) plongé dans G(X_{a})(𝔸) en prolongeant trivialement l’action des éléments sur X(𝔸)^{⊥}.

Pour F ∈ S_{X_{a},Y} , on note F_{|X,Y} l’image de F par ce morphisme.

Un calcul classique, qui utilise la cuspidalité de θ(f, ϕ), montre que le terme constant cherché vaut:

∫_{G(Y)(k)\G(Y)(𝔸)} θ(f, ϕ)(h)θ_{(ω_{Xa,Y} (g_{a})f_{a})_{|X,Y}}^{X,Y} (1, h) dh,  (2)

où ω_{X_{a},Y} est la représentation de G(X_{a})(𝔸) dans S_{X_{a},Y} et θ^{X,Y} est la série théta pour la représentation S_{X,Y} . La preuve dans le cas a = 0, montre qu’il suffit de prendre f, ϕ tels que θ(f, ϕ) ≠ 0 et f_{a} tel que (f_{a})_{|X,Y} = \overline{f} pour que la fonction (1) soit non nulle en l’identité. D’où le lemme.

4.2. Comme en 3.2, on note z l’élément de [K-R], 5.2.1, permettant de régulariser les intégrales de séries d’Eisenstein pour S_{X′⊕X_{a},Y} = S_{W_{a},Y} ; on voit z comme un élément du centre de l’algèbre enveloppante de G(Y). Il est donné explicitement en [K-R] 5.1.2 et 5.5.4 qu’il faut généraliser au cas où Y est symplectique. Ecrivons le résultat dans tous les cas; on pose 2N := dim W_{a} et ℓ := dim Y/2. Si X est symplectique d’où Y orthogonal:

z = ∏_{j=1}^{j=ℓ}(y_{j}^{2} − (N − ℓ + 1)^{2}),

tandis que si X est orthogonal, d’où Y symplectique:

z = ∏_{j=1}^{j=ℓ}(y_{j}^{2} − (N − ℓ)^{2}).

La formule générale est donc:

z = ∏_{j=1}^{j=ℓ}(y_{j}^{2} − ((d(W_{a}) − d(Y) + 1)/2)^{2}) = ∏_{j=1}^{j=ℓ}(y_{j}^{2} − s_{W_{a},Y})

Notons z(tr) le scalaire par lequel z opère sur la représentation triviale. C’està-dire z(tr) est la valeur de la fonction ci-dessus en y_{j} = j − 1, ∀j, si Y est orthogonal et y_{j} = j, ∀j, si Y est symplectique. En particulier y_{ℓ} = [(d(Y) − 1)/2]. La non nullité de z(tr) est donc équivalente à:

s_{W_{a},Y} > [(d(Y) − 1)/2].

Or, on vérifie cas par cas que s_{W_{a},Y} = [(2d(X) − d(Y) + 1)/2] + a, d’où:

\begin{matrix}z(tr) ≠ 0 ⇔ \\ [(2d(X) − d(Y) + 1)/2] + a = d(X) + a + [(−d(Y) + 1)/2] > [(d(Y) − 1)/2]. \end{matrix}

Or pour M ∈ ℤ_{≥0} , −[−M/2] + [M/2] = M, d’où:

z(tr) ≠ 0 ⇔ d(X) + a ≥ d(Y).  (1)

Si a est suffisamment grand, cette inégalité est satisfaite. Soient encore ϕ dans l’espace de π, f ∈ S_{X,Y} et f_{a} ∈ S_{X_{a},Y} , alors:

∫_{G(Y)(k)\G(Y)(𝔸)} z((θ(f, ϕ)(h)θ_{f_{a}}(g_{a}, h)) dh
= z(tr) ∫_{G(Y)(k)\G(Y)(𝔸)} θ(f, ϕ)(h)θ_{f_{a}}(g_{a}, h) dh.  (2)

On remarque encore que la représentation de G(X) dans S_{X,Y} et isomorphe à celle se réalisant dans S_{X′,Y} en conjuguant par une similitude de X de rapport −1. En mettant ensemble 4.1, (1) et (2) ci-dessus, on obtient le corollaire:

Corollaire. Soient X, Y, π comme en 4.1. On suppose que (1) est réalisée et soit z comme ci-dessus. Alors, il existe F ∈ S_{W_{a},Y} et ϕ ∈ π tels que la fonction de g′ ∈ G(X′_{a})(𝔸):

∫_{G(Y)(k)\G(Y)(𝔸)} ∫_{G(X)(k)\G(X)(𝔸)} θ_{z.F} ((g, g_{a}), h)ϕ(g) dg dh,

ne soit pas identiquement nulle.

4.3

Corollaire. Soient X, Y, π comme en 4.2; en particulier θ^{Y} (π) ≠ 0 et est cuspidale. On note η le discriminant de Y . Alors

s_{Eis}(π, η) ≥ s_{X,Y} .

On fixe a grand de sorte que les fonctions f_{ϕ,s} de 2.1 soient holomorphes en

s_{1} := s_{X,Y} + (a − 1)/2.

Et on suppose aussi que 4.2 (1) est satisfait. On fait la démonstration de 3 à reculons. On fixe F, ϕ satisfaisant au lemme 4.2. On obtient la non nullité de la fontion de g′ ∈ G(X_{a})(𝔸) :

∫_{G(Y)(k)\G(Y)(𝔸)} ∫_{G(X)(k)\G(X)(𝔸)} θ_{z.F} ((g, g′), h)ϕ(g) dg dh.

En échangeant les intégrales et en utilisant la formule de Siegel-Weil telle qu’énoncée en 3.2, on voit qu’il existe f ∈ E′_{a,0} (cf. 2. pour la notation) tel que:

∫_{G(Y)(k)\G(Y)(𝔸)} θ_{z.F} ((g, g′), h) dh = ((s − s_{1})E^{P_{a}}(s, f)(g, g′))_{s=s_{1}}.

D’où:

0 ≠ ∫_{G(X)(k)\G(X)(𝔸)}((s − s_{1})E^{P_{a}}(s, f)(g, g′))_{s=s_{1}}ϕ(g) dg,

où f ∈ E′_{a,0} convenable. D’après la proposition 2.2, on peut encore écrire la fonction ci-dessus comme étant:

((s − s_{1})E^{Q_{a}}(s, f_{ϕ,s})(g′))_{s=s_{1}}.

Ainsi s_{1} est un pôle simple pour la fonction méromorphe E^{Q_{a}}(s, f_{ϕ,s}); l’hypothèse sur l’holomorphie de f_{ϕ,s}, assure que s_{1} est un pôle pour la série d’Eisenstein, d’où par définition de s_{Eis}(π, η):

s_{1} = s_{X,Y} + (a − 1)/2 ≤ s_{Eis}(π, η) + (a − 1)/2.

Cela termine la preuve.

On a ainsi prouvé le théorème annoncé dans l’introduction.

5. Exemple et commentaires.

Ici, on donne un exemple qui contredit l’idée séduisante suivante: soient X, Y fixés comme dans la fin de l’introduction et π une représentation cuspidale irréductible de G(X). On suppose que d(X) ≥ d(Y) et même que s_{X,Y} > 1; on suppose aussi que X est symplectique. Pour que θ^{Y} (π) soit non nul, il n’est pas vrai qu’il suffise que la fonction L(s, η × π) (η est le discriminant de Y ) ait un pôle en s = s_{X,Y} et que que les composantes locales π_{v} de π ait une image dans chaque correspondance de Howe locale.

Soient η_{i} pour i ∈ {1, 2, 3} des caractères quadratiques distincts de 𝔸^{∗}/k^{∗} vérifiant:

1 = η_{1}η_{2}η_{3}.

On suppose ces caractères triviaux aux places archimédiennes. Pour i ∈ {1, 2, 3}, on fixe une collection (ϵ_{i,v}) indéxée par les places de k de nombres égaux à ±1; on suppose que ϵ_{i,v} = 1 sauf éventuellement pour un ensemble fini de places ne contenant pas les places archimédiennes. On impose aussi:

∀i ∈ [1, 3], ∏_{v} ϵ_{i,v} = 1

et

∀v, ϵ_{1,v}ϵ_{2,v}ϵ_{3,v}. = 1

On note Y′ le k -espace orthogonal de dimension 4, déployé aux places archimédiennes, de discriminant η_{1} et d’invariant de Hasse en toute place v, ϵ_{1,v}. On note χ le caractère de O(Y′)(𝔸) valant en toute place v et pour tout g_{v} ∈ O(Y′_{v}):

χ(g_{v}) = η_{3}(det g_{v} Nsp(g_{v})) ϵ_{3,v}(det g_{v}).

Imposons encore qu’il existe une place v_{0} finie de k tel que η_{i} soit trivial en cette place pour tout i ∈ {1, 2, 3} et ϵ_{1,v_{0}} = −1 = ϵ_{3,v_{0}} . Cela assure que O(Y′ ⊗_{k} k_{v_{0}}) est compact et que χ est le caractère signe en cette place.

On regarde la paire O(Y′), Sp(8); on vérifie, ou plus exactement on admet ici, que le caractère χ se relève par série théta en une représentation cuspidale de Sp(8)(𝔸) (la composante locale en la place v_{0} est cuspidale); on la note π. On admet aussi que la fonction L, pour tout caractère quadratique η, de π × η vaut:

L(s, π × η) = L(s − 2, η_{1}η)L(s − 1, η_{1}η)L(s − 1, η_{1}η_{3}η)L(s, η_{3}η).

(cf. [K-R] 7.1.4, pour une justification) On prend pour η le caractère η_{2} . En particulier la fonction L ci-dessus a un pôle en s = 2. Fixons v une place de k et notons Y_{v} l’espace orthogonal de dimension 6, déployé si v est archimédienne, et, si v est fini, de discriminant η_{v} et d’invariant de Hasse ϵ_{Y,v} := ϵ_{2,v} si η_{1,v} ≠ η_{2,v} et ϵ_{Y,v} := ϵ_{1,v} sinon. On peut, et nous le ferons, supposer que:

∏_{v} ϵ_{Y,v} = 1.

Ainsi, il existe un espace orthogonal, Y , défini sur k tel que Y_{v} = Y ⊗_{k} k_{v} en toute place v. En prenant pour X l’espace symplectique de dimension 8,

s_{X,Y} = 2.

En outre, en toute place v, π_{v} est l’image d’une représentation de O(Y_{v}) (cf. [M3]). Et pourtant π ne se relève pas à O(Y)(𝔸) (s_{Eis}(π, η) ≤ 0). Il semble qu’il faille aller jusqu’à la dimension 14 pour avoir un relèvement. Changer l’invariant de Hasse en une place empêche le relèvement local avant la dimension 14. Pour qu’il y ait relèvement en dimension 6, il aurait fallu que π se relève en toutes places au groupe de l’espace orthogonal de discriminant η_{2} et d’invariant de Hasse ϵ_{2,v} en toutes places; mais ceci n’est pas vrai à la place v_{0} .

Admettons les conjectures standard de Langlands sur la normalisation des opérateurs d’entrelacements et supposons encore X symplectique. Il reste néanmoins vrai que pour avoir s_{Eis}(π, η) > 1, il faut que la fonction L(s, η × π) ait un pôle positif (ce n’est pas suffisant, il y a aussi une condition sur les opérateurs d’entrelacements qui ne doivent pas être nuls). Pour avoir s_{Eis}(π, η) ≤ 1, il faut que la fonction L ne soit pas nulle en un point convenable mais il y a aussi en plus une condition de non nullité de certains opérateurs d’entrelacements. Et ce sont ces conditions de non nullité qui sont difficiles à interpréter dans tous les cas.

Bibliographie

[B1] Böcherer, S., Siegel Modular Forms and theta Series, Proc. Symp. Pure Math. 49 (1989), vol 2, 3–17.

[B2] Böcherer, S., Über den Kern der Thetaliftung, Abhandlungen aus dem Math. Seminar der Uni. Hamburg 60 (1990), 209–223.

[G-PS-R] S. Gelbart, S., I. Piatetski-Shapiro, and S. Rallis, Explicit constrictions of Automorphic L-Functions, Lecture Notes in Math. (Springer) 1254 (1987).

[K-R] Kudla, S., and S. Rallis, A regularized Siegel-Weil formula: the first term identity Ann. of math. 140 (1992), 1–80.

[M1] Mœglin, C. Représentations unipotentes et séries d’Eisenstein, Forum Mathematicum 6 (1994), 651–744.

[M2] Mœglin, C. Orbites unipotentes et spectre discret non ramifié, Compositio Math., 77 (1991), 1–54.

[M3] —, Représentations quadratiques unipotentes pour les groupes classiques p-adiques, Duke math. J. 84 (1996), 267–332.

[M-W] —, et J.-L. Waldspurger, Le spectre résiduel de GL(n), Ann de l’ENS 22 (1989), 605–674.

[R1] Rallis, S.,On the Howe duality conjecture, Compositio. Math. 51 (1984), 333–399.

[R2] —, L-functions and the oscillator representation, Lecture Notes in Math (Springer) 1245 (1987).

[W] Waldspurger, J.-L., Correspondance de Schimura, Journ. de math. pures et app. 59 (1980), 1–133.

Colette Mœglin Mathématiques Université Paris 7 F-75251 Paris cedex 05 email moeglin@math.jussieu.fr

Received May 24, 1996