Le calcul de Schubert des permutations décomposables

F. Patras CNRS URA 168- Mathématiques Parc Valrose F 06108 Nice cedex 2 @-mail: patras@math.unice.fr

Résumé: Le produit de juxtaposition des permutations présente un certain nombre de propriétés remarquables vis à vis du calcul de Schubert des variétés de drapeaux -c’est à dire, du point de vue de la combinatoire, vis à vis du calcul des “polynômes de Schubert” de Lascoux et Schützenberger. Il en résulte, entre autres, des formules explicites pour les produits des cycles (resp. polynômes) de Schubert associés aux permutations correspondantes avec les cycles (resp. polynômes) de Schubert généraux. En l’absence d’une formule générale pour le calcul d’intersection sur les variétés de drapeaux, ces résultats permettent de compléter notablement les résultats partiels déjà connus (formule de Monk et formule “à la Pieri” de Lascoux-Schützenberger, quelques propriétés des permutations vexillaires).

Abstract: The concatenation product of permutations enjoys many nice properties with respect to Schubert calculus; that is, from a combinatorial point of view, with respect to the Lascoux-Schützenberger calculus of Schubert polynomials. We give explicit formulas for the product of the Schubert cycles (resp. polynomials) which are associated to the corresponding permutations with general Schubert cycles (resp. polynomials). Those formulas complete the partial known results about the combinatorics of intersections products on flag manifolds (Monk’s formula, generalized Pieri formula of Lascoux and Schützenberger, some properties of vexillary permutations).

Introduction. A la suite des travaux de Borel [B], Demazure et Bernstein-Gelfand-Gelfand [D1][D2][BGG] sur la cohomologie des espaces homogènes, Lascoux et Schützenberger ont donné dans [LS1] un modèle entièrement combinatoire de la cohomologie des variétés de drapeaux, les “polynômes de Schubert”. Ce modèle permet, au moins en théorie, de rendre effectifs les calculs d’intersection de cycles de Schubert: il suffit de multiplier les polynômes de Schubert correspondants et de décomposer dans une base de polynômes de Schubert convenable le résultat obtenu. En basses dimensions, un package comme celui mis au point par S. Veigneau [V] devrait pouvoir permettre d’effectuer ce type de calculs; mais l’effectivité peut devenir vite problématique lorsque la longueur des drapeaux augmente, compte tenu de la taille des calculs à effectuer.

Malgré les progrès spectaculaires de la théorie depuis [LS1], on dispose encore de peu d’informations et en particulier de peu de formules générales sur les calculs de produits de cycles de Schubert en dehors de la formule de Monk [M] d’une part (généralisée en une formule “à la Pieri” pour les fonctions de Schur dans [LS1]), et d’autre part de quelques formules liées à la formule de Littlewood-Richardson et aux permutations vexillaires [LS2][Mc]. Citons par ailleurs, pour les polynômes de Grothendieck, c’est à dire au niveau de la K-théorie, la “formule de Pieri” obtenue par Fulton et Lascoux [FL].

Le but de cet article est de donner des formules explicites pour le calcul d’intersection de cycles de Schubert généraux avec les cycles associés aux permutations décomposables -les permutations obtenues comme produit de juxtaposition de deux permutations. D’un point de vue géométrique, la remarque essentielle, élémentaire mais dont l’utilisation semble nouvelle, est que le cycle de Schubert d’une permutation décomposable est canoniquement isomorphe au produit cartésien de cycles associés à des drapeaux de moindre longueur, ce qui permet de déduire certaines de ses propriétés combinatoires d’arguments standards en théorie d’intersection. Précisément, si on note F_{k} la variété des drapeaux complets de C^{k}, nous nous intéresserons aux immersions fermées:

F_{k} × F_{l}⟶^{i}F_{k+l}

(A_{1} ⊂ ... ⊂ A_{k}, B_{1} ⊂ ... ⊂ B_{l})

⟼ A_{1} ⊂ ... ⊂ A_{k} ⊂ B_{1} ⊕ A_{k} ⊂ ... ⊂ B_{l} ⊕ A_{k}.

Tout laisse à penser -et c’est une de nos motivations principales- que ces immersions jouent vis à vis des polynômes de Schubert un rôle analogue à celui que jouent les morphismes

S_{k} × S_{l} ↪ S_{k+l}

dans la théorie des fonctions symétriques [G] [C]. Les morphismes d’image directe i_{∗} et d’image réciproque i^{∗} des classes de cycles et leurs propriétés, en particulier la “loi de réciprocité géométrique”(dite plutôt “formule de projection”, notre terminologie est un clin d’oeil à la réciprocité de Frobenius):

i_{∗}(x ∩ i^{∗}(y)) = i_{∗}(x) ∩ y,

jouent un rôle décisif dans nos constructions.

Pour ce qui est des propriétés des polynômes de Schubert rappelées ou utilisées sans autre forme de précision dans cet article, on renvoie à [Mc] plutôt qu’aux articles originaux pour des raisons évidentes de commodité. Pour ce qui est de la théorie d’intersection, on renvoie à [F].

On note N (resp. C) l’ensemble des entiers (resp. des complexes).

1. Généralités sur les polynômes de Schubert des permutations antidécomposables.

On convient de représenter une permutation ω ∈ S_{n} par la suite de ses valeurs aux entiers: ω = (ω(1), ..., ω(n)). Le produit de juxtaposition α × β ∈ S_{n+m} de deux permutations α ∈ S_{n}, β ∈ S_{m} est défini par:

∀i ≤ n, α × β(i) := α(i);
∀i > n, α × β(i) := β(i − n) + n.

Ce produit munit l’ensemble ∐_{n∈N} S_{n} d’une loi multiplicative associative (et

unitaire, si l’on convient que S_{0} = {∅}, où ∅ représente la “permutation triviale sur l’ensemble vide”, et que:

∀α ∈ S_{n}, ∅ × α = α × ∅ := α).

Les permutations qui s’écrivent comme produit de juxtaposition de deux permutations non triviales, c’est à dire les éléments de ( ∐_{n∈N^{∗}} S_{n})^{2} sont, par

définition, les permutations décomposables.

Les permutations décomposables sont bien connues du point de vue des polynômes de Schubert. On sait en particulier que, si on note 1_{n} l’élément identité de S_{n} et S_{γ} le polynôme de Schubert associé à une permutation γ, on a:

∀α ∈ S_{n}, ∀β ∈ S_{m}, S_{α×β} = S_{α} · S_{1_{n}×β}.

Nous nous intéresserons surtout aux polynômes de Schubert “duaux”, c’est à dire aux polynômes: S_{ω_{n+m}·(α×β)}, où ω_{n+m} := (n + m, n + m − 1, ..., 1) est l’élément de longueur maximale de S_{n} pour l’ordre de Bruhat-Ehresmann. En général, si σ ∈ S_{n} et si ω_{n} ·σ est décomposable, nous dirons que σ est une permutation antidécomposable.

Définition 1,1. Une permutation décomposable σ ∈ S_{n} est dite élémentaire (resp. antiélémentaire) si elle s’écrit (resp. si ω_{n} · σ s’écrit) comme produit de juxtaposition de permutations du type ω_{i}, i.e. s’il existe des entiers a_{1}, ..., a_{k} avec:

σ = ω_{a_{1}} × ... × ω_{a_{k}},

(resp. avec ω_{n} · σ = ω_{a_{1}} × ... × ω_{a_{k}}). On dira dans ce cas que σ est élémentaire (resp. antiélémentaire) de type (a_{1}, ..., a_{k}). Plus généralement, si σ = σ_{1} × ... × σ_{k} (resp. si σ = ω_{n} · (σ_{1} × ... × σ_{k})) avec σ_{i} ∈ S_{a_{i}}, on dira que σ est décomposable (resp. antidécomposable) de type (a_{1}, ..., a_{k}).

Lemme 1,2. Toute permutation antiélémentaire est dominante.

Rappelons que, si σ ∈ S_{n}, le code de σ est, par définition, la suite ordonnée c(σ) := (c_{1}(σ), ..., c_{n}(σ)), où:

c_{i}(σ) := Card {j : i < j ≤ n, ω(j) < ω(i)}.

Une permutation est dite dominante si son code est une partition (i.e. une suite décroissante). Supposons σ = ω_{a_{1}} × ... × ω_{a_{l}}. On a alors:

c_{j}(ω_{n} · σ) = a_{k+1} + ... + a_{l} si j ∈]a_{1} + ... + a_{k−1}, a_{1} + ... + a_{k}],

d’où le lemme.

Corollaire 1,3. Si la permutation décomposable α est élémentaire de type (a_{1}, ..., a_{k}), le polynôme de Schubert indicé par la permutation antidécomposable associée ω_{n} · α vérifie:

S_{ω_{n}·α} = (∏_{j=1}^{a_{1}} x_{j})^{a_{2}+...+a_{k}}( ∏_{j=a_{1}+1}^{a_{2}} x_{j})^{a_{3}+...+a_{k}}...( ∏_{j=a_{1}+...+a_{k−2}+1}^{a_{1}+...+a_{k−1}} x_{j})^{a_{k}}.

C’est la conséquence d’un résultat général sur les permutations dominantes [Mc]: si β est dominante de code la partition λ = (λ_{1}, ..., λ_{n}), alors:

S_{β} = x^{λ} = x_{1}^{λ_{1}}... x_{n}^{λ_{n}}.

Proposition 1,4. Soient α ∈ S_{n}, β ∈ S_{m}. On a:
S_{ω_{n+m}(α×β)} = S_{ω_{n+m}(ω_{n}×ω_{m})} · S_{ω_{n}·α} · S_{ω_{m}·β}(n),

où on note S_{ω_{m}·β}(n) le polynôme obtenu en substituant à la variable x_{i} la variable x_{i+n} dans le développement de S_{ω_{m}·β}.

Plus généralement, si P est un polynôme en x_{1}, ..., x_{n}, ..., on notera P (k) le polynôme en x_{k+1}, ..., x_{k+n}, ... obtenu par le même procédé.

Rappelons [Mc] qu’on a, sur les polynômes de Schubert, les opérateurs de Demazure δ_{v}, v ∈ S_{n}, construits à partir des opérateurs aux différences divisées et satisfaisant aux relations:

∀σ ∈ S_{n}, δ_{v}S_{σ} = S_{σ·v^{−1}} si l(σv^{−1}) = l(σ) − l(v)

= 0 sinon;

avec en particulier:

S_{σ} = δ_{σ^{−1}ω_{n}}S_{ω_{n}} = δ_{σ^{−1}ω_{n}}(x_{1}^{n−1}x_{2}^{n−2}... x_{n−1}).

On note ici, comme d’habitude, l(σ) la longueur de la permutation σ. On a alors:

S_{ω_{n+m}(α×β)} = δ_{(α×β)^{−1}}(x_{1}^{n+m−1}... x_{n+m−1})
= δ_{α^{−1}×β^{−1}}(x_{1}^{n+m−1}... x_{n+m−1}).

Une décomposition réduite de α^{−1} × β^{−1} ne contient pas la transposition

τ_{n} := (1, ..., n − 1, n + 1, n, n + 2, ..., n + m).

On a alors en vertu des propriétés générales des opérateurs de Demazure:

S_{ω_{n+m}(α×β)} = δ_{α^{−1}}((x_{1}... x_{n})^{m} · x_{1}^{n−1}...x_{n−1}) · S_{ω_{m}·β}(n).

Comme par ailleurs, pour tout couple de polynômes (f, g) avec f symétrique en x_{1}, ..., x_{n}, on a pour σ ∈ S_{n}:

δ_{σ}(f · g) = f · δ_{σ}(g),

on a aussi:

δ_{α^{−1}}((x_{1}... x_{n})^{m} · x_{1}^{n−1}... x_{n−1}) = (x_{1}... x_{n})^{m}δ_{α^{−1}}(x_{1}^{n−1}... x_{m−1})
= S_{ω_{n+m}(ω_{n}×ω_{m})} · S_{ω_{n}·α};

cette dernière identité en vertu du corollaire 1,5. D’où la proposition.

2. Calcul d’intersection des permutations décomposables.

On note, comme dans l’introduction, F_{k} la variété des drapeaux complets de C^{k}:

(A) = (A_{1} ⊂ A_{2} ⊂ ... ⊂ A_{k}), dim_{C}A_{i} = i.

La variété (l’espace homogène) F_{k} admet une décomposition cellulaire [E] dont on rappelle brièvement la construction.

Considérons la base canonique de C^{k}: B = (e_{1}, ..., e_{k}). Tout vecteur non nul v ∈ C^{k} s’écrit de manière unique, pour un certain j ≤ k que l’on notera dans la suite j(v), sous la forme:

v = x_{1}(v) · e_{1} + ... + x_{j}(v) · e_{j},

avec x_{j}(v) ≠ 0. On pose:

|v| := \frac{v}{x_{j(v)}(v)}.

Soit alors (A) ∈ F_{k}; on code (A) par une matrice inversible (a_{ij})_{i,j≤k} de la manière suivante. Soit z_{1} un générateur de la droite A_{1}. On pose:

a_{1,n} := x_{n}(|z_{1}|).

On a donc en particulier a_{1,j(z_{1})} = 1 et a_{1,n} = 0 pour n > j(z_{1}). Il existe alors, à un scalaire près, un unique z_{2} ∈ A_{2} avec A_{2} = C · z_{1} ⊕ C · z_{2} et x_{j(z_{1})}(z_{2}) = 0. On pose:

a_{2,n} := x_{n}(|z_{2}|),

et ainsi de suite. On aura donc: A_{m} = C·z_{1}⊕...⊕C·z_{m}, avec x_{j(|z_{i}|)}(|z_{m}|) = 0 pour i < m et:

a_{m,n} := x_{n}(|z_{m}|).

La matrice (a_{i,j}) code le drapeau (A), au sens où (A) est entièrement déterminé par la donnée des a_{i,j}.

Soit alors σ ∈ S_{k}. Définissons GL_{σ} comme l’ensemble des matrices U ∈ GL_{k}(C) satisfaisant aux conditions:

• j = σ(i) ⟹ U_{i,j} = 1

• j > σ(i) ⟹ U_{i,j} = 0
• ∀i, j : ∃k < i, j = σ(k) ⟹ U_{i,j} = 0.

Par construction, GL_{σ} est isomorphe à C^{l(σ)} et tout élément U de GL_{σ} est le code d’un unique drapeau noté Drap(U). Qui plus est:

F_{k} = ∪_{σ∈S_{k}}Drap(GL_{σ}).

La clôture topologique X_{σ} de la cellule de Schubert

Drap(GL_{σ}) := {Drap(U)}_{U∈GL_{σ}}

est dite variété de Schubert et vérifie:

X_{σ} = ∪_{β≤σ}Drap(GL_{β}),

où l’ordre noté ≤ est, comme il se doit, l’ordre de Bruhat-Ehresmann, ce qui donne la décomposition cellulaire annoncée de F_{k}.

Les classes des variétés de Schubert, les cycles de Schubert [X_{σ}], σ ∈ S_{k}, forment une base de l’anneau de Chow de F_{k} [F]. On va s’intéresser aux propriétés multiplicatives des cycles associés aux permutations décomposables.

On remarque tout d’abord que le morphisme:

F_{n} × F_{m}⟶^{i}F_{n+m}

((A), (B)) ⟼ A_{1} ⊂ ... ⊂ A_{n} ⊂ A_{n} ⊕ B_{1} ⊂ ... ⊂ A_{n} ⊕ B_{m}

définit une immersion fermée. Le morphisme d’image directe:

A_{∗}(F_{n}) ⊗ A_{∗}(F_{m})⟶^{i_{∗}}A_{∗}(F_{n+m})

est donné par:

i_{∗}([X_{σ}] ⊗ [X_{β}]) = [X_{σ×β}],

ce que l’on peut voir via la description matricielle des cellules de Schubert Drap(GL_{σ}), Drap(GL_{β}) et Drap(GL_{σ×β}). On convient de noter ∩_{k} (resp. ∩_{k,l}) le produit d’intersection dans A_{∗}(F_{k}) (resp. A_{∗}(F_{k}) ⊗ A_{∗}(F_{l})). En utilisant la construction des produits d’intersection de [F], comme les variétés F_{k} sont non singulières, on peut raffiner la description de ∩_{n+m} de telle sorte qu’on ait:

∀(α, β, γ) ∈ S_{n+m} × S_{n} × S_{m}, [X_{α}] ∩_{n+m} [X_{β×γ}] ∈ A_{∗}(F_{n}) ⊗ A_{∗}(F_{m}).

Dans la suite on identifiera implicitement A_{∗}(F_{n}) ⊗ A_{∗}(F_{m}) à son image directe dans A_{∗}(F_{n+m}).

Lemme 2,1. Soit σ ∈ S_{n+m}. Si σ est antidécomposable de type (n, m) avec σ = ω_{n+m}(α × β), α ∈ S_{n}, β ∈ S_{m}, alors:

[X_{σ}] ∩_{n+m} [X_{ω_{n}×ω_{m}}] = [X_{ω_{n}α}] ⊗ [X_{ω_{m}β}] ∈ A_{∗}(F_{n}) ⊗ A_{∗}(F_{m})

Sinon:

[X_{α}] ∩_{n+m} [X_{ω_{n}×ω_{m}}] = 0.

Notons respectivement <, >_{n+m} et <, >_{n,m} les formes bilinéaires induites sur A_{∗}(F_{n+m}) et A_{∗}(F_{n}) ⊗ A_{∗}(F_{m}) par dualité de Poincaré.

On a, d’après [E]:

< [X_{α}]|[X_{β}] >_{n+m}= δ_{ω_{n+m}·β}^{α}

et

< [X_{α×β}]|[X_{γ×ϵ}] >_{n,m}= δ_{ω_{n}γ×ω_{m}ϵ}^{α×β}.

La “loi de réciprocité”:

i_{∗}(x ∩_{n,m} i^{∗}(y)) = i_{∗}(x) ∩_{n+m} y

implique que, pour (α, β, γ) ∈ S_{n+m} × S_{n} × S_{m}:

< [X_{α}]|[X_{β×γ}] >_{n+m}=< i^{∗}[X_{α}]|[X_{β×γ}] >_{n,m}
=< [X_{α}] ∩_{n+m} [X_{ω_{n}×ω_{m}}]|[X_{β×γ}] >_{n,m};

d’où le lemme.

Proposition 2,2. Supposons que σ ∈ S_{n+m} ne soit pas antidécomposable de type (n, m). Alors, pour α ∈ S_{n} et β ∈ S_{m} on a:

[X_{σ}] ∩_{n+m} [X_{α×β}] = 0.

En effet, on a alors:

[X_{σ}] ∩_{n+m} [X_{α×β}] = ([X_{σ}] ∩_{n+m} [X_{ω_{n}×ω_{m}}]) ∩_{n,m} [X_{α×β}] = 0.

Proposition 2,3. Pour tout 4-uplet (α, β, γ, δ) ∈ S_{n} × S_{m} × S_{n} × S_{m}, on a l’égalité suivante dans A_{∗}(F_{n}) ⊗ A_{∗}(F_{m}):

[X_{ω_{n+m}(γ×δ)}] ∩_{n+m} [X_{α×β}] = ([X_{ω_{n}γ}] ∩_{n} [X_{α}]) ⊗ ([X_{ω_{m}δ}] ∩_{m} [X_{β}]).

La preuve est identique à celle de la proposition 2,2 mutatis mutandis .

Les propositions 2,2 et 2,3 permettent de calculer pour une classe importante de cycles de Schubert des produits d’intersection explicites en fonction de produits de cycles associés à des drapeaux de longueur inférieure, ce qui est d’un intérêt évident, entre autres du point de vue de l’effectivité.

Corollaire 2,4. Supposons (σ, α, β) ∈ S_{n+m} × S_{n} × S_{m} avec σ non décomposable de type (n, m). Alors S_{σ} · S_{ω_{n+m}(α×β)} est dans l’idéal de Z[X_{1}, ..., X_{n+m}] engendré par les polynômes symétriques.

Cela résulte de la proposition 2,2 et de ce que, dans la représentation de Demazure de la cohomologie de F_{n+m}, on peut voir les polynômes de Schubert comme classes dans Z[X_{1}, ..., X_{n+m}] modulo l’idéal engendré par les polynômes symétriques. Voir [LS1] par exemple pour plus de détails sur ce point de vue sur les polynômes de Schubert.

Corollaire 2,5. Pour tout δ ∈ S_{m}, (S_{1_{n}×δ} −S_{δ}(n))·S_{ω_{n+m}(ω_{n}×ω_{m})} est dans l’idéal de Z[X_{1}, ..., X_{n+m}] engendré par les polynômes symétriques.

Même remarque que pour le corollaire 2,4. Appliquer 2,3 avec γ = 1_{n}, α = ω_{n} et β = ω_{m}.

Concluons par un exemple élémentaire à titre d’illustration des propositions 2,2 et 2,3. posons σ_{i} = ω_{n+m}τ_{i}, où τ_{i} est la transposition échangeant i et i = 1. Donnons-nous aussi (α, β) ∈ S_{n} × S_{m}. On a alors:

[X_{σ_{n}}] ∩_{n+m} [X_{α×β}] = 0

[X_{σ_{i}}] ∩_{n+m} [X_{α×β}] = ([X_{ω_{n}τ_{i}}] ∩_{n} [X_{α}]) ⊗ [X_{β}] si i < n

et

[X_{σ_{i}}] ∩_{n+m} [X_{α×β}] = [X_{α}] ⊗ ([X_{ω_{m}τ_{i−n}}] ∩_{m} [X_{β}]) si i > n,

ce que l’on peut retrouver par la formule de Monk.

Une ultime remarque: les morphismes d’image directe et d’image inverse permettent de munir le Z-module F := ⨁_{n∈N} A_{∗}(F_{n}) d’une structure

de Z-algèbre (associative) et de Z-cogèbre (coassociative) -par fonctorialité des morphimes d’image directe et inverse des classes de cycles. Ces structures d’algèbre et de cogèbre ne munissent pas F d’une structure d’algèbre de Hopf, mais sont adjointes au sens où, par la loi de réciprocité:

∀σ ∈ S_{n+m}, ∀α ∈ S_{n}, ∀β ∈ S_{m} :

< i^{∗}[X_{σ}]|[X_{α}] ⊗ [X_{β}] >_{n,m}=< [X_{σ}]|[X_{α×β}] >_{n+m} .

Bibliographie.

[B] A. Borel. Sur la cohomologie des espaces fibrés principaux et des espaces homogènes de groupes de Lie compacts. Ann. of Math. (2) 57 (1953) 115-207.

[BGG] I. N. Bernstein, I. M. Gelfand et S. I. Gelfand. Schubert cells and cohomology of the spaces G/P. Russian Math. Surveys 28 (1973) 1-26.

[C] P. Cartier. La théorie classique et moderne des fonctions symétriques. Sém. Bourbaki 1982/83, exposé 597. Astérisque 105-106 (1983) 1-23.

[D1] M. Demazure. Invariants symétriques entiers des groupes de Weyl et torsion. Inv. Math. 21 (1973) 287-301.

[D2] M. Demazure. Désingularisation des variétés de Schubert généralisées. Ann. Scient. Ec. Norm. Sup. 4-ième série, 7 (1974) 53-88.

[E] C. Ehresmann. Sur la topologie de certains espaces homogènes. Ann. of Math. (2) 35 (1934) 396-443.

[F] W. Fulton. Intersection theory. Ergebnisse der Mathematik und ihrer Grenzgebiete. Springer 1984.

[FL] W. Fulton et A. Lascoux. A Pieri formula in the Grothendieck ring of a flag bundle. Preprint LITP 94-41, juillet 1994.

[G] L. Geissinger. Hopf algebras of symmetric functions and class functions, in Combinatoire et représentations du groupe symétrique. D. Foata éd. Springer Lect. Notes in Math. 579 (1977) 168-181.

[LS1] A. Lascoux et M-P. Schützenberger. Polynômes de Schubert. C. R. Acad. Sc. Paris, Série I, 294 (1982) 447-450.

[LS2] A. Lascoux et M-P. Schützenberger. Schubert polynomials and the Littlewood-Richardson rule. Letters in Math. Physics 10 (1985) 111-124.

[M] D. Monk. The geometry of flag manifolds. Proc. London Math. Soc. (3) 9 (1959) 253-286.

[Mc] I. G. Macdonald. Notes on Schubert polynomials. Publications du LACIM, Montréal (1991).

[V] S. Veigneau. ACE, an algebraic combinatorics environment for the computer algebra system MAPLE. (1995).