Séminaire Lotharingien de Combinatoire 50 (2004), Article B50i

SCHUBERT & GROTHENDIECK : UN BILAN BIDÉCENNAL

ALAIN LASCOUX

’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o

Résumé. Nous donnons une douzaine de formules concernant les polynômes de Schubert et Grothendieck, la moitié étant nouvelles, et la plupart intéressantes. En particulier, nous explicitons la décomposition d’un polynôme de Schubert comme une somme positive de polynômes de Grothendieck, et montrons comment déduire des descriptions combinatoires de la considération de différents noyaux de Cauchy.

Abstract. We give a dozen formulas concerning Schubert and Grothendieck polynomials, and their interrelations, half of them being new, and most of them interesting. In particular, we describe explicitly the decomposition of Schubert polynomials as positive sums of Grothendieck polynomials, and we show that non-commutative Schubert polynomials are obtained by reading the columns of a two-dimensional Cauchy kernel. A six pages summary in English has been added.

’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o

English summary

The space of polynomials in n variables a_{1}, …, a_{n} is a free module over the ring of symmetric polynomials 𝔖𝔶𝔪(n).

It has many 𝔖𝔶𝔪(n)-bases, for example the following two ones, which were already known at the end of the 19th century :

a^{I} := a^{i_{1}} ⋯ a^{i_{n}} , I = [i_{1}, …, i_{n}] ≤ ρ := [n^{−}1, …, 1, 0] ,
P_{I} := Λ^{i_{1}}(𝔸_{n−1}) Λ^{i_{2}}(𝔸_{n−2}) ⋯ Λ^{i_{n}}(𝔸_{0}) , I ≤ ρ ,

where we write 𝔸_{j} := {a_{1}, …, a_{j}} and Λ^{i} for the elementary symmetric function of degree i.

Introducing n other indeterminates, and tensoring by ℤ[b_{1}, …, b_{n}], one rather considers the space of Laurent polynomials

𝔓𝔬𝔩 := ℤ[𝔹][a_{1}^{±}, …, a_{n}^{±}]

and proposes to describe it as a module over the ring 𝔖𝔶𝔪(𝔸) of symmetric functions in 𝔸 with coefficients in 𝔹.

One is especially interested in the different actions of the symmetric group 𝔖_{n} = 𝔖(𝔸) on 𝔓𝔬𝔩.

The 1-dimensional alternating representation of 𝔖(𝔸) gives two^{1} related scalar products on 𝔓𝔬𝔩 :

(f, g) = (fg, 1) = (1, fg) = ∑_{σ∈𝔖_{n}}(^{−}1)^{ℓ(σ)}(fg)^{σ} Δ^{−1} ,  (2)

where Δ is short for the Vandermonde Δ := ∏_{i,j}(a_{i} − a_{j}), and

⟨f, g⟩ = ∑_{σ∈𝔖_{n}}(fg ∏_{1≤i<j≤n}(1 − a_{j}/a_{i})^{−1})^{σ} .  (4)

Different varieties of divided differences act on 𝔓𝔬𝔩. They generate deformations of the group algebra of the symmetric group, the generators T_{i} satisfying the braid relations, together with a Hecke relation

(T_{i} − q_{1}) (T_{i} − q_{2}) = 0 ,

with some parameters q_{1}, q_{2} that we shall specialize in {0, 1,^{−}1}. By reduced products of T_{i}’s, one obtains a linear basis {T_{σ} : σ ∈ 𝔖_{n}} of the Hecke algebra.

The generators T_{i}, operating on their left, that we use in this text are, apart from the simple transpositions

s_{i} = (a_{i} , a_{i+1}) ,

\{ \begin{matrix}∂_{i} & = & (a_{i} − a_{i+1})^{−1} (1 + s_{i}) & = & (1 − s_{i}) (a_{i} − a_{i+1})^{−1}, \\ π_{i} & = & (1 − a_{i+1}/a_{i})^{−1} (1 + s_{i}) & = & a_{i}∂_{i}, \\ π̂_{i} & = & (1 − s_{i})(a_{i+1}/a_{i} − 1)^{−1} & = & ∂_{i}a_{i+1} = π_{i} − 1. \end{matrix}  (1)

By reduced products, one gets, for each permutation σ, the operators ∂_{σ}, π_{σ}, π̂_{σ}.

1Equation numbers correspond to the text in French ; equations lose their total order as well as their completeness in the English summary.

Introducing other variables x_{i} := 1 − a_{i}^{−1}, one can also take the divided differences relative to them, which we shall distinguish by putting a superscript x. It is easy to write the relations between these different operators. For example,

∂_{i}^{x} = ∂_{i}^{a} a_{i}a_{i+1} = a_{i}a_{i+1} ∂_{i}^{a} .

The “maximal” operators^{2} are all deformations of the operator ∑_{σ∈𝔖_{n}}(^{−}1)^{ℓ(σ)}σ Δ^{−1}. Indeed,

∂_{ω} = ∑_{σ∈𝔖_{n}}(^{−}1)^{ℓ(σ)}σ Δ^{−1} = ∂_{1}∂_{2}∂_{1}∂_{3}∂_{2}∂_{1} ⋯,  (3)
π_{ω}^{a} = a^{ρ} ∂_{ω}^{a} = (1 − x_{2})^{1} ⋯ (1 − x_{n})^{n−1} ∂_{ω}^{x} ,  (7)
π̂_{ω}^{a} = ∂_{ω}^{a}a^{ρ} ω = ∂_{ω}^{a}(a^{ρ})^{ω}
ωa^{−ρ}π_{σ}^{a} a^{ρ}ω = (^{−}1)^{ℓ(σ)} π̂_{ωσω} .  (8)

For each kind of divided differences T_{i}, one chooses a polynomial ♡. Its images under the operators T_{σ} constitute a family of n! polynomials, which will be a basis of 𝔓𝔬𝔩 if ♡ satisfies some mild genericity conditions.

In the case T_{i} = ∂_{i}^{a}, one takes

♡ = ∏_{i,j: i+j≤n}(a_{i} − b_{j}) denoted by X_{ω}(𝔸, 𝔹) .

In the case T_{i} = π_{i}^{a}, one chooses

♡ = ∏_{i,j:i+j≤n}(1 − b_{j} a_{i}^{−1}) denoted by G_{ω}(𝔸, 𝔹) ,

and in the case T_{i} = π̂_{i}^{a}, one prefers

♡ = ∏_{1≤i<j≤n}(1 − a_{j} b_{i}^{−1}) denoted by H_{ω}(𝔸, 𝔹) .

Their images are the Schubert polynomials X_{σ}, the Grothendieck polynomials G_{σ}, the adjoint Grothendieck polynomials H_{σ}, respectively :

X_{σ}(𝔸, 𝔹) = X_{ω}(𝔸, 𝔹) ∂_{ωσ} ,  (9)
G_{σ}(𝔸, 𝔹) = G_{ω}(𝔸, 𝔹) π_{ωσ}  & H_{σ}(𝔸, 𝔹) = H_{ω}(𝔸, 𝔹) π̂_{ωσ} .  (11)

The change of variables x_{i} = 1 − 1/a_{i}, y_{i} = 1 − b_{i} in the product ♡ associated to the Grothendieck polynomials leads to

♡ = ∏_{i,j:i+j≤n}(x_{i} + y_{j} − x_{i}y_{j}) := G̃_{ω}(x, y)  (12)

2i.e., indexed by ω = [n, …, 1], the permutation of maximal length in 𝔖_{n}.

and the operators T_{i} = (1^{−}x_{i+1}) ∂_{i}^{x} = π_{i}^{a}. Using (1^{−}x_{i+1}) ∂_{i}^{x} instead of ∂_{i}^{x}, it is clear that the term of smallest degree of G̃_{σ}(x, y) is equal to the Schubert polynomial X_{σ}(x, −y) (a sign appeared, one has to take x := {x_{1}, …, x_{n}}, but −y = {^{−}y_{1}, …,^{−}y_{n}}).

Schubert and Grothendieck polynomials are non-symmetric analogs of Schur functions, and satisfy the same type of properties. In particular, they satisfy a Cauchy formula^{3} if one specializes one of the two alphabets to 0 := {0, …, 0} or 1 := {1, …, 1} :

∏_{1≤i,j≤n; i+j≤n}(x_{i} + y_{j}) = ∑_{σ∈𝔖_{n}} X_{σ}(x, 0) X_{σω}(y, 0) ,  (15)
∏_{1≤i<j≤n}(1 − b_{j}/a_{i}) = ∑_{σ∈𝔖_{n}} G_{σ}(𝔸, 1) H_{ωσ}(𝔹, 1) .  (16)

In terms of the variables x_{i}, y_{j}, the latter can also be written as

∏_{1≤i<j≤n}(x_{i} + y_{j} − x_{i}y_{j}) = ∑_{σ∈𝔖_{n}} G̃_{σ}(x, 0) H̃_{ωσ}(y, 0) .  (17)

The bases {G_{σ}} and {H_{σ}}, which are adjoint with respect to ⟨ , ⟩, are easy to relate explicitly :

(G_{σ}a^{ρ})^{ω} = (^{−}1)^{ℓ(ωσ)}H_{ωσω} .  (18)

Using the scalar product ( , ) instead of ⟨ , ⟩, one also obtains the relations between the bases X_{σ} := X_{σ}(x, 0) and G̃_{σ} := G̃_{σ}(x, 0). Moreover, the combinatorial interpretation of the coefficients given in the last section allows one to write positive coefficients in the second equation.

Theorem 1. The matrices X2G and G2X of change of basis between Schubert polynomials and Grothendieck polynomials are equal, up to permutation of rows and columns, and up to signs.

In more precise terms, one has

G̃_{σ} = ∑_{ν}(−1)^{ℓ(νω)}(G̃_{σ}, X_{νω}^{ω}) X_{ν} ,  (20)
X_{νω} = ∑_{σ} | (G̃_{σ}^{ω}, X_{νω}) | G̃_{σω}.  (21)

3M.P. Schützenberger forced me to publish it alone, in the note [19], to boost, possibly upwards, my status. The outcome was that neither my name, nor his, was ever associated to the key word Cauchy–Schubert in the literature, except, of course, in Macdonald’s lectures [36].

Schubert polynomials indexed by Grassmannian permutations (i.e., having only one descent) are equal to Schur functions.

In that case, writing Y_{I} instead of X_{σ}(x, 0) when I = [i_{1}, …, i_{n}] is the (increasing) partition which is the code of a Grassmannian permutation σ, and writing G[I] for G̃_{σ}(x, 0), one has by definition

Y_{I} = x^{λ+ρ} ∂_{ω}^{x} ,
G[I] = x^{λ+ρ} π_{ω}^{a} = x^{λ+ρ}(1^{−}x_{2}) ⋯ (1^{−}x_{n})^{n−1}∂_{ω}^{x} ,

where λ = [i_{n}, …, i_{1}].

One thus can write

Y_{I} = \frac{x^{λ+ρ}}{(1^{−}x_{2}) ⋯ (1^{−}x_{n})^{n−1}} π_{ω}^{a} .  (24)

Since the image of a monomial x^{μ+ρ} under π_{ω}^{a} is equal to G[μ_{n}, …, μ_{1}] when μ ∈ ℕ^{n} is dominant, one gets from (24) the expression of the Schur function Y_{I} in terms of Grothendieck polynomials if one can replace the rational function x^{λ+ρ} ((1^{−}x_{2}) ⋯ (1^{−}x_{n})^{n−1})^{−1} by a sum of dominant monomials.

This is done by using recursively formula (25). The outcome is an explicit expansion (26), first obtained by Lenart [35], in terms of tableaux satisfying a flag condition.

The polynomials G[J] occur in the K-theory of Grassmannians, and their theory is currently developed by Buch [5]. As a matter of fact, I already considered them in [18], having rather in mind classes in K-theory of degeneracy loci, or of determinantal varieties.

From Section 4 onwards, we propel the theory of Schubert polynomials to the non-commutative world, using different types of Cauchy kernels.

Using planar objects is a way to lift algebraic manipulations of polynomials to the free algebra, or to the plactic algebra. This is well known for symmetric polynomials, and it is still fruitful for non-symmetric ones.

The Cauchy kernel must now be displayed as a staircase :

K(𝔹, 𝔸) := \begin{matrix}(b_{1} + a_{n−1}) \\ (b_{1} + a_{n−2}) & (b_{2} + a_{n−2}) \\ ⋮ & ⋮ \\ (b_{1} + a_{1}) & (b_{2} + a_{1}) & ⋯ & (b_{n−1} + a_{1}) \end{matrix}

Distributivity with respect to ‘ + ‘ amounts to decomposing the staircase into pairs of complementary diagrams in all possible manners, one of the two diagrams coding the choice of a_{i} in a given box of the staircase, the other coding the choice of b_{j}.

Reading the planar objects in a specific manner, one gets from the Cauchy kernel a collection of pairs of words that one can write as a sum of products of words and interpret as an element of the tensor product of the free algebra in 𝔸 and the free algebra in 𝔹.

Recall that the ring 𝔖𝔶𝔪(𝔸) is a commutative sub-algebra of the plactic algebra 𝔓𝔩𝔞𝔵(𝔸). This indicates that, as a first extension to the theory of commutative Schubert and Grothendieck polynomials, one should use 𝔓𝔩𝔞𝔵(𝔸) instead of the free algebra, and identify words modulo the plactic relations (27), (28) (or some similar relations, the nilplactic ones, or idplactic ones).

Inside 𝔓𝔩𝔞𝔵(𝔸), one has a distinguished sub-module, the Schubert module

𝔖𝔠𝔥𝔲𝔟 := ⋯ ⊗ 𝔖𝔶𝔪(𝔸_{3}) ⊗ 𝔖𝔶𝔪(𝔸_{2}) ⊗ 𝔖𝔶𝔪(𝔸_{1}),

each 𝔖𝔶𝔪(𝔸_{k}) being canonically embedded into 𝔓𝔩𝔞𝔵(𝔸) by identifying a Schur function with a sum of tableaux of a given shape.

The Schubert module has many bases which lift the usual bases of 𝔓𝔬𝔩(𝔸). As ℤ-modules^{4}, these two spaces are isomorphic, and the linear relations between the different bases are preserved.

An elementary symmetric function in 𝔸_{j} = {a_{1}, …, a_{j}} is a special Schur function, and thus must be lifted to a sum of strictly decreasing words of a given degree, that will still be denoted by Λ^{k}(𝔸_{j}).

By ordered products, one gets the first basis of 𝔖𝔠𝔥𝔲𝔟 :

P_{I}^{F}(𝔸) := Λ^{i_{1}}(𝔸_{n−1}) Λ^{i_{2}}(𝔸_{n−2}) ⋯ Λ^{i_{n}}(𝔸_{0}) , n ∈ ℕ, I = [i_{1}, …, i_{n}] ≤ [n^{−}1, …, 0] , (29)

n being non-fixed now, identifying P_{I}^{F} and P_{0...0 I}^{F}.

One has also a basis consisting of products of complete functions

S^{F}^{J} = S^{j_{n}}(𝔸_{n}) ⋯ S^{j_{1}}(𝔸_{1}) , n ∈ ℕ, J = [j_{1}, …, j_{n}] ∈ ℕ^{n} .  (30)

To prove that these two sets generate the full module 𝔖𝔠𝔥𝔲𝔟, one uses transformations of Schur functions into Schur functions of flags of alphabets (cf. [23]). This allows one to reduce each component of a space 𝔖𝔶𝔪(𝔸_{j}) to a single Λ^{i}(𝔸_{j}), or S^{i}(𝔸_{j}).

Defining non-commutative Schubert polynomials X_{σ}^{F} by using divided differences is delicate and will be examined in another text with Lin Hui and A.L.B. Yang. It is easier to pass through the basis P_{I}, or the basis which is the projection of S^{F}^{J}. However, in that way it is not clear why any X_{σ}^{F} should be a positive sums of words.

4or as ℤ[y_{1}, y_{2}, …] modules, but in that case y_{1}, y_{2}, … are commutative indeterminates.

Fortunately, key polynomials have an easy plactic lift, since the operators π_{i} and π̂_{i} can be made act on the free algebra, and by projection, on the plactic algebra.

Key polynomials become sums of tableaux of a given shape satisfying flag conditions, and Schubert polynomials are genuine sums of tableaux, being positive sums of key polynomials [31].

To obtain properties of the polynomials X_{σ}^{F}, one considers different noncommutative algebras and different Cauchy kernels. The reader will find them in Sections 6–9.

Let us finally point the reader to the combinatorial descriptions (45), (46) of the entries of the two matrices G2X or X2G, the first one being due to Lenart [34].

’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o

I . Relations entre les bases commutatives

’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o

1. Différentes bases de l’anneau des polynômes

Peu sont les outils algébriques sur les polynômes de plusieurs variables. Le contraste n’en est que plus grand avec le monde foisonnant des polynômes symétriques.

Certes, l’anneau H_{n} des coinvariants^{5} du groupe symétrique 𝔖_{n} est étudié depuis un siècle.

C’est un espace de dimension n! qui, par exemple, admet comme base les monômes a^{I}, I = [i_{1}, …, i_{n}] ≤ ρ := [n^{−}1, …, 1, 0]. On peut même interpréter un procédé d’élimination de Cauchy comme l’utilisation de la base des produits de fonctions élémentaires (sur un drapeau d’alphabets) :

P_{I} := Λ^{i_{1}}(𝔸_{n−1}) Λ^{i_{2}}(𝔸_{n−2}) ⋯ Λ^{i_{n}}(𝔸_{0}) , I ≤ ρ ,

où les Λ^{i}(𝔸_{j}) sont les fonctions élémentaires de 𝔸_{j} := {a_{1}, …, a_{j}} (fixant n, on écrira 𝔸 au lieu de 𝔸_{n}).

5ℤ[a_{1}, …, a_{n}]/𝔖𝔶𝔪_{+}(𝔸), où 𝔖𝔶𝔪_{+}(𝔸) est l’idéal engendré par les polynômes symétriques en 𝔸 = {a_{1}, …, a_{n}} sans terme constant.

Mais ce n’est qu’au début des années 70 que les géomètres^{6}, interprétant H_{n} comme l’anneau de cohomologie de la variété de drapeaux^{7}, ont mis en oeuvre des outils de calcul, qui en fait remontent à Newton, et décrit des bases plus riches que les deux précédentes.

Pour ne pas perdre les fonctions symétriques, il vaut mieux, au lieu de l’anneau quotient H_{n}, considérer l’anneau des polynômes, en tant que module sur l’anneau des polynômes symétriques 𝔖𝔶𝔪(𝔸). On prendra éventuellement un deuxième ensemble de variables 𝔹 = {b_{1}, b_{2}, …} invariant sous l’action de 𝔖_{n}, lequel permute uniquement les a_{i}. En un mot, c’est l’anneau

𝔓𝔬𝔩 := ℤ[𝔹][a_{1}^{±}, …, a_{n}^{±}]

des polynômes de Laurent en 𝔸, à coefficients les fonctions en 𝔸, 𝔹 symétriques en 𝔸, que l’on entend décrire.

Différentes déformations de l’algèbre du groupe symétrique agissent sur 𝔓𝔬𝔩. En particulier, pour chaque permutation σ ∈ 𝔖_{n}, il existe une différence diviséee et deux différences divisées isobares ∂_{σ}, π_{σ}, π̂_{σ}, définies par produits réduits de différences élémentaires

\{ \begin{matrix}∂_{i} & = & (a_{i} − a_{i+1})^{−1} (1 + s_{i}) & = & (1 − s_{i}) (a_{i} − a_{i+1})^{−1} \\ π_{i} & = & (1 − a_{i+1}/a_{i})^{−1} (1 + s_{i}) & = & a_{i}∂_{i} \\ π̂_{i} & = & (1 − s_{i})(a_{i+1}/a_{i} − 1)^{−1} & = & ∂_{i}a_{i+1} = π_{i} − 1 \end{matrix}  (1)

écrivant ∂_{i}, π_{i}, π̂_{i} dans le cas où σ = s_{i} est la transposition simple qui échange a_{i}, a_{i+1}.

Nous allons introduire trois nouvelles bases, mais tout d’abord, il nous faut une forme quadratique^{8} à valeurs dans 𝔖𝔶𝔪(𝔸) :

(f, g) = (fg, 1) = (1, fg) = ∑_{σ∈𝔖_{n}}(^{−}1)^{ℓ(σ)}(fg)^{σ} Δ^{−1} ,  (2)

où Δ est le Vandermonde ∏_{1≤i<j≤n}(a_{i} − a_{j}).

Cette forme quadratique peut se réduire à employer une suite de groupes 𝔖_{2}, car

∑_{σ∈𝔖_{n}}(^{−}1)^{ℓ(σ)}σ Δ^{−1} = ∂_{ω} = ∂_{1}∂_{2}∂_{1}∂_{3}∂_{2}∂_{1} ⋯,  (3)

6Bernstein, Gelfand, Gelfand [3], mais on ne saurait restreindre à la géométrie le champ d’activité de ces auteurs, et Demazure [8].

7nous ne nous intéressons ici qu’au groupe linéaire ; les autres groupes classiques donnent lieu à une théorie semblable.

8C’est l’opérateur choisi par Cauchy et Jacobi pour construire une fonction symétrique à partir d’un monôme, ou plus généralement, d’un produit de fonctions d’une variable, et obtenir ainsi les fonctions de Schur avant l’heure.

où ω = [n, …, 1] est la permutation de plus grande longueur dans 𝔖_{n}. On a besoin d’une deuxième forme quadratique :

⟨f, g⟩ := fga^{ρ} ∂_{ω} = fgπ_{ω} = ∑_{σ∈𝔖_{n}}(fg ∏_{1≤i<j≤n}(1 − a_{j}/a_{i})^{−1})^{σ} .  (4)

Les morphismes ∂_{ω}, π_{ω} : 𝔓𝔬𝔩 → 𝔖𝔶𝔪 sont dits morphismes de Gysin en théorie des variétés de drapeaux.

Toute transformation homographique sur les variables a_{i} permet de définir d’autres différences diviséees, que nous distinguerons par un exposant. Posons x_{i} := 1 − a_{i}^{−1} et convenons que 𝔖_{n} permute les a_{i} tout autant que les x_{i} :

s_{i} = (a_{i}, a_{i+1}) = (x_{i}, x_{i+1}) .

On vérifie aisément que

∂_{i}^{x} = ∂_{i}^{a} a_{i}a_{i+1} = a_{i}a_{i+1} ∂_{i}^{a}  (5)

et que

ωa^{−ρ}π_{i}^{a} a^{ρ}ω = −π̂_{n−i} .  (6)

Par produit, on trouve

π_{ω}^{a} = a^{ρ}∂_{ω} = (1 − x_{2})^{1} ⋯ (1 − x_{n})^{n−1} ∂_{ω}^{x}  (7)

et

ωa^{−ρ}π_{σ}^{a} a^{ρ}ω = (^{−}1)^{ℓ(σ)} π̂_{ωσω} .  (8)

Par exemple,

π_{321}^{a} = a_{2}∂_{2}^{a}a_{1}∂_{1}^{a}a_{2}∂_{2}^{a} = a_{2} \frac{1}{a_{2}a_{3}} ∂_{2}^{x}a_{1} \frac{1}{a_{1}a_{2}} ∂_{1}^{x}a_{2} \frac{1}{a_{2}a_{3}} ∂_{2}^{x}

= a_{3}^{−1}∂_{2}^{x}a_{2}^{−1}a_{3}^{−1}∂_{1}^{x}∂_{2}^{x} = a_{2}^{−1}a_{3}^{−2}∂_{2}^{x}∂_{1}^{x}∂_{2}^{x} = (1^{−}x_{2})(1^{−}x_{3})^{2}∂_{321}^{x} ,

le calcul précédent ne nécessitant que la commutation de ∂_{i}^{x} ou ∂_{i}^{a} avec une fonction invariante par s_{i}.

L’espace H(x_{1}, …, x_{n}) est de dimension 1 en degré maximal \binom{n}{2}. Bernstein-Gelfand-Gelfand et Demazure en ont déduit que les images, par les opérateurs ∂_{σ}^{x} : σ ∈ 𝔖_{n}, de n’importe quel élément ayant une composante non nulle en ce degré forment une base de H(x_{1}, …, x_{n}), et donc une base de 𝔓𝔬𝔩 (en tant que module sur 𝔖𝔶𝔪). La même propriété est vraie^{9} pour les opérateurs π_{σ}^{a}.

9Pour n = 2, l’énoncé implique que x_{1}, x_{1}∂_{1}^{x} = 1 est une base de H(x_{1}, x_{2}), ainsi que {x_{1}, x_{1}π_{1}^{a} = 1}. Par contre, on ne peut prendre π_{1}^{a} pour l’anneau H(a_{1}, a_{2}), puisque a_{1}π_{1}^{a} = a_{1} + a_{2} ≡ 0.

Avec M.P. Schützenberger, j’ai fait le choix de partir de

x^{ρ} = x_{1}^{n−1} ⋯ x_{n}^{0} , ∏_{i,j: i+j≤n}(x_{i} − y_{j}) , ∏_{1≤i<j≤n}(1 − b_{j}/a_{i}) ,

c’est-à-dire des “plus petites expressions” en un ou deux alphabets n’ayant pas de symétries. A partir de ces éléments, on engendre, par différences divisées, les objets qui nous intéressent présentement.

Je restreins cet exposé aux propriétés liées au noyau de Cauchy, ainsi qu’aux changements de base. Il va sans dire que les idéees récentes les plus intéressantes concernant Schubert & Grothendieck interviennent en théorie des carquois [6], [7].

Définition 1. Soit n ∈ ℕ. Les polynômes de Schubert X_{σ}(𝔸, 𝔹), σ ∈ 𝔖_{n}, sont

X_{ω}(𝔸, 𝔹) = ∏_{i,j: i+j≤n}(a_{i} − b_{j})  &  X_{σ}(𝔸, 𝔹) = X_{ω}(𝔸, 𝔹) ∂_{ωσ} . (9)

Les polynômes de Grothendieck G_{σ}(𝔸, 𝔹), et polynômes adjoints de Grothendieck H_{σ}(𝔸, 𝔹) sont

G_{ω}(𝔸, 𝔹) := ∏_{i,j:i+j≤n}(1−b_{j} a_{i}^{−1}) & H_{ω}(𝔸, 𝔹) := ∏_{1≤i<j≤n}(1−a_{j} b_{i}^{−1}) . (10)

G_{σ}(𝔸, 𝔹) = G_{ω}(𝔸, 𝔹) π_{ωσ}  &  H_{σ}(𝔸, 𝔹) = H_{ω}(𝔸, 𝔹) π̂_{ωσ} . (11)

Par exemple, pour 𝔖_{3}, on a les polynômes de Grothendieck

(1−b_{1}/a_{1})(1−b_{2}/a_{1})(1−b_{1}/a_{2})
π_{1} ⧸⧸  ⧹ π_{2}
(1−b_{1}/a_{1})(1−b_{1}/a_{2})  (1−b_{1}/a_{1})(1−b_{2}/a_{1})
π_{2} |  ∥ π_{1}
(1−b_{1}/a_{1})  1−b_{1}b_{2}/a_{1}a_{2}
π_{1} ⧹⧹  ⧸ π_{2}

et les polynômes adjoints

(1−\frac{a3}{b1} )(1−\frac{a3}{b2} )(1−\frac{a2}{b1} )
π̂_{1} ⧸⧸  ⧹ π̂_{2}
(1−\frac{a3}{b1} )(1−\frac{a3}{b2} ) \frac{a2}{b1}  \frac{a3}{b2} (1−\frac{a3}{b1} )(1−\frac{a2}{b1} )
π̂_{2} |  ∥ π̂_{1}
\frac{a3}{b1} (1−\frac{a2a3}{b1b2} )  \frac{a2a3}{b1b2} (1−\frac{a3}{b1} )
π̂_{1} ⧹⧹  ⧸ π̂_{2}

\frac{a_{2}a_{3}a_{3}}{b_{1}b_{1}b_{2}}

Nous exprimerons aussi les polynômes de Grothendieck en terme des variables x_{i} := 1 − a_{i}^{−1}, y_{j} := 1 − b_{j}, en les notant alors par la lettre G̃, avec x = {x_{1}, …, x_{n}}, y = {y_{1}, …, y_{n}}. Cela revient à partir de

G̃_{ω}(x, y) := ∏_{i,j:i+j≤n}(x_{i} + y_{j} − x_{i}y_{j})  (12)

et utiliser les opérateurs (1^{−}x_{i+1}) ∂_{i}^{x} = π_{i}^{a}.

Les différences divisées isobares servent aussi à définir récursivement d’autres polynômes, qui ont maintenant pris le nom de polynômes clefs (key polynomials)^{10}. Nous en donnerons deux versions {K_{v}}, {K̂_{v}}, v ∈ ℕ^{∞}, nous restreignant par simplicité à un seul alphabet.

Rappelons que nous identifions tout vecteur v ∈ ℕ^{n} à n vecteur dans ℕ^{∞}, en concaténant à droite une infinité de zéros. Réciproquement, ℕ^{∞} est l’ensemble des vecteurs d’entiers ayant un ensemble fini de composantes non nulles. Pour un vecteur v, nous notons v s_{i} le vecteur obtenu en transposant les composantes i et i ^{+}1.

Définition 2. Pour toute partition décroissante λ,

K_{λ}(𝔸) = K̂_{λ}(𝔸) := a^{λ} ,  (13)

et pour tout v, tout i tel que v_{i} > v_{i+1}, alors

K_{vs_{i}}(𝔸) := K_{v}(𝔸) π_{i}^{a}  &  K̂_{vs_{i}}(𝔸) := K̂_{v}(𝔸) π̂_{i}^{a} .  (14)

10Ils apparaissent dans la formule des caractères de Demazure [9] et décrivent les espaces de sections des fibrés inversibles amples au dessus des sous-variétés de Schubert de la variété de drapeaux.

L’ensemble {K_{v}, v ≤ ρ} est une base de 𝔓𝔬𝔩(𝔸) en tant que 𝔖𝔶𝔪(𝔸)- module libre, la matrice de changement de base entre les polynômes de Schubert et les polynômes clefs étant triangulaire^{11}.

Ces différentes bases sont des analogues non symétriques des fonctions de Schur. Le deuxième alphabet peut être mis en oeuvre pour en dégager des propiétés d’interpolation qui permettent d’exprimer tout polynôme dans l’une de ces bases. Dans le paragraphe suivant, nous mettons plutôt l’accent sur les deux produits scalaires (2) et (4).

Les bases de Schubert et Grothendieck vérifient des propriétés d’orthogonalité [28], que l’on peut formuler de multiples manières, par exemple comme la décomposition d’un noyau de Cauchy :

∏_{1≤i,j≤n; i+j≤n}(x_{i} + y_{j}) = ∑_{σ∈𝔖_{n}} X_{σ}(x, 0) X_{σω}(y, 0) ,  (15)
∏_{1≤i<j≤n}(1 − b_{j}/a_{i}) = ∑_{σ∈𝔖_{n}} G_{σ}(𝔸, 1) H_{ωσ}(𝔹, 1) ,  (16)

que nous écrirons plutôt, en utilisant les variables x_{i}, y_{j} introduites plus haut,

∏_{1≤i<j≤n}(x_{i} + y_{j} − x_{i}y_{j}) = ∑_{σ∈𝔖_{n}} G̃_{σ}(x, 0) H̃_{ωσ}(y, 0) .  (17)

2. Relations entre les bases

Dans ce paragraphe, nous spécialisons chaque b_{i} en 1, et donc chaque y_{i} en 0.

La relation entre les deux bases de Grothendieck est élémentaire (lemme 2.9 de [20]), nous en répétons la preuve.

Lemme 1. Pour toute permutation σ,

(G_{σ}a^{ρ})^{ω} = (^{−}1)^{ℓ(ωσ)}H_{ωσω} .  (18)

Preuve.

G_{ω}π_{ωσ}^{a} a^{ρ}ω = G_{ω}a^{ρ}ωωa^{−ρ}π_{ωσ}^{a} a^{ρ}ω

=^{⋆} (^{−}1)^{ℓ(ωσ)}G_{ω}a^{ρ}ωπ̂_{σω} = (^{−}1)^{ℓ(ωσ)}H_{ωσω} ,

11pour l’ordre lexicographique (lecture de droite à gauche) sur les codes. On a aussi que pour cet ordre, la base {X_{σ}(𝔸, 𝔹)} est triangulaire dans la base {X_{σ}(𝔸, 0)}, en écrivant 0 (resp. 1) pour un alphabet dont toutes les lettres sont spécialisées en 0 (resp. 1).

l’égalité =^{⋆} provenant de (8). QED

Comme X_{ω} = G̃_{ω}, et que les opérateurs engendrant les polynômes de Grothendieck sont π_{i}^{a} = (1 − x_{i+1})∂_{i}^{x}, au lieu de ∂_{i}^{x}, il est clair que

G̃_{σ} = X_{σ} + termes de degré > ℓ(σ) ,  (19)

Les deux bases sont triangulairement équivalentes. Nous donnerons plus loin une interprétation combinatoire des coefficients du changement de base, mais montrons tout d’abord que la matrice de changement de base est “presque” auto-inverse.

L’orthogonalité ⟨H_{ωσ}, G_{ζ}⟩ = δ_{σ,ζ} se réécrit

(G_{σω}a^{ρ})^{ω} G_{ζ} π_{ω}^{a} = (^{−}1)^{ℓ(σ)}δ_{σ,ζ} ,

i.e.

G̃_{σω}^{ω}G̃_{ζ}∂_{ω}^{x} = (G̃_{σω}^{ω}, G̃_{ζ}) = (^{−}1)^{ℓ(σ)}δ_{σ,ζ}

car (a^{ρ})^{ω}π_{ω}^{a} = ∂_{ω}^{x}.

En d’autres termes, la base adjointe de la base des polynômes de Grothendieck, pour le même produit scalaire que pour les polynômes de Schubert, est {±G̃_{σω}^{ω}}.

Prenant un ordre total sur les permutations, tel que l’involution σ → σω soit la symétrie retournant la liste des permutations, on a donc^{12} :

Théorème 1. L’inverse G2X de la matrice X2G de changement de base des polynômes de Grothendieck dans la base Schubert, y étant spécialisé en 0, est obtenue en prenant la symétrique de X2G par rapport à l’anti-diagonale, et en remplaçant les entrées par leur valeur absolue, i.e.

G̃_{σ} = ∑_{ν}(−1)^{ℓ(νω)}(G̃_{σ}, X_{νω}^{ω}) X_{ν} ,  (20)
X_{νω} = ∑_{σ} | (G̃_{σ}^{ω}, X_{νω}) | G̃_{σω}  (21)

Voici, pour n = 4, les matrices de changement de base G2X et X2G. Chaque ligne est le développement d’un polynôme de Grothendieck ou de Schubert.

12nous montrons plus loin que les matrices X2G sont positives. Cela découle de l’interprétation combinatoire des coefficients obtenue par Lenart [34]. Nous avons inclus cette propriété dans l’énoncé du théorème, en écrivant des valeurs absolues dans la deuxième équation.

14 ALAIN LASCOUX

Par exemple, la première matrice indique que

G̃_{2143} = X_{2143} − X_{2341} − X_{3142} + X_{3241}

et la seconde, que

X_{1432} = G̃_{1432} + 2G̃_{2431} + G̃_{3412} + G̃_{3421} .

1234 1 . . . . . . . . . . . . . . . . . . . . . . .
1243 . 1 … −1 . . . . . . . 1 . . . . . . . . . .
1324 . . 1 . . . . . −1 . . . . . . . . . . . . . . .
2134 … 1 . . . . . . . . . . . . . . . . . . . .
1423 …. 1 . . . . . . . −1 . . . . . . . . . . .
1342 . . . . . 1 . . . . . . . −2 . . . . . . . . . .
3124 . . . . . . 1 . . : . . . . . . . . . . . . . . .
2143 . . . . . . . 1 … −1 . −1 . . . . . 1 ….
2314 . . . . . . . . 1 . . . . . . . . . . . . . . .
4123 . . . . . . . . . 1 . . . . . . . . . . . . . .
1432 . . . . . . . . . . 1 . . . . . −1 . −2 … 1 .
3142 . . . . . . . . . . . 1 . . . . . . . −1 ….
2413 . . . . . . . . . . . . 1 … −1 . . . . . . .
2341 . . . . . . . . . . . . . 1 . . . . . . . . . .
3214 . . . . . . . . . . . . . . 1 . . . . . . . . .
4132 . . . . . . . . . . . . . . . 1 . . . . . −1 . .
3412 . . . . . . . . . . . . . . . . 1 . . . . . . .
4213 . . . . . . . . . . . . . . . . . 1 . . . . . .
2431 . . . . . . . . . . . . . . . . . . 1 … −1 .
3241 . . . . . . . . . . . . . . . . . . . 1 ….
4312 . . . . . . . . . . . . . . . . . . . . 1 …
4231 . . . . . . . . . . . . . . . . . . . . . 1 . .
3421 . . . . . . . . . . . . . . . . . . . . . . 1 .
4321 . . . . . . . . . . . . . . . . . . . . . . . 1

\begin{matrix}1234 & 1 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . \\ 1243 & . & 1 & . & . & . & 1 & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . \\ 1324 & . & . & 1 & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . \\ 2134 & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . \\ 1423 & . & . & . & . & 1 & . & . & . & . & . & . & . & 1 & . & . & . & 1 & . & . & . & . & . & . & . \\ 1342 & . & . & . & . & . & 1 & . & . & . & . & . & . & . & 2 & . & . & . & . & . & . & . & . & . & . \\ 3124 & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . \\ 2143 & . & . & . & . & . & . & . & 1 & . & . & . & 1 & . & 1 & . & . & . & . & . & . & . & . & . & . \\ 2314 & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . \\ 4123 & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . & . & . & . & . \\ 1432 & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & 1 & . & 2 & . & . & . & 1 & . \\ 3142 & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & 1 & . & . & . & . \\ 2413 & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & 1 & . & . & . & . & . & . & . \\ 2341 & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . & . \\ 3214 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . & . & . \\ 4132 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & 1 & . & . \\ 3412 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . & . \\ 4213 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . & . & . \\ 2431 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & 1 & . \\ 3241 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . & . \\ 4312 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . & . \\ 4231 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . & . \\ 3421 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 & . \\ 4321 & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & . & 1 \end{matrix}

On remarquera que chacune de ces deux matrices est symétrique par rapport à son anti-diagonale, mis à part l’extra terme X_{3241} dans l’expression de G̃_{2143}, et son correspondant G̃_{3412} dans l’expression de X_{1423}.

3. Schur et Grothendieck

Les fonctions de Schur ont une interprétation géometrique, comme représentant les cycles de Schubert, i.e. les classes des sous-variétés de Schubert dans l’anneau de cohomologie d’une grassmannienne. Plus simplement, ce sont les polynômes de Schubert symétriques.

Les classes des sous-variétés de Schubert dans l’anneau de Grothendieck d’une grassmannienne sont aussi des fonctions symétriques. Bien entendu, elles peuvent s’exprimer comme combinaison linéaire de fonctions de Schur, les relations entre ces deux bases étant un cas particulier des relations données au paragraphe précédent.

En fait, dans mon premier article publié [18], j’ai donné une expression déterminantale de la classe du faisceau structural d’une sous-variété de Schubert d’une grassmannienne, et donc, en langage plus humain, calculé à mon insu les polynômes de Grothendieck en 𝔸,𝔹, symétriques en 𝔸 . Différentes expressions sont d’ailleurs possibles, entre autres suivant que l’on choisit les variables a_{i} ou x_{i}, ou en modifiant le déterminant par combinaison de lignes ou de colonnes.

Développant suivant 𝔹, on obtient l’expression des polynômes de Grothendieck dans la base Schur. La même méthode s’applique au développement d’un polynôme de Grothendieck vexillaire^{13} dans la base des polynômes de Schubert.

L’expression d’une fonction de Schur dans la base Grothendieck s’obtient aussi par un calcul algébrique direct, ainsi que le détaillent les lignes suivantes. Comme au paragraphe précédent, l’alphabet 𝔹 est spécialisé en 1 = {1, 1, 1, …}, et donc y est spécialisé en 0. Au lieu de G_{σ}, nous écrirons G[I], I étant le code de σ. Dans le reste du paragraphe, Y_{I} désigne le polynôme de Schubert X_{σ}(x, 0).

Soient n ∈ ℕ, ρ = [n^{−}1, …, 1, 0], ω = [n, …, 1], λ ∈ ℕ^{n} une partition décroissante, I sa retournée croissante.

Par définition,

Y_{I} = x^{λ+ρ} ∂_{ω}^{x} ,  (22)
G[I] = x^{λ+ρ} π_{ω}^{a} = x^{λ+ρ}(1^{−}x_{2}) ⋯ (1^{−}x_{n})^{n−1}∂_{ω}^{x} .  (23)

On peut donc écrire

Y_{I} = \frac{x^{λ+ρ}}{(1^{−}x_{2}) ⋯ (1^{−}x_{n})^{n−1}} π_{ω}^{a}  (24)

et l’on aura un développement de Y_{I} en terme de polynômes de Grothendieck si l’on peut remplacer la fraction rationnelle par une somme de monômes dominants (i.e de degré faiblement décroissant en x_{1}, x_{2}, …). Pour cela, il faut faire appel au lemme suivant.

13qui a une expression déterminantale généralisant le cas symétrique, les multifonctions de Schur remplaçant les fonctions de Schur.

Lemme 2. Soient i, k ∈ ℕ, et f symétrique en x_{i}, x_{i+1}. Alors

fx^{ρ} \frac{x_{i}^{k}}{1^{−}x_{i+1}} π_{i}^{a} = fx^{ρ} (x_{i}^{k}x_{i+1}^{0} + ⋯ + x_{i}^{k}x_{i+1}^{k}) π_{i}^{a} .  (25)

Preuve. On écrit en effet

x_{i}^{k}(1^{−}x_{i+1}^{−1} = x_{i}^{k}x_{i+1}^{0} + ⋯ + x_{i}^{k}x_{i+1}^{k}) + x_{i}^{k}x_{i+1}^{k+1}(1^{−}x_{i+1})^{−1} .

Comme π_{i}^{a} = (1^{−}x_{i+1})∂_{i}^{x} et que fx^{ρ} \frac{x_{i}^{k}x_{i+1}^{k+1}}{1−x_{i+1}} (1^{−}x_{i+1}) est symétrique en x_{i}, x_{i+1}, il est annulé par ∂_{i}^{x}. QED

Prenant la décomposition réduite π_{ω} = (π_{n−1} ⋯ π_{1}) (π_{n−1} ⋯ π_{2}) ⋯ (π_{n−1}), on élimine successivement les facteurs

(1^{−}x_{n}), …, (1^{−}x_{2}), (1^{−}x_{n}), …, (1^{−}x_{3}), …, (1^{−}x_{n})

du dénominateur, obtenant en numérateur uniquement des monômes dominants x^{μ}. Par définition, chacun de ces monômes est envoyé sur un polynôme de Grothendieck dont l’indice est le retourné de μ.

L’algorithme peut se représenter planairement. Il a eu n − 1 étapes où l’on a multliplié par une puissance de x_{n}, n − 2 étapes où l’on a multliplié par une puissance de x_{n−1}, …, 1 étape où l’on a multliplié par une puissance de x_{2}. En représentant planairement par le diagramme d’une partition chaque monôme, et écrivant i_{j} pour les cases crées par la j-ième multiplication par x_{i}, on obtient des remplissages de diagrammes gauches. Les lettres i sont inutiles, donnant uniquement le numéro de la ligne. Si on les efface, on obtient très exactement tous les tableaux gauches de forme intérieure I, respectant la condition de drapeau [0, 1, …, n^{−}1], i.e. à la ligne numéro i ne peuvent apparaître que les entiers 1, 2, …, i^{−}1. En résumé, on a la proposition suivante, due à Lenart^{14} [35].

Proposition 1. Pour toute partition croissante I ∈ ℕ, on a le développement

Y_{I} = ∑_{J} c_{I}^{J}G[J] ,  (26)

14qui en donne une preuve utilisant des chemins non-coupants, preuve cependant non directe puisqu’elle suppose connu le développement des polynômes de Grothendieck dans la base Schur.

où c_{I}^{J} est le nombre de tableaux de forme J/I respectant le drapeau [0, 1, …, n^{−}1].

Par exemple,

ACE> X2G(Y[1,3,4]);   # input in x.i, X[] or Y[]
G[1,3,4] + G[1,4,4] + 2 G[2,3,4] + 2 G[2,4,4] + 3 G[3,3,4]
                              + 3 G[3,4,4] + 3 G[4,4,4]

ce qui est donné par l’énumération

+ 1  + 2  + ^{1 1} + ^{1 2} + ^{2 2}

+  1 + 1 1 + 2 1 + 1 1 1 + 1 2 1 + 2 2 1

+ 1 1 2 1 + 1 2 2 1 + 2 2 2 1 .

Cette somme de tableaux gauches est produite par le calcul algébrique suivant, en écrivant à chaque étape un π_{i}^{a}π_{2}π_{321}^{a} au lieu de π_{321}^{a} pour montrer quel couple de variables est choisi pour appliquer (25).

Y_{134} = x^{431+210} ∂_{321}^{x} = \frac{x^{431+210}}{(1 − x_{2})(1 − x_{3})^{2}} π_{321}^{a}

\frac{x^{431+210}}{(1 − x_{2})(1 − x_{3})^{2}} π_{2}^{a}π_{321}^{a} = \frac{x^{431} + x^{432} + x^{433}}{(1 − x_{2})(1 − x_{3})} x^{210} π_{1}^{a}π_{321}^{a}

= \frac{(x^{431} + x^{441}) + (x^{432} + x^{442}) + (x^{433} + x^{443})}{(1 − x_{3})} x^{210} π_{2}^{a}π_{321}^{a}

= ((x^{431} + x^{432} + x^{433}) + (x^{441} + x^{442} + x^{443} + x^{444})

+ (x^{432} + x^{433}) + (x^{442} + x^{443} + x^{444})

+ (x^{433}) + (x^{443} + x^{444})) x^{210} π_{321}^{a} ,

où nous avons figuré des parenthèses pour marquer les étapes.

On trouvera dans Buch [5] une étude plus approfondie du cas des polynômes de Grothendieck grassmanniens.

’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o

II . Relèvements non commutatifs

’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o ’ ooo oo o

4. Décomposition des diagrammes et non-commutativité

Couper un alphabet en deux : 𝔸 → 𝔸′ ∪ 𝔸′′ fait partie des opérations de base sur les fonctions symétriques. C’est le coproduit de 𝔖𝔶𝔪 considérée comme algèbre de Hopf [14]. On peut l’interpréter aussi comme doubler les lettres : a → a′, a′′, ou bien les munir d’un spin.

Etant donné un diagramme de boîtes dans le plan, on peut similairement le décomposer en deux diagrammes complémentaires, en décidant d’attribuer chaque boîte à l’un ou l’autre, de toute les manières possibles.

Par exemple,

\begin{aligned}& □ \\ □ & & □ \\ & □ \end{aligned} devient ( \begin{matrix}& □ \\ □ & & □ \\ & □ \end{matrix}, \begin{matrix}& · \\ · & & · \\ & · \end{matrix} ) + ( \begin{matrix}& · \\ □ & & □ \\ & □ \end{matrix}, \begin{matrix}& ■ \\ · & & · \\ & · \end{matrix} ) + ( \begin{matrix}& □ \\ · & & □ \\ & □ \end{matrix}, \begin{matrix}& · \\ ■ & & · \\ & · \end{matrix} )

+ ⋯ + ( \begin{matrix}& · \\ · & & □ \\ & · \end{matrix} , \begin{matrix}& ■ \\ ■ & & · \\ & ■ \end{matrix}) + ( \begin{matrix}& · \\ · & & · \\ & □ \end{matrix}, \begin{matrix}& ■ \\ ■ & & ■ \\ & · \end{matrix} ) + ( \begin{matrix}& · \\ · & & · \\ & · \end{matrix} , \begin{matrix}& ■ \\ ■ & & ■ \\ & ■ \end{matrix}) ,

en écrivant une somme au lieu d’une énumération de 2^{4} termes.

Introduisant des règles de lecture de chacun des diagrammes, on obtient, à partir d’un diagramme, une somme de paire d’objets qui peuvent être, selon le problème considéré, des monômes, des mots, des tableaux, des décompositions réduites, &c. Nous donnerons quatre des combinaisons possibles.

La version finie de la formule de Cauchy, dans le cas commutatif, s’interprète comme la décomposition d’une fonction de Schur rectangle en 𝔸^{−}𝔹 en une somme de produits de fonctions de Schur en 𝔸 et 𝔹 d’indice complémentaire. On aura ainsi, pour exprimer S_{222}(𝔸^{−}𝔹) en terme de 𝔸 et 𝔹, la décomposition symbolique

\begin{matrix}♡ & ♡ \\ ♡ & ♡ \\ ♡ & ♡ \end{matrix} = \begin{matrix}□ & □ \\ □ & □ \\ □ & □ \end{matrix} − \begin{matrix}□ \\ □ & □ \\ □ & □ \end{matrix} _{■} + \begin{matrix}□ \\ □ \\ □ & □ \end{matrix} _{■} _{■} + \begin{matrix}□ & □ \\ □ & □ \end{matrix} \begin{matrix}■ \\ ■ \end{matrix} − \begin{matrix}□ \\ □ \\ □ \end{matrix} _{■} _{■} _{■}

− _{□ □}^{□} _{■ ■}^{■} + _{□ □} \begin{matrix}■ & ■ \\ ■ & ■ \end{matrix} + \begin{matrix}□ \\ □ \end{matrix} _{■ ■ ■}^{■} − _{□} _{■ ■ ■}^{■ ■} + \begin{matrix}■ & ■ & ■ \\ ■ & ■ & ■ \end{matrix} .

Dans le cas non-commutatif, il n’est pas suffisant de savoir décomposer le diagramme d’une partition en deux diagrammes de partitions. Ainsi, dans le cas de deux alphabets 𝔸 = {a_{1}, a_{2}, a_{3}}, 𝔹 = {b_{1}, b_{2}}, on énumerera, au lieu de partitions, des paires du type

\begin{matrix}· & □ \\ □ & · \\ · & □ \end{matrix} , \begin{matrix}■ & · \\ · & ■ \\ ■ & · \end{matrix}

qu’on lira, suivant des règles qui seront précisées par la suite, comme le produit des mots a_{2}a_{3}a_{1} et b_{1}b_{2}b_{1}.

De fait la théorie des fonctions symétriques et sa version plaxique reposent essentiellement sur la formule de Cauchy, en un mot, sur la décomposition d’un rectangle. Dans les paragraphes suivants, nous montrons que similairement, la théorie des polynômes de Schubert et Grothendieck met en oeuvre la décomposition d’un diagramme escalier, et qu’introduire deux dimensions dans le calcul algébrique permet d’accéder facilement a la non-commutativité.

5. Module de Schubert

L’algèbre plaxique sur un alphabet totalement ordonné 𝔸, que l’on supposera infini, est le quotient de l’algèbre libre par les relations plaxiques dues à Knuth [16] :

cab ≡ acb (a ≤ b < c) ,  (27)
bac ≡ bca (a < b ≤ c) .  (28)

que l’on peut écrire planairement :

c ; a b ≡ a c ; b (a ≤ b < c)

b ; a c ≡ b c ; a (a < b ≤ c)

Définissant la fonction de Schur plaxique S_{λ} comme la somme de tous les tableaux de forme la partition λ, on observe que le produit de deux fonctions de Schur est une somme de fonctions de Schur [25, 24, 11], et donc que 𝔖𝔶𝔪(𝔸) peut être considérée comme une sous-algèbre commutative de 𝔓𝔩𝔞𝔵(𝔸)^{15}.

15C’est cette propriété, et plus particulièrement, une formule de Pieri non-commutative, qui m’a amené à rencontrer M.P. Schützenberger en 1974, et à collaborer avec lui à partir de cette date. Fomin et Greene [11] montrent que l’on peut affaiblir les relations plaxiques, et que l’on n’a en fait besoin que d’une formule de Pieri pour le produit Λ^{1}Λ^{2}.

Par produit tensoriel on a donc un plongement du module de Schubert^{16}

𝔖𝔠𝔥𝔲𝔟 := ⋯ ⊗ 𝔖𝔶𝔪(𝔸_{3}) ⊗ 𝔖𝔶𝔪(𝔸_{2}) ⊗ 𝔖𝔶𝔪(𝔸_{1})

dans 𝔓𝔩𝔞𝔵(𝔸).

Les fonctions élémentaires, qui sont des fonctions de Schur particulières, se relèvent, dans l’algèbre libre ou dans 𝔓𝔩𝔞𝔵, en sommes de mots strictement décroissants de degré donné, que nous continuerons à noter Λ^{k}.

Par produit, on définit dans l’algèbre libre (et par projection dans l’algèbre plaxique) les produits ordonnés de fonction élémentaires par

P_{I}^{F}(𝔸) := Λ^{i_{1}}(𝔸_{n−1}) Λ^{i_{2}}(𝔸_{n−2}) ⋯ Λ^{i_{n}}(𝔸_{0}) , n ∈ ℕ, I = [i_{1}, …, i_{n}] ≤ [n^{−}1, …, 0] , (29)

(identifiant donc P_{I}^{F} et P_{0...0 I}^{F}), et les produits de fonctions complètes

S^{F}^{J} = S^{j_{n}}(𝔸_{n}) ⋯ S^{j_{1}}(𝔸_{1}) , n ∈ ℕ, J = [j_{1}, …, j_{n}] ∈ ℕ^{n} ,  (30)

(identifiant S^{F}^{J} et S^{F}^{J0...0}).

Comme les P_{I}(𝔸) (resp. les images commutatives des S^{F}^{J}) constituent une base vectorielle de 𝔓𝔬𝔩(𝔸), on obtient donc un plongement de 𝔓𝔬𝔩(𝔸) dans 𝔓𝔩𝔞𝔵(𝔸) en envoyant chaque P_{I}(𝔸) sur P_{I}^{F}(𝔸). On vérifie que c’est le même plongement que celui fourni par l’identification des produits de fonctions complètes.

Par exemple,

a_{2}^{2} = P_{1100} − P_{2000} − P_{110}

a pour image dans l’algèbre libre ou l’algèbre plaxique

(a_{1} ^{+}a_{2} ^{+}a_{3})(a_{1} ^{+}a_{2})−(a_{2}a_{1} ^{+}a_{3}a_{1} ^{+}a_{3}a_{2})−(a_{1} ^{+}a_{2})a_{1} = a_{2}a_{2} +a_{1}a_{2} −a_{2}a_{1} .

On a aussi que a_{2}^{2} = S^{2}(𝔸_{2})−S^{1}(𝔸_{2})S^{1}(𝔸_{1}), et donc, utilisant la base S^{F}(𝔸) :

S^{F}^{02}(𝔸) − S^{F}^{11}(𝔸) = a_{1}a_{1} ^{+}a_{1}a_{2} ^{+}a_{2}a_{2} − (a_{1} ^{+}a_{2})a_{1} = a_{2}a_{2} + a_{1}a_{2} − a_{2}a_{1} ,

ce qui est bien le même relèvement de a_{2}^{2}.

On peut réduire tout élément de 𝔖𝔠𝔥𝔲𝔟 à une combinaison linéaire de P_{I}^{F}(𝔸), ou de S^{F}^{J}(𝔸), en utilisant récursivement les identités^{17}

Λ^{i}(𝔸_{n})Λ^{j}(𝔸_{n})−Λ^{j+1}(𝔸_{n})Λ^{i−1}(𝔸_{n}) = Λ^{i}(𝔸_{n+1})Λ^{j}(𝔸_{n})−Λ^{j+1}(𝔸_{n+1})Λ^{i−1}(𝔸_{n}) et

16C’est-à-dire, le module engendré par les produits finis de fonctions symétriques en …, 𝔸_{3}, 𝔸_{2}, 𝔸_{1}, en respectant l’ordre des alphabets 𝔸_{n} := {a_{1}, …, a_{n}}.

17Plus généralement, on peut transformer l’expression déterminantale d’une fonction de Schur en les fonctions complètes ou élémentaires d’un alphabet en un déterminant où les alphabets sont différents dans chaque ligne, cf. [23].

S^{j}(𝔸_{n})S^{i}(𝔸_{n})−S^{i−1}(𝔸_{n})S^{j+1}(𝔸_{n}) = S^{j}(𝔸_{n})S^{i}(𝔸_{n−1})−S^{i−1}(𝔸_{n})S^{j+1}(𝔸_{n−1}) .

Cette remarque implique que le module de Schubert a pour bases linéaires {P_{I}^{F}(𝔸) : I ≤ […, 2, 1, 0]} et {S^{F}^{J}(𝔸)}, et est isomorphe à 𝔓𝔬𝔩(𝔸).

Si l’on a perdu en grande partie la structure multiplicative de 𝔓𝔬𝔩(𝔸), on a par contre préservé les opérateurs associés au groupe symétrique. Les différences divisées seront examinées dans un autre texte avec Lin Hui et Boliya Yang [33], nous nous contentons ici des différences divisées isobares.

On définit récursivement l’action^{18} sur 𝔓𝔩𝔞𝔵 de π_{i}, i ∈ ℕ, par :

α ≥ β , a_{i}^{α}a_{i+1}^{β} π_{i} = a_{i}^{α}a_{i+1}^{β} + a_{i}^{α−1}a_{i+1}^{β+1} + ⋯ + a_{i}^{β}a_{i+1}^{α}  (31)
(a_{i}^{α}a_{i+1}^{β} + a_{i}^{β}a_{i+1}^{α}) π_{i} = a_{i}^{α}a_{i+1}^{β} + a_{i}^{β}a_{i+1}^{α}  (32)

en imposant la compatibilité suivante, pour tout n, k et tout mot u dont la restriction aux lettres a_{i}, a_{i+1} est plaxiquement égal à une puissance de a_{i+1}a_{i} :

c_{1} ⋯ c_{n} π_{i} = ∑ d_{1} ⋯ d_{n} , c_{i}, d_{j} ∈ 𝔸, implique

(c_{1} ⋯ c_{k}) u (c_{k+1} ⋯ c_{n}) π_{i} = ∑(d_{1} ⋯ d_{k}) u (d_{k+1} ⋯ d_{n}) . (33)

On vérifie ensuite que l’image d’un S^{F}_{J}(𝔸) appartient encore à 𝔖𝔠𝔥𝔲𝔟. Les différences divisées isobares^{19} π_{i} et π̂_{i} préservent donc le module de Schubert.

Cette préservation fournit donc deux autres bases de 𝔖𝔠𝔥𝔲𝔟, qui relèvent les polynômes clefs [30]. Définition 3. Pour toute partition décroissante λ,

K_{λ}^{F}(𝔸) = K̂_{λ}^{F}(𝔸) = ⋯ a_{3}^{λ_{3}}a_{2}^{λ_{2}}a_{1}^{λ_{1}} ,  (34)

et pour tout v, tout i tel que v_{i} > v_{i+1}, alors

K_{vs_{i}}^{F}(𝔸) = K_{v}^{F}(𝔸) π_{i}^{a}  &  K̂_{vs_{i}}^{F}(𝔸) = K̂_{v}^{F}(𝔸) π̂_{i}^{a} .  (35)

18En fait, sur l’algèbre libre, de manière compatible avec la projection sur 𝔓𝔩𝔞𝔵 [30].

19Mais elles ne vérifient pas les relations de tresse, il n’y a donc pas de manière évidente de relever un π_{σ} en un opérateur sur 𝔖𝔠𝔥𝔲𝔟 si σ n’est pas une transposition simple. Cependant, l’image d’un élément “dominant” ⋯ a_{3}^{λ_{3}}a_{2}^{λ_{2}}a_{1}^{λ_{1}}, avec λ_{1} ≥ λ_{2} ≥ ⋯, par un produit réduit π_{i} ⋯ π_{j} ne dépend pas de ce produit, mais seulement de la permutation s_{i} ⋯ s_{j} (cf. [30]). A condition de ne prendre comme points de départ que des éléments dominants, on obtient ainsi facilement un relèvement plaxique de calculs commutatifs. On a en fait [24, 21, 15], une structure de graphe cristallin sur l’ensemble des mots d’un degré donné, avec des opérateurs e_{i}, f_{i} en terme desquels on peut exprimer les π_{i} non commutatifs et leurs produits.

Reiner et Shimozono définissent les K_{v}^{F}(𝔸) par énumération de mots majorés par les éléments d’une classe plaxique ou nilplaxique idoine [38].

Bien entendu, c’est la base Schubert ou Grothendieck qui est la plus fondamentale. En utilisant la décomposition dans la base P_{I}(𝔸), on peut écrire le représentant X_{σ}^{F}(𝔸) dans 𝔖𝔠𝔥𝔲𝔟 d’un polynôme de Schubert X_{σ}(𝔸, 0). Nous avions, M.P. Schützenberger et moi, pensé à cette définition dès la première note sur les polynômes de Schubert, mais elle ne nous avait pas semblé devoir être gardée, faisant apparaître des signes négatifs. Cela nous a amené à utiliser plutôt les K_{v}^{F}(𝔸), mais alors cela pose le problème de décrire l’ensemble des décompositions réduites d’une permutation, pour inteerpréter les coefficients c_{σ}^{v}.

Définition 4. Soit σ ∈ 𝔖_{n} une permutation. Soit X_{σ}(𝔸, 0) = ∑_{v} c_{σ}^{v}K_{v}(𝔸) la décomposition du polynôme de Schubert d’indice σ dans la base des polynômes clefs. Alors le polynôme de Schubert plaxique X_{σ}^{F}(𝔸) est égal à

X_{σ}^{F}(𝔸) = ∑_{v} c_{σ}^{v}K_{v}^{F}(𝔸) .  (36)

Nous donnons dans la section suivante une définition plus directe.

Le reste de ce texte se borne à utiliser différents noyaux de Cauchy, les seules opérations requises étant de développer des produits dans les algèbres plaxique ou nilplaxique.

On prendra garde que mis à part le premier et troisième cas, le noyau ne se développe pas comme un produit dans les algèbres indiquées. Il faut d’abord énumérer toutes les décompositions d’un certain diagramme avant d’effectuer des calculs algébriques.

Les calculs commutatifs liés aux polynômes Schubert ou Grothendieck utilisent fréquemment le fait que l’anneau des polynômes en n variables soit un module libre sur l’anneau des polynômes symétriques. L’image de tout 𝔖𝔶𝔪(𝔸_{n}) dans 𝔓𝔩𝔞𝔵(𝔸) est encore un anneau, mais par contre le module de Schubert n’est pas un module sur les fonctions symétriques. Déjà pour n = 2, l’on voit que 𝔖𝔶𝔪(𝔸_{2}) ⊗ 𝔖𝔶𝔪(𝔸_{1}) a un plongement différent de 𝔖𝔶𝔪(𝔸_{1}) ⊗ 𝔖𝔶𝔪(𝔸_{2}) dans 𝔓𝔩𝔞𝔵(𝔸). On donnera dans un autre texte des formules de Pieri relatives au module de Schubert, qui prennent en compte ce qui reste de la multiplication.

6. 𝔓𝔬𝔩(y) ⊗ 𝔓𝔩𝔞𝔵(𝔸)

Étendons les coefficients de 𝔓𝔩𝔞𝔵(𝔸) aux polynômes en des variables commutatives y_{i} commutant avec les lettres de 𝔸.

On définit, dans cet espace, un noyau de Cauchy :

K(y, 𝔸) := \begin{matrix}(y_{1} + a_{n−1}) \\ (y_{1} + a_{n−2}) & (y_{2} + a_{n−2}) \\ ⋮ & ⋮ \\ (y_{1} + a_{1}) & (y_{2} + a_{1}) & ⋯ & (y_{n−1} + a_{1}) \end{matrix}

en lisant par colonnes, de gauche à droite.

Théorème 2. Le noyau K(y, 𝔸) se décompose en une somme de produits de polynômes de Schubert :

K(y, 𝔸) = ∑_{σ∈𝔖_{n}} X_{σ}(y, 0)X_{σω}^{F}(𝔸) .  (37)

Preuve. Chaque colonne du noyau s’écrit, dans 𝔓𝔩𝔞𝔵(𝔸), comme une somme

∑_{i} y_{j}^{i} Λ^{i}(𝔸_{j}) .

Le noyau appartient donc à 𝔓𝔬𝔩(y)⊗𝔖𝔠𝔥𝔲𝔟(𝔸). Le coefficient d’un polynôme de Schubert en y est par là même l’élément de 𝔖𝔠𝔥𝔲𝔟(𝔸) qui relève le coefficient du même polynôme dans le cas commutatif. C’est donc un polynôme de Schubert plaxique. QED

Par exemple, pour n = 4, le coefficient de X_{2341}(y, 0) = y_{1}y_{2}y_{3} est

X_{1432}^{F} = \begin{matrix}a_{3} \\ a_{2} & a_{2} \\ ■ & ■ & ■ \end{matrix} + \begin{matrix}a_{3} \\ ■ & a_{2} \\ a_{1} & ■ & ■ \end{matrix} + \begin{matrix}a_{3} \\ ■ & ■ \\ a_{1} & a_{1} & ■ \end{matrix} + \begin{matrix}■ \\ a_{2} & a_{2} \\ a_{1} & ■ & ■ \end{matrix} + \begin{matrix}■ \\ a_{2} & ■ \\ a_{1} & a_{1} & ■ \end{matrix}

≡ 3 2 2 + 3 1 2 + 3 1 1 + 2 1 2 + 2 1 1 .

(on écrit 1, 2, … dans les tableaux, au lieu de a_{1}, a_{2}, …).

Pour obtenir un X_{σ}^{F}(𝔸), il suffit donc de savoir décomposer un polynôme (commutatif) en y dans la base Schubert, c’est-à-dire, on n’a besoin que d’algèbre linéaire.

# on utilise les variables x.i au lieu de y.i
NoyauPolPlax:=proc(n)  local res,i,j;
 res:=w[];
  for i from 1 to n-1 do
    for j from 0 to n-i-1 do
     lprint( cat(x,i)*w[] + w[n-i-j]);
     res:=FreeConcat(res, cat(x,i)*w[] +  w[n-i-j])
    od;

  od;
 res
end:
ACE> coeff(ToX(expand(NoyauPolPlax(4))),X[2,3,4,1]);
          # exemple precedent = coeff de y1*y2*y3= X[2,3,4,1]
    w[2,1,2]+w[3,2,2]+w[3,1,1]+w[2,1,1]+w[3,1,2]

7. 𝔓𝔩𝔞𝔵(𝔹) ⊗ 𝔓𝔩𝔞𝔵(𝔸)

Considérons le noyau

K(𝔹, 𝔸) := \begin{matrix}(b_{1} + a_{n−1}) \\ (b_{1} + a_{n−2}) & (b_{2} + a_{n−2}) \\ ⋮ & ⋮ \\ (b_{1} + a_{1}) & (b_{2} + a_{1}) & ⋯ & (b_{n−1} + a_{1}) \end{matrix}

Pour développer ce noyau, il faut cette fois-ci énumérer toutes les décompositions du diagramme escalier en deux diagrammes complémentaires. On lira, comme ci-dessus, un mot en 𝔸 pour le premier diagramme (une boîte à hauteur i se lit a_{i}, mais par symétrie, il faut lire le deuxième diagramme par lignes (de droite à gauche), les lignes de bas en haut, pour obtenir un mot en 𝔹 (une boîte en colonne j se lit b_{j}).

Par exemple, la décomposition

\begin{matrix}· \\ □ & □ \\ · & □ & · \\ □ & · & □ & · \end{matrix} , \begin{matrix}■ \\ · & · \\ ■ & · & ■ \\ · & ■ & · & ■ \end{matrix}  (38)

se lit (en gardant trace des colonnes par des parenthèses)

\begin{matrix}· \\ a_{3} & a_{3} \\ · & a_{2} & · \\ a1 & · & a_{1} & · \end{matrix} = (a_{3}a_{1}) (a_{3}a_{2}) (a_{1}) ( ) ; \begin{matrix}b_{1} \\ · & · \\ b_{1} & · & b_{3} \\ · & b_{2} & · & b_{4} \end{matrix} = (b_{4}b_{2}) (b_{3}b_{1}) ( ) (b_{1}) .

Le mot de degré maximal en 𝔸 ou 𝔹 est

(a_{n−1} ⋯ a_{1})(a_{n−2} ⋯ a_{1}) ⋯ (a_{1}) ou (b_{n−1} ⋯ b_{1})(b_{n−2} ⋯ b_{1}) ⋯ (b_{1}) ,

et les différents mots obtenus en sont des sous-mots.

En décomposant plus généralement le diagramme d’une partition (au lieu seulement de l’escalier), nous montrerons dans un autre texte que le noyau K(𝔹, 𝔸) appartient à l’espace

𝔖𝔠𝔥𝔲𝔟(𝔸) ⊗ 𝔖𝔠𝔥𝔲𝔟(𝔹) ,

les lettres de 𝔸 commutant avec les lettres de 𝔹.

Le corollaire de cette assertion est que la somme des produits de mots obtenue par développement du noyau K(𝔹, 𝔸) est égale à :

∑_{σ∈𝔖_{n}} X_{σ}^{F}(𝔹)X_{σω}^{F}(𝔸)

dans 𝔓𝔩𝔞𝔵(𝔹) × 𝔓𝔩𝔞𝔵(𝔸).

On trouvera par exemple, en énumérant

a_{3} ; a_{2} b_{2} ; b_{1} b_{2} b_{3} , a_{3} ; b_{1}  a_{2} ; b_{1} b_{2} b_{3} , a_{3} ; b_{1} b_{2} ; a_{1} b_{2} b_{3} , a_{3} ; b_{1} b_{2} ; b_{1}  a_{1} b_{3} , \begin{matrix}b_{1} \\ a_{2} & b_{2} \\ a_{1} & b_{2} & b_{3} \end{matrix} , \begin{matrix}b_{1} \\ a_{2} & b_{2} \\ b_{1} & a_{1} & b_{3} \end{matrix} ,

le terme

( a_{3} ; a_{2} + a_{3} ; a_{1} + a_{2} ; a_{1} ) ( b_{3} ; b_{2} ; b_{1} b_{2} + b_{3} ; b_{2} ; b_{1} b_{1} ) ,

qui est bien égal à X_{2431}^{F}(𝔹) X_{1342}^{F}(𝔸).

8. 𝔓𝔬𝔩(x) ⊗ 𝔑𝔓𝔩(V)

Soient v_{1}, v_{2}, …, v_{n−1} vérifiant les relations nilplaxiques [26, 10] :

v_{i}^{2} = 0 , v_{i}v_{i+1}v_{i} = v_{i+1}v_{i}v_{i+1}  (39)
v_{j}v_{i}v_{k} = v_{j}v_{k}v_{i} , v_{i}v_{k}v_{j} = v_{k}v_{i}v_{j} (i < j < k)  (40)

Définissons, dans l’algèbre nilplaxique engendrée par les v_{i}, à coefficients en les variables commutatives x, le noyau nilplaxique

K(x, V) := \begin{matrix}(1 + x_{1}v_{n−1}) \\ (1 + x_{1}v_{n−2}) & (1 + x_{2}v_{n−1}) \\ ⋮ & ⋮ \\ (1 + x_{1}v_{1}) & (1 + x_{2}v_{2}) & ⋯ & (1 + x_{n−1}v_{n−1}) \end{matrix}

On développe, là encore, par colonnes successives de gauche à droite. Chaque produit^{20} de colonnes donne un tableau dans 𝔑𝔓𝔩(V). La forme de ce tableau est obtenue par une suite d’adjonctions de bandes verticales^{21} , que l’on remplit par les lettres x_{1}, x_{2}, … pour distinguer ces bandes. On obtient ainsi une paire de tableaux, un tableau nilplaxique et un tableau en x_{1}, x_{2}, … de forme transposée. Le noyau peut donc en fait être considéré comme un élément de 𝔓𝔩𝔞𝔵 ⊗ 𝔑𝔓𝔩 plutôt que 𝔓𝔬𝔩 ⊗ 𝔑𝔓𝔩.

20s’il est non nul, c’est-à-dire, s’il est réduit en tant que produit de transpositions simples.

21vertical strip

On aurait pu transposer le noyau pour avoir, comme dans la construction de Schensted, l’adjonction de bandes horizontales que l’on peut remplir avec x_{1}, x_{2}, …, ou bien des lettres toutes différentes, en distinguant de gauche à droite les différentes occurences de x_{1}, x_{2}, …:

x_{i} ⟶ x_{i}^{(1)}, x_{i}^{(2)}, x_{i}^{(3)}, …

La construction de Schensted peut se réinterpréter en considérant des mots en bilettres commutatives, ou des matrices d’entiers [16] : les deux tableaux de Schensted jouent alors un rôle symétrique et sont échangés en variant l’ordre lexicographique sur les bilettres. Cette construction n’est pas directement applicable au cas nilplaxique, car les relations nilplaxiques ne sont pas des relations de commutation^{22}.

L’évaluation du noyau dans l’algèbre NilCoxeter fait apparaître comme coefficients les polynômes de Schubert en x (cf. [4, 13, 12]), et résulte des formules de récurrence données dans la note [27] (pour plus de détails, cf. [23, ch. 10]).

L’évaluation dans l’algèbre nilplaxique est plus délicate, et résulte de la considération de vice-tableaux [21], mais on peut aussi l’obtenir à partir de la description des polynômes clefs par Reiner et Shimozono [38].

L’assertion (25) de [21] est que le noyau K(x, V) décompose en une somme de tableaux en V, les coefficients étant des polynômes-clefs en x (une description plus précise exige des constructions concernant les tableaux et les décompositions réduites dont nous n’avons pas besoin dans ce texte).

Pour compenser ce manque, voici ce que donne ACE :

ACE> NoyauPolNiplax(4):
ACE> map(x2K,%);
    [3, 2, 3] = K[0, 2, 1]
    [2, 1, 3] = K[2, 0, 1]
    [3] = K[0, 0, 1]
    [2, 3] = K[0, 1, 1]
    [3, 2, 1, 3] = K[3, 0, 1]
    [1, 3] = K[1, 0, 1]
    [3, 2, 3, 1, 2] = K[3, 2]
    [3, 1, 2, 3] = K[1, 2, 1]

22Il existe en fait une opération de plaxification [39], mais elle exige justement de transformer les mots.

[3, 2, 1, 2] = K[3, 1]
[3, 2, 1] = K[3]
[2, 3, 1, 2] = K[2, 2]
[3, 2, 3, 1, 2, 3] = K[3, 2, 1]
[1] = K[1]
[3, 2] = K[0, 2]
[] = K[0]
[2, 3, 1, 2, 3] = K[2, 2, 1]
[2, 1] = K[2]
[3, 1, 2] = K[1, 2]
[2, 1, 2] = K[2, 1]
[2, 1, 2, 3] = K[2, 1, 1]
[3, 1] = K[2]
[3, 2, 1, 2, 3] = K[3, 1, 1]
[1, 2] = K[1, 1]
[2] = K[0, 1]
[1, 2, 3] = K[1, 1, 1]

A gauche, on a tous les tableaux (écrits comme des mots) obtenus en évaluant les mots en v_{i} dans l’algèbre nilplaxique. A droite, les coefficients en x ont été décomposés dans la base des polynômes clefs, écrivant K[v] au lieu de K_{v}(x).

9. ℑ𝔡ℭ𝔬𝔵(U) ⊗ 𝔑𝔦𝔩ℭ𝔬𝔵(V)

Soient v_{1}, v_{2}, …, v_{n−1} vérifiant les relations nilplaxiques (39,40) et u_{1}, u_{2}, …, u_{n−1} vérifiant les relations idplaxiques :

u_{i}^{2} = u_{i} , u_{i}u_{i+1}u_{i} = u_{i+1}u_{i}u_{i+1}  (41)
u_{j}u_{i}u_{k} = u_{j}u_{k}u_{i} , u_{i}u_{k}u_{j} = u_{k}u_{i}u_{j} (i < j < k)  (42)

Définissons

K(U, V) := \begin{matrix}(u_{n−1} ^{+}v_{n−1}) \\ (u_{n−2} ^{+}v_{n−1}) & (u_{n−1} ^{+}v_{n−2}) \\ (u_{n−3} ^{+}v_{n−1}) & (u_{n−2} ^{+}v_{n−2}) & (u_{n−1} ^{+}v_{n−3}) \\ ⋮ & ⋮ & ⋮ & ... \\ (u_{1} ^{+}v_{n−1}) & (u_{2} ^{+}v_{n−2}) & (u_{3} ^{+}v_{n−3}) & ⋯ & (u_{n−1} ^{+}v_{1}) \end{matrix}

Encore une fois, le développement doit être tel que les mots maximaux soient

(u_{n−1} ⋯ u_{1})(u_{n−2} ⋯ u_{1}) ⋯ (u_{1}) et (v_{n−1} ⋯ b_{1})(v_{n−2} ⋯ b_{1}) ⋯ (v_{1}) .

On lit donc le mot en U par colonnes, de gauche à droite, et le mot en V par diagonales successives, de l’extèrieur vers l’origine.

Ainsi, la paire de diagrammes (38) donne maintenant les mots

\begin{matrix}· \\ u_{3} & u_{3} \\ · & u_{2} & · \\ u1 & · & u_{1} & · \end{matrix} = (u_{3}u_{1}) (u_{3}u_{2}) (u_{1}) ( ) ; \begin{matrix}v_{4} \\ · & · \\ v_{4} & · & v_{2} \\ · & v_{3} & · & v_{1} \end{matrix} = (v_{4}v_{2}v_{1}) ( ) (v_{4}v_{3}) ( ) .

Nous n’examinerons pas ici les propriétés de ces mots, mais prendront leurs images dans les deux algèbres de Hecke 𝔑𝔦𝔩ℭ𝔬𝔵, ℑ𝔡ℭ𝔬𝔵, appelées NilCoxeter et IdCoxeter. Leurs générateurs ū_{i} et v̄_{j} vérifient

ū_{i}^{2} = ū_{i} & v̄_{i}^{2} = 0 .

Les relations de tresse étant des quotients des relations nilplaxiques ou idplaxiques, chaque mot en v_{j} ou u_{i} s’évalue dans 𝔑𝔦𝔩ℭ𝔬𝔵 ou ℑ𝔡ℭ𝔬𝔵 respectivement, en envoyant u_{i} sur ū_{i}, et v_{j} sur v̄_{j}.

La décomposition de l’escalier en toutes les paires de diagramme complémentaires fournit une collection de paires de mots^{23} (u_{σ}, v_{ζ}), σ, ζ ∈ 𝔖_{n}, paires que l’on écrit comme des produits en convenant que les lettres de U commutent avec celles de V.

Au lieu de paire de diagrammes complémentaires dans l’escalier, on peut, comme le fait Lenart, prendre tous les remplissages possibles (dits triangles) du diagramme de la partition [1, …, n^{−}1] par les nombres 0, 1. Bergeron et Billey [2] utilisent quant à lui/elle des triangles de +, ∅.

La lecture précédente associe à chaque triangle t un produit de mots u(t) v(t), et le noyau s’interprète comme un élément de ℑ𝔡ℭ𝔬𝔵(U)⊗𝔑𝔦𝔩ℭ𝔬𝔵(V) :

K(U, V) = ∑_{t} u(t) v(t) .  (44)

Il se trouve que Lenart [34] a donné une interprétation de l’ensemble des v(t) tels que u(t) = u_{σ}.

Théorème 3 (Lenart). Pour toute permutation σ ∈ 𝔖_{n}, l’alphabet y étant spécialisé en 0, on a

G_{σ} = ∑_{t}(^{−}1)^{ℓ(ζω)−ℓ(σ)} X_{ζω} ,  (45)

23en effaçant les mots en v_{j} non réduits, qui s’annulent.

somme sur tous les triangles t tels que u(t) = u_{σ}, avec ζ telle que v(t) = v_{ζ}.

La symétrie entre les bases Grothendieck et Schubert vue au théorème 1 permet alors d’ énoncer :

Théorème 4. Pour toute permutation ζ ∈ 𝔖_{n},

X_{ζ} = ∑_{t} G_{σω} ,  (46)

somme sur tous les triangles t tels que v(t) = v_{ζ}, avec σ telle que u(t) = u_{σ}.

Par exemple, pour n = 4, les trois termes suivants de K(U, V)

u_{3412} v_{2143}^{\begin{matrix}· \\ u_{2} & u_{3} \\ u_{1} & u_{2} & · \end{matrix} \begin{matrix}v_{3} \\ · & · \\ · & · & v_{1} \end{matrix}} , u_{2413} v_{2143}^{\begin{matrix}u_{3} \\ · & u_{3} \\ u_{1} & u_{2} & · \end{matrix} \begin{matrix}· \\ v_{3} & · \\ · & · & v_{1} \end{matrix}} , u_{1432} v_{2143}^{\begin{matrix}u_{3} \\ u_{2} & u_{3} \\ · & u_{2} & · \end{matrix} \begin{matrix}· \\ · & · \\ v_{3} & · & v_{1} \end{matrix}}

donnent, en tenant compte du retournement des permutations

X_{2143} = G_{2143} + G_{3142} + G_{2341} .

C’est donc le même modèle combinatoire qui décrit les deux développements, quoique le développement d’un polynôme de Schubert comme une somme positive de classes de faisceaux structuraux de variétés de Schubert paraisse beaucoup plus mystérieux que le développement inverse lié à une filtration de l’anneau de Grothendieck.

Il faut en fait faire intervenir des propriétés de l’ordre d’Ehresmann–Bruhat sur le groupe symétrique, que M.P. Schützenberger et moi avons formulées en terme de plongement dans le treillis distributif des matrices à signes alternants (alternating sign matrices) [32]. On trouvera dans [22] comment lire les polynômes de Schubert ou Grothendieck sur ces matrices.

On notera que le nombre de termes dans l’expression d’un polynôme de Schubert X_{σ} dans la base Grothendieck est le même que dans la base des monômes : il est en effet égal au nombre de triangles t tels que v(t) = v_{σ}. Il est donc aussi égal au nombre de termes du développement de X_{σ^{−1}}. Cette propriété d’invariance par rapport à l’inversion des permutations a d’ailleurs été remarquée depuis longemps en ce qui concerne le développement des polynômes de Schubert dans la base des monômes (cf. [19]).

Nous terminerons sur un exemple pour une permutation et son inverse :

ACE> X2G(X[1,4,2,5,3]);
 G[2,4,1,5,3] + G[1,4,3,5,2] +2*G[3,4,1,5,2] +G[3,4,2,5,1]
              + G[2,4,3,5,1] + G[2,4,3,5,1] + G[1,4,2,5,3]
 # 8 terms, counting multiplicities
ACE> Tox(X[1,4,2,5,3]);

2        2      2              2              2       2
x1 x4 +x2x1  +x3x1  +x4x1x2 +x1x2  +x3x1x2 +x4x2  +x3 x2
# 8 monomials
ACE> X2G(X[1,3,5,2,4]);
G[2,3,5,1,4]+G[3,4,5,1,2]+ 2*G[2,4,5,1,3]+G[1,4,5,2,3]
          +G[3,4,5,1,2] +G[2,3,5,1,4] +G[1,3,5,2,4]
ACE> Tox(X[1,3,5,2,4]);
 2       2                      2       2       2       2
x3  x1 +x3  x2 +2 x3 x1 x2 +x3 x1  +x3 x2  +x1 x2  +x2 x1

Références

[1] Bender and D. Knuth. Enumerations of plane partitions, J. Comb. Ser. A 13 (1972) 40–54.

[2] N. Bergeron and S. Billey. RC-graphs and Schubert polynomials, Experimental Math. 2 (1993), 257–269.

[3] I.N. Bernstein, I.M. Gelfand and S.I. Gelfand. Schubert cells and the cohomology of the spaces G/P, Russian Math. Surveys 28 (1973), 1–26.

[4] S. Billey, W. Jockush, R. Stanley. Some combinatorial properties of Schubert polynomials, J. Alg. Comb. 2 (1993) 115–207.

[5] A. Buch. A Littlewood-Richardson rule for the K-theory of Grassmannians, Acta Math. 189 (2002) 37–78.

[6] A. Buch, W. Fulton. Chern class formulas for quiver varieties, Invent. Math. 135 (1999) 665–687.

[7] A. Buch, A. Kresch, H. Tamvakis, A. Yong. Schubert polynomials and quiver varieties, Proc. FPSAC 03 (2003).

[8] M. Demazure. Invariants symétriques entiers des groupes de Weyl et torsion, Invent. Math. 21 (1973), 287–301.

[9] M. Demazure. Une formule des caractères, Bull. Sc. Math., 98 (1974) 163–172.

[10] P. Edelman and C. Greene. Balanced tableaux, Advances in Maths 63 (1987) 42–99.

[11] S. Fomin and C. Greene. Noncommutative Schur functions and their applications, Discrete Math. 193 (1998), 179–200.

[12] S. Fomin and A. Kirillov. The Yang-Baxter equation, symmetric functions and Schubert polynomials, Discrete Math., 153 (1996) 123–143.

[13] S. Fomin and R. Stanley. Schubert polynomials and the NilCoxeter algebra, Advances in Math. 103 (1994) 196–207.

[14] L. Geissinger. Hopf algebras of symmetric functions and class functions, Combinatoire et représentations du groupe symétrique, D. Foata ed., Springer L.N. 579 (1977) 168– [15] M. Kashiwara. Crystal base and Littelmann refined Demazure character formula,

Duke Math. 71 (1993) 839–858.

[16] D. Knuth. Permutations, matrices, and generalized Young tableaux, Pacific J. Math. 34 (1970) 709–727.

[17] A. Kohnert. Weintrauben, Polynome, Tableaux, Bayreuth. Math. Schrift. 38 (1991), 1–97.

[18] A. Lascoux. Puissances extèrieures, déterminants et cycles de Schubert, Bull. Soc. Math. Fr. 102 (1974) 161–179.

[19] A. Lascoux. Classes de Chern des variétés de drapeaux, Comptes Rendus Acad. Sci. Paris 295 (1982) 393–398.

[20] A. Lascoux. Anneau de Grothendieck de la variété de drapeaux, in “The Grothendieck Festschrift”, vol III, Birkhäuser (1990) 1–34.

[21] A. Lascoux. Double Crystal graphs, Studies in Memory of Issai Schur, Progress In Math. 210, Birkhäuser (2003) 95–114.

[22] A. Lascoux. Chern and Yang through Ice, preprint (2002).

[23] A. Lascoux. Symmetric functions and Combinatorial operators on polynomials, CBMS/AMS Lectures Notes 99, (2003).

[24] A. Lascoux, B. Leclerc and J.Y. Thibon. The Plactic Monoid, chapître du deuxième volume de Combinatorics on Words, M. Lothaire ed, Cambridge Univ. Press (2002).

[25] A. Lascoux and M.P. Schützenberger. Le monoïde plaxique, Non-commutative structures in algebra and geometric combinatorics, Napoli 1978, Quaderni de “La Ricerca Scientifica”, 109, C.N.R., Roma (1981) 129–156.

[26] A. Lascoux and M.P. Schützenberger. Polynômes de Schubert, Comptes Rendus Acad. Sci. Paris 294 (1982) 447–450.

[27] A. Lascoux and M.P. Schützenberger. Structure de Hopf de l’anneau de cohomologie et de l’anneau de Grothendieck d’une variété de drapeaux, Comptes Rendus Acad. Sci. Paris 295 629–633.

[28] A. Lascoux and M.P. Schützenberger. Symmetry and Flag manifolds, Invariant Theory, Springer L.N., 996 (1983) 118–144.

[29] A. Lascoux and M.P. Schützenberger. Fonctorialité des polynômes de Schubert, in Invariant Theory, Contemporary Math. 88 (1989) 585–598.

[30] A. Lascoux and M.P. Schützenberger. Keys and standard bases, Invariant Theory and Tableaux, The IMA volumes in Mathematics and its Applications, 19, Springer (1988) 125–144.

[31] A. Lascoux and M.P. Schützenberger. Tableaux and non-commutative Schubert polynomials, Funk. Anal. 23 (1989) 63–64.

[32] A. Lascoux and M.P. Schützenberger. Treillis et bases des groupes de Coxeter, Electronic Journal of Combinatorics 3 (1996) R27.

[33] A. Lascoux, Hui Lin, Arthur L.B. Yang. Lattice graphs and Schubert polynomials, prépublication (2004).

[34] C. Lenart. Noncommutative Schubert calculus and Grothendieck polynomials, Advances in Math. 143 (1999) 159–183.

[35] C. Lenart. Combinatorial aspects of the K-theory of Grassmannians, Ann. Combin. 4 (2000) 67–82.

[36] I. G. Macdonald. Notes on Schubert polynomials LACIM, Publ. Université Montréal, (1991).

[37] D. Monk. The geometry of flag manifolds. Proc. London Math. Soc. 9 (1959) 253–286.

[38] V. Reiner and M. Shimozono. Key polynomials and a flagged Littlewood–Richardson rule, J. Combin. Theory Ser. A 70 (1995), 107–143.

[39] V. Reiner and M. Shimozono. Plactification, J. Alg. Comb. 4 (1995) 331–351.