LA DÉMONSTRATION DES IDENTITÉS DE GORDON ET

MACMAHON ET DE DEUX IDENTITÉS NOUVELLES(*)

Jacques Désarménien (**)

Introduction

Les identités de Gordon et de MacMahon peuvent être interprétées comme les fonctions génératrices des tableaux semi-standard en des puissances de q, les exposants étant les entiers de 1 à n pour Gordon et les entiers impairs de 1 à 2n − 1 pour MacMahon. La forme de ces tableaux est quelquonque, mais leur longueur est limitée. MacMahon conjectura son identité [7] dans la terminologie des partitions planes; le passage aux tableaux semi-standard est facile et classique. Gordon, de son côté, démontra son identité, mais il fut le publié beaucoup plus tard^{1} (pour d’autres détails, cf. Stanley [8]).

Les deux identités furent démontrées simultanément par Andrews [1] et Macdonald [6]. La démonstration d’Andrews (et aussi celle-ci de Gordon) est essentiellement un calcul de déterminant, nécessitant de nombreuses manipulations de lignes et de colonnes; le résultat apparaît finalement assez miraculeux. La démonstration de Macdonald a l’avantage de se rattacher à un modèle classique, celui des systèmes de racines, et les manipulations, assez nombreuses aussi, y sont un peu plus naturelles.

Dans la présente note, nous donnons les grandes étapes de la démonstration de Macdonald et nous indiquons brièvement comment, par la même méthode, on obtient deux identités qui généralisent une identité de Desainte-Catherine et Viennot [3]. Ce dernier sujet sera repris dans [4].

(*) Soutien par le P.R.C. Mathématiques et Informatique (**) Départment d’informatique, I.U.T. Strasbourg III, 72, route du Rhin, F-67400 Illkirch-Graffenstaden

1B. Gordon, “A proof of the Bender–Knuth conjecture,” Pacific J. Math. 108 (1983), 99–113.

1. Les identités

Nous réduirons les préliminaires au minimum, en renvoyant au livre de Macdonald [6]. Un tableau semi-standard est le remplissage d’un diagramme de Ferrers par des indéterminées x_{1}, …, x_{n} de sorte que les indices vont en croissant strictement dans les colonnes et en croissant au sens large dans les lignes. La partition λ = λ_{1} ≥ λ_{2} ≥ ⋯ ≥ λ_{k} associée au diagramme de Ferrers est la forme du tableau, et son ordre est la somme λ_{1} + λ_{2} + ⋯ + λ_{k}.

La fonction de Schur S_{λ}(x_{1}, …, x_{n}) est la somme sur l’ensemble des tableaux semi-standard de forme λ du produit des indéterminées qui y apparaissent. Les identités de Gordon et de MacMahon font intervenir des spécialisations de ces indéterminées en puissances de l’indéterminée q.

Théorème 1.1. — On a les identités suivantes :

∑_{λ⊂m^{n}} S_{λ}(q^{n}, q^{n−1}, …, q) = ∏_{1≤i≤j≤n} \frac{q^{m+i+j−1} − 1}{q^{i+j−1} − 1} (Gordon);

∑_{λ⊂m^{n}} S_{λ}(q^{2n−1}, q^{2n−3}, …, q)

= ∏_{1≤i≤n} \frac{q^{m+2i−1} − 1}{q^{2i−1} − 1} ∏_{1≤i<j≤n} \frac{q^{2(m+i+j−1)} − 1}{q^{2(i+j−1)} − 1} (MacMahon).

Lorsqu’on fait q = 1 dans les identités précédentes, on obtient une formule unique, donnant le nombre de tableaux semi-standard contenus dans le rectangle m^{n}; si T_{λ} désigne le nombre de tableaux semi-standard de forme λ, on a :

∑_{λ⊂m^{n}} T_{λ} = ∏_{1≤i≤j≤n} \frac{m + i + j − 1}{i + j − 1}.

Nous dirons que la forme (ou partition) λ est paire lorsque chaque part λ_{i} est un nombre pair. La formule conjecturée par Desainte-Catherine et démontrée par Desainte-Catherine et Viennot est l’analogue de la formule précédente lorsqu’on se restreint aux partitions paires :

∑_{λ⊂(2m)^{n}} T_{λ} = ∏_{1≤i≤j≤n} \frac{2m + i + j}{i + j} (λ paire).

Les deux identités nouvelles annoncées sont des équivalens des identités de Gordon et de MacMahon pour les partitions paires, et elles donnent la formule de Desainte-Catherine et Viennot lorsque q = 1. La seconde peut d’ailleurs s’interpréter comme fonction génératrice de certaines partitions planes.

Théorème 1.2. — On a les identités suivantes :

∑_{λ⊂(2m)^{n}} S_{λ}(q^{n}, q^{n−1}, …, q) = ∏_{1≤i≤j≤n} \frac{q^{2m+i+j} − 1}{q^{i+j} − 1};

∑_{λ⊂(2m)^{n}} S_{λ}(q^{2n−1}, q^{2n−3}, …, q)

= ∏_{1≤i≤n} \frac{q^{2m+2i} − 1}{q^{2i} − 1} ∏_{1≤i<j≤n} \frac{q^{2(2m+i+j)} − 1}{q^{2(i+j)} − 1};

où la somme est limitée aux partitions λ paires.

2. Séries génératrices de fonctions de Schur

Deux identités dues à Littlewood [5] sont à la base de la démonstration.

Théorème 2.1. — On a les identités suivantes :

Φ_{1}(x_{1}, …, x_{n}) = ∑_{λ} S_{λ}(x_{1}, …, x_{n}),

= ∏_{1≤i≤n}(1 − x_{i})^{−1} ∏_{1≤i<j≤n}(1 − x_{i}x_{j})^{−1};

Φ_{2}(x_{1}, …, x_{n}) = ∑_{λ} S_{λ}(x_{1}, …, x_{n})  (λ paire),

= ∏_{1≤i≤n}(1 − x_{i}^{2})^{−1} ∏_{1≤i<j≤n}(1 − x_{i}x_{j})^{−1}.

La hauteur de la partition λ étant limitée par le nombre n de variables qui figurent dans la fonction S_{λ}, il faut trouver des fonctions génératrices semblables, dans lesquelles la longueur de λ est majorée :

S_{1}(u) = ∑_{λ_{0},λ} S_{λ}(x_{1}, …, x_{n})u^{λ_{0}}  (λ = λ_{1} ≥ λ_{2} ≥ ⋯, λ_{0} ≥ λ_{1});

S_{2}(u) = ∑_{λ_{0},λ} S_{λ}(x_{1}, …, x_{n})u^{λ_{0}}  (idem, λ_{0}, λ pairs).

Récrivons λ = μ_{1}^{r_{1}}μ_{2}^{r_{2}} … μ_{k}^{r_{k}}, où l’on suppose que les μ_{i} sont strictement décroissants, que μ_{k} ≥ 0 et que les r_{i} sont strictement positifs de somme n. Si l’on note S_{n}^{λ} = S_{r_{1}} × S_{r_{2}} × ⋯ × S_{r_{k}} le groupe des permutations laissant λ invariante, la fonction de Schur S_{λ} vaut [6, p. 104] :

S_{λ}(x_{1}, …, x_{n}) = ∑_{w∈S_{n}/S_{n}^{λ}} w(x_{1}^{λ_{1}}x_{2}^{λ_{2}} ⋯ x_{n}^{λ_{n}} ∏_{λ_{i}>λ_{j}} \frac{x_{i}}{x_{i} − x_{j}} ),

où la permutation w agit sur les indices des indéterminées.

Pour Y ⊂ X = {x_{1}, …, x_{n}}, posons p(Y) = ∏{x_{i} ∈ Y }. La donnée de w ∈ S_{n}/S_{n}^{λ} est équivalente à la donnée d’une surjection f : X → {1, 2, …, k} telle que |f^{−1}(i)| = r_{i}.

Avec ces nouvelles notations, on peut écrire :

S_{λ}(x_{1}, …, x_{n}) = ∑_{f} p(f^{−1}(1))^{μ_{1}} ⋯ p(f^{−1}(k))^{μ_{k}} ∏_{f(x_{i})<f(x_{j})} \frac{x_{i}}{x_{i} − x_{j}} .

La fonction f est à son tour en bijection avec la filtration F définie par :

∅ = F_{0} ⊂ F_{1} ⊂ ⋯ ⊂ F_{k} = X, x_{i} ∈ F_{l} ⇔ f(x_{i}) ≤ l.

On dit que cette filtration est de longueur k, et on remarque que |F_{l}| = r_{1} + r_{2} + ⋯ + r_{l} et que toutes les inclusions sont strictes, ce qui équivaut à la surjectivité de f. Une telle filtration est dite compatible avec λ. Posons de plus ν_{i} = μ_{i} − μ_{i+1} si 1 ≤ i ≤ k − 1 et ν_{k} = μ_{k} de sorte que ν_{i} > 0 si i < k et ν_{k} ≥ 0. Si F est une filtration, notons :

π_{F} = ∏_{f(x_{i})<f(x_{j})} \frac{x_{i}}{x_{i} − x_{j}} .

On peut donc écrire :

(∗)  S_{λ}(x_{1}, …, x_{n}) = ∑_{F} π_{F} ∏_{1≤i≤k} p(F_{i})^{ν_{i}},

où la sommation est étendue à toutes les filtrations compatibles avec λ. On est alors en mesure de démontrer le lemme suivant.

Lemme 2.2. — Les séries S_{1}(u) et S_{2}(u) sont des fractions rationnelles en u de la forme :

S_{1}(u) = ∑_{Y ⊂X} \frac{a(Y)}{1 − p(Y)u};

S_{2}(u) = ∑_{Y ⊂X} \frac{b(Y)}{1 − p(Y)^{2}u^{2}} .

En particulier, tous les pôles sont simples.

Démontrons-le pour S_{1}(u). En posant μ_{0} = λ_{0} et ν_{0} = μ_{0} − μ_{1} dans la définition de S_{1}(u), de sorte que λ_{0} ≥ λ_{1} se traduit par ν_{0} ≥ 0, et en utilisant l’expression (∗), on a :

S_{1}(u) = ∑_{λ_{0},λ} S_{λ}(x_{1}, …, x_{n})u^{λ_{0}},

= ∑_{k} ∑_{F} π_{F} ∑_{μ_{0},μ} u^{μ_{0}} ∏_{1≤i≤k} p(F_{i})^{ν_{i}}, (μ_{0} ≥ μ_{1}),

= ∑_{k} ∑_{F} π_{F} ∑_{ν} u^{ν_{0}+···+ν_{k}} ∏_{1≤i≤k} p(F_{i})^{ν_{i}}.

La dernière somme est étendue aux (k + 1)-uplets ν = (ν_{0}, …, ν_{k}) satisfaisant ν_{0}, ν_{k} ≥ 0 et ν_{i} > 0 pour 1 ≤ i ≤ k − 1.

En sommant les séries géométriques en p(F_{i})u, on trouve :

(∗∗)  S_{1}(u) = (1 − u)^{−1} ∑_{F} π_{F}A_{F}(u),

où

A_{F}(u) = \frac{1}{1 − p(X)u} ∏_{1≤i≤k−1} \frac{p(F_{i})u}{1 − p(F_{i})u}.

Chacun des A_{F}(u) étant une fraction rationnelle de la forme requise, le lemme s’ensuit.

Pour la fonction S_{2} le calcul est semblable. Les exposants ν_{i}, différences de nombres pairs, sont tous pairs, ce qui explique que S_{2}(u) est en fait une fraction rationnelle en u^{2}.

Il s’agit maintenant d’expliciter les résidus a(Y) et b(Y), ce qui est l’objet de la proposition suivante.

Proposition 2.3. — Les séries génératrices S_{1}(u) et S_{2}(u) valent :

S_{1}(u) = ∑_{ζ} \frac{Φ_{1}(x_{1}^{ζ_{1}}, …, x_{n}^{ζ_{n}})}{1 − u ∏_{i} x_{i}^{(1−ζ_{i})/2}} ;

S_{2}(u) = ∑_{ζ} \frac{Φ_{2}(x_{1}^{ζ_{1}}, …, x_{n}^{ζ_{n}})}{1 − u^{2} ∏_{i} x_{i}^{(1−ζ_{i})}} ;

dans les deux cas, la somme est sur ζ = (ζ_{1}, …, ζ_{n}) ∈ {±1}^{n}.

Le calcul des résidus se fait de la manière habituelle. Détaillons-le pour S_{1}. Tout d’abord, calculons a(∅). Pour cela, observons que :

S_{1}(u)(1 − u) = ∑_{λ} S_{λ}(x_{1}, …, x_{n})u^{λ_{1}},

la multiplication par (1 − u) remplaçant la condition λ_{0} ≥ λ_{1} par λ_{0} = λ_{1}. Il s’ensuit que :

a(∅) = S_{1}(u)(1 − u)|_{u=0} = Φ_{1}(x_{1}, …, x_{n}).

Pour les autres sous-ensembles Y, introduisons quelques notations. Posons Y′ = X\Y et −Y = {x_{i}^{−1} : x_{i} ∈ Y }. Les notations Φ_{1}(Y′) et Φ_{1}(−Y) désignent la fonction Φ_{1} lorsque les indéterminées sont respectivement les éléments de Y′ et les inverses de ceux de Y. Enfin, si F est une filtration de Z de longueur k, on note :

A_{F}(Z; u) = \frac{1}{1 − p(Z)u} ∏_{1≤i≤k−1} \frac{p(F_{i})u}{1 − p(F_{i})u}.

De la même manière, f étant l’application de Z dans {1, …, k} associée à F, on note :

π_{F}(Z) = ∏ \frac{x_{i}}{x_{i} − x_{j}} ,

où le produit est étendue aux couples (x_{i}, x_{j}) d’éléments de Z satisfaisant f(x_{i}) < f(x_{j}).

Soit donc à calculer a(Y) pour Y ⊂ X. En vertu de l’expression (∗∗), on a :

a(Y) = (1 − p(−Y))^{−1} ∑_{F} π_{F}A_{F}(X; u)(1 − p(Y)u)|_{u=p(−Y)}.

Si la filtration F ne contient pas Y, le terme correspondant dans la sommation précédente est nul. On se limite donc aux filtrations

F : ∅ = F_{0} ⊂ ⋯ ⊂ F_{t} = Y ⊂ ⋯ ⊂ F_{k} = X.

Pour une telle filtration,

(1 − u)^{−1}A_{F}(X; u)(1 − p(Y)u)

= \frac{1}{1 − u} ∏_{1≤i≤t−1} \frac{p(F_{i})}{1 − p(F_{i})u}p(Y)u ∏_{t+1≤i≤k−1} \frac{p(F_{i})u}{1 − p(F_{i})u} × \frac{1}{1 − p(X)u},

= \frac{1}{p(−Y)v} ∏_{1≤i≤t−1} \frac{p(−(Y \ F_{i}))v}{1 − p(−(Y \ F_{i}))v}

× v ∏_{t+1≤i≤k−1} \frac{p(F_{i} \ Y)v}{1 − p(F_{i} \ Y)v} × \frac{1}{1 − p(X \ Y)v} ,

la dernière égalité étant obtenue en posant v = p(Y)u.

Appelons F_{1} et F_{2} les filtrations de −Y et de Y′ = X \ Y définies par :

F_{1} : ∅ ⊂ −(Y \ F_{t−1}) ⊂ ⋯ ⊂ −(Y \ F_{1}) ⊂ −Y,
F_{2} : ∅ ⊂ F_{t+1} \ Y ⊂ ⋯ ⊂ F_{k−1} \ Y ⊂ X \ Y.

On peut alors écrire :

(1 − u)^{−1}a_{F}(X; u)(1 − p(Y)u) = vA_{F_{1}}(−Y; v)A_{F_{2}}(Y′; v).

De plus, on vérifie que :

π_{F}(X) = π_{F_{1}}(−Y)π_{F_{2}}(Y′)r(Y),

où r(Y) = ∏(1 − x_{i}^{−1}x_{j})^{−1}, le produit étant sur les couples x_{i} ∈ Y, x_{j} ∈ Y′. On a donc :

a(Y) = (1 − u)^{−1} ∑_{F} π_{F}(X)A_{F}(X; u)(1 − p(Y)u)|_{u=p(−Y)},

= vr(Y) ∑_{F_{1}} π_{F_{1}}(−Y)A_{F_{1}}(−Y; v) × ∑_{F_{2}} π_{F_{2}}(Y′)A_{F_{2}}(Y′; v)|_{v=1}.

En utilisant le résultat obtenu pour a(∅), qu’on peut aussi écrire :

Φ_{1}(X) = ∑_{F} π_{F}(X)A_{F}(X; u)|_{u=1},

on trouve :

a(Y) = r(Y)Φ_{1}(−Y)Φ_{1}(Y′).

En reportant l’expression de Φ_{1} donnée par le théorème 2.1, on obtient bien :

a(Y) = Φ_{1}(x_{1}^{ζ_{1}}, …, x_{n}^{ζ_{n}}),

où ζ_{i} = 1 si x_{i} ∉ Y et ζ_{i} = −1 si x_{i} ∈ Y. Avec cette écriture, on a aussi :

p(Y) = ∏_{i} x_{i}^{(1−ζ_{i})/2}.

Ceci démontre la proposition pour S_{1}(u).

Le calcul est exactement le même pour S_{2}(u).

3. Les systèmes de racines

La proposition 2.3 précédente va maintenant être récrite en utilisant le formalisme des systèmes de racines (cf. [2]). Nous aurons besoin des systèmes de type A_{n−1}, B_{n} et C_{n}. L’ensemble des racines est noté R_{i}, celui des racines positives R_{i}^{+}, la demi-somme de ces dernières ρ_{i}; l’indice i est 0 pour A_{n−1}, 1 pour B_{n} et 2 pour C_{n}.

Système de type A_{n−1} :

R_{0} : v_{i} − v_{j}, 1 ≤ i ≠ j ≤ n;
R_{0}^{+} : v_{i} − v_{j}, 1 ≤ i < j ≤ n;
2ρ_{0} = (n − 1)v_{1} + ⋯ + (n − 2i + 1)v_{i} + ⋯ + (−n + 1)v_{n}.

Système de type B_{n} :

R_{1} : ±v_{i}, 1 ≤ i ≤ n; ±v_{i} ± v_{j}, 1 ≤ i < j ≤ n;
R_{1}^{+} : v_{i}, 1 ≤ i ≤ n; v_{i} ± v_{j}, 1 ≤ i < j ≤ n;
2ρ_{1} = (2n − 1)v_{1} + ⋯ + (2n − 2i + 1)v_{i} + ⋯ + v_{n}.

Système de type C_{n} :

R_{2} : ±2v_{i}, 1 ≤ i ≤ n; ±v_{i} ± v_{j}, 1 ≤ i < j ≤ n;
R_{2}^{+} : 2v_{i}, 1 ≤ i ≤ n; v_{i} ± v_{j}, 1 ≤ i < j ≤ n;
2ρ_{2} = 2nv_{1} + ⋯ + (2n − 2i + 2)v_{i} + ⋯ + 2v_{n}.

On note aussi 2θ = v_{1} + v_{2} + ⋯ + v_{n}.

Les groupes de Weyl sont respectivement W_{0} = S_{n} agissant par permutation des vecteurs v_{i} pour A_{n−1} et W_{∗} = {±1}^{n} × S_{n} (produit semi-direct) agissant par permutation et changement de signe des vecteurs v_{i} pour B_{n} et C_{n}.

On utilisera essentiellement la formule de Weyl.

Théorème 3.1. (Formule de Weyl). — Les racines positives d’un système de racines réduit irréductible vérifient :

∑_{w∈W} ϵ(w)e^{wρ} = e^{ρ} ∏_{α∈R^{+}}(1 − e^{−α}),

où ϵ(w) est la signature de w.

En remplaçant x_{i} par l’exponentielle formelle e^{−v_{i}}, on peut écrire, partant du théorème 2.1 :

Φ_{1}(e^{−v_{1}}, …, e^{−v_{n}}) = \frac{∏_{i<j}(1 − e^{−(v_{i}−v_{j})})}{∏_{i}(1 − e^{−v_{i}}) ∏_{i<j}(1 − e^{−(v_{i}−v_{j})}) ∏_{i<j}(1 − e^{−(v_{i}+v_{j})})},

= ∏_{α∈R_{0}^{+}}(1 − e^{−α})/ ∏_{α∈R_{1}^{+}}(1 − e^{−α}),

= e^{ρ_{1}−ρ_{0}} ∑_{w∈W_{0}} ϵ(w)e^{wρ_{0}}/ ∑_{w∈W_{∗}} ϵ(w)e^{wρ_{1}},

ce qui, compte tenu de ρ_{1} − ρ_{0} = nθ = w(nθ) pour tout w ∈ W_{0}, fournit la proposition suivante, qui contient le résultat analogue pour Φ_{2} faisant intervenir le système C_{n}.

Proposition 3.2. — On a les identités :

Φ_{1}(e^{−v_{1}}, …, e^{−v_{n}}) = ∑_{w∈W_{0}} ϵ(w)e^{wρ_{1}}/ ∑_{w∈W_{∗}} ϵ(w)e^{wρ_{1}};

Φ_{2}(e^{−v_{1}}, …, e^{−v_{n}}) = ∑_{w∈W_{0}} ϵ(w)e^{wρ_{2}}/ ∑_{w∈W_{∗}} ϵ(w)e^{wρ_{2}}.

Le coefficient de u^{m} dans S_{1}(u) est, avec le formalisme précédent et comptetenu de la proposition 2.3 :

∑_{λ∈m^{n}} S_{λ}(e^{−v_{1}}, …, e^{−v_{n}}) = ∑_{ζ∈{±1}^{n}} Φ_{1}(e^{−ζv_{1}}, …, e^{−ζv_{n}}) ∏_{i} e^{(−mv_{i}+mζv_{i})/2},

= e^{−mθ} ∑_{ζ∈{±1}^{n}} e^{mζθ}Φ_{1}(e^{−ζv_{1}}, …, e^{−ζv_{n}}).

Puisque le groupe W_{∗} est produit semi-direct de W_{0} et de {±1}^{n}, en utilisant la proposition 3.2, on a :

Φ_{1}(e^{−ζv_{1}}, …, e^{−ζv_{n}}) = ∑_{w∈W_{0}} ϵ(w)e^{ζwρ_{1}}/ ∑_{w∈W_{∗}} ϵ(w)e^{ζwρ_{1}},

= ∑_{ζ^{−1}w∈W_{0}} ϵ(ζ^{−1}w)e^{wρ_{1}}/ ∑_{w∈W_{∗}} ϵ(w)e^{wρ_{1}}.

En écrivant que θ est invariant sous l’action de W_{0}, et donc que ζθ = ζζ^{−1}wθ = wθ, le coefficient de u^{m} dans S_{1}(u) se transforme en quotient de deux sommes. Le calcul est analogue pour le coefficient de u^{2m} dans S_{2}(u).

Lemme 3.3. — Les sommes de fonctions de Schur de forme contenue dans un rectangle donné valent :

∑_{λ∈m^{n}} S_{λ}(e^{−v_{1}}, …, e^{−v_{n}}) = e^{−mθ} ∑_{w∈W_{∗}} ϵ(w)e^{w(mθ+ρ_{1})}/ ∑_{w∈W_{∗}} ϵ(w)e^{wρ_{1}};

∑_{λ∈(2m)^{n}} S_{λ}(e^{−v_{1}}, …, e^{−v_{n}}) = e^{−2mθ} ∑_{w∈W_{∗}} ϵ(w)e^{w(2mθ+ρ_{2})}/ ∑_{w∈W_{∗}} ϵ(w)e^{wρ_{2}},

la seconde somme ne portant que sur les partitions paires.

On va maintenant spécialiser les variables. Soit f = ∑_{i} f_{i}v_{i}, on va remplacer dans le lemme précédent e^{−v_{i}} par q^{f_{i}} = q^{⟨v_{i},f⟩}. Le terme e^{w(mθ+ρ_{1})} est donc remplacé par q^{−⟨w(mθ+ρ_{1}),f⟩} qui, puisque w est une isométrie, vaut q^{−⟨mθ+ρ_{1},w^{−1}f⟩}, d’où découle le lemme suivant.

Lemme 3.4.

∑_{λ∈m^{n}} S_{λ}(q^{f_{1}}, …, q^{f_{n}})

= q^{m⟨θ,f⟩} ∑_{w∈W_{∗}} ϵ(w)q^{−⟨mθ+ρ_{1},wf⟩}/ ∑_{w∈W_{∗}} ϵ(w)q^{−⟨ρ_{1},wf⟩};

∑_{λ∈(2m)^{n}} S_{λ}(q^{f_{1}}, …, q^{f_{n}})

= q^{2m⟨θ,f⟩} ∑_{w∈W_{∗}} ϵ(w)q^{−⟨2mθ+ρ_{2},wf⟩}/ ∑_{w∈W_{∗}} ϵ(w)q^{−⟨ρ_{2},wf⟩},

la seconde somme ne portant que sur les partitions paires.

Dans le lemme précédent, on va remplacer f par ρ_{2}, puis par 2ρ_{1}, ce qui nous donnera les deux théorèmes 1.1 et 1.2. Nous n’allons en fait détailler que la démonstration de la formule de Gordon, les trois autres s’obtenant sans difficulté de la même manière.

Faisons donc f = ρ_{2} dans lqa première identité du lemme 3.4. Pour évaluer les sommes qui apparaissent alors, on peut de nouveau utiliser la formule de Weyl :

∑_{w∈W_{∗}} ϵ(w)q^{−⟨mθ+ρ_{1},wρ_{2}⟩} = q^{−⟨mθ+ρ_{1},ρ_{2}⟩} ∏_{α∈R_{2}^{+}}(1 − q^{⟨mθ+ρ_{1},α⟩}).

Pour terminer, il reste à évaluer les produits scalaires ⟨mθ + ρ_{1}, α⟩. Compte tenu des valeurs de θ, ρ_{1} et des possibilités pour α, trois cas se présentent :

⟨mθ + ρ_{1}, 2v_{i}⟩ = m + 2n − 2i + 1, 1 ≤ i ≤ n;
⟨mθ + ρ_{1}, v_{i} + v_{j}⟩ = m + n − i + n − j + 1, 1 ≤ i < j ≤ n;
⟨mθ + ρ_{1}, v_{i} − v_{j}⟩ = j − i, 1 ≤ i < j ≤ n.

Après simplifications, il vient donc :

∑_{λ∈m^{n}} S_{λ}(q^{n}, …, q) = ∏_{α∈R_{2}^{+}} \frac{1 − q^{⟨mθ+ρ_{1},α⟩}}{1 − q^{⟨ρ_{1},α⟩}} ,

= ∏_{i} \frac{1 − q^{m+2n−2i+1}}{1 − q^{2n−2i+1}} ∏_{i<j} \frac{1 − q^{m+n−i+n−j+1}}{1 − q^{n−i+n−j+1}} .

Le changement d’indices j ← n − i + 1 et i ← n − j + 1 donne exactement la formule de Gordon.

Bibliographie

[1] Andrews, G.E. — MacMahon’s conjecture on symmetric plane partitions, Proc. Nat. Acad. Sci. U.S.A., t. 74, 1977, p. 426–429.

[2] Bourbaki, N. — Groupes et algébres de Lie, ch. IV, V, VI [Éléments de Mathématiques, Fasc. 34]. — Paris, Hermann, 1968.

[3] Desainte-Catherine, M. et Viennot, G. — Enumeration of certain Young tableaux with bounded height, [Colloque de combinatoire énumérative, U.Q.A.M., Montréal, 1985], G. Labelle, P. Leroux, eds., Lecture Notes in Math., vol. 1234, Springer–Verlag, Berlin, Heidelberg, New York, 1986, pp. 58–67.

[4] Désarménien, J. — The analogs of the Gordon and MacMahon identities for even partitions, en préparation.

[5] Littlewood, D.E. — The theory of group characters, 2nd ed. — Oxford University Press, 1950.

[6] Macdonald, I.G. — Symmetric functions and Hall polynomials. — Oxford, Clarendon Press, 1979.

[7] MacMahon, P.A. — Combinatorial Analysis I, II. — Cambridge University Press, 1915, 1916 [=New York, Chelsea, 1960].

[8] Stanley, R.P. — Theory and applications of plane partitions I, II, Studies Appl. Math., t. 50, 1971, p. 167–188, 259–279.