Orbite nilpotente minimale

Thierry Levasseur et Patrice Tauvel

1. Notations

1.1. Dans toute la suite, 𝕜 est un corps commutatif algébriquement clos de caractéristique nulle et 𝔤 une 𝕜-algèbre de Lie simple de dimension finie et de rang l. Toutes les notions topologiques utilisées sont relatives à la topologie de Zariski sur 𝔤. On désigne par G le groupe adjoint de 𝔤 et par K sa forme de Killing. Le cardinal d’un ensemble fini E sera noté #E.

1.2. On fixe une sous-algèbre de Cartan 𝔥 de 𝔤. Soient R le système de racines du couple (𝔤, 𝔥), B une base de R, R^{+} (resp. R^{−}) l’ensemble des racines positives (resp. négatives) relativement à B. Pour α ∈ R, 𝔤^{α} est l’espace radiciel associé à α. On pose :

𝔫 = ∑_{α∈R^{+}} 𝔤^{α}, 𝔟 = 𝔥 ⊕ 𝔫.

Si λ, μ ∈ 𝔥^{∗}, on note (λ|μ) = K(H_{λ}, H_{μ}) où, pour ν ∈ 𝔥^{∗}, H_{ν} est l’unique élément de 𝔥 vérifiant K(H_{ν}, H) = ν(H) pour tout H ∈ 𝔥.

1.3. On note θ la plus grande racine de R définie par B, H l’élément de [𝔤^{θ}, 𝔤^{−θ}] vérifiant θ(H) = 2, et E, F des éléments de 𝔤^{θ} et 𝔤^{−θ} tels que [E, F] = H.

1.4. Dans la suite, l’expression “sous-algèbre parabolique” signifiera “sous-algèbre parabolique de 𝔤 distincte de 𝔤”.

Soient Σ une partie non vide de B et T (Σ) l’ensemble des racines combinaisons linéaires à coefficients négatifs ou nuls des éléments de B\Σ. On pose :

𝔭(Σ) = 𝔟 + ∑_{α∈T (Σ)} 𝔤^{α}.

Alors 𝔭(Σ) est une sous-algèbre parabolique contenant 𝔟 et toute sous-algèbre parabolique contenant 𝔟 s’obtient de cette manière ([1], p.89). On notera l(𝔤) la codimension minimale des sous-algèbres paraboliques.

1.5. Pour X ∈ 𝔤, on note 𝔤^{X} le centralisateur de X dans 𝔤 et O_{X} la G-orbite de X. On a dim O_{X} = codim 𝔤^{X}. Soit N (resp. D) l’ensemble des éléments nilpotents (resp. semi-simples) non nuls de 𝔤. On pose :

n(𝔤) = min{dim O_{X}; X ∈ 𝔤\{0}}, S = {X ∈ 𝔤; dim O_{X} = n(𝔤)},
n_{1}(𝔤) = min{dim O_{X}; X ∈ N }, n_{2}(𝔤) = min{dim O_{X}; X ∈ D}.

Le but de ce travail est de retrouver, avec des méthodes élémentaires n’utilisant pas les tables des systèmes de racines, les résultats de [4] concernant S. Indiquons aussi pourquoi certaines preuves de [4] à ce sujet sont inexactes. Nous utilisons, dans cet alinéa, les notations des tables de [1], p. 250-275.

Soit Γ = {α ∈ R; (α|θ) > 0}. Définissons k(𝔤) par 2k(𝔤) = 1 + #Γ. Dans [4], lemme 3.1, (qui est essentiel pour la preuve du résultat principal du paragraphe 3), il est affirmé :

Si 𝔤 n’est pas de type A_{l}, et si 𝔭 est une sous-algèbre parabolique vérifiant 1+codim 𝔭 ≤ 2k(𝔤), alors 𝔭 est maximale. En outre, si la racine simple qui définit 𝔭 a un coefficient strictement supérieur à 1 dans θ, alors 1 + codim 𝔭 = 2k(𝔤).

Ces deux affirmations sont inexactes :

a) Dans une algèbre de type D_{4}, on obtient k(𝔤) = 5. Les sous-algèbres paraboliques 𝔭(α_{1}, α_{3}), 𝔭(α_{1}, α_{4}) et 𝔭(α_{3}, α_{4}) ne sont pas maximales, et ont pour codimension 9. Elles vérifient l’inégalité 1 + codim 𝔭 ≤ 2k(𝔤).

b) Dans une algèbre de type B_{3} (resp. B_{4}), on a k(𝔤) = 4 (resp. k(𝔤) = 6). La sousalgèbre parabolique maximale 𝔭(α_{3}) (resp. 𝔭(α_{4})) est de codimension 6 (resp. 10). Elle vérifie l’inégalité stricte 1 + codim 𝔭 < 2k(𝔤). Pourtant, α_{3} (resp. α_{4}) a un coefficient égal à 2 dans θ.

2. Les résultats

2.1. Soit X ∈ 𝔤\{0}. On définit une forme bilinéaire alternée sur 𝔤 par

K_{X}(Y, Z) = K(X, [Y, Z])  (Y, Z ∈ 𝔤)

Le noyau de K_{X} est 𝔤^{X}, et la dimension d_{X} d’un sous-espace totalement isotrope maximal pour K_{X} est donnée par 2d_{X} = dim 𝔤 + dim 𝔤^{X}. Un sous-espace totalement isotrope pour K_{X} est dit subordonné à X. Une polarisation en X est une sous-algèbre de 𝔤 qui est un sous-espace totalement isotrope maximal pour K_{X}. On dit que X (ou O_{X}) est polarisable s’il existe une polarisation 𝔭 en X. S’il en est ainsi, 𝔭 est une sous-algèbre parabolique ([3], lemme 1.1) et dim O_{X} = 2 codim 𝔭.

2.2. Lemme. (i) Tout élément de S est ou nilpotent ou semi-simple.

(ii) On a n(𝔤) = n_{1}(𝔤) ≤ 2l(𝔤) = n_{2}(𝔤).

Preuve. (i) Soient X un élément non nilpotent et non semi-simple de 𝔤, et X = S + N sa décomposition de Jordan avec S semi-simple. On a 𝔤^{X} = 𝔤^{S} ∩ 𝔤^{N}. Pour montrer que X ∉ S, il suffit donc de prouver que 𝔤^{S} ≠ 𝔤^{N}.

D’après le théorème de Jacobson-Morosov, il existe T ∈ 𝔤 tel que [T, N] = 2N. Ecrivons T = ∑_{λ∈𝕜} T_{λ}, avec [S, T_{λ}] = λT_{λ} pour tout λ ∈ 𝕜. Il vient immédiatement [T_{0}, N] = 2N. Ainsi, T_{0} ∈ 𝔤^{S} et T_{0} ∉ 𝔤^{N}.

(ii) Soient 𝔭 une sous-algèbre parabolique et X un élément non nul du radical nilpotent de 𝔭. On a K(X, 𝔭) = 0, donc 𝔭 est subordonnée à X. Il en résulte que dim 𝔭 ≤ d_{X}, puis dim O_{X} ≤ 2 codim 𝔭. Par suite, n_{1}(𝔤) ≤ 2l(𝔤).

Soient S un élément semi-simple non nul de 𝔤, 𝔥_{1} une sous-algèbre de Cartan de 𝔤 contenant S, et R_{1} le système de racines associé. Alors R′_{1} = {α ∈ R_{1}; α(S) = 0} est un système de racines dans le sous-espace vectoriel de 𝔥_{1}^{∗} qu’il engendre et, pour toute base B′_{1} de R′_{1}, il existe une base B_{1} de R_{1} contenant B′_{1} ([1], p.165). A G-conjugaison près, on peut supposer 𝔥_{1} = 𝔥, R_{1} = R, B_{1} = B. Si 𝔭 = 𝔭(B\B′_{1}), il vient :

[𝔭, 𝔭] ⊂ ∑_{α∈R′_{1}} 𝕜H_{α} + ∑_{α∈R} 𝔤^{α}.

On en déduit immédiatement que 𝔭 est une polarisation en S. Alors d_{S} = 2 codim 𝔭 et n_{2}(𝔤) ≥ 2l(𝔤).

Soit Σ une partie non vide de B. Il existe un unique élément S de 𝔥 tel que α(S) = 0 si α ∈ B\Σ et α(S) = 1 si α ∈ Σ. On voit alors comme précédemment que 𝔭(Σ) est une polarisation en S, et on en déduit n_{2}(𝔤) ≤ 2l(𝔤).

Compte-tenu de ce qui précède et de (i), on obtient alors n(𝔤) = n_{1}(𝔤). □

2.3. Soient N un élément nilpotent non nul et (N, S, M) un 𝔰l(2)-triplet de 𝔤, avec S semi-simple. A G-conjugaison près, on peut supposer que N ∈ 𝔫, S ∈ 𝔥, et α(S) ∈ {0, 1, 2} pour tout α ∈ B ([2], p.164). On a donc θ(S) ≥ α(S) pour tout α ∈ R. On pose :

𝔤_{S}(i) = {X ∈ 𝔤; [S, X] = iX}  (i ∈ ℤ)

𝔭_{S} = ∑_{i≥0} 𝔤_{S}(i), 𝔤_{S}^{2} = ∑_{i≥2} 𝔤_{S}(i).

On a 𝔤^{θ} ⊂ 𝔤_{S}^{2}, et 𝔭_{S} est une polarisation en S, donc une sous-algèbre parabolique. D’autre part, compte-tenu des résultats bien connus concernant les représentations de 𝔰𝔩(2), on a dim 𝔤^{N} = dim 𝔤_{S}(0) + dim 𝔤_{S}(1), et l’application 𝔭_{S} → 𝔤_{S}^{2}, X → [X, N] est surjective.

2.4. Proposition. On conserve les notations de 1.3 et 2.3. Alors O_{E} est l’unique Gorbite nilpotente de dimension n(𝔤) et, pour tout élément nilpotent non nul N de 𝔤, on a O_{E} ⊂ \overline{O_{N}}.

Preuve. Soit P_{S} le plus petit sous-groupe algébrique de G d’algèbre de Lie 𝔭_{S}. Pour g ∈ P_{S}, on a g(N) ∈ 𝔤_{2}^{S}, d’où une application P_{S} → 𝔤_{S}^{2}, g → g(N) dont la différentielle est l’application surjective 𝔭_{S} → 𝔤_{S}^{2}, X → [X, N]. Il vient donc 𝔤_{S}^{2} ⊂ \overline{P (N)} ⊂ \overline{O_{N}}.

Comme E ∈ 𝔤_{S}^{2}, on a obtenu O_{E} ⊂ \overline{O_{N}}. Comme toute G-orbite est irréductible et ouverte dans son adhérence, et que n(𝔤) = n_{1}(𝔤) d’après 2.2, on a obtenu le résultat. □

2.5. Envisageons le cas où (N, S, M) = (E, H, F). Comme θ(H) = 2, on obtient α(H) ∈ {0, 1, 2} pour tout α ∈ R^{+}. D’où 𝔤_{H}(i) = {0} si i ≥ 3.

Soient α ∈ R^{+}\{θ} vérifiant α(H) > 0, et β = θ − α. On a (θ|α) > 0, donc β ∈ R ([1], p.148). Comme 2(θ|α) = (θ|θ) ([1], p.165), on obtient β(H) > 0. Par conséquent, α(H) = β(H) = 1. On en déduit 𝔤_{H}(2) = 𝕜E, et 𝔭 = 𝔤_{H}(0) + 𝔤_{H}(1) + 𝕜E.

D’autre part, comme dim 𝔤^{E} = dim 𝔤_{H}(0) + dim 𝔤_{H}(1) et [H, E] = 2E, il vient 𝔭_{H} = 𝔤^{E} ⊕ 𝕜H.

2.6. Posons

π = {α ∈ B; (α|θ) > 0}, δ = ∑_{α∈B} α.

On a 𝔭_{H} = 𝔭(π) et δ ∈ R ([1], p.160).

Lemme. On suppose l ≥ 2. Alors :

(i) Pour α ∈ B, on a α(H) ∈ {0, 1}.

(ii) On a 0 < #π ≤ 2 et #π = 2 si et seulement si δ = θ.

Preuve. (i) Comme 𝔤_{H}(2) = 𝕜E, si α ∈ B vérifie α(H) = 2, on obtient α = θ, donc l = 1. Contradiction.

(ii) De 𝔤_{H}(2) ≠ {0}, on déduit π ≠ ∅. Si #π ≥ 3, on obtient δ(H) ≥ 3, ce qui est absurde.

Supposons π = {α, β}, avec α ≠ β. D’après (i), on a α(H) = β(H) = 1, donc δ(H) = 2, et δ = θ. La réciproque est claire d’après (i). □

2.7. Lemme. (i) Si E est polarisable, alors 𝔭_{H} ⊂ 𝔮 pour toute polarisation 𝔮 en E. (ii) Si #π = 1 et l ≥ 2, E n’est pas polarisable et n(𝔤) < 2l(𝔤).

Preuve. (i) Soit 𝔮 une polarisation en E. On a K(E, H) = 0 et K([E, 𝔮], 𝔮) = K(E, [𝔮, 𝔮]) = 0. On en déduit que l’élément nilpotent E appartient au radical nilpotent de 𝔮, donc K(E, 𝔮) = 0. Il en résulte que 𝔮 + 𝕜H est subordonné à E, d’où H ∈ 𝔮. On sait que 𝔤^{E} ⊂ 𝔮, donc 𝔭_{H} ⊂ 𝔮 d’après 2.5.

(ii) Comme 𝔭_{H} = 𝔭(π), si #π = 1, 𝔭_{H} est une sous-algèbre parabolique maximale de 𝔤. Si E est polarisable, 𝔭_{H} est donc l’unique polarisation en E d’après (i). Comme 𝔭_{H} est aussi une polarisation en H, on obtient dim 𝔤^{H} = dim 𝔤^{E} = dim 𝔤_{H}(0) + dim 𝔤_{H}(1). Ainsi, 𝔤_{H}(1) = {0}. C’est absurde car, #π ≤ dim 𝔤_{H}(1) d’après 2.6.

Si n(𝔤) = 2l(𝔤), toute sous-algèbre parabolique contenant 𝔟 et de codimension l(𝔤) est une polarisation en E. Contradiction. □

2.8. Il est bien connu (et ceci, sans utiliser les tables des systèmes de racines) que δ = θ si et seulement si R est de type A_{l}. On a donc obtenu le résultat suivant :

Proposition. Si 𝔤 n’est pas de type A_{l}, il existe dans 𝔤 une unique orbite non nulle O de dimension minimale. Cette orbite est nilpotente et, pour tout élément nilpotent non nul N de 𝔤, on a O ⊂ \overline{O_{N}}.

2.9. Conservons les notations de 2.5, et supposons #π = 2, soit R de type A_{l}, avec l ≥ 2. Comme θ est la seule racine positive α telle que α(H) = 2, on voit que les éléments de π sont nécessairement les sommets terminaux d’un graphe de Dynkin associé à B. Notons ces sommets α_{1}, α_{l}. On a 𝔭_{H} = 𝔭(α_{1}, α_{l}). Les seules sous-algèbres paraboliques contenant strictement 𝔭_{H} sont 𝔭(α_{1}) et 𝔭(α_{l}). Elles sont subordonnées à E et ont pour codimension l. D’après 2.7,(i), ce sont donc les seules polarisations en E.

Bibliographie

[1] N. BOURBAKI, Groupes et algèbres de Lie, Chap. IV-VI, Masson 1981.

[2] N. BOURBAKI, Groupes et algèbres de Lie, Chap. VII-VIII, CCLS Diffusion, 1975.

[3] J. DIXMIER, Polarisations dans les algèbres de Lie II, Bull. Soc. math. France, 104, (1976), 145-164.

[4] A. JOSEPH, The minimal orbit in a simple Lie algebra and its associated maximal ideal, Ann. scient. Ec. Norm. Sup., 9 (1976), 1-30.

Université de Poitiers

Département de mathématiques

40, Avenue du Recteur Pineau

86022 Poitiers Cedex, France