La Catégorie des Représentations du Groupe Symétrique St
Transcription
La Catégorie des Représentations du Groupe Symétrique St
Proceedings of the International Colloquium on Algebraic Groups and Homogeneous Spaces January 2004, TIFR, Mumbai. La Catégorie des Représentations du Groupe Symétrique St , lorsque t n’est pas un Entier Naturel P. Deligne Abstract Soient k un corps de caractéristique 0 et t dans k, supposé ne pas être un entier ≥0. Nous construisons une catégorie tensorielle semi-simple Rep(St ) qui “interpole” les catégories des représentations linéaires (sur k) des groupes symétriques Sn , n grand. En une valeur entière ≥0 de t, au moins deux catégories tensorielles “spécialisation” de Rep(St ) existent, l’une la catégorie des représentations de St , l’autre non semi-simple. La théorie reproduit, en plus simple, des résultats connus analogues pour les groupes linéaires ou orthogonaux, qui seront rappelés. Let k be a field of characteristic 0. For t in k which is not an integer ≥0, we construct a semi-simple tensor category Rep(St ) which “interpolates” the categories of linear representations (over k) of the symmetric groups Sn , n large. When t becomes a natural integer, Rep(St ) can be “specialized” to a tensor category in at least two ways: as the usual category of representations of St , or as a non semi-simple tensor category. Known parallel results for the series of linear or orthogonal groups will be recalled in sections 9 and 10. Introduction Si G est un schéma en groupe affine sur un corps k, la catégorie Rep(G) des représentations linéaires de dimension finie de G sur k est une catégorie abélienne. Elle est munie du foncteur produit tensoriel de représentations ⊗ : Rep(G) × Rep(G) → Rep(G). Ce foncteur est ACU , i.e. il est muni de contraintes d’associativité et de commutativité, et il admet un objet 1 2 P. Deligne unité 1. Il est rigide, i.e. chaque objet X admet un dual X ∨ ; un objet muni de δ : → X ⊗ X ∨ et de ev : X ∨ ⊗ X → 1 tels que les morphismes composés X X∨ δ⊗X X ∨ ⊗δ / X ⊗ X∨ ⊗ X X⊗ev /X ∨ / X ∨ ⊗ X ⊗ X ∨ ev ⊗X / X ∨ ∼ soient une identité. Enfin, k −→ End(1). En d’autres termes, Rep(G) est, dans la terminologie de (Deligne 1990) 2.1, une catégorie tensorielle sur k. Si k est algébriquement clos, la catégorie tensorielle Rep(G) détermine G à isomorphisme près (Saavedra 1972). De ce point de vue, les catégories tensorielles généralisent les schémas en groupes affines. On dispose d’autres exemples de catégories tensorielles que les Rep(G), mais on n’a aucune idée de comment les classifier toutes, ni même celles qui sont semi-simples de ⊗-génération finie (et par là analogues aux catégories Rep(G) pour G un groupe algébrique extension d’un groupe fini par un groupe réductif). Une autre exemple de catégorie tensorielle est la catégorie des super représentations d’un super schéma en groupe affine G. Une variante plus naturelle est de considérer G muni de ε : μ2 → G tel que l’action intérieure de μ2 sur l’algèbre affine O(G) de G définisse la graduation mod 2 de O(G), et la catégorie Rep(G, ε) des super représentations V pour lesquelles l’action de μ2 donne la graduation mod 2 de V . En caractéristique p, S. Gelfand et D. Kazhdan (1992) ont construit de nouvelles catégories tensorielles semi-simples comme “sous-quotients” de catégories de représentations. Par contre, sur k algébriquement clos de caractéristique 0, les seules catégories tensorielles que je connaisse sont obtenues par “interpolation” de catégories Rep(G, ε). Voici une méthode d’interpolation: on part d’une famille infinie de catégories tensorielles Ci sur k, d’un ultrafiltre non trivial F sur l’ensemble d’indices I, et on prend l’ultraproduit C des Ci . Un objet de C est donc une famille (Xi ) d’objets des Ci , un morphisme (Xi ) → (Yi ) est un germe selon F de famille de morphismes Xi → Yi et le produit tensoriel est donné par (Xi ) ⊗ (Yi ) = (Xi ⊗ Yi ). La catégorie C est tensorielle sur le corps kF ultrapuissance de k. Elle est peu sympathique en ce que, même si les Ci sont des catégories de représentations de groupes algébriques linéaires, des groupes Hom dans C seront de dimension infinie. Pour faire mieux, on peut partir de catégories tensorielles Ci sur k, chacune étant munie d’un objet Xi , et considérer la sous-catégorie tensorielle pleine C de C engendrée par X = (Xi ). Les objets de C sont donc les sous-quotients des sommes de T r,s (X) := X ⊗r ⊗ X ∨⊗s . Supposons que La Catégorie des Représentations du Groupe... 3 (∗) Quels que soient r et s, l’objet T r,s (Xi ) de Ci est de longueur finie, bornée indépendamment de i. Sous cette hypothèse, les objets de C sont de longueur finie, et les groupes Hom sont donc de dimension finie sur kF (considérer Hom(X, Y ) et appliquer 3.2.4). La définition par ultraproduit est quelque peu théologique. Dans de bons cas, on peut associer à chaque i un paramètre λi dans k, qui décrit (Ci , Xi ), et C peut être construite purement en terme de λ = (λi ) ∈ kF . Plus précisément, pour k1 une extension de k et λ1 ∈ k1 transcendant sur k, on peut construire une catégorie tensorielle C(λi ) sur k1 , qui donne C quand on prend k1 = kF et λ1 = (λi ). Le rôle des ultraproduits n’est plus que d’avoir attiré l’attention sur le condition (∗). Le cas “λ1 transcendant” est le cas facile. Plus intéressant, et plus difficile, est de prendre λ1 quelconque dans une extension k1 de k, ou au moins de comprendre quelles valeurs de λ1 sont “singulières”, et comment. On suppose dorénavant k de caractéristique 0. Le cas traité dans l’article est le suivant: I: l’ensemble des entiers ≥0; Cn : la catégorie des représentations de Sn ; Xn : la représentation de permutation sur k n ; paramètre: n; valeurs singulières: les entiers ≥0. Les cas suivants sont essentiellement connus et seront rappelés: I= l’ensemble des entiers ≥0; Cn = Rep(GL(n)) (resp Rep(O(n)); représentation évidente; Xn = paramètre: n; valeurs singulières: Z. Dans le cas où Ci est la catégorie des représentations d’un groupe fini Gi , et où Xi est la représentation de permutation définie par une action de Gi sur un ensemble fini Bi , la condition (∗) équivaut à (∗ ) quel que soit r, le nombre d’orbites de Gi dans Bir est borné indépendamment de i. Voici des exemples où la condition (∗ ) est vérifiée. Dans chacun, on fixe un corps fini Fq et I est l’ensemble des entiers ≥0. (A) Gn = GL(n, Fq ), Bn = Fnq ; (B) Gn = O(n, Fq ), Bn = Fnq ; (C) Gn = Sp(2n, Fq ), Bn = F2n q . Dans le cas (A), on peut prendre pour paramètre λn := q n , et je conjecture que les valeurs singulières du paramètre sont les q n pour n entier ≥0. 4 P. Deligne Je remercie le referee d’une lecture attentive, qui m’a amené à corriger plusieurs points obscurs. 1 Terminologie et Notations 1.1. On utilisera les notations suivantes. k: corps de caractéristique 0, fixé dans toute la suite. Pour I un ensemble fini: SI : groupe symétrique des permutations de I; k I : espace vectoriel sur k librement engendré par I; (ei )i∈I : sa base évidente. Si I = {1, . . . , n}, on écrit Sn (resp. k n ) plutôt que SI (resp. k I ). 1.2. Soit ( , ) la forme bilinéaire symétrique sur k I définie par (ei , ej ) = δij . Elle identifie k I à son dual. Regardant k I comme l’espace des fonctions de I dans k, par u → Σu(i)ei , on définit sur k I une structure d’algèbre par (u.v)(i) = u(i)v(i). Pour cette structure d’algèbre, on a (u, v) = Tr(uv). 1.3. Le foncteur I → k I étant un adjoint à gauche, il respecte les limites inductives, et en particulier transforme sommes disjointes en sommes directes. Il transforme produits finis en produits tensoriels, par ⊗ k Ij −∼→k j∈J Q Ij : ⊗ ea(j) −→ e(a(j))j∈J . 1.4. Si un groupe G agit sur I, il agit sur k I par transport de structures: gei = egi . On appelle la représentation linéaire k I de G la représentation de permutation définie par le G-ensemble I. La forme ( , ) et la structure d’algèbre de 1.2 sont G-invariantes. Le foncteur I → k I transforme encore sommes disjointes (resp. produits finis) de G-ensembles en sommes directes (resp. produits tensoriels) de représentations. 1.5. Soit (Uj )j∈J une famille finie d’ensembles finis. Un recollement des Uj est un ensemble fini A muni d’une famille d’injections fj : Uj → A telle que A soit la réunion des fj (Uj ). Les Uj étant considérés comme fixes, une donnée de recollement sur les Uj est une classe d’isomorphie de recollements. Si r est une donnée La Catégorie des Représentations du Groupe... 5 de recollement, et (fj : Uj → A) un représentant de r, A est déterminé à isomorphisme unique près par r. Ceci rend anodin l’abus de langage, que nous nous permettrons, de dire “recollement” pour “donnée de recollement”. Par exemple, de dire “somme sur les recollements (fj : Uj → A) des Uj de φ(A)” pour “somme sur les données de recollements r sur les Uj de φ(Ar ), pour (fj : Uj → Ar ) un représentant de r”. Une donnée de recollement sur les Uj s’identifie à une relation d’équivalence R sur la somme disjointe des Uj qui induise l’équivalence discrète x = y sur chaque Uj : à R associer les Uj → (Uj ) /R. Pour J = {1, 2}, elle s’identifie aussi à la donnée de sous-ensembles Uj ⊂ Uj et d’une bijection ϕ : U1 → U2 : lui associer les Uj → U1 ϕ U2 . Pour K ⊂ J et (fj : Uj → A) un recollement des Uj , le recollement induit des Uj (j ∈ K) est la famille des fj : Uj → ∪ fj (Uj ). j∈K 1.6. Soit A un anneau commutatif. Une catégorie A est dite A-linéaire si les groupes Hom sont munis de structures de A-module pour lesquelles la composition est bilinéaire. Pour B une A-algèbre commutative, A ⊗A B est alors la catégorie déduite de A par extension des scalaires de A à B: mêmes objets, et Hom(X, Y ) = HomA (X, Y ) ⊗A B. 1.7. Soit A A-linéaire. L’enveloppe additive Aadd de A est la catégories additive A-linéaire des sommes formelles finies d’objets de A: objets: familles finies (Aj )j∈J d’objets de A; morphismes (Aj )j∈J → (Bk )k∈K : matrice (fkj ) de morphismes Aj → Bk ; composition: produit matriciel. 1.8. Une catégorie pseudo-abélienne (SGA4 I 8.7.8 dit “additive et karoubienne”) est une catégorie additive dans laquelle tout endomorphisme idempotent est la projection sur un facteur direct. L’enveloppe pseudo-abélienne Aps ab d’une catégorie A-linéaire A est la catégorie A-linéaire pseudo-abélienne des facteurs directs formels (images d’endomorphismes idempotents) de sommes formelles finies d’objets de A. Voir SGA4 loc. cit. 1.9. Notons HomA (A1 , A2 ) la catégorie des foncteurs A-linéaires de A1 dans A2 . Les constructions 1.7 et 1.8 ont une propriété universelle: si B est A-linéaire et additive (resp. pseudo-abélienne), le foncteur de restriction HomA (Aadd , B) → HomA (A, B) (resp. HomA (Aps ab , B) → HomA (A, B)) est une équivalence. Il “revient au même” de se donner un foncteur Alinéaire de A dans B ou de Aadd (resp. Aps ab ) dans B. 6 P. Deligne Un foncteur A-bilinéaire A × A → Aadd se prolonge donc en un foncteur A-bilinéaire Aadd ×Aadd → Aadd , et ce prolongement est unique à isomorphisme unique près. De même avec “add” remplacé par “ps ab”. Si la catégorie A-linéaire A est munie d’un produit tensoriel A-bilinéaire ACU (associatif, commutatif, à unité), Aadd et Aps ab en héritent. Si le produit tensoriel de A est rigide, celui de Aadd (resp. Aps ab ) l’est aussi. 1.10. Une partition λ est une suite décroissante d’entiers (λa )a≥1 , nuls pour a assez grand. On pose |λ| = Σλa et on dit que λ est une partition de si |λ| = . On regarde une suite λ1 ≥λ2 ≥ · · · ≥λr comme une partition en la prolongeant par des zéros. La partition λ∗ transposée d’une partition λ est caractérisée par l’équivalence entre λi ≥j et λ∗j ≥i. Si λ est une partition de , on notera encore λ les objets suivants attachés à λ. (A) La classe d’isomorphie de représentations irréductibles de S correspondante; sa classe dans le groupe de Grothendieck R(S ) des représentations de S , et son caractère. La représentation triviale de S correspond à la partition grossière de . (B) Pour N assez grand pour que λN +1 = 0: le poids dominant (λ1 , . . . , λN ) de GL(N ). On supposera choisie pour chaque et chaque partition λ de une représentation irréductible de classe λ de S . La catégorie des ensembles U à éléments et des bijections entre eux étant équivalente à sa sous-catégorie pleine réduite à l’objet {1, . . . , }, il revient au même de se donner une telle représentation Vλ , ou un foncteur U → Vλ [U ]. En particulier, le choix de Vλ définit, pour tout ensemble U à éléments, une représentation de SU , que nous noterons encore λ. Elle est déduite de Vλ par torsion par le S -torseur des bijections de {1, . . . , } avec U . Dans ce qui précède, le corps de base est Q. On pourrait même prendre l’anneau de base Z(1/!), Le cas d’autres corps ou anneaux de base s’en déduit par extension des scalaires. Si X est une représentation de SU , on pose Xλ := Hom(λ, X). (1.10.1) On sait que Q[SU ]−∼→ End(λ) (1.10.2) |λ|= et il résulte que l’application SU -équivariante naturelle ∼ Xλ ⊗ λ−→ X |λ|= (1.10.3) La Catégorie des Représentations du Groupe... 7 est un isomorphisme. Cette construction garde un sens pour X dans une catégorie pseudo-abélienne Z(1/!)-linéaire. 2 La Catégorie Rep(St ) 2.1. Fixons un ensemble fini I. Pour U un ensemble fini, notons [U ]I la représentation de permutation de SI sur l’ensemble Inj(U, I) des injections de U dans I. Pour U (resp. I) l’ensemble fini {1, 2, . . . , n}, on remplace dans la notation U (resp. I) par n. Pour ϕ : U → V une injection, la composition avec ϕ: Inj(V, I) → Inj(U, I) induit resϕ : [V ]I → [U ]I de transposé (1.2) On a resϕ (eg ) = egϕ res∗ϕ : [U ]I → [V ]I . et res∗ϕ (ef ) = ef . gϕ=f 2.2. Soient C un recollement des ensembles finis U et V , et D le produit fibré de U et V sur C: a / (2.2.1) UO CO a ? D b b ? / V. Si U := a (D), V := b (D) et si ϕ est la bijection b a−1 : U −∼→V , on a U ϕ V −∼→C. Posons {C}I := res∗b resa (resp (C)I := resb res∗a ) : [U ]I −→ [V ]I . Ces morphismes seront aussi notés {ϕ}I et (ϕ)I et, quand cela ne crée pas d’ambiguı̈té, l’indice I sera omis. On définit une relation d’ordre entre données sur recollements de U et V en disant que A est plus grossier que C (A ≤ C), si, D et ϕ étant comme ci-dessus, le diagramme /A UO O ? D / V? ∼ est commutatif, i.e. si A est défini par une bijection ψ : U −→ V , avec ⊂ ⊂ ⊂ ⊂ U U et V V V , qui prolonge ϕ. U 8 P. Deligne Pour f dans Inj(U, I), l’image de ef par {C} (resp (C)) est la somme des eg , g dans Inj(V, I), tels que f et g se recollent en une application (resp. une application injective) de C dans I. Cette description montre que {C} = (A). (2.2.2) A≤C ∼ Si A ≤ C est défini par ψ : U −→ V , l’ensemble ordonné des recollements A1 entre A et C est isomorphe à l’ensemble ordonné par ⊃ des parties de U − U . A A1 , défini par ψ1 : U1 → V1 , où U ⊂ U1 ⊂ U et où ψ1 est la restriction de ψ, associer U1 − U . La fonction de Moebius pour l’ensemble ordonné des données de recollements est donc μ(A, C) = (−1)|U |−|U | = (−1)|C|−|A|, et (2.2.2) s’inverse en (C) = (−1)|C|−|A| {A}. (2.2.3) A≤C 2.3. Cas particuliers: (i) Si dans (2.2.1) a (resp. b ) est bijectif, de sorte que le recollement C est défini par ϕ : U → V (resp. ϕ : V → U ), on a (C) = {C} = res∗ϕ (resp. (C) = {C} = resϕ ). (ii) Si le recollement est défini par une bijection ϕ de U avec V , (ϕ) est la fonctorialité de U → [U ]I pour les bijections, telle que définie par transport de structures. Construction 2.4 Soit (Uj )j∈J une famille finie d’ensembles finis. Le produit tensoriel des [Uj ]I est naturellement isomorphe à la somme directe, étendues aux recollements (uj : Uj → C), des [C]I . Preuve Le produit tensoriel des [U ]I est la représentation de permutation définie par le SI -ensemble produit des Inj(Uj , I). Chaque système d’injections uj : Uj → I définit le recollement uj : Uj → ∪uj (Uj ). La donnée de recollement correspondante ne dépend que de la SI -orbite de (uj )j∈J , et ceci fait de Inj(Uj , I) la somme disjointe des Inj(C, I), pour (aj : Uj → C) une donnée de recollement. On conclut par 1.3. Exemples 2.5 (i) La représentation [∅]I est la représentation unité: k muni de l’action ∼ triviale de SI . Le morphisme [U ]I ⊗ [∅]I −→ [U ]I correspondant est défini par le recollement évident de U et ∅ en U . La Catégorie des Représentations du Groupe... 9 (ii) La structure d’algèbre [U ]I ⊗ [U ]I → [U ]I de [U ]I définie en 1.2 est la projection sur le facteur direct correspondant au recollement évident de U et U en U . (iii) L’autodualité 1.2 de [U ]I est (ii) res∅→U [U ]I ⊗ [U ]I −−−−→ [U ]I −−−−→ [∅], et le morphisme δ : 1 → [U ]I ⊗ [U ]I correspondant est res∗ φ→U [∅] −−−−→ [U ]I → [U ]I ⊗ [U ]I ; où la seconde flèche est l’inclusion du facteur direct [U ]I . 2.6. Soit une famille de familles ((Uj,k )j∈Jk )k∈K . Elle définit la famille des Uj,k , indexée par Jk . On a une bijection naturelle entre k (A) les données de recollement C sur les Uij (B) les systèmes formés par (a) pour chaque k, une donnée de recollement Ck sur les Uj,k , (j ∈ Jk ) (b) une donnée de recollement D sur les Ck (k ∈ K). A C, on associe les recollements induits, et leur recollement en C. On laisse on lecteur le soin de vérifier que l’isomorphisme ⊗ ⊗ [Uj,k ]I = ⊗[Uj,k ]I k∈K j∈Jk devient, via les isomorphismes 2.4, l’isomorphisme de ⊕ ⊗ [Ck ]I = (Ck ) k∈K ⊕ [D]I (D,Ck ) avec la somme des [C]I , définie par les bijections (A)↔(B). 2.7. Ceci décrit les contraintes d’associativité et de commutativité et l’unité du produit tensoriel de représentations [U ]I en terme de la description 2.4 du produit tensoriel. Pour l’associativité, ([U ]I ⊗ [V ]I ) ⊗ [W ]I → [U ]I ⊗ ([V ]I ⊗ [W ]I ) , on identifie les deux membres à la somme des [C]I , pour C recollement de U , V , W . Pour la commutativité [U ]I ⊗ [V ]I → [V ]I ⊗ [U ]I , utiliser qu’un recollement U et V s’identifie à un recollement de V et U . L’unité est [∅]I . 10 P. Deligne Proposition 2.8 Soient (Uj )j∈J et (Vj )j∈J deux familles indexées par J, et, pour chaque j, soit Uj , Vj → Cj un recollement de Uj et Vj . Identifions, par 2.3, le produit tensoriel des [Uj ] (resp. [Vj ]I ) avec la somme des [A]I (resp. [B]I ) pour A (resp. B) un recollement des Uj (resp. Vj ). Alors le coefficient matriciel [A]I → ⊗[Uj ]I → ⊗[Vj ]I → [B]I de ⊗(Cj ) : ⊗ [Uj ]I → ⊗[Vj ]I est la somme des (C) : [A]I → [B]I , pour C une donnée de recollement sur A et B qui, vue par 2.6 comme donnée de recollement sur les Uj et Vj , induit pour chaque j la donnée de recollement Cj de Uj et Vj . La vérification, immédiate sur la description 2.2 des (Cj ), est laissée au lecteur. Proposition 2.9 (i) Les morphismes (C) : [U ]I → [V ]I , pour U, V → C un recollement de U et V tel que |C| ≤ |I|, forment une base de HomSI ([U ]I , [V ]I ). (ii) La condition |C| ≤ |I| est vérifiée par tout recollement U, V → C si |U | + |V | ≤ |I|. Preuve Par autodualité de la représentation de permutation [U ]I , le groupe HomSI ([U ]I , [V ]I ) s’identifie à l’espace des SI -invariants dans [U ]I ⊗ [V ]I , qui est la représentation de permutation définie par Inj(U, I) × Inj(V, I). Les SI -invariants ont une base indexée par les SI -orbites: à une orbite K correspondant la somme des ek pour k dans K. Des injections u : U → I et v : V → I définissent la donnée de recollement U, V → u(U ) ∪ v(V ). Notons-la Cu,v . Elle ne dépend que de l’orbite de (u, v) et la détecte. On laisse au lecteur le soin de vérifier que le morphisme de [U ]I dans [V ]I défini par l’orbite de (u, v) est (Cu,v ). Les données de recollement C ainsi obtenues sont celles pour lesquelles |C| ≤ |I|. Pour les autres, [C] = 0. Ceci prouve (i), et (ii) est trivial. Proposition 2.10 Soient trois ensembles finis U , V et W . Soient U , V → C un recollement de U et V et V, W → D un recollement V et W . Alors, le morphisme composé (D)(C) : (U )I → [W ]I est la somme, étendue aux recollements a, b, c : U, V, W → A qui induisent C et D: (D)(C) = A PA (|I|) (A ), (2.10.1) La Catégorie des Représentations du Groupe... 11 où A est le recollement de U et W induit par A et où PA (T ) est le polynôme à coefficients entiers PA (T ) := (T − |A |)(T − |A | − 1) · · · (T − |A| + 1). (2.10.2) Preuve Notons U@ @@ @@ u @@ C ~~ ~~ ~ ~~ v V @ @@ @@ @@ v D } }} }}w } }~ } W les recollements. Par définition (2.2), (D)(C) = resw res∗v resv res∗u . Le composé res∗v resv est calculé par (2.2.2): c’est la somme, sur les recollements x, y : C, D → A de C et D rendant U@ @@ @@ u @@ ~~ ~~ ~ ~~ v C@ @@ @@ x @@ V @ @@ @@ @@ v A ~~ ~~y ~ ~~ ~ D } }} }}w } }~ } W (2.10.3) commutatif, des resy resx . L’application qui à x, y : C, D → A associe xu, xv = yv , yw : U, V , W → A est bijective, des données de recollement considérées vers les données de recollement de U , V , W induisant celles données sur U , V et V , W . On a, pour chaque diagramme (2.10.3) resw resy res∗x res∗u = resyw res∗xu , et le composé (D)(C) est donc la somme, sur les a, b, c : U, V, W → A induisant C et D, des resc res∗a . Soit A := a(U ) ∪ c(W ): a / o c ? _ W U D A _ DD x xx DD x j x a DDD xx c " |xx A 12 P. Deligne On a resc res∗a = resc resj res∗j res∗a , et resj res∗j est la multiplication par le nombre PA (|I|) de façon d’étendre une injection de A dans I en une injection de A dans I. On a donc resc res∗a = PA (|I|)resa res∗c = PA (|I|)(A ). (D)(C) = A A A Remarque 2.11. Un calcul analogue, avec (2.2.2) remplacé par (2.2.3), exprime la composition de morphismes {C}. Supposons que C = U E V et D = V F W : U par définition, ~~ ~~u ~ ~ ~ E@ @@ @@v @@ ~~ ~~ ~ ~ ~ v V F A AA AAw AA A W. {D}{C} = res∗w resv res∗v resu . Posons V1 := v (E) ∪ v (F ): y x / ?_ F V1 o E D DD y DD j yy DD yy y v D! |yy v V On a resv res∗v = resy resj res∗j res∗x = PC,D (|I|)resy res∗x , pour PC,D le polynôme à coefficients entiers PC,D (T ) := (T − |V1 |) · · · (T − |V | + 1). (2.11.1) Le composé resy res∗x est (V1 ) : [E]I → [F ]I . D’après (2.2.3), c’est une somme alternée de morphismes {A}, pour A un recollement de E et F plus grossier que V1 . Pour A1 le produit fibré E ×A F , i.e. pour A = E A1 F : A1 D DD {{ DD { { DD {{ D" { }{ o ?_ F / V1 E D BB D y } BB DD yy }} y BB } D y DD y BB }} y } D! |yy ~} U A V A1 définit un recollement A de U et V , et {D}{C} est la somme sur A {D}{C} = PC,D (|I|) (−1)|V1 |−|A| {A }. (2.11.2) La Catégorie des Représentations du Groupe... 13 Définition 2.12 On note Rep0 (ST ) la catégorie Z[T ]-linéaire suivante: Objets: ensembles finis. On note [U ] l’ensemble fini U vu comme objet de Rep0 (ST ). Morphismes: Hom([U ], [V ]) est le Z[T ]-module librement engendré par les données de recollement sur U , V . On note (C) la donnée de recollement C vue comme morphisme de [U ] dans [V ]. Composition: la composition Hom([U ], [V ]) × Hom([V ], [W ]) → Hom([U ], [W ]) est l’application Z[T ]-bilinéaire donnée sur les vecteurs de base par PA (T )(A ), [D][C] = A la somme sur A, et A , PA étant comme en 2.10. Comme en 2.2, on définit {C} = Σ(A), la somme étant comme en (2.2.2). Si Cϕ est le recollement définie par U ⊂ U , V ⊂ V et ϕ : U −∼→V , on pose (ϕ) := (Cϕ ) et {ϕ} := {Cϕ }. Comme en 2.3 (i), si C est la donnée de recollement définie par une injection ϕ : V → U (resp. ϕ : U → V ), on pose resϕ := (C) (resp. res∗ϕ := (C)). Que la composition est associative et l’existence d’identités sera vérifié en 2.14. 2.13. Pour I un ensemble fini, notons σ(I) le morphisme T → |I| de Z[T ] dans k. Envoyons l’ensemble des objets de Rep0 (ST ) dans l’ensemble des représentations de SI par [U ] → [U ]I , et Hom([U ], [V ]) dans Hom([U ]I , [V ]I ) par le morphisme σ(I)-linéaire donné sur les vecteurs de base par (C) → (C)I . Par 2.10, les Hom([U ], [V ]) → Hom([U ]I , [V ]I ) obtenus sont compatibles à la composition. Par 2.3 (ii), si IdU est l’identité de U , l’image (IdU )I de (IdU ) est l’identité de [U ]I . Proposition 2.14 (i) La composition 2.12 est associative et admet les (IdU ) pour identités. (ii) Rep0 (ST ) est donc une catégorie Z[T ]-linéaire et, pour tout ensemble fini I, [U ] → [U ]I est un foncteur σ(I)-linéaire de Rep0 (ST ) dans la catégorie des représentations de SI sur k. 14 P. Deligne (iii) Le morphisme Hom([U ], [V ]) ⊗Z[T ],σ(I) k → Hom([U ]I , [V ]I ) est toujours surjectif. Il est bijectif si |U | + |V | ≤ |I|. Preuve L’associativité de la composition est l’égalité de deux applications Z[T ]-linéaires Hom([U1 ], [U2 ]) ⊗ Hom([U2 ], [U3 ]) ⊗ Hom([U3 ], [U4 ]) ⇒ Hom([U1 ], [U4 ]). (2.14.1) Source et but sont des Z[T ]-modules libres, et il s’agit de prouver l’égalité de deux matrices à coefficients dans Z[T ]. Soit I un ensemble fini. La compatibilité de Hom([U ], [V ]) → Hom([U ]I , [V ]I ) à la composition et l’isomorphisme 2.9 Hom([U ], [V ]) ⊗Z[T ],σ(I) k −∼→ Hom([U ]I , [V ]I ) pour |I|≥|U | + |V | assurent que les deux morphismes (2.14.1) deviennent égaux après l’extension des scalaires Z[T ] → k : T → n pour n un entier ≥|U1 | + |U4 |. Ceci ayant lieu pour une infinité de valeurs de n, ils sont égaux. Que les (IdT ) sont des identités se prouve de même. Les assertions (ii) et (iii) ont déjà été vérifiées. Remarques 2.15. (i) L’objet [U ] de Rep0 (ST ) est fonctoriel en U pour les bijections ϕ : U → V , la fonctorialité étant donnée, avec les notations de 2.12, par ϕ → (ϕ). Si U est défini à isomorphisme unique près, par exemple en tant que représentant U1 , U2 → U d’une donnée de recollement fixée sur U1 , U2 , l’objet [U ] est donc défini à isomorphisme unique près. (ii) Le foncteur [U ] → [U ]I envoie le morphisme {C} sur {C}I . Par l’argument de spécialisation qui prouve 2.14, on a donc pour tout diagramme (2.2.1) l’identité {C} = res∗b resa , et la composition des morphismes {C} est donnée par (2.11.2), avec |I| remplacé par T . La Catégorie des Représentations du Groupe... 15 2.16. Soit Rep1 (ST ) l’enveloppe additive (1.7) de la catégorie Z[T ]-linéaire Rep0 (ST ). Nous nous proposons de définir un produit tensoriel Z[T ]bilinéaire sur Rep1 (ST ). D’après 1.9, il suffit de le définir sur Rep0 (ST ), à valeurs dans Rep1 (ST ). On définit [U ]⊗[V ] comme étant la somme directe, étendues aux données de recollement U, V → C, de [C] (cf 2.4, 2.15 (i)). La fonctorialité Hom([U1 ], [V1 ]) ⊗ Hom([U2 ], [V2 ]) → Hom([U1 ] ⊗ [U2 ], [V1 ] ⊗ [V2 ]) est définie par la formule de 2.8 pour J = {1, 2}, en effaçant les indices I. Qu’on obtient bien un foncteur se vérifie, comme dans la preuve de 2.14, par spécialisations T → n, n entier suffisamment grand. On définit pour ce foncteur de produit tensoriel des contraintes d’associativité, de commutativité et d’unité par les formules de 2.7, en effaçant l’indice I. Que les axiomes requis sont vérifiés se voit encore par spécialisations. Pour chaque [U ], on définit δ : 1 → [U ] ⊗ [U ] et ev : [U ] ⊗ [U ] → 1 (2.16.1) par les formules de 2.5 (iii), en effaçant l’indice I. Toujours la même preuve montre qu’on obtient ainsi une autodualité de [U ]. Le foncteur σ(I)-linéaire [U ] → [U ]I de Rep0 (ST ) dans Rep(SI ) se prolonge par additivité en un foncteur X → XI de Rep1 (ST ) dans Rep(SI ). Par construction, ce foncteur est compatible au produit tensoriel, i.e. est muni d’un isomorphisme fonctoriel (X ⊗Y )I = XI ⊗YI compatible aux contraintes d’associativité et de commutativité et transformant unité en unité. Pour chaque U , l’autodualité (2.16.1) de [U ] a pour image l’autodualité 1.2 de [U ]I . Définition 2.17 Soient A un anneau commutatif et t ∈ A. (i) La catégorie Rep1 (St , A) est la catégorie A-linéaire Rep1 (ST ) ⊗Z[T ] A déduite de Rep1 (ST ) par l’extension des scalaires Z[T ] → A : T → t (cf. 1.6). (ii) La catégorie Rep(St , A) est l’enveloppe pseudo-abélienne (1.8) de Rep1 (St , A). De Rep1 (ST ), la catégorie Rep(St , A) hérite d’un produit tensoriel Abilinéaire ACU rigide dont l’unité 1 vérifie End(1) = A. Nous noterons [U ]t , ou simplement [U ], l’image dans Rep(St , A) de l’objet [U ] de Rep0 (ST ). Dans la catégorie Rep(St , A), les groupes Hom sont des A-modules projectifs de type fini. La vérification se ramène au cas des Hom([U ], [V ]), où ils sont même libres de type fini. 16 P. Deligne Le cas qui nous intéresse le plus est celui où A = k. Nous écrirons Rep(St ) pour Rep(St , k). Théorème 2.18 Si t n’est pas un entier ≥0, la catégorie Rep(St ) est abélienne semi-simple. C’est donc une catégorie tensorielle sur k. La preuve sera donnée au paragraphe 5. 3 Rappels d’algèbre Multilinéaire 3.1. Soit T une catégorie munie d’un produit tensoriel ACU . Elle est Alinéaire pour A := End(1). Si un objet X de T admet un dual, ce dernier est unique à isomorphisme unique près. Plus précisément, si (X1∨ , ev1 , δ1 ) et (X2∨ , ev2 , δ2 ) sont deux duaux de X, il existe un unique morphisme α : X1∨ → X2∨ tel que ev2 ◦(α ⊗ X) = ev1 , c’est un isomorphisme, et (X ⊗ α) ◦ δ1 = δ2 ((Deligne 1990) 2.2). 3.2. Rappelons qu’un Hom interne Hom(X, Y ) est un objet qui représente le foncteur Z → Hom(Z ⊗ X, Y ), i.e. qui est muni d’un isomorphisme fonctoriel en Z ∼ Hom(Z, Hom(X, Y ))−→ Hom(Z ⊗ X, Y ). (3.2.1) Si X admet un dual X ∨ , l’application Hom(Z, Y ⊗ X ∨ ) → Hom(Z ⊗ X, Y ) envoyant f : Z → Y ⊗ X ∨ sur le composé f ⊗X Y ⊗ev Z ⊗ X −−−−→ Y ⊗ X ∨ ⊗ X −−−−→ Y ⊗ 1 = Y (3.2.2) fait de Y ⊗ X ∨ un Hom interne de X et Y (loc. cit. 2.3). Son inverse envoie g : Z ⊗ X → Y sur le composé Z⊗δ f ⊗X ∨ Z −−−−→ Z ⊗ X ⊗ X ∨ −−−−→ Y ⊗ X ∨ . (3.2.3) Pour Z = 1, (3.2.1) devient ∼ Hom(X, Y ). Hom(1, Hom(X, Y ))−→ (3.2.4) 3.3. On appelle trace le morphisme ev Tr : Hom(X, X) = X ⊗ X ∨ = X ∨ ⊗ X −−→ 1, (3.3.1) ainsi que le morphisme Tr : Hom(X, X) → End(1) (3.3.2) La Catégorie des Représentations du Groupe... 17 qui s’en déduit par (3.2.4). On pose dim(X) := Tr(IdX ). (3.3.3) On dispose de la panoplie habituelle d’identités, dédoublée en une version interne et une version externe reliées par (3.2.4), dès que les duaux requis existent: la bidualité X ∨∨ = X fournit les isomorphismes de transpositions f → f t : ∼ Hom(X, Y )−→ Hom(Y ∨ , X ∨ ) et ∼ Hom(X, Y )−→ Hom(Y ∨ , X ∨ ); (3.3.4) ils vérifient Tr(f t ) = Tr(f ) (pour X = Y ), (f g)t = g t f t , et (f ⊗g)t = f t ⊗g t (utilisant que (X ⊗ Y )∨ = X ∨ ⊗ Y ∨ ); l’identité Tr(f g) = Tr(gf ), sous sa forme interne, est la commutativité du diagramme Hom(X, Y ) ⊗ Hom(Y, X) = Hom(Y, Y ) /1o Tr Hom(Y, X) ⊗ Hom(X, Y ) Tr Hom(X, X). (3.3.5) Si on identifie Hom(X, Y ), Hom(Y, Z) et Hom(X, Z) respectivement à Y ⊗ X ∨ , Z ⊗ Y ∨ et Z ⊗ X ∨ , la composition s’identifie à evY : (Z ⊗ Y ∨ ) ⊗ (Y ⊗ X ∨ ) → Z ⊗ X ∨ . Le morphisme (3.3.5) de Hom(X, Y ) ⊗ Hom(Y, X) dans 1 s’identifie donc à evX ⊗ evY . Il met Hom(X, Y ) et Hom(Y, X) en dualité. Passant aux Hom, on a donc Lemme 3.4 Supposons que X et Y admettent un dual. Soit Z := Hom(X, Y ), de dual Z ∨ identifié par (3.3.5) à Hom(Y, X). Puisque Z ∨ = Hom(Z, 1), (3.2.4) fournit des isomorphismes Hom(1, Z ∨ ) = Hom(Z, 1) = Hom(Y, X) et Hom(1, Z) = Hom(X, Y ). Modulo ces identifications, les accouplements suivants coı̈ncident: Tr(f g) : Hom(Y, X) × Hom(X, Y ) → A (3.4.1) evZ : Hom(1, Z ) × Hom(1, Z) → A (3.4.2) v◦u : Hom(Z, 1) × Hom(1, Z) → A. (3.4.3) ∨ 18 P. Deligne Lemme 3.5 Dans une catégorie tensorielle, si f est un endomorphisme d’une suite exacte courte 0 → A → A → A → 0, on a Tr(f, A) = Tr(f, A ) + Tr(f, A ). Preuve On le déduit de l’énoncé interne correspondant, à savoir que sur F := Ker(Hom(A, A) → Hom(A , A )) la trace est la somme des traces partielles F → Hom(A , A ) → 1 et F → Hom(A , A ) → 1. L’énoncé interne se prouve en observant que le morphisme Hom(A, A ) ⊕ Hom(A , A) → Hom(A, A) a pour image F , de sorte qu’il suffit de prouver l’énoncé interne avec F remplacé par Hom(A, A ) et par Hom(A , A). Si i est l’inclusion de A dans A, le cas de Hom(A, A ) se ramène à Tr(if ) = Tr(f i), et le cas de Hom(A , A) se traite dualement. Corollaire 3.6 Dans une catégorie tensorielle, la trace d’un endomorphisme nilpotent est nulle. Preuve Si l’endomorphisme f de X est nilpotent, il existe une filtration décroissante finie F de X telle que f (F i ) ⊂ F i+1 , par exemple la filtration par les f i (X). On a GrF (f ) = 0 et par 3.5 Tr(f ) = Tr GriF (f ) = 0. 3.7. Soient Y un objet d’une catégorie additive (resp. pseudo-abélienne) T , et B l’anneau de ses endomorphismes. Pour tout objet Z, Hom(Y, Z) est un B-module à droite, Hom(Z, Y ) un B-module à gauche, et on dispose d’un accouplement ( , ) : Hom(Z, Y ) × Hom(Y, Z) → B : f, g −→ gf. (3.7.1) Si L est un B-module à droite libre (resp. projectif) de type fini, le foncteur covariant Z −→ HomB (L, Hom(Y, Z)) (3.7.2) est représentable: le choix d’une base e1 , . . . , en de L l’identifie à Z → Hom(Y, Z)n , représenté par Y n (resp. le cas “L projectif” se ramène au cas “L libre” par passage à un facteur direct). On note L⊗B Y un objet qui représente (3.7.2). Le foncteur L → L⊗B Y est une équivalence de la catégorie des B-modules à droite libres (resp. La Catégorie des Représentations du Groupe... 19 projectifs) de type fini avec la sous-catégorie pleine de T d’objets les sommes de copies de Y (resp. facteurs direct de sommes). L’équivalence inverse est X → Hom(Y, X). Si les facteurs directs des B-modules à droite libres de type fini sont encore libres de type fini, par exemple si B est un corps ou un anneau principal, cette équivalence montre que tout facteur direct d’une somme de copies de Y est encore une somme de copies de Y . Proposition 3.8 Supposons T pseudo-abélienne, que Hom(Y, Z) soit un B-module projectif de type fini et que l’accouplement (3.7.1) fasse de Hom(Z, Y ) son dual. Alors, Z admet un unique sous-objet R tel que le morphisme naturel (3.8.1) Hom(Y, Z) ⊗B Y ⊕ R−∼→Z soit un isomorphisme. On a Hom(Y, R) = Hom(R, Y ) = 0. (3.8.2) Preuve Si Hom(Y, Z) est libre, de base f1 , . . . , fn , et que (f i ) est la base duale de Hom(Z, Y ), le morphisme f• = (fi ) : Y n → Z admet pour rétraction le morphisme f • = (f i ) : Z → Y n . Par définition, on a en effet f i fj = δji IdY . Si R est le noyau de l’endomorphisme idempotent f• f • de Z, on a ∼ im(f• f • ) ⊕ R−→ Z et f• est un isomorphisme de Y n avec l’image de f • f• : (3.8.1) est vérifié. Par construction, tout morphisme de Y ans Z (resp. de Z dans Y ) est combinaison linéaire des fi (resp. f i ). La nullité (3.8.2), et l’unicité du facteur direct R en résultent. Le cas où Hom(Y, Z) est seulement supposé projectif de type fini s’en déduit par addition à Z de Q ⊗B Y , Q étant choisi tel que Hom(Y, Z) ⊕ Q soit libre. Remarques 3.9. (i) L’ensemble des Z pour lesquels les hypothèses de 3.8 sont vérifiées est stable par sommes directes finies et facteurs directs, et la décomposition (3.8.1) de Z en somme directe est fonctorielle en Z. (ii) Si Z vérifie les hypothèses de 3.8 pour des Yi , d’anneau d’endomorphismes Bi , en nombre fini, et que Hom(Yi , Yj ) = 0 pour i = j, appliquant (3.8) tour à tour à chacun des Yi et au reste de la décomposition précédente, on obtient une décomposition ⊕ Hom(Yi , Z) ⊗Bi Yi ⊕ R−∼→Z, avec (3.9.1) Hom(Yi , R) = Hom(R, Yi ) = 0 pour tout i. (3.9.2) 20 4 P. Deligne La Mesure Invariante sur St 4.1. Fixons un anneau commutatif A, t ∈ A et, pour M un entier ≥ − 1, notons Rep(St , A)(M) la sous-catégorie pleine de Rep(St , A) d’objets les facteurs directs de sommes de [U ], avec |U | ≤ M . Soit N un entier ≥0, et supposons que t, t − 1, . . . , t − (N − 1) sont inversibles dans A. (4.1.1) Pour A un corps, (4.1.1) s’écrit plus simplement t ∈ / {0, 1, . . . , N − 1}. Proposition 4.2 Sous l’hypothèse (4.1.1), pour tout objet X de Rep(St , A)(N ) , l’accouplement f g entre Hom(X, 1) et Hom(1, X), à valeurs dans End(1) = A, fait de chacun de ces A-modules projectifs de type fini le dual de l’autre. Preuve D’après 3.9(i), il suffit de vérifier 4.2 pour X = [U ], avec |U | ≤ N . Rappelons que 1 = [∅]. Soit ϕ l’inclusion de ∅ dans U . Les A-modules Hom([U ], 1) et Hom(1, [U ]) sont libres de rang un, engendrés respectivement par resϕ et res∗ϕ . Puisque resϕ res∗ϕ est la multiplication par t(t − 1) . . . (t − |U | + 1), (4.1.1) assure que l’accouplement 4.2 est une dualité parfaite. 4.3. Appliquons 3.7, 3.8 à Y = 1: sous l’hypothèse (4.1.1), tout objet X de Rep(Xt )(N ) admet une décomposition fonctorielle en X X = X St ⊕ R (4.3.1) X St := Hom(1, X) ⊗ 1 (4.3.2) Hom(1, R) = Hom(R, 1) = 0. (4.3.3) en et un reste R tel que L’analogue de la projection sur X St , dans le cas de la catégorie des 1 Σgx de X sur représentations d’un groupe fini G, est la projection x → |G| G X , d’où le titre de cette section. Corollaire 4.4 Sous l’hypothèse (4.1.1), pour tout X dans Rep(St , A)(N ) , le morphisme ev : X ∨ ⊗ X → 1 induit une dualité parfaite Hom(1, X ∨ ) ⊗ Hom(1, X) → Hom(1, 1) = A. Preuve Chaque [U ] étant autodual, X ∨ est encore dans Rep(St , A)(N ) . Il résulte de (4.3.3) que la décomposition (4.3.1) est compatible au passage au dual. La dualité ev : X ∨ ⊗ X → 1 induit donc une dualité entre (X ∨ )St et X St . Appliquant (4.3.2), on en déduit 4.4. La Catégorie des Représentations du Groupe... 21 Corollaire 4.5 Sous l’hypothèse (4.1.1), si X est dans Rep(St , A)(N ) , Y dans Rep(St , A)(N ) et que N + N ≤ N , l’accouplement Tr(f g) entre les A-modules projectifs de type fini Hom(X, Y ) et Hom(Y, X) est une dualité parfaite. Preuve Appliquer 4.4 à Hom(X, Y ) et Hom(Y, X), mis en dualité par Tr(f g), et utiliser que (3.4.1) = (3.4.2). 5 Preuve de 2.18 et Calcul de l’anneau de Grothendieck R(St ) Le théorème 2.18 résulte de la Proposition 5.1 Soit N un entier ≥ − 1. (i) Si t n’est pas un entier dans l’intervalle 0 ≤ n ≤ 2N − 2, la souscatégorie Rep(St )(N ) de Rep(St ) est abélienne semi-simple. Plus précisément, nous construirons une famille d’objets {λ} de Rep(St )(N ) , indexée par les partitions d’entiers ≤ N , tels que (a) End({λ}) = k et Hom({λ}, {μ}) = 0 pour λ = μ; (b) tout objet de Rep(St )(N ) est somme directe de copies d’objets {λ}. (ii) Si t n’est pas un entier dans l’intervalle 0 ≤ n ≤ 2N − 1, les objets {λ} de (i) ont une dimension non nulle. Si on suppose (i)(a), pour que (i)(b) soit vrai, il suffit que chaque objet [n] (n ≤ N ) soit somme directe de copies d’objets {λ}. L’hypothèse faite sur t implique la même hypothèse avec N remplacé par un entier plus petit, et nous construirons les {λ} par récurrence sur N (récurrence limitée si t est un entier ≥0). Pour N = −1, Rep(St )(N ) est réduite à zéro (somme de la famille vide), et il n’y a pas de λ. A un stade N ≥0, on garde les {λ} construits au stade N − 1, et on leur ajoutera des {λ} pour |λ| = N . Il faut que les {λ} (|λ| ≤ N ) obtenus vérifient (i)(a) et permettent la décomposition de [N ]. Stade N : Pour X dans Rep(St )(N ) et |λ| ≤ N − 1, l’accouplement Tr(f g) met Hom(X, {λ}) et Hom({λ}, X) en dualité (4.5). Cet accouplement est dim({λ}) fois l’accouplement f g : Hom(X, {λ}) × Hom({λ}, X) → End({λ}) = k, (5.1.1) 22 P. Deligne qui est donc non dégénéré. Appliquant 3.9(ii) à X et aux {λ}, on obtient une décomposition fonctorielle de X en une somme de copies de {λ} (|λ| ≤ N − 1) et d’un reste X ∗ : X ∗ = ⊕ Hom({λ}, X) ⊗ {λ} ⊕ X ∗ ∗ Hom(X , {λ}) = Hom({λ}, X ) = 0 pour |λ| ≤ N − 1. (5.1.2) (5.1.3) Lemme 5.2 Soit U un ensemble à N éléments. Pour ϕ dans le groupe symétrique SU , soit (ϕ)∗ l’automorphisme de [U ]∗ induit par l’automorphisme (ϕ) = {ϕ} de [U ]. Ces automorphismes forment une base de End([U ]∗ ) et on a donc un isomorphisme d’algèbres k[SU ]−∼→ End([U ]∗ ). (5.2.1) Preuve Les morphismes {ϕ} : [U ] → [U ], pour ϕ une bijection d’une partie U avec une partie U de U , forment une base de Hom([U ], [U ]) (cf (2.2.2), (2.2.3)). Il suffit donc de montrer que les morphismes [U ] → [U ] qui se factorisent par un objet de Rep(St )(N −1) sont les combinaisons linéaires des {ϕ} pour lesquels U = U . Si U = U , {ϕ} se factorise en effet par [U ], qui est dans Rep(St )(N −1) . Réciproquement, si f : [U ] → [U ] se factorise par un {λ}, donc par un [V ] avec |V | ≤ N − 1, les formules de composition (2.11.2) (avec |I| remplacé par t, cf 2.15 (ii)) montrent que f est combinaison linéaire de {ϕ} pour lesquels U = U . 5.3. Stade N (fin). Prenons U = {1, . . . , N }. L’action de SN sur [N ]∗ fournit une décomposition SN -équivariante (1.10.3) [N ]∗ = ⊕[N ]∗μ ⊗ μ (5.3.1) (somme sur les partitions μ de N ), SN agissant sur le membre de droite par son action sur les représentations μ. L’isomorphisme (5.3.1), comparé à (1.10.2), assure que End([N ]∗μ ) = k et que Hom([N ]∗μ , [N ]∗ν ) = 0 pour μ = ν. Ajoutant les {μ} := [N ]∗μ aux {λ} dont on dispose déjà, on obtient la famille promise d’objets simples. 5.4. Preuve de 5.1 (ii). Si t n’est pas un entier dans l’intervalle 0 ≤ n ≤ 2N − 1, pour tout objet simple {λ} de Rep(St )(N ) , 4.5 garantit que l’accouplement Tr(f g) de End({λ}) = k avec lui-même est non dégénéré. Cet accouplement est dim({λ})f g, et 5.1 (ii) en résulte. La Catégorie des Représentations du Groupe... 23 5.5 Notation. Sous l’hypothèse de 5.1 (i), et pour |V | ≤ N , on notera [V ]∗ le facteur direct de [V ] construit dans la preuve de 5.1, [V ] étant vu comme objet de Rep(St )(|V |) . Pour n ≤ N , on a donc {λ} ⊗ λ, (5.5.1) [n]∗ ∼ |λ|=n dans la catégorie des objets de Rep(St ) munis d’une action de Sn . Remarque 5.6. Pour A un anneau commutatif et t ∈ A, si les t − n sont inversibles pour n un entier, dans l’intervalle 0 ≤ n ≤ 2N − 2, et que N ! est inversible, la même preuve fournit un système d’objets {λ} de Rep(St , A), fonctoriels en A, tels que End({λ}) = A, que Hom({λ}, {μ}) = 0 pour λ = μ, et que tout objet X de Rep(St , A)(N ) se décompose en ⊕ Hom({λ}, X) ⊗ {λ}−∼→X (5.6.1) (une somme de copies des {λ} si A est principal). Si en outre t − 2N + 1 est inversible, les dim({λ}) sont inversibles dans A. Les arguments utilisés dans la preuve de 2.18 fournissent aussi le résultat suivant. Proposition 5.7 Soit A une catégorie tensorielle sur k, dont les objets sont de longueur finie. Les conditions suivantes sont équivalentes: (i) quels que soient X et Y dans A, Tr(f g) met Hom(X, Y ) et Hom(Y, X) en dualité; (ii) la catégorie abélienne A est semi-simple. Si k est algébriquement clos, ces conditions impliquent (iii) la dimension de tout objet simple est non nulle. Preuve L’objet 1 étant simple (Deligne and Milne 1982, 1.17), il résulte de (3.2.4) que les groupes Hom sont de dimension finie. (i)⇒(ii). Appliquant Hom(X, −) et prenant une image inverse, on déduit d’une extension E de X par Y une extension E de 1 par Hom(X, Y ): 0 / Hom(X, Y ) / E /1 /0 0 / Hom(X, Y ) / Hom(X, E) / Hom(X, X) / 0. 24 P. Deligne Scinder l’extension E, i.e. relever l’identité de X en un morphisme de X dans E, revient à scinder l’extension E . Pour prouver que A est semi-simple, il suffit donc de prouver que toute extension de la forme 0 → T → Z → 1 → 0 est triviale. L’accouplement Tr(f g) de Hom(Z, 1) avec Hom(1, Z) coı̈ncide avec l’accouplement f g. Ce dernier est donc non dégénéré et 3.8 fournit une décomposition de Z en un multiple de 1 et un reste R tel que Hom(1, R) = Hom(R, 1) = 0. L’extension Z provient donc par push out d’une extension Z1 , avec Z1 multiple de 1, et la simplicité de 1 montre sa trivialité. (ii)⇒(i). D’après 3.4, il suffit de vérifier que pour tout objet Z, l’accouplement v ◦ u met Hom(Z, 1) et Hom(1, Z) en dualité. Puisque Z est semisimple et 1 simple, on a Z ∼ 1n ⊕ R, avec Hom(1, R) = Hom(R, 1) = 0, et on est ramené au cas trivial où Z = 1n . (i)⇒(iii). Si S est simple, et k algébriquement clos, le lemme de Schur (valable car End(S) est de dimension finie sur k) montre que End(S) est réduit à k. La forme bilinéaire Tr(f g) sur End(S) s’identifie à la forme bilinéaire dim(S)f g sur k. Puisqu’ elle est non-dégénérée, dim(S) = 0. 5.8 Mise en garde. Il existe des catégories pseudo-abéliennes, k-linéaires de groupes Hom de dimension finie, munies d’un produit tensoriel ACU tel que End(1) = k, qui vérifient 5.7 (i) mais ne sont pas abéliennes, i.e. ne sont pas tensorielles sur k. Voici un exemple qui n’admet même aucun foncteur ACU dans une catégorie tensorielle. On prend pour A l’enveloppe pseudo-abélienne de la catégorie k-linéaire à produit tensoriel ACU A0 librement engendrée par un objet X muni d’une autodualité symétrique et d’un endomorphisme de carré nul égal à son transposé θ, tels que dim(X) = 0 et que Tr(θ) = 1. La catégorie A0 a pour objets les puissances tensorielles de X. Elle admet la description suivante: Objets: ensembles finis. On note X ⊗I l’ensemble fini I vu comme objet de A0 . Morphismes: Hom(X ⊗I , X ⊗J ) a une base indexée par les partitions de I J en sous-ensembles à 2 éléments, chacun étant coloré “1” ou “θ”. Produit tensoriel: somme disjointe d’ensembles finis. Représentation graphique (d’un vecteur de base de Hom(X ⊗I , X ⊗J )): écrire en première ligne des points indexés par I, en deuxième ligne des points indexés par J et entre ces deux lignes joindre par un trait plein (resp. pointillé) les points dans une part colorée “1” (resp. “θ”). Interprétation: La Catégorie des Représentations du Groupe... , , , 25 , , sont respectivement IdX , l’autodualité X ⊗ X → 1, le morphisme δ : 1 → X ⊗ X correspondant, θ : X → X, le composé de l’autodualité avec θ ⊗ 1 ou 1 ⊗ θ, et le composé de θ ⊗ 1 ou 1 ⊗ θ avec δ. Conformément à l’interprétation donnée, pour composer deux morphismes qui appartiennent à ces bases de groupes Hom, on joint les graphes correspondants. On décrète le résultat nul si deux traits pointillés apparaissent dans une même composante connexe, ou si un cercle plein apparaı̂t. On remplace un segment composé de traits pleins (resp. trait(s) plein(s) et un seul trait pointillé) par un trait plein (resp. pointillé), et on omet les cercles composés de trait(s) plein(s) et d’un seul trait pointillé. Exemples: = ; = = ; = est l’endomorphisme 1 de 1 = X ⊗∅ (representé par une page blanche); est l’endomorphisme dim X = 0 de 1; ; = = page blanche: 1 : 1 → 1. Pour vérifier 5.7 (i), il suffit de vérifier que, pour tout n, Hom(1, X ⊗n ) et Hom(X ⊗n , 1) sont en dualité parfaite (cf 3.4). Ces groupes sont nuls pour n impair. Pour n pair, soient f et g dans les bases de ces groupes. Soit k (resp. ) le nombre de traits pointillés parmi les n/2 traits de f (resp. g). Pour que gf = 0, il faut et il suffit que quand on joint ces graphes, les composantes connexes obtenues, des cercles, aient exactement un trait pointillé. Ceci impose k + ≤ n, et, en cas d’égalité, que le graphe de g soit déduit de celui de f en remplaçant trait plein par trait pointillé et vice versa. Le déterminant de la matrice des gf = Tr(gf ) est ± le produit des 26 P. Deligne coefficients matriciels 1 correspondant à de telles paires (f, g), et A vérifie donc 5.7 (i). Dans une catégorie tensorielle, tout endomorphisme nilpotent est de trace nulle (3.6). Puisque θ2 = 0 et que Tr(θ) = 1, il n’existe pas de ⊗-foncteur ACU de A dans une catégorie tensorielle. 5.9. Notons X la représentation de permutation [1]n de Sn , correspondant à l’action de Sn sur {1, . . . , n}. La difficulté avec laquelle la preuve de 2.18 a dû se battre est que, outre (A) l’action de Sk , on dispose sur X ⊗k de deux décompositions naturelles en sommes directes, et que les projecteurs pour l’une ne commutent pas aux projecteurs pour l’autre. Ce sont (B) celle correspondant à la décomposition en Sn -orbites de {1, . . . , n}k ; (C) la puissance tensorielle k ième de la décomposition de X en trivial ⊕ irréductible. On a besoin de (A), (B) et (C) pour décomposer X ⊗k en irréductibles. En décrivant Rep1 (ST ) en terme des [U ], nous avons donné la primauté à (B). Si on s’exprime plutôt en terme des [1]⊗U , le théorème 2.18 est un corollaire de ce que, dans Rep(St ), End([1]⊗U ) est un produit d’algèbres de matrices si t n’est pas un entier ≥0. Cet énoncé a été prouvé par T. Halverson et A. Ram (2003) par une autre méthode, inspirée du traitement par H. Wenzl (1988) des groupes orthogonaux, plutôt que symétriques. De même que Wenzl utilise que la dimension des représentations du groupe orthogonal est donnée par la formule de H. Weyl, ils utilisent que la dimension de la représentation λ de S|λ| , vue comme fonction de λ1 , les λi , i≥2 étant fixés, est un polynôme en λ1 qui n’a pour zéros que des entiers tels λi ≥0 (cf. 7.3). Notre preuve n’utilisant pas ce fait, il nous a que + i≥2 semblé valoir la peine de la conserver, plutôt que de renvoyer à Halverson et Ram. 5.10. Fixons t non entier, et notons R(St ) l’anneau de Grothendieck de la catégorie tensorielle Rep(St ). Son groupe additif est le groupe abélien libre engendré par les classes d’isomorphie d’objets simples {λ} de Rep(St ), et sa multiplication est induite par le produit tensoriel. Noter que R(St ) est indépendant de t: dans le cas universel où A = Q[T ](((T − n)−1 )n∈Z ), 5.6 montre que dans Rep(St , A) Hom({λ} ⊗ {μ}, {ν}) est un A-module libre, est si cνλ,μ est son rang, les cνλ,μ sont les constantes de structure de Rep(St ). La Catégorie des Représentations du Groupe... 27 On notera F la filtration croissante de Rep(St ) pour laquelle FN est additivement engendré par les constituants irréductibles des [U ], pour |U | ≤ N . Puisque [U ] ⊗ [V ] est somme des [W ] pour W recollement de U et V , et donc tel que |W | ≤ |U | + |V |, la filtration F est compatible au produit: FN · FM ⊂ FN +M . Les {λ} pour |λ| ≤ N sont un système de générateurs libre de FN . Pour chaque entier n, soit R(Sn ) le groupe de Grothendieck de la S (V ⊗ W ) incatégorie des représentations de Sn . Les foncteurs IndSn+m n ×Sm duisent sur la somme des R(Sn ) un produit ∗, qui en fait un anneau commutatif d’unité la représentation 1 de S0 . On notera encore { } le morphisme additif de R(Sn ) dans Fn ⊂ R(St ) qui envoie λ sur {λ}. Proposition 5.11 Les morphismes additifs { } induisent un isomorphisme de l’anneau (⊕R(Sn ), ∗) avec l’anneau gradué GrF R(St ). Preuve Le morphisme S × Sm équivariant []∗ ⊗ [m]∗ → [] ⊗ [m] → [ + m] → [ + m]∗ donné par le recollement disjoint de {1, . . . , } et {1, . . . , m} est un composé d’isomorphismes modulo objets {ε} tels que |ε| < + m. Si |λ| = et |μ| = m, on a par (5.5.1), modulo de tels objets, {λ} ⊗ {μ} = HomS ×Sm (λ ⊗ μ, []∗ ⊗ [m]∗ ) ≡ HomS ×Sm λ ⊗ μ, ⊕ {ν} ⊗ ν |ν|=+m et pour |ν| = + m, {ν} apparaı̂t dans {λ} ⊗ {μ} avec la multiplicité avec laquelle la représentation λ ⊗ μ de S × Sm apparaı̂t dans la restriction de ν à S × Sm . Par réciprocité de Frobenius, ceci vérifie 5.11. Corollaire 5.12 L’anneau R(St ) est l’algèbre de polynômes Z[T1 , T2 , . . . , Tn , . . . ] engendrée par les Ti := {partition grossière de i}. Cela résulte de 5.11 et du même énoncé pour (⊕R(Sn ), ∗). Les partitions (1, . . . , 1, 0, . . . ) fournissent un autre système de générateurs libre. 28 6 P. Deligne Spécialisation à t Entier ≥0 6.1. Soit A une catégorie k-linéaire à produit tensoriel ACU rigide, telle que End(1) = k. Disons qu’un morphisme f : X → Y est négligeable si pour tout morphisme u : Y → X, on a Tr(f u) = 0. Puisque (f g)u = f (gu), un composé f g est négligeable dès que f , ou dualement g, est négligeable. Un produit tensoriel f ⊗ g est négligeable dès que f , ou par symétrie g, est négligeable. En effet, étant donnés f : X → Y , g : X → Y et u : Y ⊗ Y → X ⊗X , si on regarde g comme donné par un morphisme 1 → X ∨ ⊗ Y et u par un morphisme 1 → Y ∨ ⊗Y ∨ ⊗X ⊗X , on déduit de u et g par les contractions X ∨ ⊗X → 1 et Y ∨ ⊗Y → 1 un morphisme ū : Y → X tel que Tr((f ⊗ g) ◦ u) = Tr(f ū). La catégorie A/(négligeable) quotient de A par l’idéal des morphismes négligeables hérite donc de A d’un produit tensoriel. Il est encore ACU rigide, avec End(1) = k. Si A est pseudoabélienne et que les Hom(X, Y ) sont de dimension finie, A/(négligeable) est encore pseudo-abélienne, car si E est quotient d’une algèbre de dimension finie E, tout idempotent e de E se relève en un idempotent de E (appliquer à un quelconque relèvement ẽ de e un polynôme valant 0 en 0, 1 en 1 et valant 0 ou 1 sur le spectre de ẽ, compté avec multiplicités). Théorème 6.2 Si t ∈ k est un entier n≥0, le foncteur [U ] → [U ]n : Rep(St , k) → Rep(Sn ) (6.2.1) de Rep(St , k) dans la catégorie des représentations du groupe symétrique Sn induit une équivalence du quotient de Rep(St , k) par l’idéal des morphismes négligeables avec Rep(Sn ). Preuve Comme tout ⊗-foncteur, le foncteur [U ] → [U ]n préserve les traces. Un morphisme dont l’image est négligeable est donc négligeable. La catégorie Rep(Sn ) étant absolument semi-simple, les seuls morphismes négligeables de Rep(Sn ) sont les morphismes nuls. Quelques soient X et Y dans Rep(St , k), le morphisme Hom(X, Y ) → Hom(Xn , Yn ) (6.2.2) est surjectif: par passage à un facteur direct, on se ramène au cas où X et Y sont de la forme [U ], traité en 2.9(i). L’image par (6.2.1) d’un morphisme négligeable est donc négligeable – donc nulle – et le foncteur (6.2.1) se factorise par un foncteur pleinement fidèle de Rep(St , k)/(négligeable) dans Rep(Sn ). Son image essentielle contient la représentation de permutation image de [1], qui est fidèle. Etant stable par produit tensoriel, dual, somme directe et sous-quotient, elle contient toutes les représentations de Sn . La Catégorie des Représentations du Groupe... 29 6.3. Fixons un entier N ≥0 et supposons que t est un entier n≥2N . Pour |λ| ≤ N , l’objet simple {λ} de Rep(St , k)(N ) est de dimension non nulle (5.1 (ii)), donc a une image non nulle dans Rep(Sn ). Par la surjectivité de (6.2.2) et la semi-simplicité de Rep(Sn ), les images dans Rep(Sn ) des objets simples {λ} (|λ| ≤ N ) de Rep(St , k) sont des représentations irréductibles deux à deux non isomorphes de Sn . Nous nous proposons de les déterminer. Pour ≤ N , et []∗ comme en 5.5, par la surjectivité de (6.2.2), l’image ∗ []n de []∗ est le sous-objet de []n somme des sous-représentations irréductibles qui n’apparaissent pas dans un [ ]n avec < . Il s’agit de calculer []∗n comme représentation de Sn × S , et de comparer à 5.5.1. Notation: Pour λ = (λ1 , . . . , λa ) une partition et m un entier ≥|λ| + λ1 , {λ}m est la partition suivante de m: {λ}m := (m − |λ|, λ1 , . . . , λa ). (6.3.1) Proposition 6.4 Si t = n > 2|λ|, l’image de l’objet simple {λ} de Rep(St , k) dans Rep(Sn ) est la représentation irréductible de Sn correspondant à la partition {λ}n de n. Preuve Si ≤ n, l’ensemble des injections de {1, . . . , } dans {1, . . . , n} est un ensemble homogène sous Sn × S . Le stabilisateur d’un élément est le sous-groupe Sn− × S ⊂ Sn− × S × S ⊂ Sn × S (la première inclusion est déduite de l’inclusion diagonale de S dans S ×S ). Comme représentation de Sn × S , []n est donc la représentation induite n ×S IndS Sn− ×S (1). Induisons par étapes, en passant par Sn− × S × S . Pour l’inclusion diagonale de S dans S × S , on a ×S (1) = λ ⊗ λ, IndS S où λ parcourt les partitions de , identifiées aux représentations irréductibles de S . Chaque représentation de S est en effet autoduale. On a donc n []n = IndS (6.4.1) Sn− ×S (1 ⊗ λ) ⊗ λ. n D’après la règle de Littlewood-Richardson, IndS Sn− ⊗S (1 ⊗ λ) est la somme des représentations μ, pour μ une partition de n, identifiée à son diagramme, telle que λ ⊂ μ et que μ − λ n’ait pas deux cases sur la même colonne. En d’autres termes: λ1 ≤ μ1 et λi ≤ μi ≤ λi−1 pour i≥2. 30 P. Deligne Si |λ| + λ1 ≤ n, a fortiori si 2 ≤ n, l’une de ces partitions μ est {λ}n (le cas où μi = λi−1 pour i≥2). Les autres ont μ1 > n − et elles sont de la forme {λ }n avec |λ | = n − μ1 < , donc figurent dans [ ]n avec = |λ | < . Dès lors []∗n = {λ}n ⊗ λ, (6.4.2) la somme étant étendue aux partitions λ de , et 6.4 s’en déduit par comparaison avec 5.5.1. 7 Spécialisation à t Entier Petit Relativement à λ Les phénomènes décrits dans cette section ont un analogue pour les séries GL et O. Nous espérons que les résultats partiels obtenus ici pour la série Sn aideront à comprendre ces analogues plus difficiles. 7.1. Soit μ une partition d’un entier m. Rappelons la formule donnée par Frobenius (1900) §3 (6) pour la dimension de la représentation correspondante de Sn . On choisit tel que μi = 0 pour i > , et on transforme la suite μ1 ≥ . . . ≥μ en une suite strictement décroissante α1 > . . . > α en ajoutant − i à μi . On a alors dim μ = m! (αi − αj )/ αi !. (7.1.1) i>j Si le choix de importe, on écrira α[] plutôt que α. Quand est remplacé par + 1, on a α[ + 1]i = α[]i + 1 pour i ≤ , et α[ + 1]+1 = 0. Au numérateur de (7.1.1), de nouveaux facteurs α[+1]i −α[+1]+1 = α[]i +1 apparaissent, tandis qu’au dénominateur α[]i ! est replacé par α[ + 1]i ! = (α[]i + 1)α[]i !. Si on écrit chaque factorielle a! comme étant le produit des entiers de 1 à a, le second membre de (7.1.1) apparaı̂t comme étant le produit d’un multiensemble d’entiers (un ensemble d’entiers, avec multiplicités positives ou négatives). La vérification donnée de l’indépendance de montre que ce multiensemble est indépendant de . Les longueurs des crochets (hook length) de μ sont les entiers ca,b := (μa − a) + (μ∗b − b) + 1 pour (a, b) dans le diagramme de μ, i.e. pour a, b≥1 et b ≤ μa (équivalent à a ≤ μ∗b ). Par un argument sur lequel la preuve de 7.3 ci-dessous est calquée, Frame, de B. Robinson et Thrall (1954) (lemme 1) vérifient que pour chaque i ≤ , les longueurs de crochets cib sont les entiers entre 1 et αi distincts des αi − αj (i < j ≤ ), de sorte que (7.1.1) peut se La Catégorie des Représentations du Groupe... récrire dim μ = m!/ (longueurs des crochets), 31 (7.1.2) l’égalité entre les second membres de (7.1.1) et (7.1.2) provenant d’une égalité entre multiensembles d’entiers correspondants. 7.2. Soit λ une partition. Si n≥|λ| + λ1 , la partition {λ}n de n est définie. Si on prend = |λ| + 1, la suite strictement décroissante α correspondant à {λ}n commence par α1 = (n− |λ|)+ − 1 = n, après quoi αi+1 = λi + |λ|− i pour 1 ≤ i ≤ |λ|. On a donc dim {λ}n = (n−(λi +|λ|−i))· ((λi +|λ|−i)−(λj +|λ|−j))/ (λi +|λ|−i)! (7.2.1) i>j Dans ces produits, 1 ≤ i, j ≤ |λ|. Les deuxième et troisième produits coı̈ncident avec ceux qui apparaissent dans (7.1.1) pour dim(λ) calculé avec = |λ|, de sorte que dim(λ) Pλ (n), dim{λ}n = (7.2.2) |λ|! pour Pλ (T ) un polynôme de degré |λ| produit de facteurs distincts de la forme T − i, i entier. Lemme 7.3 L’ensemble des zéros du polynôme Pλ admet les descriptions équivalentes suivantes: (i) les entiers |λ| + λa − a, pour 1 ≤ a ≤ |λ|. (ii) les entiers i≥0 distincts des entiers |λ| + b − λ∗b − 1 pour b≥1. Preuve La formule (7.2.1) donne la description (i). Montrons son équivalence avec (ii). Une partition λ décompose l’ensemble des entiers en ceux de la forme b − λ∗b − 1 et ceux de la forme λa − a. En effet, si on longe comme suit le bord SE du diagramme de λ et les axes × × ... × × × .. . × 32 P. Deligne les • (resp. ×) sont en les positions (x, y) de la forme (a, λa ) (resp. (λ∗b , b−1)), et y − x parcourt Z. Pour b≥λ1 + 1, les b − λ∗b − 1 sont les entiers ≥λ1 . Pour a≥|λ|+1, les λa −a sont les entiers < −|λ|. Translatant par |λ|, on en déduit comme promis que les entiers i de la forme |λ| + λa − a pour 1 ≤ i ≤ |λ| sont les entiers i≥0 qui ne sont pas de la forme |λ| + b − λ∗b − 1 et qu’ils sont tous ≤ |λ| + λ1 . 7.4. Si t dans A de caractéristique 0 est tel que les t − i soient inversibles pour i entier dans l’intervalle 0 ≤ i < 2|λ|− 1, {λ} est défini dans Rep(St , A) et on a encore dim(λ) dim{λ} = Pλ (t). (7.4.1) |λ|! Il suffit de le vérifier dans le cas universel où A = Q[T ] Π −1 (T − i) 0 ≤ i<2|λ|−1 et t = T , et, d’après (7.2.2) et 6.4, (7.4.1) devient en effet vrai après une infinité de spécialisations de T en un entier. 7.5. Même si l’entier n ≥0 n’est plus ≥|λ| + λ1 , continuons d’appeler {λ}n la suite (n − |λ|, λ1 , λ2 , . . .), et α la suite des ({λ}n )i + |λ| + 1 − i. C’est la suite (n, λ1 + |λ| − 1, λ2 + |λ| − 2, . . .), et les zéros du polynôme Pλ sont les entiers n≥0 pour lesquels deux termes de cette suite sont égaux. Si l’entier n≥0 n’est pas un zéro, on peut réordonner la suite α pour obtenir une suite strictement décroissante α+ , et celle-ci correspond comme en 7.1 (toujours pour = |λ| + 1) à une partition {λ}+ n . L’expression (7.1.1) pour α coı̈ncide avec (7.2.1) et (7.2.2). Si n < |λ| + λ1 et que αi+1 > α1 > αi+2 , on déduit α+ de α en insérant α1 entre αi+1 et αi+2 , et (7.1.1) pour α+ coı̈ncide avec (7.1.1) pour α sauf que les α1 − αj sont changés de signe pour 2 ≤ j ≤ i + 1. On a donc i dim(λ) Pλ (n). (7.5.1) dim {λ}+ n = (−1) n! Si n≥|λ| + λ1 , {λ}+ n coı̈ncide avec {λ}n et la même formule vaut avec i = 0. On notera que (7.5.1) reflète une égalité de multiensemble d’entiers, à i changements de signe près. Que αi+1 > α1 > αi+2 se récrit λi + |λ| − i > n > λi+1 + |λ| − (i + 1). Cette conditiion équivaut à λi ≥n − |λ| + i + 1 > λi+1 , puis à ce que pour un b on ait b = n − |λ| + i + 1 et λ∗b = i, et enfin à ce que pour un b on ait n = |λ| + b − λ∗b − 1 et λ∗b = i. La Catégorie des Représentations du Groupe... 33 Ceci reprouve 7.3 et montre que si n≥0 n’est pas un zéro de Pλ , i.e. est de la forme |λ| + b − λ∗b − 1, on a ∗ λb dim {λ}+ n = (−1) dim(λ) Pλ (n). n! (7.5.2) On laisse au lecteur le soin de vérifier que si n = |λ| + b − λ∗b − 1, le diagramme de la partition {λ}+ n est déduit de celui de λ par la construction suivante, où la colonne marquée est la b-ième: Inspirés par (7.5.2), nous définirons pour tout entier n≥0 la représentation virtuelle {λ}n de Sn comme étant celle qui correspond à la partition {λ}n de n quand celle-ci est définie, i.e. quand n≥|λ| + λ1 , comme étant 0 ∗ si n n’est pas de la forme |λ| + b − λ∗b − 1 et comme étant (−1)λb {λ}+ n si n est de cette forme. Que cette convention est raisonnable sera confirmé par 7.11. La construction qui suit en donne une autre interprétation. Elle m’a été expliquée par A. Ram. 7.6. Une partition λ peut être vue comme un poids dominant de GL(N ) dès que N est assez grand pour que λN +1 = 0 (1.10 (B)). Une suite d’entiers λa seulement supposés nuls pour a assez grand définit de même un poids non nécessairement dominant. Un poids dominant λ définit une représentation irréductible V (λ). Un poids quelconque définit une représentation virtuelle encore notée V (λ) de GL(N ), de caractère donné par la formule des caractères de Weyl, et donc fonction antisymétrique de λ + ρ, pour l’action du groupe de Weyl SN . On peut remplacer ρ par une quelconque suite ( − 1, − 2, · · · , − N ), car la différence avec ρ est fixe sous SN . Pour λ une partition, les représentations λ de S|λ| et V (λ) de GL(N ) se correspondent: V (λ) λ HomS|λ| (λ, V ⊗|λ| ), et HomGL(N ) (V (λ), V ⊗|λ| ). (7.6.1) (7.6.3) Si λ est une suite d’entiers λa (a≥1) nuls pour a assez grand, et telle que |λ| := Σλa ≥0 on attachera à λ la représentation virtuelle R(λ) de S|λ| second 34 P. Deligne membre de (7.5.3) pour N assez grand. Explicitons. Si la suite des λa − a n’est pas formée d’entiers tous distincts, les représentations virtuelles V (λ) et R(λ) sont nulles. S’ils sont tous distincts, il existe une permutation w des entiers, avec w(a) = a pour a grand, qui transforme la suite des λa − a en une suite strictement décroissante. Notons ε(λ) la signature de w. La suite décroissante λ+ qui correspond au poids dominant w(λ + ρ) − ρ est la suite −1 (a) + a, (7.6.4) λ+ a = λw −1 (a) − w et la représentation virtuelle R(λ) de S|λ| est R(λ) = ε(λ)λ+ . (7.6.5) Le cas qui nous intéresse est celui où, partant d’une partition λ et de n≥0, on considère la suite d’entiers {λ}n := (n−|λ|, λ1 , λ2 , . . . ). Comparant 7.5 et 7.6, on voit que la notation {λ}+ n de 7.5 est une cas particulier de 7.6.4, et que la représentation virtuelle {λ}n de 7.5 est R({λ}n ). Nous avons vu en (6.4.1) que la représentation []n de Sn × S est ison morphe à la somme sur les partitions λ de des IndS Sn− ×S (1 ⊗ λ) ⊗ λ. Nous allons en déduire que dans R(Sn × S ) on a Proposition 7.7 []n = |μ|=m ≤ {μ}n ⊗ IndS Sm ×S−m (μ ⊗ 1). Preuve Appliquons la règle de Littlewood-Richardson pour calculer l’induite de λ ⊗ 1 de S × Sn− à Sn , égale à l’induite de 1 ⊗ λ de Sn− × S à Sn . On obtient que []n = ν ⊗ λ, la somme portant sur les partitions λ de et les partitions ν de n telles que λi ≤ νi ≤ λi−1 pour i≥2 et λ1 ≤ ν1 . Si μ est la partition (ν2 , . . . ) telle que ν = {μ}n , ces conditions se récrivent μi ≤ λi ≤ μi−1 pour i≥2, μ1 ≤ λ1 et λ1 ≤ n − |μ| : on a []n = {μ}n ⊗ λ pour (λ, μ) comme ci-dessus. Si on applique la règle de Littlewood-Richardson à l’induite au second membre de 7.7, on obtient la même somme, sans la restriction λ1 ≤ n − |μ|. Il reste à prouver que pour chaque partition λ de , on a Σ{μ}n = 0 lorsqu’on fait porter la somme sur les partitions μ avec |μ| ≤ telles que λi+1 ≤ μi ≤ λi pour i≥1 et n − |μ| < λ1 . La Catégorie des Représentations du Groupe... 35 Considérons, plutôt que μ, la suite β, indexée cette fois par les entiers ≥0: (n − |μ|, μ1 − 1, μ2 − 2, . . . ). Les suites μ et β se déterminent mutuellement, et écrites en terme de β et des αi := λi − i, les conditions sur β deviennent les suivantes: a. βi = −i pour i assez grand; b. Σ(βi + i) = n; c. αi+1 < βi ≤ αi si i≥1; d. β0 ≤ α1 . Puisque β0 ≤ α1 , il existe a tel que αa+1 < β0 ≤ αa . Soit β déduit de β en échangeant β0 et βa . Cette construction est involutive. Les μ et μ correspondant vérifient {μ}n = −{μ }n , et que Σ{μ}n = 0 en résulte. Notons []∗ la représentation virtuelle []∗ := {λ}n ⊗ λ |λ|= de Sn × S . Avec cette notation, 7.7 se récrit [] = m≤ Corollaire 7.8 ∗ n ×S IndS Sn ×Sm ×S−m ([m] ⊗ 1). (7.7.1) Dans R(Sn × S ), on a []∗ = m≤ n ×S (−1)−m IndS Sn ×Sm ×S−m ([m] ⊗ ε). (7.8.1) C’est une conséquence de (7.7.1) et du lemme suivant, pour Λ = R(Sn ) (de sorte que Λ ⊗ R(Sm ) = R(Sn × Sm ). Lemme 7.9 Soit Λ un groupe abélien libre. Soient, pour m ≤ , f (m) et g(m) des éléments de Λ ⊗ R(Sm). Les identités suivantes sont équivalentes: Pour m ≤ , f (m) = Pour m ≤ , g(m) = m ≤m m ≤ m m IndS Sm ×Sm−m (g(m ) ⊗ 1), (7.9.1) m (−1)m−m IndS Sm ×Sm−m (f (m ) ⊗ ε).(7.9.2) Il suffit de traiter le cas Λ = Z. 36 P. Deligne Preuve pour Λ = Z. On montrera que la composée g → f → g (resp. f → g → f ) des transformations données par (7.9.1) et (7.9.2) est l’identité. Nous ne considèrerons que g → f → g. Le cas f → g → f se traite de même et est laissé au lecteur. L’image de g par g → f → g est S m m (−1)m−m IndS Sm ×Sm−m IndSm ×Sm −m (g(m ) ⊗ 1) ⊗ ε = m ≤ m ≤ m m (−1)m−m IndS Sm ×Sm −m ×Sm−m (g(m ) ⊗ 1 ⊗ ε) = m ≤ m ≤ m m IndS Sm ×Sm−m g(m )⊗ m ≤ m S (−1)m−m IndSm−m (1 ⊗ ε) m −m ×Sm−m m ≤ m ≤ m Le terme pour m = m redonne g, et les autres sont nuls: Lemme 7.10 Pour > 0, on a dans R(S ) (−1) IndS S ×S (1 ⊗ ε) = 0. + = Preuve Rappelons que le produit tensoriel d’une famille finie de complexes La (a ∈ A) est défini indépendamment du choix d’un ordre total sur A. Un ordre total définit un isomorphisme de la somme | ⊗ La | des composantes du produit tensoriel avec ⊗|La |, cet isomorphisme étant modifié |B| par des signes quand l’ordre change. Si on pose or(B) := ∧ ZB et, pour n ∈ ZA , B(n) := {a ∈ A | na est impair}, on a canoniquement ⊗Ln(a) ⊗ or(B(n)). | ⊗ La | = a ∼ Soient A = {1, . . . , }, et K le complexe k −→ k réduit aux degrés 0 et 1. Il est acyclique. Si A est non vide, le complexe K ⊗A est acyclique. Il est muni d’une action de S et, pour = + , sa composante de degré est canoniquement isomorphe à IndS S ×S (1 ⊗ ε). Exprimant que la caractéristique d’Euler-Poincaré est nulle dans R(S ), on obtient 7.10. Soient n0 un entier ≥0, c une classe de conjugaison dans Sn0 et, pour n≥n0 , notons encore c la classe de conjugaison de Sn qui en est l’image par l’inclusion naturelle de Sn0 dans Sn . Corollaire 7.11 Soient un entier, et λ une partition de . La valeur en c du caractère de la représentation virtuelle {λ}n de Sn , définie pour n≥n0 , est polynômiale en n. La Catégorie des Représentations du Groupe... 37 Preuve Si χ∗ est le caractère de la représentation virtuelle []∗ de Sn ×S , et χλ celui de la représentation λ de S , la valeur en c du caractère de {λ}n est 1 χ∗ (c, σ)χλ (σ). ! σ Par 7.8, il suffit donc de prouver pour tout σ dans S , et tout m ≤ , la valeur en (c, σ) du caractère de n ×S IndS Sn ×Sm ×S−m ([m] ⊗ ε) est polynômiale en n. L’induction de H à G d’un caractère de H est une somme indexée par G/H de son image sur les conjugués de H. Il suffit dans notre cas de traiter chaque terme séparément, et ceci nous ramène à vérifier que pour σ dans Sm , la valeur en (c, σ ) du caractère de la représentation [m] de Sn ×Sm est polynômiale en n. Cette valeur est le nombre d’injections de {1, . . . , m} dans {1, . . . , n} telles que cf = f σ . Si U (resp. Y ) est la partie de {1, . . . , m} (resp. {1, . . . , n}) non fixe par σ (resp. c), c’est le produit du nombre d’injection f1 de U dans Y telles que cf1 = f1 σ , par le nombre d’injection de {1, . . . , m} − U dans {1, . . . , n} − Y . Le premier est indépendant de n, le second polynômial en n. Mise en garde: le polynôme de valeur en n≥n0 le caractère de {λ}n en c n’est pas nécessairement nul en les entiers n ≤ n0 tels que la représentation virtuelle {λ}n soit nulle. 7.12. Soit U un ensemble fini. Nous nous proposons de lui associer un complexe multiple K(U ) dans Rep(St , k) à multidegrés dans ZU , dont seules les composantes de multidegré dans {0, 1}U sont non nulles. “Complexe multiple” est ici pris au sens que les différentielles du (u ∈ U ) commutent. Un multidegré dans {0, 1}U est la fonction caractéristique d’une partie P de U . La composante correspondante est [U − P ], et si u ∈ / P, du : [U − P ] → [U − P − {u}] est resj , pour j l’inclusion de U − P − {u} dans U − P . Un complexe multiple K à multidegrés dans ZU définit un complexe simple associé sK. Un ordre total sur U fournit un isomorphisme |sK| ∼ |K| entre les espaces sous-jacents, mais cet isomorphisme est modifié par des signes quand l’ordre change. Avec les notations de 7.10, on a canoniquement |sK| ∼ K n ⊗ or(B(n)). 38 P. Deligne Si K(U ) est sK(U ) , on a donc |sK| ∼ [U − P ] ⊗ or(P ). Le groupe symétrique SU agit sur K(U ). Utilisons cette action pour décomposer K(U ) (cf. 1.10.3): K(U ) = K(U )λ ⊗ λ. |λ|= Si t est un entier n≥0, l’image de K(U ) dans Rep(Sn ) est munie d’une action de SU : c’est un complexe de Sn × SU -modules. Pour U = {1, . . . , }, sa caractéristique d’Euler-Poincaré est donnée par (7.8.1): χ(image de K(U ))=[]∗ dans R(Sn × S ), (7.12.1) d’où résulte que χ(image de K(U )λ )={λ}n dans R(Sn ). (7.12.2) 7.13. Questions (i) Si t n’est pas un entier ≥0, le complexe K(U ) n’a-t-il de cohomologie qu’en degré 0? (ii) Si t est un entier n, l’image de K(U )λ dans Rep(Sn ) est-elle acyclique si {λ}n = 0? Si n = |λ| + b − λ∗b − 1 (b≥1), est-elle acyclique sauf en degré a := λ∗b , avec H a = {λ}+ n? J’ai seulement pu vérifier que si n≥2, l’image de K(U ) et donc des K(U )λ n’a de cohomologie qu’en degré 0. 8 La Propriété Universelle de Rep(St , A) 8.1. Soit T une catégorie à produit tensoriel ACU . Si l’objet T de T admet un dual, la construction habituelle associe à une structure d’algèbre μ : T ⊗T → T un morphisme trace Tr : T → 1. Le Hom interne Hom(T, T ) est en effet défini (3.2), et Tr est le composé de la “multiplication à gauche” s : T → Hom(T, T ) image inverse de μ : T ⊗ T → T par (3.2.1) et de la trace (3.3.1). D’après (3.2.3) et (3.3.1), Tr est le composé Tr : T T ⊗δ / T ⊗ T ⊗ T∨ μ⊗T ∨ / T ⊗ T∨ = T∨ ⊗ T ev / 1. (8.1.1) La Catégorie des Représentations du Groupe... 39 8.2. Notons X l’objet [1] de Rep(St , A). Pour tout ⊗-foncteur ACU Alinéaire F de Rep(St , A) dans une catégorie pseudo-abélienne A-linéaire T à produit tensoriel ACU , l’objet T = F (X) de T hérite des propriétés suivantes de X: il admet un dual, est de dimension l’endomorphisme t : 1 → 1 de 1, est muni d’une structure d’algèbre ACU , et si Tr est la trace correμ / T Tr / 1 fait de T son propre dual. spondante, Tr(xy) : T ⊗ T Proposition 8.3 Le foncteur F → F (X) est une équivalence de la catégorie des ⊗-foncteurs de Rep(St , A) dans T avec la catégorie des objets T comme ci-dessus et de leurs isomorphismes. En d’autres termes, la donnée de T se prolonge en celle d’un ⊗-foncteur F de Rep(St , A) dans T tel que F (X) = T , et ce prolongement est unique à isomorphisme unique près. Preuve La catégorie Rep(St , A) est l’enveloppe pseudo-abélienne de la sous-catégorie pleine des X ⊗U . En effet, X ⊗U est somme directe des [U/R] pour R une relation d’équivalence sur U . Partant de T , il suffit donc de montrer l’existence et l’unicité du prolongement F aux X ⊗U . Dans Rep(St , A), Hom(X ⊗U , 1) = Hom(⊕[U/R], 1) est le A-module libre de base les partitions de l’ensemble U . Par autodualité de X, Hom(X ⊗U , X ⊗V ) a de même pour base les partitions de U V . Soit [P] le morphisme défini par la partition P. On a [P] = ⊗ X ⊗U ∩ P m /X m / X ⊗V ∩ P , (8.3.1) le produit tensoriel étant étendu aux parts de P, m étant un produit itéré, et m le transposé d’un produit itéré. Pour [P] : X ⊗U → X ⊗V et [Q] : X ⊗V → X ⊗W , soient Q, P la partition de U V W engendrée par P et Q. Sa trace sur U V (resp. V W ) est plus grossière que P (resp. Q), et elle est la plus fine à avoir ces propriétés. Soient Q, PU W sa trace sur U W et n le nombre de parts de Q, P contenues dans V . On a [Q] ◦ [P] = tn [Q, PU W ] . (8.3.2) En particulier, pour U = V = W , End(X ⊗U ) est l’algèbre de partitions considérée par T. Halverson et A. Ram (2003). Pour vérifier (8.3.1) et (8.3.2), le plus simple est de se ramener au cas de Rep(SI ), où X ⊗U est libre de base les applications f : U → I, et où [P](ef ) est Σeg , la somme étant étendue aux g tels que f g : U V → I soit constant sur les parts de P. 40 P. Deligne Pour T comme en 8.2, un ⊗-foncteur ACU A-linéaire de Rep(St , A) dans T envoyant X sur T doit envoyer X ⊗U sur T ⊗U , et [P] : X ⊗U → X ⊗V sur le produit tensoriel [P] des composés de multiplications et multiplications transposées (8.3.3) [P]T = ⊗ T ⊗(U ∩ P ) → T → T ⊗(V ∩ P ) . P Il est donc déterminé (à isomorphisme unique près) par T . L’existence d’un tel foncteur, et 8.3, résultent du Lemme 8.4 Pour T comme en 8.2, le composé de morphismes [P]T est donné comme en (8.3.2) par [Q]T [P]T = tn [Q, PU W ]T . (8.4.1) Pour tout objet Y de T muni d’une autodualité symétrique, l’application Hom(Y ⊗U , Y ⊗V ) → Hom(Y ⊗U V , 1) : f −→ (f ) : Y ⊗U V = Y ⊗U ⊗ Y ⊗V f ⊗Y ⊗V / Y ⊗V ⊗ Y ⊗V ev⊗V /1 est bijective. Cette construction est duale de (3.2.4). On laisse au lecteur le soin de vérifier que ce codage f → (f ) a les propriétés suivantes. Lemme 8.5 (i) Le code de gf : Y ⊗U → Y ⊗V → Y ⊗W est le composé Y ⊗U ⊗ Y ⊗W Y ⊗U ⊗δ ⊗V ⊗Y ⊗W / Y ⊗U ⊗ Y ⊗V ⊗ Y ⊗V ⊗ Y ⊗W (f )⊗(g)/ 1. (ii) Le transposé f t : Y ⊗V → Y ⊗U de f : Y ⊗U → Y ⊗V a le même code que f . (iii) Pour f : Y ⊗U → Y ⊗V et g : Y ⊗W → Y ⊗V , le code de g t f : Y ⊗U → Y ⊗W est le composé Y ⊗U ⊗ Y ⊗W f ⊗g / Y ⊗V ⊗ Y ⊗V ev⊗V / 1. 8.6. Nous appliquerons 8.5 à T , muni de son autodualité symétrique Tr(xy). En 8.6 et 8.7, nous utiliserons seulement que l’autodualité est de la forme τ μ : T ⊗ T → T → 1 pour un morphisme τ : T → 1. Le code du produit itéré mp : T ⊗p → T est τ mp+1 : T ⊗p ⊗ T mp ⊗T / T ⊗T μ /T τ / 1. La Catégorie des Représentations du Groupe... 41 D’après 8.5 (ii) (iii), le code du composé du produit itéré mp et du transposé mtq du produit itéré mq est τ mp+q : T ⊗p ⊗ T ⊗q mp ⊗mq / T ⊗T /T μ / 1. τ Le code d’un produit tensoriel étant le produit tensoriel des codes, le code de [P]T : T ⊗U → T ⊗V est /T mP code [P]T = ⊗(T ⊗P / 1), τ (8.6.1) le produit étant étendu aux parts P ⊂ U V de P et mP étant le produit itéré T ⊗P → T . Pour calculer le code de [Q]T [P]T par 8.5 (i), il nous reste à calculer l’effet sur un morphisme (8.6.1) d’un “contraction”: composition avec δ : 1 → T ⊗ T . C’est ce qui est fait dans les lemmes qui suivent. Lemme 8.7 Le composé T ⊗p ⊗ T ⊗q δ / T ⊗p ⊗ T ⊗ T ⊗ T ⊗q τ μp+1 ⊗τ μq+1 /1 (8.7.1) est τ μp+q . Preuve D’après 8.5 (i) (ii), (8.7.1) est le code du composé du morphisme mp : T ⊗p → T , de code τ mp+1 , et du transposé du morphisme mq : T ⊗q → T , de code τ mq+1 . Calculons ce code par 8.5 (iii): (8.7.1) est τ mp+q : T ⊗p ⊗ T ⊗q Lemme 8.8 mp ⊗mq / T ⊗T μ /T τ /1. Le composé 1 δ / T ⊗T μ /T (8.8.1) est l’unité de T . Preuve Le code de l’unité u : 1 → T de T est le composé T =1⊗T u⊗T / T ⊗T μ /T τ / 1, égal à τ . Un morphisme de T ⊗P dans 1 étant son propre code, il résulte de 8.5 (ii) que u et τ sont transposés l’un de l’autre. 42 P. Deligne La trace Tr est le composé (8.1.1). Par associativité de μ, c’est encore le composé T ⊗(8.8.1) T =T ⊗1 / T ⊗T μ /T τ / 1, i.e. le code de (8.8.1). Les codes τ de l’unité et Tr = τ de (8.1.1) sont donc égaux; 8.8 en résulte. 8.9 Preuve de 8.4 D’après 8.5 (i), le code de [Q]T ◦ [P]T est déduit du produit tensoriel des codes (8.6.1) de [Q]T et [P]T : ⊗U (8.4.1) T ⊗ T ⊗V ⊗ T ⊗V ⊗ T ⊗W → 1 par une série de “contractions”: 1 → T ⊗T indexées par V . Il se décompose selon les parts R de P, Q. pour chaque part R, si U , V , W sont les traces de R sur U , V , W , le facteur correspondant T ⊗U ⊗ T ⊗W → 1 est déduit du facteur T ⊗U ⊗ T ⊗V ⊗ T ⊗V ⊗ T ⊗W → 1 de (8.4.1) par des contractions analogues, indexées par V . Si R rencontre U ou W , une application itérée de 8.7 et 8.8 montre que le résultat est τ m, pour m le produit itéré T ⊗U ⊗ T ⊗W → T . Sinon, une application itérée de 8.7 et 8.8 fournit finalement 1 δ / T ⊗T μ /T Tr / 1, égal à ev δ = dim T = t. 8.10. Supposons la catégorie T tensorielle sur k. On dispose alors de rudiments de géométrie algébrique dans T (Deligne 1990). Soient T comme en 8.2, I := Spec(T ), et SI le T -schéma en groupe des automorphismes de I. C’est le sous-groupe fermé de GL(T ) (voir 10.8) qui respecte la structure d’algèbre μ : T ⊗ T → T de T . Pour tout T -schéma Y , SI (Y ) est le groupe des automorphismes du Y -schéma IY := I × Y . Soit Rep(SI ) la catégorie des représentations ρ : SI → GL(V ) de SI sur un objet de T . C’est une catégorie tensorielle sur k et, par construction, T en est un objet. Le ⊗-foncteur Rep(St , k) → T : X −→ T construit en 8.3 se factorise donc par le foncteur analogue Rep(St , k) → Rep(SI ) : X −→ T (8.10.1) suivi du foncteur d’oubli de Rep(SI ) dans T . On notera [U ]I l’image de [U ] par (8.10.1). La Catégorie des Représentations du Groupe... 43 En 8.20, nous introduirons une sous-catégorie pleine Rep(SI , ε) de Rep(SI ) par laquelle se factorise (8.10.1). Elle est plus naturelle que Rep(SI ), mais inutile pour l’instant. Proposition 8.11 Le ⊗-foncteur (8.10.1) de Rep(St , k) dans Rep(SI ) est surjectif sur les Hom. Puisqu’un ⊗-foncteur commute aux Hom et respecte l’isomorphisme de Hom(V, W ) avec Hom(1, Hom(V, W )), il suffit de vérifier la surjectivité 8.11 pour Hom(1, [U ]). En d’autres termes, il suffit de vérifier que les invariants de SI agissant sur [U ]I sont réduits à l’image du morphisme 1 → [U ]I unité de l’algèbre [U ]I . La preuve sera donnée en 8.18. Elle paraphrase l’arguments trivial suivant, qui s’applique à Rep(SI ). On veut prouver que toute fonction SI -invariante f sur Inj(U, I) est constante, i.e. que f prend la même valeur sur deux injections j1 , j2 : U → I. Si W = j1 (U ) ∪ j2 (U ), j1 et j2 se factorisent par j1 , j2 : U → W suivis de j : W → I. Il existe une permutation σ de W qui transforme j1 et j2 . Prolongeant σ en σ ∈ SI , on obtient σ qui transforme j1 en j2 et garantit que f (j1 ) = f (j2 ). 8.12. La structure de I. Rappelons qu’un sous-schéma fermé d’un T -schéma Spec(A) est un T -schéma Spec(A/a), pour A/a un quotient de A. Il est dit ouvert et fermé si l’idéal a est engendré par un idempotent, i.e. s’il existe e : 1 → A idempotent pour la multiplication de A tel que a soit A⊗e / A ⊗ A −→ A . Si l’image de la “multiplication par e”: A = A ⊗ 1 tel est le cas, l’idempotent e est unique, et il existe un unique sous-schéma fermé Spec(A/b) de Spec(A), le complémentaire de Spec(A/a), tel que Spec(A/a) Spec(A/b)−∼→ Spec(A). L’idéal b est engendré par l’idempotent 1 − e. Les idempotents de l’algèbre ACU A formant une algèbre booléenne, on dispose pour les sous-schémas ouverts et fermés du calcul booléen habituel. Lemme 8.13 La diagonale de I × I est un sous-schéma ouvert et fermé. Preuve Dans Rep(St , k), l’isomorphisme de X ⊗U avec le produit des [U/R] est compatible aux structures d’algèbres (vérification directe, ou par réduction au cas de Rep(SI )). De plus, pour U = {1, 2} et R la relation d’équivalence grossière, pour laquelle [U/R] X, la projection X ⊗2 → [U/R] = X est le produit, de sorte que Spec(U/R) est la diagonale de Spec(X)2 , et que Spec(X)2 = Spec([2]) diagonale. 44 P. Deligne Appliquant le ⊗-foncteur 8.10.1, on a déduit que I2 = Spec([2]I ) diagonale. Cette décomposition prouve 8.13. Par image inverse, les diagonales de IU sont elles aussi ouvertes et fermées. Dans la décomposition Spec(X)U = Spec([U/R]), les Spec([U/R]) pour R non discret sont contenus dans une diagonale, et chaque diagonale est somme disjointe de tels Spec([U/R]). Appliquant 8.10.1, on a donc Lemme 8.14 Le sous-schéma Spec([U ]I ) de IU est le sous-schéma ouvert et fermé complément des diagonales. Pour Y un T -schéma, deux sections s, t de IY = I × Y /Y , définies par s , t : Y → I, sont dites disjointes si (s , t ) : Y → I2 se factorise par le complément de la diagonale. Deux sections quelconques sont disjointes sur un sous-schéma ouvert et fermé de Y , et égales sur son complément. D’après 8.14, Spec([U ]I ) représente le foncteur Y −→ {famille (su )u∈U de sections disjointes de IY }. Ceci justifie la notation Inj(U, I) := Spec([U ]I ). 8.15. Le T -schéma I×Inj(U, I) représente donc le foncteur Y → {sections (su )u∈U et s0 de IY , les su étant disjointes}. Il se décompose en U copies de Inj(U, I), données par s0 = su (u ∈ U ), et un reste Inj(U {0}, I). Chaque copie de Inj(U, I) se projette isomorphiquement sur le deuxième facteur, et IInj(U,I) est donc somme disjointe de sections indexées par U , et d’un reste. Une permutation de U définit un automorphisme de IInj(U,I) qui permute ces sections et est l’identité sur le reste. Ceci définit SU → SI (Inj(U, I)). (8.15.1) Plus généralement, sur toute base Y , la donnée de sections disjointes (su )u∈U de IY définit un morphisme SU → SI (Y ), (8.15.2) dont (8.15.1) est le cas universel. Lemme 8.16 Pour tout T -schéma Y = Spec(A) et toute “fonction” f sur Inj(U, I)Y , i.e. tout f : 1 → A⊗ [U ]I , si f est invariante par SI , alors après tout changement de base Z → Y et pour toutes sections s, t de Inj(U, I)Z /Z, on a f (s) = f (t). La Catégorie des Représentations du Groupe... 45 Notation: f (s) est la fonction sur Z image inverse de f par Z s / Inj(U, I)Z / Inj(U, I)Y . Preuve La donnée de s, t est celle de deux familles de sections disjointes de IZ , indexée par U . Découpand Z en parties ouvertes et fermées, on se ramène à supposer que pour chaque u, v ∈ U , su et tv sont soit égales, soit disjointes: il existe un recollement de U et U en W , et une famille disjointe de sections indexées par W , qui induise s et t. Les deux copies de U dans W sont transformées l’une de l’autre par une permutation de W , et on conclut par (8.15.2) appliqué à W . Corollaire 8.17 Une fonction f comme en 8.16 provient d’une fonction sur Y , i.e. de f˜: 1 → A. Preuve Si Inj(U, I) est vide, i.e. si [U ]I = 0, l’assertion est triviale. Si Inj(U, I) est non vide, J := Inj(U, I)Y est fidèlement plat sur Y , et la conclusion de 8.16, dans le cas universel où Z = J ×Y J, dit que les deux images inverses de f sur J ×Y J coı̈ncident. La preuve usuelle de la descente fidèlement plate (SGA 1 VIII 1.1, 1.5) donne que le système cosimplicial d’algèbres affines O((J/Y )n ) est une résolution de A, et 8.17 en résulte. Corollaire 8.18 Les invariants de SI agissant sur [U ]I sont réduits à l’image de l’unité 1 → [U ]I . Soit V l’espace des invariants. Prenons A = Sym(V ∗ ) et la fonction f: 1 δ / V∗⊗V ⊂ A ⊗ [U ]I . Si (1) ⊂ V est l’image de l’unité, 8.17 assure que f se factorise par A ⊗ (1), donc parV ∨ ⊗ (1): l’identité de V se factorise par (1), et V = (1). Ceci conclut la preuve de 8.11. Proposition 8.19 Quel que soit t, la ⊗-catégorie Rep(St , k) admet un plongement pleinement fidèle dans une catégorie tensorielle sur k. Si t n’est pas un entier ≥0, la catégorie Rep(St , k) est tensorielle sur k (2.18), et 8.19 est trivial. On peut donc supposer, et on supposera, que t est un entier n≥0. Dans ce cas, le plongement 8.19 est nécessairement dans une catégorie tensorielle qui n’est pas semi-simple: le foncteur naturel dans Rep(Sn ) n’est pas fidèle (il annule [U ] pour |U | > n), il y a donc dans Rep(St ) des morphismes négligeables non nuls (6.2), leur image est encore négligeable, et on applique 5.7. 46 P. Deligne Construction Dans la catégorie Rep(S−1 , k), soit T l’algèbre produit de [1] et de n + 1 copies de l’algèbre 1. Elle vérifie les hypothèses de 8.2: on a dim(T ) = dim([1]) + n + 1 = −1 + n + 1 = n = t et les autres hypothèses sont vérifiées par [1], par 1, et sont stables par produit. Posons I := Spec(T ) et considérons le ⊗-foncteur (8.10.2) de Rep(St , k) dans Rep(SI , ε) défini par T . D’après 8.11, ce foncteur est surjectif sur les Hom. Reste à voir qu’il est injectif sur les Hom. Comme dans la preuve de 8.11 (lignes suivant 8.11), il suffit de le vérifier pour Hom(1, [U ]): il s’agit de montrer que l’unité de l’algèbre [U ]I est non nulle, i.e. que le Rep(S−1 , k)-schéma Inj(U, I) est non vide. Il contient en effet le schéma non vide Inj(U, Spec([1])) = Spec([U ] dans Rep(S−1 , k)). 8.20. Soient T une catégorie tensorielle sur k et π son groupe fondamental (Deligne 1990) 8.13. Ce T -schéma en groupe agit fonctoriellement sur tout objet de T , et l’action est compatible au produit tensoriel. En particulier, pour I = Spec(T ) comme en 8.10, l’action de π sur T définit un homomorphisme ε : π → SI , et T appartient à la sous-catégorie pleine Rep(SI , ε) de Rep(SI ), d’objets les représentations ρ de SI sur un objet V de T , telle que l’action ρ ◦ ε de π sur V soit l’action canonique de π sur V . Par 8.3, le foncteur (8.10.1) de Rep(St , k) dans Rep(SI ) se factorise par Rep(St , k) → Rep(SI , ε). (8.20.1) Pour X dans T , l’action triviale de SI sur X fait de X un objet de Rep(SI ). Cet objet n’est dans Rep(SI , ε) que si l’action canonique de π sur X est triviale, i.e. que si X est une somme de copies de 1 (loc. cit. 8.18). Je conjecture que Rep(SI , ε) n’est autre que la sous-catégorie pleine de Rep(SI ) d’objets les sous-quotients de sommes de puissances tensorielles de T. Conjecture 8.21. Soit F un ⊗-foncteur ACU de Rep(St , k) dans une catégorie tensorielle T sur k. Comme en 8.2 et 8.10, soient T := F (X) et I := Spec(T ). Soit F1 le foncteur (8.20.1) de Rep(St , k) dans Rep(SI , ε) par lequel se factorise F . Je conjecture que (8.21.1) Si t n’est pas un entier ≥0, le foncteur F1 est une équivalence. (8.21.2) Si t est un entier n≥0, la catégorie Rep(SI , ε), munie du foncteur F1 : Rep(St , k) → Rep(SI , ε) est équivalente à l’une des suivantes: (a) Rep(Sn ), munie du foncteur naturel de Rep(St , k) dans Rep(Sn ); (b) celle construite en 8.19 complété par 8.20, i.e. Rep(SI , ε) pour T l’objet [1] ⊕ 1n+1 de Rep(S−1 , k). La Catégorie des Représentations du Groupe... 9 47 Groupes Orthogonaux Les séries des groupes orthogonaux O(n) et des groupes linéaires GL(n) donnent lieu à des résultats analogues à ceux expliqués pour les Sn . Nous traitons ici du cas des groupes orthogonaux, et dans la section suivante du cas des groupes linéaires. Pour des formules de dimension parallèles à (7.4.1) et à 7.5, nous renvoyons à (Deligne 1996). 9.1. Soit X un espace vectoriel de dimension n sur k muni d’une forme bilinéaire symétrique non dégénérée B, et soit B ∨ ∈ X ⊗ X la forme bilinéaire duale. D’après le premier théorème fondamental de la théorie des invariants pour O(X), tout invariant de O(X) dans X ⊗U (U un ensemble fini) est combinaison linéaire des invariants obtenus comme suit: prendre une partition de U en parts à 2 éléments, pour chaque part prendre l’invariant B ∨ ∈ X ⊗ X, et prendre le produit tensoriel de ces B̌. De plus, pour n≥|U |/2, ces invariants sont linéairement indépendants. L’autodualité de X permet d’identifier Hom(X ⊗U , X ⊗V ) à X ⊗(UV ) et, dans la catégorie des représentations de O(X), Hom(X ⊗U , X ⊗V ) = Hom(1, Hom(X ⊗U , X ⊗V )) aux invariants de O(X) dans X ⊗(UV ) . Ce qui précède fournit une famille génératrice de Hom(X ⊗U , X ⊗V ), paramétrée par un ensemble indépendant de X et de n. C’est une base si n≥(|U | + |V |)/2. Explicitons: une partition P en parts à 2 éléments de U V s’identifie à la donnée de décompositions U = U ∪ U , V = V ∪ V (réunion disjointes), d’une bijection U −∼→V , et de partitions en parts à 2 éléments de U et de V . La partition de U (resp. V ) fournit un morphisme X ⊗U → 1 (resp. 1 → X ⊗V ) produit tensoriel de morphismes B : X ⊗ X → 1 (resp. B ∨ : 1 → X ⊗ X), et le morphisme de X ⊗U dans X ⊗V correspondant à P est le composé X ⊗U = X ⊗U ⊗ X ⊗U → X ⊗U ⊗V ∼ −→X → X ⊗V ⊗ X ⊗V = X ⊗V . Cette description rend claire qu’à la somme disjointe d’ensembles et de partitions correspond le produit tensoriel de représentations et de morphismes. Représentation graphique: le générateur de Hom(X ⊗U , X ⊗V ) correspondant à P est représenté par un ensemble de points indexés par U en première ligne, un ensemble de points indexés par V en seconde ligne, et, tracés entre les lignes, des traits joignant les points dans la même part de P. Exemples: , , 48 P. Deligne sont respectivement l’identité de X, B : X ⊗ X → 1 et B ∨ : 1 → X ⊗ X. Dans cette représentation graphique, la composition des morphismes correspond à joindre les graphes, à omettre les cercles qui apparaissent, et, si k cercles étaient apparus, à multiplier le résultat par nk . Exemple–clé: = n fois l’identité de 1 (qui représentée par une page blanche). Autre exemple: le composé ; = est n fois l’identité de X. La composition est donc donnée par une formule polynômiale (à coefficients entiers) en n. Remplaçant n par une indéterminée T , on obtient la catégorie à produit tensoriel ACU librement engendrée par un objet muni d’une autodualité symétrique: Définition 9.2 Rep0 (O(T )) est la catégorie Z[T ]-linéaire suivante: objets: ensembles finis. On note X0⊗U l’ensemble fini U , vu comme objet de Rep0 (O(T )). Hom(X0⊗U , X0⊗V ): le Z[T ]-module libre de base les partitions de U V en parts à 2 éléments. composition: comme en 9.1, avec n remplacé par T . La somme disjointe d’ensembles finis munit Rep0 (O(T )) d’un produit tensoriel ACU rigide. 9.3. Pour A un anneau commutatif et t ∈ A, on notera Rep0 (O(t), A) la catégorie A-linéaire déduite de Rep0 (O(T )) en gardant les mêmes objets et en prenant pour groupes Hom ceux déduits des précédents par l’extension des scalaires Z[T ] → A, T → t. On notera Rep1 (O(t), A) celle qui s’en déduit par adjonction formelle de somme directes, et Rep(O(t), A) son enveloppe pseudo-abélienne. Ces catégories sont encore munies d’un produit tensoriel ACU rigide, déduit de celui de Rep0 (O(T )), et elles vérifient End(1) = A. La catégorie Rep0 (O(t), A) a la propriété universelle suivante: La Catégorie des Représentations du Groupe... 49 Proposition 9.4 Soit A une catégorie A-linéaire à produit tensoriel ACU et telle que End(1) = A. Le foncteur F → F (X0 ) est une équivalence de (a) la catégorie Hom⊗ A (Rep0 (O(t), A), A) des ⊗-foncteurs A-linéaires, avec (b) la catégorie des objets de A de dimension t munis d’une autodualité symétrique, et de leurs isomorphismes. Le même énoncé vaut avec Rep1 (resp. Rep) si A est additive (resp. pseudo-abélienne). 9.5. Pour chaque entier n, définissons comme suit un triple (G, ε, X) où G est un super groupe, ε est un élément de G d’ordre divisant 2 tel que l’automorphisme intérieur int(ε) induise sur O(G) sa graduation modulo 2, et X est une (super) représentation de G de graduation modulo 2 définie par l’action de ε, i.e. X est un objet de Rep(G, ε). Selon la valeur de n, on prend: n≥0: n = −2m ≤ 0: n = 1 − 2m ≤ 0: O(n), l’identité de O(n), la représentation évidente; Sp(2m), −1, la représentation évidente, considérée comme purement impaire; OSp(1, 2m), la matrice diagonale (1, −1, . . . , −1), la représentation évidente. Dans chaque cas, on a dim(X) = n, X est munie d’une autodualité symétrique, la catégorie Rep(G, ε) est semi-simple, et le foncteur X0 → X de Rep(O(t), k) dans Rep(G, ε) est surjectif sur les Hom. La dernière assertion reformule le premier théorème principal de la théorie des invariants pour O(n), Sp(2m) et OSp(1, 2m). Le cas de OSp(1, 2m) est traité dans l’appendice, qui contient aussi une nouvelle preuve de la complète réductivité des super représentations de OSp(1, 2m). Répétant la preuve de 6.2, on obtient le théorème suivant. Théorème 9.6 Supposons que t soit un entier n. Alors, avec les notations ci-dessus, le foncteur X0 → X de Rep(O(t), k) dans Rep(G, ε) induit une équivalence Rep(O(t), k)/(négligeables) → Rep(G, ε). L’algèbre des endomorphismes de X0⊗n , dans Rep(O(t), k), est l’algèbre de Brauer Dn (t). D’après H. Wenzl (1988), si t n’est pas un entier, c’est un produit d’algèbres de matrices. Il en résulte que 50 P. Deligne Théorème 9.7 (H. Wenzl – au langage près) Si t n’est pas un entier, la catégorie Rep(O(t), k) est abélienne semi-simple. C’est donc une catégorie tensorielle. ⊗(n−2) Preuve Puisque t = 0, 1 est un facteur direct de X0 ⊗ X0 , et X0 est donc un facteur direct de X0⊗n . Soit (Si ) un système de représentants ∼ des classes d’isomorphie de Dn (t)-modules simples, de sorte que Dn −→ ⊗n Endk (Si ). La structure de Dn (t)-module de X0 fournit une décomposition X0⊗n = ⊕Yi ⊗ Si de X0⊗n en somme d’objets Yi tels que End(Yi ) = k et que Hom(Yi , Yj ) = 0 pour i = j. Puisque X0⊗n est un facteur di rect de X0⊗n si n ≤ n est de même parité que n, chacun de ces X0⊗n est ⊗(n−1) , observant que somme de copies de Yi . Répétant l’argument pour X0 Hom(X0⊗p , X0⊗q ) = 0 si p et q n’ont pas la même parité, et prenant n de plus en plus grand, on obtient un système d’objets simples en lesquels se décompose tout objet de Rep(O(t), k). Dans le langage catégorique, la preuve que H. Wenzl donne de la semisimplicité de Dn (t) peut être présentée comme suit. Proposition 9.8 (i) Si t n’est pas un entier, ou est un entier de valeur absolue |t|≥n− 1, la sous-catégorie pseudo-abélienne Rep(O(t), k)(n) de Rep(O(t), k) engendrée pas les X0⊗i pour i ≤ n est semi-simple. Plus précisément, elle contient des objets Yλ , indexés par les partitions des entiers ≤ n, tels que End(Yλ ) = k, que Hom(Yλ , Yμ ) = 0 pour λ = μ, et que tout objet soit somme de copies des Yλ ; (ii) Si t n’est pas un entier, ou est un entier de valeur absolue |t|≥n, la forme bilinéaire Tr(uv) sur Dn (t) = Hom(X0⊗n , X0⊗n ) est non dégénérée. Preuve On construit les Yλ et on prouve (i) et (ii) par récurrence sur n. De l’hypothèse que (9.8)i est vrai pour i < n, il s’agit de déduire (9.8)n . Si n = 0, Rep(O(t))(n) est réduite aux multiples de 1, et on vérifie (i)0 en prenant Yλ = 1 pour λ la partition vide de l’entier 0. Pour n = 1, prendre en outre Y(1) = X0 . On a D0 (t) = D1 (t) = k, la forme trace étant respectivement uv et tuv, et ceci vérifie (ii)n pour n = 0 ou 1. Supposons que n≥2. L’autodualité de X0 permet d’identifier entre eux les Hom(X0⊗p , X0⊗q ) pour p + q = a, et les formes bilinéaires Tr(uv): Hom(X0⊗p , X0⊗q ) ⊗ Hom(X0⊗q , X0⊗p ) → k La Catégorie des Représentations du Groupe... 51 se correspondent par ces identifications (3.4). L’hypothèse de récurrence assure donc que les formes bilinéaires Tr(uv): Hom(X0⊗n , X0⊗p ) ⊗ Hom(X0⊗p , X0⊗n ) → k sont non dégénérées pour p ≤ n − 2. Pour |λ| ≤ n − 2, la forme Hom(X0⊗n , Yλ ) ⊗ Hom(Yλ ⊗ X0⊗n ) → k (9.8.1) est non dégénérée, comme facteur direct de la précédente. On a End(Yλ ) = k et (9.8.1) est dim(Yλ ).uv. La forme uv est donc non dégénérée et, par 3.9 (ii), X0⊗n a une décomposition Hom(Yλ , X0⊗n ) ⊗ Yλ ⊕ (X0⊗n )∗ , avec (9.8.2) X0⊗n = |λ| ≤ n−2 Hom(Yλ , (X0⊗n )∗ ) = Hom((X0⊗n )∗ , Yλ ) = 0 (9.8.3) pour |λ| ≤ n − 2. La nullité (9.8.3) vaut encore pour |λ| = n − 1, car Hom(X0⊗p , X0⊗q ) = 0 si p et q n’ont pas la même parité.. Le groupe symétrique Sn agit sur X0⊗n et sur (X0⊗n )∗ . On vérifie que cette action induit un isomorphisme ∼ k[Sn ]−→ End (X0⊗n )∗ . Noter que le but est le quotient de Dn (t) par l’idéal des endomorphismes se factorisant par un X0⊗p pour p ≤ n − 2 ou, ce qui revient au même, p ≤ n − 1. Comme en 5.3 on vérifie (i)n en définissant les Yλ pour |λ| = n par (X0⊗n )∗ = ⊕Yλ ⊗ λ. (9.8.4) (décomposition Sn -équivariante). Les décompositions (9.8.2) et (9.8.4) ramènent (ii)n à dim Yλ = 0 pour |λ| = n. (9.8.5) H. Wenzl prouve (9.8.5) en calculant dim Yλ à partir de la formule des caractères de H. Weyl, pour l’image de Yλ dans Rep(SO(2N + 1)) pour N grand et t = 2N + 1: la dimension est donnée par un polynôme en t qui ne s’annule que pour t entier de valeur absolue |t| < n. 10 Groupes Linéaires 10.1. Soient X un espace vectoriel de dimension n sur k et X ∨ son dual. D’après le premier théorème fondamental de la théorie des invariants pour 52 P. Deligne GL(X), tout invariant de GL(X) dans T (U, V ) := X ⊗U ⊗ X ∨⊗V (U et V ensembles finis) est combinaison linéaire des invariants obtenus comme suit: prendre une bijection de U avec V , et le produit tensoriel de δ : 1 → X ⊗X ∨ correspondant. Pour n≥|U |, ces invariants sont linéairement indépendants. L’isomorphisme naturel Hom(T (U, V ), T (U , V )) = Hom(1, T (V U , U V )) (10.1.1) fournit alors une famille génératrice de l’espace vectoriel des morphismes de représentations de T (U, V ) dans T (U , V ), qui est une base si n≥|V U |. Représentation graphique: le générateur de Hom(T (U, V ), T (U , V )) correspondant à la bijection ϕ de V U avec U V est représenté par a) en première ligne, un ensemble de points notés ensemble de points notés ◦ indexés par V ; • indexés par U et un b) de même en deuxième ligne, les points étant indexés par U et V ; c) entre les lignes, des traits joignant les points qui se correspondent par ϕ. Exemples: , , , sont respectivement l’identité de X, celle de X ∨ , ev : X ∨ ⊗ X → 1 et δ : 1 → X ⊗ X ∨. Dans cette représentation graphique, la composition des morphismes correspond à joindre les graphes, à omettre les cercles qui apparaissent, et, si k cercles étaient apparus, à multiplier le résultat par nk . Exemple-clé: = n fois l’identité de 1 (représentée par une page blanche). Le produit tensoriel correspond à la somme disjointe. La composition est donc donnée par une formule polynômiale en n. Remplaçant n par une indéterminée T , on obtient la catégorie à produit tensoriel ACU librement engendrée par un objet et son dual: La Catégorie des Représentations du Groupe... 53 Définition 10.2 Rep0 (GL(T )) est la ⊗-catégorie Z[T ]-linéaire suivante: objets: paires d’ensembles finis U et V . On note X0⊗U ⊗ X0∨⊗V la paire (U, V ) vue comme objet de Rep0 (GL(T )); Hom(X0⊗U ⊗ X0∨⊗V , X0⊗U ⊗ X0∨⊗V ): le Z[T ]-module libre de base les bijections de U V avec V U ; composition: comme en 10.1, avec n remplacé par T ; produit tensoriel: somme disjointe. On définit Rep0 (GL(t), A), Rep1 (GL(t), A) et Rep(GL(t), A) comme en 9.3, mutatis mutandis. La catégorie Rep0 (GL(t), A) a la propriété universelle suivante. Proposition 10.3 Soit A comme en 9.4. Le foncteur F → F (X0 ) est une équivalence de Hom⊗ A (Rep0 (GL(t), A), A) avec la catégorie des objets de A admettant un dual et de dimension t, et de leurs isomorphismes. On a les mêmes variantes qu’en 9.4 pour Rep1 et Rep. Pour n un entier ≥0 (resp. ≤ 0), notons ε l’élément central 1 (resp. −1) de GL(|n|), et X la super représentation k |n| de GL(|n|), purement de parité 0 (resp. 1). Répétant la preuve de 6.2, on obtient le théorème suivant, parallèle à 9.6. Théorème 10.4 Supposons que t ∈ k soit un entier n. Le foncteur X0 → X de Rep(GL(t), k) dans Rep(GL(|n|), ε) induit une équivalence Rep(GL(t), k)/(négligeables) → Rep(GL(|n|), ε). Théorème 10.5 (parallèle à 9.7) Si t n’est pas un entier, la catégorie Rep(GL(t), k) est abélienne semi-simple. C’est donc une catégorie tensorielle. Plus précisément, on a Proposition 10.6 (parallèle à 9.8) (i) Si t n’est pas un entier, ou est un entier de valeur absolue |t|≥n− 1, la catégorie pseudo-abélienne Rep(GL(t), k)(n) de Rep(GL(t), k) engendrée par les T (p, q) := X0⊗p ⊗ X0∨⊗q pour p + q ≤ n est semi-simple. Plus précisément, elle contient des objets Yλ,μ indexés par les paires de partitions λ, μ avec |λ| + |μ| ≤ n, tels que End(Yλ,μ ) = k, que Hom(Yλ,μ , Yλ ,μ ) = 0 pour (λ, μ) = (λ , μ ) et que pour p + q ≤ n, T (p, q) soit somme de Yλ,μ avec |λ| ≤ p, |μ| ≤ q et p − q = |λ| − |μ|. 54 P. Deligne (ii) Si t n’est pas un entier, ou est un entier de valeur absolue |t|≥n, la forme bilinéaire Tr(uv) sur Hom(X0⊗n , X0⊗n ) est non dégénérée. Preuve On procède par récurrence sur n comme en 9.8. Si n = 0, Rep(GL(t))(n) est réduite aux multiples de 1 et on vérifie (i)0 en prenant Y∅,∅ = 1 pour ∅ la partition vide de l’entier 0. Pour n = 1, prendre en outre Y(1),∅ = X et Y∅,(1) = X ∨ . La forme trace sur Hom(X0⊗n , X0⊗n ) est respectivement uv et tuv, et ceci vérifie (ii)n pour n = 0 ou 1. Supposons n≥2. Si p−q = r−s, on a Hom(T (p, q), T (r, s)) = 0. Si p−q = r − s, tant Hom(T (p, q), T (r, s)) que Hom(T (r, s), T (p, q)) s’identifient à Hom(X ⊗m , X ⊗m ) pour m = p + s = q + r, et l’accouplement Tr(uv) : Hom(T (p, q), T (r, s)) ⊗ Hom(T (r, s), T (p, q)) → k (10.6.1) correspond à la forme bilinéaire Tr(uv) sur End(X0⊗m ) par cette identification. Si p + q = n et que r < p et s < q, p − q = r − s, on a m < n et l’hypothèse de récurrence (ii) assume que (10.6.1) est une dualité parfaite. Si |λ| < p, |μ| < q et que |λ − |μ| = p − q, Yλ,μ , déjà défini par récurrence, est facteur direct de T (|λ|, |μ|) et Tr(uv) : Hom(T (p, q), Yλ,μ ) ⊗ Hom(Yλ,μ , T (p, q)) → k est non dégénéré. Comme en 9.8, on en conclut que |λ|<p,|μ|<q, ∗ T (p, q) = |λ|−|μ|=p−q Hom(Yλ,μ , T (p, q)) ⊗ Yλ,μ ⊕ T (p, q) avec Hom(Yλ,μ , T ∗ (p, q)) = Hom(T ∗ (p, q), Yλ,μ ) = 0 (10.6.2) (10.6.3) pour λ, μ comme en (10.6.2). Le groupe Sp × Sq agit sur T ∗ (p, q). On vérifie que cette action induit un isomorphisme k [Sp × Sq ] −∼→ End(T ∗ (p, q)). Comme en (9.8.4), (i)n est vérifié si on définit Yλ,μ pour |λ| = p, |μ| = q par (10.6.4) T ∗ (p, q) = ⊕Yλ,μ ⊗ λ ⊗ μ (décomposition Sp × Sq -équivariante). Pour vérifier (ii) pour n, il reste à vérifier que si t n’est pas un entier ou que |t|≥n, pour toute partition λ de n, on a pour les facteurs Yλ,∅ de X0⊗n = T (n, 0) = T ∗ (n, 0) la non-nullité dim(Yλ,∅ ) = 0. (10.6.5) La Catégorie des Représentations du Groupe... 55 Pour σ dans Sn , notons m(σ) le nombre de cycles de σ. Les Yλ := Yλ,∅ pour |λ| = n sont définis par la décomposition de X0⊗n en ⊕Yλ ⊗ λ, et on a donc 1 dim Yλ = (10.6.6) λ(σ) Tr(σ, X0⊗n ) = Pλ (t) n! 1 pour Pλ (T ) le polynôme n! λ(σ)T m(σ) . Pour calculer le polynôme Pλ , appliquons la même formule dans la catégorie des représentations de GL(N ), N étant choisi assez grand pour que λN +1 = 0. La représentation Yλ est ici celle de poids dominant λ, et sa dimension est donnée par la formule de H. Weyl ((λi − i) − (λj − j)) (j − i). (10.6.7) 1 ≤ i<j ≤ N 1 ≤ i<j ≤ N Posons r := λ∗1 . Le quotient (10.6.7) se simplifie en ((λi − i) − (λj − j)) 1≤i≤r i+1 ≤ j ≤ N (10.6.8) i+1 ≤ j ≤ N Le i-ième facteur est ((λi − i) − (λj − j)) . i+1 ≤ j ≤ r (j − i) . r+1 ≤ j ≤ N ((λi − i) + j) (j − i) i+1 ≤ j ≤ N et { . . . } = (N − i + λi ) . . . (N − i + 1)/(λi + r − i)! Le quotient (10.6.7) est donc un polynôme en N . Il coı̈ncide nécessairement avec Pλ (N ) et (10.6.8) montre que les zéros du polynôme Pλ sont les entiers de la forme j − i avec 1 ≤ j ≤ λi , i.e. sont les entiers dans l’intervalle [1 − λ∗1 , λ1 − 1]. La non-nullité (10.6.5) en résulte. Remarque 10.7. La dimension de Yλ,μ est de même donnée par une formule polynômiale en t, dim Yλ,μ = Pλ,μ (t). Le polynôme Pλ,μ est explicité dans (Deligne 1996). Ses zéros sont des entiers, et il donne lieu à des phénomènes analogues à 7.5. 10.8 (parallèle à 8.10 complété par 8.20). Soient T une catégorie tensorielle sur k et X un objet de T . Le foncteur qui à un T -schéma Y = Spec(A) attache le groupe des automorphismes du A-module XA := A ⊗ X est représentable par un T -schéma en groupe, qu’on notera GL(X). Le foncteur Y → EndA (XA ) est en effet représenté par l’espace affine End(X), i.e. par Spec(Sym∗ (End(X)∨ )), et GL(X) est le sous-schéma fermé de 56 P. Deligne End(X) × End(X) défini par l’équation gh = Id: le noyau d’une double flèche de End(X) × End(X) dans End(X). L’action sur X du groupe fondamental π de T définit un homomorphisme ε : π → GL(X). On note Rep(GL(X), ε) la catégorie des représentations ρ : GL(X) → GL(V ) de GL(X) sur un objet de T telles que ρ◦ε soit l’action canonique de π sur V . C’est une catégorie tensorielle sur k et, par construction, l’action de GL(X) sur X fait de X un objet de Rep(GL(X), ε). Si X est de dimension t, le ⊗-foncteur X0 → X de Rep(GL(t), k) dans T (10.3) se factorise donc par le foncteur analogue Rep(GL(t), k) → Rep(GL(X), ε). (10.8.1) Proposition 10.9 (parallèle à 8.11) Le foncteur (10.8.1) est surjectif sur les Hom. Lemme 10.10 Si n = m, HomGL(X) (1, X ⊗n ⊗ X ∨⊗m ) = 0. Un espace vectoriel de dimension finie sur k sera identifié à un objet de T par V → V ⊗1. Un espace vectoriel sera de même identifié à un Ind-objet de T , et par là un schéma affine sur k à un schéma affine en T . Exemple: Gm , vu comme schéma en T , représente le foncteur qui à Y = Spec(A) associe le groupe multiplicatif de la k-algèbre Hom(1, A). Preuve On dispose d’un homomorphisme Gm → GL(X), qui envoie λ dans Gm sur la multiplication par λ. Sur X ⊗n ⊗ X ∨⊗m , l’action est par λn−m . Si n = m, les invariants sont donc réduits à zéro. 10.11. La crochet xy − yx fait de End(X) une algèbre de Lie dans T , que nous noterons gl(X). Comme classiquement, une action de GL(X) sur un objet V induit une action de gl(X), que l’on peut construire à partir de l’action des groupes GL(X)(A) sur VA = V ⊗ A pour A un algèbre commutative dans T de la forme 1 ⊕ M avec M 2 = 0. Puisqu’un ⊗-foncteur commute aux Hom respecte l’isomorphisme de Hom(V, W ) avec Hom(1, Hom(V, W )), il suffit de vérifier la surjectivité 10.9 pour Hom(1, X0⊗n ⊗ X0∨⊗m ). Par 10.10, il suffit de considérer le cas n = m, qui revient à la surjectivité de k[Sn ] → EndGL(X) (X ⊗n ). Cette surjectivité résulte de celle de k[Sn ] → Endgl(X) (X ⊗n ). (10.11.1) Pour n = 1, (10.11.1) affirme que les seuls endomorphismes de X qui commutent à l’action de gl(X) sont les multiples de l’identité. On montrera plus précisément que le commutant de gl(X) dans End(X), i.e. le centre de End(X), est l’image du morphisme “unité”: 1 → End(X). La Catégorie des Représentations du Groupe... 57 Lemme 10.12 Pour tout objet Y d’une catégorie tensorielle, le centre de End(Y ) est réduit à l’image de l’unité 1 → End(Y ). Preuve Le crochet [ ] : End(Y )⊗End(Y ) → End(Y ) fournit par déplacement du premier facteur de gauche à droite un morphisme End(Y ) → End(Y )∨ ⊗ End(Y ) (10.12.1) dont le centre de End(Y ) est le noyau. Le morphisme (10.12.1) est la différence de deux morphismes analogues, déduits des multiplications à gauche ms et à droite md . Représentation graphique, pour End(Y ) identifié à Y ⊗ Y ∨ , représenté par • ◦, et End(Y )∨ = (Y ⊗ Y ∨ )∨ = Y ∨ ⊗ Y représenté par ◦ •: md : ms : , , donnant lieu aux morphismes End(Y ) → End(Y )∨ ⊗ End(Y ) et Réordonnant les facteurs au but, on reconnaı̂t dans ces morphismes les morphismes Y ⊗ Y ∨ = 1 ⊗ Y ⊗ Y ∨ → Y ⊗ Y ∨ ⊗ Y ⊗ Y ∨ et Y ⊗ Y ∨ = Y ⊗ Y ∨ ⊗ 1 → Y ⊗ Y ∨ ⊗ Y ⊗ Y ∨ . Il nous faut vérifier que leur différence a pour noyau l’image de δ : 1 → Y ⊗ Y ∨ . Si Y = 0, l’assertion est triviale. Sinon, l’identité de Y est non nulle, et δ : 1 → Y ⊗ Y ∨ , non nul, est un monomorphisme, de par la simplicité de l’objet 1. Soit Z le conoyau de δ. La filtration 1 ⊂ Y ⊗ Y ∨ de Y ⊗ Y ∨ founit une filtration de Y ⊗ Y ∨ ⊗ Y ⊗ Y ∨ de quotients successifs 1, Z ⊕ Z et Z ⊗ Z. Les morphismes considérés induisent les deux morphismes évident de Z = Y ⊗ Y ∨ /1 dans Z ⊕ Z et que leur différence ait un noyau réduit à 1 en résulte. 10.13. Notre preuve de la surjectivité de (10.11.1) est calquée sur le cas où T est la catégorie tensorielle des super espaces vectoriels, tel que traité par A. N. Sergeev (1984). Il suffit de montrer que, pour l’action de gl(X) sur X ⊗n , le commutant de gl(X) dans End(X ⊗n ) est réduit à l’image de k[Sn ]. Si U gl(X) est l’algèbre enveloppante de gl(X), ce commutant est le commutant dans End(X ⊗n ) de l’image de U gl(X). 58 P. Deligne Lemme 10.14 Pour l’action naturelle de gl(X) sur X ⊗n , l’image de U gl(X) est le commutant dans End(X ⊗n ) de l’image de k[Sn ]. Montrons que 10.14 implique la surjectivité de (10.11.1). L’action de Sn sur X ⊗n fournit une décomposition (1.10.3) de X ⊗n en ⊕(X ⊗n )λ ⊗ λ. Il résulte de 10.12 que si Y et Z sont non nuls, le commutant de End(Y ) dans End(Y ⊗ Z) = End(Y ) ⊗ End(Z) est réduit à End(Z). Le commutant de Sn dans End(X ⊗n ) est la somme des End((X ⊗n )λ ). Il a pour commutant la somme des End(λ) pour (X ⊗n )λ = 0, qui n’est autre par (1.10.2) que l’image de k[Sn ]. Preuve de 10.14 L’algèbre de Lie gl(X) est l’algèbre de Lie déduite de l’algèbre associative à unité End(X), et son action sur X est déduite de la structure de End(X)-module de X. Soient plus généralement A un objet de T muni d’une structure d’algèbre associative à unité, et M un A-module. Pour n≥0, M ⊗n est alors un A⊗n -module, et donc aussi un (A⊗n )Sn -module. Dans le cas particulier de End(X) et X, A⊗n est End(X ⊗n ), et (A⊗n )Sn le commutant de Sn . Soit ALie l’algèbre de Lie déduite de A. Elle agit sur M , donc sur M ⊗n , ceci fait de M ⊗n un U(ALie )-module, et 10.14 est un cas particulier du Lemme 10.15 (cf. A. N. Sergeev (1984) prop. 5) L’image de U(ALie ) dans End(M ⊗n ) coı̈ncide avec l’image de (A⊗n )Sn dans End(M ⊗n ). Preuve Soient qi (1 ≤ i ≤ n) les morphismes naturels x → 1⊗· · ·⊗x⊗· · ·⊗1 (x en i-ème position) de A dans A⊗n . L’action de ALie sur M ⊗n est déduite du morphisme n ⊂ A⊗n (10.15.1) qi : ALie → (A⊗n )SLie Lie , et la structure de U(ALie )-module de M ⊗n est donc déduite du morphisme U ALie → (A⊗n )Sn (10.15.2) qui correspond à (10.15.1) par adjonction. Ceci prouve l’inclusion ⊂ . Le produit symétrisé xσ(1) . . . xσ(n) de (ALie )⊗n dans U ALie se factorσ ise par Symn (ALie ). Le lemme 10.15 résulte de ce que Lemme 10.16 Le morphisme composé Symn (ALie ) → U(ALie ) → (A⊗ )Sn est un isomorphisme. (10.16.1) La Catégorie des Représentations du Groupe... 59 Preuve Notons ∗ le produit dans l’algèbre A. Le composé de (10.16.1) avec l’isomorphisme (A⊗n )Sn → (A⊗n )Sn = Symn (A) est, avec des notations évidentes (10.16.2) x x1 . . . xn −→ j , * f : [1,n]→[1,n] i f (j)=i le produit dans A étant près dans l’ordre des j. Filtrons A par A ⊃ (image de l’unité 1 → A) ⊃ 0. Par produit tensoriel et passage aux coinvariants, cette filtration en fournit une sur Symn (A). Notons-la F . On laisse au lecteur le soin de vérifier que (10.16.2) respecte F et induit sur chaque GriF la multiplication par un entier strictement positif. Le lemme en résulte. Proposition 10.17 (parallèle à 8.19) Quel que soit t, la ⊗-catégorie Rep(GL(t), k) admet un plongement pleinement fidèle dans une catégorie tensorielle sur k. Preuve Choisissons t1 et t2 non entiers tels que t1 +t2 = t. Considérons le produit tensoriel des catégories Rep0 (GL(t1 ), k) et Rep0 (GL(t2 ), k), d’objets les Z1 ⊗ Z2 avec Zi dans Rep0 (GL(ti ), k), et de groupes Hom les Hom(Z1 ⊗ Z2 , Z1 ⊗ Z2 ) = Hom(Z1 , Z1 ) ⊗ Hom(Z2 , Z2 ). C’est la catégorie à produit tensoriel ACU librement engendrée par des objets X1 et X2 de dimension t1 et t2 et leurs duaux. On déduit de 10.5 et 10.6 que son enveloppe pseudo-abélienne est une catégorie abélienne semisimple, d’objets simples les Y1 ⊗ Y2 pour Yi simple dans Rep(GL(ti ), k). On la note Rep(GL(t1 ) × GL(t2 ), k). Elle est tensorielle sur k. L’objet X := X1 ⊕ X2 est de dimension t. Avec les notations de 10.8, il définit un ⊗-foncteur (10.8.1) de Rep(GL(t), k) dans Rep(GL(X), ε). Ce foncteur est surjectif sur les Hom (10.9). Par le même argument qu’en 10.9, pour vérifier qu’il est injectif sur les Hom, il suffit de le vérifier pour Hom(1, X0⊗n ⊗ X0∨⊗m ), ou, ce qui revient au même, pour Hom(X0⊗m , X0⊗n ). Si m = n, Hom(X0⊗m , X0⊗n ) = 0 et l’assertion est triviale. Si m = n, Hom(X0⊗n , X0⊗n ) = k[Sn ]. L’action de Sn sur X ⊗n induit son action sur X1⊗n et, puisque k[Sn ] s’injecte dans Hom(X1⊗n , X1⊗n ), qu’il s’injecte dans Hom(X ⊗n , X ⊗n ) en résulte. Question 10.18 (parallèle à 8.21). Soit X un objet d’une catégorie tensorielle sur k. (10.18.1) Si dim(X) n’est pas un entier, le foncteur (10.8.1) de Rep(GL(dim X), k) dans Rep(GL(X), ε) est-il une équivalence? 60 P. Deligne (10.16.2) Si dim(X) est un entier n, la catégorie Rep(GL(X), ε), munie de l’objet X, est-elle équivalente à l’une des suivantes? (a) Pour p et q des entiers de différence n: la catégorie des super représentations de GL(p|q), telles que la graduation modulo 2 soit donnée par l’action de la matrice diagonale (1, . . . , 1, −1, . . . , −1) avec p “1” et q “−1”; y prendre la représentation évidente. (b) Pour un choix fixé de t1 et t2 comme dans la preuve de 10.17: la catégorie Rep(GL(X), ε) de 10.17, munie de X. Appendice A. Invariants pour OSp(1, 2n) Soit V la représentation naturelle du super groupe OSp(1, 2n): elle est de dimension (1, 2n) et est munie d’une forme bilinéaire symétrique invariante B : V ⊗ V → k. On note B ∨ la forme duale. C’est un élément invariant de V ⊗ V . Puisque −1 est dans OSp(1, 2n), V ⊗ ne contient d’élément invariant non nul que pour pair. Théorème A1 Tout élément de V ⊗2 invariant sous OSp(1, 2n) est combinaison linéaire des transformés par S2 de la puissance tensorielle B ∨ := B ∨⊗ de B ∨ . Preuve La formation des invariants étant compatible à l’extension du corps de base k, on se ramène à supposer que V admet une base dans laquelle B ait la forme standard. Pour nous rassurer, choisissons une telle base: base de la partie paire V + de V : e0 ; base de la partie impaire V − de V : ei , ei (1 ≤ i ≤ n); éléments de matrice non nuls de B: B(e0 , e0 ) = 1, B(ei , ei ) = 1, B(ei , ei ) = −1. Autre description: après toute extension des scalaires de k à une super algèbre commutative, et pour tous vecteurs pairs x et x de coordonnées (x0 , χi , χi ) et (x0 , χi , χi ), B(x, x ) = x0 x0 − (χi χi − χi χi ). L’élément B ∨ est B ∨ = e0 ⊗ e0 − ei ⊗ ei − ei ⊗ ei . La Catégorie des Représentations du Groupe... 61 Pour v dans V − , soit Dv l’élément impair de osp(1, 2n) tel que Dv (e0 ) = v. Pour w dans V − , on a Dv (w) = −B(v, w)e0 . Pour v = ei (resp. ei ), on écrira plutôt Di (resp. Di ). Dans l’algèbre enveloppante, soit D= Di Di − Di Di . C’est un élément de l’idéal d’augmentation de Uosp, fixe sous l’action adjointe de Sp(2n). Il annule tout osp-invariant. 1 Σσ pour l’action de Sa sur V ⊗a . Pour ∂ et Notons s la symétrisation a! ∂ deux éléments impairs de osp(1, 2n), on a σb (∂∂ (e0 ) ⊗ ea−1 ) ∂∂ (ea0 ) = 0 1≤b≤a + σb,c (∂(e0 ) ⊗ ∂ (e0 ) ⊗ ea−2 ), 0 1 ≤ b<c ≤ a − σb,c (−∂ (e0 ) ⊗ ∂(e0 ) ⊗ ea−2 ), 0 1 ≤ c<b ≤ a σb (resp. σb,c ) étant une permutation envoyant 1 sur b (resp. et 2 sur c). On laisse au lecteur le soin de vérifier que D(e0 ) = −2n e0 . On a donc ei ⊗ ei − ei ⊗ ei D(ea0 ) = −2na ea0 + a(a − 1)s ea−2 (A.1.1) 0 = B∨) (a(a − 1) − 2na)ea0 − a(a − 1)s(ea−2 0 = ) −a(2n + 1 − a)ea0 − a(a − 1)s(B ∨ ea−2 0 D’après la théorie des invariants pour le sous-groupe Sp(2n) de OSp(1, 2n), tout invariant de Sp(2n) dans V ⊗a est combinaison linéaire . Filtrons l’espace I de de transformés par Sa des éléments B ∨m ⊗ ea−2m 0 ces invariants par les sous-espaces I ≥p engendrés par les σ(B ∨m ea−2m ) pour 0 σ dans Sa et m≥p. D’après (A.1.1), cette filtration est stable par D et D agit sur Grp I par multiplication par −(a − 2p)(2n + 1 − (a − 2p)). Pour a = 2, cette valeur propre n’est nulle que pour p = et, puisque D annule tout OSp invariant, l’espace des OSp invariants est réduit à I ≥ . Une variante de cette construction permet de détermine les invariants de SO Sp(1, 2n) dans les puissances tensorielles de V . Dans les puissances tensorielles paires (resp. impaires), ce sont les invariants (resp. anti-invariants) de OSp(1, 2n). Lemme A2 Le sous-espace des SO Sp-invariants de V ⊗(2n+1) est de dimension 1, engendré par un élément b de la forme B ∨m (A.2.1) b=s Am e2n+1−2m 0 62 P. Deligne avec A0 = 0. La preuve de A1 montre que le seul Grp (I) sur lequel D s’annule est Gr (I): le noyau de D sur I est de dimension un, et s’envoie sur I/I ≥1 . Puisque I/I ≥1 est fixe sous S2n+1 , le noyau de D est fixe lui aussi, engendré par un élément de la forme (A.2.1). Il reste à vérifier qu’il existe un élément non nul dans V ⊗2n+1 fixe sous osp. Soit b de la forme (A.2.1). Puisqu’il est fixe sous Sp, pour qu’il soit fixe sous osp, il suffit qu’il soit fixe sous un Di . On a ∨m Di b = s ei . B (2n + 1 − 2m)Am e2n−2m 0 0 D’autre part, s(ei (e0 ⊗ e0 − B ∨ )n ) = 0. C’est en effet un élément de Sym2n+1 (V − ), d’espace sous-jacent 2n+1 | Sym2n+1 (V − )| = ∧ |V − | = 0. On a 2n−2m ∨m m n (−1) B s(ei (e0 ⊗ e0 − B ) ) = s ei e m 0 ∨ et b est invariant si Am n n = (−1) /2n + 1 − 2m. m m (A.2.2) Proposition A3 Pour b comme en A.2, les invariants de SO Sp(1, 2n) dans V ⊗2+1 sont les combinaisons linéaires de transformés par S2+1 de b ⊗ B ∨−n . Il n’en existe de non nul que pour ≥n. Preuve Filtrons l’espace I des Sp(2n)-invariants comme dans la preuve de A.1. Cette fois, le noyau de D agissant sur I est contenu dans I ≥−n , et se projette isomorphiquement sur Gr−n (I). La proposition résulte de ce que les invariants proposés engendrent Gr−n (I). Remarque A4. La preuve de A1 et A3 montre que l’action de D sur l’espace des invariants I(V ⊗a ) de Sp(2n) dans V ⊗a est semi-simple. Les entiers (a − 2m)(2n + 1 − (a − 2m)) sont en effets distincts (observer que le premier facteur a la parité de a, le second la parité opposée). De plus, (V ⊗a )SO Sp est le noyau de D agissant sur I(V ⊗a ). La représentation V La Catégorie des Représentations du Groupe... 63 étant fidèle et autoduale, tout représentation W de SO Sp(1, 2n) est sousquotient d’une somme de V ⊗a ⊗Xa , avec action triviale sur Xa , et hérite de la même propriété. Le foncteur W → W SO Sp est donc exact. On retrouve ainsi le fait connu que la catégorie des représentations de SO Sp(1, 2n) est semi-simple. Appendix B. Proof of the Conjecture in 8.20, by Victor Ostrik The goal of this appendix is to present proofs of Conjecture from Section 8.20 and Conjecture 8.21.1. We preserve the notations from Section 8. Thus k is a field of characteristic 0, T is a tensor category over k, T is an object of T with the structure of algebra as in 8.2, I = Spec(T ) and SI is the group scheme (in T ) of automorphisms of I, see 8.10. Finally ε : π → SI is the natural homomorphism from the fundamental group π of T and Rep(SI , ε) is the full subcategory of Rep(SI ) consisting of such representations ρ : SI → GL(V ) that the action ρ ◦ ε of π on V coincides with the canonical action, see 8.20. The following result is conjectured in 8.20: Proposition B1 Any object of the category Rep(SI , ε) is isomorphic to a subquotient of a direct sum of some tensor powers of T . Proof Let C be the full subcategory of Rep(SI , ε) whose objects are subquotients of sums of tensor powers of T . It is clear that C is a tensor category. Let H be the fundamental group of C. Obviously, SI is contained in (ind-objects of) C and acts functorially compatibly with tensor products on the objects of C. Thus we have a homomorphism SI → H. On the other hand since H acts on T we have an obvious map H → GL(T ) and since T generates C this is actually an embedding H ⊂ GL(T ). Moreover since H respects the multiplication morphism T ⊗ T → T we have H ⊂ SI ⊂ GL(T ). The composition of homomorphisms SI → H ⊂ SI is the identity and therefore H = SI . Now the result follows from (Deligne 1990) 8.17. Corollary B2 (cf. Conjecture 8.21.1) Let F : Rep(St , k) → T be a tensor functor preserving the commutativity constraint (= ⊗−foncteur ACU). Let F1 be the corresponding functor Rep(St , k) → Rep(SI , ε), see 8.20.1. Assume that t is not an integer ≥ 0. Then F1 is an equivalence of tensor categories. 64 P. Deligne Proof First we note that the functor F1 is fully faithful. Indeed according to 8.11 the functor F1 is surjective on Hom’s. Arguing in the same way as in 8.19 we see that to prove its injectivity on Hom’s we need to prove that [U ]I is nonzero. But this is obvious since dim[U ]I = t(t − 1) . . . (t − |U | + 1) = 0. Now Corollary is an immediate consequence of Proposition B1. With the notations of 10.18, a parallel argument shows that any object of the category Rep(GL(X), ε) is isomorphic to a subquotient of a sum of X ⊗p ⊗ X ∨⊗q , and that the answer to the question (10.18.1) is positive. References [1] P. Deligne, Catégories tannakiennes, in: Grothendieck Festschrift, vol. 2, Progress in Math. 87, p. 111–195, Birkhauser, 1990. [2] P. Deligne, La série exceptionnelle de groupes de Lie, Comptes Rendus Acad. Sci. Paris t 323 (1996), 577–582. [3] P. Deligne and J. S. Milne, Tannakian categories, in: Hodge Cycles, Motives and Shimura Varieties, Lecture Notes in Math. 900, Springer Verlag 101–228, 1982. [4] J. Frame, G. de B. Robinson and R. Thrall, The hook graphs of the symmetric group, Can. J. Math 6 (1954), 316–324. [5] F. Frobenius, Uber die Charaktere der symmetrischen Gruppe, Preussische Akad. der Wissenschaften zu Berlin (1990), p. 516–534, Gesammelte Abhandlungen band III, p. 148. [6] S. Gelfand and D. Kazhdan, Examples of tensor categories, Invent. Math. 109 (1992), 595–617. [7] T. Halverson and A. Ram, Partition algebras, Eur. J. Combin. 26 6 (2005), 869–921. [8] N. Saavedra, Catégories tannakiennes, Lecture Notes in Math. 265, Springer-Verlag, 1972. [9] A. N. Sergeev, The tensor algebra of the identity representation as a module over the Lie superalgebras GL(n, m) and Q(n), Mat. Sbornik 123 (1984) (in Russian). Translation: Math. USSR Sbornik 51 2 (1985). La Catégorie des Représentations du Groupe... 65 [10] H. Wenzl, On the structure of Brauer’s centralizer algebras, Ann. of Math. 128 (1988), 173–193. [11] SGA, Séminaire de Géométrie algébrique du Bois-Marie. [12] SGA1, Revêtements étales et groupe fondamental, Dirigé par A. Grothendieck, Lecture Notes in Math. 224, Springer Verlag (1971). [13] SGA4, Théorie des topos et cohomologie étale des schémas, Dirigé par M. Artin, A. Grothendieck et J. L. Verdier. tI: Lecture Notes in Math. 269, Springer Verlag (1972). School of Mathematics, Institute for Advanced Study, Einstein Drive, Princeton N.J. 08540 E-mail: [email protected]