Sous groupes compacts de GL n(R)

Sous groupes compacts de GLn(R)
Arnaud Girand
17 juin 2012
Référence :
– [Ale99], p. 141 et 160–162
Prérequis :
– théorème de Caratheodory.
Lemme 1
Soit V un espace vectoriel de dimension finie muni d’une norme euclidienne k.k.
Soit K un compact convexe de V .
Soit G un sous–groupe compact de GL(V ) tel que :
∀u ∈ G,
u(K) ⊂ K
Alors il existe a ∈ K tel que :
∀u ∈ G,
u(a) = a
Démonstration : Commençons par montrer que si v ∈ L(V ) vérifie v(K) ⊂ K, alors v admet un
point fixe sur K. Fixons x0 ∈ K et posons pour k ≥ 1 :
k
xk :=
1 X i
v (x0 )
k + 1 i=0
Comme K est convexe et stable par u il est clair que ∀k ≥ 0, xk ∈ K et donc d’après le théorème
de Bolzano–Weierstrass, il existe ϕ : N → N strictement croissante telle que (xϕ (k))k converge vers
un point a ∈ K. Or :
!
k
1 X i
v (x0 )
∀k ≥ 0, v(xk ) = v
k + 1 i=0
k
=
1 X i+1
v (x0 )
k + 1 i=0
= xk +
1
(v k+1 (x0 ) − x0 )
k+1
1
(v k+1 (x0 ) − x0 ) −−−−→ 0 car (v k+1 (x0 ) − x0 )k est bornée par compacité de K et continuité
k→∞
k+1
de v donc en passant à la limite on obtient que v v(a) = a.
Remarquons ensuite que G agit naturellement sur V via u.x := u(x). De plus comme G est
compact, l’orbite G.x d’un élément x ∈ V sous cette action est compacte ce qui nous permet de
définir l’application suivante :
Or
ν : V → R+
x 7→ max ku(x)k
u∈G
On montre alors que comme G ≤ GL(V ) ν est une norme sur V constante sur les orbites sous
l’action de G. De plus si on se donne x, y ∈ V et u0 ∈ G tel que ν(x + y) = ku0 (x + y)k. Alors :
ν(x + y) = ku0 (x + y)k
≤ ku0 (x)k + ku0 (y)k
≤ ν(x) + ν(y)
1
Si on se place dans le cas d’égalité on a alors ku0 (x) + u0 (y)k = ku0 (x)k + ku0 (y)k et donc il existe
λ ≥ 0 tel que u0 (x) = λu0 (y) et donc x = λy.
Pour u ∈ G on considère à présent l’ensemble suivant :
Fu := {x ∈ K | u(x) = x}
Cet ensemble est un fermé non vide de K. De fait, si on suppose que ∩u∈G Fu = ∅ alors la propriété
de Borel–Lebesgue impose l’existence de u1 , . . . , up ∈ K tels que ∩pi=1 Fui = ∅. Posons alors :
p
v :=
1X
ui ∈ L(V )
p i=1
Alors, par convexité et G–stabilité de K, v(K) ⊂ K et donc il existe a ∈ K tel que v(a) = a. On a
alors :
!
p
1X
ν(v(a)) = ν
ui (a) ∈ L(V )
p i=1
p
1X
≤
ν(ui (a))
p i=1
p
=
1X
ν(a)
p i=1
= ν(a)
Les ui (a) sont donc positivement liés (i.e il existe a1 , . . . , ap−1 ≥ 0 tels que u1 (a) = a1 u2 (a) = . . . = ap−1 up (a))
et comme ils sont de même norme (pour ν) ils sont égaux. On a donc nécessairement ui (a) = a
pour tout i ∈ [p], ce qui contredit notre hypothèse et conclut la preuve.
Proposition 1
Soit G un sous–groupe compact de GLn (R).
Alors il existe une forme quadratique q définie positive sur Rn telle que G ⊂ O(q)
Démonstration : On munit G d’une nouvelle structure de groupe (G, ⋄) définie comme suit :
∀A, B ∈ G, A ⋄ B := BA et on considère l’application suivante :
ρ : (G, ⋄) → GL(Sn (R))
A 7→ (S 7→ t ASA)
On vérifie aisément que G est bien définie (on a même ρ(A)−1 = ρ(A−1 )) et qu’il s’agit d’un
morphisme de groupes 1. De plus ρ est une application continue car égale à la restriction de la
composée b ◦ d à G où b : (A, B) 7→ (S 7→ t ASB) est une application bilinéaire de Mn (R)2 dans
L(Sn (R), Mn (R)) (continue par dimension finie) et où d : A 7→ (A, A) se passe de commentaires.
Posons H := { t M M | M ∈ G}. On vérifie aisément que K est un compact non vide du convexe
Sn (R) et donc par théorème de Caratheodory K := conv(H) est un compact convexe non vide de
Sn (R). De plus, G := ρ(G) est un sous–groupe (car ρ est un morphisme de groupes) compact (car
ρ est continue et G compact) de GL(Sn (R)). Enfin, si A ∈ G et M ∈ G on a :
ρ(A)(t M M ) = t At M M A = t (AM )(AM ) ∈ K
Comme ρ(A) est linéaire donc conserve les combinaisons convexes on a bien ρ(A)(K) ⊂ K et donc
K est G–stable.
On applique alors le lemme 1 qui nous donne l’existence de S ∈ K tel que pour tout A ∈ G
on ait ρ(A)(S) = S, i.e t ASA = S. Comme de plus K ⊂ Sn+ + (R) on a bien G ⊂ O(q) où
q : x 7→ t xSx est une forme quadratique définie positive.
1. Attention : n’oublions pas que nous avons modifié la structure de G !
2
Détails supplémentaires :
– Cas où le groupe G est fini. On définit le produit scalaire suivant sur Rn :
Φ : (x, y) 7→
1 X
hAx, Ayi
|G|
A∈G
Il est alors clair, la translation à droite par un élément donné de G étant bijective, que toute
matrice de G est orthogonale pour Φ.
– Cas d’égalité pour ν. Le lemme suivant nous permet de conclure :
Lemme 2
Soient x, y ∈ V tels que kx + yk = kxk + kyk.
Alors il existe λ ≥ 0 tel que x = λy (ou y = λx).
Démonstration : Plaçons nous dans le cas où kxk = kyk = 1. Alors kx + yk = 2 par
hypothèse et on a également kx + yk2 = 2 + 2hx, yi donc hx, yi = 1 = kxkkyk : on se trouve
dans le cas d’égalité de l’inégalité de Cauchy–Schwarz. De fait, il existe t ≥ 0 tel que x = ty et
comme kxk = kyk on a nécessairement t ∈ {−1, 1}. Cependant, si t = −1 alors hx, yi = −1,
ce qui est absurde d’où x = y.
x
Dans le cas général, pour x et y non nuls 2 On applique alors la proposition précédente à kxk
et
y
kyk ,
ce qui nous livre le résultat pieds et poings liés avec λ =
kxk
kyk .
Références
[Ale99] Michel Alessandri. Thèmes de géométrie. Dunod, 1999.
2. La preuve dans le cas où l’un est nul est laissée en exercice au lecteur. Ne me remerciez pas.
3