Sur quelques sous-groupes de {\operatorname{GL}_n(\mathbb R)}
On fixe {n\geq2}. On note {\mathcal M_n(\mathbb R)} l’espace des matrices réelles, {I_n} sa matrice identité, {\operatorname{GL}_n(\mathbb R)} le groupe des matrices inversibles, {\mathcal S_n^+} et {\mathcal S_n^{++}} les matrices symétriques positives et définies positives. Les groupes orthogonal et spécial orthogonal sont notés {\operatorname O_n(\mathbb R)} et {\operatorname{SO}_n(\mathbb R)}.
La transposée est notée {M^\top} et la trace {\operatorname{tr}M}. On note {|X|} le cardinal d’un ensemble, avec la convention {|X|=+\infty} s’il est infini. Pour une partie finie {A} d’un groupe, {\langle A\rangle} désigne le sous-groupe engendré.
Partie A — Sous-groupes finis de {\operatorname O_n(\mathbb R)}
Un groupe {G} de neutre {e} est d’exposant fini s’il existe {m\geq1} tel que {x^m=e} pour tout {x\in G}. Pour un groupe matriciel, on pose {\operatorname{tr}G=\{\operatorname{tr}A:A\in G\}}.
I — Généralités
Soit {G} un sous-groupe de {\operatorname{GL}_n(\mathbb R)}.
Q 1. Montrer que, si {G} est fini, il est d’exposant fini et sa trace est finie.
III — Caractérisation des sous-groupes finis de {\operatorname O_n}
On suppose {G\subset\operatorname O_n(\mathbb R)}. On veut montrer l’équivalence entre finitude de {G}, exposant fini et finitude de {\operatorname{tr}G}.
Q 9. Rappeler le théorème de réduction des matrices orthogonales.
On suppose maintenant {\operatorname{tr}G} fini. On munit {\mathcal M_n(\mathbb R)} du produit scalaire {(A\mid B)=\operatorname{tr}(A^\top B)}. On pose {F=\operatorname{Vect}(G)} et {d=\dim F}.
Q 11. Montrer qu’il existe une base {\mathcal B=(A_1,\ldots,A_d)} de {F} constituée de matrices de {G}.
Q 12. On pose {B=((A_i\mid A_j))_{1\leq i,j\leq d}}. La matrice {C} a pour colonnes les coordonnées des {A_i} dans la base canonique de {\mathcal M_n(\mathbb R)}.
Partie B — Sous-groupes compacts de {\operatorname{GL}_n(\mathbb R)}
On travaille sur les colonnes {\mathbb R^n} avec le produit scalaire canonique {(\cdot\mid\cdot)} et la norme {\|\cdot\|}. On note {B(0,r)} la boule fermée de rayon {r\geq0} et {B=B(0,1)}.
I — Quelques propriétés utiles
Au début de cette sous-partie, {A} est symétrique définie positive et {B} symétrique.
Q 15. Montrer que {\langle X,Y\rangle_A=(AX\mid Y)} est un produit scalaire. Si {B_A} est sa boule unité, existe-t-il {A} telle que {B_A=B(0,r)} ?
Q 21. Pour {K\subset\mathcal S_n^+}, montrer que {K} est borné si et seulement s’il existe {\alpha>0} tel que {A\preccurlyeq\alpha I_n} pour tout {A\in K}.
Une fonction {\varphi} sur un convexe est strictement concave si {\varphi(tA+(1-t)B)\geq t\varphi(A)+(1-t)\varphi(B)}, avec égalité exactement si {A=B} ou {t\in\{0,1\}}.
Q 22. Montrer que {\mathcal S_n^{++}} est convexe.
Partie C — Croissance du groupe de Heisenberg discret
I — Croissance d’un groupe
Soit {G} engendré par une partie finie {S}. La longueur {\ell_S(g)} est le nombre minimal de facteurs de {S\cup S^{-1}} dans un mot représentant {g}, avec {\ell_S(e)=0}. Cela équivaut au minimum des sommes des valeurs absolues des exposants dans les écritures de l’énoncé.
On pose {V_S(p)=\{g:\ell_S(g)\leq p\}}. Le groupe a une croissance polynomiale de degré {d} s’il existe {\alpha,\beta>0} tels que {\alpha p^d\leq|V_S(p)|\leq\beta p^d} pour tout entier {p\geq1}.
Q 30. Montrer que {\ell_S(g^{-1})=\ell_S(g)} et {\ell_S(gh)\leq\ell_S(g)+\ell_S(h)}.
On prend {n=3} et {S=\begin{pmatrix}1&0&0\\[8pt]0&1&1\\[8pt]0&0&1\end{pmatrix},\quad T=\begin{pmatrix}1&1&0\\[8pt]0&1&0\\[8pt]0&0&1\end{pmatrix},\quad U=\begin{pmatrix}1&0&1\\[8pt]0&1&0\\[8pt]0&0&1\end{pmatrix}.}On pose {\mathcal A=\{S,T,U\}} et {H=\langle\mathcal A\rangle}.
Q 33. Calculer {S^iT^jU^k} pour {(i,j,k)\in\mathbb Z^3}.
Q 38. Si {\ell_{\mathcal A}(M)\leq p}, montrer qu’il existe {(i,j,k,z)\in\mathbb Z^4} tels que {M=S^iT^jU^{k+z}}, {|i|+|j|+|k|\leq p} et {|z|\leq|ij|}. En déduire {|V_{\mathcal A}(p)|=O(p^4)}.
Q 40. Montrer que {\begin{array}{l}\#\{(i,j,k)\in\mathbb N^3:i+j\leq p,\ k\leq ij\}\\[8pt]\displaystyle\quad\geq\frac{p^3}2\sum_{i=0}^p\frac ip\left(1-\frac ip\right)^2\end{array}}puis déterminer un équivalent de ce dernier membre.