Dans ce problème, {\mathbb K=\mathbb R} ou {\mathbb C}, {n\geq2}, {\mathcal M_n(\mathbb K)} est l’algèbre des matrices carrées d’ordre {n}, {I_n} sa matrice identité et {\operatorname{GL}_n(\mathbb K)} le groupe des matrices inversibles.
Une matrice scalaire est de la forme {\lambda I_n}. La topologie est celle définie par l’une quelconque des normes sur cet espace de dimension finie, toutes équivalentes.
La classe de similitude de {M} est
{\mathcal S(M)=\{PMP^{-1}:P\in\operatorname{GL}_n(\mathbb K)\}.}L’objectif est d’étudier les propriétés topologiques de ces classes.
Partie I — Le cas des matrices d’ordre 2
1. Déterminer la classe de similitude d’une matrice scalaire de {\mathcal M_2(\mathbb K)}.
On fixe désormais {A\in\mathcal M_2(\mathbb K)} et l’on cherche quand sa classe est fermée.
3. On suppose que {A} possède deux valeurs propres distinctes {\lambda_1,\lambda_2\in\mathbb K}. Soit {(M_k)} une suite de {\mathcal S(A)} convergeant vers {B}.
3. (a) Pour {i\in\{1,2\}}, montrer que {\det(B-\lambda_iI_2)=0} en considérant {\det(M_k-\lambda_iI_2)}.
4. On suppose que {A} possède une seule valeur propre {\lambda\in\mathbb K} et n’est pas scalaire.
4. (a) Montrer que {A} est trigonalisable et semblable à toute matrice {T=\begin{pmatrix}\lambda&\alpha\\[8pt]0&\lambda\end{pmatrix}}, avec {\alpha\ne0}.
Partie II — Classes de similitude bornées dans {\mathcal M_n(\mathbb K)}
1. Soit {u\in\mathcal L(\mathbb K^n)}. Montrer que, si {x,u(x)} sont liés pour tout {x}, alors {u} est une homothétie. On pourra considérer la base canonique et les vecteurs {e_1+e_i}.
2. Si {A} n’est pas scalaire et {u} lui est canoniquement associé, montrer qu’il existe {x} tel que {(x,u(x))} soit libre.
En déduire que, pour tout {\alpha\ne0}, il existe une base dans laquelle la première colonne de la matrice de {u} est {(0,\alpha,0,\ldots,0)^{\mathsf T}}.
4. Existe-t-il une norme sur {\mathcal M_n(\mathbb K)} invariante par similitude, c’est-à-dire telle que {\|PMP^{-1}\|=\|M\|} pour tous {M} et {P} inversible ?
2. On suppose {\mathcal S(A)} fermée. Soit {u} l’endomorphisme associé à {A}. Sur {\mathbb C}, on choisit une base {(b_1,\ldots,b_n)} dans laquelle sa matrice {T=(t_{ij})} est triangulaire supérieure.
2. (a) Pour {k\geq1}, montrer que {\mathcal B_k=(b_1,b_2/k,\ldots,b_n/k^{n-1})} est une base et écrire la matrice de {u} dans cette base.