On fixe {n\geq1} et l’on identifie les vecteurs de {\mathbb R^n} à leurs colonnes de coordonnées canoniques. On utilise les notations {\mathcal M_n(\mathbb R)}, {GL_n(\mathbb R)}, {I_n}, {0_n}, {\ker M}, {\operatorname{Im}M}, {\operatorname{rg}M}, {\det M}, {\operatorname{tr}M}, {\chi_M} et {\operatorname{Sp}_{\mathbb C}(M)}.
La transposition est notée {\mathcal T:M\mapsto M^T}. Une matrice et sa transposée ont même rang et même déterminant.
Pour deux bases {\mathcal B,\mathcal B'} de {\mathbb R^n}, {\mathrm M_{\mathcal B,\mathcal B'}(f)} a pour colonnes les coordonnées dans {\mathcal B'} des images par {f} des vecteurs de {\mathcal B}. On abrège en {\mathrm M_{\mathcal B}(f)} lorsque les deux bases coïncident.
On pose {f^0=\operatorname{Id}} et {f^{k+1}=f\circ f^k}. Si {\Pi(X)=\sum\limits_{k=0}^p a_kX^k}, alors {\Pi(f)=\sum\limits_{k=0}^p a_kf^k}. La notation {\operatorname{diag}(M_1,\ldots,M_k)} désigne une matrice diagonale par blocs.
Un endomorphisme {\Phi} de {\mathcal M_n(\mathbb R)} conserve le rang, le déterminant, la trace ou le polynôme caractéristique lorsque, pour toute matrice {M}, la quantité correspondante est la même pour {\Phi(M)} et pour {M}. Le problème étudie ces propriétés.
I — Résultats préliminaires
I.A
Soient {\mathcal E,\mathcal F,\mathcal G} trois bases et {f,g} deux endomorphismes de {\mathbb R^n}.
Q 1. Démontrer la formule de cours {\begin{array}{l}\mathrm M_{\mathcal E,\mathcal G}(g\circ f)\\[8pt]\quad=\mathrm M_{\mathcal F,\mathcal G}(g)\mathrm M_{\mathcal E,\mathcal F}(f).\end{array}}
Pour {A\in\mathcal M_n(\mathbb R)}, on définit {\Gamma_A:M\mapsto AM}. On note {\mathcal L(\mathcal M_n(\mathbb R))} l’espace des endomorphismes de l’espace des matrices.
Q 5. Vérifier que {\Gamma_A} est un endomorphisme.
Pour {P,Q\in GL_n(\mathbb R)}, on pose {\Phi_{P,Q}(M)=PMQ} et {\Psi_{P,Q}(M)=PM^TQ}. Leur linéarité est admise.
On note {\mathcal L_1} l’ensemble des {\Phi_{P,Q}} et {\mathcal L_2} celui des {\Psi_{P,Q}}.
Q 13. Montrer que {\mathcal L_1\cup\mathcal L_2} est stable par composition.
Pour {0\leq r\leq n}, on pose {J_{n,r}=\operatorname{diag}(I_r,0_{n-r})}, avec {J_{n,n}=I_n} et {J_{n,0}=0_n}. Dans l’énoncé, la notation {J_{0,n}} pour ce dernier cas est une coquille.
Soit {M\in\mathcal M_n(\mathbb R)} de rang {r}.
Q 24. Montrer qu’il existe {P,Q\in GL_n(\mathbb R)} tels que {M=\Phi_{P,Q}(J_{n,r})}.
On suppose {n=2} et {\operatorname{rg}A=\operatorname{rg}B=1}, avec {\operatorname{Im}A\ne\operatorname{Im}B}.
Q 25. Montrer qu’il existe {P_2,Q_2\in GL_2(\mathbb R)} tels que {\begin{array}{rcl}A&=&P_2\begin{pmatrix}1&0\\[8pt]0&0\end{pmatrix}Q_2,\\[8pt]B&=&P_2\begin{pmatrix}0&0\\[8pt]\alpha&\beta\end{pmatrix}Q_2,\end{array}}avec {(\alpha,\beta)\ne(0,0)}.
Q 31. Déterminer les rangs de {\Phi(B_1)}, {\Phi(B_4)} et {\Phi(B_1+B_4)}. En déduire des matrices inversibles {P_1,Q_1} telles que {\begin{array}{rcl}\Phi_{P_1,Q_1}\circ\Phi(B_1)&=&B_1,\\[8pt]\Phi_{P_1,Q_1}\circ\Phi(B_4)&=&\begin{pmatrix}0&0\\[8pt]\alpha&\beta\end{pmatrix},\end{array}}avec {(\alpha,\beta)\ne(0,0)}.
On pose {\Phi'=\Phi_{P_1,Q_1}\circ\Phi} et {M'=\mathrm M_{\mathcal B_{ca}}(\Phi')}. Pour {1\leq j\leq4}, on note {B'_j=\Phi'(B_j)} et {C_j=(a_j,b_j,c_j,d_j)^T} la {j}-ième colonne de {M'}. L’endomorphisme {\Phi'} conserve encore le rang.
Q 36. En utilisant les rangs de {B'_3+B'_4}, {B'_2+B'_4} et {B'_1+B'_2+B'_3+B'_4}, montrer que {M'=\begin{pmatrix}1&a_2&0&0\\[8pt]0&b_2&0&0\\[8pt]0&0&c_3&c_4\\[8pt]0&0&0&d_4\end{pmatrix},}avec {c_4=a_2c_3} et {d_4=b_2c_3}.
Q 38. Montrer que la matrice de {\Phi'\circ\mathcal T} est {\begin{pmatrix}1&a_3&a_2&0\\[8pt]0&b_3&0&0\\[8pt]0&c_3&c_2&c_4\\[8pt]0&0&0&d_4\end{pmatrix}.}
Ainsi, pour {n=2}, un endomorphisme conserve le rang si et seulement s’il appartient à {\mathcal L_1\cup\mathcal L_2}. On admet ce résultat pour {n>2}.
V — Conservation du déterminant ou du polynôme caractéristique
V.A
On suppose {n=2} et {\Phi} conservant le déterminant. Pour raisonner par l’absurde, on considère {A\ne0} telle que {\Phi(A)=0_2}.