On note {\widehat{\mathbb C}=\mathbb C\cup\{\infty\}}, obtenu en ajoutant un point à l’infini. Pour {z\in\mathbb C^*}, on convient que {z/0=\infty}.
Pour {v=(a,b,c,d)\in\mathbb C^4}, on pose {\delta(v)=ad-bc}, et {E=\{v:\delta(v)\ne0\}}. À {v\in E}, on associe l’application {h_v} de {\widehat{\mathbb C}} dans lui-même définie, si {c\ne0}, par {\begin{array}{l}\displaystyle h_v(z)=\frac{az+b}{cz+d}\quad(z\ne-d/c,\infty)\\[8pt]h_v(-d/c)=\infty,\quad h_v(\infty)=a/c\end{array}}Si {c=0}, on a {a,d\ne0} et {h_v(z)=(az+b)/d} pour {z\in\mathbb C}, tandis que {h_v(\infty)=\infty}.
On note {H=\{h_v:v\in E\}} l’ensemble des homographies. Pour {a\ne0}, {b\in\mathbb C}, on pose {s_{a,b}=h_{(a,b,0,1)}} et {S=\{s_{a,b}\}}. Ces applications, définies par {s_{a,b}(z)=az+b} et {s_{a,b}(\infty)=\infty}, sont les similitudes directes.
On identifie les points d’un plan euclidien orienté, muni d’un repère orthonormé direct, avec leurs affixes complexes. Une droite de {\widehat{\mathbb C}} est {\widehat\Delta=\Delta\cup\{\infty\}}, où {\Delta} est une droite du plan.
Un cercle de {\widehat{\mathbb C}} est soit un cercle du plan, de rayon strictement positif, soit une droite de {\widehat{\mathbb C}}. Les droites sont donc les cercles contenant {\infty}. On note {\widehat{\mathcal C}} l’ensemble de ces cercles.
I. Le groupe des homographies
1. Soit {u\in E}. Vérifier {h_{\lambda u}=h_u} pour {\lambda\in\mathbb C^*}. On admet la réciproque : {h_u=h_v\iff v=\lambda u} pour un {\lambda\ne0}. Identifier {h_u} pour {u=(1,0,0,1)}.
2. Soient {u=(a,b,c,d)} et {v=(a^{\prime},b^{\prime},c^{\prime},d^{\prime})} dans {E}. Vérifier que {u\otimes v=(aa'+bc',ab'+bd',ca'+dc',cb'+dd')}appartient à {E}, puis montrer {h_u\circ h_v=h_{u\otimes v}} (on pourra se limiter au cas général).
On va montrer que cette homographie induit une involution de {\widehat{\mathcal C}}.
1. (a) Soit {\Delta} une droite ne passant pas par 0 et {\omega} la projection orthogonale de 0 sur {\Delta}. Montrer {z\in\Delta\iff\operatorname{Re}((z-\omega)\overline\omega)=0}
On note {\varphi=h_{(0,1,1,0)}}. Elle vérifie {\varphi(z)=1/z} pour {z\ne0,\infty}, {\varphi(0)=\infty}, {\varphi(\infty)=0}. On a donc {\varphi\circ\varphi=\operatorname{Id}} : c’est une involution.
En utilisant II.1, montrer successivement les propriétés suivantes.
2. (a) L’image d’une droite de {\widehat{\mathbb C}} passant par 0 est une droite passant par 0. Comment ces deux droites se déduisent-elles l’une de l’autre ?
2. (b) L’image d’un cercle {C} du plan passant par 0 est une droite de {\widehat{\mathbb C}} ne passant pas par 0. Si {\omega} est diamétralement opposé à 0 et {\omega^{\prime}=1/\omega}, montrer que la droite image est orthogonale en {\omega^{\prime}} au segment {[0,\omega^{\prime}]}.
2. (d) L’image d’un cercle {C} du plan ne passant pas par 0 est un cercle ne passant pas par 0. Si {u,v} sont diamétralement opposés et alignés avec 0, montrer que l’image a pour diamètre {[\varphi(u),\varphi(v)]}.
3. Montrer que {h=h_{(a,b,c,d)}} est une similitude si {c=0}, et sinon une composée de {\varphi} et de deux similitudes. Indication : {h=s_{a',b'}\circ\varphi\circ s_{c,d},\quad a'=-\frac{ad-bc}{c},\quad b'=\frac ac}
4. En déduire que toute homographie induit une bijection de {\widehat{\mathcal C}}. Si {c\ne0}, décrire l’image d’une droite ou d’un cercle selon qu’il passe ou non par {\omega=-d/c}.
À ce stade de l’année en MPSI, cette partie est hors barème.
Soit {h=h_{(a,b,c,d)}}. On se donne deux arcs {\gamma_j:t\in I_j\mapsto z_j(t)}, de classe {C^1} et sans points stationnaires, dont les supports évitent le pôle. On définit leurs images par {Z_j(t)=h(z_j(t))}, pour {j=1,2}.
1. Montrer que les arcs images {\Gamma_1,\Gamma_2} sont de classe {C^1} et sans points stationnaires.
2. Soit {A=z_1(t_1)=z_2(t_2)} un point commun, et {B=Z_1(t_1)=Z_2(t_2)}. Notons {T_1,T_2} les tangentes en {A}, et {\mathcal T_1,\mathcal T_2} les tangentes images en {B}. Montrer l’égalité de leurs angles de droites : une homographie conserve les angles.
3. Deux cercles du plan sont orthogonaux s’ils se coupent avec des tangentes orthogonales. Une droite est orthogonale à un cercle si elle en contient un diamètre. Déduire que toute homographie transforme deux cercles orthogonaux de {\widehat{\mathbb C}} en deux cercles orthogonaux.
V. Homographies et conservation de l’orthogonalité
On retrouve ces résultats par une méthode purement algébrique, d’abord pour {\varphi(z)=1/z}, puis pour toute homographie.
1. Montrer qu’une partie {\Gamma} de {\mathbb C} est une droite ou un cercle si et seulement s’il existe {\alpha,\gamma\in\mathbb R}, {\beta\in\mathbb C}, avec {\alpha\gamma\lt|\beta|^2}, tels que {z\in\Gamma\iff\alpha|z|^2+\overline\beta z+\beta\overline z+\gamma=0}On obtient un cercle si {\alpha\ne0}, une droite sinon.
4. Soient deux droites ou cercles d’équations {\alpha|z|^2+\overline\beta z+\beta\overline z+\gamma=0}{\alpha'|z|^2+\overline{\beta'}z+\beta'\overline z+\gamma'=0}avec les conditions de V.1. Montrer que leur orthogonalité équivaut à {\alpha\gamma'+\alpha'\gamma=\beta\overline{\beta'}+\overline\beta\beta'}Traiter deux cercles, deux droites, puis une droite et un cercle.
On reprend les notations de V : {Q(z)=\alpha|z|^2+\overline\beta z+\beta\overline z+\gamma}, avec {\alpha\gamma\lt|\beta|^2}, et {\Gamma} d’équation {Q=0}. Quitte à remplacer {Q} par {-Q}, supposons {\alpha\geq0}.
On étudie l’image des deux régions séparées par une droite ou un cercle. Pour formuler exactement les résultats dans {\widehat{\mathbb C}}, on inclut {\infty} dans l’extérieur d’un cercle ; une droite généralisée contient déjà {\infty}.
1. On pose {\Gamma^+=\{z:Q(z)>0\}} et {\Gamma^-=\{z:Q(z)\lt0\}}. Montrer que ce sont l’intérieur et l’extérieur d’un cercle si {\alpha>0}, ou les deux demi-plans si {\alpha=0}.
2. Écrire une équation {\widetilde Q=0} de l’image par {\varphi(z)=1/z}, puis montrer que les deux régions séparées par {\Gamma} sont envoyées sur celles séparées par son image.
Un point {z\in\widehat{\mathbb C}} est fixe par {f} si {f(z)=z}.
Pour trois points distincts {z_1,z_2,z_3\in\mathbb C}, on définit {[z_1,z_2,z_3,z]=\frac{(z_3-z_1)(z-z_2)}{(z_3-z_2)(z-z_1)}}pour {z\ne z_1,\infty}, avec {[z_1,z_2,z_3,z_1]=\infty,\quad[z_1,z_2,z_3,\infty]=\frac{z_3-z_1}{z_3-z_2}}L’application {z\mapsto[z_1,z_2,z_3,z]} est une homographie.
1. (a) En revenant aux définitions, vérifier que les homographies qui possèdent {\infty} comme point fixe sont les similitudes.
2. Pour {f\ne\operatorname{Id}}, montrer : {f} est involutive si et seulement s’il existe {u\ne v} dans {\widehat{\mathbb C}} tels que {f(u)=v} et {f(v)=u}.
3. Soient {z_1,z_2,z_3} distincts dans {\mathbb C}, et {\omega_1,\omega_2,\omega_3} distincts dans {\mathbb C}. Montrer qu’il existe une unique homographie envoyant {z_k} sur {\omega_k} pour {k=1,2,3}.
Indication : considérer {h(z)=[z_1,z_2,z_3,z]} et {k(z)=[\omega_1,\omega_2,\omega_3,z]}, puis leurs valeurs aux trois points.
4. Pour quatre points distincts {z_1,z_2,z_3,z_4}, les trois premiers finis et le quatrième éventuellement infini, montrer qu’ils sont sur un même cercle généralisé si et seulement si leur birapport {[z_1,z_2,z_3,z_4]} est réel. Utiliser {h(z)=[z_1,z_2,z_3,z]}.
5. Soit {f} une homographie telle que {f(z_1),f(z_2),f(z_3)} soient finis. Montrer {[f(z_1),f(z_2),f(z_3),f(z_4)]=[z_1,z_2,z_3,z_4]}On dit que les homographies conservent le birapport. Utiliser les homographies {g(z)=[z_1,z_2,z_3,z]} et {h(z)=[f(z_1),f(z_2),f(z_3),z]}.
6. Réciproquement, soit {f:\widehat{\mathbb C}\to\widehat{\mathbb C}} injective et conservant le birapport. Montrer que {f} est une homographie. Choisir trois points finis dont les images sont finies et utiliser les mêmes {g,h}.
On note {\operatorname{Aut}(H)} le groupe des automorphismes de {H}. Pour {h\in H}, on définit {\Phi_h(f)=h\circ f\circ h^{-1}}. Deux homographies sont conjuguées, noté {f\sim g}, si {g=\Phi_h(f)} pour un {h\in H}.
On étudie d’abord {\Phi:h\mapsto\Phi_h}.
1. (a) Montrer que {\Phi} est un morphisme de {H} vers {\operatorname{Aut}(H)}.
2. (a) Montrer que la conjugaison est une relation d’équivalence. Quelle est la classe de l’identité ? Vérifier que {f\sim g} implique {f^n\sim g^n} pour {n\in\mathbb N}.
On détermine les classes de conjugaison et un représentant simple de chacune.
3. (a) Soit {f\ne\operatorname{Id}} ayant deux points fixes distincts {\alpha,\beta\in\mathbb C}. Posons {h(z)=(z-\alpha)/(z-\beta)}. Montrer qu’il existe {\lambda\in\mathbb C\setminus\{0,1\}} tel que {f=h^{-1}\circ\sigma_\lambda\circ h}.
3. (c) Soit {f} ayant un unique point fixe double {\alpha\in\mathbb C}. Avec {h(z)=1/(z-\alpha)}, montrer qu’il existe une translation {t\ne\operatorname{Id}} telle que {f=h^{-1}\circ t\circ h}.
3. (d) Déduire que toute homographie non identique ayant un seul point fixe est conjuguée à {z\mapsto z+1} ; sinon, elle est conjuguée à {\sigma_\lambda} avec {0\lt|\lambda|\leq1} et {\lambda\ne1}.
Vérifier l’unicité de {\lambda} si {|\lambda|\lt1} ; si {|\lambda|=1}, imposer {\operatorname{Im}\lambda\geq0} pour obtenir l’unicité.
1. (c) Soient {\alpha\ne\beta} dans {\widehat{\mathbb C}}. Déterminer l’unique homographie involutive non identique qui les fixe, d’abord s’ils sont finis, puis si {\beta=\infty}.
1. (d) Pour les mêmes points, trouver les deux seules homographies {f\ne\operatorname{Id}} telles que {f^3=\operatorname{Id}} et fixant {\alpha,\beta}.
1. (e) Donner les trois homographies {f\ne\operatorname{Id}} telles que {f^4=\operatorname{Id}}, {f(1)=1}, {f(-1)=-1}. Vérifier qu’avec l’identité elles forment un groupe cyclique.
On étudie les permutations circulaires de deux, trois ou quatre points.
2. (a) Pour {u\ne v} dans {\widehat{\mathbb C}}, déterminer toutes les homographies échangeant {u,v}. Utiliser VII.2 et IX.1(b), d’abord pour deux points finis, puis pour {v=\infty}.
2. (b) Pour trois points distincts {u,v,w\in\widehat{\mathbb C}}, montrer qu’il existe une unique homographie envoyant successivement {u} sur {v}, {v} sur {w} et {w} sur {u}, et que {f^3=\operatorname{Id}}. Montrer qu’elle conserve globalement leur cercle généralisé. Déterminer celle telle que {f(0)=1}, {f(1)=i}, {f(i)=0}.
2. (c) Pour quatre points distincts {t,u,v,w\in\widehat{\mathbb C}}, chercher une homographie les permutant circulairement dans cet ordre. Montrer son unicité si elle existe et {f^4=\operatorname{Id}}, puis établir le critère {[t,v,u,w]=-1}.
Soient maintenant {f\ne\operatorname{Id}} et {z_0\in\widehat{\mathbb C}}. On pose {z_{n+1}=f(z_n)}. La convergence vers {\infty} signifie que le module tend vers {+\infty} ; on utilise la convergence usuelle sur le plan complété.
3. (a) Si {f} possède un seul point fixe {\alpha}, montrer {z_n\to\alpha}.
3. (b) Si {f} possède deux points fixes distincts {\alpha,\beta} et {z_0\notin\{\alpha,\beta\}}, montrer qu’on est dans l’un des trois cas : pour tout tel {z_0}, convergence vers {\alpha} ; pour tout tel {z_0}, convergence vers {\beta} ; ou divergence pour tout tel {z_0}.
On note {P=\{z:\operatorname{Im}z>0\}}, {\widehat{\mathbb R}=\mathbb R\cup\{\infty\}} et {D=\{z:|z|\lt1\}}.
On note {R} l’ensemble des homographies représentables par des coefficients réels {a,b,c,d}, et {R^+} celles pour lesquelles {ad-bc>0}. Le signe est indépendant du représentant réel, puisque deux représentants diffèrent d’un facteur réel non nul dont le carré multiplie le déterminant.
1. (a) Montrer que {R^+} est un sous-groupe de {R}, lui-même sous-groupe de {H}.
2. (b) En déduire que les homographies {f} telles que {f(D)=D} sont exactement {f(z)=u\frac{z-\gamma}{1-\overline\gamma z},\quad|u|=1,\quad|\gamma|\lt1}