\documentclass[10pt]{article}

\usepackage[cp1252]{inputenc}
\usepackage[T1]{fontenc}
\usepackage{lmodern}
\usepackage[a4paper]{geometry}
\usepackage{amsmath, amssymb}
\usepackage{dsfont}
\usepackage[frenchb]{babel}

\usepackage{graphicx}


\usepackage{amsthm}

\theoremstyle{plain}
\newtheorem*{thm}{Th\'eor\`eme}
\newtheorem*{lem}{Lemme}
\newtheorem*{prop}{Proposition}
\newtheorem*{cor}{Corollaire}

\theoremstyle{definition}
\newtheorem*{defi}{D\'efinition}
\newtheorem*{exe}{Exemple}

\theoremstyle{remark}
\newtheorem*{rmq}{Remarque}

\begin{document}
\pagestyle{empty}

\begin{center}
\Large Sous groupes compacts de $GL_n$
\end{center}

\medskip

Réference : \emph{Alessandri, Thèmes de géométrie, p141 et 160.}

On admet le théorème de Carathéodory et sa conséquence directe affirmant que l'enveloppe convexe d'un compact est compacte en dimension finie.
\medskip

\begin{prop} Soit $G$ un sous-groupe compact de $GL(\mathbb{R}^n)$ tel que $\forall u\in G, u(K)\subseteq K$ où $K$ est un compact convexe non vide de $\mathbb{R}^n$. Alors il existe $a\in K, \forall u\in G, u(a)=a $.
\end{prop}
\begin{proof} \

$\bullet$ Soit $v\in\mathcal{L}(\mathbb{R}^n)$ tel que $v(K)\subseteq K$. Montrons que $v$ admet un point fixe dans $K$.

Soit $x_0\in K$. Pour $k>0$, soit $\displaystyle x_k=\frac{1}{k+1}\sum\limits_{l=0}^{k}{v^l(x_0)}$. On a $x_k\in K$ car $K$ est convexe. Par compacité, il existe une sous-suite $(x_{\varphi(k)})_k$ qui converge vers $a\in K$. Or on peut écrire $v(x_k)=x_k+\frac{1}{k+1}(v^{k+1}(x_0)-x_0)$ et donc $v(x_{\varphi(k)})=x_{\varphi(k)}+\varepsilon_k$ où $\varepsilon_k\rightarrow 0$ car les $v^k(x_0)$ restent dans le compact $v$-stable $K$. Par continuité de $v$, on obtient $v(a)=a$.

$\bullet$ Soit $\left\|.\right\|$ la norme euclidienne sur $\mathbb{R}^n$. Montrons que $\displaystyle \nu(x):=\max_{u\in G}\left\|u(x)\right\|$ définit une norme $G$-invariante sur $\mathbb{R}^n$.

$G$ opère sur $\mathbb{R}^n$ de façon naturelle ($g.x=g(x)$) et la $G$-orbite d'un élément $x$ est compacte. Ainsi $\nu(x)$ est bien définie et ne dépend que de l'orbite de $x$, \emph{i.e.} $\forall x\in\mathbb{R}^n, \forall u\in G, \nu(u(x))=\nu(x)$.
On vérifie aisément que $\nu$ est une norme sur $\mathbb{R}^n$. Intéressons-nous au cas d'égalité : soient $x,y\in\mathbb{R}^n$ et $u_0\in G$ tel que \[ \nu(x+y)=\left\|u_0(x)+u_0(y)\right\| \leq \left\|u_0(x)\right\|+\left\|u_0(y)\right\| \leq \nu(x)+\nu(y). \] Ainsi, si on a égalité alors (norme euclidienne donc cas d'égalité de l'inégalité de Cauchy-Schwarz) $u_0(x)$ et $u_0(y)$ sont positivement liés donc $x$ et $y$ également.

$\bullet$ Pour $u\in G$, on pose $F_u:=\left\{x\in K, u(x)=x\right\}$. Montrons que $ \bigcap\limits_{u\in G}F_u\neq\emptyset$.

Comme $(F_u)_{u\in G}$ est une famille de fermés du compact $K$, il suffit de vérifier que $\forall p\in\mathbb{N}^*,\forall u_1,\dots,u_p\in G, \bigcap\limits_{k=1}^p F_{u_k} \neq \emptyset$ (passer au complémentaire et utiliser Borel-Lebesgue). On note $u=\frac{1}{p}\sum\limits_{k=1}^p{u_k}$ et soit $a\in K$ tel que $u(a)=a$ (existe d'après le premier point). On a \[ \nu(a)=\nu(u(a))\leq \frac{1}{p}\sum\limits_{k=1}^p{\nu(u_k(a))}=\nu(a) \] car $\nu$ est $G$-invariante. Par le second point, les $u_k(a)$ sont positivement liés et de même norme donc égaux. Comme leur moyenne vaut $a$, ils sont tous égaux à $a$ et ainsi $a\in\bigcap\limits_{k=1}^p F_{u_k}$.

\end{proof}

Une application de ce théorème de point fixe est la suivante :

\begin{thm}
Soit $G$ un sous-groupe compact de $GL_n(\mathbb{R})$. Alors il existe une forme quadratique $q$ telle que $G\subseteq \mathcal{O}(q)$.
\end{thm}
\begin{proof} \

$\bullet$ Pour $A\in G, S\in \mathcal{S}_n(\mathbb{R})$, on pose $\rho(A)(S)= AS{}^t\!\!A$. Montrons que cela définit une application continue de $G$ dans $GL(\mathcal{S}_n)$ telle que $\forall(A,B)\in G^2,\rho(AB)=\rho(A)\circ\rho(B)$.

On a $\rho(AB)=\rho(A)\circ\rho(B)$ et $\rho(I_n)=id$. Ainsi $\rho$ est à valeurs dans $GL(\mathcal{S}_n)$. (C'est une réprésentation linéaire de $G$ dans $\mathcal{S}_n$.)

La continuité de $\rho$ vient de $\rho=b\circ\Delta$ où \[ \begin{array}{rccccccccc} \Delta : & G &\longrightarrow & G\times G & \mathrm{et} & b : & M_n(\mathbb{R})\times M_n(\mathbb{R}) & \longrightarrow & \mathcal{L}(\mathcal{S}_n) & \mathrm{bilinéaire.} \\ & A & \longmapsto & (A,A) & & &(A,B) & \longmapsto & S\mapsto AS{}^t\!B & \\ \end{array} \]

$\bullet$ Posons $\mathcal{G}=\rho(G)$, sous-groupe de $GL(\mathcal{S}_n)$ comme image par un morphisme, compact comme image continue du compact $G$. Par compacité de $G$, on a aussi $\left\{M{}^t\!M, M\in G\right\}$ compact non vide du convexe $\mathcal{S}_n^{++}$ donc son enveloppe convexe $K$ également via le théorème de Carathéodory. 

Par construction, $K$ est $\mathcal{G}$-stable : $\forall A\in G, \rho(A)(K)\subseteq K$ ($\rho(A)(M{}^t\!M)=(AM){}^t\!(AM)$ puis linéarité de $\rho(A)$ et convexité de $K$). Par la propriété précédente, il existe $S\in K$ fixe par chaque élément de $\mathcal{G}$. Un tel $S$ est en particulier dans $\mathcal{S}_n^{++}$ et vérifie $\forall A\in G, AS{}^t\!\!A=S$. En passant à l'inverse, on a ${}^t\!A^{-1}S^{-1}A^{-1}=S^{-1}$. Comme $A^{-1}\in G$, on a donc $G\in \mathcal{O}(q_{S^{-1}})$, ce qui prouve le résultat car $S$ ne dépend que de $G$.

\end{proof}

\begin{rmq} Soit $S\in\mathcal{S}_n^{++}$. Notons $R=\sqrt{S^{-1}}=(\sqrt{S})^{-1}\in\mathcal{S}_n^{++}$. Alors $S={}^t\!(R^{-1})R^{-1}$ et on a \[ \Omega\in\mathcal{O}(q_S) \Longleftrightarrow {}^t\!(R^{-1}\Omega R)(R^{-1}\Omega R)=I_n \Longleftrightarrow R^{-1}\Omega R \in\mathcal{O}_n. \]
Ainsi $\mathcal{O}(q_S)=R\mathcal{O}_n R^{-1}$ où $R=\sqrt{S^{-1}}$.
\end{rmq}

\end{document}