Niveau : moyen. Durée estimée : 2 h 30. 10 exercices avec corrections détaillées.
Rappel des notions clés
Pour décomposer une représentation, calcule son caractère puis ses produits scalaires avec les caractères irréductibles : chacun donne une multiplicité. Exemple : $\mathbb{Z}/2\mathbb{Z}$ agit sur $\mathbb{C}^2$ en échangeant les coordonnées, avec un caractère qui vaut $2$ en $e$ et $0$ ailleurs. Si $\varepsilon$ vaut $-1$ hors de $e$, alors $\langle \chi, 1 \rangle = \langle \chi, \varepsilon \rangle = \frac{2 + 0}{2} = 1$ : $\mathbb{C}^2$ est la somme des droites de $(1, 1)$ et de $(1, -1)$.
Ici $G$ est fini et $V$ est un $\mathbb{C}$-espace vectoriel de dimension finie. Une représentation $\rho : G \to \mathrm{GL}(V)$ est irréductible si $V \neq \{0\}$ et si seuls $\{0\}$ et $V$ sont stables par tous les $\rho(g)$. Son caractère $\chi(g) = \operatorname{Tr} \rho(g)$ est constant sur chaque classe de conjugaison, et $\chi(e) = \dim V$ est son degré. On note $\chi_1, \dots, \chi_h$ les caractères irréductibles et $d_i$ leurs degrés. Maschke, Schur et l'orthogonalité sont démontrés dans l'annexe A des notes « Groupes finis » de Jean-Pierre Serre.
Formules à retenir :
- Maschke : toute représentation est somme directe d'irréductibles.
- Schur : sur $\mathbb{C}$, un endomorphisme qui commute à tous les $\rho(g)$ d'une irréductible est une homothétie.
- $\langle \chi, \psi \rangle = \frac{1}{|G|} \sum_{g \in G} \chi(g) \overline{\psi(g)} = \frac{1}{|G|} \sum_{C} |C| \, \chi(C) \overline{\psi(C)}$, la dernière somme portant sur les classes $C$.
- Les $\chi_i$ sont orthonormés, et $\rho$ est irréductible si et seulement si $\langle \chi, \chi \rangle = 1$.
- $h$ est le nombre de classes de conjugaison, et $\sum_i d_i^2 = |G|$.
- Induite d'un caractère $\theta$ d'un sous-groupe $H$ : degré $[G : H] \, \theta(e)$, et $\operatorname{Ind}_H^G \theta(g) = \frac{1}{|H|} \sum_{x \in G,\ x^{-1} g x \in H} \theta(x^{-1} g x)$.
- Une irréductible de $G/N$, composée avec la projection $G \to G/N$, reste irréductible.
Piège classique : oublier le conjugué ou la taille des classes dans $\langle \chi, \psi \rangle$. Avec $\omega = e^{2i\pi/3}$, $\omega \cdot \omega^2 = 1$ alors que $\omega \cdot \overline{\omega^2} = \omega^2$.
Exercices : niveau facile
Exercice 1 : Soit $\rho : G \to \mathrm{GL}(V)$ une représentation. Montre que $\rho(e) = \mathrm{id}_V$, puis que $\ker \rho$ est un sous-groupe distingué de $G$. Donne enfin le noyau de la signature $\varepsilon$ de $\mathfrak{S}_n$, pour $n \geq 2$.
Correction :
$\rho(e) = \rho(e)^2$ et $\rho(e)$ est inversible, donc $\rho(e) = \mathrm{id}_V$. Le noyau d'un morphisme est un sous-groupe ; si $\rho(g) = \mathrm{id}_V$, alors $\rho(hgh^{-1}) = \rho(h) \rho(g) \rho(h^{-1}) = \rho(hh^{-1}) = \mathrm{id}_V$, d'où la stabilité par conjugaison.
Le noyau de $\varepsilon$ est formé des permutations paires : $\ker \varepsilon = \mathfrak{A}_n$.
Exercice 2 : Soit $G = \langle x \rangle$ cyclique d'ordre $n$. Montre que ses représentations irréductibles sont de degré $1$, puis décris-les et compte-les.
Correction :
Sur $\mathbb{C}$, $\rho(x)$ a un vecteur propre $v$, et la droite $\mathbb{C}v$ est stable par tous les $\rho(x^k) = \rho(x)^k$. Si $\rho$ est irréductible, $V = \mathbb{C}v$.
Alors $\rho(x) = \lambda$ avec $\lambda^n = 1$, donc $\lambda = \omega^k$ où $\omega = e^{2i\pi/n}$. Les $\rho_k(x^j) = \omega^{jk}$, pour $0 \leq k \leq n - 1$, donnent $n$ irréductibles : autant que de classes, puisque $G$ est abélien.
Exercice 3 : Les isométries d'un triangle équilatéral permutent ses sommets $1, 2, 3$ : elles forment $\mathfrak{S}_3$, qui agit sur $\mathbb{C}^3$ par $\rho(\sigma) e_i = e_{\sigma(i)}$. Montre que la droite $D$ de $(1, 1, 1)$ et le plan $P : x_1 + x_2 + x_3 = 0$ sont stables, que $P$ est irréductible, puis déduis les degrés des irréductibles de $\mathfrak{S}_3$.
Correction :
$\rho(\sigma)$ permute les coordonnées : il fixe $(1, 1, 1)$ et conserve leur somme, donc $D$ et $P$ sont stables.
Une droite stable de $P$ serait propre pour $\rho((12))$, dont les droites propres dans $P$ sont celles de $(1, -1, 0)$ et de $(1, 1, -2)$, pour les valeurs propres $-1$ et $1$. Or $\rho((23))$ les envoie sur $(1, 0, -1)$ et $(1, -2, 1)$, qui ne leur sont pas colinéaires : $P$ est irréductible.
$\mathfrak{S}_3$ a $3$ classes, donc $3$ irréductibles : la triviale, la signature et $P$, avec $1^2 + 1^2 + 2^2 = 6$. Degrés : $1$, $1$ et $2$.
Exercices : niveau moyen
Exercice 4 : $\mathfrak{S}_4$ agit sur $\mathbb{C}^4$ par $\rho(\sigma) e_i = e_{\sigma(i)}$, avec un caractère $\chi$. Ses classes sont l'identité ($1$ élément), les transpositions ($6$), les doubles transpositions ($3$), les $3$-cycles ($8$) et les $4$-cycles ($6$). Montre que $\chi(\sigma)$ est le nombre de points fixes de $\sigma$, puis que $\psi = \chi - 1$ est un caractère irréductible.
Correction :
La matrice de $\rho(\sigma)$ a un $1$ en position diagonale $i$ si et seulement si $\sigma(i) = i$. Sur les classes, $\chi = (4, 2, 0, 1, 0)$.
$\langle \chi, 1 \rangle = \frac{4 + 12 + 0 + 8 + 0}{24} = 1$ : la triviale apparaît une fois, et $\psi = (3, 1, -1, 0, -1)$ est le caractère d'un supplémentaire stable. Puis $\langle \psi, \psi \rangle = \frac{9 + 6 + 3 + 0 + 6}{24} = 1$ : $\psi$ est irréductible, de degré $3$.
Exercice 5 : La représentation régulière agit sur l'espace de base $(e_h)_{h \in G}$ par $\rho(g) e_h = e_{gh}$ ; on note $r_G$ son caractère. Calcule $r_G$, montre que chaque $\chi_i$ y apparaît $d_i$ fois, puis que $\sum_i d_i^2 = |G|$ et $\sum_i d_i \chi_i(g) = 0$ pour $g \neq e$.
Correction :
$\rho(g)$ permute la base et fixe $e_h$ si et seulement si $gh = h$, soit $g = e$ : $r_G(e) = |G|$ et $r_G(g) = 0$ sinon.
Donc $\langle r_G, \chi_i \rangle = \frac{1}{|G|} \, |G| \, \overline{\chi_i(e)} = d_i$, et $r_G = \sum_i d_i \chi_i$. En $e$, cela donne $|G| = \sum_i d_i^2$ ; en $g \neq e$, $\sum_i d_i \chi_i(g) = 0$. Cette dernière relation sert à compléter une table.
Exercice 6 : Soit $H = \mathfrak{A}_3$ dans $\mathfrak{S}_3$, dont les classes sont $\{e\}$, les $3$ transpositions et les deux $3$-cycles. Calcule le degré et le caractère de $\operatorname{Ind}_H^{\mathfrak{S}_3} 1$, puis décompose cette induite.
Correction :
Le degré vaut $[\mathfrak{S}_3 : \mathfrak{A}_3] = 2$. Avec $\theta = 1$, la formule compte les $x$ tels que $x^{-1} g x \in H$ et divise par $|H| = 3$. En $e$ : $\frac{6}{3} = 2$. Les conjugués d'une transposition sont des transpositions, jamais dans $H$ : $0$. Ceux d'un $3$-cycle restent dans $H$ : $\frac{6}{3} = 2$.
Donc $\chi = (2, 0, 2)$, $\langle \chi, 1 \rangle = \frac{2 + 0 + 4}{6} = 1$ et $\langle \chi, \varepsilon \rangle = \frac{2 - 0 + 4}{6} = 1$ : $\operatorname{Ind}_H^{\mathfrak{S}_3} 1 = 1 \oplus \varepsilon$. L'induite d'une irréductible n'est pas toujours irréductible.
Exercice 7 : $Q_8 = \{\pm 1, \pm i, \pm j, \pm k\}$, avec $i^2 = j^2 = k^2 = -1$, $ij = -ji = k$, $jk = -kj = i$ et $ki = -ik = j$. Montre que ses classes sont $\{1\}$, $\{-1\}$, $\{\pm i\}$, $\{\pm j\}$, $\{\pm k\}$, puis établis sa table de caractères en passant par $Q_8 / \{\pm 1\}$.
Correction :
$\pm 1$ commutent à tout. Pour tout $x$, $x i x^{-1} = \pm i$, et $j i j^{-1} = -(ji)j = kj = -i$ : la classe de $i$ est $\{\pm i\}$. De même pour $j$ et $k$.
$\{\pm 1\}$ est distingué, et le quotient a $4$ éléments de carré trivial : c'est $(\mathbb{Z}/2\mathbb{Z})^2$. Ses $4$ caractères donnent, sur $(1, -1, \pm i, \pm j, \pm k)$ : $\chi_1 = (1, 1, 1, 1, 1)$, $\chi_2 = (1, 1, 1, -1, -1)$, $\chi_3 = (1, 1, -1, 1, -1)$ et $\chi_4 = (1, 1, -1, -1, 1)$.
Avec $5$ classes, il reste un caractère $\chi_5$ et $d_5^2 = 8 - 4$, donc $d_5 = 2$. La relation de l'exercice 5 donne $4 + 2\chi_5(-1) = 0$, puis $0 + 2\chi_5(i) = 0$, de même en $j$ et $k$ : $\chi_5 = (2, -2, 0, 0, 0)$.
Exercices : niveau difficile
Exercice 8 : Les rotations d'un carré centré en $O$ forment $C_4 = \langle r \rangle$, qui agit sur $\mathbb{R}^2$ par $\rho(r) = J = \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix}$.
a) Montre que $\rho$ est irréductible sur $\mathbb{R}$, mais pas sur $\mathbb{C}$.
b) Trouve un endomorphisme réel qui commute à $J$ sans être une homothétie. Est-ce contraire au lemme de Schur ?
c) En ajoutant la symétrie $s(x, y) = (x, -y)$, on obtient le groupe diédral $D_4$. Sa représentation sur $\mathbb{C}^2$ est-elle irréductible ?
Correction :
a) Une droite réelle stable serait propre pour $J$, or $X^2 + 1$ n'a pas de racine réelle. Sur $\mathbb{C}$, $J(1, -i) = i(1, -i)$ et $J(1, i) = -i(1, i)$ : $\mathbb{C}^2 = \mathbb{C}(1, -i) \oplus \mathbb{C}(1, i)$.
b) $J$ lui-même. Pas de contradiction : la preuve de Schur part d'une valeur propre, qui peut manquer sur $\mathbb{R}$. Ici, les endomorphismes qui commutent à $J$ sont les $aI + bJ$, un corps isomorphe à $\mathbb{C}$.
c) Oui. Une droite complexe stable serait propre pour $J$, mais $s$ échange $\mathbb{C}(1, -i)$ et $\mathbb{C}(1, i)$. Le piège : c'est $C_4$, abélien, qui se casse sur $\mathbb{C}$ ; $D_4$ reste irréductible.
Exercice 9 : $\mathfrak{A}_4$ a $4$ classes : $\{e\}$, les $3$ doubles transpositions, $C = \{(123), (142), (134), (243)\}$ et $C' = C^{-1}$. Le groupe de Klein $V_4$, formé de $e$ et des doubles transpositions, est distingué, et $\mathfrak{A}_4 / V_4$ est cyclique d'ordre $3$, engendré par l'image de $(123)$. On pose $\omega = e^{2i\pi/3}$.
a) Donne les trois caractères de degré $1$.
b) Un étudiant trouve $\langle \chi_2, \chi_3 \rangle = \frac{1 + 3 + 4\omega\omega^2 + 4\omega^2\omega}{12} = 1$. Où est l'erreur ?
c) Trouve le caractère $\chi_4$ de la dernière irréductible.
Correction :
a) Sur $(e, V_4 \setminus \{e\}, C, C')$ : $\chi_1 = (1, 1, 1, 1)$, $\chi_2 = (1, 1, \omega, \omega^2)$ et $\chi_3 = (1, 1, \omega^2, \omega)$.
b) Il a oublié le conjugué : $\omega \overline{\omega^2} = \omega^2$ et $\omega^2 \overline{\omega} = \omega$. Le bon calcul donne $\frac{4 + 4(\omega^2 + \omega)}{12}$, nul puisque $1 + \omega + \omega^2 = 0$ : $\langle \chi_2, \chi_3 \rangle = 0$.
c) $d_4^2 = 12 - 3$, donc $d_4 = 3$. La relation de l'exercice 5 donne $3 + 3\chi_4(s) = 0$ pour une double transposition $s$, et $1 + \omega + \omega^2 + 3\chi_4(t) = 0$ pour $t \in C \cup C'$ : $\chi_4 = (3, -1, 0, 0)$.
Exercice 10 : Soit $G = \mathrm{SL}_2(\mathbb{F}_3)$, groupe des matrices $2 \times 2$ de déterminant $1$ à coefficients dans $\mathbb{F}_3 = \mathbb{Z}/3\mathbb{Z}$. On admet que $G$ a $7$ classes de conjugaison, que $G / \{\pm I\} \simeq \mathfrak{A}_4$, et que ses $8$ éléments d'ordre une puissance de $2$ forment un sous-groupe distingué $Q \simeq Q_8$.
a) Calcule $|G|$, sachant que $|\mathrm{GL}_2(\mathbb{F}_3)| = 48$.
b) Trouve trois caractères de degré $1$ et une irréductible de degré $3$.
c) Déduis les degrés des $7$ irréductibles.
Correction :
a) $\det : \mathrm{GL}_2(\mathbb{F}_3) \to \{\pm 1\}$ est un morphisme surjectif de noyau $G$ : $|G| = 48 / 2 = 24$.
b) $G/Q$ est d'ordre $3$, donc cyclique : ses $3$ caractères, composés avec $G \to G/Q$, sont de degré $1$. L'irréductible de degré $3$ de $\mathfrak{A}_4$ (exercice 9), composée avec $G \to \mathfrak{A}_4$, reste irréductible.
c) Les trois degrés restants vérifient $a^2 + b^2 + c^2 = 24 - 12 = 12$, chacun au plus $3$. Un $3$ laisserait $3$ et un $1$ laisserait $11$, qui ne sont pas sommes de deux carrés non nuls. Degrés : $1, 1, 1, 2, 2, 2, 3$.
Bilan et conseils
Pour une table de caractères, liste d'abord les classes et leurs tailles, puis les caractères de degré $1$ venus d'un quotient abélien. La formule $\sum_i d_i^2 = |G|$ donne les degrés manquants, et la relation de l'exercice 5 complète la table.
Ce qu'il faut retenir : une représentation est irréductible si et seulement si $\langle \chi, \chi \rangle = 1$, calculé avec la taille des classes et le conjugué. Le lemme de Schur, sous sa forme « homothétie », demande un corps algébriquement clos comme $\mathbb{C}$.
Sources
Jean-Pierre Serre, « Groupes finis », notes de cours, annexe A « Théorie des caractères », arXiv, 2008.