Table Of ContentReprésentation des groupes finis
préparation à l’agrégation
Alexis Tchoudjem
Université Lyon I
10 février 2016
1 Références
1. Vinberg, Algebra;
2. J. -P. Serre, Représentations linéaires des groupes finis;
3. Guy Henniart, Représentations linéaires des groupes finis, disponible
ici : www.math.polytechnique.fr/xups/xups09-01.pdf;
4. Alperin, Groups and representations;
5. Isaacs, Character theory of finite groups;
6. Fulton & Harris Representation theory.
Table des matières
1 Références 2
2 Sous-espaces invariants 2
3 Complèteréductibilitédesreprésentationslinéairesdesgroupes
finis 6
4 Caractères des représentations de groupes finis 7
5 L’espace hermitien des fonctions centrales 7
6 Table des caractères de A 11
5
7 Théorème de Burnside 12
8 Représentations induites 13
2 Sous-espaces invariants
Soit k un corps.
Définition 1 Unereprésentationk−linéaired’ungroupeGestunmorphisme
de groupes :
G → GL(V) .
Si R : G → GL(V) et S : G → GL(U) sont des représentations d’un
groupe G, un morphisme de R vers S est une application k−linéaire φ : V →
2
U telle que le diagramme :
R(g) (cid:47)(cid:47)
V V
φ φ
(cid:15)(cid:15) (cid:15)(cid:15)
R(g) (cid:47)(cid:47)
U U
commute pour tout g ∈ g. Si φ est un isomorphisme, on dit que R (cid:39) S.
Les sous-espaces invariants jouent un rôle important dans la structure des
représentations linéaires. De quoi s’agit-il?
Définition 2 Soit R : G → GL(V) une représentation linéaire d’un groupe
G. On dit qu’un sous-espace U ≤ V est invariant s’il l’est vis à vis de tous
les endomorphismes R(g), g ∈ G.
Si U ≤ V est un sous-espace invariant d’une représentation R : G →
GL(V), alors la sous-représentation R : G → GL(U), g (cid:55)→ R(g)| et la re-
U U
présentationquotientR : G → GL(V/U), g (cid:55)→ (v modU (cid:55)→ R(g)v modU)
V/U
sont aussi des représentations linéaires de G.
Définition 3 Une représentation R : G → GL(V) est irréductible si V (cid:54)= 0
<
et s’il n’existe pas de sous-espace invariant 0 (cid:54)= U (cid:54)= V.
Exercice 1 a) Les représentations de dimension 1 sont irréductibles.
cost −sint
b) La représentation R : R → GL (R), t (cid:55)→ est irréduc-
2
sint cost
tible.
cost −sint
c) La représentation R : R → GL (C), t (cid:55)→ n’est pas
2
sint cost
irréductible.
d) L’isomorphisme S (cid:39) SO (Z) définit une représentation irréductible
4 3
réelle de S de dimension 3 (l’isomorphisme s’obtient en faisant agir
4
±1
SO (Z) sur ses quatre 3−Sylow ou sur les quatre droites ± ±1 ).
3
1
Cette dernière représentation est aussi irréductible sur C! grâce à la propo-
sition suivante :
3
Proposition 2.1 Soit G → GL (R) une représentation irréductible de di-
n
mension n impaire. Alors R : G → GL (C) la « complexification » de R est
n
aussi irréductible.
Démonstration : Indication : soit 0 (cid:54)= W < Cn un sous-espace invariant.
Alors W ∩W est un sous-R−espace invariant de Rn donc c’est 0. De même
W +W ∩Rn est un sous-espace invariant de Rn donc W +W = Cn. D’où
n = dimW +dimW = 2dimW absurde! q.e.d.
Exercice 2 Soit V un k−espace vectoriel de base e ,...,e . La représentation
1 n
de S définie par R(s)e := e , s ∈ S , est la représentation monomiale.
n i s(i) n
a) La représentation monomiale n’est pas irréductible car elle a au moins
deux sous-représentations non triviales : l’une de dimension 1 : k(e +
1
....+e ) l’autre de dimension n−1 : V := {(cid:80)n x e : (cid:80)n x = 0}.
n 0 i=1 i i i=1 i
b) La sous-représentation V est irréductible en caractéristique nulle.
0
Remarque importante : si ϕ : V → U est un morphisme de représen-
tations, alors kerϕ est une sous-représentation de V et Imϕ est une sous-
représentation de U.
Voici une conséquence :
Théorème 2.2 Tout morphisme entre deux représentations irréductibles est
soit nul soit un isomorphisme.
Dorénavant nous ne considérerons que les représentations de
dimension finie.
Théorème 2.3 (Lemme de Schur) Suruncorpsalgébriquementclos,tout
endomorphisme d’une représentation irréductible est soit nul soit un multiple
de l’identité.
Corollaire 2.3.1 Toute représentation irréductible d’un groupe abélien sur
un corps algébriquement clos est de dimension 1.
Démonstration : (exo) q.e.d.
Définition 4 Une représentation linéaire R : G → GL(V) est complètement
réductible si tout sous-espace invariant U ≤ V admet un supplémentaire
invariant.
4
et 0
Exercice 3 a) La représentation R → GL (C), t (cid:55)→ est com-
2
0 e−t
plètement réductible.
1 t
b) La représentation S → GL (C), t (cid:55)→ est réductible mais non
2
0 1
complètement.
Théorème 2.4 Chaque sous-représentation et chaque quotient d’une repré-
sentation complètement réductible restent complètement réductibles.
Démonstration : (exo) q.e.d.
Théorème 2.5 Soit R : G → GL(V) une représentation linéaire.
Si R est une représentation complètement réductible, alors V se dé-
compose en somme directe de sous-espaces invariants minimaux†.
((iii)) Réciproquement, si V est une somme (cid:80) V (non nécessairement di-
i i
recte) de sous-espaces invariants minimaux, alors R est une représen-
tation complètement réductible. De plus, si U ≤ V est un sous-espace
invariant, alors on peut choisir comme supplémentaire invariant une
somme de certains V .
i
Démonstration : (i) : (exo)
(ii) Si V = (cid:80)n V . Si U ≤ V est invariant. On choisit I ≤ {1,...,n}
i=1 i
un sous-ensemble de cardinal maximal tel que (cid:80) V ∩ U = 0. Alors U ⊕
i∈I i
((cid:80) V ) = V. q.e.d.
i∈I i
Exercice 4 a) En caractéristique nulle, la représentation monomiale est
complètement réductible.
b) En caractéristique nulle, la représentation Ad : GL (k) → GL(M (K)),
n n
A (cid:55)→ (X (cid:55)→ AXA−1) est complètement réductible (indication : vérifier
que (cid:104)I (cid:105) et {X ∈ M (K) : trM = 0} sont des sous-espaces invariants
n n
minimaux).
Corollaire 2.5.1 Une représentation est complètement réductible si et seule-
ment si elle est isomorphe à une somme directe de représentations irréduc-
tibles.
†. i.e. minimaux parmi les sous-espaces invariants non nuls
5
Corollaire 2.5.2 Soit R : G → GL(V) une représentation complètement
réductible isomorphe à une somme directe de représentations irréductibles
⊕n R . Alors toute sous-représentation et toute représentation quotient de
i=1 i
R est isomorphe à une somme directe ⊕ R pour une partie I ⊆ {1,...,n}.
i∈I i
Théorème 2.6 (de Burnside) Soit R : G → GL(V) une représentation
irréductible sur un corps algébriquement clos k. Alors la sous-algèbre de
End (V) engendré par les R(g), g ∈ G, coïncide avec End (V).
k k
Démonstration : cf. Les Maths en tête, algèbre , X. Gourdon, problème
IV . 7 q.e.d.
Exercice 5 Montrer que si R : G → GL(V) est une représentation irréduc-
tible sur un corps de algébriquement clos, alors :
a) toute forme bilinéaire non nulle invariante sur V est non dégénérée;
b) deux telles formes sont proportionnelles;
c) si une telle forme existe, alors elle est symétrique ou antisymétrique.
3 Complète réductibilité des représentations li-
néaires des groupes finis
Théorème 3.1 (théorème de Maschke) Soit R : G → GL(V) une repré-
sentation k−linéaire d’un groupe fini G d’ordre premier à la caractéristique de
k. Alors tout sous-espace invariant U ≤ V a un supplémentaire G−invariant.
Démonstration : Soit p : V → U une projection linéaire surjective (ça
existe toujours!). On pose π := 1 (cid:80) R(g) ◦ p ◦ R(g)−1. C’est un endo-
|G| g∈G
morphisme de V, on a π ◦R(g) = R(g)◦π pour tout g ∈ G. Donc kerπ et
π sont des sous-espaces G−invariants. De plus π2 = π (exo) Donc π est une
projection et Imπ ⊕kerπ = V avec Imπ = U. q.e.d.
Exercice 6 Démontrer que la représentation C− linéaire de S induite par
4
l’isomorphisme S (cid:39) SO (Z) est irréductible (indication : il suffit de vérifier
4 3
qu’il n’y a pas de droite invariante!)
Exercice 7 Sipestunnombrepremier,alorslasous-représentation{(cid:80)p x e :
i=1 i i
(cid:80)p x = 0} de la représentation monomiale de S est indécomposable mais
i=1 i p
n’est pas irréductible.
On s’intéresse dorénavant aux représentations sur C.
6
4 Caractères des représentations de groupes fi-
nis
Définition 5 Soit R : G → GL(V) une représentation, son caractère χ est
R
la fonction G → C, g (cid:55)→ trace(R(g)).
Remarques :
i) La terminologie est traditionnelle mais peut prêter à confusion si le
groupe G est abélien!
ii) Deux représentations isomorphes ont le même caractère (et réciproque-
ment? patience ...).
iii) La fonction χ est clairement constante sur les classes de conjugaison.
R
iv) Si G est fini, alors pour tout g ∈ G, χ (g−1) = χ (g) (exo)
R R
v) Si R est la somme directe de deux sous-représentations R et R , alors
1 2
χ = χ +χ .
R R1 R2
Exercice 8 χ (1) est la dimension de la représentation R.
R
5 L’espace hermitien des fonctions centrales
Soit G un groupe fini. On note FC(G) le C−espace vectoriel des « fonc-
tions de classe » i.e. des fonctions G → C constantes sur les classes de
conjugaison i.e. des fonctions f : G → C telles que f(gh) = f(hg) pour tous
g,h ∈ G.
On munit CG du produit scalaire hermitien :
1
∀f,ϕ ∈ CG, (cid:104)f,ϕ(cid:105) := (cid:88) f(g)ϕ(g) .
|G|
g∈G
On note Irr(G) l’ensemble des classes d’isomorphisme des représentations
irréductibles de G.
À l’aide du lemme de Schur, on peut démontrer le résultat fondamental
suivant :
Théorème 5.1 La famille (χ ) est une base orthonormale du sous-
R R∈Irr(G)
espace FC(G).
En particulier, le nombre de classes d’isomorphisme de représentations
irréductibles de G est aussi le nombre de classes de conjugaison de G!
Remarque : pour toute fonction f ∈ FC(G), f = (cid:80) (cid:104)χ ,f(cid:105)χ .
R∈Irr(G) R R
7
Les χ , R ∈ Irr(G), sont appelés les caractères irréductibles de G.
R
Les valeurs des (χ ) sont présentées sous forme de tableau, ap-
R R∈Irr(G)
pelé table des caractères de G, dont la première ligne indique les classes de
conjugaison de G (chaque classe est représentée par un de ses éléments et on
indique aussi le cardinal de la classe; et la première colonne indique la liste
des χ . On inscrit le coefficient χ (g) à l’intersection de la colonne g et de
R R
la ligne χ ).
R
Exercice 9 (table des caractères de S )
3
1 : 1 (12) : 3 (123) : 2
χ 1 1 1
1
χ 1 −1 1
sign
χ 2 0 −1
R0
Exercice 10 DéterminerlatabledescaractèresdeD ,groupediédrald’ordre
4
8.
Nombreuses et considérables sont les conséquences du théorème précé-
dent. Par exemple :
(1) Deux représentations R et R(cid:48) de G sont isomorphes si et seulement si
leurs caractères sont égaux ( ce qui justifie le terme caractère).
(2) Si R est une représentation de G, alors R est somme directe de sous-
repreésentations irréductibles R . Dans cette décomposition, le nombre
i
de R dans une classe ρ ∈ Irr(G) donnée est (cid:104)R,ρ(cid:105).
i
(3) Une condition nécessaire et suffisante pour qu’une représentation R soit
irréductible est (cid:104)χ ,χ (cid:105) = 1.
R R
(4) Plus généralement, si une fonction f ∈ FC(G) est une combinaison
linéaire à coefficients entiers de caractères irréductibles de G, alors f est
un caractère irréductible si χ(1) ≥ 0 et (cid:104)χ,χ(cid:105) = 1.
(5) Avec un peu de théorie des nombres (les χ (g) sont des entiers algé-
R
briques pour toute représentation R et tout g ∈ G!), la dimension de
toute représentation irréductible de G divise |G| (cf. Serre, Représen-
|Z(G)|
tations linéaires des groupes finis).
(6) le théorème de Burnside! i.e. : tout groupe fini d’ordre paqb, où p,q sont
des nombres premiers et a,b ∈ Z est résoluble!
≥1
On note CG le C−espace vectoriel CG de base e : G → C, h (cid:55)→ δ ,
g g,h
g ∈ G, muni du produit C−bilinéaire e e := e .
g h gh
8
Exercice 11 En considérant la représentation régulière de G : R : G →
G
GL(CG), ∀g ∈ G, R (g)(e ) = e . Montrer que :
G h gh
(cid:88) dim2R = |G|
R∈Irr(G)
∀1 (cid:54)= g ∈ G, (cid:88) dimRχ (g) = 0 .
R
R∈Irr(G)
Lemme 5.2 Si R : G → GL(V) est une représentation, on note R∗ : G →
GL(V∗), g (cid:55)→ tR(g−1) la représentation duale . On a χ = χ et R est
R R∗
irréductible ⇔ R∗ l’est!
Démonstration : (exo) q.e.d.
Démonstration du résultat fondamental :
1) Soient R : G → GL(V), R(cid:48) : G → GL(V(cid:48)) deux représentations irréduc-
tibles non isomorphes. Soit f : V → V(cid:48) une application C−linéaire. Alors
(cid:80) R(cid:48)(g)fR(g)−1 : V → V(cid:48) est G−équivariante donc nulle d’après le
g∈G
lemme de Schur.
Soit e ,...,e une base V et soit e(cid:48),...,e(cid:48) une base de V(cid:48). Soit f l’endo-
1 n 1 n(cid:48)
morphisme élémentaire « E » pour 1 ≤ i ≤ n(cid:48), 1 ≤ j ≤ n.
i,j
Alorsdanslesbasese,e(cid:48) lek,lèmecoefficientdelamatrice(cid:80) R(cid:48)(g)fR(g)−1
g∈G
est (cid:80) R(cid:48)(g) R(g−1) = 0 (pour tous i,j,k,l). Donc :
g∈G ki jl
1 1 n n(cid:48)
(cid:88) χ (g)χ (g) = (cid:88) (cid:88)R(g−1) (cid:88)R(cid:48)(g)
R R(cid:48) j,j i,i
|G| |G|
g∈G g∈Gj=1 i=1
1 n n(cid:48)
= (cid:88)(cid:88) (cid:88) R(g−1) R(cid:48)(g) = 0 .
j,j i,i
|G|
j=1i=1g∈G
(cid:124) (cid:123)(cid:122) (cid:125)
=0
2) De même, on montre que (cid:104)χ ,χ (cid:105) = 1 si R ∈ Irr(G).
R R
3) Pour montrer que les χ , R ∈ Irr(G) engendrent FC(G), il suffit de
R
montrer que si f est une fonction centrale orthogonale à tous les χ ,
R
R ∈ Irr(G), alors f est nulle. Soit f une telle fonction.
Posons F := (cid:80) f(g)R(g) pour toute représentation R de G. On a :
R g∈G
∀h ∈ G, F R(h) = (cid:88) f(g)R(gh) = (cid:88) f(gh−1)R(g)
R
g∈G g∈G
= (car f est une fonction centrale!) (cid:88) f(h−1g)R(g) = (cid:88) f(g)R(hg)
g∈G g∈G
9
= R(h)F .
R
Donc si R est irréductible F est une homothétie. Or, trace(F ) =
R R
|G|(cid:104)χ ,f(cid:105) = 0. Donc F = 0. Or toute représentation est somme di-
R∗ R
recte d’irréductibles donc F = 0 pour toute représentation R. En par-
R
ticulier pour la représentation régulière R . En particuleir, dans CG,
G
F (e ) = (cid:80) f(g)e = 0 ⇒ f = 0.
RG 1 g∈G g
q.e.d.
Exercice 12 Trouver la table des caractères de S .
4
Réponse :
1 : 1 (12) : 6 (12)(34) : 3 (123) : 8 (1234) : 6
χ 1 1 1 1 1
1
χ 3 1 −1 0 −1
2
χ 2 0 2 −1 0
3
χ 3 −1 −1 0 −1
4
χ 1 −1 1 1 −1
sign
Exercice 13 Le groupe des quaternions d’ordre 8 a la même table de carac-
tères que D bien que non isomorphe. Jusitifer cette affirmation.
4
Exercice 14 Démontrer cette autre formule d’orthogonalité :
|G|
∀g ∈ G, (cid:88) χ (g)χ (g−1) =
R R
|C|
R∈Irr(G)
où C est la classe de conjugaison de g, et :
∀g,h ∈ G non conjugués , (cid:88) χ (g)χ (h−1) = 0 .
R R
R∈Irr(G)
Indication : soit C une classe de conjugaison; on considère la fonction cen-
trale 1 : g (cid:55)→ 1 si g ∈ C, 0 sinon. On a 1 = (cid:80) x χ où x =
C C R∈irr(G) R R R
(cid:104)χ ,1 (cid:105) = |C|χ (C) où χ (C) est la valeur de χ sur C ...
R C |G| R R R
Exercice 15 Soit G un groupe fini et ρ : G → GL(V) une représentation
irréductible (sur C de dimension d. Alors nous allons montrer que d||G|. On
note χ le caractère de ρ.
10