Soit G un groupe (au sens mathématique). Les éléments de G qui appartiennent à tout sous-groupe maximal de G forment un sous-groupe de G, qu'on appelle le sous-groupe de Frattini de G et qu'on note Φ(G). Si G admet au moins un sous-groupe maximal, on peut parler de l'intersection de ses sous-groupes maximaux et Φ(G) est égal à cette intersection. Si G n'a pas de sous-groupe maximal, Φ(G) est égal à G tout entier.
Éléments superflus d'un groupe
On appelle élément superflu[1] (ou encore élément mou[2]) d'un groupe G tout élément de G possédant la propriété suivante : toute partie X de G telle que X∪{x} soit une partie génératrice de G est elle-même une partie génératrice de G.
Théorème — Le sous-groupe de Frattini Φ(G) de G est l'ensemble des éléments superflus de G
Soit x un élément superflu de G; prouvons que x appartient à Φ(G). Il s'agit de prouver que x appartient à tout sous-groupe maximal de G. Soit M un sous-groupe maximal de G ; il s'agit de prouver que x appartient à M. Supposons que, par absurde, x n'appartienne pas à M. Alors, puisque M est un sous-groupe maximal de G, M∪{x} est une partie génératrice de G. Puisque x est superflu, il en résulte que M est une partie génératrice de G, ce qui est absurde, puisque, par définition d'un sous-groupe maximal, M est un sous-groupe propre de G. La contradiction obtenue prouve que tout élément superflu appartient au sous-groupe de Frattini.
Pour prouver la réciproque, supposons que x est un élément non superflu de G et prouvons que x n'appartient pas au sous-groupe de Frattini de G. Il s'agit de prouver qu'il existe un sous-groupe maximal de G qui ne comprend pas x. Puisque x n'est pas superflu dans G, il existe une partie X de G qui n'engendre pas G et qui est telle que X∪{x} engendre G. Il est clair que le sous-groupe de G engendré par X ne comprend pas x (dans le cas contraire, ce sous-groupe contiendrait la partie génératrice X∪{x} et serait donc G tout entier, autrement dit X serait une partie génératrice de G). L'ensemble E des sous-groupes de G contenant X et ne comprenant pas x est donc non vide. D'autre part, il est clair que la réunion d'un ensemble totalement ordonné par inclusion d'éléments de E, c'est-à-dire de sous-groupes de G contenant X et ne comprenant pas x, est elle-même un sous-groupe de G contenant X et ne comprenant pas x. Ceci montre que l'ensemble E, ordonné par inclusion, est inductif. D'après le lemme de Zorn, cet ensemble admet donc un élément maximal, soit M. Prouvons que M est un sous-groupe maximal de G. Supposons que, par absurde, M ne soit pas un sous-groupe maximal de G. Il existe donc un sous-groupe K de G tel que M < K < G. Prouvons que K appartient à E, c'est-à-dire que K contient X et ne comprend pas x. Il est évident que K contient X. Si K comprenait x, il contiendrait la partie génératrice X∪{x} de G et serait donc égal à G tout entier, ce qui contredit les hypothèses sur K. Ainsi, K appartient à E et l'hypothèse M < K contredit la maximalité de M dans E. Cette contradiction prouve que M est un sous-groupe maximal de G, donc, puisque M ne comprend pas x, il existe un sous-groupe maximal de G qui ne comprend pas x, ce qui, comme nous l'avons vu, achève la démonstration.
Propriétés du sous-groupe de Frattini
Le sous-groupe de Frattini de G est un sous-groupe caractéristique de G. Justification. Cela se déduit facilement du fait que l'image d'un sous-groupe maximal de G par un automorphisme de G est encore un sous-groupe maximal de G.
Soit G un groupe dont le sous-groupe de Frattini est de type fini. (C'est le cas, par exemple, si G est fini.) Si H est un sous-groupe de G tel que G = HΦ(G), alors H = G[4]. Justification. Puisque Φ(G) est de type fini, nous pouvons choisir des éléments x1, … , xn qui engendrent Φ(G). L'hypothèse G = HΦ(G) entraîne que H∪{x1, … , xn} est une partie génératrice de G. Puisque xn appartient à Φ(G) et est donc un élément superflu de G, il en résulte que H∪{x1, … , xn – 1} est une partie génératrice de G. De proche en proche, on en tire que H est une partie génératrice de G. Puisque H est un sous-groupe de G, ceci revient à dire que H = G.
La propriété précédente reste vraie si on y remplace l'hypothèse « Φ(G) est de type fini » par l'hypothèse « G est de type fini » : Soit G un groupe de type fini. (C'est le cas, par exemple, si G est fini.) Si H est un sous-groupe de G tel que G = HΦ(G), alors H = G[5]. Justification. Supposons que H ne soit pas égal à G tout entier. Du fait que G est de type fini, ceci entraîne qu'il existe un sous-groupe maximal M de G qui contient H. Alors M contient à la fois H et (par définition de Φ(G)) Φ(G), donc M contient HΦ(G), ce qui contredit l'hypothèse G = HΦ(G).
Voici un exemple de groupe G pour lequel il n'est pas vrai que le seul sous-groupe H de G tel que G = HΦ(G) soit G. Prenons pour G un groupe non réduit à son élément neutre et n'ayant aucun sous-groupe maximal. (On sait que c'est le cas par exemple si G est le groupe additif des nombres rationnels.) Alors, par définition du sous-groupe de Frattini, Φ(G) est G tout entier, donc la relation G = HΦ(G) a lieu avec H = 1 < G.
Soit G un groupe. Si Φ(G) est fini (ce qui a lieu en particulier si G est fini), il est nilpotent[6]. Justification[7]. Puisque Φ(G) est fini, il suffit, pour prouver qu'il est nilpotent, de prouver que tous ses sous-groupes de Sylow sont normaux[8]. Soit P un sous-groupe de Sylow de Φ(G). Comme Φ(G) est normal dans G, l'argument de Frattini donne G = Φ(G)NG(P). Puisque Φ(G) est fini, et a fortiori de type fini, une précédente remarque entraîne G = NG(P), autrement dit P est normal dans G et donc aussi dans Φ(G). Comme on l'a vu, ceci entraîne que Φ(G) est nilpotent.
Un groupe fini G est nilpotent si et seulement si Φ(G) contient le dérivéG' de G[8]. Justification. Si un groupe G (fini ou non) est nilpotent, tout sous-groupe maximal M de G est normal dans G et le groupe quotient est cyclique d'ordre premier[9], donc ce quotient est commutatif, donc le dérivé G' est contenu dans M. Ceci étant vrai pour tout sous-groupe maximal M de G, il en résulte que le dérivé G' est contenu dans Φ(G). Supposons maintenant que G est fini et que Φ(G) contient G'. Comme tout sous-groupe maximal de G contient Φ(G), tout sous-groupe maximal de G contient G' et est donc normal dans G. Comme G est fini, ceci entraîne que G est nilpotent[8].
Le sous-groupe de Frattini fut étudié pour la première fois par Giovanni Frattini en 1885, dans un article[11],[12],[13] où il démontra notamment un énoncé équivalent au fait que le sous-groupe de Frattini d'un groupe fini est nilpotent.
↑(it) G. Frattini, « Intorno alla generazione dei gruppi di operazioni », Atti della Reale Accademia dei Lincei, Rendiconti, série 4, vol. 1, p. 281-285 et 455-457.
