Ce cours à pour objet l'étude de  deux classes de groupes et certains aspects de leur théorie des représentations.  Dans la première partie, nous étudions les groupes compacts. Outre les groupes finis, cette classe de groupes contient les limites projectives de groupes finis (qui peuvent apparaître comme groupe de Galois d'extension infinie), et des groupes de matrices comme O(n) ou SU(n).

On généralise la théorie des représentations à ces groupes, en imposant des conditions topologiques (continuité)pour que leur étude reste possible et pertinente.  Le résultat  principal de cette partie est le théorème de Peter-Weyl, que nous  abordons via la notion de transformation de Fourier.

Dans la deuxième  partie du cours, on étudie les groupes linaires, c'est-à-dire les groupes se réalisant comme groupe de matrices. L'outil principal ici est le calcul différentiel, qui permet en  particulier d'introduire la notion d'algèbre de Lie d'un groupe linéaire. On introduit aussi  du vocabulaire et quelques résultats concernant les algèbres de Lie, indépendants de la théorie des groupes. On étudie la correspondance entre groupes  et algèbre de Lie, les problèmes de connexité et la notion de revêtement de groupes. Les représentations de dimension finie de ces groupes sont étudiées via l'action de leur algèbre  de Lie.

On met en commun ensuite les résultats obtenus pour étudier de manière approfondie la théorie des représentations de certains  groupes de Lie linéaires compacts (d'abord SU(2) et SO(3),  puis SU(n)). 

Les groupes et la théorie de leurs représentations constituent  un domaine central des mathématiques, à la fois par les  nombreuses et très riches applications (physique, arithmétique, etc), mais aussi par la diversité des outils nécessaires à leur étude (algèbre, topologie, analyse fonctionnelle, langage de la théorie des catégorie).

Pré-requis : théorie des représentations des groupes finis (par exemple MAT556), rudiments de topologie générale et d'analyse fonctionnelle.

Plan indicatif du cours :

1- Groupes topologiques, exemples (groupes profinis, groupes de matrices, etc), et généralités.

2- Groupes localement compacts et compacts. Mesure de Haar, espaces L^p(G)

3 - Représentations des groupes compacts. Transformation de Fourier.

4- Représentations des groupes compacts, suite. Théorème de Peter-Weyl. Théorie des caractères.  

5- Groupes linéaires. Applications exponentielle. Algèbre de lie

6- Connexité et correspondance de Lie

7- Homomorphismes et revêtements. Représentation de dimension finie

8- SU(2), SO(3), les harmoniques sphériques

9- SU(n) et le théorème du plus haut poids. 

Bibliographie :