Descriptif
``` Intro and not so intro in deep learning for math students given by ONERA researchers. ``` Ce cours traite de l'apprentissage profond et s'adresse aux étudiant·es de 3e année de l'ENSTA désireux·ses de s'initier à ce domaine. Il articule en continu concepts théoriques, optimisation et pratique Python, pendant des séances de 4 h où cours magistraux et moments de pratique alternent. Le programme partira de la problématique de l'apprentissage artificiel et a pour objectif d'introduire les architectures et méthodes modernes du deep learning, en particulier les Transformers. Pour atteindre cet objectif, nous passerons par un ensemble de concepts clés, notamment le finetuning et l'assemblage de réseaux à partir de blocs préentraînés réutilisables, qui constituent la base des approches modernes que l'on retrouve dans les modèles de fondation. Pour introduire la notion de couche d'attention, nous aborderons le traitement des séquences : des RNN classiques aux Neural Turing Machines, jusqu'aux modèles à espace d'états structurés (S4/Mamba). Les Transformers et leurs variantes seront présentés comme pivot conceptuel unifiant vision et séquence, avec un aperçu de DETR. Pour finir, les modèles génératifs (VAE, GAN, diffusion) illustreront les paradigmes probabilistes et les critères d'évaluation contemporains. La trame pédagogique s'appuie sur l'ouvrage de référence Alice's Adventures in a Differentiable Wonderland pour relier rigueur mathématique et intuition. À l'issue du module, les étudiant·es disposeront d'un bagage théorique et pratique à large spectre leur permettant d'aborder d'autres modules plus spécialisés en apprentissage profond. ``` ```
21 heures en présentiel
33 heures de travail personnel estimé pour l’étudiant.
Diplôme(s) concerné(s)
Parcours de rattachement
Format des notes
Numérique sur 20Littérale/grade américainPour les étudiants du diplôme M2 MSV - Mathématiques pour les Sciences du Vivant
Le rattrapage est autorisé (Note de rattrapage conservée)- le rattrapage est obligatoire si :
- Note initiale < 7
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 10
- Crédits ECTS acquis : 3 ECTS
La note obtenue rentre dans le calcul de votre GPA.
