Descriptif
Les réseaux de neurones profonds sont aujourd'hui incontournables pour de nombreuses tâches d'apprentissage, notamment en vision (classification et détection d'objets, génération d'images photoréalistes) et en traitement du langage (reconnaissance de la parole, traduction automatique, génération de texte). Leur capacité remarquable à extraire l'information utile de très larges bases de données en font un outil de choix pour des applications industrielles en informatique, physique, chimie ou encore dans le secteur automobile.
Ce cours propose une présentation approfondie des aspects pratiques et théoriques de l'apprentissage profond, et fournira aux étudiants une maîtrise de l’implémentation Python / Pytorch de ces modèles (implémentation, débuggage, visualisation). De plus, une analyse des fondements théoriques de l'apprentissage profond (différentiation automatique, résultats d'universalité, optimisation non convexe, modèles équivariants,...) viendra complémenter la pratique et permetttre de mieux comprendre les forces et faiblesses de ces modèles d'apprentissage.
Objectifs pédagogiques
A l'issue de ce cours, les étudiants auront un aperçu du paysage de l'apprentissage profond et de ses applications dans les domaines traditionnels, mais aussi quelques idées pour les appliquées dans de nouveaux domaines.
Ils devraient aussi être capables d'entraîner eux-mêmes un réseau neuronal profond de plusieurs millions de paramètres. Nous utiliserons la bibliothèque Pytorch dans Python pour les exercices.
effectifs minimal / maximal:
1/80Diplôme(s) concerné(s)
- Programmes d'échange internationaux
- M1 IES - Innovation, Entreprise et Société
- Titre d’Ingénieur diplômé de l’École polytechnique
- MScT-Artificial Intelligence and Advanced Visual Computing
Parcours de rattachement
Pour les étudiants du diplôme Programmes d'échange internationaux
- basics in Machine Learning
- coding in pyhton
Pour les étudiants du diplôme Titre d’Ingénieur diplômé de l’École polytechnique
- basics in Machine Learning
- coding in pyhton
Format des notes
Numérique sur 20Littérale/grade réduitPour les étudiants du diplôme Programmes d'échange internationaux
Vos modalités d'acquisition :
validation by project
Le rattrapage est autorisé (Note de rattrapage conservée)- Crédits ECTS acquis : 5 ECTS
Pour les étudiants du diplôme Titre d’Ingénieur diplômé de l’École polytechnique
Vos modalités d'acquisition :
validation by project
Le rattrapage est autorisé (Note de rattrapage conservée)- Crédits ECTS acquis : 5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme M1 IES - Innovation, Entreprise et Société
Le rattrapage est autorisé (Note de rattrapage conservée)- Crédits ECTS acquis : 5 ECTS
Pour les étudiants du diplôme MScT-Artificial Intelligence and Advanced Visual Computing
Le rattrapage est autorisé (Note de rattrapage conservée)- Crédits ECTS acquis : 4.5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Programme détaillé
1 Introduction and présentation du domaine
2 Pipeline d'entrainement en Pytorch
3 Optimisation pour l'apprentissage profond
4 Analyse d'image
5 Régression et classification de données séquentielles
6 Génération de textes (Transformers)
7 Stabilité et robustesse
8 Apprentissage par renforcement profond
9 Modèles génératifs