Descriptif
Les réseaux de neurones profonds sont aujourd'hui incontournables pour de nombreuses tâches d'apprentissage, notamment en vision (classification et détection d'objets, génération d'images photoréalistes) et en traitement du langage (reconnaissance de la parole, traduction automatique, génération de texte). Leur capacité remarquable à extraire l'information utile de très larges bases de données en font un outil de choix pour des applications industrielles en informatique, physique, chimie ou encore dans le secteur automobile.
Ce cours propose une présentation approfondie des aspects pratiques et théoriques de l'apprentissage profond, et fournira aux étudiants une maîtrise de l’implémentation Python / Pytorch de ces modèles (implémentation, débuggage, visualisation). De plus, une analyse des fondements théoriques de l'apprentissage profond (différentiation automatique, résultats d'universalité, optimisation non convexe, modèles équivariants,...) viendra complémenter la pratique et permetttre de mieux comprendre les forces et faiblesses de ces modèles d'apprentissage.
Objectifs pédagogiques
A l'issue de ce cours, les étudiants auront un aperçu du paysage de l'apprentissage profond et de ses applications dans les domaines traditionnels, mais aussi quelques idées pour les appliquées dans de nouveaux domaines.
Ils devraient aussi être capables d'entraîner eux-mêmes un réseau neuronal profond de plusieurs millions de paramètres. Nous utiliserons la bibliothèque Pytorch dans Python pour les exercices.
effectifs minimal / maximal:
1/80Diplôme(s) concerné(s)
- Programmes d'échange internationaux
- M1 IES - Innovation, Entreprise et Société
- Titre d’Ingénieur diplômé de l’École polytechnique
- MScT-Artificial Intelligence and Advanced Visual Computing
- M1 MJH - Mathématiques Jacques Hadamard
- MScT-Visual Computing and Creative AI
- MScT-Trust and Responsible AI
Parcours de rattachement
Pour les étudiants du diplôme Programmes d'échange internationaux
- basics in Machine Learning
- coding in pyhton
Pour les étudiants du diplôme Titre d’Ingénieur diplômé de l’École polytechnique
- basics in Machine Learning
- coding in pyhton
Format des notes
Numérique sur 20Littérale/grade américainPour les étudiants du diplôme M1 MJH - Mathématiques Jacques Hadamard
Le rattrapage est autorisé (Note de rattrapage conservée)- le rattrapage est obligatoire si :
- Note initiale < 7
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 7
- Crédits ECTS acquis : 5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme MScT-Visual Computing and Creative AI
Le rattrapage est autorisé (Max entre les deux notes)- le rattrapage est obligatoire si :
- Note initiale < 10
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 10
- Crédits ECTS acquis : 4.5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme MScT-Trust and Responsible AI
Le rattrapage est autorisé (Max entre les deux notes)- le rattrapage est obligatoire si :
- Note initiale < 10
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 10
- Crédits ECTS acquis : 4.5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme Programmes d'échange internationaux
Vos modalités d'acquisition :
validation by project
Le rattrapage est autorisé (Max entre les deux notes)- le rattrapage est obligatoire si :
- Note initiale < 10
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 10
- Crédits ECTS acquis : 5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme Titre d’Ingénieur diplômé de l’École polytechnique
Vos modalités d'acquisition :
validation by project
Le rattrapage est autorisé (Max entre les deux notes)- le rattrapage est obligatoire si :
- Note initiale < 10
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 10
- Crédits ECTS acquis : 5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme M1 IES - Innovation, Entreprise et Société
Le rattrapage est autorisé (Note de rattrapage conservée)- le rattrapage est obligatoire si :
- Note initiale < 7
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 7
- Crédits ECTS acquis : 5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Pour les étudiants du diplôme MScT-Artificial Intelligence and Advanced Visual Computing
Le rattrapage est autorisé (Max entre les deux notes)- le rattrapage est obligatoire si :
- Note initiale < 10
- le rattrapage peut être demandé par l'étudiant si :
- Note initiale < 10
- Crédits ECTS acquis : 4.5 ECTS
La note obtenue rentre dans le calcul de votre GPA.
Programme détaillé
1 Introduction and présentation du domaine
2 Pipeline d'entrainement en Pytorch
3 Optimisation pour l'apprentissage profond
4 Analyse d'image
5 Régression et classification de données séquentielles
6 Génération de textes (Transformers)
7 Stabilité et robustesse
8 Apprentissage par renforcement profond
9 Modèles génératifs