v2.8.0 (4335)

Cours scientifique - INF554 : Machine and Deep learning

Domaine > Mathématiques appliquées, Informatique.

Descriptif

Edition 2022 - 2023

We have entered the Big Data Era. The explosion of available data in a wide range of application domains give rise to new challenges and opportunities in a plethora of disciplines – ranging from science and engineering to business and society in general. A major challenge arises in the question of how to take advantage of this unprecedented scale of data, in order to acquire further insights and knowledge for improving the quality of the offered services. This is where Machine and Deep Learning comes in capitalizing on techniques and methodologies from data exploration (statistical profiling, visualization), aiming to identify patterns, correlations, groupings, modeling and predicting. In this domain, Deep learning is becoming a very important element for solving large scale prediction problems in recent years. 
 
 

Course Logistics

1. The course will take place on Monday and Wednesday afternoons beginning on 19/09/2022 as follows (Please check the synapses platform to see which group (Gr) you were assigned to, to determine your lab time and location):

  • Monday (14:00 - 16:00) magistral teaching in: Amphi Cauchy.
  • Monday (16:15 - 18:15) lab sessions in the small classes: Amphi Painlevé (Gr1), Amphi Poisson (Gr2), Amphi Sauvy (Gr3).
  • Wednesday (14:00 - 16:00)  lab sessions in the small classes: PC11 (Gr4), PC22 (Gr5), PC12 (Gr6).

 

2. Interaction/Q&As: 

We have set up a dedicated slack workspace for this course, which we will use to communicate with you. Please register to the following workspace with your full name and use it as much as possible.

https://join.slack.com/t/slack-ymb9142/shared_invite/zt-1fi2zfe6r-RmTe4OVpq6xJKSpcn9DNJg

 

3. The course will be assessed via:

  • (20% of the course mark) an individual take-home assessment handed out on Monday 3rd October with deadline on Monday 17th October 2pm.
  • (80% of the course mark) a group data challenge handed out on Monday 7th November with a written report deadline on Wednesday 7th December 5pm and oral assessments in the week of the 12th December. We will communicate further details about the formation of groups for the challenge at the start of November on the course slack channel.

 

4. You will have to complete the course work on your own laptops (preferably with a Unix environment like Linux or Mac OS X for compatibility reasons). As for software, we will be using  Python among others (to be installed locally on the laptops). Students are invited to install the current Anaconda distribution BEFORE the 1st lab session (https://www.anaconda.com/products/individual). Please also make sure that you have installed the PyTorch, numpy and scikit-learn python packages. 

 

 

Detailed syllabus of the course

(minor changes may apply during the course progression.)

 

 

General Introduction to Machine Learning

- Machine Learning paradigms
- The Machine Learning Pipeline

 

Supervised Learning

- Generative and non generative methods
- Naive Bayes, KNN and regressions
- Tree based methods

 

Unsupervised Learning

- Dimensionality reduction
- Clustering 

 

Advanced Machine Learning Concepts

- Regularization
- Model selection
- Feature selection
- Ensemble Methods

 

Kernels

- Introduction to kernels
- Support Vector Machines

 

Neural Networks

- Introduction to Neural Networks
- Perceptrons and back-propagation

 

Deep Learning I

- Convolutional Neural Networks
- Recurrent Neural Networks
- Applications

 

Deep Learning II

- Modern Natural Language Processing
- Unsupervised Deep Learning
- Embeddings, Auto-Encoders, Generative Adversarial Networks

 

Machine & Deep Learning for Graphs

- Graph Similarity 
- Graph Kernels 
- Node Embeddings

 

Format des notes

Numérique sur 20

Littérale/grade réduit

Pour les étudiants du diplôme M1 HPDA - High Performance Data Analytics

Le rattrapage est autorisé (Note de rattrapage conservée)
    L'UE est acquise si note finale transposée >= C
    • Crédits ECTS acquis : 5 ECTS

    Pour les étudiants du diplôme M1 - Physics

    Le rattrapage est autorisé (Note de rattrapage conservée)
      L'UE est acquise si note finale transposée >= C
      • Crédits ECTS acquis : 5 ECTS

      La note obtenue rentre dans le calcul de votre GPA.

      Pour les étudiants du diplôme M1 Data AI - Data and Artificial Intelligence

      Vos modalités d'acquisition :

      2.5 ECTS si l'élève fait la version "courte" soit 24h du cours  .

      Le rattrapage est autorisé (Note de rattrapage conservée)
        L'UE est acquise si note finale transposée >= C
        • Crédits ECTS acquis : 5 ECTS

        Pour les étudiants du diplôme M1 CPS - Cyber Physical Systems

        Le rattrapage est autorisé (Note de rattrapage conservée)
          L'UE est acquise si note finale transposée >= C
          • Crédits ECTS acquis : 5 ECTS

          Pour les étudiants du diplôme M2 - Energy Infrastructures Management

          Le rattrapage est autorisé (Note de rattrapage conservée)
            L'UE est acquise si note finale transposée >= C
            • Crédits ECTS acquis : 5 ECTS

            La note obtenue rentre dans le calcul de votre GPA.

            Pour les étudiants du diplôme Non Diplomant

            L'UE est acquise si note finale transposée >= C
            • Crédits ECTS acquis : 5 ECTS

            Pour les étudiants du diplôme M1 IGD - Interaction, Graphic and Design

            Le rattrapage est autorisé (Note de rattrapage conservée)
              L'UE est acquise si note finale transposée >= C
              • Crédits ECTS acquis : 5 ECTS

              Pour les étudiants du diplôme M1 Physique - Voie Irène Joliot Curie - X

              L'UE est acquise si note finale transposée >= C
              • Crédits ECTS acquis : 5 ECTS

              Pour les étudiants du diplôme M1 - Applied Mathematics and statistics

              L'UE est acquise si note finale transposée >= C
              • Crédits ECTS acquis : 5 ECTS

              Pour les étudiants du diplôme Cyber Physical System

              Le rattrapage est autorisé (Note de rattrapage conservée)
                L'UE est acquise si note finale transposée >= C
                • Crédits ECTS acquis : 4 ECTS

                Pour les étudiants du diplôme M1 Cyber - Cybersecurity

                Le rattrapage est autorisé (Note de rattrapage conservée)
                  L'UE est acquise si note finale transposée >= C
                  • Crédits ECTS acquis : 5 ECTS

                  Pour les étudiants du diplôme M2 Data AI - Data and Artificial Intelligence

                  Vos modalités d'acquisition :

                  2.5 ECTS si l'élève fait la version "courte" soit 24h du cours  .

                  Le rattrapage est autorisé (Note de rattrapage conservée)
                    L'UE est acquise si note finale transposée >= C
                    • Crédits ECTS acquis : 5 ECTS

                    Pour les étudiants du diplôme M2 HPDA - High Performance Data Analytics

                    Le rattrapage est autorisé (Note de rattrapage conservée)
                      L'UE est acquise si note finale transposée >= C
                      • Crédits ECTS acquis : 5 ECTS

                      Pour les étudiants du diplôme M1 Innovation, Entreprise, et Société - Voie Innovation technologique

                      Le rattrapage est autorisé (Note de rattrapage conservée)
                        L'UE est acquise si note finale transposée >= C
                        • Crédits ECTS acquis : 5 ECTS

                        La note obtenue rentre dans le calcul de votre GPA.

                        Pour les étudiants du diplôme Artificial Intelligence and Advanced Visual Computing

                        Le rattrapage est autorisé (Note de rattrapage conservée)
                          L'UE est acquise si note finale transposée >= C
                          • Crédits ECTS acquis : 5 ECTS

                          La note obtenue rentre dans le calcul de votre GPA.

                          Pour les étudiants du diplôme M1 Informatique - Voie Jacques Herbrand - X

                          Le rattrapage est autorisé (Note de rattrapage conservée)
                            L'UE est acquise si note finale transposée >= C
                            • Crédits ECTS acquis : 5 ECTS

                            Pour les étudiants du diplôme Echanges PEI

                            Le rattrapage est autorisé (Note de rattrapage conservée)
                              L'UE est acquise si note finale transposée >= C
                              • Crédits ECTS acquis : 5 ECTS

                              La note obtenue rentre dans le calcul de votre GPA.

                              Pour les étudiants du diplôme Diplôme d'ingénieur de l'Ecole polytechnique

                              Le rattrapage est autorisé (Note de rattrapage conservée)
                                L'UE est acquise si note finale transposée >= C
                                • Crédits ECTS acquis : 5 ECTS

                                La note obtenue rentre dans le calcul de votre GPA.

                                Pour les étudiants du diplôme M1 MPRI - Foudations of Computer Science

                                L'UE est acquise si note finale transposée >= C
                                • Crédits ECTS acquis : 5 ECTS
                                Veuillez patienter