Machine Learning - 5PMSAST6

Objectif(s)

Introduire la théorie de la prédiction statistique (régression/classification) en grande dimension

• Présenter les modèles/algorithmes pour l’apprentissage supervisé/non supervisé
• Illustrer ces algorithmes sur différents jeux de données
  (intelligence artificielle, bioinformatique, vision, etc ...)

Contenu(s)

• Introduction générale à la théorie de la prédiction (régression/classification)
• Approches génératives : analyses discriminantes, hypothèses bayésien naïf
• Approches discriminatives : modèles linéaires et pénalisation, gradient stochastique
• Approches sans modèle : machines à vecteurs support (SVM)
• Approches sans modèle : arbres de décision et forêts aléatoires
• Classification non supervisé (kmeans, modèle de mélanges gaussiens, méthodes hierarchiques)

• Bases d'algèbre linéaire
• Notions de probabilités (vecteurs aléatoires, vecteurs gaussiens, lois conditionnelles)
• Cours d'analyse de données : analyse en composantes principales et réduction de dimension
• Notions avancées de statistiques (inférence et théorie de la décision statistique)
• Optimisation : optimisation convexe, optimisation sous contrainte (conditions KKT), algorithme de descente de gradient