Ce cours introduit les concepts fondamentaux du Deep Learning.
Contenu.
- Perceptrons Multi Couches (PMCs) et sur la capacité d’approximaiton universelle des PMCs à une couche cachée.
- Architectures profondes totalement connectées et convolutionnelles: principes et programmation en pytorch.
- Optimisation des réseaux de neurones: Descente de gradient, critères d’optimisation, fonction de perte.
- Le rôle de la profondeur dans la capacité des réseaux profonds.
- Initialisation et optimisation dans les réseaux profonds. Problèmes et solutions algorithmiques et structurelles.
- Deep Learning et apprentissage de représentations: structurer l’espace de représenttaion appris par l’ajout de contraintes.
- Stratégies adversariales pour l’apprentissage de modèles génératifs et l'apprentissge de représentations.