CI3 : Réseaux convolutifs
Dans ce TP, vous implémenterez différents réseaux de neurones pour résoudre un problème de classification d'images sur le dataset ImageNet. Vous utiliserez PyTorch pour coder les réseaux, et Tensorboard pour visualiser les résultats. Certaines sections comportent des questions théoriques et d'autres des tâches pratiques.
ImageNet est un dataset de taille conséquente. Les entraînements vont donc être longs, mais plus instructifs que sur des datasets plus petits. Pendant le cours, vous implémenterez des réseaux, mais il faudra continuer chez vous à lancer des expériences pour avoir tous les résultats.
Objectifs
- Charger et prétraiter le dataset ImageNet avec les transformations appropriées.
- Implémenter une baseline avec un perceptron multicouche (MLP).
- Développer le modèle AlexNet à partir d'une description détaillée.
- Construire le modèle ResNet en intégrant des blocs résiduels.
- Configurer Tensorboard pour enregistrer et visualiser les métriques d'entraînement et de validation, les hyperparamètres, et les performances finales sur l'ensemble de test.
- Calculer le nombre total de paramètres et la taille en mémoire de chaque modèle.
- Tester l'impact d'une augmentation de la profondeur des réseaux sur les performances (sous-apprentissage ou sur-apprentissage).
- Comparer les résultats et les courbes d'entraînement des différents modèles dans Tensorboard.
