CI2 : Régularisation et optimisation
Dans ce TP, vous allez explorer les techniques de régularisation, les optimizers avancés et les métriques de classification. Vous apprendrez également à créer votre propre dataset en PyTorch et à utiliser les fonctionnalités avancées des datasets. Enfin, vous utiliserez Tensorboard pour comparer les résultats et analyser vos approches.
Objectifs
- Comprendre et implémenter les régularisations L1 et L2.
- Observer les effets du weight decay sur l'entraînement.
- Analyser et interpréter les métriques de classification.
- Tester et comparer différents optimizers : ADAM, Momentum, AdaGrad, RMSProp.
- Créer et manipuler votre propre dataset en PyTorch.
- Utiliser Tensorboard pour suivre et comparer vos expériences.
