Classification continue d'images en ligne avec des méthodes basées mémoire : application aux données YouTube

Bien que l'Intelligence Artificielle (IA) ait réalisé des progrès significatifs ces dernières années, les stratégies d'apprentissage actuelles reposent largement sur des ensembles de données massifs fixes qui restent constants tout au long de l'entraînement. Malgré des performances impressionnantes, un inconvénient majeur d'une telle conception est le coût de calcul croissant de la formation de grands modèles. Dans cette thèse, nous abordons le problème de l'Apprentissage Continu en Ligne, ou Online Continual learning (OCL) pour la classification d'images, où les données fournies au modèle ne sont pas distribuées de manière identique et indépendante (i.i.d.) et ne peuvent être vues qu'une seule fois. Plus précisément, nous nous concentrons sur les méthodes basées sur la mémoire qui permettent de réutiliser un sous-ensemble d'images précédemment observées dans les étapes suivantes. Tout d'abord, nous donnons une analyse théorique générale de la cross-entropy basée sur la modélisation probabiliste des fonctions de coût. Nous démontrons également sa relation avec le principe bien connu du maximum a posteriori et de l'apprentissage de représentations. De plus, nous étudions l'impact de diverses stratégies de normalisation sur les sphères unitaires L_p et montrons leur équivalence théorique et empirique. Nous appliquons ensuite les fonctions de coût nouvellement conçues sur la sphère unitaire au problème de l'OCL, obtenant des performances compétitives par rapport aux méthodes à l'état de l'art. Deuxièmement, nous considérons le cas de l'OCL où peu de labels sont disponibles et proposons des stratégies contrastives semi-supervisées et non supervisées pour améliorer les méthodes basées sur la mémoire. Enfin, nous étudions le compromis entre la plasticité et la stabilité en OCL et montrons que ce compromis peut être amélioré grâce à des procédés de distillation ou à l'apprentissage mutuel. Enfin, nous démontrons l'efficacité de nos méthodes sur des données réelles collectées sur YouTube en considérant différents scénarios non supervisés et supervisés