Conformal prediction for trustworthy computer vision : applications to railway signaling detection and train tracking

L'apprentissage profond a accompli des progrès remarquables en vision par ordinateur, mais sa nature complexe de boîte noire mêlée de défis statistiques clés empêche encore son utilisation fiable dans des applications critiques pour la sécurité, telles que la conduite autonome, la santé ou l'aéronautique. Dans ces domaines, produire des prédictions précises ne suffit pas : il est également nécessaire de pouvoir certifier leur fiabilité par des garanties rigoureuses. Cette thèse aborde ce problème en développant des méthodes de Prédiction Conforme pour la détection d'objets et d'autres tâches d'apprentissage complexes, en collaboration avec la SNCF et l'ANITI.La Prédiction Conforme (PC) est un cadre statistique qui ne fait pas d'hypothèse sur la loi des données ni sur le modèle prédictif, et qui dote les modèles d'apprentissage automatique d'ensembles de prédiction satisfaisants des garanties de couverture non-asymptotiques. Bien qu'elle ait été étudiée en profondeur pour la classification et la régression, son adaptation à des tâches structurées complexes telles que la détection et la segmentation requiert de nouvelles idées. Les contributions de cette thèse sont les suivantes. Tout d'abord, nous étudions les méthodes de type Conformal Risk Control (CRC) pour la détection d'objets et proposons une nouvelle modélisation pour la reconnaissance de signaux ferroviaires. Nous proposons ensuite SeqCRC, une extension de CRC permettant de contrôler deux fonctions de perte pour deux paramètres choisis séquentiellement. Indépendamment, nous proposons des approches efficaces de PC robuste qui préservent la validité face à des perturbations adversariales et des changements de distribution, en s'appuyant sur des réseaux de neurones Lipschitz par construction. Enfin, nous validons ces méthodes sur des cas d'étude industriels à l'aide d'une bibliothèque open-source dédiée, CODS. Les applications incluent la détection de signaux ferroviaires et la segmentation de trajectoires de trains, illustrant leur potentiel pour la certification de systèmes de perception fondés sur l'IA.Dans l'ensemble, ce travail apporte à la fois des avancées théoriques et des outils pratiques pour une quantification fiable de l'incertitude dans des tâches de vision complexes, avec l'objectif de relier garanties statistiques rigoureuses et contraintes des applications réelles critiques pour la sécurité.