Prédictions conformes et contrôle du risque dans les modèles d'apprentissage automatique pour améliorer la performance et la prise de décision humaine

Les modèles d'apprentissage automatique (ML) et d'apprentissage profond (DL) sont de plus en plus utilisés dans des applications critiques où les erreurs peuvent avoir de graves conséquences. Malgré leurs performances prédictives élevées, leur incapacité à exprimer de manière fiable leur incertitude limite la confiance, la sécurité et la conformité. La quantification d'incertitude (UQ) répond à ce problème en estimant la confiance des prédictions, pour une prise de décision plus sûre et de meilleures performances.Cette thèse propose des méthodes de quantification d'incertitude post-hoc, agnostiques au modèle et applicables en boîte noire, couvrant à la fois les tâches classiques (régression, classification) et les sorties structurées comme la segmentation et la détection d'objets. Les contributions incluent : 1) de nouvelles techniques de prédiction conforme dans la bibliothèque MAPIE, item l'intégration aux processus gaussiens, 2) un contrôle du risque basé sur la précision en détection biomédicale et item un contrôle adaptatif du risque pour la segmentation. Les validations sur divers jeux de données réels montrent que ces approches renforcent la fiabilité et l'efficacité des systèmes d'apprentissage automatique.