L’IA explicable (XAI) avec les réseaux neuronaux convolutifs pour la modélisation de la fatigue mentale

Cette thèse explore l'utilisation de méthodes d'intelligence artificielle explicable (XAI) pour améliorer l'explicabilité des réseaux neuronaux convolutionnels (CNN). Tout d'abord, « Drift Grad-CAM » étend la méthode Grad-CAM aux réseaux de segmentation basés sur les CNN, en tirant parti des gradients négatifs pour améliorer les prédictions sans réentraînement, en particulier dans les cas de sous-segmentation, ce qui remet en question la compréhension conventionnelle des rôles des gradients négatifs. La deuxième contribution, Concept Clustering, propose des méthodes pour extraire des concepts compréhensibles par l'homme à partir des activations CNN, ce qui facilite la visualisation et l'évaluation de l'importance des concepts. Ces méthodes sont particulièrement utiles dans les applications critiques pour la sécurité, comme la détection de la fatigue mentale, un état résultant d'exigences cognitives prolongées, pour une modélisation efficace. L'XAI offre un aperçu des représentations apprises, ce qui permet d'identifier les caractéristiques clés et d'améliorer la compréhension des processus cognitifs. Troisième contribution, une revue de la modélisation en neurosciences et en psychologie cognitive identifie les limites des approches informatiques actuelles, met en évidence le potentiel d'amélioration de l'IA et propose des lignes directrices pour des représentations plus réalistes. Les méthodes d'XAI proposées sont appliquées à une expérience réelle d'analyse de vidéos de visages d'individus mentalement fatigués. En utilisant le regroupement de concepts, le modèle identifie les caractéristiques faciales positives et négatives tout en répondant aux préoccupations concernant le rapprochement des corrélations avec la compréhension causale afin de réduire les préjugés et de renforcer la confiance dans l'IA.