Interactions et opportunités au croisement entre la modélisation probabiliste par apprentissage profond et l’inférence statistique par Monte Carlo

Cette thèse fait progresser le domaine de l’échantillonnage, pierre angulaire de l’inférence bayésienne, de la physique computationnelle et de la modélisation probabiliste, dont l’objectif est de générer des échantillons à partir d’une densité de probabilité connue. Un défi connexe apparaît en modélisation générative, qui vise à produire de nouvelles données ressemblant à un jeu de données existant, un problème ayant connu des avancées majeures grâce aux récents progrès de l’apprentissage profond. L’objectif central de ce travail est de tirer parti des modèles génératifs modernes afin d’enrichir les méthodes classiques d’échantillonnage. L’étude commence par examiner les difficultés inhérentes à l’échantillonnage multi-modal, en identifiant les principales limites des méthodes de Monte Carlo classiques et avancées. Elle explore ensuite l’intégration de flows normalisants pré-entraînés dans des méthodes Monte Carlo traditionnelles, en apportant des indications pratiques sur leurs performances pour diverses types de distributions cibles. Dans le prolongement, des modèles de diffusion sont intégrés à des méthodes de Monte Carlo avancées, révélant à la fois leur potentiel et leurs limites. Cette thèse s’intéresse également à l’intégration des modèles de diffusion dans un cadre d’inférence variationnelle. En parallèle, nous proposons un échantillonneur basé sur les modèles de diffusion et exempt d’apprentissage, qui remplace les approximations neuronales usuelles par des estimateurs Monte Carlo. Enfin, ces stratégies d’échantillonnage améliorées sont appliquées à l’entraînement de modèles génératifs basés sur l'énergie, en introduisant un nouvel algorithme où un flow normalisant sert d’échantillonneur auxiliaire pour faciliter l’apprentissage de ces modèles génératifs expressifs mais exigeants.