Algorithmes de chaînes de Markov séquentielles et d'inférence variationnelle : développement et analyse pour approcher des distributions complexes.

Cette thèse s'intéresse à la conception et à l'analyse d'algorithmes de chaînes de Markov séquentielles et d'inférence variationnelle pour approcher des distributions complexes. La première partie introduit une nouvelle classe de chaînes de Markov, appelée Importance Markov chains. Il s'agit d'un méta-algorithme, construisant une chaîne de Markov étendue, visant une distribution cible sur sa première composante, à partir d'une chaîne de Markov auxiliaire, visant une distribution instrumentale, par réplication et rejet des points de la chaîne auxiliaire. Cette chaîne de Markov étendue, conserve les propriétés de la chaîne auxiliaire, à savoir la loi des grands nombres (LGN), le théorème central limite (CLT) et l'ergodicité géométrique, sous des conditions faibles et quasiment optimales. La deuxième partie développe un algorithme séquentiel de chaînes de Markov dites projetées (pMC), obtenues comme la projection d'une chaîne de Markov sur un sous-espace, permettant d'approcher une distribution cible fixée (ex. tempering) ou une séquence de distributions évoluant dans le temps pour des modèles espace-état (ex. filtrage particulaire). Similairement aux méthodes SMC, notre algorithme alterne entre phases de resampling et d'enrichissement-propagation, mais en maintenant des échantillons pMC à chaque étape. En particulier, nous nous appuyons sur l'Importance Markov chain développée dans la première partie pour l'étape de resampling, et sur des explorations à l'aide d'un noyau de Markov pour l'enrichissement-propagation. Sous des hypothèses faibles, nous prouvons que la LGN, le CLT et surtout l'ergodicité géométrique se propagent à travers les itérations, constituant une amélioration notable par rapport aux erreurs de resampling d'ordre O(1/N) en SMC. Par ailleurs, les propriétés atomiques de l'Importance Markov chain permettent de paralléliser notre algorithme sur M nœuds pour estimer des intégrales sous la loi cible, avec une erreur tendant vers 0 quand le nombre de nœuds tend vers l'infini. La dernière partie porte sur l'approximation paramétrique de la cible par des méthodes d'inférence variationnelle. Nous analysons notamment un algorithme d'inférence variationnelle par poids d'importance, célèbre pour son utilisation dans le cadre des auto-encodeurs variationnels, et prouvons des propriétés théoriques (consistance, normalité asymptotique, efficience) jusqu'alors inexistantes dans la littérature.