fiabilité des modèles de langage génératifs : efficacité, fidélité et couverture

Cette thèse étudie comment rendre les modèles de langage génératif plus fiables en abordant deux défis majeurs : la précision dans la génération conditionnelle et la diversité des sorties. Nous analysons l’influence des choix architecturaux et des méthodes d’entraînement sur ces aspects et proposons des solutions ciblées qui améliorent la fiabilité selon différentes dimensions de la génération de texte. Nous commençons par formaliser la génération de texte à l’aide d’outils issus de la modélisation probabiliste, en passant en revue les objectifs d’entraînement et les innovations architecturales qui ont conduit aux modèles de langage de grande taille actuels. Cette partie fournit une perspective unificatrice pour analyser à la fois la génération conditionnelle et la couverture distributionnelle. Dans ce cadre, nous examinons d’abord la synthèse de textes longs, un domaine où les architectures de type transformeur rencontrent des limites computationnelles. Nous proposons une architecture encodeur-décodeur basée sur les modèles d’espace d’états, qui réduit les besoins en mémoire et permet de traiter des séquences beaucoup plus longues tout en maintenant des performances compétitives. Nous nous tournons ensuite vers les méthodes d’entraînement pour la fidélité, en étudiant comment empêcher les modèles d’introduire des informations non justifiées. À cette fin, nous introduisons Scope, un cadre auto-supervisé qui génère des exemples infidèles et applique un entraînement par préférences pour atténuer les motifs trompeurs. Scope améliore l’alignement avec l’entrée sans nécessiter d’annotations humaines, produisant ainsi des sorties plus fidèles dans divers contextes d’évaluation. Enfin, nous étudions la couverture distributionnelle, en cherchant à équilibrer qualité et diversité des sorties. Nous adaptons le cadre Précision-Rappel, initialement proposé pour la génération d’images, à la génération de texte, en introduisant de nouvelles métriques qui révèlent les compromis systématiques induits par l’adaptation fine. Nous montrons également que le pilotage des modèles requiert davantage que de simples ajustements de température lors de l’inférence, et proposons des fonctions de perte fondées sur Précision-Rappel pour mieux contrôler ce compromis.