Contributions to Fairness-aware and Aligned Large Language Models

Ces dernières années, le Traitement Automatique du Langage Naturel (TALN) est devenu un élément central des technologies numériques, permettant aux systèmes informatiques de comprendre, générer et répondre au langage humain avec des répercussions majeures sur les secteurs industriels, scientifiques et la vie de tous les jours. Ses applications sont multiples : agents conversationnels et assistants virtuels, traduction en temps réel, automatisation de l'analyse de documents, analyse de sentiments et résumé de volumes massifs de textes pour la prise de décision dans des domaines tels que la santé, le droit ou la finance. À mesure que les systèmes d'Intelligence Artificielle (IA) s'intègrent davantage dans la société, le TALN joue un rôle central à l'intersection entre le langage humain et le raisonnement automatisé.Dans ce contexte, l'équité et l'alignement des modèles sont essentiels pour garantir que ces systèmes fonctionnent de manière fiable et juste. En effet, les modèles de TALN influencent de plus en plus les décisions dans des domaines sensibles tels que le recrutement, l'évaluation du crédit, ou les domaines médicaux et légaux. Tout biais intégré peut alors perpétuer des discriminations ou marginaliser des groupes sous-représentés dans les données d'entraînement. L'équité dans le TALN vise à s'assurer que les résultats ne désavantagent pas systématiquement les individus en fonction de caractéristiques telles que le genre, l'origine ethnique, la langue ou le contexte socio-économique, tandis que l'alignement garantit que le comportement des modèles respecte les valeurs humaines, les normes sociales et les objectifs prévus. Des systèmes de TALN injustes ou mal alignés peuvent non seulement échouer techniquement, mais également éroder la confiance du public et provoquer des dommages sociétaux. Atteindre l'équité et un alignement solide est donc crucial pour promouvoir l'inclusivité, favoriser une adoption éthique de l'IA et garantir que les technologies de TALN contribuent positivement à la société.Dans cette thèse, nous décrivons d'abord les avancées récentes en TALN, en équité et en alignement des modèles avec les valeurs humaines. Nous détaillons ensuite les architectures actuelles des modèles utilisés en TALN, leur entraînement pour des tâches spécifiques et les raisons pour lesquelles ils peuvent encoder des biais. Nous présentons ensuite notre première contribution, qui consiste à utiliser l'interprétabilité pour identifier les mécanismes responsables de biais dans les Grands Modèles de Langage (GML). Nous détaillons ensuite notre deuxième contribution, une méthode visant à améliorer l'équité dans les classificateurs de texte. Enfin, nous introduisons deux contributions concernant l'alignement des GML avec les valeurs humaines : un jeu de données pour évaluer l'alignement moral en français, et une approche permettant de réduire les différences d'alignement entre les langues. Nous concluons en proposant plusieurs axes d'amélioration pour nos travaux et mettons en lumière les questions restant à traiter dans le cadre de recherches futures.Une présentation du manuscrit en français est fournie page 165 du manuscrit. Elle contient l'introduction et la conclusion, ainsi qu'un résumé de chaque partie.