Méthodes Probabilistes Avancées pour l’Amplification de la Confidentialité : Approches Coopératives et Non Coopératives

De la formulation de conclusions statistiques à l’entraînement de modèles d’apprentissage automatique, la collecte de données est indéniablement devenue une composante essentielle des technologies modernes. Au fil des années, cela a soulevé des préoccupations croissantes en matière de confidentialité, en particulier dans les applications sensibles. Pour répondre à ces inquiétudes et rassurer les utilisateurs, les cadres de la Differential Privacy (DP) et du Quantitative Information Flow (QIF) ont été largement étudiés, permettant de quantifier la quantité d’information qu’un analyste peut obtenir après avoir observé un système.Cette thèse explore des mécanismes renforçant la confidentialité dans deux scénarios distincts : (a) lorsque les utilisateurs coopèrent pour orchestrer une stratégie de défense commune, et (b) lorsque les utilisateurs ne coopèrent pas et doivent chacun s’appuyer sur leur propre approche.Dans le premier cas, nous nous appuyons sur le modèle de mélange (shuffle model) de la DP, où les utilisateurs obfusquent leurs données avant qu’un mélangeur de confiance ne les combine et les publie ensuite à l’analyste. L’effet de mélange est affiné grâce à divers schémas d’encodage qui limitent considérablement la quantité d’information utilisateur accessible à l’analyste, sans compromettre l’exactitude du résultat. Cette approche est étudiée dans le cadre des données de localisation, en combinant le mélange avec la metric privacy (une variante de DP adaptée aux domaines munis d’une notion de distance), puis dans l’apprentissage fédéré afin de se protéger contre les Source Inference Attacks (qui visent à identifier précisément quel client a entraîné un point de données donné).Enfin, dans des contextes non coopératifs, la thèse analyse, à l’aide du QIF, la stratégie optimale d’un utilisateur pour obfusquer son propre secret en se basant sur les secrets soumis par d’autres, sous des contraintes linéaires. Cette approche est ensuite appliquée à la défense contre les attaques de fingerprinting de sites Web. Dans ce scénario, un administrateur cherche à faire en sorte que le comportement de son site ressemble à celui d’autres sites qu’il souhaite imiter. Comme la coopération avec ces autres sites est impossible, l’administrateur doit concevoir sa défense uniquement sur la base du comportement observé de ces sites.