Sécurité d’Inference d’Appartenance : Une Voie Alternative vers la Confidentialité

Les modèles d'apprentissage automatique sont progressivement déployés dans des domaines sensibles, augmentant le besoin d'audit, d'application et d'optimisation rigoureux de la confidentialité.Alors que la Differential Privacy garantit la confidentialité par une propriété d'indistinguabilité distributionnelle, nous proposons un cadre alternatif qui aborde directement la confidentialité par les attaques d'inférence d'appartenance (MIA). Premièrement, nous introduisons la Membership Inference Security (MIS), une métrique unifiée et interprétable qui englobe les capacités des MIAs les plus puissantes. Nous fournissons une analyse théorique de la MIS dans divers scénarios, incluant les régimes d'Overfitting et les distributions de données discrètes.Ensuite, nous examinons les exigences pour un audit précis de la confidentialité, motivant que les méthodologies basées sur les attaques peuvent fournir des évaluations inadéquates, et nous établissons un résultat d'impossibilité pour l'estimation de la MIS distribution-free. Nousmotivons la nécessité de métriques théoriquement fondées plutôt que d'implémentations d'attaques ad hoc.Enfin, nous étudions la quantification comme mécanisme de confidentialité.Nous montrons que la quantification induit une métrique de confidentialité naturelle déterminée entièrement par les distributions de perte, permettant une évaluation de la confidentialité sans attaque. Nous développons une méthodologie pour évaluer et optimiser le compromis confidentialité-performance dans les procédures d'apprentissage quantifiées.