Étude asymptotique des méthodes d'ensemble pour la classification déséquilibrée

Cette thèse est consacrée à l'étude asymptotique des méthodes d'ensemble, avec un accent particulier sur les forêts aléatoires infinies et les plus proches voisins baggés, entraînés sur des sous-échantillons tirés sans remise, dans le cadre de la classification binaire. Dans la première partie de la thèse, nous établissons un Théorème Central Limite (TCL) pour les forêts aléatoires infinies entraînées sur de tels sous-échantillons. Dans le cadre de la classification déséquilibrée, ces estimateurs souffrent d'une mauvaise représentation de la classe minoritaire dans les données d'entraînement. Pour remédier à ce problème, nous proposons une stratégie de rééchantillonnage pour rééquilibrer la distribution des classes. Bien que l'estimateur résultant satisfasse un TCL, il n'est pas consistant. Pour atténuer son biais, nous introduisons une procédure de débiasage basée sur le rapport de cotes, et démontrons que l'estimateur résultant est consistant et satisfait toujours un TCL. Nous appliquons nos résultats théoriques aux plus proches voisins baggés et montrons que l'estimateur 1-NN baggé débiasé correspond au taux de convergence de son homologue sous-échantillonné tout en atteignant une variance asymptotique plus faible dans la plupart des cas. Dans la deuxième partie de la thèse, nous appliquons nos résultats théoriques aux Forêts Aléatoires Centrées Infinies sous-échantillonnées (ICRF) pour lesquelles nous prouvons un TCL avec des taux de convergence et des constantes explicites. De plus, nous montrons que l'ICRF débiasée atteint une réduction de variance par rapport à l'ICRF standard entraînée sur les données originales. Dans l'ensemble, notre analyse théorique met en évidence les avantages de l'entraînement des forêts aléatoires sur des ensembles de données rééquilibrés suivis d'une étape de débiasage, par opposition à l'entraînement sur les données originales. Enfin, nous illustrons la validité empirique de ces résultats à travers une étude appliquée à un ensemble de données réel d'une compagnie d'assurance non-vie danoise dans le contexte de la détection de fraude.