Avancées algorithmiques pour l'optimisation contrainte non lisse et non convexe

Cette thèse porte sur le développement d'algorithmes évolutifs et théoriquement fondés pour résoudre des problèmes d'optimisation contraints, non lisses et non convexes, en particulier ceux issus de la programmation DC et de la programmation stochastique. Ces problèmes sont au cœur de nombreuses applications, telles que la mécanique des structures, l'apprentissage automatique et le transport optimal, mais restent difficiles à traiter en raison de l'absence de régularité, de convexité et de la présence d'incertitude.Dans la première partie, nous proposons un algorithme de type proximal basé sur la fonction d'amélioration et l'imbrication épigraphique. Cette méthode permet de traiter des contraintes générales non lisses et non convexes, et converge vers des points critiques du modèle sous des hypothèses modérées. Le cadre proposé unifie et étend plusieurs approches existantes, offrant un outil flexible pour l'optimisation sous contraintes.La seconde partie de la thèse est consacrée au calcul de barycentres de Wasserstein contraints, un problème rencontré dans la classification de distributions et l'optimisation robuste. Nous étendons la méthode des marges moyennes pour intégrer des contraintes convexes, et proposons un algorithme de découplage progressif pour le cas non convexe. Les résultats théoriques de convergence et les expériences numériques confirment l'efficacité des méthodes proposées.Dans l'ensemble, ce travail apporte de nouveaux outils algorithmiques et des perspectives théoriques pour l'optimisation exploitant la structure dans des environnements non lisses et incertains, et ouvre plusieurs pistes de recherche futures, tant sur le plan théorique que pratique.