A constructive take on Seshadri slices to compute separating invariants

L’objectif de cette thèse est de formuler de nouvelles méthodes de calcul d’invariants séparants pour une représentation d’un groupe algébrique, c’est-à-dire des fonctions invariantes par l’action du groupe et prenant des valeurs différentes sur des orbites distinctes. L’idée principale est de raffiner le lemme de Seshadri tel que formulé dans [CS05] à des fins constructives. Ce lemme donne un isomorphisme par restriction entre le corps des invariants de la représentation, et le corps des invariants pour la représentation d’un normalisateur sur une sous-variété. Il a été principalement utilisé à des fins théoriques, comme pour prouver la rationalité des corps des invariants. Mais l’isomorphisme permet déjà, de prime abord, de construire un ensemble d’invariants rationnels générant le corps des invariants. Cela équivaut à séparer les orbites presque partout, ce qui représente un bon premier pas. La méthode est mise en œuvre pour l’action de SO₃(ℝ) sur l’espace des tenseurs piézoélectriques, pour lequel nous présentons une première slice dans les représentations du groupe orthogonal contenant la représentation standard. Cela donne un ensemble de séparants générique de cardinal minimal 15. En seconde instance, nous imaginons d’itérer cette slice autant que possible en partant d’une action d’un groupe orthogonal SOₙ(ℝ) en dimension plus grande (n ≥ 3). La théorie des représentations des groupes de Lie permet de décrire l’action des normalisateurs successifs, de la forme SOₖ(ℝ) ⋉ ℂ²ⁿ⁻ᵏ. On obtient un critère suffisant pour la rationalité du corps des invariants des actions de SOₙ(ℝ), ainsi que des séparants génériques pour l’action standard sur une famille de vecteurs. Les séparants de ces représentations étant particulièrement demandés pour l’entraînement de réseaux de neurones invariants [DG24 ; BV23]. Nous allons ensuite plus loin, visant non plus une séparation générique mais totale (dans le sens des invariants polynomiaux séparants définis dans [Kem07]). Donné tel quel, l’isomorphisme du slice de Seshadri induit des singularités en des lieux imprévisibles, rendant cette tâche impossible. Mais un renforcement des hypothèses inspiré par [Pop92] permet de circonscrire les pôles éventuels sur une sous-variété explicite Q. En trouvant une autre slice sur Q, et en itérant ainsi de suite, on propose une méthode donnant un système d’invariants polynomiaux séparant finalement les orbites partout. Cette méthode s’applique particulièrement bien à la représentation de SO₃(ℝ) sur l’espace des tenseurs piézoélectriques, pour lequel nous donnons un système séparateur de 102 invariants, ce qui est très compétitif par rapport à ce qui se faisait précédemment. Ce deuxième point a nécessité de donner des invariants séparants pour l’action d’un normalisateur O₂(ℂ) ≃ ℂ* ⋉ ℂ². L’étude des représentations des tores complexes s’est donc imposée comme une heureuse direction. À l’aide du théorème chinois, nous traitons d’abord le cas des actions du tore de rang un. Puis nous généralisons ce théorème en dimension d, obtenant des invariants rationnels séparants dont le support est de taille bornée par d + 1. Cela donne un ensemble de séparants de taille polynomiale en la dimension de la représentation (précisément en dim(V)^(d+1)), apportant des éléments de réponse à un problème posé dans [Gar+19].