Apprentissage profond pour la modélisation anatomiquement cohérente de l'arbre bronchique : caractéristiques visuelles, fonctions de perte, stratégies d'apprentissage et une nouvelle tâche de détection

L'arbre bronchique humain est un réseau ramifié complexe et hiérarchisé qui conduit l'air de la trachée jusqu'aux alvéoles à travers des générations successives de bronches et de bronchioles. Sa géométrie et sa connectivité sont étroitement liées à la fonction pulmonaire, et les altérations structurelles de cet arbre constituent des marqueurs clés de pathologies telles que la broncho-pneumopathie chronique obstructive (BPCO), l'asthme, la mucoviscidose et les maladies pulmonaires interstitielles. La modélisation précise et anatomiquement cohérente de l'arbre bronchique à partir de la tomodensitométrie (CT) thoracique est donc essentielle pour l'analyse pulmonaire quantitative, le suivi de l'évolution des maladies, la planification chirurgicale bronchoscopique et le développement de jumeaux numériques des voies aériennes.Cependant, cette tâche demeure difficile en raison de la finesse et de la nature tortueuse des bronches distales, de la grande variabilité anatomique et des différences importantes entre protocoles d'acquisition selon les scanners et les populations.Les approches d'apprentissage profond classiques peinent souvent à reconstruire un arbre bronchique continu et à généraliser entre domaines, produisant des structures incomplètes ou fragmentées qui limitent leur fiabilité clinique.Cette thèse introduit une série de méthodes complémentaires visant à renforcer la robustesse, la fidélité anatomique et la généralisabilité de la modélisation profonde de l'arbre bronchique, en adoptant à la fois des perspectives de segmentation et de détection, et en reformulant la tâche de la segmentation pure vers une détection structurée. Premièrement, des priors de parcimonie convolutionnelle sont proposés comme biais structurels fondés sur les données pour encoder les motifs récurrents des voies aériennes. Les dictionnaires appris génèrent des représentations compactes capturant des primitives géométriques généralisables, améliorant ainsi la compréhension morphologique du modèle — en particulier dans des contextes de peu d'exemples annotés — et stabilisant l'apprentissage sur des ensembles de données hétérogènes. Deuxièmement, une fonction de coût à accentuation de frontières (Boundary-Emphasized Loss, BEL) est conçue pour renforcer les limites morphologiques et prévenir les ruptures de branches distales par une pondération dynamique, permettant une segmentation topologiquement cohérente sans supervision explicite du centre des voies.Troisièmement, un cadre d'adaptation de domaine fondé sur un apprentissage programmé (curriculum) est développé pour améliorer la performance sur le domaine source et transférer progressivement les connaissances entre cohortes saines et pathologiques, en exploitant des scores de complexité de scan pour guider l'apprentissage des cas simples vers les plus difficiles. Enfin, cette thèse présente BifDet, le premier jeu de données annotées et benchmark à grande échelle pour la détection tridimensionnelle des bifurcations bronchiques, comprenant plus de 7 500 bifurcations annotées et établissant des protocoles d'évaluation standardisés pour l'analyse des bifurcations.Des expériences exhaustives sur des cohortes saines et malades démontrent des améliorations constantes de la reconstruction des bronches distales, de la continuité topologique et de la généralisation inter-domaines. Ces contributions établissent collectivement un cadre robuste et anatomiquement fondé pour la modélisation de l'arbre bronchique, comblant le fossé entre précision géométrique et cohérence topologique. Au-delà de l'analyse des voies aériennes, les méthodologies proposées constituent une base pour une modélisation sensible à la topologie et respectueuse de la structure d'autres systèmes tubulaires ou multi-organiques, ouvrant la voie à des jumeaux anatomiques numériques interprétables et cliniquement fiables.