Segmenter la rétine interne dans la rétinite pigmentaire : deux modèles d'IA, dont le foundation model SAM, entraînés sur seulement 228 coupes d'OCT

Une équipe de l'Université de Göttingen présente deux modèles d'apprentissage profond qui segmentent automatiquement les couches internes de la rétine sur des images d'OCT de patients atteints de rétinite pigmentaire, une maladie génétique cécitante. Sa contribution n'est pas un score record mais une frugalité assumée : en combinant un pré-entraînement sur 1 700 coupes publiques, une boucle d'annotation interactive et un post-traitement respectant l'anatomie, les modèles atteignent d'excellentes performances avec seulement 228 coupes annotées de patients. Le résultat est solide sur les couches internes — celles qui décident de l'éligibilité aux futures thérapies par optogénétique — mais il échoue précisément sur la couche qui sert à mesurer la sévérité de la maladie, et il n'a été validé que sur une trentaine de patients d'un seul hôpital.

Le contexte

La rétinite pigmentaire (RP) est un groupe de maladies génétiques de la rétine, première cause de cécité chez les moins de 60 ans, avec une prévalence d'environ 1 personne sur 4 000 et plus de 3 000 mutations identifiées. Elle détruit d'abord les bâtonnets, puis les cônes ; les couches externes de la rétine dégénèrent en premier, suivies des couches internes. L'OCT (tomographie par cohérence optique) est l'examen de référence pour suivre cette dégénérescence : il produit des images en coupe de la rétine où l'on peut mesurer, couche par couche, l'épaisseur du tissu.

Pourquoi la rétine interne, précisément, devient-elle un enjeu ? Parce qu'une nouvelle famille de traitements, l'optogénétique, la cible directement. Contrairement à la thérapie génique, qui ne fonctionne que pour une mutation précise, l'optogénétique est indépendante de la mutation : elle rend sensibles à la lumière les neurones de la rétine interne (cellules ganglionnaires et cellules bipolaires) pour suppléer les photorécepteurs détruits. Cette approche exige une rétine interne encore largement intacte — d'où le besoin de mesurer finement l'état des couches internes, pour sélectionner les patients éligibles et suivre l'effet du traitement. Or les outils de segmentation automatique livrés par les fabricants d'OCT (comme Heidelberg Engineering) échouent sur les rétines dégénérées, faute des repères anatomiques présents dans une rétine saine. Et l'apprentissage profond, jusqu'ici, s'était concentré sur les couches externes en RP, jamais sur les couches internes. C'est ce double vide — clinique et méthodologique — que ce préprint vient combler.

La méthode

Les auteurs entraînent deux modèles complémentaires. Le premier, OCT-SAM, dérive du Segment Anything Model (SAM), un modèle de fondation (foundation model : un grand modèle pré-entraîné, réutilisable pour de nombreuses tâches) conçu par Meta pour segmenter n'importe quel objet d'une image à partir d'un simple clic ou d'un cadre. Les auteurs partent de MedicoSAM, une adaptation de SAM à l'imagerie médicale dotée d'un décodeur capable de segmenter automatiquement, sans intervention. Le second modèle, nnU-Net, est la référence établie de la segmentation dite sémantique (chaque pixel se voit attribuer directement l'identité de sa couche).

Les données proviennent d'une cohorte rétrospective d'une trentaine de patients RP (31) suivis au service d'ophtalmologie de Göttingen entre 2019 et 2025, tous imagés sur un même appareil (Spectralis, Heidelberg). La vérité de terrain — les tracés de référence — a été produite semi-automatiquement (un détecteur de contours) puis corrigée à la main par un premier gradeur, validée par un deuxième, un troisième arbitrant les désaccords, sur sept couches rétiniennes. Point astucieux : plutôt que d'annoter tout à la main, les auteurs procèdent en quatre cycles où OCT-SAM pré-segmente les coupes suivantes, un humain corrige, et le modèle est ré-entraîné — une boucle qui accélère l'annotation. Le modèle final est ainsi entraîné sur 228 coupes (appelées B-scans, une coupe verticale de l'OCT), après un pré-entraînement sur 1 700 coupes issues de deux jeux publics non spécifiques à la RP. Un post-traitement maison impose ensuite une cohérence anatomique aux couches détectées.

Les auteurs intègrent le tout dans un logiciel libre (un plugin napari) qui mesure automatiquement l'épaisseur des couches et l'épaisseur fovéolaire centrale (CFT). L'évaluation combine un jeu de test de 20 coupes (métriques de recouvrement : le Dice et le F1, qui mesurent à quel point la zone prédite recouvre la vraie zone) et une validation des mesures d'épaisseur sur 90 points comparés aux mesures manuelles d'un expert, via des graphiques de Bland-Altman (une méthode standard pour mesurer l'accord entre deux façons de mesurer : elle donne un biais moyen et des limites d'accord). Enfin, une démonstration longitudinale suit trois patients sur au moins trois ans.

Les résultats

Sur le jeu de test, nnU-Net domine en segmentation automatique : précision, rappel et F1 à 0,96, Dice à 0,88. OCT-SAM suit d'un cran (précision 0,93, rappel 0,80, F1 0,85, Dice 0,77) mais apporte l'interactivité que nnU-Net n'a pas. Résultat marquant sur la frugalité : la performance bondit dès 5 à 10 images spécifiques et plafonne autour de 100 — une grande base annotée n'est donc pas nécessaire, ce qui est décisif dans une maladie rare où les données manquent.

La traduction clinique est plus nuancée. Confrontées aux mesures manuelles d'un expert, les mesures automatiques d'OCT-SAM sont fiables pour les couches internes qui intéressent l'optogénétique — écarts relatifs de 4,4 % à 11,2 % pour l'épaisseur fovéolaire centrale, la couche des fibres nerveuses (RNFL) et la couche des cellules ganglionnaires (GCIPL). Mais elles se dégradent nettement ailleurs : 21,8 % d'écart pour la couche nucléaire interne, 22,5 % pour la couche nucléaire externe, et surtout 54,8 % pour la zone ellipsoïde (EZ) et 41,1 % pour l'épithélium pigmentaire. La zone ellipsoïde n'est d'ailleurs presque jamais détectée : 6 fois sur 90 par le modèle — mais l'expert humain lui-même ne la repère que 21 fois sur 90, signe que la cible est objectivement difficile. Concrètement, l'outil mesure bien ce que l'optogénétique regarde (la rétine interne), mais échoue sur la couche qui sert à établir le stade de la maladie.

Ce qui est bien

Une première utile et bien ciblée. C'est, à la connaissance des auteurs, le premier travail d'apprentissage profond consacré aux couches internes de la rétine dans la RP, et la première application de SAM à la segmentation des couches rétiniennes en OCT. Ce n'est pas une nouveauté gratuite : elle répond à un besoin clinique précis créé par l'arrivée des thérapies optogénétiques, qui exigent d'évaluer l'intégrité de la rétine interne.

Une frugalité en données démontrée, pas seulement affirmée. Atteindre d'excellents scores avec 228 coupes, et un plateau dès une centaine, grâce au pré-entraînement sur 1 700 coupes publiques, à la boucle d'annotation interactive et à un post-traitement guidé par l'anatomie, constitue une réponse concrète à la rareté des données d'imagerie dans les maladies rares. La courbe montrant le gain dès 5 à 10 images est le genre de résultat directement réutilisable par d'autres équipes.

Science ouverte et métrologie soignée. Le code, les deux modèles et leurs routines d'entraînement sont publiés sur un dépôt public, ce qui rend le travail reproductible. La validation des mesures s'appuie sur des graphiques de Bland-Altman comparés à un expert plutôt que sur un simple score global, et le financement (public, essentiellement la Fondation allemande pour la recherche) est déclaré sans conflit d'intérêts commercial.

Ce qui est moins bien

Un biais de population et une validation externe absente. Trente-et-un patients, un seul hôpital, un seul modèle de scanner : rien ne garantit que les performances tiennent sur un autre appareil, une autre population, un autre pays. Les auteurs reconnaissent eux-mêmes que toutes les variantes génétiques de la RP, aux profils de dégénérescence différents, ne sont pas représentées dans un si petit échantillon. Aucune validation externe, sur un centre indépendant, n'a été menée — le mode d'échec classique de la littérature IA-santé.

Une vérité de terrain fragile, précisément là où ça compte. La référence est une segmentation manuelle, or même l'expert humain ne détecte la zone ellipsoïde que dans 21 cas sur 90 : le « gold standard » est lui-même incertain sur cette couche. Et c'est exactement là que le modèle échoue (54,8 % d'écart), alors que la zone ellipsoïde sert à stadifier la RP dans la classification utilisée par l'étude. Le modèle est donc faible là où la clinique en aurait le plus besoin — un décalage entre la tâche mesurée et l'usage visé, aggravé par un jeu de test réduit (20 coupes, 90 points de mesure).

Une validation clinique minimale et une automatisation en partie trompeuse. La démonstration longitudinale ne porte que sur trois patients, de façon rétrospective, sans protocole prospectif ni comparaison chiffrée à l'outil du fabricant. Surtout, pour les couches difficiles, la segmentation exige encore des clics humains (mode « interactif ») : l'étiquette « automatique » ne vaut pleinement que pour les couches internes faciles. Enfin, il s'agit d'un préprint non encore relu par les pairs, et le manuscrit est diffusé sous une licence non commerciale et sans dérivés (CC-BY-NC-ND).

Ce que ça change

Pour la communauté de recherche, l'apport principal est une recette frugale — pré-entraînement sur données publiques, annotation interactive en boucle, post-traitement guidé par l'anatomie — directement transposable aux maladies rares où les images annotées manquent. S'y ajoutent la première application de SAM aux couches rétiniennes et un outil ouvert que d'autres pourront étendre, notamment vers la segmentation en trois dimensions annoncée par les auteurs.

Pour les cliniciens, rien n'est déployable aujourd'hui : cohorte mono-centrique, absence de validation externe, faiblesse sur les couches externes nécessaires à la stadification, démonstration limitée à trois patients et corrections manuelles encore requises. La direction reste prometteuse face aux logiciels des fabricants, qui échouent sur les rétines dégénérées. Pour les patients et le grand public, l'étude illustre deux règles de lecture. D'abord, « une IA segmente la rétine » masque qu'elle a été validée sur une trentaine de patients d'un unique hôpital. Ensuite, un outil peut exceller sur une partie de l'image tout en butant sur la couche même qui sert à mesurer la gravité de la maladie : la performance moyenne ne dit rien de la performance là où elle compte.

Pour aller plus loin

Le préprint est disponible sur medRxiv (10.64898/2026.06.16.26355668), et le code ainsi que les modèles sont publiés sur GitHub. Sur les modèles de fondation en imagerie médicale, voir notre décryptage de GigaPath en pathologie et notre évaluation des représentations de foundation models pour le cancer ; sur la segmentation automatique appliquée à un autre organe, celui de Fine-UNETR en cancer de la prostate.

Transparence éditoriale : version française rédigée et signée par la rédaction de Tatakoto à partir de la lecture du préprint. Traductions anglaise, espagnole et chinoise produites avec assistance IA et relues.