Transformer l'attention d'un réseau en biomarqueur : des « signatures radiomiques » guidées par Grad-CAM pour classer les tumeurs — gains marginaux, validation clinique à peine au-dessus du hasard
Une équipe de l'Université de Floride propose un pipeline censé rendre « interprétable » la classification de tumeurs par IA : un réseau segmente la tumeur, une carte d'attention Grad-CAM en désigne les régions les plus saillantes, un seuillage par information mutuelle en extrait une « signature » propre à chaque patient, et l'on en tire des variables radiomiques classées par des modèles simples puis expliquées par SHAP. Sur les bases publiques de tumeurs du sein (BUSI) et du cerveau (BraTS), ajouter cette signature améliore la classification — de 0,2 à 3 points d'AUC selon le réseau. Mais sur la seule cohorte clinique réelle, des scanners rénaux de UF Health, tous les réseaux profonds restent collés au hasard (AUC de 0,49 à 0,59), et le préprint ne donne ni effectifs, ni code, ni déclaration de financement ou de conflits d'intérêts — ce qui vide de sa substance le mot « validation clinique » du titre.
Le contexte
La radiomique consiste à extraire d'une image médicale des dizaines à des centaines de variables quantitatives — forme de la lésion, statistiques d'intensité des pixels, mesures de texture — pour caractériser une tumeur de façon reproductible, au-delà de l'œil du radiologue. Depuis dix ans, le deep learning (apprentissage profond, des réseaux de neurones à nombreuses couches) fait mieux que la radiomique classique sur beaucoup de tâches de classification, mais au prix d'une opacité : on obtient une prédiction sans savoir sur quoi le réseau s'est appuyé. Cette « boîte noire » est un frein réel à l'adoption clinique, où le praticien veut comprendre pourquoi un cas est étiqueté malin.
Une réponse courante est Grad-CAM (Gradient-weighted Class Activation Mapping) : une méthode post-hoc qui colore, sur l'image, les régions ayant le plus pesé dans la décision du réseau — une carte de chaleur de l'« attention » du modèle. Le pari du papier est d'aller un cran plus loin : transformer cette carte d'attention en un biomarqueur d'imagerie reproductible, c'est-à-dire découper une région précise de la tumeur, en extraire des variables radiomiques interprétables, et vérifier qu'elles suffisent à classer. L'ambition affichée est double : « découverte » de signatures et « validation clinique ». C'est cette seconde promesse qu'il faut examiner de près.
La méthode
Le pipeline enchaîne quatre étapes. D'abord la segmentation : deux réseaux de référence, nnU-Net et UNETR, délimitent la tumeur, et l'on retient l'union de leurs deux masques. Ensuite, Grad-CAM est appliqué à la dernière couche du décodeur pour produire une carte de saillance. Cette carte subit une décroissance exponentielle en fonction de la distance au centre (le coefficient s'ajuste au rayon de la lésion : plus une lésion est petite, plus la décroissance est raide). Vient alors la pièce la plus astucieuse : un seuillage par information mutuelle. L'information mutuelle mesure à quel point deux cartes se « ressemblent » en termes d'information partagée ; ici, on teste les 256 seuils possibles de la carte d'attention et on garde celui dont la région binarisée partage le plus d'information avec le masque de segmentation. On obtient une « signature » propre à chaque patient — la portion de tumeur à la fois saillante pour le réseau et cohérente avec l'anatomie segmentée.
De cette région, deux voies partent. La première extrait, via la bibliothèque PyRadiomics, des variables radiomiques classiques (statistiques de premier ordre, forme, et textures GLCM, GLRLM, GLSZM), qu'on donne à quatre modèles simples — forêt aléatoire, XGBoost, SVM linéaire, régression logistique — dont les décisions sont ensuite expliquées par SHAP (une méthode qui attribue à chaque variable sa contribution au score). La seconde voie entraîne directement quatre réseaux de classification (DenseNet121, ResNet50, EfficientNet, ViT) dans trois configurations d'entrée : image seule, image + masque, image + masque + signature — pour mesurer ce que la signature apporte.
Quatre jeux de données sont mobilisés. BUSI, échographies mammaires, pour la classification bénin/malin. BraTS, IRM cérébrales multimodales (quatre séquences), pour distinguer gliome et méningiome. KiTS, scanners rénaux, servant uniquement à entraîner la segmentation. Et une cohorte privée de UF Health, scanners de carcinome à cellules rénales, pour une classification bénin/malin — c'est la seule donnée clinique réelle, non issue d'un benchmark public. L'évaluation repose sur des découpages 80/20 répétés avec différentes graines aléatoires, dont on rapporte la moyenne et l'écart-type. Point important pour la suite : le préprint ne rapporte aucun effectif — ni nombre de patients, ni nombre d'images, ni taille des classes, pour aucun des quatre jeux.
Les résultats
Sur les bases publiques, l'ajout de la signature aide, mais modestement. En classification profonde, la configuration image + masque + signature est la meilleure dans 11 des 12 combinaisons modèle × jeu de données. Sur BraTS, DenseNet atteint la meilleure AUC, 0,960 (F1 = 0,866) ; les gains apportés par la signature vont de 0,2 à 3 points d'AUC selon le réseau. Sur BUSI, DenseNet monte à 0,883, et le cas le plus spectaculaire est le ViT, qui passe de 0,609 (image seule) à 0,851 (avec le masque) puis 0,857 (avec la signature) — l'essentiel du gain venant du masque, pas de la signature. Côté radiomique classique, les AUC culminent à 0,947 sur BraTS (régression logistique) et 0,898 sur BUSI (XGBoost), la signature ajoutant selon les cas de 0,6 à près de 11 points selon le classifieur.
Puis vient la cohorte clinique, et le tableau se retourne. Sur les scanners rénaux de UF Health, tous les réseaux profonds restent au voisinage du hasard : la meilleure AUC est 0,594 (ResNet, image + masque), et la plupart des configurations tournent autour de 0,49–0,59. La signature n'y change presque rien (EfficientNet passe de 0,491 à 0,567 ; le ViT de 0,546 à 0,588 ; ResNet baisse même légèrement). Traduction clinique : une AUC de 0,5 signifie que, si l'on tire au sort une tumeur bénigne et une tumeur maligne, le modèle attribue le score le plus élevé à la bonne une fois sur deux — soit la performance d'une pièce lancée en l'air. Les modèles radiomiques simples font un peu mieux sur cette cohorte (jusqu'à 0,730 en régression logistique), mais ce contraste même — radiomique modeste qui surnage, deep learning au hasard — signale surtout que rien n'est stable ici. Le papier ne fournissant aucun effectif, on ne peut même pas convertir ces AUC en nombre de faux positifs et de faux négatifs pour 1 000 patients.
Ce qui est bien
Un vrai problème, et une idée technique élégante. L'interprétabilité des classifieurs de tumeurs est un obstacle réel à leur usage clinique, et l'article s'y attaque frontalement. Le seuillage par information mutuelle, qui choisit pour chaque patient la découpe de la carte d'attention la plus cohérente avec l'anatomie segmentée, est un mécanisme soigné et réutilisable — une manière propre de passer d'une carte de chaleur floue à une région chiffrable.
Une évaluation multi-configurations, et honnête sur les mauvais chiffres. Tester quatre réseaux profonds et quatre modèles radiomiques, sur trois tâches, dans trois réglages d'entrée, avec moyenne et écart-type sur découpages répétés, donne une vue nuancée de l'apport réel de la signature. Surtout, les auteurs publient les résultats catastrophiques de la cohorte rénale au lieu de les cacher — l'AUC de 0,49 figure noir sur blanc dans le tableau principal.
Une mise en garde explicite sur la nature de Grad-CAM. Le texte reconnaît que Grad-CAM « reflète l'attention du modèle plutôt qu'une véritable causalité pathologique » et que les régions mises en avant « doivent être interprétées avec prudence en contexte clinique ». Cet avertissement, rare dans la littérature qui vend l'« IA explicable » comme une preuve, est à porter au crédit des auteurs.
Ce qui est moins bien
La « validation clinique » du titre ne tient pas — c'est le point central. Les bons chiffres viennent tous de benchmarks publics soigneusement constitués (BUSI, BraTS) ; la seule donnée clinique réelle, la cohorte rénale de UF Health, s'effondre au niveau du hasard. C'est un biais de population manuel : un modèle qui brille sur des jeux propres et curés mais ne généralise pas à des scanners d'hôpital tout-venant. Titrer « Clinical Validation » quand le résultat clinique est à 0,5 d'AUC, c'est exactement le type de métrique trompeuse — ici, une réussite affichée sur benchmark faisant écran à un échec sur données réelles — que la lecture critique doit débusquer.
Ériger l'attention Grad-CAM en « biomarqueur » invite le shortcut learning. Les cartes Grad-CAM sont notoirement instables et peuvent souligner un artefact d'acquisition, une bordure, un marqueur d'appareil plutôt que la pathologie. Les seuiller par information mutuelle produit une région d'apparence rigoureuse, mais rien ne garantit qu'elle capture la biologie de la tumeur plutôt qu'une corrélation parasite. Or les gains sont minces (souvent 0,2 à 3 points, à l'intérieur des écarts-types rapportés) : on certifie donc comme « signature » quelque chose dont l'apport est faible et possiblement fortuit — et l'échec sur la cohorte rénale suggère précisément que ce que le réseau « regarde » ne se transporte pas d'un jeu à l'autre.
Un déficit de transparence et de reproductibilité difficilement acceptable pour un papier « clinique ». Aucun effectif n'est donné (impossible de savoir sur combien de patients repose quoi que ce soit), aucun lien de code, aucune mise à disposition des données, aucune licence, aucune déclaration de financement ni de conflits d'intérêts, et — alors que la cohorte utilise des scanners de patients réels — aucune mention d'approbation éthique. Les contrôles anti-fuite de données ne sont pas décrits : on sait seulement qu'un sous-ensemble sert à la segmentation et un autre à la classification, sans garantie explicite qu'un même patient n'apparaît pas des deux côtés. Le seul comparateur est la radiomique « tumeur entière » ; aucune confrontation à un pipeline radiomique établi ni à une base clinique de référence. À noter enfin, dans la liste des affiliations, un co-auteur rattaché à TikTok — inhabituel pour un travail d'imagerie médicale, et qui rend l'absence de déclaration d'intérêts d'autant plus regrettable.
Ce que ça change
Pour la communauté de recherche, l'apport net est une recette réutilisable pour convertir une carte de saillance en région d'intérêt radiomique, avec un mécanisme de seuillage adaptatif qui mérite d'être repris et testé. Mais la vraie leçon du papier est involontaire : l'écart béant entre des benchmarks publics (AUC jusqu'à 0,96) et une cohorte hospitalière réelle (AUC ≈ 0,5) illustre, une fois de plus, que la performance sur données curées ne dit presque rien de la performance clinique. Les étapes crédibles pour la suite sont connues : publier les effectifs, garantir des découpages au niveau du patient, valider en externe et en multicentrique, comparer à une radiomique standard, et surtout étudier la stabilité des cartes Grad-CAM avant de les appeler « biomarqueurs ».
Pour les cliniciens, il n'y a rien de déployable : sur la seule tâche clinique testée, l'outil ne fait pas mieux que le hasard, et l'ensemble reste un prototype de recherche non approuvé. Pour les patients et le grand public, le message est celui d'une hygiène de lecture : l'étiquette « IA interprétable » ne signifie pas « IA qui marche ». Une jolie carte de chaleur colorée sur une tumeur n'est pas une preuve que le modèle a raison — elle montre où il a regardé, pas s'il a vu juste. Et un chiffre flatteur sur un jeu de démonstration ne présage pas du comportement sur les images d'un vrai service de radiologie.
Pour aller plus loin
Le préprint est disponible sur arXiv (10.48550/arXiv.2607.03593). Sur la fiabilité et la fusion des représentations dans l'analyse multimodale du cancer, voir notre décryptage sur les foundation models en oncologie et leur confiance ; sur ce que valent réellement des scores explicables par SHAP, celui d'un SVM interprété par SHAP en oncologie ; et sur la classification profonde de tumeurs cérébrales et ses pièges, celui d'un modèle TDA-ViT sur l'IRM cérébrale.
Transparence éditoriale : version française rédigée et signée par la rédaction de Tatakoto à partir de la lecture du préprint. Traductions anglaise, espagnole et chinoise produites avec assistance IA et relues.