Quand un détecteur de cancer de la peau change de pays : un classifieur en cascade d'images dermoscopiques passe de 0,96 à 0,80 d'AUC entre l'archive ISIC et la clinique russe (arXiv, 2026)

Déposé le 11 juin 2026 sur arXiv, ce preprint d'Elena Kozachok et de ses collègues compare quatre architectures de réseaux de neurones et trois manières d'organiser la décision pour classer des images de dermoscopie (l'examen de la peau à fort grossissement) de lésions cutanées, puis teste leur capacité à se généraliser depuis une grande archive internationale ouverte (ISIC) vers deux jeux de données cliniques russes indépendants. Le résultat central est un avertissement : une discrimination bénin/malin presque parfaite en interne (aire sous la courbe ROC de 0,952 à 0,966) s'effondre à l'épreuve d'un autre terrain — sur les données de l'Université Setchenov, l'AUC tombe à 0,797–0,893, la sensibilité à 0,53–0,67, et la calibration se dégrade fortement, le modèle se trompant dans le sens dangereux en sous-estimant le risque de cancer. La contribution de méthode, une classification en cascade dotée d'un seuil de triage réglable, permet de contrôler explicitement la sensibilité, ce qu'un classifieur en un seul étage ne sait pas faire. Le mérite du papier est de mesurer et de publier cet écart de généralisation que la plupart des travaux préfèrent ignorer ; ses limites tiennent à des cohortes de validation très petites et déséquilibrées, sans comparaison à un dermatologue ni essai prospectif.

Le contexte

Le cancer de la peau est l'un des terrains les plus anciens et les plus actifs de l'IA médicale. Depuis 2017, de nombreux modèles atteignent, sur des jeux de test « propres », des performances comparables à celles de dermatologues pour distinguer une lésion bénigne d'une lésion maligne sur image de dermoscopie — la technique qui consiste à examiner la peau à travers une loupe éclairée pour révéler des structures invisibles à l'œil nu. L'essentiel de ces modèles est entraîné et évalué sur la même source de données : l'archive ISIC (International Skin Imaging Collaboration), un dépôt public agrégeant des centaines de milliers d'images dermoscopiques, surtout issues de populations à peau claire et de centres occidentaux.

Le problème connu, mais rarement quantifié, est le décalage de domaine : un modèle qui brille sur des images ISIC se comporte-t-il encore correctement sur des images acquises ailleurs, avec d'autres appareils, d'autres protocoles, d'autres patients ? En oncologie cutanée, l'enjeu n'est pas abstrait. Manquer un mélanome (le cancer de la peau le plus meurtrier) ou un carcinome a des conséquences directes. Ce papier s'attaque frontalement à cette question en confrontant des modèles entraînés sur ISIC à la réalité de la pratique clinique russe, et en comparant au passage plusieurs façons d'architecturer la décision diagnostique.

La méthode

Les auteurs comparent quatre architectures de vision modernes, toutes pré-entraînées sur ImageNet (un grand jeu d'images généralistes) puis ré-entraînées sur des données dermoscopiques. Deux sont des transformers de vision — des réseaux qui découpent l'image en petits carrés et apprennent leurs relations par un mécanisme dit d'attention : ViT-B/16 et Swin-S. Deux sont des réseaux convolutifs, famille classique spécialisée dans la détection de motifs locaux : ConvNeXt-S et EfficientNetV2-S. Toutes utilisent le même protocole d'augmentation des données (rotations, recadrages et variations destinés à diversifier artificiellement l'entraînement), pour que la comparaison soit équitable.

Surtout, les auteurs opposent trois schémas de classification. Le premier est binaire : bénin contre malin. Le deuxième est un classement en quatre classes en un seul étage : bénin, mélanome (MEL), carcinome épidermoïde cutané (SCC) et carcinome basocellulaire (BCC), le réseau choisissant directement la classe la plus probable (règle dite de l'« argmax »). Le troisième est une cascade en deux étages : un premier modèle effectue un triage bénin/malin, puis un second différencie, parmi les lésions jugées malignes, entre MEL, SCC et BCC. L'intérêt revendiqué de cette cascade est qu'on peut régler le seuil de triage : en l'abaissant, on augmente la sensibilité (on rate moins de cancers) au prix de plus de fausses alertes — un curseur que la règle de l'argmax, figée, ne permet pas.

L'entraînement s'appuie sur l'agrégation de données ouvertes de l'archive ISIC. L'évaluation se fait à trois niveaux : un échantillon interne mis de côté (issu de la même distribution qu'ISIC), puis deux jeux cliniques externes indépendants — un sous-échantillon du système mobile commercial Melanoscope AI (472 images : 450 bénignes, 22 malignes, dont 14 mélanomes, 1 SCC et 7 BCC) et un jeu de l'Université Setchenov (77 images : 20 bénignes, 57 malignes, dont 28 mélanomes, 6 SCC et 23 BCC). Les performances sont mesurées par l'AUC ROC (capacité à séparer un cas malin d'un cas bénin), la sensibilité (proportion de cancers correctement détectés) et l'ECE (Expected Calibration Error, ou erreur de calibration attendue : l'écart entre la confiance affichée par le modèle et sa justesse réelle — une ECE basse signifie qu'un score de 80 % correspond bien à 80 % de bonnes réponses).

Les résultats

En interne, tout va bien : l'étage binaire bénin/malin atteint une AUC ROC de 0,952 à 0,966 selon l'architecture, niveau attendu pour des modèles modernes sur des données de la même source que l'entraînement. C'est sur le terrain externe que l'image se renverse. Sur le jeu de l'Université Setchenov, l'AUC binaire chute à 0,797–0,893, et surtout la sensibilité tombe à 0,53–0,67 : selon l'architecture, entre un tiers et près de la moitié des lésions réellement malignes ne sont plus signalées comme telles. Dans le même mouvement, l'ECE bondit de 0,02 à 0,27–0,39 : le modèle n'est plus calibré du tout, et la dérive se fait dans le sens le plus dangereux, en sous-estimant la malignité — il attribue des scores de confiance rassurants à des lésions qui sont en réalité des cancers. La cascade, elle, tient sa promesse méthodologique : en réglant le seuil de triage, on récupère un contrôle explicite de la sensibilité, impossible avec le classement argmax en un étage, et l'enchaînement « triage puis différenciation » reproduit mieux la logique du diagnostic différentiel clinique.

Traduction clinique : une sensibilité de 0,53–0,67 sur les 57 lésions malignes de Setchenov signifie qu'environ 19 à 27 cancers sur 57 seraient classés à tort comme bénins. Pour un mélanome, un tel faux négatif peut coûter des mois de retard diagnostique sur une tumeur dont le pronostic dépend étroitement de la précocité de la prise en charge. La calibration dégradée aggrave le tableau : non seulement le modèle se trompe plus souvent hors de son domaine d'entraînement, mais il le fait avec assurance, ce qui est précisément le profil d'erreur le plus susceptible d'induire en erreur un utilisateur qui ferait confiance au score. À l'inverse, le curseur de sensibilité de la cascade montre la sortie possible : pour un outil de dépistage, on préférera régler le seuil vers une sensibilité élevée, quitte à multiplier les fausses alertes et donc les examens et biopsies inutiles — un arbitrage qui doit être assumé explicitement, pas subi.

Ce qui est bien

Une validation externe réelle, sur un autre pays, et un écart de généralisation publié sans fard. Le cœur de la valeur du papier est là : au lieu de rapporter une AUC flatteuse sur un test interne issu d'ISIC, les auteurs confrontent leurs modèles à deux jeux cliniques russes indépendants et publient la chute — AUC de 0,96 à 0,80, sensibilité jusqu'à 0,53. C'est exactement l'épreuve que la littérature dermoscopique, massivement entraînée et testée sur ISIC, tend à esquiver.

Une cascade qui rend la sensibilité réglable et colle à la logique clinique. Séparer le triage bénin/malin de la différenciation entre types de cancers, avec un seuil ajustable, n'est pas qu'une élégance technique : cela redonne au concepteur un curseur sensibilité/spécificité que la décision argmax en un seul étage verrouille. Pour un usage de dépistage, où rater un cancer est bien plus grave qu'une fausse alerte, c'est le bon levier au bon endroit.

La calibration mesurée, pas seulement l'exactitude. En rapportant l'ECE et pas uniquement l'AUC ou l'exactitude, les auteurs documentent un mode d'échec que la quasi-totalité des papiers passent sous silence : un modèle peut rester « à peu près correct » en moyenne tout en devenant dangereusement trop confiant hors distribution. Montrer que l'ECE explose de 0,02 à près de 0,4 est une information cliniquement plus parlante que bien des décimales d'AUC.

Ce qui est moins bien

Un décalage de domaine et un probable biais de population, à l'origine de l'effondrement (modes d'échec : biais de population et décalage de domaine). Les modèles sont entraînés sur ISIC, archive dominée par des populations à peau claire et des centres occidentaux, puis testés sur une pratique clinique russe avec d'autres appareils et d'autres protocoles d'acquisition. La chute d'AUC et de sensibilité est la signature classique de ce décalage. Le papier le constate mais ne le corrige pas (pas de ré-entraînement local, pas d'adaptation de domaine évaluée), si bien que le message reste un diagnostic du problème plus qu'une solution.

Des cohortes externes minuscules et très déséquilibrées (modes d'échec : la métrique trompeuse et le biais de sélection). Le jeu Setchenov ne compte que 77 images (dont seulement 6 SCC) et le jeu Melanoscope 472 images avec à peine 22 lésions malignes (dont un unique SCC). Sur d'aussi petits effectifs, chaque cas pèse énormément : une sensibilité de 0,53 à 0,67 a un intervalle de confiance très large, et la classe SCC est trop peu représentée pour qu'on puisse rien en conclure. De plus, la répartition bénin/malin de Setchenov (majorité de malins) est inversée par rapport à un contexte de dépistage réel où les lésions bénignes dominent largement — ce qui rend les chiffres bruts difficiles à transposer tels quels.

Aucun comparateur dermatologue, un jeu de validation d'origine commerciale, et un statut de simple preprint (modes d'échec : comparateur biaisé et conflits d'intérêts potentiels). Le seul comparatif est interne au papier (architectures et schémas entre eux) ; il n'y a pas de mise en regard avec le jugement de dermatologues, qui reste pourtant l'étalon clinique pertinent. L'un des deux jeux externes provient d'un système mobile commercial (Melanoscope AI), ce qui pose une question de provenance et de représentativité des données à garder en tête. Enfin, il s'agit d'un preprint non encore relu par les pairs, rétrospectif, sans validation prospective ni statut réglementaire — autant de réserves habituelles mais ici décisives au vu de l'enjeu (un cancer manqué).

Ce que ça change

Pour la communauté de recherche, le papier fournit un repère sobre et utile sur l'ampleur de l'écart de généralisation en dermoscopie, et deux idées réutilisables : la classification en cascade à sensibilité réglable, et l'évaluation systématique de la calibration (ECE) sous décalage de domaine, pas seulement de l'AUC. Il plaide, par l'exemple, pour faire de la validation externe et de la calibration des exigences par défaut plutôt que des bonus.

Pour les cliniciens, rien ne change aujourd'hui dans la pratique. Un modèle qui laisse passer un tiers à une moitié des cancers hors de son domaine d'entraînement, et qui le fait avec une confiance mal calibrée, ne peut pas servir d'outil autonome. Le message pratique est plutôt négatif et précieux : un classifieur entraîné sur ISIC ne doit pas être déployé sur une nouvelle population sans validation et recalibration locales préalables.

Pour les patients et le grand public, c'est un rappel de prudence face aux applications de « dépistage du cancer de la peau » par photo. Un outil qui affiche d'excellents chiffres sur des données internationales peut sous-performer nettement sur une autre population, et un score rassurant n'est pas une garantie. La piste de la sensibilité réglable montre toutefois la direction d'outils de dépistage plus sûrs — calibrés pour préférer attraper les cancers, au prix d'examens supplémentaires — à condition que cet arbitrage soit explicite et validé localement.

Pour aller plus loin

Le preprint complet est disponible sur arXiv (DOI 10.48550/arXiv.2606.13135), déposé le 11 juin 2026 par Elena Kozachok et ses collègues, avec une validation clinique adossée notamment à l'Université Setchenov (Moscou). Les données d'entraînement proviennent de l'archive ISIC, dépôt public d'images dermoscopiques. Pour le cadre clinique du dépistage du mélanome et la lecture critique des outils d'IA en dermatologie, les recommandations des sociétés de dermatologie et les revues consacrées à la validation externe des modèles offrent des points d'entrée fiables.