Convertir la atención de una red en biomarcador: «firmas radiómicas» guiadas por Grad-CAM para clasificar tumores — mejoras marginales, validación clínica apenas por encima del azar

Un equipo de la Universidad de Florida propone un pipeline supuestamente destinado a hacer «interpretable» la clasificación de tumores por IA: una red segmenta el tumor, un mapa de atención Grad-CAM señala sus regiones más salientes, un umbralado por información mutua recorta una «firma» propia de cada paciente, y de ella se extraen variables radiómicas clasificadas por modelos simples y explicadas con SHAP. En las bases públicas de tumores de mama (BUSI) y cerebro (BraTS), añadir esta firma mejora la clasificación — entre 0,2 y 3 puntos de AUC según la red. Pero en la única cohorte clínica real, TC renales de UF Health, todas las redes profundas se quedan pegadas al azar (AUC de 0,49 a 0,59), y el preprint no da ni tamaños de muestra, ni código, ni declaración de financiación o conflictos de interés — lo que vacía de sentido las palabras «validación clínica» del título.

El contexto

La radiómica consiste en extraer de una imagen médica de decenas a cientos de variables cuantitativas — forma de la lesión, estadísticas de intensidad de los píxeles, medidas de textura — para caracterizar un tumor de forma reproducible, más allá del ojo del radiólogo. Desde hace una década, el aprendizaje profundo (redes neuronales de muchas capas) supera a la radiómica clásica en muchas tareas de clasificación, pero a costa de la opacidad: se obtiene una predicción sin saber en qué se apoyó la red. Esta «caja negra» es una barrera real para la adopción clínica, donde el profesional quiere entender por qué un caso se etiqueta como maligno.

Una respuesta habitual es Grad-CAM (Gradient-weighted Class Activation Mapping): un método post-hoc que colorea las regiones de la imagen que más pesaron en la decisión de la red — un mapa de calor de la «atención» del modelo. La apuesta del artículo es ir un paso más allá: convertir ese mapa de atención en un biomarcador de imagen reproducible, es decir, recortar una región precisa del tumor, extraer de ella variables radiómicas interpretables y comprobar que bastan para clasificar. La ambición declarada es doble: «descubrimiento» de firmas y «validación clínica». Es esta segunda promesa la que merece un examen atento.

El método

El pipeline encadena cuatro etapas. Primero la segmentación: dos redes de referencia, nnU-Net y UNETR, delimitan el tumor, y se retiene la unión de sus dos máscaras. Luego se aplica Grad-CAM a la última capa del decodificador para producir un mapa de saliencia. Ese mapa sufre una decaída exponencial con la distancia al centro (el coeficiente se ajusta al radio de la lesión: cuanto más pequeña la lesión, más pronunciada la decaída). Llega entonces la pieza más ingeniosa: un umbralado por información mutua. La información mutua mide cuánto se «parecen» dos mapas en información compartida; aquí se prueban los 256 umbrales posibles del mapa de atención y se conserva aquel cuya región binarizada comparte más información con la máscara de segmentación. Así se obtiene una «firma» propia de cada paciente — la porción del tumor a la vez saliente para la red y coherente con la anatomía segmentada.

De esta región parten dos vías. La primera extrae, mediante la biblioteca PyRadiomics, variables radiómicas clásicas (estadísticas de primer orden, forma, y texturas GLCM, GLRLM, GLSZM), que se dan a cuatro modelos simples — bosque aleatorio, XGBoost, SVM lineal, regresión logística — cuyas decisiones se explican luego con SHAP (un método que atribuye a cada variable su contribución al score). La segunda vía entrena directamente cuatro redes de clasificación (DenseNet121, ResNet50, EfficientNet, ViT) en tres configuraciones de entrada: imagen sola, imagen + máscara, imagen + máscara + firma — para medir lo que aporta la firma.

Se usan cuatro conjuntos de datos. BUSI, ecografías mamarias, para la clasificación benigno/maligno. BraTS, RM cerebrales multimodales (cuatro secuencias), para distinguir glioma y meningioma. KiTS, TC renales, empleado solo para entrenar la segmentación. Y una cohorte privada de UF Health, TC de carcinoma de células renales, para una clasificación benigno/maligno — el único dato clínico real, no procedente de un benchmark público. La evaluación se basa en particiones 80/20 repetidas con distintas semillas aleatorias, cuyo promedio y desviación estándar se reportan. Punto importante para lo que sigue: el preprint no reporta ningún tamaño de muestra — ni número de pacientes, ni de imágenes, ni tamaño de las clases, para ninguno de los cuatro conjuntos.

Los resultados

En las bases públicas, añadir la firma ayuda, pero modestamente. En clasificación profunda, la configuración imagen + máscara + firma es la mejor en 11 de las 12 combinaciones modelo × conjunto. En BraTS, DenseNet alcanza la mejor AUC, 0,960 (F1 = 0,866); las mejoras de la firma van de 0,2 a 3 puntos de AUC según la red. En BUSI, DenseNet sube a 0,883, y el caso más espectacular es el ViT, que pasa de 0,609 (imagen sola) a 0,851 (con la máscara) y luego 0,857 (con la firma) — la mayor parte de la mejora viene de la máscara, no de la firma. En radiómica clásica, las AUC culminan en 0,947 en BraTS (regresión logística) y 0,898 en BUSI (XGBoost), con la firma sumando de 0,6 a casi 11 puntos según el clasificador.

Luego llega la cohorte clínica, y el cuadro se invierte. En los TC renales de UF Health, todas las redes profundas se quedan cerca del azar: la mejor AUC es 0,594 (ResNet, imagen + máscara), y la mayoría de las configuraciones rondan 0,49–0,59. La firma no cambia casi nada (EfficientNet pasa de 0,491 a 0,567; el ViT de 0,546 a 0,588; ResNet incluso baja levemente). Traducción clínica: una AUC de 0,5 significa que, al extraer al azar un tumor benigno y uno maligno, el modelo asigna el score más alto al correcto una vez de cada dos — el rendimiento de una moneda al aire. Los modelos radiómicos simples lo hacen algo mejor en esta cohorte (hasta 0,730 en regresión logística), pero ese mismo contraste — radiómica modesta que se mantiene a flote, aprendizaje profundo al azar — señala sobre todo que aquí nada es estable. Como el artículo no aporta ningún tamaño de muestra, ni siquiera se pueden convertir estas AUC en número de falsos positivos y falsos negativos por cada 1 000 pacientes.

Lo que está bien

Un problema real, y una idea técnica elegante. La interpretabilidad de los clasificadores de tumores es un obstáculo real para su uso clínico, y el artículo lo aborda de frente. El umbralado por información mutua, que elige para cada paciente el recorte del mapa de atención más coherente con la anatomía segmentada, es un mecanismo cuidado y reutilizable — una manera limpia de pasar de un mapa de calor difuso a una región cuantificable.

Una evaluación multiconfiguración, y honesta con las cifras malas. Probar cuatro redes profundas y cuatro modelos radiómicos, en tres tareas, en tres ajustes de entrada, con promedio y desviación estándar sobre particiones repetidas, da una visión matizada del aporte real de la firma. Sobre todo, los autores publican los resultados catastróficos de la cohorte renal en vez de ocultarlos — la AUC de 0,49 figura negro sobre blanco en la tabla principal.

Una advertencia explícita sobre la naturaleza de Grad-CAM. El texto reconoce que Grad-CAM «refleja la atención del modelo más que una verdadera causalidad patológica» y que las regiones destacadas «deben interpretarse con cautela en contextos clínicos». Esta advertencia, rara en una literatura que vende la «IA explicable» como una prueba, es un mérito de los autores.

Lo que está menos bien

La «validación clínica» del título no se sostiene — este es el punto central. Las buenas cifras vienen todas de benchmarks públicos cuidadosamente constituidos (BUSI, BraTS); el único dato clínico real, la cohorte renal de UF Health, se desploma al nivel del azar. Es un sesgo de población de manual: un modelo que brilla en conjuntos limpios y curados pero no generaliza a los TC de hospital corrientes. Titular «Clinical Validation» cuando el resultado clínico es AUC 0,5 es exactamente el tipo de métrica engañosa — aquí, un éxito en benchmark que tapa un fracaso en datos reales — que la lectura crítica debe descubrir.

Erigir la atención Grad-CAM en «biomarcador» invita al shortcut learning. Los mapas Grad-CAM son notoriamente inestables y pueden resaltar un artefacto de adquisición, un borde o un marcador de aparato en vez de la patología. Umbralarlos por información mutua produce una región de aspecto riguroso, pero nada garantiza que capte la biología del tumor y no una correlación parásita. Y las mejoras son escasas (a menudo de 0,2 a 3 puntos, dentro de las desviaciones estándar reportadas): se certifica así como «firma» algo cuyo aporte es pequeño y posiblemente fortuito — y el fracaso en la cohorte renal sugiere precisamente que lo que la red «mira» no se transporta de un conjunto a otro.

Un déficit de transparencia y reproducibilidad difícil de aceptar para un artículo «clínico». No se da ningún tamaño de muestra (imposible saber sobre cuántos pacientes descansa nada), ningún enlace de código, ninguna disponibilidad de datos, ninguna licencia, ninguna declaración de financiación ni de conflictos de interés, y — aunque la cohorte usa TC de pacientes reales — ninguna mención de aprobación ética. Los controles anti-fuga de datos no se describen: solo se sabe que un subconjunto sirve a la segmentación y otro a la clasificación, sin garantía explícita de que un mismo paciente no aparezca en ambos lados. El único comparador es la radiómica «tumor entero»; ninguna confrontación con un pipeline radiómico establecido ni con una base clínica de referencia. A destacar, por último, en la lista de afiliaciones, un coautor adscrito a TikTok — inhabitual para un trabajo de imagen médica, y que hace la ausencia de declaración de intereses aún más lamentable.

Lo que cambia

Para la comunidad de investigación, el aporte neto es una receta reutilizable para convertir un mapa de saliencia en una región de interés radiómica, con un mecanismo de umbralado adaptativo que merece retomarse y probarse. Pero la verdadera lección del artículo es involuntaria: la brecha abismal entre benchmarks públicos (AUC hasta 0,96) y una cohorte hospitalaria real (AUC ≈ 0,5) ilustra, una vez más, que el rendimiento sobre datos curados no dice casi nada del rendimiento clínico. Los pasos creíbles para lo que sigue son conocidos: publicar los tamaños de muestra, garantizar particiones a nivel de paciente, validar en externo y multicéntrico, comparar con una radiómica estándar, y sobre todo estudiar la estabilidad de los mapas Grad-CAM antes de llamarlos «biomarcadores».

Para los clínicos, no hay nada desplegable: en la única tarea clínica probada, la herramienta no supera al azar, y el conjunto sigue siendo un prototipo de investigación no aprobado. Para los pacientes y el público general, el mensaje es de higiene de lectura: la etiqueta «IA interpretable» no significa «IA que funciona». Un bonito mapa de calor coloreado sobre un tumor no es una prueba de que el modelo acierte — muestra dónde miró, no si vio bien. Y una cifra halagüeña en un conjunto de demostración no augura el comportamiento sobre las imágenes de un servicio de radiología real.

Para saber más

El preprint está disponible en arXiv (10.48550/arXiv.2607.03593). Sobre la fiabilidad y la fusión de representaciones en el análisis multimodal del cáncer, véase nuestro decryptage sobre los foundation models en oncología y su confianza; sobre lo que valen realmente los scores explicables por SHAP, el de un SVM interpretado por SHAP en oncología; y sobre la clasificación profunda de tumores cerebrales y sus trampas, el de un modelo TDA-ViT en la RM cerebral.

Transparencia editorial: versión francesa redactada y firmada por la redacción de Tatakoto a partir de la lectura del preprint. Traducciones al inglés, español y chino producidas con asistencia de IA y revisadas.