Cas rares en médecine : entraîner un LLM à choisir la prochaine action, pas seulement le diagnostic final

Ofir Ben Shoham, Oriel Perets, Nir Grinberg et Nadav Rappoport (Ben-Gurion University of the Negev) partent d'un constat simple : la plupart des tests qui évaluent les modèles de langage en médecine ne notent que le diagnostic final, alors que la vraie médecine se joue dans une suite de décisions intermédiaires — quel examen demander ensuite, quelle imagerie obtenir, quel spécialiste appeler. Ils construisent MedUPSQA, un jeu de 21 874 « points de décision » extraits de 5 535 cas cliniques rares réels, puis entraînent des modèles à prédire la prochaine action au fil de l'arrivée des informations ; cette réorientation fait passer la justesse de 55,2 à 66,7 % sur leur meilleur modèle, et — résultat plus parlant — un petit modèle aligné dépasse de plus gros modèles de pointe. La leçon n'est pas le score : c'est qu'apprendre à raisonner « en cours de route » compte plus que la taille du modèle — à condition de regarder de près qui décide de la bonne réponse.

Le contexte

Depuis trois ans, les grands modèles de langage (large language models, ou LLM — des systèmes entraînés à produire du texte à partir d'une consigne) sont mesurés en médecine par des batteries de questions à choix multiple : USMLE, questions d'internat, vignettes standardisées. Ces tests partagent un défaut structurel : ils présentent le cas complet d'un bloc et ne notent qu'une seule chose, le diagnostic final. Or un clinicien ne rencontre presque jamais un patient « d'un bloc ». Il reçoit une plainte, pose une question, obtient un résultat, en tire une décision, puis recommence. L'essentiel de la médecine tient dans cette chaîne d'actions intermédiaires — la prochaine analyse, la prochaine imagerie, le bon spécialiste — bien avant qu'un diagnostic soit posé.

Le problème s'aggrave sur les cas rares et « hors protocole » : présentations atypiques, maladies peu fréquentes, réponses inattendues aux traitements. C'est précisément là que les guidelines cliniques ne s'appliquent plus et que le raisonnement pas à pas devient décisif. La même équipe avait déjà exploré ce terrain avec CUPCase (AAAI 2025), un jeu de cas cliniques rares tirés de la littérature pour tester les LLM sur autre chose que des questions d'examen. MedUPS prolonge cette ligne, mais déplace la cible : non plus « quel est le diagnostic ? », mais « que faut-il faire maintenant, avec l'information disponible à cet instant ? ».

La méthode

Les auteurs partent de 5 535 comptes rendus de cas cliniques réels et les découpent en « morceaux » chronologiques qui s'accumulent : le premier segment ne contient que les premiers éléments (motif, antécédents), puis chaque segment suivant ajoute une information (un examen, un résultat, une évolution). À chaque frontière entre deux segments, on définit un point de décision : sachant tout ce qui précède, quelle est la prochaine action pertinente ? Ce découpage produit MedUPSQA, 21 874 points de décision « en cours de route » (mid-stream). La cible n'est donc pas une étiquette diagnostique unique, mais l'action attendue à ce stade — l'examen à demander, l'imagerie à obtenir, le spécialiste à impliquer, la piste différentielle à poursuivre.

Pour aligner les modèles sur cette tâche, l'équipe utilise l'apprentissage par renforcement, plus précisément GRPO (Group Relative Policy Optimization) : au lieu d'imposer une réponse de référence, on fait produire au modèle plusieurs réponses candidates à la même situation, on les classe, et on pousse le modèle vers les mieux notées. La note vient d'un « juge » — un autre modèle de langage (LLM-as-a-Judge) qui compare la réponse proposée à ce qui s'est réellement passé dans le cas et attribue une récompense. En parallèle, les auteurs entraînent des versions par apprentissage supervisé classique (supervised fine-tuning, SFT), qui apprend directement à reproduire la prochaine action documentée, pour vérifier que le gain ne tient pas seulement à la mécanique du renforcement. Trois modèles de base (backbones) sont testés : Qwen3.6-27B, Qwen3.5-9B et HuatuoGPT-3-8B, un modèle spécialisé médical. La métrique principale est la justesse de la prochaine étape (next-step accuracy), c'est-à-dire la proportion de points de décision où l'action proposée est jugée correcte, avec intervalles de confiance à 95 %.

Les résultats

L'alignement mi-parcours améliore les trois modèles de façon nette. La justesse de la prochaine étape passe de 55,2 à 66,7 % pour Qwen3.6-27B, de 47,2 à 57,8 % pour Qwen3.5-9B, et de 37,8 à 44,4 % pour HuatuoGPT-3-8B. Le gain est de l'ordre de dix points pour les deux premiers, plus modeste pour le modèle médical le plus petit. Les versions SFT progressent elles aussi au-dessus de la base, ce qui indique, selon les auteurs, que le signal vient de la tâche elle-même — apprendre la prochaine décision — et pas seulement de l'optimiseur par renforcement.

Le résultat le plus intéressant n'est pas le score absolu mais une comparaison : sur plusieurs échelles de modèles, l'objectif d'alignement améliore la justesse davantage que la taille. Autrement dit, un modèle plus petit mais aligné sur le raisonnement pas à pas dépasse de plus gros modèles de pointe évalués tels quels. Pour un domaine où la course à la taille domine, c'est un signal utile : la manière d'entraîner peut compter plus que le nombre de paramètres.

Traduit en termes cliniques, il faut garder la tête froide. Même le meilleur modèle aligné se trompe encore environ une fois sur trois : sur 100 décisions intermédiaires, il en manque à peu près 33. Et ces erreurs surviennent sur des cas rares, exactement le terrain où une mauvaise « prochaine action » — un examen inutile, une imagerie qui retarde, un mauvais adressage — coûte le plus cher en temps diagnostique. Un chiffre de 66,7 % de justesse n'est donc pas un feu vert : c'est un progrès mesurable sur un problème encore largement ouvert.

Ce qui est bien

Un recadrage juste de la tâche, opérationnalisé à grande échelle. Passer du diagnostic final à la prochaine action colle bien mieux à la réalité du soin, où l'information arrive par bribes. Les auteurs ne se contentent pas de l'affirmer : ils transforment 5 535 cas en 21 874 points de décision chronologiques, ce qui donne un jeu de données substantiel pour entraîner et mesurer ce raisonnement séquentiel, là où les benchmarks classiques ne notent qu'un point d'arrivée.

L'alignement bat la taille — et l'ablation le confirme. Montrer qu'un petit modèle aligné dépasse de plus gros modèles de pointe est un résultat spécifique et économiquement parlant. Surtout, l'ajout d'une variante SFT est une bonne hygiène expérimentale : puisque l'apprentissage supervisé améliore aussi les trois modèles, le gain n'est pas un artefact du renforcement, il vient de la cible d'entraînement elle-même. C'est le genre de contrôle qui distingue une démonstration d'un effet de vitrine.

Une publication ouverte et reproductible. Le jeu de données, le code et les modèles alignés (checkpoints) sont diffusés sous licence CC BY 4.0, la plus permissive. Dans un champ où beaucoup de « modèles cliniques » restent fermés ou sous licence non commerciale, cette ouverture permet la réplication, la critique et la réutilisation — et prolonge de façon transparente leur travail antérieur (CUPCase).

Ce qui est moins bien

Un juge qui note et qui récompense : la métrique trompeuse guette. Le même type d'outil — un LLM-as-a-Judge — sert à la fois de signal de récompense pendant l'entraînement et, de fait, de définition de la « bonne réponse ». Deux risques classiques se combinent. D'abord le reward hacking : un modèle entraîné à plaire à un juge automatique peut apprendre à produire des réponses qui satisfont le juge sans être cliniquement meilleures. Ensuite la circularité : une « justesse » définie par un modèle de langage n'est pas une justesse validée par des cliniciens. Tant que la prochaine action n'est pas adjugée par des médecins indépendants, le chiffre de 66,7 % mesure d'abord un accord avec un juge algorithmique.

Une vérité de terrain fragile, et un risque de fuite de données. La « bonne » prochaine action est celle qui a effectivement été documentée dans le compte rendu de cas. Or un cas publié raconte un seul chemin, souvent choisi rétrospectivement parce qu'il a mené au bon diagnostic ; d'autres actions raisonnables se voient alors comptées comme fausses. S'y ajoute un mode d'échec propre à l'IA-santé rarement discuté ici : le data leakage. Les comptes rendus de cas de la littérature ont de bonnes chances d'être déjà présents dans les données d'entraînement des modèles de base (Qwen, HuatuoGPT) ; sans procédure de décontamination explicite, une partie de la performance pourrait refléter de la mémorisation plutôt que du raisonnement.

Un corpus curé, sans bruit clinique réel, et zéro validation prospective. Les cas rares publiés sont fortement sélectionnés : biais de publication (on publie l'instructif, le résolu, le spectaculaire), domination de l'anglais, absence du désordre d'un vrai dossier (informations manquantes, contradictoires, mal saisies). Un modèle peut aussi apprendre le style des comptes rendus — la manière dont les auteurs annoncent la suite — plutôt que la clinique elle-même (shortcut learning). Enfin, tout se passe sur du texte rétrospectif : aucune évaluation prospective, aucun clinicien dans la boucle, aucun déploiement réel. La performance en conditions réelles reste inconnue.

Ce que ça change

Pour la communauté de recherche, le message méthodologique est net : il faut noter le processus, pas seulement le point d'arrivée. MedUPSQA fournit un gabarit réutilisable pour évaluer le raisonnement séquentiel, et l'ablation SFT montre que le gain tient à la tâche. Les prochaines étapes évidentes sont une adjudication par des cliniciens indépendants (plutôt qu'un juge modèle), une décontamination explicite vis-à-vis des données de pré-entraînement, et un passage sur de vrais dossiers plutôt que sur des cas de littérature.

Pour les cliniciens, rien ne change dans la pratique aujourd'hui : c'est une étude de benchmark et d'alignement sur des comptes rendus, pas un outil déployé. Mais elle dessine une direction — des assistants qui suggèrent la « prochaine action » plutôt qu'un diagnostic — et une mise en garde : un modèle qui recommande avec assurance le prochain examen peut se tromper une fois sur trois sur les cas rares, ceux-là mêmes où l'on serait tenté de lui faire confiance.

Pour les patients et le grand public, la lecture est sobre. Bien répondre sur des cas rares soigneusement rédigés n'est pas la même chose qu'aider un vrai patient dans un vrai parcours de soins. Le cadrage « prochaine décision » est prometteur parce qu'il colle à la façon dont la médecine se pratique, mais il reste loin du chevet du malade. Et si de tels systèmes finissaient par orienter des décisions de prise en charge, ils relèveraient d'un encadrement réglementaire au titre de dispositif médical logiciel — pas d'un simple assistant conversationnel.

Pour aller plus loin

Le preprint est disponible sur arXiv (DOI 10.48550/arXiv.2608.01012), sous licence CC BY 4.0 ; les auteurs annoncent la diffusion du jeu de données MedUPSQA, du code et des modèles alignés. Pour le contexte, voir leur travail antérieur CUPCase (Clinically Uncommon Patient Cases and Diagnoses, AAAI 2025) sur l'évaluation des LLM à partir de cas cliniques rares, ainsi que la littérature sur GRPO et sur les limites de l'évaluation par LLM-as-a-Judge.