ER-JEPA : apprendre l'ECG 12 dérivations sans étiquettes — état de l'art sur un benchmark, rien encore de clinique

Un chercheur propose ER-JEPA, un modèle d'apprentissage auto-supervisé qui apprend à représenter l'électrocardiogramme 12 dérivations sans aucune étiquette, en prédisant une partie du signal à partir du reste, via une architecture hiérarchique à deux étages — canaux puis temps — sur base Vision Transformer. Pré-entraîné sur environ 174 000 tracés de 10 secondes issus de bases chinoise et brésilienne, il égale l'état de l'art sur le benchmark ST-MEM et le dépasse en fine-tuning sur PTB-XL (AUC 0,936 en multi-étiquette, 0,943 en multi-classe), le tout sur une seule carte graphique grand public. Mais l'auteur reconnaît un entraînement instable, le code n'est pas encore publié, l'évaluation se limite à deux jeux de test publics, et aucun chiffre n'est traduit en performance clinique.

Le contexte

L'électrocardiogramme (ECG) est l'un des examens les plus fréquents en médecine : rapide, non invasif, produit par millions chaque année. Le paradoxe, pour qui veut entraîner un modèle à le lire, est que les tracés bruts abondent mais que les étiquettes — le diagnostic posé par un cardiologue sur chaque tracé — sont rares et coûteuses. C'est exactement la situation où l'apprentissage auto-supervisé (self-supervised learning, SSL) est utile : on pré-entraîne un modèle sur une grande masse de données sans étiquettes en lui faisant résoudre une tâche « inventée » à partir de la structure du signal (par exemple, prédire une portion masquée), puis on l'ajuste (fine-tuning) sur un petit jeu étiqueté pour la tâche clinique visée.

Deux familles se disputent ce terrain. Les autoencodeurs masqués reconstruisent le signal brut manquant pixel par pixel ou échantillon par échantillon ; le travail de référence pour l'ECG, ST-MEM, appartient à cette lignée. Les JEPA (Joint-Embedding Predictive Architectures), proposées à l'origine pour l'image (I-JEPA), font le pari inverse : prédire non pas le signal manquant mais sa représentation abstraite, ce qui évite au modèle de gaspiller sa capacité à reproduire du bruit. L'article situé ici transpose cette idée à l'ECG.

La méthode

Le modèle s'appelle ER-JEPA (Event Reconstruction Joint-Embedding Predictive Architecture). Sa particularité est d'empiler deux JEPA en cascade, d'où le nom de JEPA hiérarchique (H-JEPA) : un premier module apprend une représentation à travers les douze dérivations (les douze angles de vue du cœur que fournit un ECG standard) sur chaque courte fenêtre de temps ; un second traite ensuite la suite de ces représentations comme une série temporelle. L'ossature est un Vision Transformer (ViT), l'architecture à base d'attention qui découpe l'entrée en fragments et pèse leurs relations. Comme dans I-JEPA, un « encodeur cible » est mis à jour par moyenne mobile exponentielle des poids, et la prédiction se fait dans l'espace des représentations.

Le pré-entraînement mobilise deux grandes bases publiques de tracés 12 dérivations : Chapman-Shaoxing (45 152 enregistrements, collectés au Shaoxing People's Hospital et au Ningbo First Hospital, en Chine) et un sous-échantillon de CODE-15 (extrait de la base brésilienne CODE, réseau de télésanté du Minas Gerais). Après restriction aux tracés de 10 secondes et retrait des enregistrements incomplets, il reste 174 461 tracés (43 561 chinois et 130 900 brésiliens), rééchantillonnés à 250 Hz. L'entraînement dure environ 30 heures sur une seule carte NVIDIA RTX 3090 (24 Go), sur 300 epochs (passages complets sur les données).

L'évaluation suit la méthodologie du benchmark ST-MEM, sur deux jeux de test publics : PTB-XL (base allemande de la Physikalisch-Technische Bundesanstalt) et CPSC2018 (base chinoise). Deux protocoles sont utilisés : le linear probing (on gèle l'encodeur pré-entraîné et on n'entraîne qu'un classifieur linéaire par-dessus — un test de la qualité brute des représentations) et le fine-tuning (on ré-entraîne tout le modèle sur la tâche). Les tâches sont la classification multi-étiquette (plusieurs anomalies possibles par tracé) et multi-classe (une catégorie parmi plusieurs).

Les résultats

Sur le benchmark ST-MEM, ER-JEPA égale l'état de l'art des modèles auto-supervisés à base de transformer sur PTB-XL et CPSC2018. Il le dépasse sur une configuration précise : le fine-tuning sur PTB-XL, avec une AUC de 0,936 en multi-étiquette et 0,943 en multi-classe. L'AUC (aire sous la courbe ROC) mesure la capacité à ordonner correctement un cas positif devant un cas négatif : 0,936 signifie qu'en tirant au hasard un tracé anormal et un tracé normal du jeu de test, le modèle attribue le score le plus élevé au bon tracé environ 94 fois sur 100. L'autre apport revendiqué est l'efficience : à performance comparable, le modèle réduit nettement la mémoire et le temps d'inférence par rapport aux ViT multicanaux concurrents.

Traduction clinique : il n'y en a pas, et c'est un point à énoncer clairement. L'article ne rapporte ni sensibilité ni spécificité à un seuil de décision, ni valeur prédictive, ni décompte de faux positifs et de faux négatifs sur une population donnée, ni courbe de calibration. Une AUC de 0,936 sur un benchmark de classification n'indique pas combien d'infarctus ou d'arythmies seraient manqués ou sur-détectés en pratique : elle situe le modèle dans un classement méthodologique, pas dans un service de cardiologie. C'est une évaluation de la qualité des représentations apprises, pas une mesure d'utilité clinique.

Ce qui est bien

Un vrai problème, une approche cohérente. Exploiter la masse des ECG non étiquetés par auto-supervision répond à une contrainte réelle du domaine. Et la structure à deux étages — d'abord entre les douze dérivations, ensuite dans le temps — épouse la structure même de l'ECG, où l'information vit à la fois dans la comparaison entre dérivations et dans l'évolution du tracé. Le pré-entraînement croise par ailleurs deux populations très différentes (Chine et Brésil) et l'évaluation deux autres (Allemagne et Chine), ce qui met d'emblée le modèle face à une certaine diversité géographique.

Léger, sobre, accessible. Trente heures sur une seule RTX 3090 grand public, une réduction nette de la mémoire et du temps d'inférence : c'est l'inverse des modèles de fondation qui exigent des grappes de GPU. Cette frugalité rend la méthode reproductible par un laboratoire modeste et déployable sur du matériel ordinaire. La licence est CC BY 4.0, permissive, ce qui autorise la réutilisation, y compris commerciale — l'inverse des licences non commerciales qui bloquent tout usage réel.

Une honnêteté rare sur la fragilité de la méthode. L'auteur ne masque pas que l'empilement de deux JEPA rend le modèle sujet à l'effondrement des représentations (le modèle triche en écrasant toutes les sorties vers une constante) et que la performance varie fortement avec la taille de lot, la taille du jeu et la dimension d'embedding. Il documente qu'environ 1 % de 500 essais de pré-entraînement donnent des résultats anormaux. Rapporter ses propres instabilités, au lieu de ne montrer que le meilleur essai, est un réflexe scientifique salutaire.

Ce qui est moins bien

Un benchmark battu n'est pas une utilisation clinique. C'est une métrique trompeuse par omission : toute l'évaluation tient à deux jeux de test publics (PTB-XL, CPSC2018) et à des AUC de classification, souvent sur des tâches multi-étiquettes déséquilibrées où une AUC élevée peut coexister avec beaucoup de faux positifs en valeur absolue. Aucune calibration, aucun seuil opérationnel, aucune validation prospective ni même rétrospective en conditions cliniques réelles. Le papier revendique d'ailleurs surtout « égaler » l'état de l'art ; le dépassement se limite à une seule configuration (fine-tuning PTB-XL).

Une instabilité assumée, et un code encore absent. La sensibilité à l'effondrement des représentations n'est pas qu'une curiosité : elle signifie que le résultat dépend de réglages délicats et qu'un praticien qui relancerait l'entraînement pourrait tomber sur un des essais ratés. Or, au moment de la publication, le code est annoncé comme « bientôt disponible » mais n'est pas fourni, et il s'agit d'un préprint non relu par les pairs, signé d'un seul auteur. Sans code ni poids publiés, la reproductibilité — pourtant le principal argument de frugalité — reste sur parole.

Une généralisation affichée mais non disséquée. C'est un angle mort de type biais de population : malgré l'étendue géographique, aucune analyse par sexe, âge, appareil d'acquisition ou sous-type de pathologie n'est présentée. Les jeux de test sont des benchmarks publics qui partagent des conventions de prétraitement, ce qui facilite le transfert sans prouver la robustesse face à un hôpital, un scanner ECG ou une population réellement inédits. On ne sait donc pas où le modèle décroche, ni pour qui.

Ce que ça change

Pour la communauté de recherche, l'apport est net et circonscrit : une recette d'auto-supervision légère pour séries temporelles multivariées, une idée réutilisable (séparer explicitement l'axe des canaux et l'axe du temps), et un signalement honnête d'une instabilité que d'autres rencontreront. Le seul juge crédible de la suite sera la publication du code et une évaluation qui sorte du benchmark : sensibilité, spécificité et calibration sur une cohorte clinique externe, idéalement inédite.

Pour les cliniciens, il n'y a rien à déployer aujourd'hui : outil de recherche, évalué sur benchmark, non validé, non approuvé, au comportement encore fragile. Pour les patients et le grand public, la nuance est la même que pour tous les « modèles de fondation » ECG : à terme, apprendre à lire l'ECG sans dépendre d'un stock d'étiquettes annotées par des experts pourrait rendre l'analyse automatisée moins chère et plus disponible — mais on parle ici de recherche en amont, pas d'un produit, et l'AUC mise en avant décrit un classement sur benchmark, pas une performance diagnostique au lit du patient.

Pour aller plus loin

Le préprint est disponible sur arXiv (2607.01145). Sur la lecture automatisée de l'ECG en conditions cliniques, voir notre décryptage d'un modèle de deep learning appliqué à l'image d'ECG aux urgences ; sur la prédiction d'arythmie à partir d'un ECG portable, celui d'un modèle personnalisé de prédiction de fibrillation atriale ; et sur ce que valent réellement les représentations de modèles auto-supervisés une fois sondées, celui d'un probing de modèles de fondation en oncologie.

Transparence éditoriale : version française rédigée et signée par la rédaction de Tatakoto à partir de la lecture du préprint. Traductions anglaise, espagnole et chinoise produites avec assistance IA et relues.