L'équipe de Yann LeCun fait continuellement progresser JEPA. Leur nouvelle étude révèle que le terme anti-effondrement dans les Architectures Prédictives d'Embedding Commun (JEPA) fait plus que simplement prévenir des représentations triviales — il estime implicitement la densité des données. Cela signifie que tout JEPA entraîné (par exemple, I-JEPA, DINOv2 ou MetaCLIP) peut calculer les probabilités d'échantillons sous forme fermée en utilisant son Jacobien — permettant la curation de données, la détection d'anomalies et l'estimation de densité gratuitement. Sur la base de cette découverte, ils introduisent JEPA-SCORE : transformant les encodeurs auto-supervisés en estimateurs de densité efficaces et fondés sur la théorie — sans nécessiter de réentraînement.