Das Team von Yann LeCun entwickelt JEPA kontinuierlich weiter. Ihre neue Studie zeigt, dass der Anti-Kollaps-Term in Joint Embedding Predictive Architectures (JEPAs) mehr tut, als nur triviale Darstellungen zu verhindern – er schätzt implizit die Datendichte. Das bedeutet, dass jedes trainierte JEPA (z. B. I-JEPA, DINOv2 oder MetaCLIP) die Wahrscheinlichkeiten von Proben in geschlossener Form unter Verwendung seiner Jacobian berechnen kann – was Datenkuratierung, Ausreißererkennung und Dichteschätzung kostenlos ermöglicht. Basierend auf dieser Entdeckung führen sie JEPA-SCORE ein: Selbstüberwachte Encoder in effiziente, theoriegestützte Dichteschätzer umzuwandeln – ohne erneutes Training erforderlich.