El equipo de Yann LeCun avanza continuamente en JEPA. Su nuevo estudio revela que el término anticolapso en las arquitecturas predictivas de incrustación conjunta (JEPA) hace más que solo prevenir representaciones triviales: estima implícitamente la densidad de datos. Esto significa que cualquier JEPA entrenado (por ejemplo, I-JEPA, DINOv2 o MetaCLIP) puede calcular las probabilidades de las muestras en forma cerrada utilizando su jacobiano, lo que permite la curación de datos, la detección de valores atípicos y la estimación de la densidad de forma gratuita. Con base en el descubrimiento, introducen JEPA-SCORE: convertir codificadores autosupervisados en estimadores de densidad eficientes y basados en la teoría, sin necesidad de volver a capacitarse.