Balestriero et LeCun prouvent que des JEPA entraînés sur des modalités différentes apprennent la même représentation à une rotation près

L'article arXiv transforme l'hypothèse de la représentation platonicienne en théorème sous des hypothèses explicites et indique qu'un JEPA textuel de 109M paramètres s'aligne sur les encodeurs d'images DINOv2 et CLIP mieux que tous les modèles de langage testés jusqu'à 72B ; il n'a pas été relu par des pairs.