Balestriero und LeCun beweisen, dass auf verschiedenen Modalitäten trainierte JEPAs bis auf eine Rotation dieselbe Repräsentation lernen

Das arXiv-Paper macht die Platonic Representation Hypothesis unter genannten Annahmen zum Theorem und berichtet, dass ein Text-JEPA mit 109M Parametern besser mit den Bildencodern von DINOv2 und CLIP übereinstimmt als jedes getestete Sprachmodell bis 72B; es ist nicht begutachtet.