Aleph Alpha publie Kolibri, un modèle ouvert allemand-anglais de 78B sous Apache 2.0

Ce modèle à mélange d'experts active 3,46 Md de paramètres par jeton et gère jusqu'à 1M de jetons de contexte, selon sa fiche.

Ce modèle à mélange d'experts active 3,46 Md de paramètres par jeton et gère jusqu'à 1M de jetons de contexte, selon sa fiche.