ByteDance Seed、Hugging Faceで9B連続潜在言語モデルCola2を公開
モデルカードは3460.3億ソーストークン学習、8タスク平均60.10、潜在DiTは未収束と記載。trust_remote_codeが必要。
なぜ重要か
ByteDance Seedは2026年11月6日にHugging FaceでCola2を公開。約90億パラメータのベースモデルで、連続潜在表現で計画しDiTで生成してからトークンへ復号する。
要点
- Hugging Face repo ByteDance-Seed/Cola2 created 2026-11-06T06:59:36Z
- ≈9B params; trained on 346.03B source tokens
- Reported 60.10 average across eight evaluation tasks
- Architecture: compression VAE + block-causal DiT + token decoder
- Requires trust_remote_code; base model, not instruction-tuned