Tencent veröffentlicht offene Gewichte von Hy4, einem multimodalen Mixture-of-Experts-Modell mit 770 Mrd. Parametern

Das Hunyuan-Team stellte die Gewichte des Flaggschiffs samt Systemkarte auf Hugging Face, GitHub, ModelScope und GitCode; pro Token sind 49 Mrd. Parameter aktiv, der Kontext reicht bis 1 Million Token.
Warum es wichtig ist
Hy4 startete am 4. November als gehostetes Modell; mit den Gewichten erhalten Entwickler eines der größten offenen Modelle eines chinesischen Labors, und Together AI bietet es bereits an. Laut Tencent ist nun die gesamte Hunyuan-Reihe von Hy3 preview bis Hy4 flash offen. Die Systemkarte enthält Bewertungen zu Cyber- und Biosicherheit; IT Home berichtet, offensive Sicherheitsdaten seien aus dem Training ausgeschlossen worden. Hugging Face führt die Lizenz als „other“, die kommerziellen Bedingungen sind also zu prüfen. Als Nächstes zählen unabhängige Benchmarks.
Die wichtigsten Fakten
- 770 Mrd. Parameter, 49 Mrd. aktiv pro Token
- Kontextfenster von 1 Million Token
- Gewichte auf Hugging Face, GitHub, ModelScope und GitCode
- Hy4 erschien erstmals am 4. November
- Systemkarte mit Cyber- und Biosicherheitsbewertung
- Together AI bietet Hy4 an