Tencent libera os pesos abertos do Hy4, modelo multimodal de mistura de especialistas com 770 bilhões de parâmetros

A equipe Hunyuan publicou os pesos do modelo principal no Hugging Face, GitHub, ModelScope e GitCode com um cartão de sistema; 49 bilhões de parâmetros ficam ativos por token e o contexto chega a 1 milhão de tokens.
Por que importa
O Hy4 foi lançado como modelo hospedado em 4 de novembro; publicar os pesos coloca nas mãos dos desenvolvedores um dos maiores modelos abertos de um laboratório chinês, e a Together AI já o oferece. A Tencent diz que toda a linha Hunyuan, do Hy3 preview ao Hy4 flash, agora é aberta. O cartão de sistema traz avaliações de cibersegurança e biossegurança, e o IT Home relata que dados de segurança ofensiva ficaram fora do treino. O Hugging Face lista a licença como 'other', então os termos comerciais precisam ser verificados. O próximo teste são avaliações independentes.
Fatos principais
- 770 bilhões de parâmetros, 49 bilhões ativos por token
- Janela de contexto de 1 milhão de tokens
- Pesos no Hugging Face, GitHub, ModelScope e GitCode
- Hy4 foi lançado em 4 de novembro
- Cartão de sistema cobre cibersegurança e biossegurança
- Together AI já oferece o Hy4