PT ▾
SNAPE REP RT Primeira página →
ConfirmadoFronteira20 de nov., 02:52 UTC

Tencent libera os pesos abertos do Hy4, modelo multimodal de mistura de especialistas com 770 bilhões de parâmetros

File photo of Tencent's Seafront Towers headquarters in Shenzhen, December 2020.
File photo: Charlie fong / Wikimedia Commons (CC BY-SA 4.0)

A equipe Hunyuan publicou os pesos do modelo principal no Hugging Face, GitHub, ModelScope e GitCode com um cartão de sistema; 49 bilhões de parâmetros ficam ativos por token e o contexto chega a 1 milhão de tokens.

Ler em Tencent Hunyuan (Hugging Face) Compartilhar

Por que importa

O Hy4 foi lançado como modelo hospedado em 4 de novembro; publicar os pesos coloca nas mãos dos desenvolvedores um dos maiores modelos abertos de um laboratório chinês, e a Together AI já o oferece. A Tencent diz que toda a linha Hunyuan, do Hy3 preview ao Hy4 flash, agora é aberta. O cartão de sistema traz avaliações de cibersegurança e biossegurança, e o IT Home relata que dados de segurança ofensiva ficaram fora do treino. O Hugging Face lista a licença como 'other', então os termos comerciais precisam ser verificados. O próximo teste são avaliações independentes.

Fatos principais

  • 770 bilhões de parâmetros, 49 bilhões ativos por token
  • Janela de contexto de 1 milhão de tokens
  • Pesos no Hugging Face, GitHub, ModelScope e GitCode
  • Hy4 foi lançado em 4 de novembro
  • Cartão de sistema cobre cibersegurança e biossegurança
  • Together AI já oferece o Hy4

Fontes

Mais sobre Fronteira
Mais do Snape ReportPrimeira página →