ES ▾
SNAPE REP RT Portada →
ConfirmadoFrontera20 nov, 02:52 UTC

Tencent publica los pesos abiertos de Hy4, un modelo multimodal MoE de 770.000 millones de parámetros

File photo of Tencent's Seafront Towers headquarters in Shenzhen, December 2020.
File photo: Charlie fong / Wikimedia Commons (CC BY-SA 4.0)

El equipo Hunyuan subió los pesos del modelo insignia a Hugging Face, GitHub, ModelScope y GitCode junto a una ficha de sistema; activa 49.000 millones de parámetros por token y admite un millón de tokens de contexto.

Leer en Tencent Hunyuan (Hugging Face) Compartir

Por qué importa

Hy4 se lanzó como modelo alojado el 4 de noviembre; publicar los pesos pone en manos de los desarrolladores uno de los mayores modelos abiertos de un laboratorio chino, y Together AI ya lo sirve. Tencent afirma que toda la línea Hunyuan, de Hy3 preview a Hy4 flash, es ya abierta. La ficha de sistema recoge evaluaciones de ciberseguridad y bioseguridad, e IT Home informa de que se excluyeron datos de seguridad ofensiva del entrenamiento. Hugging Face indica la licencia como 'other', así que conviene revisar las condiciones comerciales. La prueba siguiente son las evaluaciones independientes.

Datos clave

  • 770.000 millones de parámetros, 49.000 millones activos por token
  • Ventana de contexto de 1 millón de tokens
  • Pesos en Hugging Face, GitHub, ModelScope y GitCode
  • Hy4 se lanzó el 4 de noviembre
  • La ficha de sistema cubre ciberseguridad y bioseguridad
  • Together AI ya sirve Hy4

Fuentes

Más sobre Frontera
Más de Snape ReportPortada →