La IndiaAI Mission presenta tres modelos fundacionales propios: EKA-1, Dhīr 2B y Dhīr 5B
MeitY dice que EKA-1 es un modelo de 26.000 millones de parámetros para matemáticas, código y razonamiento, y que los modelos Dhīr de ZenteiQ funcionan sin conexión en móviles y se publican con pesos Apache 2.0.
Por qué importa
Son de los primeros lanzamientos del pilar de modelos fundacionales de la IndiaAI Mission, que da a equipos nacionales cómputo público subvencionado. Los responsables destacaron su uso en entornos aislados y sin conexión para gobierno y empresas, más que competir con los mayores modelos de frontera. EKA-1 se entrenó con 7,5 billones de tokens y cubre más de 100 idiomas; los Dhīr se entrenaron desde cero en TPU de Google Cloud y admiten inglés y 10 lenguas indias. Llegan tras el lanzamiento de Prism de Sarvam el mismo martes. Habrá que ver pruebas independientes cuando los pesos estén en AIKosh.
Datos clave
- EKA-1: 26.000 millones de parámetros, entrenado con 7,5 billones de tokens
- EKA-1 admite más de 100 idiomas
- Dhīr 2B y 5B son modelos de mezcla de expertos entrenados en TPU de Google Cloud
- Dhīr admite inglés y 10 lenguas indias y funciona sin conexión en móviles
- Pesos de Dhīr publicados con licencia Apache 2.0 en AIKosh
- Anunciado por el secretario de MeitY S. Krishnan el 3 de noviembre