インドのIndiaAI Mission、国産基盤モデル3種「EKA-1」「Dhīr 2B」「Dhīr 5B」を公開
MeitYによると、EKA-1は数学・コード・推論向けの260億パラメータモデル。ZenteiQのDhīrはスマートフォン上でオフライン動作し、重みはApache 2.0で公開される。
なぜ重要か
これらは、国内チームに補助付きの国家計算資源を提供するIndiaAI Missionの基盤モデル部門から出た最初期の成果だ。当局は最大級のフロンティアモデルと競うより、政府や企業のエアギャップ・オフライン環境での導入を強調した。EKA-1は7.5兆トークンで学習し100以上の言語に対応、DhīrはGoogle CloudのTPUでゼロから学習し英語と10のインド言語に対応する。同じ火曜にはSarvamがPrismを公開した。重みがAIKoshで公開された後の独立評価が注目される。
要点
- EKA-1:260億パラメータ、7.5兆トークンで学習
- EKA-1は100以上の言語に対応
- Dhīr 2Bと5BはGoogle CloudのTPUで学習した混合エキスパートモデル
- Dhīrは英語と10のインド言語に対応し、スマートフォンでオフライン動作
- Dhīrの重みはApache 2.0でAIKoshから公開
- 11月3日にMeitYのS. Krishnan次官が発表