Kakao、エージェント向けに確率・選択・スコアを出力するマルチモーダルモデルKanana-2-v-decideをオープンソース化

Kakaoは、NVIDIA H200 1基で応答0.04秒未満、自社測定でGPT-6 Lunaの約43倍高速としているが、ベンチマークは同社のもので第三者検証はない。
なぜ重要か
エージェントはどのツールを呼ぶか、どの情報源を信頼するか、次に何をするかを繰り返し判断し、現状は選択のたびに汎用言語モデルに文章を書かせることが多い。Kakaoの公開はこのループを狙い、文章でなく構造化された確率・選択・スコアを返すモデルを提供する。速度とベンチマークの数値はKakao自社のKanana Decision Benchと公開のDecision Indexによるため、第三者テストと他社が追随するかが焦点となる。
要点
- 11月6日にHugging Faceでオープンソース公開
- NVIDIA H200 1基で平均応答0.04秒未満
- Kakaoの測定でGPT-6 Lunaの約43倍高速
- Kanana Decision Bench:72.62、Microsoft Decision-1は71.98
- Decision Index:3Bモデルは61.35