開発者がQwen3.5-4Bの重みにベクトルユニットを組み込み、モデル内部で小型Llamaを実行

QwenPUはQwenputerプロジェクトのコンパイル済みRISC-V CPUにベクトルユニットを加え、Karpathyの26万パラメータのstories260KをCプログラムとして順伝播中に実行する。新しい重みは学習によらず、開発中の26.7GBのチェックポイントを丸ごと読み込むには40GB以上のGPUが必要。