トヨタ系のアイシン、モデルの重みとOSをオンチップMRAMに格納するAIチップを公開

なぜ重要か

多くのエッジAIチップは外部DRAMから重みを読み出すため、DRAMが高騰する中で通信量、電力、コストが増える。アイシンのSoCは重みとOSを内蔵STT-MRAMに置き、8ビットと16ビットの混合乗算によって重みデータを17.7MBから9.36MBへ53%削減した。カーネル起動は外部メモリ使用時の38倍速い。対象は大規模言語モデルではなく車やロボット向けの小型画像認識モデルで、量産の判断が焦点となる。