AISIN, fornecedora da Toyota, mostra chip de IA que guarda os pesos do modelo e o sistema operacional em MRAM integrada
Desenvolvido com a Universidade de Tohoku em 16 nm, o chip inicia o kernel em 65,7 milissegundos e roda Tiny YOLOv3; a AISIN não disse se nem quando chegará à produção.
Por que importa
A maioria dos chips de IA de borda lê os pesos da DRAM externa, o que adiciona tráfego, consumo e custo num momento de DRAM cara. O SoC da AISIN coloca pesos e sistema operacional em STT-MRAM integrada, e um esquema misto de multiplicação de 8 e 16 bits reduziu os dados de pesos em 53%, de 17,7 MB para 9,36 MB. A inicialização do kernel é 38 vezes mais rápida que com memória externa. O alvo são modelos de visão pequenos em carros e robôs, não grandes modelos de linguagem; vale observar um compromisso de produção.
Fatos principais
- SoC FinFET de 16 nm com STT-MRAM integrada
- Inicialização do kernel em 65,7 ms, 38 vezes mais rápida
- Dados de pesos reduzidos 53%, de 17,7 MB para 9,36 MB
- Desenvolvido com a Universidade de Tohoku