丰田供应商爱信展示将模型权重和操作系统存于片上 MRAM 的 AI 芯片
该芯片与东北大学合作、采用 16 纳米工艺,65.7 毫秒即可启动内核并运行 Tiny YOLOv3;爱信未说明是否及何时量产。
为何重要
多数边缘 AI 芯片需从外部 DRAM 读取模型权重,在 DRAM 价格高企之际增加了数据传输、功耗和成本。爱信的系统级芯片将权重和操作系统放入内置 STT-MRAM,并采用 8 位与 16 位混合乘法,将模型权重数据减少 53%,从 17.7MB 降至 9.36MB。内核启动速度比使用外部内存快 38 倍。该设计面向汽车和机器人中的小型视觉模型而非大语言模型;需关注其是否承诺量产。
要点
- 16 纳米 FinFET 系统级芯片,内置 STT-MRAM
- 65.7 毫秒启动内核,快 38 倍
- 权重数据减少 53%,从 17.7MB 降至 9.36MB
- 与东北大学合作开发