Goodfire concluye que las neuronas de los modelos de lenguaje son dispersas y descriptibles y publica descripciones de 1.500 neuronas de Qwen3.6 35B-A3B
El informe técnico del laboratorio de interpretabilidad sostiene que las neuronas MLP son unidades de cómputo interpretables: eliminar el 92% de activaciones más débiles apenas afecta a las capacidades y descripciones breves permiten a un modelo juez predecir cuándo se activa una neurona.
Datos clave
- Informe: "Neurons as an Interpretable Basis", 10 de noviembre de 2026
- Autores: Curt Tigges, Matthew Kowal, Thomas McGrath, Owen Lewis, Nick Cammarata
- Modelo estudiado: Qwen3.6 35B-A3B
- Descripciones publicadas de 1.500 neuronas
- Eliminar el 92% de activaciones más débiles tiene efectos modestos