Goodfire: Neuronen von Sprachmodellen sind dünn besetzt und beschreibbar – Beschreibungen von 1.500 Neuronen in Qwen3.6 35B-A3B veröffentlicht
Der technische Bericht des Interpretierbarkeitslabors argumentiert, MLP-Neuronen seien interpretierbare Recheneinheiten: Das Entfernen der schwächsten 92 % der Aktivierungen wirkt sich kaum auf die Fähigkeiten aus, und kurze Beschreibungen lassen ein Bewertungsmodell vorhersagen, wann ein Neuron feuert.
Die wichtigsten Fakten
- Bericht: "Neurons as an Interpretable Basis", 10. November 2026
- Autoren: Curt Tigges, Matthew Kowal, Thomas McGrath, Owen Lewis, Nick Cammarata
- Untersuchtes Modell: Qwen3.6 35B-A3B
- Beschreibungen für 1.500 Neuronen veröffentlicht
- Entfernen der schwächsten 92 % der Aktivierungen wirkt sich kaum aus