MIT-CSAIL-Forscher: GPT-6 Astra reparierte Qwen3.5-0.8B durch Ändern von 0,016 % der Gewichte – ohne Training
In einem Blogbeitrag mit nach Angaben der Autoren sehr frühen Ergebnissen las GPT-6 Astra rohe Gewichte, fand Qwens Denkschleifen und behob sie direkt: MATH-500 stieg von 7,9 % auf 48,1 %, IFEval verdreifachte sich; nicht peer-reviewt.
Warum es wichtig ist
Um das Verhalten eines neuronalen Netzes zu ändern, brauchte man bisher gradientenbasiertes Training oder ein Spezialwerkzeug. Dieser Beitrag berichtet, dass ein allgemeines Frontier-Modell per Klartext-Anweisung rohe Gewichte lesen, die Aufgabe eines Netzes erkennen, einen in Qwens eigener Modellkarte genannten Fehler diagnostizieren und ihn direkt beheben kann. Die Autoren betonen, dass die Ergebnisse sehr früh sind und als Blogbeitrag statt als Paper erscheinen, haben aber die vollständigen Traces auf GitHub veröffentlicht. Abzuwarten sind unabhängige Replikationen sowie der angekündigte Benchmark und das Harness.
Die wichtigsten Fakten
- GPT-6 Astra änderte 0,016 % der Gewichte von Qwen3.5-0.8B
- MATH-500 stieg bei gleichen Sampling-Einstellungen von 7,9 % auf 48,1 %
- IFEval verdreifacht
- Keine Gradienten, keine Trainingsschleifen
- Astra erkannte anhand der Gewichte das Spiel aller vier PPO-trainierten Netze
- Hauptautor Rikiya Takehi: MIT CSAIL