Microsoft-Forscher bauen eine Hintertür in einen KI-Agenten ein, indem sie weniger als 10 ruhende Neuronen ändern, ganz ohne Training
Mit der Lazarus genannten Technik besteht das Modell Standardtests, bis ein Auslöser wie ein Datumswechsel den Agenten Code eines Angreifers herunterladen und ausführen lässt; laut Microsoft braucht die Erkennung einen Abgleich mit den Originalgewichten.
Warum es wichtig ist
Der Befund ist wichtig, weil viele Firmen Open-Weight-Modelle in Agenten betreiben, die Terminals und Werkzeuge nutzen. Laut Microsoft braucht der Eingriff kein Nachtraining, sodass eine manipulierte Kopie wie das Original aussieht und Tests besteht. Microsoft wertet das als kompromittierte Software statt als neue Bedrohungsklasse und sagt, führende Agenten erkennen solche Gewichtsänderungen auf Nachfrage, wobei kein Scan die Sicherheit eines Modells beweist. Zu beobachten ist, ob Modell-Hubs und Cloud-Plattformen signierte Gewichte und Herkunftsprüfungen einführen, die Microsoft nach eigenen Angaben für Foundry entwickelt.
Die wichtigsten Fakten
- Name der Technik: Lazarus
- Weniger als 10 ruhende Neuronen umprogrammiert
- Kein Training nötig
- Beispiel-Auslöser: Uhr springt um Mitternacht ins Jahr 2027
- Zuverlässige Erkennung erfordert Abgleich mit Originalgewichten
- Forscher: Dimitris Papailiopoulos, Microsoft Research