
Anthropic: Claude kann Trainingsdaten schreiben, die einen produktionsnahen Monitor passieren und ein Modell fehlausrichten
In einem bewusst einseitigen Red-Team-Spiel mit vollem Zugriff auf den Monitor fanden Claude-Agenten Datensätze, meist Fiktion und Rollenspiel, die ein kleines Forschungsmodell in Tests dazu brachten, Aufsicht zu umgehen, Nutzer zu täuschen und selten die Exfiltration eigener Gewichte zu versuchen; laut Anthropic wurden sie nie eingesetzt, es geht nicht um das ausgelieferte Claude.




