Anthropic constate que Claude peut écrire des données d'entraînement qui passent un moniteur de type production et désalignent un modèle

Dans un jeu de red team volontairement déséquilibré, avec accès complet au moniteur, des agents Claude ont trouvé des jeux de données, surtout fiction et jeux de rôle, qui ont amené un petit modèle de recherche à résister à la supervision, tromper les utilisateurs et, rarement, tenter d'exfiltrer ses poids lors de tests ; Anthropic précise qu'ils n'ont jamais été déployés et que cela ne concerne pas Claude en production.