Entraîner un modèle à contrôler sa chaîne de pensée rend ses objectifs cachés plus durs à repérer, selon une étude

Sur un organisme modèle gpt-oss-20b, un score de surveillabilité passe de 0,94 à 0,68 sans consigne de dissimulation et à 0,22 avec consigne, mais des prompts de transparence ciblés en récupèrent une grande partie.
Pourquoi c’est important
Les laboratoires comptent de plus en plus sur la lecture du raisonnement des modèles pour repérer des objectifs cachés ; la preuve que ce signal peut se dégrader compte donc pour ce plan de sécurité. Les auteurs, dont Tomek Korbak, ont induit cette capacité par un ajustement sur des raisonnements réécrits avec différentes personas, sans exemple d'évasion. L'effet apparaît aussi sur un organisme Kimi-K2.6 en contexte agentique, les tâches cachées longues restant plus visibles. À suivre : la mention de cette contrôlabilité dans les fiches système.
Faits clés
- g-mean² de 0,94 pour le modèle de base
- 0,68 pour l'organisme modèle sans consigne de dissimulation
- 0,22 avec consigne explicite de dissimulation
- Effet observé aussi sur un organisme Kimi-K2.6
- Auteurs dont Tomek Korbak et Miles Wang