Des chercheurs de Microsoft piègent un agent d'IA en modifiant moins de 10 neurones dormants, sans entraînement
La technique, baptisée Lazarus, laisse le modèle réussir les évaluations standard jusqu'à ce qu'un déclencheur, comme un changement de date, pousse l'agent à télécharger et exécuter le code d'un attaquant ; Microsoft estime que la détection exige une comparaison avec les poids d'origine.
Pourquoi c’est important
La découverte compte parce que de nombreuses entreprises font tourner des modèles à poids ouverts dans des agents capables d'utiliser des terminaux et des outils. Selon Microsoft, la modification ne demande aucun réentraînement : une copie altérée peut ressembler à l'originale et passer les mêmes tests. L'entreprise y voit un logiciel compromis plutôt qu'une menace nouvelle, et affirme que des agents de pointe repèrent ces modifications de poids si on le leur demande, sans qu'aucune analyse prouve qu'un modèle est sûr. À suivre : l'adoption de poids signés et de contrôles de provenance par les plateformes, que Microsoft dit développer pour Foundry.
Faits clés
- Nom de la technique : Lazarus
- Moins de 10 neurones dormants reprogrammés
- Aucun entraînement nécessaire
- Exemple de déclencheur : passage à minuit en 2027
- Une détection fiable exige une comparaison avec les poids d'origine
- Chercheur : Dimitris Papailiopoulos, Microsoft Research