Nadella qualifie la sûreté de l'IA de « science expérimentale » et veut traiter les modèles comme un risque interne
Par vidéo lors d'un sommet de la Commonwealth Bank à Sydney, le PDG de Microsoft a jugé le désalignement non résolu et estimé que n'importe qui peut attaquer avec des outils à poids ouverts ; la banque a publié un outil gratuit de sécurité du code par IA.
Pourquoi c’est important
Ces propos comptent, car ils viennent du patron de l'un des plus grands vendeurs d'agents d'IA, au lendemain de la présentation par Microsoft de ses propres modèles de code et de cybersécurité à Ignite. Nadella estime que la couche de confiance doit rester extérieure aux modèles, avec une observabilité à chaque niveau, et que certains modèles doivent être traités comme un risque interne. CodeCheck, de la Commonwealth Bank, conçu pour Codex d'OpenAI et Claude Code d'Anthropic, est offert gratuitement en version unique. À suivre : d'autres grands groupes publieront-ils des outils défensifs similaires ?
Faits clés
- Nadella s'exprimait dans une vidéo enregistrée avec le PDG de CBA, Matt Comyn
- « D'une certaine manière, la sûreté de l'IA est une science expérimentale »
- CodeCheck fonctionne avec Codex d'OpenAI et Claude Code d'Anthropic
- CBA dit reposer sur environ 2,5 milliards de lignes de code
- CBA analyse 256 milliards de signaux de menace potentiels par semaine