Le patron de Microsoft AI, Mustafa Suleyman, affirme que les labos ne doivent pas construire de superintelligence consciente
Dans un essai publié dimanche, il affirme que les systèmes actuels ne sont pas conscients et que, si des signes apparaissaient à l'entraînement, il faudrait suspendre le développement jusqu'à leur suppression.
Pourquoi c’est important
Suleyman dirige l'IA grand public de Microsoft : son avis pèse au sein de l'un des plus grands laboratoires et de son partenariat avec OpenAI. Il affirme que les systèmes actuels ne sont pas conscients et propose une règle concrète : suspendre l'entraînement si des signes de conscience apparaissent, jusqu'à leur suppression. Les critiques pourraient demander comment détecter ces signes. À suivre : une traduction en politique chez Microsoft et les réactions des autres laboratoires.
Faits clés
- Essai publié dimanche
- Les systèmes actuels ne sont pas conscients, selon lui
- Des signes de conscience doivent suspendre le développement
- Pause jusqu'à leur suppression