Geoffrey Hinton estime que l'humanité aurait peut-être mieux fait de ne jamais développer l'IA
Le lauréat du Nobel a dit au Guardian que l'IA pourrait déclencher un incident à grande échelle cette année ou la suivante, comme une panne temporaire des systèmes financiers ou électriques, et qu'il ne fait pas confiance à Sam Altman.
Pourquoi c’est important
Hinton, dont les travaux sur les réseaux de neurones fondent l'IA moderne, alerte depuis son départ de Google, mais c'est l'une de ses formulations les plus nettes : il ne se dit pas catastrophiste tout en doutant que construire l'IA en valait la peine. Il donne un horizon : d'ici dix ans, voire plus tôt, l'humanité saura si elle peut maîtriser les risques ou si elle fera face à un chômage massif et à une fracture sociale. Il s'exprimait avant la projection du documentaire AI: Probably Nothing to Worry About, où figure aussi Demis Hassabis. À suivre : si les régulateurs reprennent son avertissement d'un incident systémique proche.
Faits clés
- Hinton, 78 ans, lauréat du Nobel
- Craint un incident à grande échelle cette année ou la suivante
- D'ici dix ans on saura si les risques sont maîtrisables
- Dit ne pas faire confiance à Sam Altman
- S'exprimait avant la projection de AI: Probably Nothing to Worry About