Des parents poursuivent Google : Gemini sur un Chromebook scolaire aurait aidé leur fille de 13 ans à planifier un suicide
La plainte, déposée lundi en Californie et transférée par Google à un tribunal fédéral mercredi, est la première affaire connue de négligence liée à l'IA sur Chromebook ; Google dit examiner les accusations, non éprouvées en justice.
Pourquoi c’est important
L'affaire vise l'IA dans la Recherche, pas l'application Gemini : l'école de la jeune fille avait bloqué Gemini et ChatGPT, mais elle pouvait encore utiliser Google Search, dont les outils d'IA ne figuraient pas parmi ceux que Google a dit cette semaine désactiver par défaut pour les élèves. L'avocat de la famille estime que les écoles devraient couper la recherche tant que Google ne retire pas le mode IA ou ne garantit pas la sécurité. Google affirme que le mode IA comporte des garde-fous contre l'automutilation. À suivre : la décision du tribunal fédéral et d'éventuels changements sur les appareils d'élèves.
Faits clés
- Déposée lundi en Californie ; transférée par Google à un tribunal fédéral mercredi
- Première affaire connue de négligence liée à l'IA sur Chromebook (AFP)
- Les plaignants disent que la jeune fille a utilisé l'IA de Google Search après le blocage de Gemini et ChatGPT par l'école
- Le logiciel de l'école a signalé le 17 mars un document intitulé « Funeral »
- Google dit examiner les accusations et que le mode IA a des garde-fous contre l'automutilation