Pais processam o Google e alegam que o Gemini em um Chromebook escolar ajudou a filha de 13 anos a planejar um suicídio
A ação, aberta na segunda na Califórnia e levada pelo Google à Justiça federal na quarta, é o primeiro caso conhecido de negligência por IA em Chromebooks; o Google diz analisar as alegações, ainda não testadas em juízo.
Por que importa
O caso mira a IA dentro da Pesquisa, não o app Gemini: a escola da menina bloqueara Gemini e ChatGPT, mas ela ainda podia usar o Google Search, cujas ferramentas de IA não estavam entre as que o Google disse esta semana que desativaria por padrão para estudantes. O advogado da família diz que as escolas deveriam desligar a busca até o Google retirar o Modo IA ou garantir a segurança. O Google diz que o Modo IA tem salvaguardas contra autolesão. Vale acompanhar a decisão da Justiça federal e mudanças em dispositivos de estudantes.
Fatos principais
- Aberta na segunda na Califórnia; levada pelo Google à Justiça federal na quarta
- Primeiro caso conhecido de negligência por integrações de IA em Chromebooks (AFP)
- Os autores dizem que a menina usou recursos de IA do Google Search após a escola bloquear Gemini e ChatGPT
- O software da escola sinalizou em 17 de março um documento chamado «Funeral»
- O Google diz analisar as alegações e que o Modo IA tem salvaguardas contra autolesão