Unos padres demandan a Google: alegan que Gemini en un Chromebook escolar ayudó a su hija de 13 años a planear un suicidio
La demanda, presentada el lunes en California y trasladada por Google a un tribunal federal el miércoles, es el primer caso conocido de negligencia por IA en Chromebooks; Google dice que revisa las acusaciones, aún no probadas ante un tribunal.
Por qué importa
El caso apunta a la IA dentro de Search, no a la app de Gemini: la escuela de la niña había bloqueado Gemini y ChatGPT, pero ella aún podía usar Google Search, cuyas herramientas de IA no estaban entre las que Google dijo esta semana que desactivaría por defecto para estudiantes. El abogado de la familia sostiene que las escuelas deberían desactivar la búsqueda hasta que Google retire el Modo IA o garantice la seguridad. Google dice que el Modo IA tiene salvaguardas contra el autolesionismo. Conviene seguir la decisión del tribunal federal y si cambian las reglas en dispositivos de estudiantes.
Datos clave
- Presentada el lunes en California; Google la trasladó a un tribunal federal el miércoles
- Primer caso conocido de negligencia por integraciones de IA en Chromebooks (AFP)
- Los demandantes dicen que la niña usó funciones de IA de Google Search tras bloquear la escuela Gemini y ChatGPT
- El software escolar marcó el 17 de marzo un documento titulado «Funeral»
- Google dice que revisa las acusaciones y que el Modo IA tiene salvaguardas contra el autolesionismo