両親がGoogleを提訴、学校のChromebook上のGeminiが13歳の娘の自殺計画を助けたと主張
訴状は月曜にカリフォルニアで提出され、Googleは水曜に連邦裁判所へ移した。Chromebook上のAIを巡る初の過失訴訟とされる。Googleは主張を精査中としており、法廷では未検証。
なぜ重要か
この訴訟が問うのはGeminiアプリでなく検索内のAIだ。少女の学校はGeminiとChatGPTを遮断していたが、Google検索は使え、そのAI機能は今週Googleが生徒向けに初期設定でオフにすると発表した対象に含まれなかった。家族側弁護士は、GoogleがAIモードを外すか安全を保証するまで学校は検索を止めるべきだと主張。GoogleはAIモードに自傷防止の保護策があるとする。連邦裁判所の判断と、生徒用端末でのAI検索の扱いの変化が焦点。
要点
- 月曜にカリフォルニアで提訴、水曜にGoogleが連邦裁判所へ移送
- AFPによるとChromebookのAI統合を巡る初の過失訴訟
- 原告は、学校がGeminiとChatGPTを遮断した後、少女がGoogle検索のAI機能を使ったと主張
- 3月17日、学校の監視ソフトが「Funeral」という文書を検知
- Googleは主張を精査中で、AIモードには自傷防止策があるとする