韓国、児童性搾取物のAI検知で担当者1人当たりの処理量が約10倍に
中央デジタル性犯罪被害者支援センターによると、4月に導入し約4万件の投稿・画像で学習させたシステムで、1人1日当たりの処理件数が20.8件から202.1件に増え、4～9月に9万6210件の削除を支援した。最終判断は職員が行い、昨年は削除要請の28.5%が応じられなかった。
なぜ重要か
AI安全の報道の多くはモデルが何をし得るかを扱うが、これは政府が特定のオンライン被害にAIを使った実測結果を公表したものだ。半年で支援した削除9万6210件は、昨年1年間に手作業で処理した4万5438件の2倍超で、画像をぼかして職員の負担も減らしている。課題はプラットフォーム側で、削除要請に応じない割合が上がっている。監視対象を74から139に広げる計画と、会話の文脈からグルーミングを検知する技術が次の焦点だ。
要点
- 2026年4月に導入
- 約4万件の投稿・画像で学習
- 1人1日の処理件数：20.8件→202.1件
- 4～9月に9万6210件の削除を支援
- 昨年は削除要請の28.5%に応答なし
- 監視対象を74から139に拡大予定