Sistema de IA da Coreia do Sul para detectar abuso sexual infantil online multiplica quase por dez o volume tratado por funcionário
O centro estatal de apoio a vítimas de crimes sexuais digitais diz que o sistema, em uso desde abril e treinado com cerca de 40 mil publicações e imagens, elevou os casos diários por funcionário de 20,8 para 202,1 e ajudou a remover 96.210 itens de abril a setembro; a decisão final continua humana, e 28,5% dos pedidos de remoção foram ignorados no ano passado.
Por que importa
A maior parte da cobertura sobre segurança da IA trata do que os modelos poderiam fazer; aqui um governo divulga resultados medidos do uso de IA contra um dano online específico. As 96.210 remoções apoiadas em seis meses são mais que o dobro das 45.438 feitas à mão em todo o ano passado, e o sistema desfoca imagens para proteger a equipe. O limite está nas plataformas, que ignoram cada vez mais os pedidos. Vale acompanhar a ampliação de 74 para 139 plataformas monitoradas e a detecção de aliciamento pelo contexto das conversas.
Fatos principais
- Em uso desde abril de 2026
- Treinado com cerca de 40 mil publicações e imagens
- Casos diários por funcionário: de 20,8 para 202,1
- 96.210 remoções apoiadas de abril a setembro
- 28,5% dos pedidos de remoção ignorados no ano passado
- Plataformas monitoradas: de 74 para 139