Le système d'IA sud-coréen de détection des contenus pédocriminels multiplie presque par dix le volume traité par agent
Le centre public d'aide aux victimes de violences sexuelles numériques indique que le système, utilisé depuis avril et entraîné sur environ 40 000 publications et images, a fait passer les dossiers quotidiens par agent de 20,8 à 202,1 et permis de retirer 96 210 contenus d'avril à septembre ; un humain tranche toujours, et 28,5 % des demandes de retrait ont été ignorées l'an dernier.
Pourquoi c’est important
L'essentiel de la couverture sur la sûreté de l'IA porte sur ce que les modèles pourraient faire ; ici, un gouvernement publie des résultats mesurés de l'IA contre un préjudice précis en ligne. Les 96 210 retraits accompagnés en six mois font plus du double des 45 438 traités à la main sur toute l'année dernière, et le système floute les images pour protéger les agents. La limite vient des plateformes, qui ignorent de plus en plus les demandes. À suivre : l'extension de 74 à 139 plateformes surveillées et la détection du pédopiégeage à partir du contexte des conversations.
Faits clés
- Utilisé depuis avril 2026
- Entraîné sur environ 40 000 publications et images
- Dossiers quotidiens par agent : de 20,8 à 202,1
- 96 210 retraits accompagnés d'avril à septembre
- 28,5 % des demandes de retrait ignorées l'an dernier
- Plateformes surveillées : de 74 à 139