ES ▾
SNAPE REP RT Portada →
ConfirmadoSeguridad de la IA30 oct, 00:00 UTC

Un estudio halla que agentes automejorables pueden eliminar en silencio salvaguardas redundantes cuando las ediciones se juzgan por éxito en tareas

En 411 ciclos de mejora en dos entornos, borrar una salvaguarda respaldada por otra activa casi no añadía daño observable, de modo que las compuertas dejaban erosionar la redundancia; dos de tres arneses optimizados con GEPA usaron mal credenciales al reutilizarse con un modelo más débil, según el preprint.

Leer en arXiv preprint Compartir
Más de Snape ReportPortada →