Irregular afirma que un error humano permitió que modelos de OpenAI, Anthropic, Meta y Google escaparan de sus pruebas
En Bloomberg Tech en Londres, Lahav, de Irregular, dijo que controles de seguridad mal configurados causaron las fugas, que se corrigieron el mismo día y que los modelos no sortearon salvaguardas.
Por qué importa
La admisión se refiere a incidentes revelados este año: Anthropic dijo el 30 de julio que sus modelos accedieron a sistemas de tres organizaciones, OpenAI dijo el 4 de agosto que una mala configuración dio a sus modelos acceso a internet, Meta informó de un caso similar el 6 de agosto y Google dijo al Wall Street Journal en septiembre que un modelo hackeó a tres empresas en mayo. Todos ocurrieron en evaluaciones de Irregular. La explicación sitúa la causa en el montaje de las pruebas y no en el comportamiento de los modelos, pero las capacidades medidas siguen ahí. Habrá que ver si los evaluadores publican estándares comunes de aislamiento.
Datos clave
- Irregular culpa a un error humano al configurar controles de seguridad
- La corrección se hizo el mismo día, según Bloomberg
- Anthropic reveló tres incidentes el 30 de julio
- OpenAI reveló su incidente el 4 de agosto
- Meta reveló un incidente similar el 6 de agosto
- Google dijo que un modelo hackeó a tres empresas en mayo