OpenAI despliega Control Room, un sistema que puede detener la salida de modelos de investigación en 35 segundos
OpenAI afirma que el sistema ya funciona en toda su infraestructura de investigación y corta la salida si él mismo falla; la cifra de 35 segundos procede de la empresa y no se ha probado de forma independiente.
Por qué importa
Control Room es la respuesta de OpenAI a una cuestión práctica de seguridad: con qué rapidez puede un laboratorio detener un modelo cuando la monitorización detecta un problema. Unite.AI informa de que a principios de año el apagado manual de un modelo interno tardó 2,5 horas tras saltar una alerta, así que una parada en 35 segundos es un gran cambio sobre el papel. El sistema cubre cargas de investigación como entrenamientos y evaluaciones, no ChatGPT ni la API pública, que según OpenAI ya pueden desactivarse de forma centralizada. Habrá que ver si hay auditorías externas del tiempo de parada y si otros laboratorios publican controles similares.
Datos clave
- Detiene la salida en 35 segundos tras la decisión de parar
- Ya desplegado en la infraestructura de investigación de OpenAI
- Deniega la inferencia si el propio Control Room cae
- Cubre entrenamiento, evaluación y procesamiento de datos
- A principios de año un apagado manual tardó 2,5 horas (Unite.AI)