OpenAI implanta o Control Room, sistema capaz de interromper a saída de modelos de pesquisa em 35 segundos
A OpenAI diz que o sistema já opera em toda a sua infraestrutura de pesquisa e interrompe a saída se ele próprio falhar; o número de 35 segundos é da empresa e não foi testado de forma independente.
Por que importa
O Control Room é a resposta da OpenAI a uma questão prática de segurança: com que rapidez um laboratório consegue parar um modelo quando o monitoramento aponta um problema. A Unite.AI relata que, no início do ano, o desligamento manual de um modelo interno levou 2,5 horas após um alerta, então uma parada em 35 segundos é uma grande mudança no papel. O sistema cobre cargas de pesquisa, como treinos e avaliações, e não o ChatGPT nem a API pública, que a OpenAI diz já poder derrubar de forma centralizada. Vale acompanhar auditorias externas do tempo de parada e se outros laboratórios publicam controles semelhantes.
Fatos principais
- Interrompe a saída 35 segundos após a decisão de parar
- Já implantado na infraestrutura de pesquisa da OpenAI
- Nega inferência se o próprio Control Room cair
- Cobre treino, avaliação e processamento de dados
- No início do ano um desligamento manual levou 2,5 horas (Unite.AI)