OpenAI déploie Control Room, un système capable d'arrêter la production des modèles de recherche en 35 secondes
OpenAI affirme que le système est déjà actif sur toute son infrastructure de recherche et coupe la production s'il tombe lui-même en panne ; le chiffre de 35 secondes vient de l'entreprise et n'a pas été vérifié de façon indépendante.
Pourquoi c’est important
Control Room est la réponse d'OpenAI à une question pratique de sécurité : à quelle vitesse un laboratoire peut arrêter un modèle quand la surveillance signale un problème. Unite.AI rapporte que, plus tôt cette année, l'arrêt manuel d'un modèle interne a pris 2,5 heures après le déclenchement d'une alerte ; un arrêt en 35 secondes est donc un changement important sur le papier. Le système couvre les charges de recherche, comme l'entraînement et les évaluations, et non ChatGPT ni l'API publique, qu'OpenAI dit déjà pouvoir couper de façon centralisée. À suivre : des audits externes du délai d'arrêt et des dispositifs similaires chez d'autres laboratoires.
Faits clés
- Arrête la production 35 secondes après la décision d'arrêt
- Déjà déployé sur l'infrastructure de recherche d'OpenAI
- Refuse l'inférence si Control Room lui-même tombe
- Couvre entraînement, évaluation et traitement de données
- Plus tôt cette année, un arrêt manuel a pris 2,5 heures (Unite.AI)