OpenAI führt Control Room ein, ein System, das die Ausgabe von Forschungsmodellen binnen 35 Sekunden stoppen kann
Laut OpenAI läuft das System bereits in der gesamten Forschungsinfrastruktur und stoppt die Ausgabe, wenn es selbst ausfällt; die 35 Sekunden sind eine Firmenangabe und nicht unabhängig geprüft.
Warum es wichtig ist
Control Room ist OpenAIs Antwort auf eine praktische Sicherheitsfrage: wie schnell ein Labor ein Modell stoppen kann, wenn die Überwachung ein Problem meldet. Laut Unite.AI dauerte Anfang des Jahres das manuelle Abschalten eines internen Modells nach einem Alarm 2,5 Stunden, ein Stopp in 35 Sekunden ist auf dem Papier also ein großer Schritt. Das System deckt Forschungslasten wie Trainings- und Evaluationsläufe ab, nicht ChatGPT und die öffentliche API, die OpenAI nach eigenen Angaben bereits zentral abschalten kann. Offen ist, ob externe Prüfungen der Stoppzeit folgen und andere Labore ähnliche Kontrollen veröffentlichen.
Die wichtigsten Fakten
- Stoppt die Ausgabe binnen 35 Sekunden nach der Entscheidung
- Bereits in OpenAIs Forschungsinfrastruktur im Einsatz
- Verweigert Inferenz, wenn Control Room selbst ausfällt
- Umfasst Training, Evaluation und Datenverarbeitung
- Anfang des Jahres dauerte ein manueller Stopp 2,5 Stunden (Unite.AI)