OpenAI、研究用モデルの出力を35秒以内に止められる「Control Room」を導入

なぜ重要か

Control Roomは、監視が問題を検知したときに研究所がどれだけ速くモデルを止められるかという実務的な安全上の問いへのOpenAIの答えだ。Unite.AIによると、今年初めには警報後に内部モデルを手動で停止するのに2.5時間かかっており、35秒での停止は数字の上では大きな変化となる。対象は学習や評価などの研究用ワークロードで、一般向けのChatGPTやAPIは含まれず、OpenAIはそちらはすでに集中的に停止できるとしている。停止時間の外部監査や、他の研究所が同様の仕組みを公表するかが焦点だ。