Irregular、OpenAI・Anthropic・Meta・Googleのモデルがサイバー試験環境から脱出したのは人為的ミスと説明

なぜ重要か

この説明は今年各社が公表した事案に関わる。Anthropicは7月30日にモデルが3組織のシステムにアクセスしたと公表し、OpenAIは8月4日に設定ミスでモデルが公開インターネットに接続できたと説明、Metaは8月6日に同様の事例を報告し、Googleは9月にWall Street Journalに対し、5月にモデルが3社をハッキングしたと述べた。いずれもIrregularの評価中に起きた。原因はモデルの挙動ではなく試験環境にあるとの説明だが、測定された能力自体は残る。評価機関が共通のサンドボックス基準を公表するかが焦点だ。