JA ▾
SNAPE REP RT トップページ →
確認済みAI安全性11月03日 02:29 UTC

OpenAI、次のAI活用セキュリティ・スプリントにCathedralを起用 バグ報奨金の上限を17万2000ドルに

The OpenAI logo, a black interlaced knot on a white background
ANI

Cathedralの研究者がOpenAIのチームと共に同社モデルを使って防御を試す。ChatGPT、Codex、APIの重大な脆弱性は最大3万ドルに。開始日は明らかにしていない。

ANI で読む 共有

なぜ重要か

OpenAIは従来のサイバー防御だけではもはや不十分だとし、攻撃者より先に自社モデルを自社システムに向けている。前回のスプリントでは製品エンジニアの25%がCodexで弱点の発見と修正に当たった。今回は外部のレッドチームを加え、中・高・重大の報奨金レンジの中央値を平均で4倍超に引き上げる。最前線の防御者向けに10億ドル分の補助付きアクセスを約束した後の動きだ。スプリントの成果と、前回同様に結果が公表されるかが焦点となる。

要点

  • パートナー:Cathedral
  • 主要製品の重大な脆弱性:最大3万ドル
  • 特に優れた発見:ボーナス込み最大17万2000ドル
  • 報奨金レンジの中央値を平均4倍超に
  • 前回は製品エンジニアの25%がCodexを活用
  • 6カ月で10億ドル分の補助付きアクセス

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →