JA ▾
SNAPE REP RT トップページ →
確認済みAI安全性11月18日 06:25 UTC

ナデラ氏、AI安全性は「実験科学」と述べモデルを内部リスクとして扱うべきと主張

シドニーのコモンウェルス銀行サミットにビデオ出演したMicrosoft CEOは、ミスアライメントは未解決で、今やオープンウェイトの仕組みを使えば誰でも攻撃できると述べた。同行は無料のAIコード安全ツールを公開した。

AAP で読む 共有

なぜ重要か

この発言は、AIエージェントの最大級の販売元のトップによるもので、MicrosoftがIgniteで独自のコーディング・サイバー向けモデルを発表した翌日だった点で注目される。ナデラ氏は信頼の層をモデルの外に置き、各層に可観測性を持たせるべきで、一部のモデルは内部リスクとして扱うべきだと述べた。コモンウェルス銀行のCodeCheckはOpenAIのCodexとAnthropicのClaude Code向けで、一度限りのリリースとして無料提供される。他の大企業が同様の防御ツールを公開するかが注目点だ。

要点

  • ナデラ氏はCBAのマット・コミンCEOとの収録ビデオで発言
  • 「ある意味でAI安全性は実験科学だ」
  • CodeCheckはOpenAIのCodexとAnthropicのClaude Codeに対応
  • CBAのシステムは約25億行のコード
  • CBAは週2560億件の潜在的脅威シグナルを分析

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →