ナデラ氏、AI安全性は「実験科学」と述べモデルを内部リスクとして扱うべきと主張
シドニーのコモンウェルス銀行サミットにビデオ出演したMicrosoft CEOは、ミスアライメントは未解決で、今やオープンウェイトの仕組みを使えば誰でも攻撃できると述べた。同行は無料のAIコード安全ツールを公開した。
なぜ重要か
この発言は、AIエージェントの最大級の販売元のトップによるもので、MicrosoftがIgniteで独自のコーディング・サイバー向けモデルを発表した翌日だった点で注目される。ナデラ氏は信頼の層をモデルの外に置き、各層に可観測性を持たせるべきで、一部のモデルは内部リスクとして扱うべきだと述べた。コモンウェルス銀行のCodeCheckはOpenAIのCodexとAnthropicのClaude Code向けで、一度限りのリリースとして無料提供される。他の大企業が同様の防御ツールを公開するかが注目点だ。
要点
- ナデラ氏はCBAのマット・コミンCEOとの収録ビデオで発言
- 「ある意味でAI安全性は実験科学だ」
- CodeCheckはOpenAIのCodexとAnthropicのClaude Codeに対応
- CBAのシステムは約25億行のコード
- CBAは週2560億件の潜在的脅威シグナルを分析