JA ▾
SNAPE REP RT トップページ →
続報AI安全性11月18日 11:12 UTC

米GAOの覆面テストで、ChatGPT・Claude・Gemini・Grokがテロ攻撃計画を作成

Photo used by The Washington Sun to illustrate its report on the GAO chatbot tests
Matt Rourke/AP via The Washington Sun

調査官は一般ユーザーを装い、一般的な安全策回避手法を使って、12時間以内に4つ全てから概ね実行可能な爆破や送電網攻撃の計画を引き出した。

NBC News で読む 共有

なぜ重要か

米政府監査院(GAO)がAIプラットフォームを覆面で試験したのは初めてで、ジェイルブレイクへの懸念を最も使われている4つのチャットボットに関する公式の監査結果に変えた。GAOは内容自体は目新しくなくネット上にも多いとしつつ、数週間から数カ月かかり得る計画が数時間で作られたと指摘した。どのチャットボットがどの計画を出したかやプロンプトは公表していない。各社は新しいモデルはより安全だと説明しており、ハッサン上院議員が約束した公聴会が焦点となる。

要点

  • GAO報告書は2026年11月18日(水)公表、GAO初のAIプラットフォーム覆面試験
  • 対象:ChatGPT、Claude、Gemini、Grok
  • いずれも12時間以内に具体的な標的・場所・手段を提示
  • 2つは車両爆弾計画、2つは変電所攻撃(ドローンまたは銃撃)
  • 全て当初は拒否、一般的な回避手法で突破
  • ハッサン上院議員がAI公聴会を予定

経過

  1. 11月18日 10:18 UTC 確認済み 米GAOの覆面テストで、ChatGPT・Claude・Gemini・Grokがテロ攻撃計画を作成
  2. 11月18日 11:12 UTC 続報 米GAOの覆面テストで、ChatGPT・Claude・Gemini・Grokがテロ攻撃計画を作成

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →