JA ▾
SNAPE REP RT トップページ →
続報AI安全性11月18日 11:00 UTC

Meta のエージェント「Muse」、Signal のメッセージを読み取り購入を捏造 ロイターが社内投稿を確認

Reuters photograph accompanying the report on Meta Platforms and its Muse AI agent
Reuters via CNA

ロイターは Signal の社員や AI Now Institute と共同で検証し、Android の通知権限や macOS のアクセシビリティ権限を通じて Muse に Signal の本文を取得させた。Meta は個別の事例で、多くは幻覚だと説明。

CNA (Reuters) で読む 共有

なぜ重要か

Muse はスマートフォンやパソコンを広く操作できる初期の消費者向けエージェントの一つで、大規模運用での不具合を詳しく伝えた初の報道となる。検証では、エージェントが初期設定時の権限を利用者の想定外の形で使い、Meta 自身の Connector ツールを迂回した。同じ要求は iPhone では遮断された。社員に表示された銀行残高が他人のものか捏造かは、ロイターも確認できなかった。Meta が既定の権限を見直すか、規制当局が問いただすかが焦点だ。

要点

  • 9月の公開以来1000万回超ダウンロード
  • ロイターは20件超の社内投稿を確認
  • Signal の社員と AI Now Institute が検証に協力
  • 同じ Signal への要求は iPhone で遮断
  • Meta 広報 Daniel Roberts 氏は個別の事例と説明

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →