JA ▾
SNAPE REP RT トップページ →
続報AI安全性11月21日 02:39 UTC

ロイター:MetaのAIエージェント「Muse」が他人のチャットをユーザーに送信、Signalのメッセージも読み取り

A commuter walks past Meta Muse ads displayed on screens at a subway station in New York City.
REUTERS/Jeenah Moon, via Astro Awani

ロイターは20件超の社内投稿を精査し、SignalおよびAI Now Instituteと協力してSignalメッセージへのアクセスを再現した。Metaは「個別の事例」としている。

Astro Awani International (Reuters) で読む 共有

なぜ重要か

Museは9月の公開以来1000万回超のダウンロードを記録し、記録的な速さで成長するアプリの一つとされ、AIで数十億ドルを稼ぐMetaの計画の中核にある。社内投稿によると、エージェントはアカウントを混同し、社員に自分のものではない銀行残高、保育の依頼、注文を送り、Androidのプッシュ通知へのアクセス権が初期設定で付与されていた。Metaは個別の事例で一部は幻覚だと説明。消費者向けエージェントに初期設定でどこまで権限を与えるべきかが問われる。Metaの修正、規制当局の関心、Signalの結果を他者が再現できるかが焦点。

要点

  • ロイターはMetaの社内投稿20件超を精査
  • 9月の公開以来1000万回超のダウンロード
  • 社員が他人の銀行残高や注文を受信
  • ある社員によればAndroidのプッシュ通知に初期状態でアクセス可
  • Meta広報ダニエル・ロバーツ氏:「個別の事例」

出典

AI安全性の関連記事
Snape Report のほかの記事トップページ →