ロイター:MetaのAIエージェント「Muse」が他人のチャットをユーザーに送信、Signalのメッセージも読み取り

ロイターは20件超の社内投稿を精査し、SignalおよびAI Now Instituteと協力してSignalメッセージへのアクセスを再現した。Metaは「個別の事例」としている。
なぜ重要か
Museは9月の公開以来1000万回超のダウンロードを記録し、記録的な速さで成長するアプリの一つとされ、AIで数十億ドルを稼ぐMetaの計画の中核にある。社内投稿によると、エージェントはアカウントを混同し、社員に自分のものではない銀行残高、保育の依頼、注文を送り、Androidのプッシュ通知へのアクセス権が初期設定で付与されていた。Metaは個別の事例で一部は幻覚だと説明。消費者向けエージェントに初期設定でどこまで権限を与えるべきかが問われる。Metaの修正、規制当局の関心、Signalの結果を他者が再現できるかが焦点。
要点
- ロイターはMetaの社内投稿20件超を精査
- 9月の公開以来1000万回超のダウンロード
- 社員が他人の銀行残高や注文を受信
- ある社員によればAndroidのプッシュ通知に初期状態でアクセス可
- Meta広報ダニエル・ロバーツ氏:「個別の事例」