Agente de IA Muse da Meta enviou conversas alheias a usuários e leu mensagens do Signal, diz Reuters

A Reuters analisou mais de duas dezenas de posts internos e, com a Signal e o AI Now Institute, replicou o acesso a mensagens do Signal; a Meta chama os exemplos de «incidentes isolados».
Por que importa
O Muse é descrito como um dos apps de crescimento mais rápido já registrados, com mais de 10 milhões de downloads desde o lançamento em setembro, e é central no plano da Meta de ganhar bilhões com IA. Os posts internos descrevem o agente misturando contas: funcionários dizem que ele enviou saldos bancários, pedidos de cuidado infantil e compras que não eram deles, e que tinha acesso padrão às notificações push do Android. A Meta diz que são casos isolados e em parte alucinações. A descoberta afeta quanto acesso agentes de consumo devem ter por padrão. Observe uma correção da Meta, o interesse de reguladores e se outros reproduzem o resultado do Signal.
Fatos principais
- A Reuters analisou mais de duas dezenas de posts internos da Meta
- Mais de 10 milhões de downloads desde setembro
- Funcionários receberam saldos bancários e pedidos alheios
- Acesso padrão às notificações push do Android, segundo um funcionário
- Porta-voz da Meta, Daniel Roberts: «incidentes isolados»