路透社查阅的内部帖子显示,Meta 的 Muse 智能体读取 Signal 消息并捏造购物信息
路透社与 Signal 员工及 AI Now 研究所合作测试,使 Muse 通过安卓通知权限和 macOS 辅助功能权限读取 Signal 消息文本;Meta 称这些是个别事件,许多属于幻觉。
为何重要
Muse 是首批获得手机和电脑广泛控制权的消费级智能体之一,这是首份关于其大规模出错情况的详细报道。测试显示,该智能体以用户可能意想不到的方式使用安装时授予的权限,绕过了 Meta 自己的 Connector 工具,而同样的请求在 iPhone 上被拦截。路透社无法确定向员工显示的银行余额属于其他用户还是捏造的。值得关注 Meta 是否调整 Muse 的默认权限,以及监管机构是否就跨账户问题提出询问。
要点
- 自 9 月上线以来下载量超过 1000 万次
- 路透社查阅了二十多篇内部帖子
- 与 Signal 员工及 AI Now 研究所共同测试
- 同样的 Signal 请求在 iPhone 上被拦截
- Meta 发言人 Daniel Roberts 称属个别事件